RAG 框架330 / 382 个项目

RAGFlow 是一个领先的开源检索增强生成（RAG）引擎，融合了前沿的 RAG 与智能体能力，为大型语言模型创建卓越的上下文层。

在到达LLM之前压缩工具输出、日志、文件和RAG块。减少60-95%的令牌，答案不变。支持库、代理、MCP服务器。

一站式 AI 桌面应用，内置 RAG 能力，可使用任意 LLM 与文档、YouTube 视频和网页对话。

即用型云模板，支持RAG、AI流水线及企业级实时数据搜索。🐳兼容Docker。⚡与Sharepoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等保持同步。

LLM 应用数据框架，构建 RAG Agent、数据连接器和索引查询引擎。

Milvus 是一个高性能、云原生的向量数据库，专为可扩展的向量近似最近邻搜索而构建

用于在应用中集成生成式AI的定制化RAG框架🧠专注于产品而非RAG。通过定制化轻松集成到现有产品中！支持任何LLM：GPT4、Groq、Llama。任何向量存储：PGVector、Faiss。任何文件。随心所欲。

[EMNLP2025] "LightRAG: 简单快速的检索增强生成"

Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM、Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain

一个基于模块化图的检索增强生成（RAG）系统

📑 PageIndex：用于无向量、基于推理的RAG的文档索引

FastGPT 是一个基于 LLM 的知识平台，提供全面的开箱即用功能，如数据处理、RAG 检索和可视化 AI 工作流编排，让您无需大量设置或配置即可轻松开发和部署复杂的问答系统。

此仓库展示了检索增强生成（RAG）系统的各种高级技术。每种技术都有详细的笔记本教程。

开源AI编排框架，用于构建上下文工程化、生产就绪的LLM应用。设计模块化管道和代理工作流，对检索、路由、记忆和生成进行显式控制。专为可扩展代理、RAG、多模态应用、语义搜索和对话系统而构建。

一个基于RAG的开源工具，用于与您的文档进行聊天。

面向下一代AI+数据产品的开源代理AI数据助手。

开源 LLM 知识平台：将原始文档转化为可查询的 RAG、自主推理代理和自维护 Wiki。

面向代理、助手和企业搜索的私有 AI 平台。内置代理构建器、深度研究、文档分析、多模型支持以及代理的 API 连接。

AI 智能体的记忆层。用无服务器、单文件的记忆层取代复杂的 RAG 流水线。为智能体提供即时检索和长期记忆。

轻量级、闪电般快速的进程内向量数据库

用于LLM微调、RAG和评估的强大数据集创建工具

基于 TurboQuant 构建的向量索引，使用 Rust 编写并带有 Python 绑定

💡 用于语义搜索、LLM 编排和语言模型工作流的全能 AI 框架

[MLsys2026]: 使用 LEANN 实现万物 RAG。在个人设备上运行快速、准确且 100% 私密的 RAG 应用，同时节省 97% 的存储空间。

BISHENG 是一个开放的 LLM DevOps 平台，用于下一代企业 AI 应用。强大且全面的功能包括：GenAI 工作流、RAG、智能体、统一模型管理、评估、SFT、数据集管理、企业级系统管理、可观测性等。

🔍大模型应用开发实战一：RAG 技术全栈指南，在线阅读地址：https://datawhalechina.github.io/all-in-rag/

网页解析的终结。可扩展像素原生搜索的开始。链接：https://pixelrag.ai/

Deeplake是面向代理的AI数据运行时。它提供带有多模态数据湖的无服务器Postgres，实现可扩展的检索和训练。

高精度 RAG，用于回答带有引用的科学文档中的问题

开源深度研究替代方案，用于对私有数据进行推理和搜索。用Python编写。

SoTA级生产就绪AI检索系统。支持智能体检索增强生成（RAG）并提供RESTful API。

AI搜索平台

为ML/AI应用提供GPU加速的Postgres数据库。

在您的数据上构建ChatGPT，全部使用自然语言

AI代理的开源上下文检索层

Python 和命令行工具，用于收集网络上的文本和元数据：爬取、抓取、提取，输出为 CSV、JSON、HTML、MD、TXT、XML 格式。

一套工具套件，用于更轻松地使用 PostgreSQL 开发 RAG、语义搜索及其他 AI 应用。

HelixDB 是一个基于对象存储、用 Rust 构建的 OLTP 图向量数据库。

一个用于构建复杂和创新 RAG 管道的低代码 MCP 框架。

面向移动设备和可穿戴设备的低延迟AI引擎。

Superduper：用于构建自定义AI应用和代理的端到端框架。

使用大语言模型从非结构化数据构建 Neo4j 图

AutoRAG：一个用于检索增强生成（RAG）评估与优化的开源框架，采用AutoML风格的自动化

专为大语言模型应用构建的AI原生数据库，提供超快速的混合搜索，支持稠密向量、稀疏向量、张量（多向量）和全文搜索。

🦛 使用Chonkie ✨ 处理CHONK文档——轻量级摄取库，用于快速、高效且稳健的RAG流水线

在任何企业中使用 Agentic RAG 的最简单方法

RAG（检索增强生成）框架，用于构建模块化、开源的生产级应用程序，由 TrueFoundry 提供

构建你自己的RAG应用所需了解的一切

为加速基础设施和微服务架构优化的生成式AI参考工作流。

将你的PC、Mac或Linux盒子变成AI服务器。支持LLM推理、聊天UI、语音、代理、工作流、RAG和图像生成。

一个简单、易于修改的GraphRAG实现

一个基于 LangGraph 构建的模块化智能体 RAG——几分钟内学会检索增强生成智能体。

开源多模态检索引擎（Morphik Core）。由 Morphik 提供——面向专业护理和老年生活的 AI 后台（morphik.ai）。

与你的 SQL 数据库交互，使用 LLM 将自然语言转换为 SQL

企业级 Agentic RAG 智能体 - 全链路覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度思考。面向真实业务场景，从 0 到 1 完整工程实现。

AnyCrawl 🚀：一个Node.js/TypeScript爬虫，将网站转换为LLM就绪数据，并从Google/Bing/Baidu等提取结构化SERP结果。原生多线程支持批量处理。

OpenKB：开放大语言模型知识库

[KDD'2026] “VideoRAG：与你的视频聊天”

RAG Web UI 是一个基于 RAG（检索增强生成）技术的智能对话系统。

超图更强大。利用LLM将非结构化文本转化为结构化知识。图、超图和时空提取——一条命令完成。

AI 搜索与 RAG，无需移动数据。从 100 多个应用中获取公司知识的即时答案，同时确保数据安全。几分钟内即可部署，无需数月。

帮助您动手实践 Pinecone 向量数据库的 Jupyter Notebook

pingcap/autoflow是一个基于Graph RAG的对话式知识库工具，使用TiDB Serverless向量存储构建。演示：https://tidb.ai

AI原生搜索数据库。最适合代理存储，它将向量、文本、结构化和半结构化数据统一到一个引擎中。这个一体化数据库使代理更智能、更易运行、更稳定。

通过 API 提供的搜索、推荐、RAG 和分析一体化平台。

此仓库包含检索增强生成（RAG）系统的各种高级技术。

面向单体仓库的终极 RAG。借助 AI 和知识图谱查询、理解和编辑多语言代码库。

Apache Hamilton 帮助数据科学家和工程师定义可测试、模块化、自文档化的数据流，这些数据流编码了谱系/追踪和元数据。可在 Python 运行的任何地方运行和扩展。

动手学Ollama，CPU玩转大模型部署，在线阅读地址：https://datawhalechina.github.io/handy-ollama/

PIKE-RAG：专门知识和推理增强生成

面向 AI 原生应用的分布式向量搜索。

基于SAG构建的文档检索项目

Knowhere提取、解析并输出结构化块，为AI智能体和RAG做好准备。

一个异构的信息检索基准。易于使用，在15+个多样化的IR数据集上评估您的模型。

通过基于记忆的数据接口赋能RAG，适用于通用应用！

⚡ 在你喜欢的设备上几分钟内构建聊天机器人；为LLMs提供最先进的压缩技术；在Intel平台上高效运行LLMs ⚡

研究项目。面向用户、团队和应用程序的内存解决方案。

NestJS助手 + AI聊天机器人开发

EdegQuake 🌋 受 LightRag 启发、用 Rust 编写的高性能 GraphRAG；将文档转化为智能知识图谱，实现卓越的检索与生成

开源 RAG 平台：内置引用、深度研究、支持 22 种以上文件格式、分区、MCP 服务器等。

ChatWiki 微信公众号的AI知识库工作流Agent平台，RAG大模型AI客服机器人，致力于成为垂直领域的coze、n8n。

一个本地部署、无需 OCR 的非结构化数据提取、Markdown 转换和基准测试工具包。(https://idp-leaderboard.org/)

[ACL2026] "MiniRAG: 使用小型开源语言模型使RAG更简单"

一个社区驱动的RAG（检索增强生成）框架、项目和资源集合。贡献并探索不断发展的RAG生态系统。

NVIDIA AI Blueprint for video search and summarization (VSS) 是一个GPU加速的参考架构，用于构建具有实时验证警报、视觉问答和自动报告功能的视频分析Agent。VSS Blueprint使用视觉语言模型（VLM），如NVIDIA Cosmos，LLM，如NVIDIA Nemotron，RAG和NVIDIA NIM。

快速高效的非结构化数据提取。用Rust编写，支持多种语言的绑定。

Python中的快速BM25搜索，由Numpy和Numba驱动

RAPTOR: 用于树组织检索的递归抽象处理的官方实现

该仓库为复杂问答提供了一个先进的检索增强生成（RAG）解决方案。它使用基于图的复杂算法来处理任务。

WikiChat是一个改进的RAG。它通过从语料库中检索数据来阻止大型语言模型的幻觉。

此仓库包含客户开始使用Amazon Bedrock服务的示例，涵盖所有可用基础模型。

Prismer Cloud

用Rust构建的高性能、模块化、内存安全且生产就绪的推理、摄取和索引系统🦀

用于 Go 的可嵌入向量数据库，具有类似 Chroma 的接口和零第三方依赖。内存存储，可选持久化。

一个支持高性能向量搜索和全文搜索的@ClickHouse分支。

由Pinecone驱动的检索增强生成（RAG）框架和上下文引擎

为您的搜索和检索流水线提供轻量级且超快速的重新排序。支持基于 LLM 和交叉编码器的最先进列表式和成对重排序等。由 Prithivi Da 创建，欢迎 PR 和协作。

使用GraphRAG SDK大规模构建快速准确的GenAI应用 🌟

由VLM支持的无解析RAG

在本地CPU推理上运行Llama 2和其他开源LLM，用于文档问答

面向多模态AI、RAG和代理的资源、示例和教程，使用向量搜索和LLM

RAG-Fusion：多查询生成 + 倒数排名融合，用于更好的检索增强生成。包含基于NFCorpus/BEIR的评估工具

使用基于知识图谱的检索增强生成（KG-RAG）赋能大型语言模型（LLM），用于知识密集型任务。

🧠 纯原生 Python 实现的 RAG 框架 | FAISS + BM25 混合检索 | 支持 Ollama / SiliconFlow | 适合新手入门学习

最快的 Python 和 Rust PDF 库。支持文本提取、图像提取、Markdown 转换、PDF 创建与编辑。平均 0.8 毫秒，比行业领先者快 5 倍，在 3830 个 PDF 上通过率 100%。MIT/Apache-2.0 许可。

TurboOCR，>200 img/s OmnidocBench。TensorRT FP16, PP-OCRv6, HTTP + gRPC

📚 使用 spaCy 处理 PDF、Word 文档等

RAG Time：为期 5 周掌握 RAG 的学习之旅

基于ID的RAG FastAPI：与Langchain和PostgreSQL/pgvector集成。

Epsilla是一个高性能向量数据库管理系统

Neum AI是一个一流的框架，用于管理大规模向量嵌入的创建和同步

使用 LangChain.js、TypeScript 和 Azure 构建你自己的无服务器 AI 聊天，并具备检索增强生成功能。

一个从头构建的、由LLM驱动的先进RAG流水线。

RAG for Local LLM, chat with PDF/doc/txt files, ChatPDF. 纯原生实现RAG功能，基于本地LLM、embedding模型、reranker模型实现，支持GraphRAG，无须安装任何第三方agent库。

仅需几行代码即可使用 ColPali 等后期交互多模态模型。

在几分钟内本地或远程部署任何AI模型、代理、数据库、RAG和流水线。

在任何Postgres上实现全文和语义搜索

端到端 RAG 系统设计、评估与优化。极客时间 RAG 训练营，RAG 10 大组件全面拆解，4 个实操项目吃透 RAG 全流程。RAG 的落地，往往是面向业务做 RAG，而不是反过来面向 RAG 做业务。这就是为什么我们需要针对不同场景、不同问题做针对性的调整、优化和定制化。魔鬼全在细节中，我们深入进去探究。

在Pytorch中对比训练模型

该仓库包含AutoSchemaKG的实现，这是一个通过概念化进行模式生成来自动构建知识图谱的新型框架。

面向AI代理的单文件记忆层，在Apple Silicon上实现亚毫秒级RAG。针对设备端进行Metal优化。无需服务器。无需API。单个文件。纯Swift

通过微调增强LLM用于RAG任务的框架。

用Rust实现的快速、流式索引、查询和智能体LLM应用

使用开源大语言模型 (LLM) 摄取文件以进行检索增强生成 (RAG)，全程无需第三方或敏感数据离开你的网络。

此NVIDIA RAG蓝图作为基础检索增强生成（RAG）管道的参考解决方案。

🔥 Rankify: 一个全面的Python工具包，用于检索、重排序和检索增强生成 🔥。我们的工具包集成了40个预检索基准数据集，支持7+种检索技术、24+种最先进的重排序模型以及多种RAG方法。

一个教育项目（逐步指导），教授如何构建生产就绪的 RAG 应用。

本地与多个PDF文件对话

RAGLight是一个用于检索增强生成（RAG）的模块化框架。它便于接入不同的LLM、嵌入和向量存储，并包含无缝的MCP集成以连接外部工具和数据源

生产级AI系统的检索层。无需向量数据库，实现闪电般快速（<10ms）的搜索。专为浏览器、边缘设备、本地设备和云端构建。

一款在本地设备上运行 LLM 的应用程序，支持使用您的文档，并在生成的回复中提供详细引用。

易用的 RAG 框架；CCF AIOps 国际挑战赛 2024 季军方案；CCF AIOps 国际挑战赛 2024 季军方案

集嵌入、RAG、AI智能体等功能于一体的全功能RWKV运行时盒子。

本仓库提供使用 LlamaIndex、Deep Lake 和 Pinecone 构建检索增强生成（RAG）代码的程序，利用 OpenAI 和 Hugging Face 模型进行生成和评估

GraphRAG4OpenWebUI 将 Microsoft 的 GraphRAG 技术集成到 Open WebUI 中，提供多功能信息检索 API。它结合本地、全局和网络搜索，用于高级问答系统和搜索引擎。该工具简化了开放网络环境中基于图的检索集成。

一个 NodeJS RAG 框架，用于轻松处理 LLM 和嵌入。

完全基于Cloudflare构建的全栈“与PDF聊天”RAG（检索增强生成）应用

基础设施中的上下文层平台

[EMNLP'25 发现] 这是论文 HiRAG: 基于层次化知识的检索增强生成的官方仓库。

从大量异构文档中总结和查询。支持任何 LLM 提供商、任何文件类型、高级 RAG、高级摘要、可脚本化等。

一个展示本地RAG（检索增强生成）管道以与PDF聊天的全栈演示。

AI时代的Supabase。一个模块化、开源的后端，用于构建AI原生软件——专为知识而非静态数据设计。

RESTai 是一个 AIaaS（AI 即服务）开源平台。支持由 Ollama/vLLM 等支持的许多公共和本地 LLM。精确的嵌入使用、调优、分析等。内置图像/音频生成，支持动态加载生成器。实时聊天部署。内置基于块的图形语言。提示版本控制等等...

面向公司内部文档的 RAG 数据集和基准测试。

RAG-GPT利用LLM和RAG技术，从用户自定义的知识库中学习，为各种查询提供上下文相关的答案，确保快速准确的信息检索。

通过实用笔记本实现高级检索增强生成（RAG），利用Langchain、OpenAI GPTs、META LLAMA3、智能体的强大功能。

一个多线程🕸️网络爬虫，递归爬取网站并为每个页面创建🔽Markdown文件，专为LLM RAG设计

MindSQL：一个简化数据库交互的 Python 文本到 SQL RAG 库。无缝集成 PostgreSQL、MySQL、SQLite、Snowflake 和 BigQuery。由 GPT-4 和 Llama 2 驱动，支持自然语言查询。支持 ChromaDB 和 Faiss 以实现上下文感知响应。

Pinecone向量数据库的官方Python SDK

RAG（检索增强生成）聊天机器人，基于从Markdown文件集合中提取的上下文信息提供答案

用于构建可信 LLM 应用的开源 LLM 工具包。TigerArmor（AI 安全）、TigerRAG（嵌入、RAG）、TigerTune（微调）

用于AI应用的高性能RAG管道。在一个简单的API中集成了摘要、检索/重排序和代码解释器。

针对LLM的优化本地推理，提供类似HuggingFace的API，支持量化、视觉/语言模型、多模态智能体、语音、向量数据库和RAG。

自适应分块：为RAG自动选择每个文档的最佳分块方法。已被LREC 2026接收。

一个程序，让你可以询问关于文档、音频和视频文件的问题。

一个运行在笔记本电脑上的LLM RAG系统。大模型检索增强生成系统，可以轻松部署在笔记本电脑上，实现本地知识库智能问答。

自托管、兼容OpenAI的AI网关，用于私有RAG、自然语言数据访问和工具调用代理。

评估检索增强生成（RAG）应用响应质量的指标。

面向生产级 LLM 应用的即插即用提示压缩。无需更改代码即可削减 40-60% 的 token 费用。Python SDK，LLMLingua-2，MIT 许可。

RAG 实验加速器是一个多功能工具，旨在加速和简化使用 Azure Cognitive Search 和 RAG 模式进行实验和评估的过程。

VeritasGraph — GitHub上的开源知识图谱与GraphRAG框架。构建多跳推理、本体感知检索和可验证归因于自有数据。支持节点、边、RDF、关联数据——可在本地或云端运行。

qKnow是一个面向企业知识和行业AI的开源智能体平台。它通过知识图谱和RAG统一文档和数据，使企业能够快速构建知识中心、智能问答和自定义AI机器人。

一个用于探索、管理和分析向量数据库的现代桌面应用程序

面向大型和自定义代码库的本地优先、零密钥语义代码搜索——混合向量+关键词检索，支持符号感知分块。可作为CLI、Python库、REST API或Web UI使用。

通过智能语义缓存将LLM成本降低高达80%并实现亚毫秒级响应。一个即插即用、与提供商无关的LLM代理，用Go编写，响应时间低于毫秒。

高性能嵌入式向量数据库

K8ssandra的Kubernetes操作器

使用纯向量搜索的图 RAG，在多跳推理场景中达到 SOTA 性能。

Antarys向量数据库的Python客户端，针对大规模向量操作进行了优化，内置缓存、并行处理和维度验证。

开源协议套件，标准化跨 LangChain、LlamaIndex、AutoGen、CrewAI、Semantic Kernel 和 MCP 的 LLM、向量、图和嵌入基础设施。3,330+ 一致性测试。一个协议。任何框架。任何提供商。

一个轻量级、生产就绪的Go语言RAG（检索增强生成）库。

自托管AI RAG + MCP平台

一个简单、易于定制的向量数据库

RAFT，即检索增强微调，是一种包含微调和基于 RAG 的检索阶段的方法。它特别适用于创建能够真实模拟特定人类目标的智能体。

RapidFire AI: 从RAG到微调的快速AI定制

一个用于微调检索增强生成 (RAG) 系统的框架。

ACL 2025论文《SimGRAG: 利用相似子图进行知识图谱驱动的检索增强生成》的官方代码

构建企业级RAG（检索增强生成）管道，通过像乐高积木一样简单组合组件，利用大语言模型应对各种生成式AI用例

一个多样化、简单且安全的全能LLMOps平台

本地 AI 驱动的文档搜索和编辑，具有一流的混合检索、LLM 答案、WebUI、REST API 和对 AI 客户端的 MCP 支持。

自托管的 RAG 平台，用于跨 GitHub、Notion、Google Drive、本地文件和网络来源进行 AI 文档搜索，并附带引用。

关于如何在AWS上构建/部署由Amazon Bedrock和PGVector（在Amazon RDS上）驱动的RAG Web应用的示例

可自托管的 RAG 平台——通过简单的 REST API 进行文档摄取、嵌入和向量搜索

OasisDB：一个最小且轻量级的向量数据库

一个为低内存生产工作负载构建的资源高效型 C++ 向量索引引擎

自托管现代 LLM 堆栈。从终端运行整个集群

Microsoft Foundry Local - 工作坊 - 使用 Foundry Local 本地构建 AI 应用 - 使用 Python、JS 和 C# 的 RAG、代理和多代理工作流。无需云

面向PRD、业务规则、SOP、流程文档和产品截图的证据型RAG知识库。

Skardi是一个代理数据平面，赋予AI代理数据自主权。

使用RAG处理1000万+文档且零幻觉

ACL 2026论文《SARA: 基于上下文压缩的选择性与自适应检索增强生成》的官方实现

企业级 RAG 生态系统，管理 32000+ 语义块。支持混合解析（LlamaParse/PyMuPDF）和 256 维 MRL 嵌入，适用于 512MB RAM 环境。

VideoDB Python SDK

基于 RAG 的文档助手，可转换、处理 Odoo 技术文档并提供语义搜索功能。支持多个 Odoo 版本，并带有由 LLM 模型驱动的交互式聊天界面

适用于浏览器、Node 和 Edge 的高性能向量搜索

一个带有 RAG 功能的本地 LLM 聊天机器人，用于 PDF 输入文件

索马里语的开放、机器可读标准——正字法、语法、术语、翻译和 AI/基准资源，作为一个版本化、可引用的 RFC 风格目录。

无向量、基于推理的检索增强生成（RAG）