一、开篇:为什么 2026 年还在谈 RAG?
每隔一段时间,社区里就会出现一种声音:"RAG 已经过时了,长上下文窗口都到百万 token 了、微调、新模型出来之后 RAG 没有存在价值了。"
但事实恰恰相反——2026 年 RAG 不但没有消亡,反而以 Agentic RAG + 多模态 + 工程化评估的形式进入了深水区。原因很简单:
- 长上下文窗口(1M / 2M token)解决的是"塞得下"的问题,但解决不了"塞得对"的问题——把 100 页文档全塞进去,关键信息还是会被淹没在中间(Lost in the Middle 现象)。2026 年的实测数据表明:当语料规模超过 1M token、或单次查询相关内容占比低于 20% 时,RAG 的 F1 指标仍然比纯长上下文高出 13 分以上。
- 微调解决的是"风格和知识内化",但每出现一份新文档就要重新微调一次,成本根本扛不住企业知识库的高频更新。
- 模型再强,也需要外部的、实时的、私有的、经过权限控制的知识——这就是 RAG 永远存在的理由。
但 RAG 本身这五年确实发生了五次范式级的跳跃。面试的时候,如果只能说出"RAG 就是向量检索 + Prompt 拼接",那停留在 2020 年的认知;如果能把 Naive → Advanced → Modular → Graph → Agentic 这条演进线讲清楚,并能在 Agentic RAG 的七大架构里说出每个的适用场景,再补上 2026 年多模态 RAG、RL 训练搜索 Agent、RAG 评估体系这些新趋势,那就是 2026 年合格的算法/架构候选人。
下面我们一步步拆。
二、RAG 的五代演进史:每一代都在解决上一代的痛点
先用一张图来展示一下演进的大脉络:
下面每一代我们都按同一个结构讲:它解决了什么问题 → 核心机制是什么 → 为什么又被下一代淘汰。
2.1 第一代:Naive RAG(朴素 RAG)
解决了什么问题:第一次让"检索"和"生成"两个原本独立的模块跑通,证明了"外挂知识给 LLM"这条路是可行的。
核心机制:
- 用TF-IDF 或 BM25做关键词检索
- 从静态文档库里取 Top-K 文档
- 直接把文档原文拼进 Prompt,让 LLM 基于这些材料回答
它的三个致命伤(面试高频):
- 缺乏语义理解:用户问"怎么办理离职",BM25 可能命中"辞退流程"而漏掉"辞职申请"——因为它只看词面匹配,不看语义。
- 输出碎片化:没有任何上下文整合,拼进来什么 LLM 就说什么,经常出现前后矛盾或过于泛泛的回答。
- 可扩展性差:文档量一大,关键词重合度飙升,Top-K 里全是"看起来沾边但实际没用"的文档。
历史定位:概念验证阶段,今天几乎不会直接上线,但它是所有后续范式的地基。
2.2 第二代:Advanced RAG(进阶 RAG)
解决了什么问题:Naive RAG 最大的痛点是"语义不匹配",Advanced RAG 用向量检索 + 重排两个关键武器解决它。
核心机制:
- 密集向量检索(DPR / Embedding):把问题和文档都映射到高维向量空间,语义相近的内容距离更近,解决了"离职 vs 辞职"这种同义词问题。
- 神经重排(Reranker):向量检索先粗筛出 Top-50,再用一个 Cross-Encoder 模型对这 50 篇做精细打分,取最相关的 Top-5。这一步是后期 RAG 准确率提升最大的单点改进。
- 迭代检索 / 多跳检索:第一次检索到的结果不直接用,而是让 LLM 判断"还缺什么信息",再补一次检索。
为什么还不够:
- 计算开销上去了(Embedding + Rerank 都是额外模型调用)
- 检索策略是写死的——不管什么问题,都走"向量检索 → Rerank → 生成"这一条路,不会根据问题类型切换策略
- 数据源还是单一的向量库
2.3 第三代:Modular RAG(模块化 RAG)
解决了什么问题:Advanced RAG 把流程焊死了,但现实场景里不同问题需要不同的检索方式——事实性问题关键词命中率高,该用 BM25;语义性问题该用向量;实时数据该查 API。Modular RAG 把这些都拆成可插拔的模块。
核心机制:
- 混合检索(Hybrid Search):稀疏检索(BM25)+ 密集检索(向量)同时跑,用 RRF(Reciprocal Rank Fusion)融合结果。这是今天生产环境的标配。
- 工具集成:检索器不只是向量库,还可以接 Text-to-SQL、Web Search、第三方 API、计算器。
- 可组合流程:检索器、Reranker、Generator 都是独立组件,可以替换、增删、重排。
举个具体例子:金融分析场景下,Modular RAG 可能这样工作
用户问:"贵州茅台今天的股价相比去年同期涨了多少?"
│
├─ BM25 检索:命中"贵州茅台 2024 年报"
├─ 向量检索:命中"白酒行业年度分析报告"
├─ Text-to-SQL:从数据库取 2025-10-14 实时股价
├─ API 调用:从行情接口取 2024-10-14 同期股价
│
└─ LLM 综合所有来源,算出涨幅并写答案
为什么还不够:模块虽然拆了,但**谁来决定这个问题该走哪些模块?**这个"决策"环节还是工程师在写规则,不是系统自己判断的。
2.4 第四代:Graph RAG(知识图谱增强 RAG)
解决了什么问题:向量检索天然不擅长"实体关系推理"。比如问"张三的老板的公司在哪个城市",向量检索很难把"张三 → 李四(老板)→ 某某公司 → 北京"这条关系链拼出来。
核心机制:
- 在文档入库阶段,用 LLM 抽取实体和关系,构建一张知识图谱
- 检索时,不只返回语义相近的 chunk,还返回实体节点和关系边
- 把图结构的关系信息作为 Context 喂给 LLM
Graph RAG 的典型优势场景:
- 医疗诊断:症状 → 疾病 → 治疗方案的推理链
- 法律研究:法条 → 案例 → 司法解释的关联
- 社交网络/企业组织架构:人物关系查询
它的痛点:
- 建图成本极高:每一份新文档都要跑实体抽取,图的构建和维护是一笔不小的开销
- 图质量决定上限:实体抽错一个,整张图的推理就错了
- 扩展性差:图一大,遍历和子图检索的复杂度上来了
2.5 第五代:Agentic RAG(智能体 RAG)
解决了什么问题:前四代的共同问题是——流程是工程师写死的,系统不会根据问题动态决策。遇到没见过的问题类型,系统要么瞎答,要么答不全。
Agentic RAG 的范式跃迁在于:
把"检索"从"管线中的固定一步"变成"LLM 可以按需调用的工具",让 LLM 自己决定:要不要检索、检索哪个库、检索几次、结果够不够、不够怎么办。
这就是从"固定管线"到"自主闭环"的跃迁,也是本文接下来要重点展开的部分。
三、Agentic RAG 的七大架构:面试必须能讲清楚的分类
很多文章一提到 Agentic RAG 就笼统地说"它会多轮检索",但实际上 2024-2026 年的研究和工业落地已经把它拆成了七种典型架构。每种架构解决的问题、复杂度、适用场景都不一样。面试时能把这七种分清楚,基本就超过了大多数候选人。
3.1 架构一:Single-Agent Agentic RAG(单智能体 / 路由器模式)
核心思想:一个中心 Agent 包揽所有决策——理解问题、选数据源、发起检索、整合答案。
它的工作流程:
- 用户提问,中心 Agent 分析问题类型
- 根据问题类型选择一个或多个信息源(结构化数据库 / 向量库 / Web / 推荐系统)
- 调用对应工具拿到数据
- 把所有数据交给 LLM 综合成答案
适用场景:
- 工具/数据源数量在 3 个以内的中小规模系统
- 快速原型验证
- 逻辑不复杂的企业内部知识库
优点:架构最简单,容易实现,调试方便。缺点:所有决策压在一个 Agent 身上,问题一复杂就容易决策混乱;扩展性差,工具一多就管不过来。
3.2 架构二:Multi-Agent Agentic RAG(多智能体分工)
核心思想:把"检索"这件事按数据源/任务类型拆给多个专职 Agent,中心 Agent 只做调度。
和单智能体的本质区别:
- 单智能体是"一个人干所有事"
- 多智能体是"中心调度员 + 四个专职检索员",检索过程可以并行执行
适用场景:
- 数据源异构(同时有数据库、文档库、Web、API)
- 问题需要跨多个领域知识综合
- 对响应时间有要求(并行检索比串行快)
优点:可扩展、职责清晰、并行效率高。缺点:架构复杂度上升,需要处理多个 Agent 的结果冲突、重复、遗漏问题。
3.3 架构三:Hierarchical Agentic RAG(层次化 / 多级调度)
核心思想:多智能体的"加强版"——Agent 不是平级的,而是有上下级关系。高级 Agent 做战略决策(这个问题该派给谁),低级 Agent 做战术执行(具体怎么查)。
解决的核心问题:当系统里有几十上百个 Agent 时,平级的协调器会"选择困难"——到底该派给谁?层次化结构让决策按"先粗后细"的方式逐层下沉。
适用场景:
- 大型企业级系统,有多个专业领域(医疗 + 法务 + 财务 + HR)
- 问题天然分层:先判断领域,再在领域内找具体数据
- 对决策可解释性要求高(能追溯"哪一级 Agent 做了什么决策")
3.4 架构四:Agentic Corrective RAG(CRAG,自我纠错型)
核心思想:前面几种架构都在解决"怎么查得更全",CRAG 解决的是查回来的东西靠不靠谱。
它引入了一个关键角色——相关性评估 Agent,专门给检索回来的文档"挑刺"。
CRAG 的五个专职 Agent(面试可背):
- 上下文检索 Agent:先从向量库取初始文档
- 相关性评估 Agent:给每篇文档打分,低于阈值的标记为"不合格"
- 查询细化 Agent:把模糊的原始问题改写成更精准的检索词
- 外部知识 Agent:内部文档不够时,自动 fallback 到 Web 搜索
- 答案合成 Agent:把经过验证的文档整合成最终答案
适用场景:
- 对答案准确性要求极高的场景(金融、医疗、法律)
- 内部知识库覆盖率不高,经常需要外部补充
- 之前被"向量检索回来的文档根本不相关,但 LLM 硬答"坑过的团队
3.5 架构五:Adaptive RAG(自适应复杂度)
核心思想:不是所有问题都需要 Agent 全套流程。Adaptive RAG 在入口加一个轻量级分类器,先判断问题复杂度,再决定走哪条路。
三档策略:
问题复杂度 | 例子 | 处理策略 | 成本 |
简单事实 | "水的沸点是多少?" | 直接用 LLM 参数知识,不检索 | 极低 |
中等单跳 | "我的电费账单状态?" | 单次检索 | 低 |
复杂多跳 | "过去十年 X 城市人口变化及驱动因素?" | 多步迭代 + 反思 | 高 |
为什么这个架构在生产环境最受欢迎:
因为它把成本和准确率做了最优平衡——90% 的简单问题走便宜路径,只有 10% 的复杂问题才动用完整 Agent 能力。这也是上一篇博客里提到的"生产环境最优解不是二选一"的具体实现。
3.6 架构六:Graph Agentic RAG(Agent-G,图+智能体融合)
核心思想:把第四代的 Graph RAG 和 Agentic 范式结合——Agent 不只用向量检索文档,还能在知识图谱上做推理和多跳遍历。
四个核心组件:
- 检索器库:一组专职 Agent,分别负责图检索和文本检索
- 批评模块(Critic):评估检索结果的相关性和质量,不达标就触发反馈循环
- 动态代理交互:图 Agent 和文本 Agent 协作,互补信息
- LLM 整合:把图推理结果和文本证据融合成最终答案
适用场景:
- 医疗(疾病 → 症状 → 药物的关系推理)
- 金融(公司 → 高管 → 股东 → 关联交易)
- 任何需要"实体关系链 + 文档细节"双证据的场景
3.7 架构七:Agentic Document Workflow(ADW,智能体文档工作流)
核心思想:前面六种架构都还在"问答"范式里,ADW 把 RAG 扩展到了端到端的文档处理流水线——不只是回答问题,而是自动完成"解析 → 抽取 → 检索 → 推理 → 生成结构化报告"这一整套业务流程。
典型例子:发票自动处理——
- 解析发票,抽出发票号、日期、供应商、金额、明细
- 从知识库检索"公司差旅报销标准"
- Agent 判断这张发票有没有超标、符不符合报销规则
- 输出结构化的报销审核结果
和传统 RAG 的区别:
- 传统 RAG:用户问一句,系统答一句
- ADW:用户丢进来一堆文档,系统自动跑完整个业务流程,输出可直接使用的结构化结果
适用场景:
- 智能文档处理(IDP):发票审核、合同审查、简历筛选
- 合规检查:自动比对文档和企业制度
- 研究报告自动生成
四、2026 年 RAG 的最新趋势:
前面讲的七大架构是 2024-2025 年成熟起来的范式。到了 2026 年,又出现了几个值得关注的新方向。这些内容在面试里如果能主动提出来,会让面试官觉得你一直在跟进行业前沿。
4.1 长上下文 vs RAG:2026 年的共识不是二选一
前两年社区一直在争论"长上下文窗口出来了 RAG 还有没有用"。2026 年的实测数据已经给出了比较清晰的答案——不是替代关系,而是按语料规模和相关度配比选择:
语料规模 | 相关内容占比 | 推荐方案 | 原因 |
< 100K token | 任意 | 两者都行 | 直接塞进去也能装下 |
100K ~ 1M | > 30% | 长上下文优先 | 相关内容多,检索反而会漏 |
100K ~ 1M | < 20% | RAG 优先 | 大海捞针,检索命中率高 |
> 1M token | 任意 | RAG 优先 | 塞不下,且 Lost in the Middle 严重 |
2026 年的关键结论:当单次查询的相关内容占整个语料的比例低于 20% 时,RAG 的 F1 指标平均比纯长上下文高出 13 分以上。所以不是"长上下文杀死了 RAG",而是"RAG 在大语料 + 稀疏相关场景下仍然不可替代"。
4.2 生产环境的新基线:Hybrid Search + Rerank 已经是标配
2026 年一个明显的变化是——Naive RAG(纯向量检索)已经从生产环境消失了。现在上线的 RAG 系统,最基础的配置已经是:
Query
│
├─ BM25 稀疏检索 ──┐
│ ├─ RRF 融合 ──► Cross-Encoder Rerank ──► Top-K 喂给 LLM
└─ 稠密向量检索 ──┘
为什么这套组合成了新基线?因为单一检索各有盲区:
- 纯向量:对产品型号、法条编号、专有名词这种"精确匹配"场景很差
- 纯 BM25:对"离职 vs 辞职"这种同义词场景很差
- 两者融合(RRF)+ 重排:既能命中精确关键词,又能理解语义
2026 年的另一个进展是元数据增强 Embedding(Metadata-enriched Embedding)——把文档的标题、来源、时间、部门等元信息和正文一起编码进向量,实测精度从纯内容 Embedding 的 73.3% 提升到 82.5%。
4.3 多模态 RAG:从文本库走向全模态知识库
2026 年之前的 RAG 基本都是"文本问答"。但企业知识库里大量的内容是 PDF 扫描件、产品图片、会议录音、视频教程。多模态 RAG 就是把这些东西统一到一个检索框架里。
代表性进展:
- 原生多模态 Embedding:Google 的 Gemini Embedding 已经能把文本、图片、视频、音频、PDF 统一映射到同一个 3072 维向量空间,不再需要为每种模态单独建索引
- VideoRAG:针对长视频做的 RAG,能从几小时的会议录像、培训视频里直接检索关键片段
- OmniRAG-Agent:全模态 Agent,能同时调用图片库和音频库做跨模态推理
面试怎么讲:
"2026 年的 RAG 已经不只是文本检索了。以前文本、图片、音频、视频要分别建索引、分别检索,现在原生多模态 Embedding 能把它们统一到一个向量空间里。比如一个客服系统,用户问'这个故障指示灯是什么意思',系统可以直接从产品手册 PDF、故障演示视频、现场照片里同时检索证据,而不是只查文字版 FAQ。"
4.4 RL 训练的搜索 Agent:从"Prompt 驱动"到"模型自己会搜"
前面讲的 Agentic RAG,本质上还是靠 Prompt 让 LLM 决定"什么时候检索、怎么检索"。但 Prompt 驱动的 Agent 有个问题——决策不稳定,同一个问题问两次可能走不同路径。
2026 年的新方向是用强化学习直接训练模型的"检索决策能力",代表工作是 Search-R1 这一类模型。核心思路:
- 不再是"让 LLM 在推理过程中决定要不要调工具"
- 而是直接用 RL 训练模型,让它在预训练阶段就学会"思考到什么程度该停下来去查、查完回来怎么继续推理"
- 检索动作被内化成模型能力的一部分,而不是外挂工具调用
和传统 Agentic RAG 的区别:
维度 | Prompt 驱动的 Agentic RAG | RL 训练的搜索 Agent |
决策方式 | LLM 现场推理决定 | 模型内化的策略网络 |
稳定性 | 同一个问题可能走不同路径 | 决策路径更稳定 |
推理链 | 显式输出(能看到思考过程) | 隐式(黑盒策略) |
成本 | 每次都要跑 ReAct 循环 | 推理时直接输出检索动作 |
可解释性 | 强 | 弱 |
4.5 RAG 评估体系成熟:不能只靠"感觉准不准"
2026 年另一个显著变化是——RAG 系统不能再靠人工抽查来判断好坏了。评估已经成了独立的工程环节,主流工具和指标包括:
四大核心指标(RAGAS 提出,2026 年已成为行业标准):
指标 | 衡量什么 |
Context Precision | 检索回来的文档里,有多少是真相关的(查得准不准) |
Context Recall | 所有应该被检索到的证据,有多少被找回来了(查得全不全) |
Faithfulness | 生成的答案里,有多少句话能被检索到的证据支撑(有没有瞎编) |
Answer Relevancy | 答案是否真的回答了用户的问题(有没有答非所问) |
主流工具:
- RAGAS:专注 RAG 指标,开源,最常被论文引用
- DeepEval:pytest 风格的断言框架,适合 CI 集成
- LangSmith:链路追踪 + 数据集评估,和 LangChain 原生集成
- LangFuse / Phoenix:开源可观测方案
"评估 RAG 不能只看最终答案像不像对的,要拆开看:检索阶段要看 Context Precision 和 Recall,生成阶段要看 Faithfulness 和 Answer Relevancy。2026 年的团队基本都用 RAGAS 或 DeepEval 把这四个指标自动化,再用 LangSmith 做线上链路追踪,而不是靠人工抽查。"
4.6 企业级特性:从"能跑"到"能管"
2026 年企业落地 RAG 时,已经不满足于"能回答问题"了,几个生产级特性变成了刚需:
- 增量索引:新文档进来不用全量重建向量库,只对新增部分做 Embedding 和入库
- 多租户隔离:不同部门/客户的知识库在向量库里逻辑隔离,A 部门不能检索到 B 部门的文档
- 文档级 ACL(权限控制):用户问问题时,检索结果要先过权限过滤——普通员工不能检索到高管专属文档
- 混合云/私有化部署:金融、医疗等行业不能把数据发到公有云 API
这些点在面试里如果能提到,会体现出你是真的做过企业级落地,而不只是跑过 demo。
五、七大架构怎么选?一张决策表收尾
面试如果被问"那我项目里该用哪种",可以按这个决策表回答:
你的场景 | 推荐架构 | 理由 |
快速原型,数据源少(1~2个) | Single-Agent | 简单、好调试 |
数据源 3 个以上,需要并行检索 | Multi-Agent | 分工清晰、响应快 |
大型企业,多专业领域,需要可解释决策链 | Hierarchical | 分层调度、责任清晰 |
对答案准确性要求极高,怕"瞎编" | CRAG | 有相关性评估 + 外部 fallback |
90% 是简单问题,想省成本 | Adaptive | 简单问题走便宜路径 |
需要实体关系推理(医疗/金融) | Agent-G | 图 + 文本双证据 |
文档自动处理、报告自动生成 | ADW | 端到端流水线 |
实际生产环境的经验:很少有团队只用一种。最常见的组合是——
Adaptive RAG 做入口分流 → 简单问题走普通 RAG,复杂问题进入 Multi-Agent 分工 → 每个 Agent 内部用 CRAG 做自我纠错 → 涉及实体关系的子任务再调用 Agent-G 的图检索。
这就是一个 2026 年成熟的 RAG 系统该有的样子。
六、收尾
RAG 这五年的演进,本质上回答了一个问题:"怎么让 LLM 更靠谱地用外部知识"。
- 第一代解决了"有没有"
- 第二代解决了"准不准"
- 第三代解决了"灵不灵活"
- 第四代解决了"关系推理深不深"
- 第五代解决了"能不能自己判断该怎么查"
未来 RAG 还会继续演进——多模态统一检索、RL 内化检索策略、端到端评估自动化这些方向正在快速成熟。但核心矛盾不会变——在准确率、延迟、成本、可解释性之间找工程平衡点。面试的时候,能把这五代范式的"痛点→解法→新痛点"这条逻辑链讲清楚,再补上 2026 年多模态、RL 搜索 Agent、RAGAS 评估这些新趋势,就已经是一个对 RAG 有系统性认知、且跟进行业前沿的候选人了,而不是只会背"向量检索 + Prompt 拼接"这一句话。