news 2026/3/11 12:55:24

干完手上RAG项目,我总结出这些“硬伤”

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
干完手上RAG项目,我总结出这些“硬伤”

最近刚好在做手上 RAG 项目的年末总结,顺便整理了下外部的变化以及一些演化方向,写着写着发现挺适合拿出来分享的,遂整理下拿出来,顺便展开一些内容。欢迎各位点赞收藏,评论区交流指正~

01

RAG 相关新范式

1.1 动态检索(AgenticRAG)

主要是在检索侧做的改进:

AgenticRag

AgenticRAG 实际就是把向量数据库(知识库)作为 agent 的一个 tool,交由 agent 判断是否使用。

由 agent 自己决定检索什么,检索多少,以做到动态检索。

在此基础上还会增加横向扩展,比如多 retrieve agents 嵌套,通过多个检索 agent 给一个上级 agent 提供信息。相关的设计还有很多,单核心都是围绕“动态检索”这一思想进行设计的。

重点:解决传统 RAG 中的单来源、强制执行、一次交付的问题。

1.2 数据侧增强(PikeRag、GraphRAG)

主要是在存储侧做的改进:

GraphRag

PikeRag

GraphRag 两个方法:

  • Local Search:局部检索在检索时依靠向量检索找到绝对实体,之后依靠 graph 在图中寻找它的相关关系,最后给大模型实体细节+关联实体细节+他们的关系。
  • Global Search:全局检索在构建的时候通过聚类算法(Leiden 算法)将其聚类为不同社区,最后靠 LLM 给社区做描述;检索时如果是全局检索,则不去寻找实体而是寻找社区及其描述,将相关社区描述汇总作为上下文,主要解决概括性问题。

之前 GraphRag 出现的时候,有令人诟病的成本问题,后续更新了新版的 2.X,记得没错的话式更新了专门用的非 LLM 的实体抽取模型,应该在成本上有所缓解。

另外类似思想的,轻量级的还有 LightRag,也是不错的研究。

PIKE-RAG:主要是做了 atom_decompose 这一个方法,在数据 build 的时候,给每个数据做数据增强。

简单来说就是通过大模型给每一段进行标记,抽取实体和关系(类似 graphrag local search),同时依靠大模型生成相关的,同语义但不同表述的回答作为辅助。最终在检索侧的时候,提高召回率和精确率。

这两个代表性的框架本质都是在存储侧做了增强,且引入了类似图的结构。引入图是为了解决多跳问题,同时也能解决全局问题。

重点:在输入数据层面做增强,强调检索的“关系”和“视野”。

1.3 纯多模态(ColPail)

抛弃 OCR,视觉即索引:

ColPali

不再顺延传统的文字提取+embedding 的思路,而是直接在原始数据(图、pdf)数据上做处理,切成一个个小块,然后给小块生成视觉向量。

检索的时候,query 转为元 token,然后对每个词计算图的最大相似度,最后召回原始的文本(图)块,给 VLM 作为上下文。

这个方式缺陷和优点都太明显:

  • 优点:多模态场景下最强,表格、图片统统不在话下。
  • 缺陷:架构改变太大,虽然底层依旧是向量数据库,但是模型方面在线的生态一般。且这种元 token 切分的检索方式,中文上处理实际要比英文复杂。并且对输入的数据有了要求,如果业务上数据就是 txt、markdown 这种,无法直接处理。

重点:直接依靠图来进行整个 RAG 流程,天然多模态优势。

实际业界更多对于图片的处理方式主要还是:

  • 靠 VLLM 转为描述,然后走正常文本召回,然后给出原始数据
  • 结对,直接跟最近的(分布上最靠近,bbox)\最相关的(多模态向量模型)作为一对,召回其关联文本块的时候直接带回

1.4 长上下文(OP-RAG)

模型上下文越来越长,不再切分碎块。

这个不展开说了,简单说就是现在模型上下文越来越长,且不像之前那么容易注意力涣散了,召回的单元不再是之前那样特别碎的碎块了。

很多都是直接把全文 or 一个长片段返回过去,效果要比碎块好很多。检索的时候依靠类似父子索引可以很精确定位。

相关的工作有 OP-RAG,主要阐述了这么做的可行性和有效性。

重点:模型能力增强,碎块作为检索单元的必要性不再存在。

02

生态地位的演变

从 2023->2025 来看,RAG 技术总体的定位演化表现在:由保障大模型生成可靠性,解决幻觉的框架 -> agent 的 tool,作为上下文保障的一个不可缺少的工具。

核心的变动是:

  • 由静态转向动态:由于模型核心能力的增强,不再需要每段话都必须被动检索,而是按需检索;由 agent 自己决定是否检索,检索多久,检索什么,而不是之前的强制流水线
  • agent 长期记忆的核心:不再局限于文档知识库,而是作为 agent 的长期个性化记忆库
  • 多模态势头:VLM 的能力增强和成本降低,使得 rag 场景也不再局限于文字模态
  • 数据结构的堆叠与架构复杂性上升:越来越定制化的、不同的检索策略;引入知识图谱 or 其他手段,解决全局性问题

03

复杂检索策略

简单的混合检索(BM25+向量)目前看很多业务场景已经能满足需求,但一些场景在数据维度增多的情况下 or 检索方向的变化下,单一的检索策略已经不太能满足需求。

之前了解到一些外部项目已经给 rag 设定高度定制化的检索策略,比如对某个字段额外建立索引,在召回中额外作为一条通路并且有自己的计分标准。

再比如对原始数据构建索引的时候,不再是向量这种形式,还考虑bool这种简单的开关过滤。

另外也会结合意图识别来动态的在业务中选择不同的检索策略。

这里面 SR(重排)、QR(query 重写)就不再赘述了,也算是复杂检索策略的一环,现在关注的更底层了。

04

意图识别

实际上意图识别几乎成为了现在 rag 工业项目的标配。

具体表现为:在面临不同的 query 时选择什么样的检索策略和数据集。

这部分和 agent 的 tool call 有相似但有区别,具体可以区分类别为软硬路由,主要是容错率的不同。

另外这里根据具体的的需求,实际落地的部分不一定是一个意图识别的模型。

05

评测的重要性

除开以上的架构、算法角度的变动,实际业务角度上评测变得越来越重要,因为 RAG 参与的规模越来越大,评测就变成了不可或缺的一部分。

RAG 评测的核心目的是:

  • 如何在上线前验证、证明 RAG 系统的有效性,并且知晓问题加以改进
  • 以及在一些交付场景:如何证明你的系统是有效且可靠的
  • 对于私域数据,还重点关注数据的安全性和敏感性

评测是推进业务闭环绝对的核心,只有建立正常的评测机制才能做到有效的及时的对架构、算法、数据本身进行改进改良,而非单纯的“业务需求”和“用户体验”。

想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2025 年AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享

👇👇扫码免费领取全部内容👇👇

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI

1. 100+本大模型方向电子书

2. 26 份行业研究报告:覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

  • 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
  • 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
  • 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
  • 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT:听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

  • 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
  • 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
  • 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
  • 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析

2. 102 道 AI 大模型真题:直击大模型核心考点

针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:


三、路线必明: AI 大模型学习路线图,1 张图理清核心内容

刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

L5阶段:专题集丨特训篇 【录播课】


四、资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇

2025 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/3/7 8:44:06

千万不能错过!这家公司的全景效果竟然让整个行业都炸锅了!

千万不能错过!这家公司的全景效果竟然让整个行业都炸锅了!引言在当今数字化时代,全景技术已经逐渐成为各个行业不可或缺的一部分。从房地产到旅游,从教育到娱乐,全景技术的应用越来越广泛。而最近,一家名为…

作者头像 李华
网站建设 2026/3/3 13:48:25

KTransformers实战指南:Qwen3-Next多模态模型部署与性能优化

KTransformers实战指南:Qwen3-Next多模态模型部署与性能优化 【免费下载链接】ktransformers A Flexible Framework for Experiencing Cutting-edge LLM Inference Optimizations 项目地址: https://gitcode.com/gh_mirrors/ktr/ktransformers 在当今多模态A…

作者头像 李华
网站建设 2026/3/7 11:52:19

基于Java + vue学习测评系统(源码+数据库+文档)

学习测评 目录 基于springboot vue学习测评系统 一、前言 二、系统功能演示 三、技术选型 四、其他项目参考 五、代码参考 六、测试参考 七、最新计算机毕设选题推荐 八、源码获取: 基于springboot vue学习测评系统 一、前言 博主介绍:✌️大…

作者头像 李华
网站建设 2026/3/9 7:10:35

基于springboot + vue列车售票系统(源码+数据库+文档)

列车售票目录 基于springboot vue列车售票系统 一、前言 二、系统功能演示 三、技术选型 四、其他项目参考 五、代码参考 六、测试参考 七、最新计算机毕设选题推荐 八、源码获取: 基于springboot vue列车售票系统 一、前言 博主介绍:✌️大厂…

作者头像 李华
网站建设 2026/3/10 18:25:47

3步实现深度学习模型75%体积压缩:飞桨INT8量化实战指南

3步实现深度学习模型75%体积压缩:飞桨INT8量化实战指南 【免费下载链接】models PaddlePaddle/models: PaddlePaddle是百度研发的开源深度学习框架,该项目提供了基于PaddlePaddle的各种预训练模型示例、教程及可直接使用的模型库,方便开发者快…

作者头像 李华