news 2026/5/29 23:50:20

一次把 RAG 的「整套结构」讲清楚,存一下吧 很难找全的!

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
一次把 RAG 的「整套结构」讲清楚,存一下吧 很难找全的!

这张图,佳哥真是用心了

今天这一篇,我不讲案例、不讲代码、不讲某个框架的用法。

我只做一件事:

把这张图,从“看起来复杂”,讲到“你知道它为什么必须长这样”。


先说一句狠话

如果你觉得 RAG 是:

  • 向量库 + Embedding

  • 检索几段文本 + 丢给 LLM
  • 能跑就行

那你现在看到的大多数 RAG 系统,在规模一上来时,都会失效。

不是模型不行,是结构没搭完。

而这张图,讲的就是:

一个 RAG 系统,从“能用”,到“可扩展、可评估、可演化”,到底需要哪些结构层。


第一层:数据不是从“文本”开始的

很多人一上来就聊向量库,其实顺序是反的。

真正的起点在最底部:数据导入与文本分块。

你会看到这里不是一句“切 chunk”,而是:

  • 按字符 / 句子 / 语义的分块策略
  • 父子文档索引
  • 分层索引(RAPTOR)
  • 多表示索引

为什么?

因为检索失败,80% 不是检索算法的问题,是切块阶段就已经丢信息了。

如果你在这一层没有“结构意识”,

后面所有高级技巧,都是在补锅。


第二层:Embedding 从来不是一个模型的问题

中间这一大块,是很多人最容易误解的地方。

Embedding 不是只有一个向量。

你会看到:

  • 稠密向量(OpenAI / bge / jina)
  • 稀疏向量(TF-IDF / BM25)
  • 专用嵌入(Fine-Tuning / ColBERT)

为什么要这么复杂?

因为现实世界的检索,本来就不是一个相似度空间。

关键词、语义、领域信号,本来就不在同一个空间里。

真正可用的系统,一定是混合表示。


第三层:索引与向量库只是“物理层”

很多人把 FAISS、Milvus、HNSW 当成核心。

但在这张图里,它们被刻意画得很“靠后”。

因为它们解决的只是一个问题:

怎么快。

而不是:

怎么对。

索引策略(父子、分层、多表示),

远比你选哪种向量库重要。


第四层:真正开始像「系统」的地方——查询侧

图左上角,是整个系统的灵魂。

你会看到四件事同时出现:

  • 查询构建
  • 查询优化
  • 查询路由
  • HyDE / 主动检索

这一步意味着什么?

意味着系统已经不再是:

“用户问一句,我搜一遍”。

而是:

系统开始“理解该怎么问世界”。


第五层:检索后处理,决定答案质量上限

中间偏右那一块,是很多 Demo 系统里完全没有的东西。

  • 重排(Rerank / Cross-Encoder / ColBERT)
  • 压缩(相关性 + 冗余控制)
  • 校正(CRAG)
  • 主动补查

这一层解决的是:

不是有没有搜到,而是“哪些值得被看见”。

如果没有这一层,

你永远会觉得:

“有点对,但总差点意思”。


第六层:生成不只是“丢给模型”

右下角的生成部分,我刻意没有画成一个大脑就结束。

你会看到:

  • 提示工程
  • 结构化输出(Pydantic / JSON Schema)
  • 工具调用
  • Self-RAG / RRR
  • 主动再检索

这意味着一件事:

生成,本身也是一个可以被设计、被反思的过程。


第七层:评估,是系统是否“工程化”的分水岭

最右侧那一列,是很多人最不想做、但最重要的。

  • Precision / Recall / F1
  • MRR / MAP
  • BLEU / ROUGE / METEOR
  • 忠实度 / 安全性

有没有这一列,决定了:

你是在做 Demo,
还是在做系统。


那这张图,到底是什么?

它不是教程目录。

也不是技术大全。

它是一张工程演化图。

它回答的不是:“你现在该用什么技术”,

而是:“一个 RAG 系统,迟早会走到哪些结构层”。

如何学习AI大模型?

如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!

这份完整版的大模型 AI 学习和面试资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!


第一阶段:从大模型系统设计入手,讲解大模型的主要方法;

第二阶段:在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段:大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段:大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段:大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段:以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段:以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

大模型全套视频教程

200本大模型PDF书籍

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

LLM面试题合集

大模型产品经理资源合集

大模型项目实战合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/29 21:42:29

基于SpringBoot的停车管理系统(毕设源码+文档)

背景 本课题聚焦基于SpringBoot框架的停车管理系统设计与实现,旨在解决传统停车管理中车位信息不透明、车辆进出效率低、缴费流程繁琐、车位调度混乱及运营数据统计滞后等问题。系统采用B/S架构,依托浏览器即可实现多端便捷访问,适配停车场管…

作者头像 李华
网站建设 2026/5/28 20:23:16

微信小程序 PHP_uniapp的坭兴陶文化传承与创新系统的设计与实现_a8uyn972

目录摘要内容项目开发技术介绍PHP核心代码部分展示系统结论源码获取/同行可拿货,招校园代理摘要内容 坭兴陶作为中国四大名陶之一,具有深厚的文化底蕴和艺术价值。微信小程序结合PHP和Uniapp技术,设计并实现了一套坭兴陶文化传承与创新系统,…

作者头像 李华
网站建设 2026/5/28 3:27:07

Git合并时忽略文件的6种技巧

有几种方法可以在 git merge 时忽略特定文件的合并:方法一:使用 .gitattributes 文件(推荐)在项目根目录创建或编辑 .gitattributes 文件:infostation.js mergeours *.js mergeours # 如果需要忽略所有js文件的合并然…

作者头像 李华
网站建设 2026/5/28 23:42:06

超越能源使用:数据中心可持续运营策略

随着越来越多的数据中心建设以适应AI的日益普及和广泛采用,未能优先考虑更可持续运营的运营商将面临挑战。根据一项报告,截至2024年底,美国有1,240个数据中心建成或获批建设。美国数据中心的快速增长引发了关于数据中心能源和自然资源消耗的日…

作者头像 李华
网站建设 2026/5/29 21:44:22

联想和摩托罗拉推出自有设备端AI助手

联想和摩托罗拉正在推出自有的设备端AI助手联想和摩托罗拉正在推出自有的设备端AI助手Qira将在本季度晚些时候到来。如果世界上的数字助手还不够多的话,联想正在向这个堆积如山的助手队伍中再添加一个。周二晚上,该公司宣布推出Qira,这是一个…

作者头像 李华