生活的本质在于取舍，RAG架构亦是如此。
01 初识RAG
不知道大家在提问大模型的时候，有没有碰到过这种情况。
并不是每一个问题，它都能答上来。甚至有时候它会瞎编一些答案，一本正经地胡说八道。
这种情况，通常被称为大模型的幻觉。
因为大模型所有的认知，都是通过模型训练得来的。
恰巧你提的问题，在它的认知范围外，它就无法正确地回答你。
在早期，大模型遇到这种情况可能会分析得头头是道，但最终答非所问。但现在，它会实打实地回复它不知道。
比如用自己上线的网站：楼里，我让大模型介绍下，它明确回复不知道。
虽然比起之前的瞎编好上不少，但是它确实没解决实际的问题。
但是当我将网站的介绍文案和问题一起丢给大模型时，它的回复是这样的。
其实不难理解，无非就是把问题和网站介绍一起交给大模型。它会分析网站的介绍，然后结合提出的问题，找到用户想要的答案。
如果讲得专业一点，RAG就是将知识库与大模型结合的服务。能够快速从大量的信息中搜寻、分析、生成最终的答案，为用户提供精准的信息。
这种知识库体系可以被运用在企业内部，如建立企业内部文档、考勤制度或规范、数据、业务经验等等。建立好内部的知识体系，让大模型可以精确分析数据，借鉴大模型的能力，员工可快速查阅相关内容。
但是讲得不专业一些，就是先从你的知识库里查资料，再让大模型照着资料回答问题。
02 RAG架构
那么问题来了：怎么判断知识库中的一段文字和用户提出的问题有关联？
这就要引入一个新的概念：Embedding模型。
Embedding模型的输入也是一段文字，与大模型有所区别的是，它的输出是一组固定长度的数组。
简单的理解就是：预先把内容的文本有损压缩成一串数字坐标，用户提出的问题也会压缩成坐标。最终可以通过计算坐标之间的距离，来判断问题和内容是否相关。
现在输入几个问题：
1、七号楼是独立开发吗？
2、七号楼是开发者吗？
3、七号楼是程序员吗？
4、海报上的字体要大一些吗？
如果用人的思维非常简单就可以回答，前三个问题比较类似，并且答案是肯定的。最后一个问题跟前面的问题毫无关系，并且答案是否定的。
但是换成Embedding模型的角度，事情就变得复杂了，它只能按照既定的套路去解答问题。
从上面的描述可知，文本信息最终都会被压缩成坐标。由此我们画一个简单的二维坐标系来展示（真实的Embedding坐标系肯定不止二维，如OpenAI的text-embedding-3-small是1536个维度）
三条关于七号楼信息的内容在坐标系上距离非常贴近，一条关于海报信息的内容则距离非常远。
当用户提问：七号楼是独立开发吗？七号楼是开发者吗？七号楼是程序员吗？
这些问题最终也会被映射到这个坐标系上，并且很贴近坐标系的左上方，然后通过计算拿到与问题最贴近的一些答案，将问题和这些答案当做上下文，统一交给大模型去处理，最后生成用户想要的答案。
反之，用户提问：海报上的字体要大一些吗？
这个问题会去往坐标系的右下角，然后找到“海报上的字体要小一些”这样的答案，也一并交给大模型。
按照这样的流程，大模型最终会拿到和用户问题强关联的内容，经过一系列的分析，产生用户想要的答案。
由此，RAG架构总结如下，它包含：Embedding模型、向量检索（坐标系）、上下文构建、大模型生成答案。
03 切块和向量库
为了解释清楚RAG架构，上面所说的场景其实都是理想状态，真实情况要复杂很多。
回到最初的场景，楼里网站的介绍，其实文档是很长的。
如果将整个文档的内容只映射成一个坐标，那么文档和问题一起提交给大模型的时候，那产生的token… 不需要我多说了吧。
所以，就需要对整篇文档进行分段处理，批量向量化，专业词汇叫：Chunking，意思就是切块。
切块：顾名思义就是将文本内容进行分割。
做完文本切块后，还需要将每段的原始文本和每个向量坐标一一对应起来，这个对应关系需要被保存起来。
传统的数据库也能存对应关系，但是做不了向量检索。
于是专门为这类场景定制了向量数据库。它可以检索出离问题向量最近的一些向量数据。
常见的向量数据库有：Milvus、Qdrant、Pinecone、PostgreSQL+pgvector等等。
于是整个流程就可以丝滑地串起来了
但是，整个RAG还存在缺陷：比如整篇知识库内容怎么分块？按段落、按句子、还是按篇幅？如果内容一长，并且提出的问题比较复杂，貌似各种切块方式都不合适了。
不过我有一些不成熟的想法：是不是可以训练一个专门切块的大模型，或者直接让大模型参与分块。
额，好吧，还是继续等等，看看后续有没有合适的方案去解决这些问题。
04 如何学习AI大模型？
我在一线互联网企业工作十余年里，指导过不少同行后辈，帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
第一阶段：从大模型系统设计入手，讲解大模型的主要方法；
第二阶段：在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段：大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段：大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段：大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段：以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段：以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
