国庆7天AI扫盲计划：从大模型原理到Agent应用开发

这个国庆我没打算出门看人海。给自己排了一个 7 天的 AI 扫盲计划，从大模型的底层原理一路刷到 Agent 应用开发。身边不少同事问我有没有系统资料，说实话，网上零零散散的文章多如牛毛，但真正能让你从零搭起一套认知框架、而且可执行的资料并不多。我这套计划学下来，最大的感受是：过去一年被各种热词追着跑，什么大模型、提示词、RAG、Agent、多模态、AI 短剧、AI 音视频……微信群里每天都能看到，但没有一个能完全讲清楚它们之间的关系。这 7 天不是去背名词，而是把名词背后的原理、适用场景和工程套路全部串起来，让以后看任何 AI 相关文章都能立刻判断出它属于哪一层、解决什么问题。

如果你也是技术岗，想在这个假期系统补齐 AI 概念，或者你已经在用各种 AI 工具但总觉得知其然不知其所以然，这份指南就是按我的个人经验整理出来的。下面直接讲我这 7 天怎么排的。

1. 国庆 7 天，我给自己排了一张 AI 学习地图

1.1 为什么技术人需要一次系统化扫盲

先说个我自己的尴尬事。今年年初公司有个项目要用大模型做智能客服，开会时大家满嘴术语，你说 RAG，我说 Agent，到最后发现所有人对概念的理解都不一样——Agent 到底是产品形态还是技术框架？大模型上下文窗口是不是越大越好？当时没人能给出准确的答案。这种状态在技术团队里特别危险，因为概念不统一，后面做技术选型、做架构设计就全是拍脑袋。

传统的学法是打开一本教材从头啃，但今天 AI 知识迭代太快，教材往往一出厂就过时了。我给自己定的原则是：不追求看懂数学证明，但要建立三个层面的认知——第一层是原理直觉，也就是它大概怎么工作，为什么会有这样的能力；第二层是工程实践，即我用什么工具、什么接口、什么流程把它落地；第三层是评估方法，也就是怎么判断它做得好不好。这样做的好处是，以后再遇到新概念，我能立刻定位它属于哪个层面，不会被热搜带着跑。

举一个很典型的例子。很多技术人会把"大模型"直接等同于"AI"，这其实是个误解。大模型是 AI 的一种实现形式，而 AI 这个范畴比大模型大得多，比如传统机器学习、强化学习、知识图谱都属于 AI。把概念分层之后，你才能理解为什么有些场景适合上大模型，而有些场景用正则表达式就搞定了。对技术人来说，这种分层能力比记住某个 API 更重要。

1.2 七天路线总览：从底层原理到应用交付

以下是我最终执行的学习顺序，后面各章就按这张表走：

这个顺序设计是有讲究的：大模型是地基，不理解它的工作原理，后面学提示词就是在背话术；提示词是和模型交互的入口，学完就能立刻上手验证；多模态生成正好利用假期做点好玩的玩具，保持学习热情；Agent 是当前最热的工程方向，放在中段学有承上启下的作用；最后两天落脚到质量和工程，是因为技术人最终要交付的是稳定可靠的东西，而不是一个在本地跑着玩的 demo。

2. 大模型不像搜索引擎，它是在"预测下一个词"

2.1 Token 是什么，上下文窗口为什么重要

很多初学 AI 的人会把大模型当成一个超级搜索引擎，问一个问题它就返回答案。我第一天的第一份笔记就写清楚了：大模型本质是一个 概率预测器，它在看到已有文本的前提下，预测下一个最有可能出现的词是什么。你输入"床前明月"，它一步步预测出"光"，再预测出"，疑是地上霜"，整个回答就是这么一段段生成的。

那模型怎么读文本？它并不是按字符读，而是按 Token 读。Token 可以简单理解为一个"语义碎片"，一个英文单词通常是一个或几个 Token，一个汉字在商用大模型里大约是 1-1.5 个 Token。为什么技术人要关心这个？因为大模型的计费和上下文容量都按 Token 算，同样一句话，中文消耗的 Token 往往比英文多。我实测过，一段 1000 字的中文文档，在大部分模型里会吃掉 1500-2000 个 Token，如果你在做长文档分析，这个数字直接决定你的成本预算。

与 Token 紧密相关的一个概念叫上下文窗口。你可以把它理解为模型的"工作记忆上限"。假设一个模型的上下文窗口是 128K Token，它能一次性处理的中文文本大约在 8 万到 12 万字之间。窗口越大，能塞进去的资料越多。但这里有个很容易被忽略的坑：上下文窗口变大不代表模型真的能"记住"中间所有细节，很多模型对长文本中部内容的注意力会衰减，实际有效长度要打折扣。所以做 RAG（检索增强生成）的时候，不是把所有资料一股脑塞进去就完事，该截断要截断，该摘要要摘要。

2.2 参数、算力与幻觉：三个必懂的关键词

说到模型参数，技术人最容易联想到的是"参数量越大越强"。这个理解不全对。参数可以类比成模型的"血管网络"，更多的参数意味着模型能记住更多模式，但同时也需要更多数据进行训练、需要更多算力做推理。拿 70B 和 7B 两个模型比，70B 的推理成本往往是 7B 的十几倍到几十倍，而能力提升的幅度却未必有这么多。实际做项目时，我通常先用小模型跑通流程，再用大模型做精调，这是最省钱省时间的路径。

另一个绕不开的概念是算力。普通开发者接触算力主要有两个场景：本地部署或调用云端 API。这里我要泼一盆冷水：绝大多数团队其实不需要自己部署大模型。自己部署意味着你要搞定 GPU、推理框架、模型量化、高并发负载，这套东西的运维成本非常之高。相比之下，直接调用云端 API，按 Token 付费，成本透明、迭代极快，对中小团队是更理性的选择。等你真到了需要私有化部署的规模，你自然会有专门的团队来负责这事。

最后就是幻觉。幻觉指的是模型一本正经地给出错误信息，这是概率预测的必然产物：它预测的是"最可能的词"，而不是"事实正确的词"。这两年我见过最夸张的例子，是有人让模型总结某份产品文档，模型编出了一个根本不存在的功能名称，还配了一段非常合理的描述。这就是为什么做 AI 应用时，纯粹靠模型裸奔是危险的，必须有知识库约束、有旁路校验、有人工兜底。理解幻觉不是"修复它"，而是"防住它"，这个认知会在后面 Agent 和评估章节反复用到。

3. 提示词工程：AI 能不能听懂人话，取决于你怎么说话

3.1 一个万能公式：角色+任务+上下文+约束

自从用过各种大模型产品后，我最大的体会是：模型的能力边界，很大程度取决于你提问的质量。很多人抱怨"AI 生成的东西太泛"，其实大概率是提示词给得太泛。我后来自己整理了一套提示词公式，简单粗暴，但几乎所有场景都能套：

角色（你是谁）+ 任务（要做什么）+ 上下文（输入的背景资料）+ 约束（格式、风格、禁忌）

举个实际例子。假设我要让 AI 帮忙写一段推广文案，普通问法是这样的："帮我写几条推广文案。"模型大概率会给你几条空泛的套话。用公式改造之后：

"你是一位熟悉电商行业的资深文案（角色），请为我的一款便携榨汁杯产品写 10 条短视频平台推广文案（任务）。产品卖点是 30 秒出汁、静音、无线便携，目标用户是办公室白领和健身人群（上下文）。每条文案不超过 50 字，语气轻松，结尾引导点击购物车，不要使用'品质生活''极致体验'这类陈词滥调（约束）。"

效果立竿见影。原因很简单：模型在训练时见过大量类似"结构化指令"配对数据的场景，你给的约束越细，它生成的分布就越收敛。我以前总觉得"提示词是文科生搞的事"，现在完全改观——这其实就是一种特殊的接口设计，只不过接口文档写成了人话。

3.2 思维链、少样本提示和系统提示词：稳定输出的三板斧

有了基础公式，接下来就是让输出质量再上一个台阶。首先是思维链。所谓思维链，就是让模型在回答前先展示推理过程。这个技巧在处理数学、逻辑、多步骤任务时特别管用。比如你问一个复杂问题，如果直接让它给答案，它可能一步到位出错；如果你在提示里加一句"请一步一步推导，先列出已知条件，再逐步计算"，正确率会大幅提升。我猜原理在于，模型在逐词生成时，中间推理步骤相当于额外的 Token 上下文，给它更多"思考空间"，也就更容易落到正确区间里。

其次是少样本提示。零样本提示是完全靠模型常识回答，少样本则是你在提示里给出 2-3 个例子。对格式敏感的任务，比如让模型输出一份结构固定的 JSON，给一个示例比啰嗦地解释一百遍字段含义都管用。我做过一个实验：让模型从客服对话中抽取用户意图，用少样本提示时，准确率从 78% 直接跳到 92%，这就是示例对齐的威力。

最后是系统提示词。商用 API 通常允许设置系统级指令，它相当于给整个对话定义一个"人设和边界"。系统提示词里可以写明这个 AI 助手是什么身份、回答风格的底线在哪里、什么内容不能生成、遇到不知道的事应该怎么回应。它和用户输入的普通提示最大的区别是优先级更高，相当于产品的底层配置。我在做自己的聊天机器人项目时，会把品牌口径、回复语气、安全边界全部写进系统提示词，之后再让用户提问，模型就不会被一个刁钻提问带偏。

4. 从文字到画面再到声音：多模态 AI 不只是会聊天

4.1 文生图背后的扩散模型，像"去噪"一样生成画面

我第四天安排的是多模态内容生成，这部分最容易做出成就感。先说文生图。你大概已经用过不少作图工具，知道输入一段描述就能得到一张图片，但它的原理值得花点时间理解。目前最主流的架构是扩散模型，它的思路还挺反直觉的：训练时，先把一张清晰图片不断加噪，直到完全变成一坨雪花噪点，然后让模型学习逆过程，从噪点一步步还原出原图。实际生成时，模型就是从一个随机噪点出发，根据你给的文字描述，一步步去除噪点，最后得到一张全新图像。

理解扩散模型之后，你就明白为什么提示词质量对图像生成如此重要了。因为模型是从关键词关联的视觉模式出发的，你写"一只坐在沙发上的橘猫，电影感灯光，浅景深，俯拍视角"，比写"一只猫"在构图和光影上的表现力强一个量级。如果你用过本地部署的开源方案，还会发现"反向提示词"这个设置，里面可以写上不希望出现的元素，比如"模糊、低分辨率、变形"，这一步相当于告诉模型在去噪过程中避开这些视觉特征。

这天的练习除了单纯的文字出图，我建议你连一条完整工作流：文生图生成角色分镜，再用图生视频能力让静态画面动起来，最后配上语音合成。我的同事靠这条链路做过一条 AI 短剧 demo，整个制作耗时不到三小时。目前短视频平台上已经有大量借助 AI 生成素材做的短剧内容，底层技术栈就是这么一回事。你也可以用自己的照片或素材跑一遍，理解相当深刻。

4.2 文生视频与数字人：今年最热的落地方向

花一天时间做图可能不过瘾，把视频生成看明白就更值了。文生视频的技术难度比文生图高一个数量级，因为它不只要生成一帧画面，还要保证连续帧之间的时空一致性，也就是说物体动起来不会变形、光线不会乱跳。目前各厂商的文生视频模型能做到几秒到十几秒的高质量片段，常见用法是结合提示词生成镜头素材，再剪辑进成片。

在商业场景里，数字人是一个更成熟的落地方向。所谓数字人，通常是先录制一段真人视频，再用模型训练出形象和声音，之后只需输入文字就能生成对应口播视频。这套方案被大量用在直播带货、口播知识类账号、企业内训视频上。我给自己搭过一个数字人做每周技术分享，一次性录制 10 分钟样本，后面每期内容只需撰写文案，几分钟就能产出视频，省掉了重复录制的时间。这里提醒一句：声音克隆涉及个人肖像权和声音权益，用它做自己的形象没问题，拿来仿冒他人则属于高风险行为，红线别碰。

4.3 AI 音视频的工程链路：字幕、配音、剪辑自动化

从技术人的角度，AI 音视频的价值不只是"生成"，更多是"替代重复劳动"。一条短视频产出要经过写稿、录音、做图、剪辑、配字幕多个环节，每个环节都有对应 AI 工具介入。语音合成负责把文案转成自然的人声；自动语音识别则能把已有视频转成带字幕后重新剪辑；音乐生成可以按视频情绪自动配背景乐。把这些接口串起来后，我见过最极端的例子，是一条口播视频从文案到成品全流程 15 分钟，这在两年前需要专业的后期团队干半天。

如果你要学 AI 音视频，我建议不需要弄懂所有模型的数学公式，重点掌握三件事：第一，各种媒体类型对应的模型家族分别是什么；第二，各接口的输入输出格式长什么样，能不能接进自己的流水线；第三，怎样的提示词能稳定产出符合品牌调性的素材。掌握了这三件事，你的角色就从一个"会用工具的用户"变成了"能设计自动化流程的工程师"。

5. Agent 要把大模型变成真正"跑腿干活"的智能体

5.1 工具调用：让模型不再只是"说话"，而是"动手"

第 5 天我终于开始研究 Agent。前面学的大模型，本质上只能根据上下文生成文本，它不能帮你查天气、不能替你下单、更不能操作数据库。Agent 的出现改变了这一点：它让模型具备调用外部工具的能力。整个流程大概是这样：

1. 用户提出一个请求，比如"帮我查一下明天航班情况"
2. 模型识别需要调用一个工具，并输出结构化的调用意图，例如{"function": "query_flight", "params": {"date": "2024-10-02"}}
3. 程序拿到这个结构，去执行真实的航班查询 API
4. 查询结果再拼进上下文，模型根据结果生成面向用户的最终回答

这样模型就不只是"动嘴巴"，而是真的能"跑腿"了。这句话听起来简单，但是 Agent 领域最核心的范式革命。

具体到代码实现，各大推理 API 会提供函数调用或工具调用能力，你要做的就是把可用工具的函数名、参数描述、用途描述告诉模型。模型会在需要时主动决定用哪个工具、填什么参数。工程上有一个细节：工具描述写得越精确，模型选择工具的准确率越高。我踩过坑后习惯在描述里写清楚"什么场景用这个工具、什么时候不要用这个工具"，效果提升非常明显。

5.2 RAG：让 Agent 不再"凭空想象"，而是"先查资料再说话"

如果说工具调用是 Agent 的四肢，那 RAG 就是它的外置记忆。前文提到大模型解决不了幻觉问题，因为你只靠它脑内的参数去回答，它遇到不知道的事情时很容易编。RAG 的思路是：不让模型裸奔去答，而是先从外部知识库里检索相关片段，拼进上下文再做回答。这个链路可以拆成下面几步：

• 第一步，把知识文档切成小块，每块几百到一千字符，太大会稀释注意力，太小则丢失语义；
• 第二步，用嵌入模型把每一块转成向量数组，存入向量数据库；
• 第三步，用户提问时，把问题也转成向量，在向量库中做相似度检索，找出最相关的几个片段；
• 第四步，把片段和问题一起交给大模型，让模型基于这些片段生成有依据的回答。

这就是为什么 RAG 能大幅降低幻觉：模型的答案有了"引用来源"，而不是凭空想出来的。我自己的项目里做企业知识问答时，接入 RAG 之后幻觉率从 15% 降到了 2% 以内。对于技术人，RAG 这套流程不需要你自己从头搭向量库，市面上主流向量数据库和嵌入模型都有成熟服务，你理解原理之后，最需要设计的其实是切片策略和召回逻辑——切片粒度、检索阈值、重排策略，这些决定了系统最终效果。

5.3 多 Agent 协作与并发控制：从单兵作战到团队流水线

学会了单个 Agent，自然会想：能不能让多个 Agent 分工配合？这就聊到我最感兴趣的"多 Agent 协作"了。比如一个客服系统，可以分成一个意图识别 Agent、一个知识查询 Agent、一个情绪安抚 Agent、一个工单创建 Agent。用户发来一句话，意图识别 Agent 先判断该转给谁，知识查询 Agent 查资料，工单创建 Agent 记录后续处理。每个 Agent 各司其职，相当于把一个大任务拆解成流水线。

但多 Agent 系统最麻烦的不是功能设计，而是状态同步和并发控制。多个 Agent 之间要共享上下文状态，否则一个 Agent 刚确认了订单信息，另一个 Agent 已经忘了，就会出现严重 bug。工程上通常会用统一的消息队列、共享记忆存储、任务编排框架来解决。同时，Agent 应用往往要面对高并发请求，比如客服高峰期每秒几十个用户进来，每个请求还可能带多个工具调用链，这就会把并发压力放大好几倍。我的做法是给每个 Agent 节点做限流和超时控制，给外部 API 调用设定重试策略，并在编排链路里加入全链路追踪，方便定位是哪一步拖慢了整体响应对。Agent 真正落地，拼的不是模型能力，而是这些工程细节。

6. 学完概念之后，评估一个 AI 系统好坏才是真功夫

6.1 传统测试思维卡在了哪里

我第 6 天在翻自己以前的测试笔记，才发现 AI 系统评估是一个经常被忽视的大话题。传统软件测试讲究确定性：输入同样的数据，预期得到同样的输出，断言不通过就视为 bug。但大模型的输出天然是随机的，同样的提示词，温度参数稍微变一下，答案就能换个说法。你没法写一条断言"响应必须等于某某字符串"。所以很多人做 AI 应用时感觉测试无从下手，本质上是因为还在沿用旧的确定性测试范式。

面对 AI 系统，要把思路从"断言正确"转向"评估质量"。比如回答是否覆盖了问题核心？是否有幻觉内容？引用是否真实存在？语气是否符合产品设定？是否规避了不安全内容？这些指标无法用简单的等于判断，往往需要借助大模型本身来打分。我自己用过一个方案：拿一批标准测试问题，让被测模型回答，再让评测模型按一套打分标准给结果打分。这套思路在学术上叫大模型作为评判者，实测下来和人工评分的相关性相当高。

6.2 一份轻量评估方案：从评测集到回归基线

给你一套可以抄作业的评估方案。第一步，整理一份评测集，覆盖你产品的主要场景，大概 50-100 个问题即可。第二步，定义评分维度，我常用的有四类：正确性、完整性、安全性、风格一致性。第三步，用评测模型对每个回答打分，或者更简单地做一个通过率统计。第四步，把上一轮的评分当作回归基线，下次改提示词、换模型、升级系统之后，重新跑同一份评测集，对比分数变化，防止"修了一个 bug 引出三个新 bug"。

这个流程看起来简单，但对 AI 应用质量保障的意义极大。过去半年我自己维护的聊天机器人，就是靠这套回归基线踩住了好几次模型服务升级带来的效果回退。还有一些更细的指标值得记在本子上：幻觉率可以直接统计回复中出现"编造引用来源"的次数，这是知识问答类产品最重要的红线之一；响应延迟要按大模型和服务器的不同阶段分开监控，用户感受到的整体延迟往往由多个环节组成，光看终点数据找不出瓶颈在哪里。

6.3 工程实践心得：什么项目适合上大模型，什么不适合

最后分享一点工程选型上的真实经验。不是所有功能都应该用大模型实现。你完全可以先把常见需求归一下类：文本摘要、命名实体抽取、情感判断、语义检索、内容改写，这些天生适合大模型；而精确数值计算、有固定规则的状态流转、重复性极高的格式化输出，传统代码可能更便宜、更快、更稳。我见过有人用大模型做两数相加的接口，这不仅浪费算力，还带了不确定性和延迟，纯属本末倒置。

真正的技术人做 AI 工程，核心任务是在合适的位置接入大模型，并在周围建立保护带：前面用规则做输入校验，后面用 RAG 做知识约束，再用评测集做质量守门。这个认知是我 7 天里最大的收获。不要被"万物皆可 AI"的宣传冲昏头，会准确判断"哪里不必用 AI"，往往比会调用 AI 接口更值钱。

七天过完，我的笔记里多了几十条新概念，但最重要不是记住了它们，而是知道了概念之间的关系：模型是最底层的能力，提示词是交互方式，多模态扩大了能力边界，Agent 把能力转变成自动化行动，RAG 给了它可靠记忆，评估体系则确保这一切不会失控。国庆之后开工第一天，我已经能直接上手新项目做技术选型了。这套扫盲路线不一定适合所有人，但如果你也有同样"听了一堆词却串不起来"的困扰，照着这个顺序走一遍，应该是稳的。