直接说结论：我花了两周时间，把从 Transformer 到智能体设计这条技术线的图解重新整理了一遍，现在这套图已经成了我日常沟通、写方案、带新人的“固定课件”。这篇文章就把这套“收藏级”AI 技术图解的核心思路、画图方法、踩坑记录全部拆给你，适合刚入门 AI 的技术新人，也适合要做技术分享、写架构文档、带团队评审的开发者。哪怕你只是对“Transformer 为什么能成为主流模型结构”“智能体到底在设计什么”感到好奇，也能靠这套图解把概念拼图补完整。
1. 先搞清楚：这套“技术图解”到底解决什么问题
1.1 为什么靠文字学 AI 结构总是学完就忘
很多人学 Transformer，第一反应是读论文、看公式、逐字逐句啃源码。但文字是线性的，而模型的真实结构是并行的、循环的、有分支的。你读完了“由多头注意力层和前馈网络组成”，也背下了“Q、K、V 分别代表 Query、Key、Value”，但一旦让你画出整个模型的数据流，大多数人会卡在“向量从哪来、到哪去、形状变成多少、为什么这里要残差连接”。
图解解决的就是这个问题。一张好的架构图，本质上是一张可导航的地图：你把张量想象成快递包裹，把层想象成处理站点，把注意力机制想象成包裹之间的“关联扫描”。快递从哪里发出、经过哪些工作站、每个站点怎么加工、加工结果怎么合并，一目了然。我常跟人说，别把技术图当做“论文插图”，它应该是你脑子里的那套“物流网络图”。
1.2 这套图解适合谁：三类人最需要
第一类是初学者，刚接触大语言模型，需要一个从“注意力机制”到“智能体”的完整地图，而不是零散的文章碎片。第二类是工程师或研究者，要做技术方案、做代码走查、做实验记录，需要一版能放进文档、能口头讲清、能指导代码落地的结构图。第三类是技术负责人或布道者，要给团队做分享、给客户做演示，需要把复杂概念降维，同时不能丢失关键细节。
我整理这套图的原则也很简单：每一张图都要能回答三个问题——模块是什么、为什么需要它、数据在模块间怎么流动。如果一张图画完你不能对着它把整个过程讲给一个不太懂技术的人听，那这张图就还需要改。
1.3 整套图的整体分层思路
我把整个知识体系分成四层。底层是基础组件层，主要画嵌入、位置编码、注意力机制、前馈网络，这是 Transformer 的最小积木。第二层是模型结构层，把单层结构、多层堆叠、残差连接、层归一化组合起来，画出完整的语言模型主干。第三层是训练与推理层，区分预训练和推理阶段不同的数据流，这部分很多图解都含糊。最上层是智能体设计层，把模型放到一个更大的系统里，画它如何感知环境、调用工具、维护记忆、规划动作。
这四层并不割裂。你在画智能体主循环时，随时要回到第二层去查“模型的输入格式长什么样”“上下文窗口怎么用”；你在画第三层时，也要理解第一层的注意力计算细节。图解的好处就是让这种“跨层回看”变得很自然。
2. 图解 Transformer：把“注意力”画成你能上手画的样子
2.1 先从总览图开始：一张图说清模型骨架
我画 Transformer 结构图时，第一版不会急着把 40 个箭头全部塞进去。先画一个只有六个模块的总览图：输入序列、嵌入层、多头注意力、前馈网络、残差连接与层归一化、输出映射。每个模块旁边只标一行字说明职责，然后画一条贯穿整张图的主线。
这条主线就是张量流向。输入是一串 Token，每个 Token 被查表映射成一个高维向量，这一批向量同时进入多头注意力模块，注意力按照“每个位置应该关注序列中哪些位置”来重写向量，然后经过前馈网络做一次非线性变换，再叠加残差输出到下一层。你把这个总览框画出来，细节才有地方挂靠。
需要特别注意的是，输入 Token 的流向在图中是“并行”的。很多人第一次画会忍不住画成“第一个词算完再算第二个词”，这是错的。实际计算是整段序列一次性进入矩阵运算，图里应该用一叠向量或矩形块来表示“一批向量”，而不是一个个圆圈排队。
2.2 Q、K、V 怎么画才能一眼看懂
注意力机制是 Transformer 图解里最容易画糊的部分。我用过一个比较顺手的画法，是把 Q、K、V 比作一个大型文档检索系统的三个角色：Q 是你手里的搜索词，K 是文档柜里每个文件夹的标签，V 是文件夹里面的内容。你要做的事情，是拿搜索词去比对所有标签，算出相似度，再按相似度把内容取出来加权组合。
画图上，我习惯在多头注意力模块内部画三条平行输入分支，标注 Q、K、V，然后在中间画一个“缩放点积注意力”小方框。在这个小方框里画一个矩阵：行是 Q 的各个位置，列是 K 的各个位置，格子颜色深浅表示注意力权重。旁边写一行公式：先让 Q 和 K 做点积，除以根号 d 做缩放，再过 Softmax 归一化，最后乘 V。
这个矩阵图特别重要。因为它能直观解释“为什么叫注意力权重”：深色格子代表模型在计算第 i 个词的时候，格外关注了第 j 个词。如果你在图中同时标注了 mask 区域——比如把右上三角全部标记为“屏蔽”——读者就可以看到自回归解码时每个位置只能看到自己及之前的信息，而不是偷看未来。
2.3 位置编码和归一化：两张不能省的小图
位置编码是 Transformer 图解里经常被省略却极其致命的模块。因为注意力计算本身对位置不敏感，你把这些向量随机打乱顺序，结果可能一模一样。没有位置信息的模型，就像一份把每句话的关键词都拆出来但丢了页码的档案。画位置编码时我建议画一个很小的“加和符号”图：原始词向量和位置向量同时输入加法器，输出作为实际进入注意力模块的向量，然后再简单画一下不同位置向量的波形图，说明同样是词向量，位置不同会叠加不同模式。
层归一化也要单独画清楚。它做的是把每个样本的特征维重新拉回到稳定的均值方差范围内，避免深层网络训练时数值波动过大。图里只需要画出“沿着特征维度做归一化”的方向线，并标注“对每个 Token 独立计算，不跨 Token 统计”，避免和 batch 归一化混淆。这里很多图解会画错，把归一化方向画成横跨整个序列，但实际 LayerNorm 是每个样本内部自己归一化，不是查全局统计量。
2.4 训练路径和推理路径必须分开画
我见过很多结构图把训练和推理画在同一条直线上，导致新人误以为两步只是“有没有标签”的区别。其实两条路径的差异非常大。
训练阶段，模型可以一次性看到完整的目标序列，所有位置的预测同时计算，并行度高；在图中你可以画一个大的矩阵并行块，标注“teacher forcing 方式，用真实目标词作为下一步输入”。推理阶段则完全不同：生成第一个词时只能看到起始符，生成第二个词时要把第一个词拼到输入末尾，再重新过一遍模型，是典型的自回归循环。
画推理路径时，我建议画一个带反馈回路的图：输出 Token 经过一个延迟单元，再拼接到输入序列尾部，形成“自己吃自己”的循环。这个反馈回路如果不画，读者就很难理解为什么同样一个模型，训练时那么快、推理时那么慢，为什么 KV Cache 能省重复计算。我后文讲智能体的时候会再提这个回路，因为智能体的目标很大程度就是围绕“如何高效地多次利用这个自回归循环”做设计。
3. 从模型到系统：图解智能体设计的关键主线
3.1 智能体不是一个模型，而是一套“人机协作系统”
很多人以为智能体就是把一个强大的语言模型包装成自动问答程序，这其实低估了智能体设计的复杂度。智能体是一个系统，语言模型只是其中的“推理核心”。一个完整的智能体至少要包含：感知模块，负责接收用户输入、环境状态或反馈；规划模块，负责把大的复杂目标拆解成可执行的子步骤；工具调用模块，负责选择并调用外部 API、数据库、代码解释器或搜索接口；记忆模块，负责保存历史信息、长期知识和本次任务的临时上下文；动作执行模块，负责把模型决定转化为实际输出或操作。
我画智能体架构图时，第一张图通常画成五个模块围绕“推理核心”的分布图，而不是线性流程。核心原因在于：智能体的行为不是单向的。规划可能改变工具调用的顺序，工具返回结果又会反过来影响下一步规划，记忆则贯穿全局。把它画成“环”比画成“流水线”要准确得多。
3.2 主循环图解：观察、思考、行动、观察
智能体最基础的运行模式是循环。这个循环长这样：观察外部消息或系统状态，调用模型进行思考，根据思考结果选择并执行一个动作，动作产生新观察，然后再次进入思考。每一次循环，模型都会基于新增的观察更新自己的判断。这其实很像一个飞行员看仪表盘、调整操作杆、再看仪表盘确认效果的过程。
画这个主循环时，我踩过一个坑，就是一开始只画了“观察-思考-行动”三个节点，导致别人问我“如果行动失败怎么办”时，我在图上找不到失败分支。后来改成四个节点：观察、规划、行动、反思。在行动旁边画两个出口，一个通往“更新记忆并继续”，一个通往“触发异常处理”。反思节点专门负责比较预期结果和实际结果，把差距转化为下一轮规划的依据。这样一改，整张图就把“智能”体现在“反馈回路”里，而不是一个单方向的问答流。
3.3 工具调用和“记忆分层”的图解细节
工具调用是智能体设计的重头戏。模型本身并不直接操作外部系统，它只输出一个“工具调用请求”，由执行模块去真正执行。我画工具调用时，会画三个纵向层：模型层、接口协议层、资源层。模型层决定“现在应该调用哪个工具、传什么参数”；接口协议层负责把模型输出解析成结构化指令，比如函数名和参数列表；资源层代表实际运行的数据库、搜索引擎、代码环境。
这个三层图能帮你看清很多问题：模型输出的格式错了，是协议层解析失败；工具执行超时了，是资源层问题；上下文里没有可用工具描述，是系统提示词没写好。排查问题时按层定位，效率极高。
记忆模块我则习惯画一张分层表。最底层是长期记忆，比如用户的偏好、历史项目知识，通常用向量数据库存储，需要检索才能拿回来。中间层是工作记忆，包括当前任务相关的中间结果、临时变量。最顶层是短期交互上下文，也就是模型当前这次请求里携带的全量文本。三者不是一回事。长期记忆不能全部塞进上下文窗口，否则令牌开销会爆炸；短期上下文则有长度上限，超出后必须做压缩或丢弃决策。
3.4 思维链和任务规划怎么画不玄乎
思维链这个概念经常被画得很玄，其实本质就是“把复杂问题拆解成一系列中间推理步骤”。我在画它时，会画一条时间轴，从上到下依次列出子步骤。每个子步骤框里，只保留“输入、决策依据、输出”三个要素。这样一来，读者就能直观看到模型如何把“制定一个旅行计划”拆解成“查航班、查酒店、排日程、做预算”四个子任务，又如何在子任务之间传递信息。
需要补充的一点是，思维链和前一节的主循环并不冲突。思维链可以看作“规划模块的内部推理过程”，而主循环是“智能体与外界的交互过程”。一张图从里往外画，另一张图从外往里画，它们构成互补视角。在把智能体图解整理给团队时，我通常先画主循环图，再补充一张思维链时间轴图，这样大家既能理解宏观循环，又能理解单次规划的内部逻辑。
4. 图解方法论：工具、颗粒度、标注规范
4.1 架构图、数据流图、时序图不是一回事
我自己最初绘图时最大的问题，是把所有信息塞进一张架构图。后来发现，合理的方式是先判断这个知识点最需要表达什么维度，再选择图的类型。
模块组成和层级关系用架构图，适合展示智能体有哪些模块、模型内部有哪些层。数据怎么在模块间流转用数据流图，适合展示张量形状变化、循环路径、缓存流向。调用先后顺序用时序图，适合展示一次任务从用户输入到工具调用再到结果返回的完整交互过程。还有一类是状态图，适合展示智能体在不同阶段之间的转换条件，编码运行时切换很实用。
选错图的后果非常现实。我在讲缓存机制的时候，一开始用架构图硬画，结果出来的图被箭头填满，越看越乱。换成横向时间轴的调用序列图后，问题立刻清晰：第一次请求计算完整结果，后续请求复用缓存，序列图上两条时间线一对比，节省的计算一目了然。所以你先问自己“我到底想让读者理解结构、流程还是状态”，然后再决定画哪种图。
4.2 颗粒度控制：给初学者和工程师的画法截然不同
图解最容易犯的错，是“试图覆盖所有细节”。给初学者的图，应该隐藏公式，突出直觉。比如画注意力机制，可以只画检索类比图：搜索词、标签、内容、加权取回。给工程师的图，则必须保留维度标注、mask 标记、缓存位置。
我的经验是分版本维护。手头保留一份“讲解版”，用类比和简单图标，适合会议分享、新人培训；再维护一份“实现版”，用精确的张量形状和函数名，适合编码对照、代码走查。两份图共享同一套模块命名，切换不混乱。
还有一个比较实用的技巧：在实现版图里，每个模块上用标签标出对应代码文件或函数名。我在图上写过“在 xx 模块的 attention.py 中，类名为 MultiHeadAttention，forward 入口参数是 hidden_states、attention_mask”。这样工程师拿到图后能直接定位代码，不用翻跳跃式文档。
4.3 标注张量形状和关键超参数：让图变成“解题线索”
标注是技术图最容易被低估的部分。虚线加文字“这里是残差连接，输入输出维度不变”，和标注“(batch=8, seq_len=512, hidden=768) 经过残差连接输出同维度”，引导效果完全不同。我会在每个关键节点旁边标注张量形状，用简写约定：B 表示批量大小、S 表示序列长度、H 表示隐藏维度。当形状发生变化时，在箭头旁边标出是哪里改变了，比如投影矩阵 W_Q 把 H 维度变成注意力头数乘以头维度。
超参数也要标。层的数量、注意力头数、dropout 比例、激活函数类型，这些信息决定读者能否从图反推出模型的规模。我用过一个小习惯：在模型总览图的角落加一张小表，列出“参数规模估算”，比如 hidden=768、12 层、12 头，然后粗略给出参数量级，帮助读者建立“维度大小与计算消耗”的直觉。
4.4 绘图工具与图层管理经验
工具选择本身不是重点，重点是图层管理。我在画复杂系统图时，一定会分图层：底层放背景色和基础框，中间层放模块框和连接线，顶层放标注文本和超参数标签。这样修改时不会误删连接线，也能快速切换“只显示框架”和“显示全部细节”两种视图。
图层命名的规范也很简单：主线层、模块层、数据流层、标注层、异常分支层。每次画完一张图，我会反选检查一遍图层内容，确保没有箭头被其他矩形块遮挡，没有标注文字悬空没有参考对象。绘制连接线时，尽量统一用正交折线而不是随意弯曲的曲线，正交折线在复杂结构里更阅读友好，视觉噪声也小。
5. 实测排查与常见误区速查
5.1 图解与代码不一致：最隐蔽的信息腐坏
技术图解有一个特殊问题：代码在持续迭代，图往往停留在某个时点，时间一长两者就出现了偏差。比如代码里已经改成 Flash Attention 实现，但图里还画着标准多头注意力流。这种不一致最坑人，因为看的人会拿着过期的图去理解新代码，怎么都对不上。
我在维护图解时定了一条规则：任何图都必须标注“版本快照”信息，至少包括对应代码版本号、绘制日期、主要假设。每次改动代码后，必须检查相关图是否需要更新。这项工作不能靠记忆，要在项目计划里安排固定评审项，否则拖两周后一定有人拿着旧图讨论新设计。
5.2 常见错误模式：箭头乱穿、循环不清、信息过载
箭头乱穿，指连接线交叉过多或横跨多个模块，读者视线被切割得支离破碎。解决方案是引入必要的“数据总线”画法，用一条主干线贯穿全图，分支用短连接接入主干。循环不清，指反馈回路没有明确起点和终点，读者看不出循环边界。画循环路径时一定要在回路上加箭头方向，并配上文字说明“此路径在推理阶段每生成一个 Token 执行一次”。信息过载，指在一张图里同时画了模块结构、超参数、代码引用、训练技巧，任何一张图承载超过一个主题就会变成“圣诞树”。我检查信息过载的方法很简单：能不能用一句话说出这张图想传达什么，如果说不出来，拆图。
5.3 概念混淆重灾区：LayerNorm 与 BatchNorm、多头注意力与多轮循环
最后汇总三个最容易在图解中混淆的概念。第一，LayerNorm 和 BatchNorm。LayerNorm 是对每个独立样本的特征维度做归一化，与 batch 里其他样本无关；BatchNorm 是在每个特征维度上跨 batch 做统计。图中最好用不同方向的矩形条区分，前者横向窄条，后者纵向窄条。
第二，多头注意力的“头”不是模型层数。多头是把维度切分成多个子空间，并行计算注意力，最后拼接；层数则是模型堆叠的次数。这两个如果画成含混的嵌套结构，会误导读者把注意力头理解为模型的纵向深度。
第三，自回归生成是“循环执行”，不是“执行一次”。训练时并行计算容易让人忽略这一点，但推理时每生成一个 Token 都要把新 Token 拼回去重新过一遍。图里如果有“Token 生成过程”，一定加反馈回路，否则漏掉这个循环，后续理解 KV Cache 和智能体任务规划都会出现断层。
5.4 我的实操习惯与一个小技巧
最后分享一个实操习惯。我每次画完一套技术图解后，会专门做一次“白板讲解测试”：不在图上做任何标注，直接拿白板笔把图的核心结构讲给另一个人听，尽量脱离原图复述。如果哪个模块讲不清，就说明那个模块的图需要改。这个测试帮我抓出过很多“画得很漂亮但逻辑不通”的问题。
还有一个很常用的小技巧：给每个模块起一个“行动代号”。比如把多头注意力叫做“多视角检索器”，把前馈网络叫做“记忆精炼器”，把残差连接叫做“安全直通车道”。图里用正式名称，注释和讲解里用行动代号。这样讲的人有抓手，听的人有类比，整个讲解效果会好很多。
这套图解整理下来，我最大的体会是：技术图不是论文的附属品，而是一个独立的知识表达系统。从 Transformer 到智能体设计，路径很长，但只要每一层的图都扎实，你能在任何一层停下来，把一个概念讲明白，也能在任意两层之间建立联系。图解的价值不在于它多好看，而在于它能不能帮你和同伴快速建立共同语言，在讨论模型架构或者智能体系统时，不用再用手比划半天。
