程序员必看！大模型基础概念全解析，收藏不迷路

本文以通俗易懂方式介绍大模型核心技术，包括LLM、Transformer、Prompt、API调用、函数调用、Agent、MCP协议及A2A协议。文章强调AI将重塑程序员行业，未来AI编程工程师将解决AI模糊性问题，而重复性工作将交由AI处理。适合有基本代码能力的读者快速掌握大模型基础概念。

1、LLM (大语言模型)

本质就是文字接龙。

把问题当成输入，把大模型当成函数，把回答当成输出。

大模型回答问题的过程，就是一个循环执行函数的过程。

另外有必要了解一下，AI技术爆发于2023年，ChatGPT经过了几次迭代才崭露头角。

• Transformer架构。
• 参数爆发增长。
• 人工干预奖励模型。

思考题: 语言能代表智能吗?

2、Transformer (自注意力机制)

自注意力机制就是动态关联上下文的能力。如何实现的呢？

• 每个分词就是一个 token
• 每个token 都有一个 Q, K, V 向量 (参数)

• Q 是查询向量

• K 是线索向量

• V 是答案向量

• 推理的过程:

• 当前token 的Q 与 前面所有的 K 计算权重

• 每个 token 的V加权相加得到一个 token预测值

• 选择 N 个与预测值最接近的 token, 掷骰子选择

最简化示例: 小明吃完冰淇淋，结果 => 肚子疼。

首先分词及每个token的 Q, K, V向量。

接着开始推理:

1. 使用最后一个 token 的 Q（“结果”的 Q 向量）

Q_current = [0.8, 0.2]

2. 计算 Q_current 与所有 K 的点积（相似度）

点积公式：Q·K = q₁*k₁ + q₂*k₂

3. Softmax 归一化得到注意力权重

将点积结果输入 Softmax 函数

4. 加权求和 V 向量生成上下文向量

将权重与对应 V 向量相乘后相加：

最终上下文向量：

[0.053−0.108+0.243+0.148,0.212+0.27−0.081+0.037]=[0.336,0.438]

5. 预测下一个 token

模型将上下文向量 [0.336, 0.438] 与候选 token 的嵌入向量对比：

嵌入向量不作过多解释, 只要知道QKV三个向量可从嵌入向量计算得到即可

最终模型选择最高概率的 “肚子疼” 作为下一个 token。

注意在实际场景中，预测的下一个token是不确定的，是因为有一个掷骰子的操作，大模型会在概率最大的几个token中随机挑选一个作为最终输出。

3、Prompt (提示词)

对于这个词大家并不陌生。我们用chatGPT时经常会用到， “你是一个…”

但你真的理解它吗？

与ai对话时的这种预设角色，其实并不是严格意义上的 prompt。

为什么这么说呢？先看一下API。

4、理解API

我们前面提到过大语言模型的 本质就是文字接龙，相对应的使用大模型也比较简单。可以参见deepseek的文字接龙 api 请求：

https://api-docs.deepseek.com/zh-cn/api/create-chat-completion

这里比较重要的几个部分，需要理解:

1. temperature 温度

Temperature（温度） 是一个控制生成文本随机性和多样性的关键参数。它通过调整模型输出的概率分布，直接影响生成内容的“保守”或“冒险”程度。看几个典型场景:

2. tools 工具支持

大模型对 function calling 的支持，后面再详细介绍。

3. 角色和信息

这一部分是ai对话的主体。其中role 定义了四个角色。

• system 系统设定。
• user 用户回复。
• assistant 模型回答。
• tool 是配合function call工作的角色，可以调用外部工具。

回到前一章的问题，ai对话时其实是user部分输入的内容，所以system角色的设定内容才应该是严格意义上的Prompt。

这有啥区别呢? (user 与 system?)

个人一个合理的猜测: system的内容在Transformer推理中拥有较高的权重。所以拥有较高的响应优先级。

4. 关于多轮对话

因为LLM是无状态的。我们要时刻记得文字接龙的游戏，因此在实际操作中也是这样的。

• 在第一轮请求时，传递给 API 的 messages 为。

• 大模型回答。

• 当用户发起第二轮问题时，请求变成了这样

5、Function Calling (函数调用)

仅仅一个可以回答问题的机器人，作用并不太大。

要完成复杂的任务，就需要大模型的输出是稳定的，而且是可编程的。

因此OpenAI 推出了 function calling的支持。也就是前面提到的 tools参数相关内容。

1. 基本流程

• 工具声明及用户输入

• 模型检测到需要使用工具，返回相关工具参数

• 开发者根据方法名和参数，调用相关工具方法

• 将工具方法的返回值，附加到请求中，再次请求大模型

• 得出最终结果

"The current temperature in Paris is 14°C (57.2°F)."

• 总结一下

2. 实现原理(猜测)

a. 实现方式一: prompt 遵循 (示例)

提前设置规则:

b. 实现方式二: 模型训练特定优化

对结构化输出有特定要求，可能需要特定训练吧。这个不太确定?

6、Agent (智能体)

包含: 大模型，任务规划，上下文记忆，工具调用。它是大模型能力的拓展。其实只要对API进行简单的封装，只要能完成特定任务，都可以称为智能体。比如下面的例子:

1. 创建AI客服系统

这个智能体，主要包括:

1. 配置了一个 prompt: “你是一个电商客服，可查询订单状态”

2. 引入 query_order 工具

3. 其它创建方式

服务商开放接口，供用户创建，比如腾讯元器：

https://yuanqi.tencent.com/my-creation/agent

一个简单的提示词都可以创建智能体：

7、MCP (模型上下文协议)

通过上面的智能体调用工具的示例我们可以看到，每接入一个工具，都需要编写相应的接入代码。经常写代码的我们都知道，这不是好的架构设计。 好的设计应该把动态改变的部分 ( tools的声名和调用分离出来 )，做为一个独立的模块来拓展。这就有了大众追捧的 MCP: -----(哪有这么玄，都是程序员的常规操作啊…)

MCP是工具接入的标准化协议

https://modelcontextprotocol.io/introduction

遵循这套协议，可以实现工具与Agent的解耦。你的Agent 接入MCP协议的client sdk后。接入工具不再需要编写工具调用代码，只需要注册 MCP Server就可以了。而MCP Server可由各个服务商独立提供。

MCP Server做什么呢?

1. 声明提供的能力 ListTools。
2. 调用能力的方式 CallTool。

来看一下MCP Server的部分代码 (红框中就是做上面两个事，不难理解) :

8、A2A (Agent通信协议)

A2A本质是对 MCP协议的拓展，按字面意思就是 Agent to Agent. 有兴趣的自己详细看吧。

智能体与智能体之间通信的标准化协议

https://github.com/google/A2A?tab=readme-ov-file#agent2agent-a2a-protocol

在这套协议下，一个智能体要引入其它的智能体的能力，也变得可插拔了。

未来假想

如同蒸汽机，电，计算机这些伟大的技术一样。AI会成为下一个彻底改变人类生活工作方式的新技术。

1. 现在AI编程能力越来越强，程序员是不是要失业了?

职业不会消失，消失的只有人。但是AI编程的确会重塑整个行业。

我预想几年后，纯粹的业务代码工程师可能会消失。而会增加更多的AI编程工程师。

AI编程工程师的职责是解决AI模糊性的问题。而工具的引入就是增加确定性的手段。

我们程序员可以把自己的积累通过 mcp server的方式，挂载到项目agent 上去。这样我们就可以解放双手，去解决更多有挑战性的问题。

2. 当前我们有哪些工作可以由AI来处理?

理论上一切重复性的工作都可以交由AI完成。保险起见，创造性的工作暂时可以只作为参考。

• 日常的反馈分析。
• 团队知识库。
• 个人知识库。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包：

• ✅ 从零到一的 AI 学习路径图
• ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
• ✅ 百度/阿里专家闭门录播课
• ✅ 大模型当下最新行业报告
• ✅ 真实大厂面试真题
• ✅ 2025 最新岗位需求图谱

所有资料 ⚡️ ，朋友们如果有需要《AI大模型入门+进阶学习资源包》，下方扫码获取~

① 全套AI大模型应用开发视频教程

（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）

② 大模型系统化学习路线

作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

以上资料如何领取？

为什么大家都在学大模型？

最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！

不出1年，“有AI项目经验”将成为投递简历的门槛。

风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

以上全套大模型资料如何领取？