既然你已经理解了大语言模型（LLM）的底层运行机制，接下来我们要思考下一个关键问题：我们该如何让模型真正去执行各类实际任务？
大语言模型本身仅能生成文本。但如果为其配备工具 —— 赋予它网页搜索、数据库查询、调用应用程序接口（API）的能力，模型的能力就会得到极大拓展。 在本节中，你将弄懂工具调用的工作原理，并亲手搭建第一个支持工具调用的应用程序。
之后我们会拓宽视角，从全局宏观层面梳理整体框架。并非所有人工智能系统都要做成完全自主运行的智能体。很多时候，一套简单、运行结果可预判的工作流会是更优解。我们会辨析 AI 工作流与 AI 智能体二者的区别，同样重要的是，搞清楚两种方案分别适用于什么场景。
学完本节后，你会在脑海中建立一套清晰的 AI 系统架构认知框架，做好从零开发专属智能体的准备。
LLM 工具调用、AI 工作流与 AI 智能体完整梳理
一、核心痛点：原生 LLM 的能力边界
纯大语言模型只具备文本生成、逻辑推理、知识记忆三大基础能力，存在天然短板：
- 知识截止：训练数据有时间上限，无法获取实时信息（新闻、实时价格、今日数据）；
- 无外部操作能力：不能查数据库、发接口、读写文件、控制软件、联网检索；
- 数值计算 / 精准查询薄弱：复杂四则运算、SQL 统计、批量数据匹配容易出错；
- 无法落地真实业务动作：下单、发消息、读取本地文档、调用第三方服务全都做不到。
解决方案：给 LLM 外挂工具（Tool Use / Function Calling），让模型从 “只会说话” 变成 “能动手办事”。
二、工具调用（Function Calling）完整工作原理
1. 核心组成
- 工具定义层：开发者预先向模型提供工具清单，包含：工具名称、功能描述、入参 JSON Schema、参数类型 / 必填项、返回值格式； 示例工具：
search_web(关键词)、sql_query(数据库、sql语句)、get_stock(股票代码) - LLM 决策层：模型读取用户需求，自主判断是否需要调用工具、选哪个工具、填什么参数；
- 执行器层（代码侧）：解析模型输出的结构化工具调用指令，本地 / 远端执行真实函数、API、数据库；
- 结果回填层：把工具返回的真实数据封装成文本，塞回上下文窗口，让 LLM 结合工具结果给出最终回答。
2. 标准四步执行流程
- 用户提问 → 系统 Prompt 注入全部工具描述；
- LLM 判断：现有知识不足以回答 → 输出标准化工具调用 JSON（而非自然语言）；
- 后端代码捕获 JSON，执行对应工具，拿到原始数据；
- 将工具返回数据追加到对话上下文，再次交给 LLM，模型整合信息生成最终回复。
3. 两种主流实现方案
- 原生函数调用（GPT、Qwen、GLM、DeepSeek 等主流模型内置）：模型原生支持输出规范 JSON 工具调用，无需复杂提示词；
- 提示词模拟工具调用（开源小模型无原生能力时）：依靠 Prompt 约束模型按固定格式输出调用指令，兼容性强但稳定性弱。
4. 工具调用落地价值
- 补齐实时信息短板：联网搜索、实时行情、当日资讯；
- 完成确定性操作：数据库增删改查、文件读写、第三方 API（支付、地图、推送）；
- 降低推理误差：复杂数学、单位换算、批量统计交给工具计算，LLM 只做整合。
三、AI 工作流 vs AI 智能体（Agent）核心区分
1. AI 工作流（Workflow）
定义
预定义、固定分支、流程可控的 AI 任务链路，每一步执行逻辑、调用工具、判断规则由开发者提前写死，LLM 仅负责单环节文本处理，无自主决策权限。 典型架构：编排引擎（LangChain/LangGraph/Flowise）+ 分步节点 + 固定跳转条件。
特征
- 流程路径可预判，输入固定则输出逻辑固定；
- 自主决策极少，分支、循环、终止条件人工硬编码；
- 每一步任务单一，责任边界清晰；
- 调试、运维、成本管控简单，可批量并发。
适用场景
- 标准化业务处理：文档摘要→关键词提取→数据库入库；
- 固定数据报表：读取 Excel→计算指标→生成周报；
- 客服固定工单：接收问题→检索知识库→固定模板回复；
- 低复杂度、高并发、强合规场景（金融、政务审核）。
2. AI 智能体（Agent）
定义
赋予 LLM自主规划、循环思考、动态选工具、自主终止任务的自治系统，没有固定流程，模型根据任务动态决定下一步动作。 核心循环：思考 (Thought) → 工具调用 (Action) → 观察 (Observation) → 循环直至任务完成（ReAct 框架是标准实现）。
特征
- 流程不可完全预判，复杂任务会自主多轮调用工具；
- 拥有自主规划能力：拆解复杂目标、选择工具、纠错重试；
- 存在循环、多轮交互，上下文消耗更高、延迟更长；
- 灵活性极强，但结果存在不确定性，调试难度更高。
适用场景
- 开放式复杂任务：市场调研（搜新闻→查财报→对比数据→生成分析报告）；
- 未知路径问题：代码排错、多工具组合解决综合需求；
- 个性化自主助手：私人数据分析机器人、自主调研助手。
对比表格
表格
| 维度 | AI 工作流 | AI 智能体 Agent |
|---|---|---|
| 流程控制权 | 开发者预定义固定流程 | LLM 自主动态决策 |
| 工具调用 | 调用时机、次数预先限定 | 自主判断是否调用、调用多少次 |
| 可预测性 | 高，输入一致则链路一致 | 低，复杂任务每轮执行路径可能不同 |
| 资源消耗 | Token 消耗稳定、速度快 | 多轮循环，Token 与延迟更高 |
| 运维难度 | 简单，节点可单独监控 | 复杂，需做循环上限、超时、失败兜底 |
| 最优场景 | 标准化、高频、合规业务 | 开放式、多步骤、无固定解法的复杂任务 |
四、完整 AI 系统分层架构（学完本节建立的全局认知）
从底层到上层，分层清晰，可直接用于从零开发智能体：
- 底层基座层：大语言模型（推理 API / 本地部署 LLM），负责理解、生成、决策；
- 工具能力层：函数封装、API 连接器、数据库驱动、搜索客户端、文件操作工具；
- 调度核心层
- 简单业务：工作流编排引擎（固定节点流转）；
- 复杂任务：Agent 调度器（ReAct/Plan-Solve 循环、记忆管理）；
- 记忆管理层：短期对话上下文、长期向量知识库、任务历史存储；
- 业务应用层：前端交互、业务校验、权限控制、结果导出、日志监控；
- 兜底安全层：工具调用权限拦截、输入输出脱敏、循环次数限制、错误重试机制。
五、落地学习路线（从零搭建专属智能体）
- 基础：掌握 Function Calling 调用规范，完成单工具调用 Demo（联网搜索 / 计算器）；
- 进阶：搭建多工具串联基础链路，区分固定工作流实现；
- 核心：基于 ReAct 实现基础 Agent，完成自主多轮工具调用；
- 工程化：接入向量记忆、增加循环限制、异常捕获、日志；
- 场景选型：根据业务标准化程度，选择工作流 / Agent 架构完成最终产品。
六、关键总结
- 工具调用是 LLM 从 “文本生成” 走向 “实操任务” 的核心桥梁，解决知识滞后、无外部操作能力两大核心缺陷；
- AI 工作流追求稳定、可控、低成本，适合标准化流水线业务；AI 智能体追求灵活、自主、复杂问题求解，适合无固定流程的开放式任务；
- 工具层 + 调度层（工作流 / Agent）+ 记忆层构成通用 AI 系统骨架，掌握这套架构即可独立开发各类行业 AI 应用、专属智能体。
