从RAG到Agentic RAG：构建自主决策AI智能体的实战指南

🚀 30+款热门AI模型一站整合，DeepSeek/GLM/Qwen 随心用，限时 5 折。 👉 点击领海量免费额度

最近在跟进 AI Agent 落地实践时，发现很多开发者对“Agentic AI”的理解还停留在概念层面，感觉它很强大，但具体怎么从零构建一个能自主决策、执行复杂任务的智能体，却缺少一套清晰、可复现的路径。恰好，近期行业峰会上的“代码秀”环节，将 Agentic AI 的构建过程进行了现场拆解，从环境搭建、工具调用到工作流编排，完整呈现了生产级 Agent 的诞生过程。这对于我们一线开发者来说，无疑是最具参考价值的实战指南。

本文将基于这类“代码秀”所展示的核心流程，为你系统拆解如何构建一个具备“Agentic”能力的 AI 应用。我们将从最基础的 RAG（检索增强生成）讲起，逐步深入到 Agentic RAG 的架构设计、工具链集成以及关键的工作流编排。无论你是想快速上手一个智能助手，还是计划在企业内部部署复杂的多智能体系统，本文提供的思路、代码示例和避坑指南都能为你提供直接的帮助。我们将重点关注如何让 Agent 不仅会“答”，更要会“想”和“做”。

1. 从 RAG 到 Agentic RAG：理解智能体的进化

在深入代码之前，我们必须厘清基础 RAG 与 Agentic RAG 的根本区别。这决定了我们整个架构的设计思路。

传统 RAG（检索增强生成）是一个相对线性的过程。用户输入一个问题（Query），系统通过检索器（Retriever）从知识库中找到相关的文档片段（Context），然后将问题和检索到的上下文一并交给大语言模型（LLM），由 LLM 生成最终答案。整个过程可以概括为“检索 -> 拼接 -> 生成”。它的核心优势在于让 LLM 的回答基于事实，减少“幻觉”，但其决策逻辑是固定的、被动的。它无法根据中间结果决定下一步做什么，比如发现检索到的信息不相关时，它不会主动调整检索策略或询问澄清问题。

Agentic RAG则引入了“智能体”（Agent）的概念。在这里，LLM 扮演着“大脑”或“控制器”的角色。它不仅仅是一个文本生成器，更是一个具备规划、决策和执行能力的协调中心。一个典型的 Agentic RAG 工作流可能是这样的：

1. 规划：LLM 分析用户问题，将其分解为一系列子任务或步骤（例如：“首先需要查询产品A的规格，然后对比产品B的价格，最后生成一份对比报告”）。
2. 执行：LLM 根据规划，自主调用相应的工具（Tools）来完成任务。工具可以包括：检索器、计算器、代码执行器、API 调用等。
3. 观察与迭代：LLM 检查工具执行的结果。如果结果不满足要求（例如检索结果不相关），它可以重新规划，调整查询词再次检索，或者尝试调用其他工具。
4. 总结与输出：在所有子任务完成后，LLM 综合各步骤的结果，生成最终答案。

这个循环（规划 -> 执行 -> 观察）是 Agentic 能力的核心。它使得系统能够处理开放式、多步骤的复杂问题，而不仅仅是简单的问答。

为什么需要 Agentic RAG？想象一个场景：用户问“帮我分析一下我们上个季度销售额下降的原因，并给出下个季度的营销建议。”传统 RAG 可能会检索出一堆关于“销售额”、“下降原因”、“营销策略”的文档，然后生成一个笼统的总结。而 Agentic RAG 驱动的智能体可以：1）调用数据库查询工具，获取精确的销售数据；2）调用数据分析工具，进行环比、同比分析；3）根据分析结果，检索市场报告和竞品信息；4）调用报告生成工具，整合数据、分析和建议，形成一份结构化的分析报告。整个过程无需人工干预，智能体自主协调多个工具和数据源。

2. 环境准备与核心工具链

构建 Agentic RAG 系统，我们不需要从零发明轮子。可以借助成熟的框架和云服务来搭建。这里我们以一个基于 Python 的流行技术栈为例，它也是许多“代码秀”中演示的基础。

2.1 基础环境

• 操作系统：Linux (Ubuntu 20.04/22.04 LTS) 或 macOS，Windows 建议使用 WSL2。
• Python 版本：3.9 或 3.10。避免使用 3.11+ 可能存在的某些库兼容性问题。
• 包管理工具：pip或conda。

2.2 核心框架与库我们将使用LangChain作为智能体编排框架，它提供了丰富的工具集成和智能体模板。同时，使用Chroma作为本地向量数据库进行演示。

# 创建并进入项目目录 mkdir agentic-rag-demo && cd agentic-rag-demo # 创建虚拟环境（推荐） python -m venv venv source venv/bin/activate # Linux/macOS # venv\Scripts\activate # Windows # 安装核心依赖 pip install langchain langchain-community langchain-core # 安装 OpenAI 模型接口（也可替换为其他模型） pip install openai # 安装向量数据库和文本嵌入模型 pip install chromadb sentence-transformers # 安装用于网页内容提取的工具 pip install beautifulsoup4 requests

2.3 大语言模型 (LLM) 选择你需要一个具备较强推理和工具调用能力的 LLM。我们将使用 OpenAI 的 GPT-4 系列模型作为“大脑”。你需要准备一个有效的 OpenAI API Key。

• 备选方案：你也可以使用 Anthropic Claude、Google Gemini 或开源的 Llama 3、Qwen 等模型，通过 LangChain 的相应接口集成。生产环境需要考虑成本、延迟和私有化部署。

2.4 项目结构预览一个清晰的项目结构有助于管理复杂度。

agentic-rag-demo/ ├── main.py # 主程序入口 ├── config.py # 配置文件（API Keys等） ├── tools/ # 自定义工具目录 │ ├── __init__.py │ ├── web_search.py # 网络搜索工具 │ └── calculator.py # 计算工具 ├── agents/ # 智能体定义目录 │ ├── __init__.py │ └── research_agent.py # 研究型智能体 ├── knowledge_base/ # 知识库相关 │ ├── docs/ # 存放原始文档 │ ├── vector_store.py # 向量库构建与检索 │ └── embeddings.py # 嵌入模型配置 └── requirements.txt # 项目依赖列表

3. 构建核心组件：工具、知识库与智能体

Agentic 系统的三大支柱是：工具（Tools）、记忆（Memory）/知识库（Knowledge Base）和智能体（Agent）本身。

3.1 创建自定义工具工具是智能体的“手”和“脚”。LangChain 提供了装饰器来轻松创建工具。

# tools/calculator.py from langchain.tools import tool import math @tool def calculate(expression: str) -> str: """执行数学计算。输入一个数学表达式字符串，如 `(3 + 5) * 2`，返回计算结果。""" try: # 警告：使用 eval 存在安全风险，仅用于演示。生产环境应使用安全表达式解析库（如 `asteval`）。 # 此处必须严格限制输入或使用沙箱环境。 result = eval(expression, {"__builtins__": {}}, {**math.__dict__}) return f"计算结果: {result}" except Exception as e: return f"计算错误: {e}" # tools/web_search.py from langchain.tools import tool import requests from bs4 import BeautifulSoup @tool def search_web(query: str) -> str: """执行简单的网页搜索并提取摘要。输入一个搜索查询词。""" # 注意：这是一个简化示例。实际应用中应使用 Serper、SerpAPI 或 Bing Search API 等专业服务。 # 此处仅演示工具定义格式，直接返回模拟结果。 print(f"[工具调用] 正在搜索: {query}") # 模拟网络请求和解析过程 # response = requests.get(f"https://www.google.com/search?q={query}", headers=...) # soup = BeautifulSoup(response.content, 'html.parser') # ... 提取逻辑 ... simulated_result = f"关于 '{query}' 的模拟搜索结果：这是一个演示性的文本摘要，实际工具应集成真正的搜索API。" return simulated_result

3.2 构建本地知识库（向量检索）这是 RAG 的“记忆”部分。我们使用sentence-transformers生成嵌入，用Chroma存储和检索。

# knowledge_base/embeddings.py from langchain_community.embeddings import HuggingFaceEmbeddings def get_embedding_model(): """获取本地嵌入模型，避免调用远程API产生费用和延迟。""" model_name = "all-MiniLM-L6-v2" # 轻量级且效果不错的句子嵌入模型 model_kwargs = {'device': 'cpu'} # 使用GPU可改为 `{'device': 'cuda'}` encode_kwargs = {'normalize_embeddings': False} embeddings = HuggingFaceEmbeddings( model_name=model_name, model_kwargs=model_kwargs, encode_kwargs=encode_kwargs ) return embeddings # knowledge_base/vector_store.py from langchain_community.vectorstores import Chroma from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain_community.document_loaders import TextLoader import os from .embeddings import get_embedding_model class KnowledgeBase: def __init__(self, persist_directory="./chroma_db"): self.embeddings = get_embedding_model() self.persist_directory = persist_directory self.vector_store = None self._init_vector_store() def _init_vector_store(self): """初始化或加载已有的向量存储。""" if os.path.exists(self.persist_directory): print(f"加载已有向量库: {self.persist_directory}") self.vector_store = Chroma( persist_directory=self.persist_directory, embedding_function=self.embeddings ) else: print("创建新的向量库。") # 初始化为空，等待添加文档 self.vector_store = Chroma( persist_directory=self.persist_directory, embedding_function=self.embeddings ) def add_documents(self, file_path: str): """向知识库添加单个文本文档。""" loader = TextLoader(file_path) documents = loader.load() # 分割文本，以适应模型的上下文窗口 text_splitter = RecursiveCharacterTextSplitter( chunk_size=500, chunk_overlap=50 ) splits = text_splitter.split_documents(documents) self.vector_store.add_documents(splits) print(f"已添加文档: {file_path}") def search(self, query: str, k=3) -> list: """检索与查询最相关的k个文档片段。""" if self.vector_store is None: return [] docs = self.vector_store.similarity_search(query, k=k) return [doc.page_content for doc in docs] def as_retriever(self): """将知识库转换为 LangChain Retriever 对象，方便集成。""" return self.vector_store.as_retriever(search_kwargs={"k": 3})

3.3 定义智能体（Agent）我们将创建一个“研究助手”智能体，它能根据问题，决定是检索本地知识库、进行网络搜索，还是进行数学计算。

# agents/research_agent.py from langchain.agents import AgentExecutor, create_react_agent from langchain.prompts import PromptTemplate from langchain_openai import ChatOpenAI import sys import os sys.path.append(os.path.dirname(os.path.dirname(os.path.abspath(__file__)))) from tools.calculator import calculate from tools.web_search import search_web from knowledge_base.vector_store import KnowledgeBase class ResearchAgent: def __init__(self, openai_api_key: str, model_name="gpt-4-turbo-preview"): # 1. 初始化 LLM self.llm = ChatOpenAI( model=model_name, temperature=0, # 降低随机性，使工具调用更稳定 api_key=openai_api_key ) # 2. 准备工具列表 self.kb = KnowledgeBase() # 创建一个检索工具 from langchain.tools.retriever import create_retriever_tool retriever_tool = create_retriever_tool( self.kb.as_retriever(), "knowledge_base_search", "搜索公司的内部知识库，获取关于产品、政策、流程的详细信息。" ) self.tools = [calculate, search_web, retriever_tool] # 3. 定义智能体提示词模板 # ReAct 框架提示词鼓励模型进行推理（Reason）和行动（Act） prompt = PromptTemplate.from_template(""" 你是一个强大的研究助手。你的任务是回答用户的问题，并利用所有可用的工具来获取最准确、最新的信息。 你可以使用的工具： {tools} 请严格按照以下格式回应： 思考：你需要先思考当前情况，决定下一步该做什么。如果需要使用工具，请说明原因。 行动：你要执行的动作，必须是以下格式之一： - 使用工具：`{tool_names}` 中的一个。 - 最终答案：直接给用户答案。 当你使用工具时，必须使用以下格式：

动作: [工具名称] 动作输入: [工具的输入，必须是一个字符串]

工具使用后会返回一个观察结果。基于观察，你可以继续思考并采取下一个动作，或者给出最终答案。 开始！ 问题：{input} 思考：{agent_scratchpad} """) # 4. 创建智能体 self.agent = create_react_agent( llm=self.llm, tools=self.tools, prompt=prompt ) # 5. 创建执行器 self.agent_executor = AgentExecutor( agent=self.agent, tools=self.tools, verbose=True, # 打印详细的执行步骤，便于调试 handle_parsing_errors=True, # 优雅处理解析错误 max_iterations=5, # 限制最大迭代次数，防止死循环 early_stopping_method="generate" # 当智能体决定结束时停止 ) def run(self, query: str) -> str: """运行智能体，处理用户查询。""" try: result = self.agent_executor.invoke({"input": query}) return result["output"] except Exception as e: return f"智能体执行过程中出现错误: {e}"

4. 完整实战：组装并运行你的第一个 Agentic RAG 系统

现在，我们将所有组件组装起来，完成一个端到端的流程。

4.1 准备配置文件与环境变量为了避免在代码中硬编码敏感信息，我们使用环境变量。

# 在项目根目录创建 .env 文件 echo "OPENAI_API_KEY=your_openai_api_key_here" > .env

# config.py import os from dotenv import load_dotenv load_dotenv() # 加载 .env 文件中的环境变量 OPENAI_API_KEY = os.getenv("OPENAI_API_KEY") if not OPENAI_API_KEY: raise ValueError("请在 .env 文件中设置 OPENAI_API_KEY")

4.2 准备知识库文档在knowledge_base/docs/目录下创建一个示例文档company_products.txt。

# company_products.txt 产品名称：智能办公助手（SmartOffice Assistant） 核心功能：语音会议纪要、邮件自动分类与摘要、日程智能安排。 最新版本：v2.1.3 发布日期：2024年5月15日 定价：基础版 99美元/月/用户，企业版需联系销售。 产品名称：数据分析平台（DataInsight Platform） 核心功能：支持SQL/NoSQL多数据源连接，提供拖拽式报表和预测性分析。 最新版本：v5.2.0 发布日期：2024年4月10日 定价：按数据行数和功能模块收费，起价为 500美元/月。

4.3 编写主程序

# main.py from config import OPENAI_API_KEY from agents.research_agent import ResearchAgent from knowledge_base.vector_store import KnowledgeBase import sys def main(): # 1. 初始化知识库并添加文档 print("初始化知识库...") kb = KnowledgeBase() kb.add_documents("knowledge_base/docs/company_products.txt") print("知识库准备就绪。\n") # 2. 初始化研究助手智能体 print("初始化研究助手智能体...") agent = ResearchAgent(openai_api_key=OPENAI_API_KEY) print("智能体已就位。\n") # 3. 交互式问答循环 print("=== 研究助手已启动 ===") print("输入 'quit' 或 'exit' 退出程序。") while True: try: user_input = input("\n你的问题: ").strip() if user_input.lower() in ['quit', 'exit']: print("再见！") break if not user_input: continue print("\n--- 智能体开始思考 ---") answer = agent.run(user_input) print(f"\n--- 最终答案 ---\n{answer}") except KeyboardInterrupt: print("\n程序被中断。") break except Exception as e: print(f"发生未知错误: {e}") if __name__ == "__main__": main()

4.4 运行与验证在终端中运行你的程序：

python main.py

4.5 示例交互与结果分析让我们看看智能体如何处理不同类型的问题。

• 场景一：基于知识库的精确问答

  你的问题: 智能办公助手的最新版本是什么？价格是多少？

  智能体执行过程（verbose 输出）:

  思考：用户询问智能办公助手的最新版本和价格。我应该先搜索内部知识库来获取准确信息。 动作: knowledge_base_search 动作输入: 智能办公助手 最新版本 价格 观察：找到了相关文档：[文档内容... 包含版本v2.1.3和价格信息] 思考：我已经从知识库中找到了相关信息。现在可以组织最终答案。 最终答案：根据公司知识库，智能办公助手（SmartOffice Assistant）的最新版本是 v2.1.3，发布日期为2024年5月15日。其定价为：基础版 99美元/月/用户，企业版需联系销售。

• 场景二：需要计算和推理的复杂问题

  你的问题: 如果我们有10个用户使用智能办公助手基础版一年，总费用是多少？

  智能体执行过程:

  思考：这个问题需要两个信息：1）每个用户的月度费用；2）计算10个用户一年的总费用。我先搜索知识库获取单价。 动作: knowledge_base_search 动作输入: 智能办公助手 基础版 价格 观察：找到了相关文档：[...基础版 99美元/月/用户...] 思考：我找到了单价。现在需要计算 10 用户 * 99美元/月 * 12个月。我应该使用计算器工具来确保准确性。 动作: calculate 动作输入: 10 * 99 * 12 观察：计算结果: 11880 思考：计算完成。现在可以给出最终答案。 最终答案：智能办公助手基础版价格为99美元/月/用户。10个用户使用一年的总费用为 10 * 99 * 12 = 11,880美元。

• 场景三：知识库无法回答，需要外部信息（模拟）

  你的问题: 最新的Python 3.12版本有什么主要新特性？

  智能体执行过程:

  思考：这是一个关于Python编程语言最新版本特性的问题。公司知识库可能没有这类通用技术信息。我应该使用网络搜索工具来获取最新信息。 动作: search_web 动作输入: Python 3.12 主要新特性 观察：[工具调用] 正在搜索: Python 3.12 主要新特性 关于 'Python 3.12 主要新特性' 的模拟搜索结果：这是一个演示性的文本摘要...（实际应包含真实搜索结果） 思考：根据网络搜索结果（模拟），我可以总结Python 3.12的新特性。 最终答案：（根据模拟结果）Python 3.12 的主要新特性可能包括更快的解释器、改进的错误信息、新的类型注解语法等。建议访问 Python 官方网站或权威技术博客获取最准确和详细的列表。

通过以上交互，你可以清晰地看到 Agentic RAG 智能体的“思考-行动-观察”循环。它能够自主选择工具，结合内部知识和外部（模拟）信息，完成多步骤任务。

5. 进阶：构建更强大的 Agentic 工作流与 RAG-Critic 模式

基础的 ReAct 智能体已经能处理很多问题。但在生产环境中，我们常常需要更复杂、更可靠的工作流。这就是“代码秀”中常提到的Agentic Workflow和RAG-Critic模式的价值所在。

5.1 多智能体协作（Multi-Agent Collaboration）对于复杂任务，可以设计多个各司其职的智能体协同工作。例如：

• 规划智能体（Planner）：负责拆解用户任务，生成执行计划。
• 执行智能体（Executor）：负责调用具体工具完成任务。
• 评审智能体（Critic/Reviewer）：负责检查执行结果的质量、一致性和安全性。

# 概念性代码，展示多智能体协作思路 from langchain.agents import AgentExecutor, create_react_agent from langchain.prompts import ChatPromptTemplate, MessagesPlaceholder from langchain_core.messages import HumanMessage, AIMessage class PlannerAgent: def plan(self, task): # 调用LLM，将复杂任务分解为子任务列表 # 返回：["步骤1: 搜索A信息", "步骤2: 计算B数据", "步骤3: 生成报告"] pass class ExecutorAgent: def execute(self, subtask, tools): # 针对每个子任务，调用基础的工具使用智能体（如我们之前构建的ResearchAgent） pass class CriticAgent: def review(self, final_output, original_task): # 检查输出是否完整、准确、无有害内容 # 如果不合格，可以要求重新执行或修正 pass # 主协调器 def orchestrate_workflow(user_task): planner = PlannerAgent() executor = ExecutorAgent() critic = CriticAgent() plan = planner.plan(user_task) all_results = [] for step in plan: result = executor.execute(step) all_results.append(result) draft_output = synthesize(all_results) # 合成初步结果 final_output = critic.review(draft_output, user_task) return final_output

5.2 实现 RAG-Critic 模式RAG-Critic 是 Agentic Workflow 在检索环节的精妙应用。其核心思想是：不让智能体盲目相信第一次检索的结果，而是引入一个“评审”步骤，自动评估检索结果的相关性和质量，并指导后续的检索或重写策略。

一个简单的 RAG-Critic 工作流如下：

1. 初始检索：根据用户问题，从向量库检索出 Top-K 个文档片段。
2. 相关性批判（Critique）：让 LLM（扮演 Critic）评估每个检索片段与问题的相关性，并给出分数或理由。例如：“片段1高度相关，因为它直接提到了产品价格；片段2部分相关，但讨论的是旧版本；片段3不相关。”
3. 决策与行动：
   • 如果存在高相关片段，直接用于生成答案。
   • 如果相关片段不足，Critic 可以重写查询（Query Reformulation），生成一个更精确的查询词，然后触发新一轮检索。
   • 或者，Critic 可以决定进行网络搜索，以补充最新或更广泛的信息。
4. 合成与最终生成：使用经过筛选和可能补充后的高质量上下文，生成最终答案。

# 一个简化的 RAG-Critic 模块示例 from langchain_openai import ChatOpenAI class RAGCritic: def __init__(self, llm): self.llm = llm self.retriever = KnowledgeBase().as_retriever() def critique_and_retrieve(self, query, max_iterations=2): """带批判的检索流程。""" current_query = query collected_contexts = [] for i in range(max_iterations): # 1. 检索 docs = self.retriever.invoke(current_query) if not docs: break # 2. 批判评估 critique_prompt = f""" 用户问题：{query} 当前检索查询：{current_query} 请评估以下检索结果的相关性，并为每个结果打分（1-5分，5分最相关）。 同时，如果总体相关性不足（例如，没有结果得4分或5分），请分析原因并生成一个更优化的搜索查询。 检索结果： {chr(10).join([f'[结果{i+1}] {d.page_content[:200]}...' for i, d in enumerate(docs)])} 请按以下格式回复： 评估：[对整体相关性的简短评价] 得分：[结果1得分]，[结果2得分]... 优化查询（如果需要）：[如果相关性不足，请提供一个新的、更精确的查询词] """ critique_response = self.llm.invoke(critique_prompt).content # 3. 解析批判结果（此处简化，实际需要更稳健的解析） lines = critique_response.split('\n') optimized_query = None for line in lines: if "优化查询" in line: optimized_query = line.split("：")[-1].strip() # 4. 收集高相关片段（假设得分>=4） # 这里简化处理，实际应根据解析出的分数筛选 # 我们假设critic认为相关，就全部收集 collected_contexts.extend([d.page_content for d in docs]) # 5. 决定是否继续 if optimized_query and optimized_query != current_query: print(f"[RAG-Critic] 第{i+1}轮检索相关性不足，优化查询为: {optimized_query}") current_query = optimized_query else: print(f"[RAG-Critic] 第{i+1}轮检索结果满意，停止迭代。") break return collected_contexts def answer_with_critique(self, query): """使用 RAG-Critic 流程回答问题。""" good_contexts = self.critique_and_retrieve(query) if not good_contexts: return "抱歉，在知识库中未找到足够相关的信息来回答此问题。" final_prompt = f""" 基于以下上下文信息，回答用户的问题。如果上下文信息不足以回答问题，请如实说明。 上下文： {chr(10).join(good_contexts)} 用户问题：{query} 答案： """ answer = self.llm.invoke(final_prompt).content return answer

将RAGCritic模块集成到之前的ResearchAgent中，替换掉简单的knowledge_base_search工具，就能显著提升复杂问题下检索的准确性和答案的可靠性。

6. 常见问题与排查思路

在构建和运行 Agentic RAG 系统时，你可能会遇到以下典型问题。

7. 生产环境最佳实践与工程建议

要将演示项目转化为可靠的生产系统，需要关注以下方面：

7.1 架构与部署

• 服务化：不要以脚本方式运行。将智能体封装为 REST API（使用 FastAPI、Flask）或 gRPC 服务，方便集成。
• 异步处理：对于耗时的工具调用（如网络请求、复杂计算），使用异步（asyncio）避免阻塞，提高并发能力。
• 容器化：使用 Docker 封装应用、模型和依赖，确保环境一致性。利用 Kubernetes 进行编排和扩缩容。
• 云原生：考虑使用云厂商的托管服务，如 Amazon SageMaker（部署模型）、Amazon Bedrock（调用多种基础模型）、向量数据库（如 Amazon OpenSearch Serverless with Vector Engine）来降低运维复杂度。

7.2 可观测性与评估

• 全链路追踪（Tracing）：集成像LangSmith或Langfuse这样的平台。记录每一次 LLM 调用、工具调用、中间结果的输入输出、Token 消耗和延迟。这对于调试复杂的工作流、理解成本构成至关重要。
• 评估体系：建立自动化评估管道，衡量智能体的回答在准确性、相关性、有用性和安全性上的表现。可以使用 LLM 作为裁判（LLM-as-a-Judge）进行批量评估。
• 监控与告警：监控 API 调用成功率、延迟、错误率以及 Token 消耗成本。设置告警阈值。

7.3 性能与成本优化

• 缓存策略：对频繁且结果不变的查询（如知识库检索、某些计算）实施缓存，可以显著降低 LLM 调用和计算开销。
• 模型选型：根据任务复杂度选择合适的模型。简单的分类、提取任务可用小模型，复杂的规划、创作任务再用大模型。考虑混合使用。
• 上下文管理：精心设计上下文窗口的使用。优先放入最相关的信息，对长文档进行智能摘要后再放入上下文。

7.4 安全与合规

• 工具沙箱：对于执行代码、访问系统资源的工具，必须在严格的沙箱环境中运行，防止任意代码执行和系统破坏。
• 输入输出过滤：对用户输入和智能体输出进行内容安全过滤，防止生成有害、偏见或敏感信息。
• 权限控制：为智能体设定清晰的权限边界。例如，一个处理内部数据的智能体不应被允许调用外网搜索工具。
• 数据隐私：确保知识库中的内容符合数据隐私法规。对用户数据进行脱敏处理。

7.5 提示词工程与智能体设计

• 模块化提示词：将系统指令、工具描述、示例（Few-Shot）分开管理，便于维护和 A/B 测试。
• 为工具提供高质量描述：工具函数的docstring是 LLM 理解工具用途的关键，务必清晰、准确，并说明输入格式。
• 设计明确的停止条件：在提示词中明确告诉智能体何时应该停止并给出最终答案，避免无意义循环。

通过本文的拆解，我们从零构建了一个具备基础 Agentic 能力的 RAG 系统，并探讨了其进阶模式和生产化考量。Agentic AI 的核心在于将 LLM 从“答题者”转变为“思考者和执行者”，这为构建真正智能、自动化的应用打开了大门。下一步，你可以尝试集成更多真实工具（如数据库、CRM/ERP API、邮件系统），设计更复杂的多智能体协作流程，并结合具体的业务场景（如智能客服、自动化报告生成、内部知识问答）进行深度定制。记住，持续迭代、加强可观测性、关注安全与成本，是让 AI 智能体在企业中成功落地的关键。

🚀 30+款热门AI模型一站整合，DeepSeek/GLM/Qwen 随心用，限时 5 折。 👉 点击领海量免费额度