37.人工智能实战：大模型工具调用失败怎么兜底？超时、重试、熔断与工具结果可信校验方案

人工智能实战：大模型工具调用失败怎么兜底？超时、重试、熔断与工具结果可信校验方案

一、问题场景：Agent 没坏，坏的是它调用的工具

很多 Agent 项目初期看起来很顺利。

模型可以判断：

什么时候查知识库 什么时候查订单 什么时候调用搜索 什么时候创建工单

但一上线，问题开始出现：

1. 工具接口超时 2. 工具返回空数据 3. 工具返回格式变化 4. 工具报 500 5. 工具结果明显不可信 6. Agent 工具失败后开始编答案

我遇到过一次真实事故：

用户问：

我的订单退款到哪一步了？

Agent 正确选择了：

query_order_refund_status

但订单系统当时超时。

模型没有明确告诉用户失败，而是生成了：

您的退款正在处理中，请耐心等待。

看起来很自然，但其实是编的。

这在生产系统里是非常危险的。

本文解决的问题是：