大家好,我是展菲,目前在上市企业从事人工智能项目研发管理工作,平时热衷于分享各种编程领域的软硬技能知识以及前沿技术,包括iOS、前端、Harmony OS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。
图书作者:《ESP32-C3 物联网工程开发实战》
图书作者:《SwiftUI 入门,进阶与实战》
超级个体:COC上海社区主理人
特约讲师:大学讲师,谷歌亚马逊分享嘉宾
科技博主:华为HDE/HDG
我的博客内容涵盖广泛,主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告,同时也会提供产品优缺点分析、横向对比,并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。
展菲:您的前沿技术领航员
👋 大家好,我是展菲!
📱 全网搜索“展菲”,即可纵览我在各大平台的知识足迹。
每周定时推送干货满满的技术长文,从新兴框架的剖析到运维实战的复盘,助您技术进阶之路畅通无阻。
文章目录
- 引言
- 一、单 Agent 为什么一定会走向拆分?
- 二、Agent 拆分之后发生了什么?
- 三、Agent 与微服务的相似性
- 单一职责
- 独立扩容
- 异步协作
- 四、多智能体开始出现“服务治理问题”
- 五、Agent Registry ≈ 服务注册中心
- 六、Agent Bus ≈ 消息总线
- 七、Agent Scheduler ≈ Kubernetes
- 八、为什么未来 Agent Runtime 会越来越像 Kubernetes?
- 九、真正的变化:服务执行变成了目标执行
- 总结:多智能体正在重走微服务的演化路线
引言
过去两年,Agent 发展经历了一个非常明显的阶段变化。
最开始大家都在追求:
更大的模型 更长的上下文 更强的推理能力后来慢慢发现,一个 Agent 很难完成复杂任务。
例如:
开发一个网站背后可能涉及:
需求分析 架构设计 前端开发 后端开发 测试验证 部署发布如果全部交给一个 Agent:
Prompt 越来越长 上下文越来越大 错误越来越多最终出现:
性能下降 成本上升 稳定性下降于是行业开始进入 Multi-Agent 阶段。
一个负责规划:
Planner Agent一个负责代码:
Coding Agent一个负责测试:
Testing Agent一个负责部署:
Ops Agent看起来非常合理,但很快大家又发现一个问题:
Agent 数量增加之后,整个系统越来越像十年前的微服务系统。
甚至很多 AI Infra 团队开始发现:
Agent Runtime ≈ Microservice Runtime这并不是巧合,而是因为:
多智能体本质上正在重演微服务架构的发展历史。
一、单 Agent 为什么一定会走向拆分?
最早的大模型应用其实非常简单。
User ↓ LLM ↓ Answer所有能力都放进一个 Prompt。
这种模式类似:
单体应用(Monolith)优点:
开发简单 部署简单 维护简单但随着需求增加:
工具越来越多 任务越来越复杂 上下文越来越长Agent 开始变成:
超级 Agent内部塞满:
Memory Tool Workflow Planner Reasoning最终出现经典问题:
一个模块出错 整个系统崩溃这和早期单体架构几乎一模一样,因此:
Agent 必然会走向能力拆分。
二、Agent 拆分之后发生了什么?
例如一个代码开发 Agent。最开始:
Code Agent后来:
Code Review Agent Code Generate Agent Code Test Agent再后来:
Frontend Agent Backend Agent Database Agent DevOps Agent系统逐渐变成:
Agent Network结构:
Planner │ ┌─────────┼─────────┐ │ │ │ Coding Testing DevOps │ ┌──┴──┐ Front Back看到这里很多架构师会突然发现:
这不就是微服务吗?没错,只是:
Service ↓ Agent换了个名字而已。
三、Agent 与微服务的相似性
我们对比一下,传统微服务:
订单服务 库存服务 支付服务 物流服务Agent 世界:
Planner Agent Research Agent Coding Agent Review Agent共同特点:
单一职责
微服务:
一个服务只负责一个领域Agent:
一个 Agent 只负责一个目标例如:
Research Agent不负责:
Coding这就是:
Single Responsibility Principle独立扩容
微服务:
支付压力大 扩容 Payment ServiceAgent:
Coding 请求暴涨 扩容 Coding Agent本质完全一样。
异步协作
微服务:
Service A ↓ MQ ↓ Service BAgent:
Agent A ↓ Event ↓ Agent B越来越多 Agent Runtime 已经开始采用 Event Driven 模式。
原因和微服务时代完全一致:
解耦四、多智能体开始出现“服务治理问题”
当 Agent 数量超过:
10个 20个 50个新的问题出现了。例如:
Agent 调用了谁? Agent 是否成功? Agent 是否超时? Agent 是否失败重试?这时候大家突然发现,这些问题早就有人解决过。
答案就是:
微服务治理因此 Agent Runtime 开始出现:
Service Discovery Load Balance Retry Circuit Breaker Health Check甚至名字都没变。
五、Agent Registry ≈ 服务注册中心
微服务时代:
Nacos Eureka Consul作用:
记录服务位置例如:
Order Service 10.1.1.2Agent 世界同样需要:
Agent Registry记录:
Coding Agent Research Agent Planner AgentPlanner 在执行任务时:
先发现 Agent 再调用 Agent这其实就是:
Service Discovery六、Agent Bus ≈ 消息总线
微服务为什么需要 MQ?因为:
服务之间不能强耦合所以出现:
Kafka RocketMQ RabbitMQAgent 系统越来越大之后,同样需要:
Agent Bus例如:
Research Agent完成任务:
发布事件ResearchCompleted然后:
Coding Agent自动消费,结构:
Agent ↓ Event Bus ↓ Agent越来越像:
EDA (Event Driven Architecture)七、Agent Scheduler ≈ Kubernetes
这是最有意思的地方,很多团队做到后面发现,真正难的不是 Agent。
而是:
Agent 调度例如:
1000 个任务 500 个 Agent 100 台 GPU如何分配?
如何优先级管理?
如何失败恢复?
如何动态扩容?
这时候,很多设计思路开始直接借鉴:
Kubernetes例如:
Agent Instance Agent Pod Agent Cluster甚至已经有团队提出 Agent Orchestration 概念。
本质上:
K8s 调度容器 Agent Runtime 调度智能体八、为什么未来 Agent Runtime 会越来越像 Kubernetes?
因为两者解决的是同一个问题,微服务时代:
管理服务Agent 时代:
管理智能体核心挑战高度一致:
发现 调度 监控 治理 扩容 容错未来企业级 Agent 系统很可能演化为:
+----------------------+ | Agent Runtime | +----------+-----------+ | +----------v-----------+ | Scheduler | | Registry | | Event Bus | | Memory Manager | +----------+-----------+ | -------------------- | | | | Agent Agent Agent Agent本质:
Agent Runtime = AI 时代的 Kubernetes九、真正的变化:服务执行变成了目标执行
不过两者也有一个根本区别,微服务时代:
输入请求 执行逻辑 返回结果服务不会思考。
Agent 时代:
输入目标 自主规划 自主执行 返回结果例如,微服务:
创建订单Agent:
帮我完成这次采购中间过程:
分析需求 搜索商品 比价 审批 下单 跟踪物流全部自主完成,因此:
微服务管理的是“函数”,Agent 管理的是“目标”。
这也是 AI 系统最大的变化。
总结:多智能体正在重走微服务的演化路线
回顾整个过程:
单 Agent ↓ 能力膨胀 ↓ 职责拆分 ↓ Multi-Agent ↓ Agent Network ↓ Agent Runtime这条路线几乎与当年的:
单体应用 ↓ 服务拆分 ↓ 微服务 ↓ Service Mesh ↓ Kubernetes完全一致,一句话总结全文:
多智能体越来越像微服务,不是因为它们设计相似,而是因为当系统规模扩大后,所有复杂系统都会面临相同的问题:拆分、协作、调度与治理。
最终结论:
微服务解决: 如何管理大量服务 Agent Runtime 解决: 如何管理大量智能体未来三到五年,Agent Runtime、Agent Scheduler、Agent Registry、Agent Bus 很可能会成为 AI 基础设施领域最重要的新赛道。
而今天的 Multi-Agent,或许正站在当年 Kubernetes 爆发前夜的位置。