分布式agent分布式MAS运行架构高可用高吞吐高扩展运行架构上图mas运行架构图低代码开发agent编辑器开发人员编写Agent拖拽预制agent构建agent flow。图编辑器业务人员通过可视化界面拖拽预制的节点编写业务流程图输出开发者编写好的Agent和业务人员编写的”图”存入资源库RR进行统一管理。注册中心agent注册与元数据管理中心是动态扩缩容和故障转移高扩展高吞吐的机制agent发现client定时扫描注册中心获取agent列表实现高可用和负载均衡资源管理层资源库 RR资源库 (RR)agent和图类型定义的持久化存储层负责管理所有的agent nodeAgent定义和业务图分为两个独立的环境支持持续集成和持续部署CI/CD的发布策略测试桶存放开发和测试阶段的Agent与图发布桶存放上线的Agent与图执行器目录和选择包含执行器条目及执行器选择器选择器负责接收来自网关的查询请求根据负载策略决定具体的agent执行器实例负责执行器心态管理执行器注册心跳处理(健康检测)业务metrics和性能metrics采集执行层执行器 (AE)是Agent pipeline运行的节点每个执行器内部包含执行容器容器的职责是从资源库(RR)的发布桶中载入最新的Agent代码和流程图执行Agent本地或原创管理Agent的运行生命周期注入机制执行器在启动或扩容时向目录和索引(EDI)注册自身发送心跳接入与调用层Client 与 ASGClient客户端发起agent请求图请求Agent服务网关 (ASG)系统面对外部的统一入口RPC调用Client 通过 RPC 协议请求 ASG 获取服务路由分发ASG 接收到请求后不会直接执行向目录和索引 (EDI)发起“选择执行器”的请求。EDI 的选择器根据当前集群状态和请求特性按策略返回最优的 Agent执行器转发执行ASG 最终将 RPC 请求转发给选定的具体 Agent执行器完成处理。容错分布式执行架构agent/多agent执行是图驱动图的检查点支持容错重试提告系统健壮性故障检测与触发当 agent执行器(AE) 节点因网络抖动、OOM内存溢出或硬件故障导致下线时系统通过以下链路感知异常心跳丢失 执行器目录和索引(EDI)监测到执行器实例的心跳超时将其标记为不可用推送到运维系统调用超时/失败 ASG 在 RPC 调用过程中捕获到连接重置或响应超时异常立即判定当前任务执行失败重试与节点重选 (Rescheduling)检测到执行失败ASG 不会直接返回错误给 Client而是启动内部的重试逻辑执行器获取检查点 查询持久化存储获取该最近一次成功保存的检查点执行检查点系列-图分析断点续传与状态恢复执行器(AE)获取检查点后从检查点中执行状态例如Pipeline 已经完成了 A-B 节点正准备执行 C 节点恢复全局状态执行nextNode。幂等性保障 对于涉及外部副作用如写数据库、发通知的节点系统会利用检查点中的事务 ID 进行幂等校验防止重试导致的数据重复写入。实现分析本节分析架构实现A2AAgent2Agent (A2A) 协议是由 Google 开发实现Agent之间的通信与协作和能力展示Nacos提供了Agent注册的原生支持管理A2A Registry实现 Agent 的注册、发现、命名空间隔离、版本管理等功能。A2ANacos实现分布式架构的agent注册和发现远程调用saa的a2a实现处在初级阶段其功能成熟度完整度未达到要求agentcard作为agent调用令牌绑定agent实例提供了事件订阅更新agentcard但只针对版本变更不是可用实例 nacos agent注册实例需设置首选项但查所有资料未发现该选项说明大概理解是权重设置没有实现本地agent列表缓存本地负载均衡agent为注册服务单位粒度太小a2a有自己的执行机制与graph的执行机制兼容问题如saa graph的外部介入中断和恢复总的来说saa的a2a实现在高可用高吞吐容错未达到要求微服务(spring cloud)java技术栈微服务简单而高效实现分布式mas运行架构 agent服务负责按名称实例和运行agent/图另外可简化为整个pipeline在执行器运行(本地agent)无需agent服务注册和发现上图是微服务实现的分布式mas运行架构