「Agent 工程化」方向-Qoder Cloud Agents 的Agent 工程实践 从企业 Agent 落地到基于 RocketMQ 的云端执行架构

QoderCloudAgents的Agent工程实践从企业Agent落地，到基于RocketMQ的云端执行架构目录Content1234企业AI化与Agent业务场景大规模Agent的业务挑战基于LiteTopic异步推理的探索从运行底座到组织能力对内改造组织，对外升级产品长程任务、在途并发与事件压力手脑分离、事件驱动、按需执行内部实战、专业方法与持续交付01企业AI化与Agent业务场景对内改造组织，对外升级产品企业AI化：对内改造组织，对外升级产品个人提效已经发生，企业还需要把AI变成可持续交付的能力近九成80%37%组织至少一个业务职能经常使用AIAI提高了自己的工作效率AI对所在组织的EBIT产生了正向贡献以上为受访者自报。McKinsey2026全球调查，1,719人、97国；EBIT指息税前利润对内：组织AI化对外：产品AI化让Agent进入研发、客服与运营流程，维护方法、权限与共同验收标准把专业能力变成用户可调用的产品功能，例如投研分析、服务助手与合同研究同一套专业能力，可以先在内部验证，再按产品的服务边界对外交付什么工作适合交给Agent一种筛选建议：处理路径需要临场调整，结果也能够检查工作的特点适合的处理方式例子规则清楚，路径固定代码或固定流程•明确公式计算•字段格式校验路径会变化，结果可核验Agent处理，规则或人验收•跨资料研究•异常分析与材料整理结果难判断，操作代价高先辅助人，保留审批•重大资金动作•不可逆的生产变更优先选择反复发生、需要判断，而且做完以后能检查的工作CodingAgent将成为数字世界的基础设施我的判断：编排、集成、扩展与受控自治，会沉淀为可复用的Agent能力JetBrainsPluginCloudAgentsQoderWakeQoderIDEQoder编排能力集成能力扩展能力自治能力多Agent分工主会话协调结果Headless、ACP、SDK接入不同运行入口Skills沉淀专业方法Hooks与Plugins扩展行为在授权边界内推进，关键动作进入确认什么是QoderCloudAgents:QoderAgentsAPIServerless模式的云端Agent托管与执行服务目标与上下文QCA业务应用体验与身份组织推理与工具业务规则保存任务进展过程事件与任务结果Agent定义模型、工具与专业方法Session承接一次任务及后续交互Environment提供任务需要的执行环境Event把进展与结果接回应用应用定义目标与验收标准，通过API把智能任务交给QCA执行云端Agent托管成为共同方向，QoderCloudAgents迈入1.0QoderCloudAgents:面向开发者的企业级云端Agent托管平台5月20日9月16日4月9月QCA0.1QCA1.0AnthropicOpenAIAgentsAPIClaudeManagedAgents正式发布持续推进云端托管实践，数百家大型企业，月调用次数超千万QCA1.0的开发者路径10分钟沿用同一套能力熟悉的AI编程工具接入自己的业务系统完成首次业务全链路调用验证通过后进入生产QCA云端运行能力任务状态持续保存按需调度与运行观测连接云上身份、权限与资源QoderCloudAgents的三类业务场景用户需求、业务记录与方法调用，会展开为不同形态的Agent任务Agent助手:批量高并发任务：专业方法服务化：投研助手/个人助手客服质检/告警运营组织AI能力共享用户需求驱动在线分析多步查询，交付结构化结果业务记录驱动会话检查识别问题，交给团队复核专家方法整理为Skill团队按统一标准调用与验收脱敏界面以淘工厂场景为例，配图为界面示意产品原型，涉密材料留在本地处理02大规模Agent的业务挑战长程任务、在途并发与事件压力大规模AgentAPI的业务挑战任务时长、在途并发与事件速率，是三种不同的容量口径长程任务跨越模型、工具和人工确认，进度需要持续保存大量在途任务许多Session同时存在，只有一部分正在执行高QPS事件一次请求持续产生指令、工具结果和通知成本、性能与体验有限执行容量，需要承接突发流量和长时间等待入口请求结束以后，任务产生的工作还会继续一次模型调用会结束，任务可能要活上几天模型、工具与人的节奏不同，任务需要跨越这些等待继续推进Session持续保留上下文与任务进度等待用户收到输入模型推理查询数据继续推理补充或确认继续任务任务状态继续保留当前计算会结束长期存在的是会话与任务，执行实例承担当前步骤生命周期示意：业务目标可以跨多轮持续，新的输入形成新的执行轮次会话绑定Worker的代价同一段任务时间线，常驻实例把等待也纳入资源占用工具等待继续计算等待用户计算计算会话绑定Worker同一个Worker持续占用工具等待保留任务状态，等待输入继续计算计算计算按步骤接手执行等待期间，释放的执行容量可以承接其他工作状态与计算分别管理。会话状态、保留文件及平台基础资源仍有开销03基于LiteTopic异步推理的探索手脑分离、事件驱动、按需执行分布式Agent架构模型设计模型结果模型执行池返回结果当前模型步骤模型命令派发步骤RocketMQAgentRuntime决定下一步步骤与结果交接工具指令归并事实工具执行器远程/隔离工具共享持久状态工具结果历史、进度与结果工程事实与难点分布式设计改变的是资源占用与任务交接方式单次模型和工具的耗时仍然存在，独立的执行池可以分别管理容量状态可续接手后继步骤时，能够重建上下文有序交接独立分支可以并行，共享结果按依赖归并运行可控配额不足可以等待，异常可以定位到具体步骤LiteTopic为什么适合Agent工作负载业务通道随任务产生，执行容量由共享池承接ParentTopic统一管理一类工作共享执行池LiteTopicA123实例1实例2LiteTopicB132实例3实例4LiteTopicC123按执行容量消费通道按需产生无需为每个短期任务，维护一个普通Topic顺序范围贴近业务相关消息有序处理，独立通道可以并行等待留在消息系统容量不足时局部暂停，让其他通道继续争取执行执行资源独立伸缩模型与工具按职责分池，后继步骤由可用实例接手轻量通道降低细粒度消费管理的成本，执行池承接真正需要运行的步骤LiteTopic的双层模型与存储父Topic统一管理，轻量通道按需形成消费索引父Topic预先配置共享CommitLog普通消费队列索引消息正文按Topic/Queue定位写入正文LiteTopicA同一份正文KV索引减少大量小队列生成不同消费入口对应的文件管理开销LiteTopicBMulti-Dispatch轻量消费索引建立消费索引RocksDBKV组织LiteTopicC通道按需创建；过期与回收通过配置管理，消息正文保持共享LiteTopic的消费控制动态订阅、有序处理与局部Suspend按需订阅业务通道共享消费池(Shared)LiteTopicA检查容量返回Suspend本次暂缓后续投递时重试Multi-DispatchMulti-Dispatch建立消费索引建立消费索引通道内有序，通道间并行消费逻辑示意（伪代码）subscribe(业务通道)onMessage(消息):if配额不足:returnSuspend(稍后重试)执行当前步骤发布完整结果returnSuccess暂停的是相应通道的本次消费，限额与调度策略由应用决定基于RocketMQ驱动的手脑分离架构模型与工具分别执行，运行时通过消息推进下一轮I工具执行端IRocketMQI模型执行池IAgentRuntime发布模型命令执行当前模型步骤归并结果，登记依赖结果包含工具请求发布工具指令执行当前工具步骤工具结果回传，运行时检查依赖是否齐备带工具结果继续推理生成下一模型命令任务状态持续保存；工具执行端按需使用远程API、MCP或SandboxAgent的复杂场景多分支、协作消息与外部等待，继续沿同一套交接方式推进场景消息怎样组织运行时怎样推进多分支协作•模型命令按分支消费•独立分支可以并行•结果回到会话归并•依赖齐备后继续协作与取消•协作消息进入持久Mailbox•取消走独立控制通知•到允许的边界接收新消息•先更新取消状态，再中止执行Webhook•按Endpoint建立LiteTopic•不同接收端可以并行•同一接收端有序处理•约束超时和重试预算挂起与恢复•等待用户、工具或子Agent•事件返回再派发后继•持久状态保存进度•后继步骤由可用实例接手计算步骤可以更换执行实例，任务的关联与进度由持久状态保持Sandbox按需运行推理、远程调用和隔离工具，对执行环境有不同要求，降低95+%Sandbox时长纯模型推理模型执行池不要求托管Sandbox远程API/MCP远端服务执行环境由远端承载隔离代码/文件工具首次需要时准备Sandbox后续调用可复用保温复用暂停后按能力恢复环境生命周期工具运行5min策略示例复用保留的工作状态预热与回收取决于策略及后端。文件保留不等于进程恢复，五分钟不是统一默认值QoderCloudAgents完整架构Web/SDK业务系统事件/定时消息渠道持久状态AgentRuntimePostgreSQLRedis编排与会话瞬时控制/预览会话与任务事实瞬时旁路文件与产物派发步骤返回结果RocketMQ对象存储工具结果模型结果命令与结果文件与产物模型命令工具命令模型执行池工具执行池模型步骤/上下文远程工具/Sandbox04从运行底座到组织能力内部实战、专业方法与持续交付内部的深度，影响对外交付的质量实践判断：团队越深入使用，越容易发现值得沉淀的方法与真实问题Amazon的工程实践与AWSFortnite的优化回到UnrealEngine内部基础设施与开发经验是2006年AWS推出的起点之一2017年BattleRoyale实战优化回流UE4.18/4.19真实使用，把失败变成下一版的方法与测试真实任务真实约束与使用反馈暴露失败找到能力的薄弱处固化方法与测试让改进可以被复用对外交付在更多场景中检验内部用得更深，才更容易知道什么该沉淀、什么还需要继续打磨运行底座成熟之后，业务要留下什么我的判断：差异会更多体现在专业方法和交付质量交给平台的运行工作业务需要持续积累的能力会话与执行环境任务、环境与运行资源的组织可信资料与专业方法什么资料可信，按照什么方法判断工具执行支撑工具调用、执行过程与结果交接授权与确认边界哪些动作可以做，哪些需要人确认任务状态与过程事件保留进展，让应用看见执行状态验收标准与失败样本结果怎样算完