版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
LiteTopic新特性发布×阿里云百炼网关×QoderCloudAgents1趋势与方案2发布与生态3生产与落地1趋势与方案2发布与生态3生产与落地Agent走向复杂任务,挑战转向等待、恢复与资源分配AGENT任务状态提交执行等待恢复完成02任务的连续性0302任务的连续性03有限GPU资源的分配AgentHarness演进:构建高可靠的“执行控制面(ControlPlane)”架构解耦持久化执行将执行状态与进度Checkpoint持久化,全面转向事(Event-Driven)。优雅处理异步回调、长时互操作性AgentSkills将复杂工作流高度封装,实现上下文执行控制升级AGENT任务状态完成等待恢复执行提交完成等待恢复执行创建会话队列触发任务执行监听状态事件结果回写后恢复消费结果并清理01彻底的状态外置(StatelessApp)02资源释放(ResourceYielding)03原生断点续传(Resumability)消息队列的断点Offset继续执行,八大底层能力支撑:打造Agent会话队列的“极致掌控力”02.自动创建Auto-Create03.TTL清理队列Auto-Expire04.暂停消费Suspend队列级的“暂停键”05.全量订阅WildcardSubscribe07.排它订阅ExclusiveSubscribe07.排它订阅ExclusiveSubscribeMCPAgenticMessagingPrimitivesA2ATransportRocketMQFlinkConnectorOpenClawRocketMQChannelSpringCloudGatewayRocketMQRate核心目标:少改业务代码,用标准协议与插件接入异步Agen超出请求响应的消息模式本轮Roadmap周期本轮Roadmap周期TaskasLiteTopicMCPAgenticsemanticsTaskasLiteTopic6subscribe4RocketMQLiteTopiceventsubscribe45task:Atask:Btask:C1.客户端访问任意副本;处理程序仅进行入队操作4.Worker发布结果,键(key)为tas2.仅在持久化入队后才返回句柄——重启或扩缩容绝不会丢失任务5.结果被持久保留——延迟订阅者可读取当前状态3.一个Task对应一个LiteTopic,LiteTopic以TaskID命名6.01.创建Task与LiteTopic02.异步执行并回写ProgressRUN03.途中追加控制事件04.断连后回放并继续Agent/LLM流式接口依赖SSE/WebSocket长连接;一次推理跨越数秒到数分钟、多轮工具调03Token与GPU成本被浪费03Token与GPU成本被浪费02不支持*通配订阅02不支持*通配订阅LiteTopic会话连续性:断连不丢、续连不重、体验无感0101每会话一条独立队列02通配订阅+无状态应用03断连接管·Offset续推应用节点1Web端1原连接(已断开)x开原连接(已断开)x取消订阅chat/Session2取消订阅chat/Session2Web端2)生成Token1.携带Session2自动重连到节点2生成Token01付费客户不能被普通客户拖累SLAFIRST普通客户不能被付费客户挤掉突发流量不能引发雪崩ANTI-SPIKE01付费客户不能被普通客户拖累SLAFIRST普通客户不能被付费客户挤掉突发流量不能引发雪崩ANTI-SPIKEwatermarkthresholdVIP/PaidClusterAvalancheRegularARegularB(long-tailwatermarkthresholdVIP/PaidClusterAvalancheRegularARegularB(long-tail)80xBurstTenantQuotaguaranteePreciseper-tenantthrottleNoblanketcut02消费者以*通配订阅父Topic--T,I不存在时发送即自动创建不存在时发送即自动创建订阅全部LiteTopicA/B持续正常消费国订阅全部LiteTopicA/B持续正常消费国--------------------Suspend(LiteTopicC)消费后调用消费后调用集群容量充足即可持续扩展QoderCloudAgents的Agents工程实践01长程任务状态延续Serverless云端Agent托管与执行平台02大量会
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 安全用电课程课件
- 高三地理教案:地表形态与人类活动一轮复习深度教学设计
- 高一信息技术《搭建信息系统的前期准备》教学设计
- 小学六年级道德与法治主题班会教案:创建和谐的班集体
- 高中化学高一下学期必修第二册离子平衡电化学回归教材教学设计
- 小学四年级安全教育教案-防拐骗情境体验与自我保护能力建构
- 高三物理第六章功率与动能定理教案
- 高中地理选择性必修1教学设计:地球自转的地理意义-时差与水平运动偏转
- 初中历史七年级上册秦统一中国教学设计
- 九年级地理教学设计 大单元视域下区域地形分析复习策略
- 研究会内部管理制度
- 七年级上册 第四单元 写作《思路要清晰》课件 (共23张)
- 舞台剧小剧场运营手册
- 燃气施工中常见问题及解决措施
- 档案数字化加工保密管理规定制度
- 2026年中国航空传媒有限责任公司市场化人才招聘备考题库及答案详解(易错题)
- 《环境科学与工程导论》课件-第8章土壤污染及其控治
- 2024年成都大邑县总工会招聘真题
- 肾上腺肿瘤课件
- 化工中试车间设计
- 2025至2030年中国银耳市场全面调研及行业投资潜力预测报告
评论
0/150
提交评论