腾讯-Agent Runtime 打造新一代 Agent 基础设施平_第1页
腾讯-Agent Runtime 打造新一代 Agent 基础设施平_第2页
腾讯-Agent Runtime 打造新一代 Agent 基础设施平_第3页
腾讯-Agent Runtime 打造新一代 Agent 基础设施平_第4页
腾讯-Agent Runtime 打造新一代 Agent 基础设施平_第5页
已阅读5页，还剩16页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

为什么传统微服务与Serverless架构不适合Agent？AgentRuntime如何乘风破浪解决海量Agent难题Demo演示与快速上手为什么传统微服务与serverless架构不适合Aaert?6进入AgentLoopLLM调用→MCP各类工具调用→Trace观测→再推理7交付结果产生目标文件与输出，任务结束5构建上下文prompt+tools+memory+query2读取提示词文件soul.md,identity.md,user.md3读取工具和技能MCPtools,skills提示词+各类文件4读取记忆memory.md3.3.云端多副本运行每用户独立提示词/skills/记忆K8s集群+PVC持久化存储负载均衡路由到固定Pod隔离性好，每个Agent独立空间问题：Pod常驻，成本高，难以规模化2.本地带沙盒运行2.本地带沙盒运行宿主机workspace挂载到sandboxsandbox内执行工具调用产物同步回宿主机目录解决两个问题：1.防止Agent越权操作2.解决宿主机依赖缺失问题存储主要靠宿主机文件系统1.本地裸机运行存跟算一体提示词/skills/sessions全部存本地固定workspace目录下运行AgentLoop完全依赖本地文件优点：足够简单，无额外文件挂载开销缺点：安全性差(rm-rf/破坏宿主机)→→云端多副本（K8s）→Agent特征Serverless云函数（Lambda）Sandbox长生命周期(>30m)××有状态可暂停恢复×△×按需计费暂停免费△×△△×毫秒级启动△海量创建+海量暂停△×△唯一全唯一全✓生命周期模型的错配生命周期由什么决定？生命周期由什么决定？生命周期由什么决定？Agent的生命周期应绑定在「任务」，而不是某一条HTTP连接长生命周期流式输出不应中断中间暂停Agent的真实行为SSE/WS把用户和特定实例绑死本质：通信层与执行层耦合在同一实例，生命周期被连接绑架解法：Sandbox执行层跑在Sandbox，通信层托管在独立网关，两者通过消息队列解耦NFS挂载5-6s，冷启动劣化付费/实际计算≈18x浪费请求数≠真实计算压力用户离开页面→中间状态全丢为什么要先拆通信层？为什么要先拆通信层？两者对资源的需求模式完全相反通信+执行+状态=同一个进程SSE/WSAgentLoopState通信层与执行层彻底分离通信网关Sandbox执行层AgentAgentRuntimeAgentEngine构建与托管AgentSandboxAgentWallAgentOptimize优化评测AgentWay治理与运维全链路观测

人人文库> 全部分类> 应用文书 > 研究报告

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论