版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
一个AI网关连接模型、Agent与MCP耿蕾蕾(如葑)阿里云AI网关技术负责人&Higress&HiRoute发起人MCP多次调用、多轮决策、持续反馈MCP多次调用、多轮决策、持续反馈AgentAgent“修复线上订单超时”对于传统服务多个请求之间是彼此独立的,但对Agent来说它们属于同一个持续演进的任务,前一步的结果会影响下一步选哪个模型、调用哪个工具,以及是否应该继续执行。,模型服务MCPServer其他Agent1.Agent越自主,安全治理越需要前置:-'l:-'我们继续订单超时修复任务,研发Agent面对的第一个问题是每一步应该如何选择最优模型。负载均衡智能路由默认保持会话粘性智能调度默认保持会话粘性智能调度稳定与一致优先VERIFY·验证稳定/独立验证模型效率与成本平衡EXECUTE·执行高效代码模型复杂推理模型推理质量优先模型选对以后模型选对以后,还需要一个专业测试Agent来验证修复结果。第二个问题随之出现:Agent之间该如何安全协作?它是谁它能访问谁它能做什么当测试Agent与研发Agent安全协作后,它还需要读取日志、查询知识库、触发测试,这些能力都依赖工具调用,而工具调用的风险也更高、更直接LKTLKT到这里研发Agent任务已经完整串起了模型选择、Agent协作和MCP工具调用三个核心阶段,阿里云AI网关能够为Agent提供哪些重磅核心能力呢?AIFinOps全新Serverless实例智能路由一本账Agent管理AIFinOps全新Serverless实例智能路由一本账Agent管理让每一次请求都选对模型四档路由策略成本优先质量优先速度优先综合平衡候选模型池系统内置模型自定义模型Agent成为网关一等公民并列纳管ModelAPIAgentMCPServer各类Agent·一键接入AgentCore百炼ClaudeCodeDeepSeekHarness自定义谁在用、花在哪、什么周期,全都看得见,算得清一本账01粒度:谁在花钱|消费者消费者分组02尺度:花在哪里|Token配额Credit配额03节奏:什么周期|自然日自然周自然月1~60天0元起步,用多少付多少标准版平台分配接入点平台默认域名·HTTPS共享插件体系企业版独立接入入口自定义域名·证书TLSPolicy·HTTP/2模型能力与成本模型能力与成本运行状态模型路由与Autofallback模型调用候选模型优先级清单路由依据用户请求智能路由决策HiRoute项目地址:/higress-group/hiroute1.判断任务难度2.筛选可用模型3.选择合适模型•面向企业:结合Hig
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 冀教版2026-2027学年度九年级数学上册第26章《解直角三角形》自测试卷汇编(含两套题)
- 保险行业法律法规与实务操作模拟试卷
- 保险企业风险管理备考习题集
- 能源国企审计岗招聘笔试试题及答案2026年
- 卫生系统副高试题及答案
- 师之安全生产法及相关法律知识题库附答案(基础题)
- 山西2026年二级造价工程师考试模拟题库及答案:建设工程计量与计价实务、水利工程
- 大学期末微观经济学测试试题及答案
- 妇产科《产后出血》考试题及答案
- 皮肤性病学试题与答案
- 2026年甘肃省酒泉市属事业单位选调工作人员29人(第二批)笔试参考题库及答案解析
- 2026年公卫执业医师《医学微生物学》试题及答案
- 青岛华通集团招聘笔试题解析
- (2026秋版)部编版五年级语文上册全册教案(教学设计)
- 2025年重庆市垫江县小升初数学试卷附答案解析
- 唐僧人物性格与取经信念解读
- 2026年海南(专升本)数学考试题库(含答案)
- 雨课堂在线学堂《大学生国家安全教育》作业单元考核答案
- 会议摄影合同
- 铁路货车轮轴组装检修及管理规则
- 中国邮政2025安阳市秋招寄递客户经理岗位高频笔试题库含答案
评论
0/150
提交评论