「Agent 工程化」方向-Agent 时代的流量中枢 一个 AI 网关连接模型、Agent 与 MCP_第1页
「Agent 工程化」方向-Agent 时代的流量中枢 一个 AI 网关连接模型、Agent 与 MCP_第2页
「Agent 工程化」方向-Agent 时代的流量中枢 一个 AI 网关连接模型、Agent 与 MCP_第3页
「Agent 工程化」方向-Agent 时代的流量中枢 一个 AI 网关连接模型、Agent 与 MCP_第4页
「Agent 工程化」方向-Agent 时代的流量中枢 一个 AI 网关连接模型、Agent 与 MCP_第5页
已阅读5页,还剩7页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

Agent时代的流量中枢一个

AI

网关连接模型、

Agent

与MCPAgent

自主行动之后

,谁来管理它的流量?场景

当一个研发Agent接到“修复线上订单超时”任务时,

它不会只发出一次请求,

而是会进行多轮决策与反馈,甚至把任务委托给另一个子Agent。问题

当Agent开始自主行动后,谁来管理这一连串的动态流量呢?不妨让我们先跟着这个研发Agent

,看看它会如何做。Agent研发AgentLLMMCP多次调用、多轮决策、持续反馈对于传统服务多个请求之间是彼此独立的,

但对Agent来说它们属于同一个持续演进的任务,

前一步的结果会影响下一步选哪个模型、调用哪个工具

,

以及是否应该继续执行。

因此

,AI时代我们面对的不只是流量变多了

,而是流量开始带有任务状态和决策含义,问题也随之而来

,谁最适合承担动态决策的任务呢?一个Agent任务,

已经变成一条动态调用链Agent协作MCP工具调用03

EXECUTE·执行

检索文档04

EXECUTE·执行

修改代码06

VERIFY·验证

验证结果研发Agent“修复线上订单超时

”分析问题执行测试查询日志020105EXECUTE·执行VERIFY·验证模型调用PLAN·规划为什么由AI网关承担决策中枢这个角色?原因有二:1.

Agent越自主,安全治理越需要前置:-'

我们继续订单超时修复任务,

研发Agent面对的第一个问题是每一步应该如何选择最优模型。AI网关正在从转发层升级为决策中枢2.流量决策正在从

"请求感知"

走向

"任务感知"

:-'

用户

/应用模型服务MCP

Server其他Agent研发Agent网关AI智能路由模型路由不只看可用性,还要理解任务负载均衡智能路由默认保持会话粘性智能调度模型选对以后

,还需要一个专业测试Agent来验证修复结果。第二个问题随之出现

:Agent之间该如何安全协作?稳定/独立验证模型复杂推理模型高效代码模型研发Agent推理质量优先

PLAN·规划稳定与一致优先

VERIFY·验证效率与成本平衡

EXECUTE·执行Agent获得能力之前

,必须先获得身份与权限当测试Agent与研发Agent安全协作后

,

它还需要读取日志、

查询知识库、触发测试

,这些能力都依赖工具调用,

而工具调用的风险也更高、更直接研发Agent测试Agent它能访问谁它能做什么AI

网关它是谁调用中调用后MCP把工具交给Agent

,AI网关负责划定边界到这里研发Agent任务已经完整串起了模型选择、Agent协作和

MCP工具调用三个核心阶段

,

阿里云AI网关能够为Agent提供哪些重磅核心能力呢?研发Agent

同一个任务,

三种不同风险等级的工具调用T触发测试K检索文档L查询日志授权与参数约束可审计追踪运行时保护AI

网关调用前全新

Serverless

实例0元AI

FinOps一本账Agent

管理API

Agent80

%阿里云AI网关重磅能力发布智能路由并列纳管Model

API

Agent

MCP

Server各类Agent

·一键接入AgentCore百炼ClaudeCodeDeepSeek

Harness自定义请求由网关选择模型,Agent由网关统一纳管API

Agent四档路由策略成本优先质量优先速度优先综合平衡80

%Agent管理Agent成为网关一等公民智能路由让每一次请求都选对模型候选模型池系统内置模型自定义模型01粒度:谁在花钱|消费者消费者分组02尺度:

花在哪里|Token配额Credit配额03节奏:什么周期

|自然日自然周自然月1

~60天标准版平台分配接入点平台默认域名

·

HTTPS共享插件体系企业版独立接入入口自定义域名

·证书TLS

Policy

·

HTTP/2Token成本精细管控

,使用门槛大幅降低AI

FinOps谁在用、

花在哪、什么周期,全都看得见

,算得清一本账0

元全新Serverless实例0元起步,用多少付多少智能路由决策HigressHiRoute

DesktopHiRoute:

面向长程Agent的智能路由运行时候选模型优先级清单•

面向个人开发者:

通过

HiRoute

Desktop开箱即用,在保障任务效果的同时降低成本,

让模型订阅用得更久、更值•

面向企业

:结合

Higress提供模型观测、评测、智能路由与治理能力,

让Agent应用持续获得更优的效

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论