连接Agent的世界:应用网络产品更新发布_第1页
连接Agent的世界:应用网络产品更新发布_第2页
连接Agent的世界:应用网络产品更新发布_第3页
连接Agent的世界:应用网络产品更新发布_第4页
连接Agent的世界:应用网络产品更新发布_第5页
已阅读5页,还剩13页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

连接Agent的世界应用网络产品产品更新发布贺剑阿里云智能集团·高级产品专家Agent时代:从连接应用到主动连接世界1WebAPPAPI可信接入与动态端点发现身份可信用户、应用与Agent需统一认证授权端点动态Agent时代:从连接应用到主动连接世界1WebAPPAPI可信接入与动态端点发现身份可信用户、应用与Agent需统一认证授权端点动态海量实例快速启停,地址持续变化`2理解意图推理服务工具编排形成行动多模态处理性能文本、图像、语音与视频并行处理,持续推高吞吐与尾时延压力复杂任务跨域连接连接推理服务,并跨VPC/跨账号调用多种企业资源带宽吞吐尾时延推理服务RDSOSS跨VPC·跨账号·多资源协同3ACTONTHEWORLD互联网服务APISaaS搜索动态调度流量治理按目标、地域与可用性选择服务和出口对域名、URL、协议和数据实施策略可调度·可控制·可审计接入识别身份与动态端点内部承载多模态与跨域访问出口统一调度、安全与审计ALB动态转发:安全直达海量动态后端实时端点提取从请求头或查询参数读取目标IP与端口双重安全校验目标需同时命中CIDR与端口范围免逐实例注册地址随请求变化,直接转发到目标后端明确失败响应1234请求决定目标,边界约束访问实时端点提取从请求头或查询参数读取目标IP与端口双重安全校验目标需同时命中CIDR与端口范围免逐实例注册地址随请求变化,直接转发到目标后端明确失败响应1234请求决定目标,边界约束访问适配AI推理沙箱、MCP/工具调用与海量动态后端Agent/调度器产生动态目标ALB扩展版动态转发组件安全边界校验动态后端AI推理沙箱实例快速启停,端点持续变化海量动态后端无需逐实例维护注册关系Agent/调度器产生动态目标ALB扩展版动态转发组件安全边界校验动态后端AI推理沙箱实例快速启停,端点持续变化海量动态后端无需逐实例维护注册关系实时提取目标端点目标缺失或越界:拒绝转发并返回HTTP403MCP/工具调用目标服务随任务动态变化仅命中允许范围才放行仅命中允许范围才放行Header/Query命中边界:命中边界:ALB直接转发到请求指定的动态后端核心价值:后端可以动态变化,核心价值:后端可以动态变化,但可访问的网络范围始终受控GA:全球AI推理加速与智能调度GA+服务扩展全球统一入口GA全球加速统一接入→服务扩展→全局调度决策公网接入模型代理识别目标模型获取健康与负载Token管控检查配额与速率控制请求放行一成都乌兰察布加速区域身份鉴权阻断非法请求公网接入北京杭州浙江加速区域全球用户通过公网就近接入阿里云全球网络调度因子多地域AI推理调度GA+服务扩展全球统一入口GA全球加速统一接入→服务扩展→全局调度决策公网接入模型代理识别目标模型获取健康与负载Token管控检查配额与速率控制请求放行一成都乌兰察布加速区域身份鉴权阻断非法请求公网接入北京杭州浙江加速区域全球用户通过公网就近接入阿里云全球网络调度因子推理集群A健康推理集群A健康·低负载首选候选推理集群B候选推理集群C兜底兜底上海健康状态×负载水位×地域距离×Fallback优先级全球统一入口Global用户就近接入·全球公网统一入口服务扩展全球统一入口Global用户就近接入·全球公网统一入口服务扩展模型代理·身份鉴权·Token限速32降低计算开销减少协议头解析、包处理与中断压力,释放计算资源NLB支持大包后,端到端路径才有机会保持更大MTUComingSoon收益来自“减少包数量”,而不是简单放大带宽提升有效吞吐当PPS或32降低计算开销减少协议头解析、包处理与中断压力,释放计算资源NLB支持大包后,端到端路径才有机会保持更大MTUComingSoon收益来自“减少包数量”,而不是简单放大带宽提升有效吞吐当PPS或CPU成为瓶颈时,更少报文可提升有效数据处理能力适配AI大流量更适合推理数据、模型同步与大规模数据传输等高吞网络栈依据路径MTU形成IP包网络栈依据路径MTU形成IP包同等业务数据,通过更大的MTU封装为更少的报文标准MTU标准MTU1500更多小报文包数量多·协议头数量多PPS、中断与协议栈处理开销更高规划目标:MTU8500规划目标:MTU8500更少大报文包数量更少·单包有效载荷更高降低逐包协议栈处理开销端到端前提:路径各段均能承载目标报文,实际端到端前提:路径各段均能承载目标报文,实际PMTU取决于最小MTU;TCP可用MSSClamping约束报文段,传统PMTUD依赖ICMP共享入口多个资源配置共享ResourceGateway的多可用区私网访问消费方经ResourceEndpoint与共享入口多个资源配置共享ResourceGateway的多可用区私网访问消费方经ResourceEndpoint与Gateway访问指定资源跨账号共享规划以RAM共享资源配置;数据流量仍经价值资源级共享+端口范围,并与安全组、应用权限协同定义资源以域名或私网IP定义ResourceConfiguration423Agentic应用发起资源访问RDSResourceConfigRedisResourceConfigResourceEndpoint资源型VPC终端节点AI/MCPResourceConfig消费方获得资源级连接范围,而不是路由进入整个资源VPC消费方消费方VPC/账号B按共享范围发现资源RDS数据库Redis集群多可用区入口企业AIRDS数据库Redis集群多可用区入口企业AI服务资源提供方VPC/账号AResourceGateway资源看到本地网关源IP跨VPC跨账号规划:RAM控制面共享资源域名映射端口范围列表安全组与访问日志NAT网关:让Agent公网出口可调度、带宽可管控出口EIP调度业务映射白名单出口EIP调度业务映射白名单故障隔离2源端带宽限速为不同业务设置独立的公网带宽护栏共享额度精准覆盖超限处置互联网合作伙伴独立出口身份Agent集群A业务AAgent集群B业务B!异常实例单互联网合作伙伴独立出口身份Agent集群A业务AAgent集群B业务B!异常实例单IP源IP/CIDR既决定“从哪出”,也决定“能用多少”源端带宽限速/24/24源端带宽限速/24/247/32不同业务使用独立EIP不同业务使用独立EIP带宽公平避免单一业务挤占出口业务结果/32规则覆盖异常实例业务结果Agent访问互联网:从“能连通”到“可治理”分散式自建出口:问题直接出现在流量链路上Agent/VPC重复ProxyVPC-AAgent集群各自扩容/容灾VPC-BAgent集群各自扩容/容灾VPC-CAgent分散式自建出口:问题直接出现在流量链路上Agent/VPC重复ProxyVPC-AAgent集群各自扩容/容灾VPC-BAgent集群各自扩容/容灾VPC-CAgent集群各自扩容/容灾同一任务的连续请求Task#A连续调用EIP-1请求1EIP-3请求2碎片化策略未统一域名白名单未统一URL规则未统一Header规则高负载·持续排队目标侧受限/429识别到来源变化每个VPC各建一套,状态无法统一互联网目标ModelAPI/SaaS目标侧策略与限流重试与额外验证四类问题相互放大1代理设施重复建设每个应用或VPC独立建设高可用、扩容与容灾访问策略彼此割裂出口IP资源失衡热点、受限与低利用地址需要持续人工维护4连续会话容易漂移同一任务跨出口,可能触发验证或访问失败出口变化→二次验证/会话失败问题不是能不能连,而是能否统一治理23EgressProxyGateway:面向Agent的全托管出站代理网关把复杂的出站基础设施,变成开箱即用的托管服务全托管,免自建免建代理集群降低运维复杂度1一体化统一管理代理·策略·地址池统一配置与治理2公私网灵活编排公网与私网出口按业务规则灵活选择34把复杂的出站基础设施,变成开箱即用的托管服务全托管,免自建免建代理集群降低运维复杂度1一体化统一管理代理·策略·地址池统一配置与治理2公私网灵活编排公网与私网出口按业务规则灵活选择34出口映射更稳定降低会话漂移风险让Agent出站连接更简单、更稳定、更可控流量管控RuleGroupPreDnsPreRequestPostResponse已选中的IPPool公网池或私网池Scheduler

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论