2025亚马逊云科技中国峰会：加速落地轻松起航：亚马逊云科技网络服务打造生成式AI应用部署新范式

加速落地,轻松起航:亚马逊云科技网络服务打造生成式AI应用部署新范式亚马逊云科技高级网络专家架构师亚马逊云科技高级网络专家*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和灵活的组网方案,保障生成式AI应用安全合规快速落地边缘网络防护生成式AI,改善用户访问体验*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和网络加速方案提升用户访问*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和—键组网,通达全球生产生产预生产预生产研发/测试构建、管理并监控全球区域网络*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和合规跨境,高效互联中国(北京/宁夏)与全球各大区域的跨境专线,覆盖:•美国西部(北加州)、•美国东部(弗吉尼亚北部)、•欧洲(法兰克福)、*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和亚马逊云科技*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和三大运营商Marketplace合作伙伴Internet亚马逊云科技跨境互联网亚马逊云科技跨境VPCMarketplace合作伙伴域名加速三大运营商Marketplace合作伙伴Internet亚马逊云科技跨境互联网亚马逊云科技跨境VPCMarketplace合作伙伴域名加速*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和性能/成本高 Amazon Amazon亚马逊云科技跨境VPC合作伙伴合作伙伴合作伙伴域名加速亚马逊云科技跨境互联网亚马逊云科技跨境互联网性能/成本低*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和跨境专线vs跨境互联网效果对比ViaViaInternet*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和灵活的组网方案,保障生成式AI应用安全合规快速落地*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和生成式AI时代的安全挑战生成式AI的独特需求传统方案的局限•公网API•公网API网关:攻击面大,易遭劫持。尝试,是传统Web应用的2.8倍*•合规审计黑洞:56%的企业无法证明(企业级定制模型微调成本在5M-50M*•合规压力:模型API跨境调用需地理边4%(Metaε1.2亿罚款,2023)*来源:SaltLabsAPIThreatReport*来源:Gartner2024生成式AI成本模型*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和当安全合规成为AI创新的生死线,基础设施必须重定义•“AI相关数据泄露中,93%涉及API或数据库公网暴露”——IBM《2•“通过私有网络架构降低30-50%的合规运营成本”——亚马逊云科技合规白皮书*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和生成式AI应用的组网场景安全地提供/访问安全地提供/访问混合架构下访问大模型安全地访问Bedrock服务或自建大模型*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和托管服务的私有访问方式超过159种亚马逊云科技托管服务AvailabilityZone1正---------------------------------------------正---------------------------------------------使用亚马逊云科技PrivateLink建立从AmazonVPC到AmazonBedrock的私有连接,而无需将您的大模型访问暴露于互联网流量中。*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和InternetgatewayPrivateLinkendpointAmazonBedrock服务账户endpointInternetAmazonDirectInternetgatewayPrivateLinkendpointAmazonBedrock服务账户endpointInternetAmazonDirect*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐生成式AI场景:全地访问BedrockAmazonDirectAmazonTransit跨账号、跨AmazonDirectAmazonTransitAccountBAccountBInterfaceEndpointEndpoint------------------------⃞InterfaceEndpointInterfaceEndpoint*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和生成式AI场景:安全地访问自建大模型Endpoint•PrivateLink•Cross-RegionPrivateLink•Inter-RegionVPCPeeringInterfaceInterfaceInterfaceEndpointInterfaceEndpointInterfaceEndpointInterfaceEndpoint*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和生成式AI场景:保持合规地提供/访问SaaS化服务Account-GAccount-C*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和3混合架构下的大模型访问*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和甸InterfaceendpointAvailabilityZone1Privatesubnet甸InterfaceendpointAvailabilityZone2PrivatesubnetVPCCIDR/16≤-----------Privatesubnet甸InterfaceendpointAvailabilityZone1Privatesubnet甸InterfaceendpointAvailabilityZone2PrivatesubnetVPCCIDR/16≤-----------PrivatesubnetAvailabilityZone1PrivatesubnetVPCCIDR/16AmazonDirectC-------------------------AvailabilityZone2On-premisesdatacenter*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和AmazonDirect<-----------------生成式AI场景:AmazonDirect<-----------------AvailabilityZone1甸endpointendpointVPCCIDR/16≤----------PrivatesubnetAvailabilityAvailabilityZone1甸endpointendpointVPCCIDR/16≤----------PrivatesubnetAvailabilityZone2PrivatesubnetAvailabilityZone1PrivatesubnetAvailabilityZone2VPCCIDR/16*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和边缘网络防护生成式AI,改善用户访问体验*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和安全相关:CloudFront/WAF/ShieldAmazonCloudAmazonCloudCloudFrontCorporatedatacenterWAF/Shield体验相关:CloudFront*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和边缘安全:防止Token滥用*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和•RAG,MOE,COT等技术虽然能够提供更加定制化,更加合理的响应,但也会大幅增加LLM输入和输出的token数量•机器人可能会向LLMAPI发送过多请求,会迅速增加生成式AI应用的成本,甚至造成模型拒绝服务(•机器人也可以大规模创建虚假账户,或者通过发现现有账户的凭据来试图接管这些账户,然后登录并开始滥用生成式AI应用程序,造成模型拒绝服务攻击和模型盗窃(*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和•启用WAF之后,您可以通过CloudFront控制台了解•查看这些图表,您可以大致估算出当前攻击(或者不合•WAF控制台提供更多的可见性,帮助用户快速了解应*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和AuthenticatAttackerBotnet利用WAF阻止机器人,节省生成式AI应用程序的成本AuthenticatAttackerBotnetWebWebAppAmazonLambdaAmazonBedrock•AmazonIPreputationlist托管规则组可以阻拦低信誉IP地址,经常对亚马逊云科技的资源发起侦察和扫描的IP地址,以及经常发(•CommonBotControl的SignalKnownBotDataCenter规则可以阻拦经常产生机器人活动的IP地址•TargetedBotControl能够识别和管控高级机器人行为(和账户接管预防(ATP)检测注册/登录工作流程,防止大规模创建虚假账户和密码遍历尝试等行为*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和特殊场景:生成式AI数据上载滥用•通过•通过CloudFrontOAC功能和S3配合,可以灵活定义用户上传生成式AI数据的访问策略,防止Bot机器人滥用数据上传,污染生成式AI数据源。AmazonCloud*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和边缘安全:抵御*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和扫描生成式AI应用架构AmazonCloud利用Botnet发起攻击Attacker不断变换攻击特征“无法登录AI应用”“漫长的响应等待”“后台奔溃,无法快速恢复”Legitimateusers*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和AuthenticateAttackerBotnetAmazonWAF/ShieldAmazonCloudFrontAmazonWAF/ShieldAmazonCloudFront•完全内联的DDoS防护系统对所有传入CloudFront的数据包进行检查,能够实时缓解针对CloudFront的L3(网络层)和L4(传*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和特殊场景:黑客绕过Edge发起DDOS攻击CloudFrontCloudFrontAmazonCloudFrontend*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和统—交互体验*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和生成式AI应用的体验,这是您想要的吗?亚马逊云科技中国仅为帮助您发展海外业务和/或了解行业前沿技术选择推荐该服生成式AI交互时的体验不佳来自哪里交互失败交互停顿交互失败交互停顿*前述特定亚马逊云科技生成式人工智能相关的服务仅在亚马逊云科技海外区域可用,亚马逊云科技中国仅为帮助您发展海外业务和:提供高质量网络传输全球骨干网全球骨干网客户端就近接入AcceleratemediadeliveryacrossAmazonglobal客户端就近接入across50+countries,withdirectpeeringtoal