2025年研究报告AI基础设施现状

2025年研究报告AI基础设施现状摘要虽然人们对AI

的兴趣激增，并在全球广泛掀起了实验热潮，但如今AI的焦点已经转向了实际应用。技术领导者们更关心“如何做”而非“是否做”，即如何整合生成式AI、保证其安全性，并大规模应用，以实现可持续的价值。在这一变革阶段，组织需要采取战略性方法进行平台管理及经济高效的部署。然而，这种变革并不轻松。组织面临诸多严峻挑战，包括旧系统的整合、复杂的系统迁移，以及

AI解决方案与自身独特业务场景的匹配。我们深知以数据为依据的分析洞见不可或缺，因此对全球500多位企业领导者进行了调研。调研结果显示，云市场正在经历一场深刻变革，那些积极投资于依托

AI

技术的云基础设施的企业，正引领着AI

时代的发展浪潮。本报告不受外界情绪干扰，理性分析了现实挑战与战略机遇。我们提供了组织领导者真正需要的研究数据，助力他们在基础设施投资上达成共识，从而打造真正依托

AI技术并以云为动力的组织架构，自信从容地应对变革时期。Nirav

MehtaGoogleCloud产品管理高级总监

0206

边缘计算正在拓展

AI的应用边界73%

的组织认为，在分布主要调研结果05在评估基础设施时，强大的AI平台是最重要的评估标准之一生成式

AI的投资回报率同时取决于内部和外部应用场景生成式

AI几乎得到普遍应用大多数组织依赖云服务提供商提供的生成式

AI解决方案70%的组织遇到过数据治理、数据与AI模型的集成以及训练数据不足方面的问题64%成本是关键考量因素83%的组织正在积极尝试使用生成式AI、进行相关开发，或在生产环境中使用生成式

AI的组织在采用生成式

AI基础设施解决方案时，将成本效益置于优先考虑的位置98混合云带来了出色的灵活性与可控性安全和数据是主要顾虑的组织将重点放在提升客户体验和优化内部运营这两个方面74%形势挑战基础设施式设备或系统中部署生成式AI模型具有重要意义的组织更倾向于采用混合云架构来部署生成式

AI02040103%0807经过优化的基础设施对生成式

AI的成功至关重要同时，它还必须具备可伸缩性、高性能和高可靠性，以支持大型训练数据集的并行处理，以及推理和决策过程对长上下文窗口和多步骤流程的需求。当然，成本效益也是不可忽视的关键因素。听起来像是不可能完成的任务？如果有一个清晰的计划，那就不再是难题。生成式AI正在重塑组织的IT

战略，并且发展势头丝毫没有放缓。本次调研揭示了各行业领先企业在这条变革之路上的所处阶段。重新审视您的云基础设施战略时，务必考虑那些不仅能服务AI专家，也能为开发人员和业务团队提供支持的服务提供商。任何生成式

AI项目的成败，归根结底都取决于其背后的基础设施。这不仅仅是增加一个新的工作负载，而是要构建一个坚实基础，以满足AI独特且快速变化的需求。无论您的目标是提升客户满意度，还是降低运营成本，基础都非常重要。这个基础必须具备强大承载能力。它需要具备安全性，以保护知识产权和客户数据。它必须是分布式的，既要在公有云中提供托管式服务，又能延伸至本地数据中心或网络边缘，以满足延迟控制和数据主权等需求。

04vv发现结果1生成式

AI几乎在各行各业得到普遍应用0102030405060708

05生成式AI在当今职场中的重要性，怎么强调都不为过。贵组织在生成式

AI应用方面处于哪个阶段？生成式

AI对组织当前和未来的业务运营有多重要？98%79%19%重要4%比较重要的技术领导者认为生成式

AI对组织当前和未来的业务运营有着非常重要，甚至极其重要的影响的组织正在积极尝试使用生成式

AI、进行相关开发，或在生产环境中使用生成式

AI发现结果

01020304

05

06

070820%目前正在进行实验性开发39%积极进行相关开发39%在生产环境中使用2%计划在未来一年内应用40%极其重要39%非常重要Google

cloud

06我们在不同行业中有了一致的发现：各行业的技术领导者已经普遍在组织中应用生成式

AI，并认为它对业务发展至关重要。让我们深入看看这些数据。在各个行业中，大多数组织要么正在积极开发，要么已经在生产环境中部署生成式

AI，这表明公司已经为生成式AI投入了大量资源，并计划继续加大这方面的投入。正如预期，技术相关行业的公司将生成式

AI从试点阶段推向生产环境的速度更快，整体采用率也更高。不过，生成式

AI

的重要性促使几乎所有行业的公司都开始加大相关投资。即使较少将生成式

AI用于生产环境的行业，如金融服务和制造业，也在实验和开发方面十分活跃。跨行业观察IT咨询硬件/软件零售医疗保健制造金融服务贵组织在生成式AI应用方面处于哪个阶段？（按行业）发现结果

01020304

05

06

0708在生产环境中使用积极进行相关开发目前正在进行实验性开发Google

cloud

0732%

30%

48%10%9%30%36%58%53%15%34%28%23%7%39%39%45%53%各行业的技术领导者一致认为，生成式AI

对组织的成功至关重要。整体上已有79%

的领导者认为生成式

AI对其业务非常重要，甚至极为重要。尽管

这个数字已足以令人惊叹，但在与技术相关的行业，这一比例更高，例如IT咨询行业为91%，计算机硬件/软件行业为88%。生成式AI对组织当前和未来的业务运营有多重要？（按行业：极为重要/非常重要）91%88%75%75%72%51%IT咨询硬件/软件医疗保健制造零售金融服务发现结果

0102030405

06

07

08Google

cloud

08为什么这对您很重要AI不再是一个未来概念，它已经成为推动业务发展的关键因素，并且导致了组织运作方式的根本变化。IT领导者们已经不再仅仅谈论已知的

AI潜力，而是开始着手构建能够支持日益增长的

AI工作负载需求的基础设施。大多数组织要么在积极进行生成式

AI

的相关开发，要么已经在生产环境中使用生成式AI。它正在帮助组织提升效率，并探索通向成功的新路径。您今天做出的基础设施决策，将决定您的组织在

AI主导的未来中能否保持竞争力，无论您身处哪个行业或地区，都是如此。发现结果

0102030405

06

07

08Google

cloud

09生成式

AI的投资回报率同时取决于内部和外部应用场景生成式

AI在多个应用场景中都能带来显著成果。尽管直觉上您可能认为“多多益善”，但我们的研究显示了一些有趣的结果，揭示了在哪些领域应用生成式

AI能取得最佳效果。01

02

03

04

05

060708发现结果2

10本报告来源于三个皮匠报告站（）,由用户Id:1181721下载,文档Id:1225064,下载日期:2026-05-05您认为组织现有或计划中的生成式

AI应用主要分为哪几类？64%同时包括面向内部和外部的应用我们的研究显示，许多技术领导者(64%)在提升客户体验和优化内部

运营之间找到了平衡。将生成式

AI应用于面向外部的场景，能够带来贴合

客户需求的准确回答，而不是泛泛的

答复。例如，将生成式AI与组织的运营数据相结合，可以帮助客服人员或聊天机器人实时提供高度相关的回答，而这正是当今的客户所看重的。而将生成式AI应用于内部流程，则能够帮助组织简化流程、提高效率，并优化运营成本。组织正在利用生成式

AI

改进客户互动方式、提供个性化的体验，并提出新的价值主张。25%主要是面向内部的应用11%主要是面向外部的应用01发现结果

02

0304

0506

07

08Google

cloud

11这不仅仅是生成报告。它关乎从庞大的数据集中提取

富有实用价值的分析洞见、识别规律，并快速、大规模地实现基于数据的决策。客户服务自动化自动化执行重复性任务并简化工作流程，可腾出人力资本用于价值更高的活动。内部流程自动化自动化不仅局限于聊天机器人。如今的自动化是要创建智能系统，以便理解复杂询问，提供准确和个性化的回复，并高效解决问题。推动组织采用生成式

AI的三个关键应用场景包括：数据分析数据分析客户服务自动化内部流程自动化代码生成内容创作设计和创意50%40%40%25%20%19%数据分析是生成式AI的首要实施领域，而客户服务和内部流程自动化则远远排在其后01发现结果

02

0304

0506

07

08Google

cloud

12跨行业观察在不同行业中，生成式

AI的首要实施领域有很

大区别。数据分析和代码生成客户服务自动化内部流程自

动化%69%相比于其他行业，这些行业将生成式AI优先用于代码

生成的概率更高（分别为47%和51%）7%4%8%5%6001发现结果

02

0304

0506

07

08IT

咨询

硬件/软件Google

cloud

13首要实施领域IT咨询硬件/软件金融服务零售医疗保健制造广告、公共关系数据分析69%

47%49%55%45%4%客户服务自动化67%8%内部流程自动化54%43%55%0%代码生成47%

51%

7%

19%

0%内容创作

11%

11%

96%设计和创意

9%

17%

您的组织认为以下哪些生成式

AI实施场景需要优先考虑？（按行业）01发现结果

02

030405

0607

08Google

cloud

1412%60%22%23%18%11%25%25%8%30%34%31%47%9%18%16%9%92%47%68%为什么这对您很重要为了充分利用生成式

AI，组织需要采取战略性方法，将AI融入到内部工作流程和面向客户的应用中。这需要一个灵活且可扩展的基础设施，以支持多样化的AI工作负载。此外，尽管了解行业内主流的应用场景非常重要，但跨行业的学习也能激发创新，解锁新的价值。通过探索其他行业如何利用生成式AI，组织可以发现新颖的应用场景，扩展产品和服务，从而获得竞争优势。01发现结果

02

0304

0506

07

08Google

cloud

15在金融服务行业，Regnology

正在使用GoogleCloud服务开发监管报告聊天机器人。该聊天机器人旨在以更快的速度准确回答内部和外部用户提出的监管方面的问题。面对快速增加的监管要求和不断增加的数据量，Regnology帮助客户简化运营，并确保遵守不断变化的法规。作为全球领先的监管报告公司，Regnology遇到了自有基础设施缺乏灵活性的问题。借助基于GoogleCloud

服务构建的新聊天机器人，Regnology现在能够以更快的速度准确回答内部和外部用户提出的监管方面的问题。01发现结果

02

0304

0506

07

08Google

cloud

16安全和数据是主要挑战保护敏感信息仍然是首要任务。组织希望了解如何在使用第三方

AI模型时保护专有数据安全，并确保遵守不断变化的数据保护法规。0102030405060708发现结果3

17安全风险数据隐私问题监管问题成本技术整合困难变更管理缺乏专业知识数据准备道德问题（偏见、公平性等）现有基础设施限制缺乏可行应用场景您的组织在采用生成式AI过程中面临的最大挑战是什么？39%36%29%26%26%22%21%20%18%17%13%0102发现结果

030405060708Google

cloud

18采用生成式AI时的主要顾虑包括：安全风险对专有数据和知识产权的保护没有妥协余地。生成式AI

的固有特性（即涉及大语言模型和庞大数据集）带来了新的安全挑战，我们必须积极采取措施加以解决。数据隐私问题组织需要确保在实施生成式

AI时能够保护敏感数据的安全，并遵守《一般数据保护条例》(GDPR)、《加州消费者隐私法案》(CCPA)等法规。监管问题有关生成式AI

的法规正在不断增加，欧盟《AI法案》就是其中之一。因此，企业必须确保合规。在监管审查愈加严格的背景下，需要注意的问题包括AI可解释性、保护知识产权以及防范虚假信息。39%36%29%我们的研究凸显了技术领导者面临的关键安全性和隐私问题。62%的组织将安全风险和/或数据隐私列为其面临的最大挑战0102发现结果

030405060708Google

cloud

19这包括数据治理、将数据集成到AI模型，以及训练数据量不足等问题，这与来自《利用数据和

AI

创造价值的高管指南》的主要结论一致。各组织都渴望采用生成式

AI，但在将试点项目落地到全面生产部署的过程中，他们往往面临重重挑战。主要瓶颈是什么？是数据。我们的研究发现，数据的可用性和质量，以及存储这些数据的平台，是生成式AI实施中最重要的因素。对数据沿袭能力的迫切需求进一步加剧了这一挑战。数据沿袭提供了有关数据集来源、转化过程和使用权限的全面、可审计记录。这使组织能够以法律、伦理和政策为依据，明确声明其有权将特定数据用于某个

AI应用。如果没有可验证的数据沿袭信息，组织将面临重大风险，包括潜在的法律责任、监管不合规和声誉受损。组织如果使用来源不明的数据进行

AI模型的训练，将严重阻碍该模型的部署。70%的采用生成式

AI

的组织遇到了数据方面的难题。0102发现结果

030405060708

20数据可用性和质量、强大的AI平台、高效的可伸缩性以及技术可行性，这些是对于新一代生成式

AI技术而言最重要的因素。组织普遍关注如何确保客户和专有数据的隐私、安全性以及合规性。我们已经知道，为了确保数据治理的质量，组织需要统一数据，但实现这一目标可能需要进行大量的基础设施建设。因此，当谈到生成式

AI

的实施时，数据质量、强大的平台和高效的可伸缩性无疑是技术领导者心中最重要的因素。数据及其支持基础设施仍然占据主导地位。强大的

AI平台数据可用性和质量高效的可伸缩性技术可行性45%45%45%44%选择生成式AI技术时，您最看重的五个因素是什么？0102发现结果

030405060708Google

cloud

21跨区域观察安全性和数据隐私是生成式

AI采用过程中面临的最大挑战，对于各个区域而言都是如此。全球各个区域的法规环境也有所不同，跨国经营的公司尤其需要关注这一问题。《一般数据保护条例》（GDPR）对数据的存储、收集和删除方式有严格要求。对于使用云资源的企业来说，在本国设立云数据中心是确保合规的关键措施。若未遵守规定，罚款最高可达

2,000万欧元，或全球年营业额的4%。北美洲

欧洲

亚太地区各州层面的法律正变得越来越全面，例如《加州消费者隐私法案》(CCPA)，该法案旨在保障消费者访问、查看和删除其数据的权利。各国在数据监管方面的规定差异显著，有些国家要求数据必须存储在本国境内，而另一些国家则采取更加碎片化的管理方式。欧洲、中东和非洲地区37%31%31%安全风险数据隐私问题监管问题您在采用生成式AI时面临的最大挑战是什么？北美地区43%40%25%亚太地区35%36%33%39%36%29%0102发现结果

030405060708Google

cloud

22这样，即使面对要求严苛的事务型工作负载，也能够实现这些系统之间的数据访问。随着越来越多的数据和应用从本地数据中心迁移至云端，远离传统的安全机制与基础设施，数据安全策略也必须相应地向云环境靠拢。您希望了解更多内容吗？•

加速安全、私密且合规的AI转型•

通过运营数据库充分释放生成式

AI

潜力•

借助GoogleCloud构建安全的数据平台构建安全且合规的

AI基础设施是不容妥协的。IT领导者必须在

AI战略中优先考虑数据安全与隐私，以降低风险、维护信任。无论所属行业如何，数据通常分散在不同平台且格式多样，这使得统一的安全和治理策略难以实施。为充分利用AI，必须使用一个支持所有数据格式（包括开放格式）的统一平台，以建立单一可信来源。此外，还必须采用扩缩能力强的架构，以便在不影响性能的情况下，将事务和分析系统进行整合。为什么这对您很重要0102

发现结果030405060708Google

cloud

23“借助BigQuery

直观的用户界面，即使是

缺乏云经验的工程师，在入职的第一周也能开始使用此工具处理数据项目。如果使用其他解决方案，我们可能需要两倍规模的团队，才能维持我们现在的基础设施。”Lakshman

BalasubramanianMoii.AI联合创始人兼

AI负责人no

ii.aiMoii.AI通过在CCTV

中部署

VisionAI智能

体以提升安全性目前全球已有超过十亿个CCTV摄像头，Moii.AI通过AI实现审查与分析流程自动化，将传统摄像系统转变为自主智能体，从而打造更安全、更高效的工作环境。0102发现结果

030405060708Google

cloud

24成本效率是关键考量因素AI需要大量的计算资源，而实施和维护

AI

的整体成本会因规模、模型复杂度、数据需求、基础设施维护以及现有人才储备等因素而有很大差异。01020304

05060708发现结果4

25尽管生成式

AI的潜力几乎无限，但预算却并非如此。83%

要驾驭这项强大的新技术，往往会面临各种意想不到的支出陷阱。选择合适的云服务提供商，可以为

AI工作负载的训

练、微调和推理提供具有成本效益的解决方案，其中

包括Spot

实例、预留实例以及随用随付等灵活选项。正如在发现结果3

中提到的，生成式AI解决方案的成本同样是其落地过程中的一大挑战，在所有挑战中排名第四。的技术领导者认为，在您为生成式

AI基础设施解决方案做决策时，成本效益有多重要？53%非常重要30%极其重要010203发现结果

04

0506070812%重要成本是评估解决方案时的关键因素4%比较重要Google

cloud26010203发现结果

04

05060708虽然生成式

AI解决方案的成本是一个重要考量因素，但其带来的好处同样会对组织的利润产生积极影响。从提高生产力、增加销售额到降低运营成本，一些领先的生成式AI用例直接带来了成本效益。提高员工工作效率提升客户满意度和互动度简化工作流和流程提升竞争力并争取市场份额加速收入增长促进销售并提高收入降低运营成本22%21%20%18%14%13%13%您期望生成式AI带来最大投资回报的领域是什么？Google

cloud

27为什么这对您很重要生成式AI可简化流程并自动执行任务、提高效率，帮助企业降低成本。然而，尽管效率是有目共睹的，但量化生成式AI的商业价值仍具有挑战性。这是因为生成式

AI虽然能够节约整个组织的成本，但也可能带来日益增加的技术支出，其中包括计算成本、模型开发和管理以及数据管理的相关费用。因此，成本优化是一个至关重要的考量因素。010203发现结果

04

05060708Google

cloud28利用可对计算资源进行精细控制的云平台，避免资源过度配

置。探索自动扩缩等功能，根据实时工作负载需求动态调整资

源，并支持异构计算实例（如CPU、GPU、TPU），以满足特定模

型的要求。这不仅能尽可能减少资源浪费，还能确保您仅按实

际使用量付费。选择在优化

AI性能方面有成熟经验的基础设施提供商。这包

括采用专为AI设计的硬件加速器（如TPU或GPU），以及利用

高度优化的软件框架（如

JAX、TensorFlow、PyTorch）以最大

限度提高硬件利用率。这些优化措施能够显著缩短训练和推理

时间，从而大幅节省费用。探索先进的资源管理工具，实现

AI工作负载的自动分配与调度。动态工作负载调度、抢占式实例（适用于具备容错能力的工作负载）以及智能缓存机制等功能，能够显著减少资源空闲时间，提升整体基础设施利用率，从而降低运营成本。改善

AI

的成本效益要有效管理生成式AI

的成本，不能只选择价格

最低的服务，而是应该采取战略性方法。要实现

AI基础设施的最佳成本效益，需要重点关注以下

三个关键领域：通过深入考量这些因素，并选择致力于成本优化

的云服务提供商，组织就能在不增加不可持续开

支的前提下，充分释放生成式AI

的潜力。通过精细控制合理调整资源规模利用AI优化的硬件和软件堆栈实施智能资源管

理和调度010203发现结果

04

05060708

29依托生成式

AI技术的Fin-

Ops如何助力实现高成本效益的技术投资回报FinOps为云环境带来管理规范，通过将技术、财务和业务团队整合在统一的运营框架下，助力实现高成本效益的技术投资回报。据统计，有的组织可借此将云支出降低高达30%。您可以通过Cloud

FinOps生成式AI框架，评估自己是否已准备好采用生成式

AI。010203发现结果

04

05060708

30自动驾驶技术公司Nuro

正在借助GoogleCloud开发其先进的自动驾驶系统Nuro

Driver，同时大幅提升训练成本效益。借助GoogleCloudTPUs,Nuro现在可以处理PB级的真实道路行驶数据，以更快的速度训练AI模型，生成城市级地图并识别道路障碍物，训练速度提升一倍，同时避免了额外的成本支出。010203发现结果

04

05060708Google

cloud

31发现结果5在评估基础设施时，强大的

AI平台是最重要的评估标准之一受访者希望平台同时具备出色的性能、规模和效率，从而能够帮助其更好地训练、部署并管理AI。0102

0304

05

060708

32安全性可伸缩性性能系统效率39%37%34%29%北美地区46%37%35%27%欧洲、中东和非洲地区36%41%38%31%亚太地区34%32%27%29%鉴于生成式AI模型、应用和架构的惊人演进速度，组织优先选

择能够跟上发展步伐的平台也就不足为奇了（详见调查问卷

发现结果3）。重要的基础设施因素很少有组织会训练大规模基础模型。然而，无论是为成千上万的内部用户还是数百万客户提供模型，对全球各个地区而言，规模和性能都是关键因素。由于

AI平台必须处理智能体间的快速通信以及更高数量的推理请求，对平台性能和可伸缩性的需求也在加剧。一个强大的平台必须能够支持这些类型的工作负载（无论其是否采用容器化架构），同时在计算、存储和网络扩展、资源共享、访问和路由等方面持续创新。45%评估生成式AI基础设施系统时，最重要的因素有哪些？的受访者希望拥有一个强大的

AI平台010203

04发现结果

05060708Google

cloud33创新基础设施AI推动了GPU

的普及。然而，您的核心基础设施还应具备灵活性，以针对不同应用场景实现最佳的性价比，包括采用特定CPU和定制芯片。数据对AI至关重要，因此平台必须提供多种存储机制来注入、存储和传递数据。例如，并行文件系统适用于某些AI训练，而在训练数据静态时，对象存储和块存储可能高效得多。在网络方面，必须考虑每台主机、集群内部主机之间以及在云、跨云与私有网络环境中的网络部署。动态的集成软件随着生成式AI实施的不断发展，AI平台的软件也必须不断进化。例如，可变长度的上下文窗口需要更智能的网络负载均衡，以便正确地路由请求。多步推理可能需要多个计算主机来动态处理工作任务。处理大规模AI作业的基础设施成本极高，因此要求软件通过广泛的可观测性、更复杂的检查点机制来尽量减少不可避免的中断，甚至让AI集群在降级模式下运行。服务不同角色一些组织希望完全访问AI基础设施，因为其希望实施全新技术、框架和模型，以最大程度利用硬件资源。有些组织则更倾向于采用现有模型，并针对自己特定的应用场景进行优化，基础设施控制对这些组织来说是次要的。还有一些企业则仅希望通过API访问预配置的AI模型，以便将其集成到应用中。如果仅通过一个具备出色可扩缩性、性能及可靠性的基础设施，就能满足上述不同使用方式的需求，那么这些组织就都能从中受益。为什么这对您很重要一个强大的AI平台能够满足不同用户的需求，例如开发人员、科学家、IT运维人员等等。这种平台具

备可扩缩性，并能够针对不断发展的架构和框架进

行优化。它还能够处理从开发到部署再到管理的整

个

AI生命周期。010203

04发现结果

05060708Google

cloud

34面对复杂的数字环境，Moloco

致力于提供基于AI

的广告解决方案，利用第一方数据帮助企业根据实时消费者行为精准定位和获取高价值用户，从而实现更高的转化率和投资回报率。Moloco会使用来自十几个深度神经网络的预测数据，平台每天处理10

PB（千万亿字节）的数据，最高处理速度达到每秒1050万次查询。Moloco依靠GoogleKubernetes

Engine来处理如此庞大的数据负载，并优化服务效率，同时保持成本效益。010203

04发现结果

05060708Google

cloud

35边缘计算正在拓展

AI

的应用边界0102

0304

05060708项发现结果6

36生成式AI正被应用于越来越

具体应用场景：多的场景中，其中许多应用已超出传统的集中式数据中心范畴。通过本地处理医疗设备采集

的生命体征数据，实现即时的

异常值检测与医护人员通知在边缘部署计算机视觉模型，实现对医护人员个人防护用品

(PPE)合规性的实时识别与验证边缘计算涵盖IoT设备（如智能冰箱）、自动驾驶汽车以及移动设备。它通过分布式处理来降低延迟，同时对计算资源的效率提出更高要求。这种计算分布还能改善网络性能，并通过本地处理数据、最大程度减少敏感信息的传输，更好地满足数据隐私法规（如

GDPR、CCPA）的要求。目前，几乎每个行业都在一定程度上依赖IoT或移动设备，以支持实时应用并保障业务连续性。在医疗、制造和零售等领域，边缘计算通过处理传感器信息来推动分析、维持质量控制，甚至实现设备的自主运行。基于传感器数据分析，实现工

业设备的预测性维护基于边缘视频分析的实时库

存管理010203

04

05发现结果

060708Google

cloud

37将生成式AI模型部署到边缘设备（例如IoT设备、移动设备），这对您的组织来说有多重要？73%的组织表示，边缘计算对其来说非常重要或极其重要010203

04

05发现结果

0607086%20%33%40%

38极其重要非常重要比较重要重要010203

04

05发现结果

060708跨行业和地区观察正如您可能预料的那样，将生成式AI部署在边缘设备上对制造业(70%)和医疗行业(74%)来说是重要的，但对于计算机硬件或软件行业的公司而言，重要性更高(81%)，对计算机/IT咨询公司来说更是尤为重要(85%)。极其重要46%49%26%13%35%14%非常重要38%32%47%60%35%33%将生成式AI模型部署到边缘设备（例如IoT设备、移动设备），这对您的组织来说有多重要？（按行业）IT咨询硬件/软件零售医疗保健制造金融服务Google

cloud39为什么这对您很重要尽管其重要性日益提升，但在边缘实现

AI

的现代化与应用、保持对关键业务数据的控制，以及管理多个边缘部署的复杂性，仍然带来了诸多挑战。因此，市场对基于云的解决方案的需求正在不断增长，这类方案可以支持将生成式

AI模型部署到边缘，用于实时应用。随着客户对实时交互体验的期望不断上升，边缘计算以及能够快速处理生成式

AI数据的可靠基础设施，也将变得愈发必要。资源与连接受限边缘设备的计算能力有限，且常常面临网络连接不稳定的问

题，这使得复杂AI

模型的部署与管理变得困难。因此，组织需

要进行专门的优化，并具备强大的离线处理能力。数据安全和治理在边缘保护敏感数据、确保数据质量与合规性，以及在分散位

置中维持数据主权控制，是对安全和治理的重大挑战。部署与管理的复杂性将AI部署扩展至数量众多、地域分散的边缘设备，同时还要进行监控、维护、版本控制和编排，会使复杂性显著增加，因此需要借助自动化工具和先进的管理平台来应对这一挑战。010203

04

05发现结果

060708多个边缘部署所面临的挑战包括：Google

cloud

40像麦当劳这样的全球零售商计划部署GoogleDistributedCloud，在全球数千家餐厅中应用AI技术。这将提供全新的客户体验平台，并将信息存储与高性能计算能力引入每一家餐厅。借助这些边缘计算能力和分布式AI，麦当劳将能够获得关于设备性能的全新分析洞见，及时采取措施以避免业务中断，并简化运营流程，从而让餐厅团队能够专注于提供卓越的客户体验。010203

04

05发现结果

060708Google

cloud

41发现结果7混合云为生成式

AI部署提供了灵活性这种混合方式将本地基础设施与公有云资源结合了起来。0102

0304

05060708

42我们的研究清楚表明，大多数组织倾向于采用混合云方案(74%)。相比单一的本地部署或单一公有云部署，混合云方案更受青睐。原因显而易见：更加灵活混合云方法使组织能够根据每个工作负载的特性

选择最优的运行环境，在性能、成本和安全性之间

实现平衡。改善数据驻留和和合规性对于某些工作负载，可能需要根据法规要求将数据

保留在本地。混合云方法能够满足这一需求，同时

仍能利用公有云带来的优势。混合：本地部署+多云混合：本地部署+单一公有云多云本地单一公有云41%33%19%4%3%您的组织主要使用哪种云基础设施方法来处理生成式

AI工作负载？010203

04

05

06发现结果

0708Google

cloud

43为什么这对您很重要鉴于大部分组织都选择了混合云，这意味着技术领导者必须了解如何设计、实施和管理混合云环境。如果忽视这一趋势，可能会落后于已经充分利用混合云提供的灵活性和控制力的竞争对手。组织需要评估现有的基础设施和云合作伙伴关系，看看是否能够支持混合云方案。关键在于，组织需要根据各种工作负载灵活选择合适的环境。这需要组织有策略地思考工作负载的部署位置，考虑每个应用的性能、成本和安全需求等因素。010203

04

05

06发现结果

0708Google

cloud

44TOYOTAToyota

利用GoogleCloud

的AI

Hypercomputer

构建混合云架构，推动其创新的AI平台，使工厂员工能够在关键应用场景中开发和部署AI模型。Toyota成功减少了20%

的学习模型创建时间，改善了用户体验并提高了采用率。随着更多工厂车间员工能够创建AI模型，Toyota实现了更多手动和劳动密集型任务的自动化处理，通过制造效率和流程优化，每年节省了超过10,000小时的工作时间。010203

04

05

06发现结果

0708Google

cloud

45大多数组织依赖云服务提供商提供的生成式

AI解决方案0102

0304

05060708发现结果8

46在构建生成式AI解决方案时，最常见的方法是利用像Gemini、Claude和AI21

等专有模型，重点考虑速度、易用性、成本效益和可伸缩性。构建自定义内部模型是最不常见的方法，因为它需要更多的时间和资源，这表明对于许多组织而言，专有模型已经足够满足他们的需求。以下哪种说法最准确地描述了您的组织当前使用生成式AI

的方式？构建和运行AI工作负载相当复杂。组织需要借助托管式服务来简化操作，并充分利用云资源。您的组织偏好采用哪种方法来管理生成式

AI基础设施？57%混合（均衡搭配）21%主要采用托管式服务，辅以一些自主管理4%全托管式服务10%12%17%22%式

AI

基础设施中使用托管式服务17%使用专有模型构建解决方案使用现成解决方案使用经过微调的开源模型混合采用多种方法开发自定义的内部模型010203

04

05

0607发现结果

082%完全自主管理主要采用自主管理，辅以一些托管式服务Google

cloud

4739%这正推动企业基础设施市场规模大幅增长。根据《2025年GoogleCloudAI

商业趋势报告》，到2026年，AI在企业基础设施中的采用率预计将增长30%

以上。1这种极快的普及速度，在全球范围内引发了对具备高计算能力和高功率密度的数据中心空间的强烈需求。截至

2030年，对

AI就绪型数据中心容量的需求预计将以平均每年33%

的速度增长2，并且数据中心方面的支出预计将在未来五年内翻一番3。1

Credence

Research

(2024)。All-In-One

Infrastructure

MarketSize,

Shareand

Forecast2032（2032年一体化基础设施的市场规模、份额和预测）。2

McKinsey&Company

(2024)。AIpower:Expandingdatacenter

capacitytomeetgrowingdemand.（AI

的力量：提升数据中心功能

以满足上涨的需求）。3

美国全国经济研究所(2024)。The

RapidAdoptionofGenerative

AI（生成式AI

的迅速采用）。要设计能够取得长期成功的架构，需要

在多个目标之间巧妙权衡：既要利用生

成式AI

的新功能提升效率，又要优化核心应用以提升客户体验，同时还要对现

有的基础设施进行现代化改造以跟上时代步伐。我们正迅速接近一个转折点：传统的云计算和基础设施将难以满足当前日益增长的容量和性能需求。鉴于构建和管理

AI就绪型基础设施的复杂性与资源密集度，越来越多的组织(48%)开始寻求云服务提供商的支持，而相对较少的一部分组织（36%）则转向独立软件供应商(ISV)。这种转变本质上是

为了建立战略合作关系，从而利用专业知识和资源，加速实现AI

的落地和扩展。直接从云开发者获取独立软件供应商(ISV)结合以上渠道全球系统集成商(GSI)内部自主开发制造商云服务提供商在生成式

AI实施中发挥着关键作用。您的组织主要通过哪些渠道获取和部署生成式

AI解决方案？010203

04

05

0607发现结果

08Google

cloud

48构建坚实的AI基础设施是实现成功的基石。组织能否在未来取得成功，很大程度上取决于其是否拥有能够支持大规模

AI工作负载、企业应用体系以及新应用开发的基础设施，该基础设施必须具备出色的可扩缩性、可靠性、计算性能、效率、安全性、易用性与成本效益。然而，许多企业和政府机构往往缺乏独立开发这些技术和工具所需的技能、时间与资源。因此，组织越来越多地依赖托管式服务提供商来管理、扩展基础设施并保障其安全性。为业务寻找最合适的

AI解决方案，正是组织保持领先地位的关键。GoogleCloud

的全球合作伙伴生态系统成员接受过专业培训并获得了认证，可交付满足行业特定需求的云解决方案。为什么这对您很重要010203

04

05

0607发现结果

08Google

cloud

49云服务提供商是

AI时代的战略合作伙伴案，以简化决策过程，从而更好地运营、扩展、优化基础设施并保证其安全性。随着生成式AI应用场景的不断扩展，组织将需要依赖多样化的模型来满足不同的业务需求。而在不让模型过于复杂的前提下，选择最适合自身应用场景的模型，将成为一项不小的挑战。这一向云服务商转变的趋势，并非昙花一现。对于那些正在努力应对复杂的AI开发、部署和管理工作，同时又要克服预算限制和竞争压力的领导者来说，这是一项势在必行的战略任务。研究表明，生成式AI对许多组织而言，已成为必须接受的现实。越来越多的企业倾向于选择集成了

AI和数据技术的即时可用解决方Google

cloud

50通过慎重选择合适的合作伙伴、工具和框架，组织可以为其在

AI时代取得成功打下坚实基础。

《专为生成式AI重新设计基础设施》指南可帮助技术领

导者设计强大、可扩缩且具成本效益的生成式

AI系统。领先的组织正在借助云服务提供商的专业能力，打造全面的解决方案。这些解决方案重点关注以下关键事项：成本限制因

AI所需的大量计算资源与相关维护所带来的高昂支出安全性实施强有力的安全措施，保护敏感数据，确保合规性数据质量确保获取高质量的数据，以训练和部署高效的

AI模型可伸缩性设计能够随着

AI工作负载增长而扩缩的基础设施架构灵活性根据不同应用的各种工作负载选择合适的环