《金融业AI基础设施发展报告（2024-2025年）》

目 录一、总述 1（）研背景 1二）现分析 7三）研目标 9二、推进AI基设施设优化 11（）绿环保 11（）存算协同 17（）云智融合 21（）安可靠 23三、金业AI基设施设优案例析 28（）中工商行千规模AI算云建设 29（）中光大行平台AI算创实践 29三）中人保模型算液实验建设 30四、存问题 31五、发展望 33参文献 34一、总述（一）研究背景204年3IDC1,037.3EFLOPS202846.2。中国人工智能算力基础设施发展呈现出多元化、AI政策背景20248从2018年至今，工信部、发改委、中国科学院等多部门相1202310月发布的《算力基础设施高质量发展行动计划》提出，到2025年我国智能算力占比达到35东西部算力平衡协调发展密1时间部门文件重点内容解读政策性质2025年国务《关于深入实提出强化智能算力统筹基础支指导8月院施“人工智能撑能力。支持人工智能芯片攻坚类+”行动的意创新与使能软件生态培育，加快见》超大规模智算集群技术突破和工程落地。优化国家智算资源布局，完善全国一体化算力网，充分发挥“东数西算”国家枢纽作用，加大数、算、电、网等资源协同。加强智能算力互联互通和供需匹配，创新智能算力基础设施运营模式，鼓励发展标准化、可扩展的算力云服务，推动智能算力供给普惠易用、经济高效、绿色安全。时间部门文件重点内容解读政策性质2024年8月工 信部 等十 部门关事项的通知》明确要进行全国统筹，推动优化布局算力基础设施，具体举措包括各类算力基础设施向枢纽节点部署、逐步提升智能算力占比，以及鼓励企业发展算力云服务等。与此同时，要推动算力的跨区域均衡普惠发展，《通知》特别提到，西部地区合理布局重大算力设施，探索建设超大型AI训练算力设施。指导类2024年1月工 信部 等七 门展的实施意见》推动下一代移动通信、卫星互联网、量子信息等技术产业化应用，加快量子、光子等计算技术创新突破，加速类脑智能、群体智能、大模型等深度赋能加速培育智能产业。加快突破GPU芯片集群低时延互连网络、异构资源管理等技术，建设超大规模智算中心，满足大模型迭代训练和应用推理需求。指导类、时间部门文件重点内容解读政策性质2023年10月工 信部 等六 门《算力基础设施高质量发展行动计划》结合算力基础设施产业现状和加强安全保障能力建设等六方指导类；，2023年2月中共中央、国务院《数字中国建设整体布局规划》建设数字中国是数字时代推进中国式现代化的重要引擎，是构筑国家竞争新优势的有力支撑。加快数字中国建设，对全面建设社会主义现代化国家、全面推进中华民族伟大复兴具有重要意义和深远影响。支持类2022年11月工 部《关于印发中小企业数字化转型指南的通知》加大工业互联网、人工智能、5G大数据等新型基础设施建设力度，优化中小企业数字化转型外部环境。、支持类时间部门文件重点内容解读政策性质2022年科 技《关于加快场场景创新成为人工智能技术升支持7月部 等景创新以人工级、产业增长的新路径，场景创类六 部智能高水平应新成果持续涌现，推动新一代人门用促进经济高工智能发展上水平。重大应用场质量发展的指景加速涌现。场景驱动技术创新导意见》成效显著。场景创新合作生态初步形成。场景驱动创新模式广泛应用。2021年工 信《新型数据中推动新型数据中心与人工智能支持7月部心发展三年行等技术协同发展，构建完善新型类动计划（2021智能算力生态体系。—2023年）》2018年工 信《新一代人工在人工智能主要细分领域，选拔指导11月部智能产业创新领头羊、先锋队，树立领域标杆类重点任务揭榜企业，培育创新发展的主力军，工作方案》加快我国人工智能产业与实体经济深度融合。行业背景随着AI应用已经渗透到金融行业的方方面面。OCR、指纹识别、语音识别等传统识别类AI技术早已和金融业务深度融合。AI技术也如雨后春笋般在金融行业落AI发挥AIAIAI大模型掀起技术背景2025数字基础设施自主创新为金融行业新型数字基础设施建设提供分金融机构也实现了核心系统等关键应用从专有机型到通用服但是金融领域AIAI基础AIAI基础设施建设既能满足金融企业的实际应用需求、又能满足绿色环保低碳要求。（二）现状分析国内外发展现状国外英伟达是人工智能主力芯片供应商，是GPGPU领域的龙头企V100、A100、H100，以及基于最新的Blackwell架构的B200和B300CUDANVSwitch高性能交换架构，英伟达构筑了坚实的技术壁垒，奠定了其在全球市场的领导地位。公司最新推出的基于B300GPU打造的NVL72智算超级节点，旨在AMD是高性能计算（HighPerformanceComputing,HPC）主力芯片供应商，全球领先的半导体技术提供商，产品覆盖GPU、APU（AcceleratedProcessingUnit）及FPGA等多个领域。AMDEPYC（霄龙）处理器面向云计算、HPC等高性能计算工作场景，场份额。同时，AMD也是少数可以和英伟达可以在全球范围内GPGPU领域展开竞争的企业，AMDInstinct系列加速器结合ROCmExascale（百亿亿次级国内AI加速卡主要采用GPGPU和DSA昇GPGPU昇腾、昆仑芯、寒武纪等则是采用了DSA类芯片架构。GPGPU是通用架构设计，拥有大量的计算核心和并行处理单DSA架构则通常是针对特定领域的需求进行定制化设计，其目的是针对特定任务或领域进行高度优化，具有高度的专用性。INT8算力性能更超越国际同类标杆产品（如NVL72），为万亿参数级超大模型的训练任务提供了坚实的算力底座。金融业应用情况目前，各大金融机构主要采用英伟达GPU为主的技术路线，初步完成AIAIAI大模型训练的高密算AI芯片技术的不AIAI基础设施的部署策略将从以英伟达GPU为主的技术路线向多个AI芯片组AI芯片的组合部署，也是AI基础设施建设面临的一大挑战。（三）研究目标勤在其《2024AI心统筹布局思路，引导技术升级、角色升级和应用场景同步升AIAIAI大力优化金融业人工智能算力平台的综合能力，使其在金融领域发挥出更为强大的作用。AI方确二、推进AI基础设施建设优化（一）绿色环保通过高效利用能源、冷却技术优化等方式，提升AI基础设施的能效比和能算比，降低单位算力的碳排放量，实现绿色环保。AI高密AI4AIAI（1~2AIAIAIAIAIAIOCRNLP型的训练和推理任务部署，与普通AIAIAI（包CPU、主板等），AIAIAIAI8AIAIAI式任务执行过程中的算力资源利用率（MFU：ModelFLOPSAI/AI算力），充分发挥每单位能耗的算力供给，进一步提升能算比。AIAIAI液冷服务器/机房随着大模型不断演进、参数规模不断膨胀，模型对高密AI服务器的算力规模不断增加，因此高密AIAIAIAI未来高密AIAIAIAIAI液冷散热技术主要有间接式（冷板）液冷、浸没式液冷、喷淋式液冷技术，其技术特点如图1所示。图1液冷散热技术特点2~56dB1.2~1.3新建机房，PUE1.01~1.09，是未来2表2液冷散热技术方案对比方案建议应用场景方案优点存在问题冷板式液冷15kWPUE电子器件不接低。可兼容现有服本低。液冷系统设计需要考虑现浸没式液冷80kWPUE房PUE相比于冷板所有器件均浸液冷结构设计相光缆接口浸入介质流体中浸入流体时电路或系统的信号完整性、信号耗损等问题。需要配置单独的专用维护设备进行单板清洗、废液处理。混入液体将导致硬件故障。喷淋式液冷30kWPUE加强了芯片表面与冷却液之间冷却液集中收却液需求量较浸没式少。光缆接口浸入介质流体中浸入流体时电路或系统的信号完整性、信号耗损等问题。需要配置单独的专用维护设备进行单板清洗、废液处方案建议应用场景方案优点存在问题理。喷淋过程中冷却液会出现飘逸，从而对机房及设备环境产生影响。能源供应4化的重点。度看，主要涉及智算服务器和整机柜PSU电源、不间断电源UPS/HVDC/电力模块和电池、油机、配电架构、数据中心园区微网和储能等，以及未来的电压制式提升、能源路由、长时储能、小型核电SMR3表3三阶段优化方式优劣对比优化演进阶段特征优势劣势备注以十、百、1.能快速满足智1.更考验能源供应现 有算工程优千卡为主，算基本建设和训和供配电关键设备产 品化过渡阶少量万卡练紧迫性需求。的 临段率达级2.工程设计和设足。期可用性等。2.供电异常有可能时 应对 案以千卡、万1.在能平抑一定1.可选设备供应商现 有革新阶段卡为主，少的智算训练负载较少。设 备量十万卡特性冲击下，实2.工程设计需要匹匹 配等，机柜功现对能源供应和配。智 算率 达~100kW级供配电长期可靠性运行。3.运维人员需要培训。需 求的 小2.降低运维故障革 新处理难度。方案优化演进阶段特征优势劣势备注以万卡、十1.数据中心微网达 到全革新阶万卡为主，与本地配电网协生态重大改变。智 算段少量百万卡同支撑，微网内最 优等，机柜功能源可调度。需 求率 达~200kW级2.供电容量、性能、占地合理，匹 配的 完经济性较好。全 重3.支持智算芯片构 方长期演进的可靠案智算能源供应和供配电整体解决方案。（二）存网算协同存储协同分布式存储协同数据冗余与备份：通过在多个节点上存储相同的数据副本，提高数据的可靠性和可用性。负载均衡：根据节点的性能和负载情况，合理分配数据存储任务，避免单点过载。故障转移与恢复：在节点故障时，自动将数据请求转移到其他正常节点，并在故障节点恢复后进行数据同步。数据压缩与去重：通过数据压缩和去重技术，减少存储空间需求，提高存储效率。存储虚拟化协同存储资源池化：将不同存储设备的资源抽象成一个统一的存储池，实现资源的灵活分配和管理。存储与计算协同存算一体：将存储和计算功能集成在同一芯片或系统中，减少数据传输延迟，提高系统整体性能。智能缓存与预取：通过智能缓存和数据预取技术，将热点数据缓存在靠近计算节点的位置，提高数据访问速度。网络协同AI资源、通信资源和网络资源的高效协同与优化配置，从而提升AI智能网络管理AI云边协同架构AIAI协同机制：边缘端将预处理后的数据或请求发送到云端，云端返回处理结果，减少数据传输量和延迟。模型分割与协同推理模型分割：根据设备的计算能力和网络带宽，动态划分神经网络的层次结构，将部分推理任务分配到边缘设备。协同推理：仅传输少量中间结果，减少带宽消耗和传输时延，同时提高系统的整体吞吐量。计算协同通过采用云计算、边缘计算等技术为分布式计算提供弹性资（CPUGPGPUNPUASIC端边云计算协同端边计算协同：终端设备与边缘服务器协同工作，将云边计算协同：边缘计算与云计算协同，边缘设备处理实时性要求高的任务，云计算处理复杂或大规模计算任务。端边云计算协同：结合终端设备、边缘服务器和云计算中心，实现多层次的计算协同，满足不同场景下的需求。计算卸载和资源分配任务卸载：将计算密集型任务从资源受限的设备卸载到计算能力更强的边缘服务器或云端。资源动态分配：根据任务需求和设备状态，动态分配计算、存储和网络资源，提高资源利用率。算法与模型协同模型拆分与部署：将深度学习模型拆分为边缘端和云端两部分，边缘端负责实时推理，云端负责复杂计算。算法更新与同步：云端构建和优化算法模型后，将其下放到边缘端，确保边缘端执行计算的准确性。（三）云数智融合AI一云多算据计算、人工智能计算提供统一的资源调度服务，首先需要将CPUAI2图2一云多算架构云智融合AI更加智能、高效、可靠的服务和应用。云智融合可通过采用AIAIAIAI芯片的算力资源划分为多个虚拟的AIAI式包括AIAI4。虚拟化方式简介虚拟化方式简介特点AI芯片分区将AI芯片的计算资源根据固定的比例划分为多拟机可以分配到一个或资源划分比例一般为1/2、1/41/8等配置比例，仍可能存在剩余的AI芯片算力资源未被利用。与直接使用AI芯片相比，无时延损失。AI芯片资源时分复用将AI芯片的计算资源通过采用时分复用的方式，提供给用户。可以灵活调度使用AI芯片资源，充分挖掘AI芯片的资源。与直接使用AI芯片相比，存在一定的时延损失。、动调整AIAIAIAIAI回收部分AIAIAI（四）安全可靠基础设施安全硬件安全芯片在进行AI计算过程中，若未对数据进行有效的保护，AIAI增加数据安全性。最后，AI软件安全AI虚拟化安全AI模型训练常常使用共享的AI集群资源。使用虚拟化技术，即使不同租户在共享同一个AIAI模型安全对于传统模型，防止数据投毒、对抗样本攻击、模型窃取，满足模型可解释需求；对于生成式人工智能模型，满足价值对齐的需要，确保AI以对人类和社会有益的方式行事。可解释性当前，AIAI对抗样本攻击AI针对带有扰动设计的对抗样本攻击，采用鲁棒训练方法进行模型窃取攻击AI生成式内容安全AILLM数据安全防止有毒信息和违法不良信息进入模型和个人隐私信息泄露。数据投毒攻击攻击者在训练数据中注入特定的“毒化”数据以污染训练数数据窃取攻击属性推断攻击三、金融业AI基础设施建设优秀案例分析（一）中国工商银行千卡规模AI算力云建设AI整体算力资源使用率提升超50针对大模型服务启动慢p2pGPUNPUMLU离，资源弹性调度、统一监控、统一运维。其次，AITB17010000I/O（二）中国光大银行云平台AI算力创新实践光大银行2021年启动全栈云平台建设，是“123+N”数字化AIGPUGPU（适用于训练场景即通过将多机多卡快速GPU（适用于推理场景GPUGPU（适用于长尾应用叠加场景GPU（AIAI（三）中国人保大模型智算液冷实验室建设2024520kW、峰值测试功率达30KW，是目前行业内标准机柜功率（2.5kW）8~122N冷CDUPUE1.06，KWH四、存在问题（一）AI芯片采购选型难度高。AI是人工智能赋能业务场AI（CPU磁盘）选型不尽相同，除了规格参差不齐之外，AIAIAIAIAIAIAI（二）AI芯片间难以无缝衔接。众所周知，AI芯片能够为人工智能算法提供算力，一方面是AIAIAIAI是备选方案中的AIAIAIAI（三机房大部分都是面向通算服务器建设的，而智算需配套高密方面，对传统机房提出了极大的挑战。一是传统机房配置AIAIAIAIAI400G800G五、发展展望在金融行业，AI能研发、智能运维等多个应用场景实现赋能。未来，AIAI台，为业务提供传统模型及大模型的训练和推理服务。但目前AIAIAIAIAIAIAIAI参考文献国发〔2025〕11号《关于深入实施“人工智能+”行动的意见》工信部联通信〔2024〕165中共中央、国务院.《数字中国建设整体布局规划》.20232022199工信厅信发〔2022〕33工信部通信〔2021〕76（2021—2023年）》[8]工信厅科〔2018〕80德勤.《2024AI智算产业趋势展望分析报告》编制委员会编委会成员：黄程林 翁晓编写组成员：马 超裴凯洋吴建波于 淼郭振宇张林李银凤周炜昕张 硕姚 远朱佑虹杨志涌陈文王 勇梁佳荣蒋 钢李伟波方宏宽汪尔敏齐璇战 茅许高峰杨景瑞李一昂陈理想崔雨萍王滢武耀文穆文楷方如利齐贝贝左麟黄承伟曹竞男张淮声陶中玉编审：黄本涛周豫齐参编单位中国工商银行股份有限公司中国光大银行股份有限公司中国人民保险集团股份有限公司浪潮电子信息产业股份有限公司中兴通讯股份有限公司麒麟软件有限公司飞腾信息技术有限公司海光信息技术股份有限公司中国移动通信集团有限公司政企客户分公司格兰菲智能科技股份有限公司前 言2025AI基础设施建设指明方向。当前，人工智能技术与金融业务深度融合，金融机构已广泛开展AIAI基础设施建设的发展AIAI基础设施建设提供前瞻性、可操作性参考。本报告第一部分从政策、行业和技术3方面阐述了金融业AIAI芯片产业格局与金融业应AI算力平台能AI系统论述绿色环保、存网算协同、云数智融合及安全可靠4个关关键词目 录一、总述 1（）研背景 1二）现分析 7三）研目标 9二、推进AI基设施设优化 11（）绿环保 11（）存算协同 17（）云智融合 21（）安可靠 23三、金业AI基设施设优案例析 28（）中工商行千规模AI算云建设 29（）中光大行平台AI算创实践 29三）中人保模型算液实验建设 30四、存问题 31五、发展望 33参文献 34一、总述（一）研究背景204年3IDC1,037.3EFLOPS202846.2。中国人工智能算力基础设施发展呈现出多元化、AI政策背景20248从2018年至今，工信部、发改委、中国科学院等多部门相1202310月发布的《算力基础设施高质量发展行动计划》提出，到2025年我国智能算力占比达到35东西部算力平衡协调发展密1时间部门文件重点内容解读政策性质2025年国务《关于深入实提出强化智能算力统筹基础支指导8月院施“人工智能撑能力。支持人工智能芯片攻坚类+”行动的意创新与使能软件生态培育，加快见》超大规模智算集群技术突破和工程落地。优化国家智算资源布局，完善全国一体化算力网，充分发挥“东数西算”国家枢纽作用，加大数、算、电、网等资源协同。加强智能算力互联互通和供需匹配，创新智能算力基础设施运营模式，鼓励发展标准化、可扩展的算力云服务，推动智能算力供给普惠易用、经济高效、绿色安全。时间部门文件重点内容解读政策性质2024年8月工 信部 等十 部门关事项的通知》明确要进行全国统筹，推动优化布局算力基础设施，具体举措包括各类算力基础设施向枢纽节点部署、逐步提升智能算力占比，以及鼓励企业发展算力云服务等。与此同时，要推动算力的跨区域均衡普惠发展，《通知》特别提到，西部地区合理布局重大算力设施，探索建设超大型AI训练算力设施。指导类2024年1月工 信部 等七 门展的实施意见》推动下一代移动通信、卫星互联网、量子信息等技术产业化应用，加快量子、光子等计算技术创新突破，加速类脑智能、群体智能、大模型等深度赋能加速培育智能产业。加快突破GPU芯片集群低时延互连网络、异构资源管理等技术，建设超大规模智算中心，满足大模型迭代训练和应用推理需求。指导类、时间部门文件重点内容解读政策性质2023年10月工 信部 等六 门《算力基础设施高质量发展行动计划》结合算力基础设施产业现状和加强安全保障能力建设等六方指导类；，2023年2月中共中央、国务院《数字中国建设整体布局规划》建设数字中国是数字时代推进中国式现代化的重要引擎，是构筑国家竞争新优势的有力支撑。加快数字中国建设，对全面建设社会主义现代化国家、全面推进中华民族伟大复兴具有重要意义和深远影响。支持类2022年11月工 部《关于印发中小企业数字化转型指南的通知》加大工业互联网、人工智能、5G大数据等新型基础设施建设力度，优化中小企业数字化转型外部环境。、支持类时间部门文件重点内容解读政策性质2022年科 技《关于加快场场景创新成为人工智能技术升支持7月部 等景创新以人工级、产业增长的新路径，场景创类六 部智能高水平应新成果持续涌现，推动新一代人门用促进经济高工智能发展上水平。重大应用场质量发展的指景加速涌现。场景驱动技术创新导意见》成效显著。场景创新合作生态初步形成。场景驱动创新模式广泛应用。2021年工 信《新型数据中推动新型数据中心与人工智能支持7月部心发展三年行等技术协同发展，构建完善新型类动计划（2021智能算力生态体系。—2023年）》2018年工 信《新一代人工在人工智能主要细分领域，选拔指导11月部智能产业创新领头羊、先锋队，树立领域标杆类重点任务揭榜企业，培育创新发展的主力军，工作方案》加快我国人工智能产业与实体经济深度融合。行业背景随着AI应用已经渗透到金融行业的方方面面。OCR、指纹识别、语音识别等传统识别类AI技术早已和金融业务深度融合。AI技术也如雨后春笋般在金融行业落AI发挥AIAIAI大模型掀起技术背景2025数字基础设施自主创新为金融行业新型数字基础设施建设提供分金融机构也实现了核心系统等关键应用从专有机型到通用服但是金融领域AIAI基础AIAI基础设施建设既能满足金融企业的实际应用需求、又能满足绿色环保低碳要求。（二）现状分析国内外发展现状国外英伟达是人工智能主力芯片供应商，是GPGPU领域的龙头企V100、A100、H100，以及基于最新的Blackwell架构的B200和B300CUDANVSwitch高性能交换架构，英伟达构筑了坚实的技术壁垒，奠定了其在全球市场的领导地位。公司最新推出的基于B300GPU打造的NVL72智算超级节点，旨在AMD是高性能计算（HighPerformanceComputing,HPC）主力芯片供应商，全球领先的半导体技术提供商，产品覆盖GPU、APU（AcceleratedProcessingUnit）及FPGA等多个领域。AMDEPYC（霄龙）处理器面向云计算、HPC等高性能计算工作场景，场份额。同时，AMD也是少数可以和英伟达可以在全球范围内GPGPU领域展开竞争的企业，AMDInstinct系列加速器结合ROCmExascale（百亿亿次级国内AI加速卡主要采用GPGPU和DSA昇GPGPU昇腾、昆仑芯、寒武纪等则是采用了DSA类芯片架构。GPGPU是通用架构设计，拥有大量的计算核心和并行处理单DSA架构则通常是针对特定领域的需求进行定制化设计，其目的是针对特定任务或领域进行高度优化，具有高度的专用性。INT8算力性能更超越国际同类标杆产品（如NVL72），为万亿参数级超大模型的训练任务提供了坚实的算力底座。金融业应用情况目前，各大金融机构主要采用英伟达GPU为主的技术路线，初步完成AIAIAI大模型训练的高密算AI芯片技术的不AIAI基础设施的部署策略将从以英伟达GPU为主的技术路线向多个AI芯片组AI芯片的组合部署，也是AI基础设施建设面临的一大挑战。（三）研究目标勤在其《2024AI心统筹布局思路，引导技术升级、角色升级和应用场景同步升AIAIAI大力优化金融业人工智能算力平台的综合能力，使其在金融领域发挥出更为强大的作用。AI方确二、推进AI基础设施建设优化（一）绿色环保通过高效利用能源、冷却技术优化等方式，提升AI基础设施的能效比和能算比，降低单位算力的碳排放量，实现绿色环保。AI高密AI4AIAI（1~2AIAIAIAIAIAIOCRNLP型的训练和推理任务部署，与普通AIAIAI（包CPU、主板等），AIAIAIAI8AIAIAI式任务执行过程中的算力资源利用率（MFU：ModelFLOPSAI/AI算力），充分发挥每单位能耗的算力供给，进一步提升能算比。AIAIAI液冷服务器/机房随着大模型不断演进、参数规模不断膨胀，模型对高密AI服务器的算力规模不断增加，因此高密AIAIAIAI未来高密AIAIAIAIAI液冷散热技术主要有间接式（冷板）液冷、浸没式液冷、喷淋式液冷技术，其技术特点如图1所示。图1液冷散热技术特点2~56dB1.2~1.3新建机房，PUE1.01~1.09，是未来2表2液冷散热技术方案对比方案建议应用场景方案优点存在问题冷板式液冷15kWPUE电子器件不接低。可兼容现有服本低。液冷系统设计需要考虑现浸没式液冷80kWPUE房PUE相比于冷板所有器件均浸液冷结构设计相光缆接口浸入介质流体中浸入流体时电路或系统的信号完整性、信号耗损等问题。需要配置单独的专用维护设备进行单板清洗、废液处理。混入液体将导致硬件故障。喷淋式液冷30kWPUE加强了芯片表面与冷却液之间冷却液集中收却液需求量较浸没式少。光缆接口浸入介质流体中浸入流体时电路或系统的信号完整性、信号耗损等问题。需要配置单独的专用维护设备进行单板清洗、废液处方案建议应用场景方案优点存在问题理。喷淋过程中冷却液会出现飘逸，从而对机房及设备环境产生影响。能源供应4化的重点。度看，主要涉及智算服务器和整机柜PSU电源、不间断电源UPS/HVDC/电力模块和电池、油机、配电架构、数据中心园区微网和储能等，以及未来的电压制式提升、能源路由、长时储能、小型核电SMR3表3三阶段优化方式优劣对比优化演进阶段特征优势劣势备注以十、百、1.能快速满足智1.更考验能源供应现 有算工程优千卡为主，算基本建设和训和供配电关键设备产 品化过渡阶少量万卡练紧迫性需求。的 临段率达级2.工程设计和设足。期可用性等。2.供电异常有可能时 应对 案以千卡、万1.在能平抑一定1.可选设备供应商现 有革新阶段卡为主，少的智算训练负载较少。设 备量十万卡特性冲击下，实2.工程设计需要匹匹 配等，机柜功现对能源供应和配。智 算率 达~100kW级供配电长期可靠性运行。3.运维人员需要培训。需 求的 小2.降低运维故障革 新处理难度。方案优化演进阶段特征优势劣势备注以万卡、十1.数据中心微网达 到全革新阶万卡为主，与本地配电网协生态重大改变。智 算段少量百万卡同支撑，微网内最 优等，机柜功能源可调度。需 求率 达~200kW级2.供电容量、性能、占地合理，匹 配的 完经济性较好。全 重3.支持智算芯片构 方长期演进的可靠案智算能源供应和供配电整体解决方案。（二）存网算协同存储协同分布式存储协同数据冗余与备份：通过在多个节点上存储相同的数据副本，提高数据的可靠性和可用性。负载均衡：根据节点的性能和负载情况，合理分配数据存储任务，避免单点过载。故障转移与恢复：在节点故障时，自动将数据请求转移到其他正常节点，并在故障节点恢复后进行数据同步。数据压缩与去重：通过数据压缩和去重技术，减少存储空间需求，提高存储效率。存储虚拟化协同存储资源池化：将不同存储设备的资源抽象成一个统一的存储池，实现资源的灵活分配和管理。存储与计算协同存算一体：将存储和计算功能集成在同一芯片或系统中，减少数据传输延迟，提高系统整体性能。智能缓存与预取：通过智能缓存和数据预取技术，将热点数据缓存在靠近计算节点的位置，提高数据访问速度。网络协同AI资源、通信资源和网络资源的高效协同与优化配置，从而提升AI智能网络管理AI云边协同架构AIAI协同机制：边缘端将预处理后的数据或请求发送到云端，云端返回处理结果，减少数据传输量和延迟。模型分割与协同推理模型分割：根据设备的计算能力和网络带宽，动态划分神经网络的层次结构，将部分推理任务分配到边缘设备。协同推理：仅传输少量中间结果，减少带宽消耗和传输时延，同时提高系统的整体吞吐量。计算协同通过采用云计算、边缘计算等技术为分布式计算提供弹性资（CPUGPGPUNPUASIC端边云计算协同端边计算协同：终端设备与边缘服务器协同工作，将云边计算协同：边缘计算与云计算协同，边缘设备处理实时性要求高的任务，云计算处理复杂或大规模计算任务。端边云计算协同：结合终端设备、边缘服务器和云计算中心，实现多层次的计算协同，满足不同场景下的需求。计算卸载和资源分配任务卸载：将计算密集型任务从资源受限的设备卸载到计算能力更强的边缘服务器或云端。资源动态分配：根据任务需求和设备状态，动态分配计算、存储和网络资源，提高资源利用率。算法与模型协同模型拆分与部署：将深度学习模型拆分为边缘端和云端两部分，边缘端负责实时推理，云端负责复杂计算。算法更新与同步：云端构建和优化算法模型后，将其下放到边缘端，确保边缘端执行计算的准确性。（三）云数智融合AI一云多算据计算、人工智能计算提供统一的资源调度服务，首先需要将CPU