计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者_第1页
计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者_第2页
计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者_第3页
计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者_第4页
计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者_第5页
已阅读5页,还剩7页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

目录MoE稀疏化趋势下,计算效率提升成为关键 3AgenticAI计算效率为先,CPU迎来价值重估 5评价计算效率的核心指标:单位成本 5提升整体计算效率趋势下,CPU迎来价值重估 6巨头率先发力:英伟达芯片致力于创造更高数据中心营收 7ARMCPU迎来重要机遇:兼具性能与生态的系统性壁垒 9投资建议 11风险提示 12插图目录 13表格目录 13MoE据并行、流水线并行和张量并行等多种策略,并部署于高性能GPU集群和高速RDMATheRiseSparseMixture-of-ExpertsASurveyfromAlgorithmicFoundationstoDecentralizedArchitecturesandVerticalDomainApplicationsMoE技术路线下,未来算力基础设施发展的一些趋势。MoE推动算力需求从单卡能力转向集群级系统能力。随着MoE模型参数规MoE128KGPUGPU、多节点集群中运行。在中心化范式下,MoE训练和推理主要部署在高性能GPURDMAMoEMoEGPU上,由路由机制将token分配至对应专家进行计算。但这一机All-to-All响GPUMoE图1:MoETransformer模块中的专家并行机制 TheRiseofSparseMixture-of-Experts:ASurveyfromAlgorithmicFoundationstoDecentralizedArchitecturesandVerticalDomainApplications/DongPan,BingtaoLi,Zheng,JirenMa,VictorFei论文进一步讨论了去中心化MoE对算力的影响。相较于依赖少数大型数据中心的中心化模式,去中心化范式尝试利用消费级GPU、工作站GPU、移动GPUGPUMoEGPUGPU400Gb/sRDMALAN或WAN,带宽可能低于10Gb/s,通信效率成为限制有效算力输出的关键因素。图2:去中心化MoE架构图 TheRiseofSparseMixture-of-Experts:ASurveyfromAlgorithmicFoundationstoDecentralizedArchitecturesandVerticalDomainApplications/DongPan,BingtaoLi,Zheng,JirenMa,VictorFei总体来看,论文的启示在于:MoEAI算力基础设施从单卡性能竞争,转向GPUMoEGPU,也依赖更高效的集群组织方式和分布式算力调度能力。AgenticAI,CPU每百万成本是综合反映AI基础设施真实效率的指标。传统数据中心的核心定位为数据存储、检索与处理设施,而在生成式AI与代理式AI数据中心的核心产GPU小时成本、每美元FLOPS等投入侧指标并不能完全反映AI投入的相关效率,而AIAI图3:“每百万成本”的计算公式 英伟达官网,国联民生证券研究所根据英伟达官网的数据,基于DeepSeek-R1AI模型,仅从算力成本来看,NVIDIABlackwell平台的成本约为NVIDIAHopper的2Blackwell每瓦的Hopper50的成本降低至其1/35左右。指标 NVIDIA指标 NVIDIAHopper(HGX NVIDIABlackwell Blackwell相较H200) (GB300NVL72)GPU每小时成本(美元)1.412.652x每美元FLOPS(PFLOPS)2.85.62x每GPU每秒Token产出90600065x每兆瓦Token产出54K2.8M50x每百万Token成本(美元)4.20.12降为1/35英伟达官网,国联民生证券研究所CPU在AgenticAI时代,CPU-GPU协同失效制约落地效率。当前智能体部署面临“堆卡低效”的困境,佐治亚理工学院相关论文《ACPU-CentricPerspectiveonAgenticAI》通过对五大典型智能体负载的实证测试,揭示传统“CPU搬运、GPU推理”分工模式存在协同瓶颈。时序错配导致GPUCPU工具处理时延在整体负载中占比偏高GPUGPU图4:《ACPU-CentricPerspectiveonAgenticAI》论文中负载时延拆解图英特尔商用官方公众号,国联民生证券研究所吞吐量提升遭遇双重瓶颈:系统效率上限一方面受GPU显存容量限制——批大小提升到一定阈值后KVCacheCPUCPU常出现核心未完全占满时吞吐量提前64128CPU2.96.3图5:《ACPU-CentricPerspectiveonAgenticAI》论文中吞吐量饱和分析图英特尔商用官方公众号,国联民生证券研究所能耗结构失衡:CPU128LangChain负载中,CPU动态能耗占总动态能耗比例可达44%,单纯依赖CPU多进程并行提升吞吐量会拉低整体投资回报率。图6:《ACPU-CentricPerspectiveonAgenticAI》论文中动态能耗分布图英特尔商用官方公众号,国联民生证券研究所由此可见,推理的关键指标不再是峰值算力,而是单位CPUCPU巨头率先发力:英伟达芯片致力于创造更高数NVIDIARubinGPU执行Transformer编排数据与控制流。是英伟达面向AI工厂场景推出的新一代专用CPU,基于GraceCPU相比前代产品仅承担辅已成为支撑GPU高效运行的核心数据处理单元,专门针对AIArmv9.2LinuxCPU-GPUGrace88Olympus72NeoverseV222%1MB114MB512GB/s1.2TB/s,显存容量从480GB提升至1.5TB;互连接口层面NVLink-C2C带宽从900GB/s1.8TB/s,PCIeGen5Gen6CXL3.1,可实现机架CPUGPU表2:Grace与CPU特征GraceCPUVeraCPU核心72个NeoverseV288个NVIDIA自定义Olympus核心线程72176每核心空间多线程二级缓存1MB2MB统一的三级缓存114MB162MB显存带宽(BW)512GB/s1.2TB/s显存容量480GBLPDDR5X1.5TBLPDDR5XSIMD4x128bSVE26x128bSVE2FP8NVLINK-C2C900GB/s1.8TB/sPCIe/CXLGen5Gen6/CXL3.1机密计算支持NA支持第二代可扩展一致性结构(SCF)AI90%GPUNVLink-C2CCPUGPU1.8TB/sCPULPDDR5XGPU端HBM4显存视为同一一致性内存池,有效降低跨设备数据移动开销,支撑KV缓存卸载、多模型并行执行等推理优化技术落地。ARMCPU统性壁垒Arm是AI时代稀缺的覆盖全场景的统一计算架构,生态优势突出。AIArmAI图7:ARMCPU已经建立强大的生态超大规模云厂商AWSGraviton、AzureCobalt、GoogleAxion等Arm实例均为公有云中性价比最优的选择。根据Arm公布的数据,截至2025年底,向顶级超大规模云厂商出货的算力中,近半数为Arm架构,可充分满足企业大规模AI训练与推理的需求英伟达AI工厂CPU配套超大规模云厂商AWSGraviton、AzureCobalt、GoogleAxion等Arm实例均为公有云中性价比最优的选择。根据Arm公布的数据,截至2025年底,向顶级超大规模云厂商出货的算力中,近半数为Arm架构,可充分满足企业大规模AI训练与推理的需求英伟达AI工厂CPU配套英伟达专为与Rubin、BlackwellGPU搭配运行或驱动Bluefield-4DPU而设计的Grace、VeraCPU均基于Arm平台开发,充分证明了Arm架构可无缝集成至异构计算系统,为平衡型计算节点奠定了基础消费级终端99ArmAIArm汽车与工业场景Rivian、特斯拉、小鹏等头部企业均正在设计基于Arm的定制化自动驾驶栈,覆盖AI模型、软件与芯片全层级。多数机器人系统均依托Arm架构处理器实现智能、控制、感知与系统协同功能ARM官方公众号、Futurum,国联民生证券研究所整理Armx86CPUAIAIARMFuturum,2200AIArmAGICPUArmNeoverse基础设施提供核心算力支撑。ArmAGICPU能够在数千核心并行的持续高负I/OArmAGICPUAIAGICPUCerebrasCloudflareOracleF5Meta、OpenAI、Positron、Rebellions、SAP、SK电讯和ArmAGICPU136C(最 ArmAGICPUArmAGICPU136C(最 ArmAGICPU128C(总 ArmAGICPU64C(最大核心数) 成本优化) 内存/核心)参数SKU SP113012 SP113012S SP113012A处理核心CPU

136NeoverseV32x128SVE2MB/核心L2Armv9.2,bfloat16和INT8AI指令

128NeoverseV32x128SVE2MB/核心L2Armv9.2,bfloat16和INT8AI指令

64NeoverseV32x128SVE2MB/核心L2Armv9.2,bfloat16和INT8AI指令系统级缓存系统级缓存最大频率128MB3.5GHz128MB3.5GHz128MB3.7GHz基础基础TDP* 300W12个DDR5,最高可达8800RDIMM内存MT/s300W12DDR5MT/s300W12DDR5MT/s内存吞吐量/核心

每个心6GB/s 每核6.3GB/s 每核13GB/sARM官网,国联民生证券研究所整理ArmAGICPU可实现单机架性能较高:ArmAGICPU具备业界领先的内存NeoverseV3处理器核心性能出众,每个Arm线程可处理更多任务;更多可用Meta作为ArmAGICPU的早期合作伙伴与客户,参与该CPU的联合开发,旨在为Meta全系应用优化吉瓦级规模基础设施,并与Meta自研的MTIA加速器协同运行。投资建议AIAgenticAICPU海光信息、中国长城、龙芯中科、禾盛新材、广合科技等。风险提示MoEMoEAI推理需求增长不及预期风险。若下游AI应用商业化、AgenticAI落地或企业推理需求增长低于预期,相关算力基础设施和CPU行业竞争加剧风险。AI算力、推理优化、CPU/GPU协同和异构调度等方向参与者众多,存在行业竞争加剧的风险。插图目录图1:MoETransformer模块中的专家并行机制 3图2:去中心化MoE架构图 4图3:“每百万成本”的计算公式 5图4:《ACPU-CentricPerspecti

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论