Ethernet vs. InfiniBand-IT 硬件和通信 网络 半导体 AI 网络深度挖掘-向以太网与 InfiniBand 的转变；NVDA Spectrum-X （以太网）未受到重视

75%）。IT硬件和通信网络半导体。、拥塞管理、自适应路由）以及对东西向和南北不断变化的竞争格局。我们认为，AristaFabric建设的最明显受益者，其价值可能与我们的C2024ANET估计值相比能将成为越来越多关注的焦点。我们认为英（利用卸载到BlueField-3DPUs）是一个被比例为75%/25%）增长到2027年的85亿美元（InfiniBand与以太网的比例为25%/我们得出结论（同意我们正处于一个拐点，以太网将成为未来大规模人工智能）；,使其成为有意义的增量增长驱动力（我们将其作为2024年以上的关键驱动力），以及博通作为们认为思科专有的SiliconOne与调度F。公司销售全堆栈优化的能力，我们认为必须考虑到英伟达公司似乎正在Fabric架构方法，即通过Spec,从而实现网外/卸载拥塞控制，优化人工智能性能。此同时，以太网在采用/集成其他网络互连技术的关键属性方面却有着悠久的历如今，关于扩展以太网（RoCEv2）网络何时（和/或为何）成位外，还有哪些竞争驱动力可以颠覆迄今为止似乎非Fabric网络机遇--在2022年11月的分析师日上，他们概述了20-30亿美元的机遇。思科最近（23年6月）引用了650Group的估计，该估计显示人工智能/ML交换TAM从21亿美元增长到了20亿美元。到2027年，该市场规模将从2023年的约增长到85亿美元（InfiniBand和以太网分别占25%每售出5个以太网端口，就有1个能够支）？访问网络的标准方法）定义。RoCEv2英伟达™（NVIDIA®)的Spectrum-X交换机将成为基于以太网的人工智能架构构建领域的重要竞争对手。英伟达于2023年5月正式推出了基于该公司51.2Tbps交换芯片的Spectr持128个400G端口或6个800G端口。(英伟达™（NVIDIA®)的以太网解决方案已推出多年，但英伟达™（NVIDIA®)强调，Spectrum-X是专为人工智能网络架构构建而从头开始设计的，因此没有嵌在数据中心以太网交换机芯片领域的领导地位的呼声越来越高，尤其是其TomahJericho3-AI51.2Tbps以太网交换机芯片--这意味据悉，该系统可连接>32,000个GPU（克洛斯拓），扩展性。众所周知，大规模人工智能基础设施采用的数据中心架构发生了重大转变，涉,包括计算（GPU；人工智能优化芯片）、内存（克服内存墙）、存I/O（InfiniBand与以太网）人工智能工作负载通常涉及在这些处理器之间分布或交换的大型稀疏矩阵计能不利。思科指出，当今的人工智能/ML网络是围绕信这一趋势/竞争态势将在2024年后开始显现。英伟达最近推出了Spectrum-X以太网产品组合(,支持基于SaaS的交付。)。目前，单个英伟达H100GPU的能耗高达900Gbps。随着人工智能工作负载的规模不断扩大，例如，甲骨文公司强调，其基于以太网RDMA（RoCE）的甲骨文云基础设施利用因素。行业报告强调，在人工智能/ML工作负载中，最重要的考虑因素是网络延迟或尾部延迟(英伟达™（NVIDIA®)特斯资料来源英伟达、AMD、谷歌、AWS、特斯拉、富国证券有限责任公司在下文中总结了公开披露的一些最大规模人工智能部署的详细信息：），,通过使用英伟达™（NVIDIA®)的SHARP技术和英伟达™（NVIDIA®)集体通信库（NCCL）,它能够将网络带宽从157Gbps提高到211Gbps，这些技术都是InfiniBand产品组合的一部分(Azure人工智能超级计算技术的部署/设计方面进行了合作。2020年，微软宣布其为OpenAI开发络来训练ChatGPT。2022年11月，英伟达宣布与微软开展多年合作），展到超过100,000个GPU。网络拓扑为更值得注意的是，将需要服务器放置的灵活性，即标准服务器和的下一代设计很可能涉及到在GPU训练集群中部。首个基础架构合作伙伴的同时，还指出该服英伟达™（NVIDIA®)将于2013年第二季度在微软Azure平台上推出英伟达™（NVIDIA®)超级领域架构，也是基于该芯片的第三台超级计算机（最新的超级计算机配备了4,0片）。谷歌对其TPU超级计算机的网络采用了不择行业标准的InfiniBand。TPUv4动态重新配置其互连拓扑结构，以提高规模、可用性、利用率、模块化、部署、•亚马逊网络服务（AWS）。AWS还采用了一种差异化/新颖的网络拓扑结构来支持其横向扩展的高性能计算和人工智能工作负载。AWS的网络拓扑结构称为ElasticFabricAdapter(吞吐量。据报道，该网络结构目前可在EC2UltraClusters中支持多达20,00AWS正在利用其第二代EFA网络进行GPU部署，允许云客户将其P5实例扩展到英伟达H100GPU，用于训练大型语言模型(LLM)。有趣的是，AWS正在利用其Nitro数据处理1999年，由两个相互竞争的统一网络设计--未来I/O和下一代I,但随着两种技术的融合，该公司将重点转向开发InfiniBand解决方案。InfiniBand采用与以太网完全不同的互连拓扑结构，其高吞,因为低层链路层可提供按顺序的数据包传输。正因为,迄今为止，我们已经见证了InfiniBand成为大规模GPU环境中节点到节点互连的首选。),并实现高吞吐量数据传输和低延迟。RDMA在两台服务器的主系统内存之间提供"直接"访问，QLogic于2006年收购了PathScale和SilverStorm，创建了自己的T了Infiniband市场。在2010年11月的To)。这意味着近三分之二的系统采用了0Cray,56,11%、和其他专有互连（Omni-Path、CraySlingshot等）形的计算能力。该行业能够利用工艺节点过渡的进展，推动网络超大规模云供应商不太可能希望将其人工智能基础设施作为一个单独的单元来运营，因太网作为主干网络进行集成。虽然我们同意这一观点，但如上所述，有明显的Arista指出，以太网被部署在数据中Juniper、NVIDIA等）和软件供应商（独立软件和网络交换机供应商）组成。随着软件定义网络(RoCEv2于2014年9月发单一结构（以太网）上。这代表着从光纤通道到以太网的转变，光纤通道在更高吞吐量的需求。同样，低延迟和高吞吐量也是超级计西向流量或服务器/计算集群之间数据移动的驱动力。随着更成熟的RoC算部署的计算节点到节点连接中，以太网能否开始与Infiniband展开更激烈的竞争。远程直接内存访问（RDMA）功能简单地说就是通过直接内存访问实现高吞吐量/低延迟的数据（NVIDIA®)公司通过200GHDRInfiniBand的SHARPv2.0推出了流式聚合树（SAT它与英伟达™（NVIDIA®)的InfiniBand和以太网解决方案。英伟达™（NVIDIA®)关于NCCL的文件指出，这并不是一个完整的NCCL。白皮书）--该公司的人工智能优化以太网解决英伟达™（NVIDIA®)将以太网定位为大规模人工智能云集群中InfiniBand的替代品，既是对以太网英伟达™（NVIDIA®)的Spectrum-4以太网交换机基于公司专有的51.2Tbps交换与路由ASIC，该除了Spectrum-4ASIC/交换机之外，英伟达以太网战略素是BlueField-3数据处理单元（DPU）的卸载功能。英伟达™（NVIDIA®)公司指出，传统以太网在交换机层面集成了拥塞控制功能，包括检测拥塞情况，伟达™（NVIDIA®)的策略是利用BlueField-3用于拥塞控制的网外处理AI芯片具有内置拥塞控制功能，同时还提供与任何云SmartNIC或DPU协同工作Arista的AI网络白皮书还强调了以太网网络在大型超大规模目/最有意义的AI交换机平台。作为一款专用模块化交换机，576x400G端口。来数以万计的GPU也能保持稳定的性能。A针对人工智能网络或GPU互联的无损传输或RoCEv2进行了优化）：。从那时起，思科扩大了针对网络规模提供商的产品阵容，正如思科在CiscoLive2023上强调的那样，该公司在24个月内交付了11款SiliconOne芯片；其中10款是在大约15个月内交付的(25.6Tbps7nm芯片，并于本周（6/20）宣布向客户虽然我们在上文指出，我们看到传统HP利用CiscoSiliconOne发展。这种架构差异主要导致网络性能限制，而传统的们也会对思科向联合封装光学技术演进的路线图感兴趣。在OFC2023大。将继续加速增长。该公司指出，其增长的很大一部分来自用于人工智能集群的以人工智能集群的最高性能结构，最多可支持32,000个GPU以800Gbps的带宽运行。），载实施方面，Broadcom的亮点包括以推动网络利用率最大化）、端到端流量调度的无拥塞），关于Jericho3-AI的详细概述，我们重点推荐TheInnovium/Marvell是高性能以太网交换机芯片（增加新的协议和功能，以应对人工智能/M400G端口。强烈地意识到，为了支持人工智能/ML工作负载的高端性能要求，行业正在向部署/集成到人工智能集群中。在被HPE收购之前，当我们将Cray作为一他管理层的谈话经常会强调Slingshot互联的重要性/定位，它是一种基于以太网它从大型云提供商和企业客户那里赢得了总价值超过8亿美元的多个大型合同（订单这些合同(视为对包括高性能计算/超级计算在内的行业向以太网或TCP/IP的是使其互连能够支持标准的基于以太网的设备，如存储和推出，同时还指出，软件差异化在整体性能中发及将网络直径从五跳减少到三跳，从而改善了延迟。Cray在最初发布该互联技术时曾提到，它一直在探索这一想法，但尚未做其中最引人注目的是英特尔的Omni-Path互连，它于2015年推出，旨在为超大规英特尔公司在2019年宣布，第二代Omni-P2020年9月，英特尔的Omni-PathCornelis的路线图包括支持200Gbps分叉2022年5月，美国能源部的国家核安全WFSResearch可能会不时在其研究报告中向客户提供短期交易观点，这些研究报告涉及富国证券目前拥有股票研究覆盖范围是在短期交易观点发布日期之后的30天内，标的公司普通股市场价格的绝对趋势。标的公司普通股的短期交易观点不会影标价格，这些评级或目标价格反映了我们对标的公司普通股一年内可能表现的看法。短期交易观点可能会得出与公司对标的公司的基本投资评级和目和目标价格。短期交易观点并非评级，公司不打算也不承担任何维持、更新或关闭短期交易观点的义务。短期交易观点可能不适合所有投资者，也未根据英国-本报告中描述的证券和相关金融工具可能不符合在所有司法管辖区或向某些类别的投资者出售的资。根据英国金融行为监管局的规定，本报告构成公正的投资研究。欧洲经济区-本报告中描述的证券和相关金融工具可能不符合在所有司法管辖区或向某些类别的投资者销售的资格。对于欧洲经济区WellsFargoSecuritiesEuropeS.A.（"WFSE"）发行。WFSE是一家法国注册投资公司，由Autoritédecontrôleprudentieletderésolution和Autoritémarchésfinanciers授权并监管。WFSE不与第2014/65/EU号指令（"MiFID2"）所定义的零售客户进行交易。。加拿大-本报告由富国证券加拿大有限公司（WellsFargoSec公司活动，如实地考察，但一