TTAF 388-2026 智算网络 计算感知技术要求

ICS33.040

CCSM10团 体 标 准T/TAF388—2026智算网络 计算感知技术要求Intelligentcomputingnetwork--Technicalrequirementsforcomputingawaretechnology2026-10-19发布 2026-10-19实施电信终端产业协会发布T/TAF388—2026版权声明本文件的版权属于电信终端产业协会，任何单位和个人未经许可，

不得进行技术文件的纸质和电子等任何形式的复制、印刷、出版、翻译、

传播、发行、合订和宣贯等，也不得未经允许采用其具体内容编制本团

体以外各类标准和技术文件。如有以上需要请与本团体联系。邮箱：tafrb@电话/TAF388--2026I目 次前言 II1 范围 12 规范性引用文件 13 术语和定义 14 缩略语 25 计算状态感知技术架构 26 计算状态感知技术架构 37支持模型 48 支持通信协议 48.1 高性能通信协议 42 通用传输协议 49 计算状态感知能力要求 51 概述 59.2 软件层感知能力要求 53 硬件层感知能力要求 510 感知数据采集要求 61 标准化传输协议 610.2 数据库同步 63 消息接口同步 610.4 DMA网卡同步（可选） 611 感知精度要求 61 概述 62 感知信息准确性要求 611.3 感知信息采集时延要求 7参考文献 8T/TAF388—2026II前 言本文件按照GB/T1.1-2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定

起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。本文件由电信终端产业协会（TAF）提出并归口。本文件起草单位：中国信息通信研究院、北京邮电大学、北京网测科技有限公司。本文件主要起草人：王伟、张伟良、李意洋、王奕博、王小雨、李建伟、李清源、李海峰。T/TAF388--20261智算网络 计算感知技术要求1 范围本文件规定了智能计算中心网络对于人工智能模型训练任务与推理任务对于计算侧状态感知的技

术要求。2 规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，

仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本

文件。GB/T5271.1 信息技术 术语3 术语和定义GB/T5271.1界定的以及下列术语和定义适用于本文件。1算力 ComputingPower指网络节点基于硬件资源（处理器核数/内存容量/存储IOPS）执行特定计算任务的服务能力。其本

质是节点在单位时间内处理数据流的综合性能指标，可通过任务处理延迟、并行吞吐量等量化参数表征。2智算网络 IntelligentComputingNetwork智算网络是指以算力为核心资源，以网络为连接纽带，通过网络对分布在不同地理位置、不同架构

（如通用计算、AI智算、超算）的算力资源进行感知、连接、编排和调度，实现“算力”与“网络”

的深度融合与协同，从而提供高效、灵活、按需的算力服务的新型信息基础设施。3新型计算任务 NewComputingWorkload新型计算任务是指在人工智能大模型时代背景下，以深度学习分布式训练为代表的，需要跨越海量

计算节点（GPU/AI加速卡）进行紧耦合、协同式并行计算的工作负载。与传统离散、独立的计算任务

不同，新型计算任务将数千甚至数万个计算单元视为一个整体（Super-computer），通过极高频的参数

交换与状态同步，共同完成一个超大规模模型的迭代优化。在技术实现上，新型计算任务表现为分布式

训练过程，即通过数据并行、模型并行或混合并行等策略，将TB级的训练数据和千亿级的模型参数切

分至集群中，各节点在计算的同时，必须通过网络实时交换梯度或中间结果。4并行策略 ParallelizationStrategy模型训练任务中包含着多个维度，我们可以依照不同维度将整个训练任务切分开，并行起来执行。

不同的切分方法对应着不同的计算存储和通信模式。目前常见的分布式训练并行策略主要有数据并行和

模型并行，而模型并行又进一步分为流水并行，张量并行和专家并行等。5计算状态 ComputingState所有的模型训练和推理任务都基于应用层的分布式训练框架，例如当前主流的（DeepSpeed、T/TAF388--20262Megatron-LM、PyTorchDDP等），训练框架控制了计算任务的流程，同时也包含了计算任务的确定性

计算状态信息，再结合传统数据中心对于硬件的感知要求，提出了新型计算任务下的智算集群的计算状

态定义。分为确定性计算状态和实时性计算状态两个部分。6确定性计算状态 DeterministicComputingState指的是分布式训练中集合通信的通信量大小、集合通信模式、集合通信拓扑信息、通信间隔时间、

训练总轮次等。7实时性计算状态 Real-timeComputingState指的是当前训练进度、当前带宽使用信息、当前各硬件状态等。4 缩略语下列缩略语适用于本文件。AI：人工智能（ArtificialIntelligence）CPU：中央处理器（CentralProcessingUnit）ECN：显式拥塞通知（ExplicitCongestionNotification）GPU：图形处理器（GraphicsProcessingUnit）TPU：张量处理单元（TensorProcessingUnit）NIC：网络接口卡（NetworkInterfaceCard）PFC：优先级流量控制（PriorityFlowControl）RDMA：远程直接内存访问（RemoteDirectMemoryAccess）RoCE：融合以太网上的远程直接内存访问（RDMAoverConvergedEthernet）LLM：大型语言模型（LargeLanguageModel）CNN：卷积神经网络（ConvolutionalNeuralNetwork）RNN：循环神经网络(RecurrentNeuralNetwork)NCCL：NVIDIA集体通信库(NVIDIACollectiveCommunicationsLibrary)MPI：消息传递接口(MessagePassingInterface)5 计算状态感知技术架构在当今日益进步的人工智能领域，大模型技术不仅推动了信息技术前沿的创新，更为各行各业带来

了深刻变革。新一代智算中心作为集算力资源、数据处理与智能决策于一体的集中枢纽，正逐步成为支

撑科技创新、引领数字化转型的重要基础设施，为实现大规模并行计算与数据智能分析提供了坚实平台。与此同时，网络带宽的迅速提升不断对计算互联系统提出更高要求，尤其在数据密集型任务中，传

统采用“拥塞检测-通知-响应”模式的被动式拥塞控制机制，由于其固有的控制收敛延迟问题，往往难以

满足实时性和高效性的双重需求，从而引发性能瓶颈和资源浪费问题。在基于RoCE协议构建的智能计算中心网络中，针对人工智能分布式训练任务的特点，网络流量普

遍呈现出突发性与周期性变化，同时伴随着大量训练任务通信数据的传输。通过引入增强型网络感知能

力，使计算应用能够实时、准确地向网络管理系统反馈自身的计算状态，从而为网络调度和拥塞优化提

供数据支撑，实现动态资源调控与高效利用。因此，为了确保智算中心网络能够对训练任务的计算状态实现实时、精准的感知，及时捕捉和解析

任务执行过程中的关键指标，降低系统风险并大幅提升资源调度的智能化水平，智算中心网络控制器必T/TAF388—20263须具计算状态感知能力。6 计算状态感知技术架构计算状态感知技术的总体架构定义如下图1所示。图1 计算状态感知架构示意图图1 计算状态感知架构示意图计算状态感知技术的部署采用“端网协同、软硬结合”的分布式架构，旨在构建全维度的算力网络

透视能力。在计算节点侧，核心感知探针被深度植入到应用层与硬件层之中。具体而言，通过在AI训

练框架（如PyTorch、TensorFlow）或通信库（NCCL）中嵌入轻量级钩子函数，系统能够以极低的开销

直接在训练进程中捕获集合通信模式（如AllReduce、AllGather）、通信量大小及训练轮次等关键语义

信息；同时，在服务器操作系统或智能网卡上部署驻留代理，利用零拷贝技术实时读取GPU显存占用、

PCIe带宽利用率及网卡物理端口的性能指标。此外，网络设备侧也同步开启带内遥测（INT）功能，通

过高精度时间戳将网络层的微突发与应用层的计算时序进行对齐，配合节点侧探针形成端到端的全链路

感知能力。基于上述多维度的感知信息，智算网络的管控调度遵循“感知-分析-决策-执行”的闭环流程，将离

散的监控数据转化为可执行的调度策略。首先，各任务主节点及副节点作为数据源，将采集到的梯度同

步时间、计算空闲期等确定性与实时性计算状态，周期性地上报给管控主节点。管控主节点随即汇总来

自所有节点的上报数据以及智算网络的总体拓扑信息，构建出当前时刻的全局算网状态视图。该视图不

仅包含物理链路的负载情况，还映射了逻辑上的任务依赖关系，从而能够精准识别网络中的热点链路或

计算集群中的“慢节点”，并分析其对整体训练进度的拖累程度，具体结构如图2所示。在此基础上，管控中心可以利用强化学习或启发式优化算法，结合业务优先级与历史训练特征进行

智能决策。由于大模型训练具有高度的周期性，系统能够预测下一轮次的流量峰值，从而计算出如提前

规划无拥塞路由路径、动态调整流控带宽权重或优化任务拓扑映射等最优策略。最后，管控主节点向相

关任务节点发送具体的调度指令，节点收到指令后立即执行调整发送速率、切换集合通信算法或触发算

力迁移等操作。这一过程实现了从被动响应网络拥塞到基于计算特征主动规避风险的转变，从而显著降

低通信长尾时延，有效保障整体训练效率与集群算力利用率。T/TAF388—20264图2 智算网络管控示意图7 支持模型图2 智算网络管控示意图计算状态感知技术应该满足当前所有主流模型，主要包括如下几类:卷积神经网络（CNN）：例如图像分类（ResNet）、目标检测（YOLO）类型模型；循环神经网络（RNN）及其变体：例如语音识别、时间序列预测类型应用；Transformer架构：例如BERT、GPT系列、ViT模型；混合与新兴架构：例如多模态融合模型。同时，计算状态感知技术支持当前所有主流分布式训练框架，主要包括：DeepSpeed/Megatron混合框架;TensorFlowParameterServer/Collective：兼容参数服务器（PS）架构与集体通信模式；c)PyTorchDistributed（DDP/RPC）：提供动态数据并行（DDP）与远程过程调用（RPC）框架

的无缝集成;Horovod/MPI跨节点训练：支持基于Ring-AllReduce的高效通信优化，适配多机多卡场景。8 支持通信协议1 高性能通信协议可支持RDMA通信协议与NCCL集合通信库。RDMA（RoCE/InfiniBand）：基于远程直接内存访问，实现GPU间零拷贝数据传输，适用于

多机多卡训练（如NVIDIANCCL），延迟低至微秒级，支持大规模AllReduce、Broadcast等

集合操作。NCCL：专为GPU集群设计的通信库，集成RDMA与TCP/IP多协议适配，支持跨节点拓扑

感知，优化多流并行与流水线通信，提升Transformer类模型的吞吐量。2 通用传输协议可支持TCP/IP通信协议和MPI集合通信接口。\quadTCP/IP（gRPC/HTTP2）：通过长连接与多路复用技术，支持跨地域分布式训练（如联邦学习），

兼容防火墙与容器网络（Kubernetes），适配参数服务器（PS）架构的异步更新。MPI（OpenMPI/IntelMPI）：提供标准化的点对点（P2P）与集合通信接口，支持动态拓扑重T/TAF388—20265构，适配HPC场景的混合并行（数据+模型并行）任务。9 计算状态感知能力要求1 概述针对计算感知技术，对应用层和硬件层的计算状态的感知能力提出相应要求。对于分布式深度学习训练任务，当前主流框架的演进已形成以DeepSpeed和Megatron-LM为核心的

两大技术路线，同时其他框架如Horovod、PyTorchDDP等也在特定场景中发挥作用。本标准对于训练

框架不作特殊指定，但对于应用层框架感知能力做如下要求，训练框架中的分为流量建模能力、拓扑感

知能力和实时感知能力。对于硬件层感知能力，本标准定义了网卡、GPU/TPU，交换机三类硬件的感

知能力。2 软件层感知能力要求2.1 流量建模能力计算状态感知应支持以下指标：应支持采集训练任务的通信操作名称，例如AllReduce、Broadcast等；应支持获取每个集合通信发送数据量大小;应支持获取每个通信操作之间确定的计算间隔时间；应支持获取训练任务总训练轮次等信息；应支持统计分析通信操作周期的能力，得到确定性流量周期信息；应支持针对不同的模型和训练环境能够构建相应计算任务的流量周期性模型。2.2 拓扑感知能力拓扑感知能力指支持获取以下内容:应支持从训练框架中提取训练任务配置信息；应支持获取训练任务各节点IP信息；应支持获取每个训练节点使用网卡对应编号；应支持获取每个训练节点使用GPU对应编号;应支持自动生成训练任务的通信拓扑。2.3 实时感知能力实时感知能力应该具备以下能力：应支持获取当前训练轮次进度;应支持获取通信操作的开始与结束时间。3 硬件层感知能力要求3.1 网卡感知能力网卡感知应具备对收发速率、丢包情况及拥塞响应信息进行实时采集的能力，并应满足以下要求：支持实时监测网卡发送速率;支持实时获取网卡接收速率;支持实时获取网卡丢包率等信息;6T/TAF388--2026支持获取RDMA网卡拥塞响应信息，如接收CNP信息等。3.2 GPU/TPU感知能力（可选）应支持感知显存容量情况、显卡使用率的能力。3.3 交换机感知能力（可选）交换机感知可支持对端口带宽使用情况和拥塞标记信息进行采集，并满足以下要求:应支持获取带宽利用率应支持获取ECN标记产生时间10 感知数据采集要求1 标准化传输协议应支持基于标准化传输协议（如HTTP、HTTPS、FTP、SFTP）的文件获取，适配多种结构化与非

结构化文件格式（如CSV、TXT、XML、JSON、Excel等），并兼容自定义分隔符或编码规则。数据

获取周期需支持灵活调度，涵盖分钟级实时采集、小时级批次处理。10.2 数据库同步应支持通过JDBC/ODBC驱动连接主流数据库（如MySQL、Oracle、PostgreSQL）的能力，支持

从源系统表或视图进行数据抽取。根据数据规模（如TB级表）、网络带宽（如跨区域传输）及系统资

源负载（如CPU占用率），动态选择批量数据导出（全量）或差异数据同步（增量）模式。增量抽取

可基于时间戳追踪、日志解析或触发器捕获等机制实现，确保对生产环境低侵入性。3 消息接口同步应支持通过RESTfulAPI、Socket长连接及Telemetry流式协议，满足低延迟数据采集需求，支持

实时监测接收消息。10.4 RDMA网卡同步（可选）可支持数据通过RDMA在网卡之间进行同步传输。11 感知精度要求1 概述感知信息主要包括了计算侧获取到的流量建模信息和实时感知信息，为了最终管控平台能够及时有

效进行调度，需要对感知信息的准确性和时延作要求。11.2 感知信息准确性要求2.1 流量建模准确性要求流量建模准确性可通过通信特征、任务拓扑信息的识别准确率以及计算时间间隔误差进行表征，并

应满足以下要求:T/TAF388--20267应支持周期内的通信操作名称、通信量大小准确率达到95%；应支持训练任务拓扑信息准确率应达到95%；可