CESA-2021-3-018《信息技术 人工智能 深度学习框架多硬件平台适配技术要求与评价指标》团体标准（征求意见稿）编制说明

中国电子工业标准化技术协会

一、工作简况

1、项目背景

随着人工智能技术逐步面向行业落地，开源深度学习框架如TensorFlow、

PyTorch、飞桨（PaddlePaddle）、Mindspore、MegEngine、Oneflow等广泛的应

用在生产以及研究的各个环节，成为AI应用的重要平台。因此企业用户面临着不

同应用领域需从众多的深度学习框架和硬件的一体方案做选择的困难。框架与芯

片的适配工作在过去的一两年成为热门技术话题，软硬件厂商都投入了非常高的

成本进行适配研发，并存在着大量的重复工作。若没有统一的多硬件适配标准，

则企业（特别是中小企业）难以完成“框架、操作系统、芯片”组合选型。

在此背景下，制定本标准可指导企业应用端进行整体技术方案选型，规避框

架与硬件平台组合爆炸带来的方向性风险，降低选型失败概率；并可为建立国产

人工智能软硬件协同能力提供依据，指导人工智能应用、软硬件架构提供商及第

三方机构进行评估，培育推广安全可控的解决方案；此外通过技术方案标准化，

可推动国内软硬件企业合作，为技术创新提供方向性引导，促进产业协调发展。

2、任务来源

根据中国电子工业标准化技术协会2021年下达的团体标准制修订计划的通知

（中电标通〔2021〕026号），团体标准《信息技术人工智能深度学习框架多

硬件平台适配技术要求与评价指标》由中国电子技术标准化研究院负责组织制

定，其项目计划号为CESA-2021-3-018。

3、标准起草单位

本标准起草单位：中国电子技术标准化研究院联合北京百度网讯科技有限公

司、曙光信息产业（北京）有限公司、飞腾信息技术有限公司、浪潮电子信息产

业股份有限公司等。

中国电子工业标准化技术协会

4，主要工作过程

在标准计划下达之前，《信息技术人工智能深度学习框架多硬件平台适配

技术要求与评价指标》发起单位于2021年4月举行启动标准草案编制，确定了标

准起草编制组。

2021年4月，编制组成立；

2021年5月，召开编制组第一次标准讨论会，确定总体思路、框架，并对标

准内容进行初步分工；

2021年7月，召开编制组第二次标准讨论会，对现有内容进行梳理，完成内

容整合，形成工作组讨论稿V1.0；

2021年9月，立项评审会，标准立项评审；

2021年10月，召开第三次标准讨论会，针对立项会上专家提出的意见对草案

进行修改补充；

2021年10月-2022年2月，通过全国信标委人工智能分委会模型与算法组征求

意见，并通过邮件和微信群的方式不断迭代完善草案；

2022年4月，召开第四次标准讨论会，讨论意见采纳情况；

2022年5月，整合相关企业提出的意见，完善标准文本形成征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

《信息技术人工智能深度学习框架多硬件平台适配技术要求与评价指标》

标准的编制原则如下：

a)实用性原则：本标准中在编制中充分考虑了到国内人工智能产业链上下游

的迫切需求，通过组织国内一流的软硬件企业，结合企业应用落地过程中常见的

问题开发本标准，保证深度学习框架与多硬件适配标准与技术相统一，确保标准

的实用性。同时，在标准发布之后可指导深度学习框架开发厂商开展硬件适配工

作。

b)广泛性原则：本标准充分考虑了我国人工智能软硬件的发展现状和实际需

求，以参编单位为核心，借助全国信标委人工智能分委会平台进行意见征集工作，

保证业内相关企业对该标准的广泛参与。

中国电子工业标准化技术协会

c)可验证原则：本标准给出了具体的技术要求和评价指标，方便企业参考标

准进行实际操作和开发，具备可操作、可测试、可验证等特性。

2、确定主要内容的论据

主要内容：本标准面向深度学习框架定义了适配多硬件平台的技术要求与评

价指标，为建立人工智能软硬件协同能力提供技术与评价依据。

适用范围：本标准适用于支持训练和推理功能的深度学习框架，适用于深度

学习框架硬件适配能力的评估，可指导人工智能软硬件适配评测平台建设。

本标准的技术方案包括训练框架多硬件适配与推理框架多硬件适配两个部

分，指标体系包括安装部署、兼容适配、算子支持、模型支持、训练性能、稳定

性和易扩展性等。

3、主要解决的问题

规定了适配多硬件平台的技术要求与评价指标，为建立人工智能软硬件协同

能力提供技术与评价依据。适用于对支持训练和推理功能的深度学习框架，评估

其与硬件适配的能力，可指导人工智能软硬件适配评测平台建设。

三、主要试验[或验证]情况分析

无

四、知识产权情况说明

无。

五、产业化情况、推广应用论证和预期达到的经济效果

本标准参考国内外先进技术及产业，结合国内优秀的软硬件厂商一线研发经

验，从多个方面规范了深度学习框架与硬件适配的相关技术，具有一定的广泛性

和落地价值，在国内信息技术高速发展的大背景下，人工智能作为传统行业智能

化升级的重要技术，急需整合我国软硬件优势产业，形成合力推动国内产业数字

化进程，本标准重点面向国内硬件“小而散”的产业现状，通过标准化手段打造

高效可用的国产人工智能软硬件生态。

六、转化国际标准和国外先进标准情况

本标准目前没有对应或相似的国际标准。

七、与现行相关法律、法规、规章及相关标准的协调性

符合我国有关的现行法律、法规。

中国电子工业标准化技术协会

ISO/IECJTC1/SC42人工智能分委会立项了《基于机器学习的人工智能系统

框架》，该标准旨在给出适用机器学习的人工智能系统框架，包括模型、流程、

生命周期管理等。

ITU-T/SG16正在制定《深度学习软件框架评估方法》，该标准制定面向深度

学习框架的测评方法。

SAC/TC28/SC42正在制定国家标准《人工智能面向机器学习的系统规范》，

该标准规定面向机器学习的系统的技术要求（包括功能、可靠性、兼容性、安全

性、可扩展性、维护性、易用性等）和测试方法。

AITISA正在制定《算子接口标准》系列标准，该标准旨在屏蔽底层硬件细节，

为应用和框架开发者提供简单易用的接口，实现深度学习框架的跨平台支持。

上述标准均规范了人工智能软件系统内部相关功能，未对软件系统与硬件基

础设施的适配技术进行规范，本标准与上述国内外标准协调一致，互为补充。

八、重大分歧意见的处理经过和依据

无重大分歧意见。

九、贯彻标准的要求和措施建议

应通过各类国家级科技计划和产业化项目资助，大力开展人工智能软硬件协

同适配工作，直至大规模商用，促进人工智能系统协调统一。

十、替代或废止现行相关标准的建议

无。

十一、其它应予说明的事项

无。

《信息技术人工智能深度学习框架多硬件平台适配技术要求与评价指标》

团体标准编制起草组

2022-6-6

中国电子工业标准化技术协会

一、工作简况

1、项目背景

随着人工智能技术逐步面向行业落地，开源深度学习框架如TensorFlow、

PyTorch、飞桨（PaddlePaddle）、Mindspore、MegEngine、Oneflow等广泛的应

用在生产以及研究的各个环节，成为AI应用的重要平台。因此企业用户面临着不

同应用领域需从众多的深度学习框架和硬件的一体方案做选择的困难。框架与芯

片的适配工作在过去的一两年成为热门技术话题，软硬件厂商都投入了非常高的

成本进行适配研发，并存在着大量的重复工作。若没有统一的多硬件适配标准，

则企业（特别是中小企业）难以完成“框架、操作系统、芯片”组合选型。

在此背景下，制定本标准可指导企业应用端进行整体技术方案选型，规避框

架与硬件平台组合爆炸带来的方向性风险，降低选型失败概率；并可为建立国产

人工智能软硬件协同能力提供依据，指导人工智能应用、软硬件架构提供商及第

三方机构进行评估，培育推广安全可控的解决方案；此外通过技术方案标准化，

可推动国内软硬件企业合作，为技术创新提供方向性引导，促进产业协调发展。

2、任务来源

根据中国电子工业标准化技术协会2021年下达的团体标准制修订计划的通知

（中电标通〔2021〕026号），团体标准《信息技术人工智能深度学习框架多

硬件平台适配技术要求与评价指标》由中国电子技术标准化研究院负责组织制

定，其项目计划号为CESA-2021-3-018。

3、标准起草单位

本标准起草单位：中国电子技术标准化研究院联合北京百度网讯科技有限公

司、曙光信息产业（北京）有限公司、飞腾信息技术有限公司、浪潮电子信息产

业股份有限公司等。

中国电子工业标准化技术协会

4，主要工作过程

在标准计划下达之前，《信息技术人工智能深度学习框架多硬件平台适配

技术要求与评价指标》发起单位于2021年4月举行启动标准草案编制，确定了标

准起草编制组。

2021年4月，编制组成立；

2021年5月，召开编制组第一次标准讨论会，确定总体思路、框架，并对标

准内容进行初步分工；

2021年7月，召开编制组第二次标准讨论会，对现有内容进行梳理，完成内

容整合，形成工作组讨论稿V1.0；

2021年9月，立项评审会，标准立项评审；

2021年10月，召开第三次标准讨论会，针对立项会上专家提出的意见对草案

进行修改补充；

2021年10月-2022年2月，通过全国信标委人工智能分委会模型与算法组征求

意见，并通过邮件和微信群的方式不断迭代完善草案；

2022年4月，召开第四次标准讨论会，讨论意见采纳情况；

2022年5月，整合相关企业提出的意见，完善标准文本形成征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

《信息技术人工智能深度学习框架多硬件平台适配技术要求与评价指标》

标准的编制原则如下：

a