《人工智能 计算机视觉系统可信赖技术规范》编制说明

中国电子工业标准化技术协会

一、工作简况

（一）产品和行业发展情况

计算机视觉技术领域主要研究集图像采集、处理、分析过程涉及的硬件、软件、算法、

系统等的设计、制造、应用和维护。计算机视觉技术是典型的人工智能领域，其技术及应用

发展历经多年，也是AI技术使用最多的技术领域之一，其应用行业涵盖国防、军事、科技、

经济、教育、工业生产、农业、服务业等几乎所有重要行业。在人工智能技术使用在该领域

之前，就有相关比较成熟的应用、工具组件（如opencv）、标准（如JTC1SC24及信标委SC24）。

在人工智能技术应用后，为计算机视觉领域带来了革命性的变化，以往因为准确率而不能获

得实际应用的场景，出现了相当规模的实践，其中不乏成熟度较高的实践（如人脸识别、工

业质检、金融业光学字符识别等）。随着人工智能技术的飞速发展，已有更多的先进解决方

案涌现。

AI可信赖是AI的一个研究领域，也是未来影响AI使能应用效果的重要方面。瞄准AI技术

应用最多、最广泛的计算机视觉领域，制定AI可信赖技术规范，从方法论层面指引计算机视

觉系统AI可信赖建设，提出计算机视觉系统可信赖技术要求及测试方法。在产业内传播有益

经验，对计算机视觉产业的整体安全可信赖水平提升及健康发展有重要意义，影响深远。

当前，国际上对AI应用的科研、生产、标准化的重点之一是AI可信赖。各标准化组织或

国际组织，如ISO/IEC，IEEE，ETSI，ITU-T，AIIA，EU的工作聚焦在AI可信赖技术能

力方面。各计算机视觉或相关解决方案厂商也大力研究发展AI可信赖技术，研制具备可信赖

能力的产品。可预期的是，在不久的未来，AI可信赖技术将成为各领域AI应用的必要项。AI

可信赖能力的要求也将是各领域发展不可回避的问题。计算机视觉是AI应用最广泛的领域，

但缺乏针对核心AI部件（组件）的可信赖技术要求，普适AI可信赖技术在计算机视觉产业落

地的问题，亟待解决。

（二）任务来源

2022年2月21日，中国电子工业标准化技术协会下达2022年第一季度第一批团体标准（中

电标通〔2022〕004号），拟研制《人工智能计算机视觉系统可信赖技术规范》相关标准。

中国电子工业标准化技术协会

本标准为自主制定标准，计划编号为CESA-2022-1-001，归口单位为中国电子技术标准化研

究院，由华为技术有限公司牵头组织编制。

（三）标准主要起草单位

本标准起草单位：中国电子技术标准化研究院、华为技术有限公司、上海依图网络科技

有限公司、北京百度网讯科技有限公司、山东省计算中心（国家超级计算济南中心）、之江

实验室、武汉理工大学、华北电力大学、北京电子科技学院等。

（四）标准主要起草人

本标准主要起草人及具体分工如下：。

（五）主要工作过程

2019年9月12日，联合发起单位、确定对该项标准进行研制，并公开征集参编单位。

2019年9月23日，参编单位讨论标准草案的内容和分工。

2021年9月2日，根据分工，参编单位讨论标准草案的内容。

2021年12月15日，第三次标准编制讨论会，标准参编单位对各标准的立项材料进行编写

讨论，并对标准草案进行编写讨论。

2021年12月24日，第四次标准编制讨论会，对标准草案进行编写讨论。

2022年1月12日，立项评审会，标准立项评审。

2022年2月21日，中国电子工业标准化技术协会下达2022年第一季度第一批团体标准计

划，拟研制《人工智能计算机视觉系统可信赖技术规范》相关标准。

2022年2月-3月，对参编单位内部进行标准征求意见。

2022年3月15日，开展标准编制讨论会，起草组对标准草案的修改进行讨论。

2022年9月6日，开展标准编制讨论会，起草组对标准草案的修改进行讨论。

2022年9月22日，开展标准编制讨论会，起草组对标准草案的修改进行讨论。

2023年6月15日，对前期的意见进行修改，形式征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

先进性原则：本标准的制定与当前人工智能大趋势相匹配，为用户、市场的规范化提供

基础，为人工智能领域的发展提供标准支撑。

中国电子工业标准化技术协会

实用性原则：本标准制定时充分分析了众多应用领域对人员追踪的需求，标准制定着

力于解决用户、厂商实际应用中的共同问题，引导用户、厂商针对产品能力达成一致预期，

在实际项目中可直接落地应用。

可扩展性原则：本标准中在设计的时候，充分考虑到标准的可扩展性，可保证各厂商

在使用时兼顾规范性的同时具备可扩展能力。

2、确定主要内容的论据

当前，计算机视觉领域在国内发展势头迅猛，AI应用普遍，在国家国防、社会、经济、

科技发展中所占服务比重日益增加，其安全可信赖问题关系重大，影响深远，尤其是核心AI

组件的可信赖更关系到应用水平、产业发展。然而，在这方面缺乏统一的指引，而致当前计

算机视觉产业可信赖服务水平参差不齐，产业健康发展需要指引。因此，制定《人工智能视

频图像系统可信赖技术规范》将支撑计算机视觉产业与AI技术的融合，提供计算机视觉产业

AI可信赖技术指引，能聚产业智慧，增强产业服务整体的安全性，可信赖程度，更有力地支

撑国防、经济、社会发展。

本文件的提出，并不介绍新技术，而对已经定型的计算机视觉处理典型过程提出可信赖

方面的技术要求和测试方法，可用于当代及后续的计算机视觉系统的可信赖能力建设和评

价。

1）以深度神经网络技术代表的人工智能技术应用于计算机视觉系统设计和建设。因深

度神经网络的不可完全解释性和复杂性，为基于人工智能的计算机视觉系统的建设和测试带

来了障碍和难度；

2）另一个方面，人工智能可信赖标准发展速度较快，随着国际标准（如ISO/IECJTC1

SC42，ETSISAI等）及体系的建设，可信赖标准逐步形成体系。加之，计算机视觉领域是人

工智能技术应用最多的领域，领域中各产品、解决方案的可信赖能力需要标准化指引；

3）结合国际AI可信赖标准的要求及已有的测试办法，研制面向当代计算机视觉领域的

可信赖技术规范，为基于人工智能的计算机视觉系统建立可信赖技术标杆，将对产业发展提

供有力支持，有利于产业整体水平的提高。

主要内容：本文件规定了基于人工智能的计算机视觉系统的可信赖技术要求和测试方

法。

适用范围：本文件适用于计算机视觉系统及其所采用的人工智能作业处理硬件、软件和

模型的可信赖设计及测试。

中国电子工业标准化技术协会

3、主要解决的问题

1）完成国内外AI可信赖技术、标准在国内计算机视觉领域的落地；

2）提出具体可实施的，适合计算机视觉系统的AI可信赖保障、验证方法；

3）凝聚计算机视觉领域国内企业优秀实践经验，提升产业AI可信赖综合水平。

三、主要试验[或验证]情况分析

无。

四、知识产权情况说明

无。

五、产业化情况、推广应用论证和预期达到的经济效果

该标准目前情况如下：

1）（法规符合）标准符合相应国家法律文件要求；

2）（应用面广、用户数量庞大）现已广泛在金融、交通、医疗、电力、教育等行业应

用；

3）（中立/经验丰富）CESA有丰富的技术试验筹备、实施经验；

4）（产业参与）国内人工智能的设备厂商、软件服务商、云服务商代表都有参与。

六、采用国际标准和国外先进标准情况

1、该标准不采用国际标准或国外先进标准。原因如下：

当前国际上并没有针对计算机视觉系统的可信赖标准；

软件测试类标准（如ISO/IEC250XX系列，ISO/IEC29119系列）提出了软件测试的一般

方法论和原则，并不针对任何领域。加之，人工智能技术有特殊性，前期的软件测试类标准，

并不适合直接采用。

2、该标准与国际标准的对比分析如下：

1）ISO/IEC24028可信赖概述：提出了人工智能可信赖的概念及范畴，并不专门针

对计算机视觉系统。本文件中的计算机视觉技术框架和要求，遵循24028提出的原则；

2）ISO/IEC5469功能安全与AI系统：提出了人工智能可信赖的分支原则（物理）功

能安全及框架。并不专门针对计算机视觉系统。本文件中的计算机视觉技术框架和要求，遵

循5469的规定；

中国电子工业标准化技术协会

3）ISO/IEC23468伦理概述及社会关切：提出了人工智能技术应用所应遵循的通行的

伦理关注点，不针对计算机视觉系统。本文件结合计算机视觉应用领域的特有要求，遴选适

用的伦理要求，作为原则性的内容，实施标准化。本文件不与ISO/IEC23468冲突；

4）ISO/IEC24027人工智能系统及其辅助决策的偏见：提出了人工智能系统的决策偏

见的概念和基本要求。计算机视觉系统可能存在偏见。因此，本文件将国际标准中关于公平

性的一般要求，具体化在计算机视觉领域。本文件不与ISO/IEC24027冲突；

5）ISO/IEC24029-1神经网络鲁棒性评估第1部分：概述；ISO/IEC24029-2神经网

络鲁棒性评估第2部分：形式化方法：ISO/IEC24029系列标准，提出了人工智能系统鲁棒

性的一般检测方法和指标，并不针对计算机视觉领域。本文件包含针对计算机视觉系统的鲁

棒性要求和测试方法。他们具体化于典型的过程。在原则上，保持与ISO/IEC24029一致；

6）ISO/IEC6254机器学习模型与人工智能系统的可解释性方法及目标（NWI）：该标

准是JTC1SC42WG32021年新立项的标准，其范围限定在人工智能系统的可解释性概念、目

标和可解释增强方法，并不涉及测试等内容，也不针对计算机视觉系统。本文件的研制，与

ISO/IEC6254同步，但可以将较为成熟的研制成果，标准化于本标准，并作为贡献物，向6254

提出。本文件不与6254冲突；

7）ISO/IEC8200信息技术人工智能人工智能系统可控性：该标准是JTC1SC42WG3

2021年新立项的标准，其范围限定在人工智能系统可控性的实现及增强方法，并不涉及面向

计算机视觉系统的要求和测试。本文件的内容，不与ISO/IEC8200冲突；

8）ISO/IEC25029系统及软件的需求和评估–人工智能系统质量模型，ISO/IEC5471

人工智能系统质量评估指引：两项标准分别规定了工智能系统的质量模型和评估方法。质量

的范围较大，不但包含可信赖的部分要素，也包含如易用性，可操作，兼容等其它要素。另

外，ISO/IEC25059，ISO/IEC5471并不限定于计算机视觉系统。加之，此二标准的内容也

不够具体，不能直接应用在计算机视觉系统的测试和质量评价。本文件不与ISO/IEC25059,

ISO/IEC5471冲突。并可作为计算机视觉系统质量评价的一部分；

9）ISO/IEC23894信息技术人工智能风险管理：提出了人工智能系统风险管理方

面原则，是ISO31000提出的风险管理流程框架在人工智能领域的扩展。本文件是面向计算

机视觉系统的技术要求和测试方法，可作为风险管理重要阶段（风险识别、风险处置等）所

依赖的实操方案。本文件的内容，不与ISO/IEC23894冲突；

中国电子工业标准化技术协会

10）ISO/IEC38507组织应用人工智能的治理影响：基于ISO/IEC38500，面向人工

智能系统，提出了治理的原则和一般过程。ISO/IEC38507不针对计算机视觉系统。本文件

提出的技术要求和测试方法，可作为以计算机视觉系统为主的人工智能系统治理过程中的标

准工具，为治理过程中的风险估计、产品设计和建设提供支撑。本文件不与ISO/IEC28507

冲突；

11）IEEEP7000系列标准：IEEE提出了一系列面向人工智能伦理的标准和导则，其中

如P7000ModelProcessforAddressingEthicalConcernsDuringSystemDesign提出了

系统设计过程中落实伦理要求的原则和建议，P7001TransparencyofAutonomousSystems

规定了自主系统的透明性概念和建设建议，P7002DataPrivacyProcess提出了人工智能应

用伦理可能涉及的数据隐私保护方面的要求，P7003AlgorithmicBiasConsiderations提

出了算法偏见的关切，适用于人工智能系统设计过程中避免/减小算法的偏见。P7000系列不

针对计算视觉系统，也不针对计算机视觉系统伦理涉及的测试提出规定。本文件不与P7000

系列冲突，并在伦理要求方面，结合我国实际情况，做以取舍和增强；

3、该标准与国内标准的对比分析如下：

1）《信息技术人工智能术语》：他基于已有标准ISO2382和GBT5271系列，结合国

际标准（ISO/IECDIS22989,ISO/IECDIS23053,ISO/IECTR24028等）和技术、产业的

发展情况，遴选、定义了人工智能领域的技术、产品、服务、产业术语。其中含有计算机视

觉相关术语，但不含有本文件相关的面向计算机视觉系统的可信赖技术要求和测试方法。本

文件的术语与《信息技术人工智能术语》标准保持一致

2）《信息技术计算机视觉术语》：是全国信标委SC24研制的国家标准。定义计算

机视觉领域的术语。但不含有本文件相关的面向计算机视觉系统的可信赖技术要求和测试方

法。本文件的术语与《信息技术计算机视觉术语》标准保持一致。

3）《信息安全技术人工智能模型评估》：是TC260在编的针对深度学习模型的安全

评估标准，其中基于人工智能生命周期提出提升模型安全能力的建议及评估方法。不针对视

觉系统。该标准，也不面向人工智能可信赖。

七、与现行相关法律、法规、规章及相关标准的协调性

本标准与现行法律、法规、强制性国家标准，特别与信息技术相关的《网络安全法》、

《数据安全法》、《个人信息保护法》无冲突；

中国电子工业标准化技术协会

《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》提出

“十四五”期间将通过一批具有前瞻性、战略性的国家重大科技项目，带动产业界逐步突破

前沿基础理论和算法，研发专用芯片，构建深度学习框架等开源算法平台，并在学习推理决

策、图像图形、语音视频、自然语言识别处理等领域创新与迭代应用。推进智能医疗装备、

智能运载工具、智能识别系统等智能产品制造。

《国家新一代人工智能标准体系建设指南》中关键领域技术标准建设重点：计算机视觉

标准。重点开展图像传感设备、芯片、网络设施等视觉设施设备标准，视觉数据库、数据描

述、数据格式、视频接口、形状及空间建模等数据及模型标准，图像识别、图像语义处理、

图像合成鉴别等图像识别与处理标准研制。

八、重大分歧意见的处理经过和依据

无。

九、标准性质的建议

目前，计算机视觉已在金融、保险、医疗、交通、教育等诸多行业有了深入成熟的应

用。未来随着传统行业的数字化转型，应用范围和场景将进一步扩展，市场规模将进一步增

大，迫切需要行业标准的指引和规范。

十、贯彻标准的要求和措施建议

标准的实施可实现产业内的统一探讨，形成产业共认的标准规范，推动人工智能及计算

机视觉领域相关技术的良性合作和发展，具有不可取代的支撑作用。

待团体标准正式发布后，可以通过各级组织及科研单位进一步宣传贯彻和实施，推动各

级各类高校、科研机构、企事业单位在开发人员追踪系统时采用本标准。

本标准密级为“公开”，目的是最大效能地在团体内、外推广应用。

十一、替代或废止现行相关标准的建议

无。

十二、其它应予说明的事项

无。

《人工智能计算机视觉系统可信赖技术规范》

团体标准编制工作组

2023年8月17日

中国电子工业标准化技术协会

一、工作简况

（一）产品和行业发展情况

计算机视觉技术领域主要研究集图像采集、处理、分析过程涉及的硬件、软件、算法、

系统等的设计、制造、应用和维护。计算机视觉技术是典型的人工智能领域，其技术及应用

发展历经多年，也是AI技术使用最多的技术领域之一，其应用行业涵盖国防、军事、科技、

经济、教育、工业生产、农业、服务业等几乎所有重要行业。在人工智能技术使用在该领域

之前，就有相关比较成熟的应用、工具组件（如opencv）、标准（如JTC1SC24及信标委SC24）。

在人工智能技术应用后，为计算机视觉领域带来了革命性的变化，以往因为准确率而不能获

得实际应用的场景，出现了相当规模的实践，其中不乏成熟度较高的实践（如人脸识别、工

业质检、金融业光学字符识别等）。随着人工智能技术的飞速发展，已有更多的先进解决方

案涌现。

AI可信赖是AI的一个研究领域，也是未来影响AI使能应用效果的重要方面。瞄准AI技术

应用最多、最广泛的计算机视觉领域，制定AI可信赖技术规范，从方法论层面指引计算机视

觉系统AI可信赖建设，提出计算机视觉系统可信赖技术要求及测试方法。在产业内传播有益

经验，对计算机视觉产业的整体安全可信赖水平提升及健康发展有重要意义，影响深远。

当前，国际上对AI应用的科研、生产、标准化的重点之一是AI可信赖。各标准化组织或

国际组织，如ISO/IEC，IEEE，ETSI，ITU-T，AIIA，EU的工作聚焦在AI可信赖技术能

力方面。各计算机视觉或相关解决方案厂商也大力研究发展AI可信赖技术，研制具备可信赖

能力的产品。可预期的是，在不久的未来，AI可信赖技术将成为各领域AI应用的必要项。AI

可信赖能力的要求也将是各领域发展不可回避的问题。计算机视觉是AI应用最广泛的领域，

但缺乏针对核心AI部件（组件）的可信赖技术要求，普适AI可信赖技术在计算机视觉产业落

地的问题，亟待解决。

（二）任务来源

2022年2月21日，中国电子工业标准化技术协会下达2022年第一季度第一批团体标准（中

电标通〔2022〕004号），拟研制《人工智能计算机视觉系统可信赖技术规范》相关标准。

中国电子工业标准化技术协会

本标准为自主制定标准，计划编号为CESA-2022-1-001，归口单位为中国电子技术标准化研

究院，由华为技术有限公司牵头组织编制。

（三）标准主要起草单位

本标准起草单位：中国电子技术标准化研究院、华为技术有限公司、上海依图网络科技

有限公司、北京百度网讯科技有限公司、山东省计算中心（国家超级计算济南中心）、之江

实验室、武汉理工大学、华北电力大学、北京电子科技学院等。

（四）标准主要起草人

本标准主要起草人及具体分工如下：。

（五）主要工作过程

2019年9月12日，联合发起单位、确定对该项标准进行研制，并公开征集参编单位。

2019年9月23日，参编单位讨论标准草案的内容和分工。

2021年9月2日，根据分工，参编单位讨论标准草案的内容。

2021年12月15日，第三次标准编制讨论会，标准参编单位对各标准的立项材料进行编写

讨论，并对标准草案进行编写讨论。

2021年12月24日，第四次标准编制讨论会，对标准草案进行编写讨论。

2022年1月12日，立项评审会，标准立项评审。

2022年2月21日，中国电子工业标准化技术协会下达2022年第一季度第一批团体标准计

划，拟研制《人工智能计算机视觉系统可信赖技术规范》相关标准。

2022年2月-3月，对参编单位内部进行标准征求意见。

2022年3月15日，开展标准编制讨论会，起草组对标准草案的修改进行讨论。

2022年9月6日，开展标准编制讨论会，起草组对标准草案的修改进行讨论。

2022年9月22日，开展标准编制讨论会，起草组对标准草案的修改进行讨论。

2023年6月15日，对前期的意见进行修改，形式征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

先进性原则：本标准的制定与当前人工智能大趋势相匹配，为用户、市场的规范化提供

基础，为人工智能领域的发展提供标准支撑。

中国电子工业标准化技术协会

实用性原则：本标准制定时充分分析了众多应用领域对人员追踪的需求，标准制定着

力于解决用户、厂商实际应用中的共同问题，引导用户、厂商针对产品能力达成一致预期，

在实际项目中可直接落地应用。

可扩展性原则：本标准中在设计的时候，充分考虑到标准的可扩展性，可保证各厂商

在使用时兼顾规范性的同时具备可扩展能力。

2、确定主要内容的论据

当前，计算机视觉领域在国内发展势头迅猛，AI应用普遍，在国家国防、社会、经济、

科技发展中所占服务比重日益增加，其安全可信赖问题关系重大，影响深远，尤其是核心AI

组件的可信赖更关系到应用水平、产业发展。然而，在这方面缺乏统一的指引，而致当前计

算机视觉产业可信赖服务水平参差不齐，产业健康发展需要指引。因此，制定《人工智能视

频图像系统可信赖技术规范》将支撑计算机视觉产业与AI技术的融合，提供计算机视觉产业

AI可信赖技术指引，能聚产业智慧，增强产业服务整体的安全性，可信赖程度，更有力地支

撑国防、经济、社会发展。

本文件的提出，并不介绍新技术，而对已经定型的计算机视觉处理典型过程提出可信赖

方面的技术要求和测试方法，可用于当代及后续的计算机视觉系统的可信赖能力建设和评

价。

1）以深度神经网络技术代表的人工智能技术应用于计算机视觉系统设计和建设。因深

度神经网络的不可完全解释性和复杂性，为基于人工智能的计算机视觉系统的建设和测试带

来了障碍和难度；

2）另一个方面，人工智能可信赖标准发展速度较快，随着国际标准（如ISO/IEC