CESA-2020-3-010《信息安全技术 人脸比对模型安全技术规范》征求意见稿编制说明

中国电子工业标准化技术协会

一、工作简况

本标准是由中国电子工业标准化技术协会下达的团体标准编制任务，项目编号为

CESA-2020-3-010，由中国电子工业标准化技术协会归口管理。本标准起草小组由国家工业

信息安全发展研究中心、北京瑞莱智慧科技有限公司、北京航空航天大学、之江实验室、温

州大学、触景无限科技（北京）有限公司组成，共同完成此项标准的起草工作。

标准工作过程主要包括以下两个阶段：

a）编制准备阶段（2019年12月至2020年3月）

2019年12月至1月，标准工作组先后组织多家人脸比对技术及终端应用厂商开展产品

安全威胁情况的调研，收集对标准修订的相关意见建议；2020年1月标准工作组在北京召

开了第一次工作会议，同时邀请多个人工智能安全领域的专家代表参会，收集行业对安全标

准的建议；2020年3月，在收集相关行业意见基础上，工作初步提出标准修订原则和主要

修订内容，在此基础上完成标准修订案草稿。

b)起草阶段（2020年4月至2020年8月）

2020年4月，工作组在北京召开第二次会议，研讨标准修订原则、主要修改意见、讨

论标准草案稿等主要内容，在此基础上工作组根据任务分工开展具体功能和技术指标的研

究；2020年7月，工作组在北京召开第三次工作会议，汇总前阶段研究结果，对标准草案

稿内容逐条进行讨论修改，对重点技术内容进行集中研讨；2020年8月，工作组对标准的

附录协议等部分内容进行了完善，在此技术上形成标准修订征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、标准编制原则

a)一致性原则

本标准参考GB/T1.1-2009《标准化工作导则》和《中华人民共和国标准化法》等标准

化资料，且与我国现行的法律、法规和标准相承接，与我国公文格式方面的规定相一致。

b)规范性原则

中国电子工业标准化技术协会

本标准按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》

等相关要求进行编写，保证标准形式和内容的规范性。结构上主要包括前言、范围、规范性

引用文件、术语和定义、系统概述、功能要求、安全要求、测试方法等共九个部分

c)定量原则

本标准利用主流的对抗样本攻击技术对人脸比对系统进行了系统性的测试。提出了使用

扰动大小来衡量攻击强度的测试方法，规范了不同攻击强度下人脸比对系统应达到的安全要

求。

2、主要内容的论据

本标准规定了人脸比对模型及所在系统的功能要求、安全要求与相应的测试方法，并将

系统划分为基本级和增强级。

本标准适用于交通、酒店、学校、工厂等应用场景的人脸比对模型及所在系统的设计、

开发与测试，其他需要人脸比对技术的应用场景可参考使用。

根据前期调研以及资料研究，本标准的主要内容分为以下两部分：

a)功能要求

功能要求部分主要规定了人脸比对模型抵御对抗样本攻击在算法及数据层面的要求和

规范

b)安全要求

安全要求部分主要规定了人脸比对模型抵御对抗样本攻击在系统层面的要求和规范

3、解决的主要问题

本标准主要解决人脸比对模型安全问题，这种安全问题存在的根本原因是当前的人工智

能技术主要依赖于数据驱动、缺乏可解释性，并且AI算法设计之初普遍未考虑相关的安全威

胁。人脸比对模型自身的安全问题中最突出的是对抗样本。对抗样本是指能够使机器学习模

型出现错误的一类合成样本。对抗样本攻击会导致人脸比对模型执行错误的指令，最终可能

造成严重的安全后果，例如攻击者可以佩戴特制的对抗样本眼镜冒充他人解锁手机、进行金

融远程开户等。

三、知识产权情况说明

无。

四、产业化情况、推广应用论证和预期达到的经济效果

目前虽然没有大的安全事件产生，但模型安全问题仍然需要给予高度重视。本标准实施

中国电子工业标准化技术协会

后将有力支撑人脸比对系统的模型安全评估体系建设。帮助开发者、使用者等在设计开发、

运行等多个环节考虑人工智能安全问题，并采取相应的防御措施。

本标准实施后，还将依据实践经验，不断完善模型安全运营和管理机制，有效促进人脸

比对技术的持续安全可控应用、规避潜在的模型安全风险。

五、转化国际标准和国外先进标准情况

模型安全问题在学术界已经存在诸多研究工作，但在工业界尚属于非常前沿的问题，本

标准暂无对应的国际标准或国外先进标准。

六、与现行相关法律、法规、规章及相关标准的协调性

目前国内人工智能模型相关法律、法规、规章及安全标准制定工作均刚刚起步。2017

年7月，出台的《新一代人工智能发展规划》规划了新一代人工智能的战略目标以及网络安

全，指出应当开展人工智能安全相关研究。国家人工智能标准化总体组已开展人工智能基础

性标准研制，但仍缺少落地到关键应用领域的模型安全标准的研制，本标准的实施能够进一

步完善我国人工智能算法安全及评估相关标准和法律、法规、规章的建设。

七、重大分歧意见的处理经过和依据

无。

八、贯彻标准的要求和措施建议

本标准是对人脸比对模型进行评价的基础性标准。在贯彻标准时，建议首先针对人脸比

对模型技术企业进行标准的宣贯和培训，并在企业申请人脸比对模型评价过程中提供指导，

同时将实施过程中的问题和改进建议及时进行收集和记录，后续可根据实际应用情况对标准

进行修订。

九、替代或废止现行相关标准的建议

无。

十、其它应予说明的事项

无。

《信息安全技术人脸比对模型安全技术规范》团体标准编制工作组

2020年08月14日

中国电子工业标准化技术协会

一、工作简况

本标准是由中国电子工业标准化技术协会下达的团体标准编制任务，项目编号为

CESA-2020-3-010，由中国电子工业标准化技术协会归口管理。本标准起草小组由国家工业

信息安全发展研究中心、北京瑞莱智慧科技有限公司、北京航空航天大学、之江实验室、温

州大学、触景无限科技（北京）有限公司组成，共同完成此项标准的起草工作。

标准工作过程主要包括以下两个阶段：

a）编制准备阶段（2019年12月至2020年3月）

2019年12月至1月，标准工作组先后组织多家人脸比对技术及终端应用厂商开展产品

安全威胁情况的调研，收集对标准修订的相关意见建议；2020年1月标准工作组在北京召

开了第一次工作会议，同时邀请多个人工智能安全领域的专家代表参会，收集行业对安全标

准的建议；2020年3月，在收集相关行业意见基础上，工作初步提出标准修订原则和主要

修订内容，在此基础上完成标准修订案草稿。

b)起草阶段（2020年4月至2020年8月）

2020年4月，工作组在北京召开第二次会议，研讨标准修订原则、主要修改意见、讨

论标准草案稿等主要内容，在此基础上工作组根据任务分工开展具体功能和技术指标的研

究；2020年7月，工作组在北京召开第三次工作会议，汇总前阶段研究结果，对标准草案

稿内容逐条进行讨论修改，对重点技术内容进行集中研讨；2020年8月，工作组对标准的

附录协议等部分内容进行了完善，在此技术上形成标准修订征求意见稿。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、标准编制原则

a)一致性原则

本标准参考GB/T1.1-2009《标准化工作导则》和《中华人民共和国标准化法》等标准

化资料，且与我国现行的法律、法规和标准相承接，与我国公文格式方面的规定相一致。

b)规范性原则

中国电子工业标准化技术协会

本标准按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》

等相关要求进行编写，保证标准形式和内容的规范性。结构上主要包括前言、范围、规范性

引用文件、术语和定义、系统概述、功能要求、安全要求、测试方法等共九个部分

c)定量原则

本标准利用主流的对抗样本攻击技术对人脸比对系统进行了系统性的测试。提出了使用

扰动大小来衡量攻击强度的测试方法，规范了不同攻击强度下人脸比对系统应达到的安全要

求。

2、主要内容的论据

本标准规定了人脸比对模型及所在系统的功能要求、安全要求与相应的测试方法，并将

系统划分为基本级和增强级。

本标准适用于交通、酒店、学校、工厂等应用场景的人脸比对模型及所在系统的设计、

开发与测试，其他需要人脸比对技术的应用场景可参考使用。

根据前期调研以及资料研究，本标准的主要内容分为以下两部分：

a)功能要求

功能要求部分主要规定了人脸比对模型抵御对抗样本攻击在算法及数据层面的要求和

规范

b)安全要求

安全要求部分主要规定了人脸比对模型抵御对抗样本攻击在系统层面的要求和规范

3、解决的主要问题

本标准主要解决人脸比对模型安全问题，这种安全问题存在的根本原因是当前的人工智

能技术主要依赖于数据驱动、缺乏可解释性，并且AI算法设计之初普遍未考虑相关的安全威

胁。人脸比对模型