人工智能 计算机视觉系统测评规范

Q/LB.□XXXXX-XXXXT/SAITA001—2020目次TOC\o"1-1"\h\t"标准文件_一级条标题,2,标准文件_附录一级条标题,2,"前言 II引言 III1范围 12规范性引用文件 13术语和定义 14符号和缩略语 25计算机视觉系统的基本框架 36计算机视觉系统测评指标 36.1概述 36.2计算机视觉系统的功能有效性 46.3计算机视觉系统的性能 76.4计算机视觉系统的兼容性 76.5计算机视觉系统的维护性 76.6计算机视觉系统的可移植性 76.7训练数据集的质量 76.8对抗性样本的影响 86.9对应用场景数据的鲁棒性 86.10计算机视觉系统的可解释性 86.11计算机视觉系统的安全性 87计算机视觉系统测评流程 97.1确定计算机视觉系统质量目标 97.2构建测试数据集 97.3构建测试环境 107.4选择测试指标 107.5开展测试活动 107.6统计、汇总并分析测试结果 10参考文献 11前言本文件按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别这些专利的责任。本文件由上海市人工智能技术协会提出并归口。本文件起草单位：本文件主要起草人：引言计算机视觉是人工智能的关键技术之一，它是使用计算机模仿人类视觉系统的科学，让计算机拥有类似人类提取、处理、理解和分析图像以及图像序列的能力。自动驾驶、机器人、智能医疗等领域均需要通过计算机视觉技术从视觉信号中提取并处理信息。根据解决的问题，计算机视觉应用技术可分为图像或图像序列的分类、识别、分割、检测等类别，其中图像分类、目标检测、图像分割是计算机视觉领域应用最广泛的任务。近年来，随着深度学习的快速发展，端到端的计算机视觉处理已成为人工智能领域最重要的技术，并在各行业发展迅速。然而，业界缺乏对计算机视觉系统的鲁棒性、安全性、可解释性等的系统性测评规范，一定程度上影响着计算机视觉系统的技术发展和广泛应用。而国内外标准大多聚焦计算机视觉的某一个细分领域，而从整体上描述计算机视觉系统测评的标准化工作尚未展开。本文件针对计算机视觉系统产品化的趋势，制定计算机视觉系统测评规范，从功能有效性、性能、兼容性、维护性、可移植性、数据质量、对抗样本、鲁棒性、可解释性、安全性等方面对计算机视觉系统的测评指标进行研究，规定计算机视觉系统测评指标及测评流程，期望能够提升计算机视觉系统质量和服务质量，填补我国在计算机视觉测评标准化、规范化建设的空白，助力计算机视觉技术创新，营造公平开放的计算机视觉产业生态，保障用户使用计算机系统的可靠与安全。本文件的研制工作，得到了上海市人工智能技术协会专家委员会的指导，众多计算机视觉领域企业以及科研单位的大力支持。各位专家对标准内容和文稿进行了深入严谨的讨论，提出了许多切实可行的意见，对标准质量提升和标准内容完善起到关键性作用。上海市人工智能技术协会作为归口单位，在本标准研制过程中，充分发挥了组织协调和技术方向把关作用，聚集了国内人工智能计算机视觉领域的技术专家，开展了多种形式的专题研讨和征求意见活动，在保证标准科学性、合理性和可行性的同时，也确保了标准研制过程的公开性和透明性。为了推动本文件的持续改进，使其内容更加贴近用户、组织的实际需求，欢迎社会各方力量对本标准提出改进建议和意见，请与上海市人工智能技术协会联系。电话电子邮件：info@。通信地址：上海市申长路518号德必WE硅谷人工智能（上海）中心8层813室。范围本文件规定了基于机器学习的计算机视觉系统的测评规范，包括测评指标体系和测评流程。本文件适用于企业、研究机构等对基于机器学习的计算机视觉系统的设计、研发、测试、部署与运维，其他人工智能领域可参考使用。规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T25000.10-2016系统与软件工程系统与软件质量要求和评价(SQuaRE)第10部分：系统与软件质量模型T/CESA1026-2018人工智能深度学习算法评估规范ISO22300:2021安全与恢复力术语(Securityandresilience–Vocabulary)术语和定义T/CESA1026-2018界定的以及下列术语和定义适用于本文件。计算机视觉系统computervisionsystem基于机器学习算法，对数字图像或视频中的目标实现分类、检测、分割任务的计算机应用系统。本文件所述计算机视觉系统，不包括非机器学习的系统，且只关注实现分类、检测、分割任务的计算机视觉应用系统。实现其他任务的计算机视觉系统的测评可参考本文件。图像分类imageclassification根据一定的规则，将图像自动划分到某一个预定义类别。图像分割imagesegmentation将图像分解成若干个各向同性区域。语义分割semanticsegmentation给图像中每个像素赋予一个所属对象类别的标签。将图像分成若干部分，每一部分属于某一类型对象。实例分割instancesegmentation标记图像中每个像素所属的物体实例。目标检测objectdetection确认图像中是否存在指定类别的对象并确定其位置和大小。混淆矩阵confusionmatrix每一类事件（对象、物体等）被预测为所有类型事件（对象、物体等）的概率。精度precision被预测为正样本的集合中正样本的比率。召回率recall被正确预测的正样本占全部正样本的比率。F1测度F1score精度和召回率的调和平均值。受试者工作特征曲线receiveroperatingcharacteristiccurve由不同设定条件下的真正率和假正率值画出的响应曲线。真负率truenegativerate被正确预测的负样本占全部负样本的比率。假正率falsepositiverate被错误预测的负样本占全部负样本的比率。错误接受率falseacceptancerate接受不该接受的样本的比率。[来源：ISO22300:2021，3.2.18]错误拒绝率falserejectionrate拒绝不该拒绝的样本的比率。[来源：ISO22300:2021，3.2.19]可解释性interpretability人类能够理解人工智能技术内在工作原理及其作出决策原因的程度。缩略语下列缩略语适用于本文件。ARM：高级精简指令集机器（AdvancedRISCMachine）AUC：曲线下面积（AreaUnderCurve）CPU：中央处理器（CentralProcessingUnit）FN：假负（FalseNegative）FP：假正（FalsePositive）FWIoU：频率加权交并比（FrequencyWeightedIntersectionoverUnion）GPU：图形处理器（GraphicProcessingUnit）IoU：交并比（IntersectionoverUnion）mAP：整体平均准确率（MeanAveragePrecision）MIoU：平均交并比（MeanIntersectionoverUnion）MIPS：无内部互锁流水级的微处理器(MicroprocessorwithoutInterlockedPipedStagesarchitecture)MPA：平均像素准确率（MeanPixelAccuracy）NPU：神经网络处理器（Neural-networkProcessingUnit）PA：像素准确率（PixelAccuracy）ROC：受试者操作特性曲线（ReceiverOperatingCharacteristic）TP：真正（TruePositive）TN：真负（TrueNegative）计算机视觉系统的基本框架本文件所述的计算机视觉系统，主要是指连接在图像采集系统之后，对输入的图像或视频进行处理的应用系统，分为预处理模块和模型两部分，其基本框架如图1所示。其中，预处理模块对图像或视频输入做一些必要的处理（如图像裁剪、图像分辨率调整、图像色彩和光照的转换等），模型对预处理后的图像或视频进行推断，模型的参数值由训练数据训练所得。基于机器学习的计算机视觉系统基本框架计算机视觉系统测评指标概述本文件给出了一套计算机视觉系统的测评指标体系，如图2所示，包含10个一级指标和47个二级指标。在实施测评过程中，应根据系统的质量目标选取相应指标。计算机视觉系统测评指标体系计算机视觉系统的功能有效性用户可以根据实际的应用场景选择相关的基本指标，用于评估计算机视觉系统实现的功能是否满足要求。根据视觉系统的任务不同，功能有效性的评估应包括但不限于下列内容：图像分类任务的评估指标：混淆矩阵：在二分类任务中，混淆矩阵是通过样本的标签和模型分类结果组成的2×2矩阵，其中，左上角为真正样本数（真实值和模型预测值同时为正，TP），左下角为假正样本数（真实值为负，而模型预测值为正，FP），右上角为假负样本数（真实值为正，而模型预测值为负，FN），右下角为真负样本数（真实值和模型预测值同时为负，TN），见表1。二分类混淆矩阵真实值预测值PositiveNegativePositive真正TP假负FNNegative假正FP真负TN在多分类任务中，混淆矩阵的每一列代表了预测类别，每一列的总数等于预测为该类别数据的数目；每一行代表了数据的真实归属类别，每一行的数据总数等于该类别数据实例的数目；第i行第j列的数值表示第i类数据被预测为第j类的数目，见表2。多分类混淆矩阵真实值预测值第1类第2类...第n类第1类a11a12...a1n第2类a21a22...a2n第n类an1an2...ann准确率：对于给定的数据集，正确分类的样本数占全部样本数的比率。 准确率=TP+TNTP+FP+TN+FN×100% (精度：对于给定的数据集，被预测为正样本的集合中正样本的比率。 精度=TPTP+FP×100% (召回率：对于给定的数据集，被正确预测的正样本占全部正样本的比率 召回率=TPTP+FN×100% (真负率：对于给定的数据集，被正确预测的负样本占全部负样本的比率。 真负率=TNTN+FP×100% (错误接受率：也称假正率，对于给定数据集，被错误预测的负样本占全部负样本的比率。 错误接受率=FPFP+TN×100% (错误拒绝率：对于给定的数据集，预测错误的正例样本占所有实际为正例样本的比率。 错误拒绝率=FNTP+FN×100% (F1测度：精度和召回率的调和平均值。 F1测度=2×精度×召回率精度多分类任务下的指标计算：在n分类任务中，根据表2的多分类混淆矩阵得到了所有种类的预测值分布情况，并基于这些数据计算多分类任务的准确率、精度、召回率、F1测度等指标，在此基础上，进一步采用宏平均和微平均来评价整个多分类任务的功能有效性。宏平均：对每一个类别分别计算统计指标值，即把每个类别视作二分类情况进行统计，然后再对所有类的结果取算术平均值。如： 宏准确率=1ni=1nTP微平均：把所有类别的真正、真负、假正、假负类相加，计算类别预测的统计指标。如： 微准确率=TP+TNTP+FP+ROC曲线：ROC的横轴是假正率，代表所有被错误预测的负样本占全部负样本的比率。ROC的纵轴是召回率，代表所有正样本中预测正确的概率。每次选取一个不同的正负判定阈值，就可以得到一组假正率和召回率，即ROC曲线上的一点。将正负判定阈值从0到1取不同的值时，可以得到一系列(假正率,召回率)点。将这些点连接起来，就得到了ROC曲线。ROC曲线的对角线坐标对应于随机猜测，而坐标点(0,1)也即是左上角坐标对应理想模型。曲线越接近左上角代表模型的效果越好。ROC曲线如图3所示：ROC曲线AUC：即为ROC曲线下面积，AUC越接近于1，分类性能越好。目标检测任务的评估指标：分类任务的指标也适用于目标检测任务。交并比：用来评价目标框和预测框之间重合度。计算公式如下所示，其中Bp代表预测的矩形框区域、Bgt代表标注的矩形框区域。 IoU=area(Bp∩B整体平均准确率：对于每一个类别，首先按照置信度（如IoU值大小）把每个预测结果进行排序，再取不同置信度阈值，把每个预测结果分为真正、假正、真负和假负类，从而获得在该阈值下的精度和召回率值。画出该类别以精度为纵轴，召回率为横轴所绘制的P-R曲线，该类别的平均准确率就是此P-R曲线下的面积。以上过程遍历所有的类别之后，对所有类别的平均准确率求平均，即可得到模型整体的平均准确率mAP。图像分割任务的评估指标：假设共有k+1类（语义分割与实例分割均可将目标分类，为L0,...,Lk，包括对象、类别、空类或者是背景），pij表示属于第i类被分到第j类的像素数量。则图像分割的评估指标有：像素准确率（PA）：正确分类的像素数量与所有像素数量的比值。 PA=i=0kpiii=0k平均像素准确率（MPA）：按类计算正确分类像素的与该类像素数量的比值，再由类总数取平均。 MPA=1k+1i=0kpii平均交并比（MIoU）：按类计算第i类像素集合与被预测为第i类的像素集合的交集与其并集的重合比例，再将所有类取平均。 MIoU=1k+1i=0kpii频率加权交并比（FWIoU）：是对MIoU的改进，对每个类别按照重要性进行加权，重要性来自于其出现的频率。 FWIoU=1i=0kj=0kp计算机视觉系统的性能用户可以根据实际的应用场景选择相关的基本指标，用于评估计算机视觉系统的性能是否满足要求，应包括但不限于下列内容：系统推断时间：计算机视觉系统对给定的n个数据样本进行推断并获得结果所需要的平均时间、最短时间和最长时间。系统运行占用的系统资源：包括系统运行时占用的系统CPU、GPU、NPU、内存、显存等。模型的算力需求：对于给定模型，执行推断所需要的算力。模型的存储需求：对于给定模型，存储模型所需要的存储空间。模型压缩性能：针对不同的压缩比例（如90%，80%，70%，60%），比较模型在压缩后与压缩前的预测性能。系统业务吞吐量：单位时间内系统处理的图像或视频的数据量。计算机视觉系统的兼容性用于评估计算机视觉系统对不同图像、视频格式的兼容性，应包括下列内容：系统对不同图像、视频格式的兼容性：评估模型能否根据用户需求处理不同格式的图像或视频。系统对不同分辨率的兼容性：评估模型能否根据用户需求处理不同分辨率的图像或视频。计算机视觉系统对操作系统的兼容性：评估计算机视觉系统能否根据用户需求兼容不同操作系统，或兼容同一类型操作系统的不同版本。计算机视觉系统对其他软件的兼容性：评估视觉系统能够根据客户需求兼容同一操作系统下其他软件。计算机视觉系统的维护性用于评估计算机视觉系统能够被运维人员修改的有效性和效率以及自身的可恢复性，应包括下列内容：模型的迭代更新频率：评估模型迭代更新的时间周期及模型训练时间。模型迭代的质量变化：评估模型迭代后系统的功能有效性、性能、鲁棒性等变化趋势。系统的可恢复性：评估计算机视觉系统发生故障时，恢复功能所需要的时间。计算机视觉系统宜支持系统配置、监控告警、日志等管理功能。计算机视觉系统的可移植性用于评估计算机视觉系统能够从一种运行环境迁移到另一种运行环境的有效性和效率，应包括下列内容：系统对硬件设备的可移植性：评估视觉系统是否拥有跨硬件架构的移植能力，即系统是否支持在基于至少2种或多种架构处理器的设备上运行，且运行性能保持一致，如X86、X86-64、ARM、MIPS等。系统对人工智能框架的可移植性：评估视觉系统是否拥有跨人工智能框架之间的移植能力，即是否支持在至少2种或多种人工智能框架之间相互转换，且运行性能保持一致，如Tensorflow，PyTorch，PaddlePaddle等。训练数据集的质量评估训练数据集的质量，应包括下列内容：训练数据集规模：通常用样本数量来衡量。训练数据集标注质量：指数据集标注信息是否准确、完备并符合要求。训练数据集均衡性：指数据集包含的各种类别的样本数量分布的偏差程度。训练数据集的多样性：指数据集包括不同光照条件、不同分辨率、不同角度等情形的多样性。对抗性样本的影响评估对抗性样本对计算机视觉系统的影响，应包括下列内容：对抗性样本生成测试：用不同方法生成对抗样本，评估系统的脆弱性。生成方法包括：白盒方式生成的样本：指目标模型已知的情况下，利用梯度下降等方式生成对抗性样本；黑盒方式生成的样本：指目标模型未知的情况下，利用一个替代模型进行模型估计，针对替代模型使用白盒方式生成对抗性样本；对抗性样本的物理可行性：评估生成的对抗性样本在现实中的可实现性，能否通过打印、贴纸等方式实现对抗性样本的攻击；能否应对角度、尺度光照等变换；能否在压缩算法、拍摄设备等因素造成的模糊下实施攻击。系统对对抗性样本的防御性，包括：评估系统是否进行过对抗训练。对于黑盒攻击，评估生成一个对抗性样本的平均查询次数。系统防御对抗性样本的成功率：统计一定数量对抗性样本对系统攻击的失败率。对应用场景数据的鲁棒性评估应用场景数据对系统的影响，应考虑下列内容：干扰数据对系统的影响：评估异常的输入数据对系统准确率的影响，包括模糊的图像或视频、部分遮挡的图像或视频、光照不足或过强的图像或视频、有噪声的图像或视频。结合实际场景，考虑天气和气候变化下，不同场景中的干扰数据，如雨雾，雪霜，风沙，粉尘等影响视觉能见度的场景。评估异常输入数据集的预测准确率、精度、召回率、真负率、F1测度等指标。数据集分布对系统的影响：统计真实环境下输入数据集的正负例分布或各类别样本分布，评估不同数据集分布情况下系统预测的准确率、精度、召回率、真负率、F1测度等指标。业务不相关数据对系统的影响：当输入数据并非系统业务相关数据（比如不属于分类模型中任何一类的数据），评估系统能否对其作合适的处理（比如识别为“其他”类）。计算机视觉系统的可解释性评估人类能够理解视觉系统的输出决策原因的程度。根据人类能够理解系统决策原因的程度，将计算机视觉系统的可解释性分为强、弱、无三个级别：强可解释性：可通过数学证明来说明视觉模型做出决策的原因，并给出推理和决策的路径。弱可解释性：可通过计算机视觉系统的输入输出、视觉系统中的部分参数值、提取的特征值或这些数值的可视化来说明视觉系统做出决策的原因。无可解释性：无法了解计算机视觉系统做出决策的原因。计算机视觉系统的安全性除GB/T25000.10-2016中规定的软件系统的信息安全性要求之外，评估计算机视觉系统的安全性，还应包括下列内容：机密性：通过对被测系统的持续访问推测出视觉模型的参数，与原模型的相似度。隐私性：训练数据中脱敏数据占比。系统预测结果中含个人信息数量和种类。系统的最大查询次数上限。输入防御：系统有无对恶意输入样本的检测机制，如检测输入样本和正常数据间的差异、输入样本的分布特征、输入样本的历史等。系统有无对输入样本作防御性预处理，如对输入样本进行变形转化、加噪、去噪、自动编码等。计算机视觉系统测评流程计算机视觉系统的测评流程如图4所示。计算机视觉系统测评流程确定计算机视觉系统质量目标应运用以下步骤确定计算机视觉系统的质量目标：场景分析分析计算机视觉系统的应用场景、运行环境与使用流程，既要考虑系统正常使用的情况，也要考虑可预见的异常情况。风险分析根据计算机视觉系统的不同应用场景，通过多种途径开展有关计算机视觉系统失效的风险识别，如系统失效模式分析、场景模拟、历史运行数据分析、专家委员会评审等技术。可考虑的风险包括但不限于：由于计算机视觉系统的失效导致对人类生命、健康、财产或自然环境等的威胁；对计算机视觉系统的攻击带来的安全隐患；计算机视觉系统对个人隐私数据的侵犯和泄露的风险；潜在的道德和法律的风险。确定系统质量目标根据系统的应用场景和风险，确定计算机视觉系统的质量目标，包括：确定系统功能有效性、性能、兼容性、维护性、可移植性、训练数据集的质量、对抗样本的影响、对应用场景数据的鲁棒性、可解释性、安全性的指标要求。确定测评指标评价的