ISOIEC 250592023 软件工程.系统和软件质量要求和评估（SQuaRE）.人工智能系统的质量模型标准立项发展报告

标题：ISO/IEC25059:2023软件工程——系统和软件质量要求和评估（SQuaRE）——人工智能系统的质量模型标准立项发展报告EnglishTitle:StandardizationDevelopmentReport:Softwareengineering—SystemsandsoftwareQualityRequirementsandEvaluation(SQuaRE)—QualitymodelforAIsystems摘要随着人工智能（AI）技术的飞速发展与广泛应用，如何系统性地评估AI系统的质量，确保其可靠性、安全性、公平性和可解释性，已成为全球范围内亟待解决的关键问题。本报告旨在全面阐述国际标准ISO/IEC25059:2023《软件工程——系统和软件质量要求和评估（SQuaRE）——人工智能系统的质量模型》的立项背景、核心内容、研制过程及未来展望。该标准由国际标准化组织（ISO）和国际电工委员会（IEC）第一联合技术委员会（JTC1）下属的软件与系统工程分技术委员会（SC7）制定，是著名的SQuaRE系列标准在AI领域的重要延伸。报告深入剖析了该标准在传统软件质量模型基础上，针对AI系统特有属性引入的“鲁棒性、公平性、可解释性、可控性、透明性”等关键质量特征及其细化子特征。通过对标准应用范围的解读，本文论证了其在指导AI系统设计开发、实施质量保证（QA）、开展第三方评估以及构建行业自律监管体系方面的核心价值。标准已于2023年6月正式发布，标志着国际社会对AI系统质量管理从经验主义迈向系统化、标准化的新阶段。报告最后指出，该标准的落地与迭代对于促进可信赖人工智能的全球发展、规避技术风险、推动负责任创新具有深远的战略意义。关键词人工智能系统质量模型；SQuaRE系列标准；ISO/IEC25059；软件质量评估；可信赖人工智能；鲁棒性；公平性；质量特征Keywords:AISystemQualityModel;SQuaRESeriesStandards;ISO/IEC25059;SoftwareQualityAssessment;TrustworthyAI;Robustness;Fairness;QualityCharacteristics正文1.引言：AI系统质量评估的时代呼唤人工智能作为新一轮科技革命和产业变革的核心驱动力，正在深刻重塑经济社会活动的各个领域。从医疗诊断、自动驾驶到金融风控、智能制造，AI系统的决策结果直接影响着人们的生活质量和生命财产安全。然而，AI系统因其数据依赖性、算法黑箱性和行为不确定性，也带来了前所未有的质量挑战。传统基于ISO/IEC25010等标准构建的软件质量模型，主要针对确定性、规则驱动的传统软件系统，难以有效覆盖AI系统特有的、源于数据、模型和训练过程的非功能性质量问题。在此背景下，国际标准化组织（ISO）与国际电工委员会（IEC）的第一联合技术委员会（JTC1）下属的软件与系统工程分技术委员会（SC7）敏锐捕捉到了行业痛点与政策需求，启动了ISO/IEC25059的研制工作。该标准的立项，旨在为AI系统提供一个全面的、可扩展的质量模型，将其作为质量需求定义、质量评价与质量保证的统一参考框架，填补了国际标准体系中AI系统领域顶层质量模型的空白。标准的发布，不仅是SQuaRE（软件质量需求和评估）系列标准体系的重大里程碑，更是全球范围内推动可信赖人工智能从理念走向实践的标志性步骤。2.标准的制定背景与研制历程2.1立法与政策驱动全球主要经济体纷纷出台人工智能治理政策，强调对AI系统的“可信赖”要求，如欧盟的《人工智能法案》（AIAct）提出了风险分级方法；中国科技部发布了《新一代人工智能伦理规范》；经合组织（OECD）也发布了人工智能原则。这些政策文件中普遍包含了鲁棒性、安全、透明、公平、问责等核心要素。ISO/IEC25059的制定恰好为这些政策指标在技术和工程层面的落地提供了可操作的质量模型基础。2.2技术发展的内在要求传统的软件质量模型（如ISO/IEC25010）定义了功能性、性能效率、兼容性、易用性、可靠性、安全性、维护性和可移植性八大质量特性。而AI系统引入了独特的质量风险，例如：对抗性攻击（对输入数据微小扰动导致输出错误）引发的鲁棒性问题；数据偏见导致的公平性问题；复杂深度学习模型的不可解释性问题。原模型无法系统性地分解这些新型质量要求，迫切需要专门针对AI特性的质量模型。2.3研制历程该标准由ISO/IECJTC1/SC7/WG42（软件与系统工程分委会下的软件质量工作组）负责制定。项目启动于2020年前后，经历了多个委员会草案（CD）、国际标准草案（DIS）和最终国际标准草案（FDIS）阶段。参与成员包括来自中国、美国、德国、日本、英国、加拿大等多个国家的标准化专家和业界代表。经过多轮技术讨论与协调，标准于2023年6月28日正式发布，标准编号为ISO/IEC25059:2023。3.标准核心内容与技术架构ISO/IEC25059:2023并非对SQuaRE通用模型的否定，而是对其在AI领域的专门化扩展。其核心贡献在于定义了一个包含AI系统特有质量特征的综合模型。3.1模型结构该模型继承了经典的SQuaRE的层次化框架：-质量特性：最高层级，代表AI系统的主要质量属性。-质量子特性：将每个质量特性分解为更具体的维度。-质量度量指标：与子特性关联的、可量化的评价指标。3.2AI系统引入的新质量特性ISO/IEC25059在保留原有软件质量模型精髓的基础上，着重定义了可归属于AI系统的五大关键质量特性，这些特性构成了AI质量管理的核心：1.功能性：虽然传统软件也包含功能性，但在此标准中，“能力”和“正确性”被扩展以适应AI特有的任务场景（分类、回归、聚类、强化学习等）。同时，评估重点从确定的输入-output映射，转向了基于统计的性能指标（如准确率、精确率、召回率、F1分数、混淆矩阵等）。2.性能效率：衡量AI系统在处理数据、训练及推断过程中的资源消耗（时间、计算资源、内存等）。特别关注大规模模型的训练成本和实时推理的延迟要求。3.兼容性：评估AI系统与其他系统、平台、数据格式以及其运行环境的交互能力，并包含其在旧版系统上的迁移能力。4.鲁棒性（Robustness）：这是AI系统最核心的新增特性之一。它衡量系统在遇到输入变化（如噪声、对抗性样本、数据缺失）、对抗性攻击（故意设计的欺骗输入）以及环境变化（系统运行环境的偏移，如场景、光照、噪声模式的变化）时，依然保持稳定正确输出的能力。5.可解释性（Explainability）：衡量系统针对一个给定决策或行为，能够提供人类可理解的解释的程度。它包含了对内部逻辑复杂度的控制（可理解性）和提供明确解释的可解释性本身。这是满足监管合规和建立用户信任的关键。6.公平性（Fairness）：评估AI系统在决策过程中不产生基于种族、性别、地域、年龄等受保护属性的有偏见的、歧视性结果的能力。标准强调从防止偏见（算法、数据或环境偏见）和不同群体间的结果差异两个角度进行度量。7.可控性（Controllability）：衡量关键利益相关者（如系统操作者、用户）在系统运行过程中对AI行为进行监控、干预和覆盖的能力。例如，人类操作员必须能够随时暂停或纠正AI系统的行为。8.透明性（Transparency）：强调关于系统行为、能力、限制、数据来源、算法模型及其预期用途的信息的公开、可审计和可理解程度。它不止是可解释性，更包含了模型和数据的溯源、系统行为的可视化以及用户对被AI辅助或决策的知情权。3.3与传统模型的融合ISO/IEC25059特别指出，AI系统软件部分的传统质量特性（如可靠性、安全性、维护性、易用性等）依然适用。因此，一个完整的AI系统质量评估应当结合：-传统质量模型（ISO/IEC25010/25030）：评估软件基础设施的质量。-通用质量模型（ISO/IEC25059）：专门评估AI组件的特有质量。-数据质量模型（相关标准）：评估训练数据和输入数据的质量。4.标准的主要应用场景与价值ISO/IEC25059:2023为AI生命周期各阶段的参与者提供了统一语言和行动框架。-需求定义阶段：开发团队可根据标准定义AI系统的具体质量需求。例如，针对一个医疗影像系统，需要明确“鲁棒性”子特性“对输入噪声的鲁棒性”的接受阈值是多少。-设计与开发阶段：指导工程师选择合适的技术路线。例如，为了满足“可解释性”要求，可能会优先选择可解释性强的决策树或线性模型，而不是不可解释的深度神经网络。-质量保证与测试阶段：为测试团队提供系统化的测试维度。测试不再局限于功能点测试，还需要专门进行对抗性鲁棒性测试、公平性审计、可解释性测试等。-第三方评估与认证：为独立的测试实验室或认证机构提供权威的评估指标集。在全球AI监管趋严的背景下，符合SQuaRE体系的标准将成为衡量AI系统质量的通用“通行证”。-采购与供应商管理：帮助采购方在招标和合同签订时，明确对AI系统质量的硬性指标要求，避免“黑箱”采购。5.参与单位介绍：软件工程与系统标准化工作的中坚力量——中国电子技术标准化研究院（CESI）作为我国电子信息领域标准化工作的国家级核心机构，中国电子技术标准化研究院（CESI）在ISO/IEC25059:2023的研制过程中扮演了至关重要的角色。机构背景与角色定位CESI创立于1963年，是工业和信息化部直属事业单位，也是国家标准化管理委员会（SAC）重点联系的标准化技术机构。其职能覆盖标准研制、试验检测、计量校准、认证评估、信息技术研究与产业咨询服务。在SQuaRE体系内，CESI作为ISO/IECJTC1/SC7的国内技术对口单位，长期深度参与软件与系统工程领域国际标准化的研究、投票与起草工作，是国内软件质量、人工智能标准化领域的核心智库。在ISO/IEC25059研制中，CESI的代表专家不仅作为项目组成员贡献了大量的技术方案与条款修改意见，还积极组织国内产学研用各方力量，将我国在AI治理（如《新一代人工智能发展规划》《可信AI白皮书》）和产业实践中的经验、案例和需求反馈到国际标准中。具体贡献与影响1.技术提案与意见反馈：针对AI系统的“公平性”、“可控性”和“透明性”等我国重点关注的维度，提出了多项技术细节与度量指标建议，确保这些维度不仅具有理论高度，更具有工程可行性和可操作性。2.国内协调与支撑：CESI组建了由高校（如清华大学、北京大学）、企业（百度、华为、腾讯等）共同参与的工作组，吸纳国内在AI系统质量评估（如对抗鲁棒性攻击测试、大模型评测）积累的前沿方法，并将其与国际标准框架融合，有效提升了中国在AI标准化领域的国际话语权。3.标准推广与孵化：CESI正在积极推动ISO/IEC25059在中国的转化工作，将其作为“人工智能国家标准体系规划”的核心基础标准之一。同时，依托其强大的测试实验室网络，已启动基于该标准对AI产品（如智能语音、图像识别系统、机器学习平台）的评估试点，旨在建立“标准引领、评测验证、示范推广”的闭环生态。4.人才与知识体系建设：CESI定期举办SQuaRE系列标准和人工智能系统的标准化培训班，面向全行业输出质量标准知识。同时，构建了国内首个面向AI系统的SQuaRE模型度量库，支撑国内AI企业的质量提升。通过CESI等国内机构的深入参与，ISO/IEC25059:2023不仅是一份国际间达成的技术共识，也融入了我国对于可信赖人工智能治理的智慧与实践，为该标准在中国的广泛采纳与落地实施奠定了坚实的组织和知识基础。结论与展望1.标准的历史意义ISO/IEC25059:2023的发布，标志着人工智能系统质量管理正式步入规范化、标准化的成熟阶段。它首次在全球范围内统一了AI系统特有的质量范畴定义，将鲁棒性、公平性、可解释性等抽象、模糊的治理理念，转化为可度量、可分解、可验证的工程标准。SQuaRE系列生态得以完善，为AI与非AI系统的无缝连接构建了统一的质量语言。2.未来发展演进的趋势-融合数据质量：AI系统的质量与数据质量高度耦合。未来，该标准应与数据质量模型（如ISO/IEC5259系列）更紧密地结合，形成一个AI全生命周期质量管理的超集框架。-驱动自动化测试工具：随着度量指标的细化，将催生一批专门化的AI质量测试工具，如对抗鲁棒性自动化测试平台、公平性审计工具包、可解释性评估插件等，推动AI质量管理的自动化和DevOps化（AlOps）。-动态更新与行业细分：随着大语言模型（LLM）、生成式AI（AIGC）等新范式涌现，当前的模型可能需要针对这些新特性进行调整和扩展。标准将经历持续的维护修订过程。同时，类似的垂直行业标准（如用于金融、医疗、自动驾驶的特定质量模型特化）有望基于此框架诞生。-成为第三方认证基石：该标准极有可能被全球主流监管机构（如欧盟AIAct的合格评定机构）视为具有强制参考意义的认证依据，从而直接影响AI产品在市场准入中的合规流程。3.对我国和全球的启示对于中国而言，应积极将ISO/IEC2505