ISOIEC TS 62542025 信息技术 人工智能 机器学习（ML）模型和人工智能（AI）系统的可解释性和可解释性的目标和方法标准立项发展报告

信息技术人工智能机器学习（ML）模型和人工智能（AI）系统的可解释性和可解释性的目标和方法标准立项发展报告StandardizationDevelopmentReport:Informationtechnology-Artificialintelligence-Objectivesandapproachesforexplainabilityandinterpretabilityofmachinelearning(ML)modelsandartificialintelligence(AI)systems摘要随着人工智能技术的飞速发展与广泛应用，机器学习模型在医疗诊断、金融风控、自动驾驶、司法判决等关键领域的决策影响力日益增强，模型“黑箱”问题引发的信任危机与合规挑战已成为制约AI产业健康发展的核心瓶颈。在此背景下，国际电工委员会（IEC）于2025年9月正式发布ISO/IECTS6254:2025《信息技术人工智能机器学习模型和人工智能系统的可解释性和可解释性的目标和方法》技术规范。本报告系统梳理了该标准的立项背景、编制历程、核心内容与技术框架，深入分析了可解释人工智能（XAI）领域的关键概念、目标维度、方法分类及评估机制。报告指出，该标准首次在国际层面构建了涵盖用户视角、数据视角、模型视角和治理视角的多层次可解释性目标体系，确立了面向不同利益相关方的解释方法选择指南和评估指标体系，填补了AI可解释性国际标准领域的空白。该标准的发布对于促进可信AI建设、支撑全球AI治理合规、推动负责任人工智能创新具有重要的引领价值和实践指导意义。关键词：人工智能；机器学习；可解释性；可解释AI（XAI）；国际标准；技术规范；可信AIKeywords:ArtificialIntelligence;MachineLearning;Explainability;ExplainableAI(XAI);InternationalStandard;TechnicalSpecification;TrustworthyAI1引言1.1研究背景人工智能技术正以前所未有的速度渗透至社会经济生活的各个领域。据国际数据公司（IDC）预测，到2026年全球AI市场规模将突破3000亿美元，年复合增长率超过20%。然而，随着深度学习等复杂模型在精度不断提升的同时，其决策过程的“不透明性”问题日益凸显。欧盟《人工智能法案》（AIAct）将透明度要求列为高风险AI系统的强制性义务，中国《生成式人工智能服务管理暂行办法》亦明确要求提供可解释的AI服务，全球主要经济体纷纷将AI可解释性纳入监管框架。在此背景下，国际标准化组织（ISO）和国际电工委员会（IEC）联合成立的人工智能标准化技术委员会ISO/IECJTC1/SC42（人工智能分技术委员会）积极响应产业需求，于2020年前后启动可解释性标准预研工作，经过多轮国际研讨、草案编制与投票审议，最终于2025年9月正式发布ISO/IECTS6254:2025技术规范。1.2标准定位与意义ISO/IECTS6254:2025作为国际首项针对AI可解释性目标与方法的系统化技术规范，其发布具有里程碑式意义。该标准并非局限于某一具体算法或技术方案，而是从系统工程和利益相关方视角出发，构建了可解释性的完整目标框架和方法论体系。它为AI系统开发者、部署者、监管机构、终端用户及第三方评估机构提供了统一的概念基准、目标指引和方法选择指南，是连接技术实现与治理要求的桥梁性文件。2标准编制历程与参与机构2.1编制历程ISO/IECTS6254:2025的编制历经了严谨而充分的多阶段国际标准化流程：-预研阶段（2020—2021年）：ISO/IECJTC1/SC42下设的可解释性工作组（WG3）开展广泛的产业调研和学术文献梳理，识别出可解释性领域存在的术语混乱、目标不清、方法缺乏可比性等关键问题，形成了标准需求论证报告。-草案编制阶段（2021—2023年）：工作组基于预研成果起草工作草案（WD），围绕可解释性的定义边界、目标分类、方法谱系、评估维度等核心议题展开多轮国际会议研讨，先后形成委员会草案（CD）和征求意见稿（DIS）。-审议与发布阶段（2023—2025年）：标准草案面向ISO和IEC各成员国开展正式投票，期间收到来自全球30余个国家的数百条反馈意见，编制团队逐条处理并完善文本。2024年底通过最终国际标准草案（FDIS）投票，2025年9月5日正式发布。2.2主要参与单位介绍在ISO/IECTS6254:2025的编制过程中，中国电子技术标准化研究院（CESI）作为国内归口单位发挥了重要作用。中国电子技术标准化研究院（简称“电子标准院”）创建于1963年，是工业和信息化部直属的标准化专业科研机构，也是国家人工智能标准化总体组的秘书处单位。电子标准院长期致力于人工智能领域标准体系的研究与制定工作，牵头制定了多项人工智能基础标准和关键应用标准，并在ISO/IECJTC1/SC42中担任重要职务，深度参与国际AI标准的协调与制定。在ISO/IECTS6254:2025的编制过程中，电子标准院组织国内高校、科研机构和企业专家组成专项工作组，系统梳理了国内在可解释AI领域的研究成果和实践经验，向国际标准编制工作提交了多项贡献文件和提案。特别是在可解释性需求分析框架、面向不同利益相关方的解释粒度分级方法以及中国在金融、医疗等领域可解释AI应用的典型案例等方面，为标准的完善提供了重要的中国方案和实证支撑。此外，来自德国标准化协会（DIN）、美国国家标准协会（ANSI）、日本工业标准调查会（JISC）等国家成员体的专家也深度参与了标准编制。学术界的积极参与同样不可忽视——来自卡内基梅隆大学、牛津大学、清华大学、浙江大学等高校的研究团队将可解释性领域的前沿学术成果引入标准讨论，推动了“基于事后的局部解释”（post-hoclocalexplanation）等核心概念的学理化和标准化表述。3标准核心内容解析3.1标准的范围与核心术语体系ISO/IECTS6254:2025明确了该技术规范适用于各类ML模型和AI系统的可解释性与可解释性目标设定、方法选择和结果评估活动，覆盖从设计开发、部署运行到审计治理的全生命周期。标准适用于但不限于以下场景：用于高风险决策支持的AI系统（如医疗、金融、司法等领域）、受监管行业中的AI应用、面向公众服务的AI系统，以及需要向利益相关方（如最终用户、监管机构、审计人员、受影响群体）提供解释的AI系统。标准系统界定了与可解释性相关的核心术语体系，澄清了长期存在的概念混淆问题。其中最为关键的区分在于“可解释性（Explainability）”与“可解释性（Interpretability）”两个核心概念：可解释性侧重指“AI系统或模型以可理解的方式向利益相关方提供其行为或决策过程信息的能力”，强调“解释”这一功能性动作及其效果；而可解释性则指“AI系统或模型的内在结构或行为能够被人类理解的程度”，强调模型的固有属性。这一区分为后续的方法论框架和评估体系奠定了术语基础。此外，标准还明确了若干关键派生术语：局部解释指针对单个预测结果的解释，如“为什么该贷款申请被拒绝”；全局解释指对整个模型行为模式的整体理解，如“模型在多大程度上依赖某特征”；反事实解释指“如果输入不同，结果将如何改变”的解释方式；事后的（post-hoc）方法论指模型训练完成后另行生成的解释方法；本质可解释模型（inherentlyinterpretablemodel）则指其结构本身具有透明度的模型（如线性回归、短决策树等）。这些概念共同构成了标准的核心概念基础设施。3.2可解释性的目标框架标准的核心贡献之一在于构建了系统化的可解释性目标框架。该框架将可解释性目标划分为四大维度，每个维度各自回答了可解释性服务于何种根本目的这一基础性问题：（1）用户目标维度：旨在帮助最终用户理解AI系统的行为逻辑和输出结果，建立适当的信任水平。具体包括：使用户能够判断何时应当采纳AI建议、何时应当质疑或拒绝；支持用户对AI系统形成准确的心智模型（mentalmodel），避免过度信任或信任不足；帮助用户识别AI系统的能力边界和适用条件。（2）数据目标维度：关注AI系统数据层面的解释需求，包括训练数据的分布特征、数据质量对模型行为的影响、模型在特定数据子群上的表现差异等。该维度对于识别和缓解数据偏差、防止歧视性决策具有重要意义。具体包括：揭示训练数据中的潜在偏差及其对决策结果的影响路径；识别模型在特定数据子群上的性能退化风险；支持数据溯源和数据治理审计。（3）模型目标维度：旨在展开模型的技术层面剖析，包括模型整体行为规律的刻画、特征重要性分析、决策边界的理解以及模型鲁棒性和敏感性的评估。该维度主要服务于AI开发者和技术审计人员。具体包括：理解模型在全局层面依赖哪些特征以及如何进行决策；识别模型的脆弱点和失败模式；支持模型调试、持续改进和版本迭代中的回归测试；比较不同模型架构在相同任务上的行为差异。（4）治理目标维度：面向监管合规、伦理审查和问责制需求，要求AI系统能够提供满足法规要求的解释记录，支撑审计追踪和事后追责。具体包括：满足欧盟AI法案、GDPR等法规对自动化决策解释的合规要求；支持第三方审计机构对AI系统进行独立评估和认证；保障受决策影响的个体享有知情权和异议权；为AI系统运营者的内部治理机制提供技术支撑和证据基础。3.3可解释性方法分类体系标准将当前主流可解释性方法进行了系统分类，为用户选择和实施合适的方法提供了可操作的路径指引：（1）本质可解释方法（InherentlyInterpretableMethods）：指模型自身结构天然具备可解释性，无需额外解释机制的方法。典型代表包括线性回归、逻辑回归、决策树、规则学习、k近邻等。这些方法虽然解释性强，但往往在复杂任务上的预测精度存在上限。标准指出，在精度要求与解释需求可以兼顾的场景下，应优先优先考虑本质可解释方法。（2）事后的（Post-hoc）全局解释方法：针对已训练完成的复杂模型，通过外部技术生成对模型整体行为的近似描述。典型工具包括全局特征重要性分析（如排列重要性）、部分依赖图（PartialDependencePlots）、全局代理模型（GlobalSurrogateModels）等。该类方法有助于理解模型总体行为规律，适合对模型层面的行为进行全局性刻画。（3）事后的（Post-hoc）局部解释方法：聚焦于单个预测结果的解释，是当前学术界和工业界应用最广泛的解释范式。典型工具包括LIME（局部可解释模型-无关解释）、SHAP（Shapley加法解释）、反事实解释、显著图（SaliencyMap，主要用于图像领域）等。该类方法适合面向终端用户的单次决策解释。（4）交互式解释方法：支持用户通过交互式探索主动理解模型行为，例如可视化分析界面、自然语言问答式解释、模拟推演工具等。这类方法在当前标准框架内被赋予了重要地位，因为交互式方法能够增强用户对解释的深度加工和信任建立，适用于解释需求多样化的复杂场景。标准特别强调，方法选择不应以“能否生成解释”为唯一标准，而应当综合考量目标受众的认知特征、解释场景的具体需求、模型类型与数据特性、可用的计算资源和时间预算、以及解释本身的可靠性与保真度。标准提供了一个结构化的方法选择流程，引导使用者从明确解释目标和受众出发，逐步筛选候选方法并最终确定实施方案。3.4可解释性评估与质量保障对于生成解释的质量如何衡量，标准建立了多维度的评估框架，提出了以下核心评估指标：-保真度（Fidelity）：解释对模型真实行为的刻画准确程度，是衡量局部解释方法可靠性的核心指标；-可理解性（Understandability）：目标受众理解解释内容的难易程度，需结合用户特征进行设计适配；-完备性（Completeness）：解释对影响决策关键因素的覆盖程度；-稳定性（Stability）：解释对输入微小扰动或模型参数微小变化的敏感程度，即相似输入是否产生相似解释；-公平性（Fairness）：解释是否在不同用户群体或不同数据子群之间保持一致的质量水平；-隐私保护度（PrivacyPreservation）：解释生成过程中是否会泄露训练数据的敏感信息。标准建议采用定量评估与定性评估相结合、自动化评估与人工评估相结合的策略，并推荐在AI系统开发的不同阶段（设计阶段、开发阶段、部署前验证阶段、运行监测阶段）分别设置相应的评估关卡，形成持续性的解释质量保障闭环。3.5标准应用场景与实施指引标准给出了多个典型应用场景的实施指引，包括但不限于：医疗诊断辅助系统的可解释性实施、金融信用评分决策的解释流程设计、招聘筛选AI的公平性审查解释、自动驾驶系统的决策追溯机制等。同时，标准提供了面向不同规模组织的实施建议，包括资源配置方案、团队能力建设、工具链选型和治理流程嵌入等方面的具体建议。4标准的技术特征与创新点4.1首次建立了统一的可解释性目标分类框架在ISO/IECTS6254:2025发布之前，业界对“可解释性”的讨论往往停留在概念层面，缺乏系统化、可操作的目标分解体系。该标准首次从利益相关方视角将可解释性目标划分为用户、数据、模型、治理四大维度，每一维度细化为可识别的具体目标条目，为AI系统的解读需求分析、方案设计和评价验收提供了清晰的路线图。4.2确立了方法选择的分层决策框架标准摒弃了“一刀切”式的方法推荐逻辑，构建了基于解释目标、受众特征、模型类型和资源约束的分层决策框架，引导使用者通过系统化分析找到最适合自身场景的解释方案组合。该框架兼顾了理论完备性和工程可操作性，充分体现了技术规范“面向实践”的编制导向。4.3建立了解释质量的多维评估指标体系标准的另一突破在于将“解释”本身作为被评估对象，建立了涵盖保真度、可理解性、完备性、稳定性、公平性和隐私保护度的多维评估指标体系。这一体系意味着可解释性不再停留于“有无”的层面，而是走向“优劣”的精细化管理阶段，为AI系统的第三方评估和认证工作提供了基准。4.4贯穿全生命周期的可解释性管理理念标准主张可解释性不是AI系统发布前的“附加功能”，而应作为贯穿需求分析、设计、开发、测试、部署、运行监测直至退役的全生命周期管理要素。这一理念与当前国际上主流的“负责任AI”和“AI治理”框架高度契合。5标准实施建议5.1对AI系统开发企业的建议-将可解释性要求纳入企业AI产品研发流程的早期需求分析阶段，避免事后补救带来的高成本问题；-建立跨学科的可解释性团队（包括算法工程师、UX设计师、领域专家、法务合规人员），确保解释方案在技术和用户两个维度同时达到可用标准；-在模型选型阶段，优先评估本质可解释模型的适用性；只有在精度需求确实无法满足时，才考虑复杂模型配合事后的（post-hoc）解释手段；-建立解释质量评估数据集和基准测试流程，定期监测已部署模型的解释质量变化。5.2对监管机构和行业组织的建议-将ISO/IECTS6254:2025中的目标框架和评估指标体系引入监管指南和行业自律规范，推动可解释性要求的落地实施；-鼓励行业第三方机构基于该标准开展AI系统可解释性评估服务，培育可解释性评估产业生态；-面向重点行业（如金融、医疗）制定可解释性实施的行业指引和最佳实践案例库，降低企业实施门槛。6结论与展望ISO/IECTS6254:2025的正式发布是人工智能标准化进程中的一个重要里程碑。该标准首次在国际层面为AI系统的可解释性构建了系统化、可操作的目标框架和方法体系，有效回应了全球范围内日益增长的AI透明度和问责需求。标准的实施将为AI系统的开发者提供明确的技术指引，为监管机构提供可依据的评估框架，为终端用户和受决策影响的公众提供权益保障的技术基础，进而促进整个社会对AI技术的理性信任与合理采用。展望未来，AI可解释性领域仍处于快速演进之中，诸多前沿方向值得持续推进标准化工作：面向大语言模型（LLM）和生成式AI的可解释性方法标准化需求日益迫切；因果解释（CausalExplanation）方法的成熟为更深入的解释提供了新的可能；动态环境中的持续解释质量监测机制有待探索；可解释性与其他AI质量属性（如公平性、鲁棒性、隐私保护）之间的协同与权衡关系尚需进一步研究；面向非专业用户的解释交互设计则呼唤更多认知科学与人机交互研究的引入。随着ISO/IECTS6254:2025在全球范围内的推广应用，以及后续相关标准的持续研制，一个更加透明、可信、负责任的人工智能时代正在逐步到来。中国作为全球人工智能产业的重要参与者和贡献者，将继续深入参与国际AI标准化工作，为全球可信AI建设贡献中国智慧和中国方案。参考文献[1]ISO/IECTS6254:2025,Informationtechnology-Artificialintelligence-Objectivesandapproachesforexplainabilityandinterpretability