GBT 47507-2026 人工智能 可信赖 通则标准立项发展报告

人工智能可信赖通则标准立项发展报告StandardizationDevelopmentReport:ArtificialIntelligence—Trustworthiness—GeneralPrinciples摘要关键词：人工智能；可信赖；标准化；伦理治理；风险管理；质量评估；通用原则Keywords:ArtificialIntelligence;Trustworthiness;Standardization;EthicalGovernance;RiskManagement;QualityAssessment;GeneralPrinciples一、引言：人工智能可信赖标准化的时代背景与战略需求当前，以深度学习、大语言模型、多模态感知为代表的新一代人工智能技术正加速向经济社会发展各领域全面渗透。从智能制造中的预测性维护、智慧医疗中的辅助诊断、智能金融中的风险控制，到智慧城市中的交通调度与公共安全，人工智能系统已从实验室走向大规模产业部署。与此同时，技术应用的深度拓展带来了前所未有的治理挑战：算法偏见导致的社会公平问题、模型不可解释引发的信任危机、数据泄露与隐私侵犯风险、自主系统失控的潜在安全隐患等，正日益成为制约产业健康发展的关键瓶颈。国际社会对可信赖人工智能的关注已从伦理讨论层面全面转向技术落地与标准化推进层面。2019年，欧盟人工智能高级别专家组发布《可信赖人工智能伦理准则》，提出合法、合乎伦理、稳健可靠三大核心要求；2021年，联合国教科文组织通过全球首个人工智能伦理协议；ISO/IECJTC1/SC42（人工智能标准化分技术委员会）围绕可信赖特征体系编制了ISO/IECTR24028等系列技术报告。美国国家标准与技术研究院（NIST）亦于2023年发布《人工智能风险管理框架》（AIRMF1.0），从治理、映射、测量与管理四个维度构建风险管理方法论。二、标准编制基础与工作历程（一）政策法规与战略规划依据本标准的编制始终坚持以国家顶层战略设计为指引，严格对标以下政策法规框架：-《国家标准化发展纲要》（2021年10月发布）明确提出要"加强人工智能、大数据、区块链等新一代信息技术标准体系建设"，推动标准化与科技创新深度融合，为人工智能领域标准化工作提供了根本遵循。-《新一代人工智能发展规划》（国发〔2017〕35号）系统部署了我国人工智能发展的总体思路、战略目标和重点任务，特别强调要"加强人工智能相关法律、伦理和社会问题研究，建立人工智能法律法规、伦理规范和政策体系"。-《关于加强科技伦理治理的意见》（2022年3月发布）要求将科技伦理要求贯穿科学研究、技术开发等科技活动全过程，明确从事人工智能等新兴科技活动应遵循的最小必要、公开透明、负责任创新等原则。-《新一代人工智能伦理规范》（2021年9月发布）提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等六项基本伦理要求。-《全球人工智能治理倡议》（2023年10月发布）秉持以人为本、智能向善理念，强调共同防范和打击人工智能相关违法犯罪活动，不断完善人工智能伦理准则和标准规范。上述政策法规为本标准的编制提供了坚实的制度依据和方向指引，本标准则通过技术标准化的方式将政策与伦理要求落地为可操作、可执行的技术条款与管理规范。（二）标准体系定位分析在人工智能标准体系的整体框架中，本标准属于基础共性类标准中"可信赖"维度的顶层通用标准。其上游对接国家法律法规和伦理治理的宏观要求，下游为具体领域的人工智能应用标准、产品标准及评测标准提供统一的术语、模型、框架和原则指引。该定位决定了本标准在条款编制上必须坚持技术中立性，避免绑定特定算法或技术路线；在方法论上必须兼容不同行业实践，使通则性要求能灵活适配各垂直领域的具体场景与风险特性。（三）国内国际标准化现状研判1.国际标准化进展ISO/IECJTC1/SC42（人工智能分技术委员会）持续推进可信赖人工智能国际标准的编制工作。已发布的标准中，ISO/IEC24029-1针对人工神经网络的鲁棒性评估方法提供了数学框架；ISO/IECTR24028:2020概述了人工智能系统可信赖相关方法与机制；ISO/IEC23894:2023则聚焦于人工智能风险管理指引。此外，ISO/IEC5259系列标准涵盖数据质量与数据治理，为可信赖人工智能的数据基础提供支撑；ISO/IEC42001:2023作为人工智能管理体系标准，提出了组织层面的人工智能管理体系建设要求。这些国际标准在可信赖的四维属性划分、风险管理流程框架等方面与本标准存在不同程度的关联。我国作为ISO/IECJTC1/SC42的积极成员，参与了多项国际标准的编制工作，积累了丰富的国际协调经验，为本标准充分吸收国际先进理念并在关键议题上体现中国立场提供了条件。2.国内已有标准梳理目前，国内已发布的人工智能领域国家标准主要集中在术语定义、基础平台、典型应用及特定技术（如机器学习、计算机视觉）等方面，聚焦"可信赖"属性体系及其评估方法的标准相对匮乏。团体标准层面，中国电子学会、中国通信标准化协会等社会团体已陆续发布了若干涉及人工智能伦理与安全的技术文件，如《人工智能安全技术要求》等，但其适用范围、权威级别和行业覆盖面存在局限。总体来看，国内尚缺乏从通用原则层面统摄人工智能可信赖各维度的纲领性国家标准。本标准即立足于填补这一空白，同时注重与已有的相关标准形成互补，而非简单重复。三、标准主要内容解析（一）标准定位与适用范围GB/T47507-2026《人工智能可信赖通则》属于人工智能领域基础共性类国家标准，定位于为人工智能系统的研发、部署、运行、维护全生命周期提供可信赖维度的通用性原则框架。标准适用于各类组织——包括人工智能系统的开发者、提供者、集成者、运营者和使用者，以及开展评估认证的第三方机构。标准的适用范围涵盖各种技术形态的人工智能系统，包括但不限于传统机器学习系统、深度学习系统、大语言模型系统及复合型智能系统，既适用于独立软件形式的人工智能，也适用于嵌入硬件或服务的智能功能模块。（二）术语与定义框架为保证标准的可操作性与约束力，在术语与定义部分，除对"人工智能""人工智能系统""生命周期""利益相关方"等基础性概念做出界外外，还在引入国际标准化组织最新文件（如ISO/IEC22989）中相关定义的基础上，结合我国人工智能产业发展实践做出适度细化和修订，确保术语体系既与国际衔接，又适用国内科学研究与产业应用的话语环境。（三）可信赖属性体系模型本标准的核心贡献之一在于构建了层次化的可信赖属性体系结构，覆盖了当前国际社会对人工智能可信赖关注的主要维度，具体包括：-鲁棒性：要求系统在输入扰动、环境变化及对抗性攻击等条件下仍能保持既有性能水平和行为稳定性。-安全性：系统在正常运行和遭遇故障或恶意行为场景下均不导致人身伤害、财产损失或系统性风险。-可解释性：系统的决策过程与输出结果能够以利益相关方可理解的方式得到合理解释，解释深度随风险等级递增。-公平性：系统在不同性别、年龄、地域、民族等维度上不存在非理性的系统性偏见与歧视性输出。-隐私保护：系统在数据采集、存储、处理、传输和销毁等环节有效落实个人信息保护和数据安全的法律与技术要求。-可控性：人类能够对系统行为进行有效监督，在必要时实现人机接管与系统中断。-透明度：相关主体能够获取关于系统能力边界、局限性和不确定性的适当信息。-可追溯性：系统的开发过程、数据来源、算法逻辑和运行记录能够被有效记录、留存和审查。（四）全生命周期可信赖保障框架标准的实施强调可信赖属性要求贯穿系统的完整生命周期，包括规划与设计、数据采集与处理、模型开发与训练、测试与验证、部署与运行监控、维护与退役等各主要阶段。在系统规划设计阶段，要求建立可信赖目标体系并开展初始风险评估；在数据阶段，关注数据质量、代表性、偏差识别与隐私合规；在模型开发阶段，聚焦算法公平性度量、鲁棒性训练和可解释性设计；在验证阶段，依据可信赖指标开展系统化测评；在运行阶段，构建持续监控与异常响应机制；在退役阶段，确保数据安全处置和功能平稳交接。（五）可信赖评估与治理机制为确保标准要求具有良好的可检验性，提出了"组织治理-系统评估-持续改进"三位一体的落地机制。在组织治理维度，鼓励建立涵盖伦理审查、合规管理、技术决策的人工智能治理委员会；在系统评估层面，引导开展可信赖属性的基线评估、专项评测与第三方审核，将评估结果划分为不同等级并提供对应的持续改进路径；在长效机制建设方面，建立可信赖风险登记册，实行动态更新与定期复审。四、主要起草单位介绍本标准的主要起草单位包括中国电子技术标准化研究院、清华大学、北京大学、中国信息通信研究院等核心研究与标准化机构，以及华为技术有限公司、阿里巴巴（中国）有限公司、腾讯科技（深圳）有限公司、百度在线网络技术（北京）有限公司、北京字节跳动科技有限公司（抖音集团）、科大讯飞股份有限公司等人工智能领军企业，基本覆盖了"产-学-研-用-评"完整链条。其中，中国电子技术标准化研究院（CESI）作为第一起草单位和全国信息技术标准化技术委员会秘书处承担单位，在本标准的立项论证、框架搭建、条款编制和协调统一中发挥了不可替代的组织领导和核心起草作用。该院创建于1963年，是工业和信息化部直属的事业单位，也是我国电子信息技术领域最权威的国家级标准化专业机构。五十余年来，该院累计组织制修订国家标准、行业标准数千项，深度参与ISO/IEC等国际标准化活动，在人工智能、云计算、大数据、物联网、区块链等前沿信息技术标准化方向均设有专门研究中心。在本标准的研制过程中，该院牵头组织成立了由五十余家单位参与的标准起草工作组，先后召开十余次全体工作会议及数十次专题研讨会，系统梳理了国际标准最新成果和国内产业实践需求，逐条推敲打磨标准技术内容，在可信赖属性模型构建、生命周期风险管理框架设计、评估指标体系确定等关键核心内容中发挥了主导作用。同时，该院依托其在标准化领域的深厚积累和国际平台资源，促成了本标准与ISO/IECJTC1/SC42相应国际标准文件在核心术语和框架上的协调衔接，为中国标准走向国际奠定了重要基础。五、标准实施应用前景分析（一）对产业的引导规范作用本标准的发布实施，将从以下方面对我国人工智能产业产生深远的正向引导效应：第一，为企业研发提供明确的目标指引。以往企业在人工智能产品开发过程中，对"可信赖"的理解常停留在宣传口号层面，缺乏可执行的技术目标。本标准将可信赖分解为层次化、可度量、可验证的属性要求，使企业在产品需求定义、架构设计、测试用例编制等环节有了准确的参照依据。这种从模糊价值理念转向明确技术指标的做法，有助于引导企业在追求模型性能的同时系统性地保障安全、公平、隐私等可信赖品质。第二，为第三方评测提供统一的评估依据。当前市场上针对人工智能产品的各种测评认证活动尚存在测试指标不一致、评估方法各异等乱象。本标准确立的统一属性体系和评估框架，为各类第三方评测机构提供了基准性依据，有利于培育规范的人工智能评测服务市场，形成公允的质量信号传递机制。第三，为政府采购和行业准入提供参考。随着人工智能系统逐步进入政府采购目录和关键行业应用场景，可信赖属性的验证结果可作为采购评审和准入管理的重要参考依据，从而在源头上防范低质量人工智能产品进入关键领域。（二）重点领域落地实施路径-智能制造领域：在工业质检、预测性维护、供应链优化等应用场景中，可将鲁棒性与安全性作为首要可信赖目标，结合ISO/IEC23894的通用风险管理框架，制定面向故障模式与影响分析的专项指南。实施中重点关注模型在工况漂移、传感器异常等真实场景中的稳定性。-智慧医疗领域：人工智能辅助诊断系统的可信赖部署应以安全性、可解释性和可控性为核心，建立完善的临床应用准入评估机制。须制定分级审核流程，确保高风险的辅助决策功能具备充分的医师监督与纠错通道，构建覆盖"数据-模型-临床决策链"的全链条可追溯体系。-智能金融领域：在智能风控、智能投顾等场景中，公平性和可解释性具有突出的伦理合规意义。相关机构可参照本标准完成算法公平性审计和模型解释能力评估，落实算法备案与信息披露义务，构建面向监管机构的模型可信赖自评与外部审计相结合的合规路径。（三）国际对接与合作前景本标准在编制过程中充分吸收ISO/IECTR24028、ISO/IEC23894等国际标准文件的有益成果，在核心属性维度划分和风险管理理念上与ISO/IECJTC1/SC42的工作保持高度一致。这为我国后续在人工智能国际标准化舞台上发挥更大作用奠定了基础。未来将重点推动以下方向：一是依托ISO/IECJTC1/SC42平台，将本标准提出的属性体系框架和评估方法论向国际标准输出；二是面向"一带一路"沿线国家开展标准互认与合作推广，提升中国标准的国际影响力；三是跟踪ISO/IEC42001（人工智能管理体系）与ISO/IEC25059（AI质量评估框架）等标准的最新进展，适时推进本标准的修订更新，保持标准内容的先进性与国际兼容性。六、研究结论与展望（一）主要研究结论经过系统研究、反复论证和广泛征求意见，本标准的研制形成以下核心结论：1.基础性标准缺位是制约我国人工智能可信赖治理效能的关键瓶颈。我国已有的伦理规范和政策文件为人工智能治理提供了宏观方向，但在技术操作层面长期缺乏统一的基础性标准。GB/T47507-2026的发布填补了这一关键空白，是落实国家人工智能治理战略的重要制度性成果。2.可信赖属性体系应兼具全面性、层次性和可操作性。本标准构建的多维属性体系既系统覆盖鲁棒性、安全性、公平性、隐私保护等核心关切，又通过层次化的框架设计保障了其在行业场景中的灵活适配能力。3.全生命周期视角是可信赖保障的系统方法论基础。孤立的单点技术措施无法全面保障人工智能系统的可信赖品质，必须在需求分析、数据管理、模型开发、部署运维等全生命周期阶段