《电力行业生成式人工智能安全技术要求编制说明》

电力行业生成式人工智能安全技术要求编制说明目的意义2025年8月，《国务院关于深入实施“人工智能+”行动的意见》指出要提升安全能力水平。推动模型算法、数据资源、基础设施、应用系统等安全能力建设，防范模型的黑箱、幻觉、算法歧视等带来的风险，加强前瞻评估和监测处置，推动人工智能应用合规、透明、可信赖。建立健全人工智能技术监测、风险预警、应急响应体系，强化政府引导、行业自律，坚持包容审慎、分类分级，加快形成动态敏捷、多元协同的人工智能治理格局。当前，生成式人工智能技术在全球快速发展，已成为推动产业智能化升级的重要驱动力。凭借强劲的多模态理解与内容生成能力，该技术在智能问答、辅助决策等场景中发挥着重要作用，价值显著。但现行安全技术体系主要针对通用互联网应用场景设计，核心聚焦于生成内容的合规性检测与基础风险防控，未能充分考量关键基础设施行业对高可靠性、强实时性以及低风险容忍度的特殊要求。由于缺乏适配行业的安全规范，生成式人工智能技术在电力等高敏感领域应用时，仍面临模型鲁棒性不足、输出可控性较弱、安全验证机制缺失等挑战。为此，亟需制定与行业业务特性相匹配的技术标准，确立对应的安全基线，为技术安全应用筑牢保障。本标准的编制旨在为电力行业生成式人工智能服务的安全管理提供一套系统、全面、可操作的基本要求，覆盖基础设施安全、训练数据安全、模型安全、生成内容安全及运行维护等关键环节。通过明确各阶段的安全目标与技术措施，规范生成式人工智能在设计、开发、部署和运维全过程中的安全管理实践，有效提升系统抵御外部攻击、防范数据污染、控制内容风险的能力，增强对潜在安全威胁的识别、预警与响应水平。任务来源在当前能源革命与数字技术深度融合的背景下，人工智能技术正加速赋能电力行业的全链条转型升级。从智能调度、设备状态监测与故障诊断，再到客户服务优化等领域，人工智能技术已深度融入发、输、配、用各业务场景，显著提升了电网运行的智能化、精细化水平。特别是在新型电力系统加快构建的进程中，人工智能等前沿技术为复杂电网的实时感知、协同控制与辅助决策提供了全新范式，成为推动电力系统安全高效、绿色低碳发展的关键驱动力。在当前我国人工智能安全标准化建设进程中，虽已陆续出台若干与生成式人工智能相关的标准，但其关注重点各有侧重，例如：机器学习算法安全评估、人工智能生成合成内容标识方法、生成式人工智能服务安全、预训练与优化训练数据安全以及数据标注安全等。这些标准推动了生成式人工智能技术的规范化发展，但由于缺乏对电力行业高可靠性、强实时性、业务耦合紧密性以及安全风险容忍度低等特性的针对性考量，难以有效支撑电力场景下生成式人工智能服务的安全管理与落地应用。目前，国内外关于电力行业生成式人工智能的安全技术标准的空白，制约了行业安全能力的系统化构建。因此，亟需制定一套契合电力业务特性的生成式人工智能安全技术标准，为行业提供科学、统一、可操作的安全实践依据，切实支撑人工智能技术在电力领域的健康、有序、高质量发展。编制过程1）2025年5月19日，标准牵头单位对前期的研究工作进行了分析，确定了标准的研究思路和分工。2）2025年6月6日，提交项目立项申请书。3）2025年6月8日至2025年7月20日，期间进行了多次标准工作组内部讨论，并针对标准大体框架与内容方向进行了修改与调整，形成第一版标准草案。4）2025年7月29日，召开立项评审会，邀请专家对草案给出建议。5）2025年7月31日至2025年10月10日，期间进行了多次标准工作组内部讨论，针对标准内容进行了细节的修改与调整。6）2025年10月16日，形成第二版标准草案，并召集了标准草案编制组的内部研讨会。7）2025年11月7日，形成征求意见稿。主要内容技术指标确立本文件规定了生成式人工智能服务基础底座模型、电力生成式人工智能服务专业域模型在安全方面的基本要求，包括基础设施安全、训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。详情如下：1、概述：系统梳理了电力行业生成式人工智能服务的典型应用场景，明确其与通用领域应用的显著差异，并归纳了常见的安全威胁。2、基础设施安全：规定了确保电力行业人工智能服务的硬件和软件基础设施的安全性要求，包括供应链安全、启动验证、接口访问控制、环境隔离及资产保护等方面，以防止潜在的安全威胁。3、训练数据安全：明确了从数据来源的安全评估到数据内容过滤、知识产权保护及个人信息处理等一系列训练数据管理措施，确保用于训练的人工智能数据集的质量与合法性，同时强调标注过程中的安全性和专业性要求。4、模型安全：涵盖了从模型训练过程中的安全性考虑、输出结果的准确性与可靠性保障，到持续监测和优化模型性能的要求，旨在提升生成式人工智能服务在电力行业的应用安全和服务质量。5、安全措施要求：明确了电力行业生成式人工智能服务在提供服务和保障业务连续性方面的基本安全措施。包括对用户输入和生成内容的违法信息识别与处置、配备相应监看力量，并建立数据、模型及系统的备份恢复机制。本标准适用于服务提供者开展安全评估，也可为主管监管部门、第三方评估机构等组织，对电力行业开展生成式人工智能服务评估提供参考。本标准牵头单位为广西电网有限责任公司，参加单位包括中国电子技术标准化研究院、南方电网人工智能科技有限公司。与相关法律法规和国家标准的关系本标准的总体结构和编写方法按照GB/T1.1-2020《标准化工作导则第一部分：标准化文件的结构和起草规则》的规定执行。本标准参考的相关法律、法规和标准文件如下：GB/T25069—2022信息安全技术术语GB/T41867—2022信息技术人工智能术语GB/T42888—2023信息安全技术机器学习算法安全评估规范GB45438—2025网络安全技术人工智能生成合成内容标识方法GB/T45654—2025网络安全技术生成式人工智能服务安全基本要求GB/T45652—2025网络安全技术生成式人工智能预训练和优化训练数据安全规范GB/T45674—2025网络安全技术生成式人工智能数据标注安全规范《中华人民共