《电力行业生成式人工智能安全技术要求》

Q/LB.□XXXXX-XXXX电力行业生成式人工智能安全技术要求范围本文件规定了生成式人工智能服务基础底座模型、电力生成式人工智能服务专业域模型在安全方面的基本要求，包括基础设施安全、训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。本标准适用于服务提供者开展安全评估，也可为主管监管部门、第三方评估机构等组织，对电力行业开展生成式人工智能服务评估提供参考。规范性引用文件下列文件对于本文件的应用是必不可少的。凡是注日期的引用文件，仅所注日期的版本适用于本文件。凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T25069—2022信息安全技术术语GB/T41867—2022信息技术人工智能术语GB45438-2025网络安全技术人工智能生成合成内容标识方法GB/T45654—2025网络安全技术生成式人工智能服务安全基本要求GB/T45652—2025网络安全技术生成式人工智能预训练和优化训练数据安全规范GB/T45674—2025网络安全技术生成式人工智能数据标注安全规范术语和定义生成式人工智能服务generativeartificialintelligenceservice利用生成式人工智能技术向公众提供生成文本、图片、音频、视频等内容的服务。训练数据trainingdata所有直接作为模型训练输入的数据，包括预训练数据和优化训练数据。基础底座模型foundationalbasemodel指在大规模通用语料上预训练形成的、具备广泛知识理解和内容生成能力的大规模生成式人工智能模型，通常未针对特定行业或任务进行微调。专业域模型domain-specificmodel指在基础底座模型之上，结合电力行业特定业务语料、专业知识、运行规则和应用场景，通过领域微调、指令优化或结构适配等方式构建的生成式人工智能模型。概述电力行业涉及搭载丰富的人工智能功能应用产品、应用平台及服务和聚焦垂直领域的应用场景服务。本文件给出生成式人工智能基础模型及电力专业场景生成式人工智能的服务安全基线、旨在健全人工智能安全保障能力，提高安全和服务水平。常见电力行业生成式人工智能服务场景分类调度类：作为数据传输和处理的节点，负责连接各类传感器和监控设备，与中央控制系统通信。规划分析类：通过内置的分析算法对电力设备进行多维度的监测，从而提供运维决策支持、辅助故障诊断、优化设备管理等。安监类：用于监控变电站、输电线路等关键设施，开展设备健康管理、输变配设备缺陷高效识别、拓展覆冰预测、地质隐患识别、实时识别异常行为、自动追踪移动对象等。作业类：替代人去完成巡检、操作等任务，如进入人类难以或不安全进入的区域进行检查和维护，能够处理复杂的地形，进行精确的设备检查并在必要时进行紧急响应。智能助手类：辅助办公，问答对话，辅助报告生成等。数字营销类：集成会话管理、信息抽取、问答、任务式会话等的电力客服智能对话软件。常见安全威胁对抗样本攻击：人工智能模型在运行阶段会受到对抗样本的攻击，由于人工智能模型可能会部署在不受控制的真实场景中，对抗样本攻击成为了一种实际的安全风险。数据投毒攻击：人工智能模型在训练阶段会受到数据投毒的攻击。数据投毒攻击的形式包括直接修改训练数据、利用反馈误导等。反馈误导攻击。算法后门攻击：人工智能模型插入后门，被后门攻击的模型在正常的数据中表现良好，但是遇到特定的数据时会出现不合理的错误预测，以达到攻击者的目的。向模型中插入后门的方式包括修改训练数据和修改模型参数。模型窃取攻击：人工智能模型在运行阶段会受到模型窃取攻击，攻击者希望通过使用对模型的访问获得的信息构建替代模型，以盗取被攻击模型的特定功能。隐私窃取攻击：通过成员推理、数据逆向还原、属性推理等方式获得模型使用训练数据的某些信息。内容安全风险：模型可能生成包含违法不良信息、虚假事实、歧视性言论、诱导性指令或不符合电力规程的内容。模型部署安全风险：在模型上线和运行阶段，若缺乏严格的访问控制、接口防护、运行环境隔离及日志审计机制，可能导致模型被非法调用、参数篡改、服务劫持或资源滥用，影响系统稳定性与业务连续性。开源生态安全风险：电力智能系统广泛依赖开源框架、预训练模型、第三方库及社区工具链，其相关组件可能存在未披露漏洞、供应链投毒、许可证冲突或恶意代码等风险。基础设施安全基础设施自身安全应评估人工智能业务所采用的芯片、软件、工具、算力、操作系统、容器等方面的供应链安全，侧重评估供应持续性、稳定性等方面。所采用芯片宜支持基于硬件的安全启动、可信启动流程及安全性验证。应建立底座模型与专有领域模型之间的调用接口统一安全规范，保障人工智能大模型的安全访问控制和可靠网络通信。应设置云端协同人工智能大模型一体化的网络安全监控和防御体系，针对人工智能大模型网络威胁的及时安全响应，做到对异常查询、非法调用、不合理输入的自动化分析和拦截。人工智能基础设施承载的资产风险应将模型训练环境与推理环境隔离，避免数据泄露、不当访问等安全事件，隔离方式包括物理隔离与逻辑隔离。在模型训练、部署及服务调用过程中，如身份认证、数据传输与存储加密、模型参数保护、API接口安全、日志完整性保障等密码应用场景，应采用国家密码管理部门核准的商用密码算法，确保密码应用合规、有效、可审计。针对关键模型、数据集等关键资产，应采用加密落盘，动态存储的方式进行管理。应定期对模型训练集开展数据投毒、对抗样本检测。训练数据安全数据来源安全底座模型应满足以下要求。采集来源管理：面向特定数据来源进行采集前，应对该来源数据进行安全评估，数据内容中含违法不良信息超过5%的，不应采集该来源数据。面向特定数据来源进行采集后，应对所采集的该来源数据进行核验，含违法不良信息情况超过5%的，不应使用该来源数据进行训练。本文件关注的违法不良信息主要是指GB/T45654-2025《网络安全技术生成式人工智能服务安全基本要求》附录A.1到A.5中31种安全风险的信息。不同来源训练数据搭配：应提高训练数据来源的多样性，对每一种语言的训练数据、每一种类型的训练数据，如文本、图片、音频、视频等，均应有多个训练数据来源。如需使用境外来源训练数据，应与境内来源训练数据进行合理搭配。训练数据来源可追溯：使用开源训练数据时，应具有该数据来源的开源许可协议或相关授权文件。对于汇聚了网络地址、数据链接等能够指向或生成其他数据的情况，如果需要使用这些被指向或生成的内容作为训练数据，应将其视同于自采训练数据。使用自采训练数据时，应具有采集记录，不应采集他人已明确不可采集的数据。自采训练数据包括自行生产的数据以及从互联网采集的数据。明确不可采集的数据，例如已通过robots协议或其他限制采集的技术手段明确表明不可采集的网页数据，或个人已拒绝授权采集的个人信息等。使用商业训练数据时：应有具备法律效力的交易合同、合作协议等。交易方或合作方不能提供数据来源、质量、安全等方面的承诺以及相关证明材料时，不应使用该训练数据；应对交易方或合作方所提供训练数据、承诺、材料进行审核。将使用者输入信息当作训练数据时，应具有使用者授权记录。为保障训练数据来源多样性和专业性，承接电力特色的专业域模型除底座模型要求外，还应满足以下增强级要求。训练数据应包含文本数据、图像视频数据、语音数据和结构化、时序数据。文本数据应覆盖行业语料、技术标准规范、电力业务语料、电力典型案例、专家知识等。图像视频数据应覆盖通用图像数据、设备、表计图像、缺陷图像、隐患图像、现场作业视频：缺陷图像、隐患图像应覆盖绝缘子爆裂等各类设备缺陷，以及施工车辆、飘挂物、山火烟雾等各项隐患。设备图像应覆盖各类设备表计。作业现场视频应覆盖各类正常、异常作业行为。结构化、时序数据应覆盖通用气象数据、通用流量数据、电网拓扑、仿真数据、系统运行数据、设备运行数据、计量数据、负荷数据等。数据内容安全底座模型及承接电力特色的专业域模型应满足以下要求。训练数据内容过滤：对于每一种类型的训练数据，如文本、图片、音频、视频等，应在将数据用于训练前，对全部训练数据进行过滤，过滤方法包括但不限于关键词、分类模型、人工抽检等，去除数据中的违法不良信息。关键词库应满足GB/T45654—2025《网络安全技术生成式人工智能服务基本安全要求》相关指标，总规模不少于10000个。分类模型毒性数据分类准确率不低于95%。知识产权：应有训练数据知识产权管理策略，并明确负责人。数据用于训练前，应对数据中的主要知识产权侵权风险进行识别，发现存在知识产权侵权等问题的，服务提供者不应使用相关数据进行训练。训练数据中包含文学、艺术、科学作品的，需要重点识别训练数据以及生成内容中著作权侵权问题。应建立针对知识产权问题的投诉举报渠道。应在用户服务协议中，向使用者告知使用生成内容的知识产权相关风险，并与使用者约定相关责任与义务。应及时根据国家政策以及第三方投诉情况更新知识产权相关策略。宜具备以下知识产权措施：公开训练数据中涉及知识产权部分的摘要信息；在投诉举报渠道中支持第三方就训练数据使用情况以及相关知识产权情况进行查询。个人信息方面：在使用包含个人信息的训练数据前，应取得对应个人同意或者符合法律、行政法规规定的其他情形。在使用包含敏感个人信息的训练数据前，应取得对应个人单独同意或者符合法律、行政法规规定的其他情形。数据标注安全底座大模型应满足以下要求。标注人员方面：应自行组织对于标注人员的安全培训，培训内容应包括标注任务规则、标注工具使用方法、标注内容质量核验方法、标注数据安全管理要求等。应自行对标注人员进行考核，给予合格者标注上岗资格，并有定期重新培训考核以及必要时暂停或取消标注上岗资格的机制，考核内容应包括标注规则理解能力、标注工具使用能力、安全风险判定能力、数据安全管理能力等。应将标注人员职能至少划分为数据标注、数据审核等；在同一标注任务下，同一标注人员不应承担多项职能。应为标注人员执行每项标注任务预留充足、合理的标注时间。标注规则方面：标注规则应至少包括标注目标、数据格式、标注方法、质量指标等内容。应对功能性标注以及安全性标注分别制定标注规则，标注规则应至少覆盖数据标注以及数据审核等环节。功能性标注规则应能指导标注人员按照特定领域特点生产具备真实性、准确性、客观性、多样性的标注数据。安全性标注规则应能指导标注人员围绕训练数据及生成内容的主要安全风险进行标注，对GB/T45654—2025《网络安全技术生成式人工智能服务基本安全要求》附录A中全部31种安全风险均应有对应的标注规则。标注内容准确性方面：对功能性标注，应对每一批标注数据进行人工抽检，发现内容不准确的，应重新标注；发现内容中包含违法不良信息的，该批次标注数据应作废。对安全性标注，每一条标注数据至少经由一名审核人员审核通过。宜对安全性标注数据进行隔离存储。为保障电力行业专业域数据标注功能性和安全性，承接电力特色的专业域模型除底座模型要求外，还应满足以下增强级要求。应配备专业人员，围绕表征图像位置、缺陷类型、表计度数和指针位置、兴趣目标轨迹等专业数据开展标注。应聘请专家人员，围绕垂直业务域大模型问答对设计，形成输配电、调度、安监、电力市场、营销管理等领域建设问答对基础库。模型安全模型训练方面底座模型及电力特色的专业域模型应满足以下要求。在训练过程中，应将生成内容安全性作为评价生成结果优劣的主要考虑指标之一。模型生成内容是指模型直接输出的、未经其他处理的原生内容。应定期对所使用的开发框架、代码等进行安全审计，关注开源框架安全及漏洞相关问题，识别和修复安全漏洞。应严格分离模型训练环境与服务执行环境，通过网络隔离、权限控制、容器化封装或API网关等方式实现物理或逻辑隔离，防止训练数据、中间参数或调试接口意外暴露至生产服务环境。应对输入数据实施规范化管控，包括设定数据类型、取值范围、尺寸限制等格式约束，并在干扰性输入较多的场景中部署数据验证、异常检测与清洗机制，确保模型稳定训练。模型输出方面输出准确率底座模型应采取技术措施提高生成内容响应使用者输入意图的能力，提高生成内容中数据及表述与科学常识及主流认知的符合程度，减少其中的错误内容。承接电力特色的专业域模型除底座模型要求外，还应满足以下增强级要求。规划分析类、安监类、作业类，缺陷图像识别准确率宜超过80%。智能助手类，专业知识库问答准确率指标应达到95%。安监类，应具备设备缺陷分类能力，诊断准确率宜大于85%。输出可靠性底座模型服务提供者应采取技术措施提高生成内容格式框架的合理性以及有效内容的含量，提高生成内容对使用者的帮助作用。承接电力特色的专业域模型除底座模型要求外，还应满足以下增强级要求。规划分析类，母线负荷预测准确率宜达到97%。规划分析类，日常系统负荷预测准确率宜达到98%。配电网分布式新能源发电功率预测准确率达到80%。安监类，规划分析类，涉及风险识别、故障诊断的，应覆盖变压器、断路器、GIS等输变电主设备。安监类，规划分析类，涉及风险识别、故障诊断的，应支持10种以上典型故障诊断和根因分析，具备设备状态预测能力。安监类，规划分析类，涉及风险识别的，应覆盖外力、山火、飘挂物、鸟害等主流输配电隐患识别能力。调度类，应具备源网荷储多对象多目标自适应实时控制能力。输出时效性底座模型服务提供者应采取技术措施提高服务响应速率。为满足部分如低时延、数据量大的业务域需求，如巡检图片缺陷识别、安监异常行为监测等，承接电力特色的专业域模型的规划分析、预测推理速度能力宜达到100毫秒/序列。输出内容安全对明显偏激以及明显诱导生成违法不良信息的问题，应拒绝回答，对其他问题，应均能正常回答。其他底座模型及电力特色的专业域模型应满足以下要求。图片、视频等生成内容标识方面，应满足国家相关规定以及标准文件要求。应制定在模型更新、升级时的安全管理策略。服务用于关键信息基础设施，以及如自动控制、医疗信息服务、心理咨询、金融信息服务等影响公共安全和生命健康安全的重要领域的，应具备与风险程度以及场景相适应的安全保护措施。模型监测方面底座模型及电力特色的专业域模型应满足以下要求。应综合运用上下文语义理解、对抗性训练、向量压缩分类等技术定期开展毒性测试。应对模型输入内容持续监测，防范恶意输入攻击，例如注入攻击、后门攻击、数据窃取、对抗攻击等。应建立常态化监测测评手段以及模型应急管理措施，对监测测评发现的提供服务过程中的安全问题，及时处置并通过针对性的指令微调、强化学习等方式优化模型。安全措施要求底座模型及电力特色的专业域模型应满足以下要求。向使用者提供服务方面：应采取关键词、分类模型等方式对使用者输入信息进行检测，应设置并向使用者公示以下规则：在使用者连续多次输入违法不良信息或一天内累计输入违法不良信息达到一定次数时，采取暂停提供服务等处置措施。应设置监看人员，并及时根据监看情况提高生成内容质量及安全，监看人员数量应与服务规模相匹配。监看人员的职责包括及时跟踪国家政策、收集分析第三方投诉情况等。服务稳定、持续方面，应建立数据、模型、框架、工具等的备份机制以及恢复策略，重点确保业务连续性。电力行业生成式人工智能安全技术要求编制说明目的意义2025年8月，《国务院关于深入实施“人工智能+”行动的意见》指出要提升安全能力水平。推动模型算法、数据资源、基础设施、应用系统等安全能力建设，防范模型的黑箱、幻觉、算法歧视等带来的风险，加强前瞻评估和监测处置，推动人工智能应用合规、透明、可信赖。建立健全人工智能技术监测、风险预警、应急响应体系，强化政府引导、行业自律，坚持包容审慎、分类分级，加快形成动态敏捷、多元协同的人工智能治理格局。当前，生成式人工智能技术在全球快速发展，已成为推动产业智能化升级的重要驱动力。凭借强劲的多模态理解与内容生成能力，该技术在智能问答、辅助决策等场景中发挥着重要作用，价值显著。但现行安全技术体系主要针对通用互联网应用场景设计，核心聚焦于生成内容的合规性检测与基础风险防控，未能充分考量关键基础设施行业对高可靠性、强实时性以及低风险容忍度的特殊要求。由于缺乏适配行业的安全规范，生成式人工智能技术在电力等高敏感领域应用时，仍面临模型鲁棒性不足、输出可控性较弱、安全验证机制缺失等挑战。为此，亟需制定与行业业务特性相匹配的技术标准，确立对应的安全基线，为技术安全应用筑牢保障。本标准的编制旨在为电力行业生成式人工智能服务的安全管理提供一套系统、全面、可操作的基本要求，覆盖基础设施安全、训练数据安全、模型安全、生成内容安全及运行维护等关键环节。通过明确各阶段的安全目标与技术措施，规范生成式人工智能在设计、开发、部署和运维全过程中的安全管理实践，有效提升系统抵御外部攻击、防范数据污染、控制内容风险的能力，增强对潜在安全威胁的识别、预警与响应水平。任务来源在当前能源革命与数字技术深度融合的背景下，人工智能技术正加速赋能电力行业的全链条转型升级。从智能调度、设备状态监测与故障诊断，再到客户服务优化等领域，人工智能技术已深度融入发、输、配、用各业务场景，显著提升了电网运行的智能化、精细化水平。特别是在新型电力系统加快构建的进程中，人工智能等前沿技术为复杂电网的实时感知、协同控制与辅助决策提供了全新范式，成为推动电力系统安全高效、绿色低碳发展的关键驱动力。在当前我国人工智能安全标准化建设进程中，虽已陆续出台若干与生成式人工智能相关的标准，但其关注重点各有侧重，例如：机器学习算法安全评估、人工智能生成合成内容标识方法、生成式人工智能服务安全、预训练与优化训练数据安全以及数据标注安全等。这些标准推动了生成式人工智能技术的规范化发展，但由于缺乏对电力行业高可靠性、强实时性、业务耦合紧密性以及安全风险容忍度低等特性的针对性考量，难以有效支撑电力场景下生成式人工智能服务的安全管理与落地应用。目前，国内外关于电力行业生成式人工智能的安全技术标准的空白，制约了行业安全能力的系统化构建。因此，亟需制定一套契合电力业务特性的生成式人工智能安全技术标准，为行业提供科学、统一、可操作的安全实践依据，切实支撑人工智能技术在电力领域的健康、有序、高质量发展。编制过程1）2025年5月19日，标准牵头单位对前期的研究工作进行了分析，确定了标准的研究思路和分工。2）2025年6月6日，提交项目立项申请书。3）2025年6月8日至2025年7月20日，期间进行了多次标准工作组内部讨论，并针对标准大体框架与内容方向进行了修改与调整，形成第一版标准草案。4）2025年7月29日，召开立项评审会，邀请专家对草案给出建议。5）2025年7月31日至2025年10月10日，期间进行了多次标准工作组内部讨论，针对标准内容进行了细节的修改与调整。6）2025年10月16日，形成第二版标准草案，并召集了标准草案编制组的内部研讨会。7）2025年11月7日，形成征求意见稿。主要内容技术指标确立本文件规定了生成式人工智能服务基础底座模型、电力生成式人工智能服务专业域模型在安全方面的基本要求，包括基础设施安全、训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。详情如下：1、概述：系统梳理了电力行业生成式人工智能服务的典型应用场景，明确其与通用领域应用的显著差异，并归纳了常见的安全威胁。2、基础设施安全：规定了确保电力行业人工智能服务的硬件和软件基础设施的安全性要求，包括供应链安全、启动验证、接口访问控制、环境隔离及资产保护