《电力人工智能系统安全防护技术规范》

T/XXXXXXXX—XXXX

ICS

T/CEC

中国电力企业联合会团体标准

T/CEC2022—1136

电力人工智能系统安全防护技术规范

（征求意见稿）

文稿版次选择

XXXX-XX-XX发布XXXX-XX-XX实施

中国电力企业联合会发布

1

T/XXXXXXXX—XXXX

前    言

本文件按照GB/T1.1-2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起

草。

本文件由中国电力企业联合会提出。

本文件由***技术委员会归口。

本文件起草单位：南方电网数字电网研究院有限公司

本文件主要起草人：

本文件首次发布。

本文件在执行过程中的意见或建议反馈至中国电力企业联合会标准化管理中心（北京市白广路二条

一号，10076

3

电力人工智能系统安全防护技术规范（征求意见稿）

1范围

本标准规定了电力人工智能平台应用侧安全防护技术要求，包括服务调用安全防护要求、开发环境

安全防护要求、模型研发安全防护要求和个人信息保护等内容。

本标准适用于电力人工智能平台开展智能应用建设。

2规范性引用文件

下列文件对于本规定的应用是必不可少的。凡是注日期的引用文件，仅注明日期的版本适用于本规

定；凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本规定。

GB/T22239-2019《信息安全技术网络安全等级保护基本要求》

GB/T25070-2019《信息安全技术网络安全等级保护安全设计技术要求》

GB/T35273—2020《信息安全技术个人信息安全保护规范》

BMB17-2006《涉及国家秘密的信息系统分级保护技术要求》

Q/CSG11804-2010《IT主流设备安全基线技术规范》

Q/CSG11805-2011《信息系统应用开发安全技术规范》

Q/CSG1210045-2020《人工智能应用建设规范》

3术语和定义

下列术语和定义适用于本文件。

3.1调用方

指对接使用电力人工智能平台智能组件的第三方系统或平台。通过http服务请求接口进行调用，并

且传递的内容是符合Restful风格，接口里面是自带加密方法，如使用token进行加密解密、使用RSA配

合签名进行加密解密等。

3.2开发环境

指在人工智能平台上基于系统提供的CPU、GPU等资源、功能及流程机制所创建的，用于开展人工

智能模型研发、调试、训练、封装的一组软件。其中CPU、GPU资源的分配使用到了Kubernetes容器编

排引擎，它支持自动化部署、大规模可伸缩、应用容器化管理。模型开发涉及到Python语言的编写，

这里提供Jupyterlab以及Vscode两种开发工具选择。

3.3评估环境

指的是人工智能平台用于评估算法的模块，用于对开发环境训练完成的模型进行评估。评估的指标

可以是默认的，也可以是用户自定义的指标。

3.4样本库

用于管理电力数据集的综合系统，支持各类数据，包括已标注数据和未标注数据的上传，编辑等，

样本库里面的数据集可以无缝添加到开发环境去进行模型训练。

4电力人工智能平台服务调用安全防护

T/XXXXXXXX—XXXX

4.1服务接口安全防护

4.1.1服务接口调用中的鉴权、请求头参数、请求体参数等需严格遵循《人工智能应用建设规范》相

关技术要求；

4.1.2使用https通信。

4.2调用方数据存储安全防护

4.2.1针对调用方系统和用户重要信息采用加密技术进行数据加密存储；

4.2.2对调用方系统和用户敏感数据应采用脱敏技术处理；

4.2.3对于调用方系统和用户数据的存储应遵循“最小化”原则，确保只存储有必要的数据。

5电力人工智能平台开发环境安全防护

5.1开发资源保护

5.1.1禁止开发环境中JupyerLab工具的右键下载功能；

5.1.2为每个用户提供对应的缓存目录，将开发环境中workspace目录涉及的日志、模型、缓存文件

等数据迁移到用户所对应的缓存目录中，禁止挂载到用户启动的容器中，确保用户无法通过JupyterLab

对缓存数据进行编辑操作；

5.1.3提供缓存目录的页面查看功能，该页面只展示用户缓存目录中的日志、模型、缓存文档等数据

的列表，禁止查看详细的内容，但可查看加密后的文件URL；

5.1.4对于在workspace目录存储较大的目录提供告警触发功能，运维人员根据告警进行审查；

5.1.5在启动训练作业时，不挂载workspace目录，避免用户通过该目录抓取目标数据；

5.1.6将平台核心功能封装为C/S架构的应用程序，应用程序新增防截屏、屏蔽浏览器调试等功能，

防止核心数据或代码遗漏。

5.2用户空间保护

5.2.1用户自行上传的私有数据仅限于用户自身查看和使用，其他用户无权限获取相关数据；

5.2.2用户需将私有数据对其他用户开放时，需设置该私有数据的共享对象、共享目录、有效时长等

权限信息；

5.2.3系统定时清理用户私有空间workspace目录的数据。

5.3恶意脚本攻击防范

5.3.1在开发环境下设置供用户上传数据专用的目录，并将目录部署在独立的容器中，确保用户上传

的恶意脚本只影响该容器，而不对系统其它容器或服务节点造成影响；

5.3.2系统对每个容器的资源情况进行实时监控，提供资源异常告警功能，发生异常时，运维人员及

时介入干预；

5.3.3将用户上传的文件数据存放在专用的文件上传缓冲区，在完成安全检验后，再将通过校验的文

件迁移到制定目标位置。

6电力人工智能平台模型研发安全防护

5

6.1样本数据安全防护

6.1.1进行图片样本预览时，只展示图片的缩略图，不展示原图数据；

6.1.2系统在图片样本自动添加水印，通过水印可追溯泄露样本数据的用户信息；

6.1.3记录用户浏览样本数据的行为，对系统用户行为进行监控、审计；

6.1.4屏蔽数据预览时的鼠标右键下载功能；

6.1.5数据预览时，对浏览器中暴露的文件存储路径进行加密处理，禁止通过文件路径访问到数据内

容；

6.1.6将开发调试和训练过程进行拆分，在开发调试阶段只提供少量的样本数据，在训练阶段才使用

全量数据。

6.2标注工具选择标准

在进行相关数据标注工作过程中，选择标注工具应符合以下标准

6.2.1安全性应选用安全可信的标注工具进行标注工作，避免数据泄露造成安全事故；

6.2.2易操作性标注工具应具有提高标注效率的功能，在减少标注人员工作量的同时确保标注质量；

6.2.3数据输入输出规范性标注工具应支持导入及导出功能，可导入指定格式的数据。可导出符合要

求格式及质量要求的数据；

6.2.4统一性标注工具应优先选用人工智能相关平台标注工具，人工智能平台的标注工具，可以对图

片，以及音频等素材进行标注。同时，输出json，xml等标注格式；

6.2.5标注后的样本数据需经系统管理员审核，确认合格后才能入库。

6.3数据集保护

6.3.1平台的开源数据集由平台运营团队统一管理、维护，在新增开源数据集前，运营团队将安排技

术人员对数据集的版本信息、安全性进行评估，确保纳入平台的数据集安全、可靠；

6.3.2用户在使用训练数据集时，需提出数据使用申请，由系统管理员审批通过后，才能继续使用对

应的数据。

6.4算法模型保护

6.4.1用户在开发调试阶段，可选择将执行代码提交至平台内嵌的git代码仓库，确保代码安全、可

靠的保存在平台中，供后续开发使用；

6.4.2用户完成模型训练后，生成的模型将保存在平台系统指定区域，除用户本人外，其他用户无权

限获取相关信息。

7电力人工智能平台应用安全防护

7.1信息采集规范

7.1.1在进行个人信息采集前需明确申明告知用户；

7.1.2在需要采集用和保存户个人信息时，应事先向用户弹出采集声明对话框，在对话框中明确需

7.1.3要采集用户个人信息的内容、范围、用途和方式，以及允许或拒绝的后果；

7.1.3涉及采集的个人信息包括个人信息包括姓名、出生日期、身份证件号码、个人生物识别信息、

通讯联系方式等。

7.2隐私数据保护

7.2.1在展示个人信息时通过对个人信息的部分隐藏进行去标识化处理，降低个人信息在展示环节的

泄露风险；

T/XXXXXXXX—XXXX

7.2.2通过二次鉴权和个人信息详情查看申请等，严格控制对个人信息的访问权限，对不具备权限的

用户，无法感知到任何权限范围外其他数据；

7.2.3在系统使用者需要批量查看非自身个人信息时，应先弹出申请对话框，向上级主管或系统设定

的审批人员进行申请，经审批同意后，方可批量查看。

7.3缓存数据保护

7.3.1提供用户注销功能，由用户确认注销以后，系统在后台查找用户个人信息数据所在关联表项和

数据字段，彻底清除相关个人信息数据后，完成正式注销；

7.3.2用户创建的开发环境在长期（具体时限由平台统一设定）不使用后，系统将自动释放用户创建

的环境，确保及时清理用户模型研发的相关遗留数据。

7

目次

目次........................................................................2

前    言..........................................................................3

人工智能平台系列规范-第3部分：人工智能安全防护（试行）...............................4

1范围................................................................................4

2规范性引用文件......................................................................4

3术语和定义..........................................................................4

3.1调用方..........................................................................4

3.2开发环境........................................................................4

3.3评估环境........................................................................4

3.4样本库..........................................................................4

4电力人工智能平台服务调用安全防护....................................................4

4.1服务接口安全防护................................................................5

4.2调用方数据存储安全防护..........................................................5

5电力人工智能平台开发环境安全防护....................................................5

5.1开发资源保护....................................................................5

5.2用户空间保护....................................................................5

5.3恶意脚本攻击防范................................................................5

6电力人工智能平台模型研发安全防护....................................................5

6.1样本数据安全防护................................................................6

6.2标注工具选择标准................................................................6

6.3数据集保护......................................................................6

6.4算法模型保护....................................................................6

7电力人工智能平台应用安全防护........................................................6

7.1信息采集规范....................................................................6

7.2隐私数据保护....................................................................6

7.3缓存数据保护....................................................................7

电力人工智能系统安全防护技术规范（征求意见稿）

1范围

本标准规定了电力人工智能平台应用侧安全防护技术要求，包括服务调用安全防护要求、开发环境

安全防护要求、模型研发安全防护要求和个人信息保护等内容。

本标准适用于电力人工智能平台开展智能应用建设。

2规范性引用文件

下列文件对于本规定的应用是必不可少的。凡是注日期的引用文件，仅注明日期的版本适用于本规

定；凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本规定。

GB/T22239-2019《信息安全技术网络安全等级保护基本要求》

GB/T25070-2019《信息安全技术网络安全等级保护安全设计技术要求》

GB/T35273—2020《信息安全技术个人信息安全保护规范》

BMB17-2006《涉及国家秘密的信息系统分级保护技术要求》

Q/CSG11804-2010《IT主流设备安全基线技术规范》

Q/CSG11805-2011《信息系统应用开发安全技术规范》

Q/CSG1210045-2020《人工智能应用建设规范》

3术语和定义

下列术语和定义适用于本文件。

3.1调用方

指对接使用电力人工智能平台智能组件的第三方系统或平台。通过http服务请求接口进行调用，并

且传递的内容是符合Restful风格，接口里面是自带加密方法，如使用token进行加密解密、使用RSA配

合签名进行加密解密等。

3.2开发环境

指在人工智能平台上基于系统提供的CPU、GPU等资源、功能及流程机制所创建的，用于开展人工

智能模型研发、调试、训练、封装的一组软件。其中CPU、GPU资源的分配使用到了Kubernetes容器编

排引擎，它支持自动化部署、大规模可伸缩、应用容器化管理。模型开发涉及到Python语言的编写，

这里提供Jupyterlab以及Vscode两种开发工具选择。

3.3评估环境

指的是人工智能平台用于评估算法的模块，用于对开发环境训练完成的模型进行评估。评估的指标

可以是默认的，也可以是用户自定义的指标。

3.4样本库

用于管理电力数据集的综合系统，支持各类数据，包括已标注数据和未标注数据的上传，编辑等，

样本库里面的数据集可以无缝添加到开发环境去进行模型训练。

4电力人工智能平台服务调用安全防护

T/XXXXXXXX—XXXX

4.1服务接口安全防护

4.1.1服务接口调用中的鉴权、请求头参数、请求体参数等需严格遵循《人工智能应用建设规范》相

关技术要求；

4.1.2使用https通信。

4.2调用方数据存储安全防护

4.2.1针对调用方系统和用户重要信息采用加密技术进行数据加密存储；

4.2.2对调用方系统和用户敏感数据应采用脱敏技术处理；

4.2.3对于调用方系统和用户数据的存储应遵循“最小化”原则，确保只存储有必要的数据。

5电力人工智能平台开发环境安全防护

5.1开发资源保护

5.1.1禁止开发环境中JupyerLab工具的右键下载功能；

5.1.2为每个用户提供对应的缓存目录，将开发环境中workspace目录涉及的日志、模型、缓存文件

等数据迁移到用户所对应的缓存目录中，禁止挂载到用户启动的容器中，确保用户无法通过JupyterLab

对缓存数据进行编辑操作；

5.1.3提供缓存目录的页面查看功能，该页面只展示用户缓存目录中的日志、模型、缓存文档等数据

的列表，禁止查看详细的内容，但可查看加密后的文件URL；

5.1.4对于在workspace目录存储较大的目录提供告警触发功能，运维人员根据告警进行审查；

5.1.5在启动训练作业时，不挂载workspace目录，避免用户通过该目录抓取目标数据；

5.1.6将平台核心功能封装为C/S架构的应用程序，应用程序新增防截屏、屏蔽浏览器调试等功能，

防止核心数据或代码遗漏。

5.2用户空间保护

5.2.1用户自行上传的私有数据仅限于用户自身查看和使用，其他用户无权限获取相关数据；

5.2.2用户需将私有数据对其他用户开放时，需设置该私有数据的共享对象、共享目录、有效时长等

权限信息；

5.2.3系统定时清理用户私有空间workspace目录的数据。

5.3恶意脚本攻击防范

5.3.1在开发环境下设置供用户上传数据专用的目录，并将目录部署在独立的容器中，确保用户上传

的恶意脚本只影响该容器，而不对系统其它容器或服务节点造成影响；

5.3.2系统对每个容器的资源情况进行实时监控，提供资源异常告警功能，发生异常时，运维人员及

时介入干预；

5.3.3将用户上传的文件数据存放在专用的文件上传缓冲区，在完成安全检验后，再将通过校验的文

件迁移到制定目标位置。

6电力人工智能平台模型研发安全防护

5

6.1样本数据安全防护

6.1.1进行图片样本预览时，只展示图片的缩略图，不展示原图数据；

6.1.2系统在图片样本自动添加水印，通过水印可追溯泄露样本数据的用户信息；

6.1.3记录用户浏览样本数据的行为，对系统用户行为进行监控、审计；

6.1.4屏蔽数据预览时的鼠标右键下载功能；

6.1.5数据预览时，对浏览器中暴露的文件存储路径进行加密处理，禁止通过文件路径访问到数据内

容；

6.1.6将开发调试和训练过程进行拆分，在开发调试阶段只提供少量的样本数据，在训练阶段才使用

全量数据。

6.2标注工具选择标准

在进行相关数据标注工作过程中，选择标注工具应符合以下标准

6.2.1安全性应选用安全可信的标注工具进行标注工作，避免数据泄露造成安全事故；

6.2.2易操作性标注工具应具有提高标注效率的功能，在减少标注人员工作量的同时确保标注质量；

6.2.3数据输入输出规范性标注工具应支持导入及导出功能，可导入指定格式的数据。可导出符合要

求格式及质量要求的数据；

6.2.4统一性标注工具应优先选用人工智能相关平台标注工具，人工智能平台的标注工具，可