T/ISEAA 005-2024大模型系统安全保护要求

ICS35040

CCSL.80

团体标准

T/ISEAA005—2024

大模型系统安全保护要求

Securityprotectionrequirementsforlargemodelsystem

2024-04-30发布2024-06-01实施

中关村信息安全测评联盟发布

中国标准出版社出版

T/ISEAA005—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

概述

4………………………1

大模型系统架构

4.1……………………1

大模型系统安全

4.2……………………2

通用安全要求

5……………3

物理环境

5.1……………3

网络架构

5.2……………3

边界防护

5.3……………3

身份鉴别

5.4……………4

访问控制

5.5……………4

安全审计

5.6……………4

入侵防范

5.7……………5

恶意代码防范

5.8………………………5

集中管控

5.9……………5

供应链管理

5.10…………………………5

个人信息保护

5.11………………………6

数据安全保护

5.12………………………6

备份恢复

5.13……………6

数据溯源

5.14……………6

设计开发安全要求

6………………………6

数据处理

6.1……………6

模型保护

6.2……………7

内容安全

6.3……………8

测试安全要求

7……………8

模型评估

7.1……………8

模型更新

7.2……………9

部署与运行安全要求

8……………………9

模型部署

8.1……………9

攻击检测

8.2……………9

Ⅰ

T/ISEAA005—2024

运行监测

8.3……………10

系统管理

8.4……………10

变更管理

8.5……………10

安全事件处置

8.6………………………10

应急预案管理

8.7………………………10

退役安全要求

9……………11

模型退役

9.1……………11

数据删除

9.2……………11

参考文献

……………………12

Ⅱ

T/ISEAA005—2024

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

本文件由中关村信息安全测评联盟提出并归口

。

本文件起草单位公安部第三研究所北京百度网讯科技有限公司蚂蚁科技集团股份有限公司

:、、、

浙江大学北京天融信网络安全技术有限公司启明星辰信息技术集团股份有限公司快手科技有限公

、、、

司上海商汤智能科技有限公司北京远鉴信息技术有限公司华为技术有限公司阿里云计算有限公

、、、、

司深信服科技股份有限公司科大讯飞股份有限公司北京百川智能科技有限公司北京小桔科技有限

、、、、

公司优刻得科技股份有限公司浙江君同智能科技有限责任公司

、、。

本文件主要起草人袁静文煜乾张国鹏刘楠刘金鑫陆臻陈广勇苏艳芳刘继顺郭建领

:、、、、、、、、、、

唐佳伟李荣昌杨剑邵英杰谷晨徐浩郑榕王龑蒋发群孙钰娆严敏瑞孙勇叶润国常炳涛

、、、、、、、、、、、、、、

张宏达樊玉杰冯明韩蒙林昶廷

、、、、。

Ⅲ

T/ISEAA005—2024

引言

为规范大模型系统安全保护工作的开展对大模型系统设计开发测试部署运行退役等环节涉

,、、、、、

及的安全保护提出详细的指导帮助主管部门网络运营者及大模型开发者对大模型及大模型系统开展

,、

安全保护工作特制定本文件

,。

本文件是大模型系统安全保护相关系列标准之一

。

与本文件相关的标准包括

:

大模型系统安全测评要求

———T/ISEAA006—2024。

Ⅳ

T/ISEAA005—2024

大模型系统安全保护要求

1范围

本文件规定了大模型系统的通用安全以及设计开发测试部署与运行以及退役等阶段的全生命周

、、

期安全的保护要求

。

本文件适用于指导开发者及运营者对大模型及大模型系统进行全生命周期安全保护大模型系统

,

安全保护的其他方参考使用

。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

信息安全技术网络安全等级保护基本要求

GB/T22239—2019

信息安全技术术语

GB/T25069

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemode