T/ISEAA 006-2024大模型系统安全测评要求

ICS35040

CCSL.80

团体标准

T/ISEAA006—2024

大模型系统安全测评要求

Securityevaluationrequirementsforlargemodelsystem

2024-04-30发布2024-06-01实施

中关村信息安全测评联盟发布

中国标准出版社出版

T/ISEAA006—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范围

1………………………1

规范性引用文件

2…………………………1

术语和定义

3………………1

概述

4………………………1

大模型系统架构

4.1……………………1

安全测评方法

4.2………………………2

通用安全测评要求

5………………………3

物理环境

5.1……………3

网络架构

5.2……………3

边界防护

5.3……………4

身份鉴别

5.4……………5

访问控制

5.5……………6

安全审计

5.6……………7

入侵防范

5.7……………9

恶意代码防范

5.8………………………10

集中管控

5.9……………10

供应链管理

5.10………………………11

个人信息保护

5.11……………………12

数据安全保护

5.12……………………14

备份恢复

5.13…………………………15

数据溯源

5.14…………………………15

设计开发安全测评要求

6…………………16

数据处理

6.1……………16

模型保护

6.2……………19

内容安全

6.3……………21

测试安全测评要求

7………………………23

模型评估

7.1……………23

模型更新

7.2……………24

部署与运行安全测评要求

8………………25

模型部署

8.1……………25

攻击检测

8.2……………26

Ⅰ

T/ISEAA006—2024

运行监测

8.3……………27

系统管理

8.4……………28

变更管理

8.5……………28

安全事件处置

8.6………………………29

应急预案管理

8.7………………………29

退役安全测评要求

9………………………30

模型退役

9.1……………30

数据删除

9.2……………31

测评结论判定

10…………………………31

分类测评结果

10.1……………………31

风险分析和评价

10.2…………………31

测评结论判定

10.3……………………31

参考文献

……………………32

Ⅱ

T/ISEAA006—2024

前言

本文件按照标准化工作导则第部分标准化文件的结构和起草规则的规定

GB/T1.1—2020《1:》

起草

。

本文件由中关村信息安全测评联盟提出并归口

。

本文件起草单位公安部第三研究所北京百度网讯科技有限公司蚂蚁科技集团股份有限公司

:、、、

浙江大学北京天融信网络安全技术有限公司启明星辰信息技术集团股份有限公司快手科技有限公

、、、

司上海商汤智能科技有限公司北京远鉴信息技术有限公司深圳市网安计算机安全检测技术有限公

、、、

司山东新潮信息技术有限公司金盾检测技术股份有限公司上海市信息安全测评认证中心杭州中尔

、、、、

网络科技有限公司华为技术有限公司阿里云计算有限公司深信服科技股份有限公司科大讯飞股份

、、、、

有限公司北京百川智能科技有限公司北京小桔科技有限公司优刻得科技股份有限公司浙江君同智

、、、、

能科技有限责任公司

。

本文件主要起草人袁静刘金鑫刘楠张国鹏文煜乾陆臻陈广勇苏艳芳刘继顺郭建领

:、、、、、、、、、、

唐佳伟李荣昌杨剑蒋发群谷晨徐浩郑榕牛建红刘智广高亚敏朱熹铭王余王龑邵英杰

、、、、、、、、、、、、、、

孙钰娆张瑶严敏瑞孙勇叶润国吴晓杰李建民樊玉杰冯明韩蒙林昶廷

、、、、、、、、、、。

Ⅲ

T/ISEAA006—2024

引言

为规范大模型系统安全测评工作的开展本文件对大模型系统进行安全测评的技术活动提出要

,

求为评价大模型系统是否符合大模型系统安全保护要求提供了获取证据的途

,T/ISEAA005—2024《》

径和方法用以指导测评人员对大模型系统进行测试评估

,。

Ⅳ

T/ISEAA006—2024

大模型系统安全测评要求

1范围

本文件规定了大模型系统是否符合所进行的测试评估活动的要求

T/ISEAA005—2024。

本文件适用于指导网络安全测评服务机构大模型开发者大模型系统运营者对大模型及大模型系

、、

统安全保护状况进行安全测试评估大模型安全监管职能部门依法开展大模型安全保护监督检查参考

,

使用

。

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中注日期的引用文

。,

件仅该日期对应的版本适用于本文件不注日期的引用文件其最新版本包括所有的修改单适用于

,;,()

本文件

。

信息安全技术网络安全等级保护基本要求

GB/T22239—2019

信息安全技术术语

GB/T25069

大模型系统安全保护要求

T/ISEAA005—2024

3术语和定义

界定的以及下列术语和定义适用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemodel

基于大量数据集训练得到的