TGZBD-人工智能 大模型 数据要素安全评估指标体系

XXXT/GZBDXXXX—XXXX人工智能大模型数据要素安全评估指标体系范围本文件规定了人工智能大模型数据要素安全评估的术语和定义、评估总体原则、评估指标体系、评估流程与方法、评估结果及应用等要求。本文件适用于基础大模型（含通用大语言模型、多模态大模型等）、行业/领域大模型（面向金融、医疗、政务、教育、制造等）的数据要素安全评估，以及为大模型提供训练数据、数据标注、数据采集与处理等相关产品和服务的组织。规范性引用文件本文件没有规范性引用文件。术语和定义下列术语和定义适用于本文件。

人工智能大模型artificialintelligencelargemodel指基于深度学习技术，具有大规模参数、在海量数据上预训练、具备强大泛化能力和多任务处理能力的人工智能模型，包括但不限于大语言模型、多模态大模型等。

数据要素datafactor指以电子方式记录，能够参与社会生产经营活动、为使用者或所有者带来经济效益的数据资源。

数据要素安全datafactorsecurity指在数据要素的采集、存储、使用、加工、传输、提供、公开、销毁等全生命周期过程中，确保数据的机密性、完整性、可用性以及合规性，防止数据泄露、篡改、滥用和非法获取。

预训练数据pre-trainingdata指用于人工智能大模型预训练阶段的海量原始数据，包括文本、图像、音频、视频等多种模态数据。

优化训练数据optimizationtrainingdata指用于人工智能大模型微调、指令微调、强化学习等优化训练阶段的数据。

数据标注dataannotation指对原始数据通过人工或自动化方式进行标记、分类、注释等处理，使其成为可供模型训练使用的结构化数据的过程。

数据全生命周期datafulllifecycle指数据从产生到销毁的全过程，包括数据采集、存储、使用、加工、传输、提供、公开、销毁等环节。

数据安全风险评估datasecurityriskassessment指对数据处理活动中的数据安全风险进行识别、分析和评价的过程。

模型鲁棒性modelrobustness指模型在面对输入数据扰动、对抗样本或环境变化时，保持预测稳定性和准确性的能力。总体原则合法合规原则评估应以《中华人民共和国数据安全法》《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《中华人民共和国密码法》《生成式人工智能服务管理暂行办法》《网络数据安全管理条例》等法律法规和强制性标准为底线要求。全面覆盖原则评估应覆盖数据全生命周期各环节（采集、存储、使用、加工、传输、提供、公开、销毁）及大模型全流程（预训练、优化训练、部署应用、运营维护）。分类分级原则应根据数据的不同类别（个人信息、重要数据、核心数据、知识产权数据等）和敏感级别实施差异化评估。动态持续原则评估应随数据要素变化、模型迭代和威胁演进持续开展，建立常态化评估机制。可操作原则评估指标应可量化、可验证、可追溯，确保评估结果客观、准确。评估指标体系数据全生命周期安全数据采集安全数据采集安全评估指标，见表1。数据采集安全评估指标指标编号指标名称评估要点评估方法数据来源合法性训练数据来源渠道是否合法合规，是否具有合法来源查验数据来源证明、合同协议采集前安全评估采集前是否对数据源进行抽样安全评估查验评估记录采集授权合规涉及个人信息采集是否取得合法授权或符合法定情形查验授权文件数据存储安全数据存储安全评估指标，见表2。数据存储安全评估指标指标编号指标名称评估要点评估方法存储加密措施训练数据和推理数据是否实现加密存储技术检测、配置核查数据隔离存储训练数据与推理数据是否实现逻辑或物理隔离架构审查、配置核查存储介质安全存储介质的访问控制与物理安全措施是否到位现场检查、制度审查数据使用与加工安全数据使用与加工安全评估指标，见表3。数据使用与加工安全评估指标指标编号指标名称评估要点评估方法数据脱敏与匿名化敏感数据处理过程中脱敏措施的有效性技术检测数据访问控制是否建立基于最小权限原则的访问控制机制配置核查、权限审查数据处理日志审计数据处理操作是否留存完整审计日志日志审查数据传输安全数据传输安全评估指标，见表4。数据传输安全评估指标指标编号指标名称评估要点评估方法传输加密数据传输过程是否采用密码技术进行加密保护技术检测传输完整性保护数据传输是否具备完整性校验机制技术检测数据共享与提供安全数据传输与提供安全评估指标，见表5。数据传输与提供安全评估指标指标编号指标名称评估要点评估方法共享安全审查数据对外提供前是否经过安全审查查验审查记录共享授权机制数据共享是否建立明确的授权与审批流程制度审查、流程检查数据销毁安全数据销毁安全评估指标，见表6。数据销毁安全评估指标指标编号指标名称评估要点评估方法安全销毁处置数据生命周期结束后是否进行不可恢复销毁查验销毁记录销毁审批流程数据销毁是否建立审批与监督机制制度审查数据内容与合规安全数据内容合规数据内容合规评估指标，见表7。数据内容合规评估指标指标编号指标名称评估要点评估方法违法违规内容过滤训练数据是否有效过滤煽动颠覆国家政权、恐怖主义、暴力、淫秽色情等违法和不良内容内容抽样检测知识产权保护训练数据是否侵犯第三方知识产权，开源数据是否遵循许可协议合规审查个人信息保护训练数据是否包含未经授权的个人信息，敏感个人信息处理是否合规合规审查数据标注安全数据标注安全评估指标，见表8。数据标注安全评估指标指标编号指标名称评估要点评估方法标注规则安全性标注规则是否区分功能性与安全性标注文档审查标注准确性功能性标注是否开展抽样审核、安全性标注是否开展全量审核抽样核验标注人员管理标注人员是否接受安全培训，是否建立考核机制制度审查、培训记录内容输出安全内容输出安全评估指标，见表9。内容输出安全评估指标指标编号指标名称评估要点评估方法生成内容安全性模型输出是否包含有害、违法违规、偏见歧视等内容内容安全检测生成内容准确性模型输出的事实准确性与可靠性抽样验证生成内容标识生成内容是否按规定进行显式标识和隐式标识技术检测模型与算法安全模型内生安全模型内生安全评估指标，见表10。模型内生安全评估指标指标编号指标名称评估要点评估方法模型鲁棒性模型面对对抗样本、微小扰动时的预测稳定性对抗测试后门与完整性风险模型是否存在被恶意植入的隐藏后门逻辑安全检测模型窃取防护模型抵御知识产权侵犯和模型窃取的能力安全评估隐私机密安全隐私机密安全评估指标，见表11。隐私机密安全评估指标指标编号指标名称评估要点评估方法隐私泄露防护模型在训练、推理过程中防止敏感信息泄露的能力隐私测试训练数据反推风险是否可通过模型输出反推训练数据中的敏感信息安全测试公平性与透明度公平性与透明度评估指标，见表12。公平性与透明度评估指标指标编号指标名称评估要点评估方法公平性与偏见消除模型输出是否存在针对特定群体的偏见或歧视公平性测试模型透明度模型披露信息的充分性与可解释性信息披露审查基础安全与运营保障安全管理制度安全管理制度评估指标，见表13。安全管理制度评估指标指标编号指标名称评估要点评估方法组织与制度建设是否建立数据安全管理的组织架构与制度体系制度审查分类分级管理是否对数据资产进行科学分类分级分类分级审查应急管理机制是否建立安全事件应急响应与处置机制应急演练评估安全技术措施安全技术措施评估指标，见表14。安全技术措施评估指标指标编号指标名称评估要点评估方法安全审计与监测是否建立常态化安全监测与审计机制技术检测、日志审查安全技术工具加密、脱敏、防泄露等技术防护措施的有效性技术检测服务安全运营服务安全运营评估指标，见表15。服务安全运营评估指标指标编号指标名称评估要点评估方法服务规范与透明度服务范围、局限性、个人信息处理情况的公开披露信息披露审查投诉举报机制是否建立有效的投诉举报与反馈渠道机制审查业务连续性备份机制与灾难恢复策略的完备性制度审查、演练评估供应链与生态安全供应链安全供应链安全评估指标，见表16。供应链安全评估指标指标编号指标名称评估要点评估方法第三方数据源安全商业训练数据的审核与使用合规性合同审查、资质审核开源组件安全开源训练数据是否遵循开源许可协议合规审查开发工具链安全模型开发、训练、部署工具链的安全性安全评估生态安全生态安全评估指标，见表17。生态安全评估指标指标编号指标名称评估要点评估方法提示词注入防护模型是否有效防范提示词注入等高危指令攻击安全测试跨模态安全多模态模型在不同模态间的安全风险防护安全测试评估流程与方法评估准备评估机构应明确评估目标与范围，组建具备数据安全、人工智能、密码应用等专业能力的评估团队，制定评估方案。信息调研评估机构应梳理大模型数据要素资产清单，识别数据处理活动，收集安全管理制度与技术措施信息。风险识别依据第5章评估指标体系逐项识别安全风险，确定风险等级。综合分析与评价汇总评估结果，进行风险分析与评价，形成评估结论。评估总结编制评估报告，提出整改建议。评估结果及应用评估结果等级划分根据各项指标评估得分，将评估结果划分为以下等级：优秀：各项指标均满足要求