GB-T 43678-2024 中文版 信息安全技术 生成式人工智能服务安全评估指南 - 副本

GB/T43678-2024中文版信息安全技术生成式人工智能服务安全评估指南一、标准总则1.1标准基础信息标准全称：信息安全技术生成式人工智能服务安全评估指南标准编号：GB/T43678-2024发布日期：2024年08月23日实施日期：2025年03月01日归口单位：全国信息安全标准化技术委员会（SAC/TC260）标准属性：国家推荐性标准，是《生成式人工智能服务管理暂行办法》配套核心技术评估指南，为国内生成式AI服务上线、迭代更新、常态化合规评估、监管核查、第三方测评的统一权威技术依据。编制定位：本标准填补了生成式人工智能安全评估的技术标准空白，统一了评估维度、风险类型、检测方法、判定尺度、整改规范、备案要求，解决行业长期存在的AI安全评估无统一标准、风险判定模糊、上线合规无依据、模型迭代无复评机制等痛点，实现生成式AI从“政策合规”向“技术合规、全流程实操合规”落地，适配大模型快速迭代、多场景落地的产业特性。1.2适用范围本文件适用于在中华人民共和国境内向公众提供服务的各类生成式人工智能服务，涵盖大语言模型、多模态生成模型（文本、图片、音频、视频、代码生成）、行业专用生成式AI模型、企业对外赋能AI接口服务等全部业态。适用主体包含互联网企业、科技公司、传统行业AI服务商、政企自研AI平台、第三方AI技术输出机构等所有具备舆论属性、社会动员能力的生成式AI服务提供者。同时适用于网信部门监管抽查、第三方测评机构安全评估、企业上线前自评估、模型迭代复评、年度合规复盘、AI安全整改验收等全场景工作。本标准覆盖生成式AI全生命周期：训练数据采集标注、模型训练微调、模型部署上线、日常推理服务、模型迭代升级、服务下线销毁全流程安全评估。1.3规范性引用文件本标准核心依托网络安全、数据安全、AI治理国标体系，核心引用文件包含：GB/T35273个人信息安全规范、GB/T41479数据分类分级指南、GB/T42575数据安全治理指南、GB/T22239网络安全等级保护基本要求，严格对齐《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等监管政策，实现AI安全、数据安全、网络安全、内容安全体系互通统一。1.4核心评估目标1.合规兜底：确保生成式AI服务全流程符合国家法律法规、监管规定及国家标准要求，规避行政处罚、备案驳回、服务下架风险；2.风险闭环：全面识别训练数据风险、模型算法风险、生成内容风险、服务运营风险、基础设施风险，实现风险可识别、可管控、可溯源；3.伦理合规：杜绝AI生成歧视、偏见、虚假、有害内容，保障人工智能向善、安全、可靠、可控发展；4.长效可控：建立模型迭代复评、常态化监测、动态整改机制，适配AI快速迭代特性，实现长效合规运营。二、核心术语与官方定义2.1生成式人工智能服务指利用生成式人工智能模型，通过算法算力运算，自动生成文本、图像、音频、视频、代码、结构化数据等新型内容，面向公众或第三方提供交互、生成、赋能输出的互联网信息服务，具备自主生成、智能交互、内容迭代、场景通用等核心特征。2.2生成式AI安全评估指服务提供者依据法规与本标准要求，针对AI训练、微调、部署、推理、迭代、运维全流程，开展的风险识别、安全检测、漏洞排查、合规校验、整改加固、报告编制的全过程工作，分为上线前首次评估、模型迭代复评、年度常态化评估、专项风险评估四类场景。2.3AI训练语料指用于模型预训练、微调、对齐、优化的全部数据集合，包含网络公开数据、行业业务数据、人工标注数据、用户交互数据、第三方采购数据等，是生成式AI风险的核心源头。2.4模型迭代更新指模型参数调整、算法优化、语料增量训练、能力升级、场景适配改造等导致AI生成逻辑、输出效果、服务能力发生实质性变化的升级行为，标准明确该类场景必须启动专项复评。2.5有害生成内容指AI生成的违反法律法规、违背公序良俗、危害国家安全、存在歧视偏见、虚假误导、侵犯权益、低俗暴力、商业侵权的各类文本、多媒体及代码内容，为本标准核心管控与评估对象。三、生成式AI安全评估核心原则（标准强制遵循）3.1安全优先、向善可控原则坚持安全与发展并重，将安全合规、伦理向善作为AI服务上线与迭代的前置条件，杜绝重技术创新、轻安全治理的行业乱象，确保生成式人工智能始终安全、可靠、可控。3.2全生命周期、全链路覆盖原则评估不局限于上线后内容检测，必须覆盖数据源头、模型内核、生成输出、服务运维、迭代更新、下线销毁全链路，从源头遏制AI固有安全风险与衍生风险。3.3分类分级、差异化评估原则根据模型能力、服务场景、受众范围、舆论影响力实施差异化评估：通用大模型、面向公众的高影响力服务从严评估；行业专用轻量化模型、内部非公开服务简化评估，杜绝一刀切评估模式。3.4事前评估、动态复评原则坚持先评估、后上线，先复评、后迭代，所有全新服务上线、模型重大升级、服务场景拓展、风险态势变化必须完成前置评估，禁止带病上线、带病迭代。3.5技术检测+人工核验双维原则评估需结合自动化技术检测、专项测试用例验证、人工抽检复盘、伦理审查多重方式，弥补单一技术检测的盲区，确保风险排查全面无遗漏。3.6可追溯、可整改、可复盘原则所有评估过程、检测数据、风险问题、整改动作、迭代记录全程留痕，形成完整证据链，可监管核查、可内部复盘、可责任追溯。四、必须开展安全评估的法定场景（标准明确界定）本标准严格对齐监管要求，明确六类强制评估场景，满足任意条件必须完成专项安全评估并留存正式评估报告，重大场景需同步完成监管备案。4.1全新服务上线评估全新研发、全新部署、首次面向公众提供的生成式AI服务，上线前必须完成全维度安全评估，未评估不得上线运营。4.2模型重大迭代复评模型完成预训练升级、大规模增量语料训练、核心算法调整、能力跨层级升级，可能改变生成逻辑与输出结果的，必须启动迭代复评。4.3服务场景拓展评估原有AI服务新增公众服务场景、开放第三方接口、扩大受众范围、新增多模态生成能力的，需开展专项场景适配评估。4.4风险触发专项评估服务运行期间出现批量有害内容生成、舆情风险、用户投诉、安全漏洞、数据泄露事件的，需立即停机排查并开展专项复盘评估。4.5年度常态化合规评估面向公众运营的生成式AI服务，每年至少开展一次全域安全评估，完成合规复盘与风险整改。4.6监管要求专项评估收到网信部门、行业监管部门核查通知、整改要求的，需按监管要求完成专项安全评估并提交报告。五、生成式AI安全评估完整闭环流程（标准官方流程）本标准统一行业评估规范，固化为7步标准化评估流程，为企业自评估、第三方测评、监管核查的唯一合规流程，缺一不可。5.1步骤一：服务场景与资产确权全面梳理AI服务形态、模型类型、生成能力、服务受众、部署环境、接口开放范围，明确训练语料来源、模型版本、运维主体，形成《生成式AI服务基本信息清单》，杜绝场景遗漏、资产盲区。5.2步骤二：全维度风险摸底排查依据标准五大风险维度，开展源头风险、模型风险、内容风险、运营风险、设施风险全覆盖排查，梳理全部潜在风险点，建立初始风险清单。5.3步骤三：标准化技术检测与人工核验采用官方标准测试数据集、专项测试用例开展自动化技术检测，针对高危场景、伦理风险、边界场景开展人工抽检核验，量化风险发生率、违规内容生成率。5.4步骤四：风险分级研判与问题定位结合检测结果，按照标准风险分级规则，判定高、中、低风险项，定位问题根源，区分数据源头问题、模型算法缺陷、审核机制漏洞、运维管理问题。5.5步骤五：专项整改与安全加固针对中高风险项制定闭环整改方案，通过语料清洗、模型对齐优化、内容审核策略升级、权限管控、机制完善、技术拦截等方式完成加固，留存完整整改证据。5.6步骤六：评估报告编制与材料归档按照标准统一模板编制《生成式人工智能服务安全评估报告》，汇总检测数据、风险清单、整改记录、制度文件、技术防护证明、伦理审查记录，确保逻辑闭环、材料齐全、真实可查。5.7步骤七：动态监测与迭代复评建立常态化监测机制，实时监控生成内容风险、模型运行异常，触发迭代、场景变更、风险波动时即时启动复评，实现动态合规。六、五大核心评估维度与精细化判定标准（标准核心考点）本标准将生成式AI安全风险划分为语料数据安全、模型算法安全、生成内容安全、服务运营安全、基础设施安全五大核心维度，细化31类具体风险场景，为评估核心依据。6.1训练语料数据安全评估（源头风控）评估核心要点：聚焦AI风险源头，核查训练、微调、对齐所用全部语料的合法性、合规性、安全性，杜绝违规数据入模。合规判定标准：1.语料来源合法合规，无非法爬取、无侵权数据、无涉密敏感数据；2.语料经过清洗、脱敏、去重、过滤，剔除有害、歧视、暴力、虚假数据；3.个人信息类语料符合个保法要求，完成授权与脱敏处理；4.建立语料入库审核机制与溯源台账；5.禁止使用未合规校验的第三方批量语料。高频不合规问题：网络爬虫无合规授权采集数据训练；语料未清洗直接入模；训练数据包含涉密、隐私、侵权内容；无语料审核与溯源机制。6.2模型算法安全评估（内核风控）评估核心要点：核查模型算法安全性、鲁棒性、抗攻击能力、伦理约束能力，防范模型固有缺陷与算法漏洞引发的安全风险。合规判定标准：1.模型具备完善的安全对齐能力，可有效抑制有害内容生成；2.具备抗提示词注入、越狱攻击、模型诱导能力，可抵御常见AI攻击手段；3.模型无固有偏见、歧视、算法偏差问题；4.模型迭代过程全程可控，升级后完成安全复测；5.具备模型防窃取、防反演、防数据重建防护机制。高频不合规问题：模型易被越狱诱导生成有害内容；算法存在性别、地域、职业歧视偏见；无抗攻击防护；迭代后未复测直接上线。6.3生成内容安全评估（输出风控）评估核心要点：核查AI输出内容的合法性、真实性、合规性、伦理性，全面管控各类有害生成内容。合规判定标准：1.严格禁止生成危害国家安全、破坏社会稳定、违法违规、低俗暴力内容；2.杜绝虚假信息、不实误导内容生成，具备事实性纠错能力；3.禁止生成歧视性、排他性、偏见性内容；4.禁止生成侵权、盗版、商业欺诈内容；5.高危问题、敏感提问可有效拦截、告警、拒绝生成。高频不合规问题：可被诱导生成敏感违规内容；输出虚假不实信息无法纠错；存在明显伦理偏见；对高危提问无拦截能力。6.4服务运营安全评估（过程风控）评估核心要点：核查AI服务上线后的管控机制、审核机制、溯源机制、应急机制、用户管理机制。合规判定标准：1.建立先审后发、实时监测、人工复核内容审核机制；2.实现生成内容全溯源、可记录、可定位、可撤销；3.落实用户实名管理，区分普通用户与高危用户管控；4.建立有害内容处置、舆情应急、投诉举报闭环机制；5.模型迭代、服务变更全程留痕，复评完备。高频不合规问题：无实时内容监测机制；生成内容无溯源记录；有害内容处置不及时；无用户风险分级管控。6.5基础设施与运维安全评估（底座风控）评估核心要点：核查AI运行算力、服务器、网络、存储、云平台、运维体系的安全性，防范底座漏洞引发的模型泄露、数据泄露、服务瘫痪风险。合规判定标准：1.算力平台、部署环境符合网络安全、数据安全防护要求；2.模型权重、训练数据、用户交互日志严格权限管控，防止窃取泄露；3.具备漏洞监测、入侵防御、异常访问拦截能力；4.建立运维审计、权限巡检、应急容灾机制；5.第三方算力、云服务具备合规资质与安全协议。高频不合规问题：模型权重无加密防护；运维权限过宽；无访问审计日志；第三方算力无安全约束。七、风险分级判定与处置规则（标准官方分级）7.1高风险（立即整改/暂停服务）风险判定场景：1.模型可稳定生成违法违规、危害国家安全、暴力恐怖内容；2.模型存在严重越狱漏洞，可被任意诱导突破安全约束；3.训练语料包含大量涉密、侵权、非法数据；4.存在模型泄露、批量用户数据泄露风险；5.服务引发重大舆情、公共安全风险。处置规则：立即暂停服务运营，全面下线整改，完成模型重对齐、语料全清洗、机制全加固，复测合格后方可恢复上线，同时向监管部门报备整改情况。7.2中风险（限期闭环整改）风险判定场景：1.偶发生成偏见、虚假、轻微违规内容；2.内容审核拦截率未达标准要求；3.语料清洗、溯源机制不完善；4.运维防护存在局部漏洞；5.应急处置、投诉响应机制不健全。处置规则：设定短期整改周期，优化模型安全策略、升级审核机制、完善制度台账、加固技术防护，整改完成后专项复测，验收通过正常运营。7.3低风险（常态化优化）风险判定场景：整体合规达标，无实质性安全风险，仅存在流程台账不完善、抽检极小概率瑕疵等轻微问题。处置规则：常态化优化整改，纳入日常运维监测，年度复盘迭代，无需暂停服务。八、AI服务合规必备管理制度与台账（标准强制要求）本标准明确，生成式AI服务运营必须建立完整制度台账体系，缺失任意核心制度视为评估不合规，必备清单如下：1.训练数据安全管理制度：规范语料采集、清洗、入库、迭代、销毁全流程；2.模型安全迭代评估制度：明确模型升级、微调、复用的复评流程；3.生成内容审核管理制度：落实机审+人审双重审核机制；4.AI伦理审查制度：防范算法偏见、歧视、伦理风险；5.有害内容处置与舆情应急预案：实现风险快速止损；6.用户管理与实名核验制度：落实用户合规管控；7.安全评估与复盘管理制度：规范定期评估、迭代复评工作；8.运维安全与权限审计台账：保障底座安全可追溯。九、模型迭代与动态管理专项要求（标准特色重点）针对生成式AI快速迭代的产业特性，本标准增设动态迭代专项管控要求，区别于传统静态安全评估，为AI合规核心特色条款。9.1迭代前置复评机制任何模型参数、训练语料、生成逻辑、服务能力的实质性变更，必须在上线迭代前完成专项安全评估，出具复评报告，禁止盲迭代、盲升级。9.2灰度发布安全验证重大模型升级需采用灰度发布模式，小范围试运行、持续监测风险，确认无新增安全风险后全量上线，规避批量有害内容爆发风险。9.3常态化风险监测预警部署AI内容安全监测平台，实时统计违规内容生成率、拦截率、用户异常提问频次，自动预警新增风险，实现风险早发现、早处置。9.4版本留存与溯源管理所有模型版本、迭代记录、评估报告永久留存，实现每一个版本均可溯源、可复测、可追责，留存期限不低于3年。十、高频不合规问题与资深整改方案（行业实操汇总）1.模型越狱风险、可诱导生成敏感内容：整改：优化模型安全对齐训练，升级提示词拦截策略，新增高危场景专项拦截规则，建立越狱