GB-T 46072-2025 中文版 信息安全技术 生成式人工智能服务安全要求

GB/T46072-2025中文版信息安全技术生成式人工智能服务安全要求第一章标准总则、编制实施背景与全域专属适用范畴GB/T46072-2025是由国家标准化管理委员会批准发布、全国信息安全标准化技术委员会归口管理的国家级生成式人工智能专项信息安全核心国家标准，是衔接《生成式人工智能服务管理暂行办法》《网络安全法》《数据安全法》《个人信息保护法》等国家法律法规，规范我国生成式人工智能研发、训练、部署、运营、服务、迭代全流程安全管控的基础性、纲领性、实操性统一合规基准。本标准针对当前生成式人工智能快速普及应用背景下，大模型训练数据来源杂乱、模型研发安全管控缺失、AI生成内容良莠不齐、不良有害信息滋生传播、用户个人信息泄露滥用、算法偏见与算法歧视频发、特殊群体权益保护缺位、安全风险处置响应滞后、行业安全合规口径不统一、监管核查无统一对标依据等行业突出乱象与治理痛点专项编制定型，彻底终结各类生成式AI服务运营主体安全建设各自为政、防护标准参差不齐、内容审核流于形式、数据使用合规缺失、风险管控碎片化的行业治理难题，成为国内所有面向公众及行业提供生成式人工智能服务机构开展安全体系建设、日常运营管控、合规自查整改、第三方安全评估、监管部门监督核查、大模型长效迭代优化的唯一国家级统一实操依据。随着生成式人工智能技术深度赋能各行各业，文本对话大模型、AI图像绘画、音频视频生成、智能文案创作、行业垂直AI赋能、企业定制化大模型、移动端AI智能应用等各类生成式服务全面融入社会生产生活、政务服务、金融医疗、教育科研、舆论传播等核心领域，生成式人工智能依托海量训练数据开展算法运算与内容生成，一旦安全管控失效，极易滋生虚假信息造谣传谣、违法违规内容批量生成、用户隐私数据批量泄露、算法滥用恶意引导、网络诈骗精准赋能、未成年人身心健康侵害、行业业务运营秩序紊乱等多重安全风险与社会治理问题，严重危害网络空间安全、社会公共利益与群众合法权益。过往多数生成式AI服务运营机构重技术研发创新、轻安全合规管控，重模型性能迭代、轻全流程风险防护，照搬通用互联网产品安全防护模式，未贴合生成式AI算法驱动、数据密集、内容生成、交互实时的独有技术特性，普遍存在训练数据合规溯源缺失、模型安全加固不到位、内容审核机制不完善、AI生成内容无溯源标识、高危提问无拒答管控、应急处置能力薄弱等共性短板，无法适配生成式人工智能安全可控、合规运营、健康发展的核心监管刚需。GB/T46072-2025立足安全可控、合规运营、以人为本、分类防护、动态迭代、综合治理的核心编制原则，构建覆盖生成式人工智能数据层、模型层、服务层、应用层、运营层全维度的完整安全管控体系，明确生成式AI安全核心目标、刚性实施原则、全生命周期安全要求、技术防护细则、管理管控规范、特殊群体专项保护、应急处置流程、合规测评核验、长效运维迭代全链条实操要求，兼顾生成式人工智能技术创新发展与网络安全合规刚性管控双重核心需求，为全国各类生成式人工智能服务提供者规范化落地安全建设运营、筑牢AI领域网络安全防线提供国家级权威专属实操指引。本标准全域适配国内所有具备舆论属性、社会动员能力及行业专业服务属性的各类生成式人工智能服务运营主体，涵盖面向社会公众开放使用的通用类生成式大模型服务、AI图文音视频内容生成服务、智能对话交互服务、文案创作与代码生成服务，适配金融、医疗、教育、政务、工业、传媒、科研等各领域行业垂直定制化生成式AI应用服务，同时覆盖大模型研发训练机构、AI标注数据服务机构、第三方AI安全运维服务商、生成式AI托管运营机构等全链条相关从业主体。无论生成式AI服务规模大小、模型参数体量高低、应用场景通用或垂直、安全治理起步早晚，无论安全合规工作处于零基础体系搭建、存量大模型安全整改加固、新增AI服务上线安全审核、常态化运营安全自查、监管迎检合规对标、模型迭代安全复核任一工作阶段，均可严格依照本标准规范开展安全规划建设、技术防护加固、管理制度完善、内容风控管控、特殊群体保护、隐患自查整改、合规测评核验、长效动态运维等各项核心治理工作。本标准所有安全管控细则与实操实施要求深度贴合生成式人工智能数据采集标注、模型训练研发、部署上线运行、用户交互服务、内容实时生成、模型迭代升级、全生命周期运维的真实运营全流程，不设置脱离AI技术实操的冗余管控条款、不堆砌无关理论化专业内容、不阻碍生成式AI技术正常创新应用，聚焦生成式AI安全高频风险点、合规薄弱环节、内容管控难点、整改常见短板精准细化实操规范，兼顾国家标准法定权威性、AI行业实操适配性、安全合规监管对标统一性。严格按照GB/T46072-2025完成全流程安全建设与常态化运维管理的生成式AI运营机构，可全面实现训练数据合法合规、模型运行安全可控、生成内容合规无害、用户权益有效保护、安全风险闭环处置、监管核查顺利达标，持续保障生成式人工智能行业健康有序、安全稳健高质量发展。第二章核心专业术语定义、标准整体架构与生成式AI安全刚性实施基本原则GB/T46072-2025统一规范生成式人工智能服务安全全流程专属核心专业术语与基础概念定义，全面对齐国家网络安全、数据安全、人工智能管理相关顶层法规政策及配套国家标准要求，彻底消除网信监管部门、AI服务运营机构、大模型研发团队、数据标注运维机构、第三方安全测评机构、行业AI应用使用单位之间在生成式AI数据安全、模型安全、内容安全、算法管控、安全标注、AI溯源标识、风险拒答机制、动态安全迭代等核心概念上的认知偏差与执行口径差异，为整套国家标准落地实施、生成式AI安全精准管控、防护措施精准适配、合规测评对标验收、长效运维迭代优化奠定全国统一标准化术语基础。本章节界定的所有专属术语仅适配生成式人工智能服务安全专项治理工作场景，精准服务标准前期筹备规划、AI训练数据安全管控、大模型研发安全防护、服务运营内容风控、安全标识标注管理、合规自查整改、长效动态运维全环节核心工作，不延伸适用传统信息化系统、非生成式人工智能等其他通用网络安全管理场景。核心术语中，生成式人工智能服务特指依托大语言模型、多模态生成模型等人工智能算法技术，通过用户交互指令自动生成文本、图像、音频、视频、代码等各类原创内容，并向公众或特定行业用户提供访问使用的智能化服务总称；生成式AI训练数据特指用于大模型预训练、微调训练、安全对齐训练、模型优化迭代的所有文本素材、图像资料、音视频资源、行业专业数据及各类标注加工数据总和；模型安全对齐特指通过数据标注、算法调优、参数管控等技术手段，确保大模型生成内容符合法律法规、公序良俗、安全规范的专项优化管控过程；AI安全溯源标识特指为生成式人工智能自动生成内容附加专属标注标记，明确标识内容由AI生成、实现来源可查责任可溯的标准化管理动作；高危提问拒答机制特指生成式AI针对违法违规、不良诱导、恶意引导类用户提问自动拒绝生成响应内容的安全风控机制；动态安全迭代管控特指AI运营机构跟随算法模型升级、安全风险态势变化、监管政策更新持续优化安全防护与内容风控规则的常态化治理工作。本标准整体架构遵循基础总则术语规范、生成式AI安全刚性实施基本原则、生成式AI全生命周期安全管控总纲、训练数据采集标注预处理安全要求、大模型研发训练迭代安全管控、模型部署上线技术安全防护体系、AI服务运营交互与用户权限安全管理、生成内容审核风控与AI溯源标识管理、安全应急处置与漏洞隐患闭环整改、合规测评自查复核与行业长效安全治理十大核心层级，各层级层层递进、环环相扣、逻辑闭环，形成从国家标准顶层合规指引、AI运营机构前期安全筹备打底、全流程安全技术与管理防护落地、内容常态化风控管控、隐患整改闭环优化到生成式AI长效动态安全运维与行业健康发展的全生命周期安全管控架构。本标准明确与国家网络安全等级保护制度、数据分类分级保护规范、个人信息专项保护要求、未成年人网络保护规定、人工智能算法备案管理等相关合规体系的深度衔接适配关系，划定本标准作为全国生成式人工智能服务安全管控核心基础性国标的法定定位，明确通用类AI与行业垂直类AI差异化安全管控口径、大模型研发与服务运营分阶段安全实施细则、小型轻量化AI应用与超大型通用大模型分级防护模式、监管测评统一对标核查要点；规范新增生成式AI服务上线安全前置审核与存量在运AI服务安全整改加固两种差异化实施流程；明确生成式AI安全隐患分级整改规范与高危风险优先处置管控细则，适配全类型、全规模、全场景生成式人工智能运营服务需求。整套架构坚守安全底线不可突破、合规运营优先保障、技术管理协同防护、创新安全双向兼顾、分类分级精准管控、动态迭代长效治理的核心导向，不设置僵化一刀切强制管控模板，兼顾国家标准权威约束性与AI行业技术创新实操落地便捷性。GB/T46072-2025明确所有生成式人工智能服务运营及研发机构开展安全建设、运营管控、整改迭代、合规迎检全流程工作必须严格恪守的六大刚性核心基本原则，所有机构决策管理层、AI研发技术团队、安全合规管理部门、内容风控审核人员、数据标注运维人员、第三方安全服务对接人员均不得违规偏离，保障生成式AI安全工作方向合规、防护精准有效、管控全面覆盖、运营合规可控、发展长效稳健。第一，依法合规底线严守原则，严格遵循国家网络安全、数据安全、人工智能管理相关法律法规及本标准全部强制性安全要求，全国所有生成式AI服务执行同一安全合规基准，严禁运营机构擅自简化安全管控流程、降低防护标准、规避合规责任，牢牢守住AI领域网络安全与内容安全法定底线。第二，安全与创新协同兼顾原则，在保障生成式人工智能技术创新研发、服务场景拓展、行业赋能应用的基础上强化安全管控，不得以安全管控为由阻碍正常技术创新与合规业务开展，也不得以发展创新为由弱化安全防护、放松内容风控，实现技术发展与安全合规双向协同平衡。第三，全生命周期闭环管控原则，安全防护与风控管理覆盖生成式AI数据采集、标注预处理、模型训练研发、部署上线运营、用户交互生成、模型迭代升级、服务终止下线全流程环节，无安全管控盲区、无合规管理豁免、无风险治理断点，实现全链条闭环安全管控。第四，分类分级精准防护原则，按照生成式AI服务应用领域、受众群体、风险等级、影响范围实施差异化安全管控，通用公众类AI强化内容风控与公众权益保护，金融医疗政务等关键行业AI实施增强级安全防护，未成年人使用场景落实专项特殊保护，合理分配安全运维资源，实现防护与风险精准匹配。第五，内容向善合规生成原则，坚持生成式AI内容正向价值导向，坚决杜绝违法违规、不良低俗、虚假造谣、歧视偏见、侵害权益类内容生成，强化高危提问拒答管控，保障AI生成内容符合公序良俗与社会公共利益。第六，动态迭代持续优化原则，生成式AI安全管控并非一次性达标即可永久合规，需跟随算法模型迭代升级、新型安全风险涌现、网络舆情态势变化、国家监管政策更新持续优化防护规则与风控机制，确保安全管控始终适配AI发展新形势与安全治理新要求。第三章生成式人工智能全生命周期总体安全管控核心框架与基础实施要求GB/T46072-2025专门针对生成式人工智能算法驱动、数据为基、内容产出、交互实时、迭代快速的独有技术运营特性，构建全生命周期一体化总体安全管控核心框架，明确所有生成式AI服务安全建设必须遵循的基础实施总要求，彻底解决以往AI安全治理碎片化、重末端内容审核轻源头数据管控、重上线合规轻迭代安全、重事后处置轻事前预防的行业共性治理短板，为后续各专项环节安全管控落地筑牢整体架构根基。本标准明确生成式人工智能安全治理必须坚持源头防控、过程严管、末端风控、事后复盘、动态优化的全链条治理逻辑，将安全管控要求前置融入AI研发设计初期阶段，同步规划、同步建设、同步运营、同步迭代安全防护体系，严禁生成式AI服务先上线运营后补安全合规措施，从源头规避先天安全设计缺陷导致的各类系统性安全风险。所有生成式AI运营机构必须对照本标准总体安全框架，结合自身模型规模大小、服务应用场景、用户群体属性、数据处理范围，制定适配本机构的生成式AI安全专项总体实施方案，书面明确安全治理总体目标、全流程管控边界、部门责任分工、分阶段实施计划、安全资源配置、合规达标节点，作为全机构AI安全建设、运维管理、整改优化的核心纲领性文件，确保安全治理工作有序推进、责任层层压实、措施落地见效。总体安全管控框架明确生成式AI安全治理五大核心核心管控维度，五大维度相互支撑、协同联动、缺一不可，共同构筑生成式人工智能全方位安全防护屏障。首要维度为源头数据安全管控，聚焦训练数据采集、合规授权、清洗预处理、安全标注、隔离存储全环节，从根源杜绝侵权数据、违法数据、不良数据流入模型训练环节，筑牢AI安全数据根基；第二维度为核心模型安全管控，聚焦大模型研发训练、参数调优、安全对齐、漏洞加固、算法防破解、模型防窃取防护，防范算法滥用、模型投毒、参数篡改、模型被盗等核心技术风险；第三维度为服务运营交互安全管控，聚焦用户访问权限管理、账号安全防护、交互行为审计、恶意访问拦截、用户个人信息保护，规范用户与AI交互全流程安全行为，严防用户数据泄露与恶意指令攻击；第四维度为生成内容安全风控管控，聚焦内容实时审核、高危提问拒答、不良内容拦截、AI生成溯源标识、违规内容处置复盘，确保所有对外输出内容合规无害、可溯可查；第五维度为长效运维应急安全管控，聚焦常态化安全巡检、漏洞隐患整改、应急事件处置、模型迭代安全复核、合规测评自查优化，实现AI安全长效动态可控。任何生成式AI服务不得简化任一管控维度、省略核心安全环节，确保总体安全框架完整落地、管控无缺漏、风险无死角。基础实施通用要求明确所有生成式AI运营机构必须建立健全AI安全专项组织管理体系，明确机构主要负责人为生成式AI安全第一责任人，分管技术与合规领导为直接责任人，安全合规部门、技术研发部门、内容风控部门、运维管理部门各司其职、协同履职，逐级压实安全管理责任，杜绝责任推诿、管理缺位、履职虚化等问题。同步编制生成式AI安全配套管理制度汇编，涵盖数据安全管理、模型研发安全管理、内容风控审核管理、用户信息保护管理、应急处置管理、人员安全管理、第三方合作安全管理全套制度，制度贴合AI运营实操、简洁实用、可落地执行，杜绝形式化空洞制度。组建专职AI安全风控与技术防护团队，配备专业研发安全人员、内容审核人员、合规管理人员，定期开展AI安全专项培训与实操演练，提升全员安全履职能力。建立第三方合作机构安全准入管控机制，所有数据标注、模型外包、技术合作、运维托管第三方机构必须严格落实同等安全管控标准，签订安全保密协议，明确安全责任，定期开展第三方安全核查，严防第三方合作环节引入安全风险。基础通用要求落地到位后，方可推进后续专项安全建设与运营管控工作，确保生成式AI安全治理根基稳固、开局合规。第四章生成式AI训练数据采集、标注与预处理源头安全强制要求GB/T46072-2025将训练数据源头安全管控列为生成式人工智能安全治理第一核心关键环节，明确所有大模型预训练、微调训练、安全对齐训练所用全量数据必须严格落实合法合规、来源可溯、授权完备、安全标注、隔离存储、风险净化六大强制核心要求，从根源上杜绝数据侵权、违法数据入库、不良数据训练、隐私数据泄露、数据投毒污染等源头安全风险，彻底解决以往生成式AI训练数据随意采集、版权授权缺失、数据审核不严、标注管理混乱、敏感数据裸奔存储的行业突出乱象。本标准明确生成式AI训练数据采集必须遵循合法、正当、必要、最小化原则，严禁未经版权方、信息主体合法授权擅自采集使用受知识产权保护的文本、图文、音视频等各类数据资源，严禁采集使用法律法规禁止传播、违背公序良俗、含有违法不良导向的违规数据，严禁过度采集与模型训练无关的用户个人敏感信息、行业核心涉密数据。所有采集入库的训练数据必须留存完整合规溯源台账与授权证明材料，明确数据来源渠道、授权范围、使用用途、存储期限、销毁方式，做到每一批次训练数据来源可查、授权可证、责任可追，无授权数据一律不得入库用于模型训练，从源头筑牢数据合规底线。训练数据清洗预处理环节必须落实严格的数据净化与风险筛查管控要求，运营机构需配备专项技术筛查工具与人工复核机制，对入库原始训练数据开展全量合规筛查、不良内容剔除、重复数据清理、敏感信息脱敏处理工作，全面清除含有违法犯罪、低俗色情、虚假造谣、算法歧视、暴力恐怖、侵害权益等不良导向的数据内容，对涉及个人身份信息、生物识别信息、金融医疗敏感数据的内容必须完成全量脱敏去标识化处理，严禁敏感个人信息以原始明文形式用于模型训练。针对行业垂直类生成式AI所用医疗、政务、金融等专项敏感数据，预处理阶段还需额外开展伦理审查与专项合规核验，经伦理审核通过后方可用于模型训练，严防专项敏感数据滥用与泄露风险。数据预处理全程留存操作日志、筛查记录、脱敏台账、复核资料，实现预处理全流程留痕可溯源，杜绝违规数据混入训练数据集引发模型安全底色污染问题。训练数据安全标注管理实行分类分级审核强制管控机制，本标准将AI标注数据严格划分为功能性标注数据与安全性标注数据两类实施差异化管控，严禁两类数据混同管理、简化审核流程。功能性标注数据主要用于优化模型生成精准度与交互适配性，可实行抽样审核管控模式，确保标注质量达标即可；安全性标注数据直接用于模型安全对齐、不良内容拦截、高危提问拒答风控，实行全量人工专人审核制度，每条安全性标注数据必须经专职审核人员复核通过后方可投入使用，标注人员必须提前接受AI安全专项培训并签订保密责任协议。所有安全标注数据实行物理与逻辑双重隔离存储管控，与普通训练数据分区存放、权限单独管控、专人专属管理，严防安全标注数据篡改、泄露、丢失，确保模型安全对齐训练基础数据纯净合规。标注工作全程规范操作流程、强化质量管控、完善审核台账，杜绝标注失误、标注违规、标注失准导致的模型安全风控失效问题，夯实大模型安全对齐训练核心数据基础。第五章大模型研发训练、安全对齐与迭代升级核心模型安全管控要求GB/T46072-2025聚焦生成式人工智能核心大模型本体安全，明确模型研发训练、安全对齐调优、参数配置管控、模型防攻击防护、版本迭代升级全环节专项安全管控规范，筑牢生成式AI算法核心安全屏障，防范模型投毒、算法后门、参数篡改、模型窃取、对抗攻击、算法滥用等核心技术安全风险。本标准明确大模型研发阶段必须同步嵌入安全设计理念，在模型架构设计、算法选型、参数配置、训练调试全过程融入安全防护规则，严禁重模型性能指标提升、轻模型安全架构设计，杜绝模型先天存在算法安全漏洞与管控缺陷。大模型训练过程中严格落实训练环境专属隔离管控要求，模型训练服务器集群、算力资源、研发运行环境实行独立部署、专属网络隔离、访问最小权限管控，严禁研发训练环境与外网办公环境、互联网无防护连通，严防外部网络攻击渗透、模型参数非法窃取、训练过程恶意干扰等风险。研发运维人员实行专人专岗、权限分级、操作全程审计管控，所有模型参数调整、算法修改、训练调试操作必须履行审批登记手续，操作全程留痕存档，杜绝研发人员违规操作篡改模型安全配置。大模型安全对齐是模型安全管控核心核心环节，运营机构必须严格按照本标准规范开展专项安全对齐训练工作，以法律法规、公序良俗、社会公共利益、用户合法权益为核心对齐标准，优化模型算法生成逻辑，强化模型合规生成导向，从算法底层杜绝违法违规、不良低俗、虚假误导、歧视偏见类内容自动生成。安全对齐训练需依托合规安全标注数据开展反复调优测试，定期开展模型安全性能抽样检测，核验模型合规生成能力、高危提问拒答能力、不良内容拦截能力，对检测发现的算法安全短板及时迭代优化调优，确保模型本体具备内生安全防护能力。建立模型安全性评价专项机制，将生成内容安全合规性、风险拒答有效性、内容真实准确性、服务可靠稳定性作为模型核心评价指标，严禁单纯以生成效果炫酷、交互体验流畅为核心评价标准，确保模型安全性能与使用性能同步达标、协同兼顾。大模型版本迭代升级与日常运维安全管控实行迭代安全复核强制制度，生成式AI模型开展版本更新、算法优化、参数调整、功能新增等任何迭代升级工作前，必须提前开展专项安全风险评估与合规复核工作，全面检测迭代更新是否弱化安全风控能力、是否新增安全漏洞、是否降低拒答管控标准、是否影响内容合规生成，迭代升级完成后必须经过安全核验达标方可上线运营，严禁未经安全复核直接上线模型迭代版本，防范迭代优化引发安全风控降级风险。建立模型漏洞常态化排查与安全加固机制，定期开展模型对抗攻击测试、算法漏洞扫描、安全风险评估，及时修复模型算法安全漏洞、优化安全防护策略、加固模型运行安全基线。严格规范模型备份与容灾管理，做好大模型核心参数、安全配置、风控规则定期备份存储，确保模型遭遇攻击破坏、故障异常后可快速恢复正常运营，保障生成式AI服务持续稳定安全运行。第六章生成式AI服务部署上线、交互运营与用户权益专项安全防护要求GB/T46072-2025规范生成式人工智能模型部署上线前置安全审核与常态化交互运营全流程安全管控要求，明确AI服务上线合规前置条件、部署环境安全防护、用户访问权限管控、账号安全管理、交互行为审计、用户个人信息保护、特殊群体专项防护核心实操规范，确保生成式AI对外服务运营全程安全可控、用户权益有效保障。所有新增生成式AI服务正式对外上线运营前，必须完成前置安全自查整改、内部安全核验、合规台账完善工作，对照本标准全维度安全要求逐项对标核验，数据安全、模型安全、风控安全、运维安全全部达标后方可上线，严禁未审先上、边运营边整改、安全不达标违规上线运营。模型部署运行环境严格落实网络安全防护、服务器安全加固、访问边界管控、恶意流量拦截等技术措施，强化部署环境安全基线管理，定期开展环境安全巡检与漏洞修复，严防部署环境被入侵控制、模型运行被干扰、运营数据被窃取等安全事件发生。用户交互运营安全管控聚焦用户账号注册登录、访问权限分配、交互指令传输、操作行为记录全环节安全防护，落实用户账号实名制管理、登录身份强认证、异常登录风险预警、账号权限最小化配置等管控措施，严防账号被盗、非法登录、恶意操控AI生成不良内容等风险。规范用户与生成式AI交互全流程日志审计留存工作，完整记录用户交互提问、AI生成响应内容、操作访问时间、账号设备信息等核心运维日志，日志留存期限满足合规核查与溯源追责要求，确保一旦出现违规生成内容可快速溯源定位责任主体。严格强化用户个人信息专项保护，遵循个人信息保护最小必要原则，严禁生成式AI服务超范围采集用户手机号、身份信息、生物识别信息等个人敏感数据，用户交互过程中涉及个人信息的内容自动脱敏保护，严禁未经用户同意私自收集、使用、共享、泄露用户个人隐私数据，保障用户个人信息安全合法可控。针对未成年人等特殊群体实行生成式AI专项增强安全保护管控要求，运营机构必须专门适配未成年人使用场景设置专属安全防护模式，落实未成年人使用时长限制、不良内容精准拦截、付费服务严格管控、监护人授权管理等专项措施，严禁向未成年人推送违法低俗、不良诱导、不适合未成年身心发展的生成内容，严禁为未成年人提供不良导向娱乐、非理性消费、不良社交引导类AI服务。面向未成年人开放的生成式AI服务必须强化内容过滤强度、收紧风控审核标准、完善监护人管控功能，定期开展未成年人使用安全风险排查，及时优化专项防护策略，切实守护未成年人身心健康与合法权益。针对金融、医疗、政务等关键行业专用生成式AI服务，额外实施增强级安全防护管控，收紧数据交互权限、强化内容合规审核、提升风险处置等级，严防行业AI应用引发系统性安全风险与公共利益损害问题。第七章AI生成内容实时审核、高危拒答管控与生成内容溯源标识管理要求GB/T46072-2025将生成内容安全风控与溯源标识管理作为生成式AI对外服务运营的末端核心安全防线，明确内容事前预防、事中实时审核、事后溯源追责全链条管控细则，硬性规定高危提问强制拒答、不良内容自动拦截、AI生成内容统一溯源标注三大核心刚性管控要求，从输出端口严防违法违规及不良有害信息生成传播。本标准明确所有生成式人工智能响应用户提问生成文本、图像、音频、视频等各类内容前，必须同步启用机器智能初审加人工复核兜底的双重内容审核机制，机器审核实时筛查违规风险、不良导向、虚假信息、歧视偏见等各类问题内容，人工审核针对高风险交互提问与生成内容专项复核研判，双重审核全部通过后方可对外输出展示，审核不通过的内容一律拦截不予生成响应，坚决杜绝违规不良内容对外传播扩散。内容审核严格对标法律法规、公序良俗、社会公共利益要求，细化违规内容负面清单，持续动态更新审核规则库，适配新型不良内容变种传播管控需求，提升内容审核精准度与有效性。高危恶意提问强制拒答是本标准明确的硬性核心管控红线，生成式AI服务必须内置完善的高危提问识别与自动拒答机制，对明显诱导生成违法犯罪、造谣传谣、低俗色情、暴力恐怖、诈骗教唆、侵害他人权益、违背公序良俗等各类恶意违规提问，自动触发拒答响应，拒绝生成任何相关配套内容，同时完整记录高危提问信息、拒答处置记录、风险预警台账，定期汇总分析高危交互风险态势，优化拒答识别规则。严禁生成式AI为追求交互效果、提升用户体验，对违规恶意提问妥协响应、变相生成不良内容，严禁弱化拒答管控标准、规避风控拦截机制，对拒不落实强制拒答要求、违规生成有害内容的运营机构依规纳入合规整改与监管处罚范畴，守住AI内容安全底线。生成式人工智能内容统一溯源标识标注是法定强制性管理要求，所有由生成式AI自动生成的各类图文音视频及文本内容，必须按照本标准统一规范附加清晰直观、不可篡改、永久留存的AI生成专属溯源水印与标识标注，明确标注内容为人工智能自动生成，实现AI生成内容来源可查、属性可辨、责任可溯，杜绝AI生成虚假内容冒充真人原创传播、误导社会公众、引发舆论乱象。溯源标识标注不得随意删除、隐匿、篡改，标识样式统一规范、醒目清晰，适配各类生成内容展示传播场景，无论是公开对外展示、下载转发、二次传播的AI内容，均需完整保留溯源标识。运营机构建立标识标注常态化管理机制，定期核查AI生成内容标识标注落实情况，及时整改无标识、标识缺失、标识篡改等问题，确保溯源标识管控全覆盖、无遗漏、常态化落实，规范生成式AI内容传播秩序。第八章安全应急处置、漏洞隐患闭环整改与风险常态化复盘管理要求GB/T46072-2025明确安全应急处置与隐患整改闭环管理是生成式AI安全风险事后管控、长效维稳的核心保障，要求所有生成式AI运营机构建立健全网络安全、内容安全、数据安全专项应急预案体系，完善应急响应、故障处置、风险阻断、舆情管控、恢复复盘全流程工作机制，确保发生模型安全故障、数据泄露事件、违规内容批量传播、网络攻击入侵、算法失控生成有害内容等突发安全事件时，能够快速响应、快速处置、快速阻断风险、快速恢复服务运营，最大限度降低安全事件造成的社会影响与合规损失。运营机构需编制生成式AI综合安全应急预案及勒索攻击、模型失控、数据泄露、不良内容批量传播、舆情突发等专项应急处置预案，明确应急组织机构、应急响应等级、分级处置流程、岗位分工职责、风险阻断措施、服务恢复方案、应急联络机制，预案贴合AI运营实操、简单易懂、应急可快速执行，杜绝形式化、脱离实操的无效预案。常态化应急演练与漏洞隐患分级整改闭环管理同步刚性落实，运营机构定期选择非运营高峰时段开展AI安全应急实战演练，模拟各类突发安全事件真实场景，检验应急预案实用性、应急队伍处置能力、风险阻断与服务恢复效率，演练完成后及时复盘总结短板、优化完善预案、补齐应急处置薄弱环节。建立生成式AI安全漏洞与风险隐患常态化排查整改机制，定期开展安全自查、漏洞扫描、风险评估、内容风控核验，区分轻微优化项、一般合规隐患项、严重高危风险项分级管控处置，高危隐患立即暂停相关AI服务运营、第一时间落实紧急防护阻断措施，短期完成深度整改并专项复核销项；一般隐患按期稳步整改完善、补齐防护短板、闭环台账资料；轻微优化项纳入常态化运维持续提质优化。所有隐患整改全程留存整改方案、实施记录、佐证资料、复核报告全套闭环台账，杜绝纸面整改、虚假整改、整改后同类问题复发。安全事件事后复盘与风险长效优化管理要求运营机构每发生一起安全事件或重大合规隐患，必须第一时间开展深度溯源复盘工作，深挖安全事件发生根本成因、管控薄弱环节、制度执行漏洞、技术防护短板，针对性优化安全管控规则、强化防护措施、完善管理制度、迭代风控机制，举一反三排查同类共性风险，杜绝同类安全问题重复发生。定期汇总分析生成式AI安全风险态势、违规内容处置情况、高危交互提问数据、隐患整改总体成效，动态优化数据安全管控、模型安全防护、内容审核风控、拒答识别规则，实现安全风险事前预防、事中管控、事后复盘、长效优化全流程闭环治理，持续提升生成式AI风险抵御能力与安全运维水平。第九章合规自查复核、第三方安全评估与监管核查达标核验管理规则GB/T46072-2025规范生成式AI安全合规内部常态化自查复核、第三方专业安全评估、监管部门专项外部核查三级合规管控模式，明确全国生成式AI服务安全合规达标统一核定规则，确保AI安全建设质量可控、防护措施落地见效、监管对标互认互通、合规整改闭环落实到位。生成式AI运营机构内部常态化合规自查由安全合规专班定期自主开展，严格对照本标准数据安全、模型安全、内容风控、运维安全、应急管理全部强制性要求，全面核查训练数据合规管控、模型防护加固、内容审核