GB-T 43677-2024 中文版 信息安全技术 生成式人工智能服务安全要求 - 副本

GB/T43677-2024中文版信息安全技术生成式人工智能服务安全要求一、标准总则1.1标准基础信息标准全称：信息安全技术生成式人工智能服务安全要求标准编号：GB/T43677-2024发布日期：2024年08月23日实施日期：2025年03月01日归口单位：全国信息安全标准化技术委员会（SAC/TC260）标准属性：国家推荐性标准，是《生成式人工智能服务管理暂行办法》配套基础性、强制性底线技术规范，与GB/T43678-2024《生成式人工智能服务安全评估指南》形成“安全要求+评估落地”的成套标准体系，是国内生成式AI服务研发、上线运营、迭代升级、合规整改、监管核查的核心底线依据。编制定位：本标准明确了生成式人工智能服务全生命周期的最低安全底线要求，统一了训练数据、模型算法、内容生成、服务运营、基础设施、用户管理、应急处置的硬性安全规范，解决了行业长期存在的安全底线模糊、技术规范缺失、合规边界不清、自研与商用模型管控标准不统一的问题，为AI企业合规建设、第三方测评、监管执法判定提供唯一权威技术基准。标准体系关系：GB/T43677-2024为合规底线要求（必须满足），GB/T43678-2024为合规评估方法（验证是否满足），两项标准配套使用，构成国内生成式人工智能安全治理的官方完整技术体系。1.2适用范围本文件适用于中华人民共和国境内提供生成式人工智能服务的所有主体与服务形态，涵盖通用大模型服务、行业专用生成式模型、多模态生成服务（文本、图像、音频、视频、代码生成）、API接口赋能服务、企业公有云AI服务、政企私有化部署AI服务等全部业态。适用主体包含AI研发企业、互联网服务提供商、传统行业AI应用方、政企自研AI团队、第三方AI技术输出机构等所有具备公共服务属性、舆论属性的生成式AI服务提供者。同时适用于模型研发自测、上线合规自查、常态化安全运维、监管合规检查、第三方安全测评、算法备案材料编制等全场景工作。本标准覆盖生成式人工智能全生命周期安全底线：训练数据处理、模型预训练与微调、模型安全加固、部署上线、推理服务、迭代升级、运维管控、服务下线销毁全流程，所有环节均需满足本标准最低安全要求。1.3规范性引用文件本标准依托国家网络安全、数据安全、人工智能治理标准体系，核心引用文件包含：GB/T22239网络安全等级保护基本要求、GB/T35273个人信息安全规范、GB/T41479数据分类分级指南、GB/T42575数据安全治理指南、GB/T43678-2024生成式人工智能服务安全评估指南。严格对齐《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等法规政策，实现网络安全、数据安全、内容安全、AI安全的体系贯通与合规统一。1.4核心安全目标1.守住安全底线：明确生成式AI服务不可突破的技术、内容、数据、伦理安全红线，杜绝系统性安全风险；2.规范全链行为：标准化模型研发、数据训练、内容生成、对外服务的全流程安全行为，消除合规盲区；3.防范新型风险：针对性解决模型越狱、提示词注入、算法偏见、虚假生成、数据泄露、模型窃取等AI特有安全风险；4.保障权益合规：维护国家安全、社会公共利益，保护公民、法人的个人信息、知识产权与合法权益；5.支撑有序发展：在守住安全底线的前提下，适配AI快速迭代特性，平衡技术创新与安全治理，推动AI向善合规发展。二、核心术语与官方定义2.1生成式人工智能服务指基于生成式人工智能模型，通过算力运算、算法推理，自主生成文本、图像、音频、视频、代码、结构化数据等内容，面向公众或第三方提供交互查询、内容创作、智能赋能、业务辅助的互联网信息服务，具备自主生成、智能交互、场景泛化、持续迭代、结果不确定性等核心特征。2.2生成式AI服务安全指生成式AI在数据训练、模型运行、内容输出、服务运维、迭代升级全过程中，具备抵御安全风险、规避有害输出、防范漏洞攻击、保护数据权益、杜绝伦理风险的能力，确保服务安全、稳定、合规、可控运行。2.3模型安全对齐指通过微调、奖励训练、安全规则植入、伦理约束优化等技术手段，让模型输出行为符合国家法律法规、公序良俗、伦理规范与业务安全要求，抑制有害内容生成、规避算法偏见与漏洞缺陷的核心安全技术动作。2.4AI特有安全风险指区别于传统网络安全风险，仅存在于生成式AI场景的专属风险，包含模型越狱、提示词注入攻击、上下文诱导、事实性幻觉、算法歧视、训练数据记忆泄露、模型权重窃取、反向数据推演等风险类型。2.5安全基线指本标准规定的生成式AI服务必须满足的最低安全要求，无豁免场景、无简化空间，是服务上线、合规备案、持续运营的硬性前置条件。三、安全合规核心原则（标准强制底线原则）3.1底线不可突破原则本标准所有基础性安全要求为不可突破底线，任何生成式AI服务不得以技术创新、业务迭代、场景适配为由简化、豁免安全配置，底线要求不适用差异化减免，是所有AI服务的通用合规门槛。3.2全生命周期底线管控原则安全管控覆盖数据入模、模型训练、部署推理、内容输出、服务交互、迭代升级、下线销毁全链路，杜绝“重上线、轻迭代、轻运维”的阶段性合规漏洞，实现全流程底线不松动。3.3风险预防、源头治理原则坚持源头防控优先，从训练数据清洗、模型安全对齐、前置规则拦截三个源头遏制风险，区别于传统事后处置模式，实现AI风险事前预防、事中拦截、事后溯源的闭环管控。3.4安全可控、伦理向善原则确保模型行为可约束、内容输出可管控、算法逻辑可追溯，杜绝歧视、偏见、虚假、有害输出，坚守人工智能伦理底线，服务社会公共利益。3.5适配迭代、动态合规原则安全基线固定不变，防护策略动态适配，针对模型迭代、场景拓展、新型攻击手段、新增风险态势，持续优化安全机制，适配AI快速迭代的产业特性。3.6权责清晰、全程可溯原则明确服务提供者主体责任，所有数据处理、模型操作、内容输出、用户交互、风险处置行为全程留痕，可溯源、可审计、可追责。四、生成式AI安全总体框架（标准官方架构）本标准构建了六层闭环安全架构，是生成式AI服务合规建设的唯一标准框架，涵盖源头数据安全、模型内核安全、内容输出安全、服务交互安全、基础设施安全、管理运营安全六大维度，层层递进、全程约束，构成完整的AI安全底线体系。1.数据安全层（源头）：规范训练、微调、对齐全量语料的合规性、安全性、合法性，从源头杜绝风险入模；2.模型安全层（内核）：约束模型算法、权重、逻辑、鲁棒性，防范模型固有漏洞与AI专属攻击风险；3.内容安全层（输出）：管控所有AI生成内容，守住内容合规与伦理底线，杜绝有害输出；4.服务交互层（过程）：规范用户交互、接口调用、权限管控、风险拦截、用户权益保护；5.基础设施层（底座）：保障算力、存储、网络、部署环境的底层安全，防范底座风险；6.管理运营层（保障）：通过制度、流程、台账、应急、培训实现长效合规运营。五、训练数据安全硬性要求（源头底线）本标准将训练数据安全列为最高优先级底线要求，明确所有入模数据必须满足合规、干净、可控、可追溯的硬性标准，禁止任何不合规数据参与模型训练与微调。5.1数据来源合法性要求所有用于预训练、增量训练、微调、对齐、测试的数据必须具备合法来源与合法使用依据。禁止未经授权爬取网络数据、非法获取行业数据、盗用第三方数据集用于模型训练。涉及知识产权的数据，必须完成授权核验，不得侵害他人著作权、专利权、商业秘密等合法权益。涉及个人信息的数据集，必须满足《个人信息保护法》及GB/T35273规范，完成用户授权、告知说明或法定豁免情形，严禁无授权个人信息入模训练。5.2数据清洗与过滤要求服务提供者必须建立标准化数据清洗流程，对所有入模语料开展全量过滤、去重、脱敏、纠错处理。必须彻底剔除包含违法违规、暴力恐怖、色情低俗、歧视偏见、虚假误导、煽动对立、侵权涉密的不良数据。针对个人信息、敏感数据必须完成脱敏、去标识化处理，杜绝原始隐私数据直接入模，防止模型记忆泄露风险。5.3数据最小必要与留存要求严格遵循数据最小必要原则，仅采集、使用与模型训练、业务场景相关的必要数据，禁止无差别批量采集全量数据用于模型训练。明确训练数据、用户交互数据的留存期限，超期数据必须自动清理、不可逆销毁，禁止无期限留存用户敏感数据与业务涉密数据。5.4数据集溯源与台账要求建立完整的训练数据集溯源台账，清晰记录数据来源、采集时间、数据类型、数据量级、清洗记录、授权证明、使用场景。第三方采购数据集必须核验供应商资质、合规证明、安全协议，留存完整合规凭证，实现所有入模数据可追溯、可核查。5.5测试数据安全要求模型测试、回归测试、安全测评所用测试数据，不得使用真实涉密数据、批量用户隐私数据。测试数据需单独管控、专项脱敏，测试完成后及时清零销毁，防止测试环节数据泄露。六、模型算法安全硬性要求（内核底线）模型内核安全是生成式AI区别于传统互联网服务的核心合规要点，本标准明确模型安全对齐、抗攻击、防漏洞、防窃取的强制性底线要求，所有模型必须达标方可上线运营。6.1模型安全对齐要求所有生成式模型必须完成充分的安全对齐与伦理对齐训练，具备稳定的有害内容抑制能力。针对危害国家安全、破坏社会稳定、违法犯罪、低俗暴力、歧视偏见、虚假误导、侵权欺诈类提问，能够稳定拒绝生成、有效拦截，不得出现常态化违规输出。模型对齐需覆盖常规场景、边界场景、诱导场景，杜绝明显伦理缺陷。6.2抗AI专属攻击安全要求模型必须具备抵御常见AI攻击的基础能力，包含提示词注入、上下文诱导、模型越狱、多轮欺骗、边界绕过等攻击手段。需经过专项渗透测试与对抗样本测试，能够有效识别高危诱导提问，拦截恶意绕过安全约束的交互行为，杜绝模型被恶意突破安全底线。6.3算法公平与伦理约束要求模型算法不得存在性别、地域、民族、职业、学历、身份歧视等固有偏见，输出内容需保持客观公正。禁止通过算法设置不合理差异化对待，不得生成排他性、歧视性、误导性内容。针对高风险社会议题、公共事务提问，需保持中立合规，杜绝极端、偏激引导。6.4模型防泄露与防窃取要求模型权重、核心参数、训练逻辑需做加密防护，禁止明文存储、公开泄露。需部署防模型窃取、防反向推演、防数据重建防护机制，抵御通过多轮对话、样本探测、对抗测试窃取模型能力与训练数据的攻击行为。私有化部署模型需严格管控导出权限，公有云模型严控探测式接口调用。6.5模型迭代安全管控要求模型微调、增量训练、参数优化、版本升级等迭代行为，必须复用同等安全标准，迭代完成后需重新开展安全对齐复测、抗攻击测试、伦理校验。迭代后出现安全能力下降、违规输出增多的模型，禁止上线发布，必须重新优化整改。七、生成内容安全硬性要求（输出底线）生成内容合规是AI服务运营的核心底线，本标准明确了绝对禁止生成的内容清单与内容审核、纠错、标识的强制要求，是日常合规核查的核心判定依据。7.1绝对禁止生成的违规内容服务提供者必须确保模型稳定拦截、禁止生成以下内容：危害国家安全、泄露国家秘密、颠覆国家政权、破坏民族团结的内容；宣扬恐怖主义、极端主义、暴力血腥、自杀自残的内容；传播色情低俗、赌博诈骗、违法犯罪方法的内容；歧视、侮辱、诽谤、侵犯他人权益的内容；虚假误导、造谣传谣、扰乱公共秩序的内容；侵犯知识产权、商业秘密的侵权内容；其他违反法律法规与公序良俗的内容。7.2事实性纠错与真实性要求模型需具备基础事实性校验与纠错能力，针对常识错误、虚假信息、不实谣言、错误导向内容，能够主动纠正、提示风险、拒绝误导输出。针对不确定、无权威依据的内容，需明确标注信息局限性，不得虚构事实、编造数据、伪造结论，严控AI幻觉风险。7.3内容审核拦截机制要求必须建立机器实时审核+人工复核兜底的双层审核机制，实现用户提问前置过滤、模型输出实时拦截、高危内容秒级处置。针对高频违规场景、新型诱导话术、边界灰色内容，需持续迭代审核规则，提升拦截精准度，杜绝批量有害内容流出。7.4生成内容标识溯源要求按照国家规范对AI生成内容进行清晰标识，区分机器生成与人工创作，避免用户混淆误导。所有生成内容、交互记录、审核日志全程留存，实现每一条输出内容可溯源、可定位、可撤销、可复盘。八、服务交互与用户管理安全要求（过程底线）8.1用户实名与权限管控要求面向公众提供的生成式AI服务必须落实用户真实身份信息登记制度，匿名未实名用户禁止使用核心生成功能。建立用户分级管控机制，针对高频高危操作、批量调用接口、异常探测行为的用户，实施风险预警、权限限制、功能封禁等管控措施。严格遵循最小权限原则，严控后台运维、用户操作权限。8.2高危交互管控要求针对用户提问涉及违法犯罪、系统破解、网络攻击、隐私窃取、社会舆情高危议题的交互行为，系统需自动拦截、风险告警、记录留存，必要时终止会话并上报风险。禁止为用户提供任何违法工具、攻击代码、作弊方法、侵权教程等高危内容输出。8.3用户权益保障要求为用户提供便捷的查询、更正、删除个人信息及撤回授权的通道，落实个人信息主体权益。建立完善的投诉举报受理机制，明确受理渠道、处理时限、反馈机制，及时处置用户投诉与合规问题。8.4接口开放安全要求对外开放AI生成接口、赋能第三方场景的服务，需严格校验调用方资质、签订安全协议、设置调用频次限制、开启接口风控审计。禁止无限制对外开放高危生成能力，严控接口滥用、批量探测、违规调用风险。九、基础设施与运维安全要求（底座底线）9.1部署环境安全要求AI模型部署的服务器、算力集群、云平台、网络环境需符合网络安全等级保护、数据安全防护基本要求，具备入侵防御、漏洞监测、访问控制、流量审计能力。生产环境、测试环境、开发环境严格隔离，杜绝环境混用引发的数据泄露、模型篡改风险。9.2数据与模型存储安全要求模型权重、训练数据、用户交互日志、业务敏感数据需加密存储，落实静态数据加密防护。建立定期备份、容灾容错机制，防止数据丢失、模型损坏。严格管控存储访问权限，禁止私自导出、拷贝、外传模型文件与敏感数据。9.3运维审计与风险监测要求所有运维操作、模型变更、权限调整、数据导出行为全程审计留痕，日志留存时长不低于3年。部署异常访问、批量调用、高危操作、模型异常输出监测机制，实时预警底座安全风险，实现风险早发现、早处置。9.4第三方算力与服务安全要求使用第三方算力、云服务、托管部署的AI服务，必须核验服务商合规资质，签订专项数据安全与模型保密协议，明确双方安全责任边界。定期开展第三方服务商安全评估，杜绝第三方引发的模型泄露、数据外泄风险。十、安全运营与应急处置要求（长效底线）10.1常态化安全监测机制建立7×24小时常态化安全监测体系，实时监控违规内容生成率、用户高危交互、模型异常输出、接口异常调用、底座安全漏洞，动态更新风控规则与安全策略，适配新型风险场景。10.2安全事件应急处置制定生成式AI专项应急预案，覆盖有害内容批量输出、模型越狱失控、数据泄露、模型窃取、舆情风险、接口滥用等各类安全事件。明确预警、止损、封禁、溯源、整改、上报全流程处置规范，定期开展应急演练，提升风险处置能力。10.3安全自查与迭代优化定期开展全域安全自查，重点核查数据合规、模型安全、内容风控、运维管控短板问题。针对自查、测评、监管反馈的问题，建立整改台账，闭环优化安全机制与模型能力，实现动态合规。10.4人员安全与培训管理落实研发、运维、运营人员安全责任制，开展常态化AI安全、数据合规、伦理规范培训与考核。严控人员权限与操作行为，杜绝内部人员违规导出模型、泄露数据、篡改安全配置。十一、合规底线禁止性条款（标准红线清