深度合成内容管理实施办法

深度合成内容管理实施办法第一章总则第一条目的和依据为规范深度合成内容的制作、发布、传播和使用，维护国家安全、社会公共利益和公民、法人及其他组织的合法权益，促进深度合成技术的健康发展，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》等法律法规，制定本办法。第二条适用范围在中华人民共和国境内利用深度合成技术制作、发布、传播深度合成内容，以及提供深度合成服务，适用本办法。本办法所称深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于生成式人工智能技术。本办法所称深度合成内容，是指使用深度合成技术制作的，可能导致公众混淆或者误认的网络信息。第三条基本原则深度合成内容的管理应当遵循以下原则：安全可控：坚持安全第一，强化技术安全评估和风险防控，确保深度合成技术和内容的安全应用。真实可信：鼓励制作、发布、传播真实、合法、健康的深度合成内容，反对制作、发布、传播虚假、有害信息。主体责任：深度合成服务提供者、使用者、内容生产者等各方主体应当依法履行相应的责任和义务。社会共治：鼓励社会各界共同参与深度合成内容的治理，形成政府监管、企业履责、社会监督、网民自律的综合治网格局。第四条监管职责国家互联网信息办公室负责统筹协调全国深度合成内容的管理和监督工作。国务院电信主管部门、公安部门和其他有关部门在各自职责范围内负责深度合成内容的相关管理工作。地方互联网信息办公室、电信主管部门、公安部门和其他有关部门在各自职责范围内负责本行政区域内深度合成内容的相关管理工作。第二章深度合成服务提供者第五条服务提供者定义本办法所称深度合成服务提供者，是指提供深度合成技术服务的组织和个人，包括但不限于开发、运营深度合成应用程序、平台、工具的主体。第六条服务提供者义务深度合成服务提供者应当履行以下义务：备案登记：向国家互联网信息办公室履行备案手续，提供真实、准确、完整的备案信息。技术安全评估：对其提供的深度合成技术进行安全评估，评估报告应当报国家互联网信息办公室备案。用户真实身份核验：对使用其服务的用户进行真实身份信息核验，不得为未进行真实身份信息核验的用户提供服务。内容审核：建立健全内容审核机制，对通过其服务制作、发布、传播的深度合成内容进行审核，发现违法违规内容的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。标识管理：对通过其服务制作、发布、传播的深度合成内容进行标识，确保公众能够识别。标识方式包括但不限于水印、数字签名、元数据标记等。数据安全保护：采取技术措施和其他必要措施，保障用户数据安全，防止数据泄露、篡改、丢失。应急处置：制定网络安全事件应急预案，定期开展应急演练，发生网络安全事件时，应当立即启动应急预案，采取相应的补救措施，并按照规定向有关主管部门报告。配合监督检查：配合有关主管部门依法实施的监督检查，提供必要的技术支持和协助。第七条禁止性规定深度合成服务提供者不得有下列行为：为制作、发布、传播违法违规信息提供技术支持。利用深度合成技术制作、发布、传播虚假信息，损害他人合法权益。未经用户同意，收集、使用、加工、传输、提供、公开用户个人信息。其他违反法律法规和本办法规定的行为。第三章深度合成内容生产者第八条内容生产者定义本办法所称深度合成内容生产者，是指使用深度合成技术制作深度合成内容的组织和个人。第九条内容生产者义务深度合成内容生产者应当履行以下义务：遵守法律法规：制作、发布、传播深度合成内容应当遵守法律法规，不得损害国家安全、社会公共利益和他人合法权益。确保内容真实性：制作、发布、传播的深度合成内容应当真实、合法、健康，不得制作、发布、传播虚假、有害信息。标识内容：对其制作的深度合成内容进行标识，确保公众能够识别。标识方式应当符合国家有关规定。配合监督检查：配合有关主管部门依法实施的监督检查，提供必要的技术支持和协助。第十条禁止性规定深度合成内容生产者不得有下列行为：制作、发布、传播危害国家安全、荣誉和利益的深度合成内容。制作、发布、传播损害国家机关权威和公信力的深度合成内容。制作、发布、传播损害他人名誉、荣誉、隐私和其他合法权益的深度合成内容。制作、发布、传播淫秽、色情、暴力、恐怖、赌博、毒品等违法违规内容。其他违反法律法规和本办法规定的行为。第四章深度合成内容传播者第十一条传播者定义本办法所称深度合成内容传播者，是指通过互联网等信息网络传播深度合成内容的组织和个人，包括但不限于网络平台、社交媒体、自媒体等。第十二条传播者义务深度合成内容传播者应当履行以下义务：内容审核：建立健全内容审核机制，对其传播的深度合成内容进行审核，发现违法违规内容的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。标识管理：对其传播的深度合成内容进行标识，确保公众能够识别。标识方式应当符合国家有关规定。配合监督检查：配合有关主管部门依法实施的监督检查，提供必要的技术支持和协助。第十三条禁止性规定深度合成内容传播者不得有下列行为：传播违法违规的深度合成内容。传播未经标识的深度合成内容。其他违反法律法规和本办法规定的行为。第五章深度合成内容标识第十四条标识要求深度合成内容应当进行标识，确保公众能够识别。标识应当清晰、可识别，不得影响内容的正常使用。第十五条标识方式深度合成内容的标识方式包括但不限于：水印：在深度合成内容中添加不易去除的水印，标明“深度合成”等字样。数字签名：使用数字签名技术对深度合成内容进行签名，确保内容的真实性和完整性。元数据标记：在深度合成内容的元数据中添加标识信息，标明内容的制作方式、制作主体等。其他方式：法律法规和国家有关规定认可的其他标识方式。第十六条标识责任深度合成服务提供者、内容生产者、传播者应当按照本办法的规定对深度合成内容进行标识。标识责任由各方主体根据其在内容制作、发布、传播过程中的作用和职责分别承担。第六章监督管理第十七条监督检查措施有关主管部门依法对深度合成服务提供者、内容生产者、传播者实施监督检查，可以采取下列措施：进入涉嫌违法违规的场所实施现场检查。询问涉嫌违法违规的当事人和其他有关人员。查阅、复制与涉嫌违法违规行为有关的合同、票据、账簿以及其他有关资料。检查涉嫌违法违规的计算机信息系统，要求当事人提供计算机信息系统的技术支持。其他必要的监督检查措施。第十八条举报制度任何组织和个人有权向有关主管部门举报违法违规的深度合成内容和行为。有关主管部门应当建立健全举报制度，公布举报电话、邮箱等举报方式，及时受理和处理举报。第十九条信用管理有关主管部门应当建立深度合成服务提供者、内容生产者、传播者的信用档案，对其信用状况进行评价和公示。对有违法违规行为的主体，应当依法依规实施信用惩戒。第七章法律责任第二十条服务提供者违法责任深度合成服务提供者违反本办法规定的，由有关主管部门责令改正，给予警告，没收违法所得；拒不改正或者情节严重的，处五万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照；对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。第二十一条内容生产者违法责任深度合成内容生产者违反本办法规定的，由有关主管部门责令改正，给予警告，没收违法所得；拒不改正或者情节严重的，处一万元以上十万元以下罚款；对直接负责的主管人员和其他直接责任人员处五千元以上五万元以下罚款。第二十二条传播者违法责任深度合成内容传播者违反本办法规定的，由有关主管部门责令改正，给予警告，没收违法所得；拒不改正或者情节严重的，处五万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照；对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。第二十三条刑事责任违反本办法规定，构成犯罪的，依法追究刑事责任。第二十四条民事责任违反本办法规定，侵害他人合法权益的，依法承担民事责任。第八章附则第二十五条术语解释本办法下列用语的含义：深度学习：是指基于神经网络的机器学习技术，通过多层神经网络对数据进行学习和分析，实现对复杂模式的识别和预测。虚拟现实：是指利用计算机技术生成的一种模拟环境，用户可以通过特殊的设备和交互方式进入该环境，获得身临其境的体验。生成式人工智能技术：是指能够生成新的内容（如文本、图像、音频、视频等）的人工智能技术，包括但不限于生成对抗网络（GAN）、变分自动编码器（VAE）、Transformer等。第二十六条实施日期本办法自2025年12月17日起施行。第二十七条解释权本办法由国