生成式AI服务新规

PPTLOGOHERE生成式AI服务新规-总则服务规范附则用户权益保障教育与培训宣传与推广综合保障措施知识产权保护服务市场监管目录安全技术保障其他配套措施应急响应与恢复1总则总则适用范围：向中国境内公众提供生成文本、图片、音频、视频等内容的服务适用本办法，新闻出版、影视制作、文艺创作等领域另有规定的从其规定总则123基本原则：坚持发展和安全并重，实行包容审慎和分类分级监管，鼓励创新与依法治理结合合规要求：服务提供需遵守法律法规，坚持社会主义核心价值观，禁止生成危害国家安全、社会稳定的内容，防止歧视行为，尊重知识产权和个人权益2技术发展与治理技术发展与治理制定明确标注规则，开展质量评估与人员培训，确保标注合法合规推动自主技术研发，建设公共训练数据平台，促进算力资源共享，扩展高质量数据资源训练数据需合法合规，涉及知识产权或个人信息的需取得授权，确保数据真实性、多样性创新支持鼓励生成式AI在各行业创新应用，构建生态体系，支持技术协作与国际合作基础设施数据处理数据标注3服务规范服务规范责任划分提供者需承担内容生产者责任及个人信息保护义务，与用户签订服务协议明确权责用户管理公开服务适用场景，防范未成年人过度依赖或沉迷，保护用户输入信息及使用记录内容标识按《深度合成管理规定》对生成内容进行标识，保障服务安全稳定违规处置发现违法内容或行为需及时处置并报告，建立投诉举报机制并公开处理流程4监督检查与法律责任监督检查与法律责任违规行为依据相关法律处罚，构成犯罪则追究刑事责任处罚措施具有舆论属性或社会动员能力的服务需通过安全评估并履行算法备案安全评估网信、工信、公安等多部门依职责管理，完善分类分级监管规则监管分工对境外不合规服务采取技术措施阻断境外服务处置010302045附则附则术语定义行政许可施行时间明确生成式AI技术、服务提供者及使用者的含义需取得许可的服务应依法办理，外商投资需符合相关法规本办法自2023年8月15日起生效6生成式AI服务的技术要求生成式AI服务的技术要求服务提供者应具备先进的技术能力，包括但不限于自然语言处理、深度学习、计算机视觉等，确保生成内容的真实性和准确性建立完善的数据集和训练模型，包括数据的清洗、标注、优化等过程，以提升模型的性能和稳定性服务提供者应设定明确的性能指标，如生成内容的准确率、多样性、响应时间等，以评估其生成式AI的性能和效果服务提供者应采用有效的隐私保护技术，如数据加密、匿名化处理等，确保用户数据的安全性和保密性技术能力模型训练性能指标隐私保护7服务内容的监管要求服务内容的监管要求·····67%67%67%67%内容审查标签与分类版权保护风险评估对生成的内容进行严格的审查和筛选，防止传播违法和不良信息对生成的内容进行分类和标签化处理，便于监管部门进行分类监管和风险评估尊重知识产权，对涉及版权的内容进行合理使用和授权，避免侵权行为的发生对具有社会动员能力的生成内容进行风险评估，及时发现和处理潜在的安全隐患01.02.03.04.8用户权益保障用户权益保障信息保护服务提供者应采取措施保护用户个人信息和隐私，未经用户同意不得泄露或滥用用户信息用户参与鼓励用户参与内容生成和管理，提高用户的参与度和满意度权益申诉建立用户权益申诉机制，对用户的投诉和举报进行及时处理和反馈教育引导加强对用户的教育和引导，提高用户对生成式AI的认识和使用能力9跨境管理与合作跨境管理与合作跨境监管合作加强与其他国家和地区的监管机构合作，共同制定跨境监管规则和标准国际准则遵循遵循国际规则和标准，推动生成式AI技术的国际合作和发展技术交流与合作鼓励国内外技术交流与合作，推动生成式AI技术的创新和应用10附则实施与监督附则实施与监督相关部门应制定具体的实施细则和操作指南，确保新规的有效执行实施细则监督执行加强对新规执行情况的监督和检查，对违规行为进行严肃处理反馈与修订及时收集社会各界的反馈意见和建议，根据实际情况对新规进行修订和完善11教育与培训教育与培训专业培训为从业者提供专业培训，提升其技术能力和业务水平普及教育加强生成式AI技术的普及教育，提高公众对AI技术的认知和理解跨领域培训鼓励跨领域合作，开展多学科交叉的培训项目，培养复合型人才12社会影响与评估社会影响与评估社会影响评估定期对生成式AI服务的社会影响进行评估，及时发现和解决潜在问题舆论引导加强舆论引导，防止因AI生成内容引发的社会不良影响可持续发展推动生成式AI技术的可持续发展，促进社会、经济和环境的协调发展13国际交流与合作国际交流与合作技术交流开展技术交流活动，分享经验和技术成果，促进技术进步国际交流加强与其他国家和地区的交流与合作，共同推动生成式AI技术的发展政策协调加强政策协调和沟通，共同应对生成式AI技术带来的挑战和问题14安全保障与应急处理安全保障与应急处理定期进行风险评估，及时发现和处理潜在的安全风险应急处理建立应急处理机制，对突发事件进行快速、有效的处理建立完善的安全保障体系，确保生成式AI服务的稳定和安全运行安全保障风险评估15法律责任与处罚措施法律责任与处罚措施明确各方的法律责任，对违规行为进行严肃处理法律责任制定明确的处罚措施，包括警告、罚款、吊销执照等，对严重违规行为追究法律责任处罚措施通过典型案例进行教育，警示其他从业者遵守相关法律法规和规定案例教育16宣传与推广宣传与推广1.2.3.宣传推广成功案例分享行业合作与支持通过多种渠道和方式宣传生成式AI技术的优势和应用场景，提高公众的认知度和接受度分享成功的案例和经验，促进生成式AI技术的创新和应用鼓励行业合作与支持，共同推动生成式AI技术的健康发展17公众参与与社会监督公众参与与社会监督公众参与开放平台社会监督鼓励公众积极参与生成式AI技术的研发、测试、应用等环节，充分体现其参与权和监督权开放部分生成式AI服务平台的接口和资源，允许公众进行合理使用和反馈建立社会监督机制，接受社会各界的监督和评价，及时处理和回应公众的反馈和投诉18数据保护与隐私权数据保护与隐私权加强生成式AI服务中涉及的数据保护，确保数据的完整性和保密性尊重用户的隐私权，未经用户同意不得泄露或滥用用户的个人信息确保服务过程和结果的透明度，让用户了解其数据的使用情况和结果隐私权保护数据保护透明度原则19技术伦理与道德规范技术伦理与道德规范技术伦理：制定生成式AI技术的伦理规范，明确技术使用的道德底线道德教育：加强从业者的道德教育，提高其道德意识和责任感行业自律：鼓励行业自律，建立行业内的道德规范和监管机制20综合保障措施综合保障措施政策支持给予生成式AI技术相关政策支持，如财政、税收、人才等方面的支持人才培养加强生成式AI技术人才的培养和引进，提高从业者的专业能力和素质科研支持支持科研机构和企业开展生成式AI技术的研发和应用，推动技术进步和创新工作总结汇报21跨行业合作与融合跨行业合作与融合鼓励生成式AI技术与各行业的跨界合作，推动产业融合和创新发展跨行业合作探索合作模式和机制，促进不同行业间的信息共享和资源整合合作模式推动生成式AI技术与传统产业的深度融合，提升产业智能化水平融合发展22知识产权保护知识产权保护加强对生成式AI技术相关知识产权的保护，鼓励创新和发明知识产权严厉打击侵犯知识产权的行为，维护技术创新的合法权益侵权行为加强知识产权教育，提高公众的知识产权意识和保护能力知识产权教育23国际标准与认证国际标准与认证1国际标准：积极参与制定生成式AI技术的国际标准，推动全球技术发展认证机制：建立国际认证机制，对符合标准的生成式AI服务进行认证，提高服务质量和可靠性互认协议：推动不同国家和地区间的互认协议，促进生成式AI技术的国际交流与合作2324服务市场监管服务市场监管010302市场准入：设立合理的市场准入机制，确保生成式AI服务提供者的资质和实力价格监管：对生成式AI服务的价格进行合理监管，防止价格欺诈和不合理定价竞争秩序：维护公平竞争的市场秩序，防止不正当竞争和垄断行为25风险评估与应对风险评估与应对01风险评估建立完善的风险评估体系，对生成式AI服务进行定期评估，及时发现潜在风险02应对措施制定应对措施和预案，对发现的风险进行及时处理和解决03应急响应建立应急响应机制，对突发事件进行快速、有效的应对和处理26行业自律与规范行业自律与规范自律组织行业规范监督执行制定行业规范和标准，明确行业行为准则和道德要求监督行业内各企业的行为，对违规行为进行惩戒和纠正鼓励成立行业自律组织，推动生成式AI行业的自律和规范发展27用户体验与反馈用户体验与反馈用户体验反馈机制持续改进建立用户反馈机制，及时收集和处理用户的意见和建议根据用户反馈和市场需求，持续改进和优化生成式AI服务关注用户的体验和使用感受，不断优化服务质量和性能28安全技术保障安全技术保障安全技术安全防护应急处置采用先进的安全技术手段，保障生成式AI服务的安全性和稳定性建立完善的安全防护体系，防止黑客攻击、数据泄露等安全事件的发生制定应急处置方案和措施，对安全事件进行及时处置和恢复29安全审计与监督安全审计与监督1安全审计：对生成式AI服务的运行过程进行安全审计，确保其符合相关法律法规和规定监督执行：设立专门的监督机构，对生成式AI服务的运行进行实时监督，确保其合规性信息安全：加强信息安全保障，防止用户数据被非法获取、篡改或删除2330教育与培训体系完善教育与培训体系完善培训机制教育资源实践平台搭建实践平台，为学习者提供实践机会，提高其实际操作能力和问题解决能力建立完善的培训机制，为从业者提供持续的技能提升和知识更新整合教育资源，开发适用于不同层次、不同领域的生成式AI技术教育课程31促进国际交流与合作促进国际交流与合作国际交流加强与其他国家和地区的交流与合作，共同推动生成式AI技术的发展技术交流开展技术交流活动，分享经验和技术成果，促进技术进步政策协调加强政策协调和沟通，共同应对生成式AI技术带来的全球性挑战32可持续发展与社会责任可持续发展与社会责任可持续发展推动生成式AI技术的可持续发展，促进经济、社会和环境的协调发展1社会责任鼓励企业在追求经济效益的同时，积极承担社会责任，关注社会发展和公共利益2伦理道德加强伦理道德教育，引导企业遵守伦理道德规范，维护行业形象和公信力333其他配套措施其他配套措施为生成式AI技术的发展提供法律支持，确保其合法权益得到保护为相关企业和项目提供资金扶持，推动其快速发展推动生成式AI技术与相关产业的协同发展，形成良性互动的产业生态法律支持资金扶持产业协同34违规行为处罚与责任追究违规行为处罚与责任追究违规行为处罚措施责任追究对于违反相关法规、政策和规定的生成式AI服务行为，进行严肃的处罚和责任追究包括但不限于警告、罚款、吊销许可证、限制从业等处罚措施对于造成严重后果的违规行为，依法追究相关责任人的法律责任35用户教育与引导用户教育与引导用户教育通过多种途径和方式，对用户进行生成式AI技术的教育和引导，提高其使用技能和素养引导措施制定引导措施，引导用户正确使用生成式AI服务，避免滥用和误用用户反馈鼓励用户对生成式AI服务提供反馈，帮助服务提供者改进和优化服务36技术创新与突破技术创新与突破技术创新1鼓励企业和研究机构在生成式AI技术领域进行技术创新和突破，推动技术进步和发展资金支持2为技术创新和突破提供资金支持和政策扶持，降低创新成本和风险人才培养3加强人才培养和引进，为技术创新提供人才保障37公共服务与社会福祉公共服务与社会福祉公共服务：将生成式AI技术