生成式AI服务管理规范

生成式AI服务管理规范演讲者：汇报时间：-总则服务规范附则用户权益保护附加条款知识产权保护监管技术创新国际标准参与促进开放与共享目录法律教育与宣传激励与扶持政策鼓励创新与探索总则第1章总则ABCD合规要求遵守法律法规及社会主义核心价值观，禁止生成危害国家安全、社会稳定的内容，防止歧视行为，尊重知识产权和个人权益适用范围向中国境内公众提供生成文本、图片、音频、视频等内容的服务，新闻出版、影视制作、文艺创作等另有规定的除外基本原则坚持发展和安全并重、促进创新与依法治理相结合，实行包容审慎和分类分级监管立法目的促进生成式AI健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益技术发展与治理第2章技术发展与治理创新支持鼓励生成式AI在各行业创新应用，构建生态体系，支持技术协作与国际合作基础设施推动自主技术研发，建设公共训练数据资源平台，促进算力资源共享，扩展高质量数据资源训练数据规范使用合法来源数据，保障知识产权和个人信息权益，提升数据真实性、准确性及多样性数据标注要求制定清晰标注规则，开展质量评估与人员培训，确保标注合法合规服务规范第3章服务规范责任主体用户管理内容标识违法处置投诉机制提供者需承担内容生产者责任及个人信息保护义务，与使用者签订服务协议明确服务适用场景，防范未成年人过度依赖或沉迷，保护用户输入信息及使用记录对生成的图片、视频等内容依法进行标识发现违法内容或行为时，需采取停止生成、限制功能等措施并上报主管部门建立便捷的投诉举报渠道，及时处理并反馈结果监督检查与法律责任第4章监督检查与法律责任违规行为依据相关法律处罚，构成犯罪则追究刑事责任处罚措施具有舆论属性或社会动员能力的服务需开展安全评估并履行算法备案安全评估网信、工信、公安等多部门依职责协同监管，制定分类分级规则监管分工对不符合规定的境外服务采取技术措施阻断境外服务处置01030204附则第5章附则施行时间自2023年8月15日起生效行政许可需取得许可的服务应依法办理，外商投资需符合相关法规术语定义明确生成式AI技术、服务提供者及使用者的含义服务提供者责任与义务第6章服务提供者责任与义务责任明确：服务提供者需对生成式AI服务的内容、行为及其可能产生的结果承担相应的法律责任数据安全保护：建立完善的数据安全保护制度，防止数据泄露、丢失和滥用，保护用户信息安全隐私政策：制定并公开隐私政策，明确收集、使用、存储个人信息的规则和目的，并经用户同意技术支持与维护：提供稳定、可靠的技术支持和维护服务，确保生成式AI服务的正常运行持续学习与改进：鼓励服务提供者持续进行技术学习和改进，提升服务质量用户权益保护第7章用户权益保护知情权选择权个人信息控制权投诉与维权用户有权选择使用或不使用生成式AI服务，并可随时更改设置或终止使用用户有权了解生成式AI服务的运行机制、可能产生的结果等信息用户如发现服务提供者存在违法违规行为，有权向相关部门投诉和维权用户有权控制其个人信息的收集、使用和共享，并要求服务提供者删除或更正不准确的信息社会参与与监督第8章社会参与与监督鼓励社会各界参与生成式AI服务的研发、应用和管理，提出意见和建议服务提供者应定期向社会公开其服务运行情况、技术进展、安全管理等信息建立多层次、多渠道的监督机制，包括政府监管、行业自律、社会监督等鼓励行业协会等组织制定行业自律规范，推动生成式AI服务的健康发展01.社会参与03.信息公开04.行业自律02.监督机制国际合作与交流第9章国际合作与交流加强与其他国家和地区的交流与合作，共同推动生成式AI技术的研发和应用国际合作技术标准参与制定国际技术标准，推动中国在生成式AI领域的国际话语权和影响力互利共赢倡导互利共赢的原则，促进全球生成式AI技术的创新和发展附加条款第10章附加条款本规范未尽事宜：按照国家有关法律法规执行01解释权归属相关监管部门02对于严重影响国家安全和社会公共利益的服务：相关主管部门可制定特殊规定并实施更为严格的监管措施03教育培训与人才培养第11章教育培训与人才培养

3,658

74%

30000教育培训鼓励和支持相关机构开展生成式AI技术教育培训，提高公众对生成式AI技术的认知和应用能力人才培养加强生成式AI领域的人才培养和引进，为产业发展提供人才保障行业交流鼓励企业和高校之间进行产学研合作，促进技术交流和成果转化内容安全与健康第12章内容安全与健康1.2.3.内容审查健康使用引导教育建立内容安全审核机制，对生成的内容进行事先审查，防止违法违规内容的产生和传播倡导合理使用生成式AI服务，防止过度依赖或沉迷，保护用户身心健康通过媒体和公共教育等途径，引导公众正确认识和使用生成式AI服务知识产权保护第13章知识产权保护知识产权尊重服务提供者应尊重他人的知识产权，不得侵犯他人的著作权、专利权等合法权益知识产权声明在提供服务时，应明确标示使用内容的知识产权信息及原作者信息侵权处理对于发现的侵权内容，服务提供者应立即停止传播并采取删除、屏蔽等必要措施应急处置与风险评估第14章应急处置与风险评估1应急处置：建立应急处置机制，对突发事件进行快速响应和处理，确保服务稳定运行风险评估：定期进行风险评估，识别潜在的安全风险和隐患，采取有效措施进行防范和应对灾备恢复：建立灾备恢复机制，确保在发生突发事件时能够快速恢复服务运行23法律责任与处罚措施第15章法律责任与处罚措施违反本规范的行为，依法承担相应的法律责任法律责任01对于违反本规范的行为，视情节轻重，采取警告、罚款、暂停服务、吊销相关证照等处罚措施处罚措施02构成犯罪的，依法追究刑事责任刑事责任03附则第5章附则010302本规范的解释权归相关部门所有对于与本规范相抵触的其它规定：以本规范为准本规范自发布之日起实施：并根据需要适时进行修订跨境服务与合作第17章跨境服务与合作

3,658

74%

30000跨境服务鼓励和支持中国生成式AI服务提供商与国外机构开展跨境合作，推动全球资源共享和技术交流跨境合规服务提供者应了解并遵守国外的相关法律法规，确保跨境服务合法合规风险评估与预警建立跨境服务风险评估和预警机制，及时识别和应对潜在风险监管技术创新第18章监管技术创新监管技术升级：运用大数据、人工智能等新技术手段，提升对生成式AI服务的监管能力和水平实时监控：建立实时监控系统，对生成式AI服务的运行进行实时跟踪和监控智能分析：运用机器学习和人工智能算法，对生成内容进行智能分析和识别，及时发现和处置违法违规内容用户教育与引导第19章用户教育与引导用户教育：开展用户教育，提高用户对生成式AI服务的认知和使用能力引导使用：引导用户合理使用生成式AI服务，避免过度依赖和滥用用户反馈：建立用户反馈机制，及时收集和处理用户对服务的意见和建议国际标准参与第20章国际标准参与积极参与国际标准制定，推动生成式AI技术的国际标准化进程国际标准制定推动与其他国家或地区在标准方面的互认，促进国际合作和交流标准互认积极推动全球治理体系的完善，为生成式AI技术的发展和应用提供良好的国际环境推动全球治理数据安全与保护第21章数据安全与保护1数据安全：加强数据安全保护，建立完善的数据安全保护机制，确保生成式AI服务的数据安全数据备份：对重要数据进行备份，防止数据丢失和损坏隐私保护：严格保护用户隐私，确保用户数据不被非法获取、泄露和滥用23社会责任与道德规范第22章社会责任与道德规范公益活动鼓励开展公益性质的生成式AI服务，为弱势群体提供帮助和支持道德规范遵循道德规范，不得利用生成式AI技术从事违法违规、有悖伦理的活动社会责任生成式AI服务提供者应积极承担社会责任，推动技术服务于社会公共利益技术支持与培训第23章技术支持与培训01技术支持为使用生成式AI服务的用户提供必要的技术支持和培训，帮助其更好地使用服务02培训计划制定培训计划，提高用户的技术水平和应用能力03开放平台开放生成式AI服务平台，为开发者提供开发工具和接口，促进技术创新和应用拓展持续改进与评估第24章持续改进与评估持续改进根据用户反馈和监管要求，持续改进生成式AI服务的质量和性能评估机制建立评估机制，对生成式AI服务的运行效果进行定期评估和监测反馈机制建立用户反馈机制，及时收集用户对服务的意见和建议，为持续改进提供依据工作总结汇报促进开放与共享第25章促进开放与共享开放合作鼓励开放合作，促进生成式AI技术的交流与合作，推动技术进步和创新共享资源推动资源共享，为各行业提供优质的生成式AI服务资源创新驱动以创新为驱动，推动生成式AI技术的研发和应用，为经济社会发展提供支持工作总结汇报加强技术研发与创新第26章加强技术研发与创新研发投入人才培养跨界合作加大对生成式AI技术的研发投入，推动技术创新和突破培养和引进高水平的科技人才，为技术研发提供人才保障鼓励跨界合作，促进生成式AI技术与各行业的深度融合服务质量监控与评估第27章服务质量监控与评估监测系统评估标准结果反馈建立服务质量监测系统，对生成式AI服务的性能、稳定性、可用性等方面进行实时监测制定服务质量评估标准，对服务提供者的服务质量进行定期评估将评估结果及时反馈给服务提供者，促使其改进服务质量法律教育与宣传第28章法律教育与宣传10法律教育开展法律教育，提高公众对生成式AI服务相关法律法规的认知和理解110宣传活动组织宣传活动，普及生成式AI服务的知识和技能，提高公众的防范意识210法律咨询提供法律咨询服务，为用户解决与生成式AI服务相关的问题提供帮助3激励与扶持政策第29章激励与扶持政策政策支持政府制定激励与扶持政策，鼓励生成式AI技术的研发和应用资金扶持提供资金扶持，支持生成式AI服务提供者进行技术创新和产品研发税收优惠对符合条件的生成式AI服务提供者给予税收优惠政策，降低其运营成本国际交流与合作机制第30章国际交流与合作机制合作机制国际交流信息共享共享生成式AI技术的研发和应用信息，推动技术进步和创新建立国际合作机制，促进生成式AI技术的国际交流与合作加强与其他国家和地区的交流与合作，共同推动生成式AI技术的发展和应用强化伦理道德与职业责任第31章强化伦理道德与职业责任公众教育伦理指南职业操守制定生成式AI的伦理指南，明确服务提供者及使用者的道德责任培养并监督从业者的职业操守，确保其遵循行业规范和道德标准持续开展公众教育，提高公众对伦理道德和职业责任的认识信息安全与数据保护技术第32章信息安全与数据保护技术研发和应用先进的信息安全技术，保障生成式AI服务的数据安全对敏感数据进行加密处理，防止数据在传输和存储过程中被非法获取建立严格的访问控制机制，确保只有授权用户才能访问敏感数据安全技术数据加密访问控制倡导诚信自律，维护行业秩序第33章倡导诚信自律，维护行业秩序行业自律诚信经营行业监督倡导诚信经营，打击虚假宣传和不正当竞争行为建立行业监督机制，对违规行为进行查处和惩戒鼓励行业协会和企业自觉遵守行业规范，维护良好的行业秩序应急处理与危机管理第34章应急处理与危机管理加强危机管理，提高服务提供者应对危机的能力和水平风险评估定期进行风险评估，及时发现和解决潜在的安全风险和隐患制定生成式AI服务的应急预案，明确应对突发事件的措施和流程应急预案危机管理推动产业融合与发展第35章推动产业融合与发展鼓励探索生成式AI技术的新应用领域，拓展其应用范围产业链建设加强产业链建设，推动上下游企业的合作与协同发展促进生成式AI技术与各产业的融合，推动产业升级和发展产业融合应用拓展完善监管体系与机制第36章完善监管体系与机制建立完善的监管体系，对生成式AI服务进行全面监管监管体系制定科学的监管机制，确保监管工作的有效开展监管机制加强跨部门协作，形成监管合力，提高监管效率跨部门协作鼓励创新与探索第37章鼓励创新与探索试验区建设建立试验区，为新技术、新应用的试验和推广提供平台创新支持为生成式AI技术的创新提供支持和资源，鼓励探索新的应用领域和技术方向开放创新鼓励开放创新，促进不同主体之间的交流与合作，推动生成式AI技术的进步加强国际交流与合作第38章加强国际交流与合作国际交流积极开展国际技术交流与合作，学习借鉴国际先进经验和技术成果合作项目推动生成式AI领域的国际合作项目，共同推动技术发展和应用互认机制建立国际互认机制，促进不同国家之间在生成式AI服务方面的互信和合作推进标准化与认证工作第39章推进标准化与认证工作认证机制建立生成式AI服务的认证机制，确保服务质量和技术水平标准制定积极参与制定生成式AI技术的国际标准和国家标准标准化推广推动生成式AI技术的标准化工作，促进技术应用的规范化和普及化保护知识产权与创新成果第40章保护知识产权与创新成果知识产权保护成果转化创新奖励加强生成式AI技术的知识产权保护，鼓励创新和研发推动生成式AI技术的成果转化，促进技术应用于实际生产和生活中设立创新奖励机制，对在生成式AI技术领域做出突出贡献的单位和个人给予奖励和表彰建立用户权益保障机制第41章建立用户权益保障机制用户权益明确用户在使用生成式AI服务过程中的权益，包括但不限于知情权、选择权、隐私权等保障措施制定用户权益保障措施，确保用户的合法权益得到保障投诉处理建立用户投诉处理机制，及时处理用户投诉和纠纷，维护用户权益推动绿色发展与可持续发展第42章推动绿色发展与可持续发展86绿色发展：鼓励采用环保、节能的技术和设备，推动生成式AI服务的绿色发展1可持续发展：关注生成式AI技术的长期发展，推动其与社会、经济、环境的协调发展2资源利用：提高资源利用效率，降低能耗和排放，实现可持续发展3构建安全可信的算力网络第43章构建安全可信的算力网络算力安全数据传输网络管理保障算力网络的安全性和可靠性，防止算力被非法占用或攻击加强数据传输过程中的安全保护，确保数据在算力网络中的安全传输建立算力网络的管理机制，对网络进行实时监控和管理，确保其稳定运行加强行业自律与监管第44章加强行业自律与监管自律规范监管力度公众监督制定行业自律规范，明确行业行为准则和道德规范加大监管力度，对违反行业规范和法律法规的行为进行查处和惩戒鼓励公众对行业进行监督，提高行业的透明度和公信力促进教育与科研的融合第45章促进教育与科研的融合科研合作加强高校、研究机构与企业之间的合作，共同开展生成式AI技术的科研工作教育支持鼓励教育机构将生成式AI技术纳入教学内容，培养相关人才学术交流举办学术交流活动，促进生成式AI技术的学术交流和思想碰撞建立风险评估与应对机制第46章建立风险评估与应对机制风险评估对生成式AI服务进行风险评估，及时发现和解决潜在问题应对策略制定风险应对策略，确保在遇到风险时能够及时、有效地应对应急预案建立应急预案，对可能出现的风险进行预先规划和准备推动跨界融合与创新应用第47章推动跨界融合与创新应用跨界合作创新应用应用推广鼓励生成式AI技术与各行业的跨界融合，推动产业升级和创新发展探索生成式AI技术的新应用领域，推动其在实际生产和生活中的广泛应用加强应用推广，提高生成式AI技术的知名度和影响力加强信息安全保障体系建设第48章加强信息安全保障体系建设安全体系建立完善的信息安全保障体系，确保生成式AI服务的数据安全安全技术采用先进的安全技术，防止数据泄露、篡改和非法访问安全培训开展安全培训，提高员工的信息安全意识和技能鼓励公众参与和监督第49章鼓励公众参与和监督公众参与鼓励公众参与生成式AI服务的开发和管理工作，提出意见和建议信息公开公开相关信息，保障公众的知情权和监督权监督渠道建立监督渠道，接受公众的监督和投诉推动国际法规与标准的统一与协调第50章推动国际法规与标准的统一与协调标准统一促进各国在生成式AI技术标准上的统一和协调，推动技术的全球化应用国际法规积极参与制定国际法规，推动生成式AI技术的国际法规与标准的统一与协调交流合作加强与国际组织的交流与合作，共同推动生成式AI技术的发展和应用强化技术伦理与责任教育第51章强化技术伦理与责任教育伦理教育开展技术伦理教育，培养服务提供者和使用者的伦理责任感责任落实明确各方的责任和义务，确保技术使用符合伦理和法律要求社会责任鼓励企业承担社会责任，关注技术对社会、环境和经济的影响完善服务质量和用户体验评价机制第52章完善服务质量和用户体验评价机制评价标准制定服务质量和用户体验的评价标准，明确评价内容和方法用户反馈建立用户反馈机制，及时收集用户对服务质量和用户体验的评价和意见持续改进根据用户反馈和评价结果，持续改进服务质量和用户体验促进可持续发展与绿色计算第53章促进可持续发展与绿色计算推动生成式AI服务的节能减排，降低能源消耗和碳排放采用绿色计算技术，提高计算效率和资源利用率培养员工的环保意识，推动企业在业务发展中关注环保和社会责任绿色计算节能减排环保意识强化国际合作与交流平台建设第54章强化国际合作与交流平台建设合作项目推动国际合作项目，共同开展生成式AI技术的研究和应用交流平台建立国际交流平台，促进各国在生成式AI技术领域的交流与合作信息共享加强信息共享，促进各国在生成式AI技术方面的知识和经验交流建立数据安全与隐私保护的长效机制第55章建立数据安全与隐私保护的长效机制安全策略制定数据安全策略，确保生成式AI服务的数据安全隐私保护加强隐私保护，确保用户数据不被非法获取、泄露和滥用持续监督持续监督数据安全和隐私保护措施的实施情况，确保长效机制的有效运行加强人才队伍建设与培养第56章加强人才队伍建设与培养人才培养人才引进人才交流积极引进国内外优秀人才，推动生成式AI技术的研发和应用加强人才交流与合作，促进人才队伍的健康发展加强生成式AI技术的人才培养，提高人才队伍的素质和能力推动开放创新与跨界融合发展第57章推动开放创新与跨界融合发展开放创新跨界合作创新生态加强跨界合作，推动生成式AI技术在各行业的广泛应用构建良好的创新生态，促进生成式AI技术的持续发展和应用鼓励开放创新，促进生成式AI技术的开放共享和跨界融合建立健全信息安全保障体系第58章建立健全信息安全保障体系安全技术保障运用最新的安全技术手段，如加密技术、身份验证等，保障生成式AI服务的信息安全安全管理制度建立完善的安全管理制度，包括数据保护、访问控制、安全审计等，确保信息安全有章可循应急响应机制制定应急响应计划，对可能发生的信息安全事件进行快速、有效的应对推动生成式AI的透明度与可解释性第59章推动生成式AI的透明度与可解释性透明度提升提高生成式AI服务的透明度，使用户和其他相关方能够理解其工作原理和决策过程可解释性研究开展可解释性研究，为用户提供易于理解的服务结果解释和说明用户参与鼓励用户参与生成式AI服务的开发和改进过程，提高服务的可解释性和用户满意度强化法律法规与政策支持第60章强化法律法规与政策支持法律法规制定制定和完善相关法律法规，为生成式AI服务的管理提供法律支持政策扶持政府提供政策扶持，如税收优惠、资金支持等，鼓励生成式AI技术的研发和应用监管政策研究研究制定适应生成式AI服务的监管政策，确保其健康发展加强国际交流与合作，推动全球治理第61章加强国际交流与合作，推动全球治理开展国际合作项目，共同推动生成式AI技术的研发和应用合作项目参与全球治理，推动制定国际通用的生成式AI技术标准和规范全球治理加强与其他国家和地区的交流，分享生成式AI技术的研发和应用经验国际交流推动教育与产业深度融合第62章推动教育与产业深度融合教育改革1改革教育体系，将生成式AI技术纳入教育内容，培养具备创新精神和实践能力的人才产业融合2促进教育与产业的深度融合，推动生成式AI技术在各行业的广泛应用产教协同3建立产教协同机制，促进教育机构与企业之间的合作与交流构建多层次、多元化的服务供给体系第63章构建多层次、多元化的服务供给体系建立服务质量评估体系，对服务提供者的服务质量进行评估和监督服务质量评估鼓励服务提供者进行服务创新，满足用户不断变化的需求服务创新根据不同需求，提供多层次、多元化的生成式AI服务服务层次加强知识产权保护与技术转移转化第64章加强知识产权保护与技术转移转化知识产权保护加强生成式AI技术的知识产权保护，鼓励创新和研发