人工智能拟人化设计

汇报人：PPT日期：2026人工智能拟人化设计-禁止性行为规范国际合作与交流监督与执法应急响应与恢复持续改进与评估政策与法律调整数据共享与开放人才培养与引进其他重要议题目录跨领域合作与融合AI安全与防护总结与展望Id政策背景与适用范围政策背景与适用范围政策背景基于国家人工智能发展战略和风险防控需求，针对拟人化互动服务快速发展带来的伦理、安全和社会影响问题制定管理规范法律依据排除范围适用范围作为《网络安全法》《数据安全法》《个人信息保护法》等上位法的配套实施细则，聚焦拟人化服务特殊场景适用于境内提供的具有持续性情感互动特征的AI服务，包括模拟人格特征、思维模式和沟通风格的服务智能客服、知识问答、工作助手等不涉及持续性情感互动的服务不适用本规范Id基本原则与发展导向基本原则与发展导向发展原则创新支持应用拓展社会引导安全测试坚持安全与发展并重，实施包容审慎和分类分级监管鼓励算法、框架、芯片等核心技术自主创新，推进技术研发和标准建设支持文化传播、适幼照护、适老陪伴、特殊人群支持等领域的应用创新加强安全知识和法律法规宣传普及，提升公众人工智能素养推动人工智能沙箱平台建设，鼓励服务提供者接入进行安全测试Id禁止性行为规范禁止性行为规范国家安全：禁止生成危害国家安全、煽动分裂国家或破坏社会稳定的内容未成年人保护：禁止向未成年人提供可能影响其身心健康的不当内容身心健康：禁止鼓励自残自杀、语言暴力等损害用户身心健康的内容隐私保护：禁止诱导套取国家秘密、商业秘密和个人隐私信息伦理边界：禁止过度迎合诱导情感依赖或损害用户真实人际关系权益保障：禁止通过情感操纵诱导用户做出不合理决策损害合法权益Id服务运营核心规范服务运营核心规范1035124责任机制建立健全算法审核、伦理审查、内容管理、数据安全等制度风险处置对重大安全风险采取功能限制或停止服务等措施加强训练数据管理，落实数据产权制度，采取加密保护措施全周期管理明确服务部署、运行、升级、终止各阶段安全要求用户权益提供数据复制删除选项和便捷退出途径，健全申诉投诉机制数据安全Id特殊群体保护措施特殊群体保护措施1234未成年人保护：禁止提供虚拟亲属/伴侣服务，建立未成年人模式和安全提醒机制监护人权利：支持监护人接收风险提醒、了解使用概况、屏蔽特定角色和限制消费老年人保护：加强使用指导，显著提示风险，及时响应咨询求助评估要求：安全评估中重点评估未成年人和老年人保护措施建设情况Id安全评估与算法管理安全评估与算法管理评估情形服务上线或功能增设、技术重大变更、用户规模达标、存在重大风险时需评估算法备案按照算法推荐管理规定履行备案手续，接受年度核验评估内容包括安全保障措施、训练数据处理、应急处置能力、用户结构分析等变更管理算法发生重大变更时需及时更新备案信息Id技术研发与标准制定技术研发与标准制定研发支持：鼓励跨学科、跨领域合作，推动基础理论研究和技术创新开放平台：建设开放共享的AI开发平台，支持研究机构、企业和开发者进行技术测试和验证标准制定：参与国际标准、国家标准和行业标准的制定，推动AI伦理和技术标准的融合风险评估：建立人工智能技术风险评估体系，对新技术、新应用进行预判和防控

01

02

03

04Id教育、培训和公众参与教育、培训和公众参与教育普及培训提升公众参与宣传活动加强人工智能基础知识、法律法规和伦理道德的普及教育为从业者提供定期的AI技术、伦理和法律培训，提高其专业素养和责任感建立公众参与机制，鼓励用户反馈、监督和建议，提升透明度和公信力定期举办人工智能主题的宣传活动，提高公众对AI技术的认知和信任度Id国际合作与交流国际合作与交流01e7d195523061f1c0c30ee18c1b05f65d12b38e2533cb2ccdAE0CC34CB5CBEBFAEC353FED4DECE97C3E379FD1D933F5E4DC18EF8EA6B7A1130D5F6DE9DD2BE4B0A8C9126ACE5083D1F5A9E323B29CCFC7C592C3DE36010C775864093B1AE11BE7779DB11EA877BF5E93C7A894F3BEF923282315AE05C47AF469CA43A0F5CB487DFDD3FC124DFDF1BD合作倡议积极推动与其他国家和地区在AI伦理、安全等方面的交流与合作风险应对加强跨境数据流动和AI应用的安全风险监测和应对，共同应对全球性挑战经验分享分享中国在AI治理方面的经验和做法，学习借鉴国际先进理念和技术联合倡议与国际组织、国家和地区共同发起AI伦理和安全方面的倡议和标准制定020304Id监督与执法监督与执法01020304建立健全政府监管、行业自律和社会监督相结合的监督机制监督机制对违反本规范的行为进行查处，依法追究法律责任公开透明建立便捷的举报渠道，鼓励公众、企业和组织进行举报和监督举报渠道对重大案件的查处情况进行公开通报，接受社会监督执法行动Id技术审计与透明度技术审计与透明度风险警示对可能存在的安全风险和伦理问题进行预警和提示，确保用户知情权责任追溯确保AI系统的可追溯性，以便在出现问题时能够快速定位和纠正审计要求对AI系统的开发、训练、部署和运行进行定期的技术审计透明度提升公开AI系统的基本原理、算法、数据来源和训练过程，提高透明度Id应急响应与恢复应急响应与恢复建立24小时应急响应机制，确保在发生问题时能够迅速采取措施制定详细的恢复计划，确保在应急响应后能够迅速恢复正常运行建立24小时应急响应机制，确保在发生问题时能够迅速采取措施在发生安全事件或伦理问题时，及时通知用户并采取必要的补救措施Id持续改进与评估持续改进与评估定期评估：定期对AI系统的性能、安全、伦理等方面进行评估和改进用户反馈：建立用户反馈机制，收集用户对AI系统的意见和建议，不断优化用户体验监测技术：利用监测技术对AI系统的运行情况进行实时监测，及时发现潜在问题持续学习：基于用户反馈和监测结果，不断优化AI系统的算法和模型，提高其性能和可靠性

01

02

03

04Id政策与法律调整政策与法律调整政策动态：持续关注国家关于人工智能发展的政策动态，及时调整本规范以适应新政策要求法律更新：根据《网络安全法》、《数据安全法》、《个人信息保护法》等法律法规的更新，对规范进行相应的调整和补充风险预警：对可能出现的法律风险和政策风险进行预警和提示，确保服务提供者及时应对跨部门协作：与相关政府部门建立跨部门协作机制，共同应对AI领域的政策、法律和监管问题联合研究：支持开展国际联合研究项目，共同探索AI治理的解决方案和最佳实践培训交流：组织国际培训交流活动，提高全球范围内AI从业者的专业素养和伦理意识互认机制：探索与其他国家和地区建立AI治理的互认机制，减少重复审查和障碍共同倡议：积极参与国际人工智能治理的共同倡议，推动全球AI治理的协调与合作12345678Id数据共享与开放数据共享与开放开放数据集建立开放的数据集平台，提供高质量、可用的数据集供AI研究和开发使用利益共享在数据共享和开放中，确保数据提供者和使用者的合法权益得到保障，实现利益共享数据共享在确保数据安全和隐私的前提下，推动AI系统数据的共享和开放，促进技术创新和知识共享隐私保护在数据共享和开放过程中，严格遵守隐私保护法律法规，确保不泄露用户隐私信息Id人才培养与引进人才培养与引进05/20/202634教育体系推动高等教育和职业教育中增设AI相关课程，培养具有AI素养和伦理意识的人才人才引进制定吸引和引进国际AI领域顶尖人才和团队的优惠政策，提升我国AI治理水平实践机会为在校学生和从业人员提供参与AI项目和实际工作的机会，提高其实践能力和职业素养交流平台建立AI领域的交流平台，促进学术交流、合作研究和人才流动Id其他重要议题其他重要议题01030204在AI的设计、开发和应用中，确保不存在性别歧视和偏见，促进性别平等和包容性性别平等在AI的研发和应用中，考虑其对环境的影响，推动绿色和可持续的AI发展环境保护在AI领域推广伦理教育，提高从业者的伦理意识和责任感，确保AI技术健康发展伦理教育在AI的交互中，促进不同文化背景的用户之间的交流和理解，减少文化冲突和误解跨文化交流IdAI伦理审查与监督AI伦理审查与监督设立伦理审查委员会负责审查AI系统的设计、开发和应用是否符合伦理标准1定期审查对AI系统进行定期的伦理审查，确保其符合社会伦理和价值观2公众监督鼓励公众对AI系统的伦理问题进行监督和反馈，提高伦理审查的透明度和公信力3风险预警对可能存在的伦理风险进行预警和提示，确保及时纠正和改进4Id跨领域合作与融合跨领域合作与融合鼓励AI与其他领域如医疗、教育、交通等的跨界合作，推动技术创新和产业升级支持高校、研究机构和企业之间的学术合作，共同推进AI技术和伦理的深入研究与各行业建立合作机制，共同制定AI在各行业应用的标准和规范推动建立AI产业联盟，促进产业链上下游的紧密合作和资源共享01.跨界融合03.学术合作04.产业联盟02.行业合作IdAI安全与防护AI安全与防护漏洞扫描定期对AI系统进行漏洞扫描，及时发现和修复潜在的安全漏洞加密保护对AI系统的数据传输和存储进行加密保护，确保数据安全攻击防御建立攻击防御机制，对网络攻击、恶意软件等进行有效防御应急响应制定应急响应计划，对安全事件进行快速响应和处置IdAI与法律交叉问题AI与法律交叉问题法律责任明确AI系统在法律上的责任归属，包括设计者、开发者、使用者等的责任知识产权对AI系统的知识产权进行保护，包括算法、模型、数据等的版权和专利权法律适用在法律适用中，根据AI系统的特点和行为模式，合理运用现有法律法规进行监管和裁决法律解释对AI系统在执行任务时可能产生的法律问题进行解释和裁决，确保其符合法律规定IdAI与人类关系的重塑AI与人类关系的重塑信任建立通过透明度提升、责任明确和伦理规范等措施，建立用户对AI系统的信任01角色定位明确AI系统在人类社会中的角色和定位，避免其过度替代人类的工作和责任02教育引导通过教育引导，使公众正确认识AI系统的能力和局限性，避免过度依赖和误解04互助关系促进AI系统与人类之间的互助关系，共同应对复杂问题和挑战03IdAI与未来社会的展望AI与未来社会的展望智能生活展望AI在未来的生活中的应用，如智能家居、智能交通、智能医疗等，提高生活质量和便利性智慧城市推动AI在城市建设中的应用，如城市管