《人工智能技术应用带来的风险挑战与治理路径》课件

主要内容一二三四全球人工智能产业发展与变革影响人工智能发展应用带来的风险挑战全球主要经济体人工智能治理图景全球AI治理的三重转向及未来展望一全球人工智能产业发展与变革影响技术演进：人工智能从决策式AI到生成式AI（

AIGC）

的跨越式发展主要侧重于数据分析和模式识别，用于辅助人类做出决策。决策式AI借助Transformer架构等技术，不仅可以理解数据，还能创造出新的信息和模式，实现了从简单感知到内容创造的跃迁。生成式AI包含数百亿到数千亿个参数的大规模预训练模型AI大模型AI大模型的三个主要特征规模可扩展性强·参数规模、计算量和训练数据增加可带来模型性能持续提升多任务适应性强·一个模型能同时支持多种任务和多个模态，甚至实现跨模态能力可塑性强·通过模型微调、思维链提示等措施可实现能力进一步增强AI从感知智能迈向自主执行阶段感知能力：向多模态、全模态感知深入推理和代理能力：向自主决策、高效协作迈进情感计算能力：向可信赖社交关系跃升《国务院关于深入实施“人工智能+”行动的意见》“人工智能+”科学技术“人工智能+”产业发展“人工智能+”消费提质“人工智能+”民生福祉“人工智能+”治理能力“人工智能+”全球合作《国务院关于深入实施“人工智能+”行动的意见》到2027年，率先实现人工智能与6大重点领域广泛深度融合，新一代智能终端、智能体等应用普及率超70%到2030年，我国人工智能全面赋能高质量发展，新一代智能终端、智能体等应用普及率超90%到2035年，我国全面步入智能经济和智能社会发展新阶段，为基本实现社会主义现代化提供有力支撑变革影响一作为通用目的技术，成为底层基础设施变革影响二作为新型生产工具，革新内容生产方式变革影响三作为强智能应用，革新人机交互形式二人工智能发展应用带来的风险挑战全人类数据

框架

模型

芯片算力

网络

应用服务隐私

生命财产

伦理政治

文化经济

军事网络空间可控可持续技术系统国家社会个人组织人工智能风险图层内生安全应用安全场景难限定产业链渗透跨地域扩散个人层面：AI滥用、误用导致风险事件频发经济社会层面：就业等风险已经产生现实冲击全人类层面：潜在极端风险日益成为现实可能三全球主要经济体人工智能治理图景国别治理：各国监管模式体现差异性国家/区域美国英国中国欧盟德国治理思路弱监管弱监管统筹发展和安全重监管重监管1美国：特朗普政府人工智能治理逻辑发生深刻战略重塑《关于安全、可靠和可信地开发和使用人工智能的行政命令》“大而美”法案2026年3月，特朗普签署《国家人工智能立法框架》。“Mythos效应”提升前沿模型监管紧迫性，驱动美国监管转向2欧盟：人工智能监管体系已正式确立“布鲁塞尔效应”欧盟《人工智能法案》不可接受风险高风险有限风险低风险2026年5月7日，欧洲议会与欧盟理事会就《人工智能法案》简化修订方案达成临时政治协议，通过延后合规时限、优化监管细则、放宽企业豁免等举措，为

AI

产业创新发展松绑，也为全球AI治理提供新参考。3日韩等国立法宗旨各有不同4新加坡：非强制性工具与动态指南5我国高度重视推动人工智能健康有序发展党的二十届四中全会完善生成式人工智能发展和管理机制建立人工智能安全监管制度加强人工智能治理党的二十届三中全会发展规划：央地同步探索法律规制：四类立法形态并行（碎片式立法、地方立法、行业立法、小切口立法）科技伦理：对内对外两层体系《人工智能科技伦理审查与服务办法（试行）》《互联网新闻信息服务新技术新应用安全评估管理规定》《生成式人工智能服务管理暂行办法》《中国关于加强人工智能伦理治理的立场文件》《科技伦理审查办法（试行）》《人工智能科技伦理审查与服务办法（试行）》四全球AI治理的三重转向及未来展望转向一：

从注意力经济向执行力经济的治理转向智能体能够感知环境并利用工具采取行动，以实现特定目标的代理，以大模型为智能底座，具备自主感知、理解、规划、决策、记忆、行动和使用工具的能力，能够自动化执行复杂任务，具有自主性、交互性、反应性、适应性等基本特征。智能体带来的风险挑战自主性带来的失控风险数据全局调用对用户隐私的深度威胁重构互联网竞争格局《智能体规范应用与创新发展实施意见》转向二：从安全治理向伦理治理的深化《人工智能拟人化互动服务管理暂行办法》数字人格防止沉迷依赖生命健康第十六条 拟人化互动服务提供者应当依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全。除法律另有规定或者权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项，用户可以选择对聊天记录等历史交互数据进行复制、删除等。除法律、行政法规另有规定或者取得用户单独同意外，拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。《人工智能拟人化互动服务管理暂行办法》防止沉迷依赖透明度告知义务（事前）中断冷却提醒（事中）自由退出权利（事后）《数字虚拟人信息服务管理办法（征求意见稿）》优化数字虚拟人场景下的“知情同意”落地方式要求全程显著标识“数字人”，防止混淆数字人与AI生成的场景等其他内容杜绝生成高度相似，但不完全相同的数字人的“擦边球”行为对服务使用者责任作出详细规定，真正实现全链条责任闭环转向三：从虚拟空间向物理世界的治理深化加快构建以人为本、人机协同、多元共治