《健全治理体系 推动我国人工智能健康有序发展》课件

面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展习近平2025年4月25日在二十届中央政治局第二十次集体学习时的讲话建立健全人工智能技术监测、风险预警、应急响应体系，强化政府引导、行业自律，坚持包容审慎、分类分级，加快形成动态敏捷、多元协同的人工智能治理格局。《国务院关于深入实施“人工智能+”行动的意见》一全球人工智能发展与治理态势人工智能发展进入新浪潮（一）新一轮人工智能浪潮呈现四方面主要特征在技术性能上，领先模型的能力不断逼近甚至超越人类水平在推动主体上，科技企业成为主导性力量在算力效能上，成本革命为加速应用落地提供基础在发展路线上，开源、闭源等多种路线交叉融合人工智能竞赛进入白热化，激烈竞争进一步凸显全球治理赤字（二）主要经济体围绕核心创新要素展开激烈争夺全球技术竞争加剧发展中国家在治理对话中的地位失衡人工智能风险进入显现期，三大维度风险提升治理紧迫性（三）人工智能技术内生安全风险日益突出1内生风险主要指人工智能系统自身所存在的风险，包括数据、框架、模型等自身安全带来的风险问题。在训练数据层面，人工智能技术突破和应用落地依赖于大量、多样化的数据在算法模型层面，现阶段算法技术还存在黑箱、幻觉等多重缺陷，引发安全风险人工智能应用外溢安全风险日益凸显2一是在技术滥用方面，斯坦福《2025人工智能指数报告》指出，根据AI事件数据库统计，2024年相关危害事件达233起，较2023年暴增56.4%二是在产业应用方面，AI规模化部署伴随着多样化产业安全风险三是在科技伦理层面，AI在特定领域应用引发伦理争议，甚至已产生现实危害人工智能重塑经济社会的系统性风险逐步积聚3一是就业冲击风险二是能源环境风险三AI失控风险二各国人工智能风险研判和治理路径选择美国以维护技术霸权为主要目标，放松监管同时仍关注部分关键领域风险（一）美国在人工智能领域的断层式领先地位受到中国挑战，特朗普政府将维护技术霸权、占领全球市场作为主要政策目标，因此采取放松监管、加速技术扩散的政策导向。随着我国Deepseek、华为等企业在模型、算力等领域加速赶超，特别是Deepseek模型的深度开源吸引各国应用，中美技术和影响力差距迅速缩小。放松监管政策遭遇州层面立法反弹，特朗普政府采取多种方式意图压制州级监管权。特朗普政府放松监管意在减轻AI企业合规负担、确保创新激励，但仍采取措施保障部分重点领域安全。《美国AI行动计划》对如何防范部分AI关键风险进行了部署在关键基础设施、就业等领域，提高政府的风险应对能力在内容安全、生物安全等领域，压实AI使用者主体责任欧盟意图将在数据治理领域的“布鲁塞尔效应”延续到AI治理领域，欧委会在多方压力下坚持推进监管落地（二）欧盟在人工智能领域与中美的差距再次拉大多方施压欧盟要求暂缓《人工智能法案》落地欧委会坚持推进《人工智能法案》抢占治理规则主导权我国坚持发展与安全并重，不断推进人工智能监管制度机制建设（三）人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控习近平2025年4月25日在二十届中央政治局第二十次集体学习时的讲话《新一代人工智能发展规划》到2020年部分领域的人工智能伦理规范和政策法规初步建立到2025年形成人工智能安全评估和管控能力到2030年建成更加完善的人工智能法律法规、伦理规范和政策体系我国人工智能治理自2017年起至今经历了三个阶段，体现出急用先行的治理特点部门规章方面各部门围绕产业发展和风险治理出台多项人工智能标准，为企业合规提供具体指引标准方面我国形成监管备案、伦理审查和安全框架三个维度相互独立又紧密关联，各有侧重但相辅相成的制度保障体系实践方面企业和专业机构等发挥技术治理优势，形成多元协同共治生态圈行业层面三人工智能治理重点问题作为“智能向善”的关键指引受到高度关注，多种应对措施均需优化（一）伦理治理科技伦理人工智能的伦理风险在价值判断上具有复杂性，在治理工作中需考虑技术的不确定性。对于人工智能的伦理治理实践，主要经济体落地方式差异较大，不同方式各有不足。我国人工智能伦理治理工作逐步落地，仍需进一步加强问题导向性和伦理专业性。开源模式在提升透明度的同时也增加了治理复杂性，亟需完善开源治理能力（二）开源治理对于人工智能治理，开源模式下社区协作可以提升治理效率，但技术创新效率、应用落地速度和广度的提升也对治理提出更高要求。开源模式通过以下三重机制增加了治理复杂性一是开源模式大幅降低开发、部署和使用AI的门槛，在推动应用加速普及的同时也增加了被滥用的风险二是开源的去中心化特性使开源模型开发者的生态掌控力下降，责任划分的复杂性提升三是对全球开源社区创新成果的广泛吸纳，在提高创新效率的同时也增加了供应链风险目前，各国为促进人工智能发展应用，多对开源模型的监管采取相对较为包容的态度，重点从AI滥用角度防控相关风险。我国开源人工智能发展水平较高，仅依靠开源社区对治理的正向作用难以满足风险防范要求。通用人工智能日益迫近，政府需统筹引导多元主体共同推进治理（三）前沿治理前沿人工智能逐步接近通用人工智能（AGI）水平，开始显现从根本上改变经济社会架构的潜力。多元主体对监管必要性出现争议，学界积极呼吁各方需高度关注前沿风险，但政界、业界呈现竞争性安全松绑的态势。部分国家对前沿人工智能治理做出制度探索，但其科学性和可行性受到技术迅速演化的较大影响。前沿人工智能的技术难度高，创新速度快，应用形态仍在不断演化，由此带来两大治理挑战第一，治理工具开发难、争议大第二，技术迅速演化导致治理工具适应性降低快对于前沿人工智能治理，需统筹引导多元主体，共同推动前沿人工智能治理。多因素加大全球AI治理协调的难度，我宜加强国际公共产品供给（四）国际治理人工智能是历史上第一个同时满足军民两用、易于传播、潜在破坏性巨大三个条件的技术，人工智能技术的扩散将在全球造成全新的战略挑战。尽管我国积极参与全球治理体系建设，但多个重要机制由多边向多方转变，我需加快适应与应对。四构建包容性、适应性的敏捷监管体系人工智能技术的三重特性决定实施敏捷监管是更好统筹发展与安全的必然选择第一，高速迭代性第二，通用目的性第三，战略关键性加快构建更具敏捷性、适应性、预见性的人工智能监管体系，需从四方面重点着力第一，加强由“小切口”突破的重点式监管第二，建立制度加速迭代的适应性监管第三，完善多元协同的包容性治理第四，优化“以技治技”的智慧监管加快人工智能伦理治理落地实施1一是建立健全伦理治理制度体系二是加强重点应用场景伦理治理三是完善伦理合规标准体系与评估机制四是推动伦理治理行业自律推动构建开源AI生态治理体系2一是完善开源治理领域顶层设计二是构建全链条滥用风险防控机制三是提升