《人工智能高质量发展的法治保障与趋势动向》课件

主要内容一人工智能技术产业发展态势与法治保障二我国以政策法规保障人工智能健康发展三国际社会人工智能立法趋势与主要做法四人工智能发展与规范的法治完善建议人工智能技术产业发展态势与法治保障一2022年11月ChatGPT上线，代表着AI技术从感知、理解世界到生成、创造世界的跃迁。2025年初以来，DeepSeek通过深度开源模式推动AI领域新一轮技术研发与应用热潮。DeepSeek凭借技术开源、成本优化与全球协作，引领人工智能产业迈向高效创新与普惠应用的新阶段技术角度深度开源打破算力依赖市场格局用户与应用数量爆发式增长国际影响加速我国产品全球技术渗透人工智能成为发展新质生产力的重要引擎中国高度重视人工智能发展，积极推动互联网、大数据、人工智能和实体经济深度融合，培育壮大智能产业，加快发展新质生产力，为高质量发展提供新动能。习近平2024年6月20日向2024世界智能产业博览会所致的贺信人工智能推动生产方式深刻变革人工智能赋能各行各业形成新质生产力人工智能塑造新型劳动者形成新质生产力完善推动新一代信息技术、人工智能、航空航天、新能源、新材料、高端装备、生物医药、量子科技等战略性产业发展政策和治理体系加强网络安全体制建设，建立人工智能安全监管制度2025年《政府工作报告》持续推进“人工智能+”行动大力发展智能网联新能源汽车、人工智能手机和电脑、智能机器人等新一代智能终端以及智能制造装备人工智能技术快速发展的同时，风险事件同步增加隐私和数据系统可靠性系统安全透明度公平性人工智能的五大风险人工智能治理需要积极发挥法治的保障作用以制度刚性固根本以规则确定性稳预期以良法善治利长远法治人工智能治理法治化成为全球趋势欧盟综合性立法：《人工智能法案》美国综合性人工智能立法提案特定主题的人工智能立法提案行政命令中国《生成式人工智能服务管理暂行办法》我国人工智能存在发展问题和应用风险在发展层面，例如人工智能辅助内容生成的版权确权与侵权问题在实践中困扰创新主体我国人工智能存在发展问题和应用风险在应用层面，例如人工智能应用已然引发人格权、人身权等实际问题我国人工智能存在发展问题和应用风险在应用层面，关于人工智能对就业的冲击等问题也出现爆发式讨论国家对人工智能法治作出明确部署和要求重视人工智能发展与规范完善推动新一代信息技术、人工智能、航空航天、新能源、新材料、高端装备、生物医药、量子科技等战略性产业发展政策和治理体系加强网络安全体制建设，建立人工智能安全监管制度完善生成式人工智能发展和管理机制统筹立改废释纂，加强重点领域、新兴领域、涉外领域立法2025年1月召开的中央政法工作会议指出，对存在时间差、空白区的要推动“立”。比如，要研究无人驾驶、低空经济、人工智能、虚拟货币、数据权属等新问题。国家对人工智能法治作出明确部署和要求部署人工智能立法工作2023年10月发布的《全球人工智能治理倡议》提出：“逐步建立健全法律和规章制度，保障人工智能研发和应用中的个人隐私与数据安全，反对窃取、篡改、泄露和其他非法收集利用个人信息的行为。”《十四届全国人大常委会立法规划》提出要“推进科技创新和人工智能健康发展”。《全国人大常委会2024年度立法工作计划》提出“研究包括……网络治理和人工智能健康发展等方面的立法项目，由有关方面抓紧开展调研和起草工作，视情安排审议”。《国务院2024年度立法工作计划》提出“预备提请全国人大常委会审议人工智能法草案”。我国以政策法规保障人工智能健康发展二人工智能政策法规体系的构建持续推动出台人工智能产业促进政策人工智能政策法规体系的构建构建良好的立法基础人工智能政策法规体系的构建推动形成智能向善的人工智能治理主张我国密集出台人工智能产业政策（一）“1”：顶层设计国务院：《新一代人工智能发展规划》工信部：《促进新一代人工智能产业发展三年行动计划（2018—2020年）》教育部等三部委：《关于“双一流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见》科技部：《科技部关于支持建设新一代人工智能示范应用场景的通知》工信部等四部门：《国家人工智能产业综合标准化体系建设指南（2024版）》“N”：部委政策加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等《新一代人工智能发展规划》重点围绕自动驾驶、服务机器人等应用基础较好的细分领域，加快研究制定相关安全管理法规，为新技术的快速应用奠定法律基础开展人工智能行为科学和伦理等问题研究，建立伦理道德多层次判断结构及人机协作的伦理框架制定人工智能产品研发设计人员的道德规范和行为守则，加强对人工智能潜在危害与收益的评估，构建人工智能复杂场景下突发事件的解决方案《新一代人工智能发展规划》《新一代人工智能发展规划》积极参与人工智能全球治理，加强机器人异化和安全监管等人工智能重大国际共性问题研究，深化在人工智能法律法规、国际规则等方面的国际合作，共同应对全球性挑战初步构建多层次多维度的人工智能法律体系（二）对人工智能的共性问题出台了法律法规1《中华人民共和国网络安全法》《中华人民共和国电子商务法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《网络数据安全管理条例》当前，数据资源成为人工智能尤其是大模型发展中最核心、最基础的要素。模型训练阶段收集个人信息《中华人民共和国网络安全法》规定，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意《中华人民共和国个人信息保护法》对使用个人信息的合法性基础进行了规定爬取网络数据使用版权数据《中华人民共和国著作权法》以列举方式规定了十二种属于合理使用的情形，并设置兜底条款《中华人民共和国数据安全法》规定应当采取合法、正当的方式收集数据，不得窃取或者以其他非法方式获取数据《中华人民共和国反不正当竞争法》设置“商业道德”兜底条款模型应用阶段《中华人民共和国数据安全法》规定了数据安全保护义务，开展数据处理活动应当依照法律、法规的规定，建立健全全流程数据安全管理制度，组织开展数据安全教育培训，采取相应的技术措施和其他必要措施，保障数据安全《中华人民共和国个人信息保护法》规定，处理个人信息应当遵循合法、正当、必要和诚信原则，不得通过误导、欺诈、胁迫等方式处理个人信息针对应用的重点领域和场景出台了多项管理规定2伦理规范“小快灵”规定《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》《中国关于加强人工智能伦理治理的立场文件》《中国关于规范人工智能军事应用的立场文件》《全球人工智能治理倡议》《人工智能生成合成内容标识办法》典型场景地方法律政策《深圳经济特区人工智能产业促进条例》《上海市促进人工智能产业发展条例》《北京市促进通用人工智能创新发展的若干措施》自动驾驶领域智慧医疗领域人脸识别领域（1）重点规范人工智能的伦理问题组织机构纲领意见《关于加强科技伦理治理的意见》国家科技伦理委员会管理规定重点领域2023年，工业和信息化部正式成立工业和信息化部科技伦理委员会、工业和信息化领域科技伦理专家委员会《科技伦理审查办法（试行）》（2）全面推进人工智能算法治理2018年《中华人民共和国电子商务法》2017年《互联网新闻信息服务新技术新应用安全评估管理规定》2021年《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》2022年2024年“清朗·网络平台算法典型问题治理”专项行动“清朗·2022年算法综合治理”专项行动《互联网信息服务算法推荐管理规定》是我国算法综合治理的开端，重点从基本原则、规制范围、主体责任、用户权益、监管机构等方面对我国的算法应用做出了全面规范。是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息应用算法推荐技术以基于风险的规制为基本理念，确立了算法定期审核、评估等要求健全算法推荐治理机制注重技术治理手段，并确立了负面清单制度强调在网络信息内容生态治理中的主体责任（3）全面推进深度合成治理《互联网信息服务深度合成管理规定》明确深度合成服务提供者的主体责任《互联网信息服务深度合成管理规定》明确深度合成服务技术支持者等主体的责任义务（4）制定发布全球首部生成式人工智能专门立法《生成式人工智能服务管理暂行办法》科林格里奇困境一项技术的社会后果不能在技术生命的早期被预料到，而当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难。避免新技术发展陷入“科林格里奇困境”《生成式人工智能服务管理暂行办法》主要原则发展和安全并重、促进创新和依法治理相结合促进发展措施数据处理和标注要求内容管理要求鼓励创新应用鼓励多方协作鼓励自主创新与国际合作训练数据处理要求数据标注要求内容标识违法内容处置鼓励资源共享《生成式人工智能服务管理暂行办法》个人信息保护要求用户服务要求监督检查输入信息和使用记录保护及时受理和处理权利行使请求指导使用与防沉迷用户违法活动处置接受投诉举报稳定服务体制机制监管原则监管手段投诉举报《生成式人工智能服务管理暂行办法》（5）细化人工智能生成合成内容标识的要求《人工智能生成合成内容标识办法》《网络安全技术

人工智能生成合成内容标识方法》人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。（6）加速制定典型场景治理规范自动驾驶领域人脸识别领域智慧医疗领域（7）积极探索人工智能的地方促进政策《深圳经济特区人工智能产业促进条例》《上海市促进人工智能产业发展条例》《北京市促进通用人工智能创新发展的若干措施》《芜湖市建设算力中心城市促进办法》推动形成智能向善的人工智能治理主张（三）积极参与全球人工智能治理和规则建设12023年参加首届全球人工智能安全峰会，签署《布莱切利宣言》2025年参加人工智能行动峰会成立中国—金砖国家人工智能发展与合作中心2024年引领形成具有广泛共识的全球人工智能标准规范2《全球人工智能治理倡议》2023年《人工智能全球治理上海宣言》2024年国际电信联盟首份人工智能新决议2024年国际社会人工智能立法趋势与主要做法三人工智能治理的法治化成为各国的普遍做法（一）国际组织积极推进人工智能治理各国对于人工智能治理开始立法尝试国际社会人工智能立法的典型模式（二）风险规制模式侧重于对人工智能发展风险的控制发展引领模式侧重于促进人工智能创新发展产业支持+适度监管侧重于引导人工智能合规发展欧盟：首部综合性人工智能立法引领全球人工智能监管新模式1欧盟《人工智能法案》于2024年8月1日正式生效，成为全球首部全面监管人工智能的法规，并分步骤开始实施。人工智能是欧盟数字战略的关键政策领域前期相关文件奠定了制度基础欧盟部分成员国已在探索通过国际规则的方式确保人工智能的安全发展欧盟期望控制人工智能技术对经济与社会的风险欧盟希望塑造人工智能全球规则和标准，再现“布鲁塞尔效应”《人工智能法案》出台的背景不可接受风险高风险有限风险低风险（1）确立了基于风险实施分级治理的模式明确禁止“不可接受风险”人工智能需要接受全面监管的“高风险”人工智能需要满足透明度义务的有限风险人工智能不需要承担任何义务的低风险人工智能（2）积极推动《人工智能法案》实施的各项机制、细化文件等落地完善（3）《人工智能法案》制定出台过程中的反对声音技术发展的快速迭代与监管滞后超前监管引发的产业发展担忧对先进人工智能模型的监管执行情况的质疑美国：推进基于创新应用的治理范式2发展战略在促进人工智能发展方面将延续、渐强初步形成了以总统行政令、联邦机构标准指南以及行业自律为核心支柱的人工智能治理政策框架治理框架（1）联邦层面伞状治理结构（2）州层面立法多点开花加州作为全球人工智能创新生态中心，其在人工智能立法方面的探索受到广泛关注。围绕加州《前沿人工智能模型安全创新法案》的立法争议，展现出对新技术立法的复杂性。案例：加州人工智能硬法规范探索（3）进入特朗普2.0时代，更加强调维护美国人工智能领导地位，以“去监管”的思路促进人工智能发展，赢得中美战略竞争在此背景下，美国联邦层面中长期内仍将以行政命令、标准指南等软法治理为主，“硬法”规制不是美国人工智能治理的主要手段。韩国：“产业支持+适度监管”的特色发展之路3《人工智能发展与信任基础创建法》的立法特点“宽严并济”，严格管理“高风险人工智能”与促进中小企业发展并行《人工智能发展与信任基础创建法》的立法特点“管促结合”，专设机构统筹发展与安全《人工智能发展与信任基础创建法》的立法特点“导主罚辅”，引导行业发展并对违规行为设置较低罚款其他国家和地区：纷纷加快人工智能规范步伐4国际组织：全球人工智能治理的重要推动力量（三）联合国发挥主渠道作用推进人工智能国际治理更多国际组织将人工智能纳入关注议题世界卫生组织国际货币基金组织逐条出区域层面人工智能治理共识加快达成2024年1月，美、加、澳、日等11国发布联合指南《参与人工智能》2024年2月，东盟发布《东盟人工智能治理与伦理指南》2024年5月，欧洲委员会通过《关于人工智能与人权、