人工智能伦理 课件 第六章人工智能伦理的社会治理

AI橙曦启明：人工智能伦理的社会治理第六章主讲人：课程讲师2026年05月开篇引入：当AI开始写诗▍苏菲的发现在一个冬日午后，苏菲被一本名为《阳光失了玻璃窗》的诗集深深吸引。诗集中细腻的情感、优美的意境让她反复品读。直到扉页上作者的名字映入眼帘——微软人工智能“小冰”。这个发现像一颗投入湖面的石子，不仅让她震惊，更引发了她与法律专业表哥慧明的一场深入讨论。核心诗句摘录“微明的灯影里，

我知道她的可爱的土壤，

是我的心灵成为俘虏了...”——微软人工智能“小冰”引发的思考❓AI究竟是在“拼凑”文字，还是真正具备了“创作”能力？它表现出的“情感”是真实的吗？⚖️若AI创作的诗歌被出版、商用，其版权应当归属研发者、使用者，还是属于“公共领域”？🌍在AI日益渗透的未来，我们该如何定义“艺术”与“文化”，并面对这个由AI参与创造的新世界？本章学习导航明确方向·提升能力·涵养素养01/知识目标•明确我国人工智能伦理规范的基本原则。•了解人工智能伦理规范的联合国建议和域外经验。•熟悉和掌握我国应对人工智能伦理挑战的法规和政策。02/能力目标•能够批判分析域外经验对中国的借鉴意义。•能够充分解读我国关于人工智能伦理规范的政策文件。•能够认识AI技术对传统法规秩序的冲击与挑战。03/素养目标•培养规制意识和社会责任感。•形成正确的伦理价值观和法治思维。•树立对我国AI技术理性应用的信心与大国担当意识。01人工智能的伦理规范全球共识与中国方案案例分析：“小冰”的诗歌是如何诞生的？01事件回顾2017年，微软“小冰”的诗集《阳光失了玻璃窗》正式出版，这是人类历史上第一部由人工智能独立创作并正式出版的诗集。这一里程碑事件打破了人们对创作活动的传统认知，标志着AI已经开始涉足文学艺术这一被视为人类专属的领域。技术路径深度学习|情感计算|黑盒创作02社会反响与讨论小冰曾使用27个化名在各大文学网站发表作品，很长时间内未被读者识破身份。此事引发了关于AI创作的大讨论：AI是否具备“创作”的主体性？诗歌的版权究竟属于AI研发团队还是“小冰”本身？虚拟AI与现实人类创作者之间的界限该如何界定？这些问题直指AI时代的伦理与法律空白。为何需要AI伦理规范？——技术是柄“双刃剑”积极面·价值创造增进民生福祉与社会进步人工智能技术通过自动化、智能化的手段，极大地提升了社会生产力，为人类创造更美好的生活提供了坚实的技术基础。多领域潜力巨大在医疗诊断、个性化教育、智能交通等关键领域，AI正在打破传统服务的局限，提供更精准、高效、普惠的解决方案。风险面·挑战与隐患多重社会风险并存AI的快速发展正在挑战现有的政策、法律和伦理体系，若缺乏约束，可能对社会公平、公序良俗和个人权益构成潜在威胁。典型伦理与安全问题包括算法导致的歧视性结果、用户隐私数据泄露、责任主体界定不清的“责任真空”等，都需要引起高度警惕。国家战略·顶层设计2017年《新一代人工智能发展规划》明确提出积极参与人工智能全球治理，加强人工智能相关法律、伦理、社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架。中央高层重要指示强调要始终确保人工智能技术“安全、可靠、可控”，建立健全法律法规、制度体系和伦理道德规范，推动AI造福人类。全球共识：联合国教科文组织的《人工智能伦理建议书》人权尊严尊重、保护和提升所有人的人权及人类固有尊严，作为AI发展的基石。环境生态推动可持续发展，保护地球生态系统，确保AI技术与自然和谐共存。多样包容消除偏见，促进多元文化、性别与地域的包容性，不让任何人被边缘化。和平公正避免军备竞赛，建立公正的社会秩序，构建相互依存的人类命运共同体。关键原则(I)•相称性与不损害•安全与安保

•公平与非歧视•可持续性

•隐私权与数据保护关键原则(II)•人类监督与决定|透明与可解释

•责任与问责|素养与能力建设

•多利益攸关方协作治理域外经验：他山之石，可以攻玉各国AI治理模式对比分析国家/地区模式特点可借鉴之处需警惕之处美国以技术发展为核心驱动力，总体上以行业自律和非强制性监管为主要基调，注重AI技术的全球竞争力。明确AI伦理与法律准则，在促进创新的同时强化AI系统的可审计性、可追溯性、可解释性，保障技术的负责任应用。技术霸权倾向：可能利用技术优势主导全球AI规则制定，形成排他性的技术壁垒或“数字霸权”，挤压其他国家的发展空间。英国主张“创新与信任并重”，通过归纳分类建立灵活的监管框架，实施基于应用场景的差异化、精准化监管策略。发挥政府主导的多元治理效能，提高监管的敏捷性与适应性；借鉴“监管沙盒”模式，为AI技术的安全落地提供试验环境，平衡创新与风险。目前暂无显著负面倾向，其经验具有较高的实操参考价值。欧盟以基本权利为核心，以《通用数据保护条例》(GDPR)为基石，构建严格的法律框架，强调从算法设计源头进行治理。高度强调透明度、问责制、公平和包容性，确立“以人为本”的治理理念，充分尊重和保障个人隐私与数据权利。过度规制风险：过于严苛的准入和合规要求可能增加企业的研发与运营成本，抑制市场活力，尤其可能限制弱人工智能技术的商业化发展与普及。中国的AI伦理规范：从战略规划到具体准则演进历程与核心准则《新一代人工智能发展规划》

——国家战略拉开序幕，确立AI发展的顶层设计与方向。2017年·战略规划《新一代人工智能治理原则》

——首次提出“发展负责任的人工智能”，确立八大核心治理原则。2019年·治理原则《新一代人工智能伦理规范》

——明确六项基本伦理要求和十八项具体准则，提供落地实施指引。2021年·伦理规范八大原则：和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理。核心文件：《治理原则》六大要求：增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养。核心文件：《伦理规范》构建中国特色的AI伦理治理模式01“中心—外围”双重治理架构中国正探索构建“软硬兼备、软法硬化”的治理新范式。该架构以具有强制力的法律为内核，以倡导性的伦理与自律为外延，实现技术创新与社会利益的动态平衡，为全球AI治理贡献“中国方案”。🔹中心：硬法基石(强制性约束)以《生成式人工智能服务管理暂行办法》《人工智能法（草案）》等国家法律法规为核心，明确技术研发与应用的“红线”与“底线”，提供刚性的制度保障。🔹外围：软法护航(柔性与价值约束)以《新一代人工智能伦理规范》、行业自律公约及国际软法准则为补充，提供伦理价值指引与柔性约束，促进企业与科研机构主动承担社会责任。02治理模式核心目标•提升软法效能：通过“软法硬化”机制，增强伦理规范的约束力，推动国内AI伦理标准向国际软法体系渗透。•争夺国际话语权：在全球AI治理规则制定中争取主动，维护我国发展权益，保障AI技术与产业健康、可持续发展。第一部分小结：总结与反思本节回顾•全球挑战：AI伦理已成为全人类面临的共同挑战，无法由单一国家解决，亟需深度的国际合作与共识。•多元实践：联合国为全球治理提供了基础框架；美、英、欧盟等发达经济体则在立法与监管上探索了不同路径，为我们提供了宝贵经验。•中国模式：立足本国国情，正在积极构建“软硬结合”的特色治理模式，兼顾技术创新与伦理规范的平衡发展。思维训练1.全球在制定与落地AI伦理规范的过程中，遇到了哪些难以调和的困难？（提示：可从文化差异、发展水平、利益诉求等角度思考）2.为什么联合国要牵头制定《人工智能伦理问题建议书》？其战略意义何在？（提示：可从防止技术滥用、维护人类共同利益等角度思考）PART0102人工智能的法律规制传统法律的挑战与回应法律的挑战：机器人能拥有国籍吗？事件回顾与法律难题▌事件：2017年，沙特阿拉伯授予人形机器人“索菲亚”国籍，使其成为全球首个拥有国籍的机器人。▌核心法律问题：•主体资格：AI是否具备成为法律上“人”的条件？•权责界定：若承认其主体地位，它享有哪些权利，又该承担什么义务？•归责难题：AI自主行为造成损害时，责任应由开发者、使用者还是AI自身承担？💡思考与讨论你赞成给机器人授予国籍吗？为什么？这对现有的法律体系意味着什么？AI时代的三大法律难题01人工智能法律主体AI能否成为独立的法律主体？是否应赋予其“电子人格”？这是界定AI法律地位的首要难题。02人工智能知识产权AI生成内容（AIGC）的版权归谁所有？是算法开发者、内容使用者，还是AI系统本身？这是保护创新必须厘清的界限。03人工智能法律责任当AI自主决策造成损害，责任链条该如何划分？是由生产者、使用者担责，还是由AI自身承担？这是解决纠纷的关键依据。法律规制LegalChallenges域外法律规制：分工与协作各国AI法律规制路径对比国家/地区模式特点核心策略美国立法、行政、司法三权分立，利用成熟的法律体系进行协同规制，兼顾创新与安全。起步早，分类标准细致，针对不同AI发展阶段制定差异化规制方案，避免一刀切阻碍技术发展。英国采取分阶段监管路径，从早期引导行业自律逐步向构建完善法律框架过渡，灵活性强。明确“鼓励创新”的基调，采取“非法定”首选模型，重点强调基于具体应用场景的针对性监管。欧盟坚持“源头治理”理念，以数据安全与隐私保护为核心逻辑，构建严密的监管网络。建立严格的准入登记制度，依据风险等级对AI进行分类，尤其对高风险AI应用实施严格的合规与规制要求。中国的分散式立法：应对AI挑战中国采取分散式立法模式，通过多部法律构建应对AI挑战的基础框架，全方位平衡技术发展与权利保护。《民法典》人格权保护保护隐私权和个人信息，明确对“深度伪造”等技术侵权行为的规制。《个人信息保护法》权益与规则核心是保护个人信息权益，规范处理活动，并确立严格的“告知-同意”核心原则。《数据安全法》国家安全与发展我国首部数据安全专项法案，从国家层面维护数据主权和安全，同时促进数字经济健康发展。应对AIGC：《著作权法》与《生成式人工智能服务管理办法》立法回应：双法护航AIGC健康发展01《著作权法》(2020年修改)⚡突破：突破作品类型法定原则，为AIGC的版权保护打开法律通道。🎯意义：赋予司法机关认定新作品类型的裁量权，主动适应技术快速发展需求。02《生成式人工智能服务管理办法》⚖原则：坚持“发展与安全并重”，实施包容审慎和分类分级监管。🎯核心：明确服务提供者责任，包括数据来源合法性、生成内容标识等关键义务。03治理里程碑意义相关法律法规的快速出台，标志着我国在AIGC治理方面迈出重要一步。既保障了技术的创新发展，又构建了清晰的合规框架，实现“促发展”与“保安全”的动态平衡。第二部分小结：法律的回应与展望📝本节回顾•挑战：AI技术的发展对传统法律中的法律主体资格、知识产权归属、责任承担体系提出了前所未有的挑战。•规制：世界各国根据自身国情与发展阶段，采取了不同的立法路径与监管策略。•回应：中国通过分散式立法，已在《民法典》、个人信息与数据保护、著作权法等多个领域，逐步构建应对AI挑战的法律基石。💡思维训练“AI在艺术创作中的广泛应用，究竟是延展了人类智慧的表现形式，还是对传统创造力与艺术伦理的根本性挑战？”（思考方向：技术中立原则vs创作者权益保护；算法黑箱vs艺术表达的可解释性）03中国人工智能的治理策略综合协同的中国方案司法实践：AI生成图片的著作权归谁？案情回顾：首例“AI文生图”侵权案案情：李某使用AI绘画软件生成图片并发布，刘某未经许可使用该图片且未署名。法院认定涉案图片构成作品，李某为作者。法院判决核心要点•认定作品：涉案AI生成图片符合作品定义，属于受保护的作品。

•认定作者：认定李某为作者，依法享有该图片的著作权。

•认定侵权：刘某未经许可使用且未署名，侵害了署名权和信息网络传播权。判决里程碑意义这是司法实践中首次认可AI工具使用者在生成内容上的合法权益。判决不仅鼓励大众利用AI进行内容创作，更在法律层面确立了“人”在AI技术发展与应用中的主导地位，为AIGC产业版权保护提供了重要指引。治理体系的两大支柱：伦理与法律伦理规范(软法)核心文件：《新一代人工智能伦理规范》核心作用：将伦理要求融入人工智能全生命周期管理，为技术发展提供价值指引和道德约束。六项基本要求：增进人类福祉·促进公平公正·保护隐私安全·确保可控可信·强化责任担当·提升伦理素养法律规制(硬法)立法模式：分散式立法为主，针对AI核心要素与特定应用场景制定专门法律法规。核心规制要素：针对“算力”、“算法”与“数据”三大基石进行全方位、全链条的法律监管。治理体系的两翼：监管与自律01/行政监管▌必要性弥补伦理“软法”缺乏强制力的不足，以及法律制定周期长导致的滞后性缺陷，对技术发展提供动态约束。▌关键措施成立专门监管机构，统筹多方力量实施联动协同监管；针对高风险重点领域，严格落实市场准入与动态管理机制，防患于未然。02/行业自律：技术发展的内在约束主体：以科技企业、行业协会为核心力量，发挥贴近产业的优势。核心实践：发布行业自律公约规范市场行为；企业内部建立AI伦理委员会并制定伦理准则；推动技术标准制定，从技术源头实现自我约束与良性发展。构建中国特色的