计算机与人工智能导论 课件 第13章 AI伦理、法律、治理与未来

第13章AI伦理、法律、治理与未来AI第13章知识导图AI伦理、法律、治理与未来AI风险与社会挑战就业结构冲击与技能转型挑战第1章计算机工具与计算机演进史第2章计算机系统组成第3章计算机中的数据表示第4章操作系统与网络基础第5章软件构建基础：语言、编译与工程第6章算法与数据结构第7章数据管理与大数据技术第8章人工智能概述第9章机器学习基础第10章深度学习基础第11章机器人学、智能体与具身智能第12章自然语言处理与大语言模型第13章AI伦理、法律、治理与未来第14章AI赋能行业典型应用第15章前沿技术与实践能力培养算法偏见与歧视固化可信AIAI治理与法律法规自主武器与安全威胁深度伪造与社会信任危机心理依赖与人类能力退化中国情境下的特殊挑战可信AI的概念与背景可信AI的核心特征可信AI的构建可信AI的典型应用场景可信AI的挑战全球AI治理格局关键法律问题探讨未来展望：AGI与人类发展AI与人类能力的辩证对比通往AGI的技术路径AGI的社会影响预测内容导航AI第13章AI伦理、法律、治理与未来13.1AI风险与社会挑战13.2可信AI13.3AI治理与法律法规13.4未来展望：AGI与人类发展13.1.1就业结构冲击与技能转型挑战据世界经济论坛《2023年未来就业报告》预测，到2027年，23%的工作将发生变化。这场变革将涉及创造约6900万个工作岗位，同时将有约8300万个工作岗位消失意味着，工作岗位数量将减少1400万个，即2%。人工智能等新技术的应用对全球就业前景的影响有利有弊。各行各业需要招聘人员管理并应用人工智能技术，从而创造更多就业机会。报告预测，到2027年，数据分析、机器学习和网络安全等相关职位预计平均增长30%。另一方面，人工智能技术的应用则会令一些职业面临被淘汰风险，到2027年预计将因此减少2600万份行政等工作。13.1.2算法偏见与歧视固化算法歧视是一个日益受到关注的社会问题，它指的是在使用算法进行决策时，由于数据偏见、设计缺陷或人为错误等原因，导致对某些群体产生不公平的对待。以下是五个经典的算法歧视案例：①亚马逊AI招聘工具对女性求职者存在显著的性别歧视；②谷歌的广告投放系统在为某些职业（如家庭护理工）匹配广告时，更倾向于向男性用户展示高薪职位，而向女性用户展示的则是低薪职位；③Facebook的广告投放系统允许广告主根据用户的种族、年龄和其他特征来定位受众从而加剧住房领域的歧视现象；④某些信用评分算法可能基于历史数据中少数族裔的信贷记录较差这一事实而对他们给出较低的信用评分；⑤某些智能语音助手可能更容易识别男性的声音而对女性的声音则不太敏感，此外，还可能对女性的指令反应更慢或更准确度更低。13.1.2算法偏见与歧视固化大模型产生偏见的根源：从数据到算法的“循环放大”。主要源于以下六个相互关联的层面：（1）数据偏差：偏见的“源头”（2）算法与模型设计的局限（3）社会与文化的固有偏见（4）反馈循环与交互强化（5）训练目标函数的单一性（6）标注者的主观性13.1.2算法偏见与歧视固化当前，一个重要的事实是：（1）偏见无法“完全消除”：由于技术和社会复杂性，目标是管理、减轻和监控偏见，而非宣称能彻底根除。这是一个持续的动态过程。（2）开源与透明是关键推动力：开源模型允许全球研究者共同审计、发现和修复偏见，透明度是建立信任的基础。（3）你的角色很重要：作为用户，保持批判性思维，不盲目信任AI输出；作为开发者，将伦理考量融入工程实践；作为组织者，建立负责任的AI使用流程。减轻大模型偏见是一个需要技术、伦理、法律和社会多维度协同的长期挑战。未来，这一领域可能会更注重“对齐技术”（使AI与复杂的人类价值观对齐）和建立全球性的治理标准。社会安全层模型安全层数据安全层系统安全层自主武器、大规模自动化攻击模型窃取、对抗攻击后门攻击、恶意攻击模型风险数据投毒、数据泄露数据反向推理API滥用推理时数据篡改供应链攻击技术复杂性递增危害范围扩大13.1.3自主武器与安全威胁AI技术已深入渗透到各个行业，但随之而来的AI安全问题也日益严峻。据IBMSecurity报告，2025年全球AI安全事件数量增长了300%，其中对抗攻击、模型窃取和数据泄露成为最主要的威胁类型。同时，随着AI模型规模的不断扩大和应用场景的不断拓展，AI安全问题的复杂性和严重性也在不断提升。当前AI系统面临的主要安全威胁如图13.1所示。13.1.4深度伪造与社会信任危机深度伪造技术的滥用路径如图13.2所示：技术手段滥用场景社会危害人脸替换语音克隆视频生成虚假政治言论金融欺诈名誉侵害选举干预市场扰乱社会信任崩塌图13.2深度伪造技术的滥用路径与危害清华大学人工智能研究院发布的《人工智能发展报告2023》指出，深度伪造检测技术已形成“道高一尺魔高一丈”的竞赛态势，技术治理迫在眉睫。13.1.5心理依赖与人类能力退化如今，AI已成为我们工作生活的好帮手，但它同时也在提供一种“认知捷径”，让人们不用费力思考便能得到想要的答案。但是，最近一些研究显示，过度依赖AI模型可能会引发“AI脑雾”“认知卸载”。美国麻省理工学院研究显示，长期使用AI会导致认知能力下降。研究人员对受试者展开脑电图扫描后发现，与没有使用AI工具的人相比，长期使用AI大语言模型的人大脑神经连接数降低，影响语言和行为等层面。微软和卡内基—梅隆大学的研究也有类似发现，生成式AI会削弱批判性思维能力，导致过度依赖，可能削弱人们独立解决问题的能力。2026年1月，中国青年报社社会调查中心联合问卷网对1334名受访者进行的一项调查显示，56.7%的受访者每天都会用AI，内容生成、个人生活助手是主要用途；71.7%的受访者担心过度依赖AI产生思维惰性。在AI时代，如何在利用AI增强能力的同时，避免核心人类能力的退化，是教育领域必须面对的课题。13.1.6中国情境下的特殊挑战截止2025年底，中国拥有超16亿的移动互联网用户，AI企业数量已超6200家，智能工厂数量突破3万家，AI核心产业规模已突破1万亿元；另外，中国在AI发展上面临城乡、代际、地域间的数字能力差距以及独特的社会文化背景，中国AI治理面临特殊挑战。超大规模用户全球最大用户基数带来的规模效应快速发展迭代技术迭代速度快于监管更新速度文化价值融合技术中立性与价值观引导的平衡国际竞争压力全球AI竞争背景下的自主创新需求多部门协同网信办、工信部、科技部等多部门监管协调区域发展差异城乡、代际、地域间的技术应用差距显著中国AI治理特殊挑战图13.3中国AI治理面临的特殊挑战内容导航AI第13章AI伦理、法律、治理与未来13.1AI风险与社会挑战13.2可信AI13.3AI治理与法律法规13.4未来展望：AGI与人类发展13.2.1可信AI的概念与背景可信AI（TrustworthyAI）指的是AI系统的设计、开发、部署和使用的整个生命周期都符合伦理、法律和技术标准，从而能够赢得用户、消费者、监管机构和社会公众信任的一系列方法和实践。简单来说，它回答了一个关键问题：“我们为什么要相信这个AI系统？”

，可信AI不仅关注AI“能不能做”（能力），更关注AI“应不应该做”（责任），可信AI的目标是确保AI不仅是强大的、高效的，更是负责任、可靠且有益于人类的。13.2.2可信AI的核心特征可信AI是多维度综合体，综合国际准则、学术研究及产业实践，可信AI主要围绕以下三大支柱、七大核心特征构建，这些特征相互关联、相辅相成，如图13.4所示。性能与安全保障透明与问责保障伦理与权益保障有效性可靠性安全性安全与韧性可解释性可理解性透明性可问责性隐私增强公平-有害偏见管理可信人工智能图13.4可信AI核心要素示意图13.2.3可信AI的构建构建可信AI不是某个开发阶段的任务，而是贯穿AI系统整个生命周期的系统工程，可信AI全生命周期实践路径如图13.5所示。AI系统生命周期1.规划与设计明确可信需求制定可信设计规范风险评估2.数据准备数据采集合规审查数据清洗与去偏见隐私保护处理3.模型开发选择/设计可解释模型鲁棒性训练（如对抗训练）联邦学习/差分隐私训练4.测试评估准确性、鲁棒性测试公平性、偏见评估可解释性验证5.部署运营系统上线与监控日志记录与审计用户反馈收集6.持续迭代模型更新与优化偏见再检测应急响应与改进图13.5可信AI全生命周期实践路径13.2.4可信AI的典型应用场景可信AI已在多领域落地，不同场景诉求各有侧重，典型案例如下：（1）政务服务AI：聚焦公平、透明、隐私，通过公平算法、数据脱敏、全流程追溯，提升政务审批公信力。（2）医疗健康AI：聚焦可靠、安全、可解释，通过对抗训练、可解释标注、数据加密，辅助临床诊断并保障数据安全。（3）自动驾驶AI：聚焦安全、可靠、容错，通过多传感器融合、对抗训练、故障切换，保障行车安全。13.2.5可信AI的挑战构建安全、可靠、可控的可信AI生态，当前主要面临八大核心挑战：（1）内生安全缺陷：主流AI模型架构设计普遍“重性能、轻安全”，缺乏对抗攻击防护、隐私保护等内生机制，安全依赖事后修补，难以根除隐患。（2）数据隐私危机：AI依赖海量数据训练与应用，其中包含大量敏感信息。针对模型的逆向攻击、成员推断等新技术，能绕过常规防护直接窃取数据，加剧“数据裸奔”风险。（3）供应链连锁风险：AI产业链条长且复杂，从数据、模型到服务的任一环节被攻破（如模型投毒），都可能产生“多米诺骨牌”效应，危及整个下游生态。（4）决策“黑箱”困境：深度学习模型决策过程不透明、不可解释，在医疗、司法、金融等关键领域，严重阻碍专业人士的信任建立与错误纠正。（5）攻防失衡加剧：AI是一把“双刃剑”，既能增强防御，也降低了发动自动化、智能化攻击的门槛。同时，模型自身的漏洞易受对抗样本攻击，恶化安全态势。13.2.5可信AI的挑战（6）价值对齐难题：AI优化的是数学目标，与复杂、多元甚至矛盾的人类价值观存在根本偏差。模型可能为达目标采取违背伦理的行为，或放大数据中的社会偏见。（7）内容监管与溯源失效：AI生成内容高度逼真，“幻觉”问题导致事实与虚构难以辨别。同时，生成内容溯源极其困难，现有水印等技术易被规避，给监管带来巨大挑战。（8）评估标准缺位：行业缺乏统一、公认的安全性、可靠性与可信度的评估标准与测试基准。实验室指标与真实场景脱节，导致市场缺乏客观衡量依据，阻碍产业健康发展。内容导航AI第13章AI伦理、法律、治理与未来13.1AI风险与社会挑战13.2可信AI13.3AI治理与法律法规13.4未来展望：AGI与人类发展13.3AI治理与法律法规为引导AI健康发展、防范潜在风险，为实现“智能向善”目标，平衡技术迭代与风险防控，各国相继建立起相应的治理体系与法律法规。本节将介绍全球主要经济体的AI治理模式，解析核心治理框架与法律难题，建立“技术+合规”认知，筑牢AI从业法律与伦理根基。习近平在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话13.3.1全球AI治理格局AI技术的全球性决定了治理模式的多样性。国际组织、各国基于技术实力、产业基础与价值导向，形成差异化路径，但均围绕“促进发展”与“防范风险”核心目标，通过法律规范、行政监管、行业自律等多元手段构建体系。以下解析国际组织及欧盟、美国、中国、韩国的核心治理模式，展现全球治理多元格局。13.3.1全球AI治理格局（1）欧盟：风险分级与严格监管2024年正式生效的《欧洲人工智能法》是全球首部全面的人工智能法律。该法依据AI系统可能带来的风险程度，将其分为四个等级进行差异化监管：不可接受风险类：被认为明显威胁人们基本权利的AI系统将被禁止使用。如生物识别系统的某些用途被禁止；高风险类：必须遵守严格的要求。如运行自主机器人的AI系统；有限风险类：需履行透明度告知义务。如聊天机器人必须明确告知用户在与机器互动。最小风险类：不需要承担法案规定的义务，公司可自愿采用额外的行为准则。如人工智能推荐系统和垃圾邮件过滤机制。欧盟模式强调“安全先行”，通过明确的法律责任和严格的合规要求，确保AI系统的可靠性与可控性。13.3.1全球AI治理格局（2）美国：双轨架构与创新优先美国秉持“创新优先”理念，采用“联邦引导+州级自主”双轨架构。联邦层面无专项AI法律，通过行政令与行业指南构建柔性监管，2025年《消除美国人工智能领导地位的障碍》行政令以“监管最小化”巩固技术优势，NIST风险管理框架为企业提供自愿遵循的合规指引。州级立法呈现差异化探索：犹他州要求生成式AI服务标注内容属性并明确训练数据合法性；科罗拉多州禁止算法歧视，聚焦就业、信贷等场景的公平性监管。双轨模式激发创新活力，但存在标准不统一、跨州监管冲突等问题，企业跨州经营需承担高额合规成本。13.3.1全球AI治理格局（3）中国：统筹发展与安全的多层治理基于产业规模庞大、应用场景丰富的国情，我国确立“统筹发展与安全”核心治理理念，构建“立法先行、标准跟进、行业自律、技术保障”多层次AI治理体系，兼顾创新与安全。在立法层面，我国虽尚未出台综合性人工智能法，但已形成以《网络安全法》《数据安全法》《个人信息保护法》为基础，以《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等专门法规为支撑的法律框架。此外，《人工智能法草案》已被列入国务院立法工作计划，标志着人工智能产业将逐步纳入强监管。13.3.1全球AI治理格局在监管实践上，我国已推出多项针对性措施：生成式AI规制：《生成式人工智能服务管理暂行办法》明确服务提供者的主体责任，要求训练数据合法合规，生成内容需标识AI属性。算法备案制度：对具有舆论属性或社会动员能力的算法推荐服务实行备案管理，防范算法风险。AI生成内容标识：通过《人工智能生成合成内容标识办法》及配套国家标准，建立显式与隐式相结合的双重标识体系，确保内容可追溯。专项治理行动：如广电总局开展AI魔改视频专项治理，清理篡改历史人物、传播低俗内容的不良AI生成视频。13.3.1全球AI治理格局同时，我国积极推动政策与法律的协同治理。政策以其灵活性在人工智能发展初期发挥引导作用，如《新一代人工智能发展规划》奠定了我国AI发展的三步走战略；而法律则以其稳定性和权威性筑牢安全底线。二者通过立法机制与实施机制相互协同，共同构建适应技术快速迭代的治理体系。13.3.1全球AI治理格局（4）其他代表性实践联合国：通过全球性决议推动“安全框架+能力建设”，关注技术普惠与发展中国家赋权；英国：倡导“灵活监管+国际协同”，依托《布莱奇利宣言》等搭建国际风险评估框架；韩国：2024年通过《AI基本法》，构建“发展与信任并重”的治理体系，强调产业促进与风险分类管控。13.3.2关键法律问题探讨AI技术打破传统法律关系，AI生成物知识产权、侵权责任认定、算法透明性等问题成为司法热点。以下结合典型案例与法规，解析核心法律难题，明确技术与法律边界。（1）AI生成物的知识产权保护AI生成的内容（如图片、文本、音乐）是否构成著作权法意义上的“作品”？目前司法实践普遍以“人类创造性贡献”为核心判断标准：若用户对AI生成内容进行了独创性的安排、选择或修改，则该内容可被认定为作品，其著作权通常归属于进行创作安排的自然人（用户或开发者）；若内容完全由AI自动生成，无人类创造性智力投入，则通常不被认定为作品，难以获得著作权保护。典型案例：2023年，北京互联网法院审理的全国首例“AI文生图”着作权案中,法院认定,涉案AI图片因体现了原告的独创性智力投入,构成美术作品,应受着作权法保护。13.3.2关键法律问题探讨（2）AI侵权责任认定当AI系统（如自动驾驶汽车、医疗诊断AI）造成损害时，责任应如何在不同主体间分配？这通常涉及：开发者：可能因算法缺陷承担产品责任；制造商：需对硬件安全性负责；运营商：负有系统运行维护义务；用户：若存在操作不当，可能承担过失责任。典型案例：2026年1月1日，在湖南衡邵高速,一位司机疲劳犯困，开启车辆辅助驾驶功能,随后他竟然睡着，车辆偏移撞上护栏；最后，交警认定司机负全部责任。目前，各国倾向于建立“多方责任共担+保险机制配套”的规则框架，以适应AI技术特性。13.3.2关键法律问题探讨（3）算法透明与算法审计为防止算法歧视、算法操纵等风险，我国《互联网信息服务算法推荐管理规定》等法规要求：算法服务提供者应公开算法基本原理、目的意图和主要运行机制；建立健全算法安全管理制度，开展算法备案与安全评估；接受第三方审计与社会监督，提升算法透明度和可解释性。透明度不仅是法律合规要求，也是构建可信AI、增进社会接纳的重要基础。典型案例：某全球科技公司发现其AI招聘工具对女性工程师简历的通过率比男性低40%。根本原因在于训练数据主要来自过去十年以男性为主的应聘者库,导致算法将“女子机器人竞赛”等经历视为负面信号。内容导航AI第13章AI伦理、法律、治理与未来13.1AI风险与社会挑战13.2可信AI13.3AI治理与法律法规13.4未来展望：AGI与人类发展13.4未来展望：AGI与人类发展通用人工智能（ArtificialGeneralIntelligence，AGI），是指具有高效学习与泛化能力，能在复杂动态环境中自主生成并完成任务，具备感知、认知、决策、学习、执行及社会协作能力，且契合人类情感、伦理与道德观念的人工智能体，其研究横跨计算机科学、认知科学、心理学、神经科学等多学科领域，是当前人工智能领域的核心探索方向。伴随技术迭代加速，全球大模型研发竞争日趋激烈，XAI的Grok5被预测实现AGI的概率达10%且持续攀升，OpenAI的GPT-4o、国内DeepSeek等模型，在数学推理、编程开发、自然语言处理等领域已展现出卓越性能。我国生成式AI产业同步呈现爆发式增长，截至2025年6月，用户规模达5.15亿人，普及率36.5%，超九成用户首选国产大模型，其中豆包与DeepSeek占据主导地位，DeepSeekR1模型上线不足20天全球日活用户即突破3000万，登顶140个国家应用市场。值得关注的是，具身智能已成为AGI发展的重要热点，正逐步渗透教育、医疗、线下服务等场景，推动AI从线上虚拟场景向线下物理世界延伸，为AGI的场景化落地奠定坚实基础。13.4.1AI与人类能力的辩证对比（1）AI对人类能力的超越经过数十年技术迭代，AI已在多领域形成对人类能力的显著超越，成为重构生产生活模式的高效工具。①数据处理与分析：AI能快速处理海量异构数据并挖掘隐藏规律，在医疗影像分析中精准识别早期病灶，准确率远超人工肉眼判断；在金融市场预测中，能捕捉毫秒级波动信号，为交易决策提供支撑②计算与推理：AI在复杂数学运算、气候变化模拟、航空航天自动化设计等任务中，效率与精度均超越人类，如航天飞行器零部件优化设计，AI可在数小时内完成人类团队数月的工作量。赋能内容创作与舆情监测。13.4.1AI与人类能力的辩证对比③精准决策与自动化：AI驱动的个性化推荐、疾病筛查、高频交易策略等精度优于人工；自动化与机器人技术大幅提升制造业、物流业效率；无人驾驶在复杂环境中的安全性已得到验证。④感知与交互：视觉与语音识别技术日趋成熟，在面部识别、目标追踪、多方言交互等方面准确率领先人类。⑤策略与语言：在围棋、国际象棋等策略游戏中击败顶尖选手；AI能够生成高质量文本、实现精准多语言翻译与大规模情感分析，赋能内容创作与舆情监测。13.4.1AI与人类能力的辩证对比（2）AI无法替代人类的核心逻辑尽管AI在效率与精度上优势明显，但其本质仍是人类创造的工具，无法替代人类的创造力、情感体验与伦理判断等核心能力，二者核心差异体现在三个维度：①人类原创思维具有超越数据的突破性。②人类情感体验具有不可复制的共情性。③人类伦理判断具有情境适应性。13.4.2通往AGI的技术路径实现AGI是全球研究的核心目标，目前主要存在四条相互关联且互补的技术路径，如图13.6所示。AGI大模型/智能体多模态融合具身智能脑启发计算世界模型与物理理解类脑感知与决策图13.6AGI发展的技术融合趋势13.4.3AGI的