人工智能通识课件 第8章-人工智能伦理与社会治理

人工智能通识第8章人工智能伦理与社会治理提纲8.1人工智能伦理与治理概述8.2人工智能伦理问题8.3人工智能伦理治理提纲8.1人工智能伦理与治理概述8.2人工智能伦理问题8.3人工智能伦理治理8.1人工智能伦理与治理概述伦理的起源“伦理”一词最早见于《礼记·乐记》“乐者，通伦理也”

——《礼记·乐记》

“伦”即人伦，指人的血缘辈分关系，转义为人与人之间的关系；“理”强调事务本身的规律或依据一定的标准对事物进行处置。什么是伦理狭义上，伦理是调整人伦关系的条理、道理和原则一般意义上，伦理是人类实现个体利益与社会整体利益协调过程中，处理人与人，以及人与自然的关系的价值标准和行为体系8.1人工智能伦理与治理概述8.1人工智能伦理与治理概述人工智能伦理界定、评估并落实相关道德原则与准则，以规范和引导人工智能系统在设计、开发、部署与应用等全生命周期各阶段中的行为与决策8.1人工智能伦理与治理概述人工智能的伦理风险人工智能在实际设计与应用过程中一旦偏离伦理原则或落实不充分，便可能引发一系列伦理风险，主要集中在安全、隐私、公平、透明与责任等方面8.1人工智能伦理与治理概述《人工智能伦理问题建议书》为各国构建人工智能伦理治理体系提供了系统框架，提出四项核心价值导向尊重与保障人权与人类尊严，确保人工智能研发、部署与应用以保护人的固有权利为前提，维护隐私、自由及免受歧视等基本权益；促进和平、公正与包容的社会发展，要求人工智能技术增强社会凝聚力，推动公平正义与全球安全，而非加剧冲突或社会分化；8.1人工智能伦理与治理概述《人工智能伦理问题建议书》为各国构建人工智能伦理治理体系提供了系统框架，提出四项核心价值导向维护多样性与包容性，强调在算法设计与系统应用中兼顾不同群体的差异与需求，防范算法偏见，缩小社会不平等，并实现弱势群体同等受益；推动环境与生态可持续发展，要求在人工智能创新与应用过程中兼顾技术进步与环境责任，提升能源效率，减少生态影响，并积极支持环境保护、资源管理与可持续治理。8.1人工智能伦理与治理概述将治理体系转化为可操作、可落实的实践建立制度化和工具化的治理手段，以伦理原则和公共价值为核心8.1人工智能伦理与治理概述人工智能伦理治理的关键工具信息传播：通过教育培训与公共沟通凝聚认知共识，提升各方主体的风险识别能力，为跨界协作与社会监督奠定信息基础经济激励：通过资金配置、税收调节及市场准入等机制调整成本与回报，引导主体主动加大安全投入，实现自身利益与公共利益的协同标准与法规：通过制定技术标准与法律法规明确行为边界与权责关系，为人工智能的研发与应用提供可预测、可执行的合规依据权利保障：通过确立隐私、知情及救济等合法权益，为受算法影响的主体提供救济路径，赋予伦理治理实质性的约束力与可问责性提纲8.1人工智能伦理与治理概述8.2人工智能伦理问题8.3人工智能伦理治理8.2人工智能伦理问题安全问题人工智能安全是一个基础且紧迫的技术伦理命题，聚焦于系统在面对恶意对抗、极端环境或非预期交互时的表现需要正视智能系统在三个关键环节的内生脆弱性输入安全性，即系统能否辨识并抵御试图篡改其认知逻辑的有毒数据算法安全性，即模型在面对人类感官无法察觉的微小扰动时能否保持逻辑的稳定，不发生致命的感知偏差系统行为安全性，即在技术能力逐步下放至应用层面时，是否能建立起有效机制防止其被恶意利用，从而转化成破坏社会信任的工具8.2人工智能伦理问题输入安全性数据是人工智能运行的基础，其安全性直接影响模型的价值取向和行为表现深度学习模型依赖训练数据统计规律，通过数据投毒（data

poisoning）注入偏见或触发条件的样本，模型可能在特定情境下产生歧视性或错误决策8.2人工智能伦理问题输入安全性数据投毒真实事件：针对微软Tay聊天机器人的数据投毒2016年的微软Tay聊天机器人事件微软发布的这款智能聊天机器人，旨在通过与公众的实时互动来学习人类的语言模式上线后，一群用户有组织地向其发送包含种族主义、性别歧视和纳粹倾向的极端言论Tay从友好的对话者异化为发表仇恨言论的账号，迫使微软紧急将其下架8.2人工智能伦理问题算法安全性算法安全诉求是系统的可靠性，即面对异常输入或噪声干扰时仍能判断准确对抗样本（adversarial

example）打破了这一预设，通过在输入数据中添加人类感官无法察觉的微小扰动，诱导神经网络做出高置信度错误分类8.2人工智能伦理问题算法安全性对抗样本真实事件：针对特斯拉Autopilot系统的对抗攻击2019年腾讯科恩实验室对特斯拉的研究研究人员在行车道上粘贴看似不起眼的干扰斑块，在驾驶员眼中，路面上的污渍不影响判断但在特斯拉的计算机视觉算法眼中，贴纸构成的特定模式被错误地识别为左转车道线测试视频显示，开启自动驾驶功能的车辆在识别到这一干扰后，误判车道走向，在无预警的情况下突然驶入逆行车道所谓的智能，高度依赖于像素级的统计规律8.2人工智能伦理问题系统行为安全性系统行为安全性是指AI模型在实际部署和运行过程中，其输出内容、交互行为以及与物理/数字环境的交互，符合人类的价值观、伦理道德、法律法规以及预期的安全边界，不产生失控或有害的实际后果深度伪造（Deepfake）利用人工智能生成的音频、视频或视觉内容冒充真人，使得AI可能被挪用为破坏社会互信、实施诈骗甚至恐怖活动的工具8.2人工智能伦理问题系统行为安全性Deepfake真实事件：伪造马斯克的投资骗局2022年，一些伪造的埃隆·马斯克赠送加密代币的视频在网上流传，宣传的投资机会好得令人难以置信，并会将用户引导至恶意网站8.2人工智能伦理问题系统行为安全性Deepfake真实事件：2024年“AI换脸”诈骗案，跨国公司的香港分部职员受邀参加总部CFO发起的“多人视频会议”并按照要求转账多次，损失2亿港元8.2人工智能伦理问题未知安全风险AI系统无法穷尽现实世界的所有情况，伦理准则要求系统必须具备人机回环（Human-in-the-loop），然而这一最后防线并非绝对有效，须审慎设计

2018年3月，第一起自动驾驶汽车「杀人」案件，Uber自动驾驶汽车撞死一位横穿马路的行人8.2人工智能伦理问题隐私问题随着人工智能技术的广泛应用，隐私保护的焦点已从静态的身份信息安全转移至对数据处理全过程的监督在当前的技术环境下，人工智能系统的隐私风险主要体现在以下三个环节：数据收集阶段的过度采集，系统为了提升模型性能，往往获取超出实际功能必需的信息算法分析阶段的隐性推断，模型能利用统计规律，从非敏感数据中推导出用户并未主动披露的私密信息应用服务阶段的违规滥用，即用户数据在未获再次授权的情况下，被用于初始约定之外的其他用途8.2人工智能伦理问题数据收集阶段的过度采集为提升模型的精度，倾向于无差别地获取尽可能更多的数据，加剧了个人隐私暴露风险ClearviewAI数据泄露事件该公司为构建高精度的人脸识别算法，在未获用户许可的情况下，利用自动化程序从各类社交媒体平台抓取了超过300亿张人脸图像8.2人工智能伦理问题数据收集阶段的过度采集进一步，对海量数据的依赖推动了跨平台多源异构数据的聚合，显著增加了数据来源合法性核查的难度，导致大量无视平台隐私协议的数据被收集开源数据集LAION-5B事件聚合了超过50亿组图文对，通过大规模网络爬取构建，缺乏对源头数据的有效筛查包含大量未经授权的私人医疗记录照片及非自愿拍摄的个人图像8.2人工智能伦理问题算法内部的隐性推断AI算法能够利用高维统计规律，从海量、非敏感的碎片化行为数据中，精准推导出用户从未主动披露的私密属性，使得“数据脱敏”失去实际意义2012年发生的美国塔吉特（Target）公司“孕妇预测”事件企业在未向消费者明确告知收集目的、范围及数据处理逻辑的前提下，过度收集并分析用户的购物行为数据（如无咖啡因饮品、营养补充剂的购买记录），进而推断出用户的怀孕隐私并进行精准营销8.2人工智能伦理问题算法内部的隐性推断人工智能算法本身还面临着模型反演等对抗性攻击的风险，研究表明深度学习模型会无意中“记忆”训练样本细节，使其面临被攻击者逆向还原的威胁ModelInversionAttacksthatExploitConfidenceInformationandBasicCountermeasures,CCS20152015年Fredrikson等人的研究攻击者可以利用模型API返回的置信度信息，对人脸识别模型进行模型反演攻击（modelinversionattack），从而重构出训练集中某些个体的近似面部图像反演的图像训练集的图像8.2人工智能伦理问题应用服务阶段的隐私违规滥用产品应用层面，个人隐私数据不再仅仅是被分析的对象，而是被利用成为企业进行市场收割、认知操控与安全攻击的工具基于隐私画像的算法价格（大数据杀熟）企业利用用户历史消费记录、设备特征及支付意愿的分析，构建了极不对称的信息优势打车的一人一价出行的一人一价8.2人工智能伦理问题应用服务阶段的隐私违规滥用跨场景数据滥用，用户在初始授权时通常是基于特定服务场景（如社交娱乐）的信任，但企业常在未获再次授权时，将数据违规用于政治或意识形态领域2018年Facebook剑桥分析事件8700万用户在Facebook的心理测试数据被违规用于政治画像与精准广告投放以干预选情涉及的用户分布Facebook的道歉说明剑桥分析公司员工爆料8.2人工智能伦理问题AI时代的隐私保护将是一场涉及技术、法律与伦理的复杂博弈随着人工智能技术深度介入个人生活，隐私边界的完整与否直接关系到公民基本权利的存续与社会秩序的安全如果忽视隐私保护，技术不仅难以发挥其正向价值，反而会因全生命周期的监控与操控风险引发公众的极度不安全感与伦理危机因此，坚持隐私保护原则，将合规机制内嵌于数据流转的每一个环节，是确保人工智能技术在尊重人权、不逾越伦理底线的轨道上健康发展的必然选择8.2人工智能伦理问题公平问题随着AI技术融入社会方方面面，算法已不再仅仅是处理信息的工具，而是成为了社会资源的分配者和机会的守门人人工智能系统的公平性问题超越了单纯的技术范畴，演变为一个关乎社会正义、法律规范与伦理道德的复合型命题一种普遍的误解认为，机器决策基于客观数据与数学逻辑，因此能够剥离人类主观的情感与偏见，实现绝对的公正然而，诸多实证研究表明，“算法中立”的假设是一种危险的幻觉，AI系统不仅可能继承人类社会的既有偏见，甚至可能将这些偏见隐蔽化、放大化，导致系统性的歧视8.2人工智能伦理问题何为公平？哲学与法学领域，公平主要涵盖分配公平与程序公平分配公平聚焦决策结果的公正性，要求算法在分配中确保不同群体获得平等对待程序公平关注决策过程的合法与伦理合规，要求决策依据不包含歧视性因素且逻辑相关计算机科学领域，这些原则转化为可计算的数学定义，分为群体公平性与个体公平性群体公平性，要求算法在不同受保护群体间展现出统计学上的均等个体公平性，遵循相似情况相似处理原则，特征空间距离相近的个体获得接近的预测结果8.2人工智能伦理问题公平性相对立的现实挑战——偏见AI伦理中，偏见指算法产生的一种系统性、可重复的错误，稳定损害特定的弱势群体AI系统的偏见并非凭空产生，其根源主要分布在数据输入与算法处理这两个关键环节数据作为人工智能的基石，往往是被冻结的社会历史，携带了既有的结构性不公数据偏见主要来源于三个方面代理变量错位数据代表性不足历史歧视复制8.2人工智能伦理问题偏见——历史歧视复制模型训练用的数据来自过去的社会现实，但社会现实本身可能就不公平，模型直接学习这些历史数据，可能会把这些不公平现象当成“正常规律”。某公司在招聘中更偏向男性，历史招聘数据里男性被录用的比例更高模型学习后，可能会认为男性更适合这个岗位，而在未来继续推荐男性未来持续推荐男性拒绝女性8.2人工智能伦理问题偏见——数据代表性不足如果训练数据中主要是主流群体，而某些少数群体、边缘群体或特殊群体的数据很少，模型很难学习这些群体的特点，预测更容易出错训练数据分布不均衡少数群体人脸识别准确率低少数群体医疗诊断准确率低8.2人工智能伦理问题偏见——代理变量错位有些真正想预测的目标很难直接观察，模型只能用一个替代指标间接衡量，但代替指标不一定真的等于目标本身，甚至可能受到社会结构性偏差的影响某些社区警力充足，高逮捕率不等于高犯罪率模型学到的不是真实风险，而是执法偏差8.2人工智能伦理问题算法造成的偏见即便拥有完美、无偏的数据，算法本身的设计与优化逻辑也可能引入偏见8.2人工智能伦理问题算法偏见的伤害，含有偏见的算法会对个体与群体的实质性伤害其中，分配性伤害涉及社会关键资源的错配案例：2025年，亚马逊的自动化招聘系统其训练数据复刻了科技行业历史上男性主导的就业结构，算法对女性简历进行系统性降分，造成了实质性的机会不均8.2人工智能伦理问题算法偏见的伤害表现性伤害则涉及社会认知与尊严的贬损，虽不直接剥夺物质资源，却通过强化负面刻板印象、贬低人格尊严，造成了深层次的文化创伤美国刑事司法领域的COMPAS风险评估系统，尽管剔除了种族标签，但因使用了与种族高度相关的代理变量（如教育背景、居住社区），导致模型产生了严重的差异化误判：黑人被告被误判为高风险的概率几乎是白人的两倍先前犯罪记录：4项青少年轻罪高风险：8后续犯罪：无先前犯罪记录：2起持械抢劫案低风险：3后续：重大盗窃先前犯罪记录：1起入室盗窃未遂案低风险：3后续：持有毒品先前犯罪记录：非暴力拒捕高风险：10后续犯罪：无8.2人工智能伦理问题AI公平性是保障技术正当性与社会可接受性的核心前提随着AI深度介入社会资源分配与机会甄别，公正与否直接关系到社会结构的稳定与法治原则的落实如果忽视公平性，会因系统性偏见引发严重的信任危机与社会伦理风险因此，坚持公平性原则，将伦理规范内嵌于算法的全生命周期，是确保人工智能技术在符合人类根本利益、维护社会正义的轨道上健康发展的必要条件8.2人工智能伦理问题透明问题AI透明是指AI系统在设计、运行和应用的全过程中，其数据来源、决策逻辑、运行机制及潜在影响能够在合理范围内被相关主体理解、知晓并可追溯并非要求技术系统完全公开所有细节，而是强调在AI对个体权益和社会运行产生实质影响时，相关主体不应被置于信息严重不对称的地位透明问题逐渐由单纯的技术挑战，演变为关涉权利保障与责任归属的核心伦理议题，分别在数据、算法和应用环节中呈现出不同的伦理风险8.2人工智能伦理问题数据相关的透明问题与数据相关的透明问题主要体现为数据来源、采集方式与使用目的的不清晰在缺乏实质性透明机制的情况下，用户的“知情同意”容易流于形式2018年初，某支付平台在发布年度账单时，于页面中以默认勾选的方式提示用户同意相关服务协议其默认状态降低了用户对授权行为的注意度，部分用户在未充分理解协议内容的情况下即完成授权这一设计并未通过技术手段强制用户让渡数据，但在信息呈现方式上形成了明显的不对称，削弱了其对数据权利的实质性控制8.2人工智能伦理问题算法相关的透明问题体现为模型决策逻辑的不可解释性，即“算法黑箱”现象个体受到算法决策影响，却无法算法的判断依据，将直接削弱个体的申诉能力并动摇对决策的信任，尤其是风险评估、信用评分等高风险决策场景2019年，美国AppleCard信用卡业务曾引发广泛争议：多名用户公开反映，在其他条件相近的情况下，男性用户获得的信用额度显著高于其配偶由于机构从未向用户披露信用评估模型的具体变量权重和决策逻辑，难以判断差异究竟源于数据偏差、代理变量亦或是模型结构本身，难以通过有效途径对结果申诉8.2人工智能伦理问题应用相关的透明问题实际应用中AI透明性问题直接关系到用户与AI系统之间的信任基础当AI以推荐、筛选或预测等方式深度嵌入日常生活，会以持续、累积的方式逐步塑造用户的行为选择与信息环境在此情形下，AI系统可能在用户未充分意识到的情况下，持续引导其注意力分配、消费行为或价值判断某些推荐系统通过个性化排序不断强化既有兴趣偏好，导致信息接触范围收缩，形成“信息茧房”8.2人工智能伦理问题算法相关的透明问题如何在技术复杂性与可透明可理解之间取得平衡，已成为人工智能发展中无法回避的核心伦理挑战之一透明不要求AI系统完全消除技术复杂性，而是在关键决策节点上建立可理解、可追责的说明机制，使相关主体能够合理评估系统行为的正当性与合理性缺乏透明性的AI系统，即便在功能和效率上表现优越，也可能因无法被解释和监督而丧失社会合法性8.2人工智能伦理问题责任问题当算法决策出现偏差、错误或引发不良社会后果时，如何明确责任归属便成为人工智能伦理中亟需回应的关键问题在AI系统的生命周期中，责任并非由单一主体承担，而是涉及算法开发者、使用者以及法律与监管机构等多个主体的分工与协同开发者有义务在模型设计和训练阶段考量安全性与公平性，而非仅以性能作为唯一目标使用者对算法的使用行为负责，确保在使用过程中遵循规范和法律要求，防止因操作不当或越界使用造成不良影响监管者需要不断更新法律法规和政策工具，明确算法开发、部署和应用过程中的责任边界与合规要求，还应通过信息披露、公众咨询等方式，保障公众的知情权与参与权，推动算法治理向更加透明和民主的方向发展8.2人工智能伦理问题责任问题从算法相关主体所应承担的责任视角出发，责任并非仅在事故或损害发生后才显现，而是在人工智能全生命周期中的数据收集使用、算法设计研发以及系统应用部署三个层面产生与相互叠加在数据层面强化来源与适用责任在算法层面明确设计与优化责任在应用层面落实监督与干预责任才能构建起可问责、可纠错的人工智能责任体系提纲8.1人工智能伦理与治理概述8.2人工智能伦理问题8.3人工智能伦理治理8.2人工智能伦理治理监管治理四大原则AI系统性风险，倒逼全球监管体系加速成型，逐渐沉淀出这四大共性原则：坚持以人为本、强化安全韧性、要求透明可解释，并强调跨国协作以人为本确保AI系统的设计与部署尊重基本人权、自由及民主价值观，服务于人类福祉。安全与韧性构建贯穿全生命周期的风险管理闭环，保障系统在复杂和极端环境中的稳定性与抗毁性。透明与可解释打破算法黑盒，提升决策可见度，确保受影响对象能够理解AI生成结果的逻辑路径。国际协作推动跨国界政策对话、知识共享与标准互认，避免全球AI治理出现阵营化和碎片化。8.3人工智能伦理治理监管治理在国际组织与区域协作层面，监管治理主要侧重于构建全球共识与协调标准2024年，联合国通过《全球数字契约》等决议，倡导多利益攸关方参与风险识别，并建立独立科学小组以协调国际监管标准2019年通过、2024年更新，经合组织（OECD）提出的五项人工智能治理原则，涵盖包容性增长、法治人权及问责制等内容，已被包括欧盟成员国在内的47个经济体采纳，成为全球监管的重要制度基石2024年，金砖国家（BRICS）则通过《喀山宣言》，强化发展中国家在监管治理中的代表性，推动跨境数据流动与全球数据治理框架建设8.2人工智能伦理治理国家与地区的监管实践欧盟采取了以立法为核心的强制规制模式2024年颁布了全球首个综合性法律框架《人工智能法案》，确立了基于风险的分级监管模式，将人工智能应用划分为不可接受、高风险及低风险三类，对高风险应用实施严格的合规要求与法律问责，从而在保障人权的前提下推动技术规范应用美国与英国则采取了更为灵活、侧重创新驱动的监管路径。美国，监管治理以联邦政策为主导，《人工智能权利法案蓝图》提出了系统安全、避免算法歧视、数据隐私保护、透明可解释及设立替代方案五项原则，旨在通过政策引导与行业自律，在保障公众权利与促进技术创新之间寻求平衡英国，实行原则型监管模式，《促进创新的人工智能监管方法》白皮书确立了安全、透明、公平、问责等五大原则，强调监管机构应采用敏捷迭代与协作方式，在职权范围内灵活解释应用规则，以确保在管控伦理风险的同时不扼杀技术创新的空间8.2人工智能伦理治理我国的的监管实践以“安全可控、伦理先行、以人为本”为核心理念，呈现出顶层规划、专项立法与地方实践相结合的多层次治理格局国际倡议国家层面地方治理技术服务于公共利益服务提供者的主体责任涵盖网络信息安全、个人信息保护、防沉迷等《新一代人工智能发展规划》《生成式人工智能服务管理暂行办法》《全球人工智能治理倡议》《全球数据安全倡议》主张构建开放、公正的治理机制对跨境数据流动与企业合规提出了具体方案《人工智能产业促进条例》上海、深圳等地发挥立法优势引入“监管沙盒”与“负面清单”制度伦理规范嵌入产业集群建设，项目准入与资金支持8.2人工智能伦理治理监管治理在行业治理层面，技术标准与企业自律构成了监管体系的微观基础技术标准：ISO、IEEE等已发布了一系列针对算法偏差、系统稳健性及数据隐私的技术标准（如ISO/IEC42001），为企业合规提供了可量化的操作指南企业内生驱动：头部企业普遍建立科技伦理委员会，开展红队测试、算法审计及签署行业自律公约，主动识别并缓解生成式内容的致幻与偏见风险国际协调国家立法地方试点行业自律人工智能监管治理的立体化格局8.2人工智能伦理治理研发治理单纯依赖科研人员个体自律已难以应对由复杂系统带来的结构性伦