人工智能素养导论-第10章 人工智能伦理

人工智能素养导论暨南大学第10章

人工智能伦理目录01人工智能伦理概述02人工智能伦理的核心问题03人工智能法律体系04人工智能的道德规范05未来趋势与挑战章节导图AI伦理是跨学科研究领域探讨AI设计与应用中的价值判断、行为规范与社会责任涉及医疗、金融、交通、教育等关键行业融合算法、数据、交互、安全等多元技术需平衡效率与公平、创新与风险图10.1人−人工智能交互（HAII）领域示意资料来源：联合国教科文组织《人工智能伦理建议书》(2021)1.1人工智能伦理概念1.2AI伦理的三大维度01原则PrinciplesAI伦理的价值基石，是对公平、透明、安全等核心价值的高度凝练。它回答了“我们应该做什么”的根本问题，为技术研发与应用划定伦理红线，是所有AI行为的出发点与价值原点。02过程Process从理念到实践的体系化落地。将伦理原则嵌入数据采集、算法设计、模型训练及应用部署的全生命周期，解决“如何做”的执行问题，确保伦理要求真正融入技术细节与业务流程。03治理Governance通过制度、法规与标准进行宏观调控。建立监督、评估与问责机制，解决“如何确保做到”的保障问题。它是AI伦理的“护航者”，推动形成行业共识与合规体系，保障技术发展健康有序。体系协同：

三大维度层层递进、相辅相成。原则确立方向，过程保障执行，治理筑牢底线，共同构建起可信、负责任的AI伦理体系，实现技术创新与伦理规范的动态平衡。原则是基础，明确公平、透明、隐私等价值导向过程是路径，将原则落实到算法设计、数据处理等环节治理是保障，通过法律、监管、标准确保落地原则为治理和过程提供价值导向治理为过程提供制度保障过程反馈推动原则和治理持续优化图10.2三大伦理维度之间的关系（建立原则→实施过程→实施治理）资料来源：依据联合国教科文组织与欧盟文件归纳三大维度的协同关系国际权威机构提出了不同的AI伦理原则框架，核心原则如下表所示。框架名称机构与时间核心原则概览可信AI指南欧盟委员会2019人类自主、预防伤害、公平、可解释人工智能伦理建议书UNESCO2021不伤害、安全、公平、隐私、监督、透明、问责人工智能原则OECD2019以人为本、透明、鲁棒安全、问责伦理对齐设计IEEE2019人权、福祉、数据能动性、透明、问责新一代AI伦理规范中国科技部2021福祉、公平公正、隐私安全、可控可信、责任担当1.3国际知名伦理原则框架从各框架中可提炼七条通用原则，相互交织，共同指导AI系统的设计与应用。尊重人权：捍卫基本权利与尊严，不因算法歧视剥夺平等权利促进福祉：关注心理健康、社会包容、环境可持续数据治理与能动性：透明合规，赋予知情同意、更正与删除权公平与非歧视：避免偏见，对不同群体平等对待透明与可解释性：决策过程可追溯、可解释、可监督可靠性与安全性：预期与非预期环境均能稳定运行可问责与治理：建立审计、问责与纠错机制七条通用伦理原则南方科技大学姚新团队对AI伦理问题作系统综述，划分为三个层面：个人层面：隐私与数据保护、自主权侵蚀、人格尊严侵害社会层面：公平正义、责任问责、透明度缺失、就业风险环境层面：资源消耗、能源与污染、生态影响图10.3AI伦理问题的三个层面2.AI伦理问题的三个层面隐私保护：为维护个人隐私权而采取的法律、技术与管理措施数据安全：保护数据免受未授权访问、泄露、篡改、损毁与滥用，数据安全是隐私保护的基础与手段，隐私保护是其核心目标隐私：个人或团体隔离自身或相关信息、选择性表达自己的能力隐私权：以法律形式保障个体选取隐私状态，具备诉讼能力，强调个体对个人信息与生活空间的控制权，贯穿数据全生命周期资料来源：中国《个人信息保护法》(2021)概念界定2.1隐私保护与数据安全：概念与隐私权挑战一：数据泄露——2018年某大型社交平台泄露五亿用户明文密码含敏感属性的数据可借关联分析识别个体隐私挑战二：成员推断与模型反演攻击攻击者可判断某数据是否用于训练，推断个体是否属于特定群体模型参数存储云端，仍存在隐私泄露风险GDPR强调“最小化收集”与“用途限制”（Art.5）立法缺失地区，个人信息在“服务协议”被动同意中灰色流转资料来源：Shokrietal.,2017；欧盟《通用数据保护条例》Art.5数据安全的两大挑战数据安全治理技术体系01平台类：运营管理中枢构建统一的数据安全运营管理平台，实现资产自动盘点、风险实时监测、策略统一管控与应急响应的一体化调度，解决安全运营分散、协同效率低的问题。02生命周期类：全流程防护覆盖数据采集、传输、存储、使用、共享及销毁全周期，运用加密、脱敏、水印、API管控等技术，防止数据泄露、篡改，保障数据流转安全。03基础通用类：安全底座支撑夯实数据分类分级、身份认证与访问控制、日志审计等基础能力，落实最小权限原则，建立可追溯的审计机制，为上层安全应用提供坚实支撑。转自中国信息通信研究院《数据安全治理实践指南(3.0)》数据安全治理技术体系采集阶段：本地脱敏，差分隐私前置扰动传输阶段：TLS加密隧道与同态加密聚合阶段：安全多方计算，加密域内运算发布阶段：差分隐私注入噪声，防反推多环节协同，实现性能与隐私的平衡。图10.5数据安全治理技术（四阶段）数据安全技术：四阶段隐私保护国际立法标杆欧盟《通用数据保护条例》（GDPR）作为全球数据保护的典范，明确强调“数据最小化收集”与“严格用途限制”原则，为跨境数据流动与用户隐私保护树立了严格的合规标准。国内法规基石《中华人民共和国个人信息保护法》确立了“目的限定”与“最小必要”的核心原则，通过明确的权责划分与高额的违规处罚机制，构建起国内数据安全的法治保障体系。企业实践落地企业将“隐私设计（PbD）”与“数据最小化”理念融入产品全生命周期，从需求设计、开发运营到数据销毁全流程嵌入隐私保护机制，实现合规要求与用户信任的双重提升。数据安全管理原则偏见：基于刻板印象形成的非理性判断与歧视态度Allport《偏见的本质》(1954)：对他者负面的、情感驱动的概括化倾向多基于种族、性别、年龄、宗教等身份特征，常是潜意识的公平：正义理论的核心范畴，关注机会与结果分配的正当性罗尔斯《正义论》(1971)：差异原则，优先保障最弱势群体诺齐克《无政府、国家与乌托邦》(1974)：强调财产取得与转让的正当性偏见经自动化决策固化放大，削弱信任并引发法律伦理问题资料来源：Allport,1954；Rawls,1971；Nozick,19742.2偏见与公平：基本概念偏见是文化、数据与算法相互作用的结果数据层面训练数据记录社会结构性不平等比如MIT研究：深肤色女性人脸误识率34.7%，浅肤色男性仅0.8%算法层面特征选择与目标函数设置不当引入系统偏差社会文化层面制度性歧视与刻板印象被数据化再生产信息茧房与回音室效应进一步加剧偏见的传播资料来源：Buolamwini&Gebru,2018（MIT人脸识别研究）AI偏见的三大来源案例分析：大数据杀熟01事件：会员配送费的“逆向差异”2020年用户实测发现，美团会员账号配送费高达6元，而非会员账号仅需2元，形成明显的价格倒挂现象，引发广泛争议。02回应：技术层面的解释官方将此现象归因于“定位缓存偏差”，否认存在基于用户身份的算法歧视，强调并非针对会员的差别定价。03伦理：算法背后的公平拷问隐性歧视：算法利用大数据画像，对高忠诚度、高支付意愿用户进行溢价，构成隐蔽的价格歧视，损害消费者权益。公平失衡：违背市场公平原则，利用信息不对称牟利，侵蚀了数字经济中的信任基础与社会公正。案例分析：Uber新司机评级困境现象：新司机的“脆弱性”危机新司机因订单基数小，对负面评价缺乏“抗风险能力”。一次低分评价即可导致平均分骤降，甚至触发平台的账号封禁机制，直接影响其职业准入。结构性不公的深层逻辑样本量悬殊：新司机评分样本少，单次评价权重被无限放大；资深司机凭借海量历史评分，可轻松稀释偶发低分的影响，形成“强者恒强”的马太效应。评价机制局限：仅依赖乘客1-5星主观评分与文字评论，缺乏对路况、天气等客观因素的考量，评价结果易受乘客情绪干扰，进一步加剧了新司机的生存压力。01数据层面：多元采集与审查引入多元化数据采集机制覆盖全群体特征，建立透明可追溯的标注审核流程，消除数据采集与标注阶段的人为偏见，确保训练数据具备充分的代表性与公正性。02算法层面：公平约束与对抗在模型损失函数中加入公平性正则项约束，平衡模型精度与公平性；或采用对抗性去偏技术，通过博弈训练消除模型决策中的群体歧视，实现算法决策的公平性校正。03系统层面：监测审计与红队测试搭建公平性监控仪表盘，实时追踪模型输出的偏差指标与公平性指标；定期开展红队测试与第三方独立审计，模拟攻击场景发现潜在偏见，确保系统全生命周期的公平性可控。04制度层面：法规标准与终身问责推动AI伦理相关法规与行业标准落地，建立高风险AI系统的事前审批机制；落实算法主体的终身问责制，强化开发者与运营方的责任意识，同时开展AI伦理教育与培训。偏见缓解与公平优化策略责任(Responsibility)定义：行为体对其行为后果所应承担的义务，是AI治理的核心基石。分类：包含因果责任、道义责任与法律责任三大维度，构成责任认定体系。挑战：AI系统自治性持续增强，传统以“人”为核心的责任归因逻辑面临严峻挑战。透明度(Transparency)定义：要求系统运行逻辑可解释、决策路径可追踪、模型行为可管控，消除算法黑箱。关联：透明度是责任落实的前提基础，而明确的责任框架又会倒逼系统透明度的落地，二者相辅相成。2.3责任与透明度01可解释性打破AI黑箱的“翻译官”目标是将AI的决策逻辑转化为人类可理解的语言，消除算法“黑箱”带来的不确定性，确保模型判断符合人类认知与伦理规范，增强用户信任。02核心技术内在透明与事后解析采用“内外结合”策略：利用决策树等天生透明的模型实现内在可解释；或通过LIME、SHAP等工具对深度学习等复杂模型进行事后拆解与归因分析。03可追溯性构建可信的“证据链”全生命周期追踪数据来源、模型迭代与代码变更路径，构建不可篡改的审计记录，为AI决策的合规性审查、责任认定与安全审计提供坚实依据。可解释性与可追溯性01事件回顾：致命的错误建议2023年，多家医院部署的临床辅助决策系统（CDSS）出现严重失误：模型给出“自信而错误”的用药方案，甚至忽略患者已知的过敏史，造成严重的医疗安全隐患。02核心症结：决策的“黑箱”困境系统仅输出最终结论，却未保留任何推理过程。医生无法确认模型为何推荐该药物，更无法验证其是否考虑了患者的过敏史、病史等关键信息。03深层根源：透明度与可追溯性缺失模型内部日志缺失中间注意力权重与检索来源，导致决策过程不可解释。这种“黑箱”特性让AI医疗建议失去了临床信任的基础。案例分析：大模型医疗推荐失效01自主权(Autonomy)哲学定义：康德提出“人通过理性为自己立法”的能力，强调个体的内在自由意志与道德责任，是人类主体性的核心体现。AI语境：指AI系统基于预设规则或自主学习模型，独立进行决策判断、执行任务行动的能力，是实现智能体自主运作的关键属性。02控制(Control)科学定义：维纳在控制论中提出，是“通过信息反馈机制调节受控对象功能或发展方向的过程”，是动态调节系统的核心逻辑。AI语境：人类对AI系统进行持续监督、参数调整、行为干预与结果纠正，通过技术手段与伦理框架确保其行为符合人类意图与社会公共利益。2.4自主权与控制AI能够自主完成从创意生成到论文撰写的整个研究过程案例分析：SakanaAI的“AI科学家”欧盟：以《人工智能法案》为标志，按风险分级监管中国：数据、算法、生成式AI多部法规相继出台美国：联邦以行政令与行业自律为主，州层面先行立法国际组织：OECD、联合国、ISO/IEC推动原则与标准从“伦理原则”到“硬性规则”的转化程度各不相同全球治理呈现从“碎片化”向“协调化”演进的趋势3.全球AI治理立法概览全球首部综合性AI法律，2024年8月1日生效，按风险分级：不可接受、高风险、有限、最小不可接受风险：社会评分、实时远程生物识别被禁高风险场景：医疗、教育、就业、司法须合规评估通用AI模型（GPAI）纳入义务范围，违规最高可处营业额7%的罚款图10.8欧盟AI法案风险分级框架资料来源：EUAIAct（Regulation(EU)2024/1689）欧盟《人工智能法案》形成“数据—算法—生成式AI”多维监管体系《数据安全法》（2021）：数据分类分级保护《个人信息保护法》（2021）：规范个人信息处理《算法推荐管理规定》（2022）：算法备案与治理《生成式人工智能服务管理暂行办法》（2023）特点：场景化、渐进式监管，安全与发展并重中国的数据与AI法规美国：联邦以行政令为主，2023年发布AI安全行政令行业自律与州层面立法先行，模式较为分散IEEE：发布《EthicallyAlignedDesign》系列伦理指南NIST：发布AI风险管理框架（AIRMF1.0，2023）ISO/IEC42001：AI管理体系国际标准形成“联邦指导＋行业标准＋自律”的治理模式资料来源：IEEEEAD（2019）；NISTAIRMF（2023）；ISO/IEC42001美国与IEEE、NIST的标准体系法律责任与监管框架欧盟：风险分级的立法监管出台《人工智能法案》(AIAct)，建立全球首部综合性AI监管法律，依据风险等级实施差异化管控，对高风险应用实施严格的合规与审批要求。美国：市场驱动与行业自律以市场机制为主导，强调“软法”先行与行业自律，依托NIST人工智能风险管理框架等标准，引导企业自主建立伦理与安全治理体系。中国：场景化与精细化监管采取垂直化监管思路，针对算法推荐、生成式AI等场景出台《互联网信息服务算法推荐管理规定》等专项法规，兼顾创新发展与安全底线。4.1阿西洛马人工智能原则01发布背景2017年由“生命未来研究所”发起，在阿西洛马会议上正式发布，成为AI伦理发展史上的里程碑式共识文件。02核心参与者汇聚全球顶尖AI研究者、科技企业家、伦理学家及跨领域思想家，代表了行业内的前沿思考与共识。03核心理念体系涵盖研究规范、伦理价值观、长期安全三大维度，确立了“安全优先、透明可查、价值对齐、责任归属”等核心准则。04行业奠基意义由AI领域“内部人士”发起的集体反思，为全球AI伦理治理设定了基础议程，成为后续政策制定与行业规范的核心参考框架。4.2头部企业的AI原则微软Microsoft2018年发布·六大核心原则谷歌Google2018年发布·七大发展准则IBM商业机器2018年发布·三大核心价值商汤科技(2020)三大核心原则：可持续、人本、可控以技术向善为核心，推动AI与社会共生共荣，确保技术发展始终服务于人类福祉。华为(2023)八大核心目标：多元维度的AI治理覆盖透明问责、合法合规、隐私安全、生态可持续等，构建全链路的负责任AI体系。百度(2024)四项核心原则：筑牢可信AI基石聚焦安全可控、公平负责、透明可释与隐私保护，打造可信赖、可解释的人工智能技术。4.3国际组织的宏观指引联合国教科文组织

UNESCO·全球伦理基石2021年《人工智能伦理建议书》

全球首个综合性AI伦理框架，确立了以“人类福祉、人权、包容性”为核心的伦理原则，呼吁各国在研发与应用中坚守人文关怀，成为全球AI治理的重要共识基础。经济合作与发展组织

OECD·政策实践标杆2019年《AI理事会建议》

已被全球40余个国家采纳，强调“以人为本、透明可解释、稳健安全”三大核心。构建了兼顾创新与责任的政策框架，成为各国制定AI治理法规的重要参考依据。人工智能伙伴关系

PAI·行业落地指南2016年科技巨头联合发起

由谷歌、微软、亚马逊等企业推动，致力于将抽象的伦理原则转化为可落地的行业实践指南。聚焦技术研发、数据治理与应用规范，搭建企业间伦理实践的交流与协作平台。5.1未来趋势从“软性伦理”到“硬性法规”行业伦理共识正加速转化为明确的法律条文，从道德倡导转向制度约束。建立强制性的合规标准，为AI技术的发展与应用划定清晰的法律红线，成为不可逆转的治理趋势。可解释性与透明性成核心不再是可有可无的技术选项，而是贯穿AI全生命周期的核心伦理要求。系统决策逻辑的清晰可追溯，成为技术攻关的重点方向，也是赢得用户信任与合规审查的关键。治理全球化与多边协作围绕数据跨境流动、算法公平性评估及跨国监管协调，国际间的对话与合作将日益深化。构建全球统一的治理框架与标准，成为应对AI跨国挑战的必然选择。总结：

AI治理正从单一维度的技术规范，迈向法律规制、技术透明与全球共治的多维融合体系，这将为人工智能的可持续发展提供坚实保障。5.2面临挑战01伦理赤字算力与数据资源高度集中，可能加剧数字鸿沟、侵蚀文化多样性。需推动资源普惠，确保AI发展的公平与包容。02价值对齐如何确保AI目标与人类复杂多元、动态演变的价值观一致？这是保障AI长远安全发展的核心与终极命题。03认知鸿沟媒体渲染易催生非理性恐惧或盲目乐观。亟需通过广泛的公众教育，建立理性认知，构筑对AI的信任基石。价值对齐的技术和组织因素01技术保障：构建安全可信的算法机制•偏差检测与缓解：识别并消除训练数据与模型中的偏见，确保决策公平

•隐私保护技术：利用差分隐私、联邦学习等手段防止数据泄露

•RLHF优化：通过人类反馈强化学习，让模型更贴合人类价值观

•公平性测试：建立多维度指标体系，验证模型在不同群体间的表现02组织治理：建立多元共治的生态体系•全员素养培训：覆盖开发者与终端用户，提升AI伦理意识

•多方协商机制：引入用户、学者及监管机构参与决策，平衡利益

•价值敏感设计：将伦理原则嵌入产品设计、开发与迭代全流程

•透明化与审计：公开部署场景与决策逻辑，接受社会监督与评估价值对齐的技术和组织因素构建负责任AI的关键路径01伦理原则是基础确立尊重人权、公平公正、透明可解释等核心价值观，作为AI研发与应用的根本遵循，为技术发展锚定正确的价值航向，确保技术始终服务于人类福祉。02技术创新是手段依托隐私计算、联邦学习、算法审计等前沿技术，持续优化AI的公平性、可解释性与安全性，以硬核技术创新筑牢AI可信应用的坚实底座。03法律监管是保障建立分级分类的风险管控机制，完善适配AI发展的法律法规与行业规范，通过刚性制度约束划定技术应用的合规边界，保障AI健康有序发展。04多方协作是关键凝聚政府监管、企业自律、学术研究与公众监督的多方合力，构建多元协同的治理生态，推动AI技术在透明、共治的环境下向善而行、造福社会。谢谢！1.在人工智能领域,伦理研究主要探讨的是()方面的内容,这涉及到技术在设计、开发、部署与应用过程中的价值判断、行为规范与社会责任等关键议题。人工智能技术在设计、开发、部署与应用过程中的价值判断、行为规范与社会责任A人工智能的技术原理和算法B人工智能在技术层面的应用效果C人工智能与学术研究的关系D提交单选题1分2.在人工智能伦理体系中,伦理原则所发挥的主要作用是(),即为AI技术发展提供明确的道德底线和发展方向,起到指引作用。具体操作和实践A制度保障B指引作用,提供明确的道德底线和发展方向C技术实现D提交单选题1分3.在人工智能领域,AI伦理治理的主要作用是(),即通过提供外在约束和制度保障,规范各利益相关方的权责关系。提供具体的技术实现方案A进行数据采集和模型开发B制定伦理原则C为AI伦理提供外在约束和制度保障,规范各利益相关方的权责关系D提交单选题1分单选题1分4.根据相关法律定义,关于隐私与隐私权的正确说法是(),即隐私强调个体对个人信息与生活空间的控制权,且隐私权以法律形式保障个体选取隐私状态的权利。隐私只关乎“知情同意”A隐私强调个体对个人信息与生活空间的控制权,隐私权是以法律形式保障个体选取隐私状态的权利B隐私权不具备诉讼能力C隐私与数据收集、存储等过程无关D提交单选题1分5.为了防范成员推断攻击,在数据处理过程中,引入差分隐私机制的最佳阶段是(),这能有效避免反向推断攻击,保护个体隐私。数据采集阶段A数据传输阶段B数据聚合阶段C结果发布阶段D提交6.根据案例分析,美团大数据杀熟事件所违背的AI伦理原则是(),这体现了对消费者公平的忽视,即对不同用户提供差异化价格。隐私保护原则A公正原则B透明原则C安全原则D提交单选题1分单选题1分7.在算法层面,缓解偏见的方法通常包括在主损失函数中加入公平正则化惩罚项、采用对抗性去偏方法等,但不包括()这一方法,需要注意。在模型的主损失函数中加入公平正则化惩罚项A采用对抗性去偏方法B建立可视化的公平仪表盘C运用多任务学习框架D提交单选题1分8.当前,在人工智能领域,可解释性的核心目标是(),即让模型的决策依据能够以人类可理解的方式呈现和解释,从而增强信任。提高模型的准确性A以人类可理解的方式呈现和解释AI模型的决策依据B增加模型的复杂度C降低模型的训练成本D提交单选题1分9.为应对人工智能系统透明度与责任归属的挑战,应从()等维度构建协同治理框架,以实现有效监管,即技术、法律与伦理三个维度。技术和法律维度A法律和伦理维度B技术、法律与伦理三个维度C技术和社会维度D提交单选题1分10.根据相关法律,在中国,禁止利用算法实施“大数据杀熟”的法规是(),这体现了对消费者权益的保护,即《互联网信息服务算法推荐管理规定》。《生成式人工智能服务管理暂行办法》A《互联网信息服务算法推荐管理规定》B《人工智能法》C以上都不是D提交单选题1分