人工智能通识导论（理论篇）课件 第8章 挑战与治理：人工智能与社会伦理

第8章挑战与治理团结创新共赢AI与社会伦理1目录Introduction0101算法伦理与数据治理0303人工智能的未来治理0202人机交互的伦理挑战0404本章小结引言3农耕文明工业文明数字革命人工智能个体德性修养人际关系规范劳动权益代际公平环境保护数字身份，信息隐私“人-数据-算法”三元交互结构引发伦理范式根本性变革智能体不仅作为技术工具存在，更通过自主决策参与社会活动，使得传统伦理框架面临诸多新的挑战。数据隐私与安全算法伦理与数据治理大约32万美国选民('种子参与者’)被支付2至5美元，以参加一项详细的个性/政治测试，该测试要求他们使用自己的Facebook账号登录。该应用程序还收集了诸如点赞和测试者Facebook账户的个人信息等数据…以及他们朋友的数据，总计超过5000万人的原始Facebook数据性格测试结果与他们的Facebook数据(如点赞)配对，以寻找心理模式。算法将数据与来自其他来源的信息(如选民记录)结合，创建了一套更高级别的记录(最初涉及11个关键州的200万人*)，每人拥有数百个数据点，随后可以基于他们的个性数据，通过高度个性化广告进行定位。《卫报》图表，*阿肯色州、科罗拉多州、佛罗里达州、爱荷华州、路易斯安那州、内华达州、新罕布什尔州、北卡罗来纳州、俄勒冈州、南卡罗来纳州、西弗吉尼亚州1234数据隐私与安全算法伦理与数据治理2020年4月，联邦法院正式批准美国联邦贸易委员会(FTC)和Facebook之间的用户个人隐私问题和解协议，Facebook认罚50亿美元。增加隐私措施，提供季度报告，成立专门的隐私委员会等。“这项和解协议已经给我们的公司带来了根本性的变化，我们在保护人们隐私方面取得了前所未有的进步。最重要的是，它带来了新的责任水平，并确保隐私是Facebook每个人的责任。”Facebook首席产品隐私官MichelProtti算法伦理与数据治理Facebook数据泄露事件具有以下三个重要的意义。督促企业提升技术手段、重塑责任意识；推动了全球监管改革与升级。Facebook数据泄露事件成为隐私保护的里程碑案例。推动“隐私权”成为数字伦理的核心议题；数据隐私与安全算法伦理与数据治理近几年，数据安全事件出现了明显的变化，勒索软件攻击成为主流。数据隐私与安全2024.5,超过1亿人的个人信息和医疗保健数据在ChangeHealthcare勒索软件攻击中被盗,损失24.5亿美元。2024.4,背景调查公司NPD遭到网络攻击，导致29亿个人隐私数据泄露，兜售350万美元。算法伦理与数据治理应对措施数据隐私与安全技术层面

数据加密，差分隐私，隐私计算等让数据在“可用不可见”的状态下实现分析与共享制度/政策层面

数据分级分类制度，应急预案，法律法规个人习惯

强密码，定期更换，避免公共WiFi敏感数据操作

拒绝与功能无关的定位、相册、麦克风等调用算法伦理与数据治理算法偏见算法偏见是指算法系统在设计、数据或决策过程中，由于数据集、算法设计缺陷或者人为因素，导致对特定群体产生系统性不公平结果的现象。

1）数据集样本不足，样本不均衡，样本存在歧视性关联等2）选择与偏见相关特征，或通过“代理变量”留下算法漏洞3）在数据集标注、算法权重和阈值等参数的设定、目标函数的优化过程中融入人为偏见算法伦理与数据治理算法偏见-COMPAS错误标记为“高风险”的比例错误标记为“低风险”的比例黑人45%28%白人23%48%

*COMPAS，用于预测被告的再犯风险，辅助法官决定量刑、保释或假释。算法伦理与数据治理算法偏见-物体识别Azure

:

食物、奶酪、面包、蛋糕、三明治克拉利菲:

食物、木材、烹饪、美味、健康谷歌

:

食物、盘子、美食、安慰食品、午餐肉亚马逊

:

食品、糖果、甜点、汉堡沃森

:

食物、食品产品、姜黄、调味品腾讯

:

食物、盘子、物质、快餐、营养素肥皂尼泊尔肥皂英国Azure

:

厕所、设计、艺术、水槽克拉利菲:

人、水龙头、医疗保健、洗手池、洗衣房谷歌

:

产品，液体，水，流体，浴室配件亚马逊

:

水槽、室内、瓶子、水龙头沃森

:

油箱、储罐、洗漱用品、肥皂分配器腾讯

:

乳液、洗漱用品、肥皂分配器、剃须后护理算法伦理与数据治理算法偏见-亚马逊AI招聘投递“软件开发工程师”等技术岗位的求职者简历如果包含“女”关键词（性别，“女子象棋俱乐部部长”，“女子学院”等）则会被打低星，而“男”则不受影响。“可以说这个人工智能很成功，因为它模仿了亚马逊当前的招聘状态。“算法伦理与数据治理算法偏见-应对与治理算法偏见的因素事实上不是独立的，它们互相影响、作用，形成循环反馈会进一步升级、强化偏见的产生。需要技术、法律与社会监督共同协作治理。数据清洗，丰富数据集，修正隐含歧视关联增加公平性约束，强制模型无法推断敏感属性，推动决策“基于公平的因果性”算法伦理与数据治理决策透明与可解释性机器学习各种模型内部的决策逻辑和推理过程通常难以被解释和直观理解。这类无法追溯决策过程、工作原理不透明的模型被称为“黑盒”模型。在医疗诊断、金融风控和司法量刑等高风险领域，模型的决策透明度和可解释性却成为是否采信该模型结果的重要依据。算法伦理与数据治理决策透明与可解释性决策透明是指是否可以像“查账”一样，一步步追溯模型的决策过程；可解释性则是指能够像“翻译”一样，用普通用户可以理解的方式解释模型的结论。决策依据放贷原因收入水平教育程度贷款额度贷款时长高收入水平低贷款额度算法伦理与数据治理可解释AI鉴于决策透明与可解释性对于AI模型的公正性、可靠性和用户信任度的重要意义，可解释的AI（ExplainableAI/XAI）成为人工智能技术发展的一个重要趋势。优化模型设计为输入特征分配权重，强制模型学习与人类认知一致的特征原型事后解释在模型训练后，通过工具或算法解释模型的决策原理可视化解释激活热力图（Crad-CAM）高亮显示决策重要依据人机交互的伦理挑战人类主体性与技术依赖模型十八世纪近现代哲学人类学的思想先驱，德国著名哲学家康德提出了人类主体性的哲学思想，表达了人作为主体所具有的能动性、自主性、自我选择、自我决定的思想。

AI时代，当技术打破了人类与机器的边界、算法深度参与人类决策、技术便利导致能力退化，人类的主体性开始逐渐模糊。人机交互的伦理挑战主体性挑战——信息茧房公众只注意自己选择的东西和使自己愉悦的通讯领域，久而久之，会将自身桎梏于像蚕茧一般的“茧房”中。——哈佛大学凯斯・桑斯坦智能推荐算法营造“信息舒适区”，固化认知范围，形成“认知茧房”，造成个人意见退化。提供建议人机交互的伦理挑战主体性挑战——信息茧房个体认知的局限与偏见固化（极端化认知）社会沟通与共识的障碍（网络暴力）阻碍创新，威胁民主政治危害个体层面主动破茧：尝试异质信息，参与多元社交平台层面承担责任：优化推荐算法，增加算法透明度政府层面强化法律监管，社会层面促进跨领域交流应对人机交互的伦理挑战技术依赖——能力退化经过多回合训练测试获得许可的伦敦出租车司机，他们的海马体后部蕴含了更多的神经元及其他组织，强化了他们的导航能力。GPS依赖者负责空间记忆的后海马体体积年均减少0.8%，萎缩程度与日均GPS使用时长正相关。过度依赖AI还有可能造成推理、逻辑构建、手眼协调等能力的退化。人机交互的伦理挑战决策权让渡与责任归属决策权逐步让渡，复杂场景责任归属难以划分人机交互的伦理挑战决策权让渡与责任归属国际汽车工程师协会（SAE）的分级体系“智驾”概念主流量产车型自动驾驶系统需具备手部脱离检测和视线脱离检测功能，检测到脱离时发出报警并强制退出系统

‌多次脱离方向盘后，系统将在至少30分钟内禁用‌禁止使用“自动驾驶”“无人驾驶”等误导性宣传词需明确标注适用场景（如高速公路、城市道路）及限制条件‌需完整记录车辆运行数据以支持事故责任判定‌《智能网联汽车组合驾驶辅助系统安全要求》（征求意见稿）对L2级辅助驾驶要求节选人机交互的伦理挑战决策权让渡与责任归属自动驾驶2019年4月25日，美国佛罗里达州发生一起致命车祸。ModelS司机开启了Autopilot辅助驾驶返家途中，俯身捡拾掉落手机时，车子以超过60英里（96公里）/小时的速度冲进十字路口，发生碰撞，导致一死一伤。2025年8月1日，佛罗里达州联邦南区地方法院裁定特斯拉需承担33%的责任，并支付高达2亿美元的惩罚性赔偿，总赔偿金额达2.43亿美元。这起案件成为特斯拉在美国自动驾驶安全责任诉讼中的首次败诉，意义重大。人机交互的伦理挑战决策权让渡与责任归属自动驾驶2021年2月的一起交通事故，张女士父亲驾驶的特斯拉Model3发生追尾事故，家属质疑“刹车失灵”。历经四年的艰难诉讼，2025年9月16日法院作出了一项具有里程碑意义的判决，责令特斯拉向车主张女士提供其车辆在事故发生前半小时的完整行车数据。这是法律首次支持了消费者获取完整智能汽车数据的诉求，认定消费者的知情权应优先于企业的商业秘密主张。人机交互的伦理挑战决策权让渡与责任归属自动驾驶针对自动驾驶责任归属认定采取的措施：相应的法律法规，如《智能网联汽车组合驾驶辅助系统安全要求》安装行车事件记录器（EDR系统），记录事故前后的车辆运行数据安装驾驶员状态监测系统（DMS），监测驾驶员分心、疲劳等情况区块链加密存储技术，确保车辆数据不可篡改数字孪生技术，建模还原事故场景，复现AI决策过程人机交互的伦理挑战生成式AI的认知冲击数据集质量对生成内容的影响——数据集偏差造成模型幻觉——明显偏向性内容，引发信息极化和社会分化人机交互的伦理挑战生成式AI的认知冲击大模型训练使用的数据可能涉及的侵权争议，和生成内容是否具有独立版权的争议。孙燕姿说“它赫然耸现并将威胁到成千上万个由人类创造的工作，比如法律、医学、会计等行业，以及目前我们正在谈论的，唱歌。”人机交互的伦理挑战生成式AI的认知冲击使用生成式人工智能用于造假与欺骗则带来了更大的风险。2025年第一季度，全球Deepfake诈骗损失高达2亿美元，普通民众受害者占比34%，逼近名人政客的41%。人机交互的伦理挑战生成式AI的认知冲击生成式AI风险应对措施有代表在2025年全国两会上提交了“关于加强AI换脸拟声违法侵权重灾区治理的建议”国家网信办等七部门发布的《生成式人工智能服务管理暂行办法》于2023年8月15日正式实施2024年8月1日全球首部全面监管人工智能的法规欧盟《人工智能法案》正式生效人机交互的伦理挑战情感计算与伦理边界问题不在于智能机器能否有情感，而在于机器实现智能时怎么能没有情感”——马文·明斯基《情感机器》2024年12月，“情感计算”入选2024年度计算机科学技术研究前沿热点词。人机交互的伦理挑战情感识别-文本文本信息情感计算主要通过情感词典完成积极情感词典​：包含正向情绪词汇（如“快乐”），赋予正向分值；消极情感词典​：收录负面词汇（如“糟糕”），赋予负向分值；程度词词典​：量化情感强度（如“极其”），用于调整情感词权重；否定词词典​（如“不”“没有”），用于反转情感极性。“这部电影一点也不

好看”正向强化反转负面情绪人机交互的伦理挑战情感识别-文本情感词典的​核心优势​：规则透明、可控性强可根据需要调整、定制规则情感词覆盖率高的场景下（如商品评论），分类准确率可达80%以上情感词典的​局限性​：​依赖词典质量​：网络新词需人工标注，维护成本高（“yyds”）；​跨领域适应性差​：同一词在不同语境中含义可能相反（“变态”）​忽略上下文语义​：难以处理反讽或复杂句式的情感反转（“这操作真是6”）在新兴网络语言或复杂语义时，需结合机器学习模型（如BERT）弥补不足人机交互的伦理挑战情感识别-语音结合了语音识别、信号处理、深度学习等多种先进技术的交叉学科领域/video/BV14x411C7Mm?t=30.2人机交互的伦理挑战情感识别-视觉Ekman定义的6种基础表情基于6种基础表情进行的疼痛表情研究/video/BV1oF4m1c7yG?t=99.8/