人工基础智能教程 3

第9章AI伦理、法律与社会影响课前思考

你认为AI算法是“客观中立”的吗？如果不是，这种非中立性可能来源于哪里？它又会对我们的社会、经济乃至个人生活产生哪些影响？本章主要内容人工智能已融入社会，但技术发展带来了新的伦理挑战。本章将探讨技术与人文的边界，理解AI发展的责任与使命。理解核心原则剖析真实困境践行责任准则学习公平、责任、透明与安全的四大核心维度通过8个案例，剖析技术落地中的复杂矛盾从理论走向实践，探讨如何在技术创新中坚守人文关怀AI伦理的核心维度避免算法偏见，确保人人平等。明确责任归属，建立追溯机制。打破算法黑箱，确保决策可解释。构建鲁棒系统，防范技术滥用。案例分析：公平与偏见亚马逊招聘工具：历史数据的性别偏见AI招聘工具因学习历史数据中的男性主导模式，学会了贬低包含“女性”相关词汇的简历。核心问题：数据偏见(DataBias)训练数据中的历史偏见被模型继承，使算法成为歧视的放大器，而非中立工具。算法的“客观”≠“公正”案例分析：公平与偏见COMPAS司法系统：隐藏的种族歧视广泛用于美国司法系统的累犯风险评估算法，对黑人被告存在明显偏见。核心问题：代理歧视(ProxyDiscrimination)算法通过“中立”特征作为代理变量，间接延续了制度性的种族不公。需引入算法审计机制案例分析：责任与安全Uber自动驾驶致死事故Uber自动驾驶测试车撞死行人，人类安全员走神，引发责任归属争议。核心问题：责任差距（AccountabilityGap）事故责任难以界定：是算法、传感器、安全员还是Uber公司？暴露了“人机共驾”的悖论案例分析：责任与安全IBMWatsonHealth医疗决策偏差AI癌症治疗推荐系统因训练数据非真实病历，给出不安全建议，项目终止。核心问题：鲁棒性缺失与验证断层训练数据与真实世界存在“分布偏移”，且缺乏严格的临床验证。在高风险领域，AI应定位为临床决策支持系统(CDSS)，最终决策权必须保留在人类专家手中。案例分析：知识产权艺术家集体诉讼生成式AI

艺术家起诉AI公司未经许可使用其受版权保护的作品训练模型。核心问题：训练数据的版权合规性AI模型的训练行为是否构成“合理使用”？AI生成内容的版权归属？生成式AI正在挑战现行知识产权保护框架。案例分析：信息真实性美国大选中的AI伪造电话门深度伪造技术模仿总统声音，试图干预选举。核心问题：“骗子红利”(Liar’sDividend)当伪造信息泛滥，公众会对所有真实视听证据产生怀疑，导致信任崩塌。技术滥用倒逼监管升级，需部署数字水印和溯源系统。案例分析：隐私与监控ClearviewAI的面部识别数据库公司未经同意抓取30亿张社交网络照片，建立数据库供执法部门使用。核心问题：隐私侵犯技术实现大规模个体追踪，严重侵犯生物特征隐私，可能导致“全景敞视”社会。将个人信息商品化，违反了“数据最小化”与“知情同意”原则。案例分析：企业责任与技术滥用GoogleProjectMaven

Google与美国国防部合作，利用AI技术分析无人机监控视频，引发员工抗议。核心问题：双重用途技术（Dual-useTechnology）通用AI技术被用于军事目的，引发科技公司社会责任与商业利益的冲突。“员工行动主义”兴起，从业者的伦理自觉是防止技术滥用的重要力量。负责任AI的实践准则全生命周期的偏见审计“人在回路”透明度优先隐私设计内容溯源与标识使用公平性指标（如DemographicParity）对各阶段审计高风险系统需保留人类干预和否决的权利发布模型卡