人工入门智能基础 5

第10章人工智能伦理与社会影响

目录01医疗AI在疾病诊断中的误诊问题02AI助手的隐私问题03自动驾驶汽车的伦理决策问题04AI在招聘中的伦理困境05AI在就业、隐私安全方面的影响1医疗AI在疾病诊断中的误诊问题01医疗AI在疾病诊断中的误诊问题02AI助手的隐私问题03自动驾驶汽车的伦理决策问题04AI在招聘中的伦理困境05AI在就业、隐私安全方面的影响AI的伦理问题数据隐私和安全偏见和歧视自主性和责任透明度和可解释性长期影响和失控风险医疗AI在疾病诊断中的误诊问题误诊成因分析​训练数据偏差决策过程缺乏可解释性​应对罕见病和复杂病例能力不足​医疗AI在疾病诊断中的误诊问题实际案例分析​汕头3岁孩子误诊事件：广东汕头一对年轻父母的3岁孩子欣儿出现反复咳嗽和发热症状，家长通过手机AI工具诊断为“普通呼吸道感染”并居家用药，最终孩子病情恶化，被确诊为由腺病毒和细菌共同感染引发的重症肺炎。武汉魏先生误诊事件：武汉市民魏先生左眼眼角不慎被凳子撞伤，向某AI软件寻求处理建议，AI称轻度眼部挫伤通常可自愈。此后魏先生眼部疼痛缓解但视力下降，就医后被确诊为典型的糖尿病视网膜病变，因病情延误过久，视力无法恢复如初。AI助手的隐私问题隐私风险的技术与伦理根源​技术层面数据采集的过度索权加密与匿名化不足第三方生态的监管盲区伦理层面​知情同意的形式化数据利用的“黑箱化”责任主体的模糊性2AI助手的隐私问题01医疗AI在疾病诊断中的误诊问题02AI助手的隐私问题03自动驾驶汽车的伦理决策问题04AI在招聘中的伦理困境05AI在就业、隐私安全方面的影响隐私泄露的案例​三星公司机密资料外泄事件国安部涉密事件韩国Iruda聊天机器人事件3自动驾驶汽车的伦理决策问题01医疗AI在疾病诊断中的误诊问题02AI助手的隐私问题03自动驾驶汽车的伦理决策问题04AI在招聘中的伦理困境05AI在就业、隐私安全方面的影响自动驾驶汽车的伦理决策问题

技术黑箱与决策不可解释性AI自动驾驶依赖深度学习模型处理复杂路况，这类算法通过海量数据训练形成非线性决策网络，但内部逻辑难以被人类完全解读。多元价值观的冲突与排序自动驾驶需在紧急场景下对生命、财产、规则进行量化权衡，但不同文化、法律和伦理学派对此存在根本分歧数据偏差与场景泛化不足责任链条的碎片化与滞后性人机协作的信任悖论自动驾驶事故案例分析2016年美国佛罗里达州致死事故2018年Uber自动驾驶致人死亡事故2025年小米SU7高架追尾事故事故4AI在招聘中的伦理困境01医疗AI在疾病诊断中的误诊问题02AI助手的隐私问题03自动驾驶汽车的伦理决策问题04AI在招聘中的伦理困境05AI在就业、隐私安全方面的影响AI在招聘中的伦理困境训练数据的偏见传导AI招聘模型的训练数据若存在历史招聘偏见，会直接导致算法对特定群体的歧视。决策过程的黑箱化AI招聘工具的决策逻辑往往缺乏可解释性，难以追溯算法对候选人的筛选依据。复杂场景的适配能力不足在处理非标准化候选人（如跨行业转行者）时，AI技术常表现出局限性。实际案例分析：亚马逊AI简历筛选工具歧视事件在实际筛选简历时，系统表现出令人震惊的倾向性。它将“女子篮球协会”“女性领导力论坛”等明显与女性群体相关的关键词，错误地标记为负面特征。系统对直接包含“女性”字眼的相关经历也存在歧视性评分逻辑5AI在就业、隐私安全方面的影响01医疗AI在疾病诊断中的误诊问题02AI助手的隐私问题03自动驾驶汽车的伦理决策问题04AI在招聘中的伦理困境05AI在就业、隐私安全方面的影响人工智能对就业市场的影响尽管生成式AI在全球呈爆发式渗透态势，但其对就业市场的直接替代效应并未如早期担忧般剧烈。在提升劳动生产率的底层逻辑下，AI正通过“效率革命”间接创造就业增量，这种效应在服务业和知识密集型行业尤为显著。在制造业大国中国，AI正成为破解“机器人替代”困境的关键。从全球范围看，AI对劳动力市场的影响正呈现“分层渗透、动态平衡”的特征AI技术在隐私安全方面的影响深度伪造引发的隐私安全问题2024年美国总统大选中，AI生成的候选人不当言论视频在选举关键期迅速传播退休老人被AI合成的马斯克推荐投资广告诱骗泰勒・斯威夫特等名人的虚假色情影像在网络疯传应对AI风险的监管策略与法规框架美国：产业驱动下的多元策略欧盟：规则先行的严格监管中国：创新与安全并重的协同发展其他国家与地区的探索中国：创新与安全并重的协同发展2018年，习近平总书记在主持十九届中央政治局第九次集体学习时便强调，需未雨绸缪，加强战略研判，以确保人工智能的安全、可靠与可控2020年11月，中国在二十国集团领导人第十五次峰会上提出了《全球数据安全倡议》2021年9月，科技部发布了《新一代人工智能伦理规范》2024年10月，中国在第三届“一带一路”国际合作高峰论坛上提出了《全球人工智能治理倡议》AI风险监管的未来发展方向监管方式的革新将呈现出鲜明的“技术反哺”特征。国际合作层面，构建统一协调的AI治