《信息技术伦理》课件 第10章：城市空中交通自动驾驶中的伦理问题

信息技术伦理——理论、方法与案例主编：左美云副主编：王亚妮、陈劭第10章：城市空中交通自动驾驶中的伦理问题本章目录10.1UAM场景中的信息技术10.2UAM场景伦理问题分析10.3UAM场景伦理应对方案10.4UAM场景伦理应对方案的实施与评估10.5结语问题引入教材假设情境一架载有2名乘客的全自动驾驶eVTOL在300米低空突发致命故障。系统预判10秒内坠落：维持航向将冲向聚集约50—60人的广场；调整轨迹则可能使2名乘客遇难。UAM的三类典型应用场景城市空中出行短途载客、枢纽接驳｜首要伦理关切：生命安全与事故责任城市空中物流医疗急救、应急物资配送｜伦理关切：飞行碰撞和配送优先级城市空中公共服务低空巡查、环境监测｜伦理关切：隐私采集与空域使用公平UAM自动驾驶系统的四大模块01环境感知多传感器融合、计算机视觉；识别障碍物、气象与空域边界02决策控制飞行路径规划、姿态控制；处理故障与应急伦理决策03通讯导航北斗/GPS、惯导、5G-A；支持高精度定位和空地协同04数据管理采集、加密存储及备份飞行数据；支撑追溯与监管技术瓶颈与伦理风险的联动感知与通信传感器失效、定位偏差或通信迟滞会削弱环境判断决策与控制算法黑箱、伦理规则争议和应急响应不足会放大决策困境数据与追责飞行记录缺失、隐私泄露和数据篡改影响事故调查案例背景与事实边界教材假设：高空突发故障碰撞困境时间与地点城市核心商务区上空，300米低空开放空域；10秒决策窗口参与主体2名机上乘客、广场公众、制造商、运营方与监管机构关键事件主执行器断裂→传感器失效→冗余动力失败→两轨迹择一证据来源教材10.2.1构造的伦理思想实验，并非真实事故报道分析边界讨论生命安全、风险公平与责任；不推定真实产品能力极端故障下的两个互斥选项核心冲突系统预计10秒内坠落：两种选择都可能造成生命损失，且存在重大不确定性。方案A｜维持航向坠向城市广场约50—60名公众聚集飞行决策两种轨迹方案B｜调整轨迹导向无人楼顶停车场2名乘客大概率死亡伦理问题识别伤害分配公平UAM收益集中于乘客｜地面非参与者被动承担重大风险责任与算法伦理无人驾驶事故责任可能模糊｜黑箱决策难解释与审计公平与歧视风险付费身份、财富差异或训练偏差可能形成不当决策倾向伦理问题与利益冲突核心冲突UAM服务收益与公共风险外部化之间存在冲突，生命权利必须得到平等尊重。效率与创新立体交通提速商业服务收益冲突发生在算法应急分配安全与公平乘客生命平等地面公众权益利益相关方分析直接决策者制造商，算法设计者，运营方权力：设计，调度，维护责任：安全，合规，留痕直接受影响者乘客与地面公众诉求：生命，知情，救济脆弱性：公众无风险议价权间接受影响者周边居民、行业、社区影响：城市安全与公众信任代表：行业组织，公众参与治理与监督者民航及空域监管机构，ICAO权限：准入，监督，协调责任：规则，问责，救济方案比较：四种伦理理论的决策逻辑义务论人是目的，遵守普遍义务案例策略：不预设牺牲方案关注生命与权利底线契约论规则源自相关方公平协商案例策略：依事前契约处理风险关注程序共识与合法性功利主义最小化总体伤害案例策略：牺牲少数保护多数关注可量化的后果Maximin原则优先改善最不利群体处境案例策略：保护被动承险公众关注风险分配公平方案比较：四种理论的优势与局限义务论优势：划定伦理红线局限：多项义务冲突时易陷入决策瘫痪契约论优势：提升决策正当性局限：协商成本高；极端情境存在约定空白功利主义优势：后果比较清晰局限：忽视公平；结果预测存在不确定性Maximin原则优势：兼顾公平与操作性局限：可能牺牲部分效率；最不利者难以准确识别Maximin：识别最不利的风险承担者服务受益者乘客获得出行便捷，也拥有平等的生命权和合理救济权被动风险者地面公众没有获得航班收益，却无从选择是否承担坠落风险伦理判断不是比较谁的生命“更值钱”，而是考虑风险与收益是否匹配三级递进的伦理决策规则01生命至上第1级：生命安全高于财产、商业收益；先排除可避免的额外伤亡02严格非歧视第2级：平等看待生命；不得按年龄、身份和财富作差别定价03最弱者优先第3级：损失无法避免时，优先保护被动承受高风险的地面公众04实施边界工程落实须以可靠感知、仿真验证、透明审计及可追责为前提三级规则在教材情境中的应用核心冲突先确保生命至上与非歧视，再比较轨迹中的人员风险及被动风险承担情况。维持航向地面人群密集被动风险很高伦理判断优先避开人群调整轨迹导向人员稀少区域但乘客仍面临危险推荐方案与设计原则优选：Maximin三级规则——生命至上→严格非歧视→最弱势群体优先优选方案的正当性与适用边界伦理合理性+工程验证+公众监督伦理正当性生命一律平等；非参与公众不应被无条件转嫁技术风险公平性依据关注最不利者，并不意味着轻视机上2名乘客的生命工程可操作性需要可靠风险建模、轨迹判断、故障测试与透明记录责任与救济须经过社会论证、制度审查，并建立清晰赔偿机制方案局限性最不利群体难判定；过度倾斜可能影响效率和创新实施方案：责任主体分工制造商／算法方保障质量与伦理设计职责：合规开发、测试留存算法决策记录运营与空域方规划航线、设备维护职责：调度与应急保存全程飞行数据政府监管机构制定规则、审批监管职责：标准、审计、调查协调跨部门治理保险与公众参与完善理赔与救济机制职责：透明告知、补偿反馈社会风险关切法律框架与责任体系完善责任认定建议明确算法缺陷、伦理决策不当与维护失职的责任边界保险与救济教材建议完善UAM强制保险与民事赔偿，确保事故受害人获赔数据权利明确乘客对飞行数据的知情、控制及合法使用边界技术改造路径：可信、透明、可追溯可信算法强化环境感知与异常风险建模；验证算法在极端情境的稳定性透明决策增加可解释透明层与飞行数据记录，留存故障、输入及轨迹第三方审计独立审计决策公平性、鲁棒性与偏见，形成可核验整改记录制度完善策略：动态治理监管沙盒限定空域测试，设伦理探针和风险阈值，异常时及时纠偏技术政策衔接建立跨学科治理机制，将伦理底线转化为可验证约束数据全生命周期必要采集、分类分级、加密存储和访问控制，防范数据滥用实施路径与责任分工01准备监管与制造商：论证伦理规则，完成安全测试、审查与准入02试点运营方与研发方：开展限定空域试点，记录异常与风险指标03上线企业与监管方：部署应急预案、数据留痕、审计和告知机制04复盘监管及第三方：调查事故、开展救济、修订算法与行业规范实施评估与持续改进结果指标地面公众伤害风险是否下降；乘客是否获得平等安全保护过程指标伦理审查、仿真验证、数据记录、第三方审计是否落实分布指标乘客与地面公众、不同收入区域承担的风险是否公平异常指标传感器误判、偏见、通信故障、隐私泄露与投诉情况反馈闭环事前准入→事中监控→事后调查；将审计结果纳入模型、制度和培训更新。二次伦理风险与防控策略偏见被固化多样化样本与季度偏见审计，避免身份、财富等不当变量入模技术垄断推动安全前提下的互操作标准与开放协作，减少单方锁定数据安全风险加密、分级授权与存证留痕，防止航迹和乘客信息被滥用本章结语UAM伦理治理须以生命平等为底线，以Maximin三级规则保护被动承险的公众；并通过法律责任、可信算法、动态监管及持续审查，让决策公平、透明、可追责。思考题与关键术语思考题：1.功利主义与Maximin原则在空中碰撞困境中的判断有何差异？2.政府如何平衡我国UAM产业创新与地面公众安全？3.ICAO多元治理理念有哪些值得借鉴之处？应怎样本土化？4.除教材讨论的问题外，还可能出现哪些二次伦理风险？关键术语：UAM、eVTOL、Maximin原则