人工智能伦理 课件 莫宏伟 第7-13章 智能驾驶汽车伦理-人工智能法律

《人工智能伦理导论》第7章智能驾驶汽车伦理人工智能伦理·教学课件学习目标了解智能驾驶汽车的定义、百年发展历史与SAE六级分类标准。理解"经典电车难题"及其智能驾驶版本，把握智能驾驶伦理困境的功利主义选择。掌握智能驾驶汽车的数据伦理、算法伦理、安全与责任四大核心伦理议题。理解智能驾驶汽车的四条基本伦理准则及其现实挑战。要点通过具体应用场景加深对机器伦理与人工智能伦理的整体理解。人工智能伦理·智能驾驶汽车伦理·02本章目录7.1智能驾驶汽车技术7.2智能驾驶汽车的伦理问题7.3智能驾驶汽车的数据伦理7.4智能驾驶汽车的算法伦理7.5智能驾驶汽车安全问题7.6智能驾驶汽车责任问题7.7智能驾驶汽车四条伦理准则人工智能伦理·智能驾驶汽车伦理·037.1智能驾驶汽车技术智能驾驶汽车的定义与智能决策能力从AmericanWonder到百度Apollo的百年发展史技术原理与SAEJ3016六级分类7.1.1智能驾驶汽车的定义智能驾驶车辆在搭载先进传感器、控制器、执行器的基础上，在设计运行范围内自主获取和分析车内外信息，持续处理部分或全部动态驾驶任务，包括单车智能和车路云深度协同。智能驾驶汽车既具有传统汽车的运输能力，又具有超越传统汽车的智能决策能力——面对复杂路况能适应变化、代替驾驶员做出决策、规避障碍或危险。与AlphaGo相比，智能驾驶汽车实用性更强、经济效益更可观，近十年吸引大批企业投入研发。要点自动驾驶是人工智能技术中最受社会公众关注的应用场景之一。人工智能伦理·智能驾驶汽车伦理·057.1.2技术原理感知毫米波雷达、光学雷达（激光雷达）、计算机视觉等传感器感知周围路况环境。导航通过卫星导航定位系统进行定位；智能控制系统将多路传感器信号转换成导航信息。识别车载计算机视觉系统识别障碍物、车辆及相关交通标志。本质一种不同于机器人的智能机器——AI算法与软件内嵌其中发挥智能决策作用。现状：按目前技术水平主要起辅助决策作用，还不能完全取代人类驾驶员。人工智能伦理·智能驾驶汽车伦理·06发展历史：从原型到真正的智能汽车1920年代：AmericanWonder（美国奇迹）——最早的智能驾驶汽车原型系统，驾驶座无人，靠后车工程师发射无线电波操控（图7.1）。1977年：日本筑波机械工程实验室开发出第一辆真正的智能化汽车——首个基于摄像头检测标记/导航信息的智能驾驶汽车，高速轨道辅助下时速30千米（图7.2）。1984年：DARPA启动ALV自主式地面车辆计划；1987年德国军方与奔驰合作研发无人驾驶车辆。从最初原型到真正产品经历了约100年时间。图7.1世界上最早的智能驾驶汽车的原型系统图7.2第一辆真正的智能化汽车人工智能伦理·智能驾驶汽车伦理·07发展历史：深度学习浪潮与中国实践2010年前后：深度学习、激光雷达等技术发展，谷歌开始大规模测试自研智能驾驶汽车，掀起发展浪潮。2017年12月：北京发布自动驾驶车辆道路测试管理相关规定。2018年5月：深圳向腾讯核发智能网联汽车道路测试通知书；12月百度Apollo全场景车队在长沙高速行驶。2019年6月：长沙颁发49张智能驾驶测试牌照，百度Apollo获45张；9月百度与一汽打造的中国首批量产L4级乘用车红旗EV获北京道路测试牌照。图7.3百度研制的一款无人驾驶汽车人工智能伦理·智能驾驶汽车伦理·08SAEJ3016智能驾驶六级分类SAE分级名称核心特征L0无智能化人类驾驶者全权操作，仅有警告与保护系统辅助L1辅助驾驶对方向盘和加减速中的一项操作提供驾驶支援L2部分智能化对方向盘和加减速中的多项操作提供驾驶支援L3有条件智能化系统完成全部驾驶操作，人类驾驶者按请求应答L4高度智能化系统完成全部驾驶操作，限定道路和环境条件L5完全智能化任何场景下系统全权驾驶，人类不必在车内现状：智能驾驶汽车最高可达L4水平，L5尚未出现。智能驾驶状态可能引发安全事故——伦理问题主要体现在这里。人工智能伦理·智能驾驶汽车伦理·097.2智能驾驶汽车的伦理问题伦理问题的由来：自主性与"决策于未知之中"经典电车难题与"胖子"版本智能驾驶版电车难题的功利主义选择三类伦理风险7.2.1伦理问题的由来自主性智能驾驶系统具有一定"自主性"——行为能力（执行决策）+决策能力（依环境与自身状况做出选择）。决策之前运行了一个隐蔽的"思维过程"：利益衡量、路况分析、路程考量——内部决策充满不确定性与不可知性。高级系统还能与驾驶员实时、有感情地交流并无条件服从指令——超越传统汽车的工具属性。"决策于未知之中"事先无法明了其决策是否符合人类价值判断与伦理准则，加剧公众对安全的担忧。要点黑客篡改数据、交通肇事、避险决策等问题，使伦理问题成为开发中必须面对的课题；明确的、可解释的伦理决策规则是责任划分、保险规则与新法规的重要参考。人工智能伦理·智能驾驶汽车伦理·117.2.2经典电车难题1967年哲学家菲利帕·福特提出：疯子把五个人绑在一条轨道上，失控电车即将碾过；你可以拉杆让电车转向另一条轨道——但那条轨道上也绑着一个人。你如何选择？功利主义拉杆，牺牲一人拯救五人。批判者一旦拉杆，你就成为不道德行为的同谋，要为那一个人的牺牲负部分责任。另一些观点不作为同样是同等的不道德——不存在完全的道德行为，这就是重点所在。要点调查中68.2%的人同意拉动拉杆，较符合功利主义思想。人工智能伦理·智能驾驶汽车伦理·12"电车难题"的"胖子"版本情形你站在天桥上，电车将从桥下通过；把身旁的胖子推下去就能阻止电车、救活五个人。你会这么做吗？"胖子"版本在实际调查中受到更多争议——主动杀人vs被动见死不救的直觉差异。法律层面：对主动与被动有严格区分，法律坚定反对主动牺牲一个人去拯救多人，尤其当这种牺牲是被迫的时候。天桥上的道德困境：推，还是不推？（AI示意插画）人工智能伦理·智能驾驶汽车伦理·137.2.3智能驾驶版"电车难题"场景智能驾驶汽车高速行驶，车上有五人，后方不到100米有大卡车逼近必须加速；前方一名行人横穿马路——制动则被卡车撞上（车毁人亡），加速则撞死行人。系统如何选择？与传统驾驶不同这一选择要由智能机器自行做出，智能决策设计可能陷入无尽矛盾。2015年调查多数人不愿将事故选择权交由机器；却又普遍认为系统应采取"功利主义"——尽量减少生命损失。要点76%的被调查者认为牺牲一名车上乘客而非多名路人更道德；但81%表示自己会购买优先保护车上乘客的汽车。人工智能伦理·智能驾驶汽车伦理·14《科学》研究：矛盾心态的实证2016年《科学》杂志研究（图卢兹经济学院/俄勒冈大学/MIT）：在线询问451人——1乘客vs1行人时，75%认为应救乘客；5行人vs1乘客时，50%支持救乘客；100行人vs1乘客时，约80%支持救行人。向259人询问"是否应为保护人数更多的一方编程"：平均支持70点（满分100）；但被问是否愿意购买牺牲驾驶员的车时，支持仅30点。结论人们并非接受保护多数，而是趋向保护车内乘客；同时又支持保护多数方的编程——矛盾心态。两个关键点之争①不能把人的生命交由AI处置，但应秉持损害最小化；②应从设计之初避免陷入电车难题——而"损害最小化"本身就是功利主义选择，自相矛盾。专家对比：智能驾驶"事故算法"由制造商/车主/监管等多主体共同决定、预先设计、高度不确定，与个体当下抉择的电车难题有本质差别。人工智能伦理·智能驾驶汽车伦理·157.2.4三类伦理风险技术型风险环境感知、行为决策、运动控制影响"可问责性"——事故原因多元难追溯，制度规范未完善，问责困难。应用型风险操控权归还与自主决策影响"以人为本、合作、公平"——系统选择可能隐含数据/算法/人为歧视并放大到社会面；不同文化价值观下难有普适道德框架；座舱生物特征、车外人脸车牌、行驶轨迹等数据采集侵犯隐私。混合型风险：驾驶数据、车联网与车路协同影响"主动安全与被动安全"——敏感区域地理信息等关系国家安全；黑客可远程操控攻击车辆，衍生高科技犯罪与公共安全风险。人工智能伦理·智能驾驶汽车伦理·167.3智能驾驶汽车的数据伦理数据壁垒：上海车展"刹车失灵"维权事件数据归属：用户隐私与技术数据的产权平衡数据可信性：林某NOP事故与"黑箱"疑虑数据监管：法规滞后与第三方机构7.3.1数据壁垒：车顶维权事件2021年4月上海车展女车主身穿"刹车失灵"T恤站上车顶维权，引发热议——此前多次投诉车辆事故因刹车失灵，要求厂商提供事故前半小时完整行车数据。厂商以担心炒作不良影响为由拒绝提供数据。智能驾驶事故很难在现场查清是车辆问题还是误操作——车辆核心数据对判定事故原因至关重要。厂商掌握全部事故数据、拒绝公开，形成"数据壁垒"，使消费者在事故调查中处于不利地位。监管部门表态：企业应利用专业知识严格自查，技术优势不应成为解决问题的阻碍；车企必须自我约束、主动公开事故数据。人工智能伦理·智能驾驶汽车伦理·187.3.2数据归属问题车企不愿公开数据的理由担心恶意炒作；数据涉及外部环境、车辆状态、用户隐私等，是技术迭代的基础。核心问题智能驾驶数据由谁主导？事故时公开到什么程度？——目前对数据确权与公布流程尚无明确法律规定。专家观点智能驾驶数据应属于用户个人，企业收集使用需获用户认可；事故后应根据用户要求公布，公布方式由用户决定。所有权应分开看用户行车数据属个人隐私，未经授权不得提供给第三方；车辆技术数据虽由车主产生，却由企业主导。科斯定律视角：有价值的资源最终流动到最能利用它的人手里——技术数据归车企分析加工，用户有疑问时在保护技术机密的同时适度公开。人工智能伦理·智能驾驶汽车伦理·197.3.3数据可信性问题车主与厂商的分歧实质事故数据的准确性由谁确定、如何确保。第三方检测只能查硬件故障，无法检测软件失误；数据加密存储后无法直接读取/修改/删除——但消费者仍难以充分信任厂商提供的数据。案例2021年8月林某驾驶某品牌汽车启用NOP领航功能在高速事故逝世；厂商技术人员未经交警同意私自接触事故车辆被传唤——程序合法性加剧数据疑虑。要点深度学习"黑箱"算法+训练数据偏差，本身就令公众心存疑虑；保证数据真实性、防篡改性是产业与监管的共同挑战。人工智能伦理·智能驾驶汽车伦理·207.3.4数据监管问题法律法规滞后于技术发展是客观存在，各主要汽车生产国的监管方式仍在研讨中。工信部《关于加强智能网联汽车生产企业及产品准入管理的意见》：产品应具有事件数据记录和智能驾驶数据存储功能，保证事故时记录数据的完整性。数据范围驾驶智能化系统运行状态、驾驶员状态、行车环境信息、车辆控制信息等。车企可基于车辆数据做规模性机器学习，但数据必须脱敏后才可使用。要点政府层面可推动成立专门的第三方智能驾驶数据管理机构。人工智能伦理·智能驾驶汽车伦理·217.4智能驾驶汽车的算法伦理专用人工智能难以应对开放环境的价值判断深度学习的"解释黑箱"问题"程序伦理"与"人类伦理"的本质差别专用人工智能的局限专用AI擅长解决相对封闭环境下的问题，对开放环境问题常常无所适从。智能驾驶面对的是开放环境伦理判断之外还要应对恶劣天气、临时交通管制、路面落物等复杂路况——无法提供稳定、最佳的伦理策略。深度学习无法避免"解释黑箱"人们无法解释系统如何做出决策；统计学习路线的决策依据更多来自概率而非逻辑模型，信度与效度不透明，事故判定难度更高。AI无法把所有伦理冲突转化为合理的经济等价形式做价值计算——即使嵌入所有人类"道德律令"，也无法满足开放环境决策需要。归根结底：人类伦理的本质是价值的"判断"，而非价值的"计算"。人工智能伦理·智能驾驶汽车伦理·23"程序伦理"与"人类伦理"案例国外某公司智能驾驶测试致死案——系统将前方骑自行车的人误判为"其他物体"。"程序伦理"容易导致生命安全被漠视并带来法律问题。调查公众不希望市场只有单一"算法伦理"车型——政府提出可选编程类型、制造商编码、车主选择购买。矛盾再现面对"撞向更多路人还是牺牲自己"，多数人倾向功利主义算法；但选购时又倾向购买自我保护算法的汽车。人类优点价值观正常基础上还具备应急、变通能力——智能决策系统尚不能做到。展望：卡车间距场景中，系统精确计算避让与等待的后果，反而能避免最差结局；技术会继续发展，人类智慧与机器智慧需要结合。人工智能伦理·智能驾驶汽车伦理·247.5智能驾驶汽车安全问题算法漏洞与传感器故障黑客的三种入侵途径车载信息娱乐系统与CAN总线风险安全问题的多重因素调查指出如果汽车都采用智能驾驶系统，有望让交通事故数量减少90%——但并非所有车祸都能避免。2016年5月美国佛罗里达州历史上首起智能驾驶恶性事故，车主开启智能驾驶后与迎面大卡车相撞；调查显示设计无缺陷，主因是车主不了解功能局限性。算法及软件漏洞由工程师开发设计，任何软件都有缺陷——但智能驾驶的缺陷可能决定车主或行人的生死。传感器故障雷达等故障将导致信息错误，进而导致事故。要点对当事人而言，任何一起事故都可能造成生命财产损失——智能驾驶不会是绝对安全的。人工智能伦理·智能驾驶汽车伦理·26黑客攻击与网络控制途径一：Wi-Fi系统入侵——车载Wi-Fi的无线网关漏洞可能被用于控制汽车。途径二：蓝牙系统入侵——通过逆向工程做出与原厂一样的蓝牙车钥匙。途径三：云端破解——破解车主账户密码登录车联网平台，用手机App解锁并启动车辆。真正危险的是车载信息娱乐系统：影音娱乐通过CAN总线交换数据与控制命令，黑客可经远程网络控制——动力/行车电脑目前不具备远程连接功能。图7.4智能驾驶汽车网络控制示意图人工智能伦理·智能驾驶汽车伦理·277.6智能驾驶汽车责任问题事故责任如何在人机之间划分？多层次责任体系：制造商·开发者·用户·监管保险业变革与法律地位的深层问题多层次责任体系制造商对产品的基本安全性和功能负责——技术缺陷（传感器失灵、算法错误、软件漏洞）造成事故无疑需负责。开发者和程序员对算法设计与系统逻辑负责。用户有义务了解系统功能与局限性，必要时接管车辆——仅在手册中印注意事项远远不够，制造商应加强驾驶员培训（人机交互成为新兴交叉领域）。监管机构急需制定技术标准、责任界定、事故调查程序等规范；美国学者呼吁成立"联邦机器人委员会"，欧洲议会呼吁全欧盟通用规则。保险行业传统车险模式可能不再适用，需开发新产品、重新定义人与智能系统间的责任分配。深层问题：高度自主系统是否应获得某种形式的法律地位？——公司甚至动物都有特殊法律地位；但将智能系统人格化可能导致对基础技术的误解。人工智能伦理·智能驾驶汽车伦理·297.7智能驾驶汽车四条伦理准则生命安全至上乘客优先保护非人类生命与财产保护系统自身安全保护四条伦理准则一、生命安全至上人类生命具有绝对优先性，保护人类生命是最高目标——严格执行有望将事故死亡率降低90%以上；德国奥斯纳布吕克大学提出基于概率计算的决策模型以最小化总体伤亡。二、乘客优先保护在确保整体生命安全前提下优先保护车内乘客——符合产品责任要求，也是推广技术的必然选择；奔驰明确表态支持。批评者担忧"选择性"牺牲车外人员。三、非人类生命与财产保护在确保人类生命安全前提下避免损害动物生命与公共/私人财产；调查中超60%受访者认为撞宠物狗vs损坏昂贵公共设施时应优先保护动物生命。四、系统自身安全保护：保护系统即保护投资者与制造商利益；系统完整性关系到救援与事后调查——特斯拉数据显示启用智能驾驶的车辆严重事故率比普通车低40%。人工智能伦理·智能驾驶汽车伦理·31准则的挑战与实践进展技术挑战机器人法专家瑞恩·卡洛指出当前技术可能无法准确执行复杂伦理判断——同时面对购物车和婴儿车时能否准确识别并做出正确伦理选择？支持观点MIT研究显示，即使是基础伦理准则，也能让系统在90%以上危险情况下做出比人类更好的决策——不完美的智能驾驶也比人类驾驶更安全。德国2017年率先发布智能驾驶伦理准则，开创先河（虽因过于原则性受到质疑）；美国运输部强调通过技术标准和安全指标落实伦理要求。未来：在保持准则稳定性的同时赋予足够灵活性，并建立有效的监督和评估机制确保执行。人工智能伦理·智能驾驶汽车伦理·32本章小结智能驾驶汽车经历了约百年发展，是人工智能最受关注的应用场景之一；SAE六级分类刻画了从无智能化到完全智能化的谱系。智能驾驶系统具有一定自主性，"决策于未知之中"引发伦理问题；经典电车难题及其智能驾驶版本揭示了功利主义选择的困境。数据壁垒、数据归属、数据可信性与监管构成数据伦理的核心议题。专用人工智能无法解决开放环境下的价值判断——人类伦理的本质是价值的判断而非计算。要点安全是最基本的伦理问题，其次是责任问题；四条伦理准则为可操作的伦理框架提供了起点。解决伦理问题需要算法技术支持，更需要人类智慧与机器智慧的结合。人工智能伦理·智能驾驶汽车伦理·33本章习题1"经典电车难题"对于智能驾驶汽车伦理有何启发意义？2阐述智能驾驶汽车算法伦理与人类伦理冲突的根源。3智能驾驶汽车的责任伦理问题主要表现在哪些方面？4如何解决智能驾驶汽车的安全问题？5如何理解智能驾驶汽车基本伦理准则？谢谢观看人工智能伦理·教学课件《人工智能伦理导论》第8章人工智能设计伦理人工智能伦理·教学课件学习目标理解产品设计与价值观的关系，掌握人工智能设计伦理的概念与分类。掌握隐私保护设计的七大基本原则与隐私工程化、隐私增强技术实践。了解嵌入式人工智能伦理设计的五种典型方法与三种实现路径。掌握人类道德推理基本结构、DRN情境推理模型与机器伦理价值计算模型。要点理解机器道德终极标准体系、护理机器人价值敏感设计案例与设计责任原则。人工智能伦理·人工智能设计伦理·02本章目录8.1产品设计与人工智能产品设计问题8.2人工智能设计的伦理8.3隐私保护设计8.4嵌入式人工智能伦理设计8.5智能机器的道德推理模型8.6机器伦理价值计算模型8.7机器道德设计的终极标准8.8案例：护理机器人价值敏感设计8.9人工智能设计责任人工智能伦理·人工智能设计伦理·038.1产品设计与人工智能产品设计问题技术并非价值中立：产品承载"设计意图"设计缺陷如何渗入价值观：Tay聊天机器人智能音箱的双视角理解与Echo失控案例8.1.1产品设计与价值观传统技术伦理认为技术是价值中立的——道德属性取决于使用方式；但从产品设计角度看，任何产品功能的实现都必然指向某种目的，与人类主观意图相关，可称为"设计意图"。设计过程从两方面体现人的价值观：①技术发展过程中的错误或缺陷可能带有价值偏好——如聊天机器人Tay因歧视性数据集训练偏差，产生性别歧视、种族歧视等不良价值观。②技术设计随人的知识水平与应用体验不断改进，不可避免地呈现出某种价值偏好。要点人工智能产品以服务人类为设计目的，必然受到个人主观意图和社会价值的影响。人工智能伦理·人工智能设计伦理·058.1.2人工智能产品设计问题设计者角度：AI产品通过物理实体实现功能，具有结构属性与AI技术能力属性——如传统音箱加载AI技术成为智能音箱，功能靠自然语言处理、语音识别结合大数据、云计算实现。使用者角度：人们只关心功能；若功能导致道德观偏差或不良心理影响，产品设计就出了问题，必须被淘汰或纠正。案例：2018年亚马逊智能音箱Echo常在半夜发出怪笑；英国医生丹妮·莫里特询问"心动周期"时竟被教唆"将刀插入心脏"、说服自杀——厂商证实是语音助手Alexa设计缺陷，"已修复"。结论：AI产品设计过程缺陷确实容易导致伦理问题的产生。图8.1智能音箱产品人工智能伦理·人工智能设计伦理·068.2人工智能设计的伦理设计伦理的概念：设计全周期涉及的伦理问题开发者设计伦理vs技术设计伦理隐性/显性设计伦理与算法歧视IEEE《合伦理设计》三步骤8.2.1人工智能设计伦理的概念人工智能设计伦理：用于某种目的的AI产品或系统设计全周期中涉及的伦理问题。关注两方面：①AI技术被设计用于某种目的时应遵守的标准、规范与伦理原则（含设计者职业道德）——"人工智能开发者设计伦理"；②因技术设计不当、缺陷或失误可能带来的伦理问题——"人工智能技术设计伦理"（与数据、算法伦理重叠，本章主要讨论前者）。设计伦理是AI伦理的关键：机器伦理的理论成果只有落实到AI产品与系统的设计过程中才能发挥实际作用。图8.2人工智能设计伦理分类人工智能伦理·人工智能设计伦理·088.2.2开发者设计伦理（一）开发者职业伦理开发设计中除遵守生产工艺、标准与监管要求外，还须遵守职业规范，确保产品不违背、侵犯人的利益，尽量避免设计缺陷与失误。算法歧视算法设计者为利益或主观偏好设计存在歧视性的算法——设计目的、数据运用、结果表征都是设计者主观价值的选择；偏见被嵌入算法后经学习进一步放大强化，导致算法决策带有偏见。隐性设计伦理在技术设计中含蓄地渗入伦理道德属性（如嫌疑人识别算法须从源头消除歧视），尽量避免不道德行为的发生。显性设计伦理：明显地将人类伦理原则嵌入AI系统或智能机器，即"嵌入式人工智能伦理设计"——机器伦理在理论上推动了设计伦理由隐性到显性的转变。人工智能伦理·人工智能设计伦理·098.2.2开发者设计伦理（二）核心问题如何让机器按人们认为正确的方式进行道德判断、推理并采取行动——从伦理角度对机器行为进行规范与限制。伦理角色分层多数AI系统只承担操作性或功能性伦理角色（如智能交通监管）；自动驾驶等则涉及复杂价值伦理，需将伦理原则转化为系统功能。人工道德可行从机器伦理研究的初步成果看，在AI产品中实现人工道德完全可能——能按预设做出合理道德判断的系统对人类才是真正安全可靠的。要点IEEE《合伦理设计》(2016)：最早由国际组织颁布的AI设计伦理规范，三步骤将伦理价值嵌入AI系统——①识别特定社会或团体的规范和价值；②将其编写进AI系统；③评估其有效性与现实兼容性。人工智能伦理·人工智能设计伦理·108.3隐私保护设计隐私保护设计的七大基本原则隐私工程化：隐私保护前置隐私增强技术：多方安全计算·同态加密·差分隐私8.3.1隐私保护设计的七大基本原则①主动而非被动预防性的，而非补救性的。②默认设置默认使用最高可能的隐私保护设置。③嵌入设计设计过程中就考虑隐私保护，而非系统运行时才考虑。④正效应而非零和效应；⑤

贯穿整个生命周期，全程保护。⑥具有可见性、透明性和开放性；⑦

以用户为中心，尊重用户隐私。要点七大原则反映人本主义数据伦理观；欧盟《通用数据保护条例》(GDPR)将隐私保护设计作为基本要求——将人类价值嵌入系统算法，使开发者预先主动承担保护用户隐私的道德责任。人工智能伦理·人工智能设计伦理·128.3.2隐私保护实践隐私工程化将隐私法规与"用户导向"原则引入软件、服务设计与使用的各环节，隐私保护前置。包括两部分——①软件设计中加入隐私保护；②用户界面上让隐私说明、采集告知更醒目易懂。基本思路：个人数据的收集和处理限制在必要最低限度；收集前获用户授权，可用假名匿名处理。硬隐私增强技术匿名通信渠道、选择性披露凭证、多方安全计算等——实现"数据可用不可见"，无须共享原始数据即可多方协作，放大数据价值同时大大降低隐私风险。软隐私增强技术：同态加密（加密的"圣杯"，允许对密文直接计算，解密结果与在明文上执行一致）、差分隐私、数据隐蔽技术等。人工智能伦理·人工智能设计伦理·138.4嵌入式人工智能伦理设计五种典型方法：数学理论·行动基础·CPB·LIDA·道德机器构造三种实现路径：自上而下·自下而上·混合两种模式的局限性8.4.1五种典型设计方法①伦理道德的数学设计理论用概率论、数理逻辑、知识表示描述价值与伦理规则，编写"道德代码"/"伦理算法"——目前尚缺乏统一理论基础。②以行动为基础的伦理设计理论（安德森）：赋予系统引导行为的原则；用罗尔斯反思平衡法——制造伦理困境→机器学习抽象原则→测试修正。③CPB行为范式（Case-supportedPrinciple-Based）：从伦理学家一致同意的案例中抽象原则，指导自主系统决定伦理上最可取的行动，并可解释行为正确性。④LIDA学习分布式智能体模型：计算认知结构，唯一将感觉和感情融入认知过程的综合认知结构，可适用于道德抉择模型。⑤道德机器构造系统：伦理调节器+伦理评估工具+人机接口+伦理督导者四环节。人工智能伦理·人工智能设计伦理·158.4.2三种实现路径及其局限自上而下模式选择一套可用算法实现的道德准则作为机器行为指导（如自动驾驶"伤害最小化"预置程序）——采用特定伦理理论分析计算条件，设计实现该理论的算法与子系统。自下而上模式类似人类道德发展，通过试错法培养机器道德判断——如自动驾驶在强化学习中因符合人类道德价值的行为受奖励，逐步形成价值判断能力。局限①预置明确规则未必合理——同一原则在不同情境可能导致相互矛盾的决策。局限②机器难以在封闭环境自我进化后在开放环境做复杂伦理判断——AlphaGo尚在封闭棋局，开放式路况无法比拟；因果关系难题与道德终极准则难题难以应对。结论：两种模式（及混合模式）都过于简化，只能随AI技术进步逐渐解决。人工智能伦理·人工智能设计伦理·168.5智能机器的道德推理模型人类道德推理的基本结构：原则与事实的共同推导道德辩护链与基本伦理原则公理化（图8.3）DRN情境回溯模型8.5.1人类道德推理的基本结构道德评价判断：对已存在的行为是否正当、道德的断言；道德决策判断：对准备去做的事情是否正当的判断。成立取决于两条件——价值条件：是否符合被认为是好的道德原则；事实条件：所依据的事实判断是否为真、有足够证据支持。道德辩护链示例：我们必须信守诺言(R1)+我约好今晚和A看电影(C1)→今晚必须一起看电影；更高层：不应伤害社会合作(R2)+不信守诺言伤害合作(C2)→R1。辩护链向上追溯最终终止于作为公理接受的基本伦理原则——它既是道德推理的出发点，又是道德辩护的终点；机器伦理体系模型设计可参考此结构。图8.3人类道德推理的基本结构人工智能伦理·人工智能设计伦理·188.5.2情境推理模型（DRN）传统道德推理形式道德准则集R+事实陈述集C→行为的道德评价与决策E（假说-演绎模型/DRN情境回溯模型）。问题道德规范的是非判断几乎都有例外——不同文明价值观不同，同一文化中具体场景变化也导致规范差异化。解决在推理中增加"情境诠释项/情境回溯项"Cr——依据具体道德情境对规则集的应用范围、重要性、概念语义进行重新界定和修改（回溯、评价、赋值或修正）。改进形式R（道德准则）+C（情境陈述）+Cr（情境诠释）→E（道德结论）。意义：具体情境是道德推理的决定性要素；DRN模型可作为设计智能机器道德推理功能的参考模型。人工智能伦理·人工智能设计伦理·198.6机器伦理价值计算模型人类社会四项基本道德原则的表达机器行为伦理总价值：V(A)加权结构系统功利主义计算与"义利系数"8.6.1人类社会基本道德原则表达R1有限资源与环境保护原则（莱奥波尔德原则）：趋向保护生物共同体的完整、稳定和优美。R2功利效用原则趋向增进全体社会成员的福利、减轻他们的痛苦。R3康德-罗尔斯公平正义原则：自由和机会、收入和财富、自尊的基础应平等分配，除非不平等有利于最不利者。R4仁爱原则（博爱原则）促进互惠互爱，从家庭→社团→社会→全人类→自然。要点强正当FR=R1∧R2∧R3∧R4（同时满足四项，较高基本价值）；弱正当PR=R1∨R2∨R3∨R4（部分满足，较弱伦理价值）。四原则独立而不完备、相互补充。人工智能伦理·人工智能设计伦理·218.6.2/8.6.3机器伦理价值计算机器行为A的伦理总价值由四项组成：功利价值Va(R2)、正义价值Va(R3)、生态价值Va(R1)、仁爱价值Va(R4)。总价值公式V(A)=α·Va(R1)+β·Va(R2)+γ·Va(R3)+δ·Va(R4)，权重α、β、γ、δ随情境与机器不同而变化，无法用确定公式计量。系统功利函数Uc(x)=f(Ur(x),Ud(x))=R·Ur(x)+D·Ud(x)——Ur为符合道德准则的间接效用，Ud为行为的直接效用。义利系数k=R/D「重义轻利」的评价者k值较大，「重利轻义」者k值较小。要点系统功利主义全面兼顾行为与准则、动机与效果、预期与实际、目前与长远、个体与社会、人类与生态功利，可作为机器伦理设计中价值计算的参考模型。人工智能伦理·人工智能设计伦理·228.7机器道德设计的终极标准道德终极标准：绝对道德标准一总两分的标准体系帕累托最优与标准的基本性质8.7道德终极标准体系道德终极标准产生、决定、推导出其他一切道德标准的标准，任何条件下都应遵守而无例外——机器的道德终极原则必定只有一个。总标准增减每个人的利益总量。分标准一（利益冲突时）最大利益净余额——他人冲突时保全最大多数人利益（最大多数人最大利益）；己他冲突时无私利他。分标准二（利益不冲突时）无害一人地增进利益总量——即"帕累托标准/帕累托最优"：在不使任何人变差的前提下不可能再使至少一人更好。基本性质："一总两分"；终极标准对正常与非正常行为都有意义（间接的最终标准），日常判断直接用其派生的具体道德规范；仅在极端冲突时才诉诸终极标准——智能机器也应按此层次设计道德程序或算法。人工智能伦理·人工智能设计伦理·248.8案例：护理机器人价值敏感设计英国BSI《机器人和机器系统的伦理设计和应用指南》凡·温斯伯荷的CCVSD方法伦理学家如何融入设计流程8.8护理机器人价值敏感设计（CCVSD）2016年9月英国标准协会发布业界首个机器人伦理设计公开标准《机器人和机器系统的伦理设计和应用指南》——比阿西莫夫三定律更复杂，规定道德风险评估：机器人欺诈、成瘾、AI越俎代庖、人机情感纽带（尤其面向儿童/老人的产品）；核心原则"以人类利益为本"：机器人不能杀人或伤害人类，机器人行为责任只能由人类承担。荷兰学者凡·温斯伯荷提出以护理为中心的价值敏感设计（CCVSD）：伦理评价框架（使用环境、护理实践、涉及人员、机器人种类、价值清单）+用户手册。评价护理实践的规范标准专注、责任、能力、交互性——满足即为好护理。关键主张：伦理考量应融入设计之前——伦理学家深入医院/护理家庭了解具体情境，与设计团队合作头脑风暴，把机器人能力的伦理可接受性建立在具体案例与设计研究之上。方法具有普遍意义，可推广到其他机器人与环境。人工智能伦理·人工智能设计伦理·268.9人工智能设计责任韦伯责任伦理与AI责任难题责任免除与责任分担之争角色·前瞻·回溯三种责任透明度·权责一致·问责三原则8.9.1人工智能与责任伦理责任伦理德国学者马克斯·韦伯1919年提出——对责任主体行为的目的、后果、手段等进行全面系统伦理考量，整体分析责任关系、责任归因、责任原因与责任目标。AI伦理规制与原则的制定更新远跟不上技术发展速度，责任伦理压力凸显。争论焦点"由谁来负责"自动驾驶伤人致死责任如何认定？程序漏洞造成损害谁承担？技术替代人力，失业率加剧谁负责？机器伤人是机器的责任还是人的责任？开发者与使用者各负什么责任？要点责任伦理强调对现在和将来的负责——危害不能延续到下一代；监管方与消费者等相关方都应负起相应责任。人工智能伦理·人工智能设计伦理·288.9.2人工智能系统的设计责任任何AI系统都应指定责任方对其行动负责；最初的设计者有义务确保系统正常工作。责任不能免除AI的道德判断源于人类植入的程序或算法——它只是执行设计者意志的工具，实现的是设计者的自由而非自己的自由；父母与未成年子女的类比：不能完全控制不等于不担责；"得利之人需承担相应不利后果"。责任分担设计者、制造商、用户都需分担，设计者和制造商应承担更多。设计者三种责任：角色责任（与义务概念相当，核心是安全性与可靠性）、前瞻性责任（设计活动开展之前主动为未来用户与社会影响考虑——较高的道德要求）、回溯性责任（投放市场后出现错误或负面影响时应承担的责任）。人工智能伦理·人工智能设计伦理·298.9.3人工智能设计的基本责任原则透明度原则人类应当知道AI如何以及为何做出特定决策；有赖于算法的可解释性、可验证性和可预测性。注意：透明≠公开源代码或解释每个技术细节——对深度学习系统，在行为和决策上实现有效透明更可取。权责一致原则设计使用中留存算法、数据与决策的准确记录，产生损害时可审查并查明责任归属；即使无法解释算法结果，使用AI决策的机构也应对此负责；需建立算法公共审查制度（隐私、商业机密等情形可对授权部门定向公开）。问责原则：明确责任主体，建立具体法律说明设计者和部署者承担的义务与责任；建立多层责任制度，在制造商、设计师、运营商和最终用户之间合理分摊；问责机制须建立在系统透明的基础上。人工智能伦理·人工智能设计伦理·308.10人工智能技术开发的一般伦理原则福祉与幸福改善人类生活质量与外部环境，技术服务于人的发展和幸福。非恶意出于仁爱而非恶意，绝不造成可预见的伤害、偏见和不公平，配备风险干预机制。公平正义对所有人公平公正，不沿袭设计者固有偏见与歧视，数据具适当代表性。人权与尊严优先尊重基本人权和尊严，制定人权框架预防纠正潜在风险。可持续与医疗、教育、政务、交通、环保等领域结合，塑造健康包容可持续的智慧社会。信任：数字信任四维度——安全、透明、责任、伦理；发展可解释AI，跳出"黑箱"，实现人机之间"有依据的信任"。代码并非价值中立——人设计模型、选择数据并赋予意义。人工智能伦理·人工智能设计伦理·31本章小结技术并非价值中立产品设计承载"设计意图"，缺陷会渗入不良价值观（Tay、Echo案例）。人工智能设计伦理覆盖设计全周期，分为开发者设计伦理与技术设计伦理；隐性到显性的转变催生嵌入式伦理设计。隐私保护设计七大原则是基本要求；隐私工程化与隐私增强技术是两大实践方向。嵌入式伦理设计有五种方法、三种路径，但受制于因果关系与终极准则难题；道德推理可借鉴人类辩护链结构与DRN情境回溯模型。要点机器伦理价值可计算建模（V(A)加权、系统功利函数），道德终极标准"一总两分"；CCVSD案例示范伦理融入设计；设计责任遵循透明度、权责一致与问责原则。人工智能伦理·人工智能设计伦理·32本章习题1如何理解人工智能设计伦理的概念？2隐私保护在人工智能设计中如何体现？3理论上的人工智能伦理设计路径是怎样的？4什么是道德环境智能系统？它对人工智能设计有什么作用和意义？5阐述机器道德的终极标准和体系。谢谢观看人工智能伦理·教学课件《人工智能伦理导论》第9章人工智能行业应用伦理人工智能伦理·教学课件学习目标了解医学伦理学的基本问题，掌握人工智能医疗的三类伦理风险与四大伦理问题。掌握WHO《医疗卫生中人工智能的伦理和管治》提出的六项伦理原则。理解人工智能教育的三重含义、三类伦理风险与九大教育技术伦理问题。掌握人工智能教育利益相关伦理问题（创建者/教师/监测员/教育公平）与伦理教育的展开方向。要点掌握智能电商与智能媒体的三类伦理风险及其典型伦理问题（大数据杀熟、信息茧房、深度伪造等）。人工智能伦理·人工智能行业应用伦理·02本章目录9.1人工智能医疗伦理9.2人工智能教育伦理9.3智能电商伦理9.4智能媒体伦理本章选取医疗、教育、电商、媒体四个典型领域，介绍人工智能在行业应用过程中产生的伦理问题，其共性在于技术透明性不足、责任划分模糊以及对人类自主权的潜在威胁。人工智能伦理·人工智能行业应用伦理·039.1人工智能医疗伦理医学伦理学的基本问题与人工智能在医疗领域的应用智能医疗的三类伦理风险隐私保密、算法偏见、依赖性与责任归属四大伦理问题WHO六项人工智能医疗伦理原则9.1.1人工智能应用与医学伦理（一）医学伦理学运用伦理学理论和研究方法，以人、社会和自然为研究对象，遵守患者利益第一、尊重患者、公平公正等基本原则的应用伦理学分支。两大目的①评价医务人员的医疗行为；②评价人类对医学的研究是否符合道德标准。三个基本问题由医疗利益冲突提出的"应该"问题、由医学伦理学难题引发的"应该"问题、由医学伦理学观点不一致产生的"应该"问题。主要观点围绕三个基本问题，形成生命神圣观、生命质量观与生命价值观、人道观和权利观等观点。三个基本理论：医学理论体系中应用较多的后果论、道义论和德行论。人工智能伦理·人工智能行业应用伦理·059.1.1人工智能应用与医学伦理（二）人工智能医疗：利用人工智能技术帮助甚至代替医疗工作者进行诊断与治疗的新兴医疗科学技术。发展脉络：20世纪中后期提出临床决策支持系统，辅助病史记录与疾病分类；21世纪大规模应用于辅助诊断、医学影像识别、疾病预防检测。图像识别技术有效解决影像医生数量不足、漏诊误诊率高、阅读效率低耗时长等问题；机器学习广泛应用于医学图像分析、假肢控制、疾病诊断。伦理追问：AI误诊谁负责？患者是否有权知道诊断由AI做出？AI能否考虑患者的个人情况与偏好？我们是否愿意把生死攸关的决定完全交给机器？图9.1医疗图像诊断系统人工智能伦理·人工智能行业应用伦理·069.1.1智能医疗的三类伦理风险技术型风险——可问责性智能手术机器人、智能医学影像分析等自主能动应用；医生操控失误或机器故障引起的医疗事故，责任划分尚无共识；影像分析结果对医生正确判断的影响必须纳入考虑。应用型风险——以人为本脑机接口直接作用于人体，可能造成大脑组织创伤和感染；未来黑客攻击与意念控制将威胁人类自由意志。应用型风险——隐私/共享/公平：可穿戴设备、智能医疗信息平台大量采集生物特征数据，使用者难以获得数据删除权、存储权、使用权和知情权；设备高昂费用放大数字鸿沟与医疗资源不均衡。混合型风险——安全：人类增强应用（含脑机接口）面临主动安全（黑客攻击、干扰、数据窃取）与被动安全（可控性、可靠性、鲁棒性）双重要求。人工智能伦理·人工智能行业应用伦理·079.1.2人工智能医疗伦理问题（一）：隐私和保密医疗大数据存储患者几乎所有信息：就诊记录、过往病史、过敏史、遗传病史及各项体检数据。共享医疗记录需将健康数据与病例信息上传至统一信息系统，智能医疗系统因此掌握大量个人健康数据——隐私泄露风险不断增大。六类风险①数据被二次使用；②数据部分性流失；③数据访问权限；④匿名化的有效性和完整性；⑤数据被不正当使用；⑥数据被他人用于牟利。典型场景有人利用健康数据分析出疾病风险，将结果卖给保险公司牟取不正当利益。底线要求：对患者数据的使用必须遵守知情同意；未经患者授权，任何组织或个人不得挪作他用，更不得牟取私利。人工智能伦理·人工智能行业应用伦理·089.1.2人工智能医疗伦理问题（二）：算法歧视和偏见训练数据是模型的"教材"数据可能不真实反映客观情况，或潜藏不易察觉的价值偏好，被智能医疗系统继承、复制并放大。算法通常可以反映现有的种族或性别健康差异——暗藏在算法设计中的偏见比人为偏见隐晦得多。《科学》杂志报道案例美国卫生系统的商业预测算法存在明显种族偏见——按风险分数黑人患者病情比白人更重，但获得的补助比例却低很多；若差距得到弥补，黑人患者补助比例将从17.7%提高到46.5%。根源算法根据大数据预测医疗费用而不是疾病的轻重。连带影响：创伤或残障人士难以获得正确高效的诊疗体验，医患双方都可能因系统偏见失去信任，不愿将其用于临床决策。人工智能伦理·人工智能行业应用伦理·099.1.2人工智能医疗伦理问题（三）：依赖性与责任归属依赖性问题：医生过多依赖AI的影像识别、大数据处理能力，可能降低自身研究学习兴趣、降低医学水准，导致医学技术停滞不前；但合理使用也可减轻负荷、提升信心，让医生有更多时间用于患者沟通和临床科研。责任归属难题：达·芬奇手术机器人协同手术中若因机器故障致患者瘫痪甚至死亡，责任在设计者、机器人还是使用者？主流观点：弱人工智能阶段的手术机器人尚无意识、无法成为道德主体，设计者或制造者应成为医疗事故责任主体；人为操作失误则由使用者（医院或医务人员）担责。制度空白：智能医疗器械仅被认定为辅助诊断的医疗器械，细分领域缺乏统一AI技术与安全标准，瑕疵鉴定成为空白；我国政策法规尚未赋予AI处方权。出路：建立完整的责任制度，让技术更精准、管理监督更到位、使用人更信任。图9.2达·芬奇手术机器人人工智能伦理·人工智能行业应用伦理·10案例：IBM沃森"超级医生"的退场愿景IBM将强大的自然语言处理能力应用于医学，沃森可阅读患者健康记录与完整医学文献集（教科书、同行评议期刊、批准药物清单），有望成为识别人类无法识别模式的"超级医生"。现实困难在医学文本文档中，NLP难以理解歧义，也无法找到人类医生会注意到的细微线索；沃森无法将新患者与以前发现隐藏模式的癌症患者进行比较。表现缺陷一些医生报告沃森在老年患者身上表现不佳、未推荐某些标准药物；存在建议对某些癌症转移患者观察而非积极治疗的缺陷。结局2018年9月以来，230家医院用户的沃森诊疗系统因诊断错误、开具不安全药物不断受质疑——训练用真实病例数太少，安德森肿瘤中心巨额投资后放弃；沃森退出智能医疗应用。要点尚无研究表明它对患者有益——智能尚无法与人类医生的理解力和洞察力相匹配。人工智能伦理·人工智能行业应用伦理·119.1.3人工智能医疗伦理原则（一）总纲智能医疗伦理道德标准应将人类医学的伦理价值观念融入人工智能医疗体系，伦理判断决策以人类医学伦理价值观念为准则——建立在人道主义基础上的持久稳定的理论模型。WHO指南2021年6月28日发布第一份医疗卫生AI指南《医疗卫生中人工智能的伦理和管治》（150页），阐述六项伦理原则，供政府、技术开发商、民间组织采用。1保护人类自主权AI不得影响人类自主性，人类应继续控制医疗保健系统和医疗决策；确保提供所需信息、使人们了解系统作用；以数据保护法律框架保护医疗隐私，保障患者有效知情同意权。2不应该伤害人类设计者应提供质量控制措施并持续改进系统质量，AI技术不应导致人类精神或身体伤害。要点3确保透明度、可解释性和可理解性：为开发者、医疗专业人员、患者和监管机构所理解；部署前发布或记录足够信息以支持公众咨询和辩论；按解释对象的理解能力进行解释。人工智能伦理·人工智能行业应用伦理·129.1.3人工智能医疗伦理原则（二）4问责制对AI可执行的任务及实现所需性能的条件进行清晰透明的规范；利益相关者有责任确保任务可执行、由经过适当培训的人员使用系统；患者和临床医生有权评估AI的开发和部署；通过专人监督实现算法监管，出现问题追究相关方责任，为受算法决策不利影响的个人和群体建立纠正机制。5确保包容性和公平性不论年龄、性别、收入、种族、民族、能力等特征，尽可能被广泛、适当、公平使用；不仅适用于高收入国家，也应适用于中低收入国家；最大限度减少提供者与患者、决策者与民众、创建与使用AI的公司政府之间的权力差距。6监控和评估可持续性：设计应尽量减少环境影响、提高能源效率，与全球减碳努力一致；政府和公司须解决AI医疗中断使用的风险，包括培训医护人员熟练使用系统。人工智能伦理·人工智能行业应用伦理·139.2人工智能教育伦理人工智能教育的三重含义与三类伦理风险教育技术伦理九大问题：隐私、偏见、形式化、同质化、狭隘化、控制、异化、体验降级、决策监督利益相关伦理：创建者、教师、监测员与教育公平人工智能伦理教育的展开方向9.2.1人工智能教育与人工智能教育伦理（一）含义一对社会各类非专业对象或各级各类受教育者开展人工智能教学——基本思想、概念、原理及应用等基础知识教学，包括人工智能科普教育。含义二开展人工智能专业教育教学——经教育部批准设立人工智能专业，培养掌握一定理论、方法和技术的专业人才；目前我国有近千所院校开设智能科学与技术、人工智能、机器人工程、大数据等相关专业。含义三推进人工智能技术在教育领域的应用，辅助提升教学手段与方法——将AI用于教育本身，也称智能教育或智能技术辅助教育。伦理归类前两方面为"人工智能内容教育伦理"，第三方面为"智能教育技术伦理"，统称人工智能教育伦理。传统教育伦理基本原则：带来福祉、明辨是非善恶、尊重教育公平正义、保护教育权自由权隐私权等基本人权、尊重人维护道德尊严、履行道德责任与义务。人工智能伦理·人工智能行业应用伦理·159.2.1人工智能教育与人工智能教育伦理（二）技术型风险现阶段主要体现在算法黑箱对透明准则的影响；教育数据采集不全或信息偏差会使教育决策出现偏见或歧视；教育部门作为公权力部门更易获取学生隐私数据，存在泄露风险。应用型风险学习内容推荐可能造成"信息茧房"致认知片面化；"拍照搜题"惰化思维与独立思考；监测用电子标牌、点阵数码笔、摄像头模糊家校界限侵犯隐私；产品费用与门槛放大数字鸿沟，冲击教育公平。应用型风险（延伸）还表现在教师角色与职业道德、教育价值与公平、智能化师生伦理关系、使用者与AI的伦理关系等方面——需同时考虑系统创建者、教师、学生和监测员等利益相关者。混合型风险AI教育技术对数据、算力和网络的需求，使更多教育资源暴露于网络空间，对主动安全与被动安全提出更高要求。伦理教育：应对全社会开展人工智能伦理教育，鼓励人们为AI带来的社会变革做好思想和行动准备——学习本书正是人工智能伦理教育的一部分。人工智能伦理·人工智能行业应用伦理·169.2.2人工智能教育技术的作用技术基础知识表示、情感计算、生物特征识别（语音/指纹/人脸）、可穿戴技术、视觉计算、机器学习、图像识别、推理机、深度学习、神经网络等。自动问答利用基于自然语言处理和深度学习的自动问答技术，自动回答学生提出的问题。自动评价自动评价学生的学习与作业，提供符合其认知状态的反馈和支持。情感支持情感检测技术自动识别学生的身体动作和面部表情，识别学习过程中的情感需求，提供个性化情感支持。角色模拟模拟教师、管理者、学习伙伴、合作者和竞争者等角色，促进交流与合作。自适应与决策支持：构建自适应学习环境，分析诊断学习风格与需要；利用决策管理技术辅助教学决策与学习决策——在某些学习支持服务方面甚至已超越人类教师。人工智能伦理·人工智能行业应用伦理·179.2.2教育技术伦理问题（1）：数据引发隐私问题系统运行需要大量数据：记录学习者的能力、情绪、策略和误解等多方面数据，涉及很多新的隐私伦理问题。须关注：数据分析处理中是否会发生数据意外泄露；教师和学生应在何种程度上管理自己的数据，保护自己不受伤害和歧视。系统不仅可通过指纹、人脸、声音等生理特征识别用户身份，还能收集和记录环境信息——如某中学利用人脸识别技术检测学生到校情况。数据使用得当可提升学习服务支持效果；被非法使用则造成隐私侵犯甚至违法事件——设计人工智能教育系统时必须纳入隐私保护功能。图9.3某中学利用人脸识别技术检测学生到校情况人工智能伦理·人工智能行业应用伦理·189.2.2教育技术伦理问题（2）（3）：偏见与形式化算法导致偏见计算模型为量化分析必然提炼、去除复杂因素、赋予看似合理的数值——取舍之间偏见产生；基于历史数据评价学习，会继承特定历史文化背景下的成功标准，产生历史或文化偏差，处理创造性学习活动面临极大挑战。人脸识别对不同性别人群的识别准确率存在差异；尚无可靠研究证明采集的情绪行为特征与学业成绩、个人发展有必然联系，报告不具备学理可信度——若学校在半信半疑中基于数据决策，可能造成偏见歧视，给学生带来巨大心理伤害。算法导致教育形式化算法高度简约化，使用的信息多为替代变量而非可靠的直接变量，使教育失去丰富内涵与有价值成分。要点虚拟仿真、虚拟训练不真正等同于真实情境学习；算法无法像教师那样以具身形式传授隐性知识——学生按算法程序操作，易导致知识碎片化、学科视野狭窄、协作沟通与应对复杂问题能力不足。人工智能伦理·人工智能行业应用伦理·199.2.2教育技术伦理问题（4）（5）：同质化与狭隘化同质化算法大规模使用将受众分流到不同地点时间，表面分众化、一对一，但当所有受众面对同一个计算模型时，实际结果反而是合众化。以一种模式对待所有学生，容易伤害学生个性、固化学生思维；个性化推送本意是因材施教，大规模使用反而有学生素质发展同质化、学校教育趋同化的风险。内容狭隘化算法模型只能体现教育的知识传授部分（显性知识），而大量"知、情、意"隐性知识及公平、正义、认同、爱、创造力等伦理内容无法评估测度、无法植入算法。典型恶果：优化目标被设定为提高考试成绩或学会更多显性知识——放大"刷题"式逻辑计算与记忆写作，强化题海战术、灌输教育等痼疾，把应试教育更加"精细化"，为教育变革带来不可预知的风险。人工智能伦理·人工智能行业应用伦理·209.2.2教育技术伦理问题（6）（7）：被控制与异化教育被控制深度学习输入与输出之间存在无法洞悉的过程——人们既不能观察也无法理解算法处理教育问题的逻辑；算法按自行演化规则对待学生和教育，师生毫不知情，只能被动接受输出结果。使用规模越大，风险越大：数据不被人们所知、算法逻辑不被理解的情况下将其应用于教育过程，蕴藏巨大风险。案例某中学2018年采购智能手环（自动签到、实时跟踪、运动数据采集、门禁、异常行为监测预警），因企业招标书将"对学生行动轨迹监控"列为优先功能，曝光后引发激烈网络争论。移植开源代码导致异化教育算法应以教育常识、教育知识和教育规律为判断标准；直接移植为工业、商业场景设计的算法，是用计算机逻辑取代教育逻辑。要点把以物为指向对象的算法应用于人以影响人的发展为旨趣的教育，会颠覆人性和教育的基本预设，使教育异化为工业商业、使人异化为物/数据/信息。人工智能伦理·人工智能行业应用伦理·219.2.2教育技术伦理问题（8）：降低学习体验和认知能力传统模式下教师的友善态度和及时反馈有助于学生获得自信心、促进健康情感发展；AI系统可能不如教师更具亲和力，甚至让学生变得沮丧。平板电脑、智慧教室等系统的使用使传统师生关系受到影响——削弱师生之间和学生之间的联系水平，剥夺学习者与教师和同伴交流的机会。降低学习动机：学生不再愿意主动解决问题和进行理性思考，学习体验大大降低。认知能力风险：人类神经系统可塑，系统在提供个性化服务的同时可能剥夺思维训练和学习体验的机会，改变大脑结构和认知能力——大脑发育关键期过度使用认知技术，可能带来不可逆转的严重后果。图9.4一种智慧教室环境设置人工智能伦理·人工智能行业应用伦理·229.2.2教育技术伦理问题（9）：决策能力与监督俄罗斯高校实践2017年起应用大数据技术采集学生成绩、校园行为、公共活动频率等数据，自主决定对表现不良学生的干预措施（鼓励、警告或开除）。正确定位AI系统只是"问题发现者"，呈现客观分析结果；最终决策必须由学校做出，用沟通、观察等方式了解客观数据背后的主观因素，并建立监督机制。反面案例2017年美国休斯敦学区推广智能评价系统，依据标准化考试成绩评价教师教学能力，宣称要解雇85%被打上"无效"标签的教师。矛盾激化：软件公司以算法为商业机密为由拒绝告知教师其工作原理和机制——不透明、不可解释削弱人类信赖，引发大规模法律诉讼，该软件最终退出校园。人工智能伦理·人工智能行业应用伦理·239.2.3利益相关伦理问题（一）：创建者与教师系统创建者（设计师/架构师/程序员）：保证系统稳健性、安全性、可解释性、非歧视性和公平性，支持师生主观能动性，重视身心健康与综合素质发展，支持问责追因。分工伦理设计师基于善良客观动机设计、避免伤害歧视；架构师构建安全可靠透明的架构、支持问责追踪；程序员设计无偏见算法、公平公正对待每位用户。教师角色转变从重复琐碎的日常事务中解放，投入更具创造性、人性化的关键教学工作；但也可能被掩盖个人能力、知识与人格的重要性，削弱主观能动性。算法时代的隐忧教师正成为教育内容的消费者而非创造者——依靠算法决定传递何种内容与方式，教育行为受算法调节限制，可能被导向固定路线（如同演员照剧本表演）。要点过度依赖算法将使教师失去认识学生、因材施教的能力，丧失对教育情境的独立思考与自主判断——正如过于依赖PPT，离开多媒体就无法上课。人工智能伦理·人工智能行业应用伦理·249.2.3利益相关伦理问题（二）：监测员、公平与价值监测员制定标准的机构/人员、数据专员等，负责对系统一致性、安全性、公平性进行测试、调查与审查；需备份系统存储数据、决策及解释供审查。审查闭环建立存储保留机制与解释方案，通过第三方机构保证算法及系统符合教育教学伦理规范；审查后向创建者反馈改进（重新训练模型、提高公平性、保护隐私数据安全策略）。教育公平算法或数字鸿沟不仅源于设备拥有与访问权差异，还涉及信息素养、AI素养、态度、应用能力和使用意向等——历史经验表明新技术往往可能扩大而非缩小教育不平等。对教育正向价值的压制对AI盲目乐观的苗头已显现，工具价值僭越了教育的育人价值；AI无法对所有数据进行价值审查，其负面价值会干扰教育应有的正面价值。要点必须始终坚持教育的正面价值取向，仔细审视并正确处理人工智能背后的负面价值——技术是服务于教育的、服务于人类更好生存和发展的。人工智能伦理·人工智能行业应用伦理·259.2.4人工智能伦理教育本质定位在人类命运共同体理念指导下培养未来需要的复合型人才及新人类；使学生认识智能机器对人类生命存在意义和价值的挑战，反思人之为人的意义。覆盖范围全学科、全专业、全社会都要开展人工智能教育——不应像传统理工学科只培养技术人才，而要发展理、工、文、法、医、农、商、管、经全专业全学科教育。培养目标发挥多学科交叉优势，培养学生多学科交叉思维与创新意识；激发学习热情、培养人机协同创新思维；使学生意识到机器智能崛起对自身存在价值和意义的挑战。展开方向一构建高尚的人工智能科技伦理——认真反思科技对人类社会生活与生产的影响。展开方向二制定人工智能教育伦理规则——明晰"有所为"与"有所不为"的伦理边界，凡涉及教育活动的AI技术皆应在人类伦理规则内运行。展开方向三：搭建教育伦理规范体系——探索伦理风险监督、评估与应急机制；展开方向四：开展人类命运共同体理念指导下的AI伦理教育。人工智能伦理·人工智能行业应用伦理·269.3智能电商伦理电子商务发展三阶段与智能电商的兴起智能电商的三类伦理风险算法推荐双刃剑、大数据杀熟、信息茧房智能调度系统的人性缺失与数据安全风险9.3.1电子商务与智能电商的发展电子商务在互联网等电子网络环境下开展的商务活动，通过电子化交易完成商品和服务交换，涵盖商品展示、在线交易、电子支付、物流配送等。第一阶段（1995—2000）萌芽期：亚马逊、阿里巴巴等早期电商平台涌现，提供基础网上购物服务，开创B2C和C2C模式。第二阶段（2001—2015）快速发展期：移动互联网推动移动电商兴起，支付宝、微信支付等第三方支付解决在线支付问题，物流体系完善；平台向多元化、社交化发展。第三阶段（2016至今）智能化转型期：AI、大数据、云计算使平台更智能化——个性化推荐、智能客服、智能物流不断创新，新零售、跨境电商蓬勃发展。智能电商：利用AI帮助甚至部分代替传统电商运营者进行商品推荐、客户服务、销售决策的新兴商业模式；推荐系统有效解决商品查找困难、购物体验差、转化率低等问题；机器学习广泛应用于图像识别分类、智能客服、需求预测、物流优化、动态定价、风控管理。人工智能伦理·人工智能行业应用伦理·289.3.2智能电商的三类伦理风险技术型风险——可问责性用户一般只关注排名靠前的商品，不良商家通过推荐和排序算法背后的一系列操作获得优先推荐机会，平台可能陷入伦理争议并形象受损；平台和商家的责任划分、甚至消费者如何选择，均会引发伦理争议。应用型风险——以人为本/公平/隐私：算法可能过度诱导消费并导致"信息茧房"，被反复强化的消费偏好破坏市场有序竞争与创新活力。差别对待平台可能根据历史交易记录、交易习惯，甚至"窃听""监视"聊天记录，在价格等方面实施不合理差别对待或针对性推送——"大数据杀熟"严重损害消费者合法权益、破坏市场秩序。智能调度的隐患外卖、跑腿、用车等依靠智能调度系统提高效率，但缺失人性关怀的温度，可能导致算法控制下的员工为按时完成任务陷入违规违法的伦理困境。混合型风险——安全：海量消费数据能反映国家经济运行态势；电商平台伴随现代物流使入侵生物、危化品等管制物品流通难度和成本降低，提高监管追缴难度——对国土安全、经济安全提出更高要求。人工智能伦理·人工智能行业应用伦理·299.3.3智能电商的伦理问题（一）(1)算法推荐系统的双刃剑效应：消费者面对的并非完全中立的排序结果，而是算法筛选优化的推荐列表——提高购物效率的同时限制了真实选择范围。质优价廉但营销能力弱的商家可能永远无法获得足够展示机会而被市场淘汰；刷单、虚假评价让劣质商品获得优先展示——深层问题：算法主导的市场中如何界定平台、商家和消费者的责任边界？(2)"大数据杀熟"与消费者权益：平台利用对老用户的了解实施差别化定价——老用户反而比新用户支付更高价格，从根本上违背诚信经营原则，损害消费者对平台的信任。(3)"信息茧房"阻碍消费者自主权：算法不断强化既有偏好，限制接触新商品和服务的机会；垂直电商平台尤为明显——用户购买某类商品后会持续收到相似推荐，被锁定在特定消费模式中。影响：不仅限制选择自由、影响自主决策能力，还可能阻碍市场创新和多样性发展，导致市场结构固化。人工智能伦理·人工智能行业应用伦理·309.3.3智能电商的伦理问题（二）(4)智能调度系统的人性缺失：外卖骑手、快递员在算法严格控制下面临巨大时间压力，不得不采取危险驾驶等违规行为完成任务。典型情境暴雨等恶劣天气下配送系统仍按标准时间计算配送时长，迫使骑手冒险赶路——算法的冷酷效率追求与人性化服务之间的矛盾是智能服务平台的重要伦理挑战。(5)数据安全造成的社会风险：海量消费数据不仅关系个人隐私，更涉及国家经济安全——能精确反映经济运行状况，一旦泄露或被滥用可能带来严重安全风险。管制物品流通电商便利性降低违禁品流通门槛，一些违禁品可能通过普通快递渠道流通，给社会治安和公共安全带来新挑战——平台需在便利性和安全性之间找到平衡点。结论：只有平衡好技术创新与伦理约束之间的关系，才能构建更公平、安全和人性化的智能电商生态系统——需要平台、监管机构和社会各界共同努力，在维护市场效率的同时不忘人性关怀。人工智能伦理·人工智能行业应用伦理·319.4智能媒体伦理从社交媒体到智能媒体的演进智能媒体的三类伦理风险算法操控与信息茧房、隐私安全、真实性危机内容审核矛盾、价值导向偏移与认知干预9.4.1从社交媒体到智能媒体社交媒体基于互联网技术，允许用户创建和分享内容、进行社交互动的数字平台——颠覆传统信息传播方式，突破时空限制。四大功能特征①支持用户生成内容（用户既是接收者又是创作者）；②提供点赞、评论、转发等互动功能；③构建好友/关注社交网络；④跨平台传播。发展历程早期论坛、博客主打文字交流→Web2.0时代Facebook（现Meta）等社交网络强调用户连接→移动互联网时代微博、微信等即时社交平台流行→近期短视频、直播蓬勃发展。现实问题社交媒体深度融入日常生活，同时带来信息过载、隐私泄露、谣言传播等问题。趋势：随着技术不断进步，社交媒体将向更加智能化、个性化方向发展——智能媒体开始取代传统社交媒体。人工智能伦理·人工智能行业应用伦理·339.4.2智能媒体的三类伦理风险技术型风险——可问责性与透明智能内容处理和生成应用（特别是深度伪造）带来虚