《信息技术伦理》课件 第3章-信息技术伦理-方法

信息技术伦理——理论、方法与案例主编：左美云副主编：王亚妮、陈劭第3章：信息技术伦理的分析方法本章目录3.1信息技术伦理分析概论3.2信息技术伦理的分析流程3.3信息技术伦理的分析工具3.4结语3.1信息技术伦理分析概论为什么需要伦理分析信息技术进入真实生活后，效率提升往往与隐私、公平、自主等要求同时出现。只说“技术有利”或“技术有害”，不足以回答具体场景中应当采取什么行动。本章的任务以事实和案例为起点，识别受影响者及其利益，说明相互冲突的价值，再提出、比较、选择并检验行动方案。分析过程要留下可以向他人解释的理由。流程与工具的关系分析流程规定先后步骤；风险象限图、利益相关者分析、成本收益分析等工具帮助完成其中某一步。工具可以组合使用，但不能代替对事实和价值的判断。3.1.1伦理分析流程从事实出发先选定案例，了解技术机制、实际使用方式和外部约束。资料中的已知事实、推测和价值判断应分开记录，避免一开始就以立场替代证据。找到关键问题识别直接与间接受影响的人，梳理隐私、安全、公平、自主等风险，判断哪些冲突最需要处理。问题界定一旦改变，后续方案也可能需要重做。形成行动方案提出不同路径，而非只为既定方案寻找理由。对每种方案比较预期收益、成本、权利影响、实施条件及责任安排。实施与回看选定方案后制定计划、落实责任，收集运行结果。实际影响可能不同于事先预估，因此效果评估应当把流程带回前面的步骤。3.1.2伦理分析工具呈现问题：风险与相关方伦理风险象限图按照发生概率和后果严重性排列风险；利益相关者分析则列明谁获益、谁承担代价，以及哪些群体可能缺席讨论。比较方案：成本、准则与伦理原则成本收益分析、多准则决策分析、伦理决策矩阵和四象限决策法分别提供不同的比较视角。数值结果可以辅助判断，却不能把尊严或基本权利自动换算为价格。检验结论：反事实推理改变一个关键条件，追问结果是否仍会发生。它帮助识别数据、算法、人工干预和制度安排中真正影响结果的环节。3.2信息技术伦理的分析流程第一阶段：了解案例选取能够体现典型冲突的案例，收集技术、场景、规范和类似实践资料。事实核查贯穿这一阶段，资料不足的地方要保留不确定性。第二阶段：制定判断识别伦理问题后，形成若干可实施方案，用共同的准则比较它们对不同群体的影响，再选择并完善较合理的方案。第三阶段：进入实践把方案写成行动、时间表、责任人和资源安排；同时设计评估指标、反馈与申诉渠道，观察原先担心的风险是否真正下降。流程可以回退如果实施后出现新风险，或前期发现事实错误，可以返回问题识别、资料收集或方案比较，而不必把流程看作只能单向完成的清单。3.2.1案例选择代表性案例应能呈现一类信息技术伦理问题的典型特征，例如智慧养老平台使用健康数据时，安全收益与隐私风险同时存在。复杂性优先选择涉及多个利益相关方、价值目标不完全一致的情境。只有一个明显正确答案的例子，难以展示伦理分析中如何作出取舍。时效性与可分析性案例应与当前技术和社会关切相连，也要有足够资料可查。已经发生的事件、正在实施的政策和合理设计的假想情境，都可以成为分析对象。3.2.1数据收集技术信息弄清数据从哪里来、算法如何处理、

准确率和可靠性怎样、出现错误时能否追溯。

对于模型能力，最好区分研发测试结果与真实场景表现。使用情境记录使用地点、频率、用户能否选择退出、决策是否由人复核，以及不同人群接触系统的条件。这些因素会改变同一技术的伦理影响。规范与制度查阅适用法律、政策、伦理指南和组织内部规则；同时了解制度是否真正执行，不能仅凭书面承诺认定风险已被控制。参考经验收集其他地区、机构或相似行业的做法与结果。比较成功经验和失败教训，为后续方案生成提供可检验的依据。3.2.1事实核查标明证据来源技术文档、独立测试、用户访谈、监管文件可以提供不同类型证据。记录来源和时间，检查样本是否覆盖老人、残障者等易被忽略的人群。区分事实与价值判断“系统漏报率是多少”属于经验问题；“该漏报率是否可以接受”属于伦理判断。两类问题都重要，但不能互相冒充。面对不确定性如果关键数据暂时缺失，列出可能情境和它们对结论的影响。对高风险决策，还应考虑补充测试或先采用更谨慎的实施方式。3.2.2伦理问题识别先列问题，再定重点从隐私、公平、安全、自主性和责任归属等方面列出问题；再结合发生概率、伤害程度和影响范围确定讨论次序。谁受到影响直接用户之外，还要看到家属、技术人员、服务机构、社会公众与未来用户。不同群体获得收益与承担风险的方式可能不同。利益如何冲突例如家属希望持续监护，老年用户可能更重视私人空间；机构追求效率，医护人员则需要防止自动预警替代专业判断。阶段产出形成有证据支持的问题清单、相关方图谱和重点风险说明。后续的方案比较应回应这些问题，而不是只围绕技术性能展开。3.2.2方案生成技术路径改变数据采集范围、改进算法、增加人工复核或设置更清楚的用户控制。每项技术改动都应写明预期能减少哪一种风险。制度路径通过告知同意、伦理审查、申诉、责任追究和第三方监督来约束系统运行。制度方案尤其要说明由谁执行、怎样留下记录。综合路径把技术改进与组织规则组合起来，例如降低采集量并设置人工复核和申诉机制。还要预估实施成本与副作用，避免一个问题转移成另一个问题。3.2.2方案比较采用同一组准则对所有备选方案都考察准确性、效率、隐私保护、公平、自主性和可问责性。准则来自案例中的真实冲突。看收益归谁、负担归谁总收益较高的方案，仍可能把风险集中转嫁给弱势群体。比较时应写明各相关方获得的好处、

承担的损失和可选择的空间。组合多种工具成本收益分析适合估计可量化影响；多准则方法展示权重和评分；伦理决策矩阵检查原则冲突。不同工具回答的问题并不完全相同。记录选择依据如果为提升安全而限制部分隐私，要解释这种限制是否必要、是否有更温和替代方案，以及由谁决定和监督。3.2.2方案选择与完善作出有条件的选择先排除明显违反核心权利或现实约束的方案，再从可行方案中选择。结论应说明适用条件、未解决的问题和需要继续观察的风险。用反事实检验追问：若数据质量下降、用户不同意、人工复核未能及时到位，方案是否仍然合理？关键条件变化时，应明确备用路径。补齐责任与补救写清执行人、监督人和被影响者的申诉渠道。若新证据显示重大伤害，可返回前面的环节重新设计。3.2.3方案实施行动和时间表把“保护隐私”落实为具体措施，

例如分级授权、传输加密、访问日志审计，

并规定何时上线、何时检查。人员与资源明确开发、运营、审查和管理岗位各负什么责任，准备培训、预算和应急资源，避免方案停留在原则表述。向受影响者说明让用户知道系统收集什么、作出什么判断、如何退出或申诉。对老年用户应考虑说明方式是否真正可理解、可操作。监测与调整记录实施中出现的误报、漏报、投诉和数据事件。发现偏差后及时修正，不应等到期末总结才处理。3.2.3效果评估风险是否下降比较实施前后原先识别的风险，例如误判、泄露、投诉与延误处理情况。不能只以系统上线或使用人数作为伦理成效。不同群体是否公平受益按年龄、地区、技术能力等维度检查效果差异，结合访谈了解用户是否真正拥有知情和选择机会。量化指标与质性材料应相互印证。继续修正技术升级、应用场景变化或新规则出台后，原先的权衡可能失效。评估结果应成为下一轮事实收集和方案修订的起点。3.3分析工具的定位不同工具在分析流程中的定位和应用逻辑分析阶段工具类型教材代表工具伦理问题识别价值呈现型伦理风险象限图；利益相关者分析方案生成与比较价值权衡型成本收益分析；多准则决策分析；伦理决策矩阵；四象限法方案选择与完善情境检验型反事实推理3.3.1伦理风险象限图两条坐标轴横轴表示风险发生的可能性，纵轴表示后果严重程度。先明确风险事件，再用现有证据或专家判断估计位置，并注明不确定性。高概率、高严重性这一象限需要优先预防和干预。智慧养老场景中，如果健康异常漏报既常见又可能延误救治，应先解决其数据和复核问题。低概率、高严重性即使事件少见，也要准备应急方案，例如健康数据大规模泄露或极端误判，不能因发生概率低就忽略。其余两类高概率、低严重性的风险适合常规改进；低概率、低严重性的风险可持续监测。象限帮助排序，但不代替对权利底线的判断。示例：智慧健康养老平台健康管理模块的伦理风险象限图分析3.3.1伦理风险象限图3.3.1利益相关者分析示例：智慧健康养老平台的利益相关者分析利益相关者主要诉求潜在伦理关注老年用户健康安全、隐私保护数据被过度采集家属实时监护、降低风险过度依赖系统医疗机构提高诊疗效率数据准确性责任平台企业提升服务与收益商业利用健康数据3.3.2成本收益分析完整决策流程：注：逐项识别成本与收益，折现后计算净收益；不能量化的伦理价值仍需单独权衡。3.3.2多准则决策分析确定准则与权重先列出决策效率、准确性、用户自主性、系统透明性和可问责性等准则。为每项赋权前，应说明权重为何这样分配，并听取相关方意见。为方案评分在同一评分尺度下评价各方案，计算“权重×评分”的加总分。检验排序是否稳定改变准则权重再计算，观察首选方案是否改变。若结论对某个权重极敏感，讨论就应转向该价值取舍，而不能只报告一个总分。图3-3多准则决策分析流程权重与评分进入方案评价矩阵，最后进行敏感性分析：多准则决策分析：智慧养老示例示例：人机协作监测得分更高评价准则权重A评分A得分B评分B得分决策效率0.1550.7530.45决策准确性0.4531.3541.80用户自主性0.1020.2030.30系统透明性0.1520.3040.60可问责性0.1520.3040.60总分2.903.75A：完全自动监测；B：人机协作监测。权重与评分取自教材表3-2。3.3.2伦理决策矩阵示例：比较智慧养老平台的三种数据共享政策，逐一检查方案是否符合不同伦理原则方案功利主义（科研收益）义务论（隐私保护）公正（公平）德性（信任）完全共享高低中低去标识化共享中高中高中高中高严格限制低高中高图3-4伦理决策矩阵流程比较方案后识别伦理冲突，形成相对合理的判断：3.3.2四象限决策法示例：从四个象限审视智慧养老视频监控象限核心问题智慧养老视频监控示例技术方面系统能做什么？识别跌倒等风险；需比较体征传感器等替代方案当事人偏好老人和家属怎么想？老人可能反对持续监控，家属更重视安全生活质量选择将带来什么影响？预警可能更及时，也可能造成心理压力情境因素外部约束有哪些？个人信息保护要求与机构运营动机并存3.3.3反事实推理改变关键条件，寻找导致结果的原因：反事实推理从情境比较走向责任归属与方案修正：比较现实与反事实情境，识别关键原因、责任主体和可修正的环节。反事实推理：误判案例现实情境智慧养老平台对老人的健康风险作出错误判断，可能延误救治。先查清系统使用了哪些数据、如何生成预警，以及工作人员实际如何处置?换一种数据条件如果加入更完整的健康数据，误判是否仍会发生？

若结果变化，数据质量和采集限制可能是关键原因，但还需检验新增数据的隐私代价。换一种决策安排如果增加人工复核，是否能在有限时间内发现错误？需要考虑人手、响应速度和人员过度相信系统输出的问题。换一种用户关系如果老人及家属能够充分知情、纠错或干预，伤害是否可以减轻？比较这些情境后，才能较具体地提出修正和责任安排。3.4本章结语从事实到问题伦理分析从可核查的技术与场景事实开始，找出真正受影响的人、风险和价值冲突。案例选择与事实核查决定了后续分析是否站得住。从问题到方案针对同一问题生成几种行动路径，再结合风险象限、利益相关者、多准则、伦理矩阵等工具，比较它们的收益、代价和责任。从方案到再评估选择需要说明依据，也需要落实执行、监督和补救。实施后的效果可能推翻原先判断，

因此伦理分析是可回看、可修正的过程。思考题与关键术语思考题：1.请选择一个您熟悉的信息技术应用场景（如短视频推荐、在线教育、共享单车等），尝试使用利益相关者分析识别所有受影响的主体，并分析他们之间可能存在的利益冲突。您认为哪些群体的利益最容易被忽视？为什么？2.本章的最后将伦理分析工具分类与分析阶段相对应。请思考：这种对应关系是否是严格固定的？能否在“问题识别”阶段使用“方案比较型工具”？能否在“方案比较”阶段使用“问题识别型工具”？请举例说明。3.假设您所在的城市计划在地铁站安装人脸识别安检系统。请运用本章介绍的伦理分析方法，设计一个完整的分析流程，包括：