《信息技术伦理》课件 第2章-信息技术伦理的理论基础

信息技术伦理——理论、方法与案例主编：左美云副主编：王亚妮、陈劭第2章：信息技术伦理的理论基础本章目录2.1信息技术主要伦理问题2.2信息技术核心伦理理论2.3信息技术伦理的核心原则2.4本章结语本章导入三条主线：1.问题域：信息技术引发了哪些伦理问题？（个体/社会/治理三层面）2.理论库：哪些经典伦理学能帮我们分析？（三大范式+契约正义+现代整合）3.原则表：数智时代应遵循哪些核心原则？（六大原则映射到三大应用维度）学习目标：从

感受到伦理问题

到

拥有分析伦理问题的理论工具箱。2.1

信息技术主要伦理问题驱动问题：数智技术到底在哪些层面制造了伦理困境？问题域三层次：个体层面→社会层面→治理层面三者逻辑：从对人的直接影响→对群体与结构的影响→对责任归属的制度追问2.1

信息技术主要伦理问题伦理定位：隐私不是技术问题，而是人格自主与精神自由的前提隐私权五要素：知情权（知道什么数据被收集、为何、被谁使用）同意权（充分知情基础上自愿授权）访问与更正权（查看并修正错误数据）删除权/遗忘权（特定条件下要求删除）安全权（要求数据不被泄露、滥用、损毁）数据安全三性：机密性、完整性、可用性（贯穿数据全生命周期）数智时代三大新挑战：采集端泄露风险（生物特征、健康、位置等敏感数据）二次利用的伦理边界（从匿名数据推断敏感信息）个体控制权流失（黑箱算法导致被评判而不自知）

个体层面：隐私与数据安全2.1信息技术主要伦理问题范式转变：从"使用—被使用"→"协同—共生"（人智关系）主体性四重挑战：认知主体性稀释：决策外包与判断力危机（导航替代空间感知、推荐主导信息摄取）情感主体性重构：拟社会化关系消解真实联结（社交机器人的轻量化陪伴）行为主体性侵蚀：算法以难以察觉的方式塑造偏好与选择存在主体性追问：当机器越来越"聪明"，人的尊严根植于何处？伦理底线：维护人的主体性、丰富人际关系、捍卫根本自由

个体层面：人机关系与主体性2.1信息技术主要伦理问题核心追问：算法是公平引擎，还是固化不公的隐形推手？偏见根植于技术生命周期三环节：数据偏见：历史数据承载结构性歧视（招聘算法延续性别职业隔离）设计者偏见：开发团队单一→忽视边缘群体应用与反馈循环偏见：有偏见的算法产生符合偏见的新数据→自我强化追求算法公平的三点认知：公平定义本身存在价值权衡（同等结果vs相似对待vs过程透明）需要全流程问责机制，而非仅技术修复算法不能替代社会治理——盲目技术化可能掩盖真正矛盾社会层面：算法偏见与公平2.1信息技术主要伦理问题垄断新形态（四维）：数据垄断→算法垄断→平台垄断→标准垄断本质：技术优势转化为系统性权力，垄断者同时扮演商业公司、准监管者、规则制定者权力失衡三维度：经济权力：平台与中小开发者议价悬殊，财富向技术资本集中政治权力：议程设置与舆论影响力，深度参与立法与政策制定社会与文化权力：推荐算法塑造信息结构与价值认知，个体身份依附于平台应对方向：重构治理框架、探索数据治理新模式、捍卫数字公共领域社会层面：技术垄断与权力失衡2.1信息技术主要伦理问题核心难题：智能系统造成伤害时，责任由谁承担？责任黑洞三重表现：因果链条断裂：多环节多主体交织，难以追溯单一原因责任主体模糊：系统超出开发者预设，归谁？责任认定困境：黑箱使受害者难以举证，开发方以技术复杂性规避审查从"唯一负责人"到分层责任观：向前追溯：预防性责任（设计阶段的风险评估与伦理嵌入）向后追溯：问责性责任（损害发生后的定位、制裁、救济）分布式与层级化：开发者个人/企业法人/政府与国际组织各负其责可问责性：即使不能完全解释每个决策，也必须证明已采取合理安全步骤治理层面：责任归属2.2信息技术核核心伦理理论驱动问题：面对同一个伦理困境，为什么不同人会得出不同结论？理论版图：三大经典范式：功利论、义务论、德性论契约与正义视角：契约论、正义论现代应用与整合：关怀伦理学、共同道德理论学习方法：不是选一个"正确"理论，而是学会用多把尺子量同一个问题伦理理论——我们的分析工具箱2.2伦理理论——我们的分析工具箱代表人物：边沁、密尔（18世纪末英国）核心主张：以"最大幸福原则"评判行为正当性——最大化整体幸福、最小化总体痛苦三大基石：结果至上：道德价值完全取决于后果，不取决于动机幸福定义：边沁量化快乐（强度、持续时间、确定性）；密尔提出"质的功利主义"——"做一个不满足的人，胜过做一头满足的猪"平等考量：每个人的幸福都算一份，无人更重要在IT伦理中的应用：成本-效益分析、算法治理、平台规则设计优势与局限：行动指引明确、社会优化导向；但可能为多数人利益牺牲少数人权利经典范式①：功利论（Utilitarianism）2.2伦理理论——我们的分析工具箱代表人物：康德核心主张：行为正当性不取决于结果，而在于是否出于对道德原则的自觉遵循核心概念：善良意志：道德价值唯一源泉是"为义务而义务"定言命令（CategoricalImperative）：普遍法则公式：只按照你愿意所有人都照做的规则行动人性公式：始终将人视为目的本身，而非仅仅作为手段义务与倾向的区分：出于义务vs符合义务在IT伦理中的意义：即便利弊显著，也不能以牺牲隐私权、知情同意、人格尊严为代价——技术系统不仅要优化结果，更要合乎原则经典范式②：义务论（Deontology）2.2伦理理论——我们的分析工具箱代表人物：亚里士多德（古希腊）核心主张：不是"我该做什么"，而是"我该成为什么样的人"三大支柱：幸福（Eudaimonia）作为最高善：灵魂在德性指导下的现实活动德性即中道：勇敢是鲁莽与怯懦的中道，慷慨是挥霍与吝啬的中道实践智慧：在具体情境中理性判断何为恰当行为在IT伦理中的意义：技术发展应伴随个体品格培育——开发者不仅要写好代码，更要成为诚实、公正、有责任感的人经典范式③：德性论（VirtueEthics）2.2伦理理论——我们的分析工具箱代表人物：霍布斯、洛克、卢梭核心主张：道德规范与社会秩序源于自由理性个体之间的自愿同意三大支柱：我们与科技平台的关系是否构成隐性社会契约？（用户让渡数据与注意力，换取服务——这契约公平吗？）算法规则的权威性源于何处？（内容审核、信用评分——是否经受影响者同意？）全球科技治理如何建立？（AI、数据跨境——无全球政府时如何达成有约束力的规范？）契约论（ContractTheory）2.2伦理理论——我们的分析工具箱代表人物：罗尔斯（JohnRawls）正义两原则：第一原则：平等自由原则（绝对优先）——每个人享有最广泛的基本自由体系第二原则：社会经济不平等处理原则机会公平原则：职务与地位向所有人平等开放差异原则：不平等安排应最大程度惠及最不利者（最大最小值原则）在数智时代的批判透镜：技术是否加剧了最弱势群体的不利处境？算法中介的教育、求职、信贷是否固化了机会不平等？隐私自由、思想自由等基本自由在数字监控下有何新内涵？全球范围内的数智秩序应如何设计，才符合公平合作的精神？正义论（TheoryofJustice）2.2伦理理论——我们的分析工具箱思想来源：吉利根对科尔伯格的挑战；诺丁斯、特朗托核心特征：关系性存在论：人始终嵌入具体关系网络，道德源于对他者的依赖实践与情境性：正确回应无法从普遍规则推导，需理解特定情境中他者的具体需求情感与理性交融：共情、关注、责任感是道德行动的驱动力对权力的警觉：关怀不能沦为控制与支配在数智时代的意义：矫正冰冷理性；设计伦理新维度；重新定义责任；关怀应作为社会基础设施现代整合①：关怀伦理学（EthicsofCare）2.2伦理理论——我们的分析工具箱核心主张：存在一套跨文化、跨宗教共享的基本道德规范五项基本原则：生命与安全（避免杀害与不必要伤害）诚实与信守承诺公平与正义相互尊重与自主互助与基本关怀在全球科技治理中的作用：为全球科技伦理准则奠基；评估与约束技术应用；解决跨文化伦理争议；对道德相对主义的回应现代整合②：共同道德理论（CommonMorality）2.2伦理理论——我们的分析工具箱七大理论比较：一把尺子量不准所有问题理论核心问题判断标准IT伦理应用场景盲区功利论结果是否最大化幸福？后果与总效用成本-效益分析、公共资源分配可能牺牲少数人务论义是否遵守普遍道德法则？动机与原则隐私保护、人格尊严底线可能僵化不顾情境德性论行为者是否具备良好品格？品格与实践智慧开发者职业伦理、AI伦理素养难以直接指导决策契约论是否经过理性个体同意？共识与契约平台用户协议、全球治理同意可能不真实正义论是否公平对待最不利者？制度与分配结构数字鸿沟、算法歧视矫正抽象制度难落地关怀伦理是否回应了具体关系中的他者需求？情境敏感性与关系照护AI、儿童产品设计可能偏私于亲密关系共同道德是否违反了人类共享的基本底线？跨文化共识全球AI治理、技术伦理红线底线之上的灰色地带难处理核心结论：伦理判断需要多理论交叉验证，而非单一路径2.3信息技术伦理的核心原则理论来源：比彻姆与柴尔德里斯（Beauchamp&Childress）规范伦理学四原则四大基础原则：尊重自主、不伤害、行善、公正数智时代扩展为三维度六大原则：人类—技术交互→受益与无害、自主性与知情同意系统—社会结构→公正与公平、预防性原则治理—控制机制→透明性与可解释性、责任与问责从理论到原则——行动指南2.3信息技术伦理的核心原则尊重自主原则：个体在充分知情基础上做出不受强制的选择不伤害原则：技术活动不得带来不必要的痛苦、损失或风险（底线）行善原则：主动增进人类福祉，追求"技术向善"公正原则：社会利益与负担公平分配，消除算法偏见与数字鸿沟基础四原则速览2.3信息技术伦理的核心原则两层递进：不伤害（消极义务）：预防身体、心理、社会、经济层面的直接与间接伤害带来益处（积极追求）：创造可共享的积极价值——精准医疗、无障碍技术、绿色计算实践追问：这项技术为谁服务？能否创造真实、普惠、可持续的价值？核心要求：系统性、前瞻性的伦理影响评估，权衡不同群体的短期与长期后果维度一：人类—技术交互·受益与无害2.3信息技术伦理的核心原则两个核心要素：知情：以清晰、易懂、及时的方式揭示数据收集范围、目的、算法逻辑、商业模式同意：自由、自愿、明确的授权——必须有真实说"不"的权利，且可随时撤回数智时代挑战：黑箱算法、隐性数据收集、默认勾选、捆绑授权设计回应：默认尊重隐私的设计、可解释AI、真正有意义的用户控制选项维度一：人类—技术交互·自主性与知情同意2.3信息技术伦理的核心原则三层公正：程序公正：受影响各方（尤其边缘群体）应有渠道参与技术设计与政策制定分配公正：技术收益与风险是否被广泛共享？失业、隐私暴露是否不成比例地转嫁给弱势群体？矫正公正：当技术造成歧视性后果时，必须有识别、纠正、补偿与追责机制关键认知：算法效率若不加约束，极易固化甚至放大历史不公——公平需要主动、持续的设计介入维度二：系统—社会结构·公正与公平2.3信息技术伦理的核心原则范式转变：从"先发展后治理"→"设计即伦理"核心要求：在产品生命周期早期就主动预见、评估、规避潜在伦理风险为什么必要：技术迭代速度远超传统治理速度；某些后果深远、复杂乃至不可逆实践路径：将安全、公平、透明、尊重人权内嵌于技术架构与业务流程维度二：系统—社会结构·预防性原则2.3信息技术伦理的核心原则两个递进维度：透明性：系统功能、数据处理、算法逻辑、决策标准、性能局限、潜在风险的主动披露可解释性：针对不同受众（用户、专家、监管者）提供有意义的理解连接本质：将黑箱转化为玻璃箱的伦理承诺不透明的危害：侵蚀个人自主、阻碍错误纠正、掩盖系统偏见、破坏社会信任维度三：治理—控制机制·透明性与可解释性2.3信息技术伦理的核心原则两个支撑层面：责任（前瞻性）：设计者、开发者、运营者预先明确自身在安全、公平、伦理方面的积极职责问责（追溯性）：损害发生后能识别过错方，施加法律/经济/声誉制裁，提供补救数智时代新挑战：决策过程难以完全追溯，多方行动者贡献交织深层目标：培育负责任的创新文化——从被动合规转向主动伦理治理维度三：治理—控制机制·责任与问责2.4本章结语本章逻辑链：问题识别（个体/社会/治理三层面）理论工具（七大伦理理论）实践原则（三维度六原则）核心判断：技术绝非价值中立的工具，其设计、开发与部署内嵌特定价值取向最终目标：将抽象伦理理论转化为可操作、可评估的具体要求，构成负责任技术创新的行动指南从理论到行动的闭环思考题1.社会信用评分系统：用受益与无害、自主性、公正三原则分析伦理争议及原则冲突2.AI招聘工具性别偏见：分别从功利论、义务论、正义论、关怀伦理视角分析3.医疗AI误诊责任案：结合"责任黑洞"提出技术、公司、法律三层面方案4.全球社交媒体治理：用契约论和共同道德理论探讨国际监管合作的困难与出路5.德性论视角下，为儿童元宇宙产品起草《科技从业者伦理素养倡议书》关键术语-隐私与数据安全-算法偏见与公平-

责任归属-自主性与知情同意-公正与公平参考文献与延伸阅读[1]NoddingsN.Caring:Arelationalapproachtoethicsandmoraleducation[M].Updated2nded.Berkeley:UniversityofCal