人工智能基础与应用教程 课件 第6章人工智能伦理与安全治理框架

第6章人工智能伦理与安全治理框架CONTENTS目录01

本章学习目标02

人工智能伦理的主要问题03

人工智能伦理典型案例04

人工智能伦理问题的解决路径05

人工智能伦理的安全保障体系06

本章总结本章学习目标

01人工智能伦理的定义

跨学科领域属性整合哲学、法律、社会学与计算机科学，聚焦技术与人类价值观的一致性

核心研究范畴涵盖数据安全、隐私保护、算法公平性及特定领域应用的伦理约束

动态发展特性需应对技术迭代挑战，推动国际合作与标准制定以实现负责任创新人工智能伦理的规范文件

国际规范文件联合国教科文组织《人工智能伦理问题建议书》是全球首部国际协议，欧盟《人工智能法》分阶段实施风险监管

我国治理实践国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》与《伦理规范》，构建框架性指引

企业与机构行动百度提出“AI伦理四原则”并成立科技伦理委员会，其平台获ISO/IEC42001国际认证人工智能伦理的核心原则

公平性与非歧视避免因性别、地域等因素造成不公平决策，如消除招聘算法中的隐性偏见

透明度与可解释性确保决策过程清晰可追溯，如医疗AI需向医生解释诊断依据

安全性与可靠性防范技术故障与恶意滥用，如自动驾驶需通过严格测试保障稳定运行其他关键伦理原则隐私与数据保护尊重用户数据主权，合规收集使用信息，如面部识别需明确告知用途人类自主与尊严保障人类对技术的最终控制权，禁止开发操控或伤害人类的技术社会责任与可持续发展优先服务社会福祉，推动技术与生态保护结合，如智能能源管理减少碳排放人工智能伦理的主要问题02隐私与数据权利问题

数据滥用风险大量个人数据训练可能导致隐私泄露、数据买卖或未经授权的用户画像分析

预测性监控争议犯罪预测、信用评分等技术可能侵犯个人自由，引发算法歧视

数据二次利用困境用户数据被商业化二次使用时，可能导致人类沦为“数据商品”丧失主体性算法公平与偏见问题

偏见产生根源训练数据中的历史偏见可能被系统放大，导致招聘、司法等领域决策不公

算法黑箱问题深度学习模型决策过程缺乏透明度，偏见难以追溯纠正，影响公众信任

数字霸权风险大型科技公司利用算法优势形成垄断，如谷歌搜索算法偏袒自家服务遭欧盟反垄断处罚责任与问责机制问题

责任归属模糊自动驾驶事故、医疗误诊等事件中，开发者、使用者与监管方责任界限不明

道德脱钩现象人类过度依赖AI决策可能弱化责任意识，回避伦理判断

法律适配挑战需探索AI主体资格、产权归属及责任认定等问题，平衡创新与规制安全与失控风险问题

技术失控隐患强人工智能潜在风险存争议，但短期漏洞可能引发自动驾驶事故、算法操控舆论等问题

武器化应用困境自主武器系统如杀手机器人引发伦理争议，算法决策不可解释性挑战国际人道法

欺诈技术威胁AI语音克隆、深度伪造等技术门槛降低，可能导致金融诈骗等损失社会与就业影响问题

劳动力结构冲击自动化可能取代制造业、服务业大量岗位，加剧贫富差距与社会分化

数字鸿沟扩大技术普及不均导致不同群体在教育、医疗资源获取上的差距进一步拉大

公共利益失衡需确保技术优先解决环境、医疗等公共问题，避免加剧社会不平等其他核心伦理问题

人类自主性侵蚀AI在医疗诊断、司法判决中主导可能削弱人类自主判断能力，影响价值观

全球治理真空技术全球性与各国法律文化差异冲突，导致国际统一伦理标准难以建立

技术设计伦理缺位需建立前瞻性风险评估机制，确保AI目标与人类共同价值观对齐人工智能伦理典型案例03算法歧视与公平性案例

AI信贷性别偏见事件某平台信贷系统因训练数据偏见对女性用户调低额度，暴露数据偏见放大风险

谷歌搜索推荐偏袒诉讼欧盟起诉谷歌算法偏袒自家服务违反反垄断法，裁定罚款33亿美元并开放接口

算法影响评估法案争议纽约市要求公开AI决策原理遭企业起诉，法院裁定部分算法需第三方审计隐私与数据权利案例MetaAI训练数据隐私诉讼Meta被指控未经同意使用数十亿条帖子训练模型，欧盟依据GDPR判决赔偿2000亿欧元深度伪造虚假视频事件黑客利用技术生成虚假视频引发舆论危机，倒逼平台强化检测与溯源标识数据预测性监控争议基于数据的行为预测技术如犯罪预测，可能侵犯个人自由引发伦理争议责任与安全案例自动驾驶致死事故纠纷Uber自动驾驶车辆撞死行人，责任归属争议推动美国NHTSA出台安全标准AI无人机误炸平民事件自主决策无人机误判目标导致伤亡，引发“杀手机器人”伦理困境与联合国公约谈判AI语音克隆诈骗案诈骗者克隆高管语音诱导转账损失超5000万美元，推动金融机构采用双重验证其他典型伦理案例医疗人工智能误诊事件谷歌AI系统误判老年患者需求导致延误治疗，推动FDA要求保留人类否决权深度伪造信息信任危机虚假视频技术挑战信息真实性，加剧地缘政治风险与社会信任崩塌算法黑箱司法应用争议深度学习模型在司法判决中缺乏透明度，偏见难以追溯影响公众信任人工智能伦理问题的解决路径04技术革新路径

可解释机器学习技术借助可视化、特征评估等工具提高决策透明度，增强医疗、金融等领域的公众信任

算法公平性优化技术通过数据预处理、算法调整及结果校验消除偏见，维护招聘、信贷等场景的公平性

数据隐私保护技术运用同态加密、差分隐私等技术防范数据泄露，确保数据处理过程的隐私安全法律法规路径

国际法律框架欧盟《人工智能法》禁止高风险应用并实施分级监管，联合国教科文组织建议书提供全球指引

我国法律实践《生成式人工智能服务管理暂行办法》划定责任边界，《新一代人工智能伦理规范》融入全生命周期

区域与国家行动韩国《人工智能基本法》采用风险监管方法，计划2026年施行分类管理伦理方法路径

自上而下方法从伦理理论出发嵌入普遍原则，如将伦理学原则转化为决策规则，理论基础明确但可能抽象

自下而上方法从具体案例出发通过机器学习学习伦理行为，灵活性高但易受数据偏差影响

混合方法结合前两者优点，既考虑普遍原则又适应具体情境，是当前研究重点方向人工智能伦理的安全保障体系05国际标准与框架

联合国全球标准框架《人工智能伦理全球标准框架》要求2025年前建立伦理审查制度，明确透明性等三项原则

欧盟分级监管体系《人工智能法案》将AI系统分为四类，高风险系统需通过伦理合规审查并保留人类接口

全球治理协同联合国《致命性自主武器系统公约》谈判启动，推动AI武器的国际规制我国安全保障实践国家行动计划

科技部启动“人工智能向善”三年行动计划，推进伦理审查员资质认证与示范区建设立法与规范进程

《人工智能伦理审查实施办法(草案)》列入立法议程，要求通过12项伦理指标审查技术工具应用

复旦大学研发“一鉴”伦理审查智能体，可自动识别风险等级并生成审查报告全生命周期治理框架国际标准根基以联合国框架与欧盟法案为基础，覆盖开发全生命周期的伦理约束技术与审查融合将技术工具如算法偏见检测与伦理审查机制相结合，确保系统合规跨学科整合路径融合伦理学、法学等视角，通过动态调整机制实现理论与实践的平衡本章总结06本章核心内容总结

01理论层面明确了人工智能伦理的定义、规范文件与核心原则，构建理论基础02实践层面剖析了隐私、算法公平、责任等核心问题，结合案例展现伦理困境03解决路径从技术、法律、伦理三维度提出解决路径，阐述安全保障体系构建人工智能伦理的未来展望

全球治理协调需推动不同国家因文化、法律差异形成的监管重点达成协调与统一

技术伦理融合加强伦理嵌入技术的研究，如混合伦理方法的完善与应