信息技术与人工智能通识 课件 任务7.6 人工智能伦理

主讲：余飞跃任务7.5智能体一、人工智能伦理的概念目录二、人工智能的核心伦理问题三、典型案例分析四、人工智能伦理的基本原则五、人工智能伦理的治理对策六、全球人工智能法律规范趋势“人工智能伦理”的核心概念一、人工智能伦理的概念AI技术在研究、开发、应用全流程中必须遵循的道德准则与社会价值规范，核心目标是规避技术对人类和社会的负面影响。“人工智能伦理”的核心概念一、人工智能伦理的概念关键是将人类价值理念、道德准则嵌入技术架构，确保AI发展与落地始终贴合人类根本利益。二、人工智能的核心伦理问题AI依赖海量敏感数据，强制、过度收集及数据泄露、非法交易等行为，严重侵犯隐私权。1、数据隐私与安全问题二、人工智能的核心伦理问题复杂AI模型如同“黑箱”，决策逻辑难理解、难追溯，关键领域出错后无法定位问题。2、算法透明度与可解释性问题二、人工智能的核心伦理问题训练数据含有的历史偏见（如招聘偏向男性）会被AI习得放大，引发歧视。3、算法公平性与歧视偏见问题二、人工智能的核心伦理问题AI无独立道德主体性，其造成的损害，开发者、使用者、监管方的责任划分尚无统一标准。4、责任归属与问责机制问题5、人机关系与人类主体性问题二、人工智能的核心伦理问题过度依赖AI会削弱人的决策、劳动能力，拟人化AI可能引发情感依赖，冲击人类主体地位。6、技术安全与失控风险问题二、人工智能的核心伦理问题通用人工智能若被恶意利用或进化偏离目标，将威胁公共安全。三、典型案例分析2018年脸书用户数据泄露案中，剑桥分析公司非法获取8700万用户数据，用于2016年美国大选精准政治营销，不仅收集用户本人信息，还获取其好友数据。暴露了用户对数据用途不知情、企业数据监管缺位的问题，也推动全球重视数据隐私，欧盟《通用数据保护条例》由此强化实施。案例一：脸书（Facebook）用户数据泄露与滥用案案例二：深度伪造技术制作虚假政治言论与社会恐慌案三、典型案例分析利用AI技术伪造人脸、语音生成虚假内容，误导公众、侵害他人权益，凸显技术滥用风险。案例三：亚马逊招聘算法性别歧视案三、典型案例分析系统因训练数据含性别偏见，自动给女性相关简历降分，印证算法歧视问题，后被停用。案例五：自动驾驶汽车伦理困境案三、典型案例分析算法延迟与安全员失职致行人死亡，凸显AI事故责任归属难题。四、人工智能伦理的基本原则AI研发与应用以增进人类福祉、保障人类权益为核心，不得损害人类利益、削弱人类主体性。以人为本原则四、人工智能伦理的基本原则数据采集全面，算法需检测修正偏见，保障不同群体平等享受技术红利。公平公正原则四、人工智能伦理的基本原则透明可解释原则医疗、司法等关键领域AI，决策逻辑需可解释、信息需公开，建立算法备案审查机制。责任追溯原则明确全生命周期责任主体，开发者、部署者、使用者、监管方各司其责。六大伦理原则隐私保护原则遵循“最小必要”原则收集数据，建立保护机制，严禁滥用。安全可控原则做好风险评估预警，高风险领域设严格准入，防范技术滥用与失控。1、技术层面：从源头降低伦理风险五、人工智能伦理的治理对策研发可解释AI与白盒模型，替代黑箱模型，实现算法可追溯；推广数据脱敏、联邦学习等隐私保护技术，做到“数据不动模型动”；开发偏见检测工具，修正模型歧视。五、人工智能伦理的治理对策AI机构设立伦理审查委员会，对高风险项目全流程监管；完善法律法规，如欧盟《人工智能法案》分级管控风险，我国《生成式人工智能服务管理暂行办法》明确服务者责任；行业协会制定自律公约，引导企业担责。2、制度层面：构建刚性约束框架五、人工智能伦理的治理对策高等院校把人工智能伦理纳入课程体系，企业对从业者开展相关培训；普及人工智能伦理风险知识，开设投诉渠道，鼓励社会力量参与治理。

3、教育层面：提升伦理意识与认知国家战略与顶层设计六、全球人工智能法律规范趋势我国顶层设计清晰，从《新一代人工智能发展规划》明确立法目标，到“人工智能+”纳入政府工作报告，再到AI安全监管制度落地，始终统筹发展与安全。法律规范与标准体系六、全球人工智能法律规范趋势目前已形成“基础法律+专门规定+伦理规范+技术标准”四层体系，《生成式人工智能服务安全基本要求》提供了具体评估依据。六、全球人工智能法律规范趋势风险治理兼顾技术本身与劳动就业、社会偏见等衍生问题，强调全生命周期监管，法律责任更精准严格。风险治理与分类施策六、全球人工智能法律规范趋势全球现有中国、欧盟、美国三种治理模式，我国体系已初具规模，呈现