大学生信息技术课AI伦理与社会影响

20XX/XX/XX大学生信息技术课AI伦理与社会影响汇报人:XXXCONTENTS目录01

课程开篇导入02

AI伦理核心议题03

AI伦理典型案例04

AI时代公众权责05

AI发展行业规范06

课程总结与展望01课程开篇导入AI在学习场景的普及应用大学生常用的ChatGPT、文心一言等AI工具，可辅助论文撰写、知识点梳理，提升学习效率。AI在就业领域的深度渗透不少企业用AI筛选简历、开展面试，部分岗位已实现AI辅助办公，改变就业市场格局。AI在公共服务中的广泛落地各地政务平台引入AI智能客服，可7×24小时解答市民咨询，提升政务服务效率。AI发展应用现状课程学习目标掌握AI伦理核心准则

理解数据隐私、算法公平等AI伦理核心准则，能分析ChatGPT数据泄露等典型案例中的伦理问题。学会评估AI社会影响

掌握评估AI对就业、教育等领域影响的方法，能剖析AI替代流水线工人的社会效应。具备AI伦理实践能力

能够为AI产品设计合规的伦理框架，如协助制定校园AI教学工具的使用规范。02AI伦理核心议题AI算法公平性问题算法偏见的产生源头以招聘AI为例，部分训练数据偏向男性求职者，导致算法对女性候选人的评分普遍偏低。算法公平的评估标准目前行业多采用平等机会、统计均等标准，如某电商AI需保障不同地域用户的推荐精准度一致。算法公平性的监管措施欧盟《人工智能法案》将高风险AI纳入监管，要求企业公开算法决策逻辑，避免歧视性输出。用户数据非法采集部分AI产品过度收集人脸、通讯录等隐私数据，如某智能APP曾因违规采集用户信息被监管部门处罚。数据泄露风险防控AI训练数据库存在泄露隐患，如某知名AI模型曾因漏洞导致大量用户敏感训练数据遭泄露。数据使用权限界定AI企业常模糊用户数据使用权限，部分平台未经用户授权将数据用于商业推广等盈利行为。AI数据隐私与安全AI生成内容版权归属

AI生成作品的创作者界定AI生成内容由算法驱动，判定创作者是开发者、使用者还是AI本身，目前仍存在争议。

AI生成内容的版权归属判定如OpenAI的ChatGPT生成文案，其版权归属在不同国家的法律框架下结论不同。

AI生成内容的商用版权授权企业使用AI生成的宣传海报，需明确版权授权范围，避免陷入侵权纠纷。算法责任界定问题

算法开发主体责任认定以ChatGPT生成虚假信息事件为例，需明确开发者在算法设计阶段的合规审查与风险防控责任。

算法应用方责任划分外卖平台算法导致骑手超时问题中，应用方需承担算法落地后的监管及不合理规则调整责任。

算法运维环节责任界定自动驾驶车辆发生事故时，需明确运维方在算法迭代、数据更新中的安全保障责任。AI算法歧视防控美国亚马逊AI招聘系统曾因算法歧视女性应聘者被停用，需通过技术优化保障就业平等权。个人数据隐私维护ChatGPT曾因泄露用户聊天隐私引发争议，需构建严格的数据采集、存储与使用规范。AI决策知情权保障自动驾驶汽车的事故责任判定需明确用户知情权，让驾驶者知晓AI决策的逻辑与边界。人类主体权利保护03AI伦理典型案例算法歧视典型案例招聘算法性别歧视案例亚马逊曾开发招聘算法，因训练数据偏向男性简历，导致对女性求职者产生系统性歧视。贷款算法种族歧视案例美国某银行贷款算法，对少数族裔社区申请者设置更高门槛，引发公平性争议。外卖平台派单算法歧视案例部分外卖平台派单算法偏好高评分骑手，低评分骑手常被分配距离远、收益低的订单。数据泄露典型案例

剑桥分析公司Facebook数据泄露案该公司违规获取5000万用户数据用于AI精准政治营销，引发全球对AI数据伦理的广泛讨论。

OpenAI训练数据隐私泄露事件有开发者发现其AI模型输出含用户隐私信息，暴露AI训练数据采集与管理的伦理漏洞。

亚马逊Alexa用户录音泄露事件部分用户与AI交互的录音被违规泄露给第三方，凸显AI语音交互场景下的数据隐私风险。AI生成画作版权归属争议美国艺术家起诉AI生成平台，称其用自己画作训练模型，侵权争议引发行业对版权边界的讨论。AI生成文字作品侵权纠纷某自媒体用AI生成小说盈利，被指抄袭他人原创内容，法院判决需承担侵权赔偿责任。AI生成音乐版权维权事件知名歌手指控AI平台未经授权用其音色生成歌曲，维权行动推动明确AI音乐版权规则。生成内容版权案例深度伪造应用案例换脸视频诈骗案例2023年出现多起利用AI换脸伪造亲友视频实施诈骗的事件，造成民众财产损失，引发广泛关注。深度伪造影视创作争议某影视公司利用AI复刻已故演员面容拍摄影片，因涉及肖像权与情感伦理，遭到公众质疑。虚假新闻生成案例国外媒体曾出现AI深度伪造的政治人物演讲视频，误导公众认知，扰乱正常社会舆论秩序。自动驾驶责任案例

优步自动驾驶撞人事故责任划分2018年优步自动驾驶车致行人死亡，最终判定安全员与车企共担责任，引发权责界定讨论。

特斯拉自动驾驶追尾事故追责特斯拉多起自动驾驶追尾事故中，因系统识别漏洞，车企需承担技术缺陷对应的部分责任。

Waymo自动驾驶遇行人突发状况处置纠纷Waymo自动驾驶车遇行人违规闯入车道，因应急决策争议，引发人机责任边界的深度探讨。04AI时代公众权责公众基本权利

AI信息知情权公众有权了解AI产品的运作逻辑、数据来源，如使用ChatGPT时可知晓其训练数据范围。

AI算法公平权公众享有不受AI算法歧视的权利，如招聘AI不得因性别、地域设置不合理筛选规则。

个人数据隐私权公众可要求AI服务方妥善保护个人数据，如人脸识别系统需严格存储用户面部信息并防止泄露。公众应尽责任

主动学习AI伦理知识大学生可通过高校公开课、权威科普平台学习AI伦理规范，提升自身辨别AI风险的能力。

自觉规范AI使用行为拒绝使用AI生成虚假学术论文、深度伪造他人肖像等违规行为，遵守AI应用相关准则。

积极监督AI违规现象发现AI算法歧视、数据泄露等问题时，可通过官方渠道举报，助力AI行业健康发展。05AI发展行业规范国内外现行规范梳理

欧盟《人工智能法案》核心要求该法案将AI按风险分级管控，禁止高风险AI滥用，比如未经授权的人脸识别监控。

美国AI行业自律准则以谷歌、微软为首的企业签署自律承诺，承诺AI研发兼顾安全与伦理，避免算法偏见。

我国《生成式人工智能服务管理暂行办法》明确要求生成式AI需内容合规，比如不得生成虚假信息，保障用户数据安全。企业合规管理要求数据安全合规管控企业需严格遵循《网络安全法》，像阿里云一样建立数据加密机制，防止用户隐私信息泄露。算法透明度规范企业要公开AI算法决策逻辑，如百度文心一言需披露推荐算法的核心参数，保障用户知情权。AI伦理审查机制企业需设立独立伦理审查委员会，类似腾讯AILab，对AI产品研发全流程进行合规性审核。06课程总结与展望AI伦理基本原则解析课程讲解了无害、公平、透明等伦理原则，以ChatGPT数据泄露事件为例剖析违规风险。AI技术的社会偏见剖析聚焦算法歧视案例，如招聘AI系统性别偏见问题，讲解AI对社会公平性的潜在冲击。AI应用的隐私保护规范结合人脸识别滥用事件，介绍数据收集、存储全流程的隐私保护准则与合规要求。课程核心内容回顾引导青年理性用AI