人工基础智能 5

AI人工智能通识与实践CHAPTER11第11章AI安全与伦理AISafety&Ethics授课教师：__________日期：__________课程：人工智能通识与实践AI安全与伦理本章目录CONTENTS本章目录1安全风险总览为什么关注AI安全、深度伪造、算法偏见、数据隐私2AI幻觉AI幻觉的成因、案例与减少影响的方法3辅助驾驶应用与挑战ADAS系统、典型案例与安全使用规范4人工智能伦理与治理AI伦理原则、典型案例、法律法规与监管体系人工智能通识与实践教程02/21PART01SECTION01第1节安全风险总览认识AI广泛应用带来的深度伪造、算法偏见、数据隐私等安全风险，培养辨识真伪与理性判断的能力。深度伪造算法偏见数据隐私判断技巧03/2011.1安全风险总览为什么关注为什么关注AI安全与伦理真实风险场景小灵视频借款：好友视频电话其实是AI伪造的人脸和声音，导致转账受骗。古老师理财隐私泄露：向大模型提供工资流水、房贷账单后，频繁收到骚扰电话和钓鱼邮件。风险来源大规模数据收集导致个人隐私暴露。训练数据偏见被算法继承甚至放大。生成式AI使伪造图像、视频、声音变得简单。自动化决策挑战传统责任划分。AI安全与伦理旨在培养辨识真伪、理性判断的能力，同时确立“什么能做、什么不能做及如何做”的伦理准则。人工智能通识与实践教程04/2011.1安全风险总览深度伪造深度伪造：眼见不再为实人脸替换将一个人的面部特征替换到另一个人身上，表情自然、皮肤毛孔清晰。语音克隆只需3秒录音即可克隆语气、口音，几乎分毫不差。表情控制让静态照片动起来，自动匹配比真人还流畅的动作。虚拟人物生成生成不存在但高度逼真的虚拟人物形象，用于虚假信息传播。人工智能通识与实践教程05/2011.1安全风险总览典型案例深度伪造典型案例案例1：香港AI换脸诈骗时间：2024年2月。方式：跨国公司财务人员受邀参加在线视频会议，参会“同事”全部由AI生成。结果：一周内按指示完成15次转账，总金额约2亿港元。警示：深度伪造可模拟多人场景，需通过独立渠道二次核实。案例2：直播间“假主播”时间：2025年。方式：不法分子利用AI换脸将演员温峥嵘的面部叠加到主播视频中带货。维权难点：仿冒账号众多，封禁后迅速重新注册，治理难度大。启示：当虚拟内容高度逼真，真实人物也可能难以“证明我是我”。香港特区政府新闻公报中华网报道人工智能通识与实践教程06/2011.1安全风险总览判断技巧判断真伪的五个技巧1看脸：观察表情是否僵硬、眨眼频率是否异常、嘴角动而眼神无变化。2听声：嘴唇动作与声音是否同步，语调是否有变化，背景音是否与场景一致。3查背景：判断光影是否自然，背景是否模糊，边缘是否有重影或后期处理痕迹。4试互动：视频通话时问一个只有真人才知道的默契问题。5二次验证：遇到转账、验证码等紧急请求，用独立保存的号码回拨确认。在AI技术应用普及的今天，我们已进入“眼见不一定为实”的时代，多重验证是保护自己的关键。人工智能通识与实践教程07/2011.1安全风险总览算法偏见算法偏见：数据中的偏见会被AI放大训练数据不平衡某些群体在数据中出现频率较低，算法无法准确识别其特征。历史数据中的社会偏见性别、年龄、地域等方面的不平等被算法从历史数据中学习并复制。模型设计与评价指标仅追求效率或准确率而忽略公平性，可能导致部分群体受到不公平对待。算法并非完全中立的技术工具，在设计和应用过程中需充分考虑公平性和伦理问题。人工智能通识与实践教程08/2011.1安全风险总览案例·应对算法偏见案例与应对方法案例亚马逊招聘算法：2014年前后开发，训练数据来自过去十年简历记录，学习到“男性更胜任技术岗位”的隐含规律，对女性相关词汇降低评分，2018年停止使用。互联网平台“杀熟”：通过分析消费习惯、购买能力、历史行为，对不同用户提供不同价格，老用户价格可能高于新用户。应对方法给算法“喂”正确信息：少填敏感信息，用行业术语而非易产生偏见的标签。主动搜索多元信息：如“女性科学家”“农村大学生创业”，避免信息茧房。看穿算法“小心思”：问自己“这是我真的需要，还是算法想让我看到？”。人工智能通识与实践教程09/2011.1安全风险总览数据隐私数字自我、数据隐私与信息边界典型案例CambridgeAnalytica：2018年通过心理测试应用收集约27万用户数据，间接获取8700万Facebook用户资料，用于建立心理画像和政治广告投放。字节跳动员工泄密：2025年员工在社交平台泄露同事职级、履历等内部资料，违反信息安全规定并受处分。守住信息边界审慎选择平台：优先使用国内正规渠道AI应用。权限最小化：仅授予核心功能所需权限，定期撤销非必要权限。敏感信息不上传：不输入身份证号、银行卡号、账单等。定期清理痕迹：关闭跨平台同步，删除浏览记录与AI历史对话。涉密不上网：不上传未发表论文、竞标合同等。数据泄露事件字节跳动企业通报页面人工智能通识与实践教程10/20PART02SECTION02第2节AI幻觉理解AI幻觉的成因、典型案例及减少影响的方法，提升信息核实与批判性思维能力。AI幻觉成因虚假案例减少影响信息核实11/2011.2AI幻觉概念与成因AI幻觉：看似合理但可能不真实数据不完整或错误训练数据本身存在错误或不完整，模型可能形成错误知识。缺乏实时事实验证系统不会自动查询权威数据库，而是根据语言模式推断，涉及最新事件或专业领域时易出错。语言生成机制特点模型核心任务是预测下一个最可能的词，更关注语言流畅而非事实完全正确。人工智能通识与实践教程12/2011.2AI幻觉案例·应对AI幻觉案例与应对策略1进行信息核实：通过官方网站、学术数据库、权威媒体等权威来源验证AI生成内容。2将AI作为辅助工具：用于初步资料整理或思路启发，最终判断和修改由人完成。3提高数字素养：保持批判性思维，对自动生成内容保持合理怀疑。4标明AI辅助：在报告或论文中注明“部分内容由AI工具辅助生成”。人工智能通识与实践教程13/20PART03SECTION03第3节辅助驾驶应用与挑战理解辅助驾驶系统的工作原理、常见功能、典型案例及安全使用规范。环境感知决策控制常见功能安全使用14/2011.3辅助驾驶系统与案例辅助驾驶系统与典型案例环境感知摄像头识别道路、车辆、行人；毫米波雷达测量距离；激光雷达获取三维结构。数据分析与决策车载计算系统分析传感器数据，判断是否需减速、转向或提醒驾驶员。控制执行通过车辆控制系统调整油门、刹车或方向盘，实现驾驶辅助。常见功能自适应巡航、车道保持、自动紧急制动、自动泊车。萝卜快跑无人驾驶车

自动驾驶安全报道人工智能通识与实践教程15/2011.3辅助驾驶安全使用辅助驾驶的安全使用规范1保持对方向盘的控制：驾驶员仍是主要控制者，不应长时间离开方向盘。2了解系统局限：大雪、暴雨等天气可能遮挡道路标线，影响摄像头识别。3随时准备接管：系统提示“请接管车辆”时，应及时握住方向盘控制车辆。4行车前检查传感设备：确保摄像头、雷达清洁无遮挡。5保持系统更新：及时安装软件更新，确保算法与导航数据保持最新。6保持安全车距：为系统和驾驶员预留足够的反应时间。辅助驾驶只是驾驶员的辅助工具，只有在人机协同的前提下，才能真正提升交通安全和驾驶效率。人工智能通识与实践教程16/20PART04SECTION04第4节人工智能伦理与治理理解人工智能伦理的核心问题、典型案例、正确使用原则及治理与监管体系。AI伦理典型案例基本原则治理监管17/2011.4AI伦理与治理案例与原则人工智能伦理案例与正确使用原则典型案例博士生被开除：2024年美国明尼苏达大学博士生在考试中违规使用AI撰写论文答案，被开除学籍。张伯礼院士AI伪造代言：2024-2025年，不法分子利用AI换脸和语音合成伪造张伯礼院士代言保健品，侵犯肖像权和名誉权。正确使用原则AI作为辅助工具：可用于搜索资料、整理文献、生成提纲、语言润色，但核心观点和结论需由人独立完成。明确禁止行为：不得用AI生成抄袭内容、伪造数据、传播虚假信息或侵犯他人隐私与知识产权。责任归属：即使内容由AI生成，最终责任仍由使用者承担；应注明AI辅助并审核内容真实性。图10-8AI完成考试论文被开除图10-9AI伪造代言视频报道人工智能通识与实践教程18/2011.4AI伦理与治理治理监管人工智能治理与监管体系法律法规监管通过《数据安全法》《个人信息保护法》《互联网信息服务算法推荐管理规定》等，规范数据收集、算法应用与责任归属。技术标准与行业规范制定统一标准，规范AI系统开发、测试与应用，如自动驾驶感知系统与道路测试规范。企业责任与平台治理企业需建立数据安全管理制度，加强算法审核和风险评估，管理平台信息内容。社会参与公众监督研究机构、媒体与公众共同参与，形成多方协同、完善的人工智能治理体系。人工智能通识与实践教程19/20AI安全与伦理本章总结SUMMARY本章总结安全风险深度伪造、算法偏见、数据隐私、AI幻觉、辅助驾驶局限，是AI广泛应用中不可忽视的关键风险点。伦理准则AI应作为辅助工具而非替代人类；避免抄袭、伪造、侵权；使用者对AI生成内容承担最终责任。治理体系通过法律法规、技术标准、企业责任与社会监督，构建多方参与的AI治理体系，平衡创新与安全。在享受AI便利的同时，必须保持批判性思维，守住信息边界，理解技术能力与责任边界，才能安全、负责任地使用AI。人工智能通识与实践教程20/21AI安全与伦理本章练习EXERCISES本章练习题1看到一段“专家推荐保健品”的视频，