第五单元 第3课《信息泄露》课件【清华版】人工智能通识（ 中学）

第五单元第3课信息泄露清华版（中学）1学习目标3新知讲解5拓展延伸7板书设计2新知导入4课堂练习6课堂总结课后作业801教学目标（1）了解人工智能在生物信息和个人信息泄露中的潜在风险及其典型案例。（2）认识大语言模型在使用过程中可能引发的信息泄露问题及其解决措施。（3）探讨信息泄露的应对策略。02新知导入1.AI发展与数据积累的共生关系​​人工智能技术的快速进步高度依赖海量数据的积累与训练，数据规模与模型性能呈正相关。02新知导入2.集中化数据存储的风险放大​​大规模数据集中存储成为黑客攻击的高价值目标，单次泄露可导致数百万用户敏感信息外泄。02新知导入3.信息泄露的多维危害​​从个人隐私侵犯（如人脸数据滥用）到企业商业机密窃取（如算法模型被盗），甚至国家安全威胁（如关键基础设施数据泄露），需技术加密+法律协同防护。03新知讲解1生物信息泄露风险​​思考：1、什么是信息泄漏？

信息泄漏是指个人或组织的敏感信息在未经授权的情况下被获取、使用或传播。2、信息泄漏的常见形式有哪些？

常见形式包括通过网络攻击、内部员工泄漏、钓鱼网站、病毒攻击等。3、信息泄漏的影响有哪些？

信息泄漏会导致隐私泄露、经济损失，甚至声誉受损。03新知讲解1生物信息泄露风险​​1.生物信息的非法采集与滥用​​人脸、声音、指纹等生物特征广泛应用于安防、支付、智能设备解锁等场景。摄像头、语音助手等设备可能在用户不知情下采集生物数据，并被用于欺诈、监控等非法活动。03新知讲解1生物信息泄露风险2.AI技术加剧伪造与滥用危害​​Deepfake与语音合成技术利用泄露数据生成逼真假冒内容，如伪造视频、声音，大幅降低犯罪成本并提升危害性。03新知讲解1生物信息泄露风险案例2019年BioStar2因安全防护不足导致泄露2800万条生物数据，2021年TransUnion报告显示单季度2200万美国人信息外泄。03新知讲解1生物信息泄露风险案例：美国纽约警方在2020年试图逮捕“黑人的命也是命”活动人士德里克·英格拉姆,他疑似使用了面部识别技术进行了定位，引发了公众对滥用人脸识别技术的担忧,并发起了名为BanTheScan的抵制活动。03新知讲解1生物信息泄露风险3.政府监管与政策调整​​中国部分城市已减少非必要人脸识别应用，比如上海和广州等地先后停止了入住酒店时面部识别验证的强制要求，体现了对生物信息保护的重视。03新知讲解2音视频合成技术的滥用​​1.个人信息的定义与广泛应用​​个人信息涵盖姓名、身份证号、地址、电话等数据，广泛用于在线服务（如电商、社交平台），支撑现代数字化生活。03新知讲解2音视频合成技术的滥用2.个人信息泄露的主要途径与典型案例​2017年Equifax遭黑客攻击致1.43亿人数据泄露，2021年T-Mobile管理漏洞使1亿用户数据外流损失3.5亿美元，2024年NPD被黑客入侵致使29亿人敏感信息泄露。03新知讲解2音视频合成技术的滥用3.中国个人信息泄露的严峻现状​​2019年某快递公司泄露4.5亿条含姓名、电话、地址的订单数据，引发社会对数据安全的广泛关注与法律完善需求。03新知讲解2音视频合成技术的滥用4.AI时代数据管理的特殊风险​​虽非全由AI直接导致，但AI依赖大规模数据训练，若存储、使用不规范（如未脱敏、弱加密），将极大加剧泄露危害性。03新知讲解3大语言模型带来的信息泄露风险​​1.大语言模型的快速发展与能力​​以GPT为代表的模型通过海量文本训练实现自然语言交互（如问答、任务处理），推动AI技术普及与应用创新。03新知讲解3大语言模型带来的信息泄露风险2.用户个人信息的无意泄露风险​​用户交互中可能暴露隐私数据（如信用卡信息），例如2023年ChatGPT因漏洞泄露用户支付信息与聊天标题。03新知讲解3大语言模型带来的信息泄露风险3.训练数据中的机密信息记忆与输出​​模型可能记忆并输出训练集中的敏感内容（如医疗记录、商业机密），案例如三星员工输入代码致数据泄露，研究者以低成本从ChatGPT提取大量训练数据。03新知讲解3大语言模型带来的信息泄露风险4.企业与大模型交互的泄密案例​​企业员工使用大模型时误输入内部敏感信息（如会议记录、代码），导致数据被模型收集并可能在后续交互中输出，构成商业安全威胁。03新知讲解如何有效保护个人信息在社交媒体和其他平台上谨慎分享个人信息，避免泄漏敏感信息。创建复杂且唯一的密码,避免使用容易猜测的个人信息，如生日、电话等。使用强密码定期更换重要账户的密码,并确保不同账户使用不同的密码。定期更改密码通过启用双因素认证增加额外的安全层，保护您的账户免受未经授权的访问。启用双因素认证谨慎共享个人信息03新知讲解4总结​​1.AI时代信息泄露的严峻形势​​生物信息过度采集、大规模数据泄露事件频发（如BioStar2、NPD事件）及大语言模型记忆风险（如ChatGPT泄密），构成多维安全威胁。03新知讲解4总结2.综合治理的必要性与路径​​需技术（联邦学习加密）、法律（GDPR类法规）与公众教育（密码管理、风险意识）协同，构建防护体系。03新知讲解4总结3.个人防护的实操建议​​定期更换密码、限制敏感信息分享（如避免向AI透露隐私）、启用双重验证等基础措施，降低自身风险暴露。03新知讲解思考与讨论1.社交媒体平台是否应为用户上传的含个人信息的公开内容承担监管责任？（1）事前措施​​：平台需采取合理技术（如AI内容过滤、关键词屏蔽）主动识别并限制明显违规内容（如身份证照片、电话号码批量发布）。（2）事后响应​​：若用户举报或发现泄露，平台应及时删除并协助溯源（如提供登录IP、操作日志）。（3）责任边界​​：完全实时监控不可行，但平台若未履行基本审核义务（如无举报机制），则需承担连带责任。03新知讲解思考与讨论2.若AI公司为提升模型性能而使用未脱敏的医疗数据，是否应被允许？说明理由。（1）法律风险​​：违反《个人信息保护法》等法规，面临高额罚款（如GDPR罚金可达全球营收4%）。（2）伦理问题​​：侵犯患者隐私权，可能引发歧视、勒索等二次伤害（如病史泄露影响就业）。（3）技术替代​​：可通过联邦学习、合成数据等合规手段提升性能，无需原始数据。04课堂练习一、判断题。1.联邦学习可以完全消除AI模型的信息泄露风险。（）2.量子加密技术已广泛应用于日常网络通信。（）3.企业员工向大模型输入代码不会导致商业机密泄露。（）4.GDPR法规仅适用于欧盟境内的企业。（）5.定期更换密码是有效的个人数据保护措施。（）√

××××04课堂练习二、选择题1.以下哪项不是生物信息泄露的典型案例？​​（

）A.BioStar2数据库泄露B.T-Mobile用户数据外泄C.纽约警方人脸识别争议D.ChatGPT训练数据提取2.大语言模型的信息泄露风险不包括？​​（

）A.用户对话内容被存储B.训练数据中的机密信息被记忆C.硬件设备被物理窃取D.企业员工误输入敏感数据3.应对信息泄露的技术手段是？​​（

）A.联邦学习B.增加数据存储量C.关闭所有云服务D.禁止AI研发4.以下哪项属于个人信息？（

）​​A.公共天气预报B.某商场客流量统计C.学生的身份证号码D.城市地图数据CBAC04课堂练习三、填空题1.BioStar2事件​​泄露了超过

条生物识别数据记录，包括指纹和人脸信息。2.ChatGPT漏洞事件​​中泄露了用户的

信息（如信用卡后四位）。3.联邦学习​​是一种

技术，可在不共享原始数据的情况下训练AI模型。4.量子加密​​利用

特性，实现理论上无法破解的安全通信。5.GDPR​​是欧盟制定的

法规，用于加强个人数据保护。2800万支付分布式机器学习量子不可克隆数据隐私05拓展延伸1.同态加密​​：通过数学算法使加密数据能直接进行加减乘除运算，实现“不解密即可训练AI模型”，但计算效率较低。05拓展延伸2.行为特征认证​​：利用用户独特的交互模式（如打字节奏、鼠标轨迹）替代传统生物识别，潜力在于动态防伪且无需存储敏感生物数据。05拓展延伸3.脑机接口风险​​：脑电波信号可能被恶意截获，导致思维隐私泄露（如密码、记忆被读取），需开发神经数据加密技术。06课堂总结1生物信息泄露风险2音视频合成技术的滥用3大语言模型带来的信息泄露风险4总结5进行相关知识拓展12345信息泄露07板书设计信息泄露1、生物信息泄露风险2、音视频合成技术的滥用3、大语言模型带来的信息泄露风险4、总结5、进行相关知识拓展课后作业。1、为学校设计一份“AI使用安全指南”，涵盖个人信息保护、大模型使用规范等内容。08课后作业1.为学校设计一份“AI使用安全指南”，涵盖个人信息保护、大模型使用规范等