智能时代的安全盾牌走进人工智能安全课件

AI已在我们的生活中无处不在扫脸支付你的面部信息，最终储存在了哪里？​智能推荐它为什么比你更懂你？​无人驾驶如果它做出错误判断，责任由谁承担？​便捷个性智能智能时代的安全盾牌—走进人工智能安全数据安全01【案例分析1】

小林非常喜欢一款名为“AI漫画家”的App，只需上传一张自拍，就能生成各种风格的漫画头像，效果逼真有趣。她上传了自己的高清照片，玩得不亦乐乎，并同意了App弹出的所有权限请求。

几个月后，奇怪的事情接连发生：​​她开始收到大量​​精准的美容广告​​和​​素描培训班​​的骚扰电话。她发现自己的漫画头像被用在了某个​​不知名的交友软件​​上，作为虚假账号的头像。

更可怕的是，有人用她的照片合成了丑化的表情包​​，并在小范围的社交群里传播，对她的名誉造成了严重损害。

这一切的起点，是小林上传了她的照片。那张普通的自拍照，对于AI公司来说，到底是什么？数据燃料

这张照片数据，经历了​​被过度收集、被不安全地存储、最后被恶意地滥用​​的过程，直接导致了三大恶果：隐私的彻底泄露​​、财产权的侵害​​、名誉权的损害。​除了人脸，AI还在收集和分析我们哪些更敏感的数据？个人数据声音购物记录位置轨迹声纹识别、合成语音诈骗...生活习惯、家庭住址、社交圈...用户画像、大数据杀熟...3人小组：A同学（立法者）：​​国家可以出台什么法律来保护我们的数据？

​​B同学（技术专家）：​​科技公司应该采取哪些技术手段？

​​C同学（你我他/个人）：​​我们普通人最容易做到的防护措施是什么？

组建“数据安全智囊团”如何守护数据安全立法者技术专家你我他/个人数据最小化原则用户有权删除数据泄露强制报告制度...匿名化处理访问控制操作留痕...​识别钓鱼信息分享前先脱敏定期审查权限...算法安全02【案例分析2】

算法这样‘贴心’地为我们定制评论区，是帮我们​​高效找到了同好​​，还是在不经意间​​限制了我们看到更全面的声音​​？辩题：算法定制评论区，是“高效过滤器”还是“视野限制器”？​【微辩论】高效过滤器√视野限制器√​​1.提升效率​​：屏蔽噪声，快速获取核心信息。2.强化认同​​：精准找到兴趣圈子，获得归属感。3.优化体验​​：提供愉悦、流畅的沉浸式阅读环境。...固化认知​​：信息偏食，导致思维狭隘。​​加剧偏见​​：不断强化固有观点，难以接触异见。​​剥夺选择​​：无形中替你做出了“该看什么”的决定...用户行为（点赞、停留、关注）算法投其所好持续推荐同类内容用户看到的内容越来越单一形成“信息茧房”如何应对算法偏见​1.对平台：要求“多样性”​​：推动算法设计增加随机性与跨界推荐。​​2.对技术：善用“功能键”​​：主动使用“不感兴趣”、“刷新”等功能训练算法。​​3.对自己：成为“主动探索者”​​​​主动搜索​​，而非被动刷取。​​保持警醒​​，常思“为何推我此内容？”​​跨界学习​​，主动关注不同领域博主。应用安全03

某公司老板郭先生接到​​好友的微信视频电话​​，看到好友的脸、听到他的声音，确认身份后，转账430万元。事后才发现，整个视频通话是骗子用​​AI换脸​​技术伪造的。【案例分析3】AI换脸’诈骗利用了人们什么心理？它最大的危害是什么？【辨析判断】问题1：朋友用AI“换脸”App把我的五官合成到一段搞笑视频里，并发布在班级群中，这只是个玩笑，没有任何问题。​（

）问题2：用AI工具生成一篇作文或解答数学题，然后当作自己的作业交给老师，这只是更高效地利用了工具，是未来的学习趋势。​问题3：接到自称是“电商客服”或“游戏平台客服”的电话，能准确说出我的订单和身份信息，并声称要帮我办理退款，我应该相信对方并按其指示操作。​问题4：在网上看到一段令人震惊的“社会事件”视频或“明星爆料”新闻，因为视频画质很高、很逼真，所以它肯定是真实的。问题5：个人在社交媒体上发布的普通生活照片（如穿军装的家人、某个地标建筑），即使定位无关紧要，也不会对国家安全构成威胁。（

）（

）（

）（

）×××××社交娱乐学习评估消费财产信息鉴别国家安全如何面对应用安全——善用工具​​

安装安全软件，使用AI检测工具辅助判断。​​——知法用法​​

了解相关法律法规，遇到欺诈及时举报。——保持警惕​​​​凡涉及转账、密码、隐私，必通过电话、见面等原始方式二次核实！1.技术防御2.制