《人工智能安全》教学课件-2025-2026学年浙教版（新教材）初中信息技术九年级全册

《人工智能安全》教学课件浙教版信息技术九年级|2025-2026学年复习旧知：AI伦理上节课我们学习了人工智能伦理，探讨了人与AI协作的边界。谁能说说，在日常使用与开发AI技术时，我们需要始终恪守哪些核心基本原则？公平：拒绝算法偏见确保AI系统的训练数据和决策逻辑不包含种族、性别等歧视性因素，让技术红利能被多元群体平等共享。透明：了解决策逻辑AI的决策过程应具备可解释性，用户有权知晓系统是如何得出结论的，避免陷入“黑箱”操作带来的信任危机。尊重：守护隐私权利严格保护个人数据安全，不滥用生物特征、行为轨迹等敏感信息，始终将人的尊严和基本权利放在首位。可控：坚持人类主导人类始终掌握AI技术的最终控制权，确保技术发展服务于人类社会的福祉，避免技术失控带来的不可预见风险。思考：这些是伦理问题吗？案例一：AI换脸的欺诈陷阱不法分子利用AI换脸技术精准复刻他人面容与声音，伪装成亲友或权威人士实施网络诈骗，让受害者在毫无防备中遭受财产损失。案例二：智能设备的隐私泄露家庭智能摄像头因安全漏洞被黑客攻破，实时监控画面被非法公开直播，家庭成员的日常生活细节完全暴露，隐私安全底线彻底失守。深度追问：这些事件绝非单纯的“不道德”行为，它们已经跨越了伦理边界，演变成严重的网络犯罪，直接威胁到社会的信任基石与公共安全。技术中立性的崩塌：AI技术本身是中性的工具，但在缺乏监管与安全防线的环境下，极易被恶意利用。这警示我们，发展AI的同时，必须同步构建严密的安全治理体系。从“伦理”到“安全”：构建完整的AI防护体系01.伦理：软性的道德约束作为AI发展的基石，伦理是一种非强制性的准则，它引导我们思考“应该”如何设计、开发和使用人工智能，确立AI应用的道德边界与价值导向。02.安全：硬性的技术保障这是AI落地的必要防线，通过加密、防御算法、权限管控等硬核技术手段，解决“如何防范”数据泄露、模型攻击与滥用等实际风险，确保系统稳定可控。本课核心目标：系统掌握AI安全的专业知识，具备识别生成式AI滥用、数据隐私泄露等潜在风险的能力，学会运用技术与管理手段构建防御体系，让人工智能真正安全、可靠地服务于生产与生活。AI安全的核心特征人工智能技术在重塑安全格局的过程中，呈现出极具辩证性的“一体两面”：它既是提升防护能力的强力工具，也催生了前所未有的新型风险。安全赋能：主动防御的利器利用AI的算力与算法优势，实现威胁的快速识别、自动化响应与智能化预测，大幅提升安全体系的防御效率与覆盖范围，构建主动式安全防线。安全伴生：新型风险的挑战模型本身的漏洞、数据隐私泄露、生成式AI带来的虚假信息扩散，以及攻击者利用AI实施更隐蔽的对抗攻击，构成了AI时代独有的伴生安全风险。辩证视角：唯有正视“赋能”与“伴生”的共生关系，在技术创新中同步构建安全治理体系，才能实现AI技术的可持续发展。AI是我们的“安全助手”AI不仅仅是前沿技术，更是守护数字世界的强大安全工具。它通过深度学习与实时分析能力，将被动防御转变为主动预警，全方位提升我们在网络、系统与金融等领域的安全防护能力。智能杀毒防线利用AI的模式识别能力，自动分析文件行为特征，精准捕捉未知的新型病毒与恶意程序，实现比传统特征码更高效的主动查杀。全天候网络哨兵7x24小时不间断监控网络流量数据，通过行为建模识别异常访问与潜在攻击行为，在威胁发生前发出实时预警，筑牢网络边界。金融反欺诈护卫实时分析海量交易数据，结合用户习惯建立动态风险模型，快速识别套现、盗刷等异常金融行为，守护资金流转的每一个环节。特性二：安全伴生AI技术在飞速发展并赋能各行各业的同时，也同步催生了一系列全新的、独特的安全风险，这些风险不仅挑战现有的技术防御体系，也对社会治理和伦理规范提出了新的课题。深度伪造利用AI生成真假难辨的音视频内容，极易被用于造谣传谣、诈骗勒索，严重扰乱信息真实性与社会信任。模型欺骗攻击者通过输入特制数据干扰模型决策，诱导AI“认错”或输出错误结果，从而突破风控、鉴黄等安全防线。隐私泄露AI训练依赖海量数据，若数据采集与管理存在漏洞，可能导致用户敏感个人信息被非法获取、贩卖或滥用。AI是一把锋利的“双刃剑”用好它：发挥“安全赋能”价值主动利用AI的智能分析、模式识别与自动化响应能力，强化威胁检测与防御效率，将技术优势转化为我们的安全防护护城河。管好它：警惕“安全伴生”风险清醒认识AI技术滥用、数据泄露、模型被攻击等潜在风险，系统学习专业防护知识，建立完善的安全治理与伦理规范体系。核心认知：认识到AI技术这种“赋能”与“风险”并存的双重性，不盲目追捧也不畏惧排斥，正视技术本质，正是我们开启AI安全学习与实践的核心出发点。AI风险全景图AI的安全风险贯穿其生命周期的三个核心环节，如同“阿喀琉斯之踵”，需全流程把控。从数据的输入端到模型的处理端，再到最终的应用输出端，每一个环节都潜藏着独特的安全挑战。识别并化解这些环节中的风险，是构建可信AI体系的关键基石。01数据安全数据是AI的“食物”，关注数据来源是否合规、是否被污染、以及隐私信息是否泄露，是风险防控的第一步。02模型与算法安全模型是AI的“大脑”，需警惕算法偏见、模型投毒攻击以及决策逻辑不透明等问题，确保核心决策可靠可控。03应用安全应用是AI的“行为”表现，需防范生成内容违规、被恶意利用误导公众，以及对现实物理世界造成的不当影响。风险一：AI数据安全数据是人工智能的“燃料”，也是AI安全体系中最基础、最脆弱的第一道防线。数据驱动的核心逻辑

AI模型的训练、推理与迭代完全依赖海量数据的投喂。高质量的数据输入决定了模型的智能上限，没有安全可靠的数据底座，AI技术的发展将成为无源之水。隐私泄露的严峻挑战

训练数据中往往包含大量未脱敏的个人身份、生物特征及行为信息。数据采集的合法性、存储的安全性以及使用的边界模糊，极易引发大规模隐私泄露与滥用风险。人脸识别等敏感生物特征数据的应用场景日益广泛，数据全生命周期的安全管控已成为AI时代亟待解决的关键课题。数据安全风险1：隐私泄露过度采集信息许多App以“改善体验”为借口，在未经用户明确授权的情况下，逾越服务边界，过度收集与核心功能无关的个人敏感信息，如麦克风录音、相册照片等，形成隐私侵犯隐患。系统漏洞致泄露企业内部数据存储系统若存在安全防护漏洞，极易被黑客利用技术手段攻破防线，导致海量用户的注册信息、行为轨迹、身份凭证等敏感数据被非法窃取，造成大规模信息泄露事故。数据非法交易部分机构或个人将违规收集的用户数据，在地下黑产链条中非法售卖。这些数据常被用于垃圾营销、精准骚扰，更有甚者会被诈骗团伙利用，实施针对性的电信网络诈骗。真实警示案例：某生活服务类APP被监管部门通报，其在用户安装时默认开启多项敏感权限，未经同意长期收集用户实时位置、通讯录列表及相册元数据，严重违反个人信息保护法规，造成恶劣社会影响。数据安全风险2：数据污染01数据篡改攻击者恶意修改训练数据的特征或标签，让AI模型在学习阶段就吸收错误信息，从而在推理和决策时产生偏离预期的结果。02数据投毒在训练数据集中隐蔽植入大量精心构造的错误或误导性样本，破坏模型的整体准确性与鲁棒性，甚至埋下安全后门。模型“学坏”的严重后果AI模型一旦吸收了被污染的数据，就如同摄入了有毒的“食物”，会导致后续的推理、判断和决策出现系统性偏差，甚至可能在金融风控、医疗诊断、自动驾驶等关键领域引发灾难性后果。数据安全案例分析【案例情景】某公司的人脸识别数据库遭黑客恶意攻破，导致数百万用户的人脸特征信息、身份ID等核心敏感数据大量泄露，这些数据在暗网被非法交易，引发了严重的个人信息安全危机。身份盗用风险攻击者可利用泄露的人脸信息，绕过面部识别验证，非法登录账户、解锁设备，甚至进行金融支付操作，直接侵害个人财产安全。遭遇精准诈骗黑客将人脸信息与手机号、住址等其他泄露数据结合，能够精准伪造身份，编造高度针对性的诈骗话术，大幅提高诈骗成功率。行踪隐私曝光人脸信息可被用于公共场所的监控比对，个人的出行轨迹、生活习惯等隐私会被非法追踪和记录，造成全方位的隐私泄露，影响人身安全。互动思考：除了上述危害，人脸数据泄露还可能给你的日常生活、社交关系带来哪些潜在困扰？我们又该如何防范此类风险？AI的“大脑”安全吗？核心基石：决策的本源模型和算法是人工智能的核心“大脑”，它们定义了AI如何感知数据、学习规律并做出决策。这套逻辑体系支撑着从语音识别到自动驾驶的所有AI应用场景，是智能行为产生的根本依据。安全隐患：脆弱的逻辑防线AI的“大脑”并非完美无懈可击。攻击者可通过数据投毒、对抗样本等手段欺骗模型，诱导其输出错误结果；算法偏见、后门植入等问题，更可能导致AI做出危害安全的决策，引发严重后果。关键洞察：保障AI安全，必须从“大脑”抓起——筑牢模型防御体系，规范算法设计流程，是防范系统性风险的关键。模型安全风险：模型欺骗01/核心定义：对抗性攻击又称“对抗性攻击”，攻击者通过对输入数据进行人眼难以察觉的微小修改，利用模型的算法漏洞，诱导AI模型偏离正确逻辑，从而输出错误的判断结果，让AI系统“睁眼说瞎话”。02/典型场景：交通标识干扰在道路的STOP停车标志上粘贴特定的黑白贴纸，这些微小的视觉干扰对人类肉眼识别毫无影响，但能让自动驾驶系统的视觉识别模型失效，无法正确判断指令，造成严重的交通安全隐患。图示：被恶意贴纸干扰的STOP标志，人类可正常识别，但AI模型会因像素级扰动产生误判。算法安全风险：算法缺陷01.算法偏见：数据的“原罪”AI的认知源于训练数据，若数据本身隐含人类社会的性别、种族等偏见，模型会将其“继承”并放大，形成自动化的歧视性决策。02.逻辑漏洞：设计的“盲区”算法模型在复杂场景或边缘案例下，可能因逻辑设计缺陷导致系统异常、决策失误甚至崩溃，给关键业务带来难以挽回的安全隐患。典型案例警示：某知名科技公司的AI招聘系统，因学习历史数据偏见，自动降低了女性求职者的简历评分，造成了严重的伦理争议。数据图表直观反映了技术岗位中的性别失衡。AI系统若直接学习此类带有偏见的历史数据，不仅无法纠正不公，反而会将歧视“自动化”和“合法化”，加剧社会偏见的固化。模型与算法安全案例分析01/现实警示：AI安检的致命盲区研究人员通过在手枪表面覆盖一种特殊材质，巧妙干扰了AI安检系统的特征提取，使危险物品被错误识别为日常用品，成功绕过机场安检，暴露了视觉识别模型的脆弱性。02/风险剖析：模型欺骗与严重后果这属于典型的“对抗样本攻击”导致的模型欺骗风险。若被不法分子利用，将直接威胁公共安全、交通枢纽秩序，甚至引发恶性安全事件，彻底瓦解AI安防的信任基石。关键思考：如何筑牢防线？

需引入对抗训练优化模型、融合多模态数据交叉验证，并建立实时的模型异常监测机制，持续提升AI系统的鲁棒性与抗干扰能力。AI智能安检设备示意

当前主流的AI视觉安检依赖单一的图像特征分析，在面对精心设计的对抗样本时，极易出现“识别失效”，这对算法安全提出了更高要求。风险三：AI应用安全服务终端：连接技术与现实的桥梁AI的终极目标是服务人类社会，各类应用是技术落地的关键载体。但应用场景的多样性与开放性，使其成为了整个AI安全链条中最复杂、最易被突破的薄弱环节，安全防线极易在这一层面出现缺口。高危隐患：技术滥用与违法犯罪不法分子可能利用AI生成虚假信息、伪造身份、实施网络诈骗或进行自动化攻击，甚至利用AI技术绕过安全防御体系。这些恶意应用不仅侵害个人权益，更严重威胁社会秩序与公共安全。关键启示：必须在AI应用落地的全流程建立严格的监管机制与技术防护手段，从源头规范应用开发，在终端强化风险识别，构筑起抵御技术滥用的坚实屏障。应用安全风险1：深度伪造什么是深度伪造？利用生成式对抗网络（GAN）等AI技术，自动生成或修改图像、音频、视频，制造出以假乱真、难以用肉眼辨别的虚假内容，模糊真实与虚构的边界。制造虚假新闻，瓦解信任基石伪造名人、政要的虚假言论或场景，在社交媒体快速传播，引发公众误解与恐慌，严重破坏社会对信息来源的信任体系。实施身份冒充，进行精准诈骗通过克隆亲友、领导的声音或面部特征，编造紧急事由要求转账汇款；或是伪造企业高管指令，诱骗财务人员执行虚假付款操作。技术警示：眼见未必为实当前AI换脸、语音合成技术门槛极低，普通用户也能轻易生成高逼真度伪造内容，个人名誉与财产安全面临前所未有的挑战。应用安全风险2：智能设备攻击黑客通过漏洞入侵联网的智能设备（摄像头、音箱、门锁等），不仅能窃取用户私密数据，更能接管设备控制权，成为威胁家庭与网络安全的隐形黑手。隐私窥探：无孔不入的视线摄像头、麦克风被远程开启，家中生活场景、私密对话被实时监控与录制，个人隐私完全暴露在黑客视野中。财产安全危机智能门锁被破解开启，门禁权限泄露，直接导致入室盗窃等财产损失。僵尸网络威胁海量设备被劫持沦为“肉鸡”，发起DDoS攻击，导致网络服务大面积瘫痪。智能摄像头作为家庭安防的第一道防线，若缺乏安全防护，反而会成为黑客入侵的“突破口”，时刻威胁着用户的家庭安全。应用安全案例分析01真实情景：“爸爸”的紧急求助小明接到电话，听筒里传来极其逼真的父亲声音，称在外地出急事急需用钱。因声音高度相似，小明未加核实便转账，事后发现遭遇新型诈骗。02核心剖析：AI技术的“双刃剑”效应骗子利用AI语音合成技术，仅需采集目标人物的少量语音样本，即可生成高度逼真的克隆声音，轻易突破受害者的心理防线，实施精准诈骗。防范与思考：建立多重验证机制凡涉及转账务必通过视频、见面等方式多方核实身份。你还听说过哪些结合了AI换脸、拟声的新型诈骗案例？AI配音工具界面展示：如今的AI技术已能低成本、高效率地生成各类音色，犯罪分子可利用此类工具快速克隆他人语音，制造极具迷惑性的骗局。风险来源二分法内生安全：系统固有缺陷指AI系统自身“与生俱来”的风险，源于模型设计、数据训练或算法逻辑的底层局限。包括训练数据存在偏差导致的决策不公、模型泛化能力不足引发的不可靠输出，以及复杂神经网络的“黑箱”特性带来的可解释性缺失等问题。外部安全：恶意外部攻击指来自外界主体的主动“恶意攻击”行为，旨在破坏系统可用性、窃取核心资产或误导系统决策。典型手段包括通过数据投毒污染训练集、利用提示词注入诱导模型生成有害内容、实施对抗样本攻击欺骗模型判断，以及针对模型权重的窃取与滥用等。两类风险交织叠加，共同构成了AI安全的复杂挑战，构建防御体系需兼顾系统内生优化与外部威胁防范的双重维度。内生安全：AI的“遗传病”指人工智能系统在设计、开发、部署过程中，因技术本身的局限性而存在的安全漏洞，是源于系统底层架构与运行机制的“内伤”。算法漏洞

算法逻辑设计不严谨，可能存在未被发现的逻辑错误与执行偏差。模型缺陷

模型鲁棒性不足，容易被对抗样本欺骗，导致输出结果失真或失控。数据问题

训练数据质量低、存在偏见或被污染，直接导致模型“先天发育不良”。这类安全问题属于系统的“先天不足”，无法通过外部防护完全规避，必须通过底层技术升级和全生命周期优化来根治。就像有裂缝的鸡蛋，从内部开始脆弱。

AI系统的内生安全问题，往往比外部攻击更隐蔽、更难以察觉，也更具根本性的破坏力。外部安全：来自外界的“攻击”指外界对AI系统发起的恶意攻击、入侵和干扰行为，是系统部署和运行过程中面临的直接且多样的安全威胁。黑客攻击利用系统漏洞进行非法入侵，窃取核心数据或篡改系统功能。数据注入向训练或输入流程中掺入有毒数据，诱导模型输出错误结果。物理干扰针对摄像头、传感器等硬件实施干扰，破坏系统的感知能力。核心特点：这类威胁属于“后天伤害”，具有突发性和隐蔽性，无法通过单纯优化算法避免，必须建立多层级的防御体系来主动抵御。“鸡蛋碰石头”的隐喻在外部安全博弈中，攻击者往往占据主动，而防御方处于被动。如同脆弱的鸡蛋面对坚硬的石头，我们需要为系统构建坚固的“蛋壳”与“防护层”。互动辨析面对复杂的AI安全挑战，我们需要精准判断风险来源，究竟是系统内部缺陷还是外部恶意侵袭？算法推荐的性别刻板印象某AI推荐系统总是给男生推荐理工类书籍，给女生推荐文艺类书籍。这属于【内生安全】，根源在于训练数据中隐含的算法偏见，属于系统设计与数据层面的内部缺陷。黑客窃取用户隐私数据黑客利用系统漏洞，非法侵入并窃取了AI公司的用户敏感数据。这属于【外部安全】，是来自外部主体的恶意攻击行为，直接威胁系统和数据的保密性。自动驾驶极端天气识别失效自动驾驶汽车在暴雨、浓雾等恶劣天气下，对交通线和障碍物的识别准确率大幅下降。这属于【内生安全】，源于模型泛化能力和鲁棒性不足，是系统本身的技术局限性问题。智能音箱的语音识别干扰攻击者通过播放特制的超声波或噪音，干扰智能音箱的语音识别模块，使其执行错误指令。这属于【外部安全】，是针对感知层的主动干扰与对抗攻击。小结：防护需内外兼修对内：增强系统“免疫力”聚焦系统内核，持续优化核心算法逻辑，及时修复模型潜在漏洞，通过多维度清洗与校验提升数据质量，从根源上夯实基础，构建系统内生的安全防御能力。对外：构筑坚固“护城河”筑牢外部防线，部署多层级智能防火墙，对全链路数据实施高强度加密处理，建立严格的权限管控体系与访问审计机制，抵御外部恶意攻击与数据泄露风险。安全是AI系统落地的基石。唯有坚持“内外兼修”，既强化系统内在的健壮性，又完善外部的防御网，才能构建全方位、立体化的安全体系，实现AI应用的长期稳定运行。AI安全防护总览01技术防护：硬核防线由专业技术团队构建的“硬防护”体系，涵盖算法安全审计、数据加密传输、模型鲁棒性测试等核心环节。通过建立全生命周期的技术监控与防御机制，从底层架构上阻断恶意攻击与数据泄露风险，筑牢AI系统的安全底座。02个人规范：软性屏障我们每个人都能践行的“软防护”准则，包括不随意泄露敏感数据、审慎使用未知AI工具、主动识别生成内容的真伪。通过提升个人的AI安全素养，规范日常使用行为，形成全社会共同参与的安全防护网络，让AI服务更安全、更可信。总结：技术为盾筑牢防线，规范为基守护安全，软硬结合才能真正为AI穿上坚不可摧的“金钟罩”。技术防护手段数据加密通过高强度的加密算法处理敏感数据，即使数据被窃取，攻击者也无法破解并读懂其中的真实信息，从根源上保障数据隐私。模型加固针对AI模型进行针对性优化，提升其对对抗样本、数据投毒等欺骗攻击的鲁棒性，确保模型在复杂环境下仍能稳定、正确地运行。算法审计定期对算法的逻辑、训练数据和决策过程进行全面检查，及时发现并修正算法中潜在的偏见、漏洞或不合规的逻辑路径。访问控制建立严格的身份认证和权限管理体系，确保只有经过授权的人员和系统才能访问特定的数据与功能，有效防止越权操作和非法入侵。虽然这些技术细节是安全专家的专业领域，但理解它们的存在和作用，能帮助我们更深刻地认识到：在数字世界中，安全是由层层严密的技术手段构建起来的坚固防线。个人防护规范作为AI的使用者，我们的每一个小习惯，都关乎自身的安全。在日常使用各类AI工具时，建立良好的安全意识，主动规避潜在风险，是我们每个人都能为AI安全贡献的力量。守护隐私，严守边界不随意向AI泄露身份证、银行卡、密码等敏感信息，拒绝授权不必要的隐私权限，筑牢个人数据的第一道防线。审慎辨别，不轻信盲从对AI生成的信息保持理性判断，尤其是医疗、金融、法律等专业建议，需通过权威渠道交叉验证，避免被误导。防范诈骗，守护财产安全警惕利用AI进行的声音克隆、人脸伪造等新型诈骗手段，凡是涉及转账、验证码的请求，务必通过线下或官方渠道核实。保持更新，修复安全漏洞及时更新设备系统、AI应用程序和安全软件，安装官方最新补丁，封堵已知漏洞，不给攻击者可乘之机。原则一：别让你的隐私“裸奔”谨慎授权，守住权限边界拒绝随意允许App获取位置、通讯录、摄像头等敏感权限，定期检查并关闭非必要的权限授权，从源头减少隐私泄露风险。匿名使用，减少身份暴露在非必要场景下，尽量使用昵称、虚拟信息进行注册和交流，避免真实身份信息直接关联，降低个人信息被追踪和滥用的可能。核心原则：始终保持对个人数据的掌控权，选择信誉良好、透明度高的平台，让隐私保护成为一种习惯。手机应用权限管理界面示例，及时关闭不相关的敏感权限，是守护隐私的关键一步。警惕信息与防范诈骗辨别真伪信息面对AI生成的深度伪造图片、视频或音频，务必保持高度警惕。多渠道交叉核实信息来源，不盲目转发未经证实的内容，从源头阻断虚假信息传播。多方核实身份当接到亲友借钱、转账的紧急电话或信息时，切勿轻信。一定要通过视频通话、见面或联系其他共同亲友等方式，核实对方真实身份，避