高中信息技术选修3《人工智能初步》5.2人工智能安全教学设计

高中信息技术选修3《人工智能初步》5.2人工智能安全教学设计一、教学设计的立意与依据人工智能安全是浙教版（2019）高中信息技术选修3《人工智能初步》第五章第二节的内容，处在学生完成数据采集、机器学习基本原理、典型智能应用体验之后，是整册教材从“会用智能”走向“审慎用智”的收束章节。本节课不以灌输安全条文为目标，而是让学生在真实风险的拆解中建立对智能系统的边界意识、风险意识与责任意识，最终形成“技术越强大，约束越重要”的学科观念。课程标准对信息技术学科提出了信息意识、计算思维、数字化学习与创新、信息社会责任四项核心素养。本节课的主战场是信息社会责任，但责任素养不能悬空说教，必须依托前三个素养落地：学生要能理解深度伪造背后的生成模型逻辑，才能判断一段视频为何不可轻信；要能操作一次简单的对抗样本实验，才能真正明白“机器会看错”不是新闻噱头。因此本课采取“案例驱动、实验支撑、思辨收束”的总体路径。二、学情分析授课对象为高二选修本模块的学生。他们已经完成必修课程中信息系统与数据基础的学习，在本册前几章接触了分类、聚类、神经网络的基本概念，部分学生用过大语言模型和图像生成工具，对“AI会犯错”有零散体验，但普遍缺乏系统认知。学生的认知特点表现为三个“错位”：一是体验与原理错位，用过却没想过为什么会错；二是风险与距离错位，认为安全事故是企业和国家的事，与己无关；三是热情与克制错位，要么盲目崇拜智能工具，要么因个别负面新闻全盘否定。本课的教学设计必须逐一回应这三处错位。三、教学目标（一）信息意识：能够主动识别智能系统在数据、算法、应用三个层面可能存在的安全隐患，面对智能生成内容时保持核实的习惯。（二）计算思维：能够用“输入—处理—输出”的链条分析一次智能失误的成因，理解对抗样本、数据偏见等概念背后的技术逻辑。（三）数字化学习与创新：能够借助教师提供的实验材料完成一次对抗噪声验证和一次深度伪造鉴别，会用工具也质疑工具。（四）信息社会责任：能够结合真实案例讨论算法歧视、隐私泄露、智能武器等议题，初步形成对智能技术进行伦理审视和法律审视的自觉性。四、教学重点与难点教学重点：人工智能安全风险的分类框架（数据安全、算法安全、应用安全），以及每类风险背后的技术成因。教学难点：让学生从“知道有风险”走向“知道风险如何发生、自己可以做什么”，突破“安全与我无关”的心理距离。五、教学方法与资源准备采用案例研讨法、微型实验法、辩论式讨论法相结合。课前准备：两段人物视频（其一为深度伪造合成）、一组添加了人耳不可闻噪声的音频与图片、著名对抗样本图片（熊猫被识别为长臂猿的可视化材料）、《新一代人工智能发展规划》《生成式人工智能服务管理暂行办法》中与青少年相关的条款节选、小组任务单与评价量规。六、教学过程环节一：情境导入——眼见还一定为实吗（约8分钟）上课伊始，教师不做任何铺垫，直接播放第一段人物讲话视频，请学生判断真伪，多数学生认为真实。随后播放第二段，画面中的公众人物说出明显违背其立场的话，再请学生判断，课堂出现分歧。此时教师揭晓两段视频一为真实、一为深度伪造生成，且不告知哪段为真，请学生给出鉴别依据。学生能提出的依据通常是口型、眨眼频率、面部边缘是否自然等。教师顺势追问：如果三个月后伪造技术抹掉了这些破绽，靠什么判断？学生沉默之际，教师抛出本课核心问题：当智能技术可以制造“完美的假”，我们的信任应该建立在哪里？这一环节的设计意图在于制造认知冲突。学生对深度伪造早有耳闻，但“亲眼被欺骗”的体验会瞬间击碎“安全与我无关”的心理距离，为整节课奠定求真求证的基调。环节二：新知建构——给智能系统的风险画一张地图（约12分钟）教师引导学生回顾前一章所学的智能系统工作流程：数据进入、模型训练、推理输出、被人使用。请学生以小组为单位，在这条流程链上标注“哪里可能出事”。限时四分钟后各组汇报，教师板书并归类，师生共同形成三层风险框架。第一层，数据安全。训练数据若被窃取，个人隐私随之泄露；数据若被“投毒”，即被蓄意掺入错误或恶意样本，模型学到的就是别人想让它学的东西；数据若本身带有偏见，模型便继承这种偏见。教师举例：某招聘简历筛选工具因历史数据中男性工程师占比高，自动降低女性求职者评分，这不是机器创造了歧视，而是机器忠实地放大了人类留下的偏见。第二层，算法安全。智能模型并非绝对可靠，有针对性的扰动可以让模型犯下在human看来荒谬的错误。教师展示经典案例：在停车标志上贴几张贴纸，自动驾驶视觉系统会将其识别为限速标志。模型看见的世界与我们看见的世界并不相同，这是根植于其数学机理的脆弱性，而非简单的“还不够聪明”。第三层，应用安全。技术本身中性，用途决定善恶。同一种生成技术，可以为影视配音修复历史影像，也可以制造谣言、冒充熟人实施诈骗；同一种推荐算法，可以帮人高效获取知识，也可以编织信息茧房操控认知。风险的不确定来源在这里从机器转向了人。此环节刻意让学生先经历发散标注、再由教师收敛归类，知识框架由学生参与生成而非直接接受，记忆与理解都更为牢固。环节三：微型实验——亲手让机器“看错”（约10分钟）教师发放实验材料包。任务一：对比两张肉眼完全相同的动物图片，一张被识别为熊猫，另一张叠加对抗噪声后被识别为长臂猿，请学生观察两张图的像素差异并阅读噪声可视化的放大图。任务二：播放两段音频，人耳听来内容一致，智能语音识别结果却不同，其中一段嵌入了人耳难以察觉的指令噪声。学生在实验记录单上回答三个问题：机器错在哪里；这种错误为什么人类不会犯；如果这套识别系统装在汽车上、门禁上、医疗设备上，后果是什么。实验的价值不在于操作难度，而在于把课本中“对抗样本”四个字变成可触摸的经验。当学生亲手验证“给机器听一段我听不到的声音就能遥控它”，对算法脆弱性的理解便从概念层沉入直觉层。教师在此环节强调：攻击者研究对抗样本，安全研究者同样研究对抗样本，同一把钥匙能开门也能锁门，关键在于谁在用、为何而用。环节四：思辨研讨——风险面前，我们站在哪一边（约10分钟）教师在三个层次各投放一个真实议题，分组研讨后展开短时辩论。议题一（数据层）：某校园便利计划用人脸识别完成无感支付，全校师生的面部数据由一家商业公司托管。你支持还是反对，条件是什么？议题二（算法层）：保险企业用算法评估客户健康风险并差异化定价，技术允许的都应该做吗？议题三（应用层）：同学用语音克隆软件模仿老师请假，被识破后辩称“只是恶作剧”。玩笑、违规、违法的边界在哪里？讨论中教师不做仲裁者，只做追问者：你的依据是便利、是公平、还是权利？如果角色互换你接受吗？教师相机引出国家层面的制度回应，介绍《中华人民共和国个人信息保护法》对生物识别信息的严格保护定位，介绍互联网信息服务深度合成管理规定与生成式人工智能服务管理暂行办法中对标识义务、内容审核的规定，让学生意识到技术讨论之外还有法律与治理的维度。此环节呼应课程标准中“认识人工智能伦理与法律法规”的要求，但落地方式是让学生在真实冲突中体会到规则的必要性，规则才不是外在于技术的束缚，而是技术行稳致远的轨道。环节五：总结升华——撰写我的安全行动清单（约5分钟）教师带领学生回到开课的问题：完美的假出现时，信任建立在哪里？师生共同归纳出三个立足点：一是对内容存疑，重要信息多渠道交叉核实；二是对技术知情，了解其能力边界与固有缺陷；三是对自己负责，不滥用生成工具，不向不可信平台让渡个人敏感数据。学生当堂完成“我的AI安全行动清单”，每人写下三条自己承诺践行的具体行为，例如“转发名人言论前先查证来源”“不在不明小程序中上传人脸照片”“提交作业时标注AI辅助部分”。清单张贴在班级学习园地，本课结束。七、作业设计与分层要求基础作业：梳理本课三层风险框架，各配一个教材或生活中的实例，绘制成思维导图。进阶作业：采访两位家人或朋友，了解他们在使用智能应用时遭遇或担忧的安全问题，完成一份不超过三百字的访谈报告，并给出自己的防护建议。拓展作业：关注一则近期的智能技术安全事件，尝试用“数据—算法—应用”框架分析事件成因，思考若由你制定规则，第一条会写什么并说明理由。八、板书设计主板书呈现本课骨架：左侧为智能系统工作链“数据—模型—推理—使用”，中间对应三层风险“数据安全—算法安全—应用安全”，右侧为学生研讨中生成的应对策略关键词“核实、知情、负责、守法”。副板书记录学生讨论中涌现的精彩观点，保留生成性痕迹。九、教学评价设计评价贯穿全程，采用过程性评价与表现性评价结合。实验环节依据记录单的三个问题评价其分析深度，研讨环节依据量规从“观点明确、证据支撑、倾听回应、立场反思”四个维度由组内互评与教师点评共同完成，行动清单与分层作业纳入单元档案袋。评价重点不在学生答出了多少知识点，而在其面对智能内容时是否展现出求证的行为倾向与负责任的价值判断。十、教学反思预设本课的预设风险有三处。其一，案例的时效性强，教