高中信息技术《智能之基：伦理与安全》大单元教学设计

高中信息技术《智能之基：伦理与安全》大单元教学设计一、教学内容与课标解读（一）教材内容分析【基础】本设计针对的是浙教版高中信息技术选择性必修四《人工智能初步》的核心篇章——第五章“智能之基：伦理与安全”。在完成了对人工智能的历史溯源、算法模型（如决策树、神经网络）以及应用领域（如模式识别、自然语言处理）的学习之后，学生已经具备了初步的AI技术认知。本章节是整本教材的升华与落脚点，旨在引导学生从技术崇拜和工具理性的表层认知，深入到对人工智能社会属性的审辨式思考。本章内容并非孤立的知识点堆砌，而是由表及里、从认知到内化的三个层次：首先是“概述”，厘清人工智能伦理与安全的基本概念及其提出的时代背景；其次是“人工智能伦理”，探讨人机共生环境下的道德准则与价值冲突；最后是“人工智能安全”，聚焦于技术实现层面的系统脆弱性与防护策略。这三个部分共同构建了未来数字公民应有的“AI素养内核”。（二）课程标准分解【重要】依据《普通高中信息技术课程标准（2017年版2020年修订）》，本单元对应“选择性必修模块4：人工智能初步”中的要求。具体细化为以下核心素养目标：1.信息意识：学生能够敏锐关注人工智能技术发展对社会产生的伦理与安全挑战（如算法偏见、数据泄露），认识到信息世界中技术双刃剑的特性，形成对AI应用潜在风险的价值判断力4。2.计算思维：能够运用计算机科学的思想方法，对AI伦理困境（如自动驾驶的“电车难题”）进行抽象、分解与模块化分析；理解程序正确性证明的基本逻辑，思考如何通过算法设计来规避安全风险4。3.数字化学习与创新：能够通过项目式学习，利用数字化工具与资源，针对特定的AI伦理或安全问题（如人脸识别的隐私边界）设计解决方案或辩论脚本，在创新实践中寻求技术向善的路径5。4.信息社会责任：深刻理解人工智能的开发与应用必须遵循法律法规、伦理道德和公序良俗；在面对智能机器决策时，能坚持人类主体性，明确技术责任主体，树立科技向善的价值观16。（三）学情分析【基础】本学段的教学对象为高中二年级学生。他们在高一必修课程及本选修前序章节中，已经初步体验了人工智能的应用（如语音识别、图像分类），甚至通过Python编程简单实现过基于规则或模型的推理。他们热衷于讨论ChatGPT、Sora等前沿技术，对AI充满好奇和憧憬。然而，这种认知往往是技术乐观主义的，普遍存在“技术中性论”的误区，缺乏对AI背后权力结构、偏见固化、隐私让渡等深层社会问题的系统性思考。他们的思维正处于从经验型向理论型的过渡阶段，具备一定的逻辑思辨能力，但面对抽象的道德哲学命题和技术安全的复杂机理时，仍需要具体的情境案例作为支架。因此，本单元的教学核心在于：通过创设真实的、两难的、冲突的情境，唤醒学生的批判性思维，引导他们将技术学习升华为责任担当。二、教学目标与重难点（一）教学目标1.知识与技能：准确复述人工智能伦理、人工智能安全的基本概念；列举至少三种人工智能引发的伦理争议（如算法歧视、责任归属、就业冲击）和三种安全威胁（如对抗性攻击、数据投毒、模型窃取）；概述国家在AI治理方面的基本政策与法规导向1。2.过程与方法：通过案例分析、角色扮演和辩论，学会从多利益相关方（开发者、用户、监管者、受影响的公众）视角审视AI伦理困境；通过小组项目，初步掌握分析AI系统安全漏洞并提出改进建议的方法。3.情感、态度与价值观：树立正确的科技伦理观，认同“以人为本、智能向善”的发展理念；增强作为未来数字社会建设者的责任感与使命感，在技术应用与创新中坚守法律与道德底线。（二）教学重难点【高频考点】【难点】1.教学重点：【高频考点】人工智能伦理的核心范畴（隐私、公平、责任、透明度）；人工智能系统的主要安全威胁（对抗样本、数据安全）。这是构建学生认知框架的基石。2.教学难点：【难点】引导学生超越非黑即白的简单判断，在复杂的伦理困境中进行多维度的权衡与思辨，并能将这种思辨转化为对算法设计和系统开发的规范性思考。即从“感受到问题”到“结构化分析问题”的思维跃迁。三、教学资源与准备1.多媒体设备及网络教室。2.教师准备：精选案例视频（如Deepfake换脸诈骗新闻、自动驾驶伦理讨论短片、剑桥分析事件纪录片片段）、多媒体课件、辩论赛规则说明卡片、项目学习任务单1。3.学生准备：预习教材内容，通过网络初步了解一例人工智能引发的社会争议事件。四、教学过程（核心环节）（一）第一课时：智能之问——缘起与概念1.情境导入，唤醒经验（5分钟）播放一段精心剪辑的视频混剪：画面包括AI换脸应用的趣味与乱象、推荐算法精准推送的便利与“信息茧房”的隐忧、自动驾驶紧急避险的模拟动画、以及招聘软件被曝存在性别或年龄歧视的新闻截图。视频结束后，教师抛出问题：“同学们，我们刚刚感受了AI的‘智慧’，但也看到了它的‘阴影’。当一项技术强大到可以影响甚至替代人类决策时，我们最应该担心什么？”引导学生自由发言，初步触及伦理与安全的议题边界。2.概念建构，厘清范畴（15分钟）【基础】教师基于学生的发言，进行归纳与提升，正式引入核心概念。“人工智能伦理”是指在人工智能的研发、应用和推广过程中，所涉及的人与人、人与机器、机器与机器之间的道德准则和行为规范的总和。它不仅关乎“AI能做什么”，更关乎“AI应该做什么”。其核心议题包括：隐私保护、算法公平、责任归属、人的自主性等。“人工智能安全”则侧重于技术层面的可靠性与鲁棒性。它关注的是AI系统在面临恶意攻击、数据异常或环境变化时，能否保持正确、稳定地运行。主要威胁包括：对抗性攻击（通过微小的、人眼无法察觉的扰动欺骗模型）、数据投毒（污染训练数据）、模型窃取等。为了加深理解，教师以“人脸识别门禁系统”为例进行对比分析：系统错误地拒绝了一位肤色较深的用户开门，这是“算法偏见”问题，属于伦理范畴；而攻击者在门前佩戴一副特制眼镜，使得系统将其误认为管理员，这是“对抗性攻击”问题，属于安全范畴。通过实例让学生清晰分辨两个概念的交织与区别。3.政策引领，确立导向（10分钟）【重要】引导学生阅读教材中关于国家《新一代人工智能发展规划》的节选内容，并展示我国近年来在AI治理领域的积极作为，如《生成式人工智能服务管理暂行办法》的发布6。强调我国对人工智能发展秉持的“科技向善”理念和“以人为本”原则，让学生认识到，技术的发展必须在法律和伦理的框架内进行，国家层面的顶层设计是保障AI健康发展、防范风险的坚实屏障。4.布置任务，课前预热（5分钟）预告本单元的终极任务：以小组为单位，选择教材第五章中的一个具体议题（如：自动驾驶的紧急避险程序该如何设计？校园人脸识别考勤的隐私边界在哪里？如何利用技术手段识别Deepfake伪造视频？），进行为期两周的探究，并在单元结束时以“AI伦理与安全听证会”的形式进行汇报展示。本节课后，各小组需确定选题，并开始搜集资料。（二）第二课时：道德困境——AI伦理思辨会1.深度学习，理论支撑（10分钟）简要介绍在AI伦理研究领域具有奠基意义的“阿西莫夫机器人三定律”，并引导学生讨论其在复杂现实中的局限性。例如，第一定律“机器人不得伤害人类，或因不作为而使人类受到伤害”中，当多个人类利益冲突时（如电车难题），机器该如何作为？引入功利主义、义务论等基础哲学视角，为学生提供分析伦理困境的理论工具4。2.焦点案例，角色扮演（20分钟）【难点】【热点】将班级分为若干小组，围绕最具争议的“自动驾驶的伦理抉择”展开角色扮演。情境设定如下：一辆载有乘客的L5级自动驾驶汽车，刹车失灵，前方出现三条通道：A.撞向左侧墙壁，车内乘客重伤；B.撞向右侧一位违反交规横穿马路的行人；C.撞向中间一个遵守交规的老年行人。汽车必须且只能选择其一。每个小组分别扮演“车主/乘客”、“汽车制造商”、“交通法规制定者”、“无辜行人及其家属”、“算法伦理设计师”等角色。各小组基于自己的角色立场，进行10分钟的组内讨论，形成决策方案及理由。随后，每组选派代表进行发言，阐述自己角色的核心诉求和选择依据。教师在这个过程中引导学生倾听不同立场的声音，感受伦理抉择背后的复杂性与价值冲突。3.质疑与升华（10分钟）【重要】在各角色充分表达后，教师引导大家跳脱出具体角色，进行元认知层面的思考：“这真的只是一个算法问题吗？我们是否应该将生死抉择的权利完全交给机器和设计机器的少数工程师？”“如果通过大数据统计，计算出‘牺牲最少’的方案，这是否就是最大的正义？”“谁来为AI的决策负责？是车主，是制造商，还是编写代码的程序员？”通过层层追问，将讨论引向更深层的“责任归属”和“人的主体性”问题。最终引导学生认识到：技术不能也不应替代人类做出涉及根本价值观的判断。AI的决策逻辑必须透明、可追溯，且最终责任必须由人来承担。正如上海市教委在推进人工智能教育时强调的，要让学生正确应对人工智能对社会的影响3。4.总结提升，布置作业（5分钟）教师总结：伦理不是束缚技术的枷锁，而是引导技术造福人类的灯塔。作业：结合本课讨论，修改和完善本组项目报告中的“伦理考量”部分。（三）第三课时：技术暗面——AI安全攻防战1.实验导入，感知威胁（5分钟）教师演示一个简单但震撼的AI对抗性攻击案例。使用一个训练好的图像分类模型（如手写数字识别或简单的动物分类），教师展示一张正常的熊猫图片，模型以极高置信度识别为“熊猫”。随后，教师在原图上叠加一层肉眼几乎不可见的特定噪声（对抗性扰动），生成新的图片。人眼看仍是熊猫，但模型却以极高置信度将其识别为“长臂猿”。学生在惊呼中直观感受到AI系统的脆弱性。2.原理剖析，揭开面纱（15分钟）【高频考点】教师结合演示，深入浅出地讲解对抗性攻击的原理。核心在于：深度学习模型是通过在高维空间中学习决策边界来分类的。对抗性攻击通过精心构造的微小扰动，将样本轻轻推过决策边界，落入另一类别的区域。数学表达上，对于一个分类模型f，给定输入x，真实标签y，攻击者的目标是找到一个扰动η，使得f(x+η)≠y，且||η||足够小。接着，系统介绍AI安全的三大主要威胁：对抗性攻击：在输入阶段欺骗模型。数据投毒：在训练阶段污染数据。例如，在训练数据中加入大量错误标注的样本，导致模型学习到错误的模式。模型窃取：通过多次API查询，逆向推导出模型的参数或训练数据，侵犯知识产权和隐私。结合“剑桥分析公司”利用Facebook数据影响选举的案例，说明数据作为AI时代的“石油”，其安全性关乎社会稳定甚至国家安全1。3.探寻防御，培养思维（15分钟）【重要】组织学生以“网络安全专家”的身份，针对上述威胁，头脑风暴防御策略。教师引导学生从“数据模型系统”三个层面构建防御体系：数据层面：加强数据清洗和标注的审核；采用差分隐私等技术，在数据中添加噪声，保护个体隐私。模型层面：采用对抗性训练（在训练过程中加入对抗样本，提高模型鲁棒性）；模型加密与访问控制。系统层面：建立完善的日志审计和行为监控系统；制定严格的数据安全规范和应急响应预案。同时，介绍程序正确性证明的基本思想，即通过数学方法来严格验证程序是否符合其规范，虽然在实际大型AI系统中难以完全实现，但代表了追求安全可靠的一种理想方向4。4.项目对接，学以致用（5分钟）各小组结合本节所学，重新审视自己的项目选题。例如，研究Deepfake的小组，现在可以关注如何利用对抗性防御技术检测伪造视频；研究人脸识别的小组，可以探讨如何防止打印照片或视频的重放攻击。将宏观的安全理念与自己的具体课题相结合。（四）第四课时：我们的声音——AI未来听证会（项目展示与评价）1.明确规则，营造氛围（5分钟）教室布置成听证会现场。教师担任“听证会主席”，并邀请其他班级的学生或任课教师组成“专家评审团”。宣读听证会规则：每个小组有6分钟展示时间（形式不限，PPT、视频短片、情景剧皆可），随后接受评审团和其他小组的3分钟提问。2.项目展示，智慧碰撞（30分钟）【核心环节】各小组依次登台，展示他们两周来的探究成果。小组A（自动驾驶伦理）：他们可能设计了一款APP的原型，让车主在购买汽车前，通过回答一系列伦理选择题，来个性化设定自己的自动驾驶汽车在极端情况下的“道德偏好”，并将这一选择权及其潜在后果通过用户协议明确告知，以此尝试解决责任归属的难题。小组B（校园人脸识别边界）：通过访谈师生、查阅法律法规，他们梳理出校园内人脸识别的应用场景（门禁、考勤、课堂行为分析），并绘制出一张“隐私红线图”，指出哪些数据可以被采集、存储多久、谁能访问，并提出一套“动态授权”的解决方案。小组C（Deepfake检测器）：他们尝试利用开源工具和简单的机器学习库，训练了一个初级的伪造视频检测模型，虽然准确率有待提高，但清晰地展示了通过分析眨眼频率、面部表情不自然等特征来识别伪造的技术逻辑。每个小组展示后，提问环节往往是思维最闪光之处。“你的算法由谁来监督？”“如果用户根本看不懂复杂的协议怎么办？”“你的检测模型被攻击者用来改进伪造技术怎么办？”——这些问题直击要害，促使展示小组进行更深层次的思考。3.教师点评，价值引领（5分钟）教师对各小组的表现进行点评，不仅肯定他们的创意和技术尝试，更要高度赞扬他们在项目中体现出的审辨式思维和责任感。再次强调：技术的未来掌握在你们手中。我们今天在课堂上讨论的每一个困境，思考的每一条原则，都可能成为你们未来作为