高中二年级信息技术教学设计：人工智能安全的风险辨识与防护实践

高中二年级信息技术教学设计：人工智能安全的风险辨识与防护实践一、教学定位与教材理解本课对应浙教版高中信息技术选修四中“人工智能安全”单元，面向高中二年级学生开设。学生此前已经历数据采集、简单模型训练、智能应用体验等学习活动，对准确率、训练集、特征、推理等概念有初步认识，但对“模型为什么会出错”“出错会带来什么后果”“普通使用者能做什么”缺少系统连接。本课把人工智能安全从抽象口号拉回课堂现场，以可观察、可验证、可迁移的案例组织学习，引导学生在理解技术原理的基础上形成风险意识、证据意识与责任意识。人工智能安全不是单纯讲伦理故事，也不应停留在“不要泄露隐私”的浅层提醒。对本学段学生而言，关键任务是建立三条认识链条：数据偏差如何进入模型，模型缺陷如何在真实场景中被放大，人的使用方式如何决定风险是否转化为伤害。课堂要把“技术可能性”与“社会后果”放在同一张桌子上讨论，让学生既看到人脸识别、内容生成、智能推荐的便利，也能追问训练来源、适用边界、失败代价与救济路径。本课采用“情境触发—机理拆解—实验验证—方案设计—公开辩护”的路径展开。教师不急于给出结论，而是提供三组贴近校园生活的材料：校园门禁误识别人脸、作文智能批改给出偏颇评语、学习平台推荐系统持续推送单一内容。学生在比较中发现，安全问题并非都来自恶意攻击，也可能来自目标设定粗糙、数据覆盖不足、评价指标单一、人机权责不清。由此把安全学习从“防坏人”扩展到“防疏漏”。二、学情研判高二学生具备较强的好奇心与表达能力，能够使用常见生成式工具，也愿意讨论算法歧视、隐私泄露等热点问题。但他们的经验多来自短视频与社交平台，容易把复杂问题简化为立场之争，出现两类典型偏差：一类把人工智能想象成具备主观意图的“他者”，用拟人化语言替代技术解释；另一类把安全完全交给企业、平台与监管部门，忽视个人在提示、授权、核验、反馈中的能动性。教学需要把学生从情绪化围观带到结构化分析。从知识基础看，学生能说出“训练数据影响结果”，却常把“数据多”误等同于“数据好”；能复述“过拟合”名词，却难以解释它与现实误判的关系；知道要保护个人信息，却不清楚最小必要、去标识化、目的限定之间的差别。课堂应借助小样本模拟、混淆矩阵观察、提示词对照实验，让概念落在可计算、可复现的现象上，避免空泛讨论。三、教学目标学生能够结合具体场景识别人工智能系统的四类风险：数据风险、模型风险、使用风险与治理风险，并用“输入—处理—输出—反馈—受影响者”链条说明风险形成过程，不再以“机器坏了”笼统带过。学生能够完成一次低风险的对照实验，比较不同提示、不同样本、不同阈值下系统输出的差异，记录实验条件、观察结果与可能误差，理解结论只在特定边界内成立。学生能够针对校园智能应用提出一份可执行的安全改进建议，包含适用人群、采集范围、告知方式、人工复核、异常申诉、日志留存与退出机制，体现对效率与公平、便利与尊严的权衡。学生能够在展示中回应同伴质询，使用证据支持判断，区分事实陈述、价值选择与推测表达，形成审慎而不过度恐慌的技术态度。四、教学重点与难点重点是让学生建立“风险不是模型内部独有，而是在场景耦合中生成”的整体观。课堂要把数据质量、目标函数、部署环境、用户行为、组织流程连成闭环，避免用单点知识解释系统问题。难点在于引导学生越过道德表态，进入机制分析。例如面对“智能批改压低某类作文分数”的现象，学生容易直接归因于“算法偏心”，较难进一步追问训练语料年级分布、评分标准量化方式、教师终审缺位、申诉通道是否可被普通学生使用。突破难点靠两块脚手架：一张风险定位图和一份反问清单。风险定位图帮助学生把现象放到环节上，反问清单促使每个判断回答“依据是什么、谁会受损、如何验证、能否撤回”。五、教学准备教师准备三类材料。第一类为脱敏化校园案例包，包含模拟人脸闸机记录、作文批改样例、推荐流截图，所有姓名、班级、人脸图像均替换为合成数据。第二类为课堂实验环境，使用本地离线工具或教师托管页面，不接入真实个人信息，不上传学生作品到外部平台。第三类为评价量规，覆盖风险识别完整性、证据质量、方案可行性、表达严谨性与协作贡献。学生课前完成十分钟问卷，回忆自己接触过的智能应用、授权经历与不适体验，只写现象不写真实敏感信息。教室采用四人岛式座位，每组配一名记录员、一名操作员、一名质询员和一名汇报员，角色中途轮换。六、教学过程（一）情境入场：三起“不算事故”的小事上课开始，教师同时呈现三则短材料。其一，早高峰门禁连续三次将两名短发女生误判为同一人，闸机没有拦截，但提示同学迟到。其二，智能批改给一篇观点新鲜的议论文打出中等偏下分数，评语称赞“结构规范”，建议“增加常见论据”。其三，某位学生搜索一次竞赛资料后，首页连续一周被同类升学内容占据，体育与音乐内容明显减少。教师只提一个问题：如果把这些都解释为“系统还不够聪明”，我们漏掉了什么？学生自由发言后，教师在黑板左侧保留三个词：误、偏、困。误对应识别失败，偏对应评价倾斜，困对应选择收窄。此时不展开定义，而是让学生意识到三起事件都没有造成轰动的损害，却改变了某些人的机会、心情与判断。人工智能安全学习的入口，正是这些低烈度、高频次、可被习以为常的后果。（二）概念锚定：安全的三个层面教师给出本课工作定义：人工智能安全，是在设计、训练、部署、使用与监督的全过程中，降低系统对个人、群体与公共秩序造成不合理伤害的可能性，并保留纠正与追责能力。这个定义强调三件事：伤害不只是身体损害，不合理也不等于违法才需要关注；可能性提示风险具有概率属性；纠正与追责意味着技术系统必须嵌入人的组织。随后把安全拆成相互咬合的三层。底层是可靠，指系统在约定条件下稳定完成任务的能；中层是可控，指人能理解边界、设置约束、暂停运行；上层是负责，指出现偏差后有人受理、有据可查、有路可退。三层之间不是递进替代，而是同时成立。人脸识别即使可靠度很高，若缺少告知与申诉，仍旧不合格；生成工具即使能随时关闭，若输出被直接用于处分学生，也算治理失守。此环节用一句课堂约定收束：讨论任何风险，必须同时指出受影响者、发生环节与补救动作。缺少其一的观点，只算情绪信号，不算安全分析。这个约定会贯穿后续展示与评价。（三）实验一：小数据里的偏差每组领取一套合成样本卡，内容为四十条“校园志愿服务描述”，其中二十条来自体育类活动，二十条来自艺术类活动。学生先用十五条体育类和五条艺术类训练一个极简分类规则，再测试剩余样本。多数小组会发现，只要规则依赖“汗水、冲刺、协作、器材”等高频词，就会对艺术类中的幕后搬运、舞台协作产生误判。操作员记录规则，记录员填写误判，质询员追问：模型不懂艺术，还是我们给它的世界太窄？教师不强调算法名称，而让学生画出“样本构成—特征选择—判断边界—误伤对象”四格图。学生直观看到，问题并非电脑心存偏见，而是代表性不足让某些经验被推成默认标准。此时引入“基准现实”概念：系统往往把训练数据中的常见状态误认为普遍状态。校园应用若用过往优秀学生文本训练评语模型，可能奖励熟悉模板而非真实思考；若用单一学期消费记录判断困难补助，可能漏掉突发家庭变故。实验结论由学生口述，教师只在黑板上补一句提醒：小课堂里的二十张卡片，足以让偏差显形；真实系统面对千万条记录时，偏差可能更隐蔽，而不是自动消失。规模会稀释个别错误，也会固化系统性倾斜。（四）实验二：同一模型的两种问法学生使用教师预设的离线演示界面，对同一则“同学疑似抄袭”的摘要生成处理建议。A组输入中性任务：请列出需要人工核对的事实。B组输入带倾向任务：该生明显抄袭，请给出处分措辞。两组不得联网，不能输入真实姓名。结果展示后，课堂安静片刻通常会到来：模型并未掌握事实，却能顺着语气生产确定感更强的文本。输出差异并非知识增加，而是指令改变了风险姿态。教师趁势讲清提示词并非魔法钥匙，而是风险阀门。提示越急于定罪，越容易诱发补全式附和；要求列举证据缺口、置信程度与替代解释，输出更接近辅助审查。学生由此理解“使用者也是系统的一部分”。同样技术，在草稿、参考、初筛环节可用；在处分、录取、信贷、医疗分诊等高压场景必须提高核验等级。场景权重改变，安全要求就要改变。这一阶段安排两分钟静默写作，每人写下一个自己曾经把工具输出当结论的时刻，不署名，投入问题盒。教师随机抽取三份朗读，隐去可识别信息。朗读的目的不是批评，而是让学生承认：便利会让人让渡判断，而适度的停顿是低成本防护。（五）风险地图：把热点放回流程各组把三则开场案例与两个实验合并，完成一张风险地图。横向列标为数据、模型、交互、组织、外部攻击，纵向列标为可能后果、早期信号、可观测证据、责任人、缓解动作。学生起初常把格子写得很大，如“侵犯隐私”“危害公平”。教师要求改写为可观察表述：采集字段是否超过任务需要；误拒率是否集中在某类同伴；是否提供一键更正；管理员能否查看谁在何时调用；第三方接口下线后服务是否仍可解释。地图完成后，组间交换批改。批改依据只有三条：能否落到环节，能否被普通教师执行，能否在事后留下证据。许多方案第一次会写“加强审核”，被同伴质疑“谁审、审什么、多久审一次”后，才改成“高风险评价每周抽样复核百分之十，连续两次争议超过阈值即暂停自动生效”。安全设计的成熟，往往体现为从形容词到动词、从愿景到频次的转变。教师补充一类常被忽视的风险：功能漂移。系统上线时为统计作业用时，后来被用来排名家长配合度；原本用于课堂问答的语音记录，后来被当作纪律管理材料。目的没有明文冻结，数据就会在行政便利中滑向新用途。防止漂移不靠承诺，而靠目的登记、字段最小化、到期删除与用途变更重评估。（六）方案生成：为校园应用立一份安全契约每组选择一种校园智能应用起草“安全契约”，可选对象包括智能考勤、作文辅导、题库推荐、心理筛查预警、图书馆个性荐读。契约不写宏大宣言，只写八个可检查条目：服务目标，不适用情形，采集字段与保存期限，学生告知文本，自动化输出标识，人工复核触发点，申诉与纠错时限，停用与数据删除安排。教师提示学生站在三个身份上检查：普通学生是否看得懂，值班教师是否做得到，遇到争议的管理者是否逃不掉。写作中常见的问题是过度依赖技术防护，如增加加密、升级模型、引入更大平台，却忽视成本与持续性。教师不否定技术措施，而是要求每条技术措施配一条组织措施。加密要配密钥轮换与访问审批；模型更新要配回归测试；引入供应商要配数据出域限制与终止条款。对高中课堂而言，重要的不是掌握企业级架构，而是知道任何“交给系统”的环节都必须同时回答“出了问题找谁”。（七）公开辩护与同伴质询展示采用“两分钟陈述加三分钟质询”。陈述只准使用契约中的原文，不允许临时扩展；质询必须引用对方条款中的句子。教师控制节奏，防止辩论滑向口才竞争。常见质询包括：你们说“异常可申请复核”，异常由谁定义；你们说“数据到期删除”，备份是否同步删除；你们说“仅用于教学改进”，教师考核是否能调用；你们说“可退出”，退出后已产生画像如何处理。被问住的小组可以承认未定，但要在课后修订栏写明待定项与求证对象。在质询尾段，教师引入“最坏可承受后果”练习。让学生为所选应用写下三种失效情形，并标出可逆与不可逆。误拒进入图书馆可重试，基本可逆；错误心理预警被推送给多人，可能形成标签，撤回成本很高；伪造音频被当成违纪证据，伤害涉及名誉，补救需要澄清范围大于传播范围。这个练习帮助学生把“能不能做”转成“做错后赔不赔得起”。（八）教师精讲：把经验接到概念精讲不超过十分钟，围绕四个判断展开。第一，安全不是性能的附带奖品，高准确率系统仍可能不公平，因为总体指标可以掩盖群体差异。第二，透明度不是把代码公开给所有人，而是让受影响者知道系统参与决策、主要依据与纠错入口。第三，防护不是越严越好，过度监控会制造新的风险，把普通学生置于持续怀疑中。第四，责任不是最后找一个人背锅，而是在流程里预设可分工、可留痕、可修复的节点。教师回扣开头的“误、偏、困”：误识别靠阈值、复核与备选通道降低；偏见评价靠多样样本、指标分群与教师终审约束；推荐困局依赖目标多样性、用户可控与定期重置。三个案例由此不再是新闻，而成为可分析对象。课堂结束前，学生再次观看三则材料，用本课语言改写原初感受，多数人能从“系统不行”改写为“哪一段缺了什么防护”。七、学习评价评价贯穿过程，不依赖一次测试。风险地图占三成，看环节定位是否准确；安全契约占三成，看条款是否可执行；展示质询占两成，看证据是否支撑主张；个人反思占两成，看能否说明自己将在何时核验、何时停用、何时求助。量规中明确扣分情形：把风险全部归因于黑客；用“更加重视”“提高意识”替代动作；在示例中使用可识别真实个人信息；把不同意同伴观点等同于对方缺乏道德。合格标准不是写出完美方案，而是能指出最重要的一处风险，并给它配上最低限度的挡板。优秀标准则要求体现边界思维：知道方案只适用于某时段、某人群、某数据条件，也愿意写明失效后如何发现。对高二学生而言，承认条件限制不是能力不足，而是安全素养成熟的标志。八、作业与延伸课后作业分必做与选做。必做题要求学生回家观察一个家庭成员使用的智能服务，只记录功能入口、授权项目、自动决策提示与反馈路径，不截图个人隐私，第二天用三句话完成安全速写。选做题邀请学生采访学校信息化教师或图书管理员，问题限定为：某系统上线前做过什么评估，学生数据保存在哪里，故障时有没有手工流程。采访不求曝光问题，而求理解真实运维中的妥协。延伸任务与本学科项目学习衔接。后续单元做“带护栏的智能问答原型”，要求学生为局部知识库问答设置来源引用、拒答规则、敏感主题转人工与日志抽检。本课形成的安全契约将成为原型验收清单。这