高中二年级信息科技“算法向善：智能社会中的伦理锚点与安全防线”项目式教案

高中二年级信息科技“算法向善：智能社会中的伦理锚点与安全防线”项目式教案

一、课程性质与设计纲领

本教案依据《普通高中信息科技课程标准（2017年版2025年修订）》及《浙江省中小学人工智能通识教育指导意见》研制，对应选择性必修模块“人工智能初步”深化单元。学段锁定为高中二年级，学科定性为信息科技，课程类型为大单元项目式学习。设计内核响应课标修订中关于“增加生成式人工智能内容”“强化伦理意识”“理解自主可控技术对国家安全的意义”等新增要求，并深度融合“铜陵方案”中“智能向善是人工智能教育底色”的素养框架-2-4。全课以“不是禁止技术，而是锚定价值”为哲学基线，旨在破解AI伦理教育中“用而不该、用而不当、用而不好”的现实困境-3，将伦理思辨从软性呼吁转化为基于证据的技术诊断与设计改良。

二、新标题

高中二年级信息科技“算法向善：智能社会中的伦理锚点与安全防线”项目式教案

三、教学内容与核心要素罗列

依据“应列尽罗”原则，本课全部知识与能力要素按逻辑链全排列如下，并标注重要级与频度级：

（一）【根基·核心】人工智能伦理的定义与学科边界：区分AI伦理与一般信息安全的异同；【非常重要】【高频考点】

（二）【根源·难点】算法偏见的数据溯源：训练数据偏差（采样偏差、标注偏差、历史偏见被固化）；【难点】【高频热点】

（三）【根源·难点】算法黑箱与可解释性危机：模型不透明性导致的信任危机与追责困境；【难点】

（四）【表征·重点】深度合成与伪造技术（Deepfake）的识别原理与社会危害：人脸替换、语音合成、虚拟主播的滥用场景；【热点】【重要】

（五）【表征·重点】生成式人工智能特有风险：大模型幻觉导致的事实性错误、提示词注入攻击、价值观越狱；【新增】【高频】

（六）【载体·关键】隐私泄露与数据霸权：生物特征信息的不可再生性、数字足迹的非法采集与二次利用；【非常重要】【高频考点】

（七）【载体·关键】自动化决策系统的责任归属：L3级以上自动驾驶事故的责任认定、AI医疗误诊的法律主体；【热点】

（八）【治理·拔高】自主可控技术伦理价值：核心技术受制于人带来的“算法后门”风险与国家数据主权；【非常重要】【课标新增】

（九）【治理·核心】AI向善的技术实现路径：差分隐私、联邦学习、可解释AI（XAI）、公平性机器学习；【高阶】【创新】

（十）【治理·基础】我国AI伦理治理体系：“负责任人工智能”框架、《新一代人工智能伦理规范》、算法备案与安全评估制度；【基础】【政策必知】

（十一）【行动·产出】智能体使用边界公约：高中生日常使用生成式AI的自律准则与技术防护策略；【成果】【素养落地】

四、教学目标分层陈述

1.素养目标（学科核心素养锚定）

信息意识：面对生成式AI输出的内容，形成主动质疑其真实性、偏见性与安全性的警觉习惯；对个人生物特征信息在AI系统中的流转建立防护敏感度。

计算思维：能够将“算法偏见”抽象为“数据分布失衡—权重决策失衡”的量化关系；理解公平性指标（如均等化几率）的统计学意义。

数字化学习与创新：运用低代码AI训练平台开展“去偏见”重训练实验，修正模型决策偏差，形成“用技术修复技术”的创新方案。

信息社会责任：在模拟立法或校规制定活动中，辩证阐述技术进步与个人权利、国家安全的关系，认同“自主可控”的深层伦理价值。

2.项目产出目标

每组完成一份《XX校园AI智能体伦理安全体检报告及改良建议书》，包含：对某一具体AI应用（如AI批改作文、心理聊天机器人、食堂菜品推荐算法）的风险识别清单、技术验证截图、改进方案架构图。

五、教学实施过程（核心篇幅，全景展开）

（一）入项·悬置——技术惊奇中的伦理隐线（1课时）

【教学策略】认知冲突法+真实事件重构

【场景构建】课前投影不显示任何文字，仅播放三段经过特殊处理的音频：第一段为著名历史人物合成音朗读学生习作；第二段为AI根据听课教师照片即时生成的换脸视频片段，内容为虚构发言；第三段为一组被不同求职简历投递系统自动筛选的对比截图，仅因照片背景不同导致通过率差异30%。全程不告知由何种技术生成。

【生成性追问】教师抛出三层递进问题：你相信刚才所见所闻吗？如果相信，依据是什么？如果不相信，你的判断从何而来？当技术让你无法依据“眼见为实”时，社会的信任基座应建在哪里？

【核心讲授】（嵌入重要级标记）

【非常重要】此处引出“AI伦理不是技术之外的道德说教，而是技术内部的系统性安全设计”。明确本单元核心概念：AI伦理即是对算法决策过程中价值冲突的识别、权衡与修正机制。区别于传统网络安全防外部攻击，AI伦理安全更关注模型内生性的价值失序-3-7。

【学生前置概念激活】以词云生成器现场收集学生对“AI风险”的原初联想，高频词将作为后续探究的分组选题池。

（二）解构·溯源——五维伦理风险的实证挖掘（2.5课时）

本环节为认知负荷峰值区，采用“司法证据链”模式，每项风险不仅说清“是什么”，必须带领学生经历“看见了证据—理解了原理—预判了后果”的完整推理。

1.隐私泄露的不可逆性——生物特征的特洛伊木马

【热点·非常重要】

技术实证：利用开源人脸关键点检测工具，演示一张普通自拍照可被提取的面部特征点数量（通常达468个），进而演示利用此特征库反向生成可通过大多数手机2D面容解锁的伪造视频。不使用真实师生面部，采用公共数据集人物。

原理阐释：生物特征不同于密码，泄露后无法“更改密码”。虹膜、声纹、步态特征终身绑定。当前许多“AI拍照识肤”“AI声纹登录”轻应用存在过度采集与第三方SDK违规回传风险-3-10。

伦理升维：提出“数字人格权”概念——即个人在算法世界中被完整、准确、公正描绘的权利。任何未经授权的数字孪生构建均构成伦理侵犯。

2.算法偏见的固化循环——从数据倾斜到社会不公

【难点·高频考点】

教学支架：提供脱敏处理的简化版“高校学生综合素质评价系统”历年数据集（经过统计学扰动），学生通过Excel数据透视表或PythonPandas（根据班级学情分层）自主发现：某类社团经历与奖项推荐得分存在强相关性，而该社团因历史原因某群体成员比例极高。此即“历史偏见被算法固化”的典型样本-2-3。

【非常重要】引入“代偿性公平”概念：单纯的“无视敏感属性”并不能实现公平（即“色盲式公平”），需要主动进行均衡采样或权重调整。展示夏雪老师课例中用卡方检验验证抽签系统偏见的逻辑，让学生计算两组数据的期望频次与实际频次，计算卡方值判断是否存在统计显著的偏见-3。

3.深度伪造的信任瓦解——后真相时代的认知战

【热点·重要】

技术去魅：现场演示（本地离线模型）一段文本到语音合成的极简过程，学生打字即刻生成教师音色朗读。学生立即感知：伪造成本已趋近于零。

伦理推演：从个体伤害（换脸色情、名誉诽谤）推演至社会宏观危害——社会认知根基从“眼见为实”崩塌为“举证自证清白”，即“说谎者红利”现象。

【难点】深度伪造检测的猫鼠游戏：讲解生成对抗网络（GAN）的基本博弈逻辑，使学生理解为何纯粹靠“事后识别”永远滞后，必须从源头建立“内容来源可信度验证体系”。

4.生成式AI幻觉与责任归属——无主体责任的困局

【新课标新增·高频】

案例聚焦：某法律AI助手引用虚构判例致律师误用、某生物工具大模型“编造”不存在的蛋白质结构。学生角色扮演：立法委员、受害者、平台方、开发者，模拟“谁该为此买单”听证会。

【难点】抽象出“责任缺口”：传统侵权法要求明确过错方，但大模型的输出具有概率性、涌现性，非单一代码错误。引出“合理注意义务”与“算法解释权”等前沿法学概念。

5.算法黑箱与解释鸿沟——黑盒决策的正当性危机

【基础认知】

体验环节：学生向两个不同架构的简易分类模型输入相同测试数据，决策树模型可输出“为何拒绝”的具体路径，而神经网络模型仅输出概率值。切身感受“可解释性”的落差。

【非常重要】强调：在医疗诊断、贷款审批、刑事风险评估等高风险场景，缺乏解释能力的模型即使准确率更高，也可能因违背“正当程序”原则而被禁用。这是技术精度与伦理价值的真实冲突。

（三）重构·设计——负责任AI的技术锚点（2课时）

本环节从“批判”转向“建设”，重点解决学生内心深层困惑：“说了一堆问题，那我们还能用AI吗？怎么办？”教学重心转入治理方案与技术修复。

1.架构层：隐私保护计算

【创新·高阶】

非对称演示：采用“联邦学习”模拟小游戏。全班分为五组，每组持有一部分模拟病历数据。传统做法是将数据汇集到教师机训练（数据集中），现做法为模型在各组本地训练，仅上传加密梯度更新。学生直观体会“数据不动模型动”如何平衡数据利用与隐私保护。

关键词植入：差分隐私、同态加密、可信执行环境。不要求掌握算法细节，但要求形成“隐私保护是设计出来的，不是承诺出来的”工程思维。

2.算法层：公平性机器学习

【难点·重构成】

技术实操：基于TeachableMachine或百度EasyDL平台，学生上传两组不平衡的数据集训练图像分类器。第一轮模型严重偏向多数类；第二轮学生通过数据增强、过采样、调整损失函数权重等方式“修复”模型，观察准确率与公平性指标的张力。

【非常重要】教师总结：没有绝对公平，只有权衡。某些情境下牺牲少许整体准确率换取群体公平性是符合伦理的主动选择。这就是“算法向善”的具体化。

3.人机交互层：可解释性与知情同意

【基础·必备】

界面批判：展示三类AI系统决策反馈界面：仅显示结果、显示置信度、显示影响决策的关键特征（如热力图）。学生投票哪一类更值得信赖，并撰写“理想AI系统解释界面”应当包含的五要素。

【高频考点】知情同意2.0：传统点击“同意”已无法涵盖AI对数据的深度挖掘风险。引导学生设计“分层动态同意”模型，允许用户随时撤回且细化授权颗粒度。

4.主权层：自主可控与供应链安全

【课标灵魂·非常重要】

案例深度剖析：特定地理区域的电网AI调度系统若使用境外闭源框架，训练数据与模型参数存在被非正常传输的可能。这不是技术民族主义，而是网络空间主权视角下的风险管控。

【热点】结合《普通高中信息科技课程标准（2025修订）》中“自主可控技术对国家安全发展的重要作用”原文，引导学生辩证讨论：开源精神与国家科技安全是否必然冲突？何为“自主可控”的真正内涵（可审查、可阻断、可替换、可持续）-2。

（四）辩论·权衡——电车难题的算法版本（1课时）

【组织形式】AI模拟辩手对抗模式，参考成都七中东部学校实践-6。

【辩题设定】“在训练自动驾驶算法时，是否应该写入功利主义的道德决策模块？”

技术前置：先用3分钟短视频讲解MIT“道德机器”实验的百万级全球数据结论，让学生看到不同文化背景对“救谁”的偏好差异是真实存在的伦理分歧。

【过程】学生先分组讨论，随后向AI智能体（教师预设观点矩阵）发起质询。AI辩手根据内置的不同伦理学流派（义务论、功利主义、契约论）生成反驳。学生在与AI的反复诘问中被迫不断精确化自己的伦理原则，而非停留在“感觉这样做不对”的直觉层面。

【教师收敛】辩论不追求唯一正解，而是收敛至共识：即使无法达成算法设计的一致，也必须达成治理流程的共识——即此类决策必须经过广泛公众讨论、算法备案与影响评估，不能仅由工程师闭门决定。

（五）建模·产出——校园AI智能体伦理安全体检（2课时+课外）

【项目情境】本校计划引进或已试运行若干教育智能体（如作文智能批改系统、学生心理情绪识别系统、食堂菜品推荐算法、体育课运动姿态矫正摄像头）。学生团队作为“伦理安全委员会”特聘顾问，选择其中一个场景进行深度体检并提交改良方案。

【体检框架】（体现全要素覆盖）

1.数据层：采集是否最小必要？存储是否本地化？生物特征是否特殊保护？

2.算法层：是否存在可验证的群体偏见？模型是否可解释？是否有持续监控偏见漂移的机制？

3.交互层：用户是否知晓在与人机交互？是否拒绝被情感计算分析情绪的权利？AI幻觉风险有无显著提示？

4.责任制：出现错误输出时，校内申诉与纠错路径是否明确？供应商是否锁定？

【技术工具】提供简易的“偏见压力测试”脚本（修改部分输入属性观察输出波动）、隐私政策核查表、可解释性评分卡。

【产出形式】每组提交一份三页以内报告，包含：至少一处通过实证测试发现的潜在风险、对应的高保真改良界面原型（手绘或墨刀）、向校长办公会陈述的3分钟提案视频。

（六）反思·契约——智能时代的自我立法（0.5课时）

【个人化输出】每位学生在学习日志中撰写三条“我的AI使用自律准则”。教师汇总形成班级版《高中生生成式人工智能使用公约》，内容必须包含但不限于：

1.学术诚信维度：直接生成作业需声明且不超过特定比例；AI生成内容必须经过事实核查与逻辑审校。

2.隐私保护维度：不向对话式AI输入同学真实姓名、身份证、家庭住址等PII；不利用换脸技术制作未经授权的真人影像。

3.价值观护城河：不进行“越狱”诱导以生成违法违规内容；不传播完全依赖AI生成且未经证实的健康、法律建议-8-10。

【仪式感】全体签署数字化公约，生成NFT风格纪念徽章，作为本单元学业完成的象征物。

六、教学资源与环境配置

1.硬件环境：计算机教室或平板教室，要求每生可访问互联网；教师机具备投屏与广播系统；可选配点阵笔用于思维轨迹采集（非必需，据成都七中东校经验可强化过程评价）-6。

2.软件平台：省级信息科技学习平台或开源AI实验环境（如EasyDL、TeachableMachine、GoogleColab简化版）；氦星人平台或其他支持实时讨论、观点聚合的互动系统-3。

3.数据集：已脱敏的模拟招聘/奖学金数据集；开源人脸关键点检测库（仅教师演示）；情感计算微表情样例库（教学版，无身份信息）。

4.文本材料：《新一代人工智能伦理规范》节选、算法备案制度解读折页、国内外典型AI伦理事件年表（2023-2026）。

七、评价体系量规（过程性占70%，成果占30%）

基于浙江省及铜陵市关于人工智能素养评价的导向，采用表现性评价-1-4。

【非常重要】评价核心逻辑：不考察背诵“有哪些伦理问题”，而是考察“是否具备识别、权衡、改进伦理风险的行为能力”。

1.思维深刻性（权重25%）：在课堂辩论与讨论中，是否能从“技术不好用”的表层抱怨深入到“数据结构—利益相关者—价值冲突”的分析范式。表现性任务：听证会角色扮演的论点质量。

2.技术实证力