高中二年级信息科技：算法决策公平与社会公平的审计式实践探究

高中二年级信息科技：算法决策公平与社会公平的审计式实践探究

一、课程基础信息与顶层设计理念

（一）【非常重要】学科定位与学段归属

本教学设计锁定为普通高中二年级信息科技选择性必修课程，具体锚定《普通高中信息科技课程标准（2017年版2025年修订）》中“人工智能初步”模块与“数据处理与算法设计”核心主线。课程性质为面向全体的通识性普及教育与面向高阶思维培养的创新实践教育之融合体。基于2025年课标修订版对课程名称从“信息技术”到“信息科技”的科学性重塑，本课彻底剥离单纯工具操练取向，将学科本质定位于对数据、算法、算力三大要素及其社会建构效应的科学探究。学段特征上，高二学生已具备Python程序设计基础、数据处理初步能力及一定的数学建模直觉，正处于从“技术使用者”向“技术批判性共创者”跃迁的关键敏感期。

（二）标题优化与内涵阐释

本课新标题定为《高中二年级信息科技：算法决策公平与社会公平的审计式实践探究》。标题中“算法决策公平”精准替代宽泛的“机器决策”，直接锚定信息科技学科核心概念——算法是机器决策的灵魂；“审计式实践探究”则提炼了本课最核心的教学方法论：不是一般性地讨论公平，而是引导学生以算法审计师的角色，运用统计学工具与计算思维，对真实或仿真的算法系统进行系统性偏差检测与归因分析。标题明确学段（高中二年级）、学科（信息科技）、内容锚点（算法决策公平）与学习方式（审计式实践探究），长度29字，符合规范。

（三）【课标依据与创新支点】

本设计严格对标《浙江省中小学人工智能通识教育指导意见》高中阶段“探究—创新—融通”的培养目标，并回应2025课标修订版中“增加生成式人工智能、强化算法伦理、将人工智能学习内容融入必修与选择性必修模块”的最新要求。本课同时也是对国际前沿课程范式——宾夕法尼亚大学“AIAuditingforHighSchool”课程的本土化、学科化再造，将原课程中分散的平台审计活动整合为聚焦“公平性度量”这一核心科学概念的完整探究闭环。本课的核心创新在于：将“公平”从抽象的道德说教转化为可计算、可度量、可优化的工程学指标，在跨学科视野下（信息科技+数学统计+公民道德）实现“科学教育加法”与“价值教育深化”的双重突破。

二、【基础】前端分析：学情、资源与逻辑起点

（一）学生认知起点诊断

知识储备层面，学生已完成必修模块“数据与计算”的学习，掌握Python分支循环结构、列表数据处理，能调用matplotlib或pyecharts进行简单数据可视化；部分学生接触过pandas库。思维特征层面，高二学生已具备形式运算思维，但对算法“黑箱”普遍存在两种偏差：一是过度信任技术中立性，认为机器决策必然客观；二是技术虚无主义，认为算法偏见完全不可治理。情感态度层面，学生对AppleCard、大数据杀熟等社会热点有朦胧感知，但缺乏系统分析框架，易陷入情绪化批判。本课正是要在技术崇拜与技术拒斥之间，建构科学理性的第三条路径——批判性参与。

（二）【重要】跨学科融合点预设

本课并非多学科拼盘，而是以信息科技为主轴、以数学统计为工具、以社会伦理为价值旨归的深度融合。数学学科方面，核心融合点为条件概率、混淆矩阵、组间等差错率计算、对数变换在评分校准中的应用；信息科技学科方面，核心融合点为特征工程中的敏感属性处理、模型训练中的数据平衡技术、可解释人工智能的LIME或SHAP原理（不要求代码实现，重在意会）；道德与法治学科方面，核心融合点为算法治理的多元主体协同、数字人权视野下的可解释权与免受歧视权。三个学科围绕“公平”这一复杂概念形成相互支撑的认知支架。

（三）教学环境与资源配置

教学场域为具备分组研讨功能的数字实验室，学生6人一组，共8组。硬件端配备教师机、学生终端及局域网传输系统；软件端预装JupyterNotebook集成开发环境，内置pandas、numpy、matplotlib库；同时接入DeepSeek-R1大模型平台作为认知脚手架，用于复杂概念的即时释义、辩论资料的快速检索与反方观点的压力测试。另需准备三套核心数据集：模拟信用评分数据集（含敏感属性字段）、简化版COMPAS风险评分仿真数据集、模拟外卖平台派单时效数据集。所有数据集均已进行脱敏处理并嵌入预设偏差。

三、【核心】教学目标与素养指向的三维矩阵

（一）【高频考点】信息意识与社会责任

能够在真实生活场景中敏锐识别算法决策可能存在的系统性偏差；从数字中国建设与网络强国战略高度，理解自主可控、公平包容的技术对国家治理现代化的深层价值；自觉形成“技术中性论并非天然正确”的批判性认知；建立算法决策可追溯、可解释、可救济的权利意识。

（二）【难点】计算思维与算法审计能力

能够将模糊的“公平性”诉求转化为精确的可计算问题，包括界定受保护组别、选择适切的公平性度量指标；能够运用Python编程实现对数据集的敏感性分析，计算不同组别间的假阳性率差值、等差错率比值等关键统计量；能够基于审计发现提出算法优化的可能路径，如数据重采样、特征剔除、阈值差异化校准等；能够理解并初步运用“反事实公平”等前沿公平概念的底层逻辑。

（三）【热点】数字化学习与创新

能够利用大模型工具辅助审计思路生成、代码纠错与可视化呈现；能够在小组协作中体验算法审计师、数据科学家、公民倡导者等多重角色；能够撰写具有证据链支撑的算法审计报告，并提出兼顾效率与公平的改进建议。

四、【应列尽罗】核心知识图谱与关键概念分层罗列

【非常重要】【核心概念】

算法公平性：指算法系统在面对不同人群（尤其是基于种族、性别、年龄、地域等敏感属性划分的群体）时，不产生系统性、结构性的行为偏差或绩效差异。

数据偏差：训练数据未能真实、全面、无偏地反映目标总体分布，表现为历史偏见的数字化固化、采样偏差、标签偏差、测量偏差等。

敏感性特征：法律或伦理上不应作为决策依据的属性，如种族、性别、宗教信仰、残障状况等；但在实际数据集中往往作为特征存在。

代理变量：与敏感属性高度相关、可被算法用作替代性判别依据的非敏感特征，如邮政编码之于种族、消费偏好之于性别。

组公平性：强调不同群体在算法决策结果或错误率上应具有统计意义上的对等性，核心指标包括统计均等、均等机会、均等化赔率等。

个体公平性：强调相似的个体应获得相似的决策结果，基于特征空间距离度量。

算法审计：对算法系统进行系统性、独立性、可重复的检验与评估，以揭示其是否存在不符合法律、伦理或社会规范的行为。

【重要】【常见偏差类型】

历史偏见型偏差：因训练数据直接复刻了人类社会既有歧视（如过去十年男性简历占主导导致招聘模型歧视女性）。

样本量偏差：少数群体在训练数据中占比过低，模型无法学习其有效特征，导致性能显著下降（如深色皮肤人脸识别错误率高）。

标签偏差：用于监督学习的标签本身带有主观偏见（如教师评语数据中对不同种族学生的评价差异）。

测量偏差：核心概念的操作化定义存在偏误（如用犯罪记录“是否被捕”代替“是否犯罪”，而前者本身受执法偏见影响）。

聚合偏差：将群体层面的统计规律不适当地应用于个体判断。

部署偏差：模型在理想实验环境与真实应用场景之间存在分布偏移。

【高频考点】【典型案例库】

COMPAS累犯风险评估种族偏见案（2016）：黑人被告被错误标记为高风险的概率是白人的近2倍；核心审计方法：计算混淆矩阵、对比不同种族组的假阳性率与假阴性率。

Amazon招聘引擎性别歧视案（2018）：模型自动学习简历文本中的性别指示词，系统性地降低包含“women”等词汇的简历评分。

AppleCard信用额度性别差异案（2019）：共同财产状况下夫妻获授信额度迥异，算法黑箱导致用户无法申诉与解释。

老年人与数字鸿沟：医疗预约、健康码等场景中交互界面未适配老龄化需求。

外卖骑手派单时效算法争议：基于历史配送数据的优化可能导致对特定区域骑手的非公平派单压力。

【难点】【度量指标】

均等机会差：不同组别间真正例率（TPR）之差，理想状态接近于0。

均等化赔率差：不同组别间假阳性率与假阴性率加权组合的差异。

人口统计均等：不同组别获得正向决策的比例相等，不考虑实际表现差异。

80%规则：源自美国雇佣机会均等委员会，若某一组别正向决策率低于最优组别的80%，即构成不利影响。

校准度：预测概率在不同组别间是否均与实际结果分布保持一致。

【热点】【治理工具】

算法影响评估：部署高风险算法系统前进行的前置性公平性影响评估。

可解释人工智能（XAI）：通过LIME、SHAP等工具使黑箱决策透明化，定位关键影响特征。

差分隐私：在数据发布阶段注入噪声以保护个体隐私，防止逆向推断敏感属性。

反事实公平：通过生成反事实样本（改变敏感属性而保持其他特征不变）检测决策是否一致。

联邦学习：数据不动模型动，在保护数据隐私前提下实现多方协同建模。

五、【占绝大部分篇幅】教学实施过程：四阶审计式探究循环

本课采取大单元项目式学习架构，共计4课时连排（或拆分为2次连堂），以“算法审计师培养计划”为情境主线，完整经历“触发审计意识—实施量化审计—开展归因分析—提出治理建议”四大阶、共十一个子环节。以下为第一人称课堂实景视角下的全流程展开。

（一）触发审计意识：从经验质疑到专业问题（第1课时）

1.【活动1.1】认知冲突投掷：技术中立神话的解构

【非常重要】教师于课堂首5分钟呈现两组并置材料：左侧为亚马逊招聘引擎官方宣传语“客观、高效、机器学习筛选人才”；右侧为ProPublica关于COMPAS算法的可视化报道截图，醒目展示“黑人被误判为高风险的概率是白人两倍”。教师不做价值判断，仅提问：“如果算法仅是数学公式，为何数学公式在不同人种身上显示出如此不同的表现？”学生初始反应多为“可能是数据错了”或“算法还不完善”。此时教师以DeepSeek-R1快速检索“亚马逊招聘歧视内部邮件”关键段落并投屏：工程师反馈模型自动学习到包含“女子学院”词条的简历扣分。课堂出现首次认知震荡——原来算法并不是在真空运行。

【核心概念植入】教师顺势引出“数据偏差”概念，并板书强调：【难点】数据不仅是客观世界的映射，偏差在采集、标注、聚合各环节均可渗入。此处使用类比：若用1990年代男性就业数据训练今天的招聘模型，结论必然偏离现状。学生初步理解：算法公平性问题首先不是代码写错了，是喂养它的食物坏了。

2.【活动1.2】角色代入：成立算法审计事务所

全班8个小组转换为8家“算法审计事务所”，各组自拟带有社会责任色彩的机构名称（如“棱镜审计”“公平刻度”“可解释联盟”）。教师以“数字公民协会委托方”身份发布三大审计标的，供各事务所选择接单：

标的A：FICO风格信用评分系统仿真数据集（包含申请者性别、种族字段及最终授信分）；

标的B：COMPAS简化仿真数据集（包含被告人种族、年龄、前科次数及再犯风险评分与两年内实际再犯标签）；

标的C：外卖平台智能派单模拟日志（包含配送员性别、区域、订单数量及平均每单时长）。

【重要】各事务所经5分钟研读任务简报后，以组为单位投票选择审计标的，确保每组有差异化案例支撑后续全班的交叉论证。教师在此环节仅扮演需求澄清者，不引导选择偏好。

3.【活动1.3】将模糊不适转化为可计算问题

【难点突破】此环节是整节课第一次思维爬坡。学生初始反应是“感觉不公平，但不知道看什么数据”。教师提供“审计视角转化支架”：如果无法直接测量公平，可先测量差异。各事务所基于所选标的，讨论并书面提交“我们打算比较哪几个组别之间的哪个决策结果”。

以信用评分标的组为例，学生最初可能写“比较男女授信额度”。教师引导深化：授信额度是连续变量，单纯比较均值可能掩盖分布重叠区域。学生经组内讨论，修正为“计算男女授信通过率差异，并进一步分析在相同收入等级下授信额度中位数差异”。此环节平均耗时12分钟，各组在全班简报框内粘贴核心审计问题，教师逐一点评并将其“翻译”为统计学语言——从而自然引出均等机会、组间差错率等概念的必要性。此环节不做精确定义，旨在让学生“感到需要这些工具”。

（二）实施量化审计：用数据科学给算法体检（第2课时）

4.【活动2.1】核心指标教学：公平性的三种数学画像

【高频考点】【非常重要】此环节为全课知识密度峰值区。教师摒弃纯公式推导，采用“可视化先行—符号跟进”策略。以均等机会指标为例：教师在屏幕呈现两张并排混淆矩阵，一张为白人组，一张为黑人组，矩阵中TP、FP、FN、TN数值皆已归一化。学生肉眼可见两组真正例率差异巨大。教师提问：“如果法官说‘我对两族一视同仁’，这个矩阵支持他吗？”学生明确否定。教师顺势给出均等机会的形式化定义：各组TPR相等。继而引导各组利用已预加载的pandas代码块，对自己小组的数据集进行TPR、FPR、Precision的分组计算。

【难点】【代码支架】为降低认知负荷，代码采用填空式半成品：

python

defgroup_metrics(data,sensitive_col,pred_col,true_col):

groups=data[sensitive_col].unique()

forgingroups:

sub=data[data[sensitive_col]==g]

TP=len(sub[(sub[pred_col]==1)(sub[true_col]==1)])

FN=len(sub[(sub[pred_col]==0)(sub[true_col]==1)])

FP=len(sub[(sub[pred_col]==1)(sub[true_col]==0)])

TN=len(sub[(sub[pred_col]==0)(sub[true_col]==0)])

TPR=TP/(TP+FN)if(TP+FN)!=0else0

FPR=FP/(FP+TN)if(FP+TN)!=0else0

print(f“组别：{g},TPR={TPR:.3f},FPR={FPR:.3f}”)

各组仅需修改sensitive_col、pred_col、true_col的字段名即可运行。学生在5分钟内即可输出各组别绩效差异的量化证据。当COMPAS组看到黑人组FPR=0.45、白人组FPR=0.23的数据在屏幕上冷峻呈现时，多数学生产生“原来差距可以被这样精确撕开”的专业效能感。

【热点】教师进一步提问：“TPR差异0.22意味着什么？是数字游戏还是真实的正义赤字？”引导学生从统计显著走向社会显著。

5.【活动2.2】审计发现可视化：让差异可被看见

学生继续使用matplotlib绘制组间TPR、FPR柱状对比图，并在柱顶标注差值。此环节不仅是技能操练，更是认知固化——视觉化的差异比表格中的小数更具冲击力。教师巡视过程中，针对个别组因样本不平衡导致TPR计算分母极小的问题，引入【重要】样本量偏差概念：少数群体数据稀疏时，对其预测绩效的估计并不可靠。这一发现由学生从操作困境中生发，而非教师灌输。

6.【活动2.3】发布初步审计快报

各组将计算结果与可视化图表汇总为1页“算法体检快报”，张贴于教室四周白板。全班进行“画廊漫步”，每组派出审计分析师留守展位，其余组员流动阅读他组发现。流动过程中，学生自发注意到：不同审计标的（信用、再犯、派单）虽领域迥异，却呈现惊人一致的规律——受保护组别（女性、黑人、特定区域）均在某一项或多项公平性指标上处于劣势。教师此时轻点一句：“这是巧合，还是系统性的技术社会再生产？”问题悬置，不做回答，留待第三阶段归因分析。

（三）归因分析：从差异诊断到根源追溯（第3课时）

7.【活动3.1】偏差溯源：谁是“元凶”？

【难点】【非常重要】各组领回审计快报，进入归因环节。教师提供归因分析三维框架：数据层、模型层、使用层。数据层包括样本偏差、测量偏差、历史偏差；模型层包括代理变量选择、特征权重设定、阈值单一化；使用层包括用户操作鸿沟、解释渠道缺失、救济机制空白。

各组对照框架，对自己标的案例进行偏差归因分类。信用评分组发现：数据中“收入”字段本身即包含性别收入差距的历史沉积，模型将收入作为高权重特征，实质是将历史歧视带入未来预测——这是【历史偏差】的典型。派单组发现：系统以“预计送达时间”作为效率核心指标，却未将骑手个体生理差异、区域无障碍设施差异纳入特征空间，导致肢体障碍骑手或老旧小区密集区域骑手系统性地获得更差绩效——这是【测量偏差】与【部署偏差】的交织。

【高频考点】此环节教师重点讲解代理变量的隐蔽性。以信用评分组为例：若仅剔除“性别”字段，但保留“所属社团”“毕业院校”“邮政编码”，模型仍可通过这些字段高精度重建性别，并沿袭歧视。教师引入“冗余编码”概念，并展示基于互信息的敏感性特征关联分析热力图。学生意识到：公平治理远比“删掉敏感列”复杂。

8.【活动3.2】引入反事实思维

【热点】【创新思维】教师呈现前沿公平概念——反事实公平。不使用高阶数学，而采用思想实验法：如果一名申请者保留其所有特征，仅将其性别字段从男改为女（或从女改男），信用评分是否显著变化？各组基于已有数据集特征相关性，推断是否存在这种反事实不一致。虽然无法在本数据集做真正因果推断，但学生通过散点图发现：在收入、债务水平完全相同的配对样本中，女性评分普遍低于男性。这是反事实公平违反的有力证据。此环节极大激发学生思维兴奋点：原来公平可以这样“平行宇宙”式地检测。

9.【活动3.3】伦理两难思辨辩论赛

【非常重要】为打破技术乐观主义的浅薄共识，教师组织微辩论。辩题：“当前阶段，应当优先追求算法效率最大化，还是算法公平最大化？”正反方不事先指定，而是各事务所内部根据审计中发现的压力证据自行产生立场分歧。辩论流程严格限时：立论90秒、攻辩各60秒、结辩60秒。教师以大模型实时整理双方论据并投射在大屏。

正方（效率优先）援引资源稀缺性：若因过度追求公平导致风控失效、坏账率飙升，最终受损的是包括弱势群体在内的所有用户。反方（公平优先）援引基础伦理：效率增益不应建立在系统性贬损特定群体尊严的基础上，技术发展若制造二等公民，则发展本身背离人本。辩论并未产生绝对胜方，但双方在碰撞中共同生成了一个高阶共识：【难点】效率与公平并非零和博弈，拙劣的公平干预确实可能双输，但科学的公平治理（如去偏采样、阈值差异化）反而有机会在不牺牲总体准确率前提下提升公平。这一共识为第四阶段的治理方案设计铺平了理论道路。

（四）治理建议：从批判者转变为建设者（第4课时）

10.【活动4.1】治理工具箱全景呈现

【高频考点】教师系统讲授算法公平治理的三道防线。

事前防线：数据层面，包括重采样（增加少数群体样本量）、反事实数据增强、差分隐私扰动；特征层面，包括敏感属性剔除、残差拟合去除代理变量。事中防线：模型层面，包括阈值差异化（为不同组别设置不同决策阈值）、对抗性去偏训练、公平性约束嵌入损失函数。事后防线：部署层面，包括算法影响评估前置、个体可解释接口（SHAP依赖力图）、申诉复核机制。

每类工具均配一个简短的业界案例：IBMAIFairness360工具包的开源策略、微软Fairlearn项目中阈值优化的演示动画。教师强调：【重要】没有万能银弹，公平治理是情境依赖的权衡艺术。

11.【活动4.2】事务所治理方案竞标

各组基于三天探究积累，为其审计标的撰写《算法公平治理修复建议书》。要求必须包含三部分：审计发现摘要（证据）、拟采用的治理工具组合（方案）、预期效果与潜在副作用（权衡）。

信用评分组提交方案：在训练阶段剔除性别、种族及高相关性代理变量，同时采用阈值差异化——对历史信贷记录稀疏但其他信用证据充足的申请者适度放宽通过阈值，以缓解因样本量偏差导致的系统性低分。副作用：可能引入少量新增坏账，需通过贷后管理动态校准。

COMPAS组提交方案：强烈建议废除公开商业化的累犯风险评分作为量刑参考工具，因其底层逻辑将群体统计应用于个体司法裁决，违背无罪推定原则。同时在数据层面，建议执法记录采集过程中增加对执法偏见本身的监测标签。

派单组提交方案：将无障碍设施覆盖率作为区域特征加入ETA模型，并为注册时声明肢体障碍的骑手提供单独的送达时长核算系数，该系数不公开以规避标记效应。

各组方案以PPT或PDF形式提交至班级共享云盘，并邀请校内数学教师、政治教师组成跨学科评委会进行虚拟基金注资评选。最佳方案将获“最可执行公平设计”称号。

六、【基础】教学评价方案：过程与表现的统合

（一）表现性评价量规设计

本课拒绝单一纸笔测验，采用嵌入全程的表现性评价。评价维度共四级：

维度A（审计思维）：能否将社会公平议题转化为可计算问题，界定受保护组别与决策结果变量。

维度B（数据分析）：能否使用Python工具计算组间公平性指标，并可视化呈现差异。

维度C（归因深度）：能否从数据、模型、使用三维框架定位偏差根源，识别代理变量等隐蔽机制。

维度D（治理创新）：能否提出兼具想象力与现实约束感的改进方案，并坦诚讨论其副作用。

每维度划分水平1至3，对应学业质量水平1至3。全班各组成果汇编为《202X级算法审计年度报告》，存入学生数字素养成长档案。

（二）【高频考点】典型试题例证

为兼顾终结性评价需求，设计两道素养立意的情境题：

题1（概念迁移）：某校开发AI助教系统，根据学生历史成绩预测学业风险并推送辅导。测试发现，该系统对走读生与住宿生的预测准确率一致，但对走读生中的留守家庭子女频繁产生假阳性（误判为高风险）。请从公平性审计视角回答：（1）你认为该场景中应重点监测哪些组别间的哪些指标差异？（2）推测可能导致该偏差的两种数据层原因。本题满分8分，实测难度适中，区分度良好。

题2（批判性思维）：有观点认为“只要算法是开源的，公平性自然得到保障”。请结合本课所学，评价这一观点，并给出你的论证。本题无标准答案，采分点为能否清晰区分透明性与公平性之关联与差异。

七、【重要】教学环境与资源支持详案

（一）人工智能工具的教育化定位

本课中DeepSeek等大模型平台的使用严格遵守省教育厅指导意见中“作为认知伙伴而非答案生成器”的原则。具体应用场景包括：辩论阶段快