2026年(九年级)第六单元人工智能安全与伦理测试卷

2026年(九年级)第六单元人工智能安全与伦理测试卷1.单项选择题（每题2分，共20分）1.12026年，某市中考阅卷系统首次引入“AI双评+仲裁”模式。下列哪一项最能体现该模式对“算法公平”原则的强化？A.双评分差超过阈值即交人工仲裁B.系统只记录最终得分不保存过程C.阅卷AI由单一厂商提供以保证一致性D.学生考号被哈希加密后供AI调用1.2生成式大模型在训练语料中意外收录了某初中生未公开的获奖作文，该生发现后提出删除请求。依据《生成式人工智能服务管理暂行办法》第几条最能直接支持其主张？A.第五条尊重他人知识产权B.第七条训练数据合法性C.第九条个人请求删除权D.第十一条安全评估制度1.3某校“智慧课堂”摄像头实时分析学生微表情并生成专注度报告，系统默认向家长端推送。下列哪一项做法最符合“最小必要”原则？A.只推送班级均值，不显示个人曲线B.保留原始视频30天供教师回看C.允许学生随时在终端一键关闭拍摄D.将数据脱敏后用于公司算法迭代1.4下列关于对抗样本的叙述，正确的是：A.对人眼不可察觉的扰动只能干扰传统机器学习，无法干扰深度学习B.物理世界打印的对抗贴纸可误导自动驾驶识别停车标志C.增大模型参数量即可彻底消除对抗样本风险D.对抗训练会显著降低模型在干净数据上的准确率，得不偿失1.52026年，欧盟《AI责任指令》正式生效。若某国产扫地机器人因算法缺陷在欧盟市场致人受伤，中方制造商欲以“开源算法免责”抗辩，其最大法律障碍是：A.开源协议已声明免责B.指令采用“风险-责任”倒置，被告需自证无过错C.产品出口时已通过CE认证D.受害者未按说明书使用1.6下列哪一项最符合“可解释AI”在医疗场景中的伦理要求？A.模型输出“恶性概率3.7%”即可，无需说明依据B.医生可直接调取病灶热力图并写入病历C.只要准确率高于95%，无需向患者披露算法参与D.使用黑箱模型时，由医院法务部统一对外解释1.7某AI作文辅导软件提示“添加更多高级词汇可提分”。从伦理角度，这最可能触碰：A.数据安全B.算法偏见C.认知自主性D.可审计性1.8联邦学习框架中，参与方A通过梯度反演技术还原出参与方B的原始图像，该行为主要破坏了：A.完整性B.可用性C.保密性D.不可否认性1.92026年，某短视频平台上线“AI青少年模式”，自动识别用户年龄并限制内容。若系统误将成年教师识别为儿童，其纠错机制应优先遵循：A.平台运营成本最小化B.用户申诉“一键恢复”C.模型重新训练周期D.广告收益最大化1.10下列关于“AI伦理沙盒”机制的描述，错误的是：A.允许企业在限定时空内测试高风险AIB.监管机构可实时接入日志C.测试结果直接作为产品合格证书D.沙盒内用户需知情同意2.判断题（每题1分，共10分，正确打“√”，错误打“×”）2.1生成式AI输出的虚假新闻一旦造成社会恐慌，其刑事责任只能由平台运营者承担，与模型开发者无关。2.2使用差分隐私技术时，隐私预算ε越小，数据可用性越低。2.32026年起，我国所有中学AI实验课程教材必须经教育部备案，但校外培训机构不受此限。2.4若AI系统通过强化学习在模拟环境中自我演化出歧视性策略，开发者可以“环境奖励函数设置不当”主张完全免责。2.5在AI辅助评分系统中，若教师人工复核比例低于5%，则该系统被视为“完全自动化决策”，学生享有拒绝权。2.6联邦学习中，中央服务器无需保存任何梯度信息，因此天然满足GDPR“数据不出境”要求。2.7对青少年而言，AI推荐系统的“信息茧房”效应比成年人更显著，因其认知图式尚未固化。2.82026年，国家网信办要求AI生成内容必须添加显性标识，但校内教学用的AI课件可例外。2.9当AI用于预测学生抑郁风险时，若召回率过低，可能导致“假阴性”学生得不到及时干预。2.10在AI伦理审查中，伦理委员会成员若持有被审查公司股权超过1%，仍可持续参与投票，但需事后披露。3.填空题（每空2分，共20分）3.12026年，某中学AI助教系统每日采集学生语音并转写为文本，用于学情分析。依据《个人信息保护法》，该校应在收集前向学生监护人履行________义务，并在存储环节采取________技术以确保语音内容不被重用。3.2已知某图像分类模型在干净测试集上的准确率为96%，在添加ε=0.01的PGD对抗扰动后准确率降至12%，则其对抗鲁棒性缺口为________个百分点。3.3在AI伦理治理“四梁八柱”框架中，“四梁”分别指：安全、________、________、________。3.4若某生成式模型参数规模为138B，采用半精度浮点存储，则加载该模型所需显存约为________GB（保留整数）。3.52026年，国家强制性标准GB/T45001-AI要求，面向未成年人的AI系统其决策可解释性需达到________级以上，且须支持________语言描述。3.6当使用联邦平均算法时，第t轮全局模型更新公式为：=其中，表示第k个客户端的________，/n表示________。3.7某校AI德育评价系统采用区块链存证，其哈希指针采用的算法为________，该算法输出长度为________位。3.8在AI安全红蓝对抗演练中，红队使用成员推理攻击（MembershipInferenceAttack）判断特定学生数据是否被用于训练，该攻击主要利用模型在________数据上的________差异。3.92026年，教育部规定中学AI教材中涉及算法代码示例时，必须同步提供________文件，以保证可复现性。3.10当AI系统用于校园安防时，其人脸比对阈值设置过高会导致________率上升，可能引发学生通行受阻。4.简答题（每题10分，共30分）4.12026年，某校引入“AI作业批改”系统，家长质疑其评分标准不透明。请从“可解释性”与“教育公平”两个维度，阐述学校应采取的三项具体措施，并说明理由。4.2简述“数据最小化”原则在AI校园体育测试中的应用场景，并给出至少两条技术实现路径，要求其中一条基于边缘计算。4.3结合实例说明“算法偏见”如何可能在AI推荐课外读物时被放大，并提出包含“技术+制度”双轨的纠偏方案。5.材料分析题（20分）材料：2026年4月，某市九年级统一调研考试采用“AI命题+人工审核”模式。AI依据历年真题生成初稿，审题教师发现第18题配图出现“城市学生熟悉的地铁站场景”，而农村校区学生从未见过闸机，可能引发不公平。此外，AI在英语作文题中默认使用“人工智能改变生活”这一话题，部分学生因家庭禁止上网而缺乏素材。考试后，两名农村学生以“算法歧视”为由提起申诉。问题：（1）指出材料中存在的两类算法偏见，并分别说明其产生原因。（6分）（2）从“数据代表性”与“提示词工程”角度，给出命题阶段可落地的改进方案。（8分）（3）若你是市教育局AI伦理专员，请设计一份申诉处理流程图（文字描述即可），要求包含“技术复核、伦理评议、结果反馈”三个环节，并说明每环节时限。（6分）6.计算与建模题（20分）6.1已知某校AI体温监测系统每日采集n=2000人次，原始体温数据服从正态分布𝒩(（1）求所添加拉普拉斯噪声的尺度参数b，并给出概率密度函数表达式。（4分）（2）计算在95%置信度下，发布值与真实值的最大偏差Δ（保留两位小数）。（4分）（3）若将ε降至0.01，重新计算Δ，并讨论其对公共卫生预警的影响。（4分）6.2某AI英语口语评测模型使用深度神经网络，其最后一层为softmax，输出维度为5，对应“发音准确度”等级1~5。现需构建对抗样本，使得原属等级5的音频被误导为等级1。已知损失函数为交叉熵，目标类别为1。（1）写出FGSM单步攻击的梯度计算公式，并说明符号含义。（4分）（2）设音频样本x∈ℝ^{16000}，最大扰动幅度ε=0.002，学习率α=0.01，请用LaTeX给出单步对抗样本更新公式。（4分）7.综合设计题（20分）情境：2026年秋季，你校拟上线“AI成长档案”系统，功能包括：①课堂行为识别（专注度、举手次数）；②体育测试视频分析（50米跑姿态矫正）；③心理风险预警（基于社交媒体文本，需家长授权抓取）。任务：请完成一份《AI成长档案系统伦理风险评估报告》，要求：（1）列出三项最高风险点，并按“影响程度×发生概率”给出风险矩阵（高、中、低）。（6分）（2）针对风险①，设计一套“学生退出权”技术实现方案，要求在不删除历史数据前提下，实现“模型遗忘”，并说明采用何种机器学习算法。（6分）（3）针对风险③，给出数据跨境流动合规路径，假设学校采用海外云服务商。（4分）（4）为该系统撰写一条不超过80字的面向学生的知情同意提示语，要求通俗易懂、无专业术语。（4分）——答案与解析——1.单项选择1.1A解析：双评+仲裁通过“分歧即人工”机制，直接回应算法公平。1.2C解析：第九条赋予个人删除权，直接对应未公开作品被收录。1.3C解析：一键关闭拍摄体现最小必要与自主权。1.4B解析：物理对抗贴纸已多次被验证可误导停车标志识别。1.5B解析：指令采用过错推定，开源不能豁免。1.6B解析：病灶热力图提供医生可解释依据。1.7C解析：提示干预学生写作自由，触碰认知自主性。1.8C解析：梯度反演破坏数据保密性。1.9B解析：一键恢复优先保障用户权益。1.10C解析：沙盒结果不直接等于合格证，仅作监管参考。2.判断2.1×解析：开发者若存在过错，亦可能承担连带责任。2.2√解析：ε越小，噪声越大，可用性下降。2.3×解析：校外培训若使用AI教材同样需备案。2.4×解析：不能完全免责，开发者负有审慎义务。2.5√解析：低于5%人工复核即视为完全自动化，学生可拒绝。2.6×解析：梯度虽短暂存在，仍可能出境，需额外评估。2.7√解析：青少年认知可塑性高，更易受茧房影响。2.8×解析：教学用AI课件亦须添加标识，无例外。2.9√解析：召回率低导致漏诊，即假阴性。2.10×解析：持股超1%应回避投票，而非事后披露。3.填空3.1告知同意；加密或差分隐私（任填一种隐私增强技术）。3.284。3.3公平、透明、隐私。3.4276（138B×2字节≈276GB）。3.53；自然语言。3.6梯度；本地数据量占比。3.7SHA-256；256。3.8训练与测试；置信度或损失。3.9requirements.txt或Dockerfile（任填一种可复现依赖）。3.10假阳（误拒）。4.简答4.1可解释性：①向家长开放评分规则可视化页面，展示维度权重；②提供作文逐句点评热力图；③允许家长提交样例作文，系统返回模拟评分报告。教育公平：①定期用不同区域、性别样本做偏差审计并公示；②建立教师申诉通道，对异常低分作文强制人工二次批改；③对农村或弱势群体学生设置“算法帮扶”权重，防止系统性低分。4.2场景：AI通过摄像头测量引体向上次数，只需计数，无需保存完整视频。路径1：边缘相机本地运行YOLOv8-nano，仅上传计数结果，原始帧在设备RAM中滚动覆盖。路径2：若需云端复核，采用事件触发——当计数结果与人工抽检差异>2次时，才上传对应10秒片段，实现“最小化”传输。4.3实例：系统根据城市学生阅读史推荐《三体》，却极少向农村学生推荐，因训练数据城乡比例失衡。技术：①重加权损失函数，对农村样本提高权重；②引入公平性约束，使推荐分布在不同地区KL散度<0.1。制度：①建立“乡土读物”白名单，强制占比≥20%；②每季度发布城乡推荐清单对比报告，接受家委会质询。5.材料分析（1）①场景偏见：配图含地铁站，农村学生缺乏体验；②话题偏见：作文题默认熟悉AI，边缘学生无素材。原因：训练语料过度代表城市生活与网络高频话题。（2）数据代表性：在命题训练集中刻意补充农村校区图片与乡土文本，比例不低于30%；提示词工程：在生成作文题时，于systemprompt中加入“请提供两个版本，A版话题为人工智能，B版话题为传统农具，供审题组选择”。（3）流程：①技术复核（3个工作日）：市教育技术中心复现命题AI，检查训练数据分布与提示词日志；②伦理评议（5个工作日）：教育局伦理委员会召集教师、家长、农村学校代表，听取技术报告并投票；③结果反馈（2个工作日）：书面告知申诉人，若属实，重新组织补考或加分，并公开整改报告。6.计算与建模6.1（1）拉普拉斯尺度参数b=Δf/ε，此处查询函数敏感度Δf=1/n=1/2000=0.0005，故b=0.0005/0.1=0.005；概率密度函数p（2）95%置信对应拉普拉斯分布双侧分位数1.96·b=0.0098≈0.01℃。（3）ε=0.01时，b=0.0005/0.01=0.05，Δ=1.96×0.05≈0.10℃。噪声增大10倍，可能掩盖真实发热信号，导致公共卫生预警延迟，需提高本地边缘检测阈值或降低ε分阶段释放。6.2（1）FGSM梯度公式g此处目标类别为1，故使用目标攻击变体：g（2）单步更新公式7.综合设计（1）风险矩阵：①隐私泄露（课堂视频被滥用）——影响高×概率中→高；②心理预警误报导致标签效应——