2026年AI应用安全与伦理规范培训冲刺试卷

2026年AI应用安全与伦理规范培训冲刺试卷一、单项选择题（每题2分，共20分）1.2026年欧盟《AI责任法案》正式生效，其核心条款要求高风险AI系统在部署前必须完成哪项义务？A.向用户披露训练数据来源B.通过独立第三方合规审计C.向监管机构缴纳风险保证金D.公开算法可解释性白皮书2.某医疗影像AI在测试集上AUC=0.98，但上线后召回率骤降。经溯源，最可能违反的伦理原则是：A.公平性B.可解释性C.数据代表性D.可追溯性3.联邦学习框架下，参与方使用同态加密保护梯度，仍可能遭受的攻击是：A.模型逆向B.成员推理C.梯度泄露D.后门投毒4.依据ISO/IEC23894:2025，AI系统残余风险评级为“不可容忍”时，下一步措施是：A.立即下线B.引入人工复核C.降低置信阈值D.购买责任保险5.在生成式AI内容水印方案中，实现“不可见且抗压缩”的关键技术是：A.离散小波变换+扩频B.对抗训练+正则化C.差分隐私+噪声层D.知识蒸馏+量化6.某市交警使用人脸识别抓拍闯红灯行人并大屏曝光，被处罚人起诉获胜，法院主要援引的法律条文是：A.个人信息保护法第13条最小必要原则B.民法典第1032条人格权C.行政处罚法第32条程序正当D.网络安全法第41条告知同意7.在多智能体强化学习系统中，为防止“奖励黑客”现象，最有效的治理层干预是：A.限制策略网络参数量B.引入人类偏好对齐层C.降低环境随机性D.增加探索噪声8.2026年NISTAIRMF2.0版新增的“气候影响”指标，主要评估：A.训练能耗的碳排当量B.模型推理延迟C.芯片供应链地缘政治风险D.数据中心PUE值9.某招聘AI因标签缺失导致对残障群体歧视，最佳技术补救措施是：A.重采样B.对抗性去偏C.后处理阈值调整D.合成数据增强10.在AISaaS服务SLA中，以下哪项指标直接体现伦理合规性？A.MTTRB.RPOC.EUI（EthicalUptimeIndex）D.TPS二、多项选择题（每题3分，共15分，多选少选均不得分）11.以下哪些行为构成“算法共谋”的垄断风险？A.多个平台使用同一第三方定价AIB.竞争对手共享市场数据训练模型C.企业通过强化学习动态跟随对手价格D.行业协会发布推荐价格模型12.关于合成数据生成，符合伦理要求的实践包括：A.使用差分隐私保证ε≤1B.对稀有群体进行过采样C.在公开前进行成员推理测试D.保留原始数据时间戳13.在AI辅助司法量刑场景中，可解释性必须覆盖：A.特征重要性排序B.反事实个案解释C.模型整体逻辑链D.训练数据分布14.以下属于“AI红队”测试范畴的是：A.提示词注入B.模型蒸馏C.数据投毒D.硬件侧信道15.依据2026年《生成式AI服务管理办法（修订）》，提供者应在何时完成“伦理影响自评”？A.模型训练前B.部署前C.版本更新≥30%参数D.用户投诉量>1‰/日三、判断题（每题1分，共10分，正确打“√”，错误打“×”）16.使用LoRA微调不会引入新的伦理风险，因为原模型权重被冻结。17.在边缘设备部署INT8量化模型可完全消除成员推理攻击。18.联邦学习服务器可通过安全聚合协议获得原始用户数据。19.对生成式AI输出进行“红蓝对抗”测试属于技术冗余，因已有RLHF。20.依据GDPR第22条，用户有权拒绝完全基于自动化决策的重大影响决定。21.AI系统若通过ISO27001认证，则默认满足AI伦理要求。22.模型卡片（ModelCard）必须披露训练能耗及碳排。23.使用区块链存证可保证训练数据不可篡改，从而解决数据偏见。24.在医疗AI中，只要医生保留最终签字权，系统无需可解释性。25.对AI生成内容添加C2PA元数据可有效追踪篡改历史。四、填空题（每空2分，共20分）26.2026年《人工智能伦理公约》将“人类监督”分为________、________、________三个等级。27.在差分隐私中，隐私预算ε与数据泄露概率呈________关系。28.当AI系统处理儿童生物识别数据时，依据COPA2025修正案，必须获得________的________同意。29.模型权重泄露攻击中，攻击者通过________接口反复查询logits，利用________恢复嵌入层。30.生成式AI输出检测常用哈希函数为________，其碰撞概率低于________。五、简答题（每题10分，共20分）31.某金融风控AI在灰度期间对某少数民族群体拒绝率高出均值3.2倍，请给出“技术+治理”双轨解决方案，要求列出量化指标与时间表。32.说明“奖励模型中毒”在RLHF中的攻击路径，并设计一种基于滑动窗口的异常检测算法（给出伪代码）。六、计算题（15分）33.某语言模型训练语料含100TB明文，采用差分隐私随机梯度下降，参数如下：训练轮次E=5，采样率q=0.01，噪声乘子σ=1.5，梯度裁剪阈值C=0.1。请用MomentsAccountant计算总隐私预算ε，给出LaTeX公式与数值结果（δ=1e-5）。七、案例分析题（20分）34.背景：2026年3月，A市地铁部署“智能安检仪X”利用计算机视觉识别可疑爆炸物。上线第七天，系统将一名携带尿不湿的母亲识别为“疑似炸药包”，导致乘客滞留并引发舆情。已知：1)训练数据含90%欧美人群，尿不湿样本仅200张；2)模型在测试集AUC=0.97；3)部署阈值0.85，现场光照强度低于训练集1.5档；4)未设置人工复核通道。任务：（1）用“5W1H”框架撰写一份事故根因分析报告（不超过400字）；（2）提出包含“数据—模型—系统—治理”四层的整改路线图，每层给出可量化验收指标；（3）若需在72小时内上线临时缓解措施，请给出最小代价方案并评估残余风险。卷后答案与解析一、单项选择1.B独立审计是高风险系统强制要求。2.C上线后分布漂移导致召回下降，典型数据代表性问题。3.C同态加密无法隐藏梯度符号信息，仍可能泄露。4.A残余风险“不可容忍”必须下线。5.ADWT+扩频可在频域隐藏水印且抗压缩。6.B公开曝光侵犯人格权。7.B人类偏好对齐抑制奖励黑客。8.A气候影响聚焦碳排。9.B对抗性去偏直接优化公平性指标。10.CEUI为伦理可用性指标。二、多项选择11.ABCD均可能构成算法共谋。12.ABCD项时间戳可能泄露成员信息。13.ABCD项非必须。14.ACD蒸馏属于模型压缩，非攻击。15.BC部署前与重大更新需自评。三、判断16×LoRA引入新参数，仍可能放大偏见。17×量化降低精度，但成员推理仍可行。18×安全聚合不暴露原始数据。19×红蓝对抗是必要补充。20√21×27001为信息安全，不覆盖伦理。22√23×区块链无法解决偏见源头。24×医疗AI需可解释性，无论是否人工复核。25√四、填空26.人在环中、人在环上、人在环外27.指数28.监护人，书面29.模型推理，嵌入矩阵分解30.SHA-256，2^{-256}五、简答31.技术轨：①重采样：对少数民族样本过采样至占比≥30%，使用SMOTE-NC合成5000例；②对抗去偏：引入公平性正则项，令demographicparity差≤0.02；③阈值优化：在FPR≤0.01约束下，令各群体FPR差异≤0.002。治理轨：①成立伦理审查小组7日内完成审计；②建立申诉通道，48小时内人工复核；③每月发布公平性报告，连续3月达标方可全量。时间表：T+7天完成数据增补，T+14天模型迭代，T+30天评估验收。32.攻击路径：攻击者控制少量标注员，将有害输出标记为高奖励，污染奖励模型R，使策略π对齐错误偏好。滑动窗口异常检测伪代码：输入：奖励序列{r_t}，窗口大小w，阈值kfortin[w,T]:μ=median(r_{t-w:t})σ=MAD(r_{t-w:t})z=|r_tμ|/σifz>k:alert(t)输出：异常时刻列表六、计算题33.采用MomentsAccountant：ε代入q=0.01,E=5,δ=1e-5,C=0.1,σ=1.5：ε总隐私预算ε≈0.0068，满足ε<1的强隐私要求。七、案例分析（1）根因：Why-数据不足；What-误检尿不湿；Who-少数族裔母亲；When-夜间低照度；Where-地铁安检口；How-缺人工复核。（2）整改路线：数据层：72小时内增补5000张亚洲低照度尿不湿图