2026年人工智能算法安全性考试试题及答案

2026年人工智能算法安全性考试试题及答案一、单项选择题（每题2分，共20分）1.在对抗样本攻击中，攻击者通过添加微小的扰动使模型产生错误分类，这种扰动通常满足什么约束？A.扰动幅度尽可能大B.扰动幅度尽可能小，且肉眼不可察觉C.扰动必须改变所有像素D.扰动必须使模型输出置信度最高答案B2.以下哪种方法不属于对抗训练（AdversarialTraining）的范畴？A.使用PGD攻击生成对抗样本并加入训练集B.在训练时对输入进行随机平滑C.使用FGSM生成对抗样本进行训练D.将对抗样本与原始样本混合训练答案B3.差分隐私的核心参数ϵ（epsilon）越小，表示隐私保护程度？A.越高，但数据可用性可能降低B.越低，数据可用性提高C.不变D.越高，数据可用性也越高答案A4.在联邦学习中，恶意参与者可能通过修改本地模型更新来破坏全局模型，这种攻击属于？A.投毒攻击B.对抗攻击C.隐私推断攻击D.模型窃取攻击答案A5.模型可解释性中，LIME（LocalInterpretableModel-agnosticExplanations）的核心思想是？A.训练一个全局可解释的模型B.在局部用简单模型近似复杂模型C.使用注意力机制D.通过梯度可视化答案B6.在机器学习公平性中，“群体公平”通常指的是？A.不同群体在模型预测结果上具有相同的概率（如命中率）B.模型对所有个体都给出相同预测C.模型的特征对所有群体平等使用D.模型训练数据完全平衡答案A7.后门攻击（BackdoorAttack）的特征是？A.模型在正常输入下性能下降B.模型在含有特定触发器的输入上产生攻击者指定的错误输出C.模型对所有输入都输出同一类别D.模型参数被加密答案B8.关于模型鲁棒性评估，以下哪种说法是正确的？A.鲁棒性仅指对随机噪声的稳定性B.鲁棒性包括对恶意攻击、分布偏移、噪声等多方面的稳定性C.鲁棒性越高，模型准确率一定越高D.鲁棒性可以通过增加模型参数量自动提升答案B9.在隐私保护机器学习中，允许在不共享原始数据的前提下，多个参与方协作训练全局模型的技术是？A.同态加密B.差分隐私C.联邦学习D.安全聚合答案C10.关于AI算法安全性的伦理问题，以下哪项不属于算法偏见可能导致的危害？A.招聘系统对女性候选人有偏见B.人脸识别对深肤色人群识别率较低C.推荐算法导致信息茧房D.模型在对抗样本下失效答案D二、多项选择题（每题3分，共15分）1.以下哪些属于常见的对抗攻击方法？A.FGSMB.PGDC.C&WD.Dropout答案ABC解析Dropout是正则化技术，不属于对抗攻击方法。2.防御对抗样本的常见策略包括？A.对抗训练B.输入预处理（如去噪、压缩）C.随机化D.增加训练数据答案ABC解析增加训练数据是一般性改进措施，但不是专门针对对抗样本的常用防御策略。3.差分隐私的实现技术包括？A.拉普拉斯机制B.高斯机制C.指数机制D.梯度裁剪答案ABC解析梯度裁剪通常与差分隐私结合使用，但不是差分隐私本身的机制。4.在联邦学习安全性中，面临的威胁包括？A.恶意客户端投毒B.服务端窃取梯度信息C.成员推理攻击D.模型后门注入答案ABCD5.关于AI可解释性，以下说法正确的有？A.LIME是一种局部解释方法B.SHAP基于博弈论中的Shapley值C.决策树天然具有可解释性D.深度学习模型完全不可解释答案ABC解析深度学习模型可以通过多种工具进行解释，D说法过于绝对。三、填空题（每空1分，共10分）1.在对抗样本生成中，FGSM（快速梯度符号法）通过计算损失函数对输入的______，并沿其符号方向添加扰动。答案梯度2.差分隐私中，常见的两种噪声机制是拉普拉斯机制和______机制。答案高斯3.在模型攻击中，______攻击是指攻击者通过查询模型接口，反复输入样本并观察输出，从而窃取模型功能或训练数据。答案模型窃取（或模型提取）4.机器学习公平性中的“equalizedodds”（机会均等）要求不同群体具有相同的______率和假阳性率。答案真阳性（或真正例率）5.联邦学习的基本框架是：多个客户端在本地训练模型，然后将______上传至服务器进行聚合。答案模型更新（或梯度）6.后门攻击中，攻击者通常需要在训练阶段向模型中注入______。答案触发器（或后门）7.可解释性中的“全局解释”与“局部解释”相比，全局解释试图解释模型的______行为。答案整体（或全局）8.安全聚合（SecureAggregation）技术可以确保服务器无法获取每个客户端的______。答案原始梯度（或本地模型更新）9.在对抗鲁棒性评估中，通常使用______攻击作为强攻击基准来测试模型。答案PGD（或投影梯度下降）10.隐私保护中，k-匿名要求每个等价类中的记录数量至少为______。答案k四、简答题（每题5分，共20分）1.简述什么是对抗样本，并说明其产生的主要原因。答案对抗样本是经过精心构造的输入，通过添加微小扰动使模型以高置信度输出错误结果。产生原因主要包括：模型在高维空间中的线性特性、过度拟合训练数据、缺乏对未知扰动的鲁棒性等。2.什么是差分隐私？其核心思想是什么？答案差分隐私是一种隐私保护技术，通过向查询结果中添加随机噪声，使得任何单个样本的加入或删除对输出结果的影响有限，从而保护个体隐私。核心思想是确保算法在相邻数据集上的输出分布近似不可区分。3.在联邦学习中，如何防范恶意客户端投毒攻击？答案可采取以下措施：使用鲁棒聚合算法（如Krum、中位数聚合、TrimmedMean）；对客户端更新进行异常检测；引入差分隐私限制单客户端影响；对模型进行验证和测试。4.请列举三种提高模型可解释性的方法，并简要说明。答案(1)LIME：在局部用简单模型近似复杂模型，解释单个预测；(2)SHAP：基于Shapley值分配特征贡献；(3)决策树/线性模型：本身结构透明，可直接理解。五、综合应用题（共35分）1.（15分）假设你是一名AI安全工程师，需要对一个图像分类模型进行对抗鲁棒性评估。请设计一个评估方案，包括：(1)选择两种对抗攻击算法并说明理由；(2)描述评估指标；(3)简述防御建议。答案(1)选择FGSM和PGD。理由：FGSM是单步快速攻击，作为基线测试；PGD是多步强攻击，能更充分地暴露模型脆弱性，作为强基准。(2)评估指标：模型准确率（Accuracy）、攻击成功率（ASR）、扰动幅度（如L2或L(3)防御建议：采用对抗训练（如使用PGD生成样本加入训练）、输入预处理（去噪、压缩）、随机平滑、防御蒸馏等。2.（20分）某金融机构使用机器学习模型进行贷款审批，但审计发现该模型对特定种族群体的拒绝率显著高于其他群体。请从算法公平性角度分析：(1)可能的原因有哪些？(2)如何检测和量化不公平性？(3)提出至少三种缓解不公平性的方法。答案(1)可能原因：训练数据中存在历史偏见（如过去贷款记录中的歧视）；特征选择不当（某些特征可能作为敏感属性的代理变量）；模型过拟合导致放大差异；评估指标未考虑公平性。(2)检测与量化：计算不同群体间的拒绝率差异（人口统计均等）、假阳性率与假阴性率差异（机会均等）；使用统计检验（如卡方检验）判断差异显著性；绘制校准曲线比