人工智能对抗样本生成工程师岗位招聘考试试卷及答案

人工智能对抗样本生成工程师岗位招聘考试试卷及答案一、填空题（每题1分，共10分）1.对抗样本是指对输入样本微小修改后，能让____输出错误结果的样本。2.FGSM的全称是____。3.PGD是一种____迭代的白盒攻击方法。4.对抗样本攻击分为目标攻击和____攻击两类。5.FGSM中，对抗样本生成核心是计算损失对输入的____梯度。6.L∞范数约束限制对抗样本每个像素的____。7.C&W攻击基于____优化。8.JSMA针对____模型。9.对抗样本不可察觉性用____（如L∞、L2）衡量修改程度。10.生成对抗样本可____深度学习模型鲁棒性。二、单项选择题（每题2分，共20分）1.单步白盒攻击是（）A.FGSMB.PGDC.C&WD.JSMA2.FGSM中ε的作用是（）A.控制迭代次数B.控制修改幅度C.控制损失权重D.控制梯度方向3.PGD属于（）A.单步白盒B.迭代白盒C.黑盒D.无梯度攻击4.黑盒攻击包括（）A.基于迁移的攻击B.FGSMC.PGDD.C&W5.对抗样本不可察觉性要求（）A.修改量极小B.修改量极大C.与原样本完全相同D.无要求6.L2范数约束修改的是（）A.像素最大变化B.像素变化平方和开根号C.像素变化绝对值和D.平均变化7.C&W比FGSM的优势是（）A.速度更快B.攻击成功率更高C.不需要梯度D.是黑盒攻击8.JSMA是否需要梯度？（）A.需要B.不需要C.部分需要D.不确定9.目标攻击目的是（）A.输出任意错误类别B.输出指定错误类别C.输出正确类别D.无法分类10.对抗样本迁移性指（）A.跨模型攻击B.跨数据集攻击C.跨攻击方法迁移D.跨硬件迁移三、多项选择题（每题2分，共20分）1.对抗样本生成方法包括（）A.FGSMB.PGDC.C&WD.JSMA2.白盒攻击需要（）A.模型参数已知B.梯度可计算C.结构已知D.输出已知3.对抗样本核心特性（）A.不可察觉性B.迁移性C.针对性D.鲁棒性4.黑盒攻击包括（）A.基于迁移的攻击B.基于查询的攻击C.PGDD.FGSM5.C&W攻击优化目标（）A.最小化修改量B.最大化错误率C.最小化损失D.最大化梯度6.迁移性表现（）A.白盒样本攻击黑盒模型B.跨模型攻击C.训练集样本攻击测试集D.跨领域迁移7.FGSM核心步骤（）A.计算梯度B.符号修改输入C.迭代优化D.约束修改幅度8.常见约束（）A.L∞范数B.L2范数C.L0范数D.时间约束9.PGD正确说法（）A.FGSM迭代版B.小步修改+投影约束C.用于鲁棒性训练D.黑盒攻击10.对抗样本应用（）A.鲁棒性测试B.隐私保护C.图像隐写D.模型窃取四、判断题（每题2分，共20分）1.对抗样本仅存在于图像领域。（）2.FGSM是单步白盒攻击。（）3.PGD无需迭代。（）4.C&W基于梯度优化。（）5.</think_never_used_51bce0c785ca2f68081bfa7d91973934>针对神经网络模型。（）6.迁移性指跨模型攻击。（）7.黑盒攻击无需任何模型信息。（）8.目标攻击输出指定错误类别。（）9.L0范数约束修改像素数量。（）10.对抗样本只能攻击模型。（）五、简答题（每题5分，共20分）1.简述FGSM基本原理。2.对抗样本“不可察觉性”和“迁移性”指什么？3.比较FGSM和PGD的主要区别。4.简述C&W攻击核心思路。六、讨论题（每题5分，共10分）1.如何用对抗样本提升模型鲁棒性？2.对抗样本迁移性对实际安全的影响？---答案部分一、填空题答案1.深度学习模型2.FastGradientSignMethod3.多步4.非目标5.符号（Sign）6.最大修改幅度7.梯度下降8.神经网络9.范数10.测试（或评估）二、单项选择题答案1.A2.B3.B4.A5.A6.B7.B8.A9.B10.A三、多项选择题答案1.ABCD2.ABC3.ABC4.AB5.AB6.ABC7.ABD8.ABC9.ABC10.ABCD四、判断题答案1.×2.√3.×4.√5.√6.√7.×8.√9.√10.×五、简答题答案1.FGSM原理：计算损失对输入的梯度，按梯度符号以固定步长ε修改样本（x'=x+ε·sign(∇xL)），单步生成对抗样本，保证修改微小但误导模型。2.不可察觉性：样本修改极小，人眼无法区分（用范数约束）；迁移性：一个模型生成的对抗样本可攻击另一个未见过的模型。3.FGSMvsPGD：①FGSM单步，PGD多步；②FGSM大步修改，PGD小步+投影约束；③PGD攻击成功率更高，常作鲁棒性测试基准。4.C&W核心：将攻击转化为带约束的优化问题，最小化样本修改量（L2/L∞约束），同时最大化错误类别置信度，通过梯度下降迭代实现。六、讨论题答案1.提升鲁棒性方法：①对抗训练：训练中加入对抗样本；②数据增强：混合原样本与对抗样本；③正则化：约束模型对微小修改的敏感性