2026年AI算法工程师深度学习实践考察试题及答案

2026年AI算法工程师深度学习实践考察试题及答案一、单项选择题（每题2分，共20分）1.在PyTorch中，若需要将一个张量从计算图中分离，使其不再参与自动求导，但保持与当前设备一致且数据共享，应使用下列哪个操作？A.tensor.numpy()B.tensor.item()C.tensor.detach()D.tensor.clone()答案：C解析：detach()会返回一个与当前张量共享数据但requires_grad=False的副本，适合从计算图中摘除；clone()会复制数据，但仍保留计算图连接。2.在Transformer的缩放点积注意力中，为什么要除以dkA.防止梯度爆炸B.防止点积数值过大导致Softmax梯度饱和C.增加模型参数量D.降低矩阵乘法的计算复杂度答案：B3.关于BatchNormalization，下列说法正确的是？A.训练和推理时都使用当前批次的均值与方差B.推理时使用训练阶段维护的全局滑动平均值C.只能用于卷积层，不能用于全连接层D.可以完全替代Dropout，且永远不需要验证集答案：B解析：BN在训练时使用当前批统计量并更新滑动均值/方差，推理时使用全局滑动平均值，因此训练与推理行为不同。4.在TensorFlow中，默认情况下tf.GradientTape()会记录哪些操作？A.对任意tf.constant执行的操作B.对可训练tf.Variable执行的操作C.所有Python算术运算D.只有tf.keras.layers.Dense内部的操作答案：B5.训练过程中，训练集损失持续下降，验证集损失先降后升，这说明模型出现了？A.欠拟合B.过拟合C.梯度消失D.学习率过小答案：B6.在多标签图像分类任务中，每个样本可以同时属于多个类别，最合适的损失函数是？A.CrossEntropyLossB.MSELossC.BCEWithLogitsLossD.TripletLoss答案：C解析：多标签问题通常对每个类别独立做二分类，因此使用Sigmoid+二分类交叉熵，而非多类别Softmax交叉熵。7.一个尺寸为32×32的特征图，经过A.30B.32C.34D.28答案：B解析：输出尺寸公式为O=⌊(8.下列哪一项不是缓解过拟合的常用手段？A.DropoutB.增加训练轮数C.权重衰减D.数据增强答案：B解析：增加训练轮数可能加剧过拟合，与之相反，早停才是常用手段。9.下列哪种结构组合最有助于缓解深层网络的梯度消失？A.Sigmoid+更深的全连接层B.ReLU+残差连接C.Softmax+随机池化D.Tanh+无归一化答案：B10.关于ONNX协议，下列说法正确的是？A.它是分布式训练参数同步协议B.它是一种跨框架的深度学习模型中间表示格式C.它是GPU并行计算的底层驱动D.它是数据增强流水线标准答案：B二、多项选择题（每题3分，共15分）1.下列哪些措施可以有效降低过拟合风险？A.对数据集做随机裁剪、翻转等增强B.在隐藏层间加入DropoutC.在损失函数中加入L2正则化D.当验证损失连续多轮不下降时提前终止训练答案：ABCD解析：四种方式分别从数据多样性、网络随机失活、参数约束和模型选择角度抑制过拟合。2.关于学习率调度，下列说法正确的有？A.余弦退火可以在训练过程中周期性或单调地调整学习率B.学习率warmup常用于预训练或大BatchSize训练，以稳定前期更新C.ReduceLROnPlateau在监控指标停止改善时降低学习率D.学习率设置得越大，训练收敛后的Loss一定越低答案：ABC解析：D过于绝对，过大的学习率可能导致不收敛或发散，并不保证Loss更低。3.在训练GAN时，以下哪些技巧常被用来提高训练稳定性？A.标签平滑B.对判别器使用频谱归一化C.在WGAN-GP中使用梯度惩罚D.完全冻结生成器，只训练判别器答案：ABC解析：D违背对抗训练原则，实际训练需要交替更新生成器和判别器。4.关于Transformer中的注意力机制，下列说法正确的有？A.Self-Attention可以直接建模序列中任意两个位置的依赖关系B.Multi-HeadAttention会拼接多个头的输出并做一次线性投影C.Attention的计算过程中不包含任何可学习参数D.解码器中的MaskedSelf-Attention用于防止关注未来位置答案：ABD解析：C错误，Q、K、V的投影矩阵和输出投影矩阵都是可学习参数。5.关于混合精度训练，下列说法正确的有？A.前向传播和反向传播可以使用FP16计算，同时保留FP32的权重主副本B.动态损失缩放（LossScaling）可以减轻FP16梯度下溢问题C.使用混合精度后，所有算子都必须强制使用FP16D.混合精度训练可以降低显存占用，并在支持硬件上加速训练答案：ABD解析：C错误，并非所有算子都适合FP16，部分算子仍需保持FP32以保证数值稳定性。三、判断题（每题1分，共10分）1.在计算图中，某个张量的梯度等于从该张量出发的所有反向传播路径上梯度的累加。答案：正确2.ReLU激活函数的负半轴梯度为0，因此它可以完全消除所有深层网络的梯度消失问题。答案：错误解析：ReLU正半轴梯度为1，能缓解梯度消失，但仍可能出现神经元死亡，且梯度消失还与网络结构、初始化、归一化等因素有关，不能说"完全消除"。3.增大BatchSize一定会使模型在测试集上的准确率更高。答案：错误4.使用预训练模型进行迁移学习时，通常冻结前几层或降低学习率可以保留预训练特征。答案：正确5.卷积层的输出通道数与卷积核的数量相等。答案：正确6.LSTM通过遗忘门、输入门和输出门控制信息流动，能够在一定程度上缓解传统RNN的长期依赖问题。答案：正确7.Softmax对输入同时加上一个常数后，输出概率分布保持不变。答案：正确解析：ex8.在PyTorch中，model.eval()会同时关闭Dropout和BatchNormalization的统计更新，并彻底停止梯度计算。答案：错误解析：model.eval()只切换模块状态，不开启torch.no_grad()；要停止梯度计算需要使用torch.no_grad()或torch.inference_mode()。9.所有神经网络层的权重都可以安全地初始化为0。答案：错误10.Transformer中位置编码的唯一作用是引入词频统计信息。答案：错误解析：位置编码用来提供序列位置或相对位置信息，与词频无关。四、填空题（每题2分，共10分）1.标准LSTM中包含三个门控单元，其中控制上一时刻细胞状态保留/遗忘比例的是______，控制当前候选信息写入量的是______。答案：遗忘门；输入门2.在PyTorch中，使用torch.optim.SGD时，训练循环内更新参数前需要调用________来清空梯度，否则梯度会在多次反传中累积。答案：zero_grad()3.ResNet中通过________连接将前一层的输出直接加到当前层输出之后，使得梯度可以沿短路路径回传。答案：残差（跳跃）连接4.对于多分类问题，网络最后一层通常使用________函数将Logits转换为概率分布，再与交叉熵损失配合。答案：Softmax5.在目标检测中，用于量化预测框与真实标注框重叠程度的指标缩写为________，其值等于两框交集面积与并集面积之比。答案：IoU五、简答题（每题5分，共15分）1.简述BatchNormalization在训练阶段和推理阶段的行为区别，并说明在卷积网络中它通常沿哪些维度计算统计量。答案：训练阶段，BN使用当前mini-batch内样本的均值和方差对激活值进行归一化，并使用这些批统计量更新全局滑动平均和滑动方差；推理阶段，BN不再使用当前批统计量，而是使用训练阶段保留的全局滑动均值/方差完成归一化。在卷积网络中，BN对每个通道独立计算统计量，即在一个batch内，沿batch、高度、宽度三个维度聚合，对每个通道归一化。2.写出多分类交叉熵损失的数学形式，并说明在分类任务中它比均方误差更常用的原因。答案：设样本数为N，类别数为C，真实标签为one-hot向量yi,cL常用原因：交叉熵与Softmax组合得到的损失关于Logits的梯度形式简洁且数值稳定，当预测错误时梯度较大，有助于有效学习；而均方误差配合Sigmoid/Softmax时，误差项中会出现激活函数的导数，容易导致梯度消失，且它对概率分布差异的度量不如交叉熵敏感。3.已知输入特征图通道数为Cin，输出通道数为Cout答案：参数量公式为：C其中后半部分为bias参数量。当K=1时可化简为1×六、计算与案例分析题（每题10分，共30分）1.一个单隐藏层神经网络结构如下：输入x=1，隐藏层权重w1=2，偏置b1=0，激活函数为ReLU；输出层权重w2（1）前向传播得到y和损失L；（2）分别计算∂L∂w（3）令学习率η=0.1，写出w1答案：（1）隐藏层激活：z输出：y损失：L（2）输出层梯度：∂隐藏层梯度：∂ReLU在z1=2∂（3）梯度下降更新：ww解析：本题使用链式法则逐层展开梯度，注意MSE前系数12使(2.给定Transformer中单个注意力头的一组向量（均已通过输入投影得到）：queryq=(1,0)，两个key分别为k1=(答案：注意力分数：ss注意力权重：αα输出：Output因此输出向量约为(1.66解析：缩放点积注意力先计算q⋅k，再除以3.某同学训练一个50层ResNet图像分类模型。训练刚开始几个epoch后出现以下现象：训练Loss突然变为NaN，且后续batch的Loss始终为NaN；另一次实验则始终Loss不下降，验证准确率接近随机猜测。请结合深度学习实践，分别针对这两种现象，至少各给出2种可能原因和对应的排查/解决思路。答案：针对训练Loss突变为NaN：（1）学习率过大。解决：减小学习率，或使用warmup、学习率调度；必要时查看前几个step的梯度范数。（2）梯度爆炸。解决：使用梯度裁剪，例如torch.nn.utils.clip_grad_norm_；检查网络结构是否存在数值不稳定因素。（3）数据中含有NaN或无穷大值。解决：检查输入数据与标签，对缺失值、异常值做清洗，并增加数据加载校验。（4）损失函数或Softmax数值不稳定。解决：使用数值稳定的实现，如torch.nn.CrossEntropyLoss，避免对Logits先做Softmax再取Log，防止下溢。针对Loss不下降、验证精度接近随机猜测：（1）学习率过小或过大。解决：尝试不同学习率范围，可通过LRFinder进行粗调。（2）数据预处理或标签错误。解决：可视化训练样本与标注，确认类别