2026年深度学习实践考试试卷及答案

2026年深度学习实践考试试卷及答案一、单项选择题（本大题共20小题，每小题2分，共40分。在每小题给出的四个选项中，只有一项是符合题目要求的）1.在深度学习训练过程中，如果发现训练集的Loss持续下降，但验证集的Loss在下降一段时间后开始上升，这通常意味着模型发生了什么现象？A.欠拟合B.过拟合C.梯度消失D.梯度爆炸2.在PyTorch中，下列哪个函数用于将模型参数的梯度清零？A.torch.zero_grad()B.model.grad_zero()C.optimizer.zero_grad()D.model.clear_grad()3.关于卷积神经网络（CNN）中的池化层，下列说法错误的是？A.池化层可以降低特征图的维度，减少计算量B.最大池化有助于保留纹理特征C.平均池化对背景信息的保留更好D.池化层包含可学习的参数，需要通过反向传播更新权重4.Transformer模型的核心机制是自注意力机制，其计算公式中AtteA.增加梯度的数值稳定性，防止softmax进入饱和区B.加速矩阵运算C.增加模型的非线性表达能力D.减少参数数量5.在优化算法中，Adam优化器结合了哪两种算法的思想？A.SGD和MomentumB.Momentum和RMSpropC.RMSprop和AdagradD.SGD和Adagrad6.下列哪种正则化方法在训练深度神经网络时，随机让一部分神经元的输出失效？A.L1正则化B.L2正则化C.DropoutD.BatchNormalization7.在处理序列数据时，相比于RNN，LSTM（长短期记忆网络）引入了“门控机制”，以下不属于LSTM门控单元的是？A.遗忘门B.输入门C.输出门D.注意力门8.在目标检测任务中，非极大值抑制（NMS）的主要作用是？A.提取图像特征B.计算损失函数C.过滤重叠度高的候选框，保留最佳框D.数据增强9.下列哪个激活函数在输入值非常大时，梯度不会消失，且输出中心化？A.SigmoidB.TanhC.ReLUD.LeakyReLU10.在PyTorch中，若张量`x`的形状为`(64,3,32,32)`，其中64为batchsize，3为通道数，32x32为图片尺寸。若使用`nn.Conv2d(3,16,kernel_size=3,stride=1,padding=1)`进行卷积，输出张量的形状为？A.(64,16,30,30)B.(64,16,32,32)C.(64,3,32,32)D.(64,16,34,34)11.在图像分割任务中，常用的损失函数是？A.CrossEntropyLossB.MSELossC.DiceLoss或IoULossD.HingeLoss12.关于BatchNormalization（BN），下列描述正确的是？A.BN层通常放在激活函数之后B.BN层在测试时的均值和方差使用训练时的滑动平均值C.BN可以完全替代DropoutD.BN会导致梯度消失问题更严重13.在迁移学习中，如果我们将预训练模型（如在ImageNet上训练的ResNet）的特征提取层参数冻结，仅训练全连接层，这种做法的主要目的是？A.加快训练速度，并防止在数据量较小时破坏预训练权重B.增加模型的容量C.提高模型的泛化能力D.减少模型的存储空间14.下列关于生成对抗网络（GAN）的描述，错误的是？A.GAN由生成器和判别器组成B.训练目标是达到纳什均衡C.生成器希望最大化判别器的损失D.判别器希望区分真实样本和生成样本15.在深度学习中，数据增强技术常用于扩充数据集。对于图像分类任务，下列哪种操作不属于几何变换？A.随机旋转B.随机裁剪C.随机水平翻转D.随机调整亮度16.当使用GPU进行训练时，若显存不足（OOM），下列哪种做法通常不能有效缓解显存压力？A.减小BatchSizeB.使用梯度累积C.增加模型层数D.使用混合精度训练17.在深度学习模型评估中，若正负样本极度不平衡（如负样本占99%），准确率可能很高但没有参考价值，此时应优先关注哪个指标？A.AccuracyB.PrecisionC.RecallD.F1-Score或AUC18.ResNet（残差网络）通过引入残差连接解决了什么问题？A.梯度消失/爆炸，允许训练更深的网络B.过拟合C.计算速度慢D.参数量过大19.在自然语言处理（NLP）中，BERT模型主要利用了哪种架构？A.Encoder-onlyB.Decoder-onlyC.Encoder-DecoderD.RNN20.在超参数调优中，下列哪种方法属于启发式搜索算法，比网格搜索更高效？A.随机搜索B.贝叶斯优化C.穷举搜索D.手动调参二、多项选择题（本大题共10小题，每小题3分，共30分。在每小题给出的四个选项中，有多项是符合题目要求的。全部选对得满分，选少得部分分，错选不得分）1.下列哪些是解决过拟合问题的常用方法？A.增加训练数据量B.使用正则化（L1/L2/Dropout）C.减小模型复杂度（减少层数或神经元数）D.提高学习率2.在PyTorch中，定义一个自定义神经网络模块需要继承哪个类，并重写哪些方法？A.继承`torch.nn.Module`B.重写`__init__`方法C.重写`forward`方法D.重写`backward`方法3.下列关于学习率的描述，正确的有？A.学习率过大可能导致模型无法收敛，Loss震荡B.学习率过小会导致收敛速度非常慢C.学习率调度器可以在训练过程中动态调整学习率D.学习率必须始终是一个大于1的常数4.Transformer模型相比于传统的RNN/LSTM模型，具有哪些优势？A.能够并行计算，训练效率高B.通过自注意力机制捕捉长距离依赖能力更强C.对位置信息不敏感，天生具备位置感知能力D.模型泛化能力一定优于RNN5.在深度学习实践中，模型融合的常用方法包括？A.Voting（投票法）B.Averaging（平均法）C.Stacking（堆叠法）D.Bagging（如多个不同初始化的模型）6.下列哪些属于卷积神经网络的典型组件？A.卷积层B.池化层C.全连接层D.Embedding层7.在使用深度学习框架时，下列哪些操作会导致计算图的构建？A.创建张量B.对张量进行加法运算（若requires_grad=True）C.调用`.item()`获取标量值D.调用`.backward()`进行反向传播8.关于循环神经网络（RNN）的梯度消失问题，下列说法正确的有？A.主要是因为链式法则中连乘项导致的B.使用ReLU激活函数可以完全避免梯度消失C.LSTM和GRU设计初衷之一就是为了缓解梯度消失D.梯度裁剪可以解决梯度消失问题9.语义分割任务中，常用的网络架构包括？A.FCN(FullyConvolutionalNetworks)B.U-NetC.MaskR-CNND.ResNet10.在MLOps（机器学习运维）流程中，模型部署前通常需要进行的步骤包括？A.模型量化B.模型剪枝C.模型转换（如ONNX格式）D.仅在训练集上验证准确率三、填空题（本大题共15空，每空2分，共30分）1.在深度学习中，若损失函数为交叉熵损失，通常在输出层不使用Sigmoid激活函数，而是直接输入Logits，这主要是为了数值计算的稳定性，该组合在PyTorch中对应函数是`__________`。2.假设输入图像大小为5×5，使用3.在LSTM单元中，`__________`门决定了细胞状态中哪些信息将被丢弃。4.为了解决梯度爆炸问题，通常在反向传播更新权重前进行`__________`操作。5.在目标检测YOLO系列算法中，将目标检测问题转化为回归问题，直接预测边界框的`__________`和类别概率。6.PyTorch中，`torch.nn.CrossEntropyLoss`内部集成了`LogSoftmax`和`__________`。7.在生成对抗网络中，生成器的输入通常是随机噪声，常使用`__________`分布生成的数据。8.深度学习中的微调技术通常涉及将预训练模型的层`__________`，然后以较小的学习率进行训练。9.对于图像分类任务，假设输入图片尺寸为224x224，经过一个卷积层（kernel=7,stride=2,padding=3），输出尺寸为`__________`。10.在评估分类模型时，TP表示TruePositive，FP表示FalsePositive，则精确率的计算公式为`__________`。11.Transformer模型中，为了弥补位置信息的缺失，引入了`__________`编码。12.在使用GPU进行张量运算时，需要将数据和模型都移动到GPU上，假设`device`为cuda对象，移动模型的方法是`model.to(device)`，移动输入数据`inputs`的方法是`__________`。13.K近邻算法虽然不是深度学习算法，但在深度学习中常用于作为`__________`的基准对比。14.在深度学习中，`__________`是一种通过将网络层的输出除以其标准差来加速训练的技术。15.当数据集较小而模型参数量很大时，模型倾向于记忆训练数据，这种现象称为`__________`。四、判断题（本大题共10小题，每小题1分，共10分。正确的打“√”，错误的打“×”）1.Sigmoid激活函数的输出范围是(0,1)，且在输入绝对值较大时梯度接近于0，容易导致梯度消失。()2.在PyTorch中，`view()`和`reshape()`函数在功能上完全等价，且总能保证返回数据的副本。()3.深度学习模型在测试阶段应当启用Dropout，以增加模型的鲁棒性。()4.卷积神经网络中的局部连接和权值共享特性大大减少了模型的参数量。()5.梯度下降法中，BatchGradientDescent每次迭代使用所有样本更新参数，因此内存消耗大，但收敛震荡小。()6.在多分类任务中，Softmax函数的输出之和一定为1。()7.数据归一化（如将像素值缩放到[0,1]或[-1,1]）对深度学习模型的收敛速度没有影响。()8.Transformer模型完全抛弃了卷积操作和循环操作，仅依靠注意力机制处理序列信息。()9.早停法是一种防止过拟合的策略，即当验证集Loss在若干个Epoch内不再下降时停止训练。()10.混合精度训练主要是利用GPU的TensorCore来加速计算，同时减少显存占用，但可能会带来数值精度的轻微损失。()五、简答题（本大题共5小题，每小题6分，共30分）1.简述ReLU激活函数的优点及其存在的“DeadReLU”问题，并给出一种改进方案。2.解释卷积神经网络中感受野的概念，并说明如何增大感受野。3.在深度学习训练中，BatchSize的大小对训练过程（如梯度下降方向、泛化能力、训练速度）有哪些影响？4.简述Transformer模型中Multi-HeadAttention（多头注意力机制）的作用原理及优势。5.请列举至少三种常用的图像数据增强方法，并说明它们各自的作用。六、应用与分析题（本大题共3小题，共50分）1.（15分）代码分析与填空。阅读以下PyTorch代码，这是一个简单的自定义神经网络模块及训练循环片段。请补全缺失的代码，并回答问题。```pythonimporttorchimporttorch.nnasnnimporttorch.optimasoptim#定义一个简单的两层全连接网络classSimpleNet(nn.Module):def__init__(self,input_size,hidden_size,num_classes):super(SimpleNet,self).__init__()#补全代码1：定义第一个全连接层self.fc1=__________self.relu=nn.ReLU()#补全代码2：定义第二个全连接层self.fc2=__________defforward(self,x):out=self.fc1(x)out=self.relu(out)out=self.fc2(out)returnout#初始化模型、输入和目标model=SimpleNet(10,20,2)inputs=torch.randn(5,10)#batch_size=5,input_dim=10targets=torch.tensor([0,1,0,1,1])#类别标签#定义损失函数和优化器criterion=nn.CrossEntropyLoss()optimizer=optim.SGD(model.parameters(),lr=0.01)#模拟一次训练步骤optimizer.zero_grad()#梯度清零outputs=model(inputs)loss=criterion(outputs,targets)#补全代码3：进行反向传播__________#补全代码4：更新参数__________print(f"CurrentLoss:{loss.item()}")```(1)请在横线处补全缺失的代码。(2)如果将`nn.ReLU()`替换为`nn.Sigmoid()`，可能会对训练产生什么影响？2.（15分）模型设计与分析。假设你需要设计一个用于文本分类的模型，输入为固定长度的句子（单词索引序列），输出为类别概率。(1)请画出或描述该模型的结构图，要求包含以下层次：Embedding层（将单词索引转换为稠密向量）LSTM层（提取序列特征，取最后一个时间步的输出）全连接层+Dropout+激活函数(2)假设词表大小为10000，Embedding维度为128，LSTM隐藏层维度为256，类别数为10。请计算Embedding层的参数量以及LSTM层的参数量（忽略偏置项）。(3)如果在训练中发现模型在训练集上Loss下降很快，但在验证集上Loss居高不下，你会采取哪些具体措施？3.（20分）综合案例分析。你是一名深度学习算法工程师，正在负责一个医疗影像诊断项目（二分类任务：患病/健康）。数据集包含5000张CT影像，其中患病样本500张，健康样本4500张。(1)数据预处理：在将图像送入网络前，通常需要进行哪些预处理操作？（列举至少3点）(2)问题诊断：你使用ResNet50作为预训练模型进行微调，初始学习率设为0.01，BatchSize设为32。训练10个Epoch后，发现Loss一直震荡，无法收敛。请分析可能的原因，并提出相应的解决方案。(3)指标优化：由于样本极度不平衡，准确率已经达到90%，但模型几乎将所有样本都预测为“健康”。请问此时应该关注哪些指标？请写出F1-Score的计算公式，并说明其物理意义。(4)部署策略：模型训练完成后，需要部署到医院的服务器上，推理速度要求高。请列举两种模型压缩或加速技术，并简述其原理。参考答案及详细解析一、单项选择题1.B(解析：训练集Loss下降而验证集Loss上升，是典型的过拟合特征，模型学到了训练数据的噪声而非通用特征。)2.C(解析：在PyTorch中，优化器对象`optimizer`拥有`zero_grad()`方法用于清空梯度，`model`对象本身没有直接清空梯度的方法，虽然可以通过参数遍历手动清零，但标准做法是使用optimizer的方法。)3.D(解析：池化层（最大池化、平均池化）通常是固定操作，不包含可学习的权重参数。)4.A(解析：缩放因子用于点积后的缩放，防止点积结果过大导致softmax进入梯度极小的饱和区，有助于梯度的反向传播。)5.B(解析：Adam结合了Momentum（一阶矩估计）和RMSprop（二阶矩估计）的思想。)6.C(解析：Dropout在训练时随机将神经元输出置为0，防止神经元共适应。)7.D(解析：LSTM包含遗忘门、输入门和输出门，没有注意力门（注意力机制是Transformer或Attention-basedRNN引入的）。)8.C(解析：NMS用于目标检测后处理，去除重叠度过高的冗余框。)9.B(解析：Tanh输出在(-1,1)之间，具有中心化特性；ReLU在大输入时梯度恒定但不消失也不饱和；Sigmoid会导致梯度消失；LeakyReLU解决了ReLU的死亡问题。)10.B(解析：卷积输出尺寸计算公式：=⌊(+11.C(解析：图像分割常关注区域重叠度，DiceLoss和IoULoss是常用指标。)12.B(解析：BN层在测试时通常使用训练期间统计的滑动平均均值和方差，而不是当前batch的统计值。)13.A(解析：冻结特征提取层参数可以防止在少量数据上破坏预训练学到的通用特征，同时加快训练速度。)14.C(解析：生成器希望判别器将生成的样本判别为“真”，即希望最大化判别器判“真”的概率，或者说最小化判别器判“假”的概率。通常表述为生成器希望“骗过”判别器。C选项表述“最大化判别器的损失”是不准确的，生成器是希望通过最小化log(15.D(解析：调整亮度属于颜色/光度变换，不属于几何变换。)16.C(解析：增加模型层数会显著增加显存占用和计算量，无法缓解OOM。减小BatchSize、梯度累积、混合精度训练都是缓解OOM的有效手段。)17.D(解析：在类别不平衡时，Accuracy具有误导性，F1-Score是Precision和Recall的调和平均，AUC考察排序能力，更能反映模型性能。)18.A(解析：残差连接引入恒等映射，使得梯度可以直接反向传播到前面的层，缓解了深层网络的梯度消失问题。)19.A(解析：BERT仅使用了Transformer的Encoder部分。GPT使用Decoder-only，T5/BART使用Encoder-Decoder。)20.B(解析：贝叶斯优化利用之前的评估结果构建代理模型来指导下一步搜索，比随机搜索和网格搜索更高效。)二、多项选择题1.ABC(解析：提高学习率通常导致发散或震荡，不是解决过拟合的方法。)2.ABC(解析：自定义模块需继承`nn.Module`，重写`__init__`和`forward`。`backward`由Autograd自动计算，通常不需要手动重写。)3.ABC(解析：学习率通常是很小的正数（如0.001），不一定要大于1。)4.AB(解析：Transformer并行且擅长长距离依赖。C错误，Transformer本身不具备位置感知，需加入位置编码；D错误，泛化能力取决于任务和数据。)5.ABCD(解析：Voting,Averaging,Stacking,Bagging都是常见的模型融合策略。)6.ABC(解析：Embedding层主要用于NLP，虽然可用于CNN处理离散特征，但CNN的典型组件通常指卷积、池化、全连接。)7.B(解析：只有涉及需要梯度的张量运算才会构建动态计算图。创建张量、`.item()`（标量）、`.backward()`（反向传播，结束计算图阶段）本身不属于构建图的核心运算。注：严格来说，`.backward()`是触发计算图的反向遍历。)8.AC(解析：RNN梯度消失源于长序列连乘。LSTM/GRU缓解了此问题。ReLU不能完全避免（仍可能发生）。梯度裁剪解决的是梯度爆炸。)9.AB(解析：FCN和U-Net是经典的语义分割网络。MaskR-CNN是实例分割，ResNet是分类/骨干网络。)10.ABC(解析：部署前通常需要量化和剪枝优化，并转换为通用格式如ONNX。仅在训练集验证是不对的，必须用测试集。)三、填空题1.`torch.nn.CrossEntropyLoss`(或`nn.CrossEntropyLoss`)2.`3x3`(解析：(53.遗忘4.梯度裁剪5.坐标6.NLLLoss(负对数似然损失)7.正态(或高斯/Gaussian/Normal)8.冻结9.`112x112`(解析：(22410.T11.位置12.`inputs.to(device)`13.深度学习模型14.BatchNormalization15.过拟合四、判断题1.√(Sigmoid两端梯度趋近0。)2.×(`view`要求张量在内存中连续，否则报错；`reshape`可以处理不连续的情况，且尽可能返回视图，必要时返回副本。)3.×(测试阶段应关闭Dropout（model.eval()），使用全部权重。)4.√(CNN的两个核心特性。)5.√(全量梯度下降稳定但慢。)6.√(Softmax定义性质。)7.×(归一化能极大加速收敛，防止梯度消失/爆炸。)8.√(Transformer架构特点。)9.√(EarlyStopping定义。)10.√(混合精度训练利用FP16加速，FP32保持关键步骤精度。)五、简答题1.ReLU优点及改进：优点：计算简单（max(0,x)）；缓解梯度消失问题（正区间梯度恒为1）；收敛速度快于Sigmoid/Tanh。DeadReLU问题：当输入小于0时，梯度为0，权重不再更新，该神经元可能永远不会被激活（“死亡”）。改进方案：使用LeakyReLU（负区间给一个很小的斜率，如0.01x），或者ELU、PReLU等。2.感受野概念及增大方法：概念：感受野是指CNN中某一层输出特征图上的一个像素点对应输入图像上映射的区域大小。它决定了网络能看到多大的上下文信息。增大方法：1.增加卷积层的堆叠深度（深层网络感受野更大）。2.使用池化层（下采样扩大感受野）。3.使用空洞卷积。4.直接增大卷积核的尺寸。3.BatchSize的影响：梯度下降方向：BatchSize越大，梯度估计越准确，方向越接近全量梯度，但可能陷入尖锐的极小值；小的BatchSize引入噪声，有助于跳出局部极小值，但震荡大。泛化能力：适中的噪声（小Batch）有时能提高泛化能力，但过小会导致模型难以学习。训练速度：大的BatchSize可以利用并行计算加速单次迭代，但收敛可能需要更多Epoch；小的BatchSize更新频繁，但无法充分利用GPU算力，总体耗时可能增加。4.Multi-HeadAttention原理及优势：原理：将输入的Query、Key、Value分别通过线性映射映射到h个不同的子空间，在每个子空间独立进行注意力计算，最后将所有头的输出拼接起来再做一次线性变换。优势：允许模型在不同的表示子空间中关注不同位置的信息，增强了模型捕捉多样化特征的能力（例如同时关注语法结构和语义关联）。5.图像数据增强方法：1.随机裁剪：强制模型学习局部特征，增加物体尺度不变性。2.随机水平/垂直翻转：增加物体方向不变性。3.颜色抖动：随机调整亮度、对比度、饱和度，模拟不同光照环境，增强颜色鲁棒性。4.随机旋转：增加旋转不变性。5.添加高斯噪声：模拟图像噪点，增强抗干扰能力。六、应用与分析题1.代码分析：(1)补全代码：补全1：`nn.Linear(input_size,hidden_size)`补全2：`nn.Linear(hidden_size,num_classes)`补全3：`loss.backward()`补全4：`optimizer.step()`(2)影响分析：Sigmoid函数将输出压缩到(0,1)。如果在隐藏层使用，容易导致梯度消失，使得深层网络难以训练。此外，Sigmoid输出非零中心，会减慢权重更新速度。通常在隐藏层优先使用ReLU。2.模型设计：(1)结构描述：输入：句子索引序列[Batch,Seq_Len]Embedding层：`nn.Embedding(vocab_size,embed_dim)`->输出[Batch,Seq_Len,128]LSTM层：`nn.LSTM(input_size=128,hidden_size=256,batch_first=True)`->输出[Batch,