2026年人工智能训练师（五级）基础理论考核试题

2026年人工智能训练师（五级）基础理论考核试题1.单项选择题（每题1分，共30分）1.1在监督学习框架下，当训练集样本量趋于无穷大时，经验风险最小化（ERM）的泛化误差上界主要受下列哪一项控制？A.假设空间VC维B.特征维度C.激活函数光滑度D.优化器学习率1.2若某深度卷积网络最后一层使用Softmax输出，则其损失函数对最后一层权重矩阵W的梯度∂L/∂W的维度与下列哪一组张量维度完全一致？A.批大小×类别数B.特征图高×特征图宽C.类别数×特征通道数D.批大小×特征通道数1.3在联邦学习场景下，为防御“模型逆向攻击”，下列哪种策略可在不显著降低全局模型精度的前提下最大程度抑制攻击者重建私有数据？A.增加本地训练epochB.上传梯度时添加差分隐私噪声C.提高客户端学习率D.采用更大批大小1.4当使用Adam优化器时，若β₁=0.9，β₂=0.999，则二阶矩估计的偏差修正项在t=1步时为A.1/(1−β₂)B.1/(1−β₁)C.1−β₂D.β₂/(1−β₂)1.5在Transformer自注意力机制中，若查询Q、键K、值V的维度均为d_k，则单次注意力头的计算复杂度随序列长度n的增长阶为A.O(n)B.O(nlogn)C.O(n²)D.O(n³)1.6若某图像分类任务采用MixUp数据增强，则其标签生成方式在数学上等价于A.硬标签One-hot与均匀分布的卷积B.两个样本标签的线性插值C.随机裁剪后重新标注D.高斯标签平滑1.7在强化学习中，若策略π(a|s)满足∇_θlogπ(a|s)的期望为零，则该性质直接保证了A.策略梯度无偏B.值函数估计方差最小C.重要性采样比为1D.优势函数为零1.8当使用知识蒸馏训练小模型时，温度参数T→∞，则软标签分布趋近于A.均匀分布B.原始硬标签C.Diracdelta分布D.标准高斯分布1.9在PyTorch框架中，若模型某层权重参数w的requires_grad=True，执行w.data+=1e-3后，下列说法正确的是A.反向传播时梯度会累积1e-3B.该操作不会被autograd追踪C.会触发in-place错误D.梯度自动清零1.10若某GPU显存为12GB，采用FP16混合精度训练，批大小为32，输入图像分辨率224×224×3，则理论上最大可加载的ResNet-50模型参数量约为（假设仅考虑存储激活值与参数，忽略临时缓存）A.25MB.50MC.100MD.200M1.11在模型剪枝中，若采用“权重幅值”作为重要性判据，则剪枝后重新训练的主要目的是A.恢复被剪枝权重的数值B.让剩余权重适应新结构C.提高剪枝率D.降低推理延迟1.12当使用BERT-base模型时，其最大位置编码索引为511，若输入文本token长度超过该值，则最合理的处理方式是A.直接截断尾部B.滑动窗口分段C.提高位置编码维度D.改用Transformer-XL1.13在生成对抗网络中，若判别器D(x)输出恒为0.5，则生成器损失处于A.饱和区B.非饱和区C.鞍点D.极大值1.14若某模型在验证集上的损失呈现“先降后升”趋势，则最可能的原因是A.学习率过高B.批大小过小C.过拟合D.梯度爆炸1.15在目标检测任务中，若采用CIoU损失，则其比DIoU损失多出的惩罚项针对的是A.中心点距离B.长宽比一致性C.重叠面积D.预测框置信度1.16当使用Kaiming初始化时，若激活函数为ReLU，则权重方差应设为A.2/fan_inB.1/fan_outC.2/fan_outD.1/fan_in1.17在AutoML框架中，若采用“早停+贝叶斯优化”搜索网络结构，则其核函数最常用A.线性核B.RBF核C.Matérn5/2核D.多项式核1.18若某模型在INT8量化后精度下降超过3%，则首选的校准策略是A.直接四舍五入B.熵校准C.最大值校准D.均值校准1.19在分布式数据并行训练中，若采用RingAll-Reduce，则通信时间随GPU数量n的增长阶为A.O(n)B.O(logn)C.O(1)D.O(n²)1.20当使用梯度累积模拟大batch时，若累积步数为k，则等效批大小为A.k×micro_batchB.k²×micro_batchC.micro_batch/kD.不变1.21在语音合成Tacotron2中，位置敏感注意力机制主要解决A.长序列梯度消失B.对齐单调性C.音素错读D.语速控制1.22若某模型采用GroupNorm，当batchsize=1时，下列说法正确的是A.等效于LayerNormB.等效于BatchNormC.数值不稳定D.必须同步统计量1.23在对比学习SimCLR中，温度参数τ越小，则负样本的梯度权重A.越大B.越小C.不变D.趋于零1.24若使用AUC作为二分类评价指标，则当正负样本比例从1:1变为1:10时，AUC的期望A.上升B.下降C.不变D.先升后降1.25在模型服务化部署中，若采用TensorRT，则其层融合策略主要针对A.激活函数与卷积B.池化与归一化C.矩阵乘与加法D.所有以上1.26当使用EarlyStopping时，若patience=10，则意味着A.连续10个epoch验证集性能无提升即停止B.累计10次提升后停止C.训练10个epoch后停止D.学习率衰减10次后停止1.27在文本对抗样本生成中，若采用“同义词替换”策略，则其搜索空间大小主要取决于A.词表大小B.句长C.同义词典大小D.嵌入维度1.28若某模型采用“余弦退火”学习率调度，则其最小学习率为A.0B.初始LR×10⁻⁴C.初始LR×10⁻²D.初始LR1.29在多任务学习中，若采用“不确定性加权”损失，则各任务权重由下列哪组参数自动学习A.任务特定网络输出B.可训练方差σ²C.固定超参D.梯度范数1.30当使用DeepSpeedZeRO-3优化器时，其最大显存节省理论上可达A.1×B.2×C.4×D.与GPU数无关2.多项选择题（每题2分，共20分；每题至少有两个正确答案，多选少选均不得分）2.1下列哪些操作可有效缓解BERTfine-tuning中的“灾难性遗忘”？A.逐层解冻B.降低学习率C.增加dropoutD.引入适配器模块2.2关于LabelSmoothing，下列说法正确的有A.可提升模型校准度B.会增大KL散度C.可视为对GroundTruth加入噪声D.对回归任务同样适用2.3在目标检测YOLOv5中，下列哪些策略用于提升小目标检测？A.多尺度训练B.FPNC.Mosaic增强D.CIOU损失2.4若采用“混合精度+梯度缩放”训练，下列哪些情况必须手动缩放损失？A.使用PyTorchamp.GradScalerB.使用TensorFlowtf.keras.mixed_precisionC.使用DeepSpeedfp16D.使用FairScalefp162.5下列哪些指标对类别不平衡敏感？A.准确率B.F1-scoreC.宏平均AUCD.微平均AUC2.6在Transformer中，下列哪些变体可显著降低长序列计算复杂度？A.LinformerB.PerformerC.SparseTransformerD.Reformer2.7关于GAN的“模式崩塌”，下列描述正确的有A.生成样本多样性下降B.判别器损失快速趋于零C.生成器损失震荡剧烈D.可采用Mini-batchdiscrimination缓解2.8若使用K-fold交叉验证，下列哪些做法可进一步降低方差？A.增加KB.重复多次K-foldC.分层采样D.使用Bootstrap2.9在模型压缩中，下列哪些方法属于“结构化剪枝”？A.通道剪枝B.神经元剪枝C.权重幅值剪枝D.块剪枝2.10下列哪些技术可有效提升长尾分类性能？A.重加权B.重采样C.迁移学习D.增大批大小3.判断题（每题1分，共10分；正确打“√”，错误打“×”）3.1对于L2正则化，其等效于在权重上施加高斯先验。3.2使用Swish激活函数时，DeepMind论文推荐默认β=0.2。3.3在PyTorch中，nn.CrossEntropyLoss已内置Softmax，因此模型最后一层无需再显式Softmax。3.4当使用Horovod分布式训练时，其采用参数服务器架构。3.5在图像分割任务中，DiceLoss对前景像素占比小的情况比交叉熵更鲁棒。3.6若学习率调度采用“Warmup+Cosine”，则Warmup阶段学习率线性上升。3.7使用TensorBoard时，scalar_summary的频率越高，训练速度一定越慢。3.8在强化学习PPO中，Clip参数ε通常设为0.2。3.9对于BERT模型，[CLS]向量在所有下游任务中都必须作为分类特征。3.10当使用ONNX导出模型时，动态轴设置可解决变长序列推理问题。4.填空题（每空2分，共20分）4.1若某卷积层输入张量尺寸为(N,C_in,H,W)，输出尺寸为(N,C_out,H′,W′)，则该层参数量的计算公式为______。4.2在Transformer中，若采用8头注意力，则每个头的维度d_head=______。4.3若使用FocalLoss，则当γ=0时，其退化为______损失。4.4若某模型参数量为120M，采用FP16存储，则理论上权重占用显存______GB。4.5在梯度下降中，若学习率α=0.01，动量β=0.9，则第t步动量更新公式为______。4.6若使用AveragingCheckpoint技术，则其本质是对模型权重进行______平均。4.7在语音增强中，若采用STFT，则窗函数通常选用______窗。4.8若使用RandAugment，则其搜索空间由两个超参数______和______控制。4.9在模型服务冷启动阶段，若采用“影子模式”，则线上流量______被真实返回。5.简答题（每题5分，共20分）5.1简述“梯度消失”与“梯度爆炸”产生的根本原因，并分别给出两种有效缓解策略。5.2对比BatchNorm、LayerNorm、InstanceNorm三者在统计量计算维度上的差异，并指出各自适用场景。5.3说明知识蒸馏中“温度升高”为何能增加软标签信息量，并给出温度T对梯度影响的数学解释。5.4在联邦学习场景下，简述“本地更新步数E”对通信效率与收敛精度的影响，并给出折中选取原则。6.计算与推导题（共30分）6.1（8分）给定二分类问题，正样本占比p=0.01，若使用加权交叉熵损失，求正样本权重w_pos应设为多少才能使正负样本对总损失的贡献相等（负样本权重为1）。6.2（10分）已知某全连接层权重W∈ℝ^{m×n}，输入x∈ℝ^{n×1}，采用标准反向传播，推导∂L/∂W的表达式，并说明其维度。6.3（12分）设某模型采用余弦学习率调度，初始学习率η₀=0.1，最小学习率η_min=1e-4，总步数T=1000，Warmup步数T_w=200，请给出第t步（1≤t≤T）的学习率η_t的完整分段公式，并计算t=300时的具体数值（保留4位小数）。7.综合应用题（共20分）7.1某电商场景需训练一个多语言商品标题向量检索模型，数据量10亿条，涵盖100种语言，平均句长15token。请设计一套“预训练+微调+部署”端到端方案，要求：(1)说明预训练任务与模型结构；(2)给出数据并行与模型并行结合策略；(3)说明如何在不泄露用户隐私前提下完成增量更新；(4)给出线上服务延迟<20ms的优化手段。卷后答案与解析1.单项选择1.1AVC维控制泛化界。1.2C∂L/∂W维度为类别数×特征通道数。1.3B差分隐私噪声可抵御逆向攻击。1.4A二阶矩偏差修正为1/(1−β₂^t)，t=1时为1/(1−β₂)。1.5C自注意力计算复杂度O(n²)。1.6BMixUp标签为线性插值。1.7A期望为零保证策略梯度无偏。1.8AT→∞输出分布趋于均匀。1.9B.data操作不进入计算图。1.10C估算得约100M参数。1.11B重训练让剩余权重适应。1.12B滑动窗口分段。1.13AD(x)恒0.5表示生成器饱和。1.14C先降后升典型过拟合。1.15BCIoU额外惩罚长宽比。1.16AKaiming初始化方差2/fan_in。1.17CMatérn5/2核常用。1.18B熵校准精度最高。1.19ARingAll-Reduce通信复杂度O(n)。1.20A累积k步等效批大小k×micro_batch。1.21B位置敏感注意力保证单调对齐。1.22Abatch=1时GroupNorm等效LayerNorm。1.23Aτ越小负样本梯度权重越大。1.24CAUC与类别分布无关。1.25DTensorRT融合所有可融合层。1.26Apatience定义连续无提升epoch。1.27C同义词典决定搜索空间。1.28A余弦退火最小可到0。1.29B不确定性加权通过可训练σ²学习。1.30CZeRO-3理论上节省4×显存。2.多项选择2.1ABD2.2ABC2.3ABC2.4AC2.5AD2.6ABCD2.7ABD2.8BC2.9ABD2.10ABC3.判断3.1√3.2×默认β=1。3.3√3.4×Horovod采用All-Reduce。3.5√3.6√3.7×频率与速度无必然关系。3.8√3.9×并非必须，可用池化等。3.10√4.填空4.1C_out×C_in×k_h×k_w4.2d_model/84.3标准交叉熵4.40.24GB4.5v_t=βv_{t-1}+(1−β)g_t4.6指数移动4.7Hann或Hanning4.8