技能考试人工智能训练师三级真题附答案

最新技能考试人工智能训练师三级真题附答案一、单项选择题（每题1分，共30分）1.在深度学习模型训练中，若验证集损失持续上升而训练集损失持续下降，最可能的原因是A.学习率过低B.模型欠拟合C.模型过拟合D.批次大小过大答案：C解析：验证集损失上升、训练集损失下降是过拟合的典型表现，模型已记忆训练数据而泛化能力下降。2.使用PyTorch实现早停（EarlyStopping）时，应监控的指标通常是A.训练集准确率B.验证集损失C.训练集损失D.测试集F1值答案：B解析：早停的核心是防止过拟合，需以验证集损失为监控信号，一旦连续若干轮未下降即终止训练。3.在NLP任务中，将“bank”映射为同一向量而忽略上下文，会出现A.梯度消失B.一词多义歧义C.数据泄露D.标签不平衡答案：B解析：静态词向量对多义词不敏感，无法根据上下文区分“河岸”与“银行”。4.下列关于Transformer自注意力机制的描述，正确的是A.查询向量Q与键向量K的点积直接作为权重B.权重矩阵需经过Softmax归一化C.值向量V不参与权重计算D.掩码仅用于编码器答案：B解析：自注意力权重由So5.在目标检测任务中，IoU阈值从0.5提升到0.75，最可能出现A.召回率上升，精确率下降B.召回率下降，精确率上升C.召回率与精确率均上升D.召回率与精确率均下降答案：B解析：IoU阈值提高，候选框需更严格匹配，漏检增加召回下降，但检出的框更准确，精确率上升。6.使用混合精度训练时，损失缩放（LossScaling）的主要目的是A.加速显存拷贝B.防止梯度下溢C.减少通信开销D.提高学习率答案：B解析：FP16下溢区间小，乘以系数放大损失可让梯度回到可表示范围，反向传播后再缩放。7.在联邦学习场景下，客户端上传的参数是A.原始训练数据B.模型权重梯度或权重C.验证集标签D.超参数配置答案：B解析：联邦学习遵循“数据不动模型动”，仅上传梯度或权重，保护隐私。8.当使用BERT进行文本分类时，在[CLS]向量后直接接Softmax，发现训练准确率达98%，测试仅62%，首选的改进策略是A.增大批次大小B.增加Dropout比率C.降低学习率D.冻结所有层只训练分类头答案：B解析：训练远高于测试准确率，说明严重过拟合，增加Dropout是最直接正则化手段。9.在强化学习中，策略梯度定理的核心表达式为A.JB.JC.JD.J答案：A解析：策略梯度定理利用对数导数技巧，将目标函数梯度转化为期望形式，可直接蒙特卡洛采样。10.在图像分割任务中，DiceLoss相较于交叉熵的优势是A.对类别不平衡不敏感B.对像素位置敏感C.可直接优化IoUD.梯度恒为1答案：A解析：DiceLoss基于重叠度，前景背景像素数量差异大时仍能稳定收敛。11.使用K-means对512维向量聚类，若初始中心点全选为同一向量，则算法A.收敛到全局最优B.第一次迭代后中心点仍相同C.必然陷入死循环D.自动重启随机初始化答案：B解析：K-means迭代两步：分配与更新。初始中心相同导致所有样本归为一类，更新后中心仍相同。12.在模型蒸馏中，学生模型主要学习教师模型的A.参数量B.输出层logits的软分布C.训练数据D.优化器状态答案：B解析：蒸馏通过温度缩放后的SoftTarget传递暗知识，使学生模仿教师置信度。13.下列激活函数中，二阶导数恒为0的是A.ReLUB.SigmoidC.TanhD.GELU答案：A解析：ReLU二阶导数在正半轴为0，负半轴为0，仅在0点不可导。14.在文本生成任务中，使用Top-p采样（NucleusSampling）时，p值越小，生成文本A.多样性越高B.重复越严重C.越保守D.越长答案：C解析：p小则候选词集合小，概率质量集中，生成结果更确定，多样性下降。15.当GPU显存不足时，以下方法中无法直接降低峰值显存的是A.梯度累积B.检查点（Checkpoint）C.混合精度D.减少批次大小答案：A解析：梯度累积仅拆分批次，峰值显存由单个小批次决定，无法降低。16.在Python中，使用torch.cuda.amp.autocast时，需手动关闭的默认行为是A.缓存分配B.类型转换C.梯度缩放D.异步拷贝答案：B解析：autocast会自动将FP32转为FP16，若模型已手动写死FP32，需关闭冲突。17.在推荐系统冷启动场景下，引入知识图谱的主要作用是A.降低计算复杂度B.利用实体关系补充交互稀疏C.提高召回率D.加速负采样答案：B解析：知识图谱提供属性与关系，缓解新物品无交互问题。18.当使用Horovod做分布式训练时，广播（Broadcast）操作发生在A.每轮前向传播后B.初始参数同步C.每轮反向传播前D.梯度聚合后答案：B解析：Horovod在首轮训练前广播初始参数，确保各进程起点一致。19.在VisionTransformer中，位置编码采用二维插值的原因是A.适应不同输入分辨率B.加速注意力计算C.减少参数量D.增强局部归纳偏置答案：A解析：预训练与微调分辨率常不同，二维插值可保持位置信息连续。20.在模型部署阶段，使用TensorRT进行INT8量化时，需提供的校准数据集作用是A.确定缩放因子B.微调权重C.生成动态图D.计算KL散度答案：A解析：校准集用于统计激活分布，计算每层缩放因子，最小化量化误差。21.在Python多进程读取大型TFRecord时，设置num_parallel_calls=AUTOTUNE主要优化A.CPU与I/O负载均衡B.GPU计算图C.显存碎片D.网络带宽答案：A解析：AUTOTUNE根据系统资源动态调节并行度，加速数据管道。22.在A/B测试中，若指标服从正态分布，检验功效（Power）与以下哪项无关A.样本量B.显著性水平αC.效应量D.实验组颜色答案：D解析：颜色与统计功效无关，其余均直接影响。23.使用Adam优化器时，超参数=0.9,=A.一阶动量B.二阶动量衰减C.学习率缩放D.权重衰减答案：B解析：决定梯度平方指数移动平均的衰减率。24.在生成对抗网络中，若判别器损失迅速趋于0，则生成器梯度A.变大B.变小C.不变D.为无穷大答案：B解析：判别器过强，生成梯度消失，无法更新。25.在语音合成Tacotron2中，停止Token预测使用A.MSE损失B.交叉熵C.余弦相似度D.CTC损失答案：B解析：停止Token为二分类，使用交叉熵。26.在模型解释性方法IntegratedGradients中，基线选择全黑图像适用于A.文本分类B.图像分类C.语音识别D.时间序列答案：B解析：全黑图像为中性输入，适合视觉任务。27.使用Scikit-learn的StandardScaler时，fit与transform必须A.在训练集上分开执行B.在测试集上合并执行C.在训练集fit，训练测试同transformD.在测试集fit答案：C解析：防止数据泄露，仅用训练统计量。28.在深度强化学习DDPG中，Target网络更新采用A.硬更新，每轮复制B.软更新，指数移动平均C.不更新D.随机更新答案：B解析：←τ29.在模型压缩技术中，ChannelPruning直接去除A.层数B.卷积核通道C.激活函数D.批归一化答案：B解析：剪枝掉不重要的通道，减少宽度。30.当使用ONNX导出动态Batch模型时，需指定的参数是A.dynamic_axesB.opset_versionC.input_namesD.output_names答案：A解析：dynamic_axes指定动态维度。二、多项选择题（每题2分，共20分）31.以下哪些操作可能缓解RNN梯度消失A.使用LSTMB.梯度裁剪C.增大学习率D.使用LayerNorm答案：A、B、D解析：LSTM用门控，LayerNorm稳定反向传播，梯度裁剪防止爆炸间接缓解消失。32.在VisionTransformer训练中，引入RandAugment可达到A.提升鲁棒性B.减少训练时间C.增加数据多样性D.降低显存答案：A、C解析：强数据增强提升泛化，不直接减少时间或显存。33.关于AUC指标，以下说法正确的是A.对正负样本比例不敏感B.取值范围[0,1]C.等于1时模型完美D.等于0.5时模型随机答案：A、B、C、D解析：AUC为ROC曲线下面积，具备上述性质。34.在PyTorchLightning中，以下哪些方法由框架自动调用A.training_stepB.configure_optimizersC.forwardD.on_train_epoch_end答案：A、B、D解析：forward需手动调用，其余由循环管理。35.使用知识蒸馏训练小型BERT时，教师可提供的监督信号包括A.注意力矩阵B.隐藏状态C.预测概率D.参数量答案：A、B、C解析：参数量不可作为信号。36.在目标检测YOLOv5中，以下哪些策略用于提升小目标检测A.多尺度训练B.增加检测层C.Mosaic增强D.FocalLoss答案：A、B、C解析：FocalLoss主要用于类别不平衡，非小目标专用。37.在联邦学习中，SecureAggregation可防御A.服务器窥探B.客户端掉线C.梯度泄露D.模型投毒答案：A、C解析：同态加密聚合防服务器窥探与梯度泄露，不直接防掉线与投毒。38.以下哪些属于自监督预训练任务A.BERT的MLMB.SimCLR的对比学习C.ImageNet有标签分类D.GPT的自回归答案：A、B、D解析：ImageNet为有监督。39.在模型服务灰度发布中，需监控的指标包括A.延迟P99B.错误率C.业务转化率D.代码行数答案：A、B、C解析：代码行数无关。40.使用ONNXRuntime部署时，可通过以下哪些方式加速A.图优化B.算子融合C.内存复用D.增加Python循环答案：A、B、C解析：Python循环降低性能。三、判断题（每题1分，共10分）41.使用LayerNorm的Transformer比使用BatchNorm更适应序列长度变化。答案：正确解析：LayerNorm沿特征维归一化，与序列长度无关。42.在数据并行训练时，增大GPU数量必然线性缩短训练时间。答案：错误解析：通信开销与同步导致亚线性。43.INT8量化后的模型推理速度一定比FP16快。答案：错误解析：若硬件不支持INT8，反而可能慢。44.使用梯度累积时，学习率应等比例放大累积步数。答案：正确解析：等效大批次，需放大学习率。45.在Python中，multiprocessing的Queue默认无限大。答案：错误解析：默认最大长度受限于系统内存，非无限。46.对于类别极度不平衡的二分类，Accuracy是最佳评价指标。答案：错误解析：应使用F1或AUC。47.在深度学习中，权重复用属于迁移学习的一种形式。答案：正确解析：预训练即迁移。48.使用混合精度训练时，损失缩放因子过大可能导致梯度溢出。答案：正确解析：反向缩放时可能超过FP16最大。49.在模型蒸馏中，温度系数越高，软标签分布越尖锐。答案：错误解析：温度高则分布更平滑。50.联邦学习中，客户端本地更新步数越多，通信频率越低。答案：正确解析：本地多步可减少上传轮次。四、填空题（每空2分，共20分）51.在Transformer中，自注意力计算复杂度为________。答案：O解析：n为序列长度，d为维度。52.若学习率设为0.01，使用余弦退火，T_max=100，初始epoch0的学习率为________。答案：0.01解析：余弦退火从初始值开始。53.在PyTorch中，将模型移至GPU的函数为________。答案：model.to('cuda')54.使用TensorBoard记录标量，需调用writer.add________。答案：scalar55.在Python中，使用________库可读取WAV文件并返回采样率与数组。答案：scipy.io.wavfile或librosa56.在目标检测mAP计算中，若PR曲线三点为(0,1),(0.5,0.8),(1,0)，则AP为________。答案：0.4解析：梯形面积(0.5×0.8+0.5×0.8)=0.4。57.在深度学习中，________正则化可同时实现特征选择与压缩。答案：L158.使用Horovod时，梯度平均需调用________函数。答案：hvd.allreduce59.在VisionTransformer中，PatchEmbedding通常使用________维卷积实现。答案：260.在GPT推理中，采用________搜索可平衡质量与多样性。答案：Top-p或Nucleus五、简答题（每题10分，共30分）61.描述一次完整的模型蒸馏流程，包括教师选择、温度缩放、损失设计及学生训练细节。答案：1.教师选择：选用参数量大、性能高、已充分训练的BERT-large作为教师，确保暗知识丰富。2.温度缩放：设置温度T=4，对教师logits除以T后Softmax，获得软标签，平滑分布传递类别间相似度。3.损失设计：总损失为ℒ=α·4.学生训练：学生为BERT-mini，batch=64，学习率3e-4，线性预热10%步数，权重衰减0.01，Dropout=0.1，训练10epoch，验证集F1达教师95%以上停止。5.评估：在测试集对比，学生推理延迟降低3倍，精度下降<2%，满足上线要求。62.给出一种在8卡V100上训练GPT-31.3B模型的混合并行策略，并说明通信与计算重叠方案。答案：采用Megatron-LM框架，结合数据并行+模型并行+流水线并行：1.模型并行：将每层Transformer按隐藏维拆成4份，置于同一节点4卡，减少单卡显存。2.流水线并行：将24层均分4段，每段6层，对应不同节点，共8卡形成2组流水线，组间数据并行。3.通信重叠：在反向传播计算同时，启动下一层梯度All-Reduce，使用NCCL异步流；引入GradientAccumulation=8，降低通信频率。4.激活检查点：每段内仅保存首尾激活，重计算中间激活，显存节省40%。5