2026招聘人工智能工程师面试题及答案

2026招聘人工智能工程师面试题及答案一、单项选择题（每题2分，共20分）1.在PyTorch中，若模型在训练阶段显存占用持续上升，最可能的原因是A.未调用model.eval()B.未使用withtorch.no_grad()C.未对loss进行item()释放计算图D.未设置pin_memory=True2.下列关于Transformer中ScaledDot-ProductAttention的描述，正确的是A.缩放因子为d_k^{-1}B.缩放因子为\sqrt{d_k}C.缩放因子为\frac{1}{\sqrt{d_k}}D.不需要缩放3.在联邦学习场景下，采用FedAvg算法时，服务器端聚合权重与哪项成正比A.客户端本地学习率B.客户端本地epoch数C.客户端本地数据集大小D.客户端模型参数量4.使用混合精度训练时，LossScaling的主要作用是A.加速梯度下降B.避免下溢C.提高显存利用率D.减少通信量5.在目标检测任务中，若AP@0.5较高而AP@0.75骤降，最可能的问题是A.类别不平衡B.定位框回归精度不足C.NMS阈值过高D.数据增强过强6.下列哪项技术最适合解决“模型在A医院数据表现好，在B医院数据表现差”的问题A.知识蒸馏B.领域自适应C.模型压缩D.早停策略7.在强化学习中，DDPG使用以下哪种技巧保证策略平稳更新A.TargetNetwork软更新B.DoubleQ-LearningC.PrioritizedReplayD.NoisyNet8.关于BERT的NSP任务，下列说法正确的是A.NSP损失函数为交叉熵B.NSP输入为两个连续句子C.NSP标签仅0/1D.以上都对9.在推荐系统冷启动阶段，引入知识图谱的主要收益是A.降低存储成本B.利用外部语义补充交互稀疏性C.提高在线推理速度D.减少特征工程10.若将ResNet-50的ReLU替换为GELU，理论上模型参数量A.增加约25%B.不变C.减少约10%D.增加<0.1%二、多项选择题（每题3分，共15分，多选少选均不得分）11.以下哪些操作可有效缓解LLM推理时的Out-of-MemoryA.GradientCheckpointingB.8-bit量化C.KV-Cache分页D.使用FlashAttention12.在DiffusionModel训练阶段，以下哪些损失函数形式曾被采用A.MSE对ε_θ预测B.KL散度对q(x_{t-1}|x_t)C.对比学习InfoNCED.交叉熵对离散token13.关于AUC-ROC，下列说法正确的是A.对正负样本比例敏感B.取值范围[0,1]C.随机分类器期望值为0.5D.可用于多分类OvR平均14.在MLOps流水线中，以下哪些属于典型的DataDrift检测指标A.KL散度B.PSIC.Wasserstein距离D.F1-score15.使用DeepSpeedZeRO-3时，下列哪些状态被切分到所有GPUA.优化器动量B.梯度C.参数D.激活三、填空题（每空2分，共20分）16.在VisionTransformer中，位置编码常用二维sincos形式，其频率沿维度i呈________衰减。17.若batchsize=64，初始学习率0.1，采用线性缩放规则将batch扩大到512，则新学习率应为________。18.使用FocalLoss时，当γ=2、α_t=0.25，易分样本的权重衰减系数为________。19.在PyTorchLightning中，若要在多卡训练时同步BN统计量，应将strategy设置为________。20.若LSTM输入x_t维度为128，隐藏层维度256，则单个时间步可训练参数量为________。21.在知识蒸馏中，温度T→∞时，softmax输出趋近于________分布。22.若采用RandAugment，默认幅度M=10，则最大旋转角度为________度。23.在TensorRT中，若某算子不支持，需回退到________模式。24.使用AdamW时，权重衰减系数λ=0.01，则参数更新公式中惩罚项为________。25.若将GPT自回归生成改为并行解码，可采用________解码算法。四、判断题（每题1分，共10分，正确打“√”，错误打“×”）26.LayerNorm在RNN中通常作用于时间维度。27.Mixup数据增强可直接用于目标检测标签插值。28.在联邦学习中，SecureAggregation可防止服务器看到单个客户端梯度。29.使用GroupNorm时，分组数等于batchsize可退化为InstanceNorm。30.在CTR预估中，DeepFM的FM部分可视为对特征的一阶和二阶显式交叉。31.强化学习中，PolicyGradient定理对连续动作空间依然成立。32.使用EarlyStopping时，monitor的patience越大，越可能过拟合。33.在图像分割任务中，DiceLoss对前景像素与背景像素数量不平衡不敏感。34.使用混合专家模型MoE时，门控网络通常采用Softmax输出。35.在DiffusionModel采样阶段，DDIM可在少于训练步数下生成高质量样本。五、简答题（每题8分，共24分）36.描述FlashAttention的内存复杂度优势，并给出伪代码关键行。37.解释梯度累积与大批量训练的等价条件，并给出学习率缩放公式。38.在推荐系统多任务学习中，MMoE与Shared-Bottom结构在梯度冲突上有何差异？请用数学语言说明。六、计算与推导题（共31分）39.（10分）已知ResNet-50在ImageNet-1k上Top-1准确率为76.2%，现引入SE模块后参数量增加10%，FLOPs增加3%，若Top-1提升至77.5%，请计算SE模块带来的准确率和效率的Pareto改进指标P并讨论该指标局限性。40.（10分）给定一个二分类任务，正负样本比1:99，使用FocalLoss，设γ=3，α_t=0.25，请推导当p_t=0.9时，FocalLoss相对于CELoss的相对衰减系数，并计算具体数值。41.（11分）在Transformer中，设Q,K,V∈R^{n×d}，注意力权重矩阵A=softmax(QK^T/\sqrt{d})，证明：t并进一步证明当n≫d时，A近似低秩，给出秩的上界表达式。七、编程题（共30分）42.（30分）请用PyTorch实现一个带因果掩码的稀疏注意力机制，要求：1.支持任意稀疏模式（传入二维boolmask）；2.使用自定义CUDA算子接口（可伪代码描述）；3.前向输出与标准Attention数值误差<1e-5；4.显存复杂度O(n+nnz)，nnz为稀疏模式非零元素；5.提供单元测试，验证n=2048、稀疏度90%时，显存节省≥8×。附：答案与解析一、单项选择题1.Closs.item()释放计算图，否则梯度图累积。2.C缩放因子\frac{1}{\sqrt{d_k}}防止softmax饱和。3.CFedAvg按数据量加权。4.B混合精度下小梯度易下溢，LossScaling放大后缩放。5.BAP@0.75对定位精度更敏感。6.B领域自适应解决分布偏移。7.ADDPG采用软更新目标网络。8.DNSP用交叉熵，输入两段，标签0/1。9.B知识图谱补充稀疏交互。10.B激活函数替换不改变参数量。二、多项选择题11.ABCD四项均可减显存。12.ABDiffusion主流MSE对ε或KL对逆过程。13.BCAUC对比例不敏感，随机期望0.5，可多分类OvR。14.ABCF1-score非漂移指标。15.ABCZeRO-3切分优化器、梯度、参数。三、填空题16.指数17.0.818.0.0012519.ddp_find_unused_parameters_false20.4×128×256+4×256×256+3×256=39475221.均匀22.3023.PyTorch24.λθ_t25.Speculative四、判断题26×LayerNorm作用于特征维度27×Mixup需修改框坐标28√29√30√31√32√33√34√35√五、简答题36.标准Attention内存O(n^2)，FlashAttention通过分块tiling将Softmax归约拆分到SRAM，无需存储大矩阵。伪代码关键：```pythonforiinrange(0,n,Br):Qi=Q[i:i+Br]forjinrange(0,n,Bc):Kj=K[j:j+Bc]Vj=V[j:j+Bc]Sij=Qi@Kj.TscaleSij=Qi@Kj.Tscalemij=rowmax(Sij)Pij=exp(Sijmij)lij=rowsum(Pij)Oi=Oiexp(mi_oldmi)+Pij@VjOi=Oiexp(mi_oldmi)+Pij@Vjmi_old=mi```37.梯度累积等价大批次的条件是学习率线性缩放：设累积步数K，则同时需保证总样本数相同，即epoch数除以K。38.Shared-Bottom梯度为=易冲突；MMoE引入门控g_k(x)，梯度=通过加权缓解冲突，门控可学习调节。六、计算与推导题39.ΔP局限性：未考虑推理延迟、显存、实际部署带宽。40.FC