2025年人工智能基础知识考试试题及答案

2025年人工智能基础知识考试试题及答案一、单项选择题（每题2分，共30分）1.在深度学习中，若将ReLU激活函数替换为LeakyReLU，其主要目的是A.降低显存占用B.缓解神经元“死亡”现象C.加速反向传播收敛D.提高卷积核感受野答案：B。LeakyReLU在负半轴保留微小梯度，可避免梯度为零导致的神经元永久失活。2.下列关于Transformer位置编码的说法正确的是A.绝对位置编码无法外推到更长序列B.相对位置编码必须引入额外可学习参数C.RoPE编码在复数域完成旋转操作D.ALiBi位置编码对注意力得分加以指数衰减答案：A。绝对正余弦编码公式固定，超出训练长度时频率分量不再匹配。3.在联邦学习场景下，客户端上传梯度而非原始数据，主要防范的安全威胁是A.模型逆向攻击B.成员推理攻击C.投毒攻击D.旁道攻击答案：A。梯度可泄露训练样本，但相比直接传输原始数据，逆向难度显著增加。4.若使用混合精度训练，LossScaling的初始值通常选择A.动态范围最大值B.2的幂次且接近梯度最大量级C.1.0D.学习率乘以0.01答案：B。经验上取2^k，使最小梯度乘以scale后超出FP16下溢区间。5.在DDPM扩散模型中，q(x_{t-1}|x_t)被称为A.前向核B.反向核C.变分后验D.证据下界答案：B。反向过程通过神经网络拟合该核，实现逐步去噪。6.下列关于Mamba状态空间模型的描述，错误的是A.采用选择性机制压缩序列B.卷积视图下等效于全局因果卷积C.训练阶段可并行化D.推理阶段复杂度与序列长度呈线性答案：D。Mamba通过扫描算法将推理复杂度降至O(N)，而非线性。7.在RLHF中，奖励模型训练通常采用A.MSE回归B.交叉熵分类C.排序损失如Bradley-TerryD.策略梯度答案：C。对比人类偏好对，使用成对排序损失。8.若将BatchNorm替换为GroupNorm，下列说法正确的是A.对小batch更鲁棒B.引入通道间相关性C.需要保存运行均值方差D.仅适用于全连接层答案：A。GroupNorm计算与batch无关，适合batch=1的在线推理。9.在自监督视觉预训练中，SimSiam避免崩溃的关键是A.动量编码器B.停止梯度操作C.对比负样本D.聚类分配答案：B。停止梯度切断对称路径，防止模型退化为常数输出。10.下列关于LoRA微调的说法，错误的是A.仅训练低秩矩阵B.可插入任意线性层C.推理时需合并原权重D.显存占用高于全参数微调答案：D。LoRA通过低秩分解显著降低激活显存。11.在LLM推理阶段，采用speculativedecoding的主要收益是A.降低功耗B.提升单样本延迟C.减少采样随机性D.增加显存占用答案：B。小模型并行生成草稿，大模型并行验证，显著降低延迟。12.若使用A搜索求解RL环境最优策略，启发函数h需满足A.可采纳且一致B.大于真实代价C.非负即可D.与g值无关答案：A。可采纳保证不遗漏最优路径，一致保证单调性。13.在神经辐射场(NeRF)中，位置编码γ(x)采用A.正余弦级联B.可学习线性投影C.球谐函数D.小波基答案：A。高频映射增强MLP对细节拟合能力。14.下列关于GNNOver-Smoothing的描述，正确的是A.随着层数增加，节点表示趋于正交B.可通过DropEdge缓解C.仅出现在无向图D.与特征维度无关答案：B。随机丢弃边可减缓信息过度平均。15.在AutoML中，Early-Stopping的patience参数若设置过大，可能导致A.欠拟合B.过拟合C.搜索加速D.显存下降答案：B。验证指标已恶化但继续训练，模型记忆训练集噪声。二、多项选择题（每题3分，共30分）16.下列哪些技术可提升VisionTransformer在中小数据集上的精度A.数据增强如RandAugmentB.蒸馏至CNN教师C.使用PatchMerge降采样D.引入局部窗口注意力答案：A、D。增强与局部偏置均可缓解数据不足。17.关于对比学习损失InfoNCE，以下说法正确的是A.温度系数τ越小，分布越尖锐B.负样本数量增加会降低梯度方差C.与互信息下界相关D.等价于交叉熵答案：A、C、D。负样本增多实际增加方差，但提高下界紧度。18.在LLM安全对齐中，RLAIF相比RLHF的优势包括A.降低人类标注成本B.可扩展更多语言C.消除奖励黑客可能D.支持细粒度规则更新答案：A、B、D。AI反馈仍可能黑客，故C错误。19.下列关于DiffusionTransformer(DiT)的说法，正确的是A.将U-Net卷积块替换为Transformer块B.使用AdaLN调节时间步C.在ImageNet256上FID优于LDMD.训练采用VQGAN编码器答案：A、B、C。DiT直接操作像素空间，无需VQGAN。20.在边缘设备部署INT8量化模型时，可能引入的误差来源有A.激活溢出B.权重量化尺度粒度C.偏置未量化D.层融合顺序答案：A、B、D。偏置通常以INT32累加，不引入新误差。21.下列关于MoE(MixtureofExperts)稀疏激活的描述，正确的是A.专家容量因子影响负载均衡B.SwitchTransformer采用Top-1路由C.专家dropout可防止过拟合D.推理时显存随专家数线性增加答案：A、B、C。推理仅加载被激活专家，显存不线性增加。22.在NeRF加速训练中，以下哪些做法有效A.体素八叉树剪空B.重要性采样空域C.哈希编码位置特征D.降低射线采样精度答案：A、B、C。降低采样精度会引入噪点，反而降低收敛速度。23.关于多模态CLIP模型，以下说法正确的是A.图像编码器可使用VisionTransformerB.文本编码器最后一层后加L2归一化C.对比损失温度参数可学习D.零样本分类无需任何标签答案：A、B、C、D。CLIP在推理时通过提示模板即可分类。24.在强化学习PPO算法中，下列超参数对训练稳定性影响显著的是A.裁剪系数εB.价值函数损失系数C.熵奖励系数D.回滚片段长度答案：A、B、C、D。四项均显著影响策略更新幅度与探索。25.下列关于深度学习优化器AdaFactor的说法，正确的是A.不保存平方梯度矩阵B.按行归一化二阶矩C.适用于大模型微调D.等价于AdamW答案：A、B、C。AdaFactor通过低秩近似省去平方矩阵，与AdamW不等价。三、填空题（每空2分，共20分）26.在Transformer自注意力中，QK^T除以√d_k是为了防止________。答案：梯度消失或梯度爆炸，维持数值稳定性。27.若使用cosineannealing学习率调度，其周期通常设置为________个epoch。答案：总训练epoch数，实现单周期余弦退火。28.在DDIM采样中，若将噪声调度系数σ_t设为0，则退化为________过程。答案：确定性隐式采样，方差为零。29.将FP32权重转为BF16时，尾数精度从23位降至________位。答案：7。BF16总16位，1符号8指数7尾数。30.在MAML元学习中，任务特定梯度更新步长称为________参数。答案：内环或内层，inner-loop。31.若使用K-Means对CLIP视觉特征聚类，初始中心选择采用________++算法可加速收敛。答案：K-Means++。32.在语音合成VITS中，文本先验编码器输出________分布参数，用于随机时长模型。答案：正态或对角高斯，均值与方差。33.在目标检测YOLOv8中，CIoU损失同时考虑重叠面积、中心点距离与________。答案：长宽比一致性。34.若使用DeepSpeedZero-3，优化器状态、梯度与参数均被________到各GPU。答案：分片，shard。35.在图神经网络中，若聚合函数为均值，则节点表示近似对应随机游走的________分布。答案：平稳或稳态。四、判断题（每题1分，共10分）36.使用ReZero初始化可以让残差分支输出初始为零，从而加速深层网络收敛。答案：正确。ReZero引入可缩放置零初始残差。37.在扩散模型中，增加扩散步数T一定能降低采样FID。答案：错误。步数过多会累积神经网络误差，反而升高FID。38.将LayerNorm替换为RMSNorm可减少约7%训练显存。答案：正确。RMSNorm去掉均值统计，节省激活缓存。39.在LLM推理中，KV-Cache压缩技术如StreamingLLM会丢失初始token信息。答案：正确。滑动窗口丢弃早期key-value。40.使用GroupConvolution一定比标准卷积参数少。答案：错误。当groups=1时二者等价；groups>1且输入输出通道不匹配时参数可能增加。41.在联邦学习FedAvg中，客户端本地epoch越多，全局模型收敛越快。答案：错误。本地epoch过大导致客户端漂移，减慢收敛。42.对比学习中的硬负样本挖掘可通过增大batchsize隐式实现。答案：正确。大batch提供更多负样本，增加硬负概率。43.在VisionTransformer中，去掉clstoken改用全局平均池化会降低ImageNet精度。答案：错误。当前多数实现二者精度相当，甚至GAP略高。44.使用FlashAttention的主要目的是减少计算复杂度从O(N²)到O(N)。答案：错误。FlashAttention通过分块减少显存读写，计算量仍为O(N²)，但常数减小。45.在NeRF中，若仅优化颜色网络而不优化密度网络，则几何形状无法恢复。答案：正确。密度决定不透明度，缺失则无法重建几何。五、简答题（每题10分，共30分）46.描述LoRA在LLM微调中的数学原理，并说明为何能显著降低显存。答案：设原权重W∈ℝ^{d×k}，LoRA引入低秩分解W'=W+BA，其中B∈ℝ^{d×r},A∈ℝ^{r×k},r≪min(d,k)。训练时冻结W，仅优化A、B，梯度需保存的激活显存从O(dk)降至O(dr+rk)。由于r常取4~64，远小于d,k（如4096），显存节省可达30%~50%。推理阶段可合并W'=W+BA，不引入额外延迟。47.解释扩散模型中Classifier-FreeGuidance的公式及其对生成质量的影响。答案：设无条件得分ε_θ(x_t,∅)，条件得分ε_θ(x_t,c)，引导后得分ε̂=ε_θ(x_t,c)+w·(ε_θ(x_t,c)−ε_θ(x_t,∅))，其中w为引导系数。当w>1时，生成样本更贴合条件c，但w过大将降低多样性并引入模式崩塌。实验表明ImageNet256最优w≈3~5，FID先降后升。48.对比分析CNN、Transformer、Mamba在长序列建模中的复杂度与显存占用。答案：CNN局部卷积核复杂度O(N)，但感受野线性增长，需深层捕获长程；显存O(N)与通道数成正比。Transformer自注意力计算O(N²)，显存O(N²)存取QK^T，限制长序列。Mamba通过选择性状态空间扫描，计算O(N)，显存O(N)仅保存状态向量，支持超长序列单卡推理。三者权衡：CNN局部归纳偏置强，Transformer全局但昂贵，Mamba线性且保持全局，但缺乏视觉局部先验，需更多数据弥补。六、综合应用题（共30分）49.某团队需在边缘GPU（6GB显存）上部署7B参数LLM，要求推理延迟<100ms/token。现有方案：A.使用INT4权重量化+KV-CacheINT8；B.采用投机解码（草稿模型1.3B，接受率0.75）；C.使用FlashAttention-2；D.启用DeepSpeedZero-3推理模式。请评估各方案可行性，给出组合策略并计算峰值显存与延迟。答案：1)显存估算：7B参数INT4占3.5GB；KV-Cache按序列长2048、batch=1、头维128、层32、96头，缓存总量=2×2048×96×128×32×1Byte≈1.5GB；激活用FlashAttention-2，峰值≈0.8GB；总计≈5.8GB<6GB，方案A+C可行。2)投机解码：草稿模型1.3BINT4占0.65GB，与主模型共存需额外缓存，峰值升至6.45GB溢出。采用分时加载：草稿推理后卸载，主模型验证时重载，增加延迟10ms，但接受率0.75使平均步长1.33，等效延迟=90/1.33≈67ms<100ms，方案B可折中。3)Zero-3推理用于多卡，单卡无收益且增加通信，排除D。4)最终策略：INT4+KV-CacheINT8+FlashAttention-2+投机解码（分时加载），峰值显存5.8GB，平均延迟67ms，满足要求。50.给定一个二值分类数据集，正负样本比1:99，模型输出概率p。请设计一个基于FocalLoss的改进损失，使易分负样本权重进一步下降，并给出梯度形式。答案：设标准FocalLossFL=−α(1−p)^γlogp，对负样本p→0权重为α。为进一步抑制，引入双曲衰减因子cosh(βp)，当p接近0时cosh≈1，p增大迅速上升。改进损失L=−yα(1−p)^γ/cosh(βp)·logp−(1−y)αp^γ/cosh(