2026年人工智能算法工程师认证题库练习题及答案

2026年人工智能算法工程师认证题库练习题及答案一、单项选择题（共20题，每题1分，共20分）1.在大模型参数高效微调技术中，LoRA（Low-RankAdaptation）通过在Transformer注意力层的权重矩阵旁引入低秩分解矩阵实现微调，若原注意力查询投影层权重维度为4096×4096，LoRA的秩r设为8，则该层可训练参数量为（）A.32768B.65536C.131072D.262144答案：B解析：LoRA的低秩分解为两个矩阵A和B，其中A的维度为d×r，B的维度为r×d，d=4096，r=8，因此参数量为4096×8+8×4096=2×4096×8=65536。2.多模态对比学习模型CLIP通过对齐图像和文本的语义特征实现跨模态检索，其核心对比损失的特点是（）A.仅以图像为正样本，文本为负样本B.仅以文本为正样本，图像为负样本C.采用双向对称对比损失，图像和文本互为正负样本D.采用交叉熵损失，仅优化文本编码器答案：C解析：CLIP采用双编码器架构（图像编码器+文本编码器），训练时使用双向对称对比损失：对于一个batch内的N个图像-文本对，每个图像的正样本是对应的文本，负样本是其余N-1个文本；每个文本的正样本是对应的图像，负样本是其余N-1个图像，通过双向对比实现跨模态特征对齐。3.人工智能安全领域中，对抗样本的迁移性是指（）A.对抗样本可以在不同设备上生成B.针对某一模型生成的对抗样本，也能欺骗其他结构不同的模型C.对抗样本可以从图像模态迁移到文本模态D.对抗样本的攻击效果随模型参数量增加而增强答案：B解析：对抗样本的迁移性是指针对特定模型生成的对抗样本，在无需知道其他模型内部结构、参数的前提下，仍能对其他模型产生欺骗效果，是黑盒攻击的核心基础。4.扩散模型的生成质量常用FID（FréchetInceptionDistance）指标评估，下列关于FID的说法正确的是（）A.FID值越高，生成图像质量越好B.FID计算的是生成图像与真实图像在像素空间的距离C.扩散模型采样步数越多，FID值通常越低D.FID仅适用于图像生成任务的评估答案：C解析：FID通过计算生成图像与真实图像在InceptionNet特征空间的均值与协方差的距离衡量生成质量，值越低说明生成样本与真实样本分布越接近，质量越好；扩散模型采样步数越多，去噪过程越充分，生成样本越接近真实分布，FID通常越低；FID也可扩展到其他模态的生成质量评估，并非仅适用于图像。5.某金融机构联合3家合作电商平台构建用户信用评估模型，各方拥有同一批用户的不同特征数据（金融机构拥有金融行为特征，电商拥有消费行为特征），该场景最适合采用的联邦学习类型是（）A.横向联邦学习B.纵向联邦学习C.联邦强化学习D.迁移联邦学习答案：B解析：纵向联邦学习适用于参与方样本空间重叠度高、特征空间重叠度低的场景，即各方拥有相同用户群体的不同维度特征，通过联合训练充分利用多源特征提升模型效果，与题干场景匹配。横向联邦学习适用于特征重叠度高、样本重叠度低的场景。6.大模型推理过程中常用的KV缓存技术，其核心作用是（）A.降低推理过程的内存占用B.减少重复计算，提升推理速度C.提升生成内容的准确率D.支持更长的上下文窗口答案：B解析：KV缓存将Transformer层中已计算的token的Key和Value向量存储下来，生成后续token时无需重复计算之前所有token的K、V向量，大幅减少了注意力层的计算量，提升推理速度。该技术会增加内存占用（需存储K、V矩阵），不直接影响生成准确率和上下文窗口长度。7.下列关于RoPE（旋转位置编码）的说法，错误的是（）A.通过对Query和Key向量施加旋转变换引入位置信息B.具有相对位置编码的特性C.采用线性外推方式可无精度损失地支持任意长度的长文本D.被广泛应用于LLaMA、Qwen等主流大模型中答案：C解析：RoPE通过在复数空间对Query、Key向量进行旋转实现位置编码，天然具备相对位置感知能力，已被LLaMA、Qwen等多数大模型采用；直接采用线性外推扩展上下文长度时，会出现注意力分布偏移导致的精度下降，需结合NTK缩放、位置微调等技术优化，无法实现无精度损失的任意长度扩展。8.大模型对齐技术中，DPO（DirectPreferenceOptimization）与RLHF相比，核心差异是（）A.DPO不需要人类偏好数据B.DPO跳过了奖励模型训练环节，直接优化策略模型C.DPO的训练成本高于RLHFD.DPO仅适用于文本生成任务答案：B解析：RLHF的流程为“监督微调→训练奖励模型→PPO强化学习”，而DPO直接将人类偏好对转化为二元分类损失，无需单独训练奖励模型，也无需复杂的PPO流程，训练成本更低，是当前主流的轻量级对齐方案，可扩展至多模态等其他任务的对齐。9.图神经网络（GNN）中“过平滑”问题指的是（）A.图中节点特征经过多层GNN传播后趋于一致，区分度下降B.图的边权重过于平滑，无法体现节点关联强度C.GNN的训练损失波动过小，收敛速度慢D.图节点的特征维度经过多层变换后变得平滑答案：A解析：过平滑是GNN的核心问题之一，指当GNN层数较多时，节点特征经过多轮消息传递后会趋于同质化，不同节点的特征区分度显著下降，导致模型性能降低。10.Meta推出的SAM（SegmentAnythingModel）是通用图像分割基础模型，下列不属于SAM支持的提示类型的是（）A.点提示B.框提示C.文本提示D.掩码提示答案：C解析：SAM的提示引擎支持点提示（正/负点）、边界框提示、掩码提示三种输入形式，通过不同类型的提示引导模型生成对应区域的分割结果；SAM原生不支持文本提示，需结合CLIP等多模态模型实现文本引导分割。11.检索增强生成（RAG）系统的核心模块不包括（）A.索引构建模块B.检索模块C.奖励模型模块D.生成模块答案：C解析：标准RAG系统的核心模块包括：索引构建模块（将知识文档切片、向量化、构建向量索引）、检索模块（根据用户查询召回相关文档）、重排序模块（对召回文档排序筛选）、生成模块（结合检索到的知识生成答案）。奖励模型是RLHF对齐技术的组件，不属于RAG的核心模块。12.边缘端部署大模型时常采用INT4量化技术，下列关于INT4量化的说法正确的是（）A.INT4量化是将模型权重从4位浮点数转换为32位整数B.INT4量化后的模型推理速度一定比FP16模型快C.NF4是一种非对称量化方法，更适合大模型权重的分布特点D.INT4量化不会导致模型精度下降答案：C解析：INT4量化是将模型权重从FP32/FP16等高精度浮点格式转换为4位整数格式，可显著降低模型显存占用；量化后的推理速度受硬件支持、计算逻辑等影响，若硬件不支持INT4指令集，速度可能反而下降；NF4（NormalizedFloat4bit）是QLoRA中提出的非对称4位量化格式，适配大模型权重的正态分布特点，量化精度损失更小；INT4量化属于有损压缩，会存在一定的精度损失，需通过微调等方式补偿。13.近端策略优化（PPO）算法中clip参数的核心作用是（）A.限制策略更新的幅度，避免训练不稳定B.裁剪奖励值，防止奖励爆炸C.裁剪状态值，减少价值估计误差D.限制动作空间的范围答案：A解析：PPO的clip机制通过限制新旧策略的概率比值在[1-ε,1+ε]范围内（ε为clip参数，通常取0.1~0.2），避免策略更新步长过大导致的训练震荡或崩溃，是PPO稳定训练的核心设计。14.算法公平性评估中，“人口均等（DemographicParity）”指标要求（）A.不同群体的真正率（TPR）相等B.不同群体的预测正例比例相等C.不同群体的假正率（FPR）相等D.不同群体的预测准确率相等答案：B解析：人口均等（统计均等）是算法公平性的基础指标之一，要求不同敏感群体（如不同性别、年龄群体）的预测为正例的概率相等，即模型的预测结果与敏感属性无关。选项A为机会均等的要求，选项C为均等赔率的部分要求，选项D为准确率均等的要求。15.下列扩散模型加速采样方法中，属于一致性模型类别的是（）A.DDIMB.PLMSC.LCMD.DPM-Solver答案：C解析：DDIM、PLMS、DPM-Solver均属于数值求解器类的加速采样方法，通过优化常微分方程（ODE）的求解步骤减少采样步数；LCM（LatentConsistencyModel，潜在一致性模型）属于一致性模型范畴，通过训练直接预测多步去噪后的结果，可实现1~4步采样生成高质量图像，采样速度远高于传统求解器。16.神经架构搜索（NAS）中，DARTS（可微架构搜索）的核心创新是（）A.采用强化学习搜索最优架构B.将离散的架构搜索转化为连续优化问题C.采用进化算法迭代优化架构D.通过权重共享减少搜索成本答案：B解析：传统NAS方法多在离散的架构空间中搜索，计算成本极高；DARTS通过将架构选择参数化为连续的softmax权重，将离散的架构搜索问题转化为连续的可微优化问题，可通过梯度下降快速搜索最优架构，大幅降低搜索成本。权重共享是DARTS降低成本的辅助手段，但核心创新是可微搜索的思路。17.下列指标中，最适合用于评估大模型事实性幻觉的是（）A.BLEU值B.ROUGE值C.TruthfulQA准确率D.困惑度（Perplexity）答案：C解析：BLEU、ROUGE主要评估生成文本与参考文本的词汇重叠度，无法衡量事实正确性；TruthfulQA是专门用于评估大模型事实真实性的基准数据集，测试模型生成真实答案的能力，其准确率可直接反映模型的事实性幻觉水平；困惑度衡量的是语言模型对文本的拟合程度，与事实性无直接关联。18.离线强化学习（OfflineRL）面临的核心挑战是（）A.与环境交互的成本过高B.训练数据不足C.分布外泛化问题，即策略访问的数据与离线数据分布不一致D.奖励函数设计困难答案：C解析：离线强化学习完全基于预先采集的离线数据集训练，无需与环境交互，核心挑战是分布外（OOD）泛化问题：当训练出的策略访问的状态-动作对不在离线数据分布内时，价值估计会出现严重偏差，导致策略性能下降。选项A是在线强化学习的问题，选项B、D是强化学习的通用问题，并非离线RL的核心挑战。19.多模态大模型的融合策略中，“中期融合”是指（）A.在输入层直接拼接不同模态的原始数据B.在模型中间层对不同模态的特征进行融合C.在输出层对不同模态的预测结果进行融合D.仅用文本特征引导视觉特征的提取答案：B解析：多模态融合分为早期融合、中期融合、晚期融合三类：早期融合在输入层对原始数据或底层特征进行融合；中期融合在模型的中间隐藏层对不同模态的特征进行交互融合（如交叉注意力）；晚期融合在输出层对各模态的独立预测结果进行融合。20.大模型分布式训练中，张量并行与流水线并行的核心区别是（）A.张量并行按样本划分数据，流水线并行按层划分模型B.张量并行按层划分模型，流水线并行按样本划分数据C.张量并行将单个层的参数拆分到多个设备，流水线并行将不同层分配到不同设备D.张量并行的通信开销低于流水线并行答案：C解析：张量并行属于模型并行的一种，将单个Transformer层（如注意力层、前馈层）的参数矩阵拆分到多个设备，每个设备仅保存部分参数，通信开销较高；流水线并行也属于模型并行，将模型的不同层分配到不同设备，数据以流水线方式依次经过各层，通信开销相对较低。数据并行是按样本划分数据，张量并行的通信开销通常高于流水线并行。二、多项选择题（共10题，每题2分，共20分。多选、少选、错选均不得分）1.下列属于大模型参数高效微调（PEFT）方法的有（）A.LoRAB.PrefixTuningC.全参数微调D.AdapterTuningE.PromptTuning答案：ABDE解析：参数高效微调是指仅训练少量参数即可达到接近全参数微调效果的技术，核心目标是降低微调成本、保留原模型能力。LoRA（低秩适配）、PrefixTuning（前缀微调）、AdapterTuning（适配器微调）、PromptTuning（提示微调）均属于主流的PEFT方法；全参数微调需要更新模型全部参数，不属于参数高效范畴。2.下列属于扩散模型加速采样技术的有（）A.DDIMB.LCMC.DPM-Solver++D.PPOE.投机采样答案：ABCE解析：扩散模型采样加速技术可分为三类：一是数值求解器优化，如DDIM、PLMS、DPM-Solver系列，通过优化ODE求解减少步数；二是一致性模型，如LCM（潜在一致性模型）、SDXLTurbo等，通过训练直接预测多步去噪结果；三是投机采样，通过小模型预生成候选步、大模型验证的方式加速。PPO是强化学习算法，与扩散模型采样加速无关。3.联邦学习中常用的隐私保护技术有（）A.差分隐私B.同态加密C.安全多方计算D.梯度裁剪E.隐私集合求交（PSI）答案：ABCE解析：联邦学习的隐私保护技术覆盖数据对齐、训练、聚合全流程：隐私集合求交（PSI）用于纵向联邦的样本对齐，不泄露非交集数据；同态加密、安全多方计算用于梯度/参数的加密传输与聚合，防止中间结果泄露；差分隐私通过在梯度或参数中加入噪声，防止通过模型反推个体数据。梯度裁剪是防止梯度爆炸的训练优化技术，本身不属于隐私保护技术（通常与差分隐私结合使用）。4.下列属于Transformer架构优化变体的有（）A.FlashAttentionB.SparseAttentionC.LinformerD.ResNetE.Performer答案：ABCE解析：Transformer的优化变体主要围绕降低注意力计算复杂度、提升训练推理效率展开：FlashAttention通过IO感知的分块计算大幅提升注意力的速度与显存效率；SparseAttention通过稀疏注意力模式减少计算量；Linformer将注意力复杂度从O(n²)降至O(n)；Performer通过随机傅里叶特征近似注意力计算。ResNet是卷积神经网络的经典架构，与Transformer无关。5.检索增强生成（RAG）系统的常见优化方向包括（）A.混合检索（向量检索+关键词检索）B.查询改写C.文档切片优化D.重排序优化E.上下文压缩答案：ABCDE解析：RAG系统的优化覆盖全流程：检索层优化包括混合检索、多粒度检索、查询改写提升召回率；索引层优化包括文档切片优化（语义切片、分层切片）、混合索引构建；后处理优化包括重排序（交叉编码器重排、大模型重排）、上下文压缩（去重、摘要、冗余过滤），减少无关信息对生成的干扰。6.下列属于AI生成内容（AIGC）检测技术的有（）A.数字水印检测B.统计特征检测C.语义一致性检测D.生成模型溯源E.人脸识别答案：ABCD解析：AIGC检测技术可分为主动检测和被动检测两类：主动检测通过在生成内容中嵌入不可见数字水印，通过检测水印判断来源；被动检测包括统计特征检测（利用生成内容与真实内容的纹理、频率差异）、语义一致性检测（检测内容的逻辑矛盾、事实错误）、生成模型溯源（通过特征匹配识别内容对应的生成模型）。人脸识别属于计算机视觉的身份验证技术，与AIGC检测无关。7.下列属于离线强化学习算法的有（）A.PPOB.BCQC.CQLD.IQLE.DQN答案：BCD解析：离线强化学习算法针对离线数据训练策略，核心是解决分布外泛化问题：BCQ（Batch-ConstrainedQ-learning）通过约束策略的动作分布与离线数据一致，避免OOD问题；CQL（ConservativeQ-Learning）通过保守的Q值估计，降低OOD动作的Q值；IQL（ImplicitQ-Learning）通过期望回归的方式训练，无需额外的分布约束。PPO、DQN均为在线强化学习算法，需要与环境交互采样。8.图神经网络（GNN）的典型应用场景包括（）A.推荐系统B.药物分子预测C.社交网络分析D.知识图谱推理E.图像分类答案：ABCD解析：GNN擅长处理图结构数据，在具备关联关系的场景中表现优异：推荐系统中构建用户-物品交互图建模用户偏好；药物分子预测中通过GNN建模分子的原子-键结构，预测分子属性；社交网络分析中建模用户关联关系，实现社群发现、链路预测；知识图谱推理中建模实体-关系图，实现知识补全。图像分类的主流方案是CNN、ViT，虽可将图像转化为图结构用GNN处理，但不属于GNN的典型应用场景。9.大模型推理优化的常用技术包括（）A.KV缓存B.量化压缩C.投机采样D.模型剪枝E.数据增强答案：ABCD解析：大模型推理优化技术围绕降低延迟、减少显存占用、提升吞吐量展开：KV缓存减少注意力层重复计算；量化压缩（INT8/INT4）降低模型显存占用，提升计算速度；投机采样通过小模型预生成候选步，减少大模型的推理步数；模型剪枝去除冗余参数，降低模型规模。数据增强是训练阶段的优化技术，与推理优化无关。10.大模型对齐（Alignment）的目标是让模型输出符合人类的（）A.事实准确性B.有用性C.无害性D.风格多样性E.道德规范答案：ABCE解析：大模型对齐的核心目标是让模型的输出符合人类的价值观与需求，主要包括三个维度：有用性（Helpful，能有效解决用户问题）、无害性（Harmless，不会生成有害、违规内容）、诚实性（Honest，不生成虚假幻觉内容，即事实准确性），同时需符合人类的道德伦理规范。风格多样性是生成能力的指标，不属于对齐的目标。三、判断题（共10题，每题1分，共10分。正确填“√”，错误填“×”）1.LoRA微调得到的低秩适配器权重可以与原模型权重合并，合并后模型的推理延迟不会增加。（）答案：√解析：LoRA的低秩矩阵可以通过矩阵乘法合并到原模型的权重矩阵中，合并后模型的结构、参数量与原模型完全一致，因此不会增加推理延迟，是LoRA的核心优势之一。2.扩散模型的生成质量仅与采样步数有关，与模型参数量、训练数据量无关。（）答案：×解析：扩散模型的生成质量受多因素影响：采样步数是影响因素之一，此外模型参数量决定了模型的拟合能力，训练数据的规模与质量决定了模型的知识覆盖范围，均会直接影响生成质量。3.横向联邦学习适用于参与方样本重叠度高、特征重叠度低的场景。（）答案：×解析：横向联邦学习按样本划分数据，适用于参与方特征空间重叠度高、样本空间重叠度低的场景，即各方拥有相同的特征维度、不同的样本群体；样本重叠度高、特征重叠度低是纵向联邦学习的适用场景。4.差分隐私的隐私预算ε值越小，隐私保护强度越高，模型的效用损失通常越小。（）答案：×解析：差分隐私中，ε为隐私预算，ε越小说明加入的噪声越大，隐私保护强度越高，但模型的效用损失（精度下降）通常越大，二者存在权衡关系。5.KV缓存技术可以降低大模型推理过程中的计算量，同时减少显存占用。（）答案：×解析：KV缓存通过存储已计算token的Key、Value向量，避免重复计算，可显著降低注意力层的计算量，提升推理速度；但由于需要存储所有token的K、V矩阵，会增加显存占用，而非减少。6.DPO（直接偏好优化）算法不需要训练独立的奖励模型，即可实现大模型的人类偏好对齐。（）答案：√解析：DPO将人类偏好对的约束直接转化为策略模型的优化目标，跳过了RLHF中“训练奖励模型→PPO优化”的复杂流程，无需单独训练奖励模型，训练成本更低，对齐效果可达到与RLHF相当的水平。7.SAM（SegmentAnythingModel）支持通过点、框、文本等多种提示方式实现图像分割。（）答案：×解析：SAM原生支持的提示类型包括点提示（正/负点）、边界框提示、掩码提示，不支持文本提示；若要实现文本引导的分割，需结合CLIP等多模态模型将文本提示转化为视觉特征，再输入SAM。8.多模态大模型的模态对齐是指将不同模态的特征映射到同一语义空间，实现跨模态的语义匹配。（）答案：√解析：模态对齐是多模态大模型的核心基础，通过对比学习、交叉注意力等方式，将图像、文本、音频等不同模态的特征映射到统一的语义空间，使得不同模态的相同语义特征距离更近，从而支持跨模态检索、问答等任务。9.图神经网络的层数越多，模型的表达能力越强，性能越好。（）答案：×解析：GNN的性能并非随层数增加而提升，当层数过多时，会出现过平滑问题：节点特征经过多轮消息传递后趋于同质化，区分度下降，导致模型性能降低。实际应用中GNN的层数通常为2~5层。10.RAG系统可以完全解决大模型的幻觉问题，无需其他技术配合。（）答案：×解析：RAG通过引入外部知识可以显著降低大模型的事实性幻觉，但无法完全解决幻觉问题：若检索到的知识本身存在错误、或生成阶段未能正确利用检索到的知识，仍可能出现幻觉，通常需要结合事实校验、对齐技术等共同缓解幻觉问题。四、简答题（共5题，每题6分，共30分）1.请对比大模型参数高效微调方法LoRA、PrefixTuning、AdapterTuning的核心原理、参数量占比及适用场景。参考答案：（1）核心原理：①LoRA：在Transformer的注意力层（及前馈层）的权重矩阵旁引入两个低秩分解矩阵A和B，训练时冻结原模型权重，仅更新低秩矩阵的参数，最终通过矩阵乘法将低秩权重合并到原模型中。②PrefixTuning：在Transformer每一层的输入序列前添加可学习的前缀向量，训练时冻结原模型权重，仅优化前缀向量的参数，通过前缀向量引导模型的注意力分布适配下游任务。③AdapterTuning：在Transformer的每一层（注意力层、前馈层）之后插入一个小型的前馈网络（适配器），训练时冻结原模型权重，仅更新适配器的参数，通过适配器实现特征的适配调整。（2）参数量占比：①LoRA：参数量占比通常为0.1%~1%，可通过调整秩r控制参数量，秩越小参数量越少。②PrefixTuning：参数量占比通常为0.01%~0.1%，仅需学习前缀向量，参数量远低于其他两种方法。③AdapterTuning：参数量占比通常为0.5%~2%，适配器的隐藏层维度决定参数量规模。（3）适用场景：①LoRA：适用场景最广泛，包括生成、分类、多模态等各类任务，尤其适合需要保留原模型完整能力、且对推理延迟有要求的场景（合并权重后无额外推理开销）。②PrefixTuning：适合数据量较小的分类、生成任务，以及多任务场景（可通过不同前缀适配不同任务，无需修改模型权重），但推理时需要额外拼接前缀，会占用一定上下文窗口。③AdapterTuning：适合多任务迁移学习场景，不同任务可共享原模型权重、使用独立的适配器，推理时可灵活切换任务，但会引入额外的计算延迟。2.请简述检索增强生成（RAG）系统的核心架构与工作流程，并列举3种以上的优化方向。参考答案：（1）核心架构：标准RAG系统由四大核心模块组成：①索引构建模块：负责将外部知识文档进行清洗、切片、向量化，构建向量索引与关键词索引，存储在向量数据库中。②检索模块：根据用户的查询内容，通过向量检索、关键词检索等方式从索引库中召回相关的知识片段。③重排序模块：对检索召回的候选知识片段进行相关性排序，筛选出最相关的Top-N片段，减少冗余信息。④生成模块：将用户查询与筛选后的知识片段拼接为Prompt，输入大模型生成基于外部知识的答案。（2）工作流程：①离线阶段：对原始知识文档进行预处理（清洗、去重），采用语义切片方式将文档切分为合适长度的片段，通过嵌入模型将片段向量化，构建向量索引并存储。②在线阶段：接收用户查询后，首先通过嵌入模型将查询向量化，调用检索接口召回Top-K相关片段；随后通过重排序模型对Top-K片段进行精排，筛选出Top-N最相关片段；最后将用户查询与Top-N片段按照预设模板拼接为Prompt，输入大模型生成最终答案。（3）优化方向：①检索优化：采用混合检索（向量检索+BM25关键词检索）提升召回率，通过查询改写（缩写补全、多query扩展）优化查询的语义表达，采用多粒度检索（片段级、文档级、句子级）提升召回的全面性。②索引优化：采用语义切片替代固定长度切片，提升片段的语义完整性；构建分层索引（粗筛+精筛）降低检索复杂度；引入知识图谱索引增强结构化知识的检索能力。③上下文优化：采用上下文压缩技术（冗余去除、摘要生成、关键信息提取）减少输入大模型的无关内容，降低幻觉风险与推理成本。④生成优化：在生成阶段加入事实校验机制，对生成内容与检索知识的一致性进行校验；采用Chain-of-Thought提示引导模型基于检索知识逐步推理。3.请解释扩散模型的前向过程与反向过程，并说明DDPM与LDM（潜在扩散模型）的核心差异。参考答案：（1）前向过程（加噪过程）：从真实数据（如图像）出发，逐步向数据中加入高斯噪声，经过T步后数据变为近似纯高斯噪声的分布，每一步的加噪过程是马尔可夫过程，即第t步的样本仅由第t-1步的样本加噪得到，可通过公式直接计算任意t步的噪声样本，无需逐步迭代。（2）反向过程（去噪过程）：从纯高斯噪声出发，通过神经网络学习每一步的去噪梯度，逐步去除噪声，最终生成符合真实数据分布的样本，反向过程需要逐步迭代T步完成生成。（3）DDPM与LDM的核心差异：①操作空间不同：DDPM在原始像素空间进行加噪与去噪操作，直接处理高分辨率的像素数据；LDM在潜在空间进行操作，首先通过VAE编码器将高分辨率图像压缩为低维度的潜在特征向量，在潜在空间进行扩散过程，最后通过VAE解码器将生成的潜在特征还原为高分辨率图像。②计算效率不同：DDPM由于在高维像素空间操作，计算量大，训练与推理速度慢；LDM在低维潜在空间操作，计算量大幅降低（通常可降低10~100倍），训练与推理速度显著提升。③生成质量不同：LDM通过VAE的压缩过滤了部分细节噪声，且可利用更高容量的扩散模型在低维空间学习更丰富的语义信息，生成质量通常优于同参数量的DDPM。④应用扩展性不同：LDM的潜在空间可方便地接入文本、类别等条件信息，更易实现文本生成图像、图像编辑等条件生成任务，是当前主流扩散模型（如StableDiffusion系列）的基础架构。4.请简述大模型幻觉的定义、产生原因及3种以上常见的缓解策略。参考答案：（1）定义：大模型幻觉是指大模型生成的内容存在事实性错误、无中生有、与输入指令不符或逻辑自相矛盾的现象，本质是模型生成的内容不符合真实世界的客观事实或用户提供的上下文信息。（2）产生原因：①训练数据层面：训练数据中存在错误、矛盾或低质量内容，模型学习到了错误的知识；训练数据覆盖不足，对于长尾知识或专业领域知识缺乏学习，导致模型编造内容填补空白。②模型架构与训练层面：大模型的训练目标是下一个词预测，更关注语言的流畅性而非事实正确性；模型的知识存储与推理能力存在局限，无法准确区分记忆中的事实与虚构内容；对齐阶段（RLHF/DPO）的偏好数据覆盖不足，未充分引导模型生成真实内容。③推理层面：解码策略（如过高的温度系数、top-p值过大）会增加生成的随机性，导致幻觉；上下文窗口限制导致模型无法完整利用输入的信息，出现偏离上下文的生成。（3）缓解策略：①检索增强生成（RAG）：引入外部权威知识库，生成前检索相关知识并注入Prompt，引导模型基于真实知识生成，是当前缓解事实性幻觉最有效的方案之一。②改进对齐技术：优化偏好数据集，增加事实性偏好样本的占比；采用Fact-RLHF等针对事实性的对齐方法，引导模型优先输出真实内容；通过DPO等更稳定的对齐算法提升对齐效果。③事实校验机制：在生成后加入事实校验模块，将生成内容与外部知识库或检索到的知识进行一致性校验，对错误内容进行修正或标记。④解码策略优化：降低解码温度系数，采用约束解码（如限制生成内容必须来自检索知识）、自洽性解码（多次生成取一致结果）等方式减少生成的随机性。⑤知识注入与微调：针对特定领域，采用领域权威数据对模型进行微调，提升模型的领域知识储备，减少领域内的幻觉。5.请简述纵向联邦学习的核心流程，并说明其面临的主要安全风险。参考答案：（1）核心流程（以二方纵向联邦为例）：①样本对齐阶段：参与方通过隐私集合求交（PSI）技术，在不泄露各自用户数据的前提下，找出各方共同拥有的用户样本，作为联合训练的数据集，非交集用户数据不会被泄露。②初始化阶段：协调方（或某一参与方）初始化模型参数，将公共部分的参数分发给各参与方。③本地计算阶段：各参与方利用本地的特征数据计算模型的中间结果（如前向传播的部分激活值、梯度分量），并对中间结果进行加密后发送给对方/协调方。④梯度聚合与更新阶段：协调方（或参与方协作）对加密的中间结果进行聚合，计算完整的梯度，再将梯度解密后（或保持加密状态）更新模型参数，分发给各参与方。⑤迭代训练：重复本地计算与梯度更新步骤，直到模型收敛。⑥推理阶段：各参与方利用本地模型部分对新样本进行计算，协作得到最终的预测结果，各方仅能拿到最终结果，无法获取对方的特征数据。（2）主要安全风险：①梯度泄露风险：即使梯度经过加密，仍可能通过梯度反推攻击还原出参与方的原始特征数据或样本信息，造成隐私泄露。②恶意参与方风险：若某一参与方是恶意的，可能通过伪造数据、篡改梯度等方式进行投毒攻击，降低模型性能，或通过构造特殊样本窃取其他参与方的隐私。③中间结果泄露风险：训练过程中传递的中间结果若未经过充分加密，可能被第三方截获并还原出敏感信息。④模型窃取风险：恶意参与方可能通过多次查询模型的输入输出，反推出模型的参数或结构，造成模型知识产权泄露。⑤隐私集合求交阶段的风险：若PSI协议存在安全漏洞，可能泄露参与方的用户ID等隐私信息。五、实操题（共2题，每题10分，共20分）1.某医疗AI企业需要基于开源7B参数多模态大模型Qwen-VL-7B，微调一个医疗影像问答模型，现有标注数据集包含1.2万组胸部CT影像-问题-答案对，要求微调成本可控（单张A10080G显卡可完成训练），且模型推理延迟不高于原模型的1.1倍。请写出完整的技术实现方案，包括数据预处理、微调方法选择及配置、评估指标、部署优化思路。参考答案：（1）数据预处理：①影像预处理：将所有胸部CT影像统一调整为512×512分辨率，采用窗宽窗位调整（肺窗：窗宽1500HU，窗位-700HU）优化影像对比度，去除影像边缘的无关标注信息，对影像进行归一化处理；针对数据量不足问题，采用随机裁剪、旋转、亮度调整等方式进行数据增强，扩充训练数据至2万组左右。②文本预处理：对问题和答案进行规范化处理，去除无关符号、错别字，统一医学术语表述；按照8:1:1的比例随机划分训练集、验证集、测试集，确保同一份影像的不同问答对不会出现在不同数据集中，避免数据泄露。①方法选择：采用QLoRA（量化低秩适配）微调方法，该方法将原模型量化为4位精度冻结，仅训练低秩适配器参数，可将7B模型的微调显存占用控制在20G以内，单张A10080G显卡可轻松支持，且训练后可将适配器权重合并到原模型中，推理延迟无明显增加，符合题目要求。②训练配置：量化采用nf4（归一化4位浮点）格式，量化块大小为64；LoRA秩r=16，alpha=32（缩放因子为alpha/r=2），目标层为视觉编码器与语言模型的注意力层q、k、v、o投影层，可训练参数量约为0.6%；优化器采用AdamW，学习率设为2e-4，权重衰减0.01，最大梯度范数1.0；训练batchsize=4，梯度累积步数=8，等效batchsize=32，训练epoch=3，采用余弦学习率调度，预热步数占总步数的5%；训练时采用梯度检查点技术进一步降低显存占用。（3）评估指标：①语言生成指标：采用BLEU-4、ROUGE-L评估生成答案与参考答案的文本相似度。②事实性指标：邀请3名放射科医生对生成答案的医学事实准确性进行人工评分（1~5分），计算平均得分；同时构建医疗事实校验知识库，采用事实一致性模型自动校验答案的事实准确率。③推理性能指标：评估单样本推理延迟、显存占用，确保延迟不高于原模型的1.1倍。（4）部署优化思路：①权重合并：训练完成后，将LoRA适配器权重合并到量化后的原模型中，转换为统一的模型文件，消除适配器的额外开销。②推理优化：采用vLLM推理框架，启用KV缓存、Page