2026年AI大模型微调数据准备基础考核卷及答案

2026年AI大模型微调数据准备基础考核卷及答案一、单项选择题（每题2分，共20分）1.在LoRA微调中，秩r的取值对显存占用的影响是A.线性正相关 B.线性负相关 C.对数正相关 D.无影响答案：A2.对中文语料进行SentencePiece分词时，若出现“##”前缀，其含义是A.词首子词 B.词中或词尾子词 C.未登录词 D.特殊符号答案：B3.在指令微调数据集中，以下哪项字段必须存在才能启用ChatML格式A.system B.tools C.logit_bias D.frequency_penalty答案：A4.使用DeepSpeedZeRO-3时，优化器状态被切分到A.数据并行组 B.模型并行组 C.流水线并行组 D.张量并行组答案：A5.对多轮对话数据做去重时，最可靠的签名算法是A.MD5(last_turn) B.SHA256(full_dialogue) C.Jaccard(turn_1,turn_2)D.BLEU(avg)答案：B6.在RLHF阶段，PPO算法中的优势估计通常采用A.Monte-Carlo B.TD(0)C.GAE D.ImportanceSampling答案：C7.当使用Falcon-7B做继续预训练时，以下哪种数据顺序对catastrophicforgetting抑制最好A.随机打乱 B.按时间排序 C.按领域分层采样 D.按长度排序答案：C8.在DPO（DirectPreferenceOptimization）中，参考模型π_ref的作用是A.提供KL惩罚基准 B.计算策略梯度 C.生成负样本 D.做EMA更新答案：A9.对代码语料进行AST过滤时，首要删除的是A.无import节点的文件 B.语法错误文件 C.单行注释过多文件 D.重复函数名文件答案：B10.当使用QLoRA加载4-bitNF4权重时，计算组块大小（blocksize）通常设为A.32 B.64 C.128 D.256答案：B二、多项选择题（每题3分，共15分，多选少选均不得分）11.以下哪些操作可降低微调阶段显存峰值A.gradient_checkpointing B.flash_attention C.将LRScheduler改为constant D.使用cpu_offload答案：ABD12.属于“数据污染”现象的有A.测试集出现在训练集中 B.评测prompt与训练prompt重叠 C.模型输出带训练集版权水印 D.指令模板被直接泄露答案：ABCD13.在构建多语言指令集时，需要平衡的维度包括A.语种数量 B.指令类型分布 C.回答长度分布 D.文化偏见强度答案：ABCD14.对文本进行质量评分时，可量化的信号有A.perplexity B.语言识别置信度 C.重复n-gram比例 D.敏感词密度答案：ABCD15.使用RayData做大规模数据预处理的优势有A.动态伸缩 B.零拷贝读取 C.自动向量化 D.与HuggingFaceDataset无缝互转答案：ABD三、填空题（每空2分，共20分）16.在LLaMA-270B全参数微调中，若序列长度=4096、global_batch_size=1024、使用AdamW(fp32)训练，则仅优化器状态显存约______GB。（保留整数）答案：52817.当使用wikipediadump时，常用______工具将XML转JSONL，并保留段落顺序。答案：wikiextractor18.在指令模板中，若系统提示占token数超过模型最大长度的______%，建议启用“系统提示压缩”技术。答案：1519.对多轮对话做token级损失掩码时，通常将______角色的回答部分掩码为-100。答案：assistant20.若使用LoRA合并权重，合并公式为W'=W+______。答案：BA/r21.在数据并行度为N时，DeepSpeed的gradient_accumulation_steps实际值为全局值除以______。答案：N22.当使用FSDP+mixed_precision时，需保证______参数在fp32下保存，以保障权重精度。答案：buffer（或master）23.对中文语料做繁简转换时，首选开源库为______。答案：opencc24.在继续预训练场景，若学习率预热步数占总步数比例低于______%，易导致训练不稳定。答案：125.当使用Deepspeed的“activationcheckpointing”时，时间开销大约增加______%。答案：20-30四、判断题（每题1分，共10分，正确写“T”，错误写“F”）26.使用QLoRA时，4-bit量化与16-bit微调的最终模型精度在MMLU上差距通常小于0.5%。答案：T27.在指令微调中，将拒绝回答样本比例提高到50%会显著提升模型在开放式生成中的安全性。答案：F28.对代码语料进行minhash去重时，阈值设为0.8可基本消除重复文件。答案：T29.使用FlashAttention-2时，显存占用与序列长度呈线性关系。答案：T30.在PPO中，clip_ratio设为0.1时，策略更新步长一定小于0.1。答案：F31.当使用Megatron-LM做张量并行时，embedding层与输出lm_head需额外做权重同步。答案：T32.对多模态指令集，图像分辨率统一降至224×224可完全避免位置编码越界。答案：F33.在继续预训练阶段，混入5%英文代码可提升模型中文代码生成能力。答案：T34.使用DPO时，若偏好对数据不足1万条，可直接复用PPO的奖励模型作为π_ref。答案：F35.当使用HuggingFaceTrainer时，设置dataloader_pin_memory=False可一定降低显存占用。答案：F五、简答题（封闭型，每题5分，共15分）36.写出使用LoRA微调时，确保与全参微调输出分布一致的两个超参约束。答案：1)rankr≥常见注意力头维度（如64/128）；2)lora_alpha≥2r，且学习率与全参微调保持同一量级。37.列举三种检测训练集与测试集数据泄漏的自动化方法。答案：1)n-gram重叠检测：对测试集每条样本计算其与训练集的5-gramJaccard相似度，大于阈值即报警；2)嵌入相似度：用SentenceBERT将两段文本向量化，余弦相似度>0.95视为泄漏；3)模型过拟合探测：在测试集上观察loss突降或准确率异常升高，结合成员推理攻击确认。38.说明在继续预训练阶段使用“cosinewithlinearwarmup”时，如何根据tokens数量动态调整学习率峰值。答案：设总tokens=T，预热tokens=W，峰值lr_max=原始预训练峰值×sqrt(T_original/T)，预热阶段线性升至lr_max，后续按cosine退火至0.1lr_max。六、简答题（开放型，每题10分，共20分）39.某企业拥有1TB领域私有文本，需构建70B模型继续预训练，但GPU显存总量仅2TB。请给出数据采样、模型切分、训练策略的完整落地方案，并估算最小所需训练时间（TFLOPS利用率按30%计）。答案：1)数据采样：先用fastText训练领域分类器，按置信度>0.9筛选出300GB核心语料；对核心语料进行minhash去重，阈值0.7，得250GB；按长度分层采样，最终保留200GB，约400Btokens。2)模型切分：使用FSDP+ZeRO-3+CPUoffloading，将70B参数分片到128张A100-80GB；激活检查点开启，序列长度2048，micro_batch_size=1，gradient_accumulation=128，全局batch_size=1024。3)训练策略：学习率峰值=1.5e-4，warmup2%steps，cosinedecay；混合精度bf16，checkpoint每0.5Ttokens保存一次；训练步数=400B/(1024×2048)≈195ksteps。4)时间估算：70B模型一次前反向约2.8×10^18FLOP；总FLOP=2.8e18×195k≈5.5×10^23；128张A100峰值TFLOPS=128×312×0.3≈1.2×10^4；最小时间=5.5e23/1.2e4≈4.6×10^19ns≈52天。40.针对RLHF阶段奖励模型过拟合导致策略模型“阿谀奉承”现象，提出一种数据层面修正方案，并给出实验验证指标。答案：方案：1)构造“诚实性”偏好对：对同一指令生成两条回答，一条奉承、一条直接拒绝但礼貌，人工标注拒绝为优选；2)将诚实性偏好对按1:1混入原偏好集，总量扩至1.2倍；3)奖励模型重新训练，损失函数增加诚实性子损失L_honest=-logσ(r_refuse−r_flatter)，权重0.2；4)策略模型用新奖励模型重新跑PPO，KL惩罚系数提高至0.15。验证指标：奉承率：用含“您说得对”类触发词测试集，统计生成占比，目标<5%；有用性：在Helpful-base评测集上胜率不低于原模型95%；多样性：Distinct-2提升≥10%；人工盲评：300条样本，偏好度≥原模型持平。七、计算题（每题10分，共20分）41.给定一台8×A100-80GB节点，计划用QLoRA（4-bitNF4）微调LLaMA-65B，序列长度=4096，batch_size=1，gradient_accumulation=32，使用FlashAttention-2。求：(1)单卡峰值显存占用；(2)若再开启CPUoffloading，理论上可支持的最大batch_size（accumulation不变）。答案：(1)65B参数4-bit压缩后显存：65×0.5=32.5GB；激活值：4096×4096×80×2×4/(1024^3)≈4GB；优化器状态：LoRA仅保存lora_A/B，参数量=2×r×d×num_layers，取r=64，d=8192，num_layers=80，则显存=2×64×8192×80×2B≈0.13GB；峰值≈32.5+4+0.13+杂项≈37GB。(2)CPUoffloading后，参数可全卸载，显存仅留激活与lora，约4.5GB，剩余75.5GB可用于更大batch；激活与batch线性相关，原batch=1时4GB，则最大batch_size=floor(75.5/4)≈18，但受显存碎片限制，取16。42.某继续预训练任务共600Btokens，模型尺寸为13B，采用cosinedecay至0.1lr_max，warmup2%tokens。若用Chinchilla最优法则重新估算，该模型尺寸对应的最优训练tokens应为多少？现计划训练600B是否欠训练或过训练？给出调整建议。答案：Chinchilla公式：E=1.4×10^8×N^0.53，N=13×10^9，E=1.4e8×(13e9)^0.53≈1.05×10^24FLOPs；1token≈2NFLOP，则最优tokens=T_opt=E/(2N)=1.05e24/(2×13e9)≈4.0×10^13≈40Ttokens。现计划600Btokens远小于40T，属于严重欠训练。建议：1)将模型尺寸缩小至3B，则T_opt≈1.4e8×(3e9)^0.53/(2×3e9)≈1.1×10^13≈11T，600B仍不足，需继续降参或增数据；2)保持13B，则数据量需增至40T，成本不可接受，故优先降维。八、综合应用题（20分）43.背景：某医疗集团需微调一个中文医疗对话大模型，数据包括：脱敏门诊对话记录500万条，平均长度300中文字符；医学教材与指南PDF共2万本，OCR后约8亿字；网络科普文章1000万篇，质量参差不齐；药品说明书20万份，结构化字段完整。任务：(1)设计数据清洗与质量分层的完整Pipeline，需给出每一步输入输出、工具、过滤阈值；(2)给出指令构造模板（含system、user、assistant字段），并说明如何引入“知识溯源”字段；(3)给出微调方案（模型基座、参数高效方法、训练超参、评测指标），并估算在64×A100-80GB上所需训练时间。答案：(1)Pipeline：Step1原始存储→MinIO对象存储，统一UTF-8。Step2文本抽取：PDF用pdfplumber，阈值：单页字符<20丢弃；网络html用trafilatura，保留p标签，去除广告块。Step3语言识别：fastText中文置信度>0.95，其余丢弃。Step4医疗领域判别：训练BERT-base分类器，以“medical”标签置信度>0.8为医疗核心，0.5-0.8为医疗相关，<0.5为通用。Step5质量打分：重复度：5-gramJaccard>0.7丢弃；困惑度：用内部5B医疗GPT计算，perplexity>500丢弃；事实性：用医学知识图谱NER，无法链接到图谱的实体比例>30%丢弃；隐私：正则匹配手机号、身份证，命中即丢弃。Step6分层：Tier1：核心+高质量，保留5亿字；Tier2：相关+中质量，保留15亿字；Tier3：通用，保留30亿字。Step7指令生成：对教材每段用LLM生成问答对，temperature=0.3，过滤回答长度<