大模型幻觉抑制算法工程师考试试卷及答案

大模型幻觉抑制算法工程师考试试卷及答案填空题（共10题，每题1分）1.大模型生成与事实不符的内容称为______。2.RAG的核心组件包括检索器和______。3.评估幻觉的常用指标有FactScore和______。4.大模型幻觉的常见类型包括事实性幻觉和______幻觉。5.知识图谱增强时，需将三元组转化为______格式。6.指令微调（IFT）的目标是让模型更______人类指令。7.检索器常用算法有BM25和______。8.幻觉抑制的对齐技术包括RLHF和______。9.上下文窗口越大，模型越易利用______减少幻觉。10.检测幻觉的方法包括知识图谱验证和______。单项选择题（共10题，每题2分）1.不属于幻觉抑制方法的是？A.RAGB.微调C.量化D.知识增强2.RAG中检索器的作用是？A.生成文本B.检索外部知识C.优化参数D.对齐偏好3.属于事实性幻觉的是？A.2+3=6B.苹果是水果C.北京是首都D.水沸点100℃4.指令微调的主要数据来源是？A.随机文本B.指令-响应对C.知识图谱D.代码5.效率最高的对齐技术是？A.RLHFB.DPOC.PPOD.SFT6.知识图谱增强不包括的步骤是？A.图谱构建B.实体链接C.参数冻结D.检索匹配7.大模型幻觉的本质是？A.参数太少B.训练不足C.知识不确定性D.硬件差8.不用于评估幻觉的指标是？A.FactScoreB.TruthfulQAC.MMLUD.幻觉率9.上下文裁剪的目的是？A.减少检索时间B.降低计算量C.提高相关性D.增加覆盖10.减少推理型幻觉的方法是？A.增加训练量B.思维链（CoT）C.量化D.缩小窗口多项选择题（共10题，每题2分）1.幻觉抑制方法包括？A.RAGB.知识图谱增强C.指令微调D.RLHF2.RAG关键步骤包括？A.知识索引B.query生成C.知识检索D.融合生成3.幻觉评估指标有？A.FactScoreB.TruthfulQAC.幻觉率D.BLEU4.知识增强方式包括？A.图谱注入B.文档检索C.领域微调D.指令对齐5.指令微调有效策略包括？A.高质量指令对B.多轮对话C.知识验证数据D.随机文本6.检索器优化方向包括？A.相关性排序B.多模态检索C.实时索引更新D.低延迟7.幻觉分类包括？A.事实性B.推理型C.格式D.指令8.幻觉检测方法包括？A.图谱验证B.人类标注C.自动核查D.自我验证9.对齐技术作用包括？A.提高事实性B.减少有害生成C.增强指令遵循D.增加知识覆盖10.影响幻觉的因素包括？A.模型大小B.训练数据质量C.上下文窗口D.检索质量判断题（共10题，每题2分）1.RAG可完全消除幻觉。（×）2.模型越大，幻觉越少。（×）3.知识图谱仅适用于结构化知识。（×）4.推理型幻觉是推理错误。（√）5.指令微调会增加幻觉。（×）6.上下文窗口越大，幻觉越少。（√）7.量化会增加幻觉概率。（√）8.RLHF可减少事实性幻觉。（√）9.仅用BM25满足所有检索需求。（×）10.幻觉可完全避免。（×）简答题（共4题，每题5分）1.什么是大模型幻觉？常见类型有哪些？答案：大模型幻觉是生成内容与客观事实、逻辑不符或无可靠来源的现象。常见类型：①事实性幻觉（如“地球直径1000公里”）；②推理型幻觉（如“2+3=6”）；③格式幻觉（不符合输出要求）；④指令幻觉（未遵循指令）。核心是模型对知识的不确定性表达，非恶意编造。2.RAG抑制幻觉的核心逻辑是什么？答案：RAG通过“检索外部知识+生成”抑制幻觉：①构建外部知识索引（文档、图谱）；②用户query输入时，检索器匹配相关知识片段；③将知识作为上下文输入模型，生成时优先基于可靠外部知识，减少模型“编造”。本质是用真实知识替代内部可能不准确的知识，降低幻觉概率。3.指令微调（IFT）如何减少幻觉？答案：IFT通过人类标注的指令-响应对微调模型：①高质量指令明确“事实优先”要求（如“不确定则说明”）；②模型学习遵循事实约束，避免随意生成；③多轮对话训练上下文一致性，减少推理错误；④模型更易响应“知识验证”指令，主动避免不确定内容。核心是让模型养成“基于可靠信息生成”的习惯。4.知识图谱增强抑制幻觉的关键步骤？答案：①图谱构建：收集垂直领域结构化知识（如医疗三元组）；②实体链接：将query实体与图谱对齐；③知识检索：获取相关三元组（如“感冒→症状→咳嗽”）；④知识转化：三元组转自然语言prompt；⑤生成融合：将知识加入上下文，模型基于图谱生成响应，减少编造。核心是用结构化知识补充内部知识缺口。讨论题（共2题，每题5分）1.对比RAG与微调的幻觉抑制优缺点及适用场景？答案：RAG优点：无需重训、实时更新知识、成本低；缺点：检索相关性依赖索引、增加延迟。微调优点：内部知识优化、生成速度快；缺点：训练成本高、知识更新难、易受数据噪声影响。适用场景：RAG适合动态知识（如实时新闻）、快速迭代；微调适合固定领域（如法律条文）、低延迟需求。2.设计医疗垂直领域的幻觉抑制方案？答案：①知识层：构建医疗图谱（疾病-症状）+权威文档索引（教材）；②检索层：用医疗微调的Sentence-BERT优化相关性，加入UMLS实体链接；③生成层：医疗指令微调模型，加入“事实核查”prompt（如“回答需基于以下医疗知识”）；④评估层：医疗FactScore（对比PubMed）+医生标注；⑤迭代层：定期更新索引，用错误案例微调。核心围绕医疗“准确性、权威性”全流程抑制幻觉。答案汇总填空题答案1.幻觉2.生成器3.TruthfulQA4.推理型5.自然语言（prompt）6.遵循7.Sentence-BERT8.DPO9.外部知识10.人类标注验证单项选择题答案1.C2.B3.A4.B5.B6