大模型幻觉治理工程师考试试卷及答案

大模型幻觉治理工程师考试试卷及答案一、填空题（共10题，每题1分）1.大模型生成与真实事实不符的内容称为______。答案：幻觉2.幻觉治理中，通过增加真实数据标签的方法叫______增强。答案：事实3.评估幻觉的常用指标有事实准确性、______等。答案：一致性4.检索增强生成（RAG）通过引入______来减少幻觉。答案：外部知识库5.大模型幻觉中，“编造不存在的实体”属于______类幻觉。答案：实体6.微调时使用______数据可以降低幻觉概率。答案：高质量事实7.幻觉治理的技术路径包括：事实增强、______、评估优化等。答案：检索增强8.当大模型回答“不确定”时，说明其可能识别了______。答案：幻觉风险9.多模态幻觉主要涉及文本与______的不一致。答案：图像/视频10.幻觉治理的目标是提升模型输出的______。答案：事实准确性二、单项选择题（共10题，每题2分）1.以下不属于大模型幻觉类型的是？A.事实幻觉B.推理幻觉C.数据幻觉D.模态幻觉答案：C2.RAG技术的核心是？A.模型参数微调B.引入外部检索C.prompt优化D.数据清洗答案：B3.以下哪种方法能直接减少幻觉？A.增加模型参数量B.使用事实增强数据微调C.提高训练效率D.扩大训练语料答案：B4.评估幻觉的“事实核查”环节主要依赖？A.模型自判断B.外部知识库验证C.用户反馈D.训练数据量答案：B5.大模型幻觉产生的根本原因不包括？A.训练数据中的噪声B.模型对知识的错误归纳C.参数量不足D.推理过程中的逻辑跳跃答案：C6.以下属于prompt工程治理幻觉的方法是？A.few-shotpromptingB.zero-shotpromptingC.要求“基于已知事实回答”D.增加prompt长度答案：C7.多模态幻觉的典型场景是？A.文本生成错误数字B.图像描述与实际内容不符C.回答逻辑矛盾D.编造不存在的事件答案：B8.幻觉治理中，“不确定性校准”的作用是？A.让模型识别知识边界B.增加模型输出长度C.提高推理速度D.减少训练成本答案：A9.以下哪种技术不属于幻觉治理？A.ChainofThought（CoT）B.RetrievalAugmentedGenerationC.HallucinationDetectionD.ParameterScaling答案：D10.当模型回答“我没有相关信息”时，属于？A.幻觉规避B.事实幻觉C.推理错误D.模态冲突答案：A三、多项选择题（共10题，每题2分）1.大模型幻觉的常见类型包括？A.事实幻觉B.推理幻觉C.实体幻觉D.模态幻觉答案：ABCD2.幻觉治理的核心技术路径有？A.检索增强生成（RAG）B.事实增强微调C.prompt工程优化D.幻觉检测与过滤答案：ABCD3.评估幻觉的关键指标包括？A.事实准确性B.一致性C.可靠性D.创意性答案：ABC4.以下属于RAG技术组成部分的是？A.外部知识库B.检索模块C.生成模块D.微调模块答案：ABC5.大模型幻觉产生的原因包括？A.训练数据噪声B.知识边界模糊C.推理逻辑跳跃D.外部检索缺失答案：ABCD6.以下属于prompt工程治理幻觉的方法是？A.要求“仅基于提供的上下文回答”B.添加事实核查指令C.使用CoTpromptingD.增加随机噪声答案：ABC7.多模态幻觉治理需要考虑的维度包括？A.文本与图像的一致性B.多模态数据对齐C.跨模态检索D.单模态生成优化答案：ABC8.以下属于幻觉检测方法的是？A.外部知识库比对B.模型自评估C.用户反馈分析D.参数量检测答案：AB9.幻觉治理的目标包括？A.提升事实准确性B.增强可解释性C.降低误导性D.提高模型效率答案：ABC10.以下属于事实增强数据的是？A.标注事实正确性的文本B.结构化知识库片段C.未标注的网络文本D.真实事件记录答案：ABD四、判断题（共10题，每题2分）1.大模型参数量越大，幻觉概率越低。答案：错2.RAG技术必须依赖外部知识库才能生效。答案：对3.事实增强微调可以有效减少事实类幻觉。答案：对4.多模态幻觉仅存在于图像-文本模型中。答案：错5.模型自判断“输出是否真实”可以完全替代外部核查。答案：错6.幻觉治理只需要关注事实类幻觉，不需要关注推理类幻觉。答案：错7.ChainofThought（CoT）可以减少推理过程中的幻觉。答案：对8.增加训练语料的多样性会必然降低幻觉。答案：错9.不确定性校准能让模型更愿意表达“不知道”。答案：对10.幻觉治理的最终目标是消除所有幻觉。答案：错五、简答题（共4题，每题5分）1.什么是大模型幻觉？请简述其核心特征。答案：大模型幻觉指模型生成与真实事实、逻辑或已知信息不符的内容，无可靠依据编造信息。核心特征：①事实不符（如编造不存在的事件/实体）；②无依据（输出无知识来源支撑）；③逻辑矛盾（推理跳跃/自相矛盾）；④模态冲突（多模态下跨模态内容不一致）。并非模型“故意欺骗”，源于训练噪声、知识边界模糊等归纳错误。2.检索增强生成（RAG）如何减少大模型幻觉？请简述其基本流程。答案：RAG通过引入外部知识库约束模型输出，流程：①检索：用户提问后，从外部知识库（文档库、数据库）检索相关真实片段；②融合：将检索片段与问题拼接成prompt；③生成：模型基于融合后的prompt回答，而非仅依赖内部训练知识。核心是用真实数据避免无依据编造。3.事实增强微调在幻觉治理中的作用是什么？需要注意哪些问题？答案：作用：用标注事实正确性的高质量数据微调，强化模型对事实的敏感度，降低无依据编造概率。注意：①数据质量（避免噪声加剧幻觉）；②领域适配（针对目标领域微调，减少跨领域错误）；③平衡（不过度微调导致泛化能力下降）。4.多模态幻觉治理与单模态（文本）幻觉治理的主要差异是什么？答案：差异：①维度：多模态需对齐跨模态内容，单模态仅关注文本事实；②技术：多模态需跨模态检索、对齐，单模态以RAG、事实微调为主；③指标：多模态增加跨模态一致性，单模态侧重事实准确性；④挑战：多模态需处理模态语义鸿沟，单模态主要是知识边界问题。六、讨论题（共2题，每题5分）1.如何平衡大模型幻觉治理与模型创意生成能力？请结合实际场景说明。答案：分场景设计：①创意优先（广告文案）：放宽事实约束，用“创意标签”区分事实与创意，避免误导；②事实优先（医疗咨询）：严格治理，用RAG+事实核查强制基于真实数据；③平衡（科普内容）：prompt指令明确“事实准确+创意灵活”，标注事实来源。例如，科普中，模型基于真实科学数据生成创意解释，标注“来源：XX数据库”，既保创意又避幻觉。2.大模型幻觉治理在实际落地中面临哪些挑战？请提出至少两点应对建议。答案：挑战：①领域适配难（通用模型在垂直