大模型技术深度解析(微课版) 课件4.2检索增强生成

检索增强生成主要内容一、检索增强生成的概念、基本框架与动机二、检索增强生成的相关技术介绍三、检索增强生成的分类四、检索增强生成的方法介绍五、评估指标与评估维度六、检索增强生成的应用七、挑战与未来一、检索增强生成的概念、基本框架与动机检索增强生成的概念检索增强生成（Retrieval-AugmentedGeneration，RAG）是一种结合信息检索技术与生成模型的混合方法。目标：提升生成任务中答案或内容的质量、准确性和相关性。具体做法：通过引入外部知识库或文档资源，在生成过程中动态地检索与输入相关的信息，并将其与生成模型结合。这种方式弥补了传统生成模型的不足，使得模型不仅依赖于其训练时所学到的固定知识，还能够实时调用外部信息源，从而增强生成内容的可信度和丰富性。一、检索增强生成的概念、基本框架与动机检索增强生成的基本框架构成：检索器+生成器。一、检索增强生成的概念、基本框架与动机检索增强生成的基本框架构成：检索器+生成器。一、检索增强生成的概念、基本框架与动机检索增强生成的动机二、检索增强生成的相关技术介绍BM25检索算法核心思想：通过计算查询词与文档之间的匹配程度，评估文档的相关性。二、检索增强生成的相关技术介绍DPR检索算法核心思想：通过训练一个双塔神经网络模型，将查询和文档分别编码为密集向量，并通过计算查询向量和文档向量之间的相似度来评估相关性。二、检索增强生成的相关技术介绍REALM检索算法核心思想：通过在预训练阶段将检索过程与语言模型的生成过程进行结合，从而实现更加有效的知识增强。三、检索增强生成的分类三、检索增强生成的分类面向检索的RAG方法主要目标：优化检索过程，使其能够高效地从大规模文档库中提取信息。这些方法关注如何改进检索器的性能，通过多种策略增强检索信息的质量和相关性，从而为生成任务提供更精准的输入。三、检索增强生成的分类基于表征融合的RAG方法主要目标：通过整合来自检索模块和生成模型的不同表征（如文本嵌入、特征向量等），提升生成过程中的信息利用效率。这些方法不仅关注生成模型如何依赖外部知识进行补充，还注重如何将检索到的内容与生成过程中的表征进行有效融合，从而增强模型在处理复杂任务时的推理能力。三、检索增强生成的分类基于动态增强的RAG方法主要目标：关注如何通过实时反馈和自适应机制，提升模型在生成任务中的灵活性和应变能力。这些方法能够根据任务的不同需求，动态地调整生成过程和检索策略，从而在多个步骤中不断优化模型的表现。三、检索增强生成的分类基于图增强的RAG方法主要目标：利用图结构的优势，增强模型在检索和生成任务中的表现。图神经网络和知识图谱等技术，能够有效地组织和表示信息，帮助模型在复杂的生成任务中更好地理解和利用背景知识。三、检索增强生成的分类基于推理与训练优化的RAG方法主要目标：通过推理结构的引入和训练策略的优化，增强RAG模型在推理过程中的表现。推理链（如思维链）和专门的训练优化策略，能够帮助模型在复杂任务中做出更加精确的决策和推理。三、检索增强生成的分类基于效率与精炼优化的RAG方法主要目标：优化生成过程中的计算效率和存储成本，同时通过信息精炼机制减少噪声，确保最终生成内容的质量。通过提高检索效率、减少计算开销和精炼检索结果，大幅度提升了RAG模型在实际应用中的可用性和执行效率。四、检索增强生成的方法介绍面向检索的RAG方法---检索器的朴素增强核心思想：通过改进检索模块来增强生成模型的输入上下文，从而提升生成效果。REALM方法：REALM通过引入可学习的文本检索器，在模型预训练、微调和推理过程中检索大规模语料，从而提升问答效果并增强可解释性。query2doc方法：利用LLM生成伪文档扩展原始查询，从而提升检索精度。HyDE方法：通过生成假想文档并进行对比学习，实现零样本稠密检索。TreeofClarifications框架：将模糊查询分解为多个清晰的子查询，使用子查询进行相关文档的检索，从而递归生成长文本的回答。四、检索增强生成的方法介绍面向检索的RAG方法---混合检索增强核心思想：结合多种检索方式，增强信息的多样性和覆盖范围。RAP-Gen方法：面向自动程序修复任务，融合密集与稀疏检索，构建混合补丁检索器，实现对源代码的词汇与语义匹配，减少对特定代码特征的依赖。RAFTS框架：通过示范检索与稀疏-密集结合检索获取对比性论点，提升LLM驱动的细粒度事实验证能力。HybGRAG方法：将知识图谱与非结构化文本文档结合，通过文本检索模块和图检索模块，实现不同信息源的联合检索，为生成模型提供更全面的上下文信息。四、检索增强生成的方法介绍面向检索的RAG方法---重排检索增强核心思想：通过对检索到的文档进行重排序，优化与生成任务相关的信息顺序。RAPTOR方法：通过构建递归树结构来解决传统方法中忽略语义深度和连接性的问题，根据语义相似性对树的节点进行分组，从而实现跨越不同抽象层次的文档信息整合。In-ContextRALM方法：检索文档后，通过一个排序器对排名靠前的文档进行重新排序和集成。ListT5方法：以固定数量的m个段落作为输入，分别进行编码，并使用解码器生成一个按相关性递增顺序排列的段落索引列表，实现长输入的有效处理。四、检索增强生成的方法介绍面向检索的RAG方法---转换检索增强核心思想：通过转换检索的方式，使检索到的信息更符合生成任务的需求。CRAG方法：通过引入一个轻量级的检索评估器，对检索到的文档质量进行动态评估，并通过量化置信度触发纠错机制。当评估结果表明检索到的文档不准确或不相关时，CRAG会主动通过网络搜索获取更相关的文档，并将其作为新的上下文提示。SarGaM方法：面向自动程序修复任务，在补丁数据库中搜索与输入上下文相似的前k个补丁，每个检索到的补丁与原始输入连接起来，形成一个增强的输入。然后，使用大模型根据增强输入生成代码。最后，将代码重写视为代码片段删除和添加操作，使用大模型进行重写。四、检索增强生成的方法介绍基于表征融合的RAG方法---logit融合增强核心思想：通过将检索到的信息与生成模型的logits层输出进行融合，增强最终生成结果的准确性。Logit是指模型输出层的原始得分，代表每个token的原始预测分数，表示模型对输出的信心程度。kNN-LM方法：使用预训练模型嵌入空间中的距离来计算最近邻。构建一个键值对数据存储，通过与预训练神经语言模型进行线性插值，来扩展预训练的神经语言模型。TRIME方法：将内存增强技术引入到预训练阶段，直接利用批量示例作为可访问的内存。四、检索增强生成的方法介绍

基于表征融合的RAG方法---注意力机制增强核心思想：通过引入注意力机制，对检索到的信息进行加权，使生成模型能够根据上下文的相关性更好地关注关键信息。Multi-HeadRAG方法：将相同的文本块投影到不同的向量空间，使用多个嵌入模型捕获不同的知识维度；利用Transformer中的多头注意力机制，对不同的信息维度进行加权融合，使模型能够从多个角度捕获信息。RETRO方法：从知识库中检索与输入相似的k段文本，通过交叉注意力机制融合文本与输入序列，进而在生成阶段集成相关信息。四、检索增强生成的方法介绍基于动态增强的RAG方法---基于自我反馈与自适应的动态RAG核心思想：利用自我反馈机制，使得生成模型能够在每次生成之后进行自我评估，并调整生成策略。SELF-RAG方法：模型在生成的过程中，通过自我评估生成内容的质量来判断是否需要进一步检索信息，在必要时才进行检索。RA-ISF方法：通过自我知识、段落相关性和问题分解三个模块，针对问题进行迭代处理。自我知识模块用于判断当前问题是否能够依靠模型自身的知识解答。模型无法依靠自身知识解答问题时，系统会通过检索相关段落来补充缺失的知识。四、检索增强生成的方法介绍基于动态增强的RAG方法---基于主动检索与多轮迭代的动态RAG核心思想：通过主动检索和多轮迭代机制，动态更新检索信息，逐步优化生成结果。FLARE方法：在生成答案的过程中，语言模型在必要时进行检索，并将检索内容作为新输入。当模型生成临时的下一句话时，如果仍包含低置信度的token，则系统会重新生成并调整查询，从而逐步改进生成结果。DRAGIN方法：通过RIND模块用于评估LLM的令牌级不确定性、重要性和语义贡献，以确定触发检索的最佳时机。通过QFS模块，利用LLM的自注意力机制识别最相关的token，以构建检索查询。四、检索增强生成的方法介绍基于图增强的RAG方法---基于图神经网络的RAG方法核心思想：利用图神经网络来增强检索和生成过程中信息的表达，帮助模型更好地理解节点间的关系。G-Retriever方法：先检索与给定查询最相关的子图，再使用检索到的子图和语言模型生成答案，通过图问答任务验证其有效性。GNN-RAG方法：从知识图谱中检索出与问题相关的候选答案，图中的每个节点使用GNN模型聚合邻居信息得到节点表示，对节点表示做归一化操作，将得分高于阈值的节点选为候选答案。然后将这些候选点和问题中的实体节点在图上做最短路径匹配，最终得到检索的子图。检索到的推理路径被转换为文本输入到LLM进行最终问题回答。四、检索增强生成的方法介绍基于图增强的RAG方法---基于知识图谱的RAG方法核心思想：通过知识图谱提供的结构化语义信息，帮助模型更高效地获取任务相关的背景知识。KAG方法：融合知识图谱与RAG技术，构建包含索引构建（KAG-Builder）、混合推理（KAG-Solver）和模型优化（KAG-Model）三大模块的架构，支持知识与文本的互索引、逻辑与语义推理协同，从而全面提升知识表示、检索与生成性能。SimGRAG方法：对于查询文本，使用LLM生成与文本对齐的模式图；并量化模式图与KG中候选子图之间的对齐程度，检索具有最小度量结果的前k个子图，与查询一同输入LLM中。四、检索增强生成的方法介绍基于推理与训练优化的RAG方法---面向RAG的LLM训练方法核心思想：通过自监督学习、对抗性训练等训练方式，提高LLM在RAG框架下的表现，尤其是在面对噪声和信息不完整的情况时。INFO-RAG方法：将LLM在RAG任务中的角色定位为“信息提炼者”，无论检索到的文本是否具有准确性、完整性或实用性，LLM都能从中提取并整合关键信息，生成比检索文本更简洁、准确和完整的输出。RAAT方法：通过自适应对抗性训练，动态调整模型训练过程，以更好地应对检索噪声。通过交叉熵损失函数优化训练过程，并引入正则项来减小损失梯度的差异，进而鼓励模型能够识别不同类型的噪声。四、检索增强生成的方法介绍基于推理与训练优化的RAG方法---基于思维推理的RAG方法核心思想：通过引入思维链、思维树等结构化推理机制，帮助模型进行多步推理，提升生成质量。ICL-RAG方法：通过思维链提示引导LLM检测和识别医疗错误，同时利用RAG框架整合相关上下文信息；并通过提示LLM生成对临床记录正确性或错误性的原因，从而帮助文本纠错过程中的推理和判断。M-RAG方法：结合了两个智能体：Agent-S负责为给定的输入查询选择合适的分区，Agent-R优化该分区内的检索信息。此框架利用多智能体强化学习优化决策过程，并引入了RAG的多分区范式。四、检索增强生成的方法介绍基于效率与精炼优化的RAG方法---面向检索效率和存储成本的RAG方法核心思想：通过缓存、压缩和内存优化等手段，减少系统资源的消耗，提高生成过程的效率。LandmarkEmbedding方法：引入特殊标记“Landmark”来捕捉长上下文中每个句子的语义，避免了上下文切分操作。通过为接近相关信息边界的句子分配更高的权重，确保了能够完整检索到有用内容，从而避免了传统方法中上下文被分割后可能导致的信息丢失。CFIC方法：利用文档的编码隐藏状态进行上下文检索，使用自回归解码准确地识别用户查询所需的特定证据文本。四、检索增强生成的方法介绍基于效率与精炼优化的RAG方法---基于噪声过滤与信息精炼的RAG方法核心思想：通过噪声过滤、信息瓶颈等机制，精炼检索信息，从而确保生成任务的高质量和高相关性。基于信息瓶颈理论的方法：将检索增强型生成的信息瓶颈公式化，同时最大化压缩与目标输出之间的互信息，最小化压缩与检索段落之间的互信息。将所得公式应用于开发评估指标、监督微调目标和强化学习奖励函数。InteR方法：检索模型利用LLM生成的知识集合扩展查询中的知识，并使LLM能够利用检索到的文档增强提示的构建进而形成迭代的精炼过程。五、评估指标与评估维度RAG的评估指标ExactMatch：度量模型生成的答案与参考答案是否完全相同。Recall：衡量从所有相关文档中检索到的文档占总相关文档的比例。Precision：度量从所有相关文档中检索到的文档占检索到的所有文档的比例。F1：衡量从文档库中检索到的信息是否足够完整，以及模型生成的答案是否准确。CosineSimilarity：计算查询与候选文档之间的相似度。Accuracy：表示模型生成的答案与真实答案之间的一致性。MRR：评估系统返回的正确答案的位置（排名）。NDCG：考虑了检索结果中答案的相关性，同时根据排名位置对结果进行折扣，目的是评估系统返回的相关结果是否靠前，并根据位置给予适当的权重。五、评估指标与评估维度RAG的评估维度六、检索增强生成的应用机器翻译定义：利用计算语言学算法自动将文本或语音从一种语言转换为另一种语言。目标：生成准确且流畅的翻译，保持目标语言的语法和风格规范，同时尽可能保留原文的意思。提升方式：（1）根据源文本检索相似翻译，并将源或目标文本对作为示例连接到输入中。（2）将检索到的源文本输入模型，生成目标标记的logit并聚合所有logit来进行最终预测。（3）利用检索到的示例的logit来校准聚合的logit，从而提高生成翻译的鲁棒性。（4）在训练阶段将外部知识注入目标函数，通过相似翻译细化表示空间。（5）对相似的翻译进行编码并存储为翻译记忆，然后使用交叉注意力模块从记忆中引入知识。六、检索增强生成的应用机器翻译定义：利用计算语言学算法自动将文本或语音从一种语言转换为另一种语言。目标：生成准确且流畅的翻译，保持目标语言的语法和风格规范，同时尽可能保留原文的意思。提升方式：（1）根据源文本检索相似翻译，并将源或目标文本对作为示例连接到输入中。（2）将检索到的源文本输入模型，生成目标标记的logit并聚合所有logit来进行最终预测。（3）利用检索到的示例的logit来校准聚合的logit，从而提高生成翻译的鲁棒性。（4）在训练阶段将外部知识注入目标函数，通过相似翻译细化表示空间。（5）对相似的翻译进行编码并存储为翻译记忆，然后使用交叉注意力模块从记忆中引入知识。六、检索增强生成的应用问答定义：能够自动用自然语言回答用户提问的系统。类型：（1）开放域问答，能够解答几乎任何类型的问题。（2）封闭域问答，专注于特定领域的知识。挑战：准确理解问题意图、从庞大信息库中检索相关准确内容来生成简洁答案。提升方式：（1）给定问题和答案对为示例，生成器之间的模式，从而推断出答案。（2）专注于设计有效的模板来重新组织连接的上下文。（3）利用知识图谱检索与输入问题相关的事实，然后将其连接和输入到生成器中。（4）将检索嵌入与编码器-解码器模型的输入嵌入相连接，而不是直接连接文本。（5）将检索到的问答对作为额外的训练数据，增强模型的学习及通过改进键的表示、用预训练的排名模型替换索引、或使用双查询检索短语来优化检索器模块。（6）通过层稀疏交叉注意机制加速RAG的解码过程。（7）学习在适当时机进行检索。（8）将RAG与代理相结合，以进行迭代推理并得出最终结果。六、检索增强生成的应用信息抽取定义：从非结构化和半结构化文本中自动提取结构化信息。子任务：包含命名实体识别（NER）、实体链接（EL）、共指解析（CR）、关系抽取（RE）等。目标：识别和分类文本中的关键元素，并理解它们之间的关系。任务：（1）命名实体识别任务中，Wang等人（WANGetal,2021）首先检索相似的句子，然后将排序后的检索结果连接起来以获得更好的语义表示。（2）参数提取任务中，Ren等人(RENetal,2023)通过采样方法保证检索和输入之间的事件标签分布一致，将检索文本连接到输入中来获得更好性能。（3）表格增强任务中，Glass等人(GLASSetal,2023)提出以检索增强的方式从表格中提取信息。六、检索增强生成的应用对话系统定义：又称聊天机器人，旨在通过文本或语音与用户进行模拟对话。系统类型：（1）任务导向型：主要帮用于完成特定任务，如订票、点餐