CN118394890B 一种基于大语言模型的知识检索增强生成方法及其系统 （宏景科技股份有限公司）

一种基于大语言模型的知识检索增强生成本申请公开了一种基于大语言模型的知识于各个待匹配文档与目标查询问题的相关程度题和排序后文本片段序列作为输入集合输入至2基于文档检索增强模型根据所述目标查询问题在用户私有知识库中检索出待匹配文基于各个所述待匹配文档与所述目标查询问题的相关程度，获基于所述关键提示词与所述目标文档进行匹配，得到所述目标文档中的目标文本片将所述目标查询问题和所述排序后文本片段序列作为输入集合输入至文本生成增强获取待查询的数据库以及用户输入的针对所述数据将所述查询问题文本和所述提示词工程输入至大语言模型中，基于文档检索增强模型根据所述目标查询问题在用户私有知识库中检索出待匹配文档集基于文档检索增强模型对各个所述待匹配文档进行处理，以将各个基于预设的神经网络模型对各个所述待匹配文档的第一文档内容特征向量进行特征基于所述文档检索增强模型对所述目标查询问题进行处理，以将所述基于所述神经网络模型对第一查询问题特征向量进行特基于所述第二文档内容特征向量和所述第二查询问题特征向量基于所述第二文档内容特征向量和所述第二查询问题特征向量，确定所述待匹配文档集基于预设模型计算各个所述待匹配文档的第二文档内容特征向量与所述第二查询问3将目标相似度值对应的待匹配文档进行集合，得到所述待匹配文档集合根据所述数据表以及每个所述数据表的表结构定义信息，确定根据每个所述数据表的三元组信息以及各所述数据表之间的依赖关将所述数据库名、所述表结构定义信息以及所述知识图谱确定所述提根据所述表结构定义信息以及所述知识图谱构建所述提束条件用于引导所述大语言模型基于所述表结构定义信息以及所述知识图谱生成查询语所述将所述查询问题文本和所述提示词工程输入至大语言模型中将所述查询问题文本和所述提示词工程输入至大语言模型中，根据所述提示词工程中的约束条件对所述多个候选查询语句进行其中，所述约束条件中包括在所述多个候选查询7.一种如权利要求1至6任一项所述方法的基于大语言模型的知识检索增强生成系统，关键词提取模块，用于对所述目标查询问题进行拆分，提取出所述目文档检索模块，用于基于文档检索增强模型根据所述目标查文档匹配模块，用于基于各个所述待匹配文档与所述目文本片段匹配模块，用于基于所述关键提示词与所标文档中的目标文本片段；所述目标文本片段与所述关键提示词的匹配程度大于第二阈4答案文本生成模块，用于将所述目标查询问题和所述排序后文本片段序列程序被处理器执行时实现权利要求1至6任一项所述的基于大语言模型的知识检索增强生5相似度高的文本块过程是进一步提升预训练大语言模型解决幻觉、长尾现象等问题的关[0010]基于文档检索增强模型根据所述目标查询问题在用户私有知识库中检索出待匹6[0014]将所述目标查询问题和所述排序后文本片段序列作为输入集合输入至文本生成[0019]文档匹配模块，用于基于各个所述待匹配文档与所述目算机程序被处理器执行时实现上述任一项所述的基于大语言模型的知识检索增强生成方行时实现上述任一项所述的基于大语言模型的知识检索增78换为第一查询问题特征向量，即问题嵌入阶段，输入的目标查询问题经过一个嵌入层（Embedding将目标查询问题的文本信息转换为向量形式。这个过程通常涉及词嵌入9[0064]通过根据计算和提取提示词及文档上下文之间的特征，借助NFA机制将问题提示图，NFA为线性频率感知注意力机制通过两个路径处理特征向量X∈R^{C×H×W}，R^{C×H×W}表示输入的特征图，其中C是通道数（featuredept过一系列卷积操作（包括1×1和3×3深度可分离卷积）从X转换而来，查询Q∈R^{4C×H×小波变换，将其分解为四个频率域，并通过两组1×1和3×3的卷积层生成键（Key）和值线性频率感知注意力机制中实现DWT_卷积_IDWT的过程的引入，是为了在不同频率层面捕获特征并增强模型对局部上下文和全局结构的建模能力。通过这种机制，模型能够更有效列的问题提示词一上下文对（Question+context1，Question+context2[0073]在本步骤中，基于大语言模型的知识检索增强生成系统中可以包括数据库模块、的知识图谱。大语言模型模块主要用户根据用户输入的文本以及提示词工程生成查询语句。输出模块主要用于返回大语言模型模块生成的查询语句以及数据库模块的查询结果。[0075]另外，上述基于大语言模型的知识检索增强生成系统中还可以包括一个获取模么这里的大语言模型的功能就比如可以是text_to_sql，即将数据库领域下的自然语言文至大语言模型中进行文本到查询语句的转换处理，确定查询问题文本对应的目标查询语[0095]以下实施例对通过数据库的相关信息构建大语言模型的提示词工程的具体过程可以便于后续大语言模型能够准确理解数据表与表之间的依赖关系以及表中各字段之间[0118]3.只能使用表结构定义信息中提供据库中数据表与数据表之间的依赖关系，以及理解每个数据表中各字段之间的依赖关系在大语言模型针对一个查询问题文本初步生成多个准确的查询语句时可以通过优化性能束条件，这样可以指示大语言模型按照该约束条件生成准确且符合用户需求的查询语句，中选择出一个性能最优的候选查询语句作为目标述的基于大语言模型的知识检索增强生成系统与上文描述的基于大语言模型的知识检索增强生成方法可相互对应参照。图8为本申请实施例提供的基于大语言模型的知识检索增[0135]文档检索模块803，用于基于文档检索增强模型根据所述目标查询问题在用户私[0136]文档匹配模块804，用于基于各个所述待匹配文档与所述目标查询问题的相关程[0139]答案文本生成模块807，用于将所述目标查询问题和所述排序后文本片段序列作[0144]基于文档检索增强模型根据所述目标查询问题在用户私有知识库中检索出待匹[0148]将所述目标查询问题和所述排序后文本片段序列作为输入集合输入至文本生成现在流程图一个流程或多个流程和/或方框图一个方框或多个方[0152]这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特令系统的制造品，该指令系统实现在流程图一个流程或多个流程和/或方框图一个方框或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一