CN118939766B 基于自适应检索增强机制调整答案文本的处理方法和装置 （北京深势科技有限公司）

基于自适应检索增强机制调整答案文本的本发明实施例涉及一种基于自适应检索增务的LLM模型作为第一模型；将问题文本输入第整模式为第一模式时直接将当前答案文本作为模式时进行多轮检索增强和答案文本调整得到2接收第一问题文本；并将预设的用于处理智能问答任务的LLM模型作为对应的第一模将所述第一问题文本输入所述第一模型的所述第一答案文本生成指令接口进行处理答案文本输入所述第一模型的所述答案质量评估指令接口进行处理得到对应的第一质量根据所述第一复杂度评估结果和所述第一质量评估结果进行文本调整模式确认得到当所述第一调整模式为第一模式时，将所述第一答案文本作为对应的调整后答案文第一知识库和所述第一模型进行单轮检索增强和答案文本调整处理得到对应的所述调整第一知识库和所述第一模型进行多轮检索增强和答案文本调整处理得到对应的所述调整其中，所述第一答案文本生成指令接口用于将接口当次输入所述第二答案文本生成指令接口用于将接口当次输入的问题文本和知识文本集作为所述问题复杂度评估指令接口用于将接口当次输入的问题文本作为对应的当前问题所述答案质量评估指令接口用于将接口当次输入的问题文本和答案文本作为对应的3所述第一知识库包括多个第一知识记录；所述第一知识记录包括第一知识文本和第一所述根据所述第一复杂度评估结果和所述第一质量评估结果进行文本调整模式确认所述根据所述第一问题文本、所述第一答案文本、所述第一知识库和参考RAG机制处理原理，对所述第一编码向量与所述第一知识库的各个所述第一知识似度超过预设的相似度阈值的所述第一文本向量对应的所述第一知识文本作为对应的第对应的第一检索文本序列；并将所述第一检索文本序列中排在序列头部的第一数量K的所述第一检索文本提取出来组成对应的第一知识文本集；所述第一数量K为一个预设的正整将所述第一问题文本和所述第一知识文本集输入所述第一模型的所述第二答案文本所述根据所述第一问题文本、所述第一答案文本、所述第一知识库和步骤61，将所述第一答案文本作为对应的当前答案文本步骤62，由所述第一问题文本和所述当前答案文本组成述第二组合文本进行词嵌入编码得到对应的所述第二相似度从高到低的顺序对所有所述第二检索文本进行排序得到对应的第二检索文本序列；并将所述第二检索文本序列中排在序列头部的所述第一数量K的所述第二检索4步骤64，将所述第一问题文本和所述第二知识文本集步骤66，将所述第一问题文本和所述第三答案文本输入步骤67，对所述第一计数器是否超过预设的计数器步骤68，对所述第二质量评估结果是否为高进行识别；2.根据权利要求1所述的基于自适应检索增强机制调整答案文本的处理方法，其特征所述第一模型已经完成模型预训练和模型微调；3.一种用于执行权利要求1_2任一项所述的基于自适应检索增强机制调整答案文本的所述问题接收模块用于接收第一问题文本；并将预设的用于处理智能问答任务的LLM所述答案生成与评估模块用于将所述第一问题文本输入所述第一模型的所述第一答所述第一问题文本和所述第一答案文本输入所述第一模型的所述答案质量评估指令接口所述调整模式确认模块用于根据所述第一复杂度评估结果和所述第一质量评估结果所述第一答案调整模块用于当所述第一调整模式为第一模式时，所述第二答案调整模块用于当所述第一调整模式为第二模式时，根据5所述第三答案调整模块用于当所述第一调整模式为第二模式时，根据所述答案显示模块用于对得到的所述调整后答案文本进所述处理器用于与所述存储器耦合，读取并执行所述存储器中的5.一种计算机可读存储介质，其特征在于6识领域覆盖面较高的大问答数据集对LLM模型进行模型预训练(pretraining)，再基于一模型能基于自身模型参数对用户输入的问题文本进行对应的答案文本生成处理。但受预/微调训练数据集的知识领域广度和深度限制，此时的LLM模型产生幻觉(illusion)问题的[0003]有学者为降低LLM模型的幻觉概率提出了检索增强生成(Retrievalaugmentedgeneration，RAG)机制，其具体实时细节可通过技术文献《Retrieval_Augmented制是指在LLM模型每次进行答案文本生成之前都先在外部知识库中对与问题文本相似的知操作则无疑会降低LLM模型的平均处理效率；2)常规的检索增强操作只会基于问题文本对的参考上下文的匹配度也会发生偏差、LLM模型生成的答案文本的准确度也无法得到有效7操作提高答案准确度；本发明在每轮检索增强操作时以问题文本+前次答案文本作为依据进行知识检索，因为常规情况下LLM模型生成的答案文本的逻辑性与专业性都会高于非专[0007]接收第一问题文本；并将预设的用于处理智能问答任务的LLM模型作为对应的第[0008]将所述第一问题文本输入所述第一模型的所述第一答案文本生成指令接口进行第一答案文本输入所述第一模型的所述答案质量评估指令接口进行处理得到对应的第一[0009]根据所述第一复杂度评估结果和所述第一质量评估结果进行文本调整模式确认所述第一知识库和所述第一模型进行单轮检索增强和答案文本调整处理得到对应的所述所述第一知识库和所述第一模型进行多轮检索增强和答案文本调整处理得到对应的所述[0017]所述第一答案文本生成指令接口用于将接口当次输入的问题文本作为对应的当[0018]所述第二答案文本生成指令接口用于将接口当次输入的问题文本和知识文本集8[0019]所述问题复杂度评估指令接口用于将接口当次输入的问题文本作为对应的当前[0020]所述答案质量评估指令接口用于将接口当次输入的问题文本和答案文本作为对[0028]参考RAG机制处理原理，对所述第一编码向量与所述第一知识库的各个所述第一一相似度超过预设的相似度阈值的所述第一文本向量对应的所述第一知识文本作为对应得到对应的第一检索文本序列；并将所述第一检索文本序列中排在序列头部的第一数量K的所述第一检索文本提取出来组成对应的第一知识文本集；所述第一数量K为一个预设的9[0029]将所述第一问题文本和所述第一知识文本集输入所述第一模型的所述第二答案对所述第二组合文本进行词嵌入编码得到对应的所述相似度阈值的所述第一文本向量对应的所述第一知识文本作为对应的第二检索文本；并按所述第二相似度从高到低的顺序对所有所述第二检索文本进行排序得到对应的第二检索文本序列；并将所述第二检索文本序列中排在序列头部的所述第一数量K的所述第二[0042]本发明实施例第二方面提供了一种用于实现上述第一方面所述的基于自适应检[0044]所述答案生成与评估模块用于将所述第一问题文本输入所述第一模型的所述第所述第一模型的所述问题复杂度评估指令接口进行处理得到对应的第一复杂度评估结果；并将所述第一问题文本和所述第一答案文本输入所述第一模型的所述答案质量评估指令[0045]所述调整模式确认模块用于根据所述第一复杂度评估结果和所述第一质量评估结果进行文本调整模式确认得到对应的第一调整模式；所述第一调整模式包括第一模式、令接口)，其中，第一答案文本生成指令接口用于根据输入的问题文本生成对应的答案文问题复杂度评估指令接口和答案质量评估指令接口对问题文本的问题复杂度以及初次答实施例在每轮检索增强操作时以问题文本+前次答案文本(在单轮检索增强操作或多轮检一轮时前次答案文本为前一轮得到的答案文本)作为依据进行知识检索，因为常规情况下LLM模型生成的答案文本的逻辑性与专业性都会高于非专业提问人员输入的问题文本，所[0055]图1为本发明实施例一提供的一种基于自适应检索增强机制调整答案文本的处理[0056]图2为本发明实施例二提供的一种基于自适应检索增强机制调整答案文本的处理图1为本发明实施例一提供的一种基于自适应检索增强机制调整答案文本的处理方法示意[0063]本发明实施例的第一答案文本生成指令接口用于将接口当次输入的问题文本作[0064]本发明实施例的第二答案文本生成指令接口用于将接口当次输入的问题文本和生成过程中的提示文本、根据当前问题文本进行答案文本生成处理并输出对应的答案文[0065]本发明实施例的问题复杂度评估指令接口用于将接口当次输入的问题文本作为[0066]本发明实施例的答案质量评估指令接口用于将接口当次输入的问题文本和答案[0068]步骤2，将第一问题文本输入第一模型的第一答案文本生成指令接口进行处理得答案质量评估指令接口进行处理得到对应的第一质量评实施例的第一答案文本生成指令接口会将接口当次输入的第一答案文本作为对应的当前施例的问题复杂度评估指令接口会将接口当次输入的第一问题文本作为对应的当前问题本的问题复杂度进行评估并输出对应的第一复杂度评估题文本进行关键字提取得到对应的当前文本关键字集合；并将预先设置的知识主题树上，与当前文本关键字集合中各个关键字匹配度最高的知识主题节点标记成对应的关键字主[0075]这里提到的知识主题树是一个用于存储知识类别的主题数(subject后基于该适配档来设置对应的第一复杂度评估结果文本的答案质量进行评估并输出对应的第一质量评前问题文本进行答案文本可信度识别得到对应的答案可信度时可基于多种方式来计算答语义完整度进行识别得到对应的答案语义完整度时可基于多种常规的语义完整性统计方和答案语义完整度对当前答案文本的答案质量进行评估并输出对应的第一质量评估结果档来设置对应的第一质量评估结果(适配档为[0083]步骤3，根据第一复杂度评估结果和第一质量评估结果进行文本调整模式确认得识库和第一模型进行单轮检索增强和答案文本调整处理得到对对第一组合文本进行词嵌入编码得到对应的第一检索文本序列中排在序列头部的第一数量K的第一检索文本提取出来组成对应的第一[0092]其中，相似度阈值为一个预先设置的相似度参数；第一数量K为一个预设的正整[0093]这里，RAG机制中与检索增强相关的处理原理可参考技术文献《Retrieval_前步骤332所示通过向量比对来对外部知识识库和第一模型进行多轮检索增强和答案文本调整处理得到对在序列头部的第一数量K的第二检索文本提取出来组成对应的第二知识文[0110]图2为本发明实施例二提供的一种基于自适应检索增强机制调整答案文本的处理[0111]问题接收模块201用于接收第一问题文本；并将预设的用于处理智能问答任务的[0112]答案生成与评估模块202用于将第一问题文本输入第一模型的第一答案文本生成[0113]调整模式确认模块203用于根据第一复杂度评估结果和第一质量评估结果进行文[0114]第一答案调整模块204用于当第一调整模式为第一模式时，将第一答案文本作为[0119]需要说明的是，应理解以上装置的各个模块的划分仅仅调度程序代码的形式实现时，该处理元件可以是通用处理器，例如中央处理器(Central[0122]图3为本发明实施例三提供的一种电子设备的结构示意图。该电子设备可以为实[0123]在图3中提到的系统总线305可以是外设部件互连标准(PeripheralComponentInterconnect，PCI)总线或扩展工业标准结构(ExtendedIndustryStandard能包含随机存取存储器(RandomAccessMemory，RAM)，也可能还包括非易失性存储器[0124]上述的处理器可以是通用处理器，包括中央处理器CPU、网络处理器(Network令接口)，其中，第一答案文本生成指令接口用于根据输入的问题文本生成对应的答案文问题复杂度评估指令接口和答案质量评估指令接口对问题文本的问题复杂度以及初次答实施例在每轮检索增强操作