CN119443288A 一种跨领域知识推理的智能问答系统及方法 （山东浪潮科学研究院有限公司）

一种跨领域知识推理的智能问答系统及方法本发明公开一种跨领域知识推理的智能问有智能问答系统受制于技术短板在跨领域问题领域识别模块识别领域并利用大语言模型抽取2领域知识库构建模块，用于收集多个领域内的知识数据，进行预处领域识别模块，用于识别用户输入所涉及领域向量知识库的知识检索模块，用于根据领域识别模块抽取的关键信息，跨领域知识推理模块，用于获取所有领域的检索结果，通过提示工知识的逻辑关系，进而引导大语言模型B整合多领域知识，输出逻辑连贯的跨领域融合知模块输出的跨领域融合知识一起返回用户交互模识别模块识别用户输入所涉及领域向量知识库的对应领域，并利用大语言模型A从用户输确定领域知识库构建模块所构建领域向量知识库涵盖的领,3包含多领域的文本样本、且标注了对应领域标签的数据集训练一个基于Transformer架构预先使用包含多个领域的知识、且这些知识之间存在逻辑关系的数据Transformer架构的大语言模型B，所述跨领域知识推理模块引导大语言模型B整合多领域S1、收集多个领域内的知识数据，进行预处理和向另一方面返回针对用户输入的响应结果、各领域的检索结果以及整合后的跨领域融合知S4、根据领域识别模块抽取的关键信息，从对应并将大语言模型C生成的响应、步骤S4的检索结果和步骤S5输出的跨领域融合知识一起返确定领域知识库构建模块所构建领域向量知识库涵盖的领4随后采用余弦相似度的方式与不同领域向量知识库中存储的知识向量进行相似度计执行步骤S5前，预先使用包含多个领域的知识、且这些知识之间执行步骤S6前，预先使用包含问答对、以及与问题相关的上下文56识推理模块输出的跨领域融合知识一起返回用户交互[0012]可选的，所涉及领域知识库构建模块通过离线方式收集[0013]可选的，所涉及领域识别模块识别用户输入所涉及领域大语言模型A首先根据用户输入，识别用户输入所涉及领域向量知识库的对应领[0014]可选的，所涉及知识检索模块首先将领域识别模块抽取,7一个基于Transformer架构的大语言模型A，所述领域识别模块利用大语言模型A从用户输基于Transformer架构的大语言模型B，所述跨领域知识推理模块引导大语言模型B整合多预先使用包含问答对、以及与问题相关的上下文信息的数据集训练一个基于洗和切块的预处理操作，再后采用bge_m3模型对预处理后的数据进行向量化，并将结果存储到对应的领域向量知识库中，所述领域向量知识库采用Milvus知识库，数据存储格式为大语言模型A首先根据用户输入，识别用户输入所涉及领域向量知识库的对应领8随后采用余弦相似度的方式与不同领域向量知识库中存储的知识向量进行相似,及领域向量知识库的对应领域后，使用大语言模型A从用户输入中抽取已识别领域的关键结果，通过提示工程推理各领域之间知识的逻辑关系后，引导大语言模型B整合多领域知9识推理模块输出的跨领域融合知识一起返回用户交互大语言模型A首先根据用户输入，识别用户输入所涉及领域向量知识库的对应领量，随后采用余弦相似度的方式与不同领域向量知识库中存储的知识向量进行相似度计,基于Transformer架构的大语言模型A，所述领域识别模块利用大语言模型A从用户输入中一个基于Transformer架构的大语言模型B，所述跨领域知识推理模块引导大语言模型B整据转化为模型能够处理的向量表示形式，通过词嵌入等方法将单词映射到低维向量空间，注，以便模型能够更好地理解和学习3.3）选择一个在生成任务上表现出色的基于型对上下文信息的理解和利用能力，使其能够在复杂的文本环境中准确地获取所需信息，可得到本实施例的大语言模型C应用到智能问大语言模型A首先根据用户输入，识别用户输入所涉及领域向量知识库的对应领,据集训练一个基于Transformer架构的大语言模型A；执行步骤S3，识别用户输入所涉及领的数据集训练一个基于Transformer架构的大语言模型B；执行步骤S5，获取所有领域的检域知识且知识之间存在逻辑关系的文本数据，比如关于科技发展对社会经济影响的研究报型能够处理的向量表示形式，通过词嵌入等方法将单词映射到低维向量空间，同时，利用Transformer架构中的位置编码来捕捉文本中的顺序信息，以便更好地理解知识之间的逻预训练数据对模型进行多次迭代训练，根据模型在预训练任务上的表现，如逻辑关系预测步整合生成提示词后，输入大语言模型C得到最终响应。具体的来说，预训练过程包括：息与问题或答案进行关联编码，以便模型能够充分利用上下文信息来生成更准确的回答；的问答数据训练，使模型学习到不同类型问题的回答方式和技巧，以及如何根据上下文信模型对其中的信息进行理解和整合，然后根据特定的问题生成