CN118797017B 一种基于大语言模型与知识图谱协同的智能问答方法 （浪潮通 用软件有限公司）

一种基于大语言模型与知识图谱协同的智本申请提供了一种基于大语言模型与知识任务学习框架对所述简单问题自动抽取结构化2将复杂问题拆解为多个简单问题，分析所述简单问题与基本函数的关将每个所述简单问题视为一个智能体，使用多智能体强化学习的基本函数调用模型，基于逆二叉树的可变长度推理路径描述方法，将所述复杂问题的基于大模型的多任务学习框架对所述简单问题自动抽取结构化信息，以构建知识图构建基于逻辑推理大模型的累积推理学习框架，对所述基于所述复杂问题生成的所述多跳推理路径，不同的所述知识图谱每个处理单元的输出作为下一个单元的输入，每个单元的推理结所述任务指令描述如何从输入文本中提取相关信息并生成所需的输出结构；所基于通用基础大模型进行微调训练，以强化大模型的逻辑推理能力大模型的输出进行条件约束，确保所述复杂问题拆分后的每个子问题仅包含一个三元组，这样每个所述子问题就用一个基本函数进行求解，并且每个所述子问题仅包含单一的关将所述复杂问题拆解为多个所述简单问题，并进行向量化表示，基于大模型的多任务学习框架，通过人类指令来指导输出，对信息以生成表示所需输出结构及其相应标签的令牌序列，利用图神经网络构建领域知识图谱，利用图神经网络的信息传播机制学习数据间的语义3设计描述性指令，所述指令帮助所述大模型理解不同的信息提取任务结构的格式以及在提取过程中需要遵循的任何附加约束或规则；对于所述源文本，设计的所述描述性指令将引导预先训练的语言模实现如权利要求1_4任一项所述的基于大语言模型与知识图谱协同的智能问答方法中的步现如权利要求1_4任一项所述的基于大语言模型与知识图谱协同的智能问答方法中的步其特征在于，所述处理器执行所述程序时实现如权利要求1_4任一项所述的基于大语言模4[0003]智能问答系统的发展大致经历了几个阶段，包括基于大规模文档集的问答系统、[0004]尽管智能问答系统已经在意图识别、信息检索和答案生成等方面取得了显著进5[0011]本申请提供的一种基于大语言模型与知识图谱协同的智能问答方法还包括下述述简单问题与向量库内容进行语义相似度匹配，查找出与所述简单问题语义最接近的词，[0019]根据本申请的一个实施例，所述构建基于逻辑推理大模对所述知识图谱基于所述多跳推理路径形成的过程结果进行迭代验证，以修正推理路径，[0023]建立反馈循环机制，使所述逻辑推理大模型能够根据验证结果动态调整推理路6大模型能够从输入文本中提取相关信息并生成所需的输出结构，包括要提取的信息类型、输出结构的格式以及在提取过程中需要遵循的任何附加约束或规微调；了如何从输入文本中提取相关信息并生成所需的输出结构；选项是任务的输出标签约束；[0038]4.本申请搭建了基于逻辑推理大模型的累积推理学习框架，解决了知识谬误问7[0041]图1为本申请实施例提供的一种基于大语言模型与知识图谱协同的智能问答方法[0042]图2为本申请实施例提供的一种基于大语言模型与知识图谱协同的智能问答方法[0043]图3为本申请实施例提供的一种基于大语言模型与知识图谱协同的智能问答方法[0044]图4为本申请实施例提供的一种基于大语言模型与知识图谱协同的智能问答方法8F1(a1,b1)F2(a2,b2)F3(a3,b3)…Fi(ai,bi)，其中每个基本函数接收一个实体参数(ai,bi)的列表，这些参数需要根据问题进行推理。遍历序列化为函数序列。9[0082]可以使用FilterStr函数来查找具有特定属性值（即类型为科幻小说）的所有实[0092]通过这种逐步推理的方式，最终形成一个能够解答原始复杂问题的多跳推理路[0099]基于大模型的多任务学习框架对简单问题自动抽取结构化信息，以构建知识图[0104]利用图神经网络（GNN）构建知识图谱：在信息抽取的基础上，利用图神经网络节点间关系信息以及全局结构信息。模型理解不同的信息提取任务，并采用包括所有候选类别的选项机制作为输出空间的约学奖得主的信息，并将其以结构化的形式添加到知识图谱中，形成实体之间的链接，如模型在面对不同领域或变化较大的数据时也能保持较[0135]每个处理单元的输出作为下一个单元的输入，每个单元的推理结果可以累积起理问答中推理误差随推理深度增加而变大的问题，通过迭代验证过程结果来修正推理路[0159]本申请提供的一种基于大语言模型与知识图谱协同的智能问答方法还包括下述调对大模型的输出进行条件约束，确保复杂问题拆分后的每个子问题仅包含一个三元组，宾语。[0176]将每个简单问题视为一个智能体，使用多智能体强化学[0210]多任务学习框架：构建一个基于大模型（如Transformer架构的大规模预训练模[0216]通过上述步骤，基于大模型的多任务学习框架能够自动从文本中抽取结构化信推理步骤和结果来决定当前的推理路径是否合理，以及当前的结果是否满足预期的目式以及在提取过程中需要遵循的任何附加约束或规则；微调；[0281]通过上述步骤，基于描述性指令的大模型能够从源文本中准确地提取所需的信[0284]任务指令是用于指导大模型如何从输入文本中提取相关信息并生成所需输出结[0294]输出是指从样本的原始标签转换而来的句子，即模型根据任务指令生成的结本函数进行匹配度分析。多智能体强化学习可以让每个智能体通过与多个基本函数的交拆解为一个多步骤程序，利用逐步的中间程序求解来模拟回答问题的复杂逻辑推理过程。计了一个基于大模型的多任务学习框架，自动进行命名实体识别（NamedEntity[0316]在构建累积推理学