CN119474317A 基于大语言模型的问题处理方法及装置 （中移在线服务有限公司）

本发明提供一种基于大语言模型的问题处效提升了大语言模型输出结果的准确性和相关2对输入问题进行意图识别，确定所述输入问题的意图信息，并在确定所述意图处理流程为智能体流程的情况下，基于所在确定所述意图处理流程为流程编排的情况下，确定所述意图信息对应的处理流程，在确定所述意图信息对应的处理流程是确定商品信息的情况下获取商品库中的商品信息，分别对各历史用户的输入问题对应基于将各商品信息与其对应的向量信息进行关联，得到关联数基于所述场景信息以及所述答复结果，确定所述答复结果的在基于所述意图信息，确定处理所述输入问题的意图处理流3流程，所述智能体流程用于表征所述意图处理流程适用于智能体大语言模型处理的流程，所述编排流程用于表征所述意图处理流程适用于预先定义并编第一答复模块，用于在确定所述意图处理流程为智能体流程第二答复模块，用于在确定所述意图处理流程为流程编8.一种电子设备，包括存储器、处理器及存储程序被处理器执行时实现如权利要求1至6任一项所述基于大语言模型行时实现如权利要求1至6任一项所述基于大语言模型的问4[0003]现有方法中大语言模型的应用一般是基于检索增强生成（Retrieval_Augmented在确定所述意图信息对应的处理流程是确定商品信息的情况下，基于余弦相似[0007]根据本发明提供的一种基于大语言模型的问题处理方法，所述向量库的构建流5机程序被处理器执行时实现如上述任一种所述基于大语言模型的问执行时实现如上述任一种所述基于大语言模67Agent提供一到多次调用LLM的方式,并根据期结果判断调用工具或者下一步做什么直至得所述意图信息对应的意图处理流程，所述意图处理流程至少包括智能体流程以及编排流述编排流程用于表征所述意图处理流程适用于预先定义并编8流程，所述智能体流程用于表征所述意图处理流程适用于智能体大语言模型处理的流程，所述编排流程用于表征所述意图处理流程适用于预先定义并编[0044]可选的，意图识别流程如图2本发明提供的意图识别流程示意图所示，具体可以9[0054]编排流程用于表征所述意图处理流程适用于预先定义并[0056]其中，智能体流程的处理流程可以如图4本发明提供的智能体流程处理示意图所[0057]预先构建业务对应的所有函数接口。函数接口是基于问题对应的求解参数构建;;userQueryvector=userQuestionvector:userEnumvector:userNumvector；;步骤102：将维度统一后的商品信息进行自注意力编码，然后连接神经网络;;;GoodEncoderoutputaxm；inputz1wm=userQueryvector1xaz*Aazxm；步骤202，将维度统一后的用户信息进行自注意力编码，然后连接神经网络;;;;;[0088]对商品库中所有的商品数据维度向量，分别与输入问题对应的向量通过模型输;http,sse类型的post请求：获取json请求体信息和函数定义的要替换的json字[0100]其中，文本信息替换流程可以如图10本发明提供的文本信息替换流程示意图所递归遍历原始数据json，判断是否存在数据类型为JSONArray的对象。针对每个历史用户的输入问题对应的商品信息进行向量化处理，得到多个商品信息对应的向量信[0114]全文本匹配为输入问题题完全匹配系统配置的文本后返[0126]本发明还提供一种应用本发明提供的基于大语言模型的问题处理方法的流程示在AI智能管理模块配置对应意图判别的提示词信息，通过调用大模型获取识别到的意图。大语言模型的问题处理装置与上文描述的基于大语言模型的问题处理方法可相互对应参在确定所述意图信息对应的处理流程是确定商品信息的情况下，基于余弦相似发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以述编排流程用于表征所述意图处理流程适用于预先定义并编排以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；