CN119003728B 一种大语言模型对话记忆的处理方法、装置、设备及介质 （北京面壁智能科技有限责任公司）

一种大语言模型对话记忆的处理方法、装本发明公开了一种大语言模型对话记忆的能体与用户的对话信息进行切分打包得到会话境信息在长期记忆盒中创建长期记忆或更新长期记忆；从所述长期记忆盒中获取目标长期记2将智能体与用户的对话信息进行切分打包得到会话信息；所述会话信根据所述会话信息和来自其他系统的环境信息在长期记忆盒中创建长期记忆或更新从所述长期记忆盒中获取目标长期记忆，并根据所述目标长期如果用户与智能体无对话互动超过设定时间，则生成新如果用户持续与智能体进行对话且对话信息数量超出设定数量且没有无互动的时间其中，所述根据所述会话信息和来自其他系统的环境通过会话消息代理将会话信息发布到观察消息队列；将来自其他系统的环境信息发布到观察消息队列；通过所述观察消息队列中的会话信息和环境信息在长期记忆盒中创建长期记忆或更通过所述会话消息代理对所述对话信息进行切分打包数量不大于设定数量且任意两条相邻对话信息之间的互动时间将所述长期记忆提示和其他提示组合生成大语言模型生成请将所述上下文和所述大语言模型生成请求输入智能体中的大语3对话切分模块，用于将智能体与用户的对话信息进行切分打包得到记忆管理模块，用于根据所述会话信息和来自其他系统的环境信息在长记忆使用模块，用于从所述长期记忆盒中获取目标长期如果用户与智能体无对话互动超过设定时间，则生成新如果用户持续与智能体进行对话且对话信息数量超出设定数量且没有无互动的时间记忆管理单元，用于通过所述观察消息队列中的会话信息和环境所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1_6中任一项所述的9.一种计算机可读存储介质，其特征在于，所述令，所述计算机指令用于使处理器执行时实现权利要求1_6中任一项所述的大语言模型对4[0001]本发明涉及人工智能技术领域，尤其涉及一种大语言模型对话记忆的处理方法、(agent)体现出跨长周期的与用户一起在交互中成长的[0007]根据所述会话信息和来自其他系统的环境信息在长期记忆盒中创建长期记忆或5机程序在被处理器执行时实现根据本发明任一实施例所述的大语言模型对话记忆的处理少一个处理器能够执行本发明任一实施例所述的大语言模型对[0017]应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特[0019]图1是根据本发明一实施例提供的一种大语言模型对话记忆的处理方法的流程[0020]图2A是根据本发明又一实施例提供的一种大语言模型对话记忆的处理方法的流[0022]图3是根据本发明又一实施例提供的一种大语言模型对话记忆的处理方法的结构员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范6[0026]图1为本发明一实施例提供的一种大语言模型对话记忆的处理方法的流程图，本记忆盒和智能体及其他系统交互的流程和接口,并以此提高智能体对话能力的情况，该方法可以由大语言模型对话记忆的处理装置来执行，该装置可以采用硬件和/或软件的形式[0030]其中，会话信息(sessionmessage)包含属于同一轮对话的多个对话信息(chatmessage)。其他系统(othersysterms)是对话信息中的对话内容涉及的系统，环境信息忆盒(memorybox)是专门设立的记忆处理单元，用于根据收集的各种信息动态更新记忆，信息。会话信息和来自其他系统的环境信息会被长期记忆盒用来更新其已有的长期记忆，[0032]用户与智能体进行对话时，智能体向长期记忆盒发起对记忆的检索请求(Memory目标长期记忆返回给智能体。智能体将目标长期记忆作为长期记忆提示(memoryaugmentedprompt)拼接到大语言模型生成请求的上下文中，从而为用户提供更个性化和7[0038]图2A为本发明又一实施例提供的一种大语言模型对话记中心在收到对话消息时，通过消息队列(实时消息队列和/或延迟消息队列)向会话消息代信息，均会作为与智能体记忆有关的信息发布到观察消息队列(ObservationMessage8[0050]S240、将所述长期记忆提示和其他提示组合生成大语言模型[0051]具体的，继续参考图2B，长期记忆提示和其他提示，例如系统提示(System示来提示大语言模型生成回应。目前检索增强生成还没有针对长期记忆进行专门的优化，可以先使用长期记忆相似的指令来评估一下生成效果。对模型进行训练，则需要标注<[0063]图3为本发明又一实施例提供的一种大语言模型对话记忆的处理装置的结构示意9[0065]记忆管理模块320，用于根据所述会话信息和来自其他系统的环境信息在长期记[0067]本发明实施例所提供的大语言模型对话记忆的处理装置可执行本发明任意实施[0083]进一步说明的大语言模型对话记忆的处理装置也可执行本发明任意实施例所提[0084]图4示出了可以用来实施本发明的实施例的电子设备40的结构示意图。电子设备至少一个处理器执行的计算机程序，处理器41可以根据存储在只读存储器(ROM)42中的计算机程序或者从存储单元48加载到随机访问存储器(RAM)43中的计算机程序，来执行各种如因特网的计算机网络和/或各种电信网络与其他设[0087]处理器41可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器41或者全部可以经由ROM42和/或通信单元49而被载入和/或安装到电子设备40上。当计算机程序加载到RAM43并由处理器41执行时，可以执行上文描述的大语言模型对话记忆的处理机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器[0090]用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合机器上执行且部分地在远程机器上执行或完全在远程机器或服务面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部字数据通信(例如，通信网络)来将系统的部件相互