CN119415543A 基于大语言模型和检索增强的数据库ai问答系统及方法 （北京卓信智恒数据科技股份有限公司）

司基于大语言模型和检索增强的数据库AI问本发明公开了基于大语言模型和检索增强2所述前端交互模块用于接收用户的自然语言问题并将其发送至分布式缓存管理模块和任务调度中心，以及接收分布式缓存管理模块和任务调度中心返回的答案并展示给用所述分布式缓存管理模块包括本地缓存层和分布式缓存层，所述本地所述任务调度中心用于监控和协调各子模块的运行，并根据任务类型结合系统负载、所述大语言模型处理子模块利用大语言模型对用户问题的文本数据进行语义理解和所述检索增强子模块结合数据库对用户问题的结构化数据进行精所述答案优化子模块对大语言模型处理子模块和检索增强子模块的结果进行综合分所述数据库管理子模块负责管理和维护系统数据库，为检索增强子模块提供数据支2.根据权利要求1所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在3.根据权利要求2所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在据热度值对数据进行排序，将热度值高的数据项优先保留在本地缓存层和分布式缓存层34.根据权利要求1所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在分布式缓存层与数据库管理子模块之间建立数据一致性维5.根据权利要求1所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在6.根据权利要求1所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在ui表示子模块当前的CPU使用率，以反映子模块当前7.根据权利要求1所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在ci表示子模块当前可用的CPU核心数，Rti表8.根据权利要求1所述的基于大语言模型和检索增强的数据库AI问答系统，其特征在时间为RTik，所有子模块处理第k类任务的平均响应时间为Re，处理该类任务的平均资9.基于大语言模型和检索增强的数据库AI问答方法，适用于权利要求1_8任一项所述4S100、用户通过前端交互模块输入自然语言问S200、当分布式缓存管理模块的本地缓存层命中问言模型对用户问题进行语义理解和初步答案生成，并将结果存储并反馈给答案优化子模S500：答案优化子模块将大语言模型处理子模块和检5所述前端交互模块用于接收用户的自然语言问题并将其发送至分布式缓存管理用户；6所述大语言模型处理子模块利用大语言模型对用户问题的文本数据进行语义理所述答案优化子模块对大语言模型处理子模块和检索增强子模块的结果进行综[0008]更进一步地，所述数据热度评估算法每隔时间间隔TD,对缓存中的所有数据项重度值的计算公式为：Hn=vnx(1-a)"O/SO,其中，HD为数据热度值，VD为数据项被访问的总度值HD高的数据项。[0009]更进一步地，所述分布式缓存管理模块中的本地缓存层采用自适应缓存淘汰策7子模块，所述转移的过程中根据其他剩余子模块的负载情况和任务适配系数重新分配任[0011]更进一步地，所述任务调度中心的每个子模块当前负载情况用负载系数用Li表ui表示子模块当前的CPU使用ik为子模块在处理第k类任务理第k类任务的平均响应时间为Re，处理该类任务的平均资源利用率为RUik,是8[0022]本实施例详细描述了基于大语言模型和检索增强的数据库AI问答系统的具体实9据通知及时更新或删除对应的缓存数据，确保缓存数据与数据库中的数据始终保持一致，[0025]任务调度中心负责监控和协调各子模块的运行，并根据任务类型结合系统负载、模块当前负载情况用负载系数Li表示且，这里Cui表示子模块当前的子模块的资源可用性用资源可用系数用Ri表示且，其中Rci表示子模块当前示子模块的内存总量，每个子模块对于不同类型任务的任务适配系数用Aik表示且理第k类任务的平均响应时间为Re，处理该类任务的平均资源利用率为RUik,是[0026]大语言模型处理子模块利用大语言模型对用户问题的文本数据进行语义理解和[0028]答案优化子模块对大语言模型处理子模块和检索增强子模块的结果进行综合分[0029]数据库管理子模块负责管理和维护系统数据库，为检索增强子模块提供数据支基于缓存命中的处理：如果分布式缓存管理模块的本地缓存层命中问题相关数任务调度中心根据任务调度算法，计算各子模过程中，会考虑分布式缓存管理模块中数据热度评估算法对各子模块任务处理效率的影任务调度中心根据计算出的优先级Pi，将问[0031]本实施例详细描述了基于大语言模型和检索增强的数据库AI问答系统的工作原理和流程，通过分布式缓存管理模块的缓存机制以及任务调度中心的智能任务调度算法，[0033]如图2所示，本实施例详细阐述了基于大语言模型和检索增强的数据库AI问答方至分布式缓存管理模块和任务调度中心。运用实施例一所述的基于访问频率的数据热度评估算法，按照数据热度值进行排序