CN119484646A 一种优化响应时效性的智能客服系统数据交互方法 （无锡锡商银行股份有限公司）

一种优化响应时效性的智能客服系统数据本发明公开了一种优化响应时效性的智能器的大语言模型和部署在本地服务器的本地知识库间交互的通信转移效率信息和并发调度管本申请有效对云端和本地的通信传输延迟状态2采集部署在云端服务器的大语言模型和部署在本地服务器的本地知识库间交互的通根据查询返回波动系数和请求策略优先系数构建输入浮动模型将查询返回波动系数和请求策略优先系数构建输入浮动模型，并对查询返回波动系数和请求策略优先系数进行归一化后，将归一化后系数和请求策略优先系数带入输入浮动模型，输入浮动模型的表达式为将生成的响应波动干扰指数与预设的响应波动干扰阈值进行比对，根据信号分类的结果构建风险模型，对智能客服的响应时效性波动2.根据权利要求1所述的一种优化响应时效性的智能客服系统数据交互方法，其特征获取在周期时间T内云端的大语言模型向本地知识库发起交互的延迟时间，并将周期d={1,2,3…f⃞,且f为正整数；获取在周期时间T内本地知识库对云端的大语言模型响应的延迟时通信转移效率信息为在周期时间T内，云端的大语言模型向本地知识库发起交互的延迟时间与本地知识库对云端的大语言模型响应的延迟时间的离散比例，计算表达式为3.根据权利要求2所述的一种优化响应时效性的智能客服系统数据交互方法，其特征采集多个时间周期T的通信转移效率信息整合为数据集合，以e作为数据3为查询返回波动系数。4.根据权利要求1所述的一种优化响应时效性的智能客服系统数据交互方法，其特征在时间周期T内，采集云端服务器和本地服务器间的并发请求个时间周期T内云端服务器和本地服务器间的并发请求数量整合为并发数据集合，标记不在时间周期T内，采集云端服务器和本地服务器间结束的请求个时间周期T内云端服务器和本地服务器间结束的请求数量整合为终结数据集合，标记不同时间周期T内云端服务器和本地服务器间结按照时间周期T的排列顺序，将n个时间周期T的终结数据集合中的数据与并发数据集合中的数据进行作差求和，获取并发调度管理信息，并发调度管理信息的计算表达式为5.根据权利要求4所述的一种优化响应时效性的智能客服系统数据交互方法，其特征预设资源容量并发请求数量为Rccr，将分别与资源容量并发请求数量作差获得超额并发数量，超额并发数量的计算表达式为6.根据权利要求5所述的一种优化响应时效性的智能客服系统数据交互方法，其特征预设响应波动干扰阈值为Reth，将生成的响应波动干扰指数Res与响应波动干扰阈值绿色信号；47.根据权利要求6所述的一种优化响应时效性的智能客服系统数据交互方法，其特征当生成黄色信号后，根据黄色信号产生后T时间内智能客服系统的连续若干个响应波计算数据集合内若干个响应波动干扰指数的标准差，并将响8.根据权利要求7所述的一种优化响应时效性的智能客服系统数据交互方法，其特征若St大于等于Of，则对智能客服系统标记为输出波动，提示工若St小于Of，则对智能客服系统标记为输出稳定，提示工作人员智能5将大语言模型和本地知识库相结合构建智能客服系统，能够实现全天候不间断的客户服发请求也进一步阻碍了大语言模型与本地知识库之间的通信效率，导致客户服务管理迟采集部署在云端服务器的大语言模型和部署在本地服务器的本地知识库间交互的通信转移效率信息和并发调度管理信息，根据通信转移效率信息获取查询返回波动系6获取在周期时间T内云端的大语言模型向本地知识库发起交互的延迟时间，并将周期时间T内云端的大语言模型向本地知识库发起交互的延迟时间的编号，其中d={1,2,3…f⃞,且f为正整数；获取在周期时间T内本地知识库对云端的大语言模型响应的延迟时间，并将周期通信转移效率信息为在周期时间T内，云端的大语言模型向本地知识库发起交互个0之间连续1的个数的编号，且k={1,2,3…1}，则查询返回波动系数的计算表达式为为查询返回波动系数。按照时间周期T的排列顺序，将n个时间周期T的终结数据集合中的数据与并发数7波动系数和请求策略优先系数带入输入浮动模型，输入浮动模型的表达式为当生成黄色信号后，根据黄色信号产生后T时间内智能客服系统的连续若干个响8本申请通过对部署在云端服务器的大语言模型和部署在本地服务器的本地知识和并发请求对智能客服响应的影响程度，有效对云端和本地的通信传输延迟状态进行评采集部署在云端服务器的大语言模型和部署在本地服务器的本地知识库间交互的通信转移效率信息和并发调度管理信息，根据通信转移效率信息获取查询返回波动系[0020]若部署在云端服务器的大语言模型和部署在本地服务器的本地知识库之间的交智能客服系统要处理多轮对话，理解上下文并根据前一轮的对话内容进行回应，9获取在周期时间T内云端的大语言模型向本地知识库发起交互的延迟时间，并将周期时间T内云端的大语言模型向本地知识库发起交互的延迟时间的编号，其中d={1,2,3…f⃞,且f为正整数；获取在周期时间T内本地知识库对云端的大语言模型响应的延迟时间，并将周期通信转移效率信息为在周期时间T内，云端的大语言模型向本地知识库发起交互个0之间连续1的个数的编号，且k={1,2,3…1}，则查询返回波动系数的计算表达式为为查询返回波动系数。[0023]需要说明的是，周期时间T内云端的大语言模型向本地知识库发起交互的延迟时到大语言模型发起查询请求的时间延迟，通过本地知识库的数据库查询日志获取查询时[0024]若基于大语言模型和本地知识库的智能客服系统对大量并发请求的排队管理效如果没有有效的负载均衡或排队策略，智能客服系统被某些请求过度占用资源，排队管理效率低下导致请求在服务器上过度积压，智能客服系统资源被过度消长时间等待可能会导致对话的中断或超时，从而影响智能客服的持续交互能力，延迟发现和解决，排队管理效率低可能会使得系统的瓶颈和问题在高负载下难以及时识周期T内的并发请求数量的编号，且r={1,2,3…t}，其中t为正整数；按照时间周期T的排列顺序，将n个时间周期T的终结数据集合中的数据与并发数资源承载能力和大语言模型的理解输出能力以及大语言模型与本地知识库间的数据传输波动系数和请求策略优先系数带入输入浮动模型，输入浮动模型的表达式为根据生成的响应波动干扰指数与预设的响应波动干扰阈值的比对进行信号分类当生成黄色信号后，根据黄色信号产生后T时间内智能客服系统的连续若干个响[00