CN119415680A 融合大模型与增量学习的数据查询结果排序方法及系统 （上海卓辰信息科技有限公司）

融合大模型与增量学习的数据查询结果排大模型与增量学习的数据查询结果排序方法及相关对抗样本,增加结果多样性,并收集用户反询优化,对满意度不高的查询动态调整策略,生2在初步数据查询结果中按照比例随机插入低相关性评分数据结果作为用户查询满意收集历史数据查询事件中用户查询行为数据,训练基于LSTM模型构建的用户查询满意根据预测出的用户对当前查询结果的满意度，构建查询优化策略，在缓冲区将增量优化的当前查询结果与初步数据查询结果进行性评分数据结果,将融合的数据查询结果按照相关性评分进行排序，输出排序后的融合数2.根据权利要求1所述的融合大模型与增量学习的数据查询结果排序方法，其特征在使用调整后的大模型对库存数据中的每个库存数据进行编码,;3.根据权利要求2所述的融合大模型与增量学习的数据查询结果排序方法，其特征在;3重要性对库存数据向量进行加权,首先通过逆文档频率及计算每个查询词的重要性,将查权重化的库存数据向量表示；用权重化的数据结果向量与查询向量计算内积,得到加权后;;;其中分别为基础相关性评分S1(Q,D:)、语义匹配评分、重要根据复合相关性评分S(Q,D)对所有库存数据的搜索结果进行降序排列,得到排序结果4.根据权利要求3所述的融合大模型与增量学习的数据查询结果排序方法，其特征在于，设定低相关性评分数据结果的插入比例,通过K_means聚类算法将低相关性评分数据数据结果的总数；聚类过程通过最小化类内样本到聚类中心的欧氏距离平方和为目标函;对插入低相关性评分数据结果后的初步数据查询结果进行重排,将低相关性评分数据5.根据权利要求4所述的融合大模型与增量学习的数据查询结果排序方法，其特征在于，收集历史数据查询事件中用户查询行为数据,训练基于LSTM模型构建的用户查询满意4对收集到的查询行为数据进行清洗和预处理；剔除异常值和重复将单个用户在单次查询事件中的查询行为数据按时间顺序整理成行为序列将整个行为序列通过全连接输出层映射到一个标量值ĵ,作为预测的用户满意度评分：;6.根据权利要求5所述的融合大模型与增量学习的数据查询结果排序方法，其特征在模型中,预测用户对当前查询结果的满意度评分,根据满意度评分对当前查询结果进行增根据当前用户的查询行为数据，基于用户查询满意度模7.根据权利要求6所述的融合大模型与增量学习的数据查询结果排序方法，其特征在;;将增量查询后的数据查询结果与初步数据查询结果在缓冲区内进行融合58.融合大模型与增量学习的数据查询结果排序系统，其用于所述对抗样本模块，在初步数据查询结果中按照比例随机插入低相关性所述用户查询满意度模块，收集历史数据查询事件中用户的查询数据,训练基于LSTM所述增量融合模块，在缓冲区将增量优化的数据查询结果与初步数据利要求1至7任一项所述的融合大模型与增量学习的数据查询结6[0002]随着互联网技术的快速发展,如何从海法深入理解用户查询意图和数据的语义信息,查询结果的相关性和排序质量难以满足用户然而,现有方法仍存在以下不足:查询理解能力有限,传统的词袋模型缺乏语义理解能力,[0008]在初步数据查询结果中按照比例随机插入低相关性评分数据结果作为用户查询[0009]收集历史数据查询事件中用户查询行为数据,训练基于7相关性评分数据结果,将融合的数据查询结果按照相关性评分进行排序，输出排序后的融[0014]计算查询向量Q与每个库存数据向量向量归一化后的查询向量Q和库存数据向量D:点积,取值范围为[0,1],基础相关性评分词的重要性对库存数据向量进行加权,首先通过逆文档频率及计算每个查询词的重要性,将查询词的逆文档频率IDF值归一化后作为权重,与库存数据向量的每一个维度得到权重化的库存数据向量表示；用权重化的数据结果向量与查询向量计算内积,得到加8[0031]进一步地，设定低相关性评分数据相关性评分数据结果划分为多个语义类别；K_means聚类算法将低相关性评分数据结果根[0033]将采样得到的个低相关性评分数据结果插入到初步数据查询结果列表中,形成[0036]对插入低相关性评分数据结果后的初步数据查询结果进行[0037]进一步地，收集历史数据查询事件中用户查询行[0039]将单个用户在单次查询事件中的查询行为数据按时间顺序整理成行为序列取查询问题特征、数据结果特征d、用户行为特征b:，将三类特征拼接成高维向量9j：用户查询满意度模型中,预测用户对当前查询结果的满意度评分,根据满意度评分对当前[0045]根据当前用户的查询行为数据，基于用户查询满意度模型的预测用户满意度评略将相同查询问题映射为不同于初步查询的增量查询向量，对查询向量进行向量语义[0055]所述用户查询满意度模块，收集历史数据查行融合，同时去除低相关性评分数据结果,将融合的数据查询结果按照相关性评分进行排机执行所述的融合大模型与增量学习的数据查询结[0060]本发明的有益效果：本发明利用预训练[0061]本发明在初步数据查询结果中插入低相关性评分数据[0062]本发明收集用户历史查询行为数据,训练LSTM模型预测用户满意度,个性化优化[0074]选择RoBERTa模型为预训练大模型；RoBERTa模型在BERT的基础上通过动态掩码、[0075]对RoBERTa进行调整,以适应查询_文档相关性判别任[0076]利用调整后的RoBERTa模型对用户输入的查询问题进行语义编码；将查询问题输[0077]使用调整后的RoBERTa模型对库存数据中的每个库存数据进行编码,提[0078]计算查询问题Q与每个库存数据向量[0079]为了充分考虑语义相关性的多个方面,设计复合相关性评分的计算方案,综合了[0083]所述语义匹配计算模型用于计算语义匹配评分，计算查询向量与库存数词的重要性对数据结果向量进行加权,突出与用户意图最相关的关键信息；首先通过逆文档频率(IDF)及计算每个查询词的重要性,逆文档频率IDF值越大,说明词在大模型语料库中出现的频率越低,携带的信息量越大；将查询词与文档向量的每一个维度分别相乘,得到权重化的数据结果向量表示；用权重化的[0089]d"'=,q,a,；[0096]利用预训练大模型的语义理解能力,构建多因素相关性评估机制,综合考虑查询与数据的匹配程度、重要性差异等,生成高质量的初步查询结果,为后续优化提供良好基[0097]S2:在初步数据查询结果中按照比例随机插入低相关性评分数据结果作为用户查[0098]设定低相关性评分数据结果的插入比例α,例如10%,即表示在排序的数据查询结果列表中额外插入10%数量的低相关性评分的查询结果，所述低相关性评分数据结果即复据结果根据库存数据向量Di在嵌入空间中的几何距离关系进行自动归类,使得类内结果的[0101]将采样得到的个低相关性评分数据结果插入到初步数据查询结果列表中,形成新的排序结果；为了让低相关性评分数据结果在排序列表中的分布更加自然合理,采用指[0104]对插入低相关性评分数据结果后的初步数据查询结果进行重排,将的[0105]S3:收集历史数据查询事件中用户查询行为数据,训练基于LSTM模型构建的用户[0108]将单个用户在单次查询事件中的查询行为数据按时间顺序整理成行为序列取查询问题特征、数据结果特征d、用户行为特征b:，将三类特征拼接成高维向量[0110]使用多层LSTM模型对矩阵进行特征提取和满意度建模；LSTM通过门控机[0114]模型训练完成后,即可用于线上的排序结数据输入到模型中,预测用户对当前输出查询数据的满意度评分,根据满意度评分对数据[0115]基于用户历史查询行为数据,训练满意度预测模型,充分挖掘用户的隐式反馈信[0118]将满意度预测引入查询优化,根据用户对当前结果的满意程度,自适应地调整查[0119]S5:在缓冲区将增量优化的当前查询结果与初步数据查询结果进行融合，同时去除低相关性评分数据结果,将融合的数据查询结果按照相关性评分进行排序，输出排序后表示随机噪声向量,用于引入少量随机扰动；可以通过在原始查询向量的基础上添加小幅[0126]在缓冲区中融合初步结果与增量优化结果,动态更新查询列表;去除低相关性评分数据结果,提高整体质量;同时保留初步结果的稳定性,避免优化过程中引起的剧烈波[0132]所述用户查询满意度模块，收集历史数据查行融合，同时去除低相关性评分数据结果,将融合的数据查询结果按照相关性评分进行排[0137]根据本发明实施方式的方法或系统也可以借助于本发明的电子设备的架构来实[0139]电子设备中的存储设备，例如ROM或硬盘可存储本发明提供的融合大模型与增量结果进行排序输出给用户；收集历史数据查询事件中用户的查询数据,训练基于LSTM模型数据查询结果与初步数据查询结果进行融合，同时去除低相关性评分数据结果,将融合的[0146]存储介