CN114912627B 推 荐模型训练方法、系统、计算机设备及存储介质 （平安科技（深圳）有限公司）

道福安社区益田路5033号平安金融中中方法包括：服务器将所有客户端进行K-means取相同数量的目标客户端，得到多个目标客户客户端根据本地数据集和全局模型更新目标客更新参数数据更新全局模型，得到新的全局模2服务器将所有客户端进行K-means聚类得到多个客户端组合，在每一所述客户端组合所述目标客户端根据本地数据集和所述全局模型更新所述目标客户端所述服务器根据接收到的多个所述更新参数数据更新所述全局模型在新的所述全局模型未满足收敛条件时，所述服务器重新根据所述校正梯度和所述损失梯度，采用梯度下降法对所述推荐模型进行校正更新，标客户端本地保存的最新的推荐模型，为该目标客户端在上一训练轮次（即第r-1训练r-1所述服务器对每一所述客户端组合中所有所述客户端的推荐模型进行加权平所述服务器将所述对应的组合代表模型发送至所述客户端组合对应的所述目标客户所述目标客户端根据所述本地数据集更新所述目标客户端的推3所述目标客户端根据所述全局模型、所述组合代表模型和所述推荐模型的更新梯度，所述目标客户端提取所述全局模型的交互层参数，并提取所述组合代所述目标客户端根据所述推荐模型的交互层更新梯度、所述全局模型的所述目标客户端采用梯度下降法，根据所述本地数据集对所述全局模型进行多轮更所述目标客户端将所述客户端全局模型与所述全局模型之间的损失括更新梯度和更新模型参数，所述根据接收到的多个所述更新参数数据更新所述全局模所述服务器根据多个所述更新模型参数和对应的多个所述更新梯度，所述服务器将所述目标用户层参数、所述目标物品层参数和所述目标物所述服务器提取每一所述更新模型参数中用户层更新参数、物品层更根据所述目标客户端对应的用户层更新梯度，确定所述目标客户端根据每一所述目标客户端对应的所述物品层更新参数和所述物品4所述目标客户端，用于根据本地数据集和所述全局模型更新所述目标客在新的所述全局模型未满足收敛条件时，重新将所述所有客根据所述校正梯度和所述损失梯度，采用梯度下降法对所述推荐模型进行校正更新，r-1训练r-19.一种计算机设备，包括存储器、处理器以及存5[0006]服务器将所有客户端进行K-means聚类得到多个客户端组合，在每一客户端组合6[0026]服务器将目标用户层参数、目标物品层参数和目标物品7器将所有客户端进行K-means聚类得到多个客户端组合，在每一客户端组合选取相同数量地数据集和多个客户端聚合得到的全局模型，对各客户端对应的推荐模型进行不断更新，8[0055]在需要进行推荐模型训练或更新时，服务器将所有需要参与的客户端进行K-9[0061]在执行预推荐模型训练任务时，服务器确定需要进行推荐模型训练的所有客户r-1表示在第r训练轮次时服务器发送至客户端的全局模型，即上一训练轮次(第r-1训练轮次)时服务器更新得到进行更新计算得到的损失函数梯度。新，并重复多轮，直至模型更新轮数为预设轮次数(该预设轮次数为客户端更新时的轮次r-1表示在第更新得到的全局模型；表示该客户端根据本地数据集对上一训练轮次更新得到身梯度一致的校正梯度，使得各客户端本地的推荐模型既按照最符合自身需求的方向更[0087]在服务器根据接收到的多个更新参数数据更新全局模型，得到新的全局模型之多个目标客户端重复步骤S30-S40，即目标客户端继续根据本地数据集和新的全局模型对[0089]本实施例中，服务器将所有需要参与的客户端进行K-means聚类得到多个客户端[0096]在将所有客户端进行K-means聚类得到多个客户端组合，在每一客户端组合选取务器将每一客户端组合中所有客户端的推荐模型进行加权平均，得到加权平均后的模型，[0098]其中，客户端的权重根据该客户端组合中各客户端的本户端组合的总本地数据量(即该客户端组合中所有客户端的总本地数据集汇总后的本地数[0101]其中，表示第r训练轮次第p个客户端组合的组合代表模型参数(组合代表模个客户端组合中所有客户端的本地数据集汇总后的总本地数据量；δn为第p个客户端组合对应的组合代表模型，然后将对应的组合代表模型发送至客户端组合对应的目标客户端，[0109]在根据本地数据集更新目标客户端的推荐模型，得到推户端组合对应的组合代表模型，即对第k个目标客户端及其在上一训练轮次(即第r-1训练r-1表示在第r训练轮次时服务器发送至目标客户端的全局模型，即上一训练轮新，并重复多轮，直至模型更新轮数为预设轮次数(该预设轮次数为客户端更新时的轮次保存在客户端本地的最新的推荐模型；η为学习率；μ为校正系数；||·||表示二范数；VFK(r)表示第k个目标客户端在第r训练轮次的校正梯度；表示第p个客户端组合对应至目标客户端的全局模型，即上一训练轮次(第r-1训练轮次)时服务器更新得到的全局模[0130]推荐模型为双塔模型，双塔模型包括用户层(userembedding)、物品层(itemembedding)和交互层(non-embeddingcomponent)，双塔模型通过构建用户和物品item两在使用时仅需线上在交互层计算对用户层输出的用户信息和物品层输出的物品信息进行[0131]在获取服务发送的全局模型和目标客户端所在客户端组也可以通过对第k个目标客户端及其在上一训练轮次(即第r-1训练轮次)中的从属客户端的交互层参数进行加权平均后得到；wr-1[N]表示在第r训练轮次时服务器发送至目标客户端的全局模型的交互层参数，即上一训练轮次(第r-1训练轮次)时服务器更新得到的全局[0138]在计算得到目标交互层参数之后，目标客户端将当前推荐模型(即本地保存的未户端对全局模型的更新轮数(更新轮数为在每一训练轮次时采用梯度下降法进行更新的轮[0149]其中，表示第k个目标客户端在第r训练轮次时对全局模型更新得到的全局模并将更新模型参数和更新梯度作为全局模型[0161]在接收目标客户端发送的全局模型的更新参数数据(更新梯度和更新模型参数)标客户端对应的用户层更新梯度，确定目标客户端对应的从属客户端的用户层更新梯度，再根据所有客户端的用户层更新梯度计算得到目标对全局模型更新后的用户层更新参数汇总得到目[0168]先提取每一更新模型参数(即每一客户端发送的更新模型参数)中用户层更新参即第r训练轮次时第s个从属客户端所对应的用户层更新参数；wr-1[Us]表示在上一训练轮次(第r-1训练轮次)时全局模型中从属客户端s所对应的用户层参数；exp(-r)表示第r训练局模型后得到的用户层更新梯度；exp(-r)*△w[Ud]则表示目标客户端对应从属客户端的用轮次时全局模型中第d个目标客户端所对应的用户层参数，即第r训练轮次第d个目标客户层更新梯度之后，服务器根据每一目标客户端对应的物品层更新参数和物品层更新梯度，能与多类用户发送过交互，即不同客户端组合的客户端数据中可能会出现同一物品信息，因此为保证物品层参数更新的精度，需要收集每个目标客户端中用户交互过的所有物品，[0185]其中，表示第r训练轮次时第d个目标客户端根据本地数据集更新全局模型r训练轮次时服务器更新全局模型后物品i对应的物品层参数，即物品i对全局模型的物品目标客户端对应的用户层更新梯度，确定目标客户端对应的从属客户端的用户层更新梯多个更新模型参数和对应的多个更新梯度，对全局模型的不同网络层参数进行更新计算，的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限[0225]关于推荐模型训练系统的具体限定可以参见上文中对于推荐模型训练方法的限