CN114417172B 一种深度兴趣进化推 荐方法、装置、设备和存储介质 （西安交通大学）

征与位置嵌入特征相加后输入到建立的网络得到输出结果与用户嵌入特征连接后输入2S1，从训练数据集中提取模型所需要的用户特征和S2，根据提取的用户特征和项目特征生成位置嵌特征相加后输入到建立的Transformer网S3：将Transformer网络得到输出结果与用户嵌入特征连接后输入到一个两层的前馈取用户较长时间段内交互过的itemembedding聚成若干类，再将每类中的嵌入生成用b采用Medoid方法，找到每个类簇中所有项目中的一个来代表本类簇，4.根据权利要求1所述的一种深度兴趣进化推荐方法，其特征在于5.根据权利要求4所述的一种深度兴趣进化推荐方法，36.一种基于权利要求1所述深度兴趣进化推荐方法的深度兴趣进化推荐系统，其特征预处理模块，用于从训练数据集中提取模型所需要的用户特征和项预测模块，用于根据提取的用户特征和项目特征生成位置嵌入特7.一种终端设备，包括存储器、处理器以及8.一种计算机可读存储介质，所述计算机可读存储介质4馈信息建模用户_项目间的关系并未考虑时间因素的影响，使用基于用户历史行为的序列[0003]由HidasiB,KaratzoglouA,BaltrunasL,etal.Session_basedRecommendationswithRecurrentNeuralNetworks首次将RNN用于推荐系统的用户序列梯度爆炸的问题。由HochreiterS,SchmidhuberJ.LongShort_TermMemory提出的LSTMetal.BERT4Rec:SequentialRecommendationwithBidirectionalEncoder5嵌入特征相加后输入到建立的Transformer网络得到输出[0008]S3：将Transformer网络得到输出结果与用户嵌入特征连接后输入到一个两层的m是真实商品。6算机程序被处理器执行时实现所述深度兴趣进目特征生成位置嵌入特征，将项目嵌入特征与位置嵌入特征相加后输入到建立的[0030]进一步的，本发明采用一个两层的前馈神经网络将用户户特征作为全局用户信息，将用户特征与Transformer模型的输出作为前馈神经网络的输员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范7嵌入特征相加后输入到建立的Transformer网络(Bert4Rec模型)得到输出[0040]S3：将Transformer网络得到输出结果与用户嵌入特征连接后输入到一个两层的于用户的历史交互序列中的项目嵌入(itemembedding)生成用户嵌入特征。具体方法是：取用户较长时间段内交互过的itemembedding聚成若干类，再将每类中的嵌入1。通过上述步骤可知Ward聚类非常耗时，每合并两个类簇就需要计算任意两个类簇间的共有4个簇{AB,C,D,E},则其计算E8户与这个类簇互动越来越频繁或者活动时间越近类簇重要性越高。用户表示即为item[0056]将按用户分组后的项目特征生成的embedding向量输入到Transformer网络中建前馈神经网络的输出，这里使用共享的商品embedding来缓解过拟合问题同时降低模型的上述描述的基于高阶特征融合的深度兴趣进算机可以包括至少一个处理器102和用于存储数据的存储器103以及输入单元101。本领域普通技术人员可以理解，图1所示的结构仅为示意图，其并不对上述计算机的结构造成限9[0071]将用户的交互序列输入Transformer网络中，通过双向模型学习用户交互序列中各个项目之间的关系。如图2所示，Transformer网络采用堆叠的Transformer层，每一层Transformer包括多头注意力(Multi_HeadAttention)模块和前馈神经网络。具体步骤如[0073]接下来将项目嵌入特征与位置嵌入特征输入到堆叠的Transformer层。首先经过层的输出为LN(x+Dropout(sublayer(x))),sublayer是子层本身实现的功能，LN[0074]将生成的结果与用户嵌入特征连接后输入一个两层的前馈神经并使用GELU作为[0076]在处理用户历史行为序列时，使用Clozetask将输入序