CN114492750B 反馈信息预估模型的训练方法、装置、设备和介质 （腾讯科技（深圳）有限公司）

同数据类型的第一多媒体样本和第二多媒体样媒体样本产生的第一实际反馈信息和针对第二2及所述一个样本对象针对所述第一多媒体样本产生的第一实际反馈信息和针对所述第二基于所述训练数据样本集，对待训练的反馈信息预估模型进行迭基于所述待训练的反馈信息预估模型，对提取的训练数据样本进对所述第一特征向量、所述第二特征向量以及所述综合特征向量分别进行特征分析，基于所述第一预估反馈信息矩阵、所述第二预估反馈信息矩阵以及预设的归一化函根据所述第一预估反馈信息和相应的第一实际反馈信息之间的差将所述第一特征向量、所述第二特征向量以及所述综合特征向量基于所述综合拼接特征矩阵，分别采用预设的各个联合特征提取规对获得的各个联合特征矩阵分别进行特征加权，获得所述第一多媒体将多个联合特征矩阵分别与所述第一加权特征矩阵以及所述第二加权特征矩阵进行基于所述第一拼接特征矩阵以及所述第二拼接特征矩阵，分别3基于上一轮进行综合特征提取操作后输出的所述第一多媒体样本上一轮对应的结果其中，所述第一多媒体样本第一轮对应的结果矩阵为一多媒体样本上一轮对应的结果矩阵与所述第一多媒体样本当前轮对应的结果矩阵正相基于上一轮进行综合特征提取操作后输出的所述第二多媒体样本上一轮对应的结果其中，所述第二多媒体样本第一轮对应的结果矩阵为将获得的各个联合特征矩阵拼接后对应的拼接结果进行线性变换体样本对应的第一多维矩阵以及所述第二多媒基于预设的归一化函数，分别对所述第一多维矩阵以及所述第媒体样本针对所述各个联合特征矩阵分别对应的根据所述各个联合特征矩阵以及对应的第一权重，确定所6.如权利要求1～5任一项所述的方法，其特基于所述第一预估反馈信息和相应的第一实际反馈信息之间的基于所述第二预估反馈信息以及相应的第二实际反馈信息之间的差异基于所述第一多媒体样本对应的损失值以及对应的第一权重训练单元，用于基于所述训练数据样本集，对待训练4基于所述待训练的反馈信息预估模型，对提取的训练数据样本进对所述第一特征向量、所述第二特征向量以及所述综合特征向量分别进行特征分析，基于所述第一预估反馈信息矩阵、所述第二预估反馈信息矩阵以及预设的归一化函根据所述第一预估反馈信息和相应的第一实际反馈信息之间的差备上运行时，所述程序代码用于使所述电子设备执行权利要求1～6中任一所述方法的步处理器执行时实现权利要求1～6中任一所述方5该样本对象针对该数据类型对应的多媒体样本产生的反馈信息具有高稀疏性以及高延迟征，具有不同数据类型的一个第一多媒体样本和一个第二多媒体样本及其各自的内容特6[0017]基于所述第一预估反馈信息矩阵以及所述第二预估反馈信息矩阵以及预设的归[0022]将所述多个联合特征矩阵分别与所述第一加权特征矩阵以及所述第二加权特征[0026]基于上一轮进行综合特征提取操作后输出的所述第一多媒体样本上一轮对应的7述第一多媒体样本上一轮对应的结果矩阵与所述第一多媒体样本当前轮对应的结果矩阵[0030]基于上一轮进行综合特征提取操作后输出的所述第二多媒体样本上一轮对应的述第二多媒体样本上一轮对应的结果矩阵与所述第二多媒样本当前轮对应的结果矩阵正多媒体样本对应的第一多维矩阵以及所述第二多媒体样本针对所述各个联合特征矩阵分别备执行上述任意一种反馈信息预估模型方法8样本的反馈信息训练反馈信息预估模型，导致的该反馈信息预估模型的精度不高的问题，[0050]图3为本申请实施例中的确定第一预估反馈信息以及第二预估反馈信息的流程示[0051]图4为本申请实施例提供的一种基于嵌入层将高维度特征向量转换为低维度特征[0052]图5为本申请实施例提供的确定第一多媒体样本对应的第一预估反馈信息以及第[0053]图6a为本申请实施例提供的一种基于MLP层进行联合特征提取的具体流程示意[0054]图6b为本申请实施例提供的一种基于MLP层以及专家网络进行联合特征提取的具[0056]图8为本申请实施例提供的确定第一加权特征矩阵以及第二加权特征矩阵的过程[0057]图9为本申请实施例提供的一种基于门控网络确定联合特征矩阵对应的权重的结9[0067]实际反馈信息：表征样本对象针对多媒体样本实际产生一个样本对象针对第一多媒体样本产生的第一实际反馈信息和针对第二多媒体样本产生服务器120可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分部署于服务器120上，在本申请实施例中，反馈信息预估模型常用于对多媒体内容进行排[0089]需要说明的是，图1所示只是举例说明，实际上终端设备和服务器的数量不受限[0093]参阅图2所示，为本申请实施例提供的一种反馈信息预估模型训练的方法的实施该第一实际反馈信息可以包括广告样本对应的广告深层转化率以多媒体样本以及该第二多媒体对应的数据类型例，该第一多媒体样本的第一实际反馈信息可以包括对广告样本进行点击的实际点击率、对广告样本进行浅层转化的实际浅层转化率以及对广告样本进行深层转化的实际深层转率e1以及对资讯样本D的实际分享率f1。将该训练数据样本A输入到待训练的反馈信息预估[0106]根据预估点击率a1与实际点击率a2之间的差异、预估深层转化率b1与实际深层转多媒体样本对应的标识信息对应的第一特征向量以及第二多媒体样本对应的标识信息对哈希函数输出的结果，将该结果作为关键字(key)，将嵌入层输出的低维特征向量作为值[0113]参阅图4所示，其为本申请实施例提供的一种基于嵌入层将高维度特征向量转换[0114]分别将第一多媒体样本对应的第一特征向量输入到第一多媒体样本embedding层的第二特征向量，并将目标综合特征向量替换初始的综合特征向量得到新的综合特征向应的第二特征向量以及对应的综合特征向量输入到共享embedding层中，这种共享机制可二预估反馈信息矩阵为第二预估反馈信息对体样本对应的第一预估反馈信息以及第二多媒体样本对应的第二预估反馈信息。参阅图5且基于不同的联合特征提取规则获得的联合特征矩阵进行联合特征提取，联合特征提取规则B可以侧重对资讯样本中包含的文本对应的语义特征进行联合特征提取，联合特征提取规则C可以侧重对广告样本中包含的图像对应的图像[0128]基于综合拼接特征矩阵，采用联合特征提取规则A进行至少一轮联合特征提取操[0134]参阅图6a，其为本申请实施例提供的一种基于MLP层进行联合特征提取的具体流[0135]以预设了三个联合特征提取规则为例，采用联合特征提取规则A进行至少一轮联[0136]在另外一种可能的实施方式中，可以基于至少一个MLP层以及多个专家网络进行[0137]参阅图6b，其为本申请实施例提供的一种基于MLP层以及专家网络进行联合特征[0138]以预设了三个联合特征提取规则为例，采用联合特征提取规则A进行至少一轮联多媒体样本的第一预估信息的确定很重要，联合特征矩阵b对第一多媒体样本的第一预估多媒体样本的第一预估信息的确定很重要，联合特征矩阵c对第二多媒体样本的第一预估的各个联合特征矩阵分别进行特征加权，获得该第一多媒体样本对应的第一加权特征矩联合特征矩阵a*0.6+联合特征矩阵b*0.3+联合特[0145]在一种可能的实施方式中，可以基于待训练的反馈信息预估模型中的MLP层进行[0149]基于上一轮进行综合特征提取操作后输出的第一多媒体样本上一轮对应的结果样本上一轮对应的结果矩阵与第一多媒体样本当前轮对应的结果矩阵先保存的第一网络参数矩阵的第一乘积，确定为该第一多媒体样本当前轮对应的结果矩[0154]基于上一轮进行综合特征提取操作后输出的第二多媒体样本上一轮对应的结果保存的第二网络参数矩阵的第二乘积，确定为该第二多媒体样本当前轮对应的结果矩阵，其为本申请实施例提供的确定第一加权特征矩阵以及第二加权特征矩一多媒体样本对应的第一多维矩阵以及第二多媒体合特征矩阵对应的第一权重，以及第二多媒体样本针对各个联合特征矩阵对应的第二权[0169]参阅图9，其为本申请实施例提供的一种基于门控网络确定联合特征矩阵对应的[0173]f(x1)=⃞-1wm(x1)*fm(x1);m[0176]f(x2)=⃞-1wm(x2)*fm(x2);m对应的第m个联合特征矩阵对应的第一权重与第二多媒体样本对应的第m个联合特征矩阵联合特征矩阵A为联合特征矩阵B为该联合特征矩阵A对应的第一权重为媒体样本)针对各个联合特征矩阵对应的权重(第一权重以及第二权重)之后，根据各个联CTR为预先保存的点击率对应的网络参数。为实际深层转化率与预估深层转化率之间的差异，w1为实际点击率与预估点击率之间的差异对应的权重，w2为实际浅层转化率与预估浅层转化率之间的差异对应的权3为实际深层转化率与预估深层转化率之间的差异对应的权第一多媒体样本对应的损失值为0.5*(0.85-0.8)+0.3*(0.75-0.6)+0.2*(0.5-0.4)=息预估模型中的第一多媒体样本embedding层，获得该第一多媒体样本的内容特征对应的内容特征以及样本对象的对象特征进行特征融合后获加权特征矩阵为a*p1+b*p2+c*p3二预估反馈信息矩阵输入到各种类型的第二预估反馈信息对应的MLP层中，输出满足第二反馈信息，将该第二预估反馈信息矩阵输入到各种类型的第二预估反馈信息对应的MLP层[0222]将目标对象的对象特征对应的特征向量以及广告的内容特征对应的特征向量输[0244]基于第一预估反馈信息矩阵以及第二预估反馈信息矩阵[0249]将多个联合特征矩阵分别与第一加权特征矩阵以及第二[0253]基于上一轮进行综合特征提取操作后输出的第一多媒体样本上一轮对应的结果样本上一轮对应的结果矩阵与第一多媒体样本当前轮对应的结果矩阵[0257]基于上一轮进行综合特征提取操作后输出的第二多媒体样本上一轮对应的结果样本上一轮对应的结果矩阵与第二多媒样本当前轮对应的结果矩阵[0261]基于预设的归一化函数，分别对第一多维矩阵以及第二多维矩阵进行归一化处实施本申请时可以把各模块(或单元)的功能在同一个[0271]与上述方法实施例基于同一发明构思，本申请实施例中还提供了一种电子设[0273]存储器1301可以是易失性存储器(volatilememory)，例如随机存取存储器(random-accessmemory，RAM)；存储器1301也可以是非易失性存储器(non-volatile[0274]处理器1302，可以包括一个或多个中央处理单元(centralprocessingunit，[0281]显示单元1430还可用于显示由用户输入的信息或提供给用户的信息以及终端设[0282]显示单元1430还可用于接收输入的数字或字符信息，产生与终端设备110的用户[0283]其中，触摸屏1431可以覆盖在显示屏1432之上，也可以将触摸屏1431与显示屏[0287]蓝牙模块1470用于通过蓝牙协议来与其他具有蓝牙模块的蓝牙设备进行信息交式的反馈信息预估模型训练方法中的步骤，例如，计算机设备可以执行如图2中所示的步[0291]本申请的实施方式的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，[0293]可读介质上包含的计算机程序可以用任何适当的介质传输，包括但不限于无线、[0294]可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的计算程计算装置的情形中，远程计算装置可以通过任意种类的网络包括局域网(LAN)或广域网