CN118364185B 基于共同注意力融合的序列超图神经网络的信息传播预测方法 （南京航空航天大学）

sequentialhypergra基于共同注意力融合的序列超图神经网络本发明公开了一种基于共同注意力融合的造基于等变量扩散的序列超图神经网络捕捉复过共同注意力机制学习级联特征和用户特征之21.一种基于共同注意力融合的序列超图神经网络的信息传播预测方法，其特征在于，根据已知的用户批次关注的信息构建社交网络图，考虑到用户社交网络采用超图来构建传播级联图，将每条信息传播视为一条超边，考虑到首先将用户ui传播信息时的时间与预先存储的时间得到其中he,t是步骤S2中在不同时间戳所获得的级联在第一个共同注意力层中，合并用户嵌入和级联嵌入CD以产生融合嵌入随D与合并以生成最终的融合RCA来进一步增强融合；级联嵌入CD在用户嵌入中的影响；是对的输出应用前馈神经网络之后的结将被传递到下一个共同注意力层；是第一个共同注意力层的投影矩阵，表32.根据权利要求1所述的基于共同注意力融合的序列超图神经网络的信息传播预测方3.根据权利要求1所述的基于共同注意力融合的序列超图神经网络的信息传播预测方将超边表示广播给相关节点，并通过多层感知器计算从超边到节点的信息v表示节点的度信息；4.根据权利要求1所述的基于共同注意力融合的序列超图神经网络的信息传播预测方4的超图神经网络获得的超图节点特征，门控函数计算出的值g用于控制保留的残差信息的5.根据权利要求1或4所述的基于共同注意力融合的序列超图神经网络的信息传播预6.根据权利要求1所述的基于共同注意力融合的序列超图神经网络的信息传播预测方特征融合与预测模块，使用级联嵌入查询过程和双层共同7.根据权利要求6所述的基于共同注意力融合的序列超图神经网络的信息传播预测方8.根据权利要求7所述的基于共同注意力融合的序列超图神经网络的信息传播预测方法，其特征在于，在级联嵌入查询过程中，对于给定的目标级联，在用户参与级联之前的最近时间间隔内读取级联的表示，从而降低信息泄露的风险，此过程需要将用户ui传播信息时的时间t"与预先存储的时间戳对齐，随后检索相关级联嵌入得到其中he,t表示步骤S2中在不同时间戳所获得的级联嵌共同注意力块通过利用来自一个模态的查询以及来自另一模态5[0004]现有基于深度学习的方法主要侧重于从社交网络结构和历史级联事件中挖掘早6[0007]技术方案：一种基于共同注意力融合的序列超图神经网嵌入得到c,=I(hex)leRlkald,t=1,2,…,T,其中he,t表示步骤S2中在不同时间戳所获得[0024]将超边表示广播给相关节点，并通过多层感知器计算从超边到节点的信息7扩散的超图神经网络获得的超图节点特征，门控函数计算出的值g用于控制保留的残差信8入经过共同注意力机制处理后的结果，它考虑了用户嵌入在级联嵌入CD中的影响。是对Roxrx的输出应用前馈神经网络后的结果。R:"是第一个共同注意力层的最终输出，它将被传递到下一个共同注意力层。是第一个共同注意力层的投影矩[0047]其中Wp是将RCA映射到用户特定空间的变换矩阵，使用Maskm来屏蔽预测前已经激包括级联嵌入查询过程和双层共同注意力机制，通过仔细选择预参与嵌入来避免信息泄[0053]进一步地，在级联嵌入查询过程中，对于给定的目标级联，在用户参与级联之前的最近时间间隔内读取级联的表示，从而降低信息泄露的风险，此过程需要将用户ui传播信息时的时间e"与预先存储的时间戳对齐，随后检索相关级联嵌入得到其中he,t是步骤S2中在不同时间戳所获得的级联嵌入；[0054]共同注意力块通过利用来自一个模态的查询以及来自另[0058]图3是本发明在四个具有不同训练比例的数据集上进行比较实验的实验结果，其中：(a)对应Twitter数据集，(b)对应Douban数据集，(c)对应Android数据集，(d)对应9[0060]本发明公开了一种基于共同注意力融合的序列超图神经网络的信息传播预测方[0066]一种基于共同注意力融合的序列超图神经网络的信息传播预测方法，其特征在扩散的超图神经网络获得的超图节点特征。门控函数计算出的值g用于控制保留的残差信嵌入得到其中he,t是步骤S2中在不同时间戳所获得的择预参与嵌入来避免信息泄露。共同注意力层具有用户到级联和级联到用户的注意力流，低信息泄露的风险。此过程需要将用户ui传播信息时的时间与预先存储的时间戳对齐，随后检索相关级联嵌入得到co=I(h.)lesalxd,t=1,2…,T,其中he,t是步骤S2中在不同[0105]共同注意力块通过利用来自一个模态的查询以及来自另一模态的键和值来操[0106]共同注意力层并行连接两个共同注意力块，每个块的任务是处理不同的特征入经过共同注意力机制处理后的结果，它考虑了用户嵌入在级联嵌入CD中的影响。是对的输出应用前馈神经网络后的结果。:"是第一个共同注意力层的最终输出，它将被传递到下一个共同注意力层。是第一个共同注意力层的投影矩[0118]其中Wp是将RCA映射到用户特定空间的变换矩阵，使用Maskm来屏蔽预测前已经激n⃞"=-o.[0122]在NVIDIAGeForceRTX4060GPU上的PyTor注意力层的深度为2。经过实验验证最终将Twitter和Douban数据集划分为8个时间块；将[0123]为验证模型的通用性与有效性，本发明在三个不同的应32.6021.7633.3[0126]Twitter：提取了2010年10月期间在Twitter上发布的推[0135]NDM：基于松弛假设建立了一个微观级联模型，结合了注意力机制和卷积神经网[0152]为了评估本发明每个模块所做的贡献，对本模型的不同部分进行了以下消融研网络，可以在Twi