CN113095439B 基于注意力机制的异构图嵌入学习方法 （东南大学）_第1页
CN113095439B 基于注意力机制的异构图嵌入学习方法 （东南大学）_第2页
CN113095439B 基于注意力机制的异构图嵌入学习方法 （东南大学）_第3页
CN113095439B 基于注意力机制的异构图嵌入学习方法 （东南大学）_第4页
CN113095439B 基于注意力机制的异构图嵌入学习方法 （东南大学）_第5页
已阅读5页，还剩21页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

本发明公开了一种基于注意力机制的异构型转换矩阵将异构图中的所有节点转换到统一设计节点级注意力学习基于元路径的邻居节点注意力权重对基于不同元路径下的节点嵌入进作为如何将注意力机制应用到异构图提供了新2利用基于层次注意力机制的异构图嵌入模型对ACM数据集和IMDB数据集进行节点分类iτ步骤22，基于节点vi的投影后的节点特征h'i和其关于类型τ的邻域嵌入表示计算节点vi关于τ类型邻域的注意力分数：步骤31，基于自注意力(self-attention)设计节点级别3步骤32，通过节点级别的聚合操作来学习特定语义的义级注意的，利用单层神经网络和语义级别注意力向量来学习各个语义的重要性并通过4依据自注意力模型self-attentionmodel计算基于该元路径的的节所有上述参数对于所有元路径和特定于语义的嵌入都是共享的，pr,能够解释为元路步骤61，最终的节点嵌入由所有特定语义的嵌入聚合5系可以作为Paper-Author-Paper插图(合著者关系)和Paper-Subject-Paper(同主题关权重进行加权聚合得到基于特定元路径的节点Mτi6算节点vi关于τ类型邻域的注意力分数：示拼接操作，是注意力向量(参数)，r'"表示针对类型为τj的节点vj的类型级注意力权嵌入表示都是由其邻居表示加权聚合得到；7[0037]其中，(po,BO,…,[0039]步骤43，采用自注意力机制将每个节点在不同的元路径上的不同的嵌入进行聚[0043]依据自注意力模型self-attentionmodel计算基于该元路径的的节点嵌入的重8于基于深度图神经网络的模型HAN，本模型都取得更好地分类准确率，在ACM数据集上[0059]图1展示了本发明的整体架构。首先通过类型转换矩阵将所有节点转换到统一的9Mτi关于类型τ的邻域嵌入表示为即对节点vi的类型为τ的邻居节点特征求和，vi的邻居节点中类型为τ的节点集合。节点vi关于τ类型邻域的注意力分数：[0076](3)设计节点级注意力学习基于元路径的邻居节点注意力权重，并根据注意力权将节点对的表示拼接起来并利用注意力向量来学习节点与其示拼接操作，是注意力向量(参数)，表示针对类型为τj的节点vj的类型级注意力权[0089](4)设计语义级注意力学习不同元路径的注意力权重，并根据注意力权重对基于[0098]依据自注意力模型self-attentionmodel[77]计算基于该元路径的的节点嵌入的pp[0106]最终的嵌入由所有特定语义的嵌入聚合。然后将最终的嵌入应用到特定的任务[0113]本发明主要使用ACM数据集和IMDB数据集来进行节点分类测试模型的分类准确员(A)和2269名导演(D)，以及三种类型的元路径：M

人人文库> 全部分类> 行业资料 > 信息产业

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论