【《基于异质网络的图卷积算法综述》1900字】

PAGEPAGE30PAGE基于异质网络的图卷积算法综述目录TOC\o"1-3"\h\u15638基于异质网络的图卷积算法综述 129721.1GCN逐层传递规则 1190691.2改进的HeGCN逐层传递规则 2图卷积网络GCN可以有效处理网络的拓扑结构信息和节点的语义信息，将节点表示为低维稠密的特征向量，但是局限性在于其逐层传递规则仅适用于具有相同类型节点的同质网络，在异质网络中则无法使用GCN方法进行网络表征学习。目前异质网络中的表征学习主要是基于元路径的，通常需要根据专家的先验知识预先设定好元路径，但是由于不同网络的元路径是不同的，面对复杂多样的网络，依靠专家来预先设定元路径不能满足现实需要，此外元路径的组合种类数量庞大，确定最佳的元路径组合也比较困难。针对以上问题，本文提出了HeGCN逐层传递规则，可以在异质网络中实现网络表征学习，从而根据学习到的异质节点表征进行后续的链路预测任务。1.1GCN逐层传递规则图卷积网络GCN的逐层传递规则见式(2-9)，若采用两层GCN结构，则逐层传递规则如式(3-1)、式(3-2)所示： (3-1) (3-2)由式(3-1)可知，GCN采用的方阵作为邻接矩阵的输入，经过卷积运算即三个矩阵相乘，并通过RELU激活函数进行非线性激活后，得到第一层的特征矩阵是维的，由式(3-2)可知，特征矩阵又作为第二层输入的特征矩阵进行第二次卷积操作，得到特征矩阵。但如果输入的邻接矩阵并不是的方阵，而是的普通矩阵，那么在第二次卷积操作的过程中，这三个矩阵之间无法进行乘法运算，所以卷积操作无法进行。因此，GCN只能适用于同质网络，接受方阵作为输入的邻接矩阵。在异质网络中，不同类型节点的个数并不相同，例如表示作者的节点有m个，表示论文的节点有n个，其邻接矩阵并不是方阵的形式，因此不能使用GCN逐层传递规则。为了解决上述问题，有效融合异质网络的结构信息与节点的语义信息，本文提出了改进的HeGCN逐层传递规则，下面将进行具体介绍。1.2改进的HeGCN逐层传递规则通过1.1节可知，GCN逐层传递规则无法应用于异质网络的原因，主要是由于其不能处理非方阵的邻接矩阵，因此在改进的逐层传递规则中，关键就是解决如何处理输入的邻接矩阵，以及如何利用其进行后续的卷积运算。在异质信息网络中，一方面，从拓扑结构的角度来看，输入的邻接矩阵是的，因此考虑对于不同类型的节点和分别进行处理，并通过卷积运算分别求得其节点表征。另一方面，从节点属性的角度看，若用V表示同质网络中的全部节点集合，那么全部节点的邻居节点集合包含在集合V中，即，式(3-1)中的属性矩阵X也是由集合V中节点的属性向量构成的，而在异质信息网络中，由于邻居节点的类型不同，对于属性向量也应当分别进行处理。综合以上两个方面，改进的逐层传递规则对于不同类型的节点分别进行处理。表3-1给出了异质网络中节点的相关符号表示，令节点的邻居节点表示为，可以看出的所有邻居节点的类型与不同，即图中所有节点的邻居节点的集合.表3-1符号表示Tab.3-1Symbolicrepresentation符号定义节点类型为的节点节点类型为的节点A维度为的邻接矩阵节点的属性矩阵节点的属性矩阵对于所有，其邻居节点，对于所有，其邻居节点。由于每个节点的表征与其邻居节点的表征相关联，因此当所有节点类型为的节点通过卷积运算更新其特征向量时，令其融合类型为的节点表征；当所有节点类型为的节点通过卷积运算更新其特征向量时，令其融合类型为的节点表征。因此在改进的HeGCN逐层传递规则中，对应的属性矩阵为，对应的属性矩阵为。由于邻居节点的类型不同，在对邻接矩阵A进行预处理时，应当做如下变化：（1）由于节点与其自身无连边，因此不应为初始邻接矩阵A添加自链接，即将其与维度为的单位矩阵相加。（2）由于邻接矩阵A不是对称矩阵，因此在归一化时不应使用对称归一化形式的拉普拉斯矩阵，即，而应当使用随机游走归一化的拉普拉斯矩阵，即。综上，针对网络中不同类型的节点，得到HeGCN中的两条逐层传递规则：对于，逐层传递规则如式(3-3)所示： (3-3)对于，逐层传递规则如式(3-4)所示： (3-4)其中，A表示维度为的邻接矩阵，为其转置矩阵，维度为。是A的度数矩阵，维度为，是的度数矩阵，维度为，度数矩阵的计算方法如式(3-5)所示： (3-5)是第l层输出的的特征表示，当时，；是第l层输出的的特征表示，当时，。和是权重矩阵。为激活函数，如RELU激活函数。在改进的HeGCN逐层传播规则中，通过对两种不同类型的节点分别进行卷积操作，使得学习到的节点特征向量融合了异质节点类型的邻居节点的特征，解决了GCN逐层传播规则无法应用于异质信息网络的问题。此外，HeGCN还使学习到的异质节点表征具备良好的表达效果，这是由于其不仅考虑了异质网络的拓扑结构，还考虑了不同类型节点中的丰富语义信息。例如在式(3-3)中，通