【《基于图神经网络的图片分类器探究》14000字】

)节点的特征通过卷积神经网络，将所有的输入图像进行统一的编码，对supportset中的样本标签进行one-hot编码，queryset中的样本标签假设未知，所以用零向量填充。邻接矩阵是根据节点之间的相似度计算得到的，并且在每个GNNlayer之前都会动态的更新，邻接矩阵和节点的特征都是迭代更新的，流程如下图所示：图4-4迭代更新5.实验结果与分析5.1深度学习框架pytorchPytorch是Facebook团队开发出来的开源深度学习框架，虽然提出时间晚于keras，TensorFlow等框架，但目前在学术圈已处于统治地位，在工业界其应用热度也居高不下，pytorch支持以快速和灵活的方式搭建动态神经网络，是快速实验的理想选择。Pytorch目前最新的版本已经到了1.7，在其中文文档里面，会有图片，音频，文本，强化学习等博客讲授，内容都可以在GitHub上进行查阅。PytorchGeometric是图神经网络库，本论文中的实验也基于该库运行，该库中内置了部分基准数据集，可以直接拿来训练神经网络模型，同时，该库也集成了近些年来顶会论文上提出来的各种图神经网络模型，供大家开源使用。5.2数据集本论文中前两个池化实验（DIFFPOOL、TopK）均采用的是TUDataset数据集，TUDataset包含各种图内核数据集，例如“IMDB-BINARY”,“REDDIT-BINARY”or“PROTEINS等。第三个池化实验采用的是DD数据集，在蛋白质数据库的非冗余子集中抽取了了1178个高分辨率蛋白质，使用简单的特征，如二次结构含量、氨基酸倾向、表面性质和配体；其中节点是氨基酸，如果两个节点之间的距离少于6埃（Angstroms），则用一条边连接5.3图分类实验结果5.3.1DIFFPOOL池化机制的实验将数据集TUDataset的顺序打乱之后，将其划分为训练、测试、验证数据集三个部分，最后通过多次迭代之后完成实验。模型训练过程中，模型的损失值如下图（epoch为迭代次数）：图5-1diff_pool的损失函数训练完成之后，模型对测试集的准确度如下图：图5-2diff_pool的准确率可以看到，损失函数在迭代近百次之后便降低到了较小的值，而其验证集的准确率也一致维持在70%左右。5.3.2TopK池化机制的实验数据集的处理与5.3.1是一致的，其损失函数和准确率如下图所示： 图5-3topk的损失函数 图5-3topk的准确率可以看到，在处理同一数据集的条件下，虽然topk机制的损失函数相对较高，但是其准确率却接近80%。5.3.3基于自注意力的池化机制实验迭代训练200次后，其损失函数值稳定在0.18左右，测试用例的准确率为77%。6.总结与展望6.1全文总结全文用六个大的章节介绍了毕业设计所做的具体工作和学习到的理论知识。首先是绪论，介绍课题的研究背景，研究现状阐述；然后从卷积神经网络为切入点，重点阐述了图神经网络下的卷积与池化操作；再然后重点介绍了三种池化机制实现图分类，以及试验结果；最后是GNN在图像分类中的应用以及对未来工作的总结与展望。6.2未来工作展望图神经网络作为近几年来人工智能领域的热门研究方向，在社会生产生活的各个领域也展现出了不俗的潜力。本文虽然实现了三种层次化池化机制来完成图分类的任务，但实现方式是直接调用pytorch封装好的类和方法，实现方式较为死板，以后的工作是能够手撕已经封装好的类，并实现优化。参考文献PhamT,TranT,DamH,etal.GraphClassificationviaDeepLearningwithVirtualNodes[J].2017.LeeJ,LeeI,KangJ.Self-AttentionGraphPooling[J].2019.DiehlF.EdgeContractionPoolingforGraphNeuralNetworks[J].2019.CangeaC,VelikoviP,JovanoviN,etal.TowardsSparseHierarchicalGraphClassifiers[J].2018.GarciaV,BrunaJ.Few-ShotLearningwithGraphNeuralNetworks[J].2017.ChenZM,WeiXS,WangP,etal.Multi-LabelImageRecognitionWithGraphConvolutionalNetworks[C]//2019IEEE/CVFConferenceonComputerVisionandPatternRecognition(CVPR).IEEE,2019.BrunaJ,ZarembaW,SzlamA,etal.SpectralNetworksandLocallyConnectedNetworksonGraphs[J].ComputerScience,2013.ConvolutionalNeuralNetworksonGraphswithFastLocalizedSpectralFiltering[J].2016.KipFTN,WellingM.Semi-SupervisedClassificationwithGraphConvolutionalNetworks[J].2016.ShumanDI,NarangSK,FrossardP,etal.TheEmergingFieldofSignalProcessingonGraphs:ExtendingHigh-DimensionalDataAnalysistoNetworksandOtherIrregularDomains[J].IEEESignalProcessingMagazine,2013,30(3):83-98.HechtlingerY,ChakravartiP,QinJ.AGeneralizationofConvolutionalNeuralNetworkstoGraph-StructuredData[J].2017.HamiltonWL,YingR,Leskovec