【《深度学习网络用于新冠肺炎X光影像诊断的实验结果分析案例》5400字】

深度学习网络用于新冠肺炎X光影像诊断的实验结果分析案例目录TOC\o"1-3"\h\u19940深度学习网络用于新冠肺炎X光影像诊断的实验结果分析案例 1145561.1硬件资源和实验环境的搭建 1267901.2数据采集和处理 1169321.2.1数据集清洗 126361.2.2数据预处理 2180121.3实验过程 3238701.3.1模型参数的选择 3238951.3.2评价指标 4238101.3.3基于改进残差网络的模型训练与结果分析 4131951.3.4基于图像增强算法优化的实验结果分析 6284121.3.5对比实验与结果分析 71.1硬件资源和实验环境的搭建本实验需要在可承载深度学习框架的硬件上进行。所需要的计算机硬件配置如下所述，GPU为NvidiaGeForceGTX1080(8GB/戴尔)，CPU为Intel(R)Core(TM)i7-7700K@1.20GHz四核处理器，内存大小为64G，运存使用的是金士顿DDR42400MHz16GB的运行内存(RAM)。本实验采用的是Pytorch框架，选择该框架的优势是在于编码的时候相对于其他框架更容易上手，它的设计就是为了进行最少量的封装，避免编码时进行过多重复性的工作。在速度方面，该框架也优于其他深度学习的框架，在追求速度性能的同时也不失去灵活性。在编码的过程中，由于该框架的设计更符合人们的思维方式，所以在调用函数接口的时候，非常容易找到。另外它身后庞大的社区维护使得该框架可持续更新。在进行实验之前需要对环境进行搭建。首先在Linux环境中安装Anaconda，另外需要安装的就是Pytorch框架以及图形图像第三方处理包等。1.2数据采集和处理1.2.1数据集清洗本实验数据获取来自Github网站，该数据集由专业的医疗团队进行上传以供深度学习爱好者使用。该数据集中共有4000条肺炎X光影像数据，但是需要去除数据集中不规范的图像，例如侧身拍的X光影像以及模糊不清的影像。经过筛选之后余下的COVID-19患者的影像数据共有1000张，其他肺炎患者的影像共计1500张，正常的影像共有1500张。将这些影像进行打标签，然后利用深度学习算法对其进行三分类。在肺炎X光图像收集的过程中，有许多不合规范的图形图像。例如有的X光影片投射的是病人侧位的影像而且还含有其他信息模糊的图像。由于侧位的影像与正位的影像差异比较大，在数据集中就是噪声的存在，为了不影响后期模型的训练需要删除这些肺炎图像。含有其他无关信息的X光图像，在网络训练过程中会导致训练的一些误差，因此也需要进行剔除，如图1.1所示。图1.1需要剔除的噪声图片类型1.2.2数据预处理经过数据清洗之后，得到了可以用的医学影像，但是此时图像质量并不高，存在诸如图像对比度过低，辨识率低，部分图像存在噪声干扰，各图像分辨率并不相同等问题。直接使用深度学习进行训练是不妥当的，因此，需要先对图像进行图像预处理，从而提高图像分类准确率加快训练速度，其预处理步骤如图1.5所示。图1.2图像预处理（1）灰度化处理原始的图像中可能会出现通道不一的情况，为后面模型的训练带来障碍，因此在训练之前需要将每张肺炎图像进行灰度化处理和裁剪，灰度化处理带来的另外一个好处是可以加快模型的训练速度。由于本数据集是由众多数据集合并而成的，所以还有存在图像分辨率不一的情况所以有必要进行裁剪。灰度化处理的主要思想是将原来的三通道影像变成一通道影像。所用灰度化处理公式如下: GARYi，j=其中，GARY(t，j)代表计算得到的灰度，R，G，B分别代表每层通道的像素值i,j用来表示图像的第i行与第j列，通过将三通道图像转化为单通道图像，这为深度学习模型的建立节约了大量训练时间。（2）高斯滤波医疗图像先天特征就是有大量的背景噪声，对于肺部的影像资料来讲更是如此。虽然经过灰度化的图像保持了通道的一致性，但是噪声还是没有被处理。为了在后续实验中尽可能的减少噪声所带来的影响，所以需要对图像进行平滑操作，减弱高斯噪声所带来的影响。本研究选用高斯滤波[38]进行图像平滑。相比于类似原理的平均值滤波器模型系数同为1的情况，高斯滤波器的模型系数能够随着距离滤波器模型中心的角度增大而有所减小，特别是在选择了一个滤波器窗口内的每个像素均值作为信号的输入和显示信息时，高斯滤波器对于图像的模糊化影响程度较小，能够促使图片更少地损失有效信息，从而达到更好的图像噪声抑制效果，让图像变得更加平滑。通过对图像进行高斯滤波，提高了模型的预测精度，同时也提高了模型的鲁棒性。（3）图形缩放由于基于X光的肺部影像来自不同的数据集，因此它们都会出现图像大小不一的情况。有的肺炎图像大小为1024×1024，有的图像大小为256×256。所以当图像在被送入网络中训练之前需要保证图像在大小上的统一，本实验将图片的大小统一缩放为512×512大小。本文采用直接拉伸的方式来改变图像的大小，这样可以最大程度的保留图像的原始信息，肺炎图像的拉伸收缩导致图像的变形并不重要，因为图像里还是有它本该有的信息。在后面网络训练学习中会经过大量的数据拟合，它同样会认出变形的目标。如果利用颜色填充的方式，会给图像中带入不必要的噪声，或多或少的会影响网络的训练。1.3实验过程1.3.1模型参数的选择在模型训练过程中免不了参数的配置，结合图像的自身特点。本文对几种可能影响模型的参数进行了测试实验。包括优化器的选择和学习率的配置，进行反复不断的实验选择一个准确率最高的参数配置方案。(1)学习率学习率在模型训练的过程中是一个十分重要的参数，它代表网络在自学习过程中调整参数的变化率。它的作用是让网络在学习的过程中可以更迅速的找到函数的最优解。本实验提出一个先快后慢的学习方法，将学习率设置成为一个可以变化的参数。网络在训练的起步阶段将学习率设置为0.001，这是为了增加网络的收敛速度。随着训练次数的逐渐增加，将学习率慢慢的变小。当训练过程到一半的时候，将学习率调整为原来的五分之一，当训练过程到快结束的时候，将学习率在调整为之前的五分之一。这样做的目的是在神经网络的训练过程中参数的变化率是先经过快，然后再到慢。(2)优化器优化器可选择的种类有许多，对于本实验来讲选择的优化器是Adam，选择Adam优化器可以让模型的训练过程更加快一些，而且对模型的优化效果也不会产生太大影响。本实验一开始选择的是带有momentum的SGD优化器进行模型的训练，但是在训练过程中发现，其网络的收敛速度过慢，并且由于图像特征的复杂，初始学习率的设置有些难度，需要依靠深度学习在医疗图像处理方面的相关经验。为了在学习率的设置上相对便捷，因此选择了自适应学习率的优化器，其收敛速度也相对较快。1.3.2评价指标准确率、精确率和召回率可以作为一个分类模型的评价指标，本实验主要采用准确率作为评价的指标，准确率可以代表分类器的主要性能。假设TP为将正类样本预测为正的数量，FN为将正类样本预测为负的数量，FP为负类样本被预测为正的数量，TN为将负类样本预测为负的数量，准确率(Acc)代表分类器正确分类的样本数量占总体样本数量的比例，其计算方式为: Acc=TP+TNTP+TN+FP+FN精确度(Precision)代表被预测为正的样本中，占真正的正样本的比例，其计算方式为: Preceotion=TPTP+FN召回率(Recall)代表被预测为正的样本占总正样本的比例，其计算方式为; Recall=TPTP+FP精确度和召回率越高，表明该分类器的效果越好。通常来说，精确度和召回率是矛盾的，当精确度越高时，召回率越低，反之则反。当精确度和召回率达到一个相对平衡的最优点时，系统的性能达到最好。1.3.3基于改进残差网络的模型训练与结果分析在本实验过程中，首先验证batchsizes对模型训练的影响。因此对改进的残差模型训练，主干网络统一选择为ResNet50。训练过程采用反向传播和梯度下降的方法。采用的优化器是Adam，初始优化器的参数设置β=0.001，B=0.9，训练的次数设置为400次，在训练过程中batchsizes的选择会影响模型的训练准确率，所以本文分别采用了不同的batchsizes做对比实验，使得模型达到最好的准确率。训练的结果如下表1.1所示。表1.1不同batchsizes对准确率影响batchsizes层数准确率%45091.385093.2165096.6325093.4由表1.1可知，在改进模型的训练过程中，batchsizes的大小的确可以改变模型训练的准确率，当batchsizes=16的时候，模型训练的准确率达到最高为96.6%。模型的训练不光需要追求准确率，还要兼顾模型的小型化。模型的参数量也决定着该模型的使用范围。由于肺炎检测的特殊性患者偏多等问题，要求检测的便捷性和高效率。因此本文在模型的参数量和训练速度上做了相关的实验进行验证。另外同时为了验证对特征图进行平均池化和最大池化对肺炎检测网络是否有性能的影响，本文在此也进行了相关的验证。其结果如表1.2所示。表1.2平均池化和最大池化对该网络性能影响模型名称参数量准确率%ResNet10141.26M89.3ResNet101+MaxPool41.31M90.2ResNet101+AvgPool41.31M90..6ResNet101+AvgPool&MaxPool41.65M91.5 如结果所示对肺炎图像特征图进行最大池化和平均池化，对模型的精度提升有一定的帮助。这也验证了该处理方式的加入，对模型性能有些影响。如表1.3所示分别列举了四种不同的注意力模块排列方式，外加在该基础上进行算法改进后的效果。为了验证模型的性能，分别从它们的参数量、训练花费的时间和准确率上进行对比。为了验证改进的算法，在训练精度上性能的提升，同时也做出消融实验进行验证。主干网络分别选择ResNet50和ResNet101，如果网络太浅，会将网络的性能很大程度上削减，因此选用较深的网络结构，并且由于ResNet引入了短路的机制，模型的参数量会减少许多。子网路分别选择通道注意力模块，通道注意力模块和空间注意力模块的结合以及本文改进的子网络。该实验也验证了引入注意力机制子网络对模型的性能有多大影响，在上述实验中得到结论当batchsize=16的时候，对网络训练的效果最佳，因此该实验同一选取的batchsize为16。表1.3各个模型参数量对比模型名称参数量准确率%每批次训练花费时间ResNet101+channel48.34M92.360.5msResNet101+spatial48.41M91.959.59msResNet101+channel+spatial48.62M93.462.65msResNet101+改进子网络48.56M91.261.28msResNet50+channel+spatial28.34M92.542.43msResNet50+改进子网络28.31M93.542.31ms 如实验结果所示，选取不同的注意力模块对肺炎检测模型的性能有所影响，因此通过加入不同模块的注意力对病灶的关注范围和程度有作用。本文在引入改进后的算法后，不同主干网络的性能都有了不同程度上的提升，因此在原网络上和原始图片之间进行特征映射的做法确实可以减少特征图信息的丢失，对网络性能的提升有比较好的作用。 为了验证本文提出的改进算法，确实可以在减少肺炎图像信息丢失的同时可以维持注意力的能力。本文依据表1.3的模型利用Grad-CAM图[39]进行模型的可视化分析，验证本文所改进的算法模型是否在注意力覆盖方面是否广泛，可能更好的覆盖所要检测的病灶区域，这也是出于对注意力的定性分析。对于Grad-CAM它是被提出来时间不长的可视化方法，它的作用就是在卷积层的层面利用梯度来计算空间位置的重要性，它可以清晰的看出网络是否充分利用图像的特征，基于本实验的可视化结果如图1.3所示。图1.3Grad-CAM注意力可视化实验结果显示改进后的算法，或多或少的增强了注意力能力在肺炎病灶方面的检测，这也是改进算法能够在性能上有所提高的原因之一。1.3.4基于图像增强算法优化的实验结果分析 上面的实验都是肺炎图像未经过特征增强的深度学习网络实验。网络在引入注意力之后，如果所需提取的图像特征与噪声区分不是很明显，也会在一定程度上影响网络的性能。因此图像在进入网络训练的时候需要进行图像特征的增强。本文选取的是MSRCR算法进行肺炎图像特征的增强，因为该算法在处理X光影响的时候有较好的作用。并在该算法基础上进行了进一步的改进。本实验将在改进过的残差网络上进行图像增强后网络性能的验证，验证改进后的图像特征增强算法在增强新冠肺炎X光影像方面的效果。实验结果如表1.4所示。表1.4图像特征增强实验模型名称Loss值准确率%ResNet50+MSRCR0.053192.4ResNet50+MSRCR优化0.035693.3ResNet50改进+MSRCR0.034391.5ResNet50改进+MSRCR优化0.026996.6为了验证改进算法的鲁棒性，本文引进了交叉熵损失函数。由表中可以看出模型的收敛效果还不错，也有较好的鲁棒性。另外，图像增强算法的引入同样也提高了网络分类的准确率，在该算法上的改进也确实优化了模型的训练效能，准确率也得到了大幅度的提升。1.3.5对比实验与结果分析在本小节里，为了验证本文改进的网络与同类深度学习分类网络中的性能差异，分别与深度残差收缩网络、DenseNet网络以及CNN网络。本文给出了最终实验结果的对比。数据集采用的是经过改进后图像增强算法处理和未经过增强处理过后的肺炎图像。训练过程如下图1.4和1.5所示，分别代表的是各个网络训练的准确率和网络训练的loss值。图1.4准确率的变化过程图1.5loss的变化过程由于在上节实验得到，当图相输入的批量大小为16的时候，改进网络的性能达到最优。所以本实验将批量大小保持不变。随着训练次数的增加，准确率在不断的攀升，而且速度由快到慢直到最后收敛。损失值在不断的下降，速度也是由快到慢，直到最后收敛。由于在实验过程中，首先采用比