CN116206214B 一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方法、系统、设备及介质 （西安电子科技大学）

WeibinLi.LightweightLandslDetectionMethodBasedConvolutionAndDoubleSelf-A一种基于轻量化卷积神经网络和双注意力一种基于轻量化卷积神经网络和双注意力Ournetworkframework学习框架随机生成一个张量，将其送入Ournetworkframework网络模将卷积神经网络的优势和自注意力机制的优势2所述Fused_MBConv模块包括一个3*3升维卷积以及一个1*1降维卷积，将Fused首先构建一个1*1的标准卷积层，将其输出特征图送入步长为1的Fused_MBConv模块中，该次使用不进行升维，Fused_MBConv模块循环两次，将其输出特征送入步长为2的步骤5：使用深度学习框架随机生成一个张量，将其送入到步骤2得到的Ournetwork2.根据权利要求1所述的一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方33.根据权利要求1所述的一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方4.根据权利要求1所述的一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方精确率Precision作为评判网络性能的评价指标，准确率Accuracy为分类正确的样本占样代表所有预测为正样本中实际为正样本的概率；Precision和Recall是一对矛盾的度量，Precision高时，Recall偏低；而Recall高时，Precision偏低；在需要兼顾Precision和其中TP表示正样本预测正确的个数，FP负样本预测错误的个步骤5中所述张量的维度尺寸大小为步骤1中统一调整数据集尺寸大小之后影像的维5.根据权利要求2所述的一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方融合移动翻转瓶颈卷积模块：该模块由3*3升维卷积和1*1降维卷积组成，并将Fused_4双注意力机制模块：该模块由空间维度的窗口多头自注意力机制和通空间窗口多头自注意力机制模块：双注意力机制模通道组自注意力机制模块：双注意力机制模块中通道维度部分，利用通处理器，用于执行所述计算机程序时实现权利要求1_5任一项所述的一种基于轻量化所述计算机可读存储介质存储有计算机程序，所述计算机程序被处现权利要求1_5任一项所述的一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方5[0003]目前应用在滑坡检测上的图像分类方法大多是基于目前比较成熟的常用网络的改进，比如DawenYu等人提出基于注意力机制的方法对卫星遥感影像进行滑坡检测(JiS,YuD,ShenC,etal.Landslidedetectionfromanopensatelliteimageryanddigitalelevationmodeldatasetusingattentionboostedconvolutionalneural检测(SameenMI,PradhanB.Landslidedetectionusingresidualnetworksandthefusionofspectralandtopographicinformation[J].IEEEAccess,2019,PP(99):[0008]2021年4月发表的EfficientNetV2(TanM,LeQ.Efficientnetv2:Smallermodelsandfastertraining[C]//Internationalconferenceonmachinelearning.PMLR,2021:6Ournetworkframework网络模型是将卷积神经网络的优势和自注意力机制的优势结合起[0018]步骤1.1：获取滑坡遥感影像[0021]步骤1.4：将步骤1.3中得到的训练集按一定比例分别划分为新的训练集和验证练集的数据均调整为统一大小224*224或7双注意力机制、特征转换操作以及1*1卷积组成，并将输入特征图与最终输出特征图进行shortcut链接，使用PatchEmbed模块调整特征图通道的大小，并将特征图展平为适合DualAttentionBlock[0029]所述步骤3的具体方法为：将步骤1.6中得到的训练集送入到步骤2搭建的Our[0030]所述步骤4的具体方法为：将步骤1Precision作为评判网络性能的评价指标，准确率Accuracy为分类正确的样本占样本总数有预测为正样本中实际为正样本的概率；Precision和Recall是一对矛盾的度量，Precision高时，Recall偏低；而Recall高时，Precision偏低；在需要兼顾Precision和8[0037]步骤5中所述张量的维度尺寸大小为步骤1中统一调整数据集尺寸大小之后影像[0039]本发明还提供了一种基于轻量化卷积神经网络和双注意[0041]融合移动翻转瓶颈卷积模块：该模块由3*3升维卷积和1*1降维卷积组成，并将[0046]本发明还提供了一种基于轻量化卷积神经网络和双注意够实现一种基于轻量化卷积神经网络和双注意力的自动识9结合PDC模块中的双注意力机制以增加网络模型空间感知的全局性，以此来提高滑坡识别所提升，同时模型复杂度、参数量、推理时间、训练时间均有所降低。本发明在[0058]下面以一种基于轻量化卷积神经网络和双注意力的自动识别滑坡方法作为实施[0059]步骤1：对宁夏高分二号卫星遥感影像进行预处理，获取宁夏滑坡遥感影像数据集；本发明主要针对滑坡遥感数据集和滑坡隐患点(即尚未发生滑坡，但有发生滑坡的趋[0067]如图1所示，步骤2.1：利用pytorch深度学习框架分别构建Fused_MBConv模块、维卷积，将Fused_MBConv模块的特征输入与特征输出进行跳跃连接(ShortcutConnection)；MBConv模块包括一个1*1升维卷积、一个3*3深度可分离卷积、一个SE(Squeeze_and_Excitation)注意力机制以及一个1*1降维卷积，将MBConv模块的特征输入操作以及1*1卷积组成，并将输入特征图与最终输出特征图进行shortcut链接，使用PatchEmbed模块调整特征图通道的大小，并将特征图展平为适合DualAttentionBlock的回率Recall代表实际的正样本中预测为正样本的概率；精确率Precision代表所有预测为正样本中实际为正样本的概率；Precision和Recall是一对矛盾的度量，Precision高时，到的Ournetworkframework网络模型中，计算FLOPs(用来衡量模型的复杂度)、参数量[0082]如图1所示，基于轻量化卷积神经网络和双注意力机制的滑坡识别的网络模型整[0084]由于MBConv模块在浅层使用，会导致训练速度变慢，因此在浅层网络中使用将Fused_MBConv模块的输入特征图与输出特征图进义的。为此，本发明设计了结合卷积神经网络与Transformer的轻量化网络模型Our输出特征图进行跳跃连接作为PDC模块的输[0088]本发明中构建的Ournetworkframework网络模型，该网络模型由Fused_MBConv滑坡识别的轻量化卷积神经网络，同时结合PDC模块中的双注意力机制以增加网络模型空意力机制模块，从空间维度和通道维度分别进行自注意力机制，实现全局建模，Our[0090]本发明还提供了一种基于轻量化卷积神经网络和双注意[0093]双注意力机制(DualAttention)模块(见附图2)：该模块由空间维度的窗口多头[0094]空间窗口多头自注意力机制(SpatialWindowMultiheadSelf_attention)模块[0095]通道组自注意力机制(Cha[0098]使用两个轻量化网络模型MobileNetV3、ShuffleNetV2，近年来比较主流的EfficientNetV2网络模型以及近年来经典的卷积神经网络模型ResNet101和DenseNet169，6.98比ShuffleNetV2高5.5型相比，Params、FLOPs、推理时间和运行时间