【《基于递归注意力机制U-Net桥梁裂纹检测算法分析案例》3300字】

43737基于递归注意力机制U-Net桥梁裂纹检测算法分析案例目录TOC\o"1-3"\h\u6354基于递归注意力机制U-Net桥梁裂纹检测算法分析案例 1197251.1引言 1269671.2基于递归注意力机制的U-Net的桥梁裂纹检测 2296191.2.1U-Net 3226271.2.2递归注意模块 3314191.3实验结果分析 51.1引言裂纹检测的目的是区分图像中裂纹的位置，进行异常识别。例如，桥梁底部/道路裂缝检测可以识别裂缝并提醒维护；电致发光可以判断裂纹是否在太阳能电池或电池组件中。因此，裂缝检测已被广泛用于许多实际情况中。通常，裂缝检测任务似乎与边缘检测，语义分割相似。实际上，边缘检测算子（例如Sobel[13]，Laplace[14]，Canny[15]）以及该算子的某些增强版本被广泛地直接用于分割图像中的裂缝。这些基于边缘算子的检测方法通过依赖于准确选择阈值的梯度分布来区分裂纹或背景。考虑到全局和局部梯度可能互不相同，因此选择阈值不能准确地代表整个图像梯度分布。因此，基于手工特征学习的边缘算子在处理复杂的真实世界图像方面性能有限。因此，受深度卷积神经网络(ConvolutionalNeuralNetwork，CNN)的巨大成功的启发，一些复杂的语义分割方法以端到端的方式应用于边缘检测任务。Yang[46]等人进一步使用特征金字塔和分层增强网络来检测路面裂缝，该方法学习了从局部斑块到全局图像的多尺度特征以检测边缘，通过多尺度上下文信息输入到浅层特征图中，很好地提升了浅层侧边网络（SideNetwork）的表现。尤其是，检测不同大小的裂缝需要不同程度的上下文信息。因为深层卷积网络拥有范围更大的感受野（receptivefields），深层的特征图比浅层拥有更多的上下文信息。因此，深层浅层特征组合后，浅层侧边网络利用了多尺度的上下文信息，因此增强了检测效果，也进而促进了合并层的检测表现。并在裂缝检测上获得了令人满意的结果。OlafRonneberger[47]等人首次将U-Net网络提出并应用于医学图像的分割中，该网络是在FCN[49]的基础上进行改进，多通道卷积与类似FPN(特征金字塔)的结构相结合，可以利用少量的数据集进行训练测试。由于U-Net自然使用多尺度信息来表示，因此它在分割任务方面表现出强大的功能。Cheng等[48]通过U-Net在像素水平上检测到裂纹，并取得了良好的效果。但是，与包含丰富纹理信息的普通图像不同，桥梁底部或道路裂缝是在单调/简单背景下随机生成的。因此，检测裂缝比对丰富纹理图像进行语义分割更具挑战性。另一方面，尽管直接使用U-Net进行分割可以访问多尺度信息，但是简单的背景并不能区分无关的信息，这会导致预测边缘上的错误。为了解决这个问题，基于U-Net的多尺度信息利用机制，本文采用递归残差块提取低层边缘特征，然后提出递归注意模型，将显着区域与无关背景区分开。最后，将递归注意力学习方案装备到U-Net中以提高检测性能。1.2基于递归注意力机制的U-Net的桥梁裂纹检测图3-1基于递归注意力机制的U-Net网络本章的循环注意力机制U-Net分为两个部分：U-Net网络和递归注意力模块，如图3-1所示。RAU-Net和U-Net之间的区别在于，从编码器提取的部分首先经过注意力门控机制，然后通过解码器。我们的递归块可以加深网络的层数，提取低级边缘的特征，然后通过跳层连接将特征传递给注意力模块，并通过传递的门控向量来调整特征的权重解码器部分的递归模块，使其更加关注裂缝区域，然后再次通过上采样和递归模块操作，将相关特征和门控矢量继续传递到注意力模块中，重复以上步骤使图像更好地提取到低层次的边缘信息。它可以更好地抑制不相关的区域并更加关注裂纹区域，从而可以取得良好的裂纹检测结果。1.2.1U-NetU-Net网络结构与FCN网络结构相似，也是分为下采样阶段和上采样阶段，网络结构中只有卷积层和池化层，没有全连接层，网络中较浅的高分辨率层用来解决像素定位的问题，较深的层用来解决像素分类的问题，从而可以实现图像语义级别的分割。该体系结构的两侧对称包含一个编码器和一个解码器。在U-Net的结构中，包括捕获一个上下文信息的收缩路径和一个允许精确定位的对称拓展路径。这种方法可以使用非常少的数据完成端到端的训练，即输入是一幅图像,输出也是一幅图像，并获得最好的效果。上下文信息由编码器在丰富的跳过连接中传输，可以提取复杂的层次结构特征。解码器接受多个尺度的特征并重建这些特征。U-Net的一项重大创新是通过编码器部分和相应的解码器部分引入了跳层链接，因此可以将不同级别的编码器合并到解码器中，以使网络更加准确。图3-2U-Net网络结构示意图1.2.2递归注意模块在递归注意力模块(RecursiveAttentionModule，RAM)中，在将编码器的每个分辨率的功能与解码器中的相应功能进行拼接之前，先使用“注意力门控机制”重新调整编码器的输出功能。该模块生成门控信号，以控制不同空间位置中的要素的重要性。编码部分的xl是第l层的特征图，并且门控信号矢量gi被每个像素i用来从较粗的比例中选择聚焦区域。αi图3-3递归注意力模块尽管使用此方法需要很高的计算成本，但它可以获得更准确的分割结果。本文使用αi注意因子来关注裂纹区域的子集。αqattlαi其中，σ1通常作为relu函数σ1=max⁡(0,s),而σ2是sigmod函数σ2s=11+e−s。注意力门控机制的功能是一组参数在图3-4(a)中，我们使用U-Net的正向卷积层和特征连接作为U-Net原始版本中的裁剪和复制方法的替代方法。图3-4(b)中显示出了关于步长的扩展的递归卷积层的示例。其中t=2表示递归卷积操作，它由单个卷积层和两个后续递归卷积层组成。(a)正向卷积(b)是残差卷积网络图3-4卷积和递归卷积单元的不同变体1.3实验结果分析1.1.1参数设置当使用数据集训练模型时，初始学习率设置为0.0001，批次大小为4，每100个epoch后减小为十分之一，而在500个epoch后停止训练，我们使用Adam超参数值设定为𝛽1=0.9，𝛽2=0.999。所有实验均在带有PyTorch的NVIDIA2080TiGPU上执行。1.1.2数据集与测试标准该实验是在CRACK500[50]、GAPs384[51]和CFD[52]公共的数据集上展开的，其中CRACK500包括该数据集包含500个路面裂缝数据，大小约为2000x1500像素。由于数量有限，我们将每个图像裁剪为16个不重叠的图像区域，并且仅保留包含超过1000个像素的裂缝的区域。其中，训练数据1896张，验证数据348张，测试数据1124张。为了定量分析实验结果，我们考虑了几个性能指标，包括联合平均交集(mIoU)，Hausdorff距离(𝐻𝑑)，骰子相似系数(Dice)。Hd对分割的边界敏感，并测量两点集之间的最大不匹配。X是真实图片的点集，Y是预测图片的点集。对于评估指数𝐻𝑑值越小，效果越好。Dice系数是整体相似度的量度，通常用于计算两个样本的相似度，值的范围为0-1，最佳分割结果为1，最差的分割结果为0。1.1.3实验结果与分析图3-5各种算法实验分割的实际对比图本文比较了几种最先进的算法，包括FCN[49]，RCF[53]，FPHBN[54]和U-Net[48]方法。为了进行公平的比较，我们对训练和测试比较算法使用了相同的训练集。定量结果显示在表3-1中，我们可以看到，与CRACK500[50]上的其他方法mIoU，𝑎𝑣𝑒𝑟_𝐻𝑑和Dice相比，该方法的结果均为最佳，达到了最佳性能。在CFD[52]和GAPs384[51]上，本文的方法的𝑎𝑣𝑒𝑟_𝐻𝑑率高于FPHBN，但在其他指标上达到了最佳结果。图3-5是实验的效果图。与其他方法对比的结果如图3-5中可以看出，FPHBN在某些复杂的裂纹条件下的性能不是很好。另外，可以注意到本文的检测结果要比FPHBN好。尽管FPHBN的结果令人满意，但仍不能过滤掉复杂裂纹图像的无关信息。在图3-5中，除第一张图片外，其余裂纹图片均为复杂场景中的图片。其他算法的检测留下了许多无关点的裂纹信息，相反，与其他算法相比，我们的模型可以生成更清晰的图像，并生成更少的无关点，它也反映在表3-1、3-2、3-3中。可以看出，在本文的结果中，mIoU始终大于其他方法。而且，Dice和𝑎𝑣𝑒𝑟_𝐻𝑑在我们的结果中也比其他方法表现更好。总的来说，本文提出的方法证明，与其他检测裂纹的方法相比，它具有更好的整体裂纹检测效果。表3-1在CRACK500数据集上的测试值方法mIoUaver_HdDiceFCN[49]0.4757.230.579RCF[53]0.5137.510.486FPHBN[54]0.5346.150.631U-Net[48]0.4986.140.542Ours0.5535.930.657表3-2在GAPs384数据集上的测试值方法mIoUaver_HdDiceFCN[49]0.4437.560.539RCF[53]0.5237.350.478FPHBN[54]0.5126.320.617U-Net[48]0.4796.740.539Ours0.5476.890.624表3-3在CFD数据集上的测试值方法mIoUaver_HdDiceFCN[49]0.4938.430.493RCF[53]0.4878.720.468FPHBN[54]0.5046.480.498U-Net[48]0.4616.990.476Ours0.5346.690.514表3-4展示出了在不同配置下的裂纹检测的结果。从表3-4可以看