【《深度学习算法介绍概述》2300字】

深度学习算法介绍概述目录TOC\o"1-3"\h\u9996深度学习算法介绍概述 1137371.1卷积神经网络原理 1196101.2Mask-RCNN网络 2117381.3YOLOv4网络 432101.4算法模型的评估指标 51.1卷积神经网络原理卷积神经网络是一类利用卷积核进行计算，包含池化与全连接的深度前馈网络，是深度学习中最有代表性的网络结构之一。该研究最早于80到90年代间开始，随着数值计算设备的改进而不断发展，其于2012年赢得了ImageNet比赛的冠军[46]，引起越来越多研究者的关注，故其也是深度学习中最具影响力的网络结构之一。不同于其他神经网络算法，其计算主要由卷积核构成，而合适的卷积核能够适配与其对应的特征，它利用多层卷积、池化的运算，实现对人脑响应图像的模拟，从而具备优秀的性能。卷积神经网络由下述几类节点层连接构成，即将卷积层、池化层以及全连接层进行连接，通过非线性激活函数进行层与层之间的传递计算，最后由一个全连接的类似DNN的层进行激活计算并输出结果，其结构如图2-5所示。以一个红绿蓝三通道的图像做为输入，对三个通道做卷积，不断传递。卷积操作是将一个m乘n大小的矩阵与图像等大小区域逐个进行卷积运算，以达到提取更加高层的图像局部特征的功能。而核矩阵中的每个元素值，是可以通过最小化结果误差，经由反向传播不断修正得到，借此，每一层的核可以学习到的值都是不同的，从而不同的层可以将提取的线条、形状、明暗等基本信息逐层汇合，最终拼接出复杂的图像特征信息。由于卷积核的线性运算智能提取线性特征，非线性函数映射的引入解决了单一线性表达的问题，一般用sigmoid、tanh、ReLU等激活函数作为非线性引入。而池化层则由平均值化和最大值化两种，其缩小了后续矩阵运算的规模，同时弱化运算中对特征位置的敏感性，保证了位移的不变性。最终层则如普通DNN一样，每个节点接收前一层每个矩阵的各个元素的输出，并综合前层得到的所有特征，获取一个最终的高层语义信息，达到“分类器”的作用。图2-5卷积神经网络架构1.2Mask-RCNN网络Mask-RCNN[47]由Faster-Rcnn进化而来，其识别目标的同时能做到区域分割。如图2-6所示，其流程主要分为两个阶段，首先找出候选区域，然后计算候选区域的边框和遮蔽区域。图2-6Mask-RCNN流程Mask-RCNN使用更优秀的ResNeXt-101,对其识别准确率带来了极大的提升，而FPN特征金字塔的助力，则使其拥有了多尺度信息。为了解决特征图对齐的问题，其改进RoIPoling提出RoIAlign方案。最后为了让语义分割训练预测效果，还优化了深度卷积网络的损失函数，获得了更好的效果。如图2-7所示，首先由CNN和RPN两个网络进行运算输出，然后交由FPN运算，经过RoIAlign后，即可以并行做分割区域识别和物体边框预测。图2-7Mask-RCNN层次结构其骨干网络Resnet-C4结构如下图2-8所示，输入的数据首先需要交由RPN进行处理，经过移动窗口扫描，查找出包含目标的关注区ROI，把ROI中的像素数据传递到Pooling层运算，Pooling结束后就可以做边框以及遮蔽区域的并行预测了。图2-8Mask-RCNN骨干网络ResNet-C4通过使用FPN特征金字塔扩展Resnet是Mask-RCNN的核心思想，其可以在多尺度上对目标有更好的表达。FPN相对于标准金字塔，引入了额外一个金字塔，这个额外的金字塔可以获取之前的输出结果，并将其选择的特征输出到底层。有了这一层的贡献，任意一级的特征都具备与高级或低级的特征进行结合的能力。而对于Faster-RCNN，关注区的运算与Resnet相反，其运算总是在最后，很显然，这不利于目标区域较小的物体的检测。原因是小目标的像素区域本来就小，经过多次卷积、池化的运算后，语义信息几乎完全损失掉了，由映射ROI到FeautreMap的计算流程可知，坐标数据是需要除以stride的，显然越往后，被除的次数就越多，相应值越来越小，最终消失。总结起来，Mask-rcnn引入FPN联动上下级信息来保留信息，不会出现前文所述的特征信息消失的问题。1.3YOLOv4网络目前，目标检测卷积神经网络有两种常用算法类型：Two-stage和One-stage。Two-stage主要分为两步，第一步识别除目标的候选区域，第二步将候选区域进行分类，常被使用的有如前文提到的Faster-RCNN。One-stage则省去第一步，通过计算检测内容所属类别的概率以及给出检测内容的坐标值，常使用的网络如YOLO系列。One-stage相比Two-stage无需计算其第一步，从而有更好的运算效率。YOLOv4[48]是YOLO系的一版算法，是目前兼顾速度和精度最好的算法。YOLOv4的流程结构见图2-9，采用CSPDarkNet53[49]作为主干网络提取图像特征，Darknet53的大残差块上结合CSP便得到了CSPDarkNet53，这样的块有5个，其中每个块包含的小残差单元个数为1、2、8、8、4。在特征金字塔部分，使用SPP[50]和PANet[51]，可以有效增加主干特征的感受野，分离最显著的上下文特征，SPP对网络的最后一个特征层总共运算了三次DarknetConv2D_BN_Leaky卷积，然后进行了最大值池化运算，这些核的尺寸为13x13、9x9、5x5，完成池化后进行张量拼接并通过1x1降维到512个通道，PANet则包含多次特征提取，其不仅要进行一次由底层至顶层的提取运算，还需要运算一次由顶层至底层的提取。分类回归层采用YOLOv3[52]头部进行预测输出，提取三个特征层获得预测结果。图2-9YOLOv4网络1.4算法模型的评估指标通常采用这些计算来比较算法的好坏，如准确率Precision、召回率Recall、mAP、多IOU下的AP及运算帧率等。准确率和召回率通常从概念上容易被混淆，但他们的计算方式是不同的。如图2-10所示，他们的分子都是TruePositive，即判断结果为真并且实际该结果是真的数据量，而分母中，准确率关注的是FalsePositive，即判断结果为真，但是实际该结果是假；而召回率则关注FalseNegative，即判断结果是假，但是实际结果是真的数据。即准确率是找出判断结果中实际为真的比例，而召回率是找出实际为真的数据中判断为真的比例。图2-10准确率与召回率的计算P-R图是分别以Precesion和Recall作为x、y轴绘制的折线图，AP是折线与x和y轴构成的面积，表达式为：(2-6)mAP是不同AP的均值，如图2-11所示：图2-11mAp曲线mAP的表达式为：