【《基于深度残差网络的人脸识别算法概述》1700字】

基于深度残差网络的人脸识别算法概述目录TOC\o"1-3"\h\u5696基于深度残差网络的人脸识别算法概述 130811.1问题描述与分析 1185441.2基于深度残差网络的人脸识别算法 1155291.2.1Resnet50网络结构 170771.2.2残差结构 3255751.2.3mini-batch梯度下降法 41.1问题描述与分析目前基于深度学习的人脸识别算法研究中，使用的卷积神经网络绝大多数都是应用于图像分类问题的通用网络。比如牛津大学视觉几何小组提出的VGGFace[26]，就是以VGGNet来作为训练的主干网络。2015年，深度残差网络（Deepresidualnetwork,ResNet）[27]的提出是CNN图像史上的一个里程碑式的事件，刷新了CNN在ImageNet上的历史，ResNet的作者何凯明也因此摘得了CVPR2016最佳论文奖。ResNet网络参考了VGG19网络，并在其基础上进行了修改，通过引入短路机制加入了残差单元，使用残差结构来解决网络退化的问题。相比传统的VGG网络，Resnet网络的复杂度得到了降低，所需要的参数量下降，网络深度更深，而不会出现梯度消失现象。由于使用了更深的网络，从而使图像分类的准确度得到了较大提高。在本章中主要介绍了基于深度残差网络Resnet50的人脸识别算法及其相关知识。1.2基于深度残差网络的人脸识别算法1.2.1Resnet50网络结构图3-1深度残差网络Resnet50的网络结构 Resnet50的网络结构如图3-1所示。整个网络首先对输入做了一个卷积操作，在这里由一个7*7的卷积核来负责进行特征的提取，卷积核的步长为2，使得图像的长宽降低为原先的1/2。随后，再经过一个最大池化层，进一步降低了图像的分辨率。之后包含4个残差块（ResidualBlock),最后进行全连接操作以便于进行分类任务。在使用重复的残差块提取特征时，基本思想是对输入的特征图，使得其通道数扩展为原来的一倍，而长宽都缩减为原先到的1/2。每一个阶段都会由一个下采样块和两个残差块构成。其中，下采样会设置最初的卷积步长为2，通过这样的方式进行对特征图的下采样，使得长宽得到缩减。而在残差块中，通过对卷积相关参数的设置，可以控制使得残差块的输入和输出的特征图尺寸一致，从而进行相加处理，避免了深层网络的梯度消失和退化问题。 图3-2为一个简要的resnet50模型。图3-2Resnet50模型1.2.2残差结构 残差结构，是将前面某一层数据的输出直接跳过多层，引入到后面数据层的输入部分，这意味着后面的特征层的内容会有一部分由其前面的某一层线性贡献，即做了一次恒等映射，实际上类似于电路问题中的短路，其结构如下图3-3所示。图3-3一个简单的残差模块对于其中的“短路”连接，当输入和输出维度一致时，可以直接将输入加到输出上，如图3-4所示。但是当维度不一致时，就不能直接相加，如图3-5所示。图3-4输入输出维度一致的残差单元图3-5输入输出维度不一致的残差单元通常情况下采用1x1的卷积来调整通道数，但会因此增加参数的数量从而增加计算量，或者填充padding增加维度，将剩余部分补为0。有了这条短路的跳跃连接线时，就可以无损的传播梯度，当网络层次很深，导致梯度消失时，f(x)=0，那么y=g(x)=relu(x)=x。可以看到我们在网络上堆叠这样的残差结构，就算发生梯度消失，至少也做了一个恒等映射，相当于在浅层网络上去堆叠“复制层”，这样至少不会产生更差的结果。这种跳跃式的结构，打破了传统神经网络第n-1层的输出只能作为第n层输入的惯例，使得某一层的输出可以直接跨过几层作为后面某一层的输入，其意义在于为叠加多层网络而使得整个学习模型的错误率不降反升的难题提供了一个新的方向。1.2.3mini-batch梯度下降法梯度下降解决的是无约束条件下的最优化问题，与之相对应的是有约束条件下的最优化问题。无约束最优化问题的一般形式为：min（f(x)）。其中f:Rn→R1。这一问题是指在Rn中寻找一点x∗，使得对于∀x∈Rn，都与f(x∗)≤f(x)。此点x∗就是全局最优解。梯度下降法是多元函数求极值最早的方法。梯度下降法简单直观，但采用的是全部样本的梯度平均值来更新梯度，所以收敛速度比较缓慢。之所以收敛速度慢是由于梯度下降会出现锯齿现象，同时梯度下降法会陷入鞍点，从而只得到一个局部最优解。随机梯度下降法（stochasticgradientdescent，SGD）是在数据分布中随机抽取1个样本，来对梯度进行更新，因而会带来一定的问题，因为计算得到的并不是准确的一个梯度。对于最优化问题，虽然不是每次迭代得到的损失函数都向着全局最优方向，但整体方向是向全局最优解的，最终的结果往往是在全局最优解附近，这样的方法更快的收敛。随机梯度下降法有非常多的优良性质．它能够自动逃离鞍点，自动逃离比较差的局部