【《经典卷积神经网络结构分析》3500字】

[19]。一共有8层，前两层都含有卷积层、LRN层和重叠池化层，第三层和第四层都为卷积层，第五层为卷积层和重叠池化层，最后三层都为全连接层，图像的输入尺寸为224*224，基本结构如图4-5所示。图4-5AlexNet基本结构除了图像的输入尺寸与LeNet-5不同外，其他数据集划分等图像预处理均与LeNet-5相同。同样地，在预处理好图像后，采用直接构建模型的方法来训练数据集，模型如图4-6所示，同样可以看到输入为224*224的图像经过卷积、池化、扁平化、全连接后的尺寸及通道数变化以及每一层所包含的参数量，整个AlexNet模型的可训练参数共49907080个。图4-6AlexNet网络模型摘要1.2.2AlexNet模型训练与LeNet-5相同，在构建好上述模型后，编译模型，epochs为10，训练集及验证集的精确度和损失如图4-7、4-8所示，可以看到验证集的准确率高达96%，没有使用LeNet-5模型训练后得到的准确率高，但是如图4-8所示，我们可以发现，AlexNet没有发生过拟合现象，最后训练集及验证集的损失也都达到了误差收敛。图4-7AlexNet训练集及验证集loss和accuracy图4-8AlexNet训练集及验证集loss和accuracy曲线图1.2.3使用AlexNet模型预测同样使用3596张图像对训练过的AlexNet模型进行预测，得到相应的分类报告，如表4-5所示。表4-5AlexNet分类报告驾驶员驾驶行为precisionrecallf1-scoresupportdrinking0.9660.9370.952461makeup0.8820.8930.887392normal0.9430.9450.944508playingthephone-left0.9530.9050.929475playingthephone-right0.9530.9890.970449reachingbehind0.9720.9680.970401talkingonthephone-left0.9320.9640.948444talkingonthephone-right0.9640.9680.966466同时，可以得到相应的混淆矩阵如表4-6所示。表4-6AlexNet混淆矩阵预测分类实际分类01234567043210001203411335072155920548012305330149430401714004044410050100203881061185014280717102404511.3VGGNet1.3.1概述VGGNet于2014年诞生。图像输入尺寸为224*224其根据不同的网络深度和LRN的使用分为六个等级，如图4-9所示，同时，随着网络深度的增加，网络的参数量并没有显著增加，如表4-7所示。最常用的VGG16和VGG19，其中VGG16有13层卷积层，而VGG19比VGG16多了3层卷积层。VGGNet相较AlexNet而言，不仅层数增加了，而且还卷积核也缩小了。图4-9VGGNet网络结构表表4-7VGGNet各级别网络参数量网络名称A，A-LRNBCDE参数量（单位：万）133133134138144图像的预处理方式与AlexNet完全相同。在预处理好图像后，采用直接构建VGG19模型，模型如图4-10所示，整个VGG19模型的可训练参数共139639944个，相比AlexNet来说又增加了大量的参数量，使计算时间大大增加。由此可见，在早期研究过程中，想要提高准确率，就选择增加网络层数，而网络层数的增加会导致参数量的大幅度增加，使计算效率降低，因为考虑其他方法提升准确率尤为关键。图4-10VGG19网络模型摘要1.3.2VGG19模型训练同样使用Adam优化器及交叉熵损失函数来编译模型，epochs为10，训练集及验证集的精确度和损失如图4-11、4-12所示，可以看到验证集的准确率高达98.4%，是目前三个模型中达到的最高的验证集的准确率。同时，如图4-12可以发现，VGG19训练集和验证集的损失相较上面两个模型都好，二者的损失都维持在一个较低的水平。图4-11VGG19训练集及验证集loss和accuracy图4-12VGG19训练集及验证集loss和accuracy曲线图1.3.3使用VGG19模型预测使用3596张图像对训练过的VGG19模型进行预测，得到相应的分类报告，如表4-8所示。表4-8VGG19分类报告驾驶员驾驶行为precisionrecallf1-scoresupportdrinking0.9340.9830.958461makeup0.8790.9670.921392normal0.9940.9530.973508playingthephone-left0.9850.9870.986475playingthephone-right0.9880.9180.952449reachingbehind0.9780.9950.986401talkingonthephone-left0.9910.9930.992444talkingonthephone-right0.9960.9550.975466同时，可以得到相应的混淆矩阵如表4-9所示。表4-9VGG19混淆矩阵预测分类实际分类01234567045360010011437920241020124843141030404691010423121041201051100039900610010044117317000104451.3.4VGG19特征提取此处特征提取使用的是VGG19网络，仅包括卷积层、池化层和激活层，图中越亮的地方表示那一层提取的特征最明显的地方。图4-13显示的是最高层的四个卷积层、激活层和第一个池化层；图4-14显示的是也是第二个池化层和四个卷积层、激活层；图4-15显示的第三个池化层和较底层的四个卷积层、激活层；图4-16显示的是一个池化层和最底层的四个卷积层、激活层。我们可以看到，如上面的卷积操作所描述的，底层的卷积层