【CNN模型通道剪枝概述2700字】

)使用训练时一两个批次的结果图像来计特征图的秩，我们用期望表示: (4)那么最终我们可以得到公式(6)，用公式(6)裁剪秩较低通道对应的过滤器: (5)1.2剪枝的过程图7：剪枝的流程如图7所示，和基于范数、范数等剪枝方式的通道剪枝方案类似High-rank通道剪枝方案通过预训练的神经网络模型，得到每一个卷积层进行卷积操作后获得的各个特征图，由特征图来定义过滤器重要性，并根据预定义的剪枝率对相应的过滤器进行裁剪。可以大致总结为以下流程:(1)计算出每个过滤器的输出特征图的平均秩。(2)对得到的平均秩进行排序。(3)依据秩排序结果，和剪枝率，对排序较后的过滤器进行裁剪。(4)以剩余的过滤器为初始参数进行调整。1.3High-rank剪枝算法实现时的调整High-rank剪枝直接根据预训练模型的参数，运行模型，获取特征图的秩来删除低秩特征图对应的过滤器，仅仅根据初始参数就进行剪枝，未考虑到后再多次微调过程中参数的变化可能导致特征图秩的大小顺序发生改变，未必和最初的排序一致。仅考虑初始排序，必定会影响修剪完的神经网络的准确性。基于现有的High-rank通道剪枝算法存在的不足，我们可以不直接删除此过滤器，而是置0后再多次微调，并不断地将需要剪枝的过滤器置0，最后根据微调后的结果结合预设的剪枝率进行剪枝，得到我们需要的模型。如图6所示我们在训练的过程中得到了每一个过滤器的重要性，我们并不直接删去最小的两个过滤器，而是将他们置为0，可以看到下一轮训练参数更新以后，这两个过滤器其中的一个已经不再是最小的过滤器，也就是说我们不能仅仅根据预训练的模型就剪枝，这样的模型是不够准确的。图6训练时过滤器变化示意图所以我们对High-rank通道剪枝算法进行了简单的调整，通过使用该算法多次训练，多次微调，将低秩特征图对应的过滤器置0，而不是仅仅凭着初始值就剪枝。而将这些过滤器置为参数的平均值0，加强了空间的利用，考虑到了这些删除节点可能会动态变化，对模型的影响更小。过程如以下算法所示。算法1High-rank通道剪枝算法的简单调整输入：训练好的模型M输出：剪枝后的模型M∗1:从模型M中读取参数W={2:for3： 继续训练模型，更新参数W4:for5:求出该层每个通道的Rj,得到6:将满足剪枝条件的过滤器置07：endfor8:endfor9:由更新后的参数得到剪枝后的模型M∗1.4植物幼苗识别神经网络训练在这一节，我们首先介绍使用的数据集和超参数设置。然后我们在进行训练查看效果用。深度学习神经网络训练需要相应的训练环境，由于缺乏算力资源我们使用Colab提供的训练环境，软件和硬件配置如表3所示。表3：实验环境配置处理器版本Intel(R)Xeon(R)CPU@2.30GHz显卡版本NvidiaGeForceGTX1080Ti显卡内存16G深度学习框架选择Pytorch1.8(1)数据集说明为了评估我们的算法的可行性，并且在植物幼苗识别领域做出应用，我们选择了奥胡斯大学发布的一个植物数据集，其中包含大约2700张幼苗的植物的图像，这些植物属于CommonWhite、Maize等12个物种，它们都是幼苗处于幼苗或小植株状态的图片。在训练前我们随机选取超过三分之二即大约2000张图片作为训练集，剩余的图片我们将其作为验证集。在训练之前，对图片随机水平翻转、随机裁剪然后归一化处理并缩放到224×224大小。图7:图片数据集(2)Resnet50网络训练我们在训练时训练优化器使用带动量小批量随机梯度下降方法。实验中我们设置动量为0.9，同时也在损失函数中增加了l2范数正则项，系数设置为10 图8:Resnet50训练过程示意图由上图可知，在训练初期，训练结果不明显，在43轮训练后，神经网络准确率逐渐提高，但是可以发现后来验证集loss增加，发生了过拟合。验证集在第87轮训练时保存的模型上取得最好的分类效果，分类正确率为0.9214。然后我们采取分类准确率最高时的模型进行通道剪枝和植物幼苗识别。可以看出我们针对实验的数据集训练出了较好的效果，基本可以满足需要。1.5剪枝实验1.5.1裁剪敏感性分析由于High-rank剪枝算法是一种局部剪枝算法，在剪枝前可以根据每一层的裁剪比例。有Resnet50网络的卷积层数比较多，所以我们现在以一个残差模块为单位，我们现在逐个测试只裁剪单个残差模块的情况下，重新微调模型后在测试集上的表现，下滑越大，说明该残差模块越敏感，我们应该再适当地减少剪枝比例。图9表示裁剪ResNet50卷积神经网络每个残差模块随着裁剪率的变化对网络分类识别率的影响效果图，我们设置别的残差模块不进行裁剪，然后对相应的残差快按照10%递增的比例进行依次裁剪，然后查看裁剪得到的模型的测试结果。我们保持同一个残差内的输入和输出不变的情况下，仅仅对中间部分按照一定的比图9：准确率随每一个残差块内的裁剪率变化图例进行剪枝得到的如图9所示的曲线图。我们可以看到越靠前的层越敏感，尤其是第一个残差模块直接从输入的图片获取第一手信息，对于第一个模块我们应该不剪枝，或者以较小比例进行裁剪。总体上来看越靠前的模块越敏感，我们越需要保证这些模块以一个较小的剪枝比例存在。神经网络剪枝率的确定是一个比较复杂的问题，1.5.2剪枝效果表4：两种通道剪枝算法的压缩效率表现参数量(百万)浮点数计算量(十亿)通道裁剪率准确率Resnet50(baseline)25.54.110%92.14%Resnet50(High-rank)8.02(68.6%)0.95(76.7%)30%92.25%11.05(56.7%)1.5