CN114492799B 卷积神经网络模型剪枝方法和装置、电子设备、存储介质 （平安科技（深圳）有限公司）

道福安社区益田路5033号平安金融中本发明实施例提供卷积神经网络模型剪枝据滤波器的重要性值得到模型中每个卷积层内剪枝，能够提高卷积神经网络模型剪枝的准确2根据所述滤波器相似值计算每个卷积层对应的剪根据预设剪枝率和每个卷积层对应的所述剪枝重要性指标，对待所述根据所述卷积层信息进行卷积计算，得到每个卷积层中滤波将所述卷积层中每个滤波器与图像进行卷积操作得到图像特征对每个滤波器对应的多个所述滤波器相似值的均值或总和确定为所述滤波器对应的根据卷积层中每个滤波器的滤波器重要性值得到所述卷积层对应的所述剪枝重要性所述根据卷积层中每个滤波器的滤波器重要性值得到所述卷积层对应的所述剪枝重根据所述排序结果得到所述卷积层对应的所述剪根据所述剪枝滤波器的个数和每个卷积层对应的所述剪枝重要性指根据所述预设剪枝率和所述剪枝重要性指标从每个所述卷积层的多个滤波器中确定4.根据权利要求1至3任一项所述的卷积神经网络模型剪枝对所述剪枝模型中选取剩下的所述滤波器和对应的全连接层进行3滤波器相似性计算模块，用于根据所述卷积层信息进行卷积剪枝重要性指标计算模块，用于根据所述滤波器相似值计算每剪枝模块，用于根据预设剪枝率和每个卷积层对应的所述剪枝所述根据所述卷积层信息进行卷积计算，得到每个卷积层中滤波将所述卷积层中每个滤波器与图像进行卷积操作得到图像特征对每个滤波器对应的多个所述滤波器相似值的均值或总和确定为所述滤波器对应的根据卷积层中每个滤波器的滤波器重要性值得到所述卷积层对应的所述剪枝重要性所述根据卷积层中每个滤波器的滤波器重要性值得到所述卷积层对应的所述剪枝重根据所述排序结果得到所述卷积层对应的所述剪所述程序被存储在存储器中，处理器执行所述至少一个程序以实现：4[0014]对每个滤波器对应的多个所述滤波器相似值的均值或总和确定为所述滤波器对5[0015]根据卷积层中每个滤波器的滤波器重要性值得到所述卷积层对应的所述剪枝重[0019]在一些实施例，所述根据预设剪枝率和每个卷积层对应[0023]根据所述预设剪枝率和所述剪枝重要性指标从每个所述卷积层的多个滤波器中6滤波器对应的滤波器相似值，再根据滤波器相似值计算每个卷积层对应的剪枝重要性指的重要性值得到模型中每个卷积层内部滤波器的冗余信息，然后利用该冗余信息进行剪技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本发明实施例的目的，[0055]卷积神经网络(ConvolutionalNeuralNetworks,构是输入层-卷积层-池化层-全连接层-7[0058]模型剪枝的操作主要分为两步：首先选取出相对不重要的卷积核的滤波器并去是否真的可以以其他的滤波器的信息量来替代是没有严格8涉及数据挖掘技术领域。本发明实施例提供的卷积神经网络模型剪枝方法可应用于终端程序模块可以位于包括存储设备在内的本地和远程计算机存中X和Y为卷积神经网络模型(例如待剪枝模型)中两个连续的特征图(Featuremap)，X和Y积层的计算之后便可得到FeaturemapY。其中，每个卷积层均由多个滤波器(Filter)组9果证明两个滤波器之间较为相似，则这两个滤波器在该卷积层中起到的作用也是相似的，型进行剪枝的目的就是去掉一定比例的滤波器，例如图3中用虚线示出的滤波器可进行剪进行卷积操作得到的值较大，则说明该滤波器在该卷积层计算中对结果有着重大的影响，个卷积层中滤波器进行两两卷积计算，得到卷积层中每个滤波器对应的多个滤波器相似信息即该卷积层对应的剪枝重要性指标，然后根据剪枝重要性指标对待剪枝模型进行剪[0109]在一具体应用场景，以VGG16模型作为待剪枝模型为例来验证上述实施例中卷积图像，这些图像的尺寸为是32*32，一共分为10个类，每类包含6000张图。该数据集中有[0119]根据上表可以看出，本申请实施例的卷积神经网络模型剪枝方法的运算精度最高，为93.41趋近未进行剪枝的待剪枝模型的运算精度93.99可见本申请实施例的卷[0124]剪枝重要性指标计算模块930，用于根据滤波器相似值计算每个卷积层对应的剪[0126]本实施例的卷积神经网络模型剪枝装置的具体实施方式与上述卷积神经网络模[0140]本发明实施例提出的卷积神经网络模型剪枝方法、卷积神经网络模型剪枝装置、[0143]本领域技术人员可以理解的是，图1-8中示出的技术方案并不构成对本发明实施可以根据实际的需要选择其中的部分或者全部模块来实现本[0151]所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式