CN114287008B 用于压缩神经网络的方法 （大众汽车股份公司）

2022.03.04PCT/EP2020/0718722020.08.04WO2021/043517DE2021.03.11US2019114543A1,2019.04.18本发明涉及一种用于压缩神经网络(9)的方实施神经网络(9)并且分别在至少一个推理阶段期间确定神经网络(9)的应被修剪的元件的选择(20)汇总分别传输的选择(10)并且产生经汇总汇总的选择(11)修剪神经网络(9)。本发明还涉2其中，运输工具队列的队列参与者(2)在本地实施所述神经网络(其特征在于，将经修剪的所述神经网络(9)随后传输给至少一个队接收到的经修剪的神经网络(9)替换本地储存元件的排序(14)并且将所述选择(10)以所创建的排序(14)的形式传输给所述中央服务器给所述神经网络(9)以用于确定相应的所述选择(10)，其中，针对时间上相邻的输入数据7.根据权利要求1或2所述的方法，其特征在其特征在于，所述计算设备(3)被构造为，使得在本地实施神经此外从所述中央服务器(20)接收经修剪的神经网络(9)，并且通过接收到的经修剪的其特征在于，所述计算设备(3)被构造为，使得汇总由根据权利根据权利要求8所述的至少一个队列参与者(2)和根据权利要求9所述的中央服务器34[0002]用于自动驾驶的现代驾驶员辅助系统和驾驶功能越来越多地使用机器学习来尤[0003]在两种情况下，通常使用卷积网络(卷积神经网络，英文ConvolutionalNeural实现网络的显著变小并且因此实现尽可能少的推[0005]由US2018/0336468A1已知用于修剪卷积网络(CNN)的系统和方法。所述方法包括[0006]由US2018/0114114A1已知一种用于修剪神经网络的方法、计算机可读介质和系5具队列的队列参与者在本地实施神经网络并且分别在至少一个推理阶段期间确定神经网[0015]队列参与者的计算设备分别具有尤其是存储设备或者分别可以访问这种存储设6[0019]所述选择从队列参与者到中央服务器处的传输尤其是通过队列参与者和中央服这通过从神经网络中移除元件和/或元件的部分(例如参数或输入通道等)来实现。由于改7与者只能应用神经网络并且例如在神经网络修剪之后从中央服务器获得经修剪的神经网队列参与者可以在技术上更好地装备以执行所述方法，例如关于传感器装置和/或存储设是摄像头数据，则输入数据可以与摄像头数据的两个时间上彼此相继的单独图像相对应。8[0040]所述选择在中央服务器中的汇总(其也可以称为汇集)尤其是可以包括求算术平孩处于机动车周围时)可导致所选择的元件在排序中进一步向上移动，即朝着更高次序的度(例如由GPS传感器提供)、当前天气(例如由雨传感器提供)和/或转向角(例如由转向角排序，例如神经网络的10、100或1000个如下元件(例如卷积网络的10、100或1000个滤波[0046]用于确定神经网络的元件的(不)稳定性的排序函数可以在简单的情况下通过关于输入数据中的(时间)变化(例如时间上相邻的视频单个图像中的变化)的元件的激活之序函数中使用不同时间点的视频单个图像之间的结构相似性指数(结构相似性指数,[0048]对于卷积神经网络(CNN)，在用于所观察的滤波器(也称为滤波核)的排序函数的9过利用滤波器函数进行卷积来过滤摄像头数据的滤波器)也可以在排序中移动到处于更前经网络的应被修剪的元件或滤波器时考虑所有预[0051]在一种实施方式中设置成，所述选择的确定(尤其是通过激活差进行的所述选择[0055]在一种实施方式中设置成，将经修剪的神经网络然后传输给至少一个队列参与器上的传输和汇总(或汇集步骤)的是将排序(例如作为表格)重新分配给运输工具队列的[0057]用于队列参与者和中央服务器以及系统的设计的其它特征从对所述方法的设计[0061]在图1中示出系统1的一种实施方式的示意图。系统1包括呈机动车50形式的多个[0064]队列参与者2的计算设备3如此构造，使得在输入数据7上本地实施储存在存储设备4中的神经网络9，并且分别在至少一个推理期间确定神经网络9的应被修剪的元件的选[0069]可以设置成，为神经网络9分别供应随时间变化的输入数据7以确定相应的选择件在所述方法的预设数量的通过式运行上或在预设的时间段上至少对于预设数量的次序[0073]在图2中示出用于阐明用于压缩神经网络9的方法的一种实施方式的示意性流程为例来阐释该流程图，所述输入数据以视频40的形式提供，所述视频由视频单个图像41步长示出，即针对与时间点ti相对应的视频单个图像41且针对与随后的时间点ti+1相对应端处推理出结果。所述结果可以例如包括对象识别或对象分类和/或为识别的对象创建边[0075]在方法步骤101中，由针对各个元件的激活43的值确定针对两个所观测的时间点[0077]可以设置成，所确定的时间激活差44的至少一部分根据至少一个影响参数45确(例如通过转向角传感器提供)可用于由情况决定而加强或减弱所确定的的具有最大时间激活差44的元件从神经网络9的结构中移除。作为结果提供了经修剪的神剪在方法步骤105中基于经汇总的排序15来执行，所述经汇总的排序针对时间激活差44的图像中、即在随时间变化的输入数据中在激活方面显示出大的变化(即其中时间激活差是i[0102]为了对于每个滤波器计算其基于稳定性的次视频序列。公式(4)将次序定义为在所有时间点t上(即在视频单个图像的数量T上)相对于滤波器输入端处的变化(即相对于输入数据的(时间)变化)求平均的(时间)激[0105]由此确定平均值，即次序在多个未标记(没有标签)的视[0106]Rl，j的较大的值分别