CN114492754B 神经网络生成、数据处理方法、装置、电子设备及介质 （上海商汤临港智能科技有限公司）

TaoHuang等.DyRep:BooCVFConferenceonCom网络中各个第一备选网络单元分别对应的第一重要性程度信息用于表征第一备选网络单元对满足预设资源配置条件的硬件中处理预设类型网络单元构建扩增神经网络；基于扩增神经网一个迭代周期的第二神经网络进行分支合并处2基于所述第一神经网络中各个第一备选网络单元分别对应的第一设资源配置条件根据执行神经网络训练的硬件平台的对最后一个迭代周期的第二神经网络进行分支合并处理，得3.根据权利要求1或2所述神经网络生成方法4.根据权利要求1或2所述神经网络生成方法，其络中各个第一备选网络单元分别对应的第一重要性程度信息，确定第一目标网络单元之基于所述训练损失、以及所述第一神经网络中各个第一备选网所述基于所述训练损失、以及所述第一神经网络中各个第一备选网针对所述第一神经网络中的每个第一备选网络单元，基于所述训基于所述卷积算子对应卷积核中的多个卷积元素分别对应的参数显6.根据权利要求1或2所述神经网络生成方3将所述重要性程度最高的第一备选网络单元确定为所述第一目7.根据权利要求1或2所述神经网络生成方对多种所述备选算子分别进行参数随机初始化，得到多种所述备选针对多种备选算子中的每种备选算子，基于所述每种备选算子对将所述第一神经网络中的所述第一目标网络单元替换为对应的扩增针对多种备选算子中的每种备选算子，基于所述每种备选算子对应的备选参数信息、基于所述目标卷积算子对应的网络层，构建与所述每种备选算子对应的扩增网络分基于所述第一目标网络单元以及所述扩增网络分支构建所述基于多种所述备选算子分别对应的备选参数信息、以及所述第层对应的原始卷积参数，对所述第一目标网络单元中卷积层的原始卷积参数进行变换处所述基于多种所述备选算子分别对应的备选参数信息、以及所述第一目对多种所述备选算子分别对应的备选参数信息、以及所述批归一化基于所述目标参数、以及所述第一目标网络单元中卷积层对应的4确定所述扩增神经网络中各个第二备选网络单元中的网络分支分别对应的第二重要基于各个第二备选网络单元中的网络分支分别对应的第二重要性程度基于各个第二备选网络单元中的网络分支分别对应的第二重要性基于所述第二目标网络单元中各个网络分支分别对应的第二重要性确定与所述待剪枝的网络分支对应的第一目标网络单元；其中，支是由对应的第一目标网络单元进行扩增处理得到的扩增网将所述待剪枝的网络分支的参数，合并至对应的第一目标网络将所述目标扩增网络单元中包括的第一目标网络单元、以及扩增基于所述第一神经网络中各个第一备选网络单元分别对应的第一设资源配置条件根据执行神经网络训练的硬件平台的合并模块，用于对最后一个迭代周期的第二神经网络进行分支合并处5获取目标神经网络；其中，所述目标神经网络是利用如权利要求1-1处理模块，用于利用所述目标神经网络对待处理数据进行预设器可读指令被所述处理器执行时，所述处理器执行如权利要求1至14任一项所述的神经网6当前通过神经网络的结构重参数化(structuralre-parameterization)方式解决上述问7其中某些网络单元对推理能力贡献度很小而造成的冗余问题，进而有利于节约硬件资源，使得神经网络可在较低配置的硬件环境中正常处理预设备选算子对应的备选参数信息对所述第一目标网络单元进行扩增处理，生成扩增网络单便了将最后一个迭代周期得到的第二神经网络进行89[0024]基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信[0041]图3示出了本公开实施例所提供的将备选算子转换为目标卷积算子后构建扩增网[0043]图5示出了本公开实施例所提供的对确定的第二目标网络单元进行剪枝操作的具[0051]但当前的结构重参数化方式会将神经网络中所有的可扩增的网络分支都进行扩[0059]S1012：基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性神经网络的性能表征所述神经网络在满足预设资源配置条件的硬件中处理预设类型数据单元对应的卷积算子的卷积核中的各个卷积元素，确定各个卷积元素对应的参数显著性；p[0100]将S扩展到通过对算子中所有算子内参求和来确定算子对应的第一重要性程度p[0104]在得到第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信息F(2)表示卷积运算o(2)的卷积核。扩增网络分支确定的多种备选算子例如能够转换为卷处理，在对第一目标网络单元进行扩增处理前，第一目标网络单元的输出满足上述公式标网络单元对应的扩增网络分支构成的扩增网络络分支变换后的权值F较小，扩增网络分支的增加对第一目标网络单元中卷积层的原始卷[0150]基于所述目标参数、以及所述第一目标网络单元中卷积[0159]确定所述扩增神经网络中各个第二备选网络单元中的网络分支分别对应的第二[0163]可以用第二备选网络单元中的各个网络分支中最后一个批归一化层BN的γ的L1[0165]式中，N表示第二备选网络单元的各个网络分支中最后一个批归一化层BN的通道数。γk表示第f个网络分支中的最后一个批归一化层BN在第k个通道络分支是由对应的第一目标网络单元进行扩增处理得到的扩增网络单元中的扩增网络分o(ori)表示o(1)～o(n)中任一F(j)表示o(j)的卷积参数。,o[0202]基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信单元分别对应的参数信息，确定各个第一备选网络单元分别对应的第一重要性程度信息[0237]基于所述目标参数、以及所述第一目标网络单元中卷积[0239]确定所述扩增神经网络中各个第二备选网络单元中的网络分支分别对应的第二络分支是由对应的第一目标网络单元进行扩增处理得到的扩增网络单元中的扩增网络分理器11用于执行存储器12中存储的机器可读指令，所述机器可读指令被处理器11执行时，[0260]基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信[0268]上述指令的具体执行过程可以参考本公开实施例中所述的神经网络生成方法的[0270]本公开实施例还提供一种计算机程序产品，该计算机程合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，的技术方案本质上或者说对现有技术做出贡献的部分或