CN114239799B 一种高效目标检测方法、设备、介质和系统 （上海交通大学）

QuantizationwithDynamical2所述将所述训练集用于目标检测网络的预训练，得到全精度目标检测利用L-BFGS算法对所述降低了参数精度重复选择量化灵敏度最低的网络层，迭代调整该层参数的精度将全部训练图像输入至所述混合精度目标检测网络，通过直通估所述量化灵敏度，能够衡量不同网络层参数的重要性，评估降低网络数关于第i层参数矩阵wi的Hessian阵的迹的平2.根据权利要求1所述的一种高效目标检测方法，其平均值是利用Hutchinson法计算各参数对应的Hessian矩阵的3复制所得到的指定压缩率的混合精度网络，将一将全部训练图像输入学生网络，学生网络将训练时得到的梯度回传给6.一种计算机设备，包括存储器、处理器及行时实现权利要求1至5任一项所述的高效目4[0002]随着计算能力的提升和大数据的发展，人工智能在近些[0005]在一阶段的检测工作中，RetinaNet是目前综合性能优异且被研究者关注的网络分类结果影响小而参数量大的网络权重被分配低比特，这样同时保证了压缩率和准确度。[0007]综上，现有的高效目标检测方法还存在以下不足：(1)压缩后的网络性能下降较5自动调整所述目标检测网络的精度和参数，获得指定压缩率下的混合精度目标检测网络，利用L-BFGS算法对所述降低参数精度[0022]优选地，所述Hessian阵的迹的平均值是利用Hutchinson法计算各参数对应的量而不是完整的Hessian矩阵来减少存储和计6[0034]通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、[0041]S300,自动调整目标检测网络的精度和78-6,6-4,4-3,3-2,2-1)的位宽[0049]S5,将全部训练图像输入达到指定压缩率数关于第i层参数矩阵wi的Hessian阵的迹的平[0058]根据得到的全精度目标检测网络，用Hutchinson法计算每一层网络参数的[0059]用量化函数将每一层参数的精度从32比特降低到8比特，得到权值量化前后的量[0060]为了实现降低位宽精度，本发明提供一个优选实施例执行S2,利用精度逐级下降8[0063]本发明提供一个优选实施例执行S3,利用L-销少等优点，其本质是一种通过近似Hessian矩阵并存储两个序列而不是整个近似矩阵来例中只存储和更新其对角线元素以进一步降低[0067]具体地，本实施例在小批量微调训练时根据网络层前一轮的Hessian矩阵和当前差和梯度差向量而不是完整的Hessian矩阵来减少存储和计算开销：[0071]S4,重复S2～S3不断选择量化灵敏度最[0072]本发明提供一个优选实施例执行S5,将全部训练图像输入达到指定压缩率的目标9[0074]本实施例基于给定的图像数据，自动确定目标检测网络的每一层参数的位宽精将网络参数的精度调整到平均4比特。本实施例在MicrosoftCOCO2017数据集上进行评[0076]具体对比结果可见如下表1所示，表1为本发明实施例在一阶段目标检测网络练图像的分类损失和回归损失，训练自动得到指定压缩率下的二阶段目标检测网络的参比结果可见如下表2所示，表2为本发明实施例在二阶段目标检测网络FasterR-CNN上面，存储器(英文：DoubleData