CN113610126B 基于多目标检测模型无标签的知识蒸馏方法及存储介质 （武汉工程大学）

WO2021023202A1,2021.02.11US2018268292A1,2018.09.20基于多目标检测模型无标签的知识蒸馏方本发明公开了一种基于多目标检测模型无一数据集的制定类别上与教师网络持平甚至超2S2、先利用不同类别的数据集训练出不同的教师S3、设计全局蒸馏损失以及自适应损失，平衡对类别预测头的输出使用LeakyReLU进行约束，再进i为学生或教师网络中宽高预测头输出的对应位置的预测结果，将特征wf作为每一个教师网络和学生网络之间分别计算蒸馏损失，最后将不βt和γt为不同蒸馏损失间的权重。3用不同类别的数据集训练出不同的教师网络模型具体为：通过Teacher-i网络中backbone4有效的方案。和模型压缩中，知识蒸馏可以将一个或多个网络的知识转移到另一个同构或者异构的网b1,b2,…bn}检测所有类别的模型，如何更好地使用现有数据集获取检测完整类别的目标5网络和多个教师网络模型，将学生网络头部输出和不同教师网络头部输出计算蒸馏损失，[0016]进一步地，利用不同类别的数据集训练出不同的教师网络模型具体为：通过[0020]对类别预测头的输出使用LeakyReLU进行约束，再进行教师和学生网络间的模6βt和γt为不同蒸馏损失间的权重。7集中包含大量的尺度变化、姿态变化以及不同程度的遮挡，WiderFace贴近于实际应用场SHWD数据集包含7581张图像，9044个戴安全帽的目标标注和11154个普通未带安全帽的目[0048]相较于多阶段目标检测网络的知识蒸馏，由于RPN网络输出的提议框(Proposal)有数据集获取能够检测实际场景中完整类别的目标检测网络，构建无标签知识蒸馏网络，8[0053]考虑到教师模型在目标编码时将所有的目标通过高斯核类别预测头的输出使用LeakyReLU(L-ReLU)进行约束，再进行教师和学生模型间的模拟，征图的类别通道数，高和宽，l()代表L-ReLU约束。由于学生网络包含9模型上训练的模型在对应数据集上进行比较。实验结果表明，Resnet-18-MMKD在CrowdHuman的测试集上的AP为32.3在WiderFace的测试集上的AP为32.4相较于IgnoreLabel的方案提高了3.0％和8.2相较于PseudoLabel的方法提高了3.3％和的AP为33.2在SHWD测试集上Helmet类别的AP为61.7Head类别的AP为37.6相较于IgnoreLabel的方案提高了3.8％、6.7％和6.1相较于PseudoLabel的方法提高了的AP为30.4在WiderFace的测试集上的AP为30.7在SHWD测试集上Helmet类别的AP为师网络的有效知识且训练数据量扩大，学生网络在精度和泛化性能都高于单一的ResNet-[0081]在CrowdHuman验证集、WiderFace测试集以及SHWD测试集上的部分检测结果如附处理器执行时实现上述的基于多目标检测模型无标签的知[0083]需要指出，根据实施的需要，可将本申请中描述的各个步骤/部件拆分为更多步骤/部件，也可将两个或多个步骤/部件或者步