CN114998202B 一种半监督深度学习缺陷检测方法 （杭州电子科技大学）

本发明公开了一种半监督深度学习缺陷检师卷积神经网络和参数均从学生卷积神经网络复制；获得了学生卷积神经网络Fs(m)和教师卷积神经网络Ft(m)以及始化权重参数后，对学生得经过训练的网络可用学生卷积神经网络进行习架构Fixmatch和平均教师模型的缺陷检测方2S30，初始化教师卷积神经网络参数Ft(m)=Copy(Fs所述S10具体包括将训练样本数据分成有标签数据样本X={(xb,yb):b(1,....,B1)}所述S20中学生卷积神经网络Fs(m)采用resnet34网络架构，同时结合SN来提升网络提取图像特征的分辨能力，即在resnet的残差模块末端添加SNAM注意力模块，所述SNAM注意力模块在NAM注意力机制上使用批归一化的比例因子来表示权重的重所述SNAM注意力模块的输出特征由下式得1i和γj分别表示第i个通所述S40中训练是以批次数据为单位将训练数据输入神经网络进行训练，即一次训练过程中将B1个有标签数据和B2个无标签所述S40中定义当前叙述的是t时刻的训练流程，其中使用fixmatch的数据增强方式，32.根据权利要求1所述的一种半监督深度学习缺陷检教师卷积神经网络训练在t时刻时的网络权数据扩增方式包括对图片以50%的概率执行随机水平翻4[0002]工业制造需要高精度的自动缺陷检测技术(ASI)检测产品表面的不同类型缺陷，[0009]S40，获得了学生卷积神经网络Fs(m)和教师卷积神经网络Ft(m)以及始化权重参[0011]优选地，所述S10具体包括将训练样本数据分成有标签数据样本X＝{(xb,yb):b(1,....,B1)}和无标签数据样本U＝{ub:b(1,....,B2)},其中xb是有标签数据样本的图片[0012]优选地，所述S20中学生卷积神经网络Fs(m)采用resnet34网络架构，同时结合SNAM注意力模块来提升网络提取图像特征的分辨能力，即在resnet的残差模块末端添加5i和γj分别表示第是t-1时刻教师卷积神经网络的权重，θt是t时刻学生卷积神t^是t时刻教师卷积神经网络的权重。[0027]本发明的一种基于半监督深度学习架构Fixmatch和平均教师模型的缺陷检测方[0029]图2为本发明半监督深度学习缺陷检测方法的残差模块和SNAM注意力模块示意6[0034]参见图1，为本发明实施例的本发明的技术方案为半监督深度学习缺陷检测方法[0038]S40，获得了学生卷积神经网络Fs(m)和教师卷积神经网络Ft(m)以及始化权重参[0040]S10具体包括将所有有标签数据按照3:7的比例分成测试数据集T＝{(xb,yb):b标签训练数据集U＝{ub:b(1,....,B2)},其中测试数据集T和有标签训练数据集X的数据都来提升网络提取图像特征的分辨能力，即在resnet的残差模块末端添加SNAM注意力模块，[0042]SNAM注意力模块在NAM注意力机制上使用批归一化的比例因子γ来表示权重的重7i和γj分别表示第[0049]S30中这里的教师卷积神经网络是借鉴平均教师模型，教师模型与学生模型使用是t-1时刻教师卷积神经网络的权重，θt是t时刻学生卷积神t^是t时刻教师卷积神经网络的权重。[0052]S40中训练是以批次数据为单位将训练数据输入神经网络进行训练，即一次训练过程中将B1个有标签数据和B2个无标签[0053]S40中定义当前叙述的是t时刻的训练流程，其中使用fixma[0054]弱增强数据扩增方式包括对图片以50％的概率执行随机水平翻转或者随机裁剪8[0060]经过弱增强数据扩增的有标签数据X_a输入到学生卷积神经网络计算预测值[0062]计算有标签数据的损失值，即利用交叉熵函数H计算有标签数据的预测值与有标签数据标签yb的交叉熵，得到有标签数据的损失值。具体的交叉熵H的计算公式为p(x)和q(x)分别表示表示真实概率分布和预测概率分布。[0073]经过S47获得了教师卷积神经网络对弱增强版本的无标签数据的预测值Predict_[0076]通过S45获得了经过强增强数据扩增的无标签数据的预测值Predict_U_A与S48获9[0080]随机梯度下降(SGD)就是在批量样本上应用梯度下降算法计算它们的梯度均值来[0085]重复执行S40对学生卷积神经卷积神经网络和教师网络进行训练并计算测试数据[0086]S50，经过S40之后我们获