CN114494777B 一种基于3DCutMix-Transformer的高光谱图像分类方法及系统 （西安电子科技大学）

一种基于3DCutMix-Transformer的高光谱Transformer的高光谱图像分类方法及系统，将高光谱数据划分为有标签训练数据集和有标签练数据集进行3DCutMix得到的增强数据训练区采用3DCutMix对原始标签数据集进行数据增2S3、基于步骤S2的3DCutMix预训练模型构建高光谱图像分类区域级老师模型MU和S301、在高光谱数据中随机选取两个像素元和x")进行3DCutMix操作得到S302、将步骤S301重复N次得到原始高光谱数据通过3DCutMix操作得到的增强数S303、将步骤S302得到的增强数据X_cuf"输入区域级老师模型MU，经过一维签i2"；S305、分别将步骤S303的伪标签uo与步骤S304的伪i2"与真实标签进行自监督损样本级老师模型Ma的目标函数La分别为：表示交叉熵损失函数，和La(Ll,L2)表示自监督损失，La(Ll,L2)表示MX得到的伪标签与Ma得到的伪标签之间的交叉伪监督损失；S4、通过集成步骤S3构建的高光谱图像分类区域级老师模型MU和样本级老师模型的有标签验证数据集Test输入训练好的学生模型MS中，实现基于Transformer老师学生32.根据权利要求1所述的基于3DCutMix-Transfo3.根据权利要求1所述的基于3DCutMix-TransfS202、将步骤S1划分的有标签训练数据集TraS203、将步骤S202得到的每个像素元的分类结果与其包含的波段数据进行贡献率分S204、根据步骤S203得到的对每个像素元分类结果贡献率最高的若干个波段进行3D4.根据权利要求3所述的基于3DCutMix-Transformer的卷积层采用4x4大小的卷积核/过滤器，且卷积核每次滑动5.根据权利要求4所述的基于3DCutMix-Transf数据模块，将高光谱数据划分为有标签有标签训练数据集Train和有标签验证数据集4增强模块，基于搭建模块的3DCutMix预训练模型构建高光谱图像分类区域级老师模S302、将步骤S301重复N次得到原始高光谱数据通过3DCutMix操作得到的增强数S303、将步骤S302得到的增强数据X_cuf"输入区域级老师模型MU，经过一维签i2"；S305、分别将步骤S303的伪标签uo与步骤S304的伪i2"与真实标签进行自监督损样本级老师模型Ma的目标函数La分别为：表示交叉熵损失函数，和La(Ll,L2)表示自监督损失，La(Ll,L2)表示MU得到的伪标签与Ma得到的伪标签之间的交叉伪监督损失；56一种基于3DCutMix-Trans[0001]本发明属于高光谱遥感图像分类技术领域，具体涉及一种基于3DCutMix-智能图像分类来说意味着可以通过高光谱数据学习到更多的特征以提高学习方法在少量样本下会导致高光谱图像分类的模型精确度和鲁棒性受数据集影响较大，即现有的方法如CNN(ConvolutionalNeuralNetwork,卷积神经网络)在训练样本比较少[0004]本发明所要解决的技术问题在于针对上述现有技术中的不足，提供一种基于3DCutMix-Transformer的高光谱图像分类方法及系统，使用3DCutMix对高光谱图像数据进[0007]S1、将高光谱数据划分为有标签有标签训练数据集Train和有标签验证数据集[0009]S3、基于步骤S2的3DCutMix预训练模型构建高光谱图像分类区MSL标签验证数据集Test输入训练好的学生模型MS中，实现基于Transformer老师学生模型的7[0019]进一步的，步骤S202中，每个高光谱图像数据表示为f",第j个像素元，j＝1，[0023]S301、在高光谱数据中随机选取两个像素元X(m)和X(n)进行3DCutMix操作得到X_[0025]S303、将步骤S302得到的增强数据X_cuf"输入区域级老师模型MRL，经过一维标函数LRL和样本级老师模型MSL的目标函8[0038]本发明的另一个技术方案是，一种基于3DCutMix-Transformer的高光谱图像分[0039]数据模块，将高光谱数据划分为有标签有标签训练数据集Train和有标签验证数[0041]增强模块，基于搭建模块的3DCutMix预训练模型构建高光谱图像分类区域级老模块划分的有标签验证数据集Test输入训练好的学生模型MS中，实现基于Transformer老9波段中贡献率最高的前5％得到高光谱数据的3DMask，5％的数量选择保证在各像素元间于两个一维Transformer老师模型的训练。利用增强后数据训练得到的老师模型具有较强[0050]进一步的，设置区域级老师模型MRL的目标函数LRL和样本级老师模型MSL的目标函[0052]进一步的，为将区域级老师模型MRL和样本级老师模型MSL的输出综合且保证其有[0053]综上所述，本发明通本发明通过深度学习的方法将3DCutMix技术融入师生模型[0068]本发明提供了一种基于3DCutMix-Transformer的高光谱图像分类方法，将高光谱数据划分为有标签训练数据集和有标签验证数据集；通过CNN(ConvolutionalNeuralNetwork,卷积神经网络)预训练3DCutMix；利用训练数据集进行3DCutMix得到的增强数数据集进行数据增强，并优化两个老师模型各自的自监督损失和相互的交叉伪监督损失，[0070]S1、将高光谱数据划分为有标签有标签训练数据集Train和有标签验证数据集将其中的80％划分为有标签训练数据集Train(16820×200)，将数据集中剩余的20％划分[0075]输入层(INPUT)网络输入使用mat格式标准数据，并且将的原数据(L×W)×H进行[0077]卷积层(Convolutions)采用的都是4x4大小的卷积核/过滤器(kernel/filter)，[0085]以IndianPines数据集为例，首先初始化0-1Mask矩阵M"=1,j＝1，2，…,[0086]S3、构建基于3DCutMix-Transformer的高光谱图像分类区域级M(m))nM(m))mX_Cut(n)分别是原高光谱数据X(m)和X(n)经过3DCutMix操[0094]S303、将步骤S302得到的增强数据X_cuf"输入区域级老师模型MRL，经过一维标签L1(j)与伪标签L2(j)之间的交叉伪[0097]采用的Transformer结构如图5所示，区域级老师模型MRL和样本级老师模型MSL的签L1(j)与MSL得到的伪标签L2(j)之MSL分的有标签验证数据集Test输入训练好的学生模型MS中，实现基于Transformer老师学生[0111]本发明再一个实施例中，提供一种基于3DCutMix-Transformer的高光谱图像分[0114]增强模块，基于搭建模块的3DCutMix预训练模型构建高光谱图像分类区域级老模块划分的有标签验证数据集Test输入训练好的学生模型MS中，实现基于Transformer老[0116]综上所述，本发明一种基于3DCutMix-Transformer的高光谱图像分类方法及系老师模型和样本级老师模型；利用两个老师模型以及少量有标签数据集共同训练学生模度和鲁棒性；与此同时，Transformer的全局特征提取能力与并行计算能力，使得Transformer的特征提取能力相对于只能提取局部信息的CNN来说更全面，可以完全利用现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定[0119]这些计算机程序指令也可存储在能引导