CN119445264A 基于神经网络的轻量化遥感场景分类方法 （中国科学院长春光学精密机械与物理研究所）

行预处理得到训练集和测试集；然后构建包括ConvNext的教师模型和嵌入有混合注意力结构的ShuffleNetv2网络的学生模型遥感场景分类2S1：获取遥感图像数据集，并对所述遥感图像S2：构建包括ConvNext的教师模型和嵌入有混合注意力结构的S3：将步骤S1中的训练集的遥感图像同时输入到S4：利用步骤S1中的测试集的遥感图像输入到步一阶段特征；所述第一阶段特征输入所述第二阶段特征提取模块中提取得到第二阶段特三阶段特征输入到所述特征输出模块中得到所述遥感图像对应的所述浅层特征提取模块包括二维卷积层和最大池化层；其中所述所述特征输出模块包括二维卷积层、全局池化层以及全连接层；所述在所述第二阶段特征提取模块中，所述第一阶段特征连续在所述第三阶段特征提取模块中，所述第二阶段特征经混合注所述第一特征序列先经过深度可分离卷积层，输出的特征经归一化处3所述第二特征序列先经过所述混合注意力结构提取包含通道信息和空间信息的混合在所述通道注意力结构中，输入特征分别进入平均池化层和最权重与输入特征对应元素相乘后得到通道注意在所述空间注意力结构中，输入特征分别进入平均池化层和最行sigmoid激活操作后得到空间注意力权重；将所述空间注意力权重与输入特征对应元素将所述通道注意力特征和所述空间注意力特征对应元素相加得到所述混合注意力特;;;45[0004]有鉴于此，本发明创造旨在提供一种基于神经网络的轻以ConvNext的教师模型和嵌入有混合注意力结构的ShuffleNetv2网络的学生模型构建遥6练集的真实标签之间的交叉熵，以相对熵和交叉熵做比例求和的结果作为训练的损失函取得到第一阶段特征；第一阶段特征输入第二阶段特征提取模块中提取得到第二阶段特7行sigmoid激活操作后得到空间注意力权重；将空间注意力权重与输入特征对应元素相乘;其中，表示相对熵，表示训练集中第i张遥感图像对应的软标;教师模型和嵌入有混合注意力结构的ShuffleNetv2网络的学生模型构建遥感场景分类网8图1为本发明创造实施例所述的基于神经网络的轻量化遥感场景分类方法的流程基于附图所示的方位或位置关系，仅是为了便于描述本发明创造和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明创造的描述中，除非另9S13：随机选择部分遥感图像进行数据增强。具体过程为对部分遥感图像进行裁CVPR会议的论文《AConvNetforthe2020s》）的教师模型Vision–ECCV2018,LectureNotesinComputerScience》公开的论文《ShuffleNet像（大小为224×224×3该遥感图像输入到卷积核大小为3×3的二维卷积层进行卷积处[0025]本发明实施例将原始的ShuffleNetV2的下采样单元改进为设计有混合注意力结征经归一化处理再输入到二维卷积层，此时输出的特征依次经过归一化和ReLU激活操作;;向的池化，得到两个空间池化特征。将两个空间池化特征分别输入到多尺度空洞卷积通路间注意力子权重。所有的空间注意力子权重拼接融合后再权重与第二权重系数相乘，再对;表示最大池化层进行空间方向的池化操作，(·,·)表示拼接融合操作，本发明实施例中所;其中，FX1(·)表示对输入特征f进行卷积核大小为1×1的卷积层的卷积操作，FX3(·)表示对输入特征f进行间隔数量rate为;[0031]最后将通道注意力特征和空间注意力特征对应元素相加得到混合注意力特征，;for表示混合注意力特征。[0032]本发明提出的混合注意力结构中，将原始的CBAM中的串行特征提取改为并行提结构和空间注意力结构中分别添加第一权重系数α和第二权重系数β,能够动态调节通道注大小为464×7×7的第三阶段特征输入卷积核大小为1×1的二维卷积层中进行卷积处理，;其中，LossKL表示相对熵，P(xi)表示训练集中i)表示训练集中第i张遥感图像xi对应的硬标;[0036]本发明实施例中，教师模型中的暗知识传递给学生模型，实验设置的学习率为[0038]为展示本发明实施例所述的基于神经网络的轻量化遥感将本发明实施例所述的遥感场景分类方法与原始的ShuffleNetV2模型以及其他的经典模型做比对。本发明实施例选用的对比模型还包括：MobileViT网络模型（发表于2022年的ICLR会议公开的论文《MobileViT:Light_Weight,General_Purpose,andMobile_论文《EMTCAL:EfficientMultiscaleTransformerandCross_LevelAttention自NeurIPS2022的会议论文集中的论文《HorNet:EfficientHigh_OrderSpatialInteractionswithRecursiveGatedConvolutions》）。主要对比指标有：准确率[0039]从表1可以看出，本发明实施例提供的模型与对比的轻量化模型MoblieViT，[0040]为了证明本发明实施例提供的方法的优越性，使用梯度加权类激活映射（Grad_CAM）将本发明实施例提供的方法与原始ShuffleNetV2模型的遥感场景分类方法通过可视的论文《Grad_CAM:VisualExplanationsfromDeepNetworksviaGradient_based如，本发明公开中记载