CN119445645A 基于蒸馏元学习的罕见眼底病oct图像分类方法及系统 （苏州大学）

基于蒸馏元学习的罕见眼底病OCT图像分类于蒸馏元学习的罕见眼底病OCT图像分类方法及网膜OCT图像分类的教师网络和学生网络；构建训练策略，对教师网络和学生网络进行联合训病的小样本分类网络模型；将OCT图像输入到罕22.如权利要求1所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法，其特征在于：3.如权利要求2所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法，其特征在于：所述随机构造常见病小样本训练任务包括，构造常见眼底病小样本训练任务集Dtr={i个任务为，每个任务包含常见病数据集中的KM个样本为查询集数据s。4.如权利要求3所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法，其特征在于：所述模型无关元学习方法包括内循环和外循环，内循环用于训练适5.如权利要求4所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法，其特征在于：个批次任务的支持集sr上进行更新：,,3,温度参数T的softmax函数处理后得到输出标签sk，,,设FteRC,H,WV为教师网络提取的特征，FseRC,H,W为学生网络提取的特征，其中C、H、W分别表示通道数、高度和宽度，使用通道注意力和空间注意力机制分别对教师进行求和，并通过softmax函数得到注意力引导蒸馏中使用的空间注意力掩码和通道,,,利用Lrp鼓励学生模型模仿教师模型的特征，并通过调整特征图中不同像素和通道上4,第c个值，Fas为FS在(c,a,b)位置的值；将Lan和Lrp进行加权求和，得到最终的注意引导蒸馏损失Lacp：,,,6.如权利要求5所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法，其特征在于：,i,7.如权利要求6所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法，其特征在于：络最终输出的模型参数作为初始值，在罕见眼底病的小样本训练集上进行梯度下降优8.一种基于权利要求1_7任一所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法59.一种计算机设备，包括存储器和处理器，所述存储器存被处理器执行时实现权利要求1至7中任一项所述的6[0001]本发明涉及图像分类技术领域，尤其涉及基于蒸馏元学习的罕见眼底病OCT图像何视网膜的损伤、疾病或异常都可能导致眼部问题或视力障碍。光学相干断层扫描网络已广泛应用于医学图像领域，为一些常见疾病的自动筛查提供了帮助。但是对于病例领域引起了广泛关注。其中一个很重要的原因是深度学习的训练依赖于大量的标注数据。7得到适用于不同常见病组合的小样本分类学将OCT图像输入到适用于罕见病的小样本分类网络模型中，得到病变类型的分类[0008]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法的一种优选方[0009]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法的一种优选方[0010]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法的一种优选方组合的小样本分类网络模型，外循环用于训练适用于不同病变组合的小样本分类网络模[0011]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法的一种优选方,,8其中，Lsort为教师网络输出的软标签与学生网络输出的软标签之间的KL散度，Lnhara为学生网络输出的硬标签和真实标签之间的交叉熵损失，Lacp为注意引导蒸馏损设教师模型最后的输出向量为ZTeRKX1，K为类别数，设ZT的第K项为，ZT,,,,设FeRC,H,W为主干网络提取的特征，其中C、通道特征图AC((Ft)、学生通道特征图AC((FS)和教师空间特征图、学生空间特,,利用Lrp鼓励学生模型模仿教师模型的特征，并通过调整特征图中不,9MC(的第C个值；,,,[0012]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法的一种优选方当一批任务经过训练完成之后，基于查询集sts上的损失函数更新教师模型的参,,[0013]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类方法的一种优选方[0014]作为本发明所述的基于蒸馏元学习的罕见眼底病OCT图像分类系统的一种优选方图像分类输出模块包括，将OCT图像输入到适用于罕见病的小样本分类网络模型于，所述处理器执行所述计算机程序时实现基于蒸馏元学习的罕见眼底病OCT图像分类方被处理器执行时实现基于蒸馏元学习的罕见眼底病OCT图像分类方法中任一项所述的方法[0017]本发明的有益效果：本发明提出了基于蒸馏元学习的罕见眼底病OCT图像分类方学习和小样本学习方法在绝大部分情况下都有显[0019]图1为本发明一个实施例提供的基于蒸馏元学习的罕见眼底病OCT图像分类方法[0020]图2为本发明一个实施例提供的基于蒸馏元学习的罕见眼底病OCT图像分类方法[0021]图3为本发明一个实施例提供的基于蒸馏元学习的罕见眼底病OCT图像分类方法[0022]图4为本发明一个实施例提供的基于蒸馏元学习的罕见眼底病OCT图像分类方法本发明设计了一种蒸馏元学习方法实现罕见眼底病OCT图像分类，如附图1所示，[0025]本发明提出了一种基于蒸馏元学习的用于罕见眼底病OCT图像分类方法，适用于终得到一组能快速适应不同病变组合的新任务的教师网络模型参数of"。[0034]基于常见眼底病小样本训练任务集，对教师网络参数和学生网络参数进行对在一个批次任务的支持集str上进行更新：,,其中，Lsort为教师网络输出的软标签与学生网络输出的软标签之间的KL散度，lo;为学生网络输出的硬标签和真实标签之间的交叉熵损失，Lacp为注意引导蒸馏损失。设教师模型最后的输出向量为ZTeRKX1，K为类别数，设ZT的第K项为，ZT,,,计算学生网络输出的硬标签9k：,,FeRC,H,W为主干网制分别对教师网络和学生网络提取的特征生成教师通道特征图AC((Ft)、学生通道特征图的教师和学生模型的注意力图进行求和，并通过softmax函数得到注意力引导蒸馏中使用,,然后计算注意引导蒸馏损失Lacp，Lacp由两个部分组成：注意转,,MC(的第C个值；,T：,,当一批任务经过上述步骤训练完成之后，基于查询集sts上的损失函数更新教师,丢弃并使用更新后的在支持集样本上更新真实的学生模型。该步骤将更,[0044]将测试OCT图像输入到步骤S5所得训练好的罕见病小样本分类学生网络模型中，,我方发明采用准确率作为小样本学习方法对于分类任务该模型基于公共平台PyTorch和具有11GB内存的GeForceGTX2080TiGPU进行训练和测试。在元训练阶段，使用随机梯度下降（StochasticGradientDescent附表2展示了消融实验结果、附表3展示了与其他小样本学习方法的对比实验结的两阶段蒸馏元学习方法能够有效地解决由于罕见眼底病样本量不足引起的模型性能下,,,