基于不变风险最小化的领域泛化方法在图像分类中的鲁棒特征学习研究综述

基于不变风险最小化的领域泛化方法在图像分类中的鲁棒特征学习研究综述图像分类作为计算机视觉领域的基础任务，在人脸识别、自动驾驶、医疗影像分析等场景中已实现规模化应用，但现有深度学习模型的性能高度依赖训练数据与测试数据的独立同分布假设。当测试数据来自与训练数据不同的分布（即分布偏移）时，模型准确率往往出现断崖式下降，这一缺陷成为制约图像分类技术落地高可靠性场景的核心瓶颈。领域泛化（DomainGeneralization,DG）技术旨在通过多个源域数据训练模型，使其能够直接泛化到任意未知目标域，无需依赖目标域的标注或无标注数据，为解决分布偏移问题提供了可行路径。其中，不变风险最小化（InvariantRiskMinimization,IRM）作为领域泛化的代表性范式，通过学习跨域不变的因果特征替代传统的关联特征，能够有效规避虚假关联对模型决策的干扰，在鲁棒特征学习领域展现出突出优势，近年来相关研究成果呈现爆发式增长。不变风险最小化的核心理论基础不变风险最小化的核心假设是：数据中存在与任务标签存在因果关联的不变特征，这类特征在不同领域中保持稳定的关联关系，而虚假关联特征仅在部分领域与标签存在偶然相关性。传统经验风险最小化（EmpiricalRiskMinimization,ERM）会不加区分地拟合所有与标签相关的特征，当目标域中虚假关联的分布发生变化时，模型决策就会出现错误。IRM的优化目标则是同时学习一个特征提取器Φ和一个分类器w，使得对于所有源域，最优分类器w在Φ提取的特征上保持一致，即对于任意两个源域e₁和e₂，argmin_{w}R_{e₁}(w∘Φ)=argmin_{w}R_{e₂}(w∘Φ)，其中R_{e}表示域e上的风险。原始IRM通过引入正则项约束分类器的不变性，其优化目标可表示为：min_{Φ,w}Σ_{e∈E}R_e(w∘Φ)+λ||∇_{w|w=1.0}R_e(w∘Φ)||²，其中λ为正则项系数，通过惩罚分类器权重w偏离单位值时的风险梯度，迫使特征提取器输出的特征与标签的关联在所有域中保持线性一致。后续研究针对原始IRM的理论局限性进行了多维度拓展：针对线性分类器假设不适用于非线性任务的问题，非线性IRM将不变性约束扩展到核空间，通过核映射捕捉高阶不变关联；针对λ系数难以调优的问题，自适应IRM根据域间分布差异动态调整正则项权重，避免了正则项过强导致的特征欠拟合或过弱导致的不变性不足问题；针对多类分类任务中不变性约束难以统一的问题，类级别IRM为每个类别单独学习不变特征空间，解决了不同类别间虚假关联分布差异带来的优化冲突。基于IRM的图像分类鲁棒特征学习方法分类因果机制引导的不变特征解耦方法这类方法将因果推断理论与IRM结合，通过显式建模数据生成过程中的因果机制，分离不变因果特征与环境相关的虚假特征。其中，基于因果图的方法首先构建图像的生成因果图，将标签作为因果特征的父节点，环境变量作为虚假特征的父节点，通过独立成分分析或变分推断将特征分解为与因果机制对应的不变分量和与环境相关的可变分量，在训练过程中仅保留不变分量输入分类器。例如，Causal-IRM方法通过干预训练过程中的环境变量，模拟不同分布下的特征变化，验证特征的不变性：当干预环境变量时，若某特征分量与标签的关联关系保持稳定，则判定其为因果特征，纳入不变特征空间。针对图像数据中虚假特征通常与语义信息高度耦合的问题，注意力引导的解耦方法通过视觉注意力模块定位图像中的语义核心区域，将其作为不变特征的候选提取区域，对背景、风格等易受环境影响的区域特征进行显式抑制。典型工作如Att-IRM在训练过程中为每个样本生成注意力掩码，计算掩码区域特征在不同域中的互信息，将互信息高于阈值的特征作为不变特征，有效避免了背景干扰导致的虚假关联。此外，针对细粒度图像分类任务中类别差异仅体现在局部细微特征的场景，部分研究引入了部件级不变性约束，对图像的关键部件（如鸟类的喙、羽毛纹理，车辆的车灯、轮毂等）单独提取特征并验证其跨域一致性，进一步提升了细粒度场景下的特征鲁棒性。数据增强驱动的不变特征扩增方法数据增强是提升图像分类模型鲁棒性的常用手段，基于IRM的增强方法不再采用随机增强策略，而是通过生成分布偏移的虚拟样本，引导模型学习不受增强操作影响的不变特征。域随机化增强方法通过模拟不同光照、角度、遮挡、风格转换等环境变化，生成大量与源域标签一致但分布不同的虚拟域，将虚拟域纳入IRM的训练过程，扩大不变特征的验证范围。例如，Style-IRM通过风格迁移网络将源域图像的风格转换为其他域的风格，保留图像的内容语义，在训练过程中要求模型对原始图像和风格转换后的图像提取的特征具有一致的分类激活模式，迫使特征提取器忽略风格类虚假特征。针对现有数据增强方法难以覆盖真实世界中复杂分布偏移的问题，对抗生成的虚拟域方法通过生成对抗网络（GAN）生成具有挑战性的分布偏移样本：生成器的目标是生成能够让当前IRM模型分类错误但语义标签不变的样本，判别器则用于区分生成样本的域归属，IRM模型在原始源域和生成的对抗虚拟域上同时进行不变性训练，逐步提升特征对未知偏移的抵抗能力。部分研究进一步结合了元学习思想，将每次虚拟域生成作为一个元任务，通过元训练过程让模型快速适应新的虚拟域分布，学习到更通用的不变特征表示。实验结果表明，这类方法在面对自然存在的分布偏移（如天气变化、摄像头型号差异）时，相比传统数据增强方法的鲁棒性提升可达15%以上。域间关系建模的不变性约束优化方法这类方法从源域间的关联关系入手，改进IRM的不变性约束条件，解决原始IRM在源域数量较少或域间差异较小时无法有效识别不变特征的问题。基于域相似度的加权IRM方法首先计算不同源域之间的分布距离，对分布差异较大的域对分配更高的不变性约束权重，避免模型通过拟合域间共同的虚假关联满足不变性条件。例如，当三个源域均存在“背景为草地的图片标签为狗”的虚假关联时，原始IRM可能误将草地特征判定为不变特征，而加权IRM通过引入外部无标注域验证特征的稳定性，对仅在训练源域中存在的关联进行惩罚。针对多源域中存在部分域标注噪声的问题，鲁棒IRM方法引入了域级权重学习机制，自动降低标注质量低或虚假关联占比过高的源域在不变性约束中的权重，避免噪声域干扰不变特征的学习。此外，针对测试域可能存在部分已知属性的场景，部分研究提出了条件IRM方法，将测试域的已知属性（如光照条件、拍摄角度）作为条件变量，学习在给定条件下的不变特征空间，相比通用不变特征能够进一步提升特定目标域上的分类准确率，同时保留对未知属性域的泛化能力。典型应用场景与性能分析鲁棒图像识别系统在安防人脸识别场景中，不同摄像头的成像质量、光照条件、拍摄角度存在显著差异，且人脸可能存在佩戴口罩、眼镜、妆容变化等干扰，传统ERM模型在跨设备识别场景中准确率往往低于60%。基于IRM的方法通过学习人脸的关键结构特征（如五官相对位置、轮廓信息）作为不变特征，忽略光照、妆容等环境相关特征，在多个公开跨域人脸识别数据集上的准确率可达92%以上，误识率降低40%。在野生动物识别场景中，不同季节、不同栖息地的野生动物外观存在较大差异，IRM方法通过提取物种的专属形态特征，能够有效规避背景、姿态、季节变化带来的干扰，相比传统方法的泛化准确率提升20%-30%。医疗影像分类医疗影像数据存在显著的设备差异：不同厂商的CT、MRI设备成像参数不同，导致同一病灶在不同设备的影像中呈现出不同的灰度分布、噪声特征。传统深度学习模型在A设备数据上训练后，在B设备数据上的诊断准确率可能下降30%以上，无法直接跨设备应用。基于IRM的方法将病灶的形态、纹理、大小等临床诊断相关特征作为不变特征，忽略设备相关的成像伪影、灰度偏移等虚假特征，在肺部CT结节良恶性分类、脑部MRI肿瘤分割等任务中，跨设备泛化准确率接近同设备测试的性能水平。部分临床验证结果显示，IRM模型在跨三家不同厂商设备的肺部结节分类任务中，AUC值保持在0.92以上，满足临床应用的可靠性要求。自动驾驶环境感知自动驾驶系统的视觉感知模块需要应对不同天气（晴天、雨天、雾天）、不同时间段（白天、夜晚）、不同路段（城市道路、高速、乡村道路）的复杂分布偏移。传统ERM模型在训练数据覆盖不足的场景下容易出现误检、漏检问题，例如将雨天路面积水的反光误判为车道线，将逆光下的行人误判为背景。基于IRM的方法通过学习目标的几何结构、运动特征等不变属性，在恶劣天气和复杂光照场景下的目标检测与分类准确率相比传统方法提升25%以上，尤其在小目标、遮挡目标的识别场景中优势更为显著。现有研究已将IRM特征与多模态传感数据融合，进一步提升了极端场景下的感知鲁棒性。现存挑战与未来研究方向当前基于IRM的领域泛化方法仍存在多个亟待解决的挑战：一是不变特征的可识别性问题，当多个源域存在共同的虚假关联时，IRM无法从观测数据中区分因果不变特征与域共同虚假特征，需要引入额外的干预数据或先验知识提升可识别性；二是计算复杂度较高，原始IRM的二阶优化过程需要计算分类器权重的梯度，在大规模图像数据集上训练速度比ERM慢2-3倍，难以适配超大规模预训练模型的训练流程；三是不变性与可区分性的权衡问题，过度强调特征的跨域不变性可能会损失部分对分类有帮助的域相关特征，导致模型在源域上的分类准确率下降，如何在保证泛化性的同时保留特征的判别能力是当前的研究难点。未来研究方向主要包括四个方面：一是与大模型预训练结合，将IRM的不变性约束融入大规模视觉预训练过程，学习通用的鲁棒视觉特征表示，无需针对每个下游任务单独进行领域泛化训练；二是多模态不变特征学习，结合文本、语音等多模态信息辅助识别图