基于迁移学习的跨域情感分类研究综述

基于迁移学习的跨域情感分类研究综述近年来，随着社交媒体、电子商务与在线服务平台的爆发式增长，用户生成的评论文本、社交动态、反馈留言等非结构化数据呈现指数级增长，其中蕴含的情感倾向、态度表达与偏好信息，是市场决策、舆情监测、用户体验优化等场景的核心数据支撑。情感分类作为自然语言处理领域的基础任务，旨在通过算法自动识别文本中蕴含的情感极性（正向、负向、中性）或细粒度情感类别，已经在电商评论分析、电影票房预测、公共舆论引导等领域得到广泛应用。然而传统监督式情感分类模型高度依赖标注数据，当目标领域与训练数据所属领域存在分布差异时，模型性能会出现显著下滑，这一领域自适应难题极大限制了情感分类技术的落地范围。迁移学习的出现为解决跨域场景下的标注依赖问题提供了全新思路，其核心思想是将源领域学到的知识迁移到目标领域，从而降低目标领域的标注成本，提升模型在分布差异场景下的泛化能力，相关研究在近十年间取得了突破性进展。跨域情感分类的核心挑战与任务定义跨域情感分类任务的核心矛盾是领域分布差异与标注资源稀缺的叠加效应。根据领域差异的来源，可将其分为三大类场景：一是跨产品类别场景，例如将手机评论领域训练的模型应用到家电评论分类，不同产品的评价维度、特征词分布存在显著差异，手机领域的高频特征词“续航”“屏幕分辨率”在家电领域可能仅出现在少数品类的评论中，而“制冷效果”“噪音水平”等家电领域核心特征在手机评论中几乎不会出现；二是跨平台场景，例如将微博评论训练的模型应用到电商平台评论分类，社交媒体平台的文本更偏向口语化、缩略词多、感叹表达丰富，而电商评论更关注具体产品属性，表述相对平实，两类文本的语言风格、句式结构存在系统性差异；三是跨语言场景，例如将英文情感分类模型迁移到中文、阿拉伯语等低资源语言场景，除了语言本身的语法差异外，不同文化背景下的情感表达方式、隐喻内涵也存在明显区别。从任务设置来看，跨域情感分类可根据目标领域标注数据的多少分为三类：无监督跨域情感分类（目标领域无任何标注数据）、半监督跨域情感分类（目标领域仅有少量标注数据）、少样本跨域情感分类（目标领域仅提供个位数到数十个标注样本）。其中无监督跨域场景是研究的难点与热点，其目标是在完全不依赖目标领域标注的前提下，仅通过源领域标注数据与两个领域的无标注数据，实现模型在目标领域的性能提升。传统方法主要基于特征选择、特征映射两类思路：特征选择方法试图找到源域与目标域的共有情感特征，例如去除领域相关的名词特征，保留通用的情感形容词；特征映射方法则试图将两个领域的特征投影到同一个公共空间，缩小领域间的分布差异。但这类方法受限于手工特征的表达能力，在复杂分布差异场景下的性能提升十分有限，直到深度学习与迁移学习技术的融合，才推动跨域情感分类性能进入新的阶段。基于实例迁移的跨域情感分类方法实例迁移是最早应用于跨域情感分类的迁移学习范式之一，其核心假设是源领域中存在部分与目标领域分布相近的样本，可以通过调整这些样本的权重，将其作为目标领域训练数据的补充，从而利用源领域标注信息提升目标领域模型性能。典型的方法是基于TrAdaBoost（迁移自适应增强）算法的改进框架，该方法在传统AdaBoost算法基础上引入样本权重调整机制：在每一轮迭代中，对源领域中分类错误的样本降低权重，因为这些样本更可能属于源领域特有分布，与目标领域相关性较低；对目标领域中分类错误的样本提高权重，引导模型关注目标领域的难分样本。早期研究中，研究者直接将TrAdaBoost应用于跨域情感分类任务，发现在相近领域迁移场景下能够获得5%-10%的性能提升，但当领域差异较大时，容易出现负迁移问题，即源领域样本的引入反而降低了目标领域的模型性能。针对这一问题，后续研究从三个方向进行了改进：第一是引入领域相关性度量，在样本权重调整前先计算源域样本与目标域的相似度，仅选择相似度高于阈值的样本参与迁移，例如基于余弦相似度、KL散度衡量样本的领域归属度，提前过滤掉源域中与目标域差异过大的样本；第二是动态权重调整机制，根据模型在目标领域验证集上的性能动态调整源域样本的整体权重，当出现负迁移趋势时自动降低源域样本的贡献比例；第三是多源实例迁移，当存在多个源领域时，自适应学习不同源域的迁移权重，对与目标域更相似的源域分配更高的样本权重，充分利用多源领域的标注信息。实例迁移方法的优势是实现简单、可解释性强，尤其适用于源域与目标域分布差异较小的场景，但该方法存在固有局限：当源域与目标域的特征空间重叠度较低时，可迁移的有效样本数量极少，无法为目标领域提供足够的监督信息，因此近年来相关研究逐渐与特征迁移、模型迁移方法融合，作为跨域情感分类系统的辅助组件而非核心框架。基于特征迁移的跨域情感分类方法特征迁移是当前跨域情感分类研究中最主流的技术路径，其核心思想是通过特征变换学习一个领域不变的特征表示空间，使得源域与目标域的样本在该空间中的分布差异尽可能小，同时保留情感分类所需的判别性信息。根据特征学习的思路，可分为基于统计分布对齐、基于对抗训练、基于预训练模型微调三大类方法。基于统计分布对齐的方法是特征迁移的经典思路，核心是最小化源域与目标域特征分布的统计距离。早期代表性工作是迁移成分分析（TCA），通过核函数将原始特征映射到再生核希尔伯特空间，在该空间中最小化源域与目标域的最大均值差异（MMD），同时最大化特征的方差以保留信息。后续研究者将这一思路与深度学习结合，提出了深度域适应网络（DAN），在深度神经网络的中间层嵌入MMD距离损失，引导网络学习领域不变特征。针对情感分类任务的特性，研究者进一步对分布对齐过程进行优化：例如在对齐全局分布的同时，增加类别级别的分布对齐，保证同一情感极性的样本在源域和目标域中特征分布更接近，避免出现不同情感类别的样本在对齐过程中发生混淆；还有研究提出情感相关特征与领域相关特征解耦的思路，将文本特征分解为包含情感信息的内容特征与包含领域属性的风格特征，仅对内容特征进行分布对齐，避免风格信息干扰情感判别。基于对抗训练的特征迁移方法受到生成对抗网络（GAN）的启发，通过引入领域判别器实现特征的领域不变性学习。代表性框架是域对抗神经网络（DANN），该框架包含特征提取器、情感分类器和领域判别器三个组件：特征提取器负责将文本转换为向量表示，情感分类器基于特征预测情感极性，领域判别器基于特征判断样本属于源域还是目标域。训练过程采用对抗博弈的思路：领域判别器尽可能准确区分样本的领域来源，特征提取器则尽可能生成让领域判别器无法区分的特征，二者对抗训练的最终结果是特征提取器学到的表示不包含领域相关信息，同时保留情感分类所需的判别性信息。针对情感分类任务，研究者对对抗框架进行了诸多改进：例如引入情感感知的对抗损失，在领域对抗的同时保证不同情感类别的特征具有足够的区分度；采用分层对抗机制，分别对文本的词级、句子级特征进行不同粒度的领域对齐；引入条件对抗训练，根据情感类别条件进行领域判别，提升对齐的精准度。基于预训练语言模型的特征迁移是近五年跨域情感分类的突破性方向。BERT等大规模预训练语言模型在预训练阶段已经学习到了通用的语言知识与语义表示，本身具备较强的跨领域泛化能力。研究者发现，仅使用源领域数据对预训练模型进行微调，其跨域性能已经远超传统的深度域适应方法。在此基础上，进一步的改进方向包括三个方面：第一是领域自适应预训练，在通用预训练模型的基础上，使用源域与目标域的无标注数据继续进行预训练，让模型进一步学习两个领域的特定语言模式，例如使用领域相关的掩码语言模型（MLM）任务继续训练，能够显著提升模型在特定领域的语义理解能力；第二是提示学习（PromptLearning）的应用，通过设计情感分类相关的提示模板，将情感分类任务转化为预训练任务中的掩码预测问题，减少微调阶段的分布偏移，尤其在少样本跨域场景下能够获得明显的性能提升；第三是参数高效微调，仅微调预训练模型中的少量参数（例如适配器层、LoRA参数），既保留预训练模型的通用知识，又能快速适配跨域任务，同时大幅降低训练成本。目前特征迁移方法已经在多个标准跨域情感分类数据集上取得了接近监督模型的性能，例如在常用的Amazon评论跨域数据集（包含书籍、DVD、电子产品、厨房用具四个领域）上，无监督跨域分类的F1值已经达到85%以上，与目标领域监督模型的性能差距缩小到3%以内。基于模型迁移的跨域情感分类方法模型迁移的核心思想是挖掘源域模型与目标域模型之间的共享参数或结构信息，将源域模型学到的知识迁移到目标域模型中，适用于源域与目标域任务结构相似的场景。最简单的模型迁移方法是参数初始化，即使用源域数据训练得到的模型参数作为目标域模型的初始化权重，再使用目标域的少量标注数据进行微调，这种方法在半监督跨域场景下应用十分广泛，能够避免模型在目标域数据上过拟合，提升小样本下的泛化能力。针对参数迁移的优化，研究者提出了参数共享与正则化两类思路：参数共享方法假设模型的部分层参数是领域通用的，只有顶层部分参数是领域相关的，例如在深度网络中共享底层的词嵌入层、编码层参数，顶层的分类层针对不同领域单独训练，既保留通用的语义编码能力，又适配不同领域的分类边界；正则化方法则在目标域模型训练过程中，增加约束损失让目标域模型的参数与源域模型尽可能接近，例如L2正则化约束、知识蒸馏（KnowledgeDistillation）损失，将源域模型作为教师模型，目标域模型作为学生模型，让学生模型不仅学习目标域的标注数据，还学习教师模型的输出分布，从而迁移源域的知识。近年来，元学习（MetaLearning）与模型迁移的结合成为少样本跨域情感分类的研究热点。元学习的目标是“学会学习”，通过在多个类似的跨域任务上训练模型，让模型掌握跨域迁移的通用能力，当面对新的目标领域时，仅需要少量样本就能快速完成适配。典型的应用是基于模型无关元学习（MAML）的跨域情感分类框架：在元训练阶段，构造多个不同的源域-目标域跨域任务对，每个任务仅使用目标域的少量样本进行训练和测试，通过优化模型的初始参数，使得模型在新任务上仅需一步或几步梯度更新就能获得较好的性能。这类方法在仅提供5-10个目标域标注样本的场景下，性能远超传统的微调方法，为低资源领域的情感分类提供了可行的解决方案。前沿研究方向与待解决问题尽管基于迁移学习的跨域情感分类已经取得了显著进展，但在复杂真实场景下仍然存在诸多待解决的问题，也是当前研究的前沿方向：第一是细粒度跨域情感分类的迁移问题。现有研究大多聚焦于粗粒度的情感极性分类，而实际应用中往往需要识别更细粒度的情感类别（如喜、怒、哀、乐）或针对特定属性的情感倾向（如手机的“续航”“拍照”等不同维度的情感）。细粒度情感的领域差异更显著，不同领域的评价属性、情感表达模式差异更大，如何实现细粒度情感知识的有效迁移是目前的研究难点。第二是开放域与多领域动态迁移问题。现有方法大多针对两个固定领域的迁移场景，而真实环境中目标领域可能是未知的，或者存在多个动态变化的领域，如何设计能够适配任意未知领域、支持持续学习的跨域情感分类模型，避免多次迁移中的灾难性遗忘，是落地应用中需要解决的关键问题。第三是多模态跨域情感分类的迁移。随着短视频、直播等内容形式的普及，情感分类的对象已经从纯文本扩展到文本、图像、语音等多模态内容，不同模态的领域分布差异特性不同，如何实现多模态特征的协同对齐与跨域知识迁移，是未来重要的研究方向。第四是可解释性与鲁棒性问题。当前基于深度模型的跨域迁移方法可解释性较