基于对比学习的图神经网络在分子性质预测中的无监督预训练与微调策略研究综述

基于对比学习的图神经网络在分子性质预测中的无监督预训练与微调策略研究综述分子性质预测是药物研发、材料科学与环境化学领域的核心基础任务，其目标是通过计算模型快速推断分子的物理化学属性、生物活性与毒性特征，从而降低实验筛选成本、缩短研发周期。传统的基于量子力学的计算方法（如密度泛函理论）虽然精度较高，但单分子计算耗时可达数小时甚至数天，难以支撑百万级分子库的高通量筛选需求。近年来，图神经网络（GNN）凭借对分子拓扑结构的天然建模能力成为该领域的主流技术框架，然而其性能高度依赖标注数据，而分子性质标注实验通常成本高昂、周期漫长，公开数据集中单个性质的标注样本量往往仅为数千到数万级，难以满足深层GNN模型的训练需求，过拟合问题成为制约模型泛化能力的核心瓶颈。对比学习作为无监督表征学习的关键技术，通过构建正负样本对在特征空间中最大化同类样本相似度、最小化异类样本距离，能够从海量无标注分子中学习通用结构表征，为解决分子领域标注数据稀缺问题提供了可行路径。基于对比学习的GNN预训练与微调框架已成为当前分子性质预测领域的研究热点，相关技术在多个公开基准数据集上实现了精度突破，部分模型的预测性能已接近实验测量误差水平。一、分子图对比学习的预训练任务设计分子图对比学习的核心在于构造合理的语义一致与语义差异样本对，使模型能够捕捉到与性质相关的本质结构特征，而非表面拓扑噪声。目前主流的预训练任务可分为基于图增强的对比学习、基于领域知识的对比学习与跨模态对比学习三大类。基于图增强的对比学习是最通用的预训练范式，其核心思路是对同一个分子图施加不同的变换生成正样本对，不同分子之间互为负样本，通过InfoNCE损失函数学习不变性表征。常用的分子图增强策略包括原子层面增强（如原子属性掩码、随机原子删除）、键层面增强（如键属性扰动、随机键删除/添加）与子结构层面增强（如官能团裁剪、骨架保留替换）。但此类通用增强策略容易破坏分子的化学合理性，例如随机添加键可能产生不存在的化学键，导致模型学习到错误的结构语义。为解决这一问题，领域研究者提出了化学规则约束的增强方法：例如只允许删除饱和碳上的氢原子、只在存在反应活性位点的位置添加官能团，或基于化学反应规则生成分子的合理衍生物作为正样本，这类约束显著提升了预训练表征的化学相关性，在下游毒性预测任务上的AUC-ROC指标平均提升了3.7%。基于领域知识的对比学习则直接利用已有的化学先验构造样本对，无需依赖图增强操作。一类典型方法是基于子结构关联的对比学习：假设包含相同官能团或骨架的分子具有相似性质，将共享核心子结构的分子作为正样本对，引导模型学习官能团的语义特征。例如有研究将具有相同母核的药物分子配对，预训练模型在下游药物靶点亲和力预测任务上的性能超过通用增强方法2.1%。另一类方法利用分子的量子化学属性构造对比信号：将同一分子在不同计算精度下的能量、偶极矩等属性作为关联标签，让模型学习到的表征能够对齐不同精度的计算结果，这类预训练任务尤其适合量子化学属性预测类下游任务，在HOMO-LUMO能级差预测任务上的MAE降低了12.4%。跨模态对比学习是近年来兴起的新方向，其核心是利用分子的多模态数据（如SMILES字符串、分子式、三维构象、生物实验描述文本）构造跨模态正样本对，学习多视角一致的分子表征。例如将分子的二维拓扑图与其对应的三维构象作为正样本对，迫使模型同时学习二维连接信息与三维空间结构信息，预训练模型在需要空间结构信息的任务（如蛋白-配体结合affinity预测）上性能提升显著，在PDBbind数据集上的Pearson相关系数从0.782提升至0.835。还有研究将分子结构与其对应的科研文献描述文本对齐，让模型学习到分子的高阶语义信息，这类预训练模型在罕见病药物靶点预测等低资源任务上展现出极强的零样本推理能力。二、面向分子性质预测的GNN架构适配不同的GNN架构对分子结构的建模侧重存在差异，需要根据对比预训练的目标与下游任务特性进行针对性适配，才能最大化预训练知识的迁移效率。目前主流的适配方案包括层级化特征聚合、注意力机制约束与物理先验嵌入三个方向。层级化特征聚合架构的核心是让GNN能够同时捕获原子、官能团、分子骨架等不同尺度的结构信息。传统的GNN通常仅输出全图级别的全局表征，而对比学习需要不同层级的特征作为监督信号。现有研究通过在GNN中加入多层读出模块，分别提取第k层聚合的局部子结构特征与最后一层的全局特征，在预训练阶段同时进行局部-局部、局部-全局、全局-全局的多尺度对比学习，使模型学习到的表征兼具局部官能团特异性与全局属性关联性。例如层级化GAT架构在预训练后，仅使用10%的下游标注数据就能达到全数据训练的92%性能，显著提升了小样本场景下的泛化能力。注意力机制约束主要用于解决GNN在分子建模中的“噪声聚合”问题：传统的注意力机制容易对非关键原子分配过高权重，导致表征不稳定。在对比预训练阶段，研究者通过引入化学先验对注意力分布进行正则化：例如要求与化学反应活性相关的原子（如羧基中的碳原子、芳香环上的取代位点）的注意力权重高于平均水平，或要求骨架原子的权重大于侧链原子。这类约束不仅提升了预训练的效率，还增强了模型的可解释性，下游任务中模型的注意力权重分布与实验验证的活性位点重合度平均提升了27%，能够为后续的分子优化提供直接指导。物理先验嵌入是将量子力学与分子力学的已知规律融入GNN架构，减少模型的学习负担。常见的做法是在GNN的输入层加入预先计算的原子属性（如电负性、范德华半径、轨道杂化类型）与键属性（如键级、键能、二面角势能），在消息传递阶段加入距离衰减的聚合约束（即两个原子的距离越远，消息传递的权重越低），在输出层加入物理约束的正则项（如预测的能量需满足热力学稳定条件）。这类嵌入物理先验的GNN在对比预训练阶段的收敛速度比普通GNN快2-3倍，且在涉及能量、力场等物理属性的预测任务上精度提升尤为显著，在MD17数据集上的分子动力学力预测误差降低了18.9%。三、无监督预训练到下游任务的微调策略预训练模型向不同下游分子性质预测任务的迁移过程中，微调策略直接决定了预训练知识的利用效率与下游任务的最终性能。当前主流的微调策略可分为参数高效微调、任务自适应对齐与低资源场景下的少样本微调三大类。参数高效微调旨在避免全参数微调带来的过拟合风险与计算成本过高问题，尤其适合小样本下游任务。现有方法包括：仅微调GNN的读出层与输出层，冻结所有消息传递层的参数；在GNN的每一层插入少量可训练的适配器参数，其余参数保持冻结；使用LoRA技术对注意力层的权重矩阵进行低秩更新。实验结果表明，在标注样本量小于1000的下游任务中，参数高效微调的性能比全参数微调平均高5.2%，且训练速度提升了4倍以上。对于跨领域的迁移任务（如预训练数据为药物分子，下游任务为有机光电材料分子），混合微调策略（冻结前k层参数，微调后m层参数）能够更好地平衡通用知识与领域特定知识的学习，性能优于单一的参数冻结策略。任务自适应对齐的核心是解决预训练任务与下游任务的语义偏移问题：预训练阶段学习的通用表征可能与特定下游任务的关联度较低，直接微调容易导致“灾难性遗忘”。现有研究通常在微调阶段引入轻量级的对齐模块：例如在预训练表征与下游任务标签之间加入一个映射网络，通过少量标注数据学习通用表征到任务语义空间的转换；或者在微调阶段加入小型的对比学习损失，将同一任务下性质相似的分子表征拉近，性质差异大的推远，实现任务空间内的表征校准。在12个不同性质的下游任务测试中，加入任务自适应对齐模块后，模型的平均性能提升了2.8%，其中在与预训练任务差异较大的材料性质预测任务上提升达6.4%。低资源场景下的少样本微调是当前研究的热点，针对下游标注样本量极少（通常小于100）的极端情况。主流方法包括：基于元学习的微调策略，在预训练阶段就构造大量模拟的少样本任务进行训练，让模型学会“如何用少量数据快速适应新任务”，这类方法在5样本的毒性预测任务上性能比普通微调高11.3%；基于Prompt的微调方法，将下游任务转化为与预训练任务一致的对比学习格式，例如构造“分子图-性质标签”的对比对，通过Prompt模板激活预训练模型中已有的相关知识，大幅降低了小样本下的过拟合风险；基于半监督的微调策略，在微调阶段同时利用下游任务的少量标注样本与大量无标注样本进行对比学习，进一步挖掘任务相关的结构信息。在近期的研究中，结合元学习与半监督的微调策略已经能够在10样本的药物活性预测任务上达到全数据训练85%以上的性能，为罕见病药物研发等数据极端稀缺场景提供了可行的技术路径。四、当前研究的挑战与未来发展方向尽管基于对比学习的GNN预训练与微调框架已经取得了显著进展，但该领域仍然存在多个亟待解决的核心挑战。首先是预训练表征的可迁移性边界尚不清晰，目前缺乏系统的理论指导不同下游任务选择合适的预训练模型与微调策略，不同研究之间的实验设置差异较大，难以直接比较性能优劣。其次是三维结构信息的利用不足，现有大部分预训练模型基于二维拓扑图构建，而分子的很多性质（如生物活性、手性选择性）高度依赖三维空间构象，如何高效利用海量无标注分子的计算构象进行预训练，以及解决构象多样性带来的对比学习正样本构造问题，是未来重要的研究方向。第三是预训练模型的评估体系不完善，现有评估通常仅关注少数标准数据集的预测精度，缺乏对模型泛化性、鲁棒性与可解释性的系统评估，难以满足实际研发场景对模型可靠性的要求。未来的研究方向可以从四个层面展开：一是发展多尺度多模态的统一预训练框架，同时融合分子的二维结构、三维构象、化学属性、生物实验数据与文本描