基于生成式模型的缺失数据填补研究综述

基于生成式模型的缺失数据填补研究综述数据缺失是统计学、机器学习与数据挖掘领域普遍存在的基础性问题，其产生源于传感器故障、应答者无响应、隐私保护策略、数据传输丢包等多类场景。传统缺失数据填补方法如均值填充、热卡填充、多重插补法等依赖严格的分布假设，在高维、非结构化、异质性数据场景下容易引入偏差，甚至破坏数据内在关联结构。随着生成式建模技术的快速迭代，以生成对抗网络、扩散模型、大语言模型为代表的技术路径凭借对复杂数据分布的强大拟合能力，逐渐成为缺失数据填补领域的研究热点，为医疗、金融、工业物联网等多领域的高质量数据治理提供了新的解决方案。生成式模型缺失数据填补的核心技术框架当前主流的生成式缺失数据填补技术可分为三类核心架构，不同架构在数据适用性、填补精度、计算复杂度上呈现出显著差异。第一类是基于生成对抗网络（GAN）的填补框架，其核心思路是通过生成器与判别器的博弈学习完整数据的分布，进而根据观测部分推理缺失区域的合理取值。经典模型如GAIN（GenerativeAdversarialImputationNets）引入了提示向量（hintvector）机制，引导判别器重点关注缺失位置的生成质量，在MNIST、Adult等公开数据集上的填补误差比传统多重插补法降低了30%以上。后续研究进一步针对不同数据特性进行优化：针对时序数据的TimeGAN将序列动态约束纳入生成损失，解决了传统GAN填补时序数据时的时序一致性问题；针对图像数据的ContextEncoder通过区域掩码预训练，实现了图像缺失区域的语义一致性填补，在人脸修复、遥感图像补全任务中得到广泛应用。但GAN架构普遍存在训练不稳定、模式崩溃的问题，在小样本、高稀疏度数据场景下的表现仍有明显局限。第二类是基于变分自编码器（VAE）及其变体的填补框架，其核心是通过编码器学习观测数据的隐变量分布，再由解码器根据隐变量重构完整数据。VAE的优势在于训练过程稳定，且能自然输出填补结果的不确定性估计，与贝叶斯推理框架的兼容性更强。典型模型如VAE-I将缺失掩码作为额外输入嵌入编码器，在医疗电子健康记录这类高缺失率数据上的表现优于传统链式方程多重插补法。针对高维稀疏数据的特性，研究者进一步提出了深度生成混合模型，将VAE与高斯混合模型结合，既能捕捉数据的全局分布，又能拟合局部异质模式，在单细胞RNA测序数据的填补任务中，有效保留了细胞亚型的特异性表达特征。此外，归一化流模型作为显式密度估计的生成式方法，也被应用于缺失数据填补场景，其通过可逆变换直接建模数据的似然函数，填补精度比VAE更高，但计算复杂度也随之提升，目前更多应用于低维结构化数据的精准填补场景。第三类是基于扩散模型的新一代填补框架，该类模型通过逐步去除噪声的反向过程学习数据分布，在生成多样性和语义一致性上显著优于GAN和VAE架构。针对缺失数据填补任务，扩散模型通常采用引导采样策略，在去噪过程中将观测部分作为约束条件，确保生成的缺失部分与已知区域自然衔接。以图像填补为例，StableDiffusion的inpaint变体通过掩码交叉注意力机制，实现了任意形状缺失区域的高保真生成，生成结果的结构相似性（SSIM）比GAN类模型提升了20%以上。在结构化数据场景下，TabDDPM（TabularDiffusionModel）将表格数据的离散/连续特征统一编码为扩散过程的输入，在银行风控数据集上的填补结果能够保留原始数据的变量间关联，后续风控模型的AUC值比使用传统方法填补的数据提升了8.7%。扩散模型的主要缺陷在于采样迭代步数多、推理速度慢，目前已有研究通过知识蒸馏、一步采样等方法进行优化，逐步向实时性要求高的工业场景落地。不同数据模态下的生成式填补技术进展不同数据模态的结构特性差异显著，生成式填补技术的优化方向也各有侧重。在表格结构化数据场景中，核心挑战是同时保留数值特征的统计分布、类别特征的取值逻辑，以及特征间的关联约束。早期生成式模型直接将所有特征编码为向量输入，容易导致类别特征出现非法取值、关联特征违背业务逻辑（如“年龄小于0”“收入为负数”）等问题。最新研究通过两类思路解决上述问题：一类是在模型结构中引入特征类型感知模块，对离散特征采用分类损失、连续特征采用回归损失，同时加入业务规则约束项惩罚非法生成结果；另一类是结合大语言模型的逻辑推理能力，将表格数据转换为自然语言描述，通过提示工程引导大模型生成符合逻辑的缺失值，在包含复杂业务规则的企业经营数据填补任务中，非法值生成率比传统生成模型降低了92%。在时序数据场景中，核心挑战是保证填补结果的时序依赖性与动态一致性，避免出现前后矛盾的时序突变。针对多元时间序列的填补问题，研究人员将Transformer的自注意力机制与生成模型结合，提出了如CSDI（ConditionalScore-basedDiffusionModel）等模型，通过因果注意力掩码建模时序的先后依赖关系，在空气质量监测、电力负荷预测等数据集上，填补后的序列能更好地保留周期性、趋势性等时序特征。针对不规则采样的医疗时序数据，生成式模型还可以与临床事件逻辑结合，在填补生理指标缺失值的同时，保证与诊断记录、用药记录的一致性，为后续临床决策支持系统提供可靠的数据输入。此外，面向超长时序数据的填补场景，研究者通过分层生成架构将全局趋势与局部波动分离建模，有效解决了长序列生成过程中的误差累积问题。在多模态数据场景中，核心挑战是利用跨模态关联信息提升填补精度，实现不同模态缺失的协同补全。例如在图文多模态数据中，当图像部分区域缺失时，可以利用对应的文本描述引导生成符合语义的图像内容；当文本描述存在缺失时，也可以通过图像特征推理出完整的文本信息。最新的多模态生成模型如GPT-4V、Gemini等已经初步具备多模态联合填补能力，在自动驾驶多传感器数据补全任务中，当摄像头图像存在局部遮挡时，模型可以结合激光雷达点云数据、历史行驶序列共同填补图像遮挡区域，为目标检测、路径规划模块提供更完整的感知输入。在医疗多模态数据场景中，生成式模型可以同时融合电子病历文本、医学影像、检验指标等多源信息，当某一模态存在缺失时，利用其他模态的互补信息进行填补，比单模态填补方法的精度提升40%以上。生成式缺失数据填补的评估体系与应用挑战科学的评估体系是生成式填补技术落地的关键基础，当前评估指标主要分为三类：第一类是数值准确性指标，用于衡量填补值与真实值的偏差，常用指标包括均方误差（MSE）、平均绝对误差（MAE）针对连续特征，准确率、F1值针对离散特征。第二类是分布一致性指标，用于评估填补后整体数据集的分布与原始完整数据集的相似度，常用指标包括最大均值差异（MMD）、KL散度、生成数据的保真度与多样性分数。第三类是下游任务效用指标，即衡量填补后的数据在下游分类、回归、聚类等任务上的表现提升，这也是工业场景中最核心的评估指标，例如在风控场景中，关注填补后的数据训练的风控模型的AUC、KS值是否提升；在医疗场景中，关注填补后的数据训练的诊断模型的准确率、召回率是否满足临床要求。尽管生成式填补技术已经取得显著进展，但在实际落地过程中仍面临多类挑战。首先是生成结果的不确定性与可靠性问题，生成式模型本质是对数据分布的采样，同一缺失位置可能生成多个合理结果，如何量化填补结果的不确定性、在高风险场景（如医疗诊断、金融决策）中评估不同填补结果的风险，仍是未完全解决的问题。其次是隐私保护问题，生成式模型可能在训练过程中记忆敏感数据的个体信息，导致填补结果泄露用户隐私，因此需要将差分隐私、联邦学习等技术与生成式填补框架结合，在保证填补精度的同时满足数据隐私合规要求。第三是小样本场景下的泛化问题，在医疗罕见病、工业故障检测等样本量极少的场景中，生成式模型容易过拟合有限的观测数据，无法学习到真实的数据分布，需要进一步结合少样本学习、迁移学习等技术提升小样本场景下的填补性能。最后是可解释性问题，深度学习类生成模型普遍存在“黑箱”特性，无法解释填补值的生成依据，在需要可解释性的监管场景中应用受限，未来需要结合可解释人工智能技术，为填补结果提供符合业务逻辑的解释。近年来，大语言模型的爆发为生成式缺失数据填补带来了新的发展机遇。通用大模型具备丰富的世界知识与逻辑推理能力，能够将领域知识自然融入填补过程，解决传统生成模型缺乏业务常识的问题。例如在消费行为数据填补场景中，大模型可以根据用户的历史购买记录、地域、年龄等信息，推理出用户缺失的消费偏好特征