特征工程与可学习Query注意力堆叠集成模型在故障诊断中的应用

特征工程与可学习Query注意力堆叠集成模型在故障诊断中的应用摘要变压器油中溶解气体分析（DissolvedGasAnalysis,DGA）是识别电力变压器内部潜伏性故障的核心手段。针对传统DGA诊断方法精度受限以及单一模型难以充分挖掘气体组分间复杂非线性特征的问题，本文提出一种融合特征工程、可学习Query驱动注意力机制与堆叠集成（StackingEnsemble）的多视图诊断模型。该模型通过三路特征视图的并行提取与深度融合实现对故障模式的精准刻画：原始特征视图：直接利用H₂、CH₄等9维原始气体特征，通过多随机种子驱动的XGBoost算法构建Bagging集成基分类器；特征工程视图：对原始组分进行对数变换、组合交叉及排序重构，生成128维扩展特征向量，以显式表征组分间的先验物理关联；注意力增强视图：引入Query驱动的交叉注意力机制（Query-drivenAttention）与残差门控单元（ResidualGating），通过可学习查询向量捕捉气体生成机制中的深层交互模式，并将增强后的深层特征与原始特征进行双通道融合。最后，模型将各分支输出的预测概率、信息熵（Entropy）及胜出边距（Margin）等置信度指标作为元特征，利用Logistic回归元学习器进行Stacking二次融合，以提升最终决策的鲁棒性。实验结果表明，该模型在实际电网DGA故障数据集上的表现优于主流机器学习算法：在七分类任务中，总体准确率达到92.13%，宏平均F1值为88.33%；在粗粒度的三分类场景下，准确率进一步提升至96%以上。消融实验证实，Query注意力通道与多视图特征融合机制显著增强了模型在处理DGA数据多变量耦合及类别不平衡问题上的性能与稳定性，在电力设备智能运维领域具有重要的应用价值。关键词：溶解气体分析(DGA)；变压器故障诊断；特征工程；注意力机制；堆叠集成；XGBoost引言1.1研究背景与现状溶解气体分析（DissolvedGasAnalysis,DGA）通过实时监测变压器油中特征气体的组分及浓度演变，已成为电力变压器内部潜伏性故障状态评估的核心手段。IEC60599等国际标准为DGA的工程应用提供了规范化框架；传统判据如三比值法、Duval三角形法等因其逻辑直观、标准明确，在局部放电、高/低能量放电及各级热故障的判别中发挥了重要作用。然而，随着电网复杂度的提升，传统方法的局限性日益凸显：一方面，不同故障模式下的气体特征存在高度耦合与交叉，导致基于固定阈值的规则法常面临“判断冲突”或“超出边界”的困境；另一方面，在多诱因复合故障中，气体生成机制的非线性交互使得单一比值逻辑难以实现精准解耦。统计数据表明，传统DGA诊断法的准确率在某些工况下不足70%，难以满足现代智能电网对高可靠性的诊断需求。1.2相关研究综述近年来，以人工智能为核心的智能化诊断技术为提升DGA可靠性提供了新途径。支持向量机（SVM）、神经网络等监督学习模型凭借卓越的非线性拟合能力，已在DGA领域取得显著进展。研究者通过引入灰狼算法、遗传算法等元启发式优化手段调优模型参数，显著提升了分类精度。在深度学习领域，深度置信网络（DBN）与卷积神经网络（CNN）被用于自动提取气体组分的高阶非线性特征。例如，Shang等人通过知识蒸馏技术构建的轻量化卷积模型，在有限样本下实现了接近深层网络的诊断性能。然而，纯深度学习模型在应对DGA领域典型的小样本特征时，极易陷入过拟合泥潭。为平衡模型精度与鲁棒性，集成学习（EnsembleLearning）逐渐成为研究热点。Bagging与Boosting策略通过融合异质基分类器，有效降低了模型的预测方差。其中，以决策树为核心的XGBoost算法因其高效的训练能力与优异的泛化性能，在油浸式变压器诊断中表现突出。此外，基于堆叠集成（Stacking）的架构通过元学习器二次融合，进一步增强了模型在复杂模式下的稳定性。1.3科学问题与本文贡献尽管现有研究已取得丰硕成果，但变压器DGA智能化诊断仍面临两大关键挑战：其一，特征表征深度不足，现有方法多依赖简单的气体浓度或比值，难以揭示各组分间复杂的生成耦合机制；其二，模型结构普适性受限，单一树模型难以表征高阶交互，而深度网络在小样本下稳定性欠佳。针对上述问题，本文提出一种多视图融合的集成诊断模型。本文的主要贡献如下：(A)Query驱动的交叉注意力特征提取：借鉴目标检测Transformer中的查询向量思想，本文首次在DGA领域引入可学习Query向量。通过交叉注意力机制，预设的查询向量能够以“主动提问”的方式，自适应地捕捉与特定故障模式相关的气体组合特征，显著增强了对故障指征的敏感度。(B)基于残差门控的双通道融合架构：设计了一种融合注意力深层特征与原始物理特征的双通道结构。利用**残差门控（ResidualGating）**对注意力输出进行非线性调节，实现对原始特征趋势的动态“增强”或“抑制”，在保留物理规律的基础上大幅提升了判别性能。(C)引入置信度度量的Stacking不确定性融合：构建了基于多分支输出的堆叠集成框架，并创新性地在融合阶段引入了信息熵与最大概率边距等置信度指标。通过量化基分类器的不确定性，Logistic元学习器能够对难分类样本进行更稳健的决策，有效降低了实验方差。本文余下部分组织如下：第二节阐述多视图融合模型各模块的数学原理；第三节介绍实验设计并与现有主流方法进行对比分析；第四节深入探讨可学习注意力机制的可解释性；第五节总结全文并对未来研究方向进行展望。模型与方法图1.多视图融合堆叠集成模型结构示意图(Architectureoftheproposedmulti-viewfusedstackingensemblemodelfortransformerDGAfaultdiagnosis).如图1所示，本文提出的模型包括三条特征处理分支和一个堆叠集成层。首先对DGA原始数据进行必要的预处理，如异常值剔除、归一化等，然后并行送入三个分支：（1）**分支1：原始气体特征通道。**直接采用原始的9维气体特征（典型包括H₂,CH₄,C₂H₆,C₂H₄,C₂H₂五种关键故障气体及其组合特征）作为输入，利用XGBoost决策树分类器进行训练，并通过Bagging方式训练多个XGBoost子模型构成子集成（如训练5个子模型取平均）；（2）**分支2：特征工程通道。**对原始气体数据进行扩展特征构造，生成128维的特征向量，包括各气体的对数变换、排序重构特征和成对交叉组合特征等，输入另一个XGBoost分类器（同样支持Bagging集成）；（3）**分支3：深度注意力通道。**该分支为本文方法的创新部分，引入Transformer注意力机制深入挖掘气体特征关系。具体而言，将原始气体特征嵌入至高维空间后，先通过自注意力模块(TransformerEncoder)提取气体间的初步关联特征，然后引入可学习查询向量（LearnableQuery）通过交叉注意力机制（Cross-Attention）进一步提取故障模式相关的深层特征，并采用残差门控机制融合保留原始气体特征信息。融合输出随后进入第三个XGBoost分类器进行故障类型判别。最后，堆叠集成层将上述三个分支分类器的输出结果融合：将各分支对故障类别的预测概率以及由此计算的熵、边距等作为元特征，输入一个Logistic回归模型学习最终的故障分类决策。下面对各部分方法原理分别加以说明。2.1特征工程模块DGA原始数据通常包含有限的气体浓度指标，例如典型的5种气体含量。当直接采用原始特征训练模型时，由于不同故障模式下各气体的变化幅度跨度大，且原始量纲下特征分布偏态明显，不利于模型学习。因此，有必要对气体数据进行特征层面的扩展与变换。本模块结合领域知识，从尺度变换、排序重构和交叉组合三方面生成高维特征。首先进行对数变换以压缩量纲差异。对于每个气体浓度特征$x_i$，计算其对数尺度下的值作为新特征：x其中加1以避免对数零值。对数变换能够减弱少数异常高值气体对模型的不利影响，使特征分布更趋于正态。其次，引入排序重构特征。不同故障情况下，各气体产生量的相对大小顺序往往具有模式，例如电弧放电故障中乙炔(C₂H₂)含量通常为最高，而过热故障中甲烷(CH₄)可能占主导。为此，将原始气体特征按值大小排序，得到一个有序特征序列：x其中x1,xf以及差值特征fij经过上述处理，可得到远高于原始维度的特征集合。考虑到特征过多可能带来冗余和过拟合风险，实际应用中可结合专家知识和特征重要性评价选择性地保留有效特征。在本文实验中，综合选择了对数值、排序值、主要气体比值、差值等共约128维特征输入分支2的分类器。特征工程模块极大地扩展了DGA数据的表达能力，弥补了原始特征维度少的信息不足问题。2.2Query驱动注意力机制模块分支3旨在利用深度注意力机制挖掘气体特征之间更高阶的相关模式。Transformer的多头注意力机制能够有效捕获序列数据中元素之间的长程依赖。然而，经典Transformer主要采用自注意力(Self-Attention)或编码-解码注意力。在本研究中，我们设计了一种**Query驱动的交叉注意力(Query-drivenCross-Attention)**结构，引入可学习查询向量来“提问”输入气体特征序列，从而提取对故障分类最有判别力的特征表示。图2.Query驱动注意力模块结构示意图(StructureoftheQuery-drivencross-attentionmodule).首先，将原始气体特征向量X=x1,…,xF通过线性变换映射到d维特征空间，并视每个气体为序列中的一个元素，得到初始特征表示矩阵H∈RF×d。接着，采用一个Transformer编码器层对H进行自注意力计算，获取各气体特征的上下文表示：H'=SelfAttnH和值(Value)矩阵V。交叉注意力的计算形式为：A=Z=AV∈其中，QKT计算查询向量与各气体特征之间的匹配分数；对其施加Softmax得到注意力权值矩阵A，其元素Ai,j表示第i个查询向量对第j个气体特征的注意力权重。最后，A与值矩阵V相乘得到输出特征Z。对Z残差门控融合：注意力模块输出的向量z凝聚了潜在的故障模式信息，但若直接丢弃原始气体各成分可能导致细粒度信息的损失。为此，本文设计了残差门控单元（ResidualGatingUnit），将原始气体特征与注意力输出进行深度融合。具体做法是：利用注意力输出z经过一层全连接映射和tanh激活，生成一个与原始特征长度相同的门控向量，作用于原始特征x：x其中，⊙表示按元素相乘（Element-wiseProduct），Wg∈RF×d和bg∈RF为可训练的仿射参数。通过该门控机制，注意力输出z动态调节原始特征x的各分量：当某分量相关的tanh输出为正时，1+tanh⋅>1综合特征向量h涵盖了人工先验特征、原始物理特征以及深度注意力特征三类信息。这一融合特征h随后输入至后端的XGBoost分类器进行训练。在训练阶段，为保持分支独立性，我们采用多层感知机（MLP）近似变换，而在推理阶段则采用完整的特征工程输出以提升性能。通过上述设计，模型实现了对气体特征关系的深度挖掘，并与其余分支形成有效互补。2.3XGBoost集成分类器本研究的三条分支均采用XGBoost（ExtremeGradientBoosting）算法作为基分类器。XGBoost以决策树为弱学习器，通过迭代训练一系列树模型来提升整体性能。对于样本集合hi,yii=1N，其中hi包含M棵树的模型预测值可表示为：yi=m=1Mfmhi其中l为交叉熵损失函数，Ωf=γT+1/2λw2为惩罚项以限制模型复杂度它会惩罚那些过于复杂的树，例如叶子节点太多或权值太大的树，逼迫模型用最简单的树来达到最好的效果。yit−1为t−1轮模型已经迭代出的累加预测值，yi为第iGain=γ是分裂代价，每分裂一次，都要减去这个值。如果分裂带来的增益还没γ大，模型就会放弃分裂。这起到了“预剪枝”的作用。i∈ILgi2当Gain>0时执行分裂，叶节点的最优权值解为：w∗XGBoost采用贪心算法遍历特征分裂点，通过计算分裂增益Gain来评估候选分裂的优劣。该指标衡量了分裂后左、右子树结构分数之和相对于原节点分数的增益，并引入参数γ作为分裂补偿，从而在提升模型精确度的同时保证了树结构的简洁性。根据代码中的实现（bag2.4Stacking融合与元学习器集成学习理论表明，适当融合多个表现互补的分类器可以提高整体性能。在本文模型中，分支1–3利用不同特征集对故障类别给出预测，通过Stacking堆叠集成可以充分利用这些差异信息。与简单投票法不同，Stacking能够根据基分类器在各类样本上的历史表现分配权重。本文设计了以下元特征用于Stacking融合：概率向量特征：来自每个分支模型对K个故障类别输出的软概率pk信息熵特征：计算各分支的不确定性Ek胜出边距特征：定义为最大预测概率与次大概率之差Mk将上述特征合并得到维数为3K+6的元特征向量xmeta作为元学习器，本文选择Logistic回归模型进行多类别分类：Py=jxmeta=expwjTx实验结果与分析3.1实验设计数据集与评估指标：实验所用数据集源自某电网变压器油色谱在线监测系统，共计包含2321组DGA样本。每条样本包含H2、CH4、C2H6、C2H4、C2H2五种组分浓度及对应的故障标签。根据IEC60599标准，数据集涵盖了正常（NT）、局部放电（PD）、低能量放电（D1）、高能量放电（D2）、低温过热（T1）、中温过热（T2）及高温过热（T3）共7类状态。其中，正常样本740条（占比31.9%），其余故障类中高温过热占比最高（558条），低温过热（118条）和局部放电（158条）最少，呈现出一定的类别不平衡性。为研究分类粒度对性能的影响，本文在七分类基础上，将故障划分为电气性故障（PD、D1、D2）、热故障（T1、T2、T3）及正常（NT）三分类任务。评价指标采用准确率（Accuracy）和宏平均F1值（Macro-F1），并辅以精确率（Precision）和召回率（Recall）进行全面对比。宏平均指标能通过各类别指标的算术平均，有效降低类别不平衡对评估结果的影响。模型参数与实现：本研究对原始DGA特征进行扩展，生成了128维特征工程向量。Query注意力模块设置查询向量数On=1，注意力维度d=32。XGBoost分类器的核心参数经5折交叉验证优化：设置树最大深度为4，学习率为0.1，子采样率为0.8，l2在集成策略上，各分支通过Bagging训练5个XGBoost子模型（采用不同子采样种子）。Logistic回归元模型采用L-BFGS优化器，设置正则项系数为0.01以防止过拟合。实验数据集按8:2划分为训练集和测试集，并从训练集中预留20%作为验证集用于Stacking元特征生成。所有实验基于Python3.8环境，利用PyTorch和XGBoost等库实现，并通过10次重复实验取均值与标准差以确保评估的稳定性。3.2整体性能对比3.2.1基准模型对比分析为验证所提模型的有效性，本研究选取了多种具有代表性的机器学习算法进行对比实验，包括：支持向量机(SVM)、随机森林(RandomForest)、LightGBM及CatBoost梯度提升决策树。表1详细展示了在七分类故障诊断任务下，各模型在测试集上的性能指标对比。表1不同模型在7类变压器故障诊断任务上的性能比较模型准确率Accuracy宏平均精确率Precision宏平均召回率Recall宏平均F1值F1支持向量机SVM0.31830.04550.14290.0690随机森林RandomForest0.86020.79800.76990.7787LightGBM0.86020.79670.79000.7904CatBoost0.84520.77180.74860.7529XGBoost(Raw9原始特征)0.84820.78210.75930.7707本文模型(三分支Stacking集成)0.92130.89000.87700.8833由表1分析可知，基于决策树的集成学习方法性能显著优于传统SVM模型。SVM由于难以有效捕捉DGA数据的非线性特征，且在处理类别不平衡问题上表现乏力，其准确率仅为31.83%，难以胜任复杂的故障诊断任务。相比之下，LightGBM、CatBoost与原始特征下的XGBoost表现相近，准确率维持在85%左右。本文提出的多视图Stacking模型展现出最优的分类性能，其准确率高达92.13%，宏F1值达到0.8833。与性能次优的LightGBM相比，准确率提升了约7个百分点，宏F1值提升约9.3%。这充分证明了通过融合多源特征视图与集成学习模型，能够显著增强系统对变压器复杂故障模式的识别能力。此外，本文模型在精确率与召回率之间表现得更为均衡（均约为0.88），克服了基模型普遍存在的针对少数类故障“易漏检”的问题。这主要归功于模型在Stacking阶段引入了熵与边距等置信度信息，使元学习器能够更客观地根据各分支的预测信心进行权重调优。3.2.2模块消融实验分析图3.模型消融实验（7类故障）多次运行平均准确率及标准差图3展示了针对7类故障任务的消融实验结果，旨在量化各核心模块的贡献度。特征工程的贡献：相比于原始9维特征（Raw9，84.82%），仅使用128维特征工程分支（FE_only）即可将准确率提升至87.7%。这表明通过领域先验知识构建的衍生特征有效丰富了输入层的信息丰度。注意力机制的优越性：深度特征分支（Attn+XGB）在残差门控与Query驱动注意力的作用下，单分支准确率达到88.4%，优于人工特征分支。这验证了模型自主学习气体组分间深层关联模式的能力。集成策略的有效性：当采用简单软投票融合（Ensemble3）时，准确率增至89.2%。而最终引入带有置信度特征的Stacking机制后，准确率大幅跃升至92.13%。实验观察到，随着Stacking的引入，多次运行结果的标准差（误差棒）明显缩短。这验证了创新点C的价值：通过融合基分类器的不确定性信息，模型不仅提升了预测精度，更在不同随机划分下展现出极强的鲁棒性。3.2.3模型稳定性评估最后，使用Stacking融合且加入置信度元特征后，模型准确率大幅跃升至92.13%，超过简单投票集成约3个百分点。同时可以看到误差棒长度（标准差）明显缩短，说明Stacking融合在提高精度的同时也提高了结果的稳定性。这验证了创新点C的价值：考虑基分类器不确定性的信息在融合时赋予了模型更强的鲁棒性，在不同随机种子和数据划分下均能保持高水平的性能。图4.本文模型多次实验准确率和宏平均F1值（7类故障）的均值及标准差图4展示了模型在7类故障任务下重复10次实验的性能统计分布情况。实验结果显示，模型准确率均值为0.9213，宏F1均值为0.8833，且标准差严格控制在1%—2%范围内。这种极高的稳定性表明，本文模型对数据集的划分扰动以及参数随机初始化具有良好的免疫力，避免了性能的剧烈波动。这得益于底层采用的Bagging策略（多随机种子并行训练）有效降低了基模型的方差，以及顶层Stacking策略对分支误差的二次纠偏。此外，宏平均F1的高稳定性进一步说明模型并未通过过拟合多数类样本来换取高准确率，而是具备稳健的泛化能力，能够可靠地应用于实际变压器油色谱监测场景。3.3混淆矩阵深度剖析：图57类混淆矩阵对比图5展示了基准模型（Baseline:FE-only）与本文提出模型（Proposed:Attn+XGB）在七分类任务上的混淆矩阵对比。通过对比分析对角线元素的数值分布，揭示了提出框架在处理DGA数据类别不平衡及特征高度耦合问题上的显著优势：1.热故障边界的锐化与解耦(SharpeningofThermalFaultBoundaries)基准模型在热故障区间（LT、MT、HT）表现出明显的“特征涂抹”效应。从图5左侧可见，中温过热（MT）样本常被误判为高温过热（HT），而低温过热（LT）样本在被正确识别的同时，常伴随较高比例的漏判。这反映了传统特征工程在处理临界温度附近连续变化的气体比值时，缺乏对非线性边界的捕捉能力。相比之下，提出模型（图5右侧）利用ResidualGate（残差门控）机制实现了特征的自适应重加权。通过抑制冗余的高温特征并放大微量烃类信号的相对强度，成功在特征空间内构建了LT与MT之间的“隔离带”。在数值上，中温过热的正确识别数从30提升至36，低温过热从13提升至22，显著降低了相邻热故障类别的混淆度。2.稀疏信号类别的特征重构(FeatureReconstructionforSparseSignalClasses)局部放电（PD）作为样本量最少且特征稀疏的类别，是诊断的难点。基准模型因难以区分背景噪声与微弱故障信号，导致大量PD样本被误判为正常状态（NT）或低能放电（D1）。本文模型引入的QueryPlus注意力池化模块，通过可学习的查询向量（LearnableQuery）捕捉特定故障的全局原型特征。即使在气体浓度极低的情况下，模型仍能基于“模式匹配”而非简单的“阈值切割”精准锁定PD样本。实验结果显示，PD样本的检出稳定性大幅提升，低能放电（D1）的正确识别数也由72跃升至87。3.全局判别的一致性提升(EnhancedGlobalDiscriminativeConsistency)从宏观视角看，提出模型的混淆矩阵展现了极强的对角线收敛（DiagonalConvergence）特性。非对角线元素的显著稀疏化表明模型有效消除了特征空间中的模糊地带。特别地，“正常（NT）”类别的假阳性率（FalsePositiveRate）显著降低，正确识别数从209增至213。这证明了集成XGBoost策略结合注意力特征变换，不仅提升了模型对故障的敏感性，更增强了对正常运行状态的特异性判别能力，为实际工程应用中的误报控制提供了坚实保障。3.4训练动态与收敛性分析3.4.1评估指标动态演化分析图6评估指标曲线图6展示了模型准确率（Accuracy）、精确率（Precision）和召回率（Recall）随训练轮次（Epoch）的变化趋势。初期震荡演进：在训练初期（0–10Epoch），各项指标呈现出较为剧烈的震荡上升趋势。这反映了在DGA故障诊断任务中，由于不同故障类型间的特征边界模糊，模型在初始阶段正在复杂的特征流行空间中进行剧烈的参数搜索与模式对齐。跃升与稳态收敛：在约20Epoch处，三项指标均出现明显的阶跃式提升，随后在35Epoch后逐步进入平稳期。最终，准确率（Accuracy）稳定在0.95以上，且精确率与召回率曲线表现出高度的重合性。这种“三线合一”的演化趋势定量地证明了模型在多类故障识别上具备极佳的平衡性，未出现因样本不平衡导致的“偏科”现象。鲁棒性验证：曲线后期的波动幅度极小，表明模型对初始超参数及权值分布的敏感度较低，在多样化的训练环境下均表现出良好的复现性与鲁棒性。3.4.2损失函数收敛性分析图7损失曲线图7为训练损失（TrainLoss）与验证损失（ValLoss）的对比曲线。泛化表现优异：实验结果显示，验证损失（橙线）在整体趋势上紧密贴合训练损失（蓝线）同步下降，且在训练中后期未出现任何反弹迹象（即无“U型”过拟合特征）。在变压器故障诊断这类典型的小样本数据集上，深度模型极易陷入过拟合泥潭，导致泛化性能受损。正则化机制的协同效应：验证损失的持续单调下降可直接归因于**残差门控机制（ResidualGating）与Query驱动注意力（Query-drivenAttention）**的协同正则化效应。残差门控有效地约束了梯度的流动，防止了深度网络的性能退化；而Query机制通过自适应特征重构，起到了类似于流形约束的作用，有效控制了模型的泛化误差。收敛效率评价：损失值在40Epoch左右达到平稳平台，最终收敛于极低水平（<0.15）。这表明模型已深度挖掘并拟合了DGA组分间的复杂关联规律，训练过程高效且彻底。3.5三类与七类分类结果对比3.5.1分类粒度对诊断性能的影响分析在变压器故障诊断的实际应用中，运维人员往往更关注故障的大类归属（如区分正常状态、电气性故障与热故障），以快速评估设备的风险等级。为此，本研究在细粒度（七分类）任务的基础上，构建了粗粒度（三分类）诊断模型。这种分类方案的动机在于：一方面，通过类别归并能显著降低类别间的特征重叠度，降低模型的判别难度；另一方面，样本在更少类别中的聚合有助于模型学习到更具鲁棒性的统计分布。实验结果表明，随着分类难度的降低，模型性能呈现出明显的跨越式提升。在七分类任务中，模型最高准确率约为92%，宏平均F1值约为0.88；而在三分类任务中，准确率跃升至约96%，宏平均F1值同步提高至0.95以上。这表明粗粒度模型在保障高可靠预警方面具有显著优势。3.5.2三分类任务消融实验深度剖析图8三分类消融实验图8展示了三分类任务下不同模型变体的性能对比。基准模型表现：在三分类语境下，各模型均展现了极高的诊断精度（Accuracy>94%）。基于人工特征工程的FE_only_BAG模型与基于原始9维组分特征的Raw9_BAG模型性能相近。这说明在区分度较大的粗粒度任务中，基础物理特征已能提供足够的判别增益。注意力分支的贡献：引入注意力机制的Attn+XGB_BAG模型取得了约95.3%的准确率。尽管在单模型层面，注意力机制带来的精度提升相对有限，但其价值在于通过Query驱动机制提取了与传统特征互补的非线性关联信息。集成融合的优越性：如图8所示，通过Stacking融合（Stacking_VALfit）以及多模型投票集成（Ensemble3_BAG），模型性能达到了最优，准确率进一步突破至96%以上。这有力地证明了融合策略的价值：集成模型能够综合不同特征视图的优势，有效弥补单模型的判别盲区，从而在提升精度的同时，显著增强了诊断结果的鲁棒性。3.5.3诊断精细度与可靠性的权衡探讨综上所述，将细粒度的七分类任务转化为粗粒度的三分类任务，实际上是以牺牲部分细节信息为代价，换取模型整体性能的大幅跃升。三分类模型凭借其极高的准确率与稳定性，更适用于变压器状态的实时快速预警与风险初步评估场景。相比之下，七分类模型虽然在绝对精度上略逊一筹，但其提供的详尽故障类型信息（如区分D1与D2，T1、T2与T3）对于制定针对性的检修方案具有不可替代的作用。因此，在电力工程实践中，应根据运维需求的侧重点进行权衡：若追求极高的告警可靠性，应优先采用三分类方案；若需实现故障的精准定位与辅助决策，则应在接受性能小幅波动的前提下，采用七分类方案以获取更完备的诊断信息。可学习注意力机制的可解释性分析4.1全局Query注意力分布与关注分工图9Query向量在全局范围内的注意力权重分布图图9展示了6个可学习查询向量（LearnableQuery）在全局特征空间内的注意力权重分布（选取前25位重要特征）。图中横轴表示输入特征（涵盖原始组分及其衍生特征），纵轴为查询向量索引Q0通过对热力图分布的纵向对比可以发现，各查询向量在特征关注上表现出显著的差异性，形成了一套自适应的特征表征分工机制：Query0/1：聚焦放电及低温故障特征查询向量Q0和Q1优先关注氢气H2和甲烷CH4等低分子量气体及其派生组合。例如，热力图中显示Query2/3：锁定中高温热故障特征另一组查询向量则侧重于乙烯C2H4和乙烷C2H6等特征组分，以及如logCH4_sub_log22（对应乙烯比值的对数变换）等衍生特征。在油色谱分析中，C2H4的显著增加通常是指示高温过热故障的核心判据，而C2H6则反映中温水平的热故障。Q2与QQuery4/5：侧重电弧及高能量放电特征剩余查询向量表现出对乙炔（C2H2）相关特征（如pad_17、pad_35）的强敏感性。乙炔作为变压器油中电弧放电等剧烈故障的唯一指示气体，其生成规律极具特异性。Q4与Q结论与可解释性分析综上所述，各个查询向量通过注意力权重的差异化分配，在内部形成了一种类似“多专家协同”的特征处理机制。每个查询向量演化为针对特定物理机理的特征提取器。这种模块化的分工不仅提升了模型对复杂油色谱数据的表征精度，更赋予了深度学习模型极强的物理可解释性——其内在决策逻辑可与成熟的电力专家知识体系实现一一对应，为DGA故障诊断结果的工程化信任提供了坚实基础。4.2不同故障类别下的动态注意力调整图10Query对特征的平均注意力权重热力图图10进一步展示了模型在不同故障类型下查询（Query）注意力分布的动态调整过程。图中分别绘制了模型在典型故障类别（含正常状态）样本中，各查询向量对特征的平均注意力权重分布。结果表明，模型的注意力模式会随输入样本故障特征的不同而发生自适应偏移：正常运行状态（NT）的均衡表征：对于正常样本，6个查询向量的注意力分布相对均衡，未出现特定Query主导的情况（图中“正常”栏各行颜色饱和度较为均一）。这表明在无故障指征时，各查询向量对特征信息的提取较为平均，模型未对任何特定故障气体产生偏置关注，有效降低了系统的误报风险。低能放电故障（PD/D1）的定向聚焦：当输入样本为低能量放电（如局部放电）时，主要关注H2与CH4的查询向量（如Q0、Q热故障（T1/T2/T3）的层级响应：对于过热类故障，关注乙烯（C2H4）与乙烷（C2H6）的查询向量（如Q2、Q3）表现出更高的激活度。特别地，在高温过热（T3）情景下，甚至部分侧重乙炔（C2H2）的查询向量（如高能电弧放电（D2）的强力锁定：在高能量电弧放电故障下，代表乙炔信号的查询组（如Q4、Q结论与分析：实验对比证明，Query-Driven注意力机制具备显著的上下文自适应能力：同一组查询向量能够根据输入特征模式，动态调整其在特征空间中的侧重面。模型并非采用固定的静态模式提取特征，而是能动态突出当前样本最相关的故障指征，并有效过滤背景噪声。这种自适应机制使模型在面对多样化且易混淆的故障时，能够保持极高的诊断准确率与鲁棒性，进一步增强了诊断结果的可信度与物理一致性。4.3诊断依据可视化与模型可信度借助Query-Driven注意力机制，本文模型实现了诊断依据的透明化呈现，即能够直观展示模型在判别特定故障时所捕获的关键特征线索。这种可视化能力对于增强深度学习模型在电力工业场景下的可信度具有里程碑意义：人机协同的审查机制：运维专家可通过注意力图谱快速审视模型决策逻辑的合理性。例如，当系统判定发生高能量放电故障时，若注意力焦点精准锁定于乙炔（C2H2）及其衍生比值特征，则表明模型的内部表征符合电力行业专家共识。反之，若注意力分布偏离物理常识，则可作为模型性能预警，提示可能存在的过拟合或数据偏差，从而为模型的迭代改进提供明确方向。这种双向验证机制有助于在实际工程应用中建立深层次的人机信任。自解释（Self-explanatory）的决策接口：该机制为模型提供了原生的自解释接口。在面对复杂疑难样本或诊断结论存在争议时，模型输出的注意力热力图可作为高价值的“第二意见（SecondOpinion）”供专家参考。它通过揭示模型倾向于特定故障类别的证据权重，显著提升了辅助决策的透明度与说服力。总结与展望：综上所述，Query模块通过自主学习与故障演化机理相契合的注意力模式，不仅在量化指标上增强了模型的诊断性能，更赋予了模型可理解、可验证的故障特征识别能力。这种特性使模型的决策过程从“黑箱运算”向“白盒推演”迈进，极大提升了人工智能技术在变压器故障诊断领域的应用价值与行业认可度。结论针对变压器油中溶解气体分析（DGA）在故障诊断中存在的特征模式复杂、传统方法准确率受限等问题，本文提出了一种融合特征工程、注意力机制与堆叠集成（StackingEnsemble）的多视图诊断模型。通过在真实监测数据集上的全面实验验证，得出主要结论如下：多视图特征融合显著提升了诊断性能：本文通过整合原始组分特征、人工先验特征以及深度注意力提取的隐藏特征，实现了对DGA数据中多维故障信息的深度挖掘。实验结果显示，多视图融合模型在七分类任务中的准确率突破至92.13%，宏平均F1值提升至0.8833；在三分类任务中准确率更是高达96%以上。这证明了融合多重信息视角对于判别复杂故障模式具有显著的优越性。可学习Query注意力机制有效建模了组分间的物理关联：本文引入的Query驱动交叉注意力模块能根据故障类型的差异，动态、自适应地为各气体特征分配权重，并结合残差门控机制（ResidualGating）缓解了深层特征提取过程中的信息丢失。消融实验表明，该模块对判别模式的建模精度优于传统方法；且注意力权重的可视化分析显示，其对特征的关注分工（如$H_2/CH_4$对应放电，$C_2H_4/C_2H_6$对应过热）与已知的油色谱诊断机理高度契合，具备明确的物理意义。Stacking集成增强了模型的泛化能力与稳定性：利用Logistic回归元学习器融合多个基分类器的预测概率及不确定性指标（如信息熵、胜出边距），模型有效降低了对单一模型偏差的依赖。在不同随机种子与数据划分下的多次实验表明，本文模型不仅在准确率上优于简单投票集成（Ensemble），且标准差较小，表现出极强的鲁棒性，特别是针对少数类故障的识别性能改善尤为明显。分类粒度的动态调整可满足多样化的工程需求：研究发现，在粗粒度的三分类任务中，模型性能表现优于细粒度的七分类任务，这主要得益于类别合并缓解了数据不平衡及相近故障间的混淆。在工业实践中，可根据需求灵活切换方案：在需要精准定位故障点时采用七分类模型；在追求极高预警可靠性时则采用三分类方案。本文模型在两种尺度下均展现出优异的性能。综上所述，本文构建的多视图融合DGA故障诊断模型在综合性能上优于现有主流方法，验证了算法的先进性与有效性。该模型为变压器状态监测提供了兼具高精度与可解释性的新思路。未来工作展望：工程化部署：后续将考虑将模型集成至变压器在线监测系统，验证其在实时数据流环境下的运行性能与长期鲁棒性。多源数据融合：探索将油温、负荷工况、电气参数等更多维度的监测数据接入模型，进一步提升诊断的全面性与多维关联能力。参考文献：IEC60599:2022.矿物油浸变压器在运行中油中气体分析指南.IEC60599:2022;MineralOil-ImpregnatedElectricalEquipmentinService—GuidetotheInterpretationofDissolvedandFreeGasesAnalysis.InternationalElectrotechnicalCommission,Geneva,Switzerland,2022.ArnaudNanfak,EricSamuel,IssoufFofana,etal.基于油中气体分析的变压器传统故障诊断方法：过去、现在和未来【J】.IETNanodielectrics,2024,7(2):97-130.NanfakA.,SamuelE.,FofanaI.,etal.Traditionalfaultdiagnosismethodsformineraloil-immersedpowertransformerbasedondissolvedgasanalysis:Past,presentandfuture[J].IETNanodielectrics,2024,7(2):97-130.SaadA.M.A.,IbrahimB.M.T.,RizkF.,SherifS.M.G.基于DGA方法的变压器故障智能诊断系统【J】.ScientificReports,2025,15(1):8263.SaadA.M.A.,IbrahimB.M.T.,RizkF.,SherifS.M.G.TransformerfaultdiagnoseintelligentsystembasedonDGAmethods[J].ScientificReports,2025,15(1):8263.AbdelmoumeneHechifa,A.Lakehal,A.Nanfak,etal.基于树集成学习和多特征向量分析的变压器故障诊断方法改进【J】.ElectricalEngineering,2023,105(8):2575-2594.HechifaA.,LakehalA.,NanfakA.,etal.Improvedintelligentmethodsforpowertransformerfaultdiagnosisbasedontreeensemblelearningandmultiplefeaturevectoranalysis[J].ElectricalEngineering,2023,105(8):2575-2594.柏旭光,臧永兴,葛莉,等.基于油中气体异常选择法的变压器故障诊断研究【J】.高电压技术,2023,49(11):3873-3886.BaiXuguang,ZangYongxing,GeLi,etal.Transformerfaultdiagnosisusingdissolvedgasanomalyselectionmethod[J].HighVoltageEngineering,2023,49(11):3873-3886.杨磊,高雷,罗晓红,等.基于改进B样条三比值法的变压器故障诊断方法【J】.中国电机工程学报,2024,34(11):4129-4136.YangLei,GaoLei,LuoXiaohong,etal.FaultdiagnosismethodfortransformersbasedonimprovedB-splinetheorywiththree-ratio[J].ProceedingsoftheCSEE,2024,34(11):4129-4136.IEC60599:2015.油纸绝缘电气设备故障的油中气体分析解释指南.IEC60599:2015;Mineraloil-filledElectricalEquipmentinService–GuidanceontheInterpretationofDissolvedandFreeGasesAnalysis.IEC,Geneva,2015.何斌敏.基于三比值法的典型变压器故障案例分析【J】.电气技术,2023,24(10):63-67.HeBinmin.Analysisoftypicaltransformerfaultcasesbasedonthethree-ratiomethod[J].ElectricalTechnology,2023,24(10):63-67.田杰,朱智伟,孙佳,等.基于BP神经网络和改进三比值法的变压器故障诊断方法【J】.工业控制计算机,2024,37(3):135-136.TianJie,ZhuZhiwei,SunJia,etal.TransformerfaultdiagnosismethodbasedonBPneuralnetworkandimprovedthree-ratiomethod[J].IndustrialControlComputer,2024,37(3):135-136.张维,袁军,王双,张凯.基于改进三比值法的变压器故障基本可靠性分布计算方法【J】.电力系统保护与控制,2015,43(17):115-121.ZhangWei,YuanJun,WangShuang,ZhangKai.Basicreliabilitydistributioncalculationmethodfortransformerfaultbasedontheimprovedthree-ratiomethod[J].PowerSystemProtectionandControl,2015,43(17):115-121.牟松,徐涛,傅安洲.基于自适应深度学习模型的变压器故障诊断方法【J】.南方电网技术,2018,12(1):14-19.MouSong,XuTao,FuAnzhou.Transformerfaultdiagnosismethodbasedonadaptivedeeplearningmodel[J].SouthernChinaGridTechnology,2018,12(1):14-19.孔祥,蔡博,余洋,等.面向电-液控制系统早期故障的智能诊断方法【J】.南方电网技术,2019,13(6):77-84.KongXiang,CaiBo,YuYang,etal.Intelligentdiagnosismethodforearlyfaultsofelectro-hydrauliccontrolsystem[J].SouthernChinaGridTechnology,2019,13(6):77-84.周云鹏.变压器故障诊断技术【J】.电力自动化设备,2019,39(4):1-7.ZhouYunpeng.Transformerfaultdiagnosistechnology[J].ElectricPowerAutomationEquipment,2019,39(4):1-7.张又文,冯斌,陈页,等.基于遗传算法优化XGBoost的油浸式变压器故障诊断方法【J】.电力自动化设备,2021,41(2):200-206.ZhangYouwen,FengBin,ChenYe,etal.FaultDiagnosisMethodforOil-ImmersedTransformerBasedonXGBoostOptimizedbyGeneticAlgorithm[J].ElectricPowerAutomationEquipment,2021,41(2):200-206.王雨虹,王志中.基于RFRFE与改进麻雀算法优化XGBoost的变压器故障辨识方法【J】.电子测量与仪器学报,2021,35(12):142-150.WangYuhong,WangZhizhong.TransformerFaultIdentificationMethodBasedonRFRFEandISSA-XGBoost[J].JournalofElectronicMeasurementandInstrumentation,2021,35(12):142-150.TianyuShang,YiminWei,SiyuanZhang,etal.基于知识蒸馏和残差CNN的变压器故障诊断【J】.Entropy,2023,25(7):995.ShangTianyu,WeiYimin,ZhangSiyuan,etal.Transformerfaultdiagnosisbasedonknowledgedistillationandresidualconvolutionalneuralnetworks[J].Entropy,2023,25(7):995.周志华.机器学习.北京:清华大学出版社,2016:232-240.LeoBreiman.Bagging预测器【J】.MachineLearning,1996,24(2):123-140.BreimanL.Baggingpredictors[J].MachineLearning,1996,24(2):123-140.DavidH.Wolpert.堆叠泛化【J】.NeuralNetworks,1992,5(2):241-259.WolpertD.H.Stackedgeneralization[J].NeuralNetworks,1992,5(2):241-259.TianqiChen,CarlosGuestrin.XGBoost:可扩展的树提升系统【C】//KDD2016:785-794.ChenT.,GuestrinC.XGBoost:AScalableTreeBoostingSystem[C]//Proc.ofKDD2016:785-794.AshishVaswani,NoamShazeer,N.Parmar,etal.注意力全靠它【C】//NeurIPS,2017:5998-6008.VaswaniA.,ShazeerN.,ParmarN.,etal.Attentionisallyouneed[C]//Proc.ofNeurIPS2017:5998-6008.DzmitryBahdanau,KyunghyunCho,YoshuaBengio.使用全局对齐模型的神经机器翻译【C】//ICLR,2015.BahdanauD.,ChoK.,BengioY.Neuralmachinetranslationbyjointlylearningtoalignandtranslate[C]//Proc