CN119493987A 迁移学习模型训练方法、计算设备和计算机可读存储介质 （华为技术有限公司）

本公开的实施例提供了一种迁移学习模型利用采样模型并且在训练采样模型的过程中考过分类模型得到的分类边界不会过分向小类移动，避免了分类模型在目标域上的低召回率问2将经训练的所述特征提取模型和所述分类模型确定为所述迁基于所述源域样本和与所述源域样本对应的标签，对所述特征提取基于所述经训练采样的第一域训练样本的标签分基于每个第一域训练样本的信息增益以及所述训练采样的次数，确定加权信息增益；基于所述相对熵和所述加权信息增益来训练所标签分布估计作为所述第二域样本的所述标签基于所述经采样的第一域样本和所述第二域样本基于所述交叉熵损失、所述对抗损失和所述判别损失，来训练所3所述目标域样本特征提取器在所述相应时刻的前一时刻9.根据权利要求1至8中任一项所述的方法，其中所述10.根据权利要求1至9中任一项所述的方法，所述源域样本包括一个或者多个设备的其中所述故障预测模型根据权利要求1至10中任一项所述的迁移学习模型训练方法训器读取并执行所述计算机程序时，使得所述计算设备执行根据权利要求1至10或者11至12算机程序被处理器执行时实现根据权利要求1至10或者11至12所述至少一个处理器通过所述接口获取程序指令所述至少一个处理器用于执行所述程序行指令，以实现权利要求1至10或者11至12中4[0003]虽然在计算机视觉和自然语言处理等领域已经出现了大量迁移学习和域自适应经训练的特征提取模型和分类模型确定为迁5[0009]在第一方面的一些实施例中，基于相对熵和加权信标域样本特征提取器也会逐渐收敛到与源域样本特征6域样本来预先训练特征提取模型和分类模型，可以提升特征提取模型和分类模型的精度，[0022]在第二方面的一些实施例中，基于相对熵和加权信7中是否存在故障，其中故障预测模型根据上述第一方面或其任一实施例中的方法训练得令在被执行时使设备实现根据上述第一方面或其任一实施例令在被执行时使设备实现根据上述第三方面或其任一实施例8[0048]图7示出了根据本公开实施例的源域样本特征提取器和目标域样本特征提取器中[0050]图9A示出了根据本公开实施例的训练方法得到的迁移学习模型在目标域数据异常比例为10％的情况下与其他方法在召回率和误[0051]图9B示出了根据本公开实施例的训练方法得到的迁移学习模型在目标域数据异常比例为1％的情况下与其他方法在召回率和误[0052]图10示出了根据本公开的实施例的用于训练迁移学习模型的训练装置的示意框[0057]人工智能(ArtificialIntelligence，AI)利用计算设备来模拟人的某些思维过[0060]自监督学习(self_supervisedlearning)是一种利用辅助任务从无监督的数据9[0064]类别不平衡问题(ImbalancedClassification)：类别不平衡问题是指在分类任的运行数据的时间序列数据集120发送到故障检测模型150。故障模型检测模型150可以处[0070]虽然在计算机视觉和自然语言处理等领域已经出现了大量迁移学习和域自适应[0073]图3示出源域样本和目标域样本在特征分布对齐前和对齐之后的对比图。源域样移学习模型在目标域上存在很高的误报率和错误率，这对于故障预测任务来说是不期望[0076]图4示出根据本公开实施例的、可以应用于图1的系统100中的迁移学习过程的示行训练过程410的设备可以被实现为计算设备或者计算设备的一部分，其中计算设备包括如框411所示。训练设备可以通过特征提取模型来提取源域样本的特征和目标域样本的特标签分布估计以及基于每个源域训练样本的信息增益以及训练采样的次数确定的加权信[0079]训练设备可以多次迭代地进行训练过程410中的上述训练过程，以获得经训练的[0082]根据本公开实施例的迁移学习模型的训练方法通过利用经训练的采样模型对采[0085]在504中，训练设备可以至少基于源域样本和目标域样本中的第一域样本的信息增益来训练采样模型。经训练的采样模型所采样的样本所在的第一域可以被称为“采样第一域或者采样域样本的标签分布与第二域或者非采样域样本的标签分布相匹配或者对在经采样的第一域样本的标签分布与第二域样本的标签分布估计相匹配或者对齐的基础模型训练方法使用两个独立网络分别实现特征提取与分布对齐，解耦特征对齐与标签对[0091]以下将结合附图详细描述根据本公开实施例的图5中的各个步骤的具体实现方特征提取器各自包括两个网络模型来分别提取样本的频域上的信息和时域上的信息，即，每个特征提取器可以包括频域特征提取器和时域特征提取器。图7示出根据本公开实施例例进行说明，但可以理解的是，图7中的框图以及相应的描述对于目标域样本特征提取器[0094]如图7所示，源域特征提取器612可以包括频域特征提取器710、时域特征提取器频域特征提取器710中的傅里叶变换模型711对时间序列的输入源域样本xs进行离散傅里操作之后的结果被输入至第三卷积神经网络7[0095]源域样本特征提取器612的时域特征提取器720用于对输入信号中的时域信息进行处理。对于输入的源域样本xs中的时域信息，图7中示意出N个门控循环单元GRU721_[0100]返回图6，源域样本特征提取器612的输出特征Zs和目标域特征提取器614的输出型620，训练设备可以分别获得源域样本的标签估计601和目标域样本的标签估计型可以尽可能地靠近分类边界来对采样域样本(例如，源域样本或者目标域样本)进行采计算样本的信息增益。具体地，对于分类模型620，训练设备可以通过T次丢弃单元[0117]在一些实施例中，根据本公开实施例的训练采样模型630的至少一个目标在于选为目标域的情况下，训练采样模型630的一个目标在于选择合适的源域数据来对齐目标域到可学习采样网络SampleNet，根据本公开实施例的训练方法可以利用gumbel_softmax进,样本被采样到多次。根据采样结果训练设备可以得到训练采样后的源域分类模型620对目标域样本处理之后得到。标签分布与目标域样本的标签分布估计的KL散度最小化，可以使得训练后的采样模型630为来自不同类的f(xs)赋予不同的采样数量从而实现总信息增益来实现这一目的。以上的描述中已经通过公式(4)给出了信息增益估计的计算方法，进一步结合训练采样次数ni可以得到加权后的信息增益：i(根据本公开实施例的训练方法可以通过最小化公式(8)来引导采样模型630选择源域样本[0134]在训练好采样模型630之后，可以实现经采样的源域样本的标签分布与目标域样特征提取模型610和分类模型620进行训练，来实现源域样本和目标域样本的特征分布对他特征被称为域不变特征。根据本公开实施例的训练方法采用生成对抗网络模型640来指地，域判别器644的目标是区分特征提取模型610提取到的特征f(x)来自源域还是目标域。训练设备可以通过最小化域判别器644的输出和域标签之间的交叉熵来训练域判别器644。提取到的特征表示向量f(x)含有的域相关特征尽可能少，即，让提取到的特征表示向量f用目标函数(12)和目标函数(11)来训练特征提取模型610、分类模型620和特征生成器642程以及对特征提取模型和分类模型的具体训练过程。图8示出根据本公开另一实施例的用具有与图6中的附图标记相同的元件具有相同或者相似的功能，为简明起见，此处不再赘[0144]在一些实施例中，根据本公开实施例的训练采样模型630的至少一个目标在于选域为源域的情况下，训练采样模型630的一个目标在于选择合适的目标域数据来对齐源域可学习采样网络SampleNet，根据本公开实施例的训练方法可以利用gumbel_softmax进行[0148][r,xe]XM')(14)外一些样本被采样到多次。根据采样结果N=[nz,n2,…,ny],并根据分类模型620对采样结的标签分布g;可以由分类模型620对经训练采样本的标签分布估计与源域样本的标签分布的KL散度最小化，可以使得训练后的采样模型630为来自不同类的f(xt)赋予不同的采样数量从而实现总信息增益来实现这一目的。以上的描述中已经通过公式(4)给出了信息增益估计的计算根据本公开实施例的训练方法可以通过最小化公式(16)来引导采样模型630选择目标域样[0160]在训练好采样模型630之后，可以实现经采样的目标域样本的标签分布与源域样他特征被称为域不变特征。根据本公开实施例的训练方法采用生成对抗网络模型640来指[0162]在一些实施例中，图8中所示的生成对抗网络模型640中的特征生成器642和域判别器644与图6中的特征生成器642和域判别器644是类似的。域判别器644用于学习特征提提取模型610提取到的特征f(x)来自源域还是目标域。训练设备可以通过最小化域判别器644的输出与域标签之间的交叉熵来训练域判别器644。对于特征提取模型610提取到的特公式(18)确定的判别损失Ldist训练域判别器提取到的特征表示向量f(x)含有的域相关特征尽可能少，即，让提取到的特征表示向量f特征生成器642的目标函数Ladvt与判别器644的目标函数Ldist相反。根据本公开实施例的用于特征生成器642的目标函数可以被称为对抗损失，该对抗训练损失Ladvt可以由公式(19)函数(20)和目标函数(19)来训练特征提取模型610、分类模型620和特征生成器642与域判签稳定性更好、鲁棒性更强，根据本公开实施例的训练方法使用平均模型，即动量时刻t的参数与源域样本特征提取器612在该时刻t的模型参数以及该目标域样本特征提取m为目标域样本特征提取器614的参数，θf为源域样本特征提取器612的参mt为目标域样本特征提取器614在时刻t的参数，θmt_1为目标域样本特征提取器[0173]通过将目标域样本特征提取器614在时刻t的参数与源域样本特征提取器612在该时刻t的模型参数以及该目标域样本特征提取器614在相应时刻t的前一时刻(t_1)的模型参数相关联，可以使得目标域样本特征提取器614更加稳定，而且随着训练的迭代次数增得到的迁移学习模型在目标域数据异常比例为10％的情况下与其他方法在召回率和误报[0177]图9B示意出根据本公开实施例的训练方法得到的迁移学习模型在目标域数据异常比例为1％的情况下与其他方法在召回率和误报率方面的统计情况。在目标域数据异常例的训练迁移学习模型的方法可以有效地实现在高不平衡[0182]图10示出了根据本公开的实施例的用于训练迁移学习模型的训练装置900的示意练单元920，被配置至少基于源域样本和目标域样本中的第一域样本的信息增益训练采样为将经训练的特征提取模型和分类模型确定为迁移模型基于目标域样本，来生成目标域样本的标签分布估计作为第二域样本的所述标签分[0192]在一些实施例中，源域样本包括一个或者多个设备的历史运行数据或者仿真数[0198]图12示出了可以用来实施本公开的实施例的示例设备1200的示意性框图。设备或者被包括在用于利用经训练的迁移学习模型进行诸如故障1202和/或RAM1203中的计算机程序指令或者从存储单元1208加载到ROM1202和/或RAM还可存储设备1200操作所需的各种程序和数据。处理器1201和ROM1通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信[0201]处理器1201可以是各种具有处理和计算能力的通用和/或专用处理组件。可以被以经由ROM1202和/或RAM1203和/或通信单元1209而被载入和/或安装