《基于深度学习的故障诊断研究的国内外文献综述》2800字

基于深度学习的故障诊断研究的国内外文献综述1.1深度学习技术自深度学习技术被引入机器学习以来，学者们已经得出了许多研究成果，尤其是在故障诊断领域已经有深入的发展研究。随着深度学习的迅速发展，它形成了原理、结构和适用范围都不尽相同的多种深度学习模型，其中最为常见的模型主要分为四种包括：栈式自编码网络(StackedAutoencoder)、深度置信网络(DeepBeliefNetworks)、卷积神经网络(ConvolutionalNeuralNetworks)以及循环神经网络(RecurrentNeuralNetwork)。深度学习训练过程包含了两种，第一种为非监督学习，它的最大特征即自下而上地对特征进行提取学习。第二种为监督学习，它的特征为自上而下地进行学习。前者先从网络的底层开始，一步一步往顶层进行学习训练，它利用了输入的无标签数据逐层训练每一层中的参数，这种训练的无监督特性是优于传统神经网络最大特点，可以将其视为特征学习过程。后者则是采用带标签的数据，将误差从上而下传输，同时对网络进行微调，并基于前者得到的各层参数有监督地对整个神经网络模型的参数进行优化调整。因此深度学习效果的优良很大程度上取决于前者的非监督学习过程。1.2循环神经网络发展简述循环神经网络是具有反馈循环功能的一种网络，具有良好的记忆性，且能参数共享，它采用了顺序数据，因此优点便在于它的时间相关性模型，基于模型循环神经网络可以处理随机长度的序列信息，在动态工业过程监控和预测上有极其良好的应用。1833年，一位生物学家发现了大脑皮层允许刺激能够在神经网络中循环传递。同时随着生物学发展，发现了α-运动神经中行程的循环反馈系统。在这些基础上，模拟循环反馈系统而建立的数学模型应运而生，为RNN的创建带来了启发。在二十世纪八九十年代，有研究学者基于上述的数学模型提出了循环神经网络这一概念。在此之后，循环神经网络的发展经过了数位研究者的不懈努力。1982年Hopfield运用二元查找树原理，基于神经数学模型建立了具有反馈功能的Hopfield神经网络，实现了递归计算和外部记忆，并使用能量函数进行非监督学习。接着在1986年，Jordan运用分布式并行处理（MapReduce）理论，使用反向传播算法（BP）进行学习，提出了第一个全连接RNN网络。1991年，Hochreiter发现了RNN训练过程中的一个至关重要的问题——长期记忆失效问题，循环神经网络会无法对时间较远的信息进行学习，丧失对时间价值较大信息的学习能力，与之相伴产生的梯度消失及爆炸现象，无法学习长时间跨度的非线性关系。因此数位研究者为消除梯度爆炸现象不断改进RNN，在1997年Schmidhuber及其合作者提出了神经历史压缩器（NeuralHistoryCompressor，NHC）和长短期记忆网络（LongShort-TermMemorynetworks，LSTM），其中LSTM中的门控结构引发了广泛关注。2014年，K.Cho利用门控结构提出了门控循环单元网络（GatedRecurrentUnitnetworks，GRU）。到了21世纪，循环神经网络开始被应用在深度学习中，RNN在许多领域得到了都起到了至关重要的作用，是多个领域的研究重点。RNN最为核心的部分由一个有向图所组成。在这个有向图中，循环神经网络中的各个单元以链式的方式相互联系，这种由循环单元所组成的链式连接可以理解为前馈神经网络（FeedforwardNeuralnetwork）中的隐藏层。整个循环神经网络在普通的全连接层网络的基础上，在神经网络模型的隐藏层中还引入了信息记忆功能，即当前状态隐藏层的输入不仅是当前状态的输入，还包含上一状态隐藏层的输出。因此，循环神经网络的每次输出都会考虑前一状态神经网络的序列数据信息。所以，RNN在对拥有时间序列的轴承故障数据进行诊断分类时具有较大的优势。1.3故障诊断方法随着工业的快速发展，复杂工业过程工艺复杂导致传统方法逐渐难以对其进行故障诊断，而如何从海量数据中提取出价值的有效的信息并对其进行处理已经成为关键问题。在故障诊断方法中，深度学习技术已经成为近年来工业生产设备领域中的重点研究方向，该方法的强通用性与高适应性很好地满足了工业设备生产的需求，同时还摆脱了个人经验的错误引导，具有极佳的鲁棒性。而本文所用的基于循环神经网络正是基于数据驱动的故障诊断分类方法之一，但同时身为新事物，该方法也存在着诸多缺陷。因为复杂工艺的一些特性，例如非线性、时间相关性等，导致采集的数据类别和分布不均衡，或者数据中的信息价值较低致使神经网络无法很好地训练学习，甚至因为采样的问题导致数据缺失。这些问题最终导致了故障诊断的不确定性，会极大的影响循环神经网络的学习能力。在数据预处理阶段，对预处理方式进行改进。对不同具体的神经网络模型采用不用的归一化方式，并在此技术上研究故障诊断数据集的数据集。因此在输入数据阶段，常采用特征增强的方式来避免因数据集过少而产生的过拟合问题，同样，也可采用不同的正则化方式来解决这些问题。在故障诊断模型的选择上，往往倾向于选择多种模型方法混合。由于故障数据普遍的时序特性，在进行故障诊断时会更多的应用循环神经网络结构来发挥作用。在滚动轴承故障诊断过程中，针对难以解决的梯度消失爆炸问题，在文献[8]中提出了改进堆叠式循环神经网络模型，采用了将三个GRU-RNN层和一个softmax层堆叠的方法形成四层网络结构，既利用了循环神经网络具有时间相关性的特性，又解决了循环神经网络的梯度消失及爆炸问题，从而对轴承故障进行了高精度地分类及诊断。参考文献[1]蒋强，沈林，张伟，何旭.基于深度学习的故障诊断方法研究[J].计算机仿真,2018,7(1):409-413.[2]文成林，吕菲亚.基于深度学习在故障诊断方法综述[J].电子与信息学报,2020,42(1):234-248.[3]张士强.基于深度学习的故障诊断技术研究[D].哈尔滨工业大学,2018.[4]LecunY，BengioY，HintonG．Deeplearning[J]．Nature，2015，521(7553):436-444．[5]邓婕，李舜酩.基于深度学习的故障诊断方法研究综述[J].电子测试,2020,(18):43-47.[6]刘林凡.深度学习在故障诊断中的研究综述[J].新型工业化,2017,7(4):45-48.[7]周奇才.基于改进堆叠式循环神经网络的轴承故障诊断[J].同济大学学报,2019,47（10）1500-1507.[8]陈淑，余建波.卷积神经网络多变量过程特征学习与故障诊断[J].哈尔滨工业大学学报,2020,52（7）：59-67.[9]鲁燕春，李炜.基于深度置信网络的炼化空压机故障诊断方法[J].化工学报,201970（2）：757-763.[10]解颖，王丰华，傅正财.基于栈式自编码器的变压器机械故障诊断[J].高压电器,2020,56（9）：46-53，59.[11]许倩文，吉兴全，张玉振，李军，于永进.栈式降噪自编码网络在变压器故障诊断中的应用[J].电测与仪表,2018,55(17):62-67.[12]周奇才，王益飞，赵炯，熊肖磊，沈鹤鸿.基于LSTM循环神经网络的盾构机故障预测系统设计[J].现代机械,2018,（5）：35-40.[13]Teng.C,Wu.A.ConvolutionalNeuralNetwork-AidedTree-BasedBit-FlippingFrameworkforPolarDecoderUsingImitationLearning[J].IEEETransactionsonSignalProcessingIEEETrans.SignalProcess.SignalProcessing,IEEETransactionson.69:300-313202.[14]GuoLiang,LiNaipeng,JiaFeng,LeiYaguo,LinJing.Arecurrentneuralnetworkbasedhealthindicatorforremainingusefullifepredictionofbearings[J].Neurocomputing,2017,240:98-109.[15]JingweiQiu,WeiLiang,LaibinZhang,etal.Theearly-warningmodelofequipmentchainingaspipelinebasedonDNN-HMM[J].JofNaturalGasScienceandEngineering,2015,27:1710-1722.[16]LiaoK,ZhaoY,GuJ,ZhangY,ZhongY.SequentialConvolutionalRecurrentNeuralNetworksforFastAutomaticModulationClassification[J].IEEEAccessAccess,IEEE.9:27182-271882021[17]宫文峰，陈辉，张泽辉，张美玲，管聪，王鑫.基于改进卷积神经网络的滚动轴承智能故障诊断研究[J].振动工程学报，2020，33（2）:400-413.[18]张晨.基于深度学习的轴承故障诊断研究[D].内蒙古科技大学,2020.[19]李俊峰.基于循环神经网络和蝙蝠算法的变压器故障诊断[J].电工技术，2018,（20）:38-41[20]QinN,LiangK,HuangD,MaL,KempA.H.MultipleConvolutionalRecurrentNeuralNetworksforFaultIdentificationandPerformanceDegradationEvaluationofHigh-SpeedTrainBogie[J].IEEETransactionsonNeuralNetworksandLearningSystemsIEEETrans.NeuralNetw.LearningSyst.NeuralNetworksandLearningSystems,IEEETransactionson.31(12):5363-537