《不确定性量化研究领域现状综述》3000字

不确定性量化研究领域现状综述当下对不确定性量化的研究主要有两个方向：一个是不确定性的前向传播问题，主要研究各种不确定性因素对模型或者系统输出的影响；另一个是不确定性反向传播问题，主要研究模型的反向评估和参数的估计。因为模型或者系统输出的不确定性直接影响着系统的稳定性或者决策的可信度，所以一直以来，不确定性量化的前向传播问题被广泛研究，许多方法都是为该类问题开发。但是因为如果可以量化系统中的未知参数，将会更有利于对系统或者模型的输出进行不确定性量化，所以现在对于不确定性量化的反向传播问题的研究也越来越多REF_Ref70509894\r\h[7]。1.1前向不确定性传播方法论如图1.2所示，前向不确定性传播问题主要研究的是各种不确定性因素在输入端传入系统，不确定性经过系统后传递到输出端，最后量化输出端的不确定性。量化输出端不确定性的指标主要有：均值，方差，标准差，变异系数，置信区间，输出的失效概率，输出的分布函数等等REF_Ref70507524\r\h[8]。图1-2前向不确定性传播过程现有的主要的不确定性分析方法主要包括概率方法和非概率方法这两种。其中非概率方法主要包括模糊理论REF_Ref70508257\r\h[9]，证据理论REF_Ref70508257\r\h[9]，可能性理论REF_Ref70509894\r\h[7]和区间分析REF_Ref70508272\r\h[11]，但是由于非概率方法和决策分析理论并没有很强的一致性，所以在本文中不展开讨论。而概率方法主要包括基于函数展开的方法，基于数值积分的方法，基于仿真的方法，基于最可能点的方法和基于局部展开的方法这五种。在基于函数展开的方法中，最具代表性的是多项式混沌展开（Polynomialchaosexpansion）REF_Ref70509041\r\h[12]。多项式混沌展开主要以多组正交随机过程展开的方式来近似描述系统的不确定性。同时该方法包含用于随即分析的高精度方法。基于数值积分的方法主要包括降维（DimensionalityReduction,DR）和全因子数值积分（FullFactorNumericalIntegration,FFNI）REF_Ref70510668\r\h[13]。FFNI原理是通过估计统计矩来计算数值积分，在得到一至四阶矩之后，就可以估计分布函数或者失效概率。这种方法将积分公式离散化，通过求解正交点的加权和来计算积分，而各正交点的位置和权重则有各阶矩来估算。DR方法与FFNI方法原理基本一致。基于仿真的方法主要应用的是蒙特卡罗方法（MonteCarloMethod,MC）REF_Ref70511070\r\h[14]，该方法的原理是：通过试验的方法，得到这种事件出现的频率，或者频率的平均值，并将它们作为随机事件的概率，其实就是用频率估计概率。蒙特卡罗方法数学方法来模拟实验。它是以概率模型为基础，按照这个模型所描绘的过程，通过模拟实验的结果，作为问题的近似解。可以把蒙特卡罗方法归结为三个主要步骤:构造或描述概率过程;实现从已知概率分布抽样;建立各种估计量。这种方法的有点主要有：操作简单，试验人员仅需做的就是不断地重复仿真试验，而且该方法不需要提前假设模型的连续性，不需要深入理解内部工作原理，也不会受到参数维度高低的影响。但是蒙特卡罗方法的缺点就是计算量比较大，效率比较低，而且需要重复进行多次实验，时间成本比较高。基于最可能点法的不确定性量化方法主要包括了一阶可靠性方法（FirstOrderReliabilityMethod,FORM）和二阶可靠性方法（SecondOrderReliabilityMethod,SORM）REF_Ref71192597\r\h[20]。最可能点法主要应用在系统失效概率的问题，将联合分布函数转换为独立的边缘分布函数，而且是标准正态分布，在失效边界上寻找与正态分布的原点距离最近的点作为最可能点，并且在该点处将是失效边界函数进行二阶泰勒展开，得到一个近似的替代模型，最后用得到的替代模型进行失效概率的估计。最后基于局部展开的方法主要包括微扰理论（PerturbationTheory）与泰勒级数（TaylorSeries）REF_Ref70512125\r\h[19]。这类方法普适性不是很好，只能处理较小的输入变异，而且输出是非线性变化，主要应用在流体力学中。1.2反向不确定性传播方法论如图1.3所示，反向不确定性问题主要研究系统中的未知参数，进而来描述系统最终结果的不确定性，实质就是通过输出估计输入。图1-3反向不确定性传播过程这种不确定性反向传播的问题主要涉及概率论，计算，分析学等领域，在流行病学，生物，交通流量设计等方面有着重要应用。该问题主要是将模型和数据结合了起来，以便用来推导模型中不确定的参数，如果参数得以确定，反过来系统的不确定性量化将方便许多，而且可信度很高。在反向传播的问题中主要有两种处理方法：第一种是频率学，第二种是贝叶斯理论。两种方法共同之处是都需要事先得到模型输出的结果，都可以加入一定的约束条件。两者不同之处在于贝叶斯理论在处理随机变量为已知分布的情况时效果更好，而频率法更适用于随机变量为未知分布的情况。从本质来看，两种方法都是在包含噪声的数据中提取有用数据来进行分析REF_Ref70509894\r\h[7]。1.3基于深度神经网络的不确定性量化研究现状和发展趋势深度学习其实是机器学习的一部分，而机器学习又是人们所熟知的人工智能的一种实现方式，机器学习的发展经历了浅层机器学习到深层机器学习这两个阶段。两者之间存在的主要区别是浅层机器学习不使用分布式表示，而是需要人为提取特征，模型只是用来做预测或者分类问题，系统的精度很大程度上取决于人为提取特征的准确度。深度学习可以从输入数据中自动提取特征，大大提高了模型的准确度和可信度，而且模型的准确度会随着深度的增加而呈指数增长REF_Ref70520170\r\h[21]。MinskyREF_Ref71193198\r\h[22]在1969年发表感知器的专著中解决了单层感知器解决异或XOR的问题。1986年，HintonREF_Ref71193265\r\h[23]提出了第二代神经网络，他将含固定的特征层的神经网络替换成了含有多个隐藏层的网络，并且选用Sigmoid函数作为激活函数，利用损失函数的反向传播算法来训练模型，有效的解决了非线性分类问题。Cybenko和HornikREF_Ref71193309\r\h[24]等随后证明了：对于给定的任何函数，我们都可以使用三层神经网络以任意精度来逼近。同年，LeCunREF_Ref71193337\r\h[26]使用卷积神经网络实现了识别手写体。在此之后的十多年，浅层机器学习模型得到了快速发展。2006年，HintonREF_Ref71193364\r\h[28]等提出了使用自编码器来降低数据的维度并且用预训练的方式快速训练深度网络，以此来优化梯度消失。PoultneyREF_Ref71193389\r\h[29]等实现了用基于能量的模型来进行有效学习的稀疏表示。这些成果共同奠定了深度学习的基础，深度学习得到了快速发展。2012年，Hinton和他的学生降低了图片识别的错误率。在此之后，DauphinREF_Ref71193414\r\h[30]和ChoromanskaREF_Ref71193438\r\h[31]等分别证明了局部极小值问题并不是一个严重的问题，深度学习取得了重大突破。现有的不确定性量化研究主要建立在数理统计的基础之上，正如章节1.1中所提到的方法。除了基于概率统计的方法，如何利用深度学习强大的特征提取能力进行不确定性分析逐渐得到了越来越多的关注。LiMingyang,WangZequn等人利用深度学习实现了高维可靠性用极限状态函数来估计REF_Ref71193463\r\h[32]，LuoXihaier,AhsanKareem将深度卷积神经网络用于随机场中的不确定性传播REF_Ref71190738\r\h[33]。通过文献调研来看，利用深度学进行不确定性量化还有很大的发展空间，探究如何利用深度学习强大的特征提取能力得到更好的不确定性分析方法是十分有意义的。参考文献季文强.基于深度学习和不确定性量化的数据驱动剩余寿命预测方法研究[D].中国科学技术大学,2020.BieglerL,BirosG,GhattasO,etal.Large-scaleinverseproblemsandquantificationofuncertainty[M].JohnWileyandSons,2011.KeynesJM.Thegeneraltheoryofemployment,interest,andmoney[J].EconomicRecord,1964,12(1-2):28-36.彭宇,刘大同,彭喜元.故障预测与健康管理技术综述明.电子测量与仪器学报[J].2010(1):1-9.PaceNG,JensenF.Impactoflittoralenvironmentalvariabilityofacousticpredictionsandsonarperformance[J].SpringerNetherlands,2002,11(12):213-218.HintonGE,SalakhutdinovRR.Reducingthedimensionalityofdatawithneuralnetworks[J].Science,2006,313(5786):504-507．王洪桥.高斯过程回归在不确定性量化中的应用[D].上海交通大学,2018.SmithL,GalY.Understandingmeasuresofuncertaintyforadversarialdetection[J].ProceedingsoftheThirty-FourthConferenceonUncertaintyinArtificialIntelligence,2018:560-569.KlirG,YuanB.Fuzzysetsandfuzzylogic[M].PrenticeHallNewJersey,1995.GuanJW,BellDA.Evidencetheoryanditsapplications[M].ElsevierScienceInc,1992.JaulinL.Appliedintervalanalysis:withexamplesinparameterandstateestimation,robustcontrolandrobotics[M].SpringerScienceandBusinessMedia,2001.WienerN.Thehomogeneouschaos[J].AmericanJournalofMathematics,1938,60(4):897-936.LeeSH,ChenW.Acomparativestudyofuncertaintypropagationmethodsforblack-box-typeproblems[J].StructuralandMultidisciplinaryOptimization,2009,37(3):239.MetropolisN.MonteCarloMethod[J].FromCardinalstoChaos:Reflectiononthelifeandlegacyofstanislawulam,1989:125.CunhaA,NasserR,SampaioR,etal.UncertaintyquantificationthroughtheMonteCarlomethodinacloudcomputingsetting[J].ComputerPhysicsCommunications,2014,185(5):1355-1363.JamesF.MonteCarlotheoryandpractice[J].ReportsonProgressinPhysics,1980,43(9):1145.ZhangJ,DuX.Asecond-orderreliabilitymethodwithfirst-orderefficiency[J].JournalofMechanicalDesign,2010,132(10):101006.KiureghianAD,DakessianT.Multipledesignpointsinfirstandsecond-orderreliability[J].Str