基于二次函数极小值搜索法的拉格朗日乘子搜索

基于二次函数极小值搜索法的拉格朗日乘子搜索

0基于二次搜索的拉格朗日乘子搜索计算在地球磁性反演中，目标函数梯度信息的优化方法发挥着重要作用。很多学者在优化Occam反演的计算量上做了大量的研究,Siripunvaraporn基于上述考虑,作者对Occam法反演中提高拉格朗日乘子的搜索效率上做了进一步研究,结合拉格朗日乘子在Occam方法反演迭代中的变化特性,提出了对该参数应当采用对数变换,并结合二次搜索方法来开展搜索计算。将上述方法应用到了一维Occam反演的拉格朗日乘子搜索中,试图提高拉格朗日乘子搜索的计算速度。这里首先介绍了Oc-cam法反演的原理,然后详细介绍了对数二次法搜索原理,并进行一维模型算例分析,说明了其快速搜索的优势。1octorm法反演的梯度函数一维Occam反演的目标函数包含数据目标函数和模型粗糙度函数:其中:μ为拉格朗日乘子;大括号内的为数据目标函数:d为实测数据;F为正演算子;W为数据误差加权矩阵;X反演的过程就是寻找使目标函数得到最小值的模型。为此Occam法将正演算子F线性化,在初始模型m其中:d此时的梯度函数是一个关于模型参数的一次函数,令梯度g(m)=0,求得的模型参数即为目标函数取得极小值的模型:由于正演算子是非线性的,目标函数也不是二次函数,故反演过程中需要不断迭代,反复修正初始模型m在每次迭代中,对于不同的拉格朗日乘子u,利用式(5)可得到不同的模型参数及其相应的绝对拟合误差。相比其他反演方法直接输入一个经验的拉格朗日乘子,Occam法反演提出在每次迭代中都要通过搜索,得到一个满足数据拟合误差最小的μ值(如果数据拟合误差低于目标拟合误差,则搜索满足目标数据拟合差的最小模型粗糙度的μ值)。用此μ值求得模型参数m再作为下一次迭代的初始模型,进行第二次迭代。这样反复迭代,最后找到一个满足目标拟合差且粗糙度最小的模型,或者是达到最大迭代次数后得到的拟合差最小的模型。正是由于Occam法反演对拉格朗日乘子的搜索,使其具有很高的反演稳定性和模型分辨率,但同时也增加了反演的运算量。2改进的值搜索方案考虑到拉格朗日乘子的搜索效率对Occam法反演运算时间的巨大影响,作者对拉格朗日乘子的搜索方式进行改进。对于μ值的搜索,一般采用先搜索到一个谷值区间,然后在此区间上搜索数据拟合差的最小值,搜索到最小值后进行下一次迭代;而在搜索过程中,一旦有数据拟合误差小于目标拟合误差就直接进入满足拟合差的最小模型粗糙度的μ值搜索。这里也采用以上搜索策略,但做了两点改进。2.1绝对拟合误差曲线理论上μ值可以为大于“0”的任意数,但如果直接对μ进行搜索,在区间搜索过程中,μ值的修正步长是随着μ值的变化而变化的,且初始μ值如果给的不合适,区间搜索的次数会相对较大。考虑到将原目标函数中的拉格朗日乘子μ变为10式(6)经过式(3)、式(4)、式(5)运算过程可得每次迭代中模型参数的求取公式:可以看出式(7)只是将式(5)中的μ变为10从图1可以看出,图1(a)绝对拟合误差曲线整体上变化平缓,更近似一个二次曲线;如果我们将区间搜索步长在以10为底的对数上设为“1”,一般在左右几个步长之内就能搜索到谷值区间,从而摆脱了初始值的设定对搜索次数的影响。图1(b)绝对拟合误差曲线在最小值左右变化相当剧烈,而在μ值较大时变化相当平缓。这给区间搜索步长的确定带来很大的不便,且初始μ值对区间搜索的次数有很大的影响。正是基于上述因素,这里更加明确将拉格朗日乘子的搜索从自然数域中转到了以10为底的对数域进行,将拉格朗日乘子变化为μ=102.2次函数的构建做了上述变化后能快速地搜索到一个谷值区间,但此区间的范围相对自然数搜索的区间较大,如果区间最小值搜索继续使用二分法进行,则搜索次数相对自然数搜索的谷值区间二分法,增加了很多次。同样以图2(a)为例,首次迭代对数搜索区间次数为4次,但用二分法进行区间最小值搜索则用了8次,共计12次;自然数区间搜索用了9次,但最小值搜索只用了5次,共14次;二者相比,对数搜索基本没有优势。因此,提出利用二次函数极小值来搜索区间最小值。构建二次函数:其中ε≤1。当满足式(9)要求后,则取拟合差小的λ值及其相对应的模型进入下一次迭代。3优化算法搜索结果对比为了验证本方法的搜索效率,建立了四种地电模型(图2)。特别说明模型一为陈小斌表1为八层模型在首次迭代中的μ值变化过程,对数二分法只经过4次区间搜索加3次最小值搜索就完成了迭代,而自然二分法经历了9次区间搜索加5次最小值搜索才完成迭代。而从搜索的结果来看,两种方法搜索到的μ值基本上没有差异,甚至本例中对数二次法搜索得到的绝对拟合误差还更小一点。可见对数二分法在搜索上的优势,这种优势在首次迭代中体现得最为明显。表2、表3分别为模型一Occam反演用对数二次法搜索与自然二分法搜索的详细迭代过程。结果可以看出,对数二次法区间搜索往往只需要3次~4次,而3次搜索已经是区间搜索的极限;二次最小值搜索基本上也只需要1次~3次。整体对比,每次迭代对数二次法搜索的次数都明显少于自然二分法搜索。表4为四种模型分别用两方搜索法进行Occam反演的μ值变化次数对比。无一例外,对数二次法搜索次数均少于自然二分法搜索,减小比例在20%~50%之间。从图2反演结果上看,本方法在提高μ值搜索效率的同时,对Occam反演的结果没有任何影响。4拉格朗日乘子搜索方法,根据下对于第1次作者提出了一种Occam反演中拉格朗日乘子的搜索方法,此方法主要做了以下两方面的改进。1)利用关于拉格朗日乘子的绝对拟合误差曲线的形态特征,用公式μ=102)利用区间搜索到的已知三点,构建关于λ值的拟合差二次函数,并求得此二次函数取得极小值时的λ值;用此λ值代入反演中求得拟合差,再得到一个新的谷值区间。这样反复进行二次函数构建,寻找区间最小值。在实际算例中,我们发现往往只需要1次~3次二次函数构建就能搜索到区间的最小值,这大大地提高了区间最小值的搜索效率。