（应用数学专业论文）非线性优化方法及在四维变分资料同化系统中的应用.pdf

摘要 文章对四维变分资料同化系统进行了较深入的学习研究在利用四维变分资料 同化原理求解相关大气数值问题的计算流程中，求解最优初始场，最终归结为求解 一个大规模非线性优化问题，而大气运动模式方程组往往变量较多、维数较高，因 此，所用的非线性优化方法将直接关系到所求问题的准确度以及高效性文章提出 了一种新的非精确线搜索的共轭梯度法，适于求解大规模非线性优化问题，通过与 其他同类优秀算法在数值试验中的比较，可以较明显地发现其优越性；该算法本质 上是一种特殊的二维拟牛顿法，仍然具备一般共轭梯度法存储量小、收敛速度快的 特点；而相对于常规共轭梯度法，该算法在下一搜索方向迭代式中利用的是前一次 搜索方向与当前的梯度，此外，迭代所得的新方向并非与上一方向共轭，而是与当 前梯度方向鲰垂直的上一方向的修改方向氟一1 共轭，所以这里的共轭与传统共轭 梯度法下的共轭意义有所不同文章最后以l o r e n z 方程为例，尝试了四维变分资 料同化的计算流程，在数值求解对应的非线性优化问题中，所采用的优化方法就是 文章提出的改进的共轭梯度法 关键词非线性优化方法；共轭梯度法；非精确线搜索；四维变分资料同化系统； 约束极小化问题 a bs t r a c t i nt h i sp a p e r a 如n 1 1 e rr e s e a r c ht 0 也ef o u rd i m e n s i o n a l i r i a t i o n a ld a t aa s s i m i l a t i o ns y s t e m ( f d v d a s ) i sg i v 饥b yt h et h e o r e mo ft h ef d v d a s ，i no r d e rt 0i i l l d t h eo p t i m a l i m t i a l 丘e l d s ，al a 唱es c a l ei l o n l i n e a ro p t i m i z a t i o np r o b l e mi sn e e d e d b u tt h e 锄o s p h e r em o t i o np a t t e n 塔a r ca l w a y sc o m p l i c a t e d t h ep a t t 锄sn o to n l yh a v em 锄y v a r i a b l e s ，b u ta l s oh i 曲d i m e n s i o n s ow h e nt h ep a t t e mi s 西v e n ，w r h e t h e rt h ep r o b l e m c 瓶b es o l v e da c c u r a t e l ya n de 疵c t i v e l y0 rn o t ，t h ek e yp o i n ti st h ee m c i e n c yo fn o n - l i n e a fo p t i m i z a t i o nm e t h o d am o d i f i e dc o n j u g a l eg r a d i e n ta l g o r i t h mw i t hi n e x a c tl i n e s e a r c h ，f o rs o l v i n gl a 唱es c a l en o n l i n e a ro p t i m i z a t i o np r o b l e m ，i sd e s c r i b e d b yv i n i l e o fs t o r a g es a v i n gp r o p e r t y 锄dh i g hc o n v e 唱e n c er a t e 勰c o n v e n “o n a lc o n j u g a t eg r a d i e n t m e t h o d sh a v e ，i ti sas p e c i a l2 一d i m e n s i o nq u a s i j n 钾n o nm e t h o di ne s s e n c e h o w e v e r a n i m p o r t a n td i 行i e r e n c ei st i l a ti n s t e a do ft h en e wd i r e c t i o nb e i n gc o n j u g a t et 0t h ep 册i o l l s d i r e c t i o n ，i ti sc o i 巧u g a t et oam o d i n e dd i r e c t i o n 瓦一1w h i c hi sp e 印e n d i c u l a rt ot h ec u r r e n t 黟a d i e n t9 七a tl a s t ，l o r e i 磁e q u a t i o ni sc h o s 硒跹e x a n l p l et 0t e s tt h et h e o r e l no f f d v d a s a n di nt h ep r o c e s so fc o m p u t i n gn o n l i n e a r 叩t i m i z a t i o np r o b l e m 肌m e r i c a l l y ， t l em o d i 矗e dc o n j u g a t eg r a d i e n ta l g o r i t 量l l i li s 印p l i e d k e y w o r d s n o i l l i n e a ro p t i m i z a t i o nm e t h o d ；c o n j u g a t eg m d i 铋ta l g o r i t h m ；i n e x a c t l i n es e a r c h ；f o u rd i m e n s i o n a lv ；i r i a t i o n a ld a t aa s s i m i l a t i o ns y s t i 锄；c o i l s t m i n e do p t i - m i z a t i o np r o b i e m 学位论文独创性声明 本人所呈交的学位论文是在我导师的指导下进行的研究工作及取得的研究成 果据我所知，除文中已经引用的内容外，本论文不包含其他个人已经发表或撰写 的研究成果对本文的研究做出重要贡献的个人和集体，均已在本文中作了明确的 说明并表示谢意 作者签名：衅日期：一 学位论文使用授权声明 本人完全了解华东师范大学有关保留、使用学位论文的规定，学校有权保留学 位论文并向国家主管部门或指定机构送交论文的电子版和纸质版有权将学位论文 用于非赢利目的的少量复制并允许论文进入学校图书馆被查阅有权将学位论文的 内容编入有关数据库进行检索有权将学位论文的标题和摘要出版保密的学位论 文在解密后适用本规定 学位论文作者签名：髀导师签名：垒避 第一章引言 1 1 问题的背景 数值天气预报是通过求解大气运动方程组来预报气象要素场的未来变化由于 模式方程组是非线性的偏微分方程组，目前还没有普遍的解析求解法，因此必须将 模式方程组离散化，然后采用相应的数值方法进行求解就纯粹从数值求解角度而 言，要准确地制作数值天气预报必须具备两个条件： 一数值模式能足够精确地反映我们所关心的天气过程的演变规律； 二模式初始值能足够精确地反映初始时刻的大气状态 近年来，随着数值预报技术的日益完善和计算能力的迅速提高，以及人们对大 气中各种物理过程更深入的了解，使我们能够设计出越来越精细的数值模式，可以 相当真实地描写和模拟实际天气过程的演变发展但是这些模式在应用时，常因初 始值不理想而不能充分发挥应有的作用目前在业务上广泛使用的间歇同化分析系 统并不能充分有效地利用大量卫星资料和雷达资料所提供的有效信息，为数值模式 提供理想的初值，因此迫切需要发展新的四维同化技术 四维变分资料同化是2 0 世纪9 0 年代发展起来的一种全新的四维同化方法这 种方法将动力约束、资料约束以及不同时刻的一切观测资料( 包括常规资料与非常 规资料、模式变量资料与非模式变量资料) 作为一个整体同时考虑，根据变分原理 与共轭方程理论，利用同化时段内多时次资料中所包含的时间演变信息，求解出一 个最优的初始条件这种最优初值既能与数值模式相协调，又能使同化时段内的模 式预报值最大限度地符合实际观测值与传统的四维同化方法相比，变分同化方法 具有明显的理论优势和广阔的应用前景 长期以来，数值天气预报被理解为数值求解偏微分方程的初值问题，即利用初 始时刻的大气状态，通过数值模式积分来预报未来时刻的大气状态从数学的角度， 这类问题被称为偏微分方程的正问题但是，这种传统的观点与日常天气预报工作 中根据天气历史演变情况来预报未来天气的四维方式是很不相同的2 0 世纪6 0 年 1 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 代初，我国学者顾震潮、丑纪范等人就认识到在数值天气预报中利用多时次时变观 测资料的重要意义，并沿着这个方向进行了持续不断的研究和探索我们知道，一方 面，在业务预报中所能获取的指定时刻的观测资料是非常有限的，很难完整准确地 反映初始时刻的真实大气状态；另一方面，大量的多时次的观测资料又不能被有效 地利用这两方面都是制约数值模式预报能力和预报准确率的重要原因这些多时 次的观测资料反映了大气状态的发展演变情况，包含模式方程解的大量宝贵信息 如何借助数值模式，把多时次观测资料中所包含的时间演变信息转化为要素场的空 间分布状况，正是四维同化的核心思想概括起来讲，要解决的问题是既充分利用 已知的物理规律( 体现为数值模式) ，又要充分利用所能获取的一切观测信息来确 定未知的初始大气状态，这在数学上被称为偏微分方程的反问题而四维变分资料 同化正是求解以上反问题的一种有效方法( 见【1 9 】) 1 2 问题的研究现状 四维变分资料同化与现行的业务同化方案( 间歇同化方案) 相比较，有如下几 个方面的优势和基本特征： ( i ) 动力约束和资料约束被作为一个整体同时考虑，充分利用了已知的大气规律( 体 现为数值模式) 和多时次资料中所包含的有效信息 ( i i ) 非模式变量的观测资料可直接参与同化例如，可利用辐射传输方程根据模式 预报变量正演算出模拟辐射率，在反向积分伴随模式的过程中，直接把相应时 刻的模拟辐射率与卫星探测辐射率的差值纳入变分同化流程对雷达探测资料 和降水资料也可按以上思路直接进行同化，可以有效地避免这些资料在反演过 程中可能出现的较大误差 ， ( i ) 资料同化可以直接在测站上进行( 即在测站上计算预报值与观测值的差值) ，以 有效地避免不均匀分布的测站资料插值到规则网格点上可能出现的较大误差 ( ) 变分同化过程中借助数值模式的动力约束，可以使初始场各要素之间达到协调 一致，无需再作初值化处理 2 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 由此可见，四维变分资料同化完全改变了传统意义上的分析预报流程( 即从资 料更新_ 客观分析_ 初始化_ 数值预报) ，可以将以上分析预报的各个环节纳入 统一的预报系统这种全新的四维同化方法，借助数值模式可充分利用各种常规和 非常规的观测手段所获取的资料信息，为数值模式提供最优的初值，成为当前提高 数值预报质量的最有效的途径虽然在伴随模式的构造、算法优化，物理过程的处 理等方面还存在很多理论和技术上的难点，需要做大量的理论研究和数值试验但 是，随着计算机性能的迅速提高和变分同化技术的进展，四维变分资料同化方法应 用于业务预报的条件业已成熟1 9 9 8 年，欧洲中期数值预报中心首次将一个包含部 分物理过程的全球模式的四维变分资料同化系统用于业务预报，提高了业务评分 1 9 9 9 年，美国佛罗里达州立大学气象系与美国环境预报中心合作，建成国际上第一 个包含全部物理过程的全球模式的四维变分资料同化系统，目前正在调试和准业务 试验阶段我国也正在大力研究卫星资料、雷达资料和降水资料的变分同化方案， 并着手建立自己的四维变分资料同化系统 1 3 本文的工作 通过对四维变分资料同化系统较深入的学习研究，本文简单介绍了相关的原理 和方法在利用四维变分资料同化原理求解相关大气数值问题的计算流程中，求解 最优初始场，最终归结为求解一个大规模非线性优化问题，而大气运动模式方程组 往往变量较多、维数较高，因此，所用的非线性优化方法将直接关系到所求问题的 准确度以及高效性 本文在第二章中提出了一种新的非精确线搜索的共轭梯度法，适于求解大规模 非线性优化问题；该算法本质上是一种特殊的二维拟牛顿法，仍然具备一般共轭梯 度法存储量小、收敛速度快的特点；而相对于常规共轭梯度法，该算法在下一搜索 方向迭代式中利用的是前一次搜索方向与当前的梯度，此外，迭代所得的新方向并 非与上一方向共轭，而是与当前梯度方向g 角垂直的上一方向的修改方向酞一1 共轭， 所以这里的共轭与传统共轭梯度法下的共轭意义有所不同并通过与其他同类优秀 算法数值表现的比较，考察了新算法的特点；从数据结果可以看到，新的共轭梯度 法在大部分问题的处理上，或所得结果精度较高，或迭代次数较少，或运行时间较 3 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 短；但对少数问题体现不出太多优势，甚至对高维问题出现无法处理的状况事实 上，从算法推导过程可以看到，它对目标函数的要求比较严格，而且算法所用的重 开始技术，是比较粗糙的重开始技术，所以一旦目标函数对算法条件满足程度较差， 就很有可能导致算法失效，直接变成粗糙的最速下降法而导致结果不可靠所以， 在用其他函数对算法进行数值实验、考察算法适用性、继续优化算法等方面还是有 很多工作可以做的 本文最后在第五章中以l o r e n z 方程为例，尝试了四维变分资料同化的计算流 程，在数值求解对应的非线性优化问题中，所采用的优化方法就是本文第二章提出 的共轭梯度法，通过数值实验可以看到，所做的工作是有意义的 4 第二章共轭梯度法 2 1 共轭梯度法简介 共轭梯度法，凭借其算法简便，存储量小的优势，成为处理大型非限制优化问 题最有效的方法之一在大气模拟、石油勘探、航空航天等领域遇到的特大规模优 化问题时，往往都是利用共轭梯度法来解决的 在需要计算导数( 梯度) 的优化算法中，最速下降法是最简单的，但它收敛速 度不太理想；而收敛速度很快的拟牛顿法，虽然被广泛认为是处理非线性规划问题 最有效的方法，但是此方法需要存储矩阵信息，并通过求解线性方程组来计算搜索 方向，在大型问题求解时，将对计算机硬件水平提出很高的要求 相比之下，共轭梯度法所需的存储量与最速下降法差别不大，而在收敛性方面： 对于正定二次目标函数，在执行精确一维搜索时，共轭梯度法有礼( 空间维数) 步 终止性；对于满足一定条件下的一般非二次函数，虽然不再有佗步终止性，但采用 精确一维搜索和重开始技术的共轭梯度法有总体收敛性此外，非精确搜索的弓i 入， 在一定程度上弥补了一维精确搜索随迭代次数增加而使函数降幅变小的缺陷，且这 类共轭梯度法对满足一定条件的一般非二次函数，仍有总体收敛性所以在处理实 际问题时，共轭梯度法有着广泛的应用( 见【2 0 ，2 2 ，2 3 】) 2 2 一般的共轭梯度法 对于无约束优化问题： 理啦，( 刃) ， ( 2 1 ) 耶。、7 、7 其中厂：衍一r 为光滑非线性函数，有解析表达式，在定义域内二次连续可导，且 水平集l = z 形：厂( z ) ，( z 1 ) ，n 2 ) ( z 1 为初始点) 有界，而且，( z ) 的 导数l i p s c h i t z 连续，即( 以下| i | i 表示e u c l i d 模) v ，( z ) 一v ，( 童) i l i | z 一面i i ， v z ，童石沪 5 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 寻求，极小值点z ，共轭梯度法是通过以下形式迭代得到： z 知+ l = 茁七+ q 七8 七 ，后= 1 ，2 ，竹一1 ( 2 2 ) 其中8 七为搜索方向，a 知为标量，是通过一维搜索得到的步长( q 知 0 ) 8 1 = 一夕1，8 七+ 1 = 一鲰+ 1 + 熊8 七， 克= l ，2 ，他一1 ( 2 3 ) 上式中夕七= v 厂( z 七) 是，关于z 南的梯度，s 1 取最速下降方向，像由以下共轭条件 确定： 8 ：上如+ 1 8 膏+ 1 = o ，后= 1 ，2 ，礼一1 ( 2 4 ) 上式中矾+ 1 = ，( z 奄+ 1 ) 是，关于七+ 1 的h e s s i 锄阵，上标t 为转置符号 共轭梯度法的基本原理为：对于二次正定函数( 共轭梯度法一般以二次函数 为起点研究算法，然后应用于非二次的情况，以实验了解算法的适用程度) ，在精 确线搜索的情况下，由( 2 3 ) 和( 2 4 ) 确定的搜索方向s 奄是两两共轭的向量( 两两 线性无关) ，第七( 小于扎) 次精确线搜索得到的点2 七十1 是函数，在意维子空间 z 七+ 踟几 8 l ，s 2 ，8 南 ) 中的极小值点，故有n 步终止性( 即最多仃步求得目 标函数极值点) 值得注意的是，若第一次线搜索方向不是最速下降方向，可能导致 七( 大于2 ) 个线搜索不两两共轭，而使算法求值不能在有限次完成 常规的共轭梯度法中，根据凤表达式的不同，衍生出不同的算法，各有优缺 点，下面作简单介绍： 由( 2 3 ) 式左右两边左乘8 j 耳k + 1 及( 2 4 ) 可得d a n i e l 形式； 臃= 躲 ( 2 5 ) 8 ；爿七+ 1 s 七 在实际运用中，为避免求二次导数及矩阵存储，用差分近似表示凰+ 。s 七= 警，则( 2 5 ) 式可化为g r o w d e r w o l f e 形式： 凤= 糍等等 亿6 ， 当第庇次线搜索精确时，即s ：玑+ 1 = o 时，( 2 6 ) 式可化为： 厥：一亟迪掣( 2 7 ) 5 七g 七 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 ( 2 7 ) 式在实际运算时十分有用，因为结合( 2 3 ) 式可见，模长不同的s 南对下一搜索 方向s 七+ 1 的求解没有影响 在( 2 7 ) 式的基础上，若前七一1 次线搜索也都精确，即 s ：g m + 1 = o ，s ：9 m = 一靠夕m ，m = 1 ，2 ，七一1 那么，便得到p o l a k r i b i 龟r e p o l y a k ( p r p ) 形式： 脓：亟迪掣( 2 8 ) 9 ig k 若厂为二次函数，则有站1 9 七= o ，那么在( 2 8 ) 式的基础上，可以得到 f l e t c h e r r e e v e s 形式l 凤：挚( 2 9 ) g g k 而在( 2 6 ) 式的基础上，可以得到d 茄一y u a n 形式； 肛警= 热 ( 2 t 0 ) s 犰s 【g k + 1 9 奄j 在( 2 1 0 ) 式的基础上，若要求线搜索精确，就有d i x o n 形式： 风：一挚 8 是g k ( 2 1 1 ) 事实上，由于前提条件一致，故( 2 9 ) 式与( 2 1 1 ) 式是等价的 此外，还有混合共轭梯度法，如最速下降法、p r p 法和f r 法的混合形式： 厥= m a o c 卜t n 蚵蓉型，訾” 上述各种共轭梯度法对于目标函数是二次凸函数，且线搜索精确时效果是一样 的，邱以同一初始点得到的点序列相等，但应用于非二次目标函数时结果大不相同 虽然对于非二次凸函数( 即便是二次凸函数，对于大规模问题、初始点远离极值点 以及计算机舍入误差的存在等原因) 共轭梯度法并不具有有限终止性，但理论和数 值实验都已表明它仍不失为一个好的算法 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 2 3 改进的共轭梯度法 在非二次函数优化问题的各种共轭梯度算法应用过程中，精确线搜索严重影响 算法效率，所以往往采取非精确线搜索( 如、忑b l f e p 们鸭l l 条件等) ，但从接下来 的分析可以看到，非精确搜索时，共轭方向未必就是最佳搜索方向，而搜索方向一 旦改变，必然造成凤的修改 首先，作，( 茁知+ 1 ) 的牛顿近似： 他m ) = 他七+ q 觑) = m 咖j s 知+ 譬8 j 风8 七，忌2 若设8 j 风8 七 o ， 厂c z 七+ q 七s 七，一，c z 七，= ( a 七 。 菇s 岛 、2 ( 夕丁8 向) 2 l 佩百。五2 8 ：h 溉 则，( 2 凫+ ) 一，( z 知) 关于口七的极小可以表示为： m i n 酬叫埒糕全一孚 ( 2 1 2 ) 这里在二维平面s m n 一鲰，s 七一l 上寻找下一搜索方向，即设8 七= 一妣+ u 8 七一1 于是，如果能够找到8 七使得圪达到极大，那么在已知z 七的基础上，就可以求得下 式的极小上界 m i n ，( 霉知+ 1 ) ) q 七 从以下推导过程可以看到上述的吼是存在的： k ：糕，s 且七s 七 令s 惫= 一g 七+ u s 知一1 ，其中亡，牡不全为零，代入( 2 1 3 ) 式可得s 。，t 2 ( 9 丁玑) z 一2 礼夕丁g 岛9 丁s + 乱2 ( 9 丁s ) 2 2 孬蕊丽i 瓦玩瓦元j 刁币两 为便于构造，上式分子分母乘同一因子，即如下所示： ( 2 1 3 ) 亡2 ( 9 j 9 知) 2 2 u 碗纨g j 8 m + u 2 ( g j 艮，) 2 s t _ ，凰8 酊凰玑一( 9 j 巩8 ) 2 8 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 记上式为( 料) 式，则( 木宰) 式分子部分由待定系数法可作如下化简： l 亡2 夕j 凰鲰( 酊g 七) 28 1 1 凰s 一2 u 酊夕七夕j 耻1 8 t - l 凰8 m 酊凰鲰+ 乱2 s 己l 凰8 ( 9 丁8 ) 2g j 凰鲰一t 2 ( 菇肌) 2 ( g j 凰8 m ) 2 + 2 “9 j 凰钆1 9 j 凰s 9 j g 七夕j s 一u 2 ( g j 8 “) 2 ( g j 凰耻1 ) 2l = 弘2 9 j 凰玑一2 u 讲凰8 + 乱2 8 己。矾8 m 】l ( 疗吼) 28 t - 。凰s m 一 2 酊凰8 9 j 夕七夕j s + ( 9 h 一，) 2 菇风玑卜 t 2f ( g j 玩g 知) 2 ( 夕h 一，) 2 + ( 菇峨s 知一1 ) 2 ( 9 j 夕七) 2 2 9 j 凰9 七夕丁凰s 七一l 夕丁g g j 8 | 一1l 一 2 钆| 羹凰s m 8 己。凰s ( 酊夕七) 2 + g 丁凰9 知g j 风s m ( 夕丁8 ) 2 9 ；凰夕七8 己1 巩s 9 j 玑9 j 8 一 ( g 丁凰s ) 2 夕j 9 向酊鼠_ t + u 2 ( 菇风8 ) 2 ( 酊8 m ) 2 + ( 9 j 9 七) 2 ( 8 t _ ，凰8 ) 2 2 9 _ i | 日：s 七一1 8 ：一1 日i 8 七一1 9 ：9 七g ：s 七一l t1rt1 、 = p 2 9 j 凰纨一2 u t 酊凰s m + u 2 s t _ 。凰耻 ( 疗9 南) 28 t _ 。玩8 一 2 酊凰耻t 夕j 玑g 丁s + ( g 丁s ) 2 夕j 巩夕小一p ( 9 j 凰肌疗耻1 一 9 j 凰8 m 9 丁肌) 一乱( g j 凰s 二，9 j 8 一8 己。巩s 9 j 夕七) 2 于是( 木车) 式可化为： k = ( 9 丁9 _ i ：) 2s t 。凰& 一1 2 9 丁凰s g j 9 膏酊s + ( g 丁8 ) 2g j 凰肌 8 l ，凰耻。9 丁凰玑一( g _ ；凰s m ) 2 t ( g j 玩纵g j s 一g 了矾s 酊玑) 一u ( g j 凰8 g 丁s 一s l 。凰s 9 丁g 七) 】2 陷j 凰吼一2 仳夕j 巩8 + u 2 s 己，风s s t - 。巩8 菇凰玑一饼凰8 ) 2 如果满足条件 则 s t - 1 巩s 武。h k 8 k _ 1 9 弋h 国k 一 0 ，七2 ( 9 丁巩s ) 2 o ，后2 ( 2 1 4 ) ( 2 1 5 ) 亡2 靠凰玑一2 札t 夕j 凰s + 札2 8 矗1 风乳一l = 8 j 风乳 o ( 2 1 6 ) 9 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 于是 k 逝监警丧鬻兰滁芋出鼬8 一1 巩s 觏凰g 七一( 9 2 凰8 m ) 等号成立，当且仅当 令 若取 t 斌h k g k 武8 k 。一武h k 8 k 。最g 心 = u ( 夕j 凰8 七一1 夕j 8 知一1 8 t _ 1 矾s 七一1 夕j g 膏) d = s t - l 凰s m g _ ：矾鲰一( 夕j 风s ) 2 ， s 知= ( g 丁风乳一1 酊s 一8 t _ 1 峨s 酊夕七) 夕七十 ( 酊风s 七一t 菇g 七一羹日t 9 知9 丁s 七一t ) s 七一- d ( 2 1 7 ) 则k 取得极大值( 除以d 可以防止在数值计算中分子过小而引起的精度误差) 事实上，若厂严格凸，将有( 2 1 4 ) 式；若风正定且吼，s 詹一l 线性无关，将有 ( 2 1 5 ) 式 根据l i u & s t o r e y 在参考文献【2 】中证明的如下定理： 定理( l i u & s t o r e y ) 设线搜索方向 8 七= ( 乱七g j s 七一l 一如9 丁夕奄) 鲰+ ( u 七订纨一仇菇8 七一1 ) 8 七一1 】七， ( 2 1 8 ) 其中如，饥，u 七满足： 或者 如 0 ， 0 ， 1 一u ；( 如吼) 1 ( 4 “) ，。 o ， ( 菇g 七) ( 砍s o l 8 知_ 1 ) ， o ， u 奄= 如碾一u ；， 缸= l ，让知= 仇= o ，u 七= 9 丁鲰o ，= o 1 0 ( 2 1 9 ) ( 2 2 0 ) ( 2 2 1 ) ( 2 2 2 ) 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 则下降条件成立，即： 若存在m 0 使得 酊8 知 o ， 露 = 订凰鼠一l ， 而龇= 如鲰一u 2 ，则 1 i m 酬玑= o 詹+ “= 8 t _ 1 矾8 七一l ， 那么，s 七在形式上即为( 2 1 7 ) 式 d = u 七 = 威h k 9 k ， 若存在正数，使条件( 2 2 0 ) 式、( 2 2 1 ) 式成立，则由( 2 1 7 ) 式作为搜索方向 的共轭梯度算法是具有有限步收敛性的 1 1 = 耀 + q m 挝 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 则 以下将对鼠作一些调整。 ( 9 2s 七一1 9 2 冠k s 知一l 9 2 玑8 2 1 王“s 七一1 ) 夕知。 8 七2 i 瓦二再i j 瓦瓦i r 一 ( g 丁g 七以凰s 一g j 8 靠珥g 詹) 8 s 己1 凰8 m 酊风鲰一( 9 j 凰8 ) 2 ：堕吐三! 竺( 盘竺二竺生堕竺熊! ：兰立型 s 2 1 巩s 夕2 凰鲰一( 坑凰8 m ) 若令 礼，= ( s “一学9 七) = ( 卜舞) 8 ， 亿2 3 ， 弩掣甓等裟一， 亿2 4 ， s 2 1 凰s 夕2 凰鲰一( 9 2 风乳一1 ) 由( 2 2 0 ) 式保证上式分母大于零，所以就方向而言( 2 2 4 ) 式与下式相同 即 8 七= ( 一s t - 。凰鼽一1 ) 9 七+ ( 酊凰靠一1 ) 乳一1 ， 将( 2 2 3 ) 作简单变换代入上式，可得 一( 耻。+ 学玑) t 眠以碗矾小耵尝夕七) 8 7 七= 一百己1 上“季詹一1 仇+ 9 j 王氏季七一1 季知一1 显然，新搜索方向以与融一1 是共轭的，即 s 7 j 凰否= o 所以，这里的共轭与传统共轭梯度法下的共轭意义有所不同 ( 2 2 5 ) ( 2 2 6 ) ( 2 2 7 ) 为了弥补在( 2 2 4 ) 式到( 2 2 5 ) 式转化中，去掉分母可能引起数值计算分子过小 的问题，对系数再作简单调整，最终取 一一肌+ 怒址， 1 2 ( 2 2 8 ) 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 作为改进共轭梯度法中的线搜索方向，为避免求目标函数的二次导数，由平均值定 理可以作如下近似( 6 为适当大小的正数) ： 凰靠一1 9 知一夕( z 七一6 氟一1 ) 】6 全( g 七一口七一1 ) 艿，( 2 2 9 ) 则( 2 2 8 ) 式可化为： 8 七一g 七十著踹耻， s 一1 【9 七一粤一1j o 由于 否：一1 矶= o ， 故 s 南2 9 七+ 叟生警否七一， ( 2 3 0 ) 其中，吼一1 = 9 ( z 七一6 氟一1 ) ，6 为适当小的正数( 如取锕川氟一1 i l ，7 为计算机精 度) 令 反一，：堕冬挚， 一占七一1 9 七一l 则( 2 3 0 ) 式可记为： 8 奄= 一玑+ 仇一1 吼一1 ( 2 3 1 ) 综上可以看到，相对于传统意义下的共轭梯度法，新方法在下一搜索方向迭代 式( 2 3 0 ) 中利用的是前一次搜索方向与当前的梯度；此外，迭代所得的新方向并非 与上一方向共轭，而是与当前梯度方向9 七垂直的民一t 共轭当线搜索精确时，新 方法将回归为传统的共轭梯度法 在实际编程傲数值实验时，考虑到当i l 酞一1i i 小时，( 2 3 1 ) 式可能成为最速下降 方向，所以再作如下补充： 考虑到p r p 方法是目前认为的数值表现最好的共轭梯度法之一，而且该方法 在当算法产生一个小步长时，新搜索方向8 七会自动靠近负梯度方向，避免产生连续 小步长，所以，这里将新方法和p r p 方法做成如下混合算法： 1 3 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 当| i 氟i l ，y 时( 7 为适当小的正数) 当i i 氟0 7 时 站1 ( 夕m 一玑) 2 8 膏+ 1 = 一夕膏+ 1 + 仇s 惫； 丹m c 一 七 一 g 矗1 玑+ 1 一夕矗1 吼 一百i 纨 8 走+ 1 = 一鲰+ 1 + 凤百七 根据以上分析过程，新算法将按照如下算法实现； 设在线搜索中满足 厂( z 南+ ) 一，( z 詹) 一p ( g j s 知) 2 8 j 8 知，p o 则算法表示如下：( 叩为计算机精度) 第1 步：取初始值z 1 第2 步：令忌= 1 ，8 l = 一9 1 第3 步：作线搜索求q 七，及z 知+ 1 = z 七十q 七s 知 第4 步：若 g 知+ 1 i | 2 2 转到第1 2 步；否则转到第6 步 第6 步：计算 巩：乳一些玑+ 1 8 七= 8 七一彳二一g 矗+ 1 吼+ 1 9 七+ 1 第7 步：当l i 氟l l 1 时( 7 为适当小的正数) 风= 血蹴掣 8 詹+ 1 = 一g 知+ l + 仇s 七 1 4 ( 2 3 2 ) ( 2 3 3 ) ( 2 3 4 ) ( 2 3 5 ) 华东师范大学硕士论文非线性优化方法及在四维变分资料同化系统中的应用 并转到第1 1 步；否则转到第8 步 第8 步：设 “ u 知 魄 8 j 王致+ 1 8 七8 j 9 十1 9 ( z 七+ 1 一d s 知) 】d ； g 矗1 目b + 1 8 七夕矗l 阢+ l g ( z 七十1 一d 8 七) 】d ，d = 、何i | 8 詹l l ； 出1 风+ 1 9 知+ 1 出l 阢+ 1 一g ( z 蚪1 一e g + 1 ) 】e ，e = 何川玑+ 1 | | 第9 步：取r = 1 锕，若满足 如 0 ，鲰 0 ， 1 一钆；( 如仇) 1 ( 4 r ) ， ( 站，9 ) ( 如8 j s 七) r ， 则转到第1 0 步；否则，转到第1 2 步 第1 0 步：取 6 = m i n 1 ，锕川否知盼， 雪七= 夕( z 南+ 1 6 两e ) ， 傀：堕坐芸掣， 一8 纨 8 七+ 1 = 一! k + l + 凤否七 第1 1 步：后= 七+ 1 ，转到第3 步 第1 2 步：令z 1 = z 奄重开始，转到第2 步 注：在线搜索中，可以对q 七作适当选择，提高算法效率；这里可以利用 a r m i j o