（应用数学专业论文）非线性共轭梯度算法的研究.pdf

非线性共轭梯度算法的研究 摘要 这篇论文主要研究两个新的共轭梯度算法建立算法的收敛理论，并通过 数值试验验证算法的有效性，其结构如下： 第一章，回顾有关共轭梯度法的基本知识及一些著名成果 第二章，提出了求解无约束优化问题的一个新的共轭梯度公式，该公式是 把著名公式藤r 和硝即有效结合起来构成的，新公式具有充分下降性，并且 相应算法在强w o l f e 线搜索下具有全局收敛性初步的数值试验表明该方法 是具有前景的 第三章，根据韦增欣等在文f 2 2 】提出的新的拟牛顿方程b k s k 一- = 坑一。= 弧一- + a ( 3 ) s 七- 1 其中a 七( 3 ) 为正定矩阵，本章给出了一个修改的共轭梯度法，修 改后的方法在适当的条件下全局收敛初步的数值结果表明此算法对无约束优 化问题是有效的 关键词：无约束优化共轭梯度法线搜索全局收敛 分类号：9 0 c 3 0 ，6 5 k 0 5 r e s e a r c ho nn o n l i n e a rc o n j u g a t e g r a d i e n ta l g o r i t h m a b s t r a c t o u rm a i np u r p o s ei nt h i sp a p e ri st os t u d yt w on e wc o n j u g a t eg r a d i e n ta l g o r i t h m s w ee s t a b l i s ht h eg l o b a lc o n v e r g e n c eo ft h e s em e t h o d s w ea l s ot e s tt h ep r o p o s e dm e t h o d s t h r o u g ha s e to fp r o b l e m s t h et h e s i si so r g a n i z e da sf o u o w s ： i nc h a p t e r1 ，w er e c a l lt h ef o u n d a t i o n a lk n o w l e d g ea b o u tc o n j u g a t eg r a d i e n tm e t h o d a n d s o m e i i nc h a p t e r2 ，an e wn o n , n e a rc o n j u g a t eg r a d i e n tf o r m u l af o rs o l i n gu n c o n s t r a i n e d o p t i m i z a t i o np r o b l e mi sp r o p o s e d ，w h i c hi sc o n s t r u c t e db yc o m b i n i n gt h ef a m o u sf o r - m u l a8 乏rw i t h8 船it h en e wf o r m u l as a t i s f i e st h es u f f i c i e n td e s c e n tc o n d i t i o n ia n dt h e c o r r e s p o n d i n ga l g o r i t h mu n d e rt h es t r o n gw o l f e - p o w e l lc o n d i t i o ni sg l o b a lc o n v e r g e n t p r e l i m i n a r yn u m e r i c a lr e s u l ts h o w st h a tt h em e t h o di sp r o m i s i n g i nc h a p t e r3 ，w e ie t a l i n 2 2 】p r o p o s e dac l a s so fn e wq u a s i - n e w t o ne q u a t i o n s 凤8 k 一1 = 皖一1 = 弧一1 + a k ( 3 ) s 七一1 ，w h e r ea k ( 3 ) i sd e f i n i t em a t r i x b a s e do nt h i sw e g i v eam o d i f i e dc o n j u g a t eg r a d i e n tm e t h o d t h em o d i f i e dt y p ea r eg l o b a l l yc o n v e r g e n t u n d e rg e n t l ec o n d i t i o n s p r e l i m i n a r yn u m e r i c a lr e s u l ts h o w st h a tt h em e t h o di se f f i c i e n t a n da d v i s a b l ef o rn o n h n e a ru n c o n s t r a i n e do p t i m i z a t i o n k e yw o r d s ：u n c o n s t r a i n e do p t i m i z a t i o n ；c o n j u g a t eg r a d i e n tm e t h o d ；l i n e s e a r c hc o n d i t i o n ；g l o b a lc o n v e r g e n c e a m s s u b j e c tc l a s s i f i c a t i o n ：9 0 c 3 0 ，6 5 k 0 5 广西大学学位论文原创性声明和使用授权说明 原创性声明 本人声明：所呈交的学位论文是在导师指导下完成的，研究工作所取得的成果和相关 知识产权属广西大学所有，本人保证不以其它单位为第一署名单位发表或使用本论文的 研究内容。除己注明部分外，论文中不包含其他人已经发表过的研究成果，也不包含本人 为获得其它学位而使用过的内容。对本文的研究工作提供过重要帮助的个人和集体，均己 在论文中明确说明并致谢。 论文作者签名： 七、l 暴动咖r 口g 年，月g 日 学位论文使用授权说明 本人完全了解广西大学关于收集、保存、使用学位论文的规定，即： 按照学校要求提交学位论文的印刷本和电子版本： 学校有权保存学位论文的印刷本和电子版，并提供目录检索与阅览服务； 学校可以采用影印、缩印、数字化或其它复制手段保存论文； 在不以赢利为目的的前提下，学校可以公布论文的部分或全部内容。 请选择发布时间： 口即时发布 ( 保密论文需注明，并在解密后遵守此规定) 一：翔柙名：妒饮 口解密后发布 以年月8 日 广西大掌同等掌历申请硕士掌位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 第一章绪论 1 1 引言 对无约束优化问题 m i n ，( z ) ，( 1 1 1 ) z 舻、一 、7 目前已经有很多优化算法来求解，其中包括最速下降法，牛顿法，共轭梯度法，拟牛顿法等 最速下降法是以负梯度方向作为搜索方向，是无约束最优化中最简单的方法其具有 总体收敛性，但最速下降方向仅是算法的局部性质，对许多问题，最速下降法并非“最速下 降 ，而是下降非常缓慢其主要原因是算法只利用了目标函数的导数信息，而没有考虑 到其h e s s e 矩阵的信息 牛顿法的基本思想是利用目标函数的二次t a y l o r 展开，并将其极小化对于正定二 次函数，牛顿法一步即可达到最优解对于非二次函数，牛顿法并不能保证有限步求得其 最优解，但是由于目标函数在极小点附近近似于二次函数，故当初始点靠近极小点时，牛 顿法的收敛速度一般较快牛顿法成功的关键是利用了h e s s e 矩阵提供的曲率信息而计 算h e s s e 矩阵工作量大，并且有的目标函数的h e s s e 矩阵很难计算，甚至不好求 拟牛顿法就是利用目标函数值和一阶导数的信息，构造出目标函数的近似曲率，而不 需要明显形式的h e s s e 矩阵，同时具有收敛速度快的优点但在求解近似h e s s e 矩阵的时 候，其计算和存储量都比较大，特别是对大规模优化问题 共轭梯度方法是介于最速下降法和牛顿法之间的一个方法它仅需要利用一阶导数 的信息，但克服了最速下降法收敛慢的缺点，又避免了存储和计算牛顿法所需要的二阶 导数的信息梯度方法是从研究二次函数的极小化产生的，但是它可以推广到处理非二次 函数的极小化问题共轭梯度法是最优化中最常用的方法之一，它具有算法简便、存储需 求小等优点，十分适合于大规模优化问题因此，研究共轭梯度法有很强的理论和实际意义 1 2共轭梯度算法的研究现状 共轭梯度算法最早于2 0 世纪5 0 年代有h e s t e n e s 和s t i e f e l 作为求解系数矩阵正定 1 广西大掌同等掌历申请硕士学位论文( 2 0 0 7 年) j 线性共轭梯度算法的研究 的线形系统的一种迭代算法，因此它又称为线性共轭梯度算法2 0 世纪6 0 年代，f l e t c h e r 和r e e v e 8 将其用到大规模非线性优化问题中，创立了非线性共轭梯度算法，它是求解最 优化问题中最常用的方法之一 对无约束优化问题( 1 1 1 ) 给出一个初始值z 1 ，算法迭代产生z 2 ，z 3 ，希望某一 z 知是( 1 - 1 - 1 ) 的解或点列收敛于解共轭梯度算法采用的迭代公式为： x k + l2z 七+ q 七d k ，( 1 2 1 ) 其中q 七是步长，一般采用某个线搜索来获得，常用的步长规则主要有( 详见文献【2 9 ，3 0 ， 3 1 ，3 2 】) ： ( 1 ) a m i j o 规则：寻找一个q 七= 矿- s ，其中p ( 0 ，1 ) ，8 0 ，m k 是最小的正整数 m ，并满足 l ( x k + a k d k ) 一，( z 七) 6 p m s g t d k ，6 ( 0 ，1 ) ( 1 2 2 ) ( 2 ) a r m i j o - g o l d s t e i u 规则：寻找一个q 七 0 并满足 ，( z + a k d k ) 一，( z 七) 6 q 七夕j f d 七， $ ( x k + a k d 知) 一他七) ( 1 一占) q 七靠以，j ( o ，互1 ) ( 3 ) 弱w o l f e - p o w e l l ( w w p ) 规则：寻找一个q k 0 并满足( 1 2 3 ) 和 g ( x k + a k d k ) t d k a g t d 七，a e ( 6 ，1 ) ( 4 ) 强w o l f e - p o w e l l ( s w p ) 规则：寻找一个口七 0 并满足( 1 2 3 ) 和 ( 1 2 3 ) ( 1 2 4 ) ( 1 2 5 ) g ( x k + a 七d k ) t d k l 0 ，( 1 2 1 0 ) g ( x k 4 - - d k ) t q 七o ) 一c0g ( x k + 砂d k ) 1 1 2 ，c ( 0 ，1 ) ，( 1 2 1 1 ) 其中 q k ( j ) = 一g ( x k + d k ) + 饿p + r 1 p 如 5 广西大掌同等掌历申请硕士学位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 并已证明在新的线搜索下p r p 方法全局收敛 另外韦增欣教授等人在文【1 5 】提出了一些新的共轭梯度公式： 雠= 丽i i 磊i g k1 1 2 ，叩( 仃，1 ) ，( 1 2 1 2 ) 雠= 再砑五= 可i ig = k 面1 1 2 隔，7 ( 。，+ o 。) ，p ( 刁，+ o 。) ， ( 1 2 1 3 ) z z ( a ) = i 1 ) 瓣剖b “研羝，a 兰，( 1 2 “) 1 0 ， 入u 口 其中a = ( a l ，a 2 ，a 3 ，a 4 ) r 4 ，u 盯= 0 ，1 】奉p ，1 】木【o ，1 】木( 1 ，+ ) ，西= r 4 一u 口这些新 公式在无需任何线搜索要求下就能保证每一步充分下降，有好的数值结果，并且方法在满 足一定条件下能保证收敛 在文 2 6 】中，w e i - y a o - l i u 提出了一个结合f r 方法与p r p 方法的共轭梯度法公式： y l = 毪蕞掣( w e i - y a o - l i u 幽”咖， 该方法在s w p 线搜索条件下具有充分下降性，并具有凤0 的性质，同时在精确线搜 索、g r i p p o - l u c i d i 线搜索和w o l f e - p o w e l l 线搜索条件下都具有全局收敛性，其数值结果 较好 以下两个假设在分析算法的一般收敛性时经常要用到，所以在本文的余下部分中，若 无特别说明，我们总设假设条件( i ) ( i i ) 成立 假设( i ) 水平集q = z 舻i ( x ) ，( z 1 ) ) 在点x l 有界即，存在一个常数 a ( a o ) ，使得 l iz | i 0 ，使得 夕( z ) 一9 ( ) 0 l0z 一秒0 ，v z ，y q ( 1 2 1 6 ) 6 广西大掌同等掌历申请硕士学位论文( 2 0 0 7 年) 非线性共纠摹度算号毫泊研究 1 3本文的主要工作 目前，在共轭梯度法领域，如何寻找一个新的关于参数凤的公式，使得公式既能全局 收敛又有好的数值结果依然是个有待解决的问题此问题的解决将大大提高实际生活中尤 其是大规模工程问题的计算效率所以本文主要研究无约束优化问题的共轭梯度法，我们 给出两种新的共轭梯度法，并作出了算法的收敛性分析第二章给出一个新的共轭梯度公 式，并给出收敛性分析，数值结果表明算法是有效的第三章根据韦增欣在文献【1 4 】中提 出的原函数的修正函数，参考其提出的关于a k ( 3 ) ，我们对p r p 方法参数公式进行修改， 并对修改后的公式的性质进行一些研究，经数值检验修正后的p r p 公式可以与原始p r p 公式媲美 7 广西大学同等掌历申请硕士学位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 第二章一个新的全局收敛的共轭梯度法 2 1 新的共轭梯度公式 由于充分下降性( 1 2 8 ) 是一个非常重要的性质例，它对于保证算法的全局收敛性有 很好的作用因此，我们希望能找到一个凤使得呶满足( 1 2 8 ) 下面，我们提出一个新 的仇并证明它具有该性质 最近，在文【1 6 】中，作者们提出了一个新的参数凤的取法，即 甜气加而磋紫彘哥 ( 2 ) 另外，g y u ，y z h a o ，z w e i 在文 1 6 】的基础上进行改进，在文【17 】中得到一个 新的觑公式： 肌) ： 龋i i 酬2 狱灿“ ( 2 1 2 ) 10 ， 其它 其中p ( 1 ，+ ) 这两类方法都具有充分下降性和全局收敛性，同时取得了比较好的数 值结果 文【1 8 】在f r 方法的基础上考虑到共轭梯度法在精确线搜索下具有鳍如一l = 0 的 性质给出了一个新的参数凤的取法，即 仇= 丽考研 ( 2 ) 本文受到文 1 6 ，【17 】，【1 8 】的启发，结合i l - 个公式，得出了新的凤公式： 硝k 把锯胗。 ( 2 ) 为了保证硝的非负性，我们定义 硝+ = m a x 0 ，硝) ( 2 1 5 ) 8 广西大学同等掌历申请硕士掌位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 本章在强w - 0 l f e 条件下证明了此方法具有搜索方向充分下降性和全局收敛性，同时 本算法取得了比较理想的数值结果 2 2 算法与性质 求解无约束问题的新算法： 步骤1 ：给定z l p ，s 0 ，d l = 一9 1 ，k ：= 1 步骤2 ：如果0g k0 e 则停止；否则，由强w o 搜索( 1 2 3 ) ，( 1 2 6 ) 求得q 七， x k + l2z 七+ 口七也 步骤3 ：由( 2 1 5 ) 计算陬+ l = 俄v + n 1 + ，d k + l = 一g t ：+ l + p k y + l + d k ，k ：= k + 1 转步骤2 以下引理1 在分析一般的下降算法的收敛性时经常要用到，它由w o l f e 4 4 ，【硐和 z o u t e n d i j k 【1 9 】提出 引理1 设目标函数满足假设条件( i ) 、( i i ) ，考虑一般方法z 七+ l = z 七+ q 七d k ，其中口七满足 鲰 0 ，步长q 七由强w 6 l f e ( 1 2 3 ) ，( 1 2 6 ) 搜索求得，则有 y - 鼎i id ki i l 2 、。v v - - 。工， 此关系式称为z o u t e n d i j k 条件 此引理的证明详见文献【2 7 】 下面我们证明g d k 0 即搜索方向d k 满足下降性质，证明的技巧参考文献【1 8 引理2 考虑一般方法( 1 1 1 ) ，步长a 七由( 1 2 3 ) ，( 1 2 6 ) 强w o l f e 搜索求得，当凤取为 ( 2 1 5 ) 时对所有k 0 有 一；如静9 2 + 一 亿2 力 成立，其中( 0 盯 1 2 ) 证明：( 1 ) 当七= 1 时，由于d l = 一9 1 ，则有镭掣= 一1 ，于是( 2 2 2 ) 式成立 ( 2 ) 下面用归纳法来证明k + 1 时成立 首先假设k 1 时，( 2 2 2 ) 式成立 当雕名= 0 时，则有咴+ l = 一g k + 1 ，因此由( 1 2 7 ) 式可得 9 广西大学同等掌历申请硕士掌位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 七 识l 噍+ l = 一0g k + 11 1 2 一ci i 鲰+ 11 1 2 其中c = 2 一， j = o 当成v + n l + w - 俄v + n 1 时，e h ( 1 2 7 ) 式可得 矗。“一1 1 2 + 糕器搓裂函。也， ( 2 2 3 ) 由( 1 2 6 ) 和( 2 2 3 ) 式可得 9 玉1 d + l 币丽 由归纳假设知鲧d k 0 ，则有 = 一1 + 一1 + 、 i i 鲰1 1 2 7 进一步由归纳假设及( 2 2 4 ) ，得 0 “+ l0 2 一1 9 l 鲰i 9 1 以 际磊1r一lgk 1 2 + * ( g z + x d k ) 2 恢+ 1 1 1 2 一i g 矗1 蚓 - - a g 主d k 石矿瓜丌丽死矛 a g r d k 丽而瓦硬矛， a g t d k 2 + p ( 夕矗l d k ) 2 矿g k s 五i l d 了k 下+ l 一 - 1 一研a g t d k 一1 + 盯 另一方面，又由( 2 1 4 ) 和( 1 2 6 ) 有 和 则 纸t + l d k + 1 0g k + 11 1 2 0 0 ) 和c 为常数，如果正项级数 啦对所有的k 都成立 则有 以及 萎譬 此引理的证明详见文献【2 7 】 以下定理1 的证明方法参考文献【27 】的证明方法 定理1 设z 1 是目标函数满足假设的初始点，考虑方法( 1 2 1 ) 和( 1 2 7 ) ，其中凤按( 2 1 5 ) 计算，步长o l k 满足强搜索条件( 1 2 3 ) 和( 1 2 6 ) ，则对产生的迭代点列或者g k = 0 对某 个成立，或者 i t n $ ：由( 1 2 7 ) 式知k 2 时有 两边平方取模并移项得 令 1 i m i n fi ig k0 = 0 嚣+ 如- i - g k = 硝+ 也- 1 ( 2 3 1 ) i i 毗1 1 2 = 一0g k0 2 2 9 d k + ( 硝+ ) 2 | id 七一10 2 ( 2 3 2 ) 缸= 而i id 币k1 1 2 ，饥= 一而g t 币d k ， 1 1 c+七 一 n 七湖 + = 善酗 吼 广西大掌同等掌历申请硕士掌位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 忙一研1 一研2 9 t d k + ( 硝+ ) 2 饼“一而币一而邴+ 【饿”厂前。 当8 v n + = n 时。奄 ( 俨) 2 _ ( 悲锚) 2 0 仲得 由( 2 3 5 ) ，( 2 3 6 ) 式易得 成立 鲰0 m ， ( 2 3 3 ) ( 2 3 4 ) ( 2 3 5 ) ( 2 3 6 ) “2 妻南嘉妻竹 c 2 矗7 ， 另一方面由( 1 2 7 ) 知对k 2 有 一靠呶= l ig k1 1 2 一硝+ 鳍d k _ i ( 2 3 8 ) 由饥的定义和( 2 1 5 ) ，( 1 2 6 ) ，( 2 3 8 ) 得 协引一1 簖夕融一 ：】一! ! 塾监二! 鲣塾= ! !篮生= ! ； 0g k | l l i 鲰一11 1 2 + p ( 鲥也一1 ) 2 、1 i l 弧1 1 2 一ig t g k li一盯纸t 一1 d k 一1 2 卜而而广一而i 矿再蕊瓦孑 1 扣辫“， 1 2 广西大掌周等掌历申请硕士掌位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 即 饥1 一口饥一1 ( 2 3 9 ) 由( 2 3 9 ) 和饥的非负性式表明：对v k 2 ，如果有 饥一l 万， 则 佻石， 故总成立体+ 饥一1 c ，其中c = r a m 1 ，万1 0 于是有 妻创舡尹1 一c ，( 2 3 1 0 ) 其中嘲表示不超过；的最大正整数 由( 2 3 7 ) ，( 2 3 1 0 ) 以及引理3 得 吾群。荟萼譬吾参， 所以有 f 需, t d k 、2 ：+ o o 白0 d k1 1 2 “ 与引理1 矛盾! 此矛盾表明，1 i mi u f0g k0 = 0 证毕 讨论：在这篇文章中，我们已提出了一个新的下降共轭梯度公式，该公式具有以下优 点：1 ) 对于任意的非精确线搜索，在每一步迭代中，充分下降性都成立2 ) 很容易证明公 式仇= 硝具有性质木f 1 3 1 由于对v k 0 ，都有i 硝i l 雕御i 类似的，我们能定义另一个新的公式： 硝州+ = m a x o ，硝州) ，( 2 3 1 1 ) 其中 = 逊等丧等烈掣，舵1 ，助扎仁3 m ， 1 3 广西大掌周等掌历申请硕士学位论文( 2 0 0 7 年) 非线性共轭梯度算法的研究 类似公式( 2 1 5 ) ，很容易验证新公式( 2 3 。1 1 ) 也具有以上的优点，相应的数值结果列 在表1 中 2 4数值结果 在这一部分中，我们对五个共轭梯度法进行数值试验，数值试验中的3 1 个函数来自 f t p ：f t p m a t h w o r k s c o r n ，使用的数学软件为m a t l a b 7 0 1 结果如下表2 1 ，表中的相 关符号含义如下： p r p s w p ：试验参数为雎r p + s p ，6 = o 0 1 ，盯= o 1 ，e = 1 0 5 ； p r p + s w p ：试验参数为凤= m a x 0 ，砖即卜卜s 尸，6 = 0 0 1 ，o r = o 1 ，e = 1 0 5 ； n c g s w p ：试验参数为公式硝( p ) + s 只6 = 0 0 1 ，仃= o 1 ，p = 1 2 5 ，= 1 0 5 ； v n c g s w p ：试验参数为公式硝+ + s p 6 = 0 0 1 ，口= o 1 ，p = 4 ，e = 1 0 5 ； m v n c g s w p ：试验参数为公式硝y | v + + s w 只j = 0 0 1 ，盯= o 1 ，p 1 = 1 ，= 1 2 5 ，a = 0 0 1 ，s = 1 0 5 ； p r o b l e m ：测试问题的名称；d i m ：目标函数的维数；：方法对这个数值例子失效； n i n f n g ：迭代次数目标函数计算次数目标梯度函数计算次数 1 4 p r p s w pp r p s w pn c g s wpv n c g s wpm vn c g s w p p r o b l e m d m n i i n f i n gn i i np i n gn i n f n gn i n f i n gn i n f n g r o s e2 2 9 1 5 0 2 1 6 5 2 2 1 3 9 4 1 6 0 2 6 1 5 0 4 1 6 12 6 1 4 0 6 1 6 43 0 3 5 7 6 4 f r o t h2 1 2 1 3 0 1 2 61 0 1 7 , 8 1 2 6 1 2 1 7 8 1 2 11 3 3 4 1 2 61 3 1 3 4 2 6 b a d s c p2 6 4 1 3 2 6 1 6 43 7 1 3 5 4 1 8 83 2 2 6 4 b a d s c b2 1 8 8 0 钇1 1 1 2 3 2 21 3 1 2 4 2 13 0 5 7 4 2 2 5 1 9 3 1 3 4 b e a l e 3 9 1 1 2 0 1 2 19 1 7 3 1 2 01 5 1 5 4 2 62 6 1 1 4 0 3 41 9 1 1 1 4 3 2 j e n s a m4一 1 2 1 2 6 1 91 1 1 2 4 1 81 1 1 2 4 1 8 h e l i x2 4 9 2 5 5 8 83 2 2 6 5 5 52 6 1 3 7 1 6 54 5 1 2 4 0 1 7 4 5 2 6 0 7 6 b a r d2 2 3 3 72 7 1 5 2 1 4 31 9 1 3 7 1 3 11 7 1 3 2 2 8l s i z 4 2 6 g a u s s3 4 5 7 64 5 7 53 7 3 7 3 7 4 g u l p2 1 2 21 2 21 2 2 1 2 1 2i 2 2 s i n g3 1 8 1 1 7 0 6 3 0 09 i 5 0 7 97 4 1 3 1 5 1 2 96 2 2 7 7 1 1 0 37 2 = 0 8 x 2 3 w o o d3 1 9 5 1 2 7 8 3 5 3“柏l l 伯1 0 1 4 1 8 1 1 7 91 0 2 6 6 3 1 7 9l o o e 1 1 1 7 s k o w o s b l o s 5 2 s l s 8 3 1 1 2 4 9 7 97 0 2 8 9 1 1 07 9 1 3 0 3 1 2 44 7 2 4 1 拍 b d 一 7 s 5 2 3 i 1 18 8 3 6 4 5 0 o s b l5 一 b i g g 86 1 7 4 6 4 8 7 , 8 4 1 5 z 1 4 2 01 7 2 2 8 2 41 5 1 7 6 2 i o s b 21 1 , 5 5 z 3 0 8 2 6l 睨8 “3 铭4 5 5 1 9 9 0 7 3 3 6 4 2 2 枷1 0 6 04 4 4 1 9 6 5 7 1 5 w a t s o n 1 8 8 7 5 0 5 3 2 2 6 17 5 3 2 1 5 5 1 2 1 61 1 0 9 2 8 1 4 1 7 3 77 9 7 1 1 8 9 4 1 1 1 5 0l l 2 8 1 2 r o s e xs 2 3 4 0 2 5 02 5 3 7 1 6 28 8 3 柏1 8 87 4 1 3 7 5 1 5 12 7 3 0 6 0 3 3 1 5 3 3 7 6 2 5 3 0 8 5 92 7 i 7 3 3 83 耜8 侣2 5 2 1 s 8 8 1 0 0 2 6 4 7 9 1 7 73 3 瑚1 0 13 0 1 4 2 3 1 6 4 “2 6 1 2 63 1 2 0 4 8 0 s i n g x 1 8 1 7 0 6 3 0 04 9 1 1 5 5 1 7 97 4 3 1 5 1 2 96 2 2 7 7 1 0 37 2 2 0 8 1 2 3 p e n i 3 5 1 8 z 26 2 0 1 45 i s i 25 1 8 1 25 1 8 1 2 p e n 2 1 2 1 3 4 , 1 7 81 2 1 3 6 2 7 1 3 1 7 9 2 61 3 8 4 2 61 2 8 2 2 7 5 0 4 6 7 1 8 2 4 1 7 7 55 4 7 1 9 1 6 9 4 41 1 8 7 4 2 2 2 81 2 6 7 4 8 2 6 5 1 2 7 8 9 0 2 4 2 v a r d i m2 3 1 9 1 73 s 73 0 73 9 1 73 9 7 5 0 1 0 5 2 l o 5 2 3 81 0 5 2 3 6l o 5 2 3 6l o 5 2 2 6 t r i g3 1 2 2 41 4 1 3 1 2 51 5 2 7 7 2 52 3 4 3 6 1 3 3 2 i 4 1 1 2 7 9 7 24 1 2 3 0 仡s s 2 6 9 3 9 1 4 1 5 5 44 1 5 1 9 7 0 1 0 0 柏3 4 2 8 7拍5 4 1 8 55 5 5 6 3 i o o坞l 搬| 蟪蝙| 3 毓| 1 8 b v3 1 2 2 5 1 61 2 2 6 1 69 1 8 1 2 8 1 1 7 1 1 18 1 7 1 1 1 1 0 7 5 2 4 1 1 1 77 3 7 4 1 1 1 74 1 8 2 6 55 9 1 6 5 9 3l o o 2 “1 6 7 m3 5 1 2 76 1 1 4 85 1 2 75 1 1 2 1 75 1 2 7 5 0 6 1 3 75 1 i 0 5 l t s5 1 i e6 i i 6 1 0 0 0 1 3 86 1 3 s6 1 3 86 i 3 8 e i s i s 2 6 0 e i 3 s6 1 1 3 86 1 3 86 1 1 3 1 8 6 1 3 8 5 0 0 6 1 3 oe 1 3 80 1 1 3 1 86 1 3 80 1 1 3 8 r r i ds 1 0 7 5 1 3 1 1 3 3 3 1 91 5 3 3 1 91 6 3 5 2 11 3 1 7 4 1 7 5 0 2 6 1 的1 3 12 6 帖3 13 1 6 4 4 3 3 1 6 2 4 18 8 1 6 1 1 柚 1 0 0 3 0 8 7 3 68 8 1 6 7 1 3 62 6 5 0 跖2 6 1 5 7 3 82 5 5 5 3 4 2 0 0 8 8 2 63 1 1 6 7 1 02 7 3 7 b a n d3 8 6 8 1 3 l o 2 3 1 77 “1 27 6 4 1 27 1 6 4 1 1 2 5 0 l s 1 8 3 2 41 6 3 3 1 1 2 51 6 1 2 3 2 2 31 6 1 2 3 2 1 2 3 i 0 2 2 6 1 0 0 1 8 1 8 3 2 41 6 3 7 3 2 61 s 3 7 3 2 61 6 1 3 7 3 3 8 1 6 1 3 7 3 1 2 6 2 0 0 1 9 2 8 3 2 71 1 7 1 3 4 0 2 71 6 1 9 3 2 41 6 1 9 3 2 41 6 1 0 3 2 4 l i n2 1 3 31 3 31 1 3 31 1 3 31 3 3 5 0 1 3 31 3 3 1 3 31 3 3i 3 3 5 0 0 1 3 31 3 31 3 31 1 3 1 3 1 1 3 3 1 0 0 0 1 3 31 3 31 3 31 3 3 1 3 3 l i n i2 1 1 5 1 1 21 5 1 21 5 1 21 b 2 21 1 5 1 1 2 1 0 1 3 31 3 31 3 3i 3 31 1 3 1 3 l i n 0t 1 3 31 3 3 1 1 3 1 31 1 3 1 3i 3 3 1 5 广西大掌周等掌历申请硕士学位论文( 2 0 0 7 年) 葺e 线性共奢纠鼙度算法的研究 根据数值迭代的评估方法，利用下面的公式计算函数值与梯度值的迭代次数 n 协试= nf + 5 tn g ， 记i 为试验函数中的一个，新公式所产生的共轭梯度法为e m ( j ) ，m 删，i ( e m ( 歹) ) 与 乙叫，i ( p r p ) 的比值为 n ( e m ( 歹) ) = 瓦n t o t “丽, i ( e m ( j ) ) 如果算法i o 不能算出函数i o 的n t 耐越，i o ( e m ( j o ) ) 值，但算法p r p 能算出函数i o 的 肌。矧，i o ( e m ( p r p ) ) 值，则用一个常数n 来代替r 如( e m ( j o ) ) ，n 定义如下： n = m a x r i ( e m ( j o ) ) ：( i ，如) 8 1 ， 其中8 1 = ( t ，j o ) ：算法j o 不能算出函数i 的，, ( e m ( j o ) ) 的值 如果算法p r p 不能算出函数i o 的肌删，i o ( p r p ) 值，但是算法如能算出函数硒的 m 。纠，l ( e m ( j o ) ) 值，则用一个常数您代替r t o ( e m ( j o ) ) ，死定义如下： 死= m i n r i ( e mj o ) ) ：( ，如) 8 1 如果m a 吲，t o ( e m ( p r p ) ) 和小吒咖l ，如( e m ) ) 值都不存在，则定义r i o ( e m ( j o ) ) = 1 e m ( j ) 的比率r ( e m ( j ) ) 的几何表述如下： r ( e m 0 ) ) = ( 兀n ( e m ( j ) ) ) 南( s 为所计算函数的总个数) i 8 根据以上规则，