（计算数学专业论文）以a光滑正则化算子解非线性不适定问题.pdf

2 0 0 6 年上海大学硕士学位论文 摘要 本文主要讨论用a 一光滑正则化算子解非线性不适定问题。我们首先对非线性 问题用n e w t o n 型方法进行线性化，然后用其等价的b a k u s h i n k i i 形式，最后用a - 光滑正则化算子解其等价形式。文中我们分析了此方法的收敛性结果，得到了最 佳收敛速度。本论文主要由以下三个方面构成： 1 全面系统地综述了解不适定问题的方法，我们从正则化算子的构造和正则 参数的选取方面进行了阐述。介绍了解线陛不适定问题的t i c k h o n o v 正则化算子， a 一光滑正则化算子和l a n d w e b e r 迭代法等和解非线性不适定问题的l e n v e n b e r g - m a r q u a r d t 法和g a u s s n e w t o n 迭代法等对正则参数的选取我们主要介绍了最常 见的m o r o z o v 残差准则。 2 我们采用了先验和后验终止准则，得到了用a 光滑正则化算子解b a k u s h i n k i i 型的收敛性和收敛速度。 3 我们用一维非线性椭圆型方程作为数值例子。这里我们主要用著名的g p s t 方法来推导外迭代程序，并用差分法进行方程求解。 关键词：非线性不适定问题，a 一光滑正则化算子，终止准则，收敛性，收敛速度 2 0 0 6 年上海大学硕士学位论文 i i a b s t r a c t i nt h i st h e s i s ，w eu s ea s m o o t hr e g u l a r i z a t i o nt os o l v en o n h n e a ri l l p o s e dp r o b - l e m s f i r s t l y , w el l n e a r i z e dn o n l i n e a rp r o b l e m sw i t hn e w t o n t y p em e t h o d s t h e nw ec o p e w i t ht h ee q u i v a l e n tb a k u s h i n k i if o r mo ft h ea b o v ee q u a t i o nw i t ha - s m o o t hr e g u l a r i z a - t i o n i nt h i sc o n t e x t ，w ea n a l y z et h ec o n v e r g e n c eo ft h i sm e t h o da n dg e tt h eo r d e ro p t i m a l c o n v e r g e n c er a t e t h i st h e s i sc a l lb ed i v i d e di n t ot h r e ep a r t s 1 w ec o m p r e h e n s i v e l yi n t r o d u c et h em e t h o d st os o l v et h ei l l p o s e dp r o b l e m sa n de x - p l a i nf r o mt w or e s p e c t s ，t h ec h o i c eo f r e g u l a r i z a t i o na n dr e g u l a r i z a t i o np r a m e t e r o ns o l v i n g l i n e a ri l l p o s e dp r o b l e m s ，w ei n t r o d u c et h et i k h o n o vr e g u l a r i z a t i o n ，a - s m o o t hr e 9 1 l l a r i z a - t i o n ，l a n d w e b e ri t e r a t i v em e t h o da n ds oo n o ns o l v i n gn o n l i n e a r 一p o s e dp r o b l e m s w ei n t r o d u c et h el e n v e n b e r g - m a r q u a r d tm e t h o d ，g a u s s n e w t o ni t e r a t i v em e t h o da n ds oo nf o r t h ec h o i c eo fr e g u l a r i z a t i o np a r a m e t e r ，w em a i n l yi n t r o d u c et h ef a m o u sm o r o z o vd i s c r e p - a n c yr u l e 2 w eu s ep r o p e rs t o p p i n gr u l e sa n dg e tt h ec o n v e r g e n c ea n dc o n v e r g e n c er a t eo f s o l v i n gb a k u s h i n k i if o r mw i t ha - s m o o t hr e g u l a r i z a t i o n 3 w eu s eo n e - d i m e n s i o n a ln o n l i n e a re l l i p t i ce q u a t i o na sn u m e r i c a le x a m p l e i l e r e w ea p p l yf a m o u sg p s tm e t h o dt od e a lw i t ht h ei t e r a t i v ep r o c e s s a n du s et h ed i f f e r e n c e m e t h o dt os o l v et h ee q u a t i o n k e yw o r d s ：n o n l i n e a ri l l p o s e dp r o b l e m s ，a - s m o o t hr e g u l a r i z a t i o n ，s t o p p i n gr n l e ，c o n v e r g e r i c e c o n v e r g e n c er a t e 原创性声明 本人声明：所呈交的论文是本人在导师指导下进行的研究 工作除了文中特别加以标注和致谢的地方外，论文中不包含 其他人已发表或撰写过的研究成果参与同一工作的其他同志 对本研究所做的任何贡献均已在论文中作了明确的说明并表 示了谢意 签名：良尊 日期：如。6 6 本论文使用授权说明 本人完全了解上海大学有关保留、使用学位论文的规定， 即：学校有权保留论文及送交论文复印件，允许论文被查阅和 借阅；学校可以公布论文的全部或部分内容 ( 保密的论文在解密后应遵守此规定) 签名：阪箭 导师签名：缑厨7 乡日期：。6 - 6 ，t 2 0 0 6 年上海大学硕士学位论文 第一章预备知识 1 1 引言 近二十多年来，数学物理反问题已成为应用数学中发展和成长最快的领域之一； 之所以如此，在很大程度上是受其他学科与众多工程技术领域的应用中产生的迫 切需求所驱动 1 】粗略地说，反问题【2 ，3 ，4 ，5 ，6 是相对于正问题而言 的。按照j bk e l l e r 7 的提法，若在两个问题中，一个问题的表述或处理涉及到或 包含了有关另一个问题的全部的或部分的知识，我们称其中一个为正问题，另一 个为反问题。 反问题的一大特点，亦为难点是，一般说来它们在h a d m a r d 定义下是不适定 的，即在反问题中我们不能完全保证其解的存在性，唯一性和稳定性1 1 。反问题 的不适定性，是问题的本身所固有的一种特征；如果没有关于欲求解的附加信息 ( 例如，单调性，光滑性或有界性，或原始数据的误差界等) ，这一本质性的困难 是无法克服的【8 】。我们的任务就是要依据所能提供的关于解的附加信息，尽可能 多、尽可能稳定地恢复原问题的部分信息9 】。通常，人们把求解反问题( 不适定 问题) 的理论和方法称为正则化方法( 策略) 。 数学物理反问题的求解已发展了各种方法，诸如脉冲技术( p s t ) 、广义脉冲 技术( g p s t ) 、最佳摄动量法、蒙特卡罗法( m o n t ec a r l om e t h o d ) 、各种优化方 法和正则化方法等；其中，最具普适性、在理论上最完备而且行之有效的方法，就 是由著名学者t i k h o n o v 以第一类算子( 特别是积分算子) 方程为基本数学框架， 于2 0 世纪6 0 年代初创造性地提出、后来得到深入发展的正则化方法( 或策略) 。 其基本思想是：用一族与原问题相邻近的适定问题的解去逼近原问题的解。我们 已粗略地看出，如何构造“邻近”的问题( 即如何构造正则算子) ，以及如何控制 与原问题的“邻近程度”而决定与原始资料的误差水平相匹配的正则参数，将成 为正则化理论或方法的两大核心问题。 我们考虑具有以下形式的线性算子方程 a z = y 2 0 0 6 年上海大学硕士学位论文 2 其中a 是h i l b e r t 空间x 到h i l b e r t 空间y 的有界线性算子。( 1 1 1 ) 有解当且仅 当y r ( a ) ，( 1 1 1 ) 的解唯一当且仅当n ( a ) = o ) 。若( 1 1 1 ) 解存在且唯一， a - 1 存在。( 1 1 1 ) 的解具有稳定性等价于4 _ 1 连续【2 】。我们要得到( 1 1 1 ) 的 解，条件y r ( a ) 和n ( a ) = o ) 过于苛刻。因此我们通过引入a 的m o o r e - p e n r o s e 广义逆1 ，2 1 的概念拓广了( 1 1 1 ) 的解空间的范围。我们称z x 为( 1 1 1 ) 的最小范数最小二乘解，如果 l - i n f l z l1 i a z 一引l = r a i n l a x 一圳；x x ( 11 2 ) 我们知道最小范数最小二乘解的概念与a 的m o o r e - p e n r o s e 广义逆紧密相关，即 m o o r e - p e n r o s e 广义逆算子是y 映射到( 1 1 1 ) 的最小范数最小二乘解的解算子。 定义1 1 1a 三( 五y ) 的m o o r e - p e n r o s e 广义逆m 定义为五一1 的惟一线性延拓， 其定义域为 d ( a t ) = r ( a ) + r ( a ) 1( 11 3 ) 其中 n ( a ) = r ) 1( 11 4 ) a = a l ( - ：) 1 一r ( a )( 1 1 5 ) 定理l 12 设y d ( a t ) 。则( i 1 1 ) 的最小范数最小二乘解为 一= ，( 1 16 ) 方程( 1 1 1 ) 最小二乘解的集合为z + + n ( a ) 。 通常情况下，方程( 1 1 1 ) 的右端数据y 不是精确给出的，我们只知道它的 近似值y 5 ，且满足 怕y 。| | j( 1 1 ，7 ) 我们称y 6 为扰动数据，6 为误差水平。相应地，方程( 1 1 1 ) 变为 a x = y 6( 1 18 ) 我们希望对( 1 1 8 ) 所求得的解能逼近( 1 1 1 ) 的最小范数最小二乘解在不适 定的情况下，由于川无界，a t y 5 不能很好地逼近a t u ( 1 0 1 我们寻求一的近似 z ：，它应连续依赖于数据y 6 ，因此我们可对其稳定求解，另一方面它应满足当6 趋于零和取合适的正则参数时，z ：趋于z t 。我们构造一依赖参数的连续算子族 月。) 来正则化我们把z ：= 兄。y 6 作为z 十的近似，其中n 满足当j 一0 时， 2 0 0 6 年上海大学硕士学位论文 3 z i 一一。因此，正则化参数n 必与6 或y 6 有关，并可能与a 或y 的信息有关 正则化算子的构造和正则化参数的选取构成了解一类方程的正则化方法【1 1 l 。 定义1 1 3 令a ：x y 为h u b e r t 空间x 到h i l b e r t 空间y 的有界线性算子 o ( 0 ，+ c o 】。对任意( 0 “o ) ，令 冗d ：y _ x 为一连续算子( 不一定线性) 。若对任意y d ( a t ) ，存在一个参数选取准则o = o ( 正y 6 ) 使下式成立 嬲8 u “慨( 6 ，矿) 矿一a t 训ly 5 i l y 6 一训毋= 0 ( 1 _ 1 9 ) 则算子族 只。 称为a t 的正则化或正则算子。其中 口：r + y + ( o ，o o )( 1 1 1 0 ) 满足 i 。m 。s u p a 0 ，y 6 ) iy 6 y i l y 5 y l l 毋= 0( 1 1 1 1 ) 对任意y d ( a t ) ，若( 1 1 1 0 ) 和( 1 1 1 1 ) 成立，( r 。，d ) 称为一( 收敛) 正则 化方法。 除右端数据扰动的情况外，我们可把定义1 1 3 扩展到包括算子扰动的情形。 我们假设只得到a 的近似 ，并满足 l i a a 。| | 1( 1 1 1 2 ) 和参数选取准则依赖于6 ，q ，y 6 和a 。对收敛正则化方法我们自然要求当 正q 一0 时，条件( 1 1 9 ) 成立。 以下我们定义两种参数选取准则 定义1 1 4 令0 - 为如定义1 1 3 的参数选取准则。若。不依赖于y 6 ，仅依赖于 d ，我们称“为一先验参数选取准则并记n = n ( 6 ) 。否则我们称n 为一后验参数 选取准则。 为了对正则解的误差作出更精细的估计，我们给出按阶最优的定义，记 x p = 忸x ( 6 ，m ，r ) = s u p 删r 矿一z | l z = ( a + a ) ”w1 1 w l i 兰p ) z m ，y 5 e | | a 。矿is5 ) 心 m l l 0 q 2 0 0 6 年上海大学硕士学位论文 4 定义11 5 设r ( a ) 非闭， 凡) 为小的一族正则化算子，当“p 0 且 y a x 。，a 为解( 1 18 ) 的一参数选取准则，如果下式对所有d 0 成立 ( 6 ) ( m ，r 。) = 6 薪7 p 5 i 可 ( 11 ，1 5 ) 我们称( r 。，。) 在x 。中最优。如果存在一常数c 1 使得对所有d 0 下式成立 ( 6 ，x m ，r ) 曼c o 2 4 + ap j 币1 ( 1 1 1 6 ) 我们称( 凰，a ) 在x 。中按阶最优。 反问题可以分为线性和非线性两类，当然正则化方法也是分为线性正则化和 非线性正则化方法。线性反问题理论工作已经相对完善，在实际应用中也取得良 好效果；而非线| 陛反问题的理论和实践都还有许多需要完善的地方，而且非线性 反问题的理论工作开展得少，相互借鉴的地方有限，因此需要回到线性正则化方 法中寻找灵感。故我们下面分别介绍线性和非线性反问题中已经取得的一些好的 正则化方法。 5 1 2 一些线性正则化方法 首先我们介绍解线性不适定问题的连续正则化方法。为构造一般的线性正则化算 子，我( f j q l 入正则化逼近函数和残量函数的概念。 定义1 2 1 设g 。( ) ，o 0 是定义于r + 上的一族分段连续的有界函数，如果 它满足下面的条件 ( i ) o = s u p a ( o ，i i a i l 2 】以i g 。( a ) 0 ( i ；i ) 记r 0 ( ) = 1 啦( ) a ，有 l i m a 。o r 。( a ) = 0 ，v a 0 ( i i i ) 存在正常数岛，使得 a i g 。( n ) i 兰c o ，v n ，a 0 则称9 。( a ) 为正则化逼近函数，r 。( a ) 为残量函数。 设9 。( ) 是一个正则化逼近函数，定义y x 的线 生算子族 r lf n l l 2 。 r 。= g a ( a + a ) a + = fg 。( a ) d e a + j 0 其中 昆) 是a + 的谱系。我们可证r 。，是的正则化算子。 2 0 0 6 年上海大学硕士学位论文 5 1 t i k h o n o v 正则化方法【3 ，1 2 】 按原始定义，它是由变分法导出。对于a 0 ，定义x 上的二次泛函 西。( z ) = i l a x 9 6 1 1 2 + o i i 。l f 2 t i k h o n o v 正则化方法是以壬。( z ) 的极小点x 。作为方程( 足方程 ( a + 4 + o ，) z ：= a + y 6 从而有 ( 1 2 1 1 1 1 8 ) 的正则化解并满 z ：= ( a + 。，) 。1 a + y 6 r 。= ( a + a + n j ) - 1 a + 称为t 汰h o n o v , t n 化算子，对应的逼近函数为 如( a ) = 再1 i 2 a - 光滑正则化算子【1 3 设肛0 ，在x # 上定义泛函 壬。，“( z ) = i l a x 一5 1 1 2 + o l i z ( p ) 1 1 2 ( 1 2 2 ) ( 123 ) ( 1 2 4 ) ( 1 25 ) 其中z ( 一) 是z 的p 阶a 导数，我们可证在x # 上垂( z ) 存在唯一的极小元，它 满足方程 【( a + 4 ) “+ 1 + a 卅z ：。= ( a 4 ) “a + y 5( 1 2 6 ) 由此得 z ：，。= 【( + a ) “+ 1 + n 卅一1 ( a + a ) a a + y 6 = r 。，p y 6( 1 2 7 ) 其中凡。称为p 阶a 一光滑正则化算子，对应的逼近函数为 l p 虹“( 1 ) 2 # 五 ( 12 8 ) 当p = 0 时，上式退化为t i k h o n o v 正则化逼近函数( 1 24 ) 。 另外还有如截断奇异值分解方法 1 4 ，15 1 ，隐式迭代法【1 6 1 等。 用迭代法求解反问题时会出现所谓的。半收敛”现象，即：在迭代的早期阶 段，近似解可稳定地得到改进，展现出“自正则化”的效应，而迭代次数超过某一 阀值后便趋向发散。因而关键的问题是要寻找一个合适的终止原则，使得迭代次 数与原始数据的误差水平相匹配。研究表明：迭代指数，即迭代步数正好起到了 正则化方法中正则参数n 的作用，而这个终止准则正对应着正则参数的某种选择 2 0 0 6 年上海大学硕士学位论文 6 方法。下面我们介绍两种解线性不适定问题的常用迭代方法，l a n d w e b e r 迭代法 和共轭梯度法。 3 l a n d w e b e r 迭代法【1 ，17 】 l a n d w e b e r 建议用如下的迭代格式： z = z 2 1 + w a + ( 矿一a z 2 1 )( 129 ) 来求第一类算子方程的近似解。其中0 0 为l a n g r a n g e 乘子。利用一阶必要条件可以求得( 1 3 1 0 ) ( 1 3 i i ) 的个解，但未必是使目标函数最小的一个解。因此我们还得考虑其他有效的算 法。一个强适应性的算法是序列二次规划法( s q p ) 。 给定初始猜测值a 2 ，考虑如下迭代： n p l = n + s ，= 1 ，1 ，( 1 3 1 3 ) 其中n 为下列二次规划问胚： 墨安l i f ( 。 ) + f ( n ) s u i l 2 ( 131 4 ) s t 岛( n ) + v 岛( n ) t s 0( 1 31 5 ) 的解。 4 b a k u s h i n s k i i 正则化方法( 又称g a u s s - n e w t o n 迭代法) 这里采用与( 1 36 ) 等价的迭代格式 f ( o ) ( n l + l a o ) = 一( f ( n 2 ) u 6 一f ( n ) ( n 2 一n o ) )( 13 1 6 ) 由定义1 2 1 我t f , 7 - 知算子啦( a + a ) a 是有界算子，并逼近a 的广义逆。因此我们 得到一类解非线性问题的迭代方法 n 2 + 1 = n o g 。( a * k a k ) a ；( f ( o ) 一u 5a k ( n “o ) )( 131 7 ) 2 0 0 6 年上海大学硕士学位论文 1 0 其中a k = f ( n ) ，正则参数a * 满足下面的条件： 女 o ，1 旦o 。k + l _ 熙。k = o k 在f ( n 2 ) 满足一定的条件下，此迭代格式可以得到很好的收敛性。而且它的收敛 速度b a k u s h i n s k i i 给出了证明【2 4 。 另外还有如信赖域方法【2 5 ，2 6 ，2 7 ，t i k h o n o v 正则化方法 6 】等。 旺4 几种正则化参数选取法则 正则化方法的艺术在于如何在近似解的精确性和稳定性之间进行平衡和折中；这 就牵涉到正则参数的选取问题。下面介绍两种误差水平已知的正则参数选取准则， m o r o z o v 残差准则和a r c a n g e l i 准则和两种误差水平未知的正则参数选取准则，拟 最优准则和l 曲线准则。 1 m o r o z o v 残差准则【2 8 】 残差准则是一种被广泛应用的后验选取正则化参数的方法。令9 。，r e * 如1 2 定义，这里我们采用以下形式来定义正则化参数 q ( 占，扩) = s u p a 0 | a z ：一一i r 毋( 14 1 ) 其中 r s u p i t 。( a ) il “ 0 ，a 【0 ，i i a i l 2 )( 14 2 ) 我们假设对 c a 0 ，o g a ( k ) 是左连续的，则函数 o t i i a x ：一y 6 f i 也是左连续的。则我们可取到式( 1 4 1 ) 的极值，从而亦有 i i a x ：( d ，矿) 一硎椰 ( 14 3 ) 若对所有a 0 ，1 | a z ：矿r 6 ，则a ( 6 ，y 6 ) = + 。，此时z 扩) 可被理解为当 一+ 。时的极限。对a 0 ，令 g 。= s u p 1 9 。( a ) ia 0 ，l i a i l 2 ) 2 0 0 6 年上海大学硕士学位论文 若 瓯i ，n 0 ( 14 - 4 ) 其中a 0 为常数，则 z = 牌z 。5 = 0 ( 1 4 5 ) 因此，正则化参数是通过比较残差| | a z ：一矿i i 和已知误差水平来确定的。 2 a r c a n g e l i 准则【2 9 】 a r c a n g e l i 于1 9 6 6 年几乎与m o r o z o v 同时但独立地提出了正确正则参数的一个 残差方法 2 9 】，他主张由下式 悄z ：一矿卜击= o ( 1 4 _ 6 ) 来确定正则参数。对于每个固定的5 0 ，函数 p ( n ) = v f d a x ：矿i l 对a 是连续的，单调递增的，且有 牌p ( “) 20 ，熙p ( a ) 2 。 故存在唯一一个n = a ( d ) 满足方程( 1 4 6 ) 。 3 拟最优准则【3 0 】 t i k h o n o v 在文献 3 0 】中指出当数据误差水平d 或算子误差水平q 未知时，可 根据下面的拟最优准则： 。rm 删i n 舭等吣( 14 7 ) 来确定正则参数。其基本思想是让正则参数n 以及正则解对该参数的变化率同时 稳定在尽可能小的水平上。记 p a ( 。) = 忙案n n o 则舶( a ) 易由下述公式： 。等= 一n ( 删+ 。矿1 算得。注意到在有限维情形总有p q ( o ) = 0 ，因此在实际计算时应当将初始值n o 取 得稍大些。 4 l 曲线准则 3 1 2 0 0 6 年上海大学硕士学位论文 1 2 l 曲线准则是指以l o g - l o g 尺度来描述i i z 。| | 与怕一a x 。| | 的曲线对比，进而根 据该对比结果来确定正则参数的方法。运用l 曲线准则的关键是给出l 曲线隅角 的数学定义，进而应用该准则选取参数n 。 h a n k e 等f 3 1 1 建议定义l 曲线的隅角为l 曲线在l o g 1 0 恬尺度下的最大曲率。 令 p = l o g 怕一a x 。0 0 = l o g i | z 。8 则该啦率作为参数a 的函数定义作 如) = 篇 ( 1 4 8 ) 其中”“表示关于a 的微分。 h w e n g l 在文献 3 2 中指出，在相当多的情况下，l 曲线准则可通过极小化 泛函 ( a ) = l i x 。一a x 。 来实现。即选取矿使得 矿2 a r g ( 。i n f o ( d ) ) ( 1 4 9 ) 这一准则更便于在数值上加以实施。其实，我们也可以从另一角度来诠释该准则 的含义：对于任何n 0 ，正则解z 。是数值稳定的，因而极小残差恼一a x 。是 合理的此外，由于我们要求的是具有极小模的最小二乘解，故使忙。i i 极小化亦 在情理之中。综上，极小化乘积忙。l i l l y a x 。| | 便可同时达到上述目的。 迄今为止，人们尚未获得关于l 曲线准则的收敛性结果，事实上有人已举反 例指出了l 曲线准则的不收敛性【3 3 】。但数值结果 3 1 】表明l 曲线准则具有很强 的适应性。正则参数选取方法另外还有如e n g l 的误差极小化准则【1 ，1 7 】，广义 a r c a n g e l i 准则 3 2 】，广义交叉校验准则f 1 7 ，3 4 等。 2 0 0 6 年上海大学硕士学位论文 1 3 第二章先验选取迭代次数的收敛分析 2 1 新n e w t o n 型迭代法的推导 数学或应用数学的许多反问题产生具有以下形式的非线性不适定问题 其中f ：d ( f ) c x y 是从h i l b e r t 空间x 到h i l b e r t 空间y 的非线性算子1 ， 3 1 。方程( 11 ) 被称为不适定的，我们通常是指它的懈不连续依赖于右端数据。 在实际情况中，我们总是得到u 的近似沪，并满足 i l u o v l i d( 2 1 2 ) 因此我们必须正则化问题( 2 1 1 ) 。以下我们用n e w t o n 型方法处理问题( 2 1 1 ) 。 首先我们用n e w t o n 方法在点a 。对问题( 2 11 ) 线性化，得 f ( n 。) ( o 一口。) = 一( f ( o 。) 一u )( 21 3 ) 然后我们分别用n 。+ l 和u 6 来代替a 和u ，得 f ( o 。) ( n 。+ 1 一a n ) = 一( f ( o 。) 一u 6 )( 2 1 4 ) 通常线性化方程( 2 14 ) 是不适定的，因此我们仍需对其正则化h a n k e 3 5 ， 3 6 】分别用著名的t i k h o n o v 正则化方法和共轭梯度法对方程( 2 1 4 ) 进行处理并 得到其收敛速度。至今，这两种方法的收敛速度问题仍未得到解决。b a k u s h i n s k i i 3 7 提出了另一种方法来解线性化方程，即解一个( 21 4 ) 的等价方程 f ( n 。) ( n 。+ 1a o ) = ( f ( 。) u 6 一f7 ( 。) ( 。n o ) )( 21 5 ) k a l t e n b a e h e r 研究了b a k u s h i n s k i i 型的许多正则化方法【3 8 ，也得到了收敛性和收 敛速度【3 9 ，4 0l 实际上在以下对非线性算子f 的条件( 2 1 1 1 ) 下，我们只得 到n e w t o n t i k h o n o v 和n e w t o n - l a n d w e b e r 迭代这两种方法的收敛速度。我们知道“ 2 0 0 6 年上海大学硕士学位论文 1 4 阶a 一光滑正则化算子 1 3 以t i k h o n o v 正则化算子作为它的特殊情形( “= 0 ) ，以 修正的截断奇异值分解方法作为它的极限情形( 卢= o 。) ，故用它来解( 2 15 ) 有其一般性，得 a n + l = a o 一 ( a 矗a 。) “+ 1 + o 。明一1 i 二 。) “ 三( f ( n 。) 一u 5 一a 。( 。一a o ) )( 2 1 6 ) 其中p 0 ，a 。= 一( n 。) ，髯是a 。的伴随算子，n 。是正则参数并满足 o 。 0 ，0 0 时，n ( 5 ) 由下式确定 2 v + l 2 u + l 叫n 膏”+ ” 占叼血：“+ ”，0 7 l n( 2 1 1 3 ) 其中 0 ，0 。j i ；丽2 鬲：i j 再) “+ 1 二万o 兰8 曼肛+ 1 ( 2 2 5 ) 若a 。满足( 2 1 7 ) ，0 兰p p + 1 ，由( 2 2 5 ) 我们可得 ( 啦a 南s 。u p 志蚓l ( 2 26 ) 其中i = ( 南) 寿导是常数。 o ，o 茎从p + 1陋7 ) l 怕0 ，= p + l 、 引理2 2 1 令b p ( a t ) ，式( 2 12 ) ，( 2 1 9 ) ，( 2 1 1 1 ) 成立。则 其中 j f ( a 。) 一u 5 一a 。e ，。| | c t h a e 。| | + 6( 2 2 8 ) 国= ( h + p ) + i l p c 。 ( 2 2 9 ) 2 0 0 6 年上海大学硕士学位论文 1 6 证：由引理条件，得 i i f ( a 。) 一u 6 一a 。e 。| | l i e ( a t ) 一f ( a 。) 一f ( n 。) ( 一一a n ) f | + 6 i i f ( a + ) 一f ( 。) 一f a 。) ( n t n 。) i | i i f ( i ) 一f ( n 。) 1 ( n t 一。) l i d t j 0 = i i 【r 扛，n 。) f ( 。) + q ( a ，。) j 0 一f 。( n 。) ( 。t a 。) i i d t 上( i i r ( 呻n ) - i l li i 一( n n ) ( 一训 + i i q ( a ，o 。) i d a d i d t c r i i f ( a 。) ( 。f 一。) | | + 里宴| j 。o 其中i = a 。+ t ( a t a 。) 。因为 l i e ( n 。) ( n t o 。) | | = | | 【r ( n 。，a t ) f7 ( o + ) + q ( a 。，n + ) ( n + 一a ) l l ( 1 + ( 强) j | a e 。| | + p c q i i a e 。| | = ( 1 + 嘞+ p ) i i a e 。i i 式( 2 28 ) 成立。 口 引理2 2 2 ( 【2 4 o l i n2 3 ) 设序列 n 。) 满足 0so n 墨a ，l i r an n = 五兰a 并且，我们假设序列 ) 满足下述估计 0 s + 1 + h + c 镌，n n o ，7 0 0 其中b ，c 0 ，令1 和，如下定义 2 a l b + v ( 1 6 ) 2 4 a c 2 3 f 百了矿葡萄荔卜瓦一 若b + 2 扛 1 和q o ，则 m a x ( 7 0 ，! ) ，n n o 并且若i a ，则 l i r as u p _ 而顽舄葡 2 0 0 6 年上海大学硕士学位论文 1 7 定理2 23 设0s 肛 o 。，肛是整数，( 2 1 7 ) ，( 2 1 8 ) ，( 2 19 ) 成立。当 0 “+ 1 时，n ：( 6 ) 由( 2 1 1 3 ) 确定，当v = o 时，n ( 6 ) 由( 2 1 - 1 4 ) 确 定。我们假设以下条件成立 ( i ) 当0sp ；时，( 2 1 1 1 ) 和以下条件成立 b + 2 o c 1 识f 面甄 2 c 。声剐训+ 2 a 存硎酬塞( 万兰熹2 ) 者赫兰主导+ 伊”a 声 s 2 0 p 。 + c e c q n 存刑圳壹i = 可) 南竺吉字+ 。孝刑训 s = o r“。一 娄c 芒毛，揣等字+ g 3 曲n 声， sp 其中c 3 是常数，而 。：口一哥筠例w 1 1 + ( 1 + c r ) ( 2 强列酬壹( 等) 鬻：i + 枷 s = 0 。 。：。一着铀 z g 。声刊u 川壹( 五兰毛) 暑尚兰去# s = 0 ， ”。2 + c + 嘶，n 庐硎训喜cc 专毛，揣辛 + c 等，箫并， + ( 1 + c n ) c t + q 护了c q c 3 叩) q 一揣 。0 南c q i l l 。i i 搿万雨s 胪一1 百# + 丁l - s + 曲e 3 。声 c 。：。 螋避剑， o ” + ( 尚) 赫p s + 考 “+ 一s 、 七i 1 一b + ( 1 一b ) 2 4 a c 学 2 0 0 6 年上海大学硕士学位论文 1 8 ( i i ) 当p + 5 曼曼“+ 1 时，( 2 1 1 0 ) 和以下条件成立 b + 2 面 1 幽 ! 二! 近三旺 o ，d 2 4 - 1 2 c a 扩1 g p 其中 o = q - 南( i | | | | + e 3 q ) 6 咄喃妻( n 眦删啡i ii i ”1 1 ( 高) 揣告 6 = 上q 一南( n r a ) 一i ”等) 鑫格竺鲁 s 2 u n 赢们广一酬( 吾南) 寿等 c = q - 南n 静譬 c r = m a x 警，而1 纛x 1 1 等际4 a c )a 岸+ 1 一o + 【一”一 则 i l a n o ) - - a ) l l = 器嘉蒜知部哪+ ， 证：首先对第一种情况进行证明。设当0sn n o 0 有 丢一乓一 丢一q o n ) a 。需。需 由引理2 22 得 牌8 “p 9 ( ) 2 a ( 5 ) f 22 1 6 ) i ( 5 ) ：g 一南( 1 + 国) o “船 由5 的任意性得当5 0 时，o 一0 。因此1 1 e 0 = o ( 1 ) 对第二种情况，我们类似可得 l l i e 。“l ln 嚣+ 1 眦。( “) + 圳w 名( 一) 2 0 0 6 年上海大学硕士学位论文 耋n 爷c 高，揣告眦删一s + 三。驴石二 可) 南丝云窨队鲈一j 训) + 宰( 细。i i 。+ 6 ) o ： 令 ，。：蚴 n 矿1 类似第一种情况证明可得 r 儿兰g 当0 兰n n 时，n 。睇( n + ) ，并且黼| | ：o ( 。声) ：o ( 6 南) 。 口 注：1 ) 当p = 0 ，此定理即为 2 4 】中定理2 4 的结果。 2 ) 当c h ，c b ，怕i l ，p ，q 等参数适当小时，定理的条件可以满足。与适 定的非线性算子方程的n e w t o n 法相比较，可以看出对非线性不适定算子方程，迭 代收敛的条件更苛刻得多，这也是这类问题求解中遇到的最大的挑战。 2 0 0 6 年上海大学硕士学位论文 第三章后验选取迭代次数的收敛分析 3 1 一些基本估计 以下我们将采用【38 中提出的后验终止准则来正则n e w t o n 迭代。它的迭代步数 由以下的不等式确定 m a x l l f ( a g 一1 ) 一u 6 ，b v r 5 m a x l l f ( a 。一1 ) 一u 6 亿) ，0 n 1 ( 3 1 1 ) 其中