数值分析特征值和Jacobi方法

1、第9章 矩阵特征值问题的数值方法 9.1 特征值与特征向量引言工程实践中有多种工程实践中有多种振动问题振动问题，如桥梁或建，如桥梁或建筑物的振动，机械机件、飞机机翼的振筑物的振动，机械机件、飞机机翼的振动，工程实践中有多种振动问题，如桥动，工程实践中有多种振动问题，如桥梁或建筑物的振动，机械机件、飞机机梁或建筑物的振动，机械机件、飞机机翼的振动，及一些翼的振动，及一些稳定性分析稳定性分析和相关分和相关分析可转化为求矩阵特征值与特征向量的析可转化为求矩阵特征值与特征向量的问题。问题。London, England: Millennium (Wobbly) Bridge (1998-2002, N

2、orman Foster and Partners and Arup Associates) I decide that I have to write something today, otherwise I would not know how to speak English here. This is a very quick story about a bridge. London launched three major construction projects to celebrate the arrival of the Millennium. After all, Gree

3、nwich (pronounced green-ich) is supposed to be (supposed to be?!) where the prime meridian lies, and the place where the Millennium officially starts in the world. The three projects are the Millennium Dome in North Greenwich, so far the largest single roofed structure in the world, London Eye right

4、 across Westminster, which becomes so far the largest observation wheel in the world, and the Millennium Bridge that links Southeast London with St. Pauls Cathedral, which is currentlywell.not swinging any more, it is said. The bridge was designed by Imperial College, a college of my former universi

5、ty. On the very first day that the bridge was open to public, there were simply so many people going there to walk from the south bank to St. Pauls that the weight completely exceeded the architects expectation. The slender steel truss bridge began to vibrate with a million people on there. The open

6、ing ceremony ended up in an embarrassing vertigo. Millennium left Londoners a happy adage about swinging bridge, meaning fancy technology that looks good but functions in a funny fashion. Am I using too many Fs here? Or is it simply because my tongue starts to swing in the same direction when I am w

7、riting about this wobbly bridge? Next time you visit London, I strongly recommend this place. After all, with a little swing, this is a shortcut to dash into St. Pauls directly from the southeast! xxGT1exTG: Google Matrix, “the worlds largest matrix computation”. 4,300,000,000 x: PageRank（网页级别）（网页级别

8、） vector “The $25,000,000,000 Eigenvector”搜索引擎搜索引擎9.1 特征值与特征向量 设A是n阶矩阵，x是非零列向量. 如果有数存在，满足 ， (1)那么，称x是矩阵A关于特征值的特征向量. Axx如果把(1)式右端写为 ，那么(1)式又可写为:Ix()0IA x| 0IA即1110( ) |.nnnfIAaaa记它是关于参数的n次多项式，称为矩阵A的特征多项式， 其中a0=(-1)nA. (2) 显然，当是A的一个特征值时，它必然是 的根. 反之，如果是 的根，那么齐次方程组(2)有非零解向量x，使(1)式成立. 从而，是A的一个特征值. A的特征值也

9、称为A的特征根. ( )0f( )0f矩阵特征值和特征向量有如下主要性质： 定理9.1.1 n阶矩阵A是降秩矩阵的充分必要条件是A有零特征值. 定理9.1.2 设矩阵A与矩阵B相似，那么它们 有相同的特征值. 定理9.1.3 n阶矩阵A与AT有相同的特征值. 定理9.1.4 设ij是n阶矩阵A的两个互异特征值，x、y分别是其相应的右特征向量和左特征向量，那么，xTy=0 . 9.2 Hermite矩阵特征值问题 设A为n阶矩阵，其共轭转置矩阵记为AH. 如果A=AH，那么，A称为Hermite矩阵.9.2.1 Hermite矩阵的有关性质 设 是Hermite矩阵A的n个特征值.有以下性质:

10、全是实数.12,.,n 12,.,n 有相应的n个线性无关的特征向量，它们可以化为一组标准酉交的特征向量组 ,即 12,.,n 12,.,nu uuHiju uij 是酉空间中的一组标准酉交基. 12,.,nu uu 记U=( ),它是一个酉阵，即UHU=UUH=I，那么即A与以 为对角元的对角阵相似.12,.,nu uu1HnUAUD12,.,n A为正定矩阵的充分必要条件是 全为正数. 12,.,n 定理9.2.1 设 是Hermite矩阵A的n个特征值，那么证:12,.,n 21maxii nA 21niFiA2222()()( ( )HAA AAA由21maxii nA 因此2221(

11、)()nHiFiAtr A Atr A又由21niFiA得 设x是一个非零向量，A是Hermite矩阵，称 为矩阵A关于向量x的Rayleigh商，记为R(x). HHx Axx x定理9.2.2 如果A的n个特征值为 其相应的标准酉交的特征向量为 那么有 12.n12,.,nu uu1( )nR x定理9.2.3 设A是Hermite矩阵 ，那么100min( )min( )kn kkkx Cxx CxR xR x 且且或9.2.2 极值定理 定理9.2.4(极值定理) 设Hermite矩阵的n个特征值为 ，其相应的标准酉交特征向量为 . 用Ck表示酉空间Cn中任意的k维子空间，那么12.n

12、12,.,nu uu1100max min( )minmax( )kkn kn kkx CxCkCx CxR xR x 且且或9.2.3 Hermite矩阵特征值问题的性态 矩阵特征值问题与求解线性方程组问题一样，都存在当矩阵A的原始 数据有小变化(小扰动)时，引起特征值问题的变化有大有小的问题，如果引起的变化小，称 该特征值问题是良态的. 反之，称为病态的. 矩阵特征值问题的性态是很复杂的，通常分别就单个特征值或整体特征值给出条件数进行分 析. 对于Hermite矩阵，由于其特征值问题的特殊性质，其特征值都是良态的.下面先证明Hermite矩阵特征值的扰动定理. 定理9.2.5 设矩阵A，E

13、，A+E都是n阶Hermite矩阵，其特征值分别为 那么,证 设矩阵A关于特征值1，2，n 的标准酉交特征向量为u1，u2，un， 是由ui，ui+1，un生成的n-i+1维子空间. 对 中任意非零向量x,由极值定理,有12n12n12n1inii1n iC 1n iC 111000()maxmaxmaxn in in iHiHx CxHHHHx Cxx CxxAE xx xx Axx Exx xx x 且且且由定理9.2.3，又由定理9.2.2，对任意x0，有从而有另一方面, A=(A+E)-E. 记 为矩阵-E的特征值，那么，重复上面的过程,可得从而有10maxn iHiHx Cxx Ax

14、x x 且110maxn iHnHx Cxx Exx x 且1ii12n1in i 1iiiin定理9.2.5通常又称为Hermite矩阵特征值的扰动定理 定理9.2.6 设矩阵A和A=A+E都是n阶Hermite矩 阵，其特征值分别为 和 ，那么 12n12n222iiEE9.3 Jacobi方法 理论上，实对称矩阵A正交相似于以A的特征值为对角元 的 对角阵. 问题是如何构造这样的正交矩阵呢? Jacobi方法就是通过构造特殊的正交矩阵 序列，通过相似变换使A的非对角线元素逐次零化来实现对角化的. 9.3.1 平面旋转矩阵与相似约化先看一个简单的例子. 设 是二阶实对称矩阵，即a21=a1

15、2，其特征值为1，2. 令 使得 记 容易验证BT=B, 且11122122aaAaacossinsincosR11TR AR11122122TbbBR ARbb22111112222212212211122222111222cos2sincossin()sincos(cossin)sin2sincoscosbaaabbaaabaaa解之得:当 时当 时可选取 1122aa12112221arctan2aaa1122aa4为使RTAR为对角阵，要求b12=b21=0一般的n阶平面旋转矩阵21arctan2pqppqqaaa49.3.2 经典的Jacobi方法 设A是实对称矩阵，记A1=A.Ja

16、cobi方法的基本思想是用迭代格式 Ak+1=QTkAkQk , k=1,2, 构造一个相似矩阵序列，使Ak收敛于一个对角阵. 其中 Qk为平面旋转矩阵，其旋转角k由使Ak的绝对值 最大元a(k)pq=a(k)qp=0 或按列依次使A的非对角元 零化来确定. 定理9.3.1 设A是n阶实对称矩阵，那么由Jacobi方法产生的相似矩阵序列Ak的非对角元收敛于0. 也就是说，Ak收敛于以A的特征值为对角元的对角阵. 记 其中Ek是Ak除主对角元外的矩阵.由平面旋转矩阵的性质 中,对于 ,有因此,( )()kkiikAdiag aE1TkpqkpqAR A R,ip q(1)2(1)2( )2( )

17、2()()()()kkkkipiqipiqaaaa22( )212()kkkpqFFEEa又由假设,因此,这样,便有从而,当22( )( )( )( )1,1max(1)nkkkkpqijpqpqi j niji jijaaan na且且且22( )(1)kkpqFEn na222112222(1)(1)kkkFFFEEEnnnn1,0kFkE9.3.3 实用的Jacobi方法 循环Jacobi方法必须一次又一次扫描，才能使Ak收敛于对角阵 ，计算量很大. 在实际计算中，往往用一些特殊方法来控制扫描次数，减少计算量. 下面介 绍一种应用最为广泛的特殊循环Jacobi方法阈Jacobi方法. 阈

18、Jacobi方法首先确定一个阈值，在对非对角元零化的一次扫描中，只对其中绝对值 超过阈值的非对角元进行零化. 当所有非对角元素的绝对值都不超过阈值后，将阈值减少， 再重复下一轮扫描，直至阈值充分小为止. 减少阈值的方法通常是先固定一个正整数Mn，扫描一次后，让 . 而阈值的下界是根据实际问题的精度要求选定的. M9.3.4 用Jacobi方法计算特征向量 假定经过k次迭代得到Ak+1=RTkRT1AR1Rk，(15) 这时Ak+1是满足精度要求的一个近似的对角阵. 如果记Qk=R1R2Rk=Qk-1Rk，(16) 那么，Qk是一个正交矩阵，且(15)式又可表示为Ak+1=QTkAQk.当Ak+

19、1的非对角元素充分小，Qk的第 j列qj可以看成是近似特征值a(k+1)jj相应的特征向量了. 在实际计算中，可以按(16)式在迭代过程中形成Qk，把Qk看成是Qk-1右乘一个平面旋转矩阵得到. 不妨记 Q0=I，Qk的元素按下式计算：( )(1)(1)( )(1)(1)( )(1)cossin,sincos, ,1,2,kkkipipkipkkkkiqipkiqkkkijijqqqqqqqqjp qin 9.4 对分法 理论上，一个实对称矩阵正交相似于一个以其特征值为对角元的 对角阵. 但是，经典的结果告诉我们，一个大于4次的多项式方程不可能用有限次四则运算 求根. 因此，我们不可能期望只用

20、有限次相似变换将一个实对称矩阵约化为一个对角阵.下面先介绍将一个实对称矩阵相似约化为实对称三对角矩阵的方法，再讨论求其特征值的对 分法. 9.4.1 相似约化为实对称三对角矩阵 将一个实对称矩阵正交相似约化为一个实对称三对角矩阵的算法，可归纳如下： 记A(1)=A,对k=1,2,n-2 按(4)式、(5)式和(8)式计算 ； 按(9)(12)式，计算A(k+1). ,kkku和( )1,( )2,( )(4)kkkkkkkkknkaaua ( )( )21,1()() (5)nkkkkkiki ksignaa ( )1,()(8)kkkkkka 1( )1(1)( ),(9),(10)1,(1

21、1)2(),(12)kkkkTkkkkkkkkkkTTkkkkgA uu gyguAAu yy u9.4.2 Sturm序列的性质 设实对称三对角矩阵为 其中i0 (i=1,2,，n-1) 其特征矩阵为T-I. 记T-I的第i阶主子式为 111221nnaTaa111211( )iiiiaapa 这是关于的i次多项式，当i=n时， pn()=T-I是矩阵T的特征多项式. 令p0()1，则有p1()=1-，pi()=(i-)pi-1()-2i-1pi-2()，i=2,3，n.(15) 多项式序列pi() (i=0,1,，n)称为Sturm序列 111211( )iiiiaapa定理9.4.1pi

22、() (i=1,2,，n)的根都是 实根. 证 由(14)式，pi()是i阶实对称矩阵的特征多项式，因此，pi() (i=1,2,，n)的根全是实根. 定理9.4.2定理9.4.2 设是pi()的一个根，那么 pi-1()pi+1()0，即相邻的两个多项式无公共根； pi-1()pi+1()0，即pi-1()与pi+1( )反号. lim( )0,iplim( )0,lim( )0,iipp当i为奇数当i为偶数定理9.4.4 pi()的根都是单根，并且将pi+1()的根严格隔离. 9.4.3 同号数和它的应用 定义1 设p0()1，pi()(i=1,2,，n) 是一个Sturm序列，称相邻的两个数中符号一致的数目为同号数，记为ai(). 若某个pi()=0，规定与pi-1()反号. 定理9.4.5 设两个实数x3n，可以用乘幂法计算2及其相应的 特征向量. 在计算1和v后，按(15)式形成n-1阶矩阵B的计算过程称为收缩方法. 9.6 反幂法 反幂法可以求一个非奇异矩阵A的逆矩阵A-1的按模最小的特征值及相应的特征向量，又可以求A的一个近似特征值相应的特征向量. 9.6.1 求按模最小特征值及相应特征向量的反幂