第十一章特征值与特征向量

.,第11章特征值与特征向量,.,代数特征值问题,工程实践中有多种振动问题，如桥梁或建筑物的振动，机械机件、飞机机翼的振动，及一些稳定性分析和相关分析可转化为求矩阵特征值与特征向量的问题。,矩阵A=(aij)nn的特征值是A的特征多项式p()=|I-A|的n个零点,.,用单位矩阵I来重写上述方程，可以得到Ax=Ix，从而进一步可以写成线性方程组的标准形式(A-I)x=0，这是关于向量x的齐次线性方程组。该齐次方程组因为存在非平凡解x0，所以有det(A-I)=0,矩阵的特征值问题,.,行列式det(A-I)=0可写成如下形式：,将行列式展开得到一个n阶多项式（特征多项式）：,.,特征值的计算方法,当维数n很小时，手工计算特征值和对应的特征向量的方法：求特征多项式的系数求特征多项式的根即特征值求齐次线性方程组(A-I)V=0的非零解即特征向量当维数n稍大一些，行列式展开本身就很不容易，另外高次代数方程的求解也很困难。因此，矩阵特征值的求解，主要是数值解法，如幂方法、雅可比方法和QR算法,.,特征值的一些有关结论,定理设为ARnn的特征值且Ax=x，其中x0，则c为cA的特征值（c为常数c0）-p为A-pI的特征值，即(A-pI)x=(-p)x(Th11.19)k为Ak的特征值，即Akx=kx设A为非奇异阵，那么0且1/为A-1的特征值，即(Th11.20),且上述各矩阵对应的特征向量全都为x,.,特征值的重复度,定义：特征多项式p()=det(A-I)可以分解为如下形式,其中mj是特征值j的重复度。所有特征值的重复度之和为n，即有：,.,特征值的存在性定理（1）,定理11.4(a)对矩阵A的每个唯一的特征值至少有一个与该特征值相应的特征向量V(b)如果矩阵A的特征值的重复度为r，则A至多有r个与该特征值相应的线性无关的特征向量V1,V2,Vr,.,定理11.4的应用,将重复度r1的特征值代入下列方程：(A-I)V=0采用高斯消去法就可以得到高斯归约形（上梯形），包含有n个变量，n-k个方程，其中1kr。因此可供选择的自由变量有k个，通过一定方式选择自由变量，可以得到与对应的k个线性无关的解向量V1,V2,Vk,.,特征值的存在性定理（2）,定理11.5设A是一个方阵，1,2,k是A的互不相同的特征值，对应的特征向量分别是V1,V2,Vk，则V1,V2,Vk是一组线性无关的向量集合。定理11.6如果nn矩阵A的特征值是互不相同的，则存在n个线性无关的特征向量Vj，其中j=1,2,n。,.,左特征向量,在式AV=V中，由于V右乘矩阵A，因此被称为相应于特征值的右特征向量如果有YA=Y，则相应地称Y为矩阵A的特征值的左特征向量一般地，矩阵A相应于特征值的左特征值Y与右特征值V是不同的，但如果是一个实对称矩阵，即A=A，则(AV)=VA=VA，(V)=V。所以当A是实对称矩阵时，左右特征向量相同,.,特征向量归一化,矩阵A的相应于特征值的特征向量V乘以一个常量c仍然是特征值的特征向量A(cV)=c(AV)=c(V)=(cV)为得到唯一的形式，可使用向量范数将特征向量归一化U=V/|V|p则向量U的p-范数为1,.,对角化,对角矩阵D的特征值容易求得,令Ej=00.010.0T是标准基向量，其中第j个分量为1，其它的都是0，从而有,DEj=00.0j0.0T=jEj,这表明矩阵D的特征对是j和Ej，其中，j=1,2,.,n,.,如果有一种简单的方法可将矩阵A转换为对角阵，则可以直接得到它的特征值定义11.5设有nn矩阵A和B，如果存在一个非奇异矩阵K，使得B=K-1AK，则称矩阵A和B相似定理11.7如果A和B是相似矩阵，和V是矩阵A的特征对，那么也是矩阵B的特征值，设非奇异矩阵K使得K-1AK=B，则Y=K-1V是矩阵B的对应于特征值的特征向量一个nn矩阵A，如果它和一个对角矩阵相似，则称它是可对角化的,.,对角化定理,定理11.8矩阵A和一个对角矩阵D相似，当且仅当它有n个线性无关的特征向量。如果A和D相似，则有V-1AV=D=diag(1,2,.,n)V=V1V2.Vn其中n个特征对是j和Vj，j=1,2,.,n.,具有n个不同特征值的矩阵A是可对角化的,例11.3,.,对称性的优势,对于实对称矩阵，它一定有n个实特征向量，对于重复度为mj的特征值，它有mj个线性无关的特征向量，因此每一个实对称矩阵都是可对角化的但实非对称矩阵可具有复数特征值和特征向量,.,正交性和正交向量,定义11.6设有一组向量V1,V2,.,Vn，如果VjVk=0,jk,则称这组向量是正交的。定义11.7设V1,V2,.,Vn是一组正交向量，如果它们都是单位范数的，即VjVk=0,jk,VjVj=1,j=1,2,.,n,则称这组向量是标准正交的定理11.11一组标准正交向量是线性无关的,.,实对称矩阵的对角化,定义11.8设有一个nn矩阵A，如果AT是A的逆，即ATA=I，则称A为正交矩阵，它等价于A-1=AT，也就是说，A是正交的，当且仅当矩阵A的列（和行）形成一组标准正交向量。定理11.12如果A是一个实对称矩阵，则存在一个正交矩阵K，使得KTAK=K-1AK=D,其中D是以A的特征值为对角线的对角阵。,.,对称矩阵的性质,推论11.1如果A是一个nn实对称矩阵，则A的n个线性无关的特征向量可形成一组正交向量推论11.2实对称矩阵的特征值都是实数定理11.13对称矩阵不同的特征值对应的特征向量是正交的定理11.14对称矩阵A是正定的，当且仅当A的所有特征值都是正的,.,特征值范围的估计,如果能够给出矩阵A的特征值大小的一个范围，在许多情况下是很有用的定义11.9设|X|是向量范数，则对应的自然矩阵范数（naturalmatrixnorm）为,矩阵的自然范数也称矩阵的算子范数，与向量范数一样，是矩阵的一个非负函数，满足范数的几个性质如正定性、齐次性和三角不等式等,.,常用的几种矩阵范数,Frobenius范数,范数（行范数）,1范数（列范数）,2范数,.,特征值范围的估计（续1）,定理11.15如果是矩阵A的任意特征值，则对所有自然矩阵范数|A|，有|A|矩阵的谱半径定义：若1,2,k是矩阵A的全部特征值，则A的谱半径为(A)=max|1|,|2|,|k|A|定理11.17（谱半径定理）设A是一个对称阵，则A的谱半径(A)=|A|2,.,格尔施戈林（Gerschgorin）圆盘定理,定理11.16设A是一个nn矩阵，其中Cj表示位于复平面z=x+iy上，以ajj为圆心，以为半径的圆盘，即Cj包含所有满足条件Cj=z:|z-ajj|rj的复数z=x+iy。如果，则A的所有特征值包含在集合S中。进一步可得，以上k个圆盘的并如果与其余的n-k个圆盘不交叉，则它们一定包含k个特征值（包括重复的特征根）。,.,圆盘定理的应用,例：估计下面矩阵的特征值范围,A的3个圆盘为,C1,C2,C3,.,求矩阵特征值的方法,当矩阵的规模为n=2,3时，可按行列式展开的办法手工求p()=0的根当n较大时，如果按展开行列式的办法，首先求出p()的系数，再求p()的根，工作量就非常大对中等规模的对称矩阵，可用雅可比方法对大规模的对称矩阵（n为几百以上），可先用Householder方法得到三角阵形式，再用QR算法对拥有主特征值的矩阵，可用幂法得到主特征值,.,11.2幂方法,求矩阵的按模最大的特征值与相应的特征向量。它是通过迭代产生向量序列，由此计算特征值和特征向量。,定义11.10如果1是矩阵A的特征值，并且其绝对值比A的任何其它特征值的绝对值大，则称1为主特征值(dominanteigenvalue)。相应于主特征值1的特征向量V1称为主特征向量(dominanteigenvector)。,定义11.11如果特征向量V中绝对值最大的分量为1，则称其是归一化的(normalized)。,.,幂法的作用,.,幂法的基本原理,给定初始向量X0=11.1T用如下递推公式生成向量序列Xk:,其中，ck+1是Yk绝对值最大的分量。序列Xk和ck将分别收敛到V1和1，即,如果X0是一个特征向量且X0V，则必须选择其它初始向量,.,如果选择适当的X0，则通过如下递推公式可生成序列Xk和ck,幂法定理,定理11.18设nn矩阵A有n个不同的特征值,其中,这两个序列分别收敛到特征向量V1和特征值1即,.,收敛速度,Xk中Vj的系数按比例(j/1)k趋于零，且Xk收敛到V1的速度由项(2/1)k决定，所以收敛速度是线性的埃特金2方法可加速常数序列ck的收敛，也可加速向量序列Xk的收敛速度,.,移位反幂法原理,定理11.21设和V是A的特征对。如果，则1/(-)，V是矩阵(A-I)-1的特征对迭代过程：,其中,这两个序列分别收敛到矩阵(A-I)-1的主特征对,.,移位反幂法,定理11.22设nn矩阵A有n个不同的特征值1,2,n。考虑特征值j，可选择常量，使得1=1/(j-)是(A-I)-1的主特征值。而且，如果选择适当的X0，则可通过下列递推公式得到序列和ck：,其中,这两个序列分别收敛到矩阵(A-I)-1的主特征对1和Vj。最后，通过下面的计算得到矩阵A的对应特征值,.,雅可比方法,Jacobi(雅可比)方法就是通过一系列特殊的正交相似变换矩阵把矩阵A转化为一个对角阵，从而求得矩阵A的所有特征对算法可靠，且迭代结果的各分量精度一致由定理11.12，可知对一个nn的实对称矩阵A，必存在一个正交矩阵K，使得KTAK=K-1AK=D=diag(1,2,.,n),其中1,2,.,n是A的n个特征值，而K的第j列向量是与j相应的矩阵A的特征向量但这样的正交矩阵必须用一个无限迭代过程求得，即必须通过一系列的正交相似变换K1,K2,.,Kj,.把矩阵A转化为一个对角阵：,.,Givens平面旋转变换,用记号R(p,q)表示如下形式的nn矩阵：,XRn，设有线性变换Y=RX，则变换效果可表示如下：,.,这相当于在n维空间中，以角度沿xpxq平面旋转。通过选择适当的角度，可使得在映象中yp=0或yq=0。,容易验证，逆变换X=R-1Y表示以角度-沿xpxq平面旋转。所以R是一个正交矩阵，即R-1=RT或RTR=I,Givens平面旋转变换（续1）,.,正交变换,设A是实对称矩阵，且有特征对和X设矩阵R是正交矩阵，且D定义为D=RTAR上式两边都右乘RTX，得DRTX=RTARRTX=RTAX=RTX=RTX记Y=RTX，即有DY=Y，这说明D与A有相同的特征值，且对应的特征向量有关系Y=RTX由DT=(RTAR)T=RTATR=RTAR=D，可知D对称所以A到D的正交变换没改变对称性和特征值，而特征向量的关系则为Y=RTX,.,雅可比变换序列,设有实对称矩阵A，则构造正交矩阵序列R1,R2,.,Rn，使序列Dj如下：D0=A,Dj=RjDj-1Rj,j=1,2,.满足实际计算时，当非对角元素接近零时，构造过程停止，则得到DnD构造过程产生了Dn=RnRn-1R1AR1R2Rn-1Rn如果定义R=R1R2Rn-1Rn，则有R-1AR=Dn，即ARRD=Rdiag(1,2,.,n)若R的列向量用X1X2.Xn表示，则R=X1X2.XnAR=AX1AX2.AXnRD=1X12X2.nXnD和R即为所求的A的全部特征值和特征向量,.,雅可比迭代步骤,雅可比迭代的每一步要使两个非对角元素dpq和dqp为零由正交变换D1=R1AR1，如果A是实对称的，则D1也是实对称的，它只改变了A的第p、q行和列每次按在矩阵A的上三角部分搜索绝对值最大的非对角元素apq，再由正交变换使apq和aqp化为零这样的化零过程，一直进行到DnD，即当所有非对角元素很接近于0时迭代停止。所以可把迭代终止判断准则定为：,.,雅可比方法的缺点,每一次变换产生两个值为零的非对角元素，但接下来的迭代使得它们又变成非零，因此需要许多次迭代才能使得非对角元素足够接近零选择另一种方法，可在一次迭代中产生多个值为零的非对角元素，而且在接下来的迭代中使它们保持为零,.,初等反射变换,定理11.23（Householder反射）如果X和Y是具有相同范数的向量，则存在一个正交矩阵P，满足Y=PX，其中P=I-2WWT，且,由于P既是正交的，又是对称的，所以它满足P-1=P,.,第k个Householder变换矩阵,推论11.3设A是nn矩阵，且X是任意向量。如果k是一个整数，满足1kn-2，则可构造向量Wk和矩阵Pk=I-2WkWk，满足,.,Householder变换,设A是nn矩阵。则最多要做(n-2)次PAP形式的Householder变换由于效率原因，变换PAP不用矩阵形式进行计算，用一些向量操作更有效定理11.24（一次Householder变换的计算）如果P是Householder矩阵，则变换PAP计算过程如下：令V=AW且计算c=WV和Q=V-cW，则可得到PAP=A-2WQ-2QW,.,三角形式归约,设A是nn矩阵，令A0=A，构造Householder矩阵序列P1,P2,.,Pn-1，满足Ak=PkAk-1Pk，k=1,2,.,n-2.Ak在列1,2,.,k中的子对角线下的元素为零。这个处理过程称为Householder法如果A是一般实矩阵，则经过Householder过程得到上海森伯格（Hessenberg）矩阵如果A是实对称矩阵，则经过Householder过程得到对称三对角矩阵,.,上海森伯格阵,对称三对角阵,.,QR算法,QR方法可求解一个上海森伯格阵或对称三对角矩阵的所有特征值QR方法收敛快，算法稳定对一般矩阵或对称矩阵