第十一章特征值与特征向量ppt课件

第11章特征值与特征向量 代数特征值问题 工程实践中有多种振动问题 如桥梁或建筑物的振动 机械机件 飞机机翼的振动 及一些稳定性分析和相关分析可转化为求矩阵特征值与特征向量的问题 矩阵A aij n n的特征值是A的特征多项式p I A 的n个零点 用单位矩阵I来重写上述方程 可以得到Ax Ix 从而进一步可以写成线性方程组的标准形式 A I x 0 这是关于向量x的齐次线性方程组 该齐次方程组因为存在非平凡解x 0 所以有det A I 0 矩阵的特征值问题 行列式det A I 0可写成如下形式 将行列式展开得到一个n阶多项式 特征多项式 特征值的计算方法 当维数n很小时 手工计算特征值和对应的特征向量的方法 求特征多项式的系数求特征多项式的根即特征值求齐次线性方程组 A I V 0的非零解即特征向量当维数n稍大一些 行列式展开本身就很不容易 另外高次代数方程的求解也很困难 因此 矩阵特征值的求解 主要是数值解法 如幂方法 雅可比方法和QR算法 特征值的一些有关结论 定理设 为A Rn n的特征值且Ax x 其中x 0 则c 为cA的特征值 c为常数c 0 p为A pI的特征值 即 A pI x p x Th11 19 k为Ak的特征值 即Akx kx设A为非奇异阵 那么 0且1 为A 1的特征值 即 Th11 20 且上述各矩阵对应的特征向量全都为x 特征值的重复度 定义 特征多项式p det A I 可以分解为如下形式 其中mj是特征值 j的重复度 所有特征值的重复度之和为n 即有 特征值的存在性定理 1 定理11 4 a 对矩阵A的每个唯一的特征值 至少有一个与该特征值相应的特征向量V b 如果矩阵A的特征值 的重复度为r 则A至多有r个与该特征值相应的线性无关的特征向量V1 V2 Vr 定理11 4的应用 将重复度r 1的特征值 代入下列方程 A I V 0采用高斯消去法就可以得到高斯归约形 上梯形 包含有n个变量 n k个方程 其中1 k r 因此可供选择的自由变量有k个 通过一定方式选择自由变量 可以得到与 对应的k个线性无关的解向量V1 V2 Vk 特征值的存在性定理 2 定理11 5设A是一个方阵 1 2 k是A的互不相同的特征值 对应的特征向量分别是V1 V2 Vk 则 V1 V2 Vk 是一组线性无关的向量集合 定理11 6如果n n矩阵A的特征值是互不相同的 则存在n个线性无关的特征向量Vj 其中j 1 2 n 左特征向量 在式AV V中 由于V右乘矩阵A 因此被称为相应于特征值 的右特征向量如果有Y A Y 则相应地称Y为矩阵A的特征值 的左特征向量一般地 矩阵A相应于特征值 的左特征值Y与右特征值V是不同的 但如果是一个实对称矩阵 即A A 则 AV V A V A V V 所以当A是实对称矩阵时 左右特征向量相同 特征向量归一化 矩阵A的相应于特征值 的特征向量V乘以一个常量c仍然是特征值 的特征向量A cV c AV c V cV 为得到唯一的形式 可使用向量范数将特征向量归一化U V V p则向量U的p 范数为1 对角化 对角矩阵D的特征值容易求得 令Ej 00 010 0 T是标准基向量 其中第j个分量为1 其它的都是0 从而有 DEj 00 0 j0 0 T jEj 这表明矩阵D的特征对是 j和Ej 其中 j 1 2 n 如果有一种简单的方法可将矩阵A转换为对角阵 则可以直接得到它的特征值定义11 5设有n n矩阵A和B 如果存在一个非奇异矩阵K 使得B K 1AK 则称矩阵A和B相似定理11 7如果A和B是相似矩阵 和V是矩阵A的特征对 那么 也是矩阵B的特征值 设非奇异矩阵K使得K 1AK B 则Y K 1V是矩阵B的对应于特征值 的特征向量一个n n矩阵A 如果它和一个对角矩阵相似 则称它是可对角化的 对角化定理 定理11 8矩阵A和一个对角矩阵D相似 当且仅当它有n个线性无关的特征向量 如果A和D相似 则有V 1AV D diag 1 2 n V V1V2 Vn 其中n个特征对是 j和Vj j 1 2 n 具有n个不同特征值的矩阵A是可对角化的 例11 3 对称性的优势 对于实对称矩阵 它一定有n个实特征向量 对于重复度为mj的特征值 它有mj个线性无关的特征向量 因此每一个实对称矩阵都是可对角化的但实非对称矩阵可具有复数特征值和特征向量 正交性和正交向量 定义11 6设有一组向量 V1 V2 Vn 如果V jVk 0 j k 则称这组向量是正交的 定义11 7设 V1 V2 Vn 是一组正交向量 如果它们都是单位范数的 即V jVk 0 j k V jVj 1 j 1 2 n 则称这组向量是标准正交的定理11 11一组标准正交向量是线性无关的 实对称矩阵的对角化 定义11 8设有一个n n矩阵A 如果AT是A的逆 即ATA I 则称A为正交矩阵 它等价于A 1 AT 也就是说 A是正交的 当且仅当矩阵A的列 和行 形成一组标准正交向量 定理11 12如果A是一个实对称矩阵 则存在一个正交矩阵K 使得KTAK K 1AK D 其中D是以A的特征值为对角线的对角阵 对称矩阵的性质 推论11 1如果A是一个n n实对称矩阵 则A的n个线性无关的特征向量可形成一组正交向量推论11 2实对称矩阵的特征值都是实数定理11 13对称矩阵不同的特征值对应的特征向量是正交的定理11 14对称矩阵A是正定的 当且仅当A的所有特征值都是正的 特征值范围的估计 如果能够给出矩阵A的特征值大小的一个范围 在许多情况下是很有用的定义11 9设 X 是向量范数 则对应的自然矩阵范数 naturalmatrixnorm 为 矩阵的自然范数也称矩阵的算子范数 与向量范数一样 是矩阵的一个非负函数 满足范数的几个性质如正定性 齐次性和三角不等式等 常用的几种矩阵范数 Frobenius范数 范数 行范数 1 范数 列范数 2 范数 特征值范围的估计 续1 定理11 15如果 是矩阵A的任意特征值 则对所有自然矩阵范数 A 有 A 矩阵的谱半径定义 若 1 2 k是矩阵A的全部特征值 则A的谱半径为 A max 1 2 k A 定理11 17 谱半径定理 设A是一个对称阵 则A的谱半径 A A 2 格尔施戈林 Gerschgorin 圆盘定理 定理11 16设A是一个n n矩阵 其中Cj表示位于复平面z x iy上 以ajj为圆心 以为半径的圆盘 即Cj包含所有满足条件Cj z z ajj rj 的复数z x iy 如果 则A的所有特征值包含在集合S中 进一步可得 以上k个圆盘的并如果与其余的n k个圆盘不交叉 则它们一定包含k个特征值 包括重复的特征根 圆盘定理的应用 例 估计下面矩阵的特征值范围 A的3个圆盘为 C1 C2 C3 求矩阵特征值的方法 当矩阵的规模为n 2 3时 可按行列式展开的办法手工求p 0的根当n较大时 如果按展开行列式的办法 首先求出p 的系数 再求p 的根 工作量就非常大对中等规模的对称矩阵 可用雅可比方法对大规模的对称矩阵 n为几百以上 可先用Householder方法得到三角阵形式 再用QR算法对拥有主特征值的矩阵 可用幂法得到主特征值 11 2幂方法 求矩阵的按模最大的特征值与相应的特征向量 它是通过迭代产生向量序列 由此计算特征值和特征向量 定义11 10如果 1是矩阵A的特征值 并且其绝对值比A的任何其它特征值的绝对值大 则称 1为主特征值 dominanteigenvalue 相应于主特征值 1的特征向量V1称为主特征向量 dominanteigenvector 定义11 11如果特征向量V中绝对值最大的分量为 1 则称其是归一化的 normalized 幂法的作用 幂法的基本原理 给定初始向量X0 11 1 T用如下递推公式生成向量序列 Xk 其中 ck 1是Yk绝对值最大的分量 序列 Xk 和 ck 将分别收敛到V1和 1 即 如果X0是一个特征向量且X0 V 则必须选择其它初始向量 如果选择适当的X0 则通过如下递推公式可生成序列 Xk 和 ck 幂法定理 定理11 18设n n矩阵A有n个不同的特征值 其中 这两个序列分别收敛到特征向量V1和特征值 1即 收敛速度 Xk中Vj的系数按比例 j 1 k趋于零 且 Xk 收敛到V1的速度由项 2 1 k决定 所以收敛速度是线性的埃特金 2方法可加速常数序列 ck 的收敛 也可加速向量序列 Xk 的收敛速度 移位反幂法原理 定理11 21设 和V是A的特征对 如果 则1 V是矩阵 A I 1的特征对迭代过程 其中 这两个序列分别收敛到矩阵 A I 1的主特征对 移位反幂法 定理11 22设n n矩阵A有n个不同的特征值 1 2 n 考虑特征值 j 可选择常量 使得 1 1 j 是 A I 1的主特征值 而且 如果选择适当的X0 则可通过下列递推公式得到序列和 ck 其中 这两个序列分别收敛到矩阵 A I 1的主特征对 1和Vj 最后 通过下面的计算得到矩阵A的对应特征值 雅可比方法 Jacobi 雅可比 方法就是通过一系列特殊的正交相似变换矩阵把矩阵A转化为一个对角阵 从而求得矩阵A的所有特征对算法可靠 且迭代结果的各分量精度一致由定理11 12 可知对一个n n的实对称矩阵A 必存在一个正交矩阵K 使得KTAK K 1AK D diag 1 2 n 其中 1 2 n是A的n个特征值 而K的第j列向量是与 j相应的矩阵A的特征向量但这样的正交矩阵必须用一个无限迭代过程求得 即必须通过一系列的正交相似变换K1 K2 Kj 把矩阵A转化为一个对角阵 Givens平面旋转变换 用记号R p q 表示如下形式的n n矩阵 X Rn 设有线性变换Y RX 则变换效果可表示如下 这相当于在n维空间中 以角度 沿xpxq平面旋转 通过选择适当的角度 可使得在映象中yp 0或yq 0 容易验证 逆变换X R 1Y表示以角度 沿xpxq平面旋转 所以R是一个正交矩阵 即R 1 RT或RTR I Givens平面旋转变换 续1 正交变换 设A是实对称矩阵 且有特征对 和X设矩阵R是正交矩阵 且D定义为D RTAR上式两边都右乘RTX 得DRTX RTARRTX RTAX RT X RTX记Y RTX 即有DY Y 这说明D与A有相同的特征值 且对应的特征向量有关系Y RTX由DT RTAR T RTATR RTAR D 可知D对称所以A到D的正交变换没改变对称性和特征值 而特征向量的关系则为Y RTX 雅可比变换序列 设有实对称矩阵A 则构造正交矩阵序列R1 R2 Rn 使序列 Dj 如下 D0 A Dj R jDj 1Rj j 1 2 满足实际计算时 当非对角元素接近零时 构造过程停止 则得到Dn D构造过程产生了Dn R nR n 1 R 1AR1R2 Rn 1Rn如果定义R R1R2 Rn 1Rn 则有R 1AR Dn 即AR RD Rdiag 1 2 n 若R的列向量用X1X2 Xn表示 则R X1X2 Xn AR AX1AX2 AXn RD 1X1 2X2 nXn D和R即为所求的A的全部特征值和特征向量 雅可比迭代步骤 雅可比迭代的每一步要使两个非对角元素dpq和dqp为零由正交变换D1 R 1AR1 如果A是实对称的 则D1也是实对称的 它只改变了A的第p q行和列每次按在矩阵A的上三角部分搜索绝对值最大的非对角元素apq 再由正交变换使apq和aqp化为零这样的化零过程 一直进行到Dn D 即当所有非对角元素很接近于0时迭代停止 所以可把迭代终止判断准则定为 雅可比方法的缺点 每一次变换产生两个值为零的非对角元素 但接下来的迭代使得它们又变成非零 因此需要许多次迭代才能使得非对角元素足够接近零选择另一种方法 可在一次迭代中产生多个值为零的非对角元素 而且在接下来的迭代中使它们保持为零 初等反射变换 定理11 23 Householder反射 如果X和Y是具有相同范数的向量 则存在一个正交矩阵P 满足Y PX 其中P I 2WWT 且 由于P既是正交的 又是对称的 所以它满足P 1 P 第k个Householder变换矩阵 推论11 3设A是n n矩阵 且X是任意向量 如果k是一个整数 满足1 k n 2 则可构造向量Wk和矩阵Pk I 2WkW k 满足 Householder变换 设A是n n矩阵 则最多要做 n 2 次PAP形式的Householder变换由于效率原因 变换PAP不用矩阵形式进行计算 用一些向量操作更有效定理11 24 一次Householder变换的计算 如果P是Householder矩阵 则变换PAP计算过程如下 令V AW且计算c W V和Q V cW 则可得到PAP A 2WQ 2QW 三角形式归约 设A是n n矩阵 令A0 A 构造Householder矩阵序列P1 P2 Pn 1 满足Ak PkAk 1Pk k 1 2 n 2 Ak在列1 2 k中的子对角线下的元素为零 这个处理过程称为Householder法如果A是一般实矩阵 则经过Householder过程得到上海森伯格 Hessenberg 矩阵如果A是实对称矩阵 则经过Householder过程得到对称三对角矩阵 上海森伯格阵 对称三对角阵 QR算法 QR方法可求解一个上海森伯格阵或对称三对角矩阵的所有特征值QR方法收敛快 算法稳定对一般矩阵或对称矩阵的n n矩阵A 首先用Householder方法将A化为上海森伯格阵或对称三对角阵B 然后再