3.1向量和矩阵的范数1.ppt

1、第三章 线性方程组的数值解法,3.1 向量与矩阵的范数,3.2 直接法,3.3 迭代法,3.4 迭代法的收敛性分析,例,分析,范数是对向量和矩阵的一种度量,实际上是二维和三维向量长度概念的一种推广,二维向量和三维向量都可以度量其大小和长度,高维向量的长度能否定义呢?,为了研究线性方程组近似解的误差估计和迭代的 收敛性，需要对n维向量空间中的向量以及矩阵引进 “大小”的概念。,对于实数和复数，由于定义了它们的绝对值或模，这样我们就可以用这个度量来表示它们的大小（几何上就是长度），进而可以考察两个实数或复数的距离。,对于 维线性空间，定义了内积以后，向量就有了长度（大小）、角度、距离等度量概念，这

2、显然是3维现实空间中相应概念的推广。利用公理化的方法，可以进一步把向量长度的概念推广到范数。,3.1 向量与矩阵的范数,从向量的长度或模谈起,，当且仅当 时，等号成立。,例 1复数 的长度或模指的是量,显然复向量 的模 具有下列三条性质：,，当且仅当 时，等号成立。,显然向量 的模 也具有下列三条性质：,例 2 维欧氏空间中向量 的长度或模定义为,定义3.1,按某种规则(或映射),（一） 向量的范数,由(3)可推出不等式：,-(1),-(2),-(3),-(4),显然,并且由于,例3 求下列向量的各种常用范数,解,向量范数是其分量的连续函数，即有下述定理：,定理3.1（向量范数连续性定理）,证

3、明,有限维向量空间的范数等价性定理,定理3.2,容易验证： （1） x2x1 n1/2x2； （2）xx2 n1/2x； （3）xx1 nx。,3种范数相互等价,向量序列的收敛性,定义3.3 如果向量序列x(k)Rn和向量 xRn满足,则称向量序列x(k)收敛于向量 x，记为,定理3.3 向量序列x(k)收敛于 x 的充分必要条件是,由向量范数的等价性定理可得到结论：如果在一 种范数意义下向量序列收敛时，则在任何一种范数意 义下向量序列亦收敛,证明：,定义3.4,3.1.2 矩阵的范数,由于大多数与估计有关的问题中，矩阵和向量会同时 参与运算，所以希望引进一种矩阵范数，它和向量范数 相联系而且

4、和向量范数相容，即,为此我们引进矩阵的算子范数,-(3.5),定义3.5,定理3.4,-(3.6),定理3.5 向量的常用范数可以得到常用的矩阵算子范数,证明：,对于2范数，应有,注意， 是半正定的对称阵，设其特征值为,以及其对应的正交规范特征向量为,则对任一满足 的向量 有,和,于是，有,另一方面，若取 ，则有,所以,例3.5,求矩阵A的各种常用范数,解,由于,特征方程为,容易计算,计算较复杂,对矩阵元素的 变化比较敏感,(理论上)使用最广泛,性质较好,定义3.7 如果n阶矩阵序列A(k) Rnn和矩阵ARnn 满足 （ 其中A(k)=(aij(k)nn , A=(aij)nn）,矩阵序列的

5、收敛性,则称矩阵序列A(k)收敛于矩阵 A，记为,定理3.6，Rnn 中矩阵序列A(k) 收敛于矩阵A 的充分必要条件是,定理3.7设A为任意n阶方阵，则对任意矩阵范数|A|，有： (A)|A|,证:设为A的任意一个特征值, X为对应的特征向量,A X = X,两边取范数,得:,| A X | = | X | =| | | X |,| | | X |= | X |= | A X | | A | | X |,由X 0 ,所以 | X | 0 ,故有: | | | A |,所以特征值的最大值|A|，即(A)|A|,对任给的 存在 上的算子范数 使得,定理3.8,证明：,由Jordan分解定理知，存

6、在非奇异矩阵,，使得,其中， =1或0，对于任意给定的 ，令,则有,在 上引入一个算子矩阵范数，定义如下,它所对应的向量范数，定义如下,该范数对于矩阵 有,定理3.9,-(3.8),证明,3.1.3、方程组的性态条件数与摄动理论,（一） 线性代数方程组的性态,判断一个计算方法的好坏，可用方法是否稳定、解的精确度高低以及计算量、存储量大小等来衡量。然而，对于不同的问题，同一方法却可以产生完全不同的效果，这就涉及到所提供问题的性态，即“好、坏”。,例3.3.5,可见，在上述方程组中，系数误差的小扰动对解的影响不大。,可见，在上述方程组中，系数误差的小扰动对解的影响很大。,思考:求解 时, A 和

7、的误差对解 有何影响？, 设 A 精确， 有误差 ，得到的解为 ，即,绝对误差放大因子,又,相对误差放大因子, 设 精确，A有误差 ，得到的解为 ，即,(只要 A充分小，使得,定义3.9,定义3.8,矩阵A的条件数与所取范数有关。通常记,显然，当A对称时，,条件数有下列性质：,定理3.9,推论1,推论2,常数项 b 的扰动对解的影响,系数矩阵A 的扰动对解的影响,定义3.3.8,例3.3.6,试求例3.3.5中两个线性代数方程组的条件数,解,因而，第二个方程组的性态远比第一个方程组坏， 从而对系数的敏感程度要高得多。,值得强调的是，线性代数方程组的性质是问题本身的固有性质。用一个稳定的方法去解

8、一个良态的方程组，必然得到较准确的结果。同样用一个稳定的方法去解一个病态的方程组，结果就可能很差。,例3.3.7,解,线性代数方程组的精确解为,用列选主元消元法计算：,回代后得到,计算结果完全不可靠，实际上，此时,因此，方程组病态！,如把方程组的系数 舍入成两位有效数字,例3.3.8,设有线性代数方程组,试分析其性态。,试分别计算两组方程组的 精确解。,它的精确解为x1 = -6.222. x2= 38.25 x3= -33.65.,它的精确解为x1=x2=x3=1.,条件数不是很好。两个解相差大，说明解对系数矩阵敏感程度高,事实上， 上例中矩 阵A是三阶 Hilbert矩阵,n阶Hilber

9、t矩阵是 有名的病态矩阵， 它随着矩阵阶数的 增大，条件数迅速 增大。,解,“病态”方程的经验判断,“病态”问题的处理方法,例3.3.10,解,等价的方程组,解,回代后得到,用列选主元消元法计算：,与例3.3.7的计算结果相比，这是一个很好的近似解,证明,对于1范数，将给定的 按列分块为,并记,则对任意的 满足 有,此外，若取 为 阶单位矩阵的第 列，,则有 ，而且,因此，我们有,-(3.9),-(3.10),-(3.11),定义3.3.7,定理3.3.8,推论1,推论2,常数项 b 的扰动对解的影响,系数矩阵A 的扰动对解的影响,定义3.3.8,矩阵A的条件数与所取范数有关。通常记,显然，当

10、A对称时，,例3.3.6,试求例3.3.5中两个线性代数方程组的条件数,解,因而，第二个方程组的性态远比第一个方程组坏， 从而对系数的敏感程度要高得多。,值得强调的是，线性代数方程组的性质是问题本身的固有性质。用一个稳定的方法去解一个良态的方程组，必然得到较准确的结果。同样用一个稳定的方法去解一个病态的方程组，结果就可能很差。,例3.3.7,解,线性代数方程组的精确解为,用列选主元消元法计算：,回代后得到,计算结果完全不可靠，实际上，此时,因此，方程组病态！,如把方程组的系数 舍入成两位有效数字,例3.3.8,设有线性代数方程组,试分析其性态。,试分别计算两组方程组的 精确解。,它的精确解为x1 = -6.222. x2= 38.25 x3= -33.65.,它的精确解为x1=x2=x3=1.,条件数不是很好。两个解相差大，说明解对系数矩阵敏感程度高,事实上， 上例中矩 阵A是三阶 Hilbert矩阵,n阶Hilbert矩阵是 有名的病态矩阵， 它随着矩阵阶数的 增大，条