[理学]35向量与矩阵的范数.ppt

1/35 计算方法计算方法三三 上节课回顾 直接法是通过有限步运算后得到线性方程组的解. 包含:高斯消元法(列主元消去法)、三角分解法、 追赶法. 解线性方程组的所有直接的方法比较适用于中小 型方程组.对高阶方程组,即使系数矩阵是稀疏的,但在 计算中很难保持稀疏性,因而有存储量大，程序复杂等 不足，这些不足之处可用迭代法来弥补解决. 线性方程组 AX=b LY=b UX=Y A=LU 列主元素法的精度虽稍低些,但计算简单,且具有良好 的数值稳定性。 三角分解法 2/35 计算方法计算方法三三 迭代过程中经常要遇到向量范数，矩阵范数以 及序列极限的概念。为此，下面先介绍这方面的知 识和有关概念。 3.5 向量与矩阵的范数 一、. 向量范数： 对n维实空间Rn中任一向量X ，按一定规则有一 确定的实数与其相对应，该实数记为|X|，若|X|满足 下面三个性质： (1)(非负性)|X|0，|X|=0当且仅当X=0。 (2)(齐次性)对任意实数 ，| X|=| | |X|。 (3)(三角不等式)对任意向量YR n，|X+Y|X|+|Y| 则称该实数|X|为向量X的范数 3/35 计算方法计算方法三三 几种常用的向量范数：设X=(x1,x2,.,xn)T （1）向量的1范数： （2）向量的2范数： （3）向量的范数： （4）向量的p范数： (1p) 4/35 计算方法计算方法三三 例 ：设 x=(1 , -4, 0, 2)T 求它的向量范数 =7 =4 注：前三种范数都是p范数的特殊情况。其中 5/35 计算方法计算方法三三 向量范数的连续性: 定理3.3 设f(X)=|X|为Rn上的任一向量范数,则f(X) 为X的分量x1,x2,xn的连续函数. 定理3.4 若|X|p与|X|q为为Rn上任意两种范数，则则 存在C1，C20，使得对对任意XRn，都有： C1 |X|p |X|q C2 |X|p（证明略） 注：同样样有下列结论结论 ：存在C3,C40 使得： C3 |X|q |X|p C4 |X|q 向量范数的等价性 注：上述性质，称为向量范数的等价性。也就是说， Rn上任意 两种范数都是等价的。在讨论向量序列的收敛性时要用到向量 范数的等价性。 6/35 计算方法计算方法三三 向量序列的收敛问题 定义：假定给定了Rn空间中的向量序列 X(1),X(2),.,X(k),.，简记为X(k)，其中 X(k)=(x1(k),x2(k),.,xn(k)T，若X(k)的每一个分 量xi(k)都存在极限xi，即 则称向量X= (x1，x2，.，xn)T为向量序列 X(k)的极限，或者说向量序列X(k)收敛 于向量X，记为 7/35 计算方法计算方法三三 x1 x2 xn (k) (k) 8/35 计算方法计算方法三三 例：设 解: 显然，当k时， 9/35 计算方法计算方法三三 注：显然有： 定理3.5 在空间Rn中，向量序列X(k)收敛于向量 X的充要条件是对X的任意范数|，有： 10/35 计算方法计算方法三三 定理3.5 在空间Rn中，向量序列X(k)收敛于向 量X的充要条件是对X的任意范数|，有： 二、矩阵范数：设A是nn 阶矩阵，ARnn XRn， |X|为Rn中的某范数，称 为矩阵A的从属于该向量范数的范数，或称 为矩阵A的算子，记为|A|。 |A|= 11/35 计算方法计算方法三三 几种常用的矩阵范数 常用的矩阵范数有A的1范数、 A的2范数、 A的 范数，可以证明下列定理: 定理3.6 设ARnn，XRn，则 (又称为A的 列范数) (为ATA的特 征值中绝对 值最大者) (又称为A的行范数) 列元素绝对值之 和的最大值 行元素绝 对值之和 的最大值 12/35 计算方法计算方法三三 例：设A=求A的各种范数 解：|A|1=6，|A|=7 |E-AA|=0 2-30+4=0 弗罗贝尼乌斯 (Frobenius)范数 简称F范数 注： 13/35 计算方法计算方法三三 弗罗贝尼乌斯 (Frobenius) 范数简称F范数 几种常用的矩阵范数： 14/35 计算方法计算方法三三 Matlab中计算矩阵的范数的命令(函数)： (1) n = norm(A) 矩阵A的谱范数(2范数), = AA的最大特征值的算术根 . (2) n = norm(A,1) 矩阵A的列范数（1-范数） 等 于A的最大列之和. (3)n = norm(A,inf) 矩阵A的行范数(无穷范数) 等于A的最大行之和. (4)n = norm(A, fro ) 矩阵A的Frobenius范数. 15/35 计算方法计算方法三三 例6. 计算矩阵A的各种范数 n1=norm(A,1), n2=norm(A), n3=norm(A,inf)，n4=norm(A, fro) 解：A=1,2,3,4;2,3,4,1;3,4,1,2;4,1,2,9; n1=16，n2=12.4884，n3=16，n4=13.8564 16/35 计算方法计算方法三三 矩阵范数的性质： （1）对任意ARnn,有|A|0，当且仅当A=0时， |A|=0. （2）|A|=|A|（为任意实数） （3）对于任意A、B Rnn ，恒有 |A+B|A|+|B|. （4）对于矩阵A Rnn，X Rn ，恒有： |AX| |A| |X|. （5）对于任意A、B Rnn 恒有 |AB| |A| |B| 17/35 计算方法计算方法三三 谱半径： 设 nn 阶矩阵A的特征值为 i(i=1,2,3n), 则称 (A)=MAX | i| 为矩阵A的谱半径. 1 i n 例5.求矩阵 的谱半径 谱半径=A的特征值中绝对值的最大者 解: 18/35 计算方法计算方法三三 定理3.7设A为任意n阶方阵，则对任意矩阵范 数|A|，有： (A)|A| 矩阵范数与谱半径之间的关系为: (A) |A| 证:设为A的任意一个特征值, X为对应的特征向量 A X = X 两边取范数,得:| A X | = | X | =| | | X | | | | X |= | X |= | A X | | A | | X | 由X 0 ,所以 | X | 0 ,故有: | | | A | 所以特征值的最大值|A|，即(A)|A| 19/35 计算方法计算方法三三 定理3.7 设A为任意n阶方阵，则对任意 矩阵范数|A|，有： (A)|A| 定理3.8 设A为n阶对称方阵，则有: |A|2= (A) ATA=A2 20/35 计算方法计算方法三三 矩阵序列的收敛性 定义 设Rnn中有矩阵序列A(k)|A(k)=(aij(k)， 若 则称矩阵序列A(k)收敛于矩阵A=(aij)，记为 a11 a21 a12 a22 如 21/35 计算方法计算方法三三 a11 a21 a12 a22 则有 22/35 计算方法计算方法三三 关于矩阵序列收敛的性质： 定义 设ARnn中，称|A-B|为A与B之间的 距离,其中|A|为Rnn上的某种范数。 定理3.10 设A(0) ，A(1) ，.，A(k)，.为Rnn上的 一个矩阵序列，矩阵序列A(k)收敛于矩阵A的充 要条件是存在A的某种范数|A|，使得： 即 定理3.11 任意ARnn，有 (证明略) 23/35 计算方法计算方法三三 三、方程组的性态和条件数 线性方程组解对系数的敏感性 （误差分析） 这种解依赖于方程组系数的误差A及b的问 题，称为线性方程组解对系数的敏感性。 对于线性方程组A X = b来说，由于观测或计算等原 因，线性方程组两端的系数A和b都带有误差A和b ，这样实际建立的方程组是近似方程组 (A+A)(X+X)=b+b。对近似方程组求出的解是原 问题的真解X加上误差X,即X+X。而 X是由A及 b引起的，它的大小将直接影响所求解的可靠性。 24/35 计算方法计算方法三三 绝对误差 例：方程组 此方程组的准确解为x1=0, x2=-1。现将其右 端加以微小的扰动使之变为： 经计算可得它的解为x1=2, x2=-3. 这两个方程组的解相差很大，说明方程组的 解对常数项b的扰动很敏感。 25/35 计算方法计算方法三三 相对误差关系式：设有方程组 AX=b (A是可 逆矩阵,b0) 1）仅常数项有误差的情形:设常数项b有扰动b, 则相应的解为X+X，即 A（X+X）=b+b 则有 这说明常数项的相对误差 在解中放大了 |A-1| |A|倍。 解的相 对误差 常数项的相 对误差 26/35 计算方法计算方法三三 2）仅系数矩阵有误差的情形:设方程组的系数 A有扰动A，则相应的解为X+X，即 ( A+A) (X+X) =b 这说明系数的相对误差 在解中也放大了|A -1| |A|倍。 27/35 计算方法计算方法三三 一般情形 3)常数项和系数矩阵都有误差的情形: 设方程组 的系数A有扰动A，常数项b有扰动b，则相应 的解为X+X，即 可推得： 与|A-1|A|有关 ( A+A) (X+X) =b+ b 28/35 计算方法计算方法三三 由上面关系式可看到，带有扰动的近似方程组中, 扰动的大小直接影响着所求解的相对误差，而解 的相对误差都与|A-1|A|有关,故可作如下定义： 定义：设A非奇异，称|A-1| |A| 为矩阵A的条件数, 记为Cond (A)，即Cond (A)= |A-1|A|. 当cond(A)1，则方程组称为“病态”的； 当cond(A)较小时，则方程组称为“良态”的。 方程组的系数矩阵发生微小扰动，引起方程组 性质上的变化，这是方程组本身的“条件问题”。 29/35 计算方法计算方法三三 通常使用的条件数有： （1）cond(A)=|A-1| |A|， （2）cond(A)2=|A-1| 2 |A|2 当A为对称矩阵时， cond(A)2 （这里max与min分别是A的绝对值最大和绝 对值最小的特征值） cond(A)2 当A为正定矩阵时， cond(a,p) p=1,2,inf,fro cond(a,1) cond(a,2) cond(a,inf) cond(a,fro) 30/35 计算方法计算方法三三 Cond (A)可反映出方程组解对系数的敏感性。 我们通过下面的例子加以理解。 绝对误差 这两个方程组的解相差很大，说明方程组的解对常数 项b的扰动很敏感。同时注意到Cond (A)1.2 104 ,可 见条件数很大,因而是病态方程组. 例:方程组 现将其右端加以微小的扰动使之变为： 经计算可得它的准确解为x1=2, x2=-3. 准确解为x1=0, x2=-1 31/35 计算方法计算方法三三 一般来说，方程组的条件数越小，求得的解 就越可靠；反之，解的可靠性就越差。 病态方程组的求解问题： 首先考虑怎样判断方程组是否属于病态方程组。 设方程组Ax=b的系数矩阵A非奇异，计算A的条 件数，是判断病态方程组的可靠方法。但在实际 问题中，当方程组的规模较大时，计算条件数的 工作量很大，甚至超过了求解方程组的计算量。 一般采用下列方式，初步进行直观的判断。 32/35 计算方法计算方法三三 1）当det(A)相对来说很小,或者A的某些行 （或列）近似线性相关，Ax=b可能病态; 如果确定待解的方程组Ax=b是一个病态方程 组,则数值求解必须小心，选择合适的方法，否则 难以达到要求的精确度。一般方法有： 2）当系数矩阵A中元素的绝对值相差很大 且无规则， Ax=b可能病态； 3）如果采用Gauss选主元消去法求解，在 消元过程中出现小主元， Ax=b可能病态； 4）求解方程组时，出现一个很大的解， Ax=b可能病态。 33/35 计算方法计算方法三三 方法1 采用尽可能高精度的运算，例如双精度或多精 度，以改善和减轻矩阵病态的影响，但此时的计算量 将大大增大。 例 方程组 1 1/2 1/3 1/4 1/2 1/3 1/4 1/5 1/3 1/4 1/5 1/6 1/4 1/5 1/6 1/7 x1 x2 x3 x4 25/12 77/60 57/60 319/420 = 它的精解为 x= 1 1 1 1 分别用3位和5位有效数字舍入运算的 消去法求解，得到的解分别为 x=(0.988，1.42，-0.428, 2.10)T 和 x=(1.0000，0.99950，1.0017, 0.99900)T 显然后者的精度大大提高了 34/35 计算方法计算方法三三 方法2 采用豫处理，降低矩阵A的条件数， 以改善方程组的病态程度。 例如当系数矩阵A元素的数量级差别很大时，可以对某些行或 列乘上适当的数，使得A的所有行或列按某种范数大体上有相 同的长度。我们称这种方法为行（列）均衡法。 例 设方程组 1 104 1 1 x1 x2 104 2 = 考虑用均衡法改善它的条件数。 解：矩阵A的条件数cond(A)104，方程组是病态的 。为了使各行元素的大小均衡，将第一个方程乘以 10-4，得到方程组 10-4 1 1 1 x1 x2 1 2 = BX = cond(B)4 35/35 计算方法计算方法三三 再计算矩阵B的条