3 线性方程组解法2.doc

第3章 线性方程组的解法本章讨论线性方程组的求解问题.线性方程组的矩阵表示式中A称为系数矩阵，b称为右端项。数值分析中，线性方程组的数值解法主要分为直接法和迭代法两大类。直接法是用有限次计算就能求出线性方程组“准确解”的方法（不考虑舍入误差）；迭代法是由线性方程组构造出迭代计算公式，然后以一个猜测的向量作为迭代计算的初始向量逐步迭代计算，来获得满足精度要求的近似解。迭代法是一种逐次逼近的方法。1 线性方程组的迭代解法线性方程组迭代解法有Jocobi迭代法、Gauss-Seidel迭代法及Sor法等基本思想（与简单迭代法类比）将线性方程组等价变形为以构造向量迭代格式用算出的向量迭代序列去逼近解。1. 构造原理（1） Jacobi迭代法将线性方程组的第i个变元用其他n-1个变元表出，可得 Jacobi迭代格式: （3.6）（3）取定初始向量，代入，可逐次算出向量序列，这里。（2）Gauss-Seidel迭代法Seidel迭代格式:例1对线性方程组写出Jacobi迭代格式和Gauss-Seidel迭代格式.3）SOR法SOR法的迭代格式式中参数w称为松弛因子，当w =1时，SOR法就是Seidel迭代法.2.迭代分析及向量收敛 1） 三种迭代法的向量迭格式对 Ax=b，将系数矩阵A作如下分解则Ax=b可以写成Jacobi迭代的向量迭代格式，. 为Jacobi迭代法的迭代矩阵.Seidel向量迭代格式，.为Seidel迭代法的迭代矩阵.SOR法的向量迭代格式，.为超松弛迭代法的迭代矩阵。三种迭代格式可写成迭代格式2）向量收敛定义定义1 设向量序列及向量都是中的向量，如果有 成立,则称收敛于.简记为。3）范数定义与科学计算中的常用范数定义2 设L是数域K上的一个线性空间，如果定义在L上的实值函数满足1) ，有, 且；2) ，有；3) ，有,则称是L上的一个范数，称为x的一个范数。范数的定义很象绝对值函数，故常用或表示范数，而范数常记为或。这样，上面范数定义中的3个条件常写为1），有, 且；2），有；3），有将其与绝对值比较，是否很象？实际上，很多有关绝对值的运算和结论可以平行引进到有关范数的运算和证明问题中。数值分析中常用的线性空间有l n维向量空间l 矩阵空间连续函数空间函数空间是由闭区间上所有连续函数组成的集合，其线性运算定义为加法数乘 ，为数在这些空间上，数值分析中常用的范数有(1)的向量范数1) 2) 3) 式中向量.例2 计算向量的各种范数.(2) 的矩阵范数矩阵范数要满足如下四条1），有,且；2），有；3），有；4），有.由于线性方程组求解问题中，系数矩阵总是与向量联系在一起的，为描述这种联系，引入如下的算子范数概念.定义3 设矩阵，称为矩阵A的算子范数。容易证明，矩阵A的算子范数也是矩阵范数，且满足不等式关系.例3设为矩阵的算子范数，证明若，则为非奇异矩阵，且证：用反证法。若为奇异矩阵，则其对应的方程组有非零解，即有，使，得出两边取范数并作范数运算，矛盾，得非奇异。常用的矩阵范数有如下4种1）列范数：2）行范数：3）F范数：4）2范数：，是最大特征值。以上4个矩阵范数中，是算子范数，不是算子范数。例4 计算矩阵的各种范数.3）范数等价与向量极限定义4 设是线性空间L上的两个范数，若存在正常数m和M，成立则称范数是等价范数。定理1 上的所有范数都是等价的。定理2 。式中是上任何一种范数。4）谱半径及其与范数的关系定义5 设，是A的n个特征值，则称实数为矩阵A的谱半径。注意如果是复数，表示复数模。定理3 设为任意算子范数，则有 引理4 设，则 3. 迭代法的收敛条件与误差估计1）收敛条件定理5：线性迭代格式对任意初始向量都收敛的充要条件是迭代矩阵谱半径.证明 必要性设，在中令，得,于是有由及的任意性，有.再由引理，可得.充分性因为，则有I-B非奇异（这里I为单位矩阵），从而线性方程组有唯一解，即有展开有.类似必要性处理，有由引理，由有，上式取极限，得.l 判别条件若，则迭代格式对任意初始向量都收敛于线性方程组的唯一解.是矩阵B的某种算子范数.定义6设，1）如果A的主对角元素满足 则称矩阵A是严格行对角占优阵；2）如果A的主对角元素满足 则称矩阵A是严格列对角占优.严格行对角占优阵和严格列对角占优阵统称为严格对角占优阵.定理 严格对角占优阵是非奇异矩阵。证明 不妨设矩阵是严格行对角占优阵. 用反证法证明.若A是奇异的，则由矩阵理论可知，齐次线性方程组有非零解，即存在，满足.记，有将的第m个等式写为等式两边取绝对值有因为，上式同除，有此与A是严格行对角占优阵矛盾. 故若A是非奇异的.l 判别条件设矩阵A是严格对角占优阵，则线性方程组的Jacobi迭代和Seidel迭代对任意初始向量都收敛.证明 只对A是行对角占优情况证之. 设矩阵A是严格行对角占优阵，则有， Jacobi迭代矩阵，故有由判别条件，可得Jacobi迭代的收敛性.对Seidel迭代，其迭代矩阵，设是矩阵的任一特征值，则有特征方程因，故矩阵的特征方程变为这个行列式方程对应的矩阵如果，利用矩阵A的行对角占优定义，可以得出如下不等式这说明矩阵也是行严格对角占优阵，由定理，有, 矛盾，故应有成立. 由的任意性有谱半径，于是可得Seidel迭代的收敛性.定理7 SOR法收敛的必要条件是松弛因子w满足0w2.证明 因为SOR法的迭代矩阵为有 设是的n个特征值，则有，若SOR收敛，必有，注意到，得. 解之得.l 判别条件III设，如果（1）对称正定，（2），则解的SOR迭代法收敛.设A是对称正定矩阵，则的Seidel迭代对任意初始向量都收敛.l 判别条件IV设，如果（1）为严格对角占优阵，（2），则解的SOR迭代法收敛.2）误差估计定理8 设矩阵B的某种算子范数，则由式算出的序列与线性方程组的准确解有如下的误差估计1） 2） 证明可以参照非线性方程求根定理的证明，注意将那里的绝对值换成这里的范数，那里的函数换成这里的矩阵，并注意范数关系的使用即可。练习1 设方程组为写出Jacobi迭代格式和Gauss-Seidel迭代格式，判别这两种格式的收敛性.练习2 设方程组为判别Jacobi迭代格式和Gauss-Seide