数值方法线性方程组的迭代法

数值方法线性方程组的迭代法第一页，共三十五页，2022年，8月28日引言直接法是通过有限步运算后得到线性方程组的解,解线性方程组还有另一种解法，称为迭代法,它的基本思想是将线性方程组Ax=b化为

x=Bx+f

再由此构造向量序列{x(k)}:

x(k+1)=Bx(k)+f若{x(k)}收敛至某个向量x*,则可得向量x*就是所求方程组AX=b的准确解.线性方程组的迭代法主要有Jocobi迭代法、Seidel迭代法和超松弛(Sor)迭代法.第二页，共三十五页，2022年，8月28日迭代法的特点

若在求解过程中xkx*(k)，由xk+1=(xk)产生的迭代xk向x*的逼近，在数次迭代求解之后，由于机器跳动产生的xk值误差或是有效数字产生的舍入误差，都会在第k+1次迭代计算中自动弥补过来或逐步纠正过来。因此，在迭代求解过程中产生的各种误差是可以忽略的，即迭代求解无累积误差，实际上，xk只是解的一个近似，机器的舍入误差并不改变它的此性质。

迭代过程中经常要遇到向量范数，矩阵范数以及序列极限的概念。为此，下面先介绍这方面的知识和有关概念。

单击此处即可第三页，共三十五页，2022年，8月28日几个基本概念及性质1.向量范数：

对任一向量X，按一定规则确定一个实数与其相对应，该实数记为||X||，若||X||满足下面三个性质：（1）||X||0，||X||=0当且仅当X=0。（2）对任意实数，||X||=||||X||。（3）对任意向量YRn，||X+Y||||X||+||Y||。则称该实数||X||为向量X的范数2.矩阵范数：设A是NN阶矩阵，定义||A||=Max（||AX||/||X||）=Max||AX||x0,xRn

||x||=1,xRn

为矩阵A的(算子）范数。

||Ax||||A||||x||第四页，共三十五页，2022年，8月28日三种常用的向量范数：例：设x=(1,-4,0,2)T求它的向量范数第五页，共三十五页，2022年，8月28日三种常用的矩阵范数：例：设A，求它的矩阵范数第六页，共三十五页，2022年，8月28日矩阵范数的性质：（1）对任意非零矩阵A,有||A||恒为正数，当且仅当A=0，||A||=0.（2）||aA||=|a|||A||（a为任意实数）（3）对于任意两个阶相同的矩阵A，B恒有||A+B||||A||+||B||.（4）对于与矩阵A有相同维数的向量X，恒有||AX||||A||||X||.（5）对于同阶矩阵A，B恒有||AB||.||A||||B||谱半径：

设nn阶矩阵A的特征值为i(i=1,2,3……n),则称

(A)=MAX|i|为矩阵A的谱半径.

1in矩阵范数与谱半径之间的关系为:(A)||A||.单击此处试做例题第七页，共三十五页，2022年，8月28日5几个定理及定义设{x(k)}为Rn中的向量序列,x(*)为Rn中的向量对矩阵也有类似的结论

下一页第八页，共三十五页，2022年，8月28日

如果矩阵A=(aij)满足 n|aii|>

|aij|i=1,2,……n,

j=1,ji

则称方阵A是严格(行)对角占优的.

a11a12a13…a1n

a21

a22

a23…a2n

A=……………=L+D+U

an1an3an4…ann-421例矩阵A=1-972-610ULD第九页，共三十五页，2022年，8月28日Jacobi迭代一：设有方程组

a11x1+a12x2+····+a1nxn=b1a21x1+a22x2+····+a2nxn=b2

.....................

an1x1+an2x2+····+annxn=bn用矩阵表示：Ax=b（A为系数矩阵，非奇异；b为右端，x为解向量）}

上一页第十页，共三十五页，2022年，8月28日假设aii0令cij=-aij/aii(ij)

gi=bi/aij,i=1,2,3,n

则

x1(k+1)=c12x2(k)+c13x3(k)++c1nxn(k)+g1

x2(k+1)=c21x1(k)+c23x3(k)++c2nxn(k)+g2

。。。。。。。。。。。。。。。。。。。。。。。。。。。。

xn(k+1)=cn1x1(k)+cn2x2(k)++cn(n-1)xn-1(k)

+gn

Jacobi迭代格式若令

0c12c13…c1n

x1c210c23…c2n

x2BJ=……………x=..cn1cn3cn4…0xn

a11g1

a22g=g2易看出：BJ=D-1(D-A)=I-D-1,D=....

anngn

把方程组写成容易迭代的形式：{第十一页，共三十五页，2022年，8月28日Jacobi迭代公式第十二页，共三十五页，2022年，8月28日Seidel迭代法为了加快收敛速度，同时为了节省计算机的内存，我们作如下的改进：每算出一个分量的近似值，立即用到下一个分量的计算中去，即用迭代格式：这样所得的迭代法就称为Gauss-Seidel迭代法，也称为“异步迭代法”，简称为GS迭代法．利用Ax=b及A=L+D+U,其中D为对角矩阵,L,U分别为严格下，上三角矩阵．则有，GS迭代法的矩阵形式为:

第十三页，共三十五页，2022年，8月28日Seidel迭代法的具体形式Seidel迭代格式x1(k+1)=c12x2(k)+c13x3(k)++c1nxn(k)+g1

x2(k+1)=c21x1(k+1)+c23x3(k)++c2nxn(k)+g2。。。。。。。。。。。。。。。。。。。。。。。。。。。。

xn(k+1)=cn1x1(k+1)+cn2x2(k+1)++cn(n-1)xn-1(k+1)

+gn

假设aii0令cij=-aij/aii(ij)

gi=bi/aij,i=1,2,3,n

第十四页，共三十五页，2022年，8月28日．收敛性及误差估计Jacobi迭代和GS迭代格式可表述为统一形式:对于其收敛性，我们有如下定理：定理１：对任意初始向量x(0)及任意右段向量g，由此产生的迭代向量序列{x(k)}收敛的充要条件是证明：必要性：设｛x(k)｝收敛，其极限为x*，则第十五页，共三十五页，2022年，8月28日因上式对任意均成立，故Bk0(k),(B)<1

充分性：设(B)<1,则I－B为非奇异阵,且=0,所以有唯一解,记为则

定理２：若||B||<1,则迭代法收敛.推论１若满足下列条件之一：（１）第十六页，共三十五页，2022年，8月28日(2)(3)

则迭代法收敛。

推论2：如果A为严格对角占优阵，则其Jacobi迭代和Seidel迭代对任何初始向量x(0)都收敛。

推论3：如果A为对称正定阵，则其Seidel迭代对任何初始向量x(0)都收敛。

第十七页，共三十五页，2022年，8月28日下面给出迭代法的误差估计定理３：若，则对迭代法有实用的第十八页，共三十五页，2022年，8月28日证明:第十九页，共三十五页，2022年，8月28日三．例题及求解例：用迭代法解方程组AX=b,其中[已知该方程的解为]

解：本题分别用简单迭代法（Jacobi迭代法）和GS迭代法来解(1)简单迭代法

第二十页，共三十五页，2022年，8月28日表１第二十一页，共三十五页，2022年，8月28日第二十二页，共三十五页，2022年，8月28日表2返回第二十三页，共三十五页，2022年，8月28日四.相关程序设计原始数据（A,b)可用一个二维数组存储，也可将A用一个二维数组，b用一个一维数组分别存储，存储需要一个一维数组．程序中应方便地对迭代方法和终止条件的选择以及对初始向量和值的设置．在迭代过程中，为反映迭代情况，可设置一些中间数据的输出，如迭带次数，迭代向量，迭代残向量等．当然不需要每迭代一次都作输出．这可作为收敛情况或不收敛情况的分析．作为不收敛的判定，可设置一个大的整数，当迭带次数超过该数时作为不收敛处理．GS迭代法的计算公式为：第二十四页，共三十五页，2022年，8月28日开始TFTFT第二十五页，共三十五页，2022年，8月28日下面给出一个应用BASIC程序解方程组的例子：程序如下运行：5REMGAUSS-SELDEL10INPUTN,E,M20DIMA(N,N),B(N),X(N),Y(N)30FORI=1,TON40FORJ=1,TON50READA(I,J)第二十六页，共三十五页，2022年，8月28日

60NEXTJ70READB(I)80NEXTI90FORI=1TON100READX(I)110NEXTI120FORK=1TOM130R=0140FORI=1TON150S=0160T=X(I)170FORJ=1TON

第二十七页，共三十五页，2022年，8月28日180IFJ=1THEN210190P=A(I,J)*X(S)200S=STP210NEXTJ220X(I)=(B(I)-S)/A(I,I)230IFABS(X(I0-T)>RTHENR=ABS(S(I)-T)240NEXTI250PRINTK;”-”;:FORI=1TON:PRINT“X(‘;I;”)=“;INT((X(I)*100000+0.5)/100000;:NEXTI:PRINT255IFR<1THEN280260NEXTK..:第二十八页，共三十五页，2022年，8月28日270PRINT“DREDAISHBAI”280 END290 DATA10,-1,-2,7.2300 DATA-1,10,-2,8.3310 DATA-1,-1,5,4.2320 DATA0,0,0 RUN ?3,10E-6,20返回第二十九页，共三十五页，2022年，8月28日五.方法优缺点讨论

由以上例题的求解过程可明显看出GS迭代法的收敛速度比简单迭代法快，但对于任意给定的一个方程组分别用简单迭代法和GS迭代法求解时，两种迭代法可能都收敛，也可能都不收敛．也有可能是GS迭代法收敛而J迭代法不收敛．但亦有相反情况，即简单迭代法收敛而GS迭代法不收敛．而且交换方程组中的方程和未知数的次序都会影响GS迭代法的计算结果，但这种交换对简单迭代法是没有影响的．返回第三十页，共三十五页，2022年，8月28日