GMRES算法的加速收敛现象分析毕业论文.doc

学院理学学士论文摘要I摘要随着科学和工程技术的发展，越来越多的问题需要求解大规模的线性方程组，对这类方程的快速求解已成为数值代数研究的热点之一，特别是具有稀疏结构的大型方程组的求解。基于Galerkin原理的Arnoldi算法是求解这种线性代数方程组的近似算法，以下称这种方法为广义极小残余算法(GMRES算法)。GMRES方法是目前求解大型稀疏非对称线性方程组最为流行的一种迭代方法。GMRES算法在迭代过程中通常表现出一种加速收敛行为，随着迭代次数的增加，这种加速收敛现象越明显，即残量收敛会随着迭代步数的增加而逐渐得到改善。在CG方法中，这种加速收敛与Ritz值有密切关系。通过分析，我们发现GMRES的加速收敛与其斜投影过程中产生的Ritz值对特征值的逼近程度有关系。在实际应用中，为了减少存储量和计算量，我们通常使用GMRES算法的重新开始版本来求解大型非对称线性方程组。本文描绘了GMRES和GMRES(m)的加速收敛现象，并通过实验给予解释。关键字：广义最小残量；Krylov子空间；Ritz值；加速收敛；正交投影方法；非对称线性方程组学院理学学士论文AbstractIIOnTheSuperlinearConvergenceofGMRESAbstractWiththedevelopmentofscienceandprojecttechnology,moreandmorequestionsneedthesolutionofbiglinearsystems.Thissolutionisoneofthefastestwaysforresearchingnumericalalgebra,especiallyforthebigsparsematrix.ThewayofArnoldiisbasedupontheprincipleofGalerkin,whichisclosedtothesolutionofthelinearnumericalsystem.Here,wecallthesolutionasGeneralizedMinimumResidual(GMRES).GMRESisoneofthemostpopulariterativemethodsforthesolutionofbignonsingularnonsymmetriclinearsystems.Itusuallyhasaso-calledsuperlinearconvergencebehavior.Therateofconvergenceseemstoimproveastheiterationproceeds.Foranothersay,therateofresidualvariablewillbeimprovedasweincreaseitsiteration.Fortheconjugategradientsmethod,thismethodhasbeenrelatedtoadegreeofconvergenceoftheRitzvalue.Throughsomeanalysis,wefoundthatforGMREStoo,changesinconvergencebehaviorseemtoberelatedtotheconvergenceofRitzvalue.Inourpracticalapplication,wealsousuallyuseGMRES(m)forreducingstorageandcountersolvingbiglinearsystems.ThispaperstudiesthesuperlinearconvergencebehaviorofGMRESandGMRES(m),andsuppliesexplainthroughexperiment.Keyword:GMRES；Krylovsubspace；Ritzvalue；superlinearconvergence；orthogonalizationmethod；nonsymmetriclinearsystem学院理学学士论文目录III目录摘要.IABSTRACT.II第一章引言.1第二章GMRES算法基础知识.32.1向量范数.32.2线性方程组最小二乘问题.42.2.1Gram-Schmidt正交化方法.42.2.2Givens变换.4第三章GMRES算法理论.63.1KRYLOV子空间方法的基本理论.63.2ARNOLDI算法.73.3GMRES算法结构.8第四章GMRES算法的加速收敛现象分析.9第五章数值示例与算法实现.195.1数值实验.195.2算法改进与实现.225.2.1预处理技术.225.2.2算法实现.245.3实验总结.34致谢.35参考文献.36REPORTOFLITERATURE.37文献报告.41学院理学学士论文第一章引言1第一章引言关于线性方程组的数值解法一般分为两大类:直接法和迭代法。直接法是在没有舍入误差的情况下，通过有限步四则运算可以求得方程组精确解的方法。但是，在实际计算时，由于初始数据变为机器数而产生的误差以及计算过程所产生的舍入误差等都对解的精确度产生影响，因此直接法实际上也只能算出方程组真解的近似值。直接法的基本思想是将结构上比较复杂的原始方程组，通过等价变换化成结构简单的方程组，使之变成易于求解的形式，然后再通过求解结构简单的方程组来得到原始方程组的解。即AxbGxdG通常是对角矩阵、三角矩阵或者是一些结构简单的矩阵。目前较实用的直接法是Gauss消去法的一些变形，例如选主元的Gauss消去法和矩阵的三角分解法，它们都是目前计算机上常用的有效方法。迭代法就是对任意给定的初始近似解向量(0)x，按照某种方法逐步生成近似解序列(0)(1)(2)(),.,.kxxxx,使极限()limkkxx为方程组的解，即()Axb。因此迭代法是用某种极限过程去逐步逼近真解的方法，从而也可以用有限步运算出具有指定精确度的近似解。迭代法主要有Jacobi迭代法、Gauss-Seidel迭代法、逐次超松弛法以及共轭斜量法。直接法的优点是计算量小，并且可以事先估计，缺点是所需存储单元较多，编写程序复杂；迭代法的优点是原始系数矩阵始终不变，因而算法简单，编写程序也比较方便，且所需存储单元也较少，缺点是只有近似解序列收敛时才能被采用，而且存在收敛性和收敛速度的问题。对于中等规模的n阶(n100)线性方程组，由于直接法的准确性和可靠性，所以它们是经常被采用的方法。对于较高阶的方程组，特别是对某些偏微分方程离散化后得到的大型稀疏方程组(系数矩阵中绝大多数为零元素)，由于直接解法的计算代价较高，使得迭