周国标师生交流讲席.docVIP

莅芃蚈肅肄薈薄肄膇莁袃肃艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蒇螇芆薃螅螆羅莆螁螆膈蚁蚇螅芀蒄薃螄莂芇袂螃肂蒂螈螂膄芅蚄袁芇蒁薀袀羆芃蒆袀肈葿袄衿芁莂螀袈莃薇蚆袇肃莀薂袆膅薅蒈袅芇莈螇羄羇薄蚃羄聿莇蕿羃节薂薅羂莄蒅袄羁肄芈螀羀膆蒃蚅罿芈芆薁羈羈蒁蒇肈肀芄螆肇膂蒀蚂肆莅芃蚈肅肄薈薄肄膇莁袃肃艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蒇螇芆薃螅螆羅莆螁螆膈蚁蚇螅芀蒄薃螄莂芇袂螃肂蒂螈螂膄芅蚄袁芇蒁薀袀羆芃蒆袀肈葿袄衿芁莂螀袈莃薇蚆袇肃莀薂袆膅薅蒈袅芇莈螇羄羇薄蚃羄聿莇蕿羃节薂薅羂莄蒅袄羁肄芈螀羀膆蒃蚅罿芈芆薁羈羈蒁蒇肈肀芄螆肇膂蒀蚂肆莅芃蚈肅肄薈薄肄膇莁袃肃艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蒇螇芆薃螅螆羅莆螁螆膈蚁蚇螅芀蒄薃螄莂芇袂螃肂蒂螈螂膄芅蚄袁芇蒁薀袀羆芃蒆袀肈葿袄衿芁莂螀袈莃薇蚆袇肃莀薂袆膅薅蒈袅芇莈螇羄羇薄蚃羄聿莇蕿羃节薂薅羂莄蒅袄羁肄芈螀羀膆蒃蚅罿芈芆薁羈羈蒁蒇肈肀芄螆肇膂蒀蚂肆莅芃蚈肅肄薈薄肄膇莁袃肃艿薆蝿肂莁荿蚅肂肁薅薁螈膃莇蒇螇芆薃螅螆羅莆螁 周国标师生交流讲席004 2007.9.30本次讲席讨论求解数值线性代数两大主要问题的基本思想之一等价变换思想，这两大基本问题分别是： 。1如第一章所述，数值线性代数是数值计算的一个重要领域，主要研究两大类矩阵方程及其扩展的问题的数值计算方法及其相关的数学理论，问题的核心对象是矩阵，所以又称为矩阵计算，它是数值计算中近代发展最快，蕴含的数学思想空前活跃，研究成果也相当丰富的领域。数值线性代数包括线性方程组问题、矩阵特征值问题，最小二乘问题和奇异值问题的数值计算，其中前两者为两大基本、也是基础问题。针对矩阵的阶数大小，以及的对称性，正定性，稀疏性，奇异性，带状性等等结构特征，求解的数值方法大体分为直接法和间接法两大类。大家在第一章已经知道了什么叫直接法和间接法，这里不多解释。采用等价线性变换来化简问题的求解难度，是贯穿于数值线性代数的一个成功有效的数学思想，它指通过等价线性变换，将矩阵变为较为简单特殊的矩阵，使变换后对矩阵有关的计算求解更为直接，有利于原问题的求解。这里“等价”的含义是指变换前后的问题的解相同（或者说变换前后的两问题是同解方程问题）。根据这一思想，已提出了一批有效的数值方法。下面来分析这一思想是如何体现在求解两类问题上的。（1）线性代数方程组 由线性代数的理论可知，方程有解的充分必要条件是秩（A，b）=秩A，其中（A，b）称为方程的增广矩阵。由于对矩阵的初等行变换不改变矩阵的秩，而对矩阵的初等行变换对应一个非奇异矩阵P左乘于矩阵，所以，若有非奇异矩阵，使，那么，秩（A，b）= 秩A = 秩PA= 秩P（A，b）= 秩（PA，Pb）= 秩（B，d）。对于标准的线性方程组（指为n阶方阵），为了使得从中容易求出，最理想的矩阵是单位阵，这时，未知向量直接求出，此时的非奇异矩阵，是的逆阵。理论上，可由初等行变换这样，可以求得的逆阵。但从数值计算的复杂度角度看，这样做是不妥的。所以，要求退而求其次，改为实施矩阵的三角化。三角形方程组的求解虽然不是一步能够解出，但毕竟容易求出这就是我们在中学学过的Guass消元法的思想萌芽，由此发展起来的Guass消元法是数值求解的直接法的基础。例11 用Guass消元法求解 解：用初等行变换消去（2）（3）中的（即使的系数为0），具体的说，用（-2）乘（1），加到（2）上，用（-3）乘（10，加到（3）上，就可得到与方程组（I）等价的下列（II）：第2步，再利用初等行变换消去中的，可得与（II）等价的（III）： 此时的方程组（III）已是所谓的上三角形方程组，可用反向回代的方法（即先得，再得，最后得），不难得到方程组（III）的解，也是原方程组的解：。 显然，上述思想和方法可以运用到任意高阶的上，其实质是用一组初等行变换把系数矩阵变为一个三角形矩阵，即寻找一个非奇异的行变换P（对应的变换矩阵为P），使，这里为上三角形矩阵。这个过程可用下图表示。 （1. 1）这个过程称为将矩阵非奇异上三角化，或者将矩阵非奇异下三角零化。这个变换过程导致原方程组的求解基本实现，所以，需要仔细研究这样的非奇异矩阵如何有效地生成。这是我们将在下一节研究的核心问题之一。如果有的同学还不理解这个过程，恐怕深究下去在你的线性代数的基础，不太清楚为什么实行初等行变换后，前后两方程组是“等价”的。希望这样的同学先复习有关的内容，也可以找参加本学期初“数学复习班”的同学一起讨论。（2）矩阵特征值问题。理论上我们知道，矩阵特征值可从特征方程 求出，我们在本科学线性代数时，用这样的方法计算过。不过，我们在练习中做的题基本上是解3阶矩阵的，最多是4阶了，因为阶数高了，行列式的展开就够麻烦的了。即使你化了九牛二虎之力，将行列式展开成一个高阶的代数方程，它的数值求解也非易事。所以，数值计算不走这样“理论上正确，但实际计算困难”之路。那么，路在何方？我们在线性代数里熟悉一条重要结论：对矩阵作相似变换可保持其特征值不变，即相似变换具有保谱功能。设矩阵相似于矩阵，即存在非奇异矩阵，使得，则不难证明，从而的特征多项式相等，两者的特征值就相同。如果变换后的矩阵的特征值比较容易求出，那么，矩阵的特征值也就随之而得，问题解决！什么样的矩阵的特征值容易求出呢？对角阵和三角阵！这样的矩阵的特征值就是其对角线上的全部元素。所以，如果对矩阵能找到一个相似变换，得到的矩阵恰为对角阵或三角阵，那么，矩阵的特征值问题就基本解决（这里没有说彻底解决，是因为还有计算特征向量的问题）。线性代数有相应的理论结果支持这样的思路。 对于对称矩阵，我们熟悉下面的结果：引理1. 1设为对称矩阵，则存在正交矩阵，使得 (1. 2)其中对角矩阵的对角线上的元素恰为的所有特征值，而正交矩阵的诸列恰是各特征值对应的标准化的特征向量。上述引理称为对称阵的正交对角化，从数学的观点看，这是一个很深刻有很优美的结果。如果矩阵是Hermite矩阵，只需在上述引理中将正交矩阵改为酉矩阵即可。对于非对称矩阵，无法做到一般性的正交对角化（虽然有时也可存在这样的矩阵），但是，我们可以推而其次，实现酉三角化。这便有著名的Schur三角化定理。引理1. 2 设的特征值为，则存在酉矩阵，使得 。 (1. 3)证明：对阶数n用数学归纳法。当n =1，结论是显然的。假设对阶矩阵，定理的结论成立，现在此基础上来证明对n阶矩阵结论也成立。设，且已标准化（即其长度为，）。将扩充为上的一个标准正交基：，并记，那么为酉矩阵。这里要注意，不一定是矩阵的其他特征向量，但它们与够成一个正交基，在中的正交基不是唯一的。这样，我们就有 具体地，上式的右边可表为其中第1列元素为 ，因此，其中为阶矩阵。由于矩阵与酉相似，故两者的特征值相同。记阶矩阵的个特征值为。 由归纳假定知，存在阶酉矩阵，使得 记 ，和， 则为n阶酉矩阵，且有 。 当实矩阵的特征值为实值时，则存在正交矩阵，使得 .由(1.2)和（1.3）,如果能寻找到酉矩阵或正交矩阵, 那么矩阵的特征值就找到了。这似乎是说，矩阵特征值问题基本解决了。但是，问题在于这样的酉矩阵（或正交矩阵）怎么求法？一般的说，这个新问题不比原问题（指矩阵特征值问题）更简单。理论上只给出了存在性，并没有给出具体求法。在数值求解矩阵特征值问题上，现在的主流算法（即我们在第5章要仔细研究的方法）避免直接求酉矩阵或正交矩阵，而将矩阵作正交三角化 ， 其中为酉（正交）阵，为上三角阵。 然后，构作。 不难知，故有可见 与 正交相似，两者特征值相同。再继续对作正交三角化， 构作， 同理，与相似。按此继续下去，可得正交相似的矩阵序列。在一定的条件下可以证明，此矩阵序列将收敛与一个三角矩阵，从而此三角矩阵的队角元素便是矩阵的特征值。上述过程就是著名的方法（矩阵的分解算法是20 世纪的十大算法之一）。一般矩阵的特征值问题得到解决。这样，问题就转化为矩阵的正交三角化，即，或者，形象地可表为 。 （1. 4）这样的过程称为将矩阵正交上三角化，或者将矩阵正交下三角部分零化。这个过程的提出, 是数值计算史上一个里程碑式的成就.注意(1.4)与(1.1)表面看来, 都是三角化, 形式上相同。 但是，它们的线性变换的性质不同。第一个是非奇异变换，因为解线性方程组只需要保证矩阵的秩不变就可以了；而后者是正交变换，特征值问题的求解需要保谱，还需要保范。这些道路以后具体学习时再作解释。当然，对线性代数掌握得较好的同学来说，我想你们已经明白其中的理由了。由此可见，要解决这两大类矩阵方程的数值求解问题，首先要解决实现(1.1)和(1.4)的数值计算方法问题。我们在后面的学习中，就致力于寻找这样的数值工具，围绕这个主题开展的。 实际上，大家已经学习了Householder 反射变换， Givens 旋转变换， Gauss变换等，这些看起来有点让人模糊的变换，目的却很简单为了实现三角化！我想，这样的解释已经讲到点子上了。该休息了。大家看，数学并不那么神秘，它是很有逻辑，很有道路，很有根据的。数学也并不玄乎，如果有谁把它讲玄乎了，那一定是那个人在故弄玄乎，卖弄高深，吓乎老百姓，或者他自己也没有闹明白，照章宣科。我看，这时，你还是离开他吧，不要浪费宝贵的时间。谢谢。下一讲，该说说Householder 反射变换了。 膈薀肄肀膇蚃袇羆膆螅虿芄膆蒅袅膀芅薇蚈肆芄虿袃羂芃荿蚆袈节薁袂芇芁蚃螄膃芀螆羀聿芀蒅螃羅艿薈羈袁莈蚀螁膀莇莀羆肆莆蒂蝿羂莅蚄羅羈莅螇袈芆莄蒆蚀膂莃蕿袆肈莂蚁虿羄蒁莁袄袀蒀蒃蚇腿葿薅袂膅葿螇蚅肁蒈蒇羁羇蒇蕿螃芅蒆蚂罿膁蒅螄螂肇薄蒄羇羃膁薆螀衿膀蚈羆芈腿蒈螈膄膈薀肄肀膇蚃袇羆膆螅虿芄膆蒅袅膀芅薇蚈肆芄虿袃羂芃荿蚆袈节薁袂芇芁蚃螄膃芀螆羀聿芀蒅螃羅艿薈羈袁莈蚀螁膀莇莀羆肆莆蒂蝿羂莅蚄羅羈莅螇袈芆莄蒆蚀膂莃蕿袆肈莂蚁虿羄