对矩阵分解方法的探究.doc

滨 州 学 院 毕业设计（论文） 题 目对矩阵分解方法的探究 系 （院） 数学系 专 业数学与应用数学 班 级2010 级 1 班 学生姓名袁明珊 学 号 2009010447 指导教师 职 称 二一四年六月十日 独 创 声 明 本人郑重声明：所呈交的毕业设计(论文)，是本人在指导老师的指 导下，独立进行研究工作所取得的成果，成果不存在知识产权争议。 尽我所知，除文中已经注明引用的内容外，本设计（论文）不含任何 其他个人或集体已经发表或撰写过的作品成果。对本文的研究做出重 要贡献的个人和集体均已在文中以明确方式标明。 本声明的法律后果由本人承担。 作者签名： 二一四年 月 日 毕业设计（论文）使用授权声明 本人完全了解滨州学院关于收集、保存、使用毕业设计（论文） 的规定。 本人愿意按照学校要求提交学位论文的印刷本和电子版，同意学 校保存学位论文的印刷本和电子版，或采用影印、数字化或其它复制 手段保存设计（论文）；同意学校在不以营利为目的的前提下，建立 目录检索与阅览服务系统，公布设计（论文）的部分或全部内容，允 许他人依法合理使用。 （保密论文在解密后遵守此规定） 作者签名： 二一四年 月 日 滨州学院本科毕业设计（论文） I 对矩阵分解方法的探究 摘 要 矩阵是线性代数中最为重要的核心内容，很多问题都可以归结为 矩阵并最终通过矩阵分解来解决.矩阵分解是实现大规模数据处理和分 析的一种有效工具，在工程计算中具有重要的实际意义.矩阵分解主要 分为两种：一种是将一个矩阵分解为两个或两个以上矩阵和的形式； 另一种是将一个矩阵分解为一些矩阵的乘积的形式.本文就此对矩阵的 分解方法做了进一步的探究.第一章，介绍了矩阵的研究背景和基本概 念；第二章，对矩阵的和式分解及其应用进行了研究，并得到了三个 定理；第三章，着手探究了矩阵的分解、矩阵的分解、矩阵的谱LUQR 分解、矩阵的奇异值分解以及其它分解方法的应用.这些分解在数值代 数和解决最优化问题中都扮演着十分重要的角色并且在其它领域也起 着非常重要的作用. 关键词：矩阵和式分解；矩阵乘积分解；矩阵分解；矩阵分解；LUQR 矩阵谱分解 滨州学院本科毕业设计（论文） II Explore on the Methods of Matrix Decomposition Abstract Matrix is the most important core content in linear algebra. Many problems can be attributed to matrix and ultimately be solved by matrix decomposition. Matrix decomposition is an effective tool to achieve large- scale data processing and analysis. It has the important practical significance in the engineering calculation. Matrix decomposition is mainly divided into two kinds. One kind is a form which decompose matrix into two or more than two matrices. Another kind is a form which decompose matrix into some matrix product. The paper has been explored on the matrix decomposition methods. The first chapter introduces the research background and the basic concepts of matrix. The second chapter, do some research on the matrix and sum decomposition and its application, and three theorems are obtained. In the third chapter, we study thedecomposition LU of matrix, thedecomposition of matrix, spectral decomposition of matrix, QR singular value decomposition of matrix and the application of decomposition method. These decomposition solving plays a very important role in numerical algebra and optimization problem and also plays an essential role in other areas. Key Words: the sum decomposition of matrix；the product decomposition of matrix；decomposition of matrix；decomposition of LUQR matrix；spectral decomposition of matrix 滨州学院本科毕业设计（论文） i 目 录 第一章第一章 矩阵分解的概述矩阵分解的概述1 1.1 研究背景1 1.2 基本概念介绍1 第二章第二章 矩阵的和式分解及应用矩阵的和式分解及应用3 2.1 矩阵的和式分解3 2.2 矩阵和式分解的应用5 第三章第三章 矩阵的乘积分解及应用矩阵的乘积分解及应用7 3.1 矩阵的分解及应用7LU 3.2 矩阵的分解及应用10QR 3.3 矩阵的谱分解及应用13 3.4 矩阵的奇异值分解及应用17 3.5 矩阵乘积的其它分解及应用19 小结小结22 参考文献参考文献23 谢辞谢辞24 滨州学院本科毕业设计（论文） 1 第一章 矩阵分解的概述 1.11.1 矩阵分解的研究背景矩阵分解的研究背景 自 20 世纪 50 年代以来矩阵的理论和计算方法的研究取得了长足的进展，矩阵 理论的应用日益广泛.矩阵已成为人们探索新理论的重要工具，矩阵分解的应用也 越来越受到人们的重视.在数值线性代数中，我们常常需要将数域 P 上的某个已知 矩阵写成若干个满足一定条件的特殊类型矩阵之和或矩阵之积的形式，并把这种矩 阵表示称为矩阵分解. 刘轩黄在文献1中探究了关于矩阵的满秩分解及其应用，并应用矩阵的满秩 分解，给出了多种广义逆矩阵以及线性方程组的极小范数解，极小最小二乘解和极 小范数最小二乘解的算法.王卿文在文献2中探究了高等代数中幂零矩阵的性质及 其应用，幂零矩阵是一种特殊的矩阵，在矩阵理论中具有举足轻重的作用，它具有 很多良好的性质与此同时，从矩阵的各个角度深入挖掘其性质，并用不同的方法 进行分析论证，还通过例子说明其应用性，这对于解决若干矩阵问题大有益处.邹 红星在文献3中探究了矩阵 QR 分解的途径，并给出四种求矩阵 QR 分解的方法， 以加强对 QR 分解思想及方法的深刻理解.此外，在文献4-6中探究了矩阵分解的 方法，并给出了矩阵分解的两种形式，即和与乘积的形式，分别介绍了不同的分解 方法：LU 分解、QR 分解、满秩分解等方法综合上述对矩阵分解的探究，对于矩 阵分解的不同方法给出了相应的应用例题，与此同时，本文在已有的矩阵分解方法 的基础上，还给出了在一定条件下的矩阵分解的其它形式掌握矩阵分解的各种方 法，不仅可以简化计算，而且可以简便快捷的解决问题，并对于我们解决实际问题 也有着重要的作用. 1.21.2 矩阵分解中基本概念的介绍矩阵分解中基本概念的介绍 定义 1.1 设 7 ， 11121 21222 12 n n ij sn sssn aaa aaa Aa aaa 滨州学院本科毕业设计（论文） 2 ， 11121 21222 12 n n ij sn sssn bbb bbb Bb bbb 是两个矩阵，则矩阵sn =， ijijij sn Ccab 1111121211 2121222222 1122 nn nn sssssnsn ababab ababab ababab 称为和的和，记为ABCAB 矩阵的和式分解就是将一个矩阵写成上述的形式当然分解后的矩CAB 阵与原矩阵是同型矩阵. 定义 1.2 设，那么矩阵，其中 7 , ik sn Aa kj nm Bb sn ij Cc ， 1 122 1 n ijijijinnjikkj k ca ba ba ba b 称为与的乘积，记为ABCAB 从上述定义中可以观察到，矩阵与矩阵的乘积的第 行第列的元素等ABCij 于矩阵的第 行和矩阵的第列对应元素乘积的和.那么，在上述矩阵乘积的定AiBj 义中，我们要求矩阵的行数与矩阵的列数相等.BA 滨州学院本科毕业设计（论文） 3 第二章 矩阵的和式分解及应用 2.12.1 矩阵的和式分解矩阵的和式分解 矩阵的和式分解问题在计算数学及线性代数中都有非常广泛的应用,本章将从 矩阵入手，主要介绍矩阵和式分解的一般形式，即将一个矩阵分解成两个矩阵或两 个以上的矩阵和的形式.这对探究矩阵的结构以及矩阵的计算方法有着非常重要的 作用. 定理 2.1 任意一个矩阵都可表示为一对称矩阵与一反对称矩阵之和. 7 n n 证明 设为任意阶矩阵，构造矩阵 An ， 11 22 AAAAA 令 ，. 1 2 BAA 1 2 CAA 因为 ， 11 22 BAAAAB 11 22 CAAAAC 所以为对称矩阵，为反对称矩阵，并且，结论证得.BCABC 定理 2.2 秩等于 的对称矩阵可以表成 个秩等于 1 的对称矩阵之和. 7 rr 证明 设是秩为 的阶实对称矩阵，则存在正交矩阵，使ArnP , 1 2 0 0 r APP 其中为的全部非零特征值，则 12 , r A 滨州学院本科毕业设计（论文） 4 111222rrr APE PPE PPE P ， 1 122rr TTT 其中表示第 行和第 列的元素都为 1，其余元素均为 0 的阶矩阵. ii Eiin iii TPE P ，所以是对称矩阵.又因为秩，为可逆矩阵，故秩 iii PE PT i T1 ii E ,P P 秩.所以，证得秩等于 的对称矩阵可以表成 个秩等于 1 的对称 i T 1 ii PE Prr 矩阵之和. 下面这个定理则是在一定条件下矩阵和式分解的形式 定理 2.3 证明任意复矩阵均可以分解为的形式，其中为幂零矩AABCC 阵，相似于对角形矩阵，并且.BBCCB 证明 由题意知，存在可逆矩阵，使得T ， 1 21 s J J TAT J 其中有 1 1 i i i i J 0 10 10 i i i 设 滨州学院本科毕业设计（论文） 5 ,， i i i i B 0 10 10 i C 则 11 221 ss BC BC TAT BC 令 ， 1 21 s B B BTT B ， 1 21 s C C CTT C 则,就是所求的矩阵BC 2.22.2 矩阵和式分解的应用矩阵和式分解的应用 如果一个矩阵可以分解成两个或两个以上矩阵的和的形式，则可以用分解式A 的形式来计算与该矩阵可交换的矩阵，矩阵的方幂等. AA 例 2.1 设，求所有与可交换的矩阵. 10 11 A A 解 令 , 1000 1110 AE 设 与可交换, ab B cd A 即 , 0000 1010 abab EE cdcd 滨州学院本科毕业设计（论文） 6 可得 , 0000 1010 abab cdcd 则有 , 000 0 b abd 所以 ，因此为任意实数.0,bad 0 , , a Ba c ca 例 2.2 设，求. 8 011 101 110 A 100 A 解 令 ， 1 1 1 1 1 1 1 1 1 B 则 ，ABE 又 ， 1 1 1 1 1 1 ,3 1 nn BBB 所以 100100 100 ABEEB 122100100 100100100 ECBCBCB . 1223100100 100100100100 333ECCCCB 因为 100 122100100 100100100 1 31 333CCC , 122399100 100100100100 1 3333CCCC 所以 滨州学院本科毕业设计（论文） 7 . 100100 1 1 2 3 AEB 100100100 100100100 100100100 222121 1 212221 3 212122 从上述例子可以看出，将一个矩阵分解成一个单位矩阵和另一个矩阵和的形式， 不仅可以简化计算，而且可以简便快捷的解决问题. 第三章第三章 矩阵的乘积分解及应用 3.13.1 矩阵的矩阵的分解及应用分解及应用LU 分解 设是阶可逆矩阵，如果的对角线下（上）方的元素全LU ij AanA 为零，即当时，（当时，） ，则称矩阵为上（下）三角矩ij0 ij a ij0 ij a A 阵.上三角矩阵和下三角矩阵统称为三角矩阵. 如果一个下三角矩阵和一个上三角矩阵，使得，则称可以做三LUALUA 角分解.并且称为的三角分解或分解.ALUALU 定理 3.1 分解的定理 设是阶可逆矩阵，则存在唯一的单位下三角 5 LUAn 矩阵和上三角矩阵，使得的充分必要条件是的所有顺序主子式均非LUALUA 零，即 11121 21222 12 0, k k k kkkk aaa aaa aaa 1,kn 分解可以用直接法推导出的分解公式，将写成LUALUALU , 1112111121 2122221222 1212 1 1 1 nn nn nnnnnnnn aaauuu aaaluu aaallu 比较等式两端的第 行和第列元素，可得ij , 1 n ijikkj k al u 上式利用了，从而1 ii l 滨州学院本科毕业设计（论文） 8 . 1 1 ,1, i ijijikkj k ual uji in 当时，1,2,jiin ， 1 11 ii ijjkkijiiijkki kk al ul ul u 从而 ， 1 1 i ijjkki k ij ii al u l u 1,2,jiin 分解的初等变换消元法 设一可逆矩阵的个顺序主子式非零，则存在可LUAn 逆矩阵，使,其中是一系列初等行矩阵之积（对应于初P 1 ,PAU AP ULU P 等行变换） ，是下三角矩阵，是上三角矩阵，求可用下面做法 1 LPU,P U A EU P 行变换 例 3.1 求矩阵的分解. 111 121 113 ALU 解 方法一方法一 对矩阵作初等行变换EAM ， 1 5 2 5 1 5 2 00 01 3 1 3 2 3 5 0 001113 10 3 1 3 2 3 2 0 01 3 1 3 2 3 5 0 001113 100111 010121 001113 EAM 所以得 ， 1 5 2 5 1 01 3 1 001 P 1 5 2 3 1 100 01 3 1 010 001001 10 5 1 1 5 2 0 01 3 1 010 001001 1001 5 2 5 1 01001 3 1 001001 EP 滨州学院本科毕业设计（论文） 9 所以得 ， 1 5 2 3 1 01 3 1 001 1 PL 5 2 00 3 2 3 5 0 113 U 即 5 2 00 3 2 3 5 0 113 1 5 2 3 1 01 3 1 001 LUA 方法二方法二 令 , 111213 212223 313233 1311 1121 1111 uuu ALUluu llu 所以 1, 1, 3 131211 uuu 由，得 1 1121 ul 3 11 11 21 u l 由，得 1 1131 ul 3 11 11 31 u l 由，得2 221221 uul 3 5 2 122122 ulu 由，得1 231321 uul 3 2 1 132123 ulu 由，得 1 22321231 ulul 滨州学院本科毕业设计（论文） 10 5 21 22 1231 32 u ul l 由，得 31 13322333 1l ul uu 3331 133223 2 1 5 ul ul u 所以得 ，, 1 1 1 3 12 1 35 L 311 52 33 2 5 U 即 ALU 3.23.2 矩阵的矩阵的分解及应用分解及应用QR 矩阵的分解（即正交三角分解）在解决最小二乘问题、特征值计算、广义QR 逆矩阵的计算方面，都有着十分重要的作用. 矩阵的分解 设是阶可逆实矩阵，则可唯一分解为，其中QRAnAAQR 为正交矩阵（，或） ，是主对角元素都是正数的三角Q TT Q QQQE 1T QQ R 矩阵，称该分解为对的正交三角分解.A 设是矩阵，且为列满秩，即，则有，其中Am nA r An m nm nn n AQR 的个列向量是标准正交的，是正对角元的阶上三角矩阵. m n Q nRn 矩阵的分解有很多种.常见的有 Schmidt、Givens 正交分解法QR Schmidt 正交分解法 设可逆矩阵（或列满秩）的列向量是，用A 12 , n Schmidt 标准正交化使得为正交组.则有先正交化 12 , n 11 22111 1 1 , =-( ,) , -, n nninn i 再单位化 1 1 1 2 2 2 , , . n n n 滨州学院本科毕业设计（论文） 11 ， 1121 2232 3 , , n n n R 则得 AQR 因为是标准正交组，是正交矩阵. 12 , n 12 , n Q 例 3.2 用 Schmidt 正交化方法，求矩阵的分解. 110 111 011 A QR 解 令 ， 123 ,A 则 ， 123 110 1 ,1 ,1 011 由 Schmidt 正交化公式，得 ， 111 1 1 ,2 0 , 1 1 1 2 2 1 12 1 22 0 0 ， 1213 2 ,2, 2 滨州学院本科毕业设计（论文） 12 ， 22121 2 2 10 2 ,120 2 11 0 ， 2 2223 2 0 1,0 ,1 1 33131232 , ， 2 1 2 2 00 221 10 222 11 00 ，3 33 3 2 1 2 2 2212 , 2222 00 ， 123 22 0 22 22 ,0 22 010 Q 由公式 ， 11213 223 3 2 22 , 2 ,11 2 2 R 滨州学院本科毕业设计（论文） 13 即AQR 3.33.3 矩阵的谱分解及应用矩阵的谱分解及应用 3.3.13.3.1 单纯矩阵的谱分解单纯矩阵的谱分解 5 阶单纯矩阵有个线性无关的特征向量,设是的个特征值，nAn 12 , n An 是的个线性无关的特征向量，而且有 12 , n x xxAn ,1,2, ii Axx in 令 ， 12 , n Px xx 1 2 n V 则有,两边取转置得 ，这就表明也与对角矩阵相似. 1 APVP 1 TTT APVP T A 所以，设是的个线性无关的特征向量，即有 12 , n y yy T An ,1,2, T iii A yy in 将上式两端取转置得 .,1,2, TT iii y Ay in 由上式，则称是的左特征向量，称是的右特征向量. T i yA i xA 由得，两边取转置，得 1 TTT APVP 1 1 12 , T T n y yyPP , 1 -1 T T n y P y 代入，得,则 11 PPP PE 滨州学院本科毕业设计（论文） 14 , 11 1212 , TT nn TT nn yy x xxx xxE yy 此时有 . 1122 TTT nn x yx yx yE 比较上式两端 , ,1,2, T iiij y xi jn 上式表明，矩阵的左特征向量与右特征向量正交.把下边式子A T i y i xij 12 , n Px xx 与式子 , 1 1 T T n y P y 代入，得 1 APVP . 1 1 2 121 11222 , T TTT nnnn T n n y Ax xxx yx yx yE y 令 ， T iii Gx y 则得 . 1 n ii i AG 因此，称上式为单纯矩阵的谱分解.即分解成个矩阵之和的形式,其线AAn i G 性组合系数是的谱（即所有的特征值）.A 滨州学院本科毕业设计（论文） 15 3.3.23.3.2 矩阵谱分解的定理矩阵谱分解的定理 定理 3.2 设是阶单纯矩阵，是的 个互不相同的特征值， 5 An 12 , n Ar 则满足下面性质的谱分解A （1）； 1 r jj j AE （2）； 2 1,2, jj EEjr （3）；, ,1,2, ij E EO ij i jr （4）. 1 n i j EE 证明 设对于的线性无关的右特征向量为,左特征向量为 j 12 , j jjj s xxx ，将其代入，得 12 , j T TT jjj s yyy 1 n ii i AG ， 111 j s rr T jj jkkjj jkj AxyE 其中 ， 1 12 1 , j j j T j s T jjjjj jkks k T j s y Exyxxx y 根据 , 11 1212 , TT nn TT nn yy x xxx xxE yy 得 , 1 n i j EE 又由 滨州学院本科毕业设计（论文） 16 , ,1,2, T iij y xi jn 得 ,. 2 jj EE ij E EO 则所有的式子都得证. 例 3.3 求矩阵的谱分解. 4100 130 361 A 解 因为 ， 2 4100 13021 361 EA 所以的特征值为A . 123 2,1 对于由得其特征向量 1 2, 1 0EA x . 1 5 1 3 对于，由得其特征向量 23=1 2 0EA x . 23 20 1,0 01 所以得 ， 123 520 ,110 301 P 滨州学院本科毕业设计（论文） 17 ， 1 12 0 33 15 0 33 121 P 并且有 ， 1 21 1APdiagP 取 ， 1 510 0 33 5 1212 100 3333 3 120 E , 2 210 0 33 20 15 012 10033 33 121 01 120 E 则 12 2AEE 3.43.4 矩阵的奇异值分解及应用矩阵的奇异值分解及应用 3.4.13.4.1 矩阵的奇异值分解矩阵的奇异值分解 定义 3.1 矩阵的奇异值分解 设，的特征值为 5m n r AC H A A 12r ，则称是矩阵的正奇异值，简称奇 12 0 rrn 1,2, ii irA 异值.也就是的特征值的非负平方根. H A A 当是零矩阵时，则的奇异值均为零.AA 滨州学院本科毕业设计（论文） 18 由上面的定义可以得出以下几个性质： （1）阶矩阵的奇异值的个数等于列数（因为的阶数是） ；nmAn H A An （2）的非零奇异值的个数等于（因为）ArankArankAArankAH 3.4.23.4.2 矩阵奇异值分解定理矩阵奇异值分解定理 定理 3.3 设，则存在阶酉矩阵和阶酉矩阵，使得 5nm r CA mUnV , OO OE AVU H 其中,而是的正奇异值，则称 12 , r Ediag 1,2, i irA H EO AUV OO 是的奇异值分解.A 证明 由，则有并且是 Hermite 矩阵. nm r CA Hm n r A AC 设的特征值是，则有A 12 , r , ii 1,2,ir 所以有 . 12 , HH r EO VA AVdiag OO 记，其中代入上式得 12 ,VV V 12 , nn rn r VCVC , 2 1122 HHHH VA AVE VA AVO 则有 , 11 1122 H HH r E VA AV EIAVAVO 由令,又由 ，最后得 2 ,AVO 1 11 UAV E 12 ,AVU E AVO . 1111112 12 2122122 , HHHH H HHHH EOUU EOUUAVUAV UAVA V V OOUU EOUUAVUAV 滨州学院本科毕业设计（论文） 19 例 3.4 求矩阵的奇异值分解. 101 011 A 解解 因为 ， 101 011 112 T A A 所以的特征值是 3,1,0.则的奇异值是并且的正交单位特 T A AA 12 3,1 T A A 征向量分别是 ， 123 11211111 ,0, 66622333 TTT 令 ， 12312 ,Vq qqV V 则 ， 1 11 11 1162 1 0101 1122 3 0111162 00 222 0 6 UUAV 所以的奇异值分解为A 112 11666 1130022 0 1122 010 11122 333 A 3.53.5 矩阵乘积的其它分解及应用矩阵乘积的其它分解及应用 例 3.5 令为数域上秩为 的矩阵，试证 存在秩为 的矩APrm n0r rm r 阵和秩为 的矩阵，使得FrrnGAFG 证明 因为秩，则存在的可逆矩阵和的可逆矩阵，使得Arm mPn nQ 滨州学院本科毕业设计（论文） 20 0 00 r E APQ r r E PEO Q O 取 ， r E FP O r GEO Q 则,分别是秩为 的矩阵与秩为 的矩阵，并且有FGrm rrrnAFG 注 从上面的分析和证明中可看出，只要应用上面结论 ， r EO APQ OO 同时给出适当的变化，就可以得到证明需要注意的是，上面的结论有时还可以写 成 r EO PAQ OO 例 3.6 复数域上的任意阶方阵，均等于两个对称矩阵的乘积，并且其中之nA 一是非退化的 证明 是复数域上的阶方阵，则存在阶可逆矩阵，使AnnT ， 1 21 s J J TATJ J 其中 , 000 100 0100 001 ii i i i i kk J 1,2,is 作 , 1 1 1 i H 与阶数相同，易知， i H i J iiii JH J H1,2,is 滨州学院本科毕业设计（论文） 21 令 , 1 2 s H H H H 则有 ， 1 HHH JHJ H 故 11 ATJTTHJ HT 11 THT A THT 11 THTATHT 令 ，则 BTHT 1 ABAB 令，则, 非退化，并且 1 CABABCB ， BTHTTH TTHTB . 1 11 CABBABA 1 1 = BBAB 11 B BAB 1 ABC 注 对于()阶若尔当块 i k=1,2,is ， 000 100 0100 001 i i i i J 则存在阶矩阵 i k ， 1 1 1 i H 使得 滨州学院本科毕业设计（论文） 22 ， 1 1 1 i i iiii i HJ HJ 1 iii HHH 滨州学院本科毕业设计（论文） 23 小 结 矩阵是数学中最重要的基本概念之一，是代数学的一个主要研究对象，也是数 学研究及应用的一个重要工具矩阵是线性代数中最为重要的核心内容，很多问题 都可以归结为矩阵并最终通过矩阵解决. 我们通过对矩阵分解的探究可知，在近代 数学、工程技术、信息处理、经济理论管理科学中，也大量涉及到矩阵理论的知识， 矩阵分解是实现大规模数据处理和分析的一种有效工具，在工程计算中具有重要的 实际意义矩阵发展到今天已经形成了一整套的理论和方法，内容非常丰富，形式 多样矩阵分解是根据一定的原理用某种算法将一个矩阵分解成若干个矩阵的乘积 或者一些矩阵之和，矩阵分解对矩阵理论及近代计算数学的发展起了至关重要的作 用本文探究了矩阵的两种主要分解形式，这对于与矩阵有关的数值计算和理论都 有着非常重要的意义通过对所给矩阵进行不同的分解，既简化了计算，又可以快 捷的完成所研究的内容，可见，矩阵的各种分解形式都有着其特别的用处因此， 探究矩阵的不同分解方法，对于我们更深层次的研究数学有着很重要的