矩阵论矩阵分解汇总PPT课件

矩阵的分解汇总 目录 三角分解 LU分解 Cholesky分解满秩分解矩阵的QR分解矩阵的奇异值分解矩阵的谱分解 三角分解 LU分解 矩阵的三角分解主要是用来解方程组Ax b 如果A LU 其中L为下三角 U为上三角 则方程组Ax b等价于Ly b Ux y 若下三角矩阵L是单位下三角矩阵 称A LU为Doolittle分解 若上三角矩阵U是单位上三角矩阵 称A LU为Crout分解矩阵分解A LDU 其中 L为单位下三角矩阵 U为单位上三角矩阵 Cholesky分解 A是实的对称正定矩阵 或者复Hermite正定矩阵 则存在唯一的下三角阵G 使得A GGT 其中 G的对角元全正 这种分解称为矩阵A的Cholesky分解 满秩分解 在求矩阵的满秩分解的过程中 要求矩阵的逆 这比较麻烦我们将介绍矩阵的Hermit标准形 用它来求矩阵的满秩分解比较方便 矩阵的Hermite标准形 矩阵的QR分解 矩阵QR分解在求解最小二乘问题 特征值问题等方面具有很重要的运用 QR分解也叫正交三角分解 本节我们介绍三种求QR分解的方法 Schmidt正交化方法 Householder变换法 Givens变换法 矩阵的正交三角分解 QR分解 Householder变换求QR分解 我们先介绍Householder变换的性质如何利用Householder变换求矩阵的QR分解 Householder变换 Givens变换与正交三角分解 Schmidt正交化方法求QR分解 Schur分解与正规矩阵 Schur定理 设数A为n阶方阵 则存在正交矩阵 酉矩阵 Q 使 我们已经知道 对称矩阵可以正交相似对角化由Schur定理 对于一般矩阵 正交相似变换后能化成上三角矩阵对于什么样的矩阵 能够正交相似于一个对角矩阵了 正规矩阵 n阶方阵A 若满足AAH AHA 则A为正规矩阵 实矩阵 AH AT 显然 实对称矩阵 实反对称矩阵 正交矩阵均为正规矩阵 复Hermite矩阵 反Hermite矩阵 酉矩阵均为正规矩阵 定理 n阶方阵A 正交 酉 相似于对角阵的充要条件是 A为正规阵 证明 由Schur引理 存在正交 酉 矩阵U使得 充分性 已知A为正规阵 即AHA AAH 必要性 已知存在正交 酉 矩阵U使 说明 1 不能酉对角化的矩阵仍有可能采用其它可逆变换将其对角化 例如 A不是正规矩阵 A具有两个不同的特征值1 3 所以可以相似变换对角化 但不能正交相似对角化 2 实正规矩阵一般不能通过正交相似变换对角化 若特征值全为实数 则可正交相似对角化 特征值为1 2i 1 2i A是实正规矩阵 但不可能正交对角化 但可以酉相似对角化 3 实对称矩阵可以通过正交相似变换对角化 4 实对称矩阵 复Hermite矩阵的特征值都是实的 实对称矩阵的谱分解和Hermite矩阵的谱分解最常用 矩阵的奇异值分解 奇异值分解在最佳逼近 最优化 广义逆 特征值问题的计算等方面具有广泛的应用 矩阵的奇异值分解 SingularValueDecomposition 也叫矩阵的SVD分解只有方阵才有特征值的概念 对于长方形阵 我们引入奇异值的概念 2 的证明是后面一个引理的直接推论 矩阵的奇异值分解定理 对称矩阵的特征值与奇异值有什么关系 反对称矩阵的特征值与奇异值有什么关系 正交矩阵的特征值与奇异值有什么关系 正规矩阵的特征值与奇异值有什么关系 一般方阵的特征值与奇异值有什么关系 矩阵谱分解 主要内容 一 单纯形矩阵的谱分解二 正规矩阵与酉对角化三 正规矩阵的谱分解 左特征向量 给定n阶矩阵A 是A的特征值 由于AT与A有相同的特征值 设Y是AT的属于 的特征向量 则 称YT是A的属于 的左特征向量 也称A的属于 的特征向量为右特征向量 两端取转置得 一 单纯形矩阵的谱分解 设A是n阶单纯矩阵 1 2 n是A的n个不同特征值 x1 x2 xn是A的n个线性无关的特征向量 P x1 x2 xn 则 这表明AT也与对角矩阵相似 故AT也是单纯矩阵 其中 性质 单纯矩阵不同特征值的左右特征向量是正交的 以矩阵特征值的代数重复度都为1为例加以证明 设y1 y2 yn是AT的n个线性无关的特征向量 则 y1 y2 yn PT 1 P 1 T 从而 即 对于单纯矩阵A 矩阵特征值的代数重复度都为1 矩阵A的谱分解 即单纯矩阵A分解成n个矩阵Ai之和的形式 其系数组合是A的谱 所有相异的特征值 由 则 对于有下面的性质 2 例1求矩阵A的谱分解 由 得 设A的左特征向量为 则 因为满足 可解得 从而 单纯矩阵A的谱分解定理 设单纯矩阵的谱为 则存在唯一的 其代数重数分为 使 2 设n阶单纯矩阵特征值的代数重复度不全为1 谱分解定理的证明 设 对于特征值 i x1i x2i xmii是A的相应的mi个线性无关的右特征向量 是A的相应的mi个线性无关的左特征向量 记 从而 再由 可得 则 同时 例2 求单纯矩阵 的谱分解 由矩阵A的特征多项式 得A的特征值 及相应的线性无关的特征向量 为 设对应的左特征向量为 则由 得 同理得 则 从而 1 正规矩阵定义 下列类型的矩阵都是正规矩阵 实对称矩阵AT A 反实对称矩阵AT A 正交矩阵AT A 1 酉矩阵AH A 1 Hermite矩阵AH A 反Hermite矩阵AH A 对角矩阵 设 满足 二 正规矩阵与酉对角化 2 酉相似 3 Schur定理 1 任意复方阵酉相似于一个上三角矩阵 即 Schur定理 2 任意实方阵正交相似于一个上三角矩阵 即 引理正规上三角矩阵是对角矩阵 证明设n阶矩阵A是正规上三角矩阵 则 比较等式两边 可得 定理 则A酉相似于一个对角矩阵的充分必要条件是A为正规矩阵 即 证明必要性 充分性 由schur定理知 A酉相似于一个上三角矩阵T 正规矩阵的性质 1 正规矩阵有n个线性无关的特征向量 2 正规矩阵属于不同特征值的特征向量是正交的 3 与正规矩阵酉相似的矩阵都是正规矩阵 解显然A满足 求得对应的线性无关特征向量 例3判断A是否为正规矩阵 如果是 将其酉对角化 即A是Hermite矩阵 从而是正规阵 由 得A的特征值 即酉变换矩阵为 则 经过验证它们两两正交 因此 只需将它们单位化得 实际上 对于正规矩阵来说 属于不同特征值的特征向量相互正交 三 正规矩阵的谱分解 设的谱为 则A为正规矩阵的充要条件是存在唯一的 其代数重数分为 一组正交投影矩阵 使 例5 求