22 广义逆矩阵

1、一、广义逆矩阵的概念定义1设任意一个矩阵，若存在矩阵，满足AXA=A（1）XAX=X（2） (AX)T=AX（3） (XA)T=XA（4）这四个方程中的一个、两个、三个或全部，则称为的广义逆矩阵。由上面的定义可知，广义逆矩阵有中之多。本节介绍应用广泛的减号广义逆和加号广义逆。定义2对矩阵，一切满足方程组的矩阵，称为矩阵的减号逆或g-逆。记为。例如，都是的减号逆。下面的定理解决了的存在性和构造性问题。定理1(秩分解)设为矩阵，若，或这里,分别为的可逆阵，则(5)其中是相应阶数的任意矩阵。证明设为的广义逆，则有若记则上式，于是，其中任意. 证毕.定理1不但表明矩阵的减号逆总是存在的，通常也是不唯一

2、的，而且还给出了计算减号逆的方法。推论：若右逆，则；若左逆，则。例1设,求。解经过初等变换可得于是，故其中是任意数。再如：则.推论(1)对任意矩阵，总是存在且不唯一，全体记为.一般情况：设是奇异方阵，且，是的减号逆，则，。(2)唯一为可逆矩阵。此时(正则逆)；(3)，且；。(4)都是幂等矩阵，且。(5)若，则与的选择无关；(6)；(7)与广义逆的选择无关(选择合适的逆)；(8)若正定，则；(9)；(10)；(11)(12)，如，则。证明,(10)可以从定理1和广义逆的定义得到证明。(5)的证明如下,由.(6)由，知存在矩阵，使得。于是，=，与的选择无关。(7)记,利用广义逆的定义,可以验证：于

3、是.第一式得证。同理可证其它两式。(8)必要性是显然的，下面证充分性。设,因为所以,也就是.定理2 设有一固定的，则的减号逆的通式为(1)是相应的任意矩阵;(2)是相应的任意矩阵。证明(1)由知是的减号逆。反之，设是的某个减号逆，令,并注意到有(2)由即证是的减号逆；反之，设是的某个减号逆，令，并注意到, 有证毕.定理1和定理2以后都称为矩阵A的减号逆的一般表达式。推论：。证明：由；反之由，即证结论.下面的两个定理圆满地解决了用广义逆矩阵表示相容线性方程组解集的问题。定理3 设为一相容方程组，则(1)对任一广义逆，必为解；(2)齐次方程组的通解为，这里为任意的向量，为任意固定的一个广义逆；(3

4、)的通解为其中为任一固定的广义逆，为任意向量.证明(1)由相容性假设知，存在，使。故对任一，,即为解。(2)设是的任一解，即，那么即任一解都取的形式。反过来，对任意的，因。故必为解.(3)任取定一个广义逆，有(1)知为方程组的一个特解。由(2)知为齐次方程组的通解。依非齐次线性方程组的解结构定理知，为的通解。 证毕。定理4 设为相容线性方程组，且，那么，当取遍的所有广义逆时，构成了该方程组的全部解。证明证明由两部分组成。其一，要证对每一个，为的解，这已在前一定理中证明过了。其二，要证的任意解，必存在一个，使，由定理3知，存在的一个广义逆及，使得因，故总存在矩阵，使。例，可取。于是其中，。易验证

5、为一个。定理得证。注：（1）两个定理给出了相容线性方程组解（用广义逆表示）的两种形式，一种固定，另一种不固定。（2）相容线性方程组有唯一解的充分必要条件是列满秩。定理 5 （Penrose定理） 设，则矩阵方程 （6）有解的充要条件是（7）且在有解的情况下，其通解为（8）其中是任意矩阵。证明必要性如果矩阵方程(6)有解，设为其任一解，则充分性 若(7)成立，则是矩阵方程的解，即方程有解。下面证明(8)是(6)的通解。显然，(8)给出的满足方程；另一方面，矩阵方程(6)的任意一解都可以通过适当选取矩阵得到，即总可写成，具有(8)的形式。定理 6设可乘，则有定理 7设定理6和定理7的证明可按矩阵向

6、量化运算进行(Kronecker积).§3 与相容线性方程组的极小范数解定义1设，称同时满足（1）（2）的为矩阵的极小范数广义逆，记为或A(1,4)。上面的定义中要满足的两个方程（1）和（2）可以用一个方程（3）来代替。事实上，由（1）式和（2）式可得上式两端左乘以得（4）两边取转置（5）比较（4）式（5）式，有代入（3）式得即矩阵的极小范数广义逆与有着密切的关系。定理1 设，则（6）证明由推论(8) 知，又因，故定理1说明通常也不唯一，而（6）还给出了计算的一种方法。在上节中，给出了相容线性方程组的通解，现在，欲从这所有解中，求范数极小的解（或称LN解），即求减号逆，使定理2 向量

7、是相容线性方程组的极小范数解的充分必要条件是。证明充分性设GÎA1，4ÍA1，则线性方程组的任一解可表示成x=Gb+(IGA)c（c为任意向量）的形式。因此由于是相容的，从而有解。于是从而故有或即Gb是的极小范数解。必要性证明请读者自己完成。矩阵的极小范数广义逆通常不唯一，相容线性方程组的极小范数解是否唯一呢？下面的定理回答了这个问题。定理3 相容线性方程组的极小范数解是唯一的。证明设G1、G2ÎG1，4，x0是的解，即，则x1=G1b=G1Ax0，x2=G2bG2Ax0是的两个极小范数解。由（3）知G1AAT=AT，G2AAT=AT从而有(G1G2)AAT=O两

8、边右乘以(G1G2)T，得即有(G1G2)A=O从而x1x2=(G1G2)Ax0=0§4与不相容线性方程组的最小二乘解定义设，称满足AGA=A（1）(AG)T=AG（2）的为矩阵A的最小二乘广义逆，记为或A(1，3)。同A的极小范数广义逆的定义类似，上面定义中的（1）式，（2）式可用ATAG=AT（3）来代替。如果线性方程组不相容，则它没有通常意义下的解，残量不等于零。但这类方程组在许多实际问题中经常出现。对于这类方程组，我们可以求出这样的解，使它的残量范数为最小此问题就是求在的最佳逼近，通常称为线性最小二乘问题。满足的称为不相容方程组的最小二乘解。最小二乘解这个概念，也可用于一般相

9、容的方程组，这时，由于方程组相容，残差必为零，从而与一般意义下的解一致。定理1 向量是不相容线性方程组的最小二乘解的充分必要条件是ÎA1，3。此定理证明与上节定理2证明相似，这里不再重复。推论1欲，其充分必要条件为(称为的正规方程或正则方程).证明:由定理1知向量是最小二乘解的充分必要条件是.注:线性方程的最小二乘解等价于其正规方程的解.通常情况下，不相容线性方程组的最小二乘解是不唯一的。推论2任意线性方程组的正规方程必有解,且解为其中为所有取遍的广义逆;或 ,为一固定的广义逆,任取;或 ,任取.证明:由减号逆的性质得所以正规方程是相容的,且得到是它的解.再根据§2中定理3

10、,定理4得到其它解.特别当固定的取为时有,.证毕.推论3若可逆,则最小二乘解为.定理2 设是的一个最小二乘广义逆，则不相容方程组的最小二乘通解为（4）其中z是中的任意向量。证明由于所以（4）式和一样，都是Ax=b的最小二乘解。又设x0是Ax=b的任意一个最小二乘解，则因为而即和（5）式比较可得也就是这表明，当x0是不相容线性方程组的最小二乘解时，是齐次线性方程组的解，而的通解为于是存在，使或故x0可表为（4）式的形式。§5 与不相容线性方程组的极小范数最小二乘解前面我们首先讨论了矩阵A的减号逆A，然后对减号逆A加以不同的限制条件，得到了极小范数广义逆、最小二乘广义逆，通常、都是不唯一

11、的。下面讨论最重要的一种广义逆矩阵加号逆。定义设，称满足Penrose方程AGA=A（1）GAG=G（2）(AG)T=AG（3）(GA)T=GA（4）的矩阵GÎRn×m为A的MoorePenrose逆或加号逆，记为.如:,则；,则；是可逆方阵,则.引理(奇异值分解) 设，则存在两个正交方阵，使 （5）其中为的非零特征根。称为的奇异值。证明因为是对称阵，故存在正交方阵，使记，上式即为这说明，的列向量相互正交，且前个列向量长度分别为，后个列向量为零向量。于是，存在一正交方阵，使得 再由，即证结论。利用此引理，可以构造性地给出定理 （1）设有分解式（5），则 （6）（2）对任何矩

12、阵，唯一。证明（6）的右端满足的定义，这里只验证满足（1）式，其余由读者自已完成。（2）设G1、G2都是A的加号逆，则即的加号逆是唯一的。注：（1）的表达式与的奇异值分解无关（唯一性决定）.（2）构造的方法不唯一.（还可以利用正交-三角分解法等，参照倪国熙的常用矩阵理论与方法）.（3）若是复矩阵，所有出现转置的地方都要换成共轭转置.（），；，.因为是一个特殊的，因此，它除了具有的全部性质外，还有下面性质。推论 （1）若可逆，则， （2）(A+)+=A,（3）(A+)T=(AT)+，（4）,(5) rank(A+)=rank(A)； (6) A+=(ATA)+AT=AT(AAT)+,(7) (A

13、TA)+=A+(AT)+，(AAT)+=(AT)+A+,（8）设为一非零向量，则，（9）若为对称方阵，它可表示为这里为正交阵，则.(10）(11）当为对称方阵时，有(12) 一般情况：设分别是阶，阶正交阵，则有.这些事实的证明都基于(6)式，请读者完成详细证明。另证：因为rank(A)=rank(AA+A)rank(A+)=rank(A+AA+)rank(A)，所以rank(A+)=rank(A).由A、A+在四个Penrose方程中的对称地位，可知(A+)+=A。（3）、（7）可以从验证四个Penrose方程得到。（6）根据（7）和A+的定义有(ATA)+AT=A+(A+)TAT=A+(AA

14、+)T=A+AA+=A+AT(AAT)+=AT(A+)TA+=(A+A)TA+=A+AA+=A+定理 设是的满秩分解，则或 是的加号逆。证明我们验证G满足四个Penrose方程故G是A的加号逆。推论（1）当，即为列满秩矩阵时，（2）当，即为行满秩矩阵时，（3）上述定理及推论的重要性在于给出了计算加号逆的方法。例已知求.解A的一个满秩分解为A=BC，其中因为故不相容线性方程组Ax=b的最小二乘解通常是不唯一的，但其中范数极小的解是唯一的，并常称之为LNLS解。定理在相容线性方程组的解集中，为长度最小者；不相容线性方程组有唯一的极小范数最小二乘解.证明的通解可表示为x=A+b+(IA+A)z于是可

15、得这表明只有当(IA+A)z=0时x0是的LNLS解，此时因A+是唯一的，故的LNLS解是惟一的。注：极小范数最小二乘解是由问题的物理背景决定的.在许多情况下,问题本身要求这个解具有较小的长度.例2求不相容线性方程组Ax=b的LNLS解，其中，解经计算知于是要求的LNLS解为注意到A+ÎA1、A1，4、A1，3，即加号逆也是一个减号逆、极小范数广义逆、最小二乘广义逆，我们总可以用A+来讨论线性方程组Ax=b的解的问题。具体来讲就是：相容线性方程组Ax=b的通解为x=A+b+(IA+A)z相容线性方程组Ax=b的极小范数解为x=A+b不相容线性方程组Ax=b的最小二乘解为x=A+b+( IA+A) z不相容线性方程组Ax=b的极