矩阵分析课件.ppt

第1章：线性空间与线性变换,内容：线性空间的一般概念重点：空间结构和其中的数量关系线性变换重点：其中的矩阵处理方法特点：研究代数结构具有线性运算的集合。看重的不是研究对象本身，而是对象之间的结构关系。研究的关注点：对象之间数量关系的矩阵处理。学习特点：具有抽象性和一般性。,1.1线性空间,一、线性空间的概念几何空间和n维向量空间的回顾推广思想：抽象出线性运算的本质，在任意研究对象的集合上定义具有线性运算的代数结构。定义1.1（P.1）要点：集合V与数域F向量的加法和数乘向量运算运算的性质刻画,常见的线性空间,Fn=X=（x1，x2，xn）T：xF运算：向量加法和数乘向量Fmn=A=aijmn：aijF；运算：矩阵的加法和数乘矩阵Rmn；Cmn。Pnx=p(x)=：aiR,运算：多项式的加法和数乘Ca，b=f（x）：f（x）在a，b上连续运算：函数的加法和数乘eg5：V=R+，F=R，ab=ab，a=a,F=R或C,线性空间的一般性的观点：,线性空间的一般形式：V（F），元素被统称为向量：，线性空间的简单性质（共性）：定理1.1：V（F）具有性质：（1）V（F）中的零元素是惟一的。（2）V（F）中任何元素的负元素是惟一的。（3）数零和零元素的性质：0=0，k0=0，k=0=0或k=0（4）=（1）,数0,向量0,二、线性空间的基和维数,向量的线性相关与线性无关：定义形式和向量空间Rn中的定义一样。有关性质与定理和Rn中的结果一样。例题1证明C0，1空间中的向量组ex，e2x，e3x，enx，x0，1线性无关。,二、线性空间的基和维数,基与维数的概念：P.2，定义1.2常见线性空间的基与维数：Fn，自然基e1，e2，,en，dimFn=nRmn，自然基Eij，dimRmn=mn。Pnx，自然基1，x，x2，x3,xn-1，dimPnx=nCa，b，1，x，x2，x3xn-1Ca,b，dimCa，b=约定：Vn（F）表示数域F上的n维线性空间。只研究有限维线性空间。,三、坐标,1定义1.3（P.3)设1，2，n是空间的一组基，=，则x1，x2，xn是在基i下的坐标。,例1：求R22中向量在基Eij下的坐标。,要点：坐标与基有关坐标的表达形式,例2设空间P4x的两组基为：1，x，x2，x3和1，（x-1）1，（x-1）2，（x-1）3求f（x）=2+3x+4x2+x3在这两组基下的坐标。,归纳：任何线性空间VnF在任意一组基下的坐标属于Fn。每一个常用的线性空间都有一组“自然基”，在这组基下，向量的坐标容易求得。求坐标方法的各异性。,2、线性空间Vn（F）与Fn的同构,坐标关系Vn（F）Fn基1，2，。n由此建立一个一一对应关系Vn（F），XFn，（）=X（1+2）=（1）+（2）（k）=k（）在关系下，线性空间Vn（F）和Fn同构。,同构的性质,定理1.3:Vn（F）中向量1，2，n线性相关它们的坐标X1,X2,Xn在Fn中线性相关。同构保持线性关系不变。应用：借助于空间Fn中已经有的结论和方法研究一般线性空间的线性关系。,例题2设R22中向量组Ai,1讨论Ai的线性相关性.2求向量组的秩和极大线性无关组.3把其余的向量表示成极大线性无关组的线性组合.,四、基变换和坐标变换,讨论：不同的基之间的关系同一个向量在不同基下坐标之间的关系基变换公式设空间中有两组基：,过渡矩阵C的性质：C为非奇异矩阵C的第i列是i在基i下的坐标,则,过渡矩阵,2坐标变换公式,已知空间中两组基：满足:;讨论X和Y的关系,X=CY,1,2,3,例题4、已知空间R中两组基（I）Eij（II）；求从基（I）到基（II）的过渡矩阵C。求向量在基（II）的坐标Y。,例题3、（P6例题11）,1.1五、子空间,概述：线性空间Vn（F）中，向量集合V可以有集合的运算和关系：WiV，W1W2，W1W2，问题：这些关系或运算的结果是否仍然为线性空间？,1、子空间的概念,定义：设集合WVn（F），W，如果W中的元素关于Vn（F）中的线性运算为线性空间，则称W是Vn（F）的子空间。判别方法：定理15W是子空间W对Vn（F）的线性运算封闭。子空间本身就是线性空间。子空间的判别方法可以作为判别线性空间的方法,重要的子空间：设向量组1，2，mVn（F），由它们的一切线性组合生成的子空间：L1，2，m=,矩阵AFmn，两个子空间：A的零空间：N（A）=X：AX=0Fn，A的列空间：R（A）=LA1，A2，AnFm，Ai为A的第i列。,2、子空间的“交空间”与“和空间”,讨论：设W1Vn（F），W2Vn（F），且都是子空间，则W1W2和W1W2是否仍然是子空间？（1）交空间交集：W1W2=W1而且W2Vn（F）定理16W1W2是子空间，被称为“交空间”（2）和空间和的集合：W1W2=X1X2X1W1，X2W2，,W1W2W1W2,定理16W1W2是子空间，被称为“和空间”，,W1W2不一定是子空间，W1W2W1W2,例17设R3中的子空间W1=Le1，W2=Le2求和空间W1W2。比较：集合W1W2和集合W1W2。,如果W1=L1，2，m，W2=L1，2，k，则W1W2=L1，2，m，1，2，k,3、维数公式,子空间的包含关系：,dimW1W2dimWidimW1W2dimVn（F）。定理17：dimW1dimW2=dim（W1W2）dim（W1W2）证明：,4、子空间的直和,分析：如果dim（W1W2）0，则dim（W1W2）dimW1dimW2所以：dim（W1W2）=dimW1dimW2dim（W1W2）=0W1W2=0直和的定义：定义16：dim（W1W2）=0，则和为直和W=W1W2=W1W2，,子空间的“和”为“直和”的充要条件：定理18设W=W1W2，则下列各条等价：（1）W=W1W2（2）XW，X=X1X2的表是惟一的（3）W中零向量的表示是惟一的（4）dimW=dimW1dimW2,例1P12eg18例2设在Rnn中，子空间W1=AAT=A，W2=BBT=B，证明Rnn=W1W2。例3子空间W的“直和补子空间”,12内积空间,主题：定义内积的概念，借助于内积建立线性空间的度量关系。一、欧氏空间和酉空间1几何空间中度量关系的定义基础2内积的定义定义17(P13)：要点内积(，)是二元运算：Vn(F)F(，)的公理性质(，)是任何满足定义的运算。讨论(，12),(，k),3.内积空间的定义Vn（F）；（，），F=R，欧氏空间；F=C，酉空间4常见的内积空间：Rn；(，)=T,Cn；(，)=H,Cmn；(A，B)=tr(BHA)PnX；(f(x)，g(x)=,5向量的长度定义：|=,6欧氏空间中向量的夹角：定义：0，0，夹角定义为：cos=,性质：|k|=k|；Cauchy不等式：，Vn(F)；(，),|(，)|。|,和正交（，）=0,7线性空间的内积及其计算：设1，2，,n是内积空间Vn(F)的基，Vn(F)，则有=x11x22xnn=(12n)X；=y11y22ynn=(12n)Y(，)=YHAX，,定义内积在一个基1，2，n中定义内积定义一个度量矩阵A。,度量矩阵A,度量矩阵的性质：,二、标准正交基,1标准正交的向量组：定义：1，2，n为正交组(i，j)=0性质：2标准正交基基1，2，n是标准正交基(i，j)=,标准正交基的优点：,标准正交基的优点：度量矩阵是单位矩阵，即A=I=(12n)X，=(12n)Y，(，)=YHX=x11x22xnn，xi=(，i)和正交其坐标X和Y正交,坐标空间Fn的内积,求标准正交基的步骤：Schmidt正交化标准化矩阵方法讨论,正交补”子空间(i)集合的U的正交集：U=Vn(F)：U，(，)=0(ii)U是Vn(F)的子空间U是Vn(F)子空间(iii)Vn(F)=UU。,U的正交补子空间,13线性变换,一、线性变换的概念定义1.11(P.19)要点：（i）T是Vn（F）中的变换：T：Vn（F）Vn（F）。(ii)T具有线性性：T（）=T（）T（）T（k）=kT（）,从一般性的角度给出的定义,例题1Vn（F）中的相似变换T：是F中的数，Vn（F），T（）=。特例：=1，T是恒等变换，=0，T是零变换。,可以在任何线性空间中定义相似变换!,例题2Fn中的变换TA：设AFnn是一个给定的矩阵，XFn，TA（X）=AX。例题3PnX中的微分变换：,2线性变换的性质：（i）T(0)=0（ii）T()=T()（iii）,3线性变换的象空间和零空间设线性变换T：Vn(F)Vn(F)，象空间R(T)=：Vn(F)，=T()零空间N（T）=：Vn(F)，T()=0,定义：T的秩=dimR（T）；T的零度=dimN（T）,线性变换保持线性相关性不变！,例题27求Fn线性中的变换TA:Y=AX的象空间和零空间。,R（TA）=R（A）；N（TA）=N（A）,4线性变换的运算设T1，T2都是空间Vn(F)中的线性变换，常见的用它们构成的新的变换：（i）T1T2Vn（F），（T1T2）（）=T1（）T2（）（ii）T1T2Vn（F），(T1T2)（）=T1（T2（）（iii）kTVn（F），（kT）（）=k（T（）（iv）若T1是可逆变换，T1T1()=当且仅当T()=。,定义,二、线性变换的矩阵,1线性变换的矩阵与变换的坐标式Vn（F）上线性变换的特点分析：,定义变换T确定基中向量的象T（i）。定义T（i）确定它在基下i的坐标Ai。定义变换T确定矩阵A=A1，A2，An,（i）A为变换矩阵（ii）变换的坐标式：Y=AX（iii）应用意义,例题1对线性变换:P4XP4X，求D在基1，X，X2，X3下的变换矩阵。2求向量在变换D下的象。,2线性变换运算的矩阵对应：设Vn（F）上的线性变换T1，T2，它们在同一组基下的矩阵：T1A1；T2A2（i）（T1T2）（A1A2）（ii）（T1T2）A1A2（iii）（kT）kA（iv）T1A1,3不同基下的变换矩阵两组基：1，2，,n，1，2，,n，（12n）=（12n）CT（12n）=（12n）AT（12n）=（12n）B,同一个线性变换在不同基下的矩阵是相似的,B=C1AC,1,2,3,例题2（P23，eg28）,例题2（P23，eg28）例题3（P24，eg29）设单位向量u=（2/3，-2/3，-1/3），定R3上的线性变换P（x）=x-（x，u）u，求P在自然基e1，e2，e3下的变换矩阵。求P在标准正交基u，u2，u3下的变换矩阵。,三、不变子空间,问题的背景：变换矩阵的化简和空间的分解的对应关系1.不变子空间的概念矩阵简化要求空间分解的特点定义(p24,定义1.14)2.不变子空间的判别W是T的不变子空间WT（）W。,特别：W=L1，2，m，W是T的不变子空间T（i）W。,T（W）W。,P24，例题30R3上的正交投影P：P（x）=x（x，u）u，u是单位向量。证明L（u）和u=x：（x，u）=0是P的不变子空间。,3空间分解与矩阵分解Vn（F）=WU，W，U是T的不变子空间，,W=L1，r，U=r+1，n,则T,1，r，r+1，n,Vn（F）=U1U2Uk，则T,矩阵Ai的阶数=dimUi,四、正交变换和酉变换,讨论内积空间V；（，）中最重要的一类变换。1定义1.15（P25）2正交（酉）变换的充要条件：（定理1.15,P26）T是内积空间V（F）上的线性变换，则下列命题等价：T是正交变换T保持向量的长度不变T把V（F）的标准正交基变成标准正交基T在标准正交基下的矩阵是正交矩阵3正交矩阵和酉矩阵的性质正交矩阵C：CTC=I酉矩阵U：UHU=I定理1.16(P27),常见的基本正交变换：平面上的旋转几何描述：绕坐标原点，逆时针旋转一个角。变换矩阵：在自然基下，,R3空间中的镜像变换定义：S（x）=x2（x，u）u。变换矩阵与几何意义,空间中的旋转几何描述：绕空间中过原点的一根直线L，旋转一个角。变换矩阵,例题1求R3中绕过原点、以u=（1，1，1）T为正向的直线，顺u方向看去是逆时针的旋转变换T在R3中自然基下的变换矩阵。,五、线性空间Vn(F)Vm(F)的线性变换,定义1.16(P.28)要点：（i）Vn(F)，=T()Vm(F)(ii)T具有线性性：T(12)=T（1）T(2)T（k）=kT()例题1(P29，eg34)例题2（P29，eg35）,T的变换矩阵：T：Vn(F)Vm(F)设1，2，,n是空间Vn(F)的基，1，2，,m是空间Vm(F)的基，T(1，2，,n)=(1，2，,m)AA是变换矩阵。,T在不同基下变换矩阵的关系,设在两个空间中分别取两组基：,分析线性变换在两组基下变换矩阵的关系,推荐练习题：第一章,P31：1（3），（4），2，4，6，9，10，13，17，20，23，24，26，28，29，31,第1章勘误表diyiban,第2章：Jordan标准形介绍,JordanCanonicalForm,第2章：Jordan标准形介绍,问题：对线性空间中的线性变换T，求一组基1，2，n和矩阵J，使T:1，2，nJ矩阵J尽可能简单。矩阵J的结构对任何变换可行内容：首选A为对角形线性变换的对角化问题。建立J一般的结构Jordan标准形理论。Jordan方法及其应用方法：用矩阵的相似化简研究问题Jordan化方法重点：,2.1线性变换的对角表示,背景：T(12n)=(12n),一、变换T的特征值与特征向量定义(p35，定义2.1)求解分析：(p35，定理2.1),(12n)线性无关Ti=ii；Li是不变子空间,A的特征值就是T的特征值A的特征向量是T的特征向量的坐标,例题1(p37，例题2.1)3、特征向量的空间性质特征子空间：特征子空间的性质：(p36，定理2.2)Vi是不变子空间ij，则ViVi=0若i是ki重特征值，则1dimViki推论：若i是单特征值，则dimVi=1V1+V2+=Vs=V1V2VsV1V2VsVn（F）,二、线性变换矩阵对角化的充要条件,T可以对角化T有n个线性无关的特征向量。dimVi=ndimVi=ki,定理2.4(p39),T可以对角化T的变换矩阵A可以对角化。,例题2已知1，2，3是空间V3（F）的基，T是空间上如下定义的线性变换，T（1）=1T（2）=22T（3）=1+t2+23,讨论：t为何值，T有对角矩阵表示,例题3证明幂等变换(T2=T)有对角矩阵表示。,2.2Jordan矩阵介绍,目标：发展一个所有方阵都能与之相似的矩阵结构-Jordan矩阵。一、Jordan矩阵Jordan块(p40，定义2.3)形式：确定因素：Jordan块矩阵的例子：,值矩阵的阶数,例题1下列矩阵哪些是Jordan块？,形式：Jordan矩阵举例特点,元素的结构Jordan矩阵是上三角矩阵对角矩阵是Jordan矩阵,2Jordan矩阵,3Jordan标准形定理2.5(p41)含义：,Jordan矩阵可以作为相似标准形。惟一性：Jordan子块的集合惟一。A相似于BJA相似于JB,二、方阵A的Jordan标准形的求法,目标：求可逆矩阵P和Jordan矩阵JA，使AP=PJA分析方法：在定理2.5的基础上逆向分析矩阵JA和P的构成。求法与步骤：,矩阵A和JA的特征值相等,细分矩阵Pi和Ji，在Jordan块上，有,Jordan链条，y2，ynj,特征向量,广义特征向量,方法步骤：,由特征值i的代数重数确定主对角线元素是的i的Jordan矩阵J(i)的阶数。由特征值i对应的线性无关的特征向量的个数确定J(i)中Jordan块的个数由特征向量求得的Jordan链条的长度确定Jordan块的阶数链条中的向量合起来构成可逆矩阵P，Jordan块构成JA,例题1(p44，例题5)例题2(p45，例题6),例题3将矩阵A化为Jordan矩阵。,例题4(p46，例题7),2.3最小多项式(minimalpolynomials),讨论n阶矩阵多项式的相关问题：矩阵多项式（重点是计算）矩阵的化零多项式（Cayley定理）最小多项式Jordan标准形的应用相似不变性Jordan化的方法,一、矩阵多项式定义,2.性质（定理2.7）AX=0Xg(A)X=g(0)XP-1AP=BP-1g(A)P=g(B),3矩阵多项式g(A)的计算方法：,mr,g（J）的结构特点：由第一行的元素生成,Jordan块,例题1设对P38，eg3中的矩阵A，计算g（A）。解,二、矩阵的化零多项式(AnnihilatingpolynomialsofMatrices),问题：AFnn，A0，是否存在非零多项式g（），使得g(A)=0？化零多项式（P.52）如果g(A)=0，则g()被称为矩阵A的化零多项式。要点：矩阵A一旦有化零多项式，则有无穷多化零多项式。g（A）=0的决定因素。存在性问题。Cayley-Hamilton定理（P.52，定理、2.7）：AFnn，f()=det(IA)，则f(A)=0。Cayley定理的应用举例：使Ak(kn)降阶至不超过n-1次的多项式。f（0）0，则A的逆矩阵可以用多项式表示。对线性变换T，f(T)=0，即f（T）为零变换。,三、最小多项式,1定义（P.54，定义2.5）mA（）是最小多项式,mA（A）=0mA（）在化零多项式中次数最低。mA（）最高次项系数是1。mA（）整除任何化零多项式,2mA（）的结构：设f（）=IA=,定理2.8：mA（）=,定理2.9：mA（）=是i对应的Jordan块的指数。,P.54,3变换对角矩阵表示的条件定理2.10：线性变换T可以对角化的充要条件是T的最小多项式是一次因子的乘积。例题1（P.56，eg10）例题2设AR44，mA（)=,求矩阵A的所有可能的Jordan矩阵。,例题3设是矩阵A的化零多项式，证明A可以相似于对角矩阵。,相似问题中的一些矩阵结果,1.幂等矩阵、幂零矩阵和乘方矩阵幂等矩阵（idempotent）：A2=A幂零矩阵（nilpotent）：A0，k为正整数，Ak=0乘方矩阵（involutary）：A2=I,A为幂零矩阵的充要条件是A的特征值都是零。,A为乘方矩阵的充要条件是A相似于矩阵,A为幂等矩阵的充要条件是A相似于矩阵,2(p47，例题8)设A为阶方阵，证明矩阵A和AT相似。证明思想：证明A和AT相似证明Jordan矩阵JA和JAT相似证明JA和JAT的Jordan块J和JT相似。证明方法：取逆向单位矩阵S，证明：SJ=JTS（backwardidentity）,3、矩阵A，AT，A和AHA,设A为n阶方阵，则下列结果成立：矩阵A相似于矩阵AT矩阵A相似于矩阵AH的充要条件是矩阵的非实数特征值对应的Jordan块以共轭对出现。矩阵AHA相似于矩阵AAH,4.设矩阵AFmn，矩阵BFnm，则AB和BA的非零特征值相同。,讨论：若A、B都是方阵，AB和BA的特征多项式是否相同？AB和BA的最小多项式是否相同？AB和BA是否相似？,2019/12/12,75,可编辑,第1章习题选讲,要点：线性空间的表示形式：集合表示形式：Vn（F）=满足的性质向量生成形式：L1，2，m子空间类型：L1，2，mW1W2矩阵AFmn，两个子空间不变子空间线性变换：,线性变换的表示线性变换的数量关系重要的线性变换,第3章、矩阵的分解,MatrixFactorizationandDecomposition,矩阵分解的概述,矩阵的分解：A=A1+A2+Ak矩阵的和A=A1A2Am矩阵的乘积矩阵分解的原则：实际应用的需要,理论上的需要计算上的需要,显示原矩阵的某些特性矩阵化简的方法之一主要技巧：各种标准形的理论和计算方法矩阵的分块,3.1常见的矩阵标准形与分解,常见的标准形等价标准形相似标准形合同标准形,本节分解：三角分解满秩分解可对角化矩阵的谱分解,AT=A,相似标准形,等价标准形,一、矩阵的三角分解,方阵的LU和LDV分解（P.61）LU分解：AFnn，存在下三角形矩阵L，上三角形矩阵U，使得A=LU。LDV分解：AFnn，L、V分别是主对角线元素为1的下三角形和上三角形矩阵，D为对角矩阵，使得A=LDV。已知的方法：Gauss-消元法例题1（P.61eg1）设求A的LU和LDV分解。,结论：如果矩阵A能用两行互换以外的初等行变换化为阶梯形，则A有LU分解。,三角分解的存在性和惟一性定理3.1（P.62）：矩阵的k阶主子式：取矩阵的前k行、前k列得到的行列式，k=1，2，n。定理:AFnn有惟一LDV分解的充要条件是A的顺序主子式Ak非零，k=1，2，n-1。,证明过程给出了LDV分解的一种算法。,定理3.2（P.64）设矩阵AFnn，rank（A）=k（n），如果A的j阶顺序主子式不等于0，j=1，2，k,则A有LU分解。定理条件的讨论例题2（P.65eg2）LU分解的应用举例,二、矩阵的满秩分解,定义3.2（P.66）对秩为r的矩阵AFmn，如果存在秩为r的矩阵BFmr，CFrn，则A=BC为A的满秩分解。,实用方法：方法3,例题2（P.69，eg5）,列满秩,行满秩,定理3.2：任何非零矩阵AFmn都有满秩分解。满秩分解的求法：方法1：方法2例题1（P.68，eg4）方法3,例题3（P.70，eg6）,三、可对角化矩阵的谱分解,将方阵分解成用谱加权的矩阵和谱：设AFnn，则A的谱=1，2，s。,，P具性质：,1.可对角矩阵的谱分解分解分析：分解结果：,幂等矩阵,意义：可对角化矩阵可以分解成以谱加权的幂等矩阵的加权和,2、矩阵可以对角化的一个充要条件定理3.5（P.73）矩阵A可以相似对角化当且仅当矩阵A有谱分解，满足条件：,充分性的证明：在A有谱分解时Cn=V1V2Vn,3.幂等矩阵的性质定理3.4（P.72）PFnn，P2=P，则矩阵PH和矩阵（IP）仍然是幂等矩阵。P的谱0，1，P可相似于对角形。Fn=N（P）R（P）N（P）=V=0，R（P）=V=1P和（IP）的关系N（IP）=R（P），R（IP）=N（P）Hermite矩阵的谱分解定理3.6（P.73）设A是秩为k的半正定的Hermite矩阵，则A可以分解为下列半正定矩阵的和。A=v1v1H+v2v2H+vkvkH,3.2Schur分解和正规矩阵,已知：欧氏空间中的对称矩阵A可以正交相似于对角形。讨论：一般方阵A，在什么条件下可以酉相似于对角矩阵？在内积空间中讨论问题，涉及：空间Cn、Cnn，酉矩阵U，UHU=I，U1=UH酉相似：UHAU=JU1AU=J,重点：理论结果,一、Schur分解,1、可逆矩阵的UR分解定理3.7（P.74）ACnn为可逆矩阵，则存在酉矩阵U和主对角线上元素皆正的上三角矩阵R，使得A=UR。（称A=UR为矩阵A的酉分解）证明：源于Schmidt正交化方法。例题1求矩阵A的UR分解，其中,定理3.8（P.76）：设矩阵ACmn是列满秩的矩阵，则矩阵A可以分解为A=QR，其中QCmn的列向量是标准正交的向量组，RCnn是主对角线上元素为正数的上三角形矩阵。,QR分解,2、Schur分解定理3.7（P.74）对矩阵ACnn，存在酉矩阵U和上三角矩阵T，使得UHAU=T=,证明要点：A=PJAP1，P=URA=PJAP1=U（RJR1）UH=UTUH。,二、正规矩阵（NormalMatrices）,1、定义3.3（P.77）A是正规矩阵AHA=AAH。常见的正规矩阵：对角矩阵对称和反对称矩阵：AT=A，AT=A。Hermite矩阵和反Hermite矩阵：AH=A，AH=A正交矩阵和酉矩阵：ATA=AAT=I，AHA=AAH=I。例题1（P.78，eg10）设A为正规矩阵，B酉相似于A，证明B也是正规矩阵。,正规是酉相似的不变性质,例题2、AFmn，矩阵AHA和矩阵AAH是正规矩阵。,2、正规矩阵的基本特性定理3.10（P.78）：ACnn正规A酉相似于对角形。推论：正规ACnnA有n个标准正交的特征向量构成空间Cn的标准正交基。定理3.11（P.80）（正规矩阵的谱分解）A正规A有如下谱分解：,Hermite性,3、正规性质的应用举例例题1（P.79，eg12）例题2设ARnn，AT=A，证明A的特征值是零和纯虚数。矩阵A的秩是偶数。,33矩阵的奇异值分解,Singularvaluedecomposition(SVD),33矩阵的奇异值分解,概述：矩阵的奇异值分解是酉等价型的分解:ACmn，酉矩阵UCmm,VCnn,使得A=UVH。矩阵A等价于=,奇异值分解基本适用于内积空间中与矩阵秩相关的问题A的奇异值分解依赖于正规矩阵AHA的酉相似分解的。,一、矩阵A的奇异值及其性质,1、矩阵AHA和AAH的性质：ACmn，AHACnn，AAHCmm，都是Hermite矩阵。定理312（P82）秩（A）秩（AHA）=秩（AAH）。AHA和AAH的非零特征值相等。AHA和AAH是半正定矩阵。,AHA和AAH的特征值是非负实数：12n,2、奇异值的定义：（P72）ACmn，秩（A）=r，设AHA的特征值12r0，r+1=r+2=n=0，则矩阵的奇异值,3、特殊矩阵的奇异值：定理313（P82）：正规矩阵A的奇异值等于A的特征值的模长。正定的Hermite矩阵A的奇异值就是A的特征值。酉等价矩阵的奇异值相等。,A和B酉等价，则AHA和BHB酉相似。奇异值是酉等价的不变性质。,二、矩阵的奇异值分解,1、定理314（P83）任何矩阵ACmn，秩（A）=r，则存在酉矩阵UCmm，VCnn，使得,证明思想：AHA正规，VHAHAV=，酉矩阵V。,令，i=1，2，r，得U1=u1，u2，ur扩充为标准正交基酉矩阵U。,例题1求矩阵A的奇异值分解，A=。,例题2（P84，eg13）求矩阵A的奇异值分解，A=,2、矩阵U，V的空间性质：V=v1，v2，vr，vn=V1V2Cnn的列向量是空间Cn的标准正交基。V2的列向量是空间N（A）的标准正交基。V1的列向量是空间N（A）的标准正交基。U=u1，u2，ur，um=U1U2Cmm的列向量是空间Cm的标准正交基。U1的列向量是R（A）的标准正交基。U2的列向量是R（A）的标准正交基。3、奇异值分解的展开形式及其应用定理315（P87）,左奇异向量,右奇异向量,例题：图像的数字化技术与矩阵的奇异值分解,计算机处理图像技术的第一步是图像的数字化存储技术，即将图像转换成矩阵来存储。转换的原理是将图形分解成象素（pixels）的一个矩形的数阵，其中的信息就可以用一个矩阵A=（aij）mn来存储。矩阵A的元素aij是一个正的数，它相应于象素的灰度水平（graylevel）的度量值。由于一般来讲，相邻的象素会产生相近的灰度水平值，因此有可能在满足图像清晰度要求的条件下，将存储一个mn阶矩阵需要存储的mn个数减少到n+m+1的一个倍数。,压缩数字化图形存储量的方法主要是应用矩阵的奇异值分解和矩阵范数下的逼近。如果图象的数字矩阵A的奇异值分解为：A=UVT，其展开式：,压缩矩阵A的方法是取一个秩为k（kr）的矩阵Ak来逼近矩阵A。Ak按如下方法选取：,有在秩为k（kn）的所有矩阵中，矩阵Ak所对应的图象和矩阵A所对应的图象最相近。一般的，k越大图象就越清晰。经典的方法是选取接近k，使Ak的存储量比A的存储量减少20%。,存储矩阵Ak只需要存储k个奇异值，k个m维向量ui和n维向量vj的所有分量，共计k（m+n+1）个元素。如果m=n=1000，存储原矩阵A需要存储10001000个元素。取k=100时，图象已经非常清晰了，这时的存储量是100（2000+1）=200100个数。和矩阵A比较，存储量减少了80%。,三、矩阵的奇异值分解和线性变换TA矩阵ACmn可以定义线性变换TA：CnCm设矩阵的奇异值分解A=UVH，则将U和V的列分别取做空间Cm、Cn的基，则变换TA的矩阵为:=VXCm,则TAX=(UVH)VX=U(X)=U,变换TA在单位球上的象：定理316（P88）,四、矩阵的极分解（PolarDecomposition）,方阵的极分解设矩阵ACnn，则矩阵A的奇异值分解:A=UVH=U（UHU）VH=（UUH）UVH=PQP是半正定的Hermite矩阵，P相似于。Q是酉矩阵定理317（P89）方阵极分解的意义和应用描述变换Y=AX的拉伸和扭曲,例题1（P90）求矩阵A=的极分解，依此讨论变换Y=AX的几何特性。,解,第4章矩阵的广义逆,ThePseudoinverse,矩阵的广义逆,概述：矩阵的逆：Ann，Bnn，BA=AB=I,则B=A1广义逆的目标：逆的推广对一般的矩阵Amn可建立部分逆的性质。当矩阵Ann可逆时，广义逆与逆相一致。可以用广义逆作求解方程组AX=b的理论分析。,4.1矩阵的左逆与右逆,一、满秩矩阵和单侧逆1、左逆和右逆的定义定义4.1(P.93)ACmn，BCnm，BA=In，则称矩阵B为矩阵A的左逆，记为B=。,例题1矩阵A的左逆A=。,ACmn，CCnm，AC=Im，则称矩阵C为矩阵A的右逆，记为C=。,2、左逆和右逆存在的条件的存在性,直观分析,存在矩阵A列满秩=（AHA）1AH,定理4.1(P.93)设ACmn，下列条件等价A左可逆A的零空间N（A）=0。mn，秩（A）=n，即矩阵A是列满秩的。矩阵AHA可逆。,例题2求矩阵A=的左逆。,矩阵右逆的存在性定理4.2(P.94)ACmn，则下列条件等价：矩阵A右可逆。A的列空间R（A）=Cmnm，秩（A）=m，A是行满秩的。矩阵AAH可逆=AH（AAH）1,讨论：可逆矩阵Ann的左、右逆和逆的关系可逆矩阵A的左、右逆就是矩阵A的逆AA1=（AHA）1AH=AH（AAH）1,二、单侧逆和求解线性方程组AX=b,讨论AX=b有解与左、右逆存在的关系。借助于左、右逆求AX=b的形如X=Bb的解。1、右可逆矩阵定理44(P.95)ACmn右可逆，则bCm，AX=b有解。X=b是方程组AX=b的解。,二、单侧逆和求解线性方程组AX=b,2、左可逆矩阵求解分析：定理43(P.94)设矩阵ACmn左可逆，B是矩阵A的任何一个左逆，则AX=b有形如X=Bb的解的充要条件是(ImAB)b=0()当()式成立时，方程组的解是惟一的，而且惟一解是X=（AHA）1AHb证明：,讨论：对任何满足式()的左逆B，X=Bb都是方程组的解，如何解释方程组的解是惟一的？,4.2广义逆矩阵,思想：用公理来定义广义逆。一、减号广义逆定义4.2(P.95)ACmn，如果，GCnm使得，AGA=A，则矩阵G为的A减号广义逆。或1逆。A的减号逆集合A1=A11，A21，Ak1例题1ACnn可逆，则A1A1；A单侧可逆，则A1LA1；A1RA1。减号逆的求法：定理4.5（P.95）减号逆的性质：定理4.6(P.96),二、Moore-Penrose（M-P）广义逆,由Moore1920年提出，1955年由Penrose发展。1、定义4.3(P.98)设矩阵ACmn，如果GCnm，使得AGA=AGAG=G（AG）H=AG（GA）H=GA则称G为A的M-P广义逆，记为G=A+。,A1=A+；A1L=（AHA）1AH=A+；A1R=AH（AAH）1=A+；若A+，则A+是A1。,例题2讨论原有的逆的概念和M-P广义逆的关系。,3、M-P广义逆的存在性及其求法定理4.8（P.99）任何矩阵都有M-P广义逆。求法：设A满秩分解A=BC，则A+=CH（CCH）1（BHB）1BH。（定理4.9）设A奇异值分解：,，则,2、M-P广义逆的惟一性,定理4.9(P.98)如果A有M-P广义逆，则A的M-P广义逆是惟一的。,例题1求下列特殊矩阵的广义逆；零矩阵0；1阶矩阵(数)a；对角矩阵,例题3设，求A+。,0+mn=0nm,例题2设向量的M-P广义逆。.,4、M-P广义逆的性质定理4.12(P.100)：则A满足下列性质：（A+）+=A（A+）H=（AH）+（A）=+A+A列满秩，则A+=（AHA）1AH，A行满秩，则A+=AH（AAH）1。A有满秩分解：A=BC，则A+=C+B+。,A+与A1性质的差异比较：（AB）1=B1A1，一般不成立（AB）+=B+A+。（只有满秩分解成立）（A1）k=（Ak）1，但不成立（A+）k=（Ak）+,4.3投影变换（为讨论A+的应用做准备）,问题：逆在什么情形下是有用的？一、投影变换和投影矩阵定义4.4（P.101）设Cn=LM，向量xCn,x=y+z，yL，zM，如果线性变换：CnCn，（x）=y，则称为从Cn沿子空间M到子空间L的投影变换。,投影变换的矩阵,R（）=L；N（）=M，Cn=R（）N（）L和M是的不变子空间；L=I；M=0,投影的矩阵和变换性质：定理4.13（P.101）是投影是幂等变换推论：为投影变换的充要条件是变换矩阵是幂等矩阵,二、正交投影和正交投影矩阵正交投影的定义：定义4.5（P.103）设：CnCn是投影变换，Cn=R（）N（），如果R（）=N（），则称为正交投影。,2正交投影矩阵定理4.14（P.103）是正交投影投影矩阵A满足：,A2=AAH=A,例题1设W是Cn的子空间，证明存在到W的投影变换，使R（）=W。,3、正交投影的性质定理4.16（P.104）设W是Cn的子空间，x0Cn，x0W，如果是空间Cn向空间W的正交投影，则,含义：点（x0）是空间W中与点x0距离最近的点。,4、A+A与AA+的性质定理4.15（P.104）A+A的性质：（A+A）2=A+A，（A+A）H=A+ACn=R（A+）N（A）R（A+）=N（A）AA+的性质：（AA+）2=AA+，（AA+）H=AA+Cm=R（A）N（A+）R（A+）=N（A）,A+A是正交投影，将向量x投影到空间R（A+）中。AA+是正交投影，将向量x投影到空间R（A）中。,含义：,4.4最佳最小二乘解,一、最佳最小二乘解AmnXn1=bm1,有解bR（A）无解bR（A）,1、AX=b的最佳最小二乘解定义4.6（P.105）u是最小二乘解x0是最佳最小二乘解,2、AX=b的最佳最小二乘解的计算定理4.17设方程组AX=b，则A+b是AX=b的最佳最小二乘解。例题1（P.106，eg8）,例题2、设，=证明R（A）在列空间R（A）上找一点X0，X0距离最近。,二、最佳拟合曲线问题：在实际问题中，已知变量X和变量Y之间存在函数关系Y=F（X），但不知道F（X）的具体形式，由观察和实验数据寻求经验公式:Y=f（X），使得误差最小。例题1（P.107，eg9）一组实验数据（1，2），（2，3），（3，5），（4，7）的分布呈直线趋势，求最佳拟合直线。方法：将误差向量表示为e=Ab，求方程组Ab=0的最小二乘解，由给出拟合参数。,5.5矩阵函数,一、定义和性质1定义5.14(p125)f（z）=是解析函数，收敛半径为R，如果(A)R，则有意义。,常见的矩阵函数eA，cosA，sinA，ln(I+A)函数eA的若干性质：AB=BA，eAeB=eBeA=eA+B，e0=I（eA）1=eA。,定义f（A）=,例题5、设A为反对称矩阵，证明eA为正交矩阵。例题6设，讨论lnA是否有意义,二、矩阵函数的计算,计算f（A）=,1、Jordan标准形方法:A=PJP1，f(A)=Pf(J)P1;计算矩阵序列：Sn（J）按元素收敛求得：,如果A=PJP1,则f(A)=Pf(J)P1;如果i为矩阵A的特征值,则f(i)是矩阵f(A)的特征值含参数t的函数f(At)。,例题1，计算eA和eAt。,2、最小多项式方法,由在谱上等值确定g（），则f（A）=g（A）,例题2设，计算eA和eAt,例题3设，计算A10。,例题4（P129eg15）,例题5设，用Jordan化方法计算sinA。求sinA的Jordan标准形J，并求矩阵Q，使得QsinAQ1=J,5.6矩阵函数的微积分,一、矩阵函数及其分析性质矩阵函数：A（t）=aij（t）mn，分析性质：A（t）连续、可微分、可积分aij（t）,连续可微分可积分,微分性质(p130),例题1设，计算deAt/dt对任意方阵A，计算deAt/dt,5.7矩阵函数的应用（求解常系数微分方程组）,一、微分方程组的一般形式X（t）=A（t）X（t）+f（t）X（t0）=C。,齐次：f（t）=0非齐次：f（t）0常系数：A（t）=A,二、一阶线性常系数齐次微分方程组求解：X（t）=AX（t）X（t0）=C。定理5、11：上述方程组的解为：X（t）=eA（tt0）x（t0）,例题1求解,三、一阶线性常系数非齐次微分方程组求解：X（t）=AX（t）+f（t）X（t0）=C。定理5.14(P133)：上述方程组的解为：X（t）=eA（tt0）x（t0）+,例题2求解,第6章矩阵的Kroneker积和Hadamard积,TheKronekerProductandHadamardProduct,概述：,内容：介绍Kronecker积和Hadamard积讨论K-积，H-积的运算性质、之间的关系K-积与矩阵乘积的关系K-积，H-积的矩阵性质K-积的矩阵等价与相似关系介绍应用向量化算子重点：K-积及其应用,61Kroneker积和Hadamard积的定义,定义6.1（P.136）设矩阵A=aijmn和B=bijst矩阵，则A,B的Kron