MIT公开课-线性代数笔记

1、目录方程组的几何解释2矩阵消元3乘法和逆矩阵4A的LU分解6转置-置换-向量空间R8求解AX=0：主变量，特解9求解AX=b：可解性和解的解构10线性相关性、基、维数11四个基本子空间12矩阵空间、秩1矩阵和小世界图13图和网络14正交向量与子空间15子空间投影18投影矩阵与最小二乘20正交矩阵和Gram-Schmidt正交化21特征值与特征向量24对角化和A的幂24微分方程和exp(At)待处理25对称矩阵与正定性25正定矩阵与最小值27相似矩阵和假设尔当型未完成28奇异值分解(SVD)29线性变换及对应矩阵30基变换和图像压缩32NOTATIONp：projection vectorP：p

2、rojection matrixe：error vectorP：permutation matrixT：transport signC(A)：column spaceN(A)：null spaceU：upper triangularL：lower triangularE：elimination matrixQ：orthogonal matrix, which means the column vectors are orthogonalE：elementary/elimination matrix, which always appears in the elimination of matr

3、ixN：null space matrix, the “solution matrix” of AX=0R：reduced matrix, which always appears in the triangular matrix, “IF00”I：identity matrixS：eigenvector matrix：eigenvalue matrixC：cofactor matrix关于LINER ALGEBA名垂青史的分析方法：由具象到抽象，由二维到高维。方程组的几何解释1. 行图像，列图像2. 矩阵乘法：方法一. 列向量的线性组合方法二. 左行乘以右列3. 矩阵右乘向量竖直：矩阵列的线

4、性组合4. 矩阵左乘向量横平：矩阵行的线性组合矩阵消元1. 课程目标：讨论消元法有效，以及无效的情况 用矩阵语言描述消元法2. 消元有效和失效a) 消元目标：把A矩阵化为U矩阵主元不能出现0b) 消元失效：主元是0：行交换可以解决主元为0的暂时性失效，但当底下的行中再也没有非0元素时，消元就彻底失效了。3. 用矩阵来表示矩阵变换消元a) 例：b) 针对上一例，假设总变换E=E32E21，这个矩阵对于消元法中出现的乘数来说太不直观了，然而E-1=E21-1E32-1,这个逆比较直观，因为它们是初等列变换的逆变换，只用改变乘数的系数就可以得到它们的逆，这就引出了下一章的内容：A的LU分解。=a+b

5、+c+d=a+b+c+d4. 置换矩阵乘法和逆矩阵1. 矩阵乘法的四个方法AB=Ca) 左行乘右列b) 线性组合列=a+b+c+dc) 线性组合行 =a+b+c+dd) 左列乘右行 2. 矩阵的逆a) 只有方阵才可能可逆非方阵也可以求逆矩阵，不过是伪逆b) 左逆等于右逆c) 没有逆的情况i. 行列式为0，列向量共线ii. 存在非零向量X，使AX=0零空间有非零元素d) 存在逆的情况i. 求逆和解方程组是一回事ii. Gauss-Jordan消元法例：步骤： 就是所求的A-1。3. 求逆总结a) 正交矩阵Q-1=QTb) 上三角或者下三角矩阵求逆：i. 例：ii. 例：c) 克拉默法则求逆代数余

6、子式A的LU分解1. 假设A和B都可逆，(AB)-1=B-1A-1,因为括号可以移动,就像先脱鞋子，再脱袜子，逆动作是先穿袜子，再穿鞋子2. (A-1)T=(AT)-1(转置和逆可以颠倒)3. A的LU分解a) 例：A=，对其进行消元，目标是得到U。i. = A L Ui.ii. A=LUA=LDUd) 3*3矩阵的情形i. E32E31E21A=UA=E21-1E31-1E32-1UA=LUii. 例：E31E21=E和(E21)-1(E31)-1=L的例子：求E不容易，但是想要得到L，只要把所有消元乘数写进来，就可以得到！iii. 总结：E不好求，E不重要，好求的是L，重要的是L。e) 一

7、个n*n矩阵A，消元需要多少次？“一次”：一般乘法+减法一次 n2+(n-1)2+22+12=f) 考虑行互换的情形：转置与置换(3*3)i. 互换0行：Iii. P12=iii. P13=iv. 总共有6种。v. 如果取逆，只要把行换回去即可。逆矩阵仍然在这六个里。vi. P-1=PT4. 总结：A的LU分解，U是直观上看的消元得到上三角矩阵的结果，L比较特殊，它记录了每一次的行变换。要注意的是，因为L是初等变换矩阵的逆矩阵，所以L中对角线元素的符号不发生改变，但是要取倒数；而其他元素的符号均发生改变。转置-置换-向量空间R1. 置换矩阵：P,用来完成行互换的矩阵。2. 置换矩阵是行重新排列

8、了的单位矩阵。3. 置换矩阵的逆矩阵和它的转置矩阵相等。PTP=I.4. 转置矩阵略5. 对称矩阵：symmetric matrix，转置后和原矩阵相等注意：对角线两边符号不同也有可能是对称矩阵，满足AT=A即可。6. ATA一定是一个对称阵。7. 向量空间：向量张成的空间。8. 因为向量乘以0必须在向量空间里，所以向量空间的子空间必定过原点。9. 一个向量空间本身就是它自己的一个子空间。它是最大的子空间。10. 零向量是所有实空间的子空间。它总是构成最小的子空间。11. 矩阵如何构造子空间？1.1 通过列向量构造。每列的元素个数m代表这个列向量属于几维的空间，如果列向量个数nm，代表这个矩阵

9、展现的是“降维打击“，此时列向量的所有线性组合列空间构成一个子空间。1.2 个人将其命名为“棒型矩阵”。求解AX=0：主变量，特解注：主元，每行的第一个非零元素1. 课程目标：AX=0的算法是怎样的？2. 消元时要保证：零空间不会改变。3. 假设主元为0，则看下面是否有可以互换的行，或右边是否有可以互换的列。4. A的目标是化为阶梯矩阵。5. 非0主元的个数：秩，这就是秩在算法下的定义。6. 化为阶梯矩阵后，寻找主变量。先找到主元所在的列主列，剩余的列称为自由列，表示可以任意分配数值给这些列所对应的解向量的元素。例如：=0 中，c1和c3是主列，c2和c4是自由列，所以x2和x4可以自由赋值，

10、而x1和x3需要解出。7. rrank表示的是起到作用的主元个数，也就是起作用的方程个数，n-r=自由变量的个数=不起作用的方程个数=零空间的维数8. 简化行阶梯矩阵：让主元上下都是0，包含了所有信息，包括主行和主列，单位矩阵主行和主列交汇处，0行表示这一行是非0行的线性组合9. 简化的步骤相当于回代10. R=，F是自由矩阵，I是r*r单位方阵。如何用这个矩阵解出所有特解？构造一个零空间矩阵N，它的各列由特解组成。 N=, RN=0.11. 矩阵主列的个数与其转置相同。12. X=cN.求解AX=b：可解性和解的解构1. 首先要交代的是：AX=b不一定有解，是否有解要通过消元来判断。2. b

11、要满足什么条件，AX=b才有解？a) b属于A的列空间b) 如果A各行的线性组合得到零行，b中同样线性组合也得到0.3. 如果有解，如何求解？a) 找一个特解：将所有自由变量设为0，解出AX=b中的主变量b) 特解加上零空间中的任意X，最终结果是所有解。为什么？ 因为Axp=b，Axn=0所以A(xp+xn)=Axp+Axn=b+0=b. c) 对于方程组某解，它与零空间里任意向量之和仍然是方程组的解。d) 注：零空间的一组基向量，往往也被称为“基础解系”。4. 列满秩：r=n<m，棒型矩阵，意味着没有自由变量，N(A)=0,解如果存在，只有一个 当b为列向量的线性组合时，解一定存在！有

12、1个解。R=5. 行满秩：r=m<n, 饼型矩阵，自由变量为n-r个，对任意b，X一定有解！有无穷多解。R=6. 当r=n=m：矩阵可逆，R=I，其零空间只有0，只有唯一解。7. r<m, r<n：R=, 0或无穷多解。线性相关性、基、维数1. 问题引入：AX=b，当A是饼型矩阵时一定存在非零解？是因为有自由变量吗？2. 线性相关和无关：x1,x2,xn是一组向量，如果它们存在不全为零的线性组合的结果是0，那么线性相关，反之线性无关。3. 二位平面内任意三个向量一定线性相关a) 饼型满秩矩阵各列线性相关！因为零空间不为零！b) 棒型满秩矩阵各列线性无关！因为零空间为零！4.

13、向量组张成的空间：这个空间包括向量组向量的所有线性组合。5. 向量空间的一组基：一系列向量，它们数量不多不少，既能够张成这个空间，也线性无关。6. 基有很多组，但它们里面的向量个数都是一样的。7. 列向量线性相关，矩阵零空间不为零8. 列向量线性无关，矩阵零空间只有零 9. 零空间的维数是自由变量的数目。10. 行相关即列相关！四个基本子空间1. 四个基本子空间：a) 列空间C(A)b) 行空间：A的行的所有线性组合，也是AT的列空间，C(AT)c) 零空间N(A)d) AT的零空间N(AT)，A的左零空间2. A的零空间在Rn里3. A的列空间在Rm里4. A的行空间在Rn里5. AT的零空

14、间在Rm里6. 这些子空间的基是什么？维数是多少？a) 列空间的维数是r，它的一组基就是主列b) 行空间的维数是r，它的一组最正确基就是R的前r行不是Ac) 零空间的维数是n-r，即自由变量的个数，即特殊解的个数；它的基是自由列，寻找产生零列向量的线性组合d) AT零空间的维数是m-r，寻找产生零行向量的线性组合，零行所对应的E的行就是基的元素。i. E=, EA=Rii. 通过E可以知道左零空间的维数和基7. 行变换对行空间不产生影响，但是对列空间产生影响。？8. 总结：行空间和零空间在Rn里，它们的维数相加=n 列空间和左零空间在Rm里，它们的维数相加=m9. 总结：子空间必须对线性运算封

15、闭包括数乘0，过原点。10. 一种新的向量空间：所有3*3矩阵！把矩阵看成向量，因为它服从向量空间的运算律矩阵空间、秩1矩阵和小世界图1. 矩阵空间：把矩阵看做向量，这些矩阵组成的集合。2. 矩阵空间的秩：如果是3*3矩阵，秩为93. 矩阵空间子空间：3*3对称矩阵空间的秩：64. 矩阵空间子空间：3*3上三角矩阵空间的秩：65. 矩阵空间子空间的基 不一定都是原矩阵空间的基。6. SU不是M 的子空间，因其方向不同。定义S+U=S中任意元素+U中任意元素7. dimM=9，dim(S)=6，dim(U)=6, dim(SU)=3, dim(S+U)=9 dim(S)+dim(U)=dim(S

16、+U)+dim(SU)8. 所有秩1矩阵都可以表示为：列向量*行向量。秩1矩阵就像搭建其他矩阵的积木。例如：一个秩为4的5*17矩阵，只需要4个秩1矩阵就可以搭建。9. 矩阵空间的子空间本身也必须是封闭的。一个矩阵空间的子空间做线性运算的秩是不会改变的。10. 小世界图a) 图：结点和边的集合，边连各个结点 问题是 从任意一个结点到任意其他结点，共需要走多少步？图和网络1. 一个图包含：结点、边2. 构造一个m*n矩阵表示图 n=结点数 m=边数3. 例：A=注意看：前三行构成一个回路，它们的矩阵表达形式行线性相关a) 这个矩阵的零空间是什么？ 零空间告诉我们，如何对列向量进行线性组合，结果可

17、以得到零向量。如果线性无关，零空间就是零。AX= 令x代表各点电势，这个矩阵代表各边上电势差。令y代表各边电流，C表示电势差和电流的关系。令ATy=0基尔霍夫电流定律，守恒定律，电流为0的条件，解空间表示了电流为0的各点上情况。2. dim(AT)=m-r=the number of loops3. 线性无关就是没有回路，线性相关来源于回路。4. 没有回路的图叫做“树”5. #nodes-#edges+#loops(liner independent)=1 (Eulers Formula)正交向量与子空间1. 两个子空间正交：两个子空间里的任意一对向量正交。思考：黑板和地板不正交，因为它们有共

18、同的非零向量，而一个向量不和自己正交dimRA=r dimNA=n-r dimCA=r dimRAT=m-r一) 正交向量A) 判断：如果XTY=0, X与Y正交a. 证明：利用毕达哥拉斯定理b. 推广：在三维情况下，假设X，Y都是三维向量，, 这满足毕达哥拉斯定理。只有当在直角时，XTX+YTY=(X+Y)T(X+Y)才成立。c. 结论：证明毕达哥拉斯定理可以得到X和Y正交的条件，即向量点乘结果为0.d. PLUS：零向量与任意向量正交，因为零向量和任意向量点乘结果为0.二) 正交子空间A) 假设：子空间S与子空间T正交，它们正交说明它们中任意一个S中的向量都与T中的任意一个向量正交。a.

19、黑板与地面不正交，因为首先可以举出黑板上的向量与地面上的向量不正交的例子，其次黑板与地面存在共同的向量，它们不垂直于自己(除非是零向量)B) 子空间正交的实例a. 行空间正交于零空间把Rn划分为两个子空间I. 为什么？证明：AX=0，假设存在N(A),那么N(A)是X的解集。, 因为一直如此，所以X与所有行正交；既然X与所有行正交，由于行空间里的所有向量都是由行线性组合而成的，所以X与行空间里所有向量正交，所以X与行空间正交。b. 列空间正交于转置的零空间把Rm划分为两个子空间c. 三维空间里是否可能出现：行空间是一条直线，零空间是另一条直线的情况？不可能。行空间的维数和零空间的维数加起来应该

20、是3mI. 例：d. 行空间和零空间称为n维空间里的正交补orthogonal complements 这说明了什么？零空间里包含所有垂直于行空间的向量，而不只是部分。三) 如何求一个无解的方程组AX=b(b不在A的列向量里)的解？A) 引入矩阵：ATA，它是一个更好的矩阵，它是对称矩阵。B) ATAX=ATb，这是一个好方程但是这里的X并不是原方程的解，而是最优解C) 注意：ATA不一定总是可逆的，ATA的秩等于A的秩。子空间投影一) 从二维谈起A) aT(b-Xa)=0XaTa=aTbX=, p=aXp=projection vectorB)C) 总结：投影是一个矩阵P=，作用于某个向量上

21、得到它在a向量上的投影，即Pb=p；乘数a. 投影矩阵P的列空间，是通过a的一条线，秩为1b. P是对称矩阵, 即PT=Pc. 如果作两次投影，结果等同于作一次投影，即P2=P二) 推广到高维的情况A) 三维情况a. 假设平面的一组基向量是a1,a2，那么这个平面是矩阵的列空间b. p=AX，我们要求的是XI. 推导： WE KNOW THAT , and vector e is perpendicular to plane.所以a1T(b-AX)=0, a2T(b-AX)=0,即AT(b-AX)=0，即ATAX=ATb, 推出X=(ATA)-1ATb, p=A(ATA)-1ATbII. AT

22、(b-AX)=0这一步中，e是垂直于平面的，e在AT的零空间！三) 结论：P=A(ATA)-1AT 其中A的列向量是投影空间的基底。四) 解释：为何要作投影？A) 方程组不一定有解，但是如果必须要找出解，那么就可以找通过投影求出与需要的解最大可能近似的解。投影矩阵与最小二乘一) 一个例子A) b=p+e=Pb+e, 所以e=(I-P)b二) 投影矩阵应用举例：寻找最优点A) 设方程是y=C+DtB) C+D=1 C+2D=2 C+3D=2C) , 由于这个式子无解, 寻求，使AX的结果最大程度地接近D)正交矩阵和Gram-Schmidt正交化一) 标准正交基q1,qnA) qiqj=0, ij

23、; qiqj=1, i=jB) Q=, QTQ=I二) 标准正交矩阵QA) QTQ=IB) 当Q为方阵时，QTQ=I=Q-1Q, Q-1=QTC) 标准正交矩阵Q使得什么运算得到简化？a. 如果要投影到Q的列空间中， P=A(ATA)-1AT=Q(QTQ)-1QT=QQTI. 当Q为方阵时，列空间就是整个n维空间，任意一个向量的投影仍然是它本身，所以P=I. II. 当Q不为方阵时，因为Q-1QT，P=QQTb. 求投影矩阵所引出的所有涉及求逆的复杂方程，在使用标准正交基后，都变得简单了。三) Gram-Schmidt正交化 AQA) 条件：现在有一个线性无关向量组columns of A，这

24、组向量张成一个空间C(A)。要在这个空间里重新寻找一个线性无关向量组columns of Q，使得这个向量组正交。B) 例：从二维空间谈起a. 目标：线性无关但不正交的a,b正交的,标准正交的q1,q2b.c. =a, =b-a(aTa)-1aTb, C) 推广到三维空间a. 假设a, b, c是线性无关的向量b. 对于c, 要使c垂直于a和b正交化后的, c要减去c在a上的投影和在上的投影。即c. 标准化D) 推广到更高维空间：C的继续延伸E) Gram-Schmidt正交化的矩阵表述a. A=QR， R是上三角形矩阵行列式及其性质一) 行列式是方阵的，每个方阵都有何其有关的行列式。记为de

25、tA, 它和特征值有关。矩阵可逆等价于行列式为0，但是行列式的功能不止如此。二) 行列式的三个性质A) 单位矩阵的行列式为1B) 交换行列式的行，行列式值的符号会相反奇变偶不变a. 一个置换矩阵的行列式是1或-1，符号视交换次数而定b.c. 关键是：行列式可以给出关于矩阵是否可逆以及其他的重要信息。C) 行列式是一个线性函数每一行的线性性三) 行列式的引申性质A) 两行相等使得行列式等于0B) 从行k减去行1的i倍，行列式不会因此改变C) 假设有一行全是零那么行列式也等于0 四) 行列式的重要性质：det(U)=主元的乘积等于行列式的乘积注意如果交换行，那么可能换了符号五) detA=0, 当

26、且仅当A是奇异矩阵；detA不等于0，当A可逆即：奇异阵会出现非0行，可逆阵会得到U和D六) detAB=(detA)(detB)det(A-1)=(detA)-1 det(A2)=(detA)2 det2A=2ndetA七) detAT=detA八) 所有行的性质对于列同样成立重证行列式公式与代数余子式目的：给出求出行列式的另一个公式一) 例：用2by2矩阵推导出行列式的计算公式A) =二) 推导到高阶的情况：仍然是从第一行开始，逐行分解，分解为nn个项其中有些项存在行或者列是0，消去，剩下的是“幸存者”A) +=a11a22a33+(-1)(因为是单位矩阵乘以各系数并做了一次行变换)a11

27、a23a32+(-1)a12a22a33+a12a23a31(做了两次行变换)三) n阶的情况：detA=，正负号由第二个把下标变成标准排列的次数的奇偶来决定，奇变偶不变四) 代数余子式A) 仍以3by3矩阵为例：det=a11(a22a33-a23a32)+a12( )+a13( ), 括号内的就是对应元素的代数余子式，一旦选定元素，余子式就是不包括A所在行和列的剩余元素原样排列的行列式，但是一定要注意符号。对于amn元素的代数余子式，它的系数是(-1)m+n，仍然满足奇变偶不变。B) 代数余子式的定义：带有正负号的抹去对应元素行和列的行列式。余子式的定义：不带有正负号的抹去对应元素行和列的

28、行列式。克拉默法则，逆矩阵，体积一) A-1的公式A) 2*2矩阵的逆矩阵：B) 逆矩阵的通式：,C是代数余子式矩阵，CT是伴随矩阵。二) Cramers法则对于X=A-1bA) X=bx1=, x2=, 其中B1是b替换A的第一列的矩阵，B2是b替换A的第二列的矩阵三) detA的绝对值=体积A) 3*3的情况B) detQ=1或者-1特征值与特征向量1. 把矩阵A看作一个函数,输入向量X,输出向量AX.如果AX和X的方向是一致的话,那么X就是A的特征向量.(AX=X, X equal eigenvector)2. 零特征值：AX=0，假设X有非零解，A应该是奇异阵。3. 特征值：4. n*

29、n的矩阵有n个特征值。5. 特征值的和等于对角线元素和迹。6. 如何解AX=X?A-IX=0(X不为零向量)A-I这个矩阵必须是奇异阵，即det(A-I)=0,所以先解出了，(n个，可以存在相同的值) 代入原式解出X.7. 一般矩阵不同特征值对应的特征向量线性无关。8. 实对称矩阵不同特征值对应的特征向量互相正交。9. 逆矩阵的特征值等于原特征值的倒数。10. AB和BA的特征值相等对角化和A的幂1 AS=S, S是以A的特征向量作为列的“特征向量矩阵”，是“特征值矩阵”，它是一个对角矩阵，对角线上的元就是A的特征值。2 A=SS-13 S-1AS=4 A2的特征向量和A一样，特征值是2.5

30、特征值是计算矩阵幂的一种重要算法。微分方程和exp(At)待处理1. 课程目标：讲解怎么解一阶微分方程组2. 例：=-u1+2u2 , =u1-2u2，u(0)=(u是u(t)的简写)a) 写成=Ax推出A=,x=b) 找到A的特征值和特征向量：特征值1=0，2=-3，特征向量x1= x2=c) 通解是：u(t)=c1e1tx1+c2e2tx2d) 由u(0)得到，解是u(t)=+e-3t对称矩阵与正定性1. 对称矩阵:AT=A2. 讨论重点:因为symmetric matrix是一种特殊的矩阵,所以我们研究的重点在它的eigenvalues和eigenvectors上.3. 特征矩阵的性质a

31、) 实矩阵的eigenvalue是实数.b) 对称矩阵的特征向量都是正交的能够挑出一组垂直的4. 对称矩阵的分解a) 对于一般矩阵A, A=SS-1b) 对于对称矩阵B, B=QQ-1=QQT5. 什么是性质好的矩阵？a) 特征值是实数b) 基互相垂直c) A=AT6. 对称矩阵的进一步分解a) B=QQ-1=QQT=1q1q1T+2q2q2T+b) 每一个对称矩阵都是一些互相垂直的投影矩阵的组合。7. 对称矩阵中主元的符号与特征值的符号一致。8. 对称矩阵主元的乘积=特征值的乘积=行列式9. 正定矩阵a) 是对称矩阵的一种，所有特征值都是正数。b) 正定矩阵的主元全为正数。c) 正定矩阵的行

32、列式是正数d) 正定矩阵所有的子行列式都是正数。正定矩阵与最小值1. 课程目标：如何判断一个矩阵是否是正定矩阵 XTAX>0说明什么 为什么我们对正定性如此感兴趣 正定性的几何解释 以及把主元、行列式、特征值、不稳定性整合到一起2. 正定矩阵的判断方法，以2*2对称矩阵为例a) 1>0, 2>0b) >0, >0c) pivots a>0, >0d) * 任意待定3. 实际举例a) 我们构造一个矩阵，很明显它是正定的。b) 利用判断方法2-d，设=，即f(x,y)=2x2+12xy+20y2>0c) 如何看出f(x,y)为正？麻烦出在xy项上。如

33、果能够把f(x,y)配方成平方和的形式，就可以确定f(x,y)肯定为正。即f(x,y)=2(x+3y)2+2y2i. 这一步的配方，方法绝非偶然，它和矩阵相关，涉及到高斯消元法。ii. AU, L=，主元是2,2做平方项的系数，倍数3做括号内y的系数。d) 分析：对函数f(x, y)是否为正的分析可能非常麻烦，涉及到求导，求偏导等问题，但是如果把f(x,y)表示为矩阵A的形式，通过判断矩阵A的正定性就可以判断f(x,y)的正负！e) 总结：正主元，平方和，一切为正，图像向上，原点是极小值，一切都联系在一起，描述了一个正定矩阵。4. 因为函数最值和导数、微分方程有关，而函数又可以用矩阵来表示，那

34、么矩阵和微分方程之间必然存在着某种联系。相似矩阵和假设尔当型未完成1. 关于正定矩阵的结论a) 如果A, B都是正定矩阵，那么A+B也是正定矩阵。2. 重新定义A是一个一般矩阵。现在研究ATAa) ATA一定是对称矩阵b) ATA一定是正定矩阵或半正定矩阵3. 相似矩阵：n*n矩阵A和矩阵B=M-1AM没有说A和B是对称矩阵a) 为何称此矩阵为相似？相似矩阵具有相同的特征值。b) 为什么A和B特征值相等？ Ax=x (B=M-1AM) AMM-1x=x M-1AMM-1x=M-1x BM-1x=M-1x (A和B的特征值向量不相等)奇异值分解(SVD)1. A=UVT，是缩放因子组成的对角矩阵

35、， V是行空间的正交矩阵，U是列空间的正交矩阵，A可以是任意矩阵2. ATA=ATUVT=VTUTUVT=VVT，AAT =V是ATA的特征向量矩阵，U是AAT的特征向量矩阵。a) 例：A=i. ATA=，特征向量是，特征值是32,18ii. AAT=，特征向量是，特征值是32,18iii. A= UVT=b) 例：A=3. 总结：在线性代数的四个子空间里选出合适的基，v1-vr是行空间的标准正交基，u1-ur是列空间的标准正交基，然后用vur+1到v(u)n补充完整，vur+1到v(u)n是AAT零空间的标准正交基，解出特征值。线性变换及对应矩阵一) 前言：线性变换的概念本身不涉及坐标系和坐

36、标值，对于我们大多数人来说，我们需要定量描述线性变换是如何进行的，这才引入了坐标系和坐标值，以及矩阵。二) 线性变换的判断条件A) T(v+w)=T(v)+T(w)B) T(cv)=cT(v)C) 例a. 投影是线性变换b. 原点不动的平面平移不是线性变换c. 求向量的长度不是线性变换d. 旋转是线性变换e. T(X)=AX三) 用矩阵表示线性变换A) 例：，那么B) 假设T: R3R2a. 例：T(v)=Av, v是输入向量，T(v)是输出向量，那么A是一个2X3矩阵四) 同时线性变换多个向量的情况A) 从二维开始a. 假设v1 v2线性无关，v在v1 v2张成的空间里b. T(v1), T

37、(v2)已知c. T(v)可以得到B) 推广到多维有类似结论。只要知道一个空间的基和它们线性变换后的结果，那么这个空间里的任意向量线性变换后的结果都可以求得。五) 线性变换和矩阵的联系A) 坐标源自一组基，这组基通常是标准基B) v=c1v1+c2v2+cnvn, (c1 c2 cn)是它在v1,v2,vn这组基下的坐标。C) 例：a. 构造矩阵A，对应线性变换T：RnRmb. 选择基向量v1,vn作为输入空间的基c. 选择基向量w1,wm作为输出空间的基D) 例：投影a. v=c1v1+cnvnb. T(v)=c1v1c. 坐标的转变：c1,c2c1,0d. A=，A·输入坐标=输出坐标E) 注意：输入空间和输出空间使用的是同一组坐标！六) 确定A各列的方法A) 给定输入基v1,vn， 输出基w1,wmB) Tv1=a11w1+a21w2+am1wmC) Tv2=a12w1+a22w2+a