《线性代数之矩阵运算》课件

线性代数之矩阵运算课程概述矩阵基本概念数据的表格形式表示矩阵运算加法、乘法、转置等实际应用什么是矩阵？矩阵定义按行列排列的数字、符号或表达式的矩形阵列m×n矩阵表示m行n列的数表，常用大写字母表示元素表示aij表示第i行第j列的元素矩阵的类型方阵行数等于列数的矩阵1行矩阵只有一行的矩阵2列矩阵只有一列的矩阵3对角矩阵主对角线外元素全为零4特殊矩阵单位矩阵主对角线为1，其余为0零矩阵所有元素均为0三角矩阵上/下三角区域全为0矩阵的基本性质相等矩阵对应元素均相等转置矩阵行列互换共轭矩阵元素取复数共轭矩阵加法定义对应位置元素相加C=A+B，其中cij=aij+bij性质交换律：A+B=B+A结合律：(A+B)+C=A+(B+C)矩阵加法示例2×2矩阵加法对应位置元素直接相加维度要求必须维度相同才能相加3×3矩阵加法9个元素分别相加矩阵减法定义对应位置元素相减性质C=A-B，其中cij=aij-bij与加法关系A-B=A+(-B)矩阵的数乘定义标量与矩阵每个元素相乘表示kA中，(kA)ij=k·aij分配律k(A+B)=kA+kB矩阵乘法（一）定义C=AB，其中cij=Σaik·bkj条件A的列数必须等于B的行数特性一般情况下，AB≠BA矩阵乘法（二）1结合律(AB)C=A(BC)2左分配律A(B+C)=AB+AC3右分配律(A+B)C=AC+BC矩阵乘法示例12×2矩阵乘法四个元素分别计算2不同维度矩阵乘法结果维度为m×p3计算过程行与列的点积运算矩阵乘法的应用线性变换旋转、缩放、剪切等操作图像处理图像滤波、锐化、模糊等三维建模空间变换和投影矩阵转置定义A^T表示，行列互换(A^T)ij=Aji性质二次转置恢复原矩阵(A^T)^T=A转置改变矩阵维度转置矩阵的运算规则规则数学表达式加法转置(A+B)^T=A^T+B^T乘法转置(AB)^T=B^TA^T数乘转置(kA)^T=k(A^T)对称矩阵定义满足A=A^T的矩阵所有元素关于主对角线对称性质aij=aji特征值总是实数可正交对角化矩阵的幂定义A^n表示A自乘n次计算方法连续矩阵乘法性质A^m·A^n=A^(m+n)3应用马尔可夫链、网络分析4初等矩阵类型一交换两行或两列类型二某行或列乘以非零常数类型三某行加上另一行的倍数矩阵的行列式定义方阵A的行列式记为|A|或det(A)性质|AB|=|A|·|B|计算方法按行（列）展开、对角线法则矩阵的秩1满秩矩阵最大线性无关向量组数2秩的性质rank(A)≤min(m,n)3与线性相关性关系秩表示线性无关行（列）数矩阵的逆可逆定义存在A^(-1)使AA^(-1)=A^(-1)A=I可逆条件|A|≠0逆矩阵性质(AB)^(-1)=B^(-1)A^(-1)逆矩阵的计算方法伴随矩阵法A^(-1)=adj(A)/|A|适合低维矩阵初等行变换法[A|I]→[I|A^(-1)]适合计算机求解矩阵方程AX=B求解左乘A^(-1)：X=A^(-1)B可解条件A必须是可逆矩阵XA=B求解右乘A^(-1)：X=BA^(-1)分块矩阵矩阵的特征值和特征向量定义Ax=λx，其中λ为特征值，x为特征向量计算方法|A-λI|=0求解特征方程代入特征值求特征向量相似矩阵定义B=P^(-1)AP，则A与B相似性质相似矩阵有相同特征值相似对角化将矩阵转化为对角矩阵形式正交矩阵定义Q^TQ=QQ^T=I性质Q^(-1)=Q^T应用旋转变换、坐标系变换二次型定义x^TAx的形式A必须是对称矩阵标准形通过正交变换化为对角形式y^TDy，其中D为对角矩阵正定矩阵定义对称矩阵且所有特征值为正1判定方法顺序主子式全为正2应用优化问题、机器学习3矩阵分解LU分解A=LUL为下三角矩阵，U为上三角矩阵QR分解A=QRQ为正交矩阵，R为上三角矩阵奇异值分解（SVD）1定义A=UΣV^T2性质适用于任意矩阵3应用数据压缩、降维、图像处理矩阵的迹定义tr(A)=Σaii，主对角线元素和性质tr(AB)=tr(BA)与特征值关系tr(A)=Σλi，等于特征值之和矩阵指数定义e^A=I+A+A^2/2!+A^3/3!+...计算方法幂级数展开、对角化方法应用微分方程求解、动力系统矩阵范数Frobenius范数所有元素平方和的平方根谱范数最大奇异值应用误差分析、优化算法Kronecker积定义A⊗B，结果为分块矩阵计算(A⊗B)ij=aijB性质(A⊗B)(C⊗D)=(AC)⊗(BD)应用量子计算、图像处理Hadamard积定义A∘B，对应元素相乘(A∘B)ij=aij·bij与矩阵乘法区别Hadamard积：对应元素相乘矩阵乘法：行与列的内积Moore-Penrose广义逆1定义满足四个Penrose方程的矩阵A⁺2性质对任意矩阵都存在唯一的广义逆3应用最小二乘问题、欠定方程求解矩阵微分定义矩阵函数对矩阵变量的导数基本规则∇Xtr(AX)=A^T优化应用梯度下降、牛顿法矩阵在线性方程组中的应用矩阵表示Ax=bA为系数矩阵，b为常数向量解的存在性b∈Col(A)时有解解的唯一性Ker(A)={0}时解唯一最小二乘法问题表示Ax≈b，求使||Ax-b||最小的x正规方程A^TAx=A^Tb解的计算x=(A^TA)^(-1)A^Tb矩阵在线性回归中的应用x值实际y预测y主成分分析（PCA）1矩阵表示基于协方差矩阵的特征分解2步骤计算协方差矩阵的特征值和特征向量3特征向量作用指示主成分方向矩阵在图论中的应用邻接矩阵Aij表示节点i和j之间的连接无权图中元素为0或1拉普拉斯矩阵L=D-AD为度矩阵，A为邻接矩阵矩阵在马尔可夫链中的应用转移矩阵P表示状态转移概率1稳态分布满足π=πP的概率向量π2计算方法求转移矩阵的特征向量3应用网页排名、随机过程4矩阵在计算机图形学中的应用矩阵在密码学中的应用Hill密码使用矩阵进行加密加密过程c=Kmmod26解密过程m=K^(-1)cmod26安全性基于矩阵求逆的复杂性矩阵在量子力学中的应用量子态表示矢量和态矩阵量子门幺正矩阵表示测量操作投影矩阵表示矩阵在网页排名中的应用PageRank网页重要性的度量转移矩阵表示网页间链接特征向量方法求解主特征向量矩阵在信号处理中的应用离散傅里叶变换DFT矩阵运算快速算法降低计算复杂度卷积的矩阵表示Toeplitz矩阵便于数学分析和处理矩阵在控制理论中的应用1状态空间表示dx/dt=Ax+Bu2可控性可控性矩阵秩的判定3可观测性可观测性矩阵秩的判定矩阵在经济学中的应用模型表示方式投入产出模型x=Ax+d求解x=(I-A)^(-1)d意义产业间相互依赖关系矩阵在数据压缩中的应用原始图像完整数据信息SVD压缩保留主要奇异值压缩结果减少数据量的同时保留主要信息矩阵在机器学习中的应用算法实现高效矩阵计算2协方差矩阵特征相关性分析核矩阵非线性关系映射矩阵计算的数值方法迭代法Jacobi方法Gauss-Seidel方法共轭梯度法直接法高斯消元法LU分解法Cholesky分解法大规模矩阵计算稀疏矩阵大多数元素为零存储方式压缩行存储格式并行计算多核CPU和GPU加速矩阵计算的软件工具MATLAB专业科学计算软件NumPyPython科学计算库Julia高性能数值计算语言矩阵理论的前沿研究1随机矩阵理论