线性代数讲义老师lecture

1、13.1 引言上一讲中，得到如下结果：阶阵，设1.2.3.设设为中有唯一解.有解，则在的解. 则是直观上，13.1 引言例：有解这条直线上投影.直观上，是在另一方面，若无解，此时可以考虑问题：极小(或最小)？上述问题意味着求求直观上，上距离使得无解上的投影点.最近的点它是在13.1 引言例：则无解即平面在平面上投影点为则点(或向量)在空间投影问题.这一讲，13.2 点在直线和平面上的投影如右图，求在上的投影向量即(在上投影向量为表示相应列向量.)13.2 点在直线和平面上的投影因此，(注意：矩阵.)是一个称为投影矩阵.上投影向量.得到一个是在(向量空间之间的)：设是所在直线，13.2 点在直线

2、和平面上的投影例：在 轴上的投影.即13.2 点在直线和平面上的投影情形是类似的.在直线三求上投影令满足：得到一个：13.2 点在直线和平面上的投影考虑点在平面上的投影.平面在 上的投影. 求是平面 上两无关向量, 即的基础解系或下面给定设 令是的一组基.令求投影其中，则平面关于求的分解13.2 点在直线和平面上的投影的解.秩)即是是可逆阵(则此时称为投影矩阵.13.2 点在直线和平面上的投影例：求使得是在上的投影向量.解：的列线性无关.注：可逆，因为13.3 一般情形阶阵. 设问题：为求在上的投影即的解.总有解.的两个解, 则即1.2.设是是是唯一的.注：一般情形中,秩.未必是可逆阵，除非1

3、3.3 一般情形若可逆，投影阵满足为投影矩阵.一般地，一个矩阵满足则称自然问题：关于哪个空间的投影矩阵？检查投影的例子.设为投影阵，则定理：设是一个投影矩阵，则14 最小二乘近14.1 复习回忆一向量在一子空间令上投影求法：1.找则2.的一组基秩，且则的列空间则3.解方程组因此即14.1 复习注：1.秩只有零解只有零解秩(即可逆，因为它是方阵)2.如果称为投影矩阵. 一个矩阵称为投影阵，第二个条件是因为对需要保证即14.1 复习阶投影阵, 则则命题：设证明：为设则14.1 复习3.一般地，设求为阶阵，则关于这个和的分解使用以上方法，即找令的一组基上的投影.求在14.2 最小二乘法回到解方程组有

4、解 假设它无解，则 此时转化问题为：的最小值点.求使得最小，即14.2 最小二乘法由右图，和它在上投影点则 即为所求.距离最小. 设称为误差向量(error),最小二乘解(the least square solution).如何求1.2.因此，求解方程组称为法方程组(normal equations).14.2 最小二乘法性质：1.法方程组总有解(无论这是因为秩).是否2.即设的解可能有无穷个, 但则(投影)唯一.均满足因此14.2 最小二乘法例：无解.则考虑法方程组即在上投影3.若秩，则可逆，14.3 最小二乘法的应用：曲线拟合例：设给定数据寻找直线使得误差最小.的长度最小.即向量14.3 最小二乘法的应用：曲线拟合令最小.即求使得解法方程组即令求得称为最小二乘直线.直线特别地，若则很容易计算，此时两列正是对角阵.交，14.3 最小二乘法的应用：曲线拟合例：求二次曲线拟合如下数据解：求使得最小.x1925313844y19.032.349.073.397.814.3 最小二乘法的应用：曲线拟合令最小.即求使得求解方程组拟