线性空间和欧式空间

1、第六章线性空间和欧式空间§ 1线性空间及其同构一 线性空间的定义设 V 是一个非空集合，K 是一个数域，在集合V 的元素之间定义了一种代数运算，叫做加法；这就是说，给出了一个法则，对于V 中任意两个元素和，在V 中都有唯一的一个元素与他们对应，成为与的和，记为。在数域K 与集合V的元素之间还定义了一种运算，叫做数量乘法， 即对于数域K 中任一数k 与V 中任一元素，在 V中都有唯一的一个元素与他们对应， 称为k 与的数量乘积，记为k，如果加法与数量乘法满足下述规则，那么V 称为数域K 上的线性空间。加法满足下面四条规则：1）；交换律2） ()() ；结合律3）在V 中有一个元素0，对

2、于V 中任一元素都有0（具有这个性质的元素0 称为V 的零元素）；存在零元4）对于V 中每一个元素，都有V 中的元素， 使得0（称为的负元素） .存在负元数量乘法满足下面两条规则：5） 1；存在1 元6）k (l)(kl ).数的结合律数量乘法与加法满足下面两条规则：7） ( kl )kl； 数的分配律8） k () kk . 元的分配律在以上规则中， k,l表示数域中的任意数；, , 等表示集合 V 中任意元素。例 1元素属于数域K 的 m n 矩阵，按矩阵的加法和矩阵的与数的数量乘法，构成数域 K 上的一个线性空间，记为M m,n ( K ) 。例 2全体实函数 （连续实函数） ，按函数的

3、加法和数与函数的数量乘法，构成一个实数域上的线性空间。例 3n 维向量空间 K n 是线性空间。例 4向量空间的线性映射的集合HomK (K m , K n ) 是线性空间。二简单性质1零元素是唯一的。2负元素唯一。3 00 ， k 0 0 ， ( 1)。4若 k0 ，则 k 0 或者0。三 . 同构映射定义：设 V ,V是数域 K 上的线性空间 . AHom K (V ,V ) 是一个线性映射 . 如果 A 是一一映射，则称 A 是线性空间的同构映射，简称同构。线性空间V 与 V ' 称为同构的线性空间。定理数域 P 上两个有限维线性空间同构的充分必要条件是他们有相同的维数。同构映射

4、的逆映射以及两个同构映射的乘积还是同构映射。同构线性空间分类维数§ 2线性子空间的和与直和子空间的和：设W1 ,W2 是线性空间 V 的子空间，则集合W12|1W1或2W2 也是一个线性子空间，称为W1 ,W2 的和，记为 W1W2 .两个线性子空间的和W1W2 是包含这两个线性子空间的最小子空间.满足交换律、结合律设1 ,L ,s与1 ,L , t 是 V 的两个向量组 . 则L ( 1 ,L ,s)L ( 1,L ,t )L( 1 ,L ,s, 1,L , t )线性子空间中的线性无关向量组都能被扩充成这个子空间的一个基。定理 ：（维数公式 ）如果 W1, W2 是线性空间 V

5、的两个子空间，那么dim( W1 ) + dim( W2 ) =dim( W1W2 ) + dim(W1W2 )由此可知， 和的维数要比维数的和来得小。推广到有限个线性子空间的和空间维数推论：如果 n 维线性空间 V 中两个子空间V1 ,V2 的维数之和大于n ，那么 V1 ,V2 必含有非零的公共向量。直和：设W1,W2 是线性空间V的子空间，如果W1W2 中的每个向量都能被 唯一地表示成121W1 ,2W2. 则称W1W2 为直和，记为W1W2 。设 W1 ,W2 是线性空间 V 的子空间，则下列结论互相等价：(1)W1W2是直和；(2)W1W20;(3)dim( W1W2 )dim W1

6、dim W2 .设 W 是线性空间V的一个子空间，那么一定存在V的一个线性子空间U，使得VWU满足上述条件的线性子空间U 称为 W 的补子空间.推广到有限多个线性子空间也可以定义它们的直和设 W1， W2，L ， Wm是 V的线性子空间，则下列结论相互等价：（1）W1Wm是直和；（2）对 i1, , m有 WiW j0;1 jmi j（ ）Wm ) dim W1dim Wm .3 dim( W1§ 3欧式空间定义 设 V 是实数域 R 上的有限维线性空间, 在 V 上定义了一个二元实函数，称为内积 ,记作 (,) , 满足以下四条公理 :1)对称性 (, )( ,) ;2)关于标量乘

7、法线性性质(k, )k (,) ;3)关于向量加法的线性性质 (,)(,)(,);4)正定性 (, )0 , 当且仅当0 时 ,(,)0这里, ,是 V任意的向量 ,k 是任意实数 , 这样的线性空间 V 称为 欧几里得空间 .例 1在线性空间Rn 中 , 对于向量(a1, a2, an ) ,(b1 ,b2 , bn ) ,定义内积(, ) a1b1a2 b2anbn .(1)则内积 (1) 适合定义中的条件，这样Rn 就成为一个欧几里得空间 .n3 时， (1)式就是几何空间中的向量的内积在直角坐标系中的坐标表达式.例 2在 Rn 里 ,对于向量(a1, a2, an ) ,(b1 ,b2

8、 , bn ) ,定义内积( , ) a1b12a2b2nan bn .则内积 (1) 适合定义中的条件，这样Rn 就也成为一个欧几里得空间 .对同一个线性空间可以引入不同的内积, 使得它作成欧几里得空间.例 3 在闭区间 a, b 上的所有实连续函数所成的空间C (a,b) 中 , 对于函数f ( x), g( x) 定义内积b(2)( f ( x), g( x)f ( x) g ( x)dx .a对于内积 (2) ， C (a, b) 构成一个欧几里得空间 .同样地，线性空间R x, R x n 对于内积 (2) 也构成欧几里得空间 .例 4 令 H 是一切平方和收敛的实数列( x1, x

9、 2 , , xn ),xn2n1所成的集合 , 则 H 是一个欧几里得空间, 通常称为希尔伯特(Hilbert) 空间 .定义 非负实数( , )称为向量的长度，记为.显然，向量的长度一般是正数，只有零向量的长度才是零，这样定义的长度符合熟知的性质：k| k |(3)这里 kR,V .长度为 1 的向量叫做 单位向量 . 如果 ,0 由 (3) 式，向量1就是一个单位向量. 用向量的长度去除向量，通常称为把单位化 .(Cauchy-Buniakowski不等式 ) 对任意的向量, 有|(,)|,而且等号成立当且仅当,线性相关 .( 保证向量夹角定义的合理性)定义 非零向量,的夹角,规定为,a

10、rccos (,) , 0,根据柯西 - 布涅柯夫斯基不等式，有三角形不等式.定义 如果向量,的内积为零，即(,)0那么,称为正交或互相垂直，记为.两个非零向量正交的充要条件是它们的夹角为. 只有零向量才与自己正交.2勾股定理 ：当,正交时，222.推广 ：如果向量两1, 2, m 两两正交，那么222212m12m .A(aij )nn ,aij( i ,j )称为基1, 2 ,n 的度量矩阵 . 度量矩阵完全确定了内积.(,)XTAY标准欧式空间 ( 其内积关于自然基的度量矩阵是n 阶单位阵 )定义 欧氏空间 V 的一组非零的向量, 如果它们两两正交，就称为一个正交向量组 .由单个非零向量

11、所成的向量组也是正交向量组.在 n 维欧氏空间中，两两正交的非零向量不能超过n 个 .正交向量组一定是线性无关的。若正交向量组中的向量都是单位向量，则称为规范正交组。定义 在 n 维欧氏空间中，由n 个向量组成的正交向量组称为正交基；由单位向量组成的正交基称为 规范正交基组. 对一组正交基进行单位化就得到一组规范正交基.欧式空间的线性子空间必存在规范正交基。在规范正交基下，向量的内积可以通过坐标简单地表示出来，(,)x1 y1x2 y2Lxn ynX T Y.这个表达式正是几何中向量的内积在直角坐标系中坐标表达式的推广.把一组线性无关的向量变成一单位正交向量组的方法在一些书和文献中称为格拉姆

12、- 施密特（ Schimidt ）正交化方法 . (P314)定义 欧氏空间 V 与V 称为同构的 ,如果存在线性空间的同构AHom R (V ,V ) ，保持内积，即(A( ),A( ) ( ,) ,对任意的 ,V 成立，这样的映射A称为V 到V 的同构映射.同构的欧氏空间必有相同的维数.每个 n 维的欧氏空间都与Rn 同构 .同构作为欧氏空间之间的关系具有反身性、对称性与传递性.由每个 n 维欧氏空间都与Rn 同构知，任意两个n 维欧氏空间都同构.定理两个有限维欧氏空间同构它们的维数相等.这个定理说明，从抽象的观点看，欧氏空间的结构完全被它们的维数决定.S 是欧式空间V§ 4 欧

13、式空间中的正交补空间与正交投影的一个子集，如果V 中向量与 S 中每个向量都正交，则称与 S正交，记做S .定义设 S是欧几里得空间V 的一个非空子集,V 中与 S正交的所有向量组成的集合称为 S的正交补,记作 S,即SV | (,)0对所有的S.命题设 S是欧几里空间V的任意一个非空子集，则S 是 V的一个线性子空间.定理设W 是欧几里得空间 V的一个线性子空间，则VWW .正交投影的定义，正交投影的求法(P321-323)VWW, 则其中每个向量都能唯一的表示成12 ,1W ,2W1W 是在 W 上的正交投影的充要条件是1W .令PW:VW V 则 PW 为 V 在 W 上的正交投影 .在

14、 W 中取一个规范正交基1 ,L, m ，a1在 W 上的正交投影为 PW ( )m则( , i ) i .i 1正交投影的求法 :W 的规范正交基，再用m（ 1）用施密特正交化方法求出PW ()(, i ) ii 1（ 2）设1iW ，则21W, (2 , i )0 解齐次线性方程组（ 3）把 (2) 写成矩阵形式，解决AT AXAY， PW() AX定理设 W 是欧几里得空间V的子空间，对于V , 1W 是 在W 上的正交投影的充分必要条件为|1 | |, 对所有的W .定义设W是欧几里得空间V的一个子空间，是V中的向量 如果W中存在一个向量.使得对所有的W有 | |,那么称 为 在 W上

15、的最佳逼近元 .V 中任意向量在子空间 W 上的最佳逼近元存在且唯一，就是在 W 上的正交投影PW( ).最小二乘法（偏差总和最小>偏差平方和最小） （ P327-328）最小二乘法问题：线性方程组a11 x1a12 x2a1 sxsb10 ,a21 x1a22 x2a2 s xsb20 ,an1 x1an2 x2ans xsbn0可能无解 . 即任何一组数x1 , x2 , xs 都可能使nais xs bi )2(ai1 x1ai 2 x2(1)i1不等于零 . 我们设法找 x10, x20 , , xs0使（ 1）最小，这样的 x10, x20 , xs0称为方程组的最小二乘解 .

16、 这种问题就叫最小二乘法问题 .下面利用欧氏空间的概念来表达最小二乘法，并给出最小二乘解所满足的代数条件.a11a12a1sb1Aa21a22a2 s , Bb2,an1an2ansbnsx1a1 j x j(2)j1x2sX, Ya2 j x jAX .j 1xssanj x jj1用距离的概念， （ 1）就是Y2B最小二乘法就是找 x10 , x20, , xs0 使 Y 与 B 的距离最短 . 但从（ 2），知道向量 Y 就是a11a12a1sY x1a21x2a22xsa2s .an1an 2ans把 A 的各列向量分别记成1, 2,s . 由它们生成的子空间为 L ( 1 , 2 ,

17、 ,s ) . Y 就是 L ( 1 , 2 , , s ) 中的向量 . 于是最小二乘法问题可叙述成：找 X 使（ 1）最小，就是在 L(1, 2,s ) 中找一向量 Y ，使得 B 到它的距离比到子空间L (1, 2, ,s ) 中其它向量的距离都短 .应用前面所讲的结论，设YAXx11x22xss是所求的向量，则CBYBAX必须垂直于子空间L(1 ,2 ,s ). 为此只须而且必须(C ,1 )(C ,2 )(C ,s )0回忆矩阵乘法规则，上述一串等式可以写成矩阵相乘的式子，即1T C0 ,2T C0 , L ,sT C0.而 1T , 2T , L , sT 按行正好排成矩阵 AT

18、，上述一串等式合起来就是AT(BAX )0或AT AXAT B这就是最小二乘解所满足的代数方程，它是一个线性方程组，系数矩阵是AT A ，常数项是AT B . 这种线性方程组总是有解的.§5正交变换与正交矩阵定义欧氏空间V的线性变换A 叫做一个正交变换, 如果它保持向量的内积不变，即对任意的，都有,V, 都有(A,A)=(,).正交变换可以从几个不同方面公平加以刻画. 正交群O (n, R)设 A 是 n 维欧氏空间的一个正交变换，则有以下结论：（1）如果1 , 2 , , n 是规范正交基，那么A1,A2, , An 也是规范正交基；（2）A 保持向量的长度不变，即对于V,（A ，A） =（， ） ;（3）A 在任一组规范正交基下的矩阵是