向量到子空间的距离最小二乘法

1、向量到子空间的距离最小二乘法定义13向量（X到卩的距离定义为心卩|，记为 d（讪.欧氏空间中两条向量间距离满足1) d(a,p)= d(p,a);2) d(a，|)=0,当且仅当a=卩时等式成立;3) d(a,p)<d(a)+d(p)几何学中知道一个点到一个平面（或一 条直线）的距离以垂线最短；欧氏空间 中的一个固定向量和子空间是各个向量y-5(n>m) 即 Ra二y最J、一乘法：方程个数大于未知量个数的方程组 皿1+曲2 +A + rlmam =<A AM+乙2勺 +A + rnmam =儿其中R =_rllA耳2AAA仃A,Cl =cixM，y =MJnX匚2A_几_是不

2、存在解的矛盾方程组。-兀）2达到最小,如果有向量a使得 工心“+金。2+ A+金佥则称a为上述方程组的最小二乘解。12A令R =AAAJnlrn2A(m1=1M =MRa，jnrlmA，Cl axMy JiMrnm_Sm_yn_要找y； s.t M - y 2最小k i=l 丿设 M =airi +a2r2 + A +仏口 是所求的向量，贝ijj -Ra与子空间LOi，/2，A，G）正交，为此(y - Ra,rJ ) = OJ = 1，2,AR'(y Ra) = R'Ra = Ry最小二乘法要解决的问题，实际上就是求以下超定方程组的最 小二乘解的问题。耳（乂1）AG 3）一ux

3、R =A A,CL =M，=M/g) Arm g )_几_其中Ra=y(3)定理：当RTR可逆时，超定方程组（3）存在最小二乘解,且即为方程组RTRa 二 RTy的解：a二(RTR)-iRTyExl用线性最小二乘法的基本方法f求y与x 的关系X124791213y1.53.96.611.715.618.819.6满足的最佳线性函数.解:表中数值画出图时，接近于一条直线， 设关系满足y二ax+b,得到方程组1.5 = 0ni <1.5 2a+b-3.9 = 02 13.94a+b- 6.6 = 0416.6 =: B =7a+b-11.7 = 0711 1.79a +方一 156 = 09

4、115.61加 + 一 188 = 0J2 1丿J88,最小二乘角输上所满足的方程是°、= (AfAylAfB'295 34V1、346 ,了483658.1 丿八483.6、614(-34 295人58.1 丿1614'9262_fl508'、6971J_ 1.135,« = 1.508, ft = 1.135近彳以的屏茜足关系式y = 1.508兀+ 1.135除了线性最小二乘法还有其它拟合问题拟合问题弓I例1已知热敏电阻数据:温度t(°C) 20.5 32.7 51.0 73.0 95.7765 826 873 942 1032Sc60°C时的电阻R。设 R=at+ba,b为待定系数拟合问题弓I例2已知一室模型快速静脉注射下的血药浓度数据(t=0注射300吨t(h) 0.250.511.52346c (gg/ml)19.21 1&15 15.36 14.10 12.899.32