最小二乘法原理

第一节最小二乘法的基本原理和多项式拟合一最小二乘法的基本原理从整体上考虑近似函数召法)同所给数据点"J(i=0,1,…,m)误差戏=*)-入(i=0,i,…,m)的大小，常用的方法有以下三种：一是误差门=P(无)-M(i=0,1,…,m)绝对值的最大值甜回引，即误差向量F 的8—范数；二是误差绝对值的和切时，即误差向量r的1一3 …一 …小 3 *上范数；三是误差平方和w的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑2—范数的平方，因此在曲线拟合中常采用误差平方和技乙来度量误差门(i=0，1，…，m)的整体大小。数据拟合的具体作法是：对给定数据(孔为)(i=0,1,…，m)，在取定的函数类中中，求召⑴氏中，使误差―佥)f(i=0,1,…,m)的平方和最小，即M M __=I从几何意义上讲，就是寻求与给定点(i=0,1,…,m)的距离平方和为最小的曲线V=风对(图6-1)。函数声3)称为拟合函数或最小二乘解，求拟合函数『3)的方法称为曲线拟合的最小二乘法。在曲线拟合中，函数类中可有不同的选取方法.6—1二多项式拟合

假设给定数据点（心M）（i=0,1,…,m）,①为所有次数不超过心顷的多项式构成的函数类，现求一 心，使得J= 眼成-乂=n™心 ） （1）当拟合函数为多项式时，称为多项式拟合，满足式（1）的称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。显然为勤皿，…％的多元函数，因此上述问题即为求'二£（%%•••%）的极值问题。由多元函数求极值的必要条件，得=空②5*-ME=R2-0心2-0（3）是关于⑶，知，的线性方程组，用矩阵表示为2-02-0ZL2-0TOC\o"1-5"\h\z用 祯 M fl m\o"CurrentDocument"手2＞广…2＞： 2＞金L抑口 5 」Lw」 （4）式（3）或式（4）称为正规方程组或法方程组。可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出改（k=0,1,…，n），从而可得多项式外0）=立诳/可以证明，式(5)中的球对满足式(1)，即眼)为所求的拟合多项式。我们把抑 称为最小二乘拟合多项式八》)的平方误差，记作2-0由式(2)可得TOC\o"1-5"\h\zIHhZ^-Z^cZ^) 小i-o心2-0 (6)多项式拟合的一般方法可归纳为以下几步：(1)由已知数据画出函数粗略的图形一一散点图，确定拟合多项式的次数n；2罚(j=ox■■■,2k)Z野m c/=o，、由)⑵列表计算」口 和抑 ；(3)写出正规方程组，求出f%L%；处⑴=2＞此(4)写出拟合多项式 心在实际应用中，6或心*；当时所得的拟合多项式就是拉格朗日或牛顿插值多项式。例1测得铜导线在温度耳(°C)时的电阻震⑴如表6-1，求电阻R与温度T的近似函数关系。i0123456骂(C)19.125.030.136.040.045.150.076.3077.8079.2580.8082.3583.9085.10解画出散点图(图6-2)，可见测得的数据接近一条直线，故取n=1，拟合函数为R=⑶+4了列表如下i&T.R.33019.176.30364.811457.330125.077.80625.001945.000230.179.25906.012385.425

336.080.801296.002908.800440.082.351600.003294.000545.183.902034.013783.890650.085.102500.004255.0002245.3565.59325.8320029.445正规方程组为565.5245.3565.5245.39325.8320029.445245.39325.8320029.445解方程组得⑶=70.572,知=0.921故得R与T的拟合直线为A=70.572+0.9217利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由 R=0得T=-242.5，即预测温度T=-242.5°C时，铜导线无电阻。ElR5- .■■(fl- *10M506-2例2已知实验数据如下表i012345678%13456789101054211234试用最小二乘法求它的二次拟合多项式。解设拟合曲线方程为列表如下I蓦01101111010135927811545

244166425616643522512562510504613621612966365714934324017496826451240961612879381729656127243810410010001000040400Z53323813017253171471025得正规方程组_952381--32-523813017147_381301725317_一吃_1025_解得a0=13.4597, =-3.6053 =0.2676故拟合多项式为y=13.4597-3.6053+0.2676x2*三最小二乘拟合多项式的存在唯一性定理1设节点 互异，则法方程组（4）的解存在唯一。证由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组-■ 0 -■ 0 ■2-002-002-0手-2>严Z时i-0.i-0M:S<+12-0-2-0 _LMJ_2-0 _A2-0(7)右两端分别相加，右两端分别相加，有非零解。式（7）可写为»用£(£乂扩)稣=o; j=侦…』心j-o (8)然后将新得到的n+1个方程左将式（8）中第j个方程乘以七（j=0,1,然后将新得到的n+1个方程左因为>0 |_5i-0 Ji-0y-0JUO i-0>0 R-0 i-0其中处⑴=立诳/心所以外(巧)=0 (i=0,1,…，m)八3）是次数不超过n的多项式，它有m+1>n个相异零点，由代数基本定理，必须有⑶=如=…％=°，与齐次方程组有非零解的假设矛盾。因此正规方程组（4）pO=£的,/必有唯一解。定理2设勤产1，…，4是正规方程组（4）的解，则心是满足式（1）的最小二乘拟合多项式。证只需证明，对任意一组数组成的多项式 一心瞬，恒有TOC\o"1-5"\h\zM 酿z【0（芯）-j7J2x瓜（为）fr2-0 2-0即可。M ME[2/^）-m]'-2[a2-0 2-0M M=2^[&/诳）-#心舟+2Z[&」诳）-八（气）]上3）-*2-0 2-0涂g「 1H Mfr.MT/M "^0+2ZZK_^^h--为=2Zis-\2-0j-0 La-0 J>0[ 2-0Lv-0 7 」_因为勤（k=0,1,…，n）是正规方程组（4）的解，所以满足式（2），因此有M 02-0 2-0故P」工）为最小二乘拟合多项式。*四多项式拟合中克服正规方程组的病态在多项式拟合中，当拟合多项式的次数较高时，其正规方程组往往是病态的。而且

正规方程组系数矩阵的阶数越高，病态越严重；拟合节点分布的区间偏离原点越远，病态越严重；诳（i=0,1,…，m）的数量级相差越大，病态越严重。为了克服以上缺点，一般采用以下措施：尽量少作高次拟合多项式，而作不同的分段低次拟合；不使用原始节点作拟合，将节点分布区间作平移，使新的节点诳关于原点对称，可大大降低正规方程组的条件数，从而减低病态程度。平移公式为：西=气_气;“"， 2=0,1，…，刑 （9）对平移后的节点％（i=0,1,…，m）,再作压缩或扩张处理:其中(10),（r是拟合次数）其中(10),（r是拟合次数）(11)经过这样调整可以使他的数量级不太大也不太小，特别对于等距节点诳=冲+*a="…两，作式（10）和式（11）两项变换后，其正规方程组的系数矩阵设为A，则对1〜4次多项式拟合，条件数都不太大，都可以得到满意的结果。变换后的条件数上限表如下：拟合次数1234CQ?2d2(A)=1<9.9<50.3<435在实际应用中还可以利用正交多项式求拟合多项式。一种方法是构造离散正交多项式；另一种方法是利用切比雪夫节点求出函数值后再使用正交多项式。这两种方法都使正规方程组的系数矩阵为对角矩阵，从而避免了正规方程组的病态。我们只介绍第一种，见第三节。例如m=19，知=328,h=1,工1二%+ih，i=0,1,…，19,即节点分布在［328,347］，作二次多项式拟合时①直接用气构造正规方程组系数矩阵^，计算可得g清」瓦）=2.2%10】'严重病态，拟合结果完全不能用。②作平移变换一328+347%一*一2用石构造正规方程组系数矩阵A,计算可得必我(