第四章插值与拟合4

1、4.7 曲线拟合的最小二乘法曲线拟合的最小二乘法一、引言一、引言插值多项式逼近的一些问题：（1）当节点数目较多时，插值是高次的多项式，计算麻烦，收敛性不好；（2）当数据有误差时，插值多项式便保留着一切 测试误差； 曲线“拟合”则不要求所作曲线完全通过所有的数据点，但要求所得曲线能较好地反映所给反映所给数据的基本数据的基本“变化趋势变化趋势”。如何反映？如何反映？1212,nnx xxy yy 如图所示，已知函数在点处函数值为。y=bx+a二、最小二乘原理与线性拟合二、最小二乘原理与线性拟合怎样确定a,b,使得直线能较好地反映所给数据的基本反映所给数据的基本“变化趋势变化趋势”?ky 一般情况k

2、kyabx误差kknkyabx1总误差21,kknkyabxbaI取求a、b，使 达到最小值。y=bx+aabxk这种使误差平方和达到最小的方法称为最小二乘法。这种使误差平方和达到最小的方法称为最小二乘法。,I a b021niiiyabx021iniiixyabxniiniiyxbna11niiiniiniiyxxbxa1121可解出a,b, 得到y=bx+a这个求线性函数这个求线性函数y=bx+a的过程称为线性拟合。的过程称为线性拟合。21,kknkyabxbaI0IIab由niiniiyxbna11niiiniiniiyxxbxa1121方程组的解为211112211()nnnniiii

3、iiiiinniiiixyxx yanxx 1112211()nnniiiiiiinniiiinx yxybnxx 用最小二乘原理求拟合曲线的步骤：(1)分析数据，画散点图。(2)确定拟合函数 类型。 x(3)用最小二乘原理，确定拟合函数中的未知参数。211111) nnnniiiiiiiiixxyx y计算，2) 写出并求 解方程组niiniiyxbna11niiiniiniiyxxbxa1121当采用线性拟合时，取( )xbxa例题：考察某种纤维的强度与其拉伸倍数的关系.下表是实际测定的24个纤维样品的强度与相应的拉伸倍数的数据记录:编 号 拉伸倍数 强 度编 号 拉伸倍数 强 度11.9

4、1.41355.5221.3145.2532.11.81565.542.52.5166.36.452.72.8176.5662.72.5187.15.373.531986.583.52.72087944218.98.51043.52298114.54.2239.58.1124.63.524108.1iiyxiiyx1234567891012345678912345678910123456789可以看出,纤维强度随拉伸倍数增加而增加yx因此可以认为强度与拉伸倍数 的主要关系应是线性关系.并且24个点大致分布在一条直线附近( )yxabx该直线称为这一问题的数学模型。该直线称为这一问题的数学模型。

5、方程组为61.8295 .1275 .12724ab 6 .7311 .1130.1505a ( )0.15050.8587 ,xx即为所求的最小二乘解.0.8587b 解得25.6615平方误差为2111124, =127.5, 829 61 1131 731.6nniiiinniiiiinxxyx y=. ,=.，12345678910123456789拟合曲线与散点的关系如下图:三、可化为线性拟合的情形三、可化为线性拟合的情形线性拟合的最小二乘法求解转化为一个线性方程组的求解。但是，一些非线性关系可以通过变换变为线性关系。若变量之间的关系不是线性关系，有可能导致求解非线性方程组。实际上，

6、我们更关心的是关于系数实际上，我们更关心的是关于系数a,b是否线性关系。是否线性关系。1. 双曲线双曲线1 (0).baayx见下图：0b0b 11, ,yxyx令则函数变为.yabx (0).bxyaealn , ln , ,yyaaxx2. 指数函数指数函数见下图：0b 0b 令则函数变为.yabx (0, 0).bxyaexa3. 指数函数指数函数见下图：0b 0b 1ln , , ln ,yyxaaxyabx则函数变为令lg .yabx4. 对数函数对数函数, lg ,yyxxyabx则函数变为令0b 0b 见右上图xx ( 0).byaxa5. 幂函数幂函数1 ( 0).xyaabe

7、6. S曲线曲线1, , xyxeyyabx则函数变为令见右图1b 1b 01b10b 1b 1b 见下图ln , ln , ln ,yyxxaayabx则有令例2.在某化学反应里,测得生成物浓度y与时间t的数据如下，试建立y关于t的经验公式t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00, 10.20,10.32,10.42,10.50,10.55,10.58,10.60解:ty画出时间 与浓度 的散点图如右。具有图示的图形的曲线很多，本题提供两种形式tbaey 指数

8、函数形式batty双曲线形式都是待定系数其中ba,tbay1lnlntbay1102468101214164567891011ty(1) btyae取指数函数形式时tbay1lnln两边取对数,得1ln , , lnyy taat设 t bay得即为拟合函数2.427 1.0567ab ，解方程组得325.11atey0567. 1325.11最小二乘解为20.11631平方误差为(2) tyatb取双曲线形式时11 abyt得0.0801740.16272ab，用最小二乘法得即16272. 0080174. 0tty21.5621无论从图形还是从平方误差考虑，无论从图形还是从平方误差考虑，在

9、本例中指数函数拟合比在本例中指数函数拟合比双曲线拟合要好。双曲线拟合要好。02468101214164567891011ty02468101214164567891011ty02468101214164567891011ty02468101214164567891011ty平方误差为四、求解矛盾方程组（超定方程组）四、求解矛盾方程组（超定方程组）nmnmnnmmmmbxaxaxabxaxaxabxaxaxa2211222221211121211111,2,)mijjija xbinnm，(，因为nm，所以，方程很可能无解。21121,mjijijnimbxaxxxQ考虑误差平方和考虑方程组即2

10、1121,mjijijnimbxaxxxQ0, 1,2,.kQkmx0211ikmjijijniabxamk, 2 , 1111nmnijjikiikijia x abaTTA AxA b上面的方程组称为原矛盾方程组的正规方程组。此方程组必有解，其解称为原矛盾方程组的最小二乘解。下面我们求使得上式最小的解。例1：求下列矛盾方程组的最小二乘解：422532yxyxyx解：2311 ,21A令 425bAAT12113211321211999bAT4251132122120正规方程组为bAAxATT99911即 yx2120211831yx最小二乘解为1212,nnx xxy yy已知函数在点处函

11、数值为， 来拟合它的多项式用一个次数低于xnm1 mmmxaxaxaax2210设 niiimmyxaaaaQ12210,，使确定maaaa,210最小。五、多项式拟合五、多项式拟合 有时，所给数据不适合用直线或前面所描述的曲线拟合时，可以考虑用多项式拟合。nmnmnnmmmmyxaxaxaayxaxaxaayxaxaxaa22102222221011212110mnnnmmxxxxxxxxxA222221211111系数矩阵为该问题相当于求如下方程的最小二乘解： 01221,mnmiiiQ a a aaxy上述方程组的正规方程组bAAxATTniminiminiminiminiminiini

12、iniiniminiiniixxxxxxxxxxxn121211111131211121maaaa210inimiiniiiniiniiyxyxyxy11211定理定理3：此正规方程组的系数行列式不等于零。：此正规方程组的系数行列式不等于零。012,ma a aa有唯一解。证明：,TmA AA阶方阵的秩矩阵 的秩Am因为秩（ ）,所以系数矩阵不等于零。于是，例题已知函数表如下试用二次多项式来拟合这组数据。2012( )xaa xa x设二次多项式为。为了得到正规方程组，必须先算出以下各和：xi1345678910yi27810 11 11 10 98解：2234, , , , , , .iii

13、iiiiiixyx yxx yxx以上数据可以列表计算如下：11221211237219632781348321612864256451050252501256255611663639621612966711774953934324017810806464051240968998181729729656191088010080010001000053764893813547301725317iixiix y2ix2iix yiy3ix4ix91i012 95338176533813017489381 3017 253173457aaa由上表得到正规方程组求解得：012 1.4597, 3.6053