数值分析一到七章部分课件老仅作参考第五章插值与拟合

1、5.8 曲线拟合的最小二乘法曲线拟合的最小二乘法一、曲线拟合一、曲线拟合 插值法要求插值曲线严格通过每个数据点，而数插值法要求插值曲线严格通过每个数据点，而数据通常带有误差。所以据通常带有误差。所以插值函数将保留一切插值函数将保留一切测量误差测量误差！导致插值函数不能很好的反应数据的变化趋势。导致插值函数不能很好的反应数据的变化趋势。通常有以下三种衡量的标准：通常有以下三种衡量的标准： 曲线拟合从数据集曲线拟合从数据集 中找出总体规律，并构中找出总体规律，并构造一条能较好的反应这种规律的曲线造一条能较好的反应这种规律的曲线P (x)，这里不要，这里不要求求P (x)通过所有的数据点，但希望误差

2、通过所有的数据点，但希望误差 能按某种标准最小。能按某种标准最小。(,)iixy()iiiP xy 通常有以下三种衡量的标准：通常有以下三种衡量的标准：101 ( ) nii 122203( ) nii 02( ) maxii n 1-范数范数无穷范数无穷范数2-范数范数实际中经常采用实际中经常采用(3)中的中的2-范数作为误差的衡量标准，范数作为误差的衡量标准，此时的曲线拟合方法叫做此时的曲线拟合方法叫做曲线拟合的最小二乘法曲线拟合的最小二乘法。定义定义 设函数系设函数系)(,),(),(10 xxxn在区间在区间a,b上上连续，如果关系式连续，如果关系式, 0)()()(1100baxxx

3、xnn当且仅当当且仅当010n时才成立，则称函数系时才成立，则称函数系)(,),(),(10 xxxn是线性无关的，否则称为线性相关。是线性无关的，否则称为线性相关。)(,),(),(10 xxxn在区间在区间a,b上线性无关的充要条件是上线性无关的充要条件是01000100nnnnnaaaaaa), 1 , 0,(,)()(njidxxxabajiij行列式行列式其中其中)()()()(| )(1100 xcxcxcxyxyspannn 称称是由函数系是由函数系)(,),(),(10 xxxn生成的生成的函数类。函数类。记记)(,),(),(10 xxxn称为基函数称为基函数。nnxxxxx

4、x, 1)(,),(),(210为nnnxcxcxccxpxP2210)()(为多项式函数类。为多项式函数类。若取若取则则定义定义 对于给定的数据集对于给定的数据集 (xi, yi), i=0,1,m. 若取若取)(, )()(*0*xyxcxynjjj20)(20*)(min)(miiixymiiiyxyyxy使得使得则称曲线则称曲线 y=y*(x) 是函数类是函数类中按最小二乘原则确定中按最小二乘原则确定的对于数据的对于数据 (xi, yi), i=0,1,m的拟合曲线的拟合曲线.并称并称.)(02*为拟合的均方误差miiiyxy（1）（2） 要确定最小二乘拟合曲线要确定最小二乘拟合曲线

5、y*(x) ，就是要确定（，就是要确定（1）式中的系数式中的系数 .,*1*0nccc由由(2)式可知，就是求多元函数式可知，就是求多元函数miiinnimiiinyxcxcyxycccg02000210)()()(),(的最小值点的最小值点).,(*1*0nccc由多元函数取极值的必要条件，有由多元函数取极值的必要条件，有nkxyxcxccgmiikiinnik, 1 , 00)()()(2000(3)(4)从而有从而有), 1 , 0(, )()()()()()()(00011000nkxyxxcxxcxxcmiikimiikinnmiikimiiki(5)将方程组（将方程组（5）写成矩阵

6、形式：）写成矩阵形式：yAAcATTmnmnmmnnyyyyccccxxxxxxxxxA1010101111000100,)()()()()()()()()(6)称（称（6）式（即）式（即(5)式）为法方程组式）为法方程组或正规方程组或正规方程组记记Tmjjjjxxx)(,),(),(10nA,10 nnnnnnnnTAA,1011110001001010 kjmkkijixx0,)(,),(),(10 xxxnn,10(向量内积向量内积)函数系函数系线性无关性线性无关性, 可以保证可以保证向量向量线性无关线性无关.进而可以保证进而可以保证0)det(AAT则有则有从而保证方程组从而保证方程组

7、(6)有惟一解有惟一解作曲线拟合，选择基函数作曲线拟合，选择基函数)(,),(),(10 xxxn至关重要，通常需要根据具体问题的物理背景或坐标至关重要，通常需要根据具体问题的物理背景或坐标(xi, yi) (i=0,1,m)的分布情况去选择（有时要凭经验的分布情况去选择（有时要凭经验)用最小二乘法作曲线拟合的步骤用最小二乘法作曲线拟合的步骤:(1) 根据数据根据数据 在坐标系中描点，观察点的分在坐标系中描点，观察点的分布规律，确定拟合函数类型布规律，确定拟合函数类型( ,)iix y（2）写出正则方程组）写出正则方程组(6)并求解，得到系数并求解，得到系数c0,c1,cn)()()()(11

8、00 xcxcxcxynn(3) 写出拟合写出拟合二、线性拟合模型二、线性拟合模型 线性模型是指线性模型是指, 取拟合曲线取拟合曲线 y(x) 为基函数为基函数)(,),(),(10 xxxn的线性组合，即的线性组合，即)()()()(1100 xcxcxcxynn线性模型中最简单的是多项式函数拟合线性模型中最简单的是多项式函数拟合例例1 已知数据如下：已知数据如下：xi -2 -1 0 1 2yi -0.1 0.1 0.4 0.9 1.6求形如的求形如的 最小二乘拟合曲线最小二乘拟合曲线2210 xcxccy解解 由于拟合曲线的形式为由于拟合曲线的形式为2210 xcxccy所以基函数为所以

9、基函数为2210)(,)(, 1)(xxxxx6 . 19 . 04 . 01 . 01 . 0,421111001111421)()()()()()()()()()()()()()()(423140323130222120121110020100yxxxxxxxxxxxxxxxA,3401001001005AAT0 . 72 . 49 . 2yAT计算出计算出所以法方程组所以法方程组 ATAc = ATy 为为 0 . 72 . 49 . 23401001001005210ccc解出解出0857. 0,42. 0,4086. 0210ccc所以所求最小二乘拟合曲线为所以所求最小二乘拟合曲线为

10、20857. 042. 04086. 0 xxy例例2 已知数据如下已知数据如下：xi 1 2 5 10 yi 8 7 10 21求形如的求形如的 最小二乘拟合曲线最小二乘拟合曲线xbaxy解解 由于拟合曲线的形式由于拟合曲线的形式为为所以基函数为所以基函数为xxxx1)(,)(10 xbaxy201078,1011051521211yA,3 . 144130AAT6 .15282yAT计算出计算出所以法方程组所以法方程组 ATAc = ATy 为为 6 .152823 . 144130ba解出解出88. 5,988. 1ba所以所求最小二乘拟合曲线为所以所求最小二乘拟合曲线为xxy88. 5

11、988. 1三、非线性拟合模型三、非线性拟合模型1. 指数函数拟合指数函数拟合 若选取拟合函数为指数函数若选取拟合函数为指数函数 y=aebx(a, b为待定常数为待定常数), 这是一个关于这是一个关于a, b的非线性模型。的非线性模型。 一般处理是通过取对数将其变换成线性模型，然后再一般处理是通过取对数将其变换成线性模型，然后再用前面介绍的线性模型方法求解，最后还原指数模型。用前面介绍的线性模型方法求解，最后还原指数模型。对对 y=aebx 两边取对数：两边取对数：bxay lnln于是令,ln,ln10bcacyyxccy10这是一个关于这是一个关于c0, c1 的线性模型。的线性模型。原

12、来的已知数据原来的已知数据(xi, yi) (i=0,1,m)，经取对数后变，经取对数后变成一组新数据成一组新数据iiiiyymiyxln), 1 , 0(,这里对这组新数据求形如对这组新数据求形如xccy10的拟合曲线。的拟合曲线。最后还原指数函数最后还原指数函数xccxccyeeeey1010.例例 已知数据如下：已知数据如下： xi 1 2 3 4 5yi 2.44 3.05 3.59 4.41 5.46求形如求形如 y=aebx 的拟合曲线。的拟合曲线。解解 对对 y=aebx 两边取对数得两边取对数得bxay lnln则拟合曲线为令,ln,ln10bcacyyxccy10对对yi 取

13、对数后，原数据变为新数据如下：取对数后，原数据变为新数据如下：697. 1484. 1278. 1115. 1892. 0ln54321iiiyyx对此新数据，用直线对此新数据，用直线xccy10作最小二乘拟合。作最小二乘拟合。这时基函数这时基函数xxx)(, 1)(10,5141312111A,10Tccc Ty697. 1,484. 1,278. 1,115. 1,892. 0,555155AAT377.21466. 6yAT所以法方程组所以法方程组 ATAc = ATy 为为 377.21466. 6551515510cc0.1997c0.6695,c10解出xy1997. 06695. 0 xyeey1997. 06695. 0 xey1997. 09532. 1即即2. 幂函数拟合幂函数拟合 取拟合曲线为取拟合曲线为y=axb（a, b为待定常数为待定常数) , 这是一个这是一个关于关于a, b的非线性模型。的非线性模型。