第三章(曲线拟合的最小二乘法-2)

iiii#第三章曲线拟合的最小二乘法(2学时)一、曲线拟合的最小二乘法根据一组给定的实验数据(X,y),i=1,…,m(给出图示)，求出y=f(x)的函数关系ii(1)观测数据本身有误差(2)反映实验数据规律的数学模型问题特点：所给数据本身不一定可靠，个别数据的误差甚至可能很大，但给出的数据很大。研究课题：设法构造一条曲线(所谓拟合曲线)反映所给数据点总的趋势，以消除其局部波动设一组给定的实验数据(x,y),i=1,…,m，与插值问题一样是为了求出y=f(x)的近似函数关系，ii不同于插值问题，不要求通过点(x,y),i=1,…,m(否则将保留着一切观测误差)，只要求在给定点x上iii的误差最小，即所谓的构造一条最佳拟合函数曲线9*(x):(节点i处偏差，误差，残差)5=9*(x)-y(i=1,…,m)(来源于回归分析词语)iii最佳标准：(1)max5,|=min:节点残差绝对值的最大达到最小(不易计算)1<i<m1瓦|5」=min:使残差绝对值和最小(不易计算)2)3)ii=1迟52=min:残差平方和值达到最小(或称平方误差，常用，最小二乘拟合)ii=1y=s(x)(用线性讲解)III用…，mL假设拟合函数形式为即XOXjXirX定义1：给定数据(丄，y),i=1,25T0…9(x)=乙a9(x)=a9(x)+a9(x)+…+a9(x)，这里{9(x)}n为已知的线性无关函数。kk0册011nnkk=0求系数a*,a*,…,a*，使得：01圧“S(a,a，…,a)丄[9(x)-y]2丄[工a9(x)-y]2=min取最小值。称01niikkiii=1i=1k=09*(x)=Ha*9(x)为拟合函数或经验公式，(求最小二乘拟合曲线即为求解多元函数极值问题)kkk=0若9(x)=xk,k=0,1,…,n时，即9(x)eH(x)时称其为最小二乘拟合多项式kn注：若{9(x)}n满足：c9(x)+c9(x)4卜c9(x)=0oc=c=…=c=0kk=00011nn01n则称9(x),9(x),…,9(x)是n+1个线性无关函数，如9(x)=xk,k=0,1,…,n01nk二、最小二乘拟合多项式的求法如：m=4，n=2//注法方程系数矩阵不但对称，且次对角线元素也相等(x,y),(x,y),(x,y),(x,y),9(x)=a+ax+ax21122334401S=S(a,a,a)=2[(a+ax+ax2)一y]201201i2ii=12根据极值点的必要条件，有)dS24=2[(a+ax+ax2)一y]=00da0i=1竺=2Vda

dsSda22[(a+ax+ax2)一y]・x=02iii1ii=1=22[(a+ax+ax2)一y]-x2=001i2iiii=1a2+a2x+a01i2a2x+a2x2+a0i1i2a2i4=1x2+aax2+a0ii=12i=41x3+ax3+a1ii=124x2=24yiii2=41x3=i2=41i

2i4=1x4=2i=412i=1xyiix2yiii=1i=1一般地：axj]xk=0o22axj+k

jiijij=0i=1j=0=2yxk,k=0,1,…,niii=1a0a迟0i=1mmmm+ax+…+axn=y1imiix+a2x2++a2xn+1=2mi1imi=1i=1xyiii=1i=12mx2ii=1mmm+axn+1+…+ax2n=1imii=1i=1a2xn0i法方程组，见书P74)xnyiii=12xnii=12xn+1ii=1定理1：以上法方程组在亠互异时有解存在且唯一,而且其解即为S(a0,ai'…,aJ仝即(x)-y」2=min的解(使平方误差取最小的极小点)niii=1注：此时关于系数a,a，…,a的法方程是病态方程，可考虑分段低次拟合(n<3).01n例1、知一组实验数据如表所示.i1234xi2468yi2112840试求最小二乘拟合曲线.解：作散点图，如图6所示，说明它可用线性函数作曲线拟合，即选择形如申(x)=a+ax作01为拟合曲线.这里申(x)=span{1,x},m=4,n=1，故法方程=工yi=24a+(2x)a0i1(2x)a+(2x2)ai0i1i=1i=1I4a+20a=8101，得a=—12.5,a=6.55120a+120a=53601xyi01i=1于是所求的最小二乘拟合曲线为：申(x)=-12.5+6.55x例2、求下列数据(x,y)(i=0,l,2,3,4,5)对应的最小二乘拟合抛物线:i123456x012345y.i531123解：做散点图，接近抛物线，因此申(x)=a+ax+ax2012解：做散点图，接近抛物线，因此申(x)=a+ax+ax2012a工1+a£x+a£x2=£y01i2iii=1—1w_i=1亠1a乙x+a乙x2+a.0i1i2ia£x2+a£x3+a£x4

0i1i2ii=1i=1i=1法方程组为：＜£x3=£x・yii£x2・yiii=1012*15a+55a+225a=31，从而a=4.7143,a=—2.7857,a=0.512201255a+22a5+97a9=123012从而9(x)=4.7143—2.7857x+0.5x2三、非线性模型的线性化定义2：若拟合函数9(x)与待定参数a,a，…,a为线性关系，就称其为线性最小二乘拟合01n若拟合函数9(x)与待定参数a,a,...,a为非线性关系，就称其为非线性最小二乘拟合

01n非线性模型有时可经过变换可化为线性模型，这些也应按线性模型处理。(如下)例3、给定数据(x,y)(i=0,1,2,3,4,5)如下：""i1i12345x1.001.251.501.752.00yi5.105.796.537.458.46求y=9(x)=aebx的最小二乘拟合曲线.(指数模型)解：y=9(x)=aebx不是多项式，但两端取对数得Iny=Ina+bx.若令y=lny,A=lna，则有y=A+bx，它是线性最小二乘拟合问题，为求得A,b,先将(x,y)化为(x,丁)•转化后的数据表为iiiiXi1.001.251.501.752.00yi1.6291.7561.8762.0082.135故有法方程：5A+(£