最小二乘法chap7

Ch7函数逼近与计算,1.引言,预备知识2.函数的最佳平方逼近3.曲线拟和的最小二乘法,1.引言问题的提出插值法是使用插值多项式来逼近未知或复杂函数的，它要求插值函数与被插函数在插值节点上函数值相同，而在其他点上没有要求。在非插值节点上有时函数值会相差很大。我们希望求出便于计算且计算量省的公式近似已知的函数.即:对于函数类A中给定的函数f(x),要求在另一类较简单的便于计算的函数类B中求函数P(x),使P(x)与f(x)之差在某种度量意义下最小.常用的度量方式有:,这就是一致逼近和平方逼近逼近问题.,预备知识内积;内积空间;范数;正交;标准正交函数族;线性无关函数族.,最佳一致逼近多项式,最佳平方逼近多项式,2.函数的最佳平方逼近,最佳平方逼近问题:对若存在使则称是f(x)在子集中的最佳平方逼近函数.此问题等价于求多元函数的最小值.,利用多元函数的极值的必要条件得到法方程组,可以证明此方程组有唯一解,得到而且,是f(x)在子集中的最佳平方逼近函数.,用1,x,x2,xn做基求最佳平方逼近多项式,n较大时,系数矩阵是高度病态的,这时用正交多项式求最佳平方逼近多项式,就不存在病态问题,而且计算简便.,正交多项式在高等数学中介绍付立叶级数时，曾提到函数系1,cosx,sinx,cos2x,sin2x,cosnx,sinnx,任意两个函数乘积在区间-，+上的积分都等于零，则说这个函数系在-，+上是正交的，并称这个函数系为正交函数系。下面给出正交函数系定义：设函数f(x),g(x)a,b,且则称f(x)与g(x)在a,b上带权(x)正交,在a,b上连续的函数0(x),1(x),2(x),.k(x).,满足则称该函数系是在区间a,b上带权(x)正交函数系.下面介绍与上述定义有关的几个概念，然后引出正交多项式的概念，最后再介绍正交多项式的性质以及几种常见的正交多项式。权函数:设a,b是有限或无限区间,(x)是定义在a,b上的非零可积函数，若其满足则称(x)是a,b上的一个权函数。,内积与范数设f(x),g(x)a,b,(x)是a,b上的一个权函数，称为f(x)与g(x)在为a,b上以权函数(x)的内积。称为f(x)的带权(x)的2范数。,正交多项式的性质定理1a,b上带权(x)的正交多项式系gn(x)一定是a,b上线性无关的函数系。定理2设是gn(x)a,b上带权(x)的正交多项式系，则对于任何次数不高于n-1的多项式q(x),总有(q(x),gn(x)=0(n=1,2,）定理3n次正交多项式gn(x)有n个互异实根且全部都在(a,b)内。,常见的正交多项式,勒让德多项式(Legendre)切比雪夫多项式(Chebyshev)拉盖尔多项式(Laguerre)埃尔米特多项式(Hermite),定理4:任何相邻的三个正交多项式,都具有下列递推关系式gn+1(x)=(x-n)gn(x)-ngn-1(x)n=0,1,其中,g0(x)=1,g-1(x)=0,勒让德多项式(Legendre)-1,1,(x)=1三项递推关系:,Tn(x)=cos(narccosx),切比雪夫多项式(Chebyshev),三项递推关系:,拉盖尔多项式(Laguerre)0,+),(x)=e-x,埃尔米特多项式(Hermite)(-,+),(x)=e-x2,取正交多项式做为此时法方程组的系数矩阵为对角阵,方程组的解可表示为进行计算时,用三项递推关系计算正交多项式,同时,计算易于程序设计避免了解线性方程组,不存在病态问题.,3.曲线拟合的最小二乘法,最小二乘原理当由实验提供了大量数据时,不能要求拟合函数在数据点处的偏差,即(i=1,2,m)严格为零,但为了使近似曲线尽量反映所给数据点的变化趋势,需对偏差有所要求.通常要求偏差平方和最小,此即称为最小二乘原理.,最小二乘法的求法,即,在满足一定条件时,可以证明此方程组有唯一解,而且这唯一解就是我们所要找的最小二乘拟和的经验公式.,正规方程,第一步：函数空间的基,，然后列出法方程,第一步：函数空间的基,，然后列出法方程,例：,函数空间的基,，然后列出法方程,例已知如下数据,求经验公式,解,2)用,拟合,鉴赏最小二乘法方法,最小二乘法曲线拟和是实验数据处理的常用方法。最佳平方逼近可以在一个区间上比较均匀的逼近函数且具有方法简单易行，实效性大，应用广泛等特点。但当正规方程阶数较高时，往往出现病态。因此必须谨慎对待和加以巧妙处理。有效方法之一是引入正交多项式以改善其病态性。用正交函数做最小二乘拟合,程序简单,易于实现,不用解线性方程组,只用递推公式,而且当