函数逼近与曲线拟合课件

第4章函数逼近与曲线拟合计算方法第4章函数逼近与曲线拟合计算方法第4章函数逼近与曲线拟合称为逼近的误差或余项。如何在给定精度下，求出计算量最小的近似式，这就是函数逼近要解决的问题

简单的函数

p(x)近似地代替函数

f(x)，是计算数学中最基本的概念和方法之一。近似代替又称为逼近，函数f(x)称为被逼近的函数，p(x)称为逼近函数，两者之差§1函数逼近第4章函数逼近与曲线拟合称为逼近的误差或余项。函数逼近问题的一般提法：

对于函数类A中给定的函数f(x)，要求在另一类较简单的且便于计算的函数类B(

A)中寻找一个函数p(x)，使p(x)与f(x)之差在某种度量意义下最小。

最常用的度量标准：(一)一致逼近以函数f(x)和p(x)的最大误差作为度量误差f(x)－p(x)的“大小”的标准

在这种意义下的函数逼近称为一致逼近或均匀逼近函数逼近问题的一般提法：对于函数类A中给定的函数f对于任意给定的一个小正数>0，如果存在函数p(x)，使不等式成立，则称该函数p(x)在区间[a,b]上一致逼近或均匀逼近于函数f(x)。

(二)平方逼近：采用作为度量误差的“大小”的标准的函数逼近称为平方逼近或均方逼近。

对于任意给定的一个小正数>0，如果存在函成立，则称该函数§2正交多项式一、正交函数系的概念考虑函数系

1,cosx,sinx,cos2x,sin2x,…,connx,sinnx,…

此函数系中任何两个不同函数的乘积在区间[-

,

]上的积分都等于0！

我们称这个函数中任何两个函数在[-

,

]上是正交的，并且称这个函数系为一个正交函数系。§2正交多项式一、正交函数系的概念考虑函数系1,cos若对以上函数系中的每一个函数再分别乘以适当的数，使之成为：那么这个函数系在[-

,

]上不仅保持正交的性质，而且还是标准化的(规范的)若对以上函数系中的每一个函数再分别乘以适当的1．权函数定义

设

(x)定义在有限或无限区间[a,b]上，如果具有下列性质：(1)

(x)≥0，对任意x

[a,b]，(2)积分存在，(n=0,1,2,…)，(3)对非负的连续函数g(x)若

则在(a,b)上g(x)0称

(x)为[a,b]上的权函数

1．权函数定义设(x)定义在有限或无限区间[a,2．内积定义

设f(x)，g(x)

C[a,b]，(x)是[a,b]上的权函数，则称

为f(x)与g(x)在[a,b]上以(x)为权函数的内积。

内积的性质：(1)(f,f)≥0，且(f,f)=0

f=0；(2)(f,g)=(g,f)；

(3)(f1+f2,g)=(f1,g)+(f2,g)；

(4)对任意实数k，(kf,g)=k(f,g)。2．内积定义设f(x)，g(x)C[a,3．正交性定义

设f(x)，g(x)C[a,b]若则称f(x)与g(x)在[a,b]上带权(x)正交。

定义

设在[a,b]上给定函数系{k(x)}

,若满足条件则称函数系{k(x)}是[a,b]上带权(x)的正交函数系，3．正交性定义设f(x)，g(x)C[a若定义中的函数系{k

(x)}为多项式函数系，则称为以(x)为权的在[a,b]上的正交多项式系。并称pn(x)是[a,b]上带权(x)的n次正交多项式。特别地，当Ak1时，则称该函数系为标准正交函数系。若定义中的函数系{k(x)}为多项式函数其中

正交多项式的构造：有递推关系式：证明略其中正交多项式的构造：有递推关系式：证明略利用Schmidt正交化过程，变为正交基就可以将多项式基函数利用Schmidt正交化过程，变为正交基就可以将多项式基函数二、常用的正交多项式1．切比雪夫(чебыщев)多项式定义

称多项式为n次的切比雪夫多项式(第一类)。

二、常用的正交多项式1．切比雪夫(чебыщев)多项式定义切比雪夫多项式的性质：

(1)正交性：由{Tn(x)}所组成的序列是在区间[-1,1]上带权

的正交多项式序列。且切比雪夫多项式的性质：(1)正交性：由{Tn(x)(2)递推关系相邻的三个切比雪夫多项式具有三项递推关系式(3)奇偶性：

切比雪夫多项式Tn(x)，当n为奇数时为奇函数；n为偶数时为偶函数。

(2)递推关系相邻的三个切比雪夫多项式具有三项递推关系式((4)Tn(x)在区间[-1,1]上有n个不同的零点(5)Tn(x)在[-1,1]上有n+1个不同的极值点使Tn(x)轮流取得最大值1和最小值-1。(4)Tn(x)在区间[-1,1]上有n个不同的零点(6)切比雪夫多项式的极值性质Tn(x)的最高次项系数为2n-1(n=1,2,…)。

定理

在-1≤x≤1上，在首项系数为1的一切n次多项式Hn(x)中与零的偏差最小，且其偏差为即，对于任何，有(6)切比雪夫多项式的极值性质Tn(x)的最高次项系2．勒让德(Legendre)多项式定义

多项式称为n次勒让德多项式。勒让德多项式的性质：(1)正交性勒让德多项式序列{pn(x)}是在[-1,1]上带权(x)=1的正交多项式序列。2．勒让德(Legendre)多项式定义多项式称为n次(2)递推关系相邻的三个勒让德多项式具有三项递推关系式：(2)递推关系相邻的三个勒让德多项式具有三项递推关系式：(3)奇偶性：

当n为偶数时，pn(x)为偶函数；当n为奇数时，pn(x)为奇函数。(4)pn(x)的n个零点都是实的、相异的，且全部在区间[-1,1]内部。(3)奇偶性：当n为偶数时，pn(x)为偶函数；当n为3．其它常用的正交多项式(1)第二类切比雪夫多项式定义

称为第二类切比雪夫多项式。3．其它常用的正交多项式(1)第二类切比雪夫多项式定义①{un(x)}是在区间[-1,1]上带权函数的正交多项式序列。②相邻的三项具有递推关系式：①{un(x)}是在区间[-1,1]上带权函数(2)拉盖尔(Laguerre)多项式定义

称多项式为拉盖尔多项式。(2)拉盖尔(Laguerre)多项式定义称多项式①{Ln(x)}是在区间[0,+∞]上带权

(x)=e-x

的正交多项式序列。

②相邻的三项具有递推关系式：

①{Ln(x)}是在区间[0,+∞]上带权(x)(3)埃尔米特(Hermite)多项式定义

称多项式

为埃尔米特多项式。(3)埃尔米特(Hermite)多项式定义称多项的正交多项式序列。①{Hn(x)}是在区间(-,+)上带权函数②相邻的三项具有递推关系式：的正交多项式序列。①{Hn(x)}是在区间(-,+§3

最佳一致逼近一、最佳一致逼近的概念定义

设函数f(x)是区间[a,b]上的连续函数,对于

任意给定的

>0，如果存在多项式p(x)，使不等式成立，则称多项式p(x)在区间[a,b]上一致逼近(或均匀逼近)于函数f(x)。§3最佳一致逼近一、最佳一致逼近的概念定义维尔斯特拉斯定理若f(x)是区间[a,b]上的连续函数，则对于任意

>0，总存在多项式p(x)，使对一切a≤x≤b有维尔斯特拉斯定理若f(x)是区间[a,b]上§4最佳平方逼近1．函数系的线性相关性定义

若函数，在区间[a,b]上连续，如果关系式

当且仅当时才成立，则称函数在[a,b]上是线性无关的，否则称线性相关。§4最佳平方逼近1．函数系的线性相关性设是[a,b]上线性无关的连续函数,a0,a1,…,an是任意实数，则并称是生成集合的一个基底。的全体是C[a,b]的一个子集，记为设定理

连续函数在[a,b]上线性无关的充分必要条件是它们的格拉姆(Gram)行列式Gn

0，其中定理连续函数在[a,b]上线性无关的充分必2．广义多项式设函数系{，…}线性无关，则其有限项的线性组合称为广义多项式。2．广义多项式设函数系{二、函数的最佳平方逼近定义

对于给定的函数，若n次多项式满足关系式则称S*(x)为f(x)在区间[a,b]上的n次最佳平方逼近多项式。二、函数的最佳平方逼近定义对于给定定义对于给定的函数如果存在使

则称S*(x)为f(x)在区间[a,b]上的最佳平方逼近函数。定义对于给定的函数如果存在使则称S*(x)为f(求最佳平方逼近函数的问题可归结为求它的系数使多元函数取得极小值。I(a0,a1,…，an)是关于a0,a1,…，an的二次函数，利用多元函数取得极值的必要条件，求最佳平方逼近函数的问题取(k=0,1,2,…,n)得方程组最小二乘！(k=0,1,2,…,n)得方程组最小二乘！如采用函数内积记号方程组可以简写为如采用函数内积记号方程组可以简写为写成矩阵形式为法方程组！

写成矩阵形式为法方程组！由于0,1,…,n线性无关，故Gn

0，于是上述方程组存在唯一解

从而肯定了函数f(x)在中如果存在最佳平方逼近函数，则必是由于0,1,…,n线性无关，取，则要在中求次最佳平方逼近多项式此时

若用H表示对应的矩阵，即

取（3.16）称为希尔伯特(Hilbert)矩阵，记，则

的解即为所求。（3.16）称为希尔伯特(Hilbert)矩阵，的改进：若能取函数族={0(x),1(x),…,n(x)}，使得任意一对i(x)和j(x)两两（带权）正交，则B就化为对角阵！

这时直接可算出ak=改进：若能取函数族={0(x),1(x),…,例2设，求[0，1]上的一次最佳平方逼近多项式。解由方程组，解出例2设，求[0，1]上的一次平方误差最大误差平方误差最大误差一、问题的提法已知一个函数的数值表xx1x2…xmyy1y2…ym求一个简单易算的近似函数

p(x)f(x)。§5曲线拟合的最小二乘法一、问题的提法已知一个函数的数值表xx1x2…xmyy1y但是(1)m

通常很大；(2)yi本身是测量值，不准确，即yi

f(xi)。这时没必要使p(xi)=yi,而只要p(xi)yi

总体上尽可能小。常见做法：

使最小太复杂

使最小不可导，求解困难

使最小最小二乘法但是(1)m通常很大；(2)yi本身是测量值，不定义对于给定的函数如果存在使

达到最小。则把P(x)称为f(x)的最小二乘的拟合曲线定义对于给定的函数如果存在使达到最小。则把P(x求的问题可归结为求它的系数a0,a1,…,am

使多元函数取得极小值。Q(a0,a1,…，am)是关于a0,a1,…，am的二次函数，利用多元函数取得极值的必要条件，求的问题取得极小值。(k=0,1,2,…,n)得方程组(k=0,1,2,…,n)得方程组如采用函数内积记号方程组可以简写为如采用函数内积记号方程组可以简写为写成矩阵形式为正则方程组！

写成矩阵形式为正则方程组！由于0,1,…,n线性无关，故Gn

0，于是上述方程组存在唯一解

从而肯定了函数f(x)在中存在由于0,1,…,n线性无关，例：给定函数值表，求f(x)的最小二乘拟合函数s*(x)

xi0.240.650.951.241.73yi0.23-0.26-1.10-0.450.27解：在坐标平面上描出上表中的数据点，根据点的分布情况，选取xi2.012.232.522.772.99yi0.10-0.290.240.561.00例：给定函数值表，求f(x)的最小二乘拟合函数s*可得法方程解得所以设可得法方程解得所以设注：最小二乘问题中，如何选择数学模型很重要，即如何选取函数空间，通常需要根据物理意义，或所给数据的分布情况来选取合适的数学模型。注：最小二乘问题中，如何选择数学模型很重要，即如何选取函数空

选择直线来拟合数据称为直线拟合。假设直线为则拟合误差使拟合误差最小的应满足线性拟合选择直线来拟合数据这个方程组称为直线拟合的法方程组，解此方程组就可以确定，从而得到拟合直线函数逼近与曲线拟合课件Example及均方误差Example及均方误差函数逼近与曲线拟合课件例设数据如下：试用直线拟合这组数据，计算过程保留4位小数

解：法方程组为：所求直线为：kxkykxk2xkyk11101102369183441616452251056136619238760例设数据如下：kxkykxk2xkyk1多项式拟合

对给定的数据组，用一个m次的多项式拟合这组数据，则此多项式可假设为根据最小二乘原理令多项式拟合法方程组为：共可以得到m+1个方程，每一个方程的左边有m+1项。请大家找一找，这m+1个方程的左右两边各有什么规律？怎样来帮助记忆。法方程组为：此时

称为数据拟合多项式，上述拟合称为多项式拟合。对称矩阵此时称为数据拟合例如，二次多项式拟合为：法方程组为：三次拟合多项式为：法方程组为：

例如，二次多项式拟合为：例：用来拟合

解：0(x)=1，1(x)=x，2(x)=x2例：用Itissosimple!Whatcanpossiblygowrong?Itissosimple!Whatcanpos指数拟合

如果给定的数据组在直角坐标系中的分布近似指数曲线，则可以考虑用指数函数去拟合这组数据。设则为线性函数即点的分布近似于直线，可先用直线拟合数据组得，则指数拟合ExampleExample函数逼近与曲线拟合课件第4章函数逼近与曲线拟合计算方法第4章函数逼近与曲线拟合计算方法第4章函数逼近与曲线拟合称为逼近的误差或余项。如何在给定精度下，求出计算量最小的近似式，这就是函数逼近要解决的问题

简单的函数

p(x)近似地代替函数

f(x)，是计算数学中最基本的概念和方法之一。近似代替又称为逼近，函数f(x)称为被逼近的函数，p(x)称为逼近函数，两者之差§1函数逼近第4章函数逼近与曲线拟合称为逼近的误差或余项。函数逼近问题的一般提法：

对于函数类A中给定的函数f(x)，要求在另一类较简单的且便于计算的函数类B(

A)中寻找一个函数p(x)，使p(x)与f(x)之差在某种度量意义下最小。

最常用的度量标准：(一)一致逼近以函数f(x)和p(x)的最大误差作为度量误差f(x)－p(x)的“大小”的标准

在这种意义下的函数逼近称为一致逼近或均匀逼近函数逼近问题的一般提法：对于函数类A中给定的函数f对于任意给定的一个小正数>0，如果存在函数p(x)，使不等式成立，则称该函数p(x)在区间[a,b]上一致逼近或均匀逼近于函数f(x)。

(二)平方逼近：采用作为度量误差的“大小”的标准的函数逼近称为平方逼近或均方逼近。

对于任意给定的一个小正数>0，如果存在函成立，则称该函数§2正交多项式一、正交函数系的概念考虑函数系

1,cosx,sinx,cos2x,sin2x,…,connx,sinnx,…

此函数系中任何两个不同函数的乘积在区间[-

,

]上的积分都等于0！

我们称这个函数中任何两个函数在[-

,

]上是正交的，并且称这个函数系为一个正交函数系。§2正交多项式一、正交函数系的概念考虑函数系1,cos若对以上函数系中的每一个函数再分别乘以适当的数，使之成为：那么这个函数系在[-

,

]上不仅保持正交的性质，而且还是标准化的(规范的)若对以上函数系中的每一个函数再分别乘以适当的1．权函数定义

设

(x)定义在有限或无限区间[a,b]上，如果具有下列性质：(1)

(x)≥0，对任意x

[a,b]，(2)积分存在，(n=0,1,2,…)，(3)对非负的连续函数g(x)若

则在(a,b)上g(x)0称

(x)为[a,b]上的权函数

1．权函数定义设(x)定义在有限或无限区间[a,2．内积定义

设f(x)，g(x)

C[a,b]，(x)是[a,b]上的权函数，则称

为f(x)与g(x)在[a,b]上以(x)为权函数的内积。

内积的性质：(1)(f,f)≥0，且(f,f)=0

f=0；(2)(f,g)=(g,f)；

(3)(f1+f2,g)=(f1,g)+(f2,g)；

(4)对任意实数k，(kf,g)=k(f,g)。2．内积定义设f(x)，g(x)C[a,3．正交性定义

设f(x)，g(x)C[a,b]若则称f(x)与g(x)在[a,b]上带权(x)正交。

定义

设在[a,b]上给定函数系{k(x)}

,若满足条件则称函数系{k(x)}是[a,b]上带权(x)的正交函数系，3．正交性定义设f(x)，g(x)C[a若定义中的函数系{k

(x)}为多项式函数系，则称为以(x)为权的在[a,b]上的正交多项式系。并称pn(x)是[a,b]上带权(x)的n次正交多项式。特别地，当Ak1时，则称该函数系为标准正交函数系。若定义中的函数系{k(x)}为多项式函数其中

正交多项式的构造：有递推关系式：证明略其中正交多项式的构造：有递推关系式：证明略利用Schmidt正交化过程，变为正交基就可以将多项式基函数利用Schmidt正交化过程，变为正交基就可以将多项式基函数二、常用的正交多项式1．切比雪夫(чебыщев)多项式定义

称多项式为n次的切比雪夫多项式(第一类)。

二、常用的正交多项式1．切比雪夫(чебыщев)多项式定义切比雪夫多项式的性质：

(1)正交性：由{Tn(x)}所组成的序列是在区间[-1,1]上带权

的正交多项式序列。且切比雪夫多项式的性质：(1)正交性：由{Tn(x)(2)递推关系相邻的三个切比雪夫多项式具有三项递推关系式(3)奇偶性：

切比雪夫多项式Tn(x)，当n为奇数时为奇函数；n为偶数时为偶函数。

(2)递推关系相邻的三个切比雪夫多项式具有三项递推关系式((4)Tn(x)在区间[-1,1]上有n个不同的零点(5)Tn(x)在[-1,1]上有n+1个不同的极值点使Tn(x)轮流取得最大值1和最小值-1。(4)Tn(x)在区间[-1,1]上有n个不同的零点(6)切比雪夫多项式的极值性质Tn(x)的最高次项系数为2n-1(n=1,2,…)。

定理

在-1≤x≤1上，在首项系数为1的一切n次多项式Hn(x)中与零的偏差最小，且其偏差为即，对于任何，有(6)切比雪夫多项式的极值性质Tn(x)的最高次项系2．勒让德(Legendre)多项式定义

多项式称为n次勒让德多项式。勒让德多项式的性质：(1)正交性勒让德多项式序列{pn(x)}是在[-1,1]上带权(x)=1的正交多项式序列。2．勒让德(Legendre)多项式定义多项式称为n次(2)递推关系相邻的三个勒让德多项式具有三项递推关系式：(2)递推关系相邻的三个勒让德多项式具有三项递推关系式：(3)奇偶性：

当n为偶数时，pn(x)为偶函数；当n为奇数时，pn(x)为奇函数。(4)pn(x)的n个零点都是实的、相异的，且全部在区间[-1,1]内部。(3)奇偶性：当n为偶数时，pn(x)为偶函数；当n为3．其它常用的正交多项式(1)第二类切比雪夫多项式定义

称为第二类切比雪夫多项式。3．其它常用的正交多项式(1)第二类切比雪夫多项式定义①{un(x)}是在区间[-1,1]上带权函数的正交多项式序列。②相邻的三项具有递推关系式：①{un(x)}是在区间[-1,1]上带权函数(2)拉盖尔(Laguerre)多项式定义

称多项式为拉盖尔多项式。(2)拉盖尔(Laguerre)多项式定义称多项式①{Ln(x)}是在区间[0,+∞]上带权

(x)=e-x

的正交多项式序列。

②相邻的三项具有递推关系式：

①{Ln(x)}是在区间[0,+∞]上带权(x)(3)埃尔米特(Hermite)多项式定义

称多项式

为埃尔米特多项式。(3)埃尔米特(Hermite)多项式定义称多项的正交多项式序列。①{Hn(x)}是在区间(-,+)上带权函数②相邻的三项具有递推关系式：的正交多项式序列。①{Hn(x)}是在区间(-,+§3

最佳一致逼近一、最佳一致逼近的概念定义

设函数f(x)是区间[a,b]上的连续函数,对于

任意给定的

>0，如果存在多项式p(x)，使不等式成立，则称多项式p(x)在区间[a,b]上一致逼近(或均匀逼近)于函数f(x)。§3最佳一致逼近一、最佳一致逼近的概念定义维尔斯特拉斯定理若f(x)是区间[a,b]上的连续函数，则对于任意

>0，总存在多项式p(x)，使对一切a≤x≤b有维尔斯特拉斯定理若f(x)是区间[a,b]上§4最佳平方逼近1．函数系的线性相关性定义

若函数，在区间[a,b]上连续，如果关系式

当且仅当时才成立，则称函数在[a,b]上是线性无关的，否则称线性相关。§4最佳平方逼近1．函数系的线性相关性设是[a,b]上线性无关的连续函数,a0,a1,…,an是任意实数，则并称是生成集合的一个基底。的全体是C[a,b]的一个子集，记为设定理

连续函数在[a,b]上线性无关的充分必要条件是它们的格拉姆(Gram)行列式Gn

0，其中定理连续函数在[a,b]上线性无关的充分必2．广义多项式设函数系{，…}线性无关，则其有限项的线性组合称为广义多项式。2．广义多项式设函数系{二、函数的最佳平方逼近定义

对于给定的函数，若n次多项式满足关系式则称S*(x)为f(x)在区间[a,b]上的n次最佳平方逼近多项式。二、函数的最佳平方逼近定义对于给定定义对于给定的函数如果存在使

则称S*(x)为f(x)在区间[a,b]上的最佳平方逼近函数。定义对于给定的函数如果存在使则称S*(x)为f(求最佳平方逼近函数的问题可归结为求它的系数使多元函数取得极小值。I(a0,a1,…，an)是关于a0,a1,…，an的二次函数，利用多元函数取得极值的必要条件，求最佳平方逼近函数的问题取(k=0,1,2,…,n)得方程组最小二乘！(k=0,1,2,…,n)得方程组最小二乘！如采用函数内积记号方程组可以简写为如采用函数内积记号方程组可以简写为写成矩阵形式为法方程组！

写成矩阵形式为法方程组！由于0,1,…,n线性无关，故Gn

0，于是上述方程组存在唯一解

从而肯定了函数f(x)在中如果存在最佳平方逼近函数，则必是由于0,1,…,n线性无关，取，则要在中求次最佳平方逼近多项式此时

若用H表示对应的矩阵，即

取（3.16）称为希尔伯特(Hilbert)矩阵，记，则

的解即为所求。（3.16）称为希尔伯特(Hilbert)矩阵，的改进：若能取函数族={0(x),1(x),…,n(x)}，使得任意一对i(x)和j(x)两两（带权）正交，则B就化为对角阵！

这时直接可算出ak=改进：若能取函数族={0(x),1(x),…,例2设，求[0，1]上的一次最佳平方逼近多项式。解由方程组，解出例2设，求[0，1]上的一次平方误差最大误差平方误差最大误差一、问题的提法已知一个函数的数值表xx1x2…xmyy1y2…ym求一个简单易算的近似函数

p(x)f(x)。§5曲线拟合的最小二乘法一、问题的提法已知一个函数的数值表xx1x2…xmyy1y但是(1)m

通常很大；(2)yi本身是测量值，不准确，即yi

f(xi)。这时没必要使p(xi)=yi,而只要p(xi)yi

总体上尽可能小。常见做法：

使最小太复杂

使最小不可导，求解困难

使最小最小二乘法但是(1)m通常很大；(2)yi本身是测量值，不定义对于给定的函数如果存在使

达到最小。则把P(x)称为f(x)的最小二乘的拟合曲线定义对于给定的函数如果存在使达到最小。则把P(x求的问题可归结为求它的系数a0,a1,…,am

使多元函数取得极小值。Q(a0,a1,…，am)是关于a0,a1,…，am的二次函数，利用多元函数取得极值的必要条件，求的问题取得极小值。(k=0,1,2,…,n)得方程组(k=0,1,2,…,n)得方程组如采用函数内积记号方程组可以简写为如采用函数内积记号方程组可以简写为写成矩阵形式为正则方程组！