函数的最佳逼近

关于函数的最佳逼近第一页，共七十五页，2022年，8月28日12/17/20221第三章函数的最佳逼近§1最佳逼近问题一、函数的逼近方法关于函数的n次多项式逼近方法，已知有下面的几种：1.Taylor展式如果误差为第二页，共七十五页，2022年，8月28日12/17/20222第三章函数的最佳逼近2.插值多项式

同为n次多项式，哪一个逼近效果更好呢？这时可以建立一个度量标准来进行度量。在所建立的度量标准之下，就可以给出最佳的n次逼近多项式。注：除了用多项式来逼近一个函数f(x),也可以用其它具有某种共同特征的函数来逼近f(x)

，并求出其相应的最佳逼近。例如，第三页，共七十五页，2022年，8月28日12/17/20223第三章函数的最佳逼近3.最佳逼近问题

给定函数空间X

中的一个子集合

Φ，对于某一已知函数f(x)∈X，在Φ

中寻求一个函数p(x)作为函数f(x)关于某个度量标准下的最佳逼近函数,

称之为最佳逼近问题。X

本章我们主要考虑连续函数空间X=C[a,b]上的最佳逼近问题，这时的子集合Φ可以取为由具有某种共同特征的函数组成，例如多项式函数、三角函数、指数函数、分式有理函数等。

同时，还需要给出连续函数空间上的一个度量标准，下面先通过内积给出平方范数。p(x)从总体上更能反映f(x)的特性或总体上其偏差按某种度量达到最小第四页，共七十五页，2022年，8月28日12/17/20224第三章函数的最佳逼近二、连续函数的平方范数

已知所有连续函数构成的集合C[a,b]是一个线性空间，对于C[a,b]中的任意函数

f(x)、g(x)，定义实数可以证明此实数满足性质：这时，称

(f,g)

为

f(x)

与

g(x)的内积。(1).(f,g)=(g,

f);(2).(αf,g)=α(

f,g),α∈R;(3).(f+g,h)=(f,h)+(g,h);(4).(f,f)≥0,当且仅当f=0时(f,f)=0

第五页，共七十五页，2022年，8月28日12/17/20225第三章函数的最佳逼近为函数

f(x)

的平方（欧氏）范数，且满足以下性质：

给出了函数的范数，便给出了函数的一个度量标准，在此度量标准之下，就可以找出f(x)

在不同函数类中的最佳逼近。下面就来考虑这一最佳逼近问题的解决。并称（3.1）（1）‖f‖2≥0,‖f‖2

=0,当且仅当

f=0；（2）‖cf‖2=|c|‖f‖2;

（3）‖f+g‖2≤‖f‖2+‖g‖2;

无穷范数第六页，共七十五页，2022年，8月28日12/17/20226第三章函数的最佳逼近柯西—施瓦茨不等式第七页，共七十五页，2022年，8月28日12/17/20227第三章函数的最佳逼近基函数§2函数的最佳平方逼近一、公式的推导

对于连续函数空间

C[a,b]

中的元素f(x)

及其子空间所谓

f(x)

在Φ

中的最佳平方逼近，就是存在使得对于一切都有：广义多项式有限维第八页，共七十五页，2022年，8月28日12/17/20228第三章函数的最佳逼近不等式说明所求的满足等式：其中(3.2)由于pn*(x)是由其系数c0*

,c1*,…,cn*唯一确定的，因此，只要我们求出了满足(3.2)的c0*

,c1*,…,cn*，就可以求出f(x)最佳平方逼近：投影第九页，共七十五页，2022年，8月28日12/17/20229第三章函数的最佳逼近(3.3)构造多元函数根据则这时等式(3.4)意味着(3.5)第十页，共七十五页，2022年，8月28日12/17/202210第三章函数的最佳逼近(3.5)(3.3)的极小值点。(3.4)也就是说，求出满足等式(3.4)的

pn*(x)，等价于求出满足等式(3.5)的c0*

,c1*

,…,cn*。

由(3.5)可知

c0*

,c1*

,…,cn*是n+1

元二次函数函数第十一页，共七十五页，2022年，8月28日12/17/202211第三章函数的最佳逼近而n+1元函数在区间

(-∞,+∞)

上具有一阶连续导函数，因此根据极值原理，在最小值点

c0*

,c1*

,…,cn*处：而于是即第十二页，共七十五页，2022年，8月28日12/17/202212第三章函数的最佳逼近利用内积可以得到这是一个含有n+1个变量的方程组，具体形式为：第十三页，共七十五页，2022年，8月28日12/17/202213第三章函数的最佳逼近再写成矩阵形式为第十四页，共七十五页，2022年，8月28日12/17/202214第三章函数的最佳逼近这是关于n+1个变量c0,c1

,…,cn

的线性方程组，并称其为法方程组，或者正规方程组。

解此方程组，就可以得到c0*

,c1*

,…,cn*，也就得到了f(x)

的最佳平方逼近：

格拉姆(Gram)矩阵最佳平方逼近函数存在惟一第十五页，共七十五页，2022年，8月28日12/17/202215第三章函数的最佳逼近二、误差估计最佳平方逼近的平方误差为由方程组可得对于最佳逼近解第十六页，共七十五页，2022年，8月28日12/17/202216第三章函数的最佳逼近于是，最佳平方逼近的平方误差为如果(3.6)则称(3.6)为f(x)

的在[a,b]上的最佳平方逼近n次多项式。n较大时，法方程组出现病态（第六章讲，实习题六—6-3Hilbert矩阵）,可取基函数为正交基函数（如三角函数）第十七页，共七十五页，2022年，8月28日12/17/202217第三章函数的最佳逼近*求连续函数最佳平方逼近的步骤*1.给定[a,b]上的连续函数f(x),

及子空间2.利用内积给出法方程组第十八页，共七十五页，2022年，8月28日12/17/202218第三章函数的最佳逼近3.求出法方程组的解c0*

,c1*

,…,cn*,得到最佳平方逼近4.求出平方误差称为均方误差第十九页，共七十五页，2022年，8月28日12/17/202219第三章函数的最佳逼近

例3.1求在上的最佳平方逼近一次多项式，并估计误差。直接套用公式：

解：设

令基函数为则需要求解的方程组为：第二十页，共七十五页，2022年，8月28日12/17/202220第三章函数的最佳逼近

这时由

得到于是得到法方程组第二十一页，共七十五页，2022年，8月28日12/17/202221第三章函数的最佳逼近解之得

最佳平方逼近一次多项式为

关于误差，由误差估计式第二十二页，共七十五页，2022年，8月28日12/17/202222第三章函数的最佳逼近得到

第二十三页，共七十五页，2022年，8月28日12/17/202223第三章函数的最佳逼近例3.2求f(x)=arctanx在[0,1]

上的最佳平方逼近二次多项式，并估计误差。解：设P2(x)=c0+c1

x+c2x2，则

需要写出法方程组

这时第二十四页，共七十五页，2022年，8月28日12/17/202224第三章函数的最佳逼近第二十五页，共七十五页，2022年，8月28日12/17/202225第三章函数的最佳逼近法方程组为解得：且第二十六页，共七十五页，2022年，8月28日12/17/202226第三章函数的最佳逼近本节(§2)小结1.何为连续函数最佳平方逼近多项式？如何计算连续函数的最佳平方逼近n次多项式？3.如何估计最佳平方逼近n次多项式的误差？4.练习：试求函数f(x)=1/x

在区间[1,3]上的最佳平方逼近一次多项式并估计误差。第二十七页，共七十五页，2022年，8月28日12/17/202227第三章函数的最佳逼近§3离散数据拟合的最小二乘法当我们得到的实验数据是准确值时，可以用代数插值的方法，求出原函数的近似表达式。经常由观察或测试可得到y=f(x)的一组离散数据：但是，这组离散数据由观察或测试得到，往往并非完全精确，如果用插值的方法来逼近，效果就不会太好。

这时可以考虑用最小二乘法进行数据拟合，给出逼近曲线。其特点是：所求的逼近曲线不一定经过这些离散点，但却尽可能的靠近原曲线。(xi,yi),yi=f(xi),i=0,1,…,m离散点的最佳平方逼近-几何上称为曲线拟合(curvefitting)第二十八页，共七十五页，2022年，8月28日12/17/202228第三章函数的最佳逼近最小二乘拟合曲线第二十九页，共七十五页，2022年，8月28日12/17/202229第三章函数的最佳逼近三次样条函数插值曲线第三十页，共七十五页，2022年，8月28日12/17/202230第三章函数的最佳逼近Lagrange插值曲线第三十一页，共七十五页，2022年，8月28日12/17/202231第三章函数的最佳逼近一、数据拟合的最小二乘法的思想已知离散数据：(xi,yi),i=0,1,2,…,m,假设我们用函数逼近函数f(x)，则两个函数在每一个点xi都会产生一个误差：我们希望所求的逼近函数在每一个xi处所产生的误差δi

的绝对值|δi|达最小。但这样分别考虑太困难，所以我们应考虑整体误差第三十二页，共七十五页，2022年，8月28日12/17/202232第三章函数的最佳逼近应该使整体达最小（误差的平方和最小）。通过这种度量标准求得拟合曲线的方法，就称作曲线拟合的最小二乘法(最小二乘逼近)。

按照以上思想求f(x)的拟合曲线（逼近函数）时，首先需要确定出f(x)

所属的函数类，然后进一步求出具体函数，具体按照以下步骤进行。第三十三页，共七十五页，2022年，8月28日12/17/202233第三章函数的最佳逼近二、最小二乘法拟合曲线的步骤第二步：根据图示判断点(xi,yi)所反映的函数类，确定曲线所属的函数类型，例如多项式函数类、三角函数类、指数函数类、对数函数类等。假设所确定的函数类的基函数为第一步：根据如下已知点的坐标，在坐标系里描点则所求的函数可以表示为：只要确定了系数，就可以求出拟合曲线。经验公式第三十四页，共七十五页，2022年，8月28日12/17/202234第三章函数的最佳逼近第三步：对于其整体误差所求的解应该使以上二次函数达到极小，由极值原理应有：令：第三十五页，共七十五页，2022年，8月28日12/17/202235第三章函数的最佳逼近这样由及求得整理为第三十六页，共七十五页，2022年，8月28日12/17/202236第三章函数的最佳逼近令则有这样就给出了求解方程组：离散内积第三十七页，共七十五页，2022年，8月28日12/17/202237第三章函数的最佳逼近同样称其为法方程组。解法方程组求得便得到最小二乘拟合曲线为了便于求解，我们再对法方程组的导出作进一步分析。第三十八页，共七十五页，2022年，8月28日12/17/202238第三章函数的最佳逼近得到法方程组系数矩阵第j行的元素为：由第三十九页，共七十五页，2022年，8月28日12/17/202239第三章函数的最佳逼近于是法方程组的系数矩阵可写为：将右端第二个矩阵记为：第四十页，共七十五页，2022年，8月28日12/17/202240第三章函数的最佳逼近则系数矩阵可以表示为：此外，关于法方程组的右端项（常数项）：第四十一页，共七十五页，2022年，8月28日12/17/202241第三章函数的最佳逼近由得到第四十二页，共七十五页，2022年，8月28日12/17/202242第三章函数的最佳逼近最后可以将法方程组表示为：其中这样可以较快写出法方程组来。第四十三页，共七十五页，2022年，8月28日12/17/202243第三章函数的最佳逼近如果所求得最小二乘拟合函数为n次多项式，则：这时：误差：第四十四页，共七十五页，2022年，8月28日12/17/202244第三章函数的最佳逼近三、数值例子

例3.4根据如下离散数据拟合曲线并估计误差

x1234678y2367532解:step1:描点

12345678

7654321*******

step2:从图形可以看出拟合曲线为一条抛物线：

step3:根据基函数给出法方程组第四十五页，共七十五页，2022年，8月28日12/17/202245第三章函数的最佳逼近由得到即又求得法方程组为：第四十六页，共七十五页，2022年，8月28日12/17/202246第三章函数的最佳逼近解得：求得拟合二次多项式函数误差为：先计算出拟合函数值：得到：或者：xi1234678p21.72724.00015.50026.22755.36373.77261.4087第四十七页，共七十五页，2022年，8月28日12/17/202247第三章函数的最佳逼近

解：在坐标轴描点例3.5根据如下离散数据拟合曲线并估计误差

xi-3-2-10123

yi4230-1-2-5从离散点的图形上看不出原函数属于哪一类型，一般多采用多项式拟合，在此我们用二次多项式拟合。第四十八页，共七十五页，2022年，8月28日12/17/202248第三章函数的最佳逼近根据如下离散数据给出法方程组xi-3-2-10123yi4230-1-2-5这时求得得到法方程组第四十九页，共七十五页，2022年，8月28日12/17/202249第三章函数的最佳逼近所求二次拟合曲线为

拟合曲线的均方偏差为由解得：第五十页，共七十五页，2022年，8月28日12/17/202250第三章函数的最佳逼近

拟合曲线在实际中有广泛应用，特别在实验、统计等方面是如此。通常，由一组试验或观测取得数据，这些数据先在平面上标出，然后确定拟合曲线的类型。例如，电阻与导线的长度呈线性关系，如何确定具体的线性表示式，可通过对不同长度的导线测试电阻所得数据作拟合曲线而得。对于某些具体问题，有时拟合曲线的类型是已知的，所对应的公式也叫做经验公式，只需确定曲线的具体参数即可。下面给出一个已知经验公式，如何确定其中参数的例子。第五十一页，共七十五页，2022年，8月28日12/17/202251第三章函数的最佳逼近例3.6对如下数据作形如y=aebx的拟合曲线

解:由于函数集合Φ={aebx|a,b∈R}不是一线性空间，因此直接作拟合曲线是困难的。

为了便于计算，在函数y=aebx两端分别取对数得到这时，需要将原函数表进行转换如下令

z=lny,A=lna,B=b,则

z=A+Bxlny=lna+bxxi12345678yi15.320.527.436.649.165.687.8117.6第五十二页，共七十五页，2022年，8月28日12/17/202252第三章函数的最佳逼近对z=A+Bx作线性拟合曲线，取这时xi12345678yi15.320.527.436.649.165.687.8117.6xi12345678zi2.723.023.313.603.894.184.484.77第五十三页，共七十五页，2022年，8月28日12/17/202253第三章函数的最佳逼近得正则方程组解得

于是有拟合曲线为：第五十四页，共七十五页，2022年，8月28日12/17/202254第三章函数的最佳逼近例3.7利用最小二乘法解下列超定（矛盾）方程组

解:超定方程组很难得到一组值使得每一个方程都成立。一般情况下用尽量使每一个方程都近似成立的一组值作为超定方程的近似解。这时最小二乘法就可以用于解这类方程。

采用最小二乘法，考虑如下的误差函数：独立方程数多于变量数第五十五页，共七十五页，2022年，8月28日12/17/202255第三章函数的最佳逼近所求的最小二乘解应该满足第五十六页，共七十五页，2022年，8月28日12/17/202256第三章函数的最佳逼近同理可得：令偏导数等于零第五十七页，共七十五页，2022年，8月28日12/17/202257第三章函数的最佳逼近法方程组为：解此方程组得最小二乘解：

x1=-0.3141x2=0.1333x3=0.0269第五十八页，共七十五页，2022年，8月28日12/17/202258第三章函数的最佳逼近关于法方程组的获得，可以用更简便的方法，先将方程组用矩阵表示

简化为

两边同乘以系数矩阵的转置矩阵，就得到所需要的法方程组：

具体计算结果如下：第五十九页，共七十五页，2022年，8月28日12/17/202259第三章函数的最佳逼近与前面计算的法方程组相同，解值得最小二乘解x1=-0.3141x2=0.1333x3=0.0269第六十页，共七十五页，2022年，8月28日12/17/202260第三章函数的最佳逼近最小二乘曲线拟合矛盾方程组求最小二乘解矛盾方程组的最小二乘解第六十一页，共七十五页，2022年，8月28日12/17/202261第三章函数的最佳逼近本节(§3)问题1、最小二乘法拟合曲线的步骤是什么？

2、如何根据离散数据写出法方程组？第六十二页，共七十五页，2022年，8月28日12/17/202262第三章函数的最佳逼近3、最小二乘法拟合曲线的平方误差如何计算？4、确定经验公式中的参数，使之与下列数据拟合xi0.10.20.30.40.50.6yi0.1720.3230.4840.6901.0001.579第六十三页，共七十五页，2022年，8月28日12/17/202263第三章函数的最佳逼近解:该问题的求解，可以将其化为线性函数进行由得到令则则再令第六十四页，共七十五页，2022年，8月28日12/17/202264第三章函数的最佳逼近函数值转化为xi0.10.20.30.40.50.6yi0.1720.3230.4840.6901.0001.579xi0.10.20.30.40.50.6yi5.8143.0962.0661.4491.0000.633这时，法方程组的系数矩阵按下式计算第六十五页，共七十五页，2022年，8月28日12/17/202265第三章函数的最佳逼近第六十六页，共七十五页，2022年，8月28日12/17/202266第三章函数的最佳逼近由计算出法方程组第六十七页，共七十五页，2022年，8月28日12/17/202267第三章函数的最佳逼近解得c0=6.0631c1=-0.0474c2=-10.0748利用