函数逼近和曲线拟合

关于函数逼近和曲线拟合

当函数只在有限点集上给定函数值，要在包含该点击的区间上用公式给出函数的简单表达式，这些都涉及到在区间[a,b]上用简单函数逼近已知复杂函数的问题，这就是函数逼近问题。插值法就是函数逼近问题的一种第2页,共64页，2024年2月25日，星期天拟解决的问题：计算复杂的函数值已知有限点集上的函数值，给出在包含该点集的区间上函数的简单表达式函数逼近——对函数类A中给定的函数f(x)，记作要求在另一类简单的便于计算的函数类B中求函数使p(x)与f(x)的误差在某种度量意义下最小。逼近问题函数逼近曲线拟合第3页,共64页，2024年2月25日，星期天基本数学概念：定义1：设集合S是数域P上的线性空间，元素如果存在不全为0的数，使得线性相关，否则，若等式(1.1)只对则称成立，则称为线性无关。第4页,共64页，2024年2月25日，星期天若线性空间S是由n个线性无关元素生成的，即：为空间S的一组基，记为：则称并称该空间为n维空间。称为x在这组基下的坐标。例：n次多项式第5页,共64页，2024年2月25日，星期天连续函数不能用有限个线性无关的函数表示，故连续函数空间是无限维的，但它的任一元素可以用有限维的多项式逼近，使误差为任意小。定理1：设则对任何总存在一个代数多项式p(x),使在[a,b]上一致成立。第6页,共64页，2024年2月25日，星期天范数与赋范线性空间定义2：设S为线性空间，x是S的元素，若存在唯一实数，满足条件：则称为线性空间S上的范数。称为赋范线性空间。第7页,共64页，2024年2月25日，星期天例：n维向量空间上定义的三种范数：称为-范数称为1

-范数称为2

-范数第8页,共64页，2024年2月25日，星期天例：连续函数空间上定义的三种范数：称为-范数称为1

-范数称为2

-范数第9页,共64页，2024年2月25日，星期天例：求下列向量的1范数、2范数和无穷范数第10页,共64页，2024年2月25日，星期天内积与内积空间定义3：设X为数域K（R或C）上的线性空间，满足条件：称(u,v)为X上u与v的内积。定义了内积的线性空间为内积空间。若(u,v)=0,则称u和v正交。第11页,共64页，2024年2月25日，星期天例例如：第12页,共64页，2024年2月25日，星期天例其中为权函数，满足定义4（page68)第13页,共64页，2024年2月25日，星期天正交函数定义5：既：f(x)与g(x)在[a,b]上带权正交。若函数族满足则称该函数族是在[a,b]上带权的正交函数族。时为标准正交函数族第14页,共64页，2024年2月25日，星期天例如，三角函数族是在区间上的正交函数族。定义6：正交多项式(page70)第15页,共64页，2024年2月25日，星期天逼近问题函数逼近曲线拟合第16页,共64页，2024年2月25日，星期天实例：考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的24个纤维样品的强度与相应的拉伸倍数是记录:第17页,共64页，2024年2月25日，星期天纤维强度随拉伸倍数增加而增加并且24个点大致分布在一条直线附近必须找到一种度量标准来衡量什么曲线最接近所有数据点(1)第18页,共64页，2024年2月25日，星期天仍然是已知x1…xm

;y1…ym,求一个简单易算的近似函数P(x)

f(x)。但是①

m

很大；②

yi本身是测量值，不准确，即yi

f(xi)这时没必要取P(xi)=yi,

而要使P(xi)

yi总体上尽可能小。使误差在某种度量意义下最小第19页,共64页，2024年2月25日，星期天常见做法：

使最小/*minimaxproblem*/

太复杂

使最小不可导，求解困难

使最小/*Least-Squaresmethod*/第20页,共64页，2024年2月25日，星期天最小二乘法的基本概念一般使用在回归分析中称为残差称为平方误差第21页,共64页，2024年2月25日，星期天在回归分析中称为残差平方和从而确定(1)中的待定系数注意(1)式是一条直线因此将问题一般化一般情况下第22页,共64页，2024年2月25日，星期天仍然定义平方误差第23页,共64页，2024年2月25日，星期天我们选取的度量标准是(2)(3)第24页,共64页，2024年2月25日，星期天第25页,共64页，2024年2月25日，星期天法方程组由可知因此可假设因此求最小二乘解转化为二次函数第26页,共64页，2024年2月25日，星期天由多元函数取极值的必要条件得即第27页,共64页，2024年2月25日，星期天(4)即第28页,共64页，2024年2月25日，星期天引入记号则由内积的概念可知(5)(6)显然内积满足交换律第29页,共64页，2024年2月25日，星期天方程组(4)便可化为(7)将其表示成矩阵形式(8)第30页,共64页，2024年2月25日，星期天并且其系数矩阵为对称阵所以法方程组的系数矩阵非奇异,即根据Cramer法则,法方程组有唯一解第31页,共64页，2024年2月25日，星期天即是的最小值所以因此第32页,共64页，2024年2月25日，星期天作为一种简单的情况,基函数之间的内积为平方误差第33页,共64页，2024年2月25日，星期天例1.回到本节开始的实例，从散点图可以看出纤维强度和拉伸倍数之间近似与线性关系故可选取线性函数为拟合函数，其基函数为建立法方程组根据内积公式，可得第34页,共64页，2024年2月25日，星期天法方程组为解得平方误差为第35页,共64页，2024年2月25日，星期天拟合曲线与散点的关系如右图:第36页,共64页，2024年2月25日，星期天例2.求拟合下列数据的最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:从数据的散点图可以看出因此假设拟合函数与基函数分别为第37页,共64页，2024年2月25日，星期天6.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728通过计算,得法方程组的系数矩阵及常数项矩阵为Go!第38页,共64页，2024年2月25日，星期天用Gauss列主元消去法,得-1.0410-1.26130.030735拟合的平方误差为图象如图第39页,共64页，2024年2月25日，星期天例3.在某化学反应里,测得生成物浓度y%与时间t的数据如下，试建立y关于t的经验公式x=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有图示的图形的曲线很多，本题特提供两种形式第40页,共64页，2024年2月25日，星期天例：xy(xi,yi),i=1,2,…,m方案一：设baxxxPy+=

)(求a

和b

使得最小。

=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…线性化

/*linearization*/：令，则bXaY+

就是个线性问题将化为后易解a

和b。),(iiYX),(iiyx第41页,共64页，2024年2月25日，星期天方案二：设xbeaxPy/)(-=

(a>0,b>0)线性化：由可做变换xbay-

lnlnbBaAxXyY-====,ln,1,lnBXAY+

就是个线性问题将化为后易解A

和B),(iiYX),(iiyx第42页,共64页，2024年2月25日，星期天两边取对数,得得即为拟合函数基函数为解法方程组得平方误差为第43页,共64页，2024年2月25日，星期天用最小二乘法得即无论从图形还是从平方误差考虑在本例中指数函数拟合比双曲线拟合要好平方误差为第44页,共64页，2024年2月25日，星期天定义权函数：①

离散型/*discretetype*/根据一系列离散点拟合时，在每一误差前乘一正数wi

，即误差函数

，这个wi

就称作权/*weight*/，反映该点的重要程度。

=-=niiiiyxPw12])([②

连续型

/*continuoustype*/在[a,b]上用广义多项式P(x)拟合连续函数f(x)时，定义权函数

(x)

C[a,b]，即误差函数

=。权函数

(x)必须满足：非负、可积，且在[a,b]的任何子区间上

(x)0。加权最小二乘法第45页,共64页，2024年2月25日，星期天各点的重要性可能是不一样的重度:即权重或者密度，统称为权系数

定义加权平方误差为(9)第46页,共64页，2024年2月25日，星期天使得第47页,共64页，2024年2月25日，星期天由多元函数取极值的必要条件得即第48页,共64页，2024年2月25日，星期天引入记号定义加权内积(10)第49页,共64页，2024年2月25日，星期天矩阵形式(法方程组)为方程组(10)式化为(11)(12)第50页,共64页，2024年2月25日，星期天平方误差为作为特殊情形,用多项式作拟合函数的法方程组为(13)第51页,共64页，2024年2月25日，星期天例：连续型拟合中，取则Hilbert阵！改进：若能取函数族

={

0(x),

1(x),…,

n(x),…}，使得任意一对

i(x)和

j(x)两两（带权）正交，则B就化为对角阵！这时直接可算出ak=第52页,共64页，2