非线性最小二乘曲线拟合的线性化探究.doc

非线性最小二乘曲线拟合的线性化探究摘要：利用非线性最小二乘法的基本思想，总结非线性特征曲线拟合的方法，包括指数曲线拟合法，饱和指数曲线拟合法，双曲线拟合法以及这些方法的应用。关键字：最小二乘法 非线性 指数 拟合法 matlab在自然科学、社会科学等领域内，人们常常希望掌握某种客观存在的变量之间的函数关系，通过实验、观测和社会调查获得大量的数据后，从这些数据中总结出所需要的函数关系。这类问题就是曲线拟合问题。非线性最小二乘曲线拟合法，就是利用非线性最小二乘法的基本思想和一些典型的非线性特征曲线来实现预测的方法。以下首先介绍线性最小二乘法的基本思想。然后，尝试使用非线性特征曲线拟合法，包括指数曲线拟合法，饱和指数曲线拟合法以及双曲线拟合法。通过一些现实生活中我们所遇到的问题，利用这些拟合法作简单预测。一 、一般的最小二乘法逼近在科学实验的统计方法研究中，往往要从一组实验数据（）（i=0,1,2,，m）中寻找自变量x与因变量y之间的函数关系。由于观测数据往往不准确，因此不要求经过所有点（），而只要求在给定点上误差（i=0,1,2,，m）按某种标准最小。若记，就是要求向量的范数最小。如果用最大范数，计算上困难较大，通常就采用Euclid范数作为误差度量的标准。关于最小二乘法的一般的提法是：对于给定的一组数据（）（i=0,1,2,，m），要求在函数空间中找一个函数，使误差平方和 ， （1）这里 （m）。 （2）这就是一般的最小二乘逼近，用几何语言说，就称为曲线拟合的最小二乘法。用最小二乘法求拟合曲线时，首先要确定的形式。这不是单纯数学问题，还与所研究问题的运动规律即所得观测数据（）有关；通常要从问题的运动规律及给定数据描图来确定的形式，并通过实际计算选出较好的结果这点将从下面的例题得到说明。的一般表达式为式（2）所示的线性形式。若是k次多项式，就是n次多项式。为了使问题的提法更有一般性，通常把最小二乘法中都考虑为加权平方和 （3）这里是上的权函数，它表示不同点处的数据比重不同，例如，可表示在点处重复观测的次数。用最小二乘法求拟合曲线的问题，就是在形如（2）式的中求一函数，使式（3）取得最小。它转化为求多元函数 （4）的极小点问题。由求多元函数极值的必要条件，有 。若记 ， （5） 则 ，可改写为 。 （6）此方程称为法方程。它也可写成矩阵形式 ，其中 ， ， （7）由于线性无关，故,方程组（6）存在唯一的解 ，从而得到函数的最小二乘解为 。可以证明，这样得到的对于任何形如式（2）的，都有 ，故确是所求最小二乘解。二、非线性最小二乘曲线拟合问题所谓线性最小二乘指的是在选定可取函数类（即由一组基函数生成的函数空间）后，待定参数全部线性，最常见就是多项式曲线拟合（以一次、二次、三次、四次函数等低次为多见），有一些情况下实际问题得出的数据分布（散点图）需以指数、双曲线、饱和指数等类型函数去拟合，这时有的待定参数非线性，我们依然以误差向量的二范数最小为原则，因之称为非线性最小二乘拟合，这其中有部分非线性模型可以通过变量代换、取对数等手段转变为线性模型，从而用线性拟合进行处理。对于一个实际的曲线拟合问题，一般先按观测值在直角坐标平面上描出散点图，看一看散点同哪类曲线图形接近，然后选用相近的曲线拟合方程，再通过适当的变量替换转化为线性拟合问题，按线性拟合解出后再还原为原变量所表示的曲线拟合方程。以下列举几类经适当变换化为线性拟合求解的曲线拟合方程及变换关系。曲线拟合方程变换关系变换后线性拟合方程在科学实验和生产实践中，如何找到更符合实际情况的数据拟合，一方面要根据专业知识和经验来确定经验曲线的近似公式，另一方面要根据散点图的分布形状及特点来选择适当的曲线拟合这些数据。当散点图接近于直线，宜采用线性函数拟合；当散点图分布接近于抛物线，可采用二次多项式拟合；当散点图分布特点是开始曲线 上升较快随后逐渐变慢，宜采用双曲线型函数或指数型函数；当散点等函数拟合。三、通过具体的实例来进一步认识如何将非线性拟合化为多项式拟合。1指数曲线拟合(1)基本特征设已知一批数据点，根据经验和观察，这批数据点的分布大致为指数曲线，满足关系式 ， （2.1.1）其中和是待定常数，试用最小二乘法确定拟合曲线。由于对这种非线性拟合函数模型直接采用最小二乘法不方便，所以对式（2.1.1）两边取对数并将其化为线性模型 ， （2.1.2）其中 不难明白，用对数据点作最小二乘拟合，相当于用（即）对数据点作最小二乘拟合，即有 仍记是关于和的函数，于是和应满足 于是有 （2.1.3）不难看出，上式相当于直接套用线性拟合规化方程（6）的结果。求解式（2.1.3）得和，从而得到和，求的指数拟合曲线。 （2）实例分析例一有一批实验数据如表1.2.1所示： 表1.2.1 实验数据 1234567815.320527.436.649.145.687.8117.6需要用最小二乘法建立数据点所符合的经验公式。于是按前面所述方法，先将元数据点绘图，选定作为拟合曲线的模型；再将原数据点转化为如表1.2.2所示的数据：. 表1.2.2 转化后的数据123456781.18471.31181.43781.56351.69111.81691.94352.0704对转化后的数据点用 作最小二乘拟合。据式（2.1.3）列出方程组 解得由此可得最后可求得拟合曲线为 2双曲线拟合（1）基本特征对于数据点，若取用双曲线函数 ， ，作拟合函数，作变换 ，得到线性模型 。于是原曲线拟合问题转化为用线性函数对数据点也就是对数据点的最小二乘拟合问题。这样，便可写出关于线性模型拟合的方程组 （2.1.1）求出和，最后写出双曲线型拟合函数。（2）实例分析例二在某化学反应里，根据实验所得生成物的浓度与时间关系如表（2.2.1），求浓度与时间的拟合曲线。（分）123456784.006.408.008.809.229.509.709.86（分）91011121314151610.0010.2010.3210.4210.5010.5510.5810.60 从数据表略可看出，浓度随增加而增加。开始浓度增加较快，后来逐渐减弱，到一定时间就基本稳定在一个数值上，即当时，趋于某个常数，故有一水平渐近线。选取数学模型为双曲函数 其中待定参数。显然， 作变换，令 于是问题化为，已知数据（由数据及变换求得），寻求使 其中为线性模型，取基。 求解法方程得到得到数学模型 3幂函数拟合法（1）基本特征对于数据点，若取用幂函数 作拟合函数，取对数后为 。令 ，有 。于是原曲线拟合问题转化为用线性函数对数据点的最小二乘拟合问题。这样，便可写出方程组 解出和，得到和，最后便可获得所求的。(2)实例分析 例三、给定如下数据表3.2.10.150.40.61.011.52.22.42.74.49645.12845.69316.28847.09897.55077.51068.07562.93.53.84.44.65.16.67.67.87088.24038.53038.73948.99819.14509.50709.9115在坐标纸上作出数据的散点图，试利用幂函数拟合法作拟合曲线，并用matlab程序实现。MATLAB程序如下：0.15,0.4，0.6,1.01,1.5,2.2,2.4,2.7,2.9,3.5,3.8,4.4,4.6,5.1,6.6,7.64.4964,5.1284,5.6931,6.2884,7.0989,7.5507,7.5106,8.0756,7.8708,8.2403,8.5303,8.7394,8.9981,9.1450,9.5070,9.9115运行结果为 0.2093 1.8588若设所拟合的幂函数为，则由程序的运行结果知 ，因此幂函数形式为 。幂函数曲线如图所示4饱和指数曲线拟合法实践证明，各种事物的生长过程或成长过程均具有一定基本的共性，主要具有下述两个特征：（1）发展的全过程科粗略分为三个阶段：首先是萌芽阶段，此时，事物处于初生或初创时期，进展比较缓慢；其次是发展阶段，此时在数量上出现明显的增长，且往往有一个高速发展或突破性进展的事情；最后阶段是饱和阶段，此时的发展越来越慢，趋于淘汰。（2）发展中存在一个上线或极限，制约着每一个具体发展的全过程。基于这两个事物共同的基本特征，为了尽可能准确地拟合实际中各种各样的具体的事物发展过程，便提出了有关描述“事物发展”的曲线拟合方法（又称为生长模型法），其中，饱和指数曲线拟合法以及皮尔（pearl）曲线拟合法和是比较具有代表性的方法。（1）基本特征饱和指数曲线的数学表达式为： （4.1.1）其中，为待求参数，满足。当时，称y=k为饱和指数曲线的渐开线（或饱和值）。通常用“三组法”来估计算式（4.1.1）中的参数，以下简介之。设系统实测3n组数据为： （4.1.2） 将（4.1.2）中的数据分别带入（4.1.1），得 （4.1.3）将方程组（4.1.3）中的算式顺序分成三组，每组还有n个方程，然后把各组加起来，得 （4.1.4）于是，有方程组（4.1.4）便可求得的值： （2）实例分析将中国网民规模进行计算，探讨中国网民的极限值。按算式（4.1.4）计算（数据略）。得出b=1.2868，不在饱和指数曲线要求满足基本条件，反映出中国目前网民的速度还是在快速增长的发展阶段，饱和指数曲线目前还不能够判断出何时进入饱和阶段，也无法计算出它的极限值。四、非线性最小二乘问题的应用确定人口增长模型中的参数1问题下表是美国1790-1980年人口统计表,试做如下工作:年份1790180018101820183018401850人口/百万人3.95.37.29.612.917.123.2年份1860187018801890190019101920人口/百万人31.438.650.262.976.092.0106.5年份193019401950196019701980人口/百万人123.2131.7150.7179.3204.0226.5（1）试用指数增长模型（Malthus人口模型），按三段时间（1790-1850年，1850-1910年，1910-1980年）分别确定其增长率r。（2）利用阻滞增长模型（Logistic人口模型），重新确定固有增长率r和最大容量N，作图，并分析计算结果误差，再利用该模型预测1990年美国人口总数。 2求解过程 首先考虑第一个问题。由Malthus人口模型，令 因此 可用线性拟合计算人口增长率。输入；3.9 5.3 7.2 9.6 12.9 17.1 23.2；就是此段的人口增长率为2.96%。类似地可以计算出第二段的人口增长率为2.28%,第三段的人口增长率为1.29%。下图绘出分段Malthus人口增长模型曲线，其中图中“+”号位置是人口实际数据的散点图。再考虑第二个问题。由于Logistic人口模型无法化成