最小二乘法拟合原理

1、最小二乘法拟合原理姓名：*学号:09200200*摘 要：介绍了最小二乘的基本原理，直线的最小二乘拟合方法，包括直线参数 的估计，给出了拟合结果的偏差，求得了相关系数，最后进行了显著性检验。关键字：最小二乘法；直线拟合；显著性检验1引言在测量中经常要观测两个有函数关系的物理量。根据两个量的许多组观测数 据来确定它们的函数曲线，这就是实验数据处理中的曲线拟合问题。这类问题通常有两种情况：一种是两个观测量x与y之间的函数形式已知，但一些参数未知， 需要确定未知参数的最佳估计值；另一种是x与y之间的函数形式还不知道，需 要找出它们之间的经验公式。后一种情况常假设x与y之间的关系是一个待定的 多项式，

2、多项式系数就是待定的未知参数， 从而可采用类似丁前一种情况的处理 方法。2最小二乘法原理在两个观测量中，往往总有一个量精度比另一个高得多， 为简单起见把精度 较高的观测量看作没有误差，并把这个观测量选作x,而把所有的误差只认为是y的误差。设x和y的函数关系由理论公式y=f (x； Cl,C2,c的(1)给出，其中 CI,C2,Cm是m个要通过实验确定的参数。对丁每组观测数 据(xi,yi)i = 1,2, ., No都对应丁xy平面上一个点。若不存在测量误差，则这些数据点都准确落在理论曲线上。 只要选取m组测量值代入式(0-0-1)，便 得到方程组yi= f (x； C1,C2,C(2)式中i

3、 = 1, 2, . , m.求m个方程的联立解即得m个参数的数值。显然Nm勺情况下，式(2)成为矛盾方程组，不能直接用解方程的方法求得m个参数值，只能用曲线拟合的方法来处理。设测量中不存在着系统误差，或者 说已经修正，贝U y的观测值y围绕着期望值f (x；ci, C2,cm) 摆动, 其分布为正态分布，则yi的概率密度为1 p(yi )= exp 2,则认为拟合结果与观测值有显著的矛盾。3直线的最小二乘拟合曲线拟合中最基本和最常用的是直线拟合。 设X和y之间的函数关系由直线 方程y = ao+aiX（7）给出。式中有两个待定参数，ao代表截距，ai代表斜率。对丁等精度测量所 得到的N组数据

4、（X, yD, i = 1 , 2,N, Xi值被认为是准确的，所有的误差 只联系着yio下面利用最小二乘法把观测数据拟合为直线。3.1直线参数的估计前面指出，用最小二乘法估计参数时，要求观测值yi的偏差的加权平方和为最小。对丁等精度观测值的直线拟合来说，由式（3）可使Nyi a0a1Xi a za?（8）最小即对参数a（代表a。，a）最佳估计，要求观测值yi的偏差的平方和为 最小。根据式（8）的要求，应有、i一a。aMa/= -2yi一包Xi=0,a。i吐i 这个表示式不难理解，它与贝塞尔公式是一致的，只不过这里计算S时受到aiXi2 a = 2yi一？少=0.i4整理后得到正规方程组”?o

5、N +， Xi =y”-,-2?0、Xiy Xi=、Xiyi.(9)解正规方程组便可求得直线参数ao和ai的最佳估计值&和？i。即2、Xi- yi- 、Xi -Xiyia。=-2-2-N X - 、Xi(10)3.2拟合结果的偏差N Xiyi-、Xi- yia?i =-2一N X2 -、Xi(ii)由丁直线参数的估计值 第和包是根据有误差的观测数据点计算出来的，它 们不可避免地存在着偏差。同时，各个观测数据点不是都准确地落地拟合线上面 的，观测值yi与对应丁拟合直线上的？这之间也就有偏差。首先讨论测量值yi的标准差S。考虑式（6）,因等精度测量值yi所有的都 相同，可用yi的标准偏差S

6、来估计，故该式在等精度测量值的直线拟合中应表 示为2Xmin二k -(。+* 寸.Si兰(i2)已知测量值服从正态分布时,Xmin服从自由度v = N-2的X2分布，其期望值2XminiN: 2、ki -乱-&XiS-二N 2.由此可得yi的标准偏差(i3)两参数名和名估计式的约束，故自由度变为N-2罢了式（13）所表示的S值乂称为拟合直线的标准偏差,有效的重要标志。如果xy平面上作两条与拟合直线平行的直线y = d?0a1x- S, y = a?0a1x S,如图1所示，则全部观测数据点（Xi,V）的分布，约有68.3%的点落在这 两条直线之间的范围内。图1拟合直线两侧数据点的分布卜

7、面讨论拟合参数偏差，由式（10）和（11）可见，直线拟合的两个参数估计值。和&是yi的函数。因为假定XI是精确的，所有测量误差只有yi有关，故两个估计参数的标准偏差可利用不确定度传递公式求得，即把式（10）与（11）分别代入上两式，便可计算得4相关系数及其显著性检验当我们把观测数据点（Xi, yi）作直线拟合时，还不大了解X与y之间线性它是检验拟合结果是否Sa= S -0,N、 X22;X2- 、XiSa= S -1- N NX2)-(X 2(14)关系的密切程度。为此要用相关系数p （x, y）来判断。其定义已由式（12）给出，现改写为另一种形式，并改用r表示相关系数，得、Xi- x

8、 Yi- yiF_一2.一2xi -xj.一I.xi-yii式中x和y分别为x和y的算术平均值。r值范围介丁-1与+1之间，即-1 r 0时直线的斜率为正，称正相关；当r0时直线的斜率为负，称负 相关。当|r| = 1时全部数据点(xi, yi)都落在拟合直线上。若r = 0则x与y之间完全不相关。r值愈接近土1则它们之间的线性关系愈密切。5结论最小而二乘法在测量平差中有着重要的应用， 经典自由网平差都是基丁最小 二乘原理的，使用最小二乘法可以消除观测偶然误差引起的矛盾，还可以评定平差值及其函数的精度。最小二乘原理不仅在直线拟合方面有着重要的应用，在抛 物线拟合及其他非线性拟合方面也有着重要的应用，特别是非线性拟合，还需要 进一步的研究。参考文献1贾小勇，徐传胜，白欣.最小二乘法的创立