数学专业毕业论文-最小二乘法的应用研究.doc

最小二乘法的应用研究最小二乘法的应用研究摘要最小二乘法是从误差拟合角度对回归模型进行参数估计或系统辨识,并在参数估计、系统辨识以及预测、预报等众多领域中得到极为广泛的应用然而,最小二乘法因其抽象、难懂常常不能被准确理解本文探讨了最小二乘法的基本原理及其各种变形的拟合方法,其中包括一元线性最小二乘法拟合、多元线性拟合、多项式拟合、非线性拟合,并且讨论了用镜像映射和切比雪夫多项式解“病态”矛盾方程组的基本原理和方法,在此基础上给出了几种最小二乘法程序的设计原理关键词最小二乘法,线性拟合,曲线拟合,切比雪夫多项式STUDYONTHEAPPLICATIONABOUTMETHODOFLEASTSQUAREABSTRACTLEASTSQUAREWASUSEDTOESTIMATEPARAMETERSANDIDENTIFYSYSTEMOFREGRESSIONMODEL,BYTHEPOINTOFERRORFITTINGANDITHASWIDELYAPPLICATIONINTHEPARAMETERSESTIMATE,SYSTEMIDENTIFICATION,PREDICTION,FORECASTINGANDOTHERFIELDSHOWEVER,THELEASTSQUAREMETHODBECAUSEOFITSABSTRACTANDDIFFICULT，OFTENCANNOTBEACCURATELYUNDERSTANDINGTHELEASTSQUAREMETHOD’SPRINCIPLEANDTHEVARIOUSKINDSOFFITTINGMETHODSSUCHASTHELINEARLEASTSQUAREFITTING,MULTIPLELINEARFITTING,POLYNOMIALFITTINGANONLINEARFITTINGAREDEALTWITHANDDISCUSSEDUSINGMIRRORANDCHEBYSHEVPOLYNOMIALSOLUTIONPATHOLOGICALCONTRADICTORYEQUATIONSBASICPRINCIPLESANDMETHODSFINALLYSOMEKINDSOFTHEPRINCIPLEOFTHEPROGRAMSONTHELEASTSQUAREMETHODAREGIVENKEYWORDSLEASTSQUAREMETHOD,LINEARFITTING,CURVEFITTING,CHEBYSHEVPOLYNOMIAL目录一、最小二乘法的统计学原理1二、曲线拟合21一元线性拟合22多元线性拟合43多项式拟合54非线性最小二乘法拟合65多项式回归的高精度快速算法7三、应用最小二乘法的几个问题9四、程序设计原理101线性拟合程序的设计原理102多元线性拟合程序的设计原理103SHEHATA方程12KSKSUKSKS的拟合程序设计原理11结束语11参考文献121一、最小二乘法的统计学原理1基本最小二乘法,其统计学原理是设物理量Y与L个变量12,,,LXXX间的依赖关系式为1201,,,,,,,LNYFXXXAAA,其中01,,,NAAA是方程中需要确定的1N个参数最小二乘法就是通过1MMN个实验点12,,,,1,2,IIILIXXXYIM,确定出一组参数值01,,,NAAA,使由这组参数得出的函数值1201,,,,,,,IIILNYFXXXAAA与实验值IY间的偏差平方和2011,,,MNIISAAAYY取得极小值在设计实验时,为了减小随机误差,一般进行多点测量,使方程式个数大于待求参数的个数,即1MN这时构成的方程组叫做矛盾方程组通过用最小二乘法进行统计处理,将矛盾方程组转换成未知数个数和方程个数相等的正规方程组,再进行求解得出01,,,NAAA由微分学的求极值方法可知01,,,NAAA应满足下列方程组0IYA1,2,,IN,这样就实现矛盾方程组向正规方程组的转换2二、曲线拟合1一元线性拟合2设变量Y与X成线性关系,即01YAAX现在已知M个实验点,IIXY1,2,,IM,求两个未知参数01,AA方法一由最小二乘法原理,参数01,AA应使201011,MIIISAAYAAX取得极小值根据极小值的求法,0A和1A应满足011001112020MIIIMIIIISYAAXASYAAXXA,10112011111MMIIIIMMMIIIIIIIAAXYMMAXAXXY,这就是含有两个未知数和两个方程的正规方程组从中解得01,AA,即2211101/MMIIIIIAXYMXYXMXAYAX1其中1111,MMIIIIXXYYMM,线性相关系数/XYXXYYRLLL,式中32222111,,MMMXYIIXXIYYIIIILXYMXYLXMXLYMY,相关系数是用来衡量实验点的线性特性方法二将,1,2,,IIXYIM代入01YAAX得矛盾方程组1011201201MMYAAXYAAXYAAX2令12111MXXAX,12MYYBY,则（2）式可写成01ABAA,则有01TTAABAAA,所以011TTAAAABA其中A称为结构矩阵,B称为数据矩阵,TAA称为信息矩阵,TAB称为常数矩阵为了定量地给出01YAAX与实验数据之间线性关系的符合程度,可以用相关系数R来衡量它定义为11122221111MMMIIJIIJIMMMMIIIIIIIIMXYXYRMXXMYY