山东莱芜一中新《回归分析基本思想及其初步应用》

1、其初步应用其初步应用回归分析的基本思想及回归分析的基本思想及1.3统计案例统计案例第三章第三章学习目标学习目标v通过典型案例的探究，进一步了解回归分析的基本思想、方法及初步应用.v学习重点学习重点：通过探究使学生体会有些非线性模型通过变换可以转化为线性回归模型，了解在解决实际问题的过程中寻找更好的模型的方法，了解可用残差分析的方法，比较两种模型的拟合效果.v学习难点学习难点：了解常用函数的图象特点，选择不同的模型建模，并通过比较相关指数对不同的模型进行比较.行预报并用回归直线方程进,直线方程求回归,点图其步骤为画散,进行了研究的方法系的变量利用回归分析性相关关我们对两个具有线,中3数学在.方法

2、析的一种常用分系的两个变量进行统计是对具有相关关)(析回归分.定性关系而相关关系是一种非确,性关系函数关系是一种确定,我们知道analysisregression:,y,x,y,x,y,xnn2211二乘估计公式分别为二乘估计公式分别为截距和斜率的最小截距和斜率的最小我们知道其回归方程的我们知道其回归方程的关系的数据关系的数据对于一组具有线性相关对于一组具有线性相关探究探究 2xbya 1,121niiniiixxyyxxb?.y, x.yy,xn1xn1iin1ii公公式式吗吗你你能能推推导导出出这这两两个个计计算算称称为为其其中中样本点的样本点的中心中心.心回归直线过样本点的中 yx目的：

3、使各样本点与这条直线的距离设回归方程为，越接近越好！(xi,yi )iiyx., xy, Qba ,n1i2ii的值取最小值时分别是使和斜率截距从已经学过的知识知道 n1i2iixyxyxy, Q由于2n1iii2iixyxyxyxy2xyxy,xynxyxyxy2xyxy2n1iiin1i2iixyxyxyn1iii注意到n1iiixyxyxyn1in1iiixynxyxy, 0 xynxnynxy2n1i2iixynxyxy, Q所以2n1i2iin1in1ii2i2xynyyyyxx2xx2n1i2in1iiin1i2i2xxyyxxxxxyn.yyxxyyxxn1i2in1i2i2n1

4、iii即有均为当且仅当前两项的值取最小值因此要使数而前两项为非负无关后两项和在上式中, 0,Q, ,.xy,xxyyxxn1i2in1iii.公式这正是我们所要推导的.,基本思想及其应用基本思想及其应用进一步学习回归分析的进一步学习回归分析的下面我们通过案例下面我们通过案例.13,81所示所示重数据如表重数据如表其身高和体其身高和体名女大学生名女大学生从某大学中随机选取从某大学中随机选取例例5943616454505748kg/170155165175170157165165cm/87654321体重体重身高身高编号编号.cm172,的女大学生的体重的女大学生的体重并预报一名身高为并预报一名身

5、高为归方程归方程身高预报她的体重的回身高预报她的体重的回求根据一名女大学生的求根据一名女大学生的: ) 11.3(.y,x,图图作散点体重为因变量真实取身高为自变量因此选据身高预报体重由于问题中要求根解11.3图图xy.,11.3画它们之间的关系刻性回归方程以用线因此可线性相关关系较好的重有比高和体身样本点呈条状分布中可以看出从图 12 ,85.712,0.849.0.84985.712.abyx 根据探究中的公式和可以得到于是得到回归方程.kg316.60712.85172849.0y,cm172,预报其体重为由回归方程可以的女大学生对身高为所以11.3图图xy?吗316.60是女大学生的体

6、重一定的172身高探究kgcm.21.3.kg316.60kg316.60cm172,位置说明了这一点本点和回归直线的相互中的样图以认为她的体重接近于但一般可是大学生的体重不一定的女身高显然21.3图图 3, eabxy:,回归模型来表示可用下面的线性所以身高和体重的关系线的附近而只是散布在某一条直线由于所有的样本点不共.y,x,yx,exy,称为预报变量称为预报变量把把称为解释变量称为解释变量因此我们把因此我们把的变化的变化只能解释部分只能解释部分即即共同确定共同确定素素和随机因和随机因的值由的值由在回归模型中在回归模型中与函数关系不同与函数关系不同 2,.,0,0.:abeybxaeE e

7、D e这里 和 为模型的未知参数 是 与y之间的误差通常 为随机变量 称为 它的均值方差这样线性回归模型的完整表达式为随机误差随机误差 .eD, 0eE,eabxy2 4 24,.eybxay在线性回归模型中 随机误差 的方差越小通过回归直线预报真实值 的精度越高随机误差是引起预报.,yy 取决于随机误差的方差取决于随机误差的方差其大小其大小之间的误差的原因之一之间的误差的原因之一与真实值与真实值值值 .yy ,ba,ba 21,另一个原因另一个原因之间误差的之间误差的与真实值与真实值这种误差是引起预报值这种误差是引起预报值之间也存在误差之间也存在误差和和它们与真实值它们与真实值的估计值的估计

8、值为截距和斜率为截距和斜率和和中中和和由于公式由于公式另一方面另一方面?e的原因是什么的原因是什么产生随机误差项产生随机误差项思考思考.e.,.,的产生的产生差项差项误误机机随随所有这些因素都会导致所有这些因素都会导致是一种近似的模型是一种近似的模型型往往只型往往只我们选用的线性模我们选用的线性模另外另外动、度量误差等动、度量误差等食习惯、是否喜欢运食习惯、是否喜欢运例如饮例如饮许多其他因素的影响许多其他因素的影响还受还受身高的影响外身高的影响外一个人的体重值除了受一个人的体重值除了受实际上实际上,?ey探究 在线性回归模型中 是用y预报真实值 的误差 它是一个不可观测的量 那么应该怎样研究随

9、机误差 如何衡量预报的精度., 0,.,2随机误差的大小随机误差的大小来衡量来衡量因此可以用方差因此可以用方差而随机误差的均值为而随机误差的均值为于均值程度的数字特征于均值程度的数字特征差是反映随机变量集中差是反映随机变量集中方方平均水平的数字特征平均水平的数字特征值是反映随机变量取值值是反映随机变量取值均均画它的一些总体特征画它的一些总体特征机变量的数字特征来刻机变量的数字特征来刻因此可以通过这个随因此可以通过这个随量量因为随机误差是随机变因为随机误差是随机变 .e,y,ye43?e.,2的样本的样本变量变量因此也就无法得到随机因此也就无法得到随机分离出来分离出来中中我们无法精确地把它从我们

10、无法精确地把它从中中隐含在预报变量隐含在预报变量中的中的或或由于模型由于模型的样本呢的样本呢到随机变量到随机变量如何得如何得来估计总体方差来估计总体方差的想法是通过样本方差的想法是通过样本方差一个自然一个自然的值的值需要估计需要估计为了衡量预报的精度为了衡量预报的精度 , a xby ,21.2归方程可以建立回和公式根据截距和斜率的估计样本的估计值来估计解决问题的途径是通过 .ey ye , yye.y5y 的估计量是所以由于随机误差的估计值中是因此. n, 2 , 1i , abxyyye,y,x,y,x,y,xiiiiinn2211 相应它们的随机误差为相应它们的随机误差为而言而言对于样本

11、点对于样本点, n, 2 , 1i , a xbyy ye iiiii 其估计值为其估计值为,().iiiexyr e s id u a l称 为 相 应 于 点的残 差.23相应的残差数据相应的残差数据重的原始数据以及重的原始数据以及列出女大学生身高和体列出女大学生身高和体表表 382.0883.2627.6137.1618.4419.2627.2373.6e 5943616454505748kg/170155165175170157165165cm/87654321残差残差体重体重身高身高编号编号编号编号残差残差31.3图图.31.3.,.残残差差图图坐坐标标的的样样本本编编号号为为横横是

12、是以以图图这这样样作作出出的的图图形形为为等等或或体体重重估估计计值值高高数数据据或或身身可可选选为为样样本本编编号号横横坐坐标标纵纵坐坐标标为为残残差差作作图图时时分分析析残残差差特特性性我我们们可可以以利利用用图图形形来来残差图残差图编号编号残差残差31.3图图.,.,;,.,61,31.3越高越高回归方程的预报精确度回归方程的预报精确度拟合精度越高拟合精度越高说明模型说明模型区域的宽度越窄区域的宽度越窄均匀地落在水平的带状均匀地落在水平的带状残差点比较残差点比较另外另外则需要寻找其他的原因则需要寻找其他的原因没有错误没有错误如果数据采集如果数据采集合数据合数据归模型拟归模型拟性回性回利用

13、线利用线然后再重新然后再重新予以纠正予以纠正就就果数据采集有错误果数据采集有错误如如是否有人为的错误是否有人为的错误点的过程中点的过程中两个样本两个样本需要确认在采集这需要确认在采集这大大个样本点的残差比较个样本点的残差比较个样本点和第个样本点和第第第出出中可以看中可以看从图从图.yyy y1R:,R,n1i2in1i2ii22其其计计算算公公式式是是来来刻刻画画回回归归的的效效果果我我们们还还可可以以用用相相关关指指数数另另外外.rR,2的平方的平方系数系数恰好等于相关恰好等于相关线性模型中线性模型中在含有一个解释变量的在含有一个解释变量的如果对某组数据如果对某组数据关性越强关性越强量和预报

14、变量的线性相量和预报变量的线性相表示解释变表示解释变越接近于越接近于因为因为表示回归的效果越好表示回归的效果越好接近于接近于越越化的贡献率化的贡献率释变量对于预报变量变释变量对于预报变量变表示解表示解在线性回归模型中在线性回归模型中模型的拟合效果越好模型的拟合效果越好也就是说也就是说意味着残差平方和越小意味着残差平方和越小取值越大取值越大显然显然. ), 1R(, 1R.R,.,R,2222.R,R,22据的模型据的模型大的模型作为这组数大的模型作为这组数选择选择可以通过比较几个可以通过比较几个也也回归分析回归分析种不同的回归方程进行种不同的回归方程进行取几取几可能性采可能性采.%64, %6

15、4,64.0R,12高引起的高引起的是由身是由身女大学生体重差异有女大学生体重差异有或者说或者说体重变化体重变化的的女大学生身高解释了女大学生身高解释了表明表明中中在例在例:,需要注意下列问题用身高预报体重时.,.,.1系木的高与直径之间的关描述北方干旱地区的树方程的高与直径之间的回归在南方多雨地区的树木不能用生长同样之间的关系女运动员的身高和体重描述和体重之间的回归方程不能用女大学生的身高例如所研究的样本的总体回归方程只适用于我们.,8020,.2之间的关系描述现在的身高和体重方程建立的回归年代的身高体重数据所世纪能用不例如一般都有时间性我们所建立的回归方程.),ycm70 x,cm170,

16、cm155x,(,.3显然不合适值时的程计算而用这个方的样本的取值范围为解释变量即在回归方程中重之间的关系就不恰当幼儿时期的身高和体那么用它来描述一个人立的建大学生身高和体重数据我们的回归方程是由女例如归方程的适用范围样本取值范围会影响回.,.4值的平均值它是预报变量的可能取事实上精确值的的预报值就是预报变量不能期望回归方程得到:,骤为骤为建立回归模型的基本步建立回归模型的基本步一般地一般地 ;,1量量是是预预报报变变量量哪哪个个变变量量明明确确哪哪个个变变量量是是解解释释变变确确定定研研究究对对象象 ;,2如如是是否否存存在在线线性性关关系系等等观观察察它它们们之之间间的的关关系系散散点点图

17、图释释主主变变量量和和预预报报变变量量的的画画出出确确定定好好的的解解 );abxy,(3则则选选用用线线性性回回归归方方程程线线性性关关系系如如我我们们观观察察到到数数据据呈呈型型由由经经验验确确定定回回归归方方程程类类 );(4乘乘法法如如最最小小二二程程中中的的参参数数按按一一定定规规则则估估计计回回归归方方 .,),(5或模型是否合适等或模型是否合适等则检查数据是否有误则检查数据是否有误在异常在异常若存若存律性等等律性等等或残差呈现不随机的规或残差呈现不随机的规应残差过大应残差过大个别数据对个别数据对是否有异常是否有异常得出结果后分析残差图得出结果后分析残差图.xy,337.xy2之间

18、的回归方程之间的回归方程与与试建立试建立中中观察数据列于表观察数据列于表组组现收集了现收集了有关有关和温度和温度一只红铃虫的产卵数一只红铃虫的产卵数例例33表表325115662421117/y35322927252321C/0个个产卵数产卵数温度温度41.3图图温温度度产卵数产卵数.41.3据作散点图根据收集的数解所以不能相关关系线性个变量不呈线因此两带状区域内某个布在有分并没样本点在散点图中,.cc,ecy,.21xc12是待定参数和其中的周围指数函数曲线某一条可以发现样本点分布在根据已有的函数知识系立两个变量之间的关建来直接利用线性回归方程 .xy,.)cb,clna(abxz, yln

19、z.cc,2121了间的非线性回归方程之和型来建立就可以利用线性回归模这样的周围直线换后样本点应该分布在则变令系变为线性关过对数变换把指数关系我们可以通和参数问题变为如何估计待定现在 .,abxy线性回归方程线性回归方程我们称之为非我们称之为非时时当回归方程不是形如当回归方程不是形如图的样本数据表的数据可以得到变换后由表, 4333.,51.3.4351.3用线性回归方程来拟合因此可以一条直线的附近变换后的样本点分布在看出中可以从图中数据的散点图给出了表784.5745.4190.4178.3045.3398.2946.1z35322927252321x43 表产卵数的对数温度51.3图图.8

20、43.3x272.0z 43到线性回归方程中的数据得由表回归方程为数对温度的非线性因此红铃虫的产卵 10.2723.8435xye.xy,ty,xt,.cc,cxcy41.3,243423非线性回归方程之间的与从而得到之间的线性回归方程与立然后建即令变换因此可以对温度变量做数为待定参和其中的附近次曲线中样本点集中在某二可以认为图另一方面.61.3,53是相应的散点图图应的温度的平方是红铃虫的产卵数和对表325115662421117y12251024841729625529441t53表.xycxcy,ty,61.3423下面介绍具体方法下面介绍具体方法到到还可以通过残差分析得还可以通过残差分

21、析得这个结论这个结论之间的关系之间的关系与与来拟合来拟合二次曲线二次曲线即不宜用即不宜用合它合它回归方程来拟回归方程来拟此不宜用线性此不宜用线性因因直线的周围直线的周围不分布在一条不分布在一条的散点图并的散点图并与与可以看出可以看出中中从图从图温度的平方数卵产61.3图图中用线性回归模型拟合表的二次回归方程关于下面建立的指数回归方程关于前面已经建立了方程归需要建立两个相应的回残差为比较两个不同模型的52.xy,xy., 222,0.367202.54,0.367202.54.6ytytyxyx的数据 得到关于的线性回归方程即关于的二次回归方程为 的残差计算公式分别为和则回归方程列的数据行第第表示表用的拟合效