《回归分析概述》PPT课件

1,本章教学目标：了解回归分析在经济与管理中的广泛应用；掌握回归分析的基本概念、基本原理及其分析应用的基本步骤；熟练掌握使用软件求解回归方程及其运行输出结果的分析与使用；能应用回归分析方法解决实际问题（分析各种变量间的关系，进行预测和控制）,第8章回归分析,2,本章主要内容：,8.1回归分析概述8.2一元线性回归8.3曲线回归8.4多元线性回归本章内容重点：最小二乘法的原理；回归方程和回归系数的显著性检验；多元线性回归及其预测和控制；软件的求解分析。,3,在经济管理和其他领域中，人们经常需要研究两个或多个变量(现象)之间的相互(因果)关系，并使用数学模型来加以描述和解释。如：商品销售量与价格间的关系；产品的某些质量指标与某些控制因素之间的关系；家庭消费支出与家庭收入间的关系等等。回归分析就是对变量间存在的不确定关系进行分析的统计方法。回归分析是使用得最为广泛的统计学分支，在质量管理、市场营销、宏观经济管理等领域都有非常广泛的应用。本章介绍回归分析中最基本的内容。,8.1回归分析概述,4,某钢厂生产的某种合金钢有两个重要的质量指标：抗拉强度(kg/mm2)和延伸率(%)。该合金钢的质量标准要求：抗拉强度应大于32kg/mm2；延伸率应大于33%。根据冶金学的专业知识和实践经验，该合金钢的含碳量是影响抗拉强度和延伸率的主要因素。其中含碳量高，则抗拉强度也就会相应提高，但与此同时延伸率则会降低。为降低生产成本，提高产品质量和竞争能力，该厂质量控制部门要求该种合金钢产品的上述两项质量指标的合格率都应达到99%以上。,质量控制应用案例,5,为达到以上质量控制要求，就需要制定该合金钢冶炼中含碳量的工艺控制标准，也即要确定在冶炼中应将含碳量控制在什么范围内，可以有99%的把握使抗拉强度和延伸率这两项指标都达到要求。这是一个典型的产品质量控制问题，可以使用回归分析方法求解。,如何制订含碳量的控制标准？,6,1.确定性关系也即函数关系，即Y=(X)；Y=(X1,X2,Xp)或F(X,Y)=0；F(X1,X2,Xp,Y)=0例：价格不变时商品销售收入与销售量的关系。,Y=cX,X,销售收入,Y,销售量,O,Y与X间的确定性关系,一.变量间的两类关系,7,家庭收入,非确定性关系,O,家庭消费支出,=b0+b1X,2.非确定性关系,指变量间虽存在着相互影响和相互制约关系，,但由于许多无法预计和控制的因素的影响，,使变量间,的关系呈现不确定性。,即不能由一个或若干变量的值,精确地确定另一变量的值。,但通过大量观察，,可以发现非确定性关系的变量间,存在着某种统计规律性,称为相关关系或回归关系。,8,以三口之家为单位，某种食品在某年各月的家庭平均月消费量Y(kg)与其价格X(元/kg)间的调查数据如下，试分析该食品家庭平均月消费量与价格间的关系。,【案例1】商品价格与消费量的关系,9,由图可知，该食品家庭月平均消费量Y与价格X间基本呈线性关系。这些点与直线Y=0+1X间的偏差是由其他一些无法控制的因素和观察误差引起的。因此可以建立Y与X之间关系的如下线性回归模型Y=0+1X+(8.1-1)其中X解释变量(自变量)Y被解释变量(因变量)0,1模型中的未知参数随机误差项,二.线性回归模型,10,随机误差项产生的原因,(1)模型中忽略的其他因素对Y的影响；(2)模型不准确所产生的偏差；(3)模型中包含了对Y无显著影响的变量；(4)对变量的观察误差；(5)其他随机因素的影响。,11,线性回归模型的数据结构,yi=0+1xi+i；i=1,2,N(8.1-2)其中i是其他因素和试验误差对yi影响的总和。,当X取不完全相同的值x1,x2,xN时，,得,到Y的一组相应的观察值y1,y2,yN。,显然，,每一对观察值(xi,yi)都应满足(5.1-1)式。,因此,一元线性回归模型有如下的数据结构：,12,例解释截距和斜率一名统计学教授打算运用学生为准备期末考试而学习统计学的小时数（X）预测其期末考试成绩（Y）。依据上学期上课班级中收集的数据建立的回归模型如下：如何解释截距和斜率？解截距=35.0表示当学生不为期末考试做准备的话，期末考试平均成绩是35.0。斜率=3表示每增加1小时学习时间，期末考试平均成绩就变化+3.0。换句话说，每增加1小时学习时间，期末成绩就增加3.0。,13,1.各iN(0，2)，且相互独立；2.解释变量是可以精确观察的普通变量(非随机变量)；3.解释变量与随机误差项是各自独立对被解释变量产生影响的。称满足以上条件的回归模型为经典回归模型。本章仅讨论经典回归模型。但在经济领域中，经济变量间的关系通常是不会完全满足上述条件的。例如家庭消费支出Y与家庭收入X间的回归模型就不会是同方差的。,三.回归模型的经典假设条件,14,1.根据问题的实际背景、专业知识或通过对样本数据的分析，建立描述变量间相关关系的回归模型；2.利用样本数据估计模型中的未知参数，得到回归方程；3.对模型进行检验；4.利用通过检验的回归方程对被解释变量进行预测或控制。,四.回归分析的主要内容和分析步骤,15,8.2一元线性回归,一.一元线性回归模型设被解释变量Y与解释变量X间存在线形相关关系，则Y=0+1X+；N(0，2)其中X是普通变量。则YN(0+1X，2)称Y的条件期望E(Y|X)=0+1X(8.2-1)为Y对X的回归。,16,分别是参数0和1的点估计，,二.回归方程,对每一xi值，由回归方程可以确定一个回归值,回归系数。,称(5.2-2)式为回归方程。,记,为Y的条件期望E(Y|X)的点估计，,则由(8.2-1),式，,有,(8.2-2),并称,为回归方程的,并记,17,就可求出,三.回归模型的参数估计,回归模型中的参数估计，,采用的是“最小二乘法”，,其原理如下：,Y的各观察值yi与回归值,之差,反映了yi,与回归直线之间的偏离程度，,从而全部观察值与回归值,的残差平方和,反映了全部观察值与回归直线间总的偏离程度。,显然，,Q的值越小，,就说明回归直线对所有样本数据的,拟和程度越好。,所谓最小二乘法，,就是要使,为最小。,只要令,18,yi,要找一条直线，使,xi,最小二乘法原理示意图,19,分别是参数0和1的最小方差无偏估计。,可以证明，,以上两式说明，,的方差分别为：,2.,四.最小二乘估计的性质,在满足经典假设的条件下,1,回归系数,的估计精度不仅,与2及样本容量N有关，,而且与各xi取值的分散程,度有关。,在给定样本容量下，,xi的取值越分散，,则估,计的方差就越小，,即对参数0和1的估计就越精确；,反之估计的精确就差。,了解这一点，,对指导试验或抽样调查是非常重要的。,20,通过参数估计得到回归方程后，还需要对回归方程进行检验，以确定变量间是否存在显著的线性关系。对一元线性回归模型，如果变量Y与X之间并不存在线性相关关系，则模型中的一次项系数1应为0；反之，则10。故对一元线性回归模型，要检验的原假设为H0：1=0以上检验称为对回归方程的显著性检验，使用的仍然是方差分析方法。Y的观察值y1,y2,yN之间的差异是由两方面的原因引起的：(1)解释变量X的取值xi不同；(2)其他因素和试验误差的影响。,五.回归方程的显著性检验,21,为检验以上两方面中哪一个对Y取值的影响是主要的，就需要将它们各自对Y取值的影响，从yi总的差异中分解出来。与方差分析类似地，可以用总的偏差平方和,来表示全部观察值yi间总的差异量。,1.偏差平方和的分解,将ST作如下分解：,称SR为回归平方和，,它主要是由于变量X的取值不同,引起的，,其大小反映了X的对Y影响的重要程度。,称SE为剩余平方和或残差平方和，,它主要是由随机误,差和其他因素的影响所引起的。,22,可以证明，,因此，在给定显著性水平下，若FF(1,N-2),F(1,N-2),2.检验H0的统计量,当H0为真时，,统计量,就拒绝H0，,并称回归方程是显著的，,可以用回归方程对,被解释变量进行预测或控制分析；,反之，,则称回归方程,无显著意义。,若不能拒绝H0，,则可能有以下原因：,(1)Y和X之间不是线性关系；,(2)模型中忽略了对Y有重要影响的其他因素；,(3)Y和X基本无关；,(4)数据误差过大。,23,回归方程的显著性检验过程同样可以列成如下方差分析表：方差分析表,3.方差分析表,24,【案例1】商品价格与消费量的关系,以三口之家为单位，某种食品在某年各月的家庭平均月消费量Y(kg)与其价格X(元/kg)间的调查数据如下，试分析该食品家庭平均月消费量与价格间的关系。,25,可用Excel【工具】“数据分析”“回归”求解线性回归问题。本案例可解得,“SignificanceF”为达到的显著性水平，含义与P-value相同。SignificanceF=0.000320.001故回归方程是极高度显著的。,方差分析表,故所求回归方程为：,案例1求解分析,说明该食品价格每上涨一元，,家庭月平均消费量将下降,0.34kg，,kg为该食品的最大月平均消费量。,26,运用回归分析，可能存在如下一些错误：不注意最小二乘回归的假设条件不知道如何评估最小二乘回归的假设条件不知道在违背某一假设条件的情况下运用除最小二乘回归外的其它方法在对主要问题不了解的情况下运用回归模型在相关范围外进行外推根据某研究中的因果关系得出存在显著关系的结论,27,案例1需要继续研究的问题,1.以90%的可信度预测当价格为5.6元/kg时，该食品的家庭平均月消费量。2.该食品的生产商和供应商希望该食品的家庭月平均消费量能以90%的把握达到2.5kg以上，应将价格控制在什么水平之下？,28,可以证明，,五.预测和控制,1.预测,就是对解释变量X的某一给定值x0，,求被解释,变量Y的取值y0的,类似于,区间估计问题。,对任一给定的x0，,由回归方程可得y0的回归值,(点估计)：,y0的置信度为1-的预测区间为,置信度为1-的预测区间，,29,关于预测的精度,x0,o,y,允许误差d的公式说明，,预测区间的大小,(预测精度),不仅与、样本容量N及各xi取值的分散程度有关，,而且,和x0有关。,当x0靠近,时，,d就较小，,反之，x0离,越远，,d就越大。,d是x0的函数d=d(x0)。,30,预测区间的近似计算,当样本容量N足够大时，,或,中方括号内的部分就近似于1。因此d可以使用以下近似公式计算：,其中,(5.2-3),(5.2-4),就是回归方程的标准误差。,31,由所得回归方程,由Excel或SPSS的输出结果，,可解得当x0=5.6时，,案例1的预测问题分析,可得标准误差为,dt0.05(10)0.4007,=1.81250.4007,=0.73,故当价格为5.6/kg时，,该食品的家庭月平均消费,量的90%置信预测区间为：,32,2.控制,控制问题在质量管理及其他经济管理领域中,有着非常广泛的应用，,它是预测的反问题。,即当要求以1-的概率将Y的值控制在某一,范围(y1,y2)内时，,应将解释变量X的值控制,在哪一范围内的问题。,也即要确定X的两个值x1,x2，,当x1Xx2,时，,在1-的置信度下可使,y1Yy2,即满足,Py1Yy2|x12.5可解得：x4.32故应将该食品价格控制在4.32元/kg之下。,注意，对于单侧控制,案例1的控制要求分析,显然，这是一个单侧控制问题。,即要确定x2的值，,使,37,某钢厂生产的某种合金钢有两个重要的质量指标：抗拉强度(kg/mm2)和延伸率(%)。该合金钢的质量标准要求：抗拉强度应大于32kg/mm2；延伸率应大于33%。根据冶金学的专业理论知识和实践经验知道，该合金钢的含碳量是影响抗拉强度和延伸率的主要因素。其中含碳量高，则抗拉强度也就会相应提高，但与此同时延伸率则会降低。为降低生产成本，提高产品质量和竞争能力，该厂质量控制部门要求该种合金钢产品的上述两项质量指标的合格率都应达到99%。,质量控制应用案例,38,为达到以上质量控制要求，就需要重新修订该合金钢冶炼中关于含碳量的工艺控制标准。也即要确定在冶炼中应将含碳量控制在什么范围内，可以有99%的把握使抗拉强度和延伸率这两项指标都达到要求。,如何制订含碳量的控制标准？,39,1.样本数据的收集为分析抗拉强度和延伸率这两项指标与含碳量之间的关系，需要有关该合金钢的含碳量与抗拉强度及延伸率的样本数据。该厂质量控制部门查阅了该合金钢的质量检验纪录，在剔除了异常情况后，整理了该合金钢的上述两项指标与含碳量的92炉实测数据(见Excel工作表)。,案例分析,40,为分析抗拉强度和延伸率这两项指标与含碳量之间的关系，需要建立反映它们之间相关关系的回归模型。设Y1,Y2分别为该合金钢的抗拉强度和延伸率，X为含碳量，则Y1=01+1X+1Y2=02+2X+2分别为该合金钢抗拉强度和延伸率关于含碳量的一元线性回归模型。,2.建立线性回归模型,41,用Excel分别求解本案例的两个回归方程，可得：,这一数据在求解控制范围时需要用到。,再由输出的方差分析表可知，SignificanceF=2.05E-3233,解此不等式组，得：0.03760,令y=1/y,x=1/x,，得：y=a+bx,二.非线性函数的线性化方法,48,2.幂函数：y=axb,若a0，则lny=lna+blnx令y=lny，b0=lna，x=lnx，得：y=b0+bx,b1,00，则lny=lna+bx令y=lny，b0=lna，得：y=b0+bx,a,b0,y,x,0,a,a0,50,4.负指数函数：y=aeb/x,若a0，则lny=lna+b/x令y=lny,b0=lna,x=1/x得：y=b0+bx,b0,a,51,5.对数函数：y=a+blnx,令x=lnx，得：y=a+bx,b0,x,0,y,0,y,x,b0,x,0,y,b0,a,53,7S型曲线：,令y=1/y，x=e-x，得：y=a+bx,x,y,0,1/a,1/(a+b),54,在实际问题中，究竟应使用哪种曲线来配置解释变量与被解释变量间的回归模型，通常可根据有关专业理论知识、或分析样本数据的散点图来决定。,配置曲线的原则,但合适的曲线类型并不是一下就能选准的，,往往需要选择几种类型，,通过求解经数据变换,后的线性回归方程，,比较各回归方程的显著性,水平，,则显著性水平最高的曲线对样本数据的,拟合程度最好。,55,对10家化妆品企业某年的产品销售额yi与当年广告费投入xi的调查数据如