版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、第七章 相关与回归分析本章学习相关与回归分析。具体要求:1.掌握有关相关与回归分析的基本概念;2.掌握相关系数的计算与检验的方法,理解标准的一元线性回归模型,能够对模型进行估计和检验并利用模型进行预测;3.理解标准的多元线性回归模型,掌握估计、检验的基本方法和预测的基本公式,理解复相关系数和偏相关系数及其与单相关系数的区别;4.了解常用的非线性函数的特点,掌握常用的非线性函数线性变换以及估计和检验的方法;5.能够应用Excel软件进行相关与回归分析。第一节 相关与回归分析的基本概念一、函数关系与相关关系 客观现象总是普遍联系和相互依存的。客观现象之间的数量联系存在着两种不同的类型:一种是函数关
2、系;另一种是相关关系。当一个或几个变量取一定的值时,另一个变量有确定值与之相对应,我们称这种关系为确定性的函数关系。例如,某种商品的销售收入与该商品的销售量以及该商品价格之间的关系可用表示,这就是一种函数关系。一般把作为影响因素的变量称为自变量,把发生对应变化的变量称为因变量。在上例中,是因变量,与则是自变量。 当一个或几个相互联系的变量取一定数值时,与之相对应的另一变量的值虽然不确定,但它仍按某种规律在一定的范围内变化。变量间的这种相互关系,称为具有不确定性的相关关系。例如,劳动生产率与工资水平的关系、投资额和国民收入的关系、商品流转规模与流通费用的关系等等都属于相关关系。 变量之间的函数关
3、系和相关关系,在一定条件下是可以互相转化的。本来具有函数关系的变量,当存在观测误差时,其函数关系往往以相关的形式表现出来。而具有相关关系的变量之间的联系,如果我们对它们有了深刻的规律性认识,并且能够把影响因变量变动的因素全部纳入方程,这时的相关关系也可能转化为函数关系。另外,相关关系也具有某种变动规律性,所以,相关关系经常可以用一定的函数形式去近似地描述。客观现象的函数关系可以用数学分析的方法去研究,而研究客观现象的相关关系必须借助于统计学中的相关与回归分析方法。二、相关关系的种类 客观现象的相关关系可以按不同的标志加以区分。 (一)按相关的程度可分为完全相关、不完全相关和不相关。当一种现象的
4、数量变化完全由另一个现象的数量变化所确定时,称这两种现象间的关系为完全相关。例如在价格不变的条件下,某种商品的销售总额与其销售量总是成正比例关系。在这种场合,相关关系便成为函数关系。因此也可以说函数关系是相关关系的一个特例。当两个现象彼此互不影响,其数量变化各自独立时,称为不相关现象。例如,通常认为股票价格的高低与气温的高低是不相关的。两个现象之间的关系介于完全相关和不相关之间,称为不完全相关,一般的相关现象都是指这种不完全相关。(二)按相关的方向可分为正相关和负相关。当一个现象的数量增加(或减少),另一个现象的数量也随之增加(或减少)时,称为正相关。例如,消费水平随收入的增加而提高。当一个现
5、象的数量增加(或减少),而另一个现象的数量向相反方向变动时,称为负相关。例如商品流转的规模愈大,流通费用水平则愈低。 (三)按相关的形式可分为线性相关和非线性相关。当两种相关现象之间的关系大致呈现为线性关系时,称之为线性相关。例如人均消费水平与人均收入水平通常成线性关系。如果两种相关现象之间,并不表现为直线的关系,而是近似于某种曲线方程的关系,则这种相关关系称为非线性相关。例如产品的平均成本与产品总产量就是一种非线性相关。 (四)按所研究的变量多少可分为单相关、复相关和偏相关。两个变量之间的相关,称为单相关。当所研究的是一个变量对两个或两个以上其他变量的相关关系时,称为复相关。例如,某种商品的
6、需求与其价格水平以及收入水平之间的相关关系便是一种复相关。在某一现象与多种现象相关的场合,假定其他变量不变,专门考察其中两个变量的相关关系称为偏相关。例如,在假定人们的收入水平不变的条件下,某种商品的需求与其价格水平的关系就是一种偏相关。三、相关分析与回归分析 相关分析和回归分析是研究现象之间相关关系的两种基本方法。所谓相关分析,就是用一个指标来表明现象间相互依存关系的密切程度。所谓回归分析,就是根据相关关系的具体形态,选择一个合适的数学模型,来近似地表达变量间的平均变化关系。 相关分析和回归分析有着密切的联系,它们不仅具有共同的研究对象,而且在具体应用时,常常必须互相补充。相关分析需要依靠回
7、归分析来表明现象数量相关的具体形式,而回归分析则需要依靠相关分析来表明现象数量变化的相关程度。只有当变量之间存在着高度相关时,进行回归分析寻求其相关的具体形式才有意义。由于上述原因,回归分析和相关分析在一些统计学的书籍中被合称为相关关系分析。 但是,应当指出相关分析与回归分析之间在研究目的和方法上是有明显区别的。相关分析研究变量之间相关的方向和相关的程度。但是相关分析不能指出变量间相互关系的具体形式,也无法从一个变量的变化来推测另一个变量的变化情况。回归分析则是研究变量之间相互关系的具体形式,它对具有相关关系的变量之间的数量联系进行测定,确定一个相关的数学表达式,根据这个数学方程式可以从已知量
8、来推测未知量,从而为估算和预测提供一个重要的方法。因此,相关分析可以不必确定变量中哪个是自变量,哪个是因变量,其所涉及的变量可以都是随机变量。而回归分析则必须事先研究确定具有相关关系的变量中哪个为自变量,哪个为因变量。一般地说,回归分析中因变量是随机的,而把自变量作为研究时给定的非随机变量。相关与回归分析可以加深人们对客观现象之间相关关系的认识,因而是对客观现象进行分析的有效方法。但是,相关分析和回归分析只是定量分析的手段。通过相关与回归分析虽然可以从数量上反映现象之间的联系形式及其密切程度,但是无法准确地判断现象内在联系的有无,也无法单独以此来确定何种现象为因,何种现象为果。只有以实质性科学
9、理论为指导,并结合实际经验进行分析研究,才能正确判断事物的内在联系和因果关系。对没有内在联系的事物进行相关和回归分析,不但没有意义,反而会导致荒谬的结论。因此在应用这两种方法对客观现象进行研究时,一定要始终注意把定性分析和定量分析结合起来,在定性分析的基础上开展定量分析。对于相关分析和回归分析,既可以从描述统计的角度也可以从推断统计的角度来说明。本章采用了后一种方式。这不仅是因为后者可以将前者的内容包含在内,而且还因为在有关现实经济和管理问题的定量分析中,作为推断统计的相关与回归分析更加具有广泛的应用价值。四、相关图相关图又称散点图。它是以直角坐标系的横轴代表变量X,纵轴代表变量Y,将两个变量
10、间相对应的变量值用坐标点的形式描绘出来,用来反映两变量之间相关关系的图形。相关图是研究相关关系的直观工具,一般在进行详细的定量分析之前,可以先利用它对现象之间存在的相关关系的方向、形式和密切程度作大致的判断。例如,我国城镇居民“十五”期间人均收入和人均消费支出资料如下: 表7-1 我国城镇居民人均消费和收入情况 单位:元1996年1997年1998年1990年2000年人均消费支出48455189545858896317人均收入39204186433246164998资料来源:中国统计摘要,中国统计出版社2001年5月版根据表7-1的资料绘制的相关图如下:从图7-1可以看出,我国居民的人均消费
11、支出和人均收入之间呈现正线性相关关系。第二节 简单线性相关与回归分析一、相关系数及其检验 (一)相关系数的定义 单相关分析是对两个变量之间的线性相关程度进行分析。单相关分析所采用的尺度为单相关系数,简称相关系数。通常以表示总体的相关系数,以表示样本的相关系数。 总体相关系数的定义式是: (7.1) 式中,Cov(X,Y)是变量X和Y的协方差;Var(X)和Var(Y)分别为变量X和Y的方差。总体相关系数是反映两变量之间线性相关程度的一种特征值,表现为一个常数。样本相关系数的定义公式是: (7.2)上式中,和分别是和的样本平均数。样本相关系数是根据样本观测值计算的,抽取的样本不同,其具体的数值也
12、会有所差异。容易证明,样本相关系数是总体相关系数的一致估计量。 (二)相关系数的特点 样本相关系数有以下特点: 1.的取值介于与之间。 2.当时,与的样本观测值之间没有线性关系。 3.在大多数情况下,即与的样本观测值之间存在着一定的线性关系,当时,与为正相关,当时,与为负相关。 4.如果,则表明与完全线性相关,当时,称为完全正相关,而时,称为完全负相关。 5.是对变量之间线性相关关系的度量。只是表明两个变量之间不存在线性关系,它并不意味着与之间不存在其他类型的关系。对于二者之间可能存在的非线性相关关系,需要利用其他指标去进行分析。关于这一问题,我们将在后面作进一步讨论。 (三)相关系数的计算具
13、体计算样本相关系数时,通常利用以下公式: (7.3)上式是由样本相关系数的定义式推导而来的。【例7-1】表72是2000年我国部分省市自治区城镇居民人均消费性支出和人均可支配收入的有关资料,试利用表中的数据计算消费性支出与可支配收入的样本相关系数。表7-2 2000年我国部分省市城镇居民人均消费支出和收入情况 可支配收入(元)消费支出(元)X2Y2XYXY北京103508494天津81416121河北56614349山西47243942内蒙古51293928辽宁53584356吉林48104021黑龙江49133824上海117188868江苏68005323浙江92797020安徽52944
14、233福建74325639合计8960970118资料来源:中国统计摘要,中国统计出版社2001年5月版 解:将表7-2中的有关数据代入(7.3)式,可得: (四)相关系数的检验 在实际的客观现象分析研究中,相关系数一般都是利用样本数据计算的,因而带有一定的随机性,样本容量越小其可信程度就越差。因此也需要进行检验。相关系数的显著性检验问题可分为两类:一是对总体相关系数是否等于进行检验;二是对总体相关系数是否等于某一个给定的不为的数值进行检验。限于篇幅,这里只介绍对总体相关系数是否等于进行检验。数学上可以证明,在与都服从于正态分布,并且又有的条件下,可以采用检验来确定的显著性。其步骤如下: 首先
15、,计算相关系数的值: (7.4) 其次,根据给定的显著性水平和自由度(),查找分布表中相应的临界值/2。若/2,表明在统计上是显著的。若/2,表明在统计上是不显著的。 【例7-2】假设根据对样本观测数据计算出某公司的股票价格与气温的样本相关系数0.50,试问是否可以根据的显著水平认为该公司的股票与气温之间存在一定程度的线性相关关系? 解:0:;1:将以上数据代入(7.4)式,计算的检验值 1.1547 查表可知:显著水平为,自由度为的临界值/22.776 ,上式中的值小于2.776,因此,不能通过显著性检验。这就是说,尽管根据样本观测值计算的达到0.5,但是由于样本单位过少,这一结论并不可靠,
16、它不足以证明该公司的股票与气温之间存在一定程度的线性相关关系。 二、标准的一元线性回归模型 (一)总体回归函数 当变量之间存在着显著的相关关系时,可以利用一定的数学模型对其进行回归分析。在回归分析中,最简单的模型是只有一个因变量和一个自变量的线性回归模型,即一元线性回归模型,又称简单线性回归模型。 该模型假定因变量主要受自变量的影响,它们之间存在着近似的线性函数关系,即有: t12tut(7.4) (7.4)式被称为总体回归函数。式中的1和2是未知的参数,又叫回归系数。t和t分别是和的第个观测值。u t是随机误差项,又称随机干扰项,它是一个特殊的随机变量,反映未列入方程式的其他各种因素对的影响
17、。 为了便于大家的理解,我们举一个具体例子,作进一步说明。在许多经济学的入门教科书中,都可以看到以下形式的消费函数: t12t(7.5)式中,代表消费支出,代表可支配收入。1是被称为基础消费水平的常数项,代表不受可支配收入影响的消费支出。2是边际消费倾向,它表明可支配收入每增加一个单位时,消费支出所增加的数量。这种类型的消费函数认为,可支配收入是决定消费支出的主要因素,而且它们之间的关系是线性关系。如果以为纵轴,为横轴,则(7.5)式可以用一条直线来表示。这种确定型的消费函数作为理论分析的一种抽象是允许的。但是,在现实经济生活中,这种确定型的消费函数却是很难成立的。试想一下,在全国亿万个家庭中
18、,考察一下具有相同收入的家庭,他们用于消费的部分会完全相同吗?也就是说,在给定的值下,是否都会得到相同的结果?显而易见,这是不可能的。因为,除了收入之外,还有各种影响消费的因素。一些家庭虽然收入相同,但是,其消费习惯、家庭所处的地理位置和气候条件等千差万别,这都会使他们用于消费的部分发生差异。所以,我们只能说,平均来看消费支出与可支配收入的关系能够用直线反映。如果用数学形式表示,可有:(t)12t (7.6)上式表明:在的值给定的条件下,的期望值是的严密的线性函数。(7.6)式所反映的直线被称为总体回归直线。的实际观测值并不一定位于该直线上,只是散布在该直线的周围。我们把各实际观测点与总体回归
19、线垂直方向的间隔,称为随机误差项(参见图7-2),也就是定义:utt(t) (7.7)(t)12tXYYtut。图7-2 总体回归线与随机误差项在反映的实际观测值与给定的值的线性关系式中,引进随机误差项,就得到总体回归函数(7.4)式。 (二)样本回归函数 在现实问题研究中,由于所要研究的现象的总体单位数一般是很多的,在许多场合甚至是无限的,因此无法掌握因变量总体的全部取值。也就是说,总体回归函数事实上是未知的,需要利用样本的信息对其进行估计。 根据样本数据拟合的直线,称为样本回归直线。显然,样本回归线的函数形式应与总体回归线的函数形式一致。一元线性回归模型的样本回归线可表示为:(7.8) 式
20、中的是样本回归线上与t相对应的值,可视为(t)的估计;是样本回归函数的截距系数,是样本回归函数的斜率系数,它们是对总体回归系数1和2的估计。 实际观测到的因变量t值,并不完全等于,如果用t表示二者之差(), 则有: (,.) (7.9)上式称为样本回归函数。式中t称为残差,在概念上,t与总体误差项ut相互对应;是样本的容量。样本回归函数与总体回归函数之间的联系显而易见。这里需要特别指出的是它们之间的区别。第一、总体回归线是未知的,它只有一条。而样本回归线则是根据样本数据拟合的,每抽取一组样本,便可以拟合一条样本回归线。第二、总体回归函数中的1和2是未知的参数,表现为常数。而样本回归函数中的和是
21、随机变量,其具体数值随所抽取的样本观测值不同而变动。第三、总体回归函数中的ut是t与未知的总体回归线之间的纵向距离,它是不可直接观测的。而样本回归函数中的t是t与样本回归线之间的纵向距离,当根据样本观测值拟合出样本回归线之后,可以计算出t的具体数值。 综上所述,样本回归函数是对总体回归函数的近似反映。回归分析的主要任务就是要采用适当的方法,充分利用样本所提供的信息,使得样本回归函数尽可能地接近于真实的总体回归函数。 (三)误差项的标准假定 随机误差项ut是无法直接观测的。为了进行回归分析,通常需要对其概率分布提出一些假定。这些假定有: 假定:误差项的期望值为,即对所有的总有(ut) (7.10
22、) 假定:误差项的方差为常数,即对所有的总有 Var(ut)() (7.11) 假定:误差项之间不存在序列相关关系,其协方差为零,即当时有:Cov(utus)(utus) (7.12) 假定:自变量是给定的变量,与随机误差项线性无关。 假定:随机误差项服从正态分布。 满足以上标准假定的一元线性模型,称为标准的一元线性回归模型。 应当指出,在现实生活中,由于各种原因,上述标准假定常常不能得到满足。那么学习以标准假定为基础的回归分析理论与方法是否会失去意义呢?当然不会。同其他一切科学研究一样,对相关现象的分析方法的研究,也可以从标准的理想状态出发,首先研究这一状态下的基本方法与规律,然后再以此为规
23、范,进一步研究现实存在的非理想状态下可以采用的方法。关于非标准条件下的分析方法,属于计量经济学研究的内容,对此本书不作进一步的讨论。三、一元线性回归模型的估计(一)回归系数的点估计 如前所述,回归分析的主要任务就是要建立能够近似反映真实总体回归函数的样本回归函数。在根据样本资料确定样本回归方程时,一般总是希望的估计值从整体来看尽可能地接近其实际观测值。这就是说,残差t的总量越小越好。可是,由于t正有负,简单的代数和会相互抵消,因此为了便于处理,通常采用残差平方和作为衡量总偏差的尺度。所谓最小二乘法就是根据这一思路,通过使残差平方和为最小来估计回归系数的一种方法。设 (7.13) 很明显,残差平
24、方和的大小将依赖于的取值。根据微积分中求极小值的原理,可知存在极小值,同时欲使达到最小,对的偏导数必须等于零。 将对求偏导数,并令其等于零,可得: (7.14) (7.15) 加以整理后有: (7.16) (7.17) 以上方程组称为正规方程组或标准方程组,式中的是样本容量。求解这一方程组可得: (7.18) (7.19) 以上两式是估计总体回归系数1和2公式。 【例7-3】我们利用例71 的表72中已给出我国部分省市城镇居民人均消费支出和人均可支配收入的数据,来估计我国城镇居民的基础消费水平与边际消费倾向。解:t12tut将表72中合计栏的有关数据代入(7.18)和(7.19)式,可得: 0
25、.7482 70,11813-0.7481689,60613236.63 样本回归方程为: 236.630.7482t 上式中:0.7482表示人均可支配收入每增加1元,人均消费支出会增加0.7482元;236.63元则为人均基础消费水平。 (二)总体方差的估计除了1和2外,一元线性回归模型还包括了另一个未知参数,那就是总体随机误差项的方差2。2可以反映理论模型误差的大小,它是检验模型时必须利用的一个重要参数。由于随机误差项本身是不能直接观测的,因此,需要用最小二乘残差代替随机误差项来估计2。 数学上可以证明,2的无偏估计S可由下式给出: S2 (7.20) 上式中,分子是残差平方和;分母是自
26、由度,其中是样本观测值的个数,是一元线性回归方程中回归系数的个数。在一元线性回归模型中,残差t必须满足以下两个可由(7.14)式和(7.15)式导出的约束条件: ; (7.21) 因而失去了两个自由度,所以其自由度为。 2的正平方根又叫做回归估计的标准误差。越小表明实际观测点与所拟合的样本回归线的离差程度越小,即回归线具有较强的代表性。反之,越大表明实际观测点与所拟合的样本回归线的离差程度越大,即回归线的代表性较差。直接根据(7.20)式计算2,需要逐一计算出残差平方的数值。这样手续十分麻烦,而且计算误差较大。因此,一般采用以下公式计算残差平方和: (7.22)上式的推导过程如下:= 【例7-
27、4】根据例7-中的给出的有关数据和例7-2中已得到的回归系数估计值,计算我国城镇居民消费函数的总体方差2和回归估计标准差。解:将有关数据代入(7.22)式,得:415,235,642236.6261701180.74816532,168,894 将以上结果代入(7.20)式,可得: 2(13-2)4155.76 进而有: 212.50 (三)最小二乘估计量的性质 最小二乘法是多种估计方法中的一种。按照最小二乘法求得的估计总体回归系数的数学公式(7.18)和(7.19)式是样本观测值的函数,通常称之为最小二乘估计量。最小二乘估计量的形式是不变的,但根据所选取的样本不同,其具体数值即回归系数的估计
28、值却会随之变化,因此,它是一种随机变量。可以证明,在标准假定能够得到满足的条件下,回归系数的最小二乘估计量的期望值等于其真值,即有: ()1; ()2 (7.23)其方差为: Var()=2 (7.24) Var()= (7.25) 和的期望值与方差的推导过程基本类似。这里只就进行证明。 为了便于讨论,将12u代入估计量,并作以下变形: = = (7.26) 为了推导上式,利用了以下恒等式: 这样,回归系数的最小二乘估计量可以表现为所要估计的参数的真值与随机误差项的线性组合。由于我们已假定t是给定的变量(不是随机变量),因此,同各期误差项相乘的权数也都是确定量。为了叙述的方便,令 (7.27)
29、 利用前面所述的关于随机误差项的标准假定和期望值运算的规则,可以证明的期望值为: ()2(u) 2(u)(根据标准假定) 2(根据标准假定) 2 (7.28) 的方差为: ()(2u) (u)2 (根据标准假定、) (根据标准假定) (7.29) 证毕。由以上推导过程可知,最小二乘估计量是因变量观测值t的线性函数,其期望值等于总体回归系数的真值。因此,最小二乘估计量是总体回归系数的线性无偏估计量。数学上还可以进一步证明,在所有的线性无偏估计量中,回归系数的最小二乘估计量的方差最小1 有兴趣的读者请参见本章习题7.5的解答。1;同时随着样本容量的增大,其方差会不断缩小。也就是说,回归系数的最小二
30、乘估计量是最优线性无偏估计量和一致估计量。标准线性回归模型中,回归系数的最小二乘估计量所具有的上述性质首先是由数学家高斯和马尔可夫提出并证明的,因此被称为高斯. 马尔可夫定理。通俗地讲,这一定理表明,在标准的假定条件下,最小二乘估计量是一种最佳的估计方式。但是应当明确,这并不意味着根据这一方式计算的每一个具体的估计值都比根据其他方式计算的具体估计值更接近真值,而只是表明如果反复多次进行估计值计算或是扩大样本的容量进行估计值计算,按最佳估计方式计算的估计值接近真值的可能性(概率)最大。(四)回归系数的区间估计利用以上得到的回归系数的点估计及其方差,还可以对回归系数进行区间估计。为了进行区间估计,
31、有必要了解和的概率分布。因为和均为线性估计量,是因变量的线性组合。根据上一节所述的标准假定,可知是服从正态分布的变量,所以和也服从正态分布。另外,以上我们已给出了和的期望值与方差。 所以有: (1,);(2,) (7.30)在总体方差已知的情况下,利用上述正态分布便可以进行区间估计。可是,一般来说,总体方差是未知的,要用其无偏估计量去代替。数学上可以证明, 当样本为小样本时,回归系数估计值的标准化变换值t服从自由度为n-k的t分布。(n是样本容量,k是回归系数的个数,在标准的一元线性回归模型中,k=2。)根据第四章中介绍的关于参数区间估计的原理,可得到以下回归系数区间估计的公式:2(n-2)
32、(j =1,2) (7.31)式中,是回归系数估计的样本标准误差,2(n-2)是显著水平为,自由度为(n-2)的分布双侧临界值。S (7.32) (7.33)【例7-5】利用例7-3和例7-4的有关资料和结果,对例7-2中估计的我国城镇居民边际消费倾向进行置信度为95的区间估计。解:将前面已求得的有关数据代入(7.33)式,可得: 212.50=0.0263 查分布表可知:显著水平为,自由度为11的分布双侧临界值是2.201,前面已求得,将其代入(7.31)式,可得:即:三、一元线性回归模型的检验 (一) 回归模型检验的种类 回归模型中的参数估计出来之后,还必须对其进行检验。如果通过检验发现模
33、型有缺陷,则必须回到模型的设定阶段或参数估计阶段。重新选择因变量和自变量及其函数形式,或者对数据进行加工整理之后再次估计参数。 回归模型的检验包括理论意义检验、一级检验和二级检验。理论意义检验主要涉及参数估计值的符号和取值区间,如果它们与实质性科学的理论以及人们的实践经验不相符,就说明模型不能很好地解释现实的现象。例如,在前面所举的消费函数中,2的取值区间应在至之间。如果根据样本数据估计的大于或小于,则不能通过经济意义检验。在对实际的社会经济现象进行回归分析时,常常会遇到经济意义检验不能通过的情况。造成这一结果的主要原因是:社会经济的统计数据无法象自然科学中的统计数据那样通过有控制的实验去取得
34、,因而所观测的样本容量有可能偏小,不具有足够的代表性,或者不能满足标准线性回归分析所要求的假定条件。一级检验又称统计学检验,它是利用统计学中的抽样理论来检验样本回归方程的可靠性,具体又可分为拟合程度评价和显著性检验。一级检验是对所有现象进行回归分析时都必须通过的检验。二级检验又称经济计量学检验,它是对标准线性回归模型的假定条件能否得到满足进行检验,具体包括序列相关检验、异方差性检验、多重共线性检验等。二级检验对于社会经济现象的定量分析具有特别重要的意义。关于二级检验的问题在计量经济学教科书中有详细介绍。本书只讨论一级检验。 (二)拟合程度的评价 所谓拟合程度,是指样本观测值聚集在样本回归线周围
35、的紧密程度。判断回归模型拟合程度优劣最常用的数量尺度是样本决定系数(又称决定系数)。它是建立在对总离差平方和进行分解的基础之上的。 因变量的实际观测值与其样本均值的离差即总离差(t)可以分解为两部分:一部分是因变量的理论回归值与其样本均值的离差(), 它可以看成是能够由回归直线解释的部分,称为可解释离差;另一部分是实际观测值与理论回归值的离差(t),它是不能由回归直线加以解释的残差t。 对任一实际观测值t总有: (t)()(t) ()t (7.34) 对(7.34)式两边取平方并求和,得到: (t)2()2(t)2 ()(t) 利用残差的定义与(7.21)式,可以证明: ()(t), 从而有:
36、 (t)2()2(t)2即 (7.35)上式中:是总离差平方和;是由回归直线可以解释的那一部分离差平方和,称为回归平方和;是用回归直线无法解释的离差平方和,称为残差平方和。(7.35)式的两边同除以,得: (7.36) 显而易见,各个样本观测点与样本回归直线靠得越紧,SSR在SST中所占的比例就越大。因此,可定义这一比例为决定系数,即有:2=1- (7.37) 决定系数是对回归模型拟合程度的综合度量,决定系数越大,模型拟合程度越高。决定系数越小,则模型对样本的拟合程度越差。决定系数2具有如下特性: 1决定系数2具有非负性。2 但是在回归模型中不包括截距项的场合, 由于总离差平方和的分解公式不成
37、立,按该式计算的2有可能小于。2 由决定系数的定义式可知,2的分子分母均是不可能为负值的平方和,因此其比值必大于零。 2决定系数的取值范围为2。 由2的计算公式可以看出:当所有的实际观测值都位于回归直线上时,这时2,说明总离差可以完全由所估计的样本回归直线来解释;当实际观测值并不是全部位于回归直线上时,但又大致分布在其附近时,这时2;当回归直线没有解释任何离差,即模型中解释变量与因变量完全无关时,的总离差可全部归于残差平方和,即,这时2。3决定系数是样本观测值的函数,它也是一个统计量。4在一元线性回归模型中,决定系数是单相关系数的平方。 【例7-6】利用例7-4中计算的残差平方和,计算例7-3
38、所拟合的样本回归方程的决定系数。 解:21 - 1- 0.9866 上式中的是利用表7-2中给出的数据按下式计算的: (t)2 (70118)213 (三)显著性检验 回归分析中的显著性检验包括两方面的内容:一是对各回归系数的显著性检验;二是对整个回归方程的显著性检验。在一元线性回归模型中,由于只有一个解释变量,对20的检验与对整个方程的显著性检验是等价的。因此这里只介绍对回归系数的显著性检验,对整个回归方程的显著性检验将在下一节中再作介绍。所谓回归系数的显著性检验,就是根据样本估计的结果对总体回归系数的有关假设进行检验。1与2的检验方法是相同的,但2的检验更为重要,因为它表明自变量对因变量线
39、性影响的程度。下面我们以2的检验为例,介绍回归系数显著性检验的基本步骤: 1.t检验(1)提出假设。 对回归系数进行显著性检验,所提出的假设的一般形式是:o:2, 1:2 (7.38) 式中,o表示原假设;1表示备择假设;是假设的总体回归系数的真值。在许多回归分析的计算机程序里,常常令0。这是因为2 是否为,可以表明对是否有显著的影响。(2)确定显著水平。显著水平的大小应根据犯哪一类错误可能带来损失的大小确定。一般情况下取0.05。 (3)计算回归系数的值。 (7.39) 上式中,是回归系数估计的标准误差。 (4)确定临界值。检验的临界值是由显著水平和自由度决定的。 这时应该注意,原假设和备择
40、假设设定的方式不同,据以判断的接受域和拒绝域也不相同。例如,对o:2,1:2,进行的是双侧检验;而对o:2.,1:2.,进行的是单侧检验。对此,在双侧检验的场合,依据和df,查分布表所确定的临界值是(2)和(2);而在单侧检验的场合,所确定的临界值是()。(5)做出判断。如果的绝对值大于临界值的绝对值,就拒绝原假设,接受备择假设;反之,如果的绝对值小于临界值的绝对值,则接受原假设。2.p检验回归系数的显著性检验还可以采用p检验。其前三步与t检验相同,但t值计算出来之后,并不与t分布的临界值进行对比,而是直接计算自由度为n-2的t统计量大于或小于根据样本观测值计算的的概率即p值。然后将其与给定的
41、显著水平对比,如果p小于,则拒绝原假设,反之则接受原假设。利用Excel进行回归分析时,计算机将直接给出回归系数估计的p值。 【例7-7】利用例7-3和例7-4的有关资料和结果,对例7-3中估计的我国城镇居民边际消费倾向进行显著性检验。(1)以的显著水平检验可支配收入是否对消费支出有显著影响。 (2)对o:20.8,1:2.8进行检验。解:(1) 首先,提出假设 o:2,1:2。 其次,利用(7.39)式计算值 0.74816/0.026328.45 上式中的是利用例7-3和例7-4的有关数据和结果按(7.33)式求得的。 212.50=0.0263查分布表可知:显著水平为,自由度为11的双侧
42、检验的临界值是2.201。以上计算的值远远大于2.201,所以拒绝原假设,接受备择假设,即认为可支配收入对消费支出的影响是非常显著的。(2) 利用(7.39)式计算值 (0.74816-0.8)/0.0263-1.971 查分布表可知:显著水平为,自由度为11的单侧检验的临界值是1.796。因为计算的值的绝对值大于1.796,所以否定2.8的原假设,接受备择假设,认为我国城镇居民的平均消费倾向小于0.8。四 、一元线性回归模型预测 (一)回归预测的基本公式 建立回归模型的重要目的之一是进行预测。如果所拟合的样本回归方程经过检验,被认为具有经济意义,同时被证明有较高的拟合程度,就可以利用其来进行
43、预测。简单回归预测的基本公式如下: f (7.40) 式中,f是给定的的具体数值;是f给定时的预测值;和是已估计出的样本回归系数。回归预测是一种有条件的预测,在进行回归预测时,必须先给出f的具体数值。当给出的f属于样本内的数值时,利用该式去计算称为内插检验或事后预测。而当给出的f在样本之外时,利用该式去计算称为外推预测或事前预测。通常所说的预测是指事前预测。(二)预测误差是根据样本回归方程计算的,它是样本观测值的函数, 因而也是一个随机变量。与所要预测的的真值之间必然存在一定的误差。在实际的回归模型预测中,发生预测误差的原因可以概括为以下四个: 1.模型本身中的误差因素所造成的误差;由于总体回
44、归函数并未将所有影响的因素都纳入模型,同时其具体的函数形式也只是实际变量之间数量联系的近似反映,因此必然存在误差。这一误差可以用总体随机误差项的方差来评价。 2.由于回归系数的估计值同其真值不一致所造成的误差;如前所述,样本回归系数是根据样本估计的,它与总体回归系数之间总是有一定的误差。这一误差可以用回归系数的最小二乘估计量的方差来评价。 3.由于自变量的设定值同其实际值的偏离所造成的误差。当给出的f在样本之外时,其本身也需要利用某种方法去进行预测。如果f与未来时期的实际值不符,将其代入(7.40)式求得的的预测值当然也会与其实际值有所不同。4.由于未来时期总体回归系数发生变化所造成的误差。在
45、研究客观经济现象的总体回归方程中,总体回归系数是一定时期内经济结构的数量特征,随着社会经济运行机制和经济结构的变化,它也会有所变动。这时,如果仍沿用根据样本期数据拟合的样本回归方程去进行预测,也会造成误差。在以上造成预测误差的原因中,3、4、两项不属于回归方程本身的问题,而且也难以事先予以估计和控制。因此,在下面的讨论中,假定只存在1、2、两种误差。设f给定时的真值为f,f12fuf (7.41) 则有 ff (12fuf)(f) (7.42) (1)(2)fuf 式中,f是预测的残差。利用期望值与方差的运算规则以及前面给出的回归系数最小二乘估计量的期望值和方差,可以证明:(f) (7.43)
46、ar(f)2 (7.44) 在此基础上,还可以进一步证明是f的最优线性无偏预测,即在标准假定能够满足的情况下,(7.40)式是f的最佳预测方式。 (三)区间预测 (7.40)式给出的是对f的点估计,在许多场合,人们更为关心的是对f的区间估计。在标准假定条件下,f服从于正态分布,即 f(,ar(f) (7.45) 由于ar(f)中的2是未知的,通常用其无偏估计2来代替。若用f来表示预测标准误差的估计值,Sf (7.46)则数学上可以证明: (f)f (7.47)服从于自由度为()的分布。按照确定置信区间的方法,可以得出f的()的置信区间为: f2(n-2)f (7.48)式中,2(n-2)是置信
47、度为()、自由度为()的分布的临界值。对于每一个给定的值,计算相应的的置信区间,并将连接各点的曲线描绘在平面图上,便可得到图7-4。f 图7-3 回归预测的置信区间 从置信区间和f的计算公式以及图7-4,可以得到以下结论: 第一、置信区间的上下限对称地落在样本回归直线两边, 呈中间小两头大的喇叭型。当f时的置信区间最窄,而当f远离时,其置信间逐渐增大。这就是说,在用回归模型进行预测时, f的取值不宜离开过远,否则预测精度将会降低,有可能使预测失效。 第二,在样本容量保持不变时,2(n-2)的值,随置信度()的提高而增加,因此,要求预测值的概率保证程度增加,在其它条件不变时,也就意味着预测精度的降低。 第三,当其它条件不变时,2(n-2)和f的值均为样本容量的减函数,即随着的增加,这二者将逐渐减少。这说明随着样本容量的增加,预测精度将会提高,而样本容量过小,预测的精度就较差。 第四,当足够大时,f会趋近于;2(n-2) 会趋近于2。(2是置信度为()的标准正态分布的临界值)。这时,可以用和2取代f和2来确定预测区间。即样本容量充分大时,f的()的置信区间为:f2 (7.50) 按上式确定的预测区间的上、下限在平面图上呈两条直线(参见图7-3中与样本回
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 网络安全工程师IT行业信息安全体系评估表
- 产品订单追查通知函(3篇)
- 26年人事专员工作总结(22篇)
- 2026年科普知识竞赛全真模拟试卷及答案(共十九套)
- 中医二十四节气康养方案
- 2026年备考一级建造师之一建建设工程经济综合练习试题高频卷附答案
- 2026年备考一级建造师之一建市政公用工程实务综合练习试题高频卷附答案
- 2026年备考一级建造师之一建公路工程实务通关试题库(有答案)
- 四川省第三建筑工程有限公司九工程公司财务人员招聘(1人)考试参考题库及答案解析
- 2026广东佛山市高明建设投资集团有限公司招聘5人(第十九期)考试备考试题及答案解析
- (新教材)2026年人教部编版一年级上册语文 第8课 升国旗 课件
- (2026年)实施指南《DLT 1878-2018 燃煤电厂储煤场盘点导则》
- 双电源自动切换系统实验报告
- 初中语文阅读教学主问题设计:策略、实践与效能提升
- 《韧战》(2023年福建省中考满分作文15篇附审题指导)
- 艾灸治疗鼻炎
- 《相似植物如何区别》课件
- 驾驶员素质提升培训
- My family幼儿园家庭成员介绍手抄报
- 国家安全教育大学生读本-第一章完全准确领会总体国家安全观
- 《外科学》教案:第七章 麻醉
评论
0/150
提交评论