第五章_异方差性及检验.ppt

1、1,第五章 异方差性,2,本章讨论四个问题： 异方差的实质和产生的原因 异方差产生的后果 异方差的检测方法 异方差的补救,3,第一节 异方差性的概念,一、什么是异方差性,在简单线性回归模型和多元线性回归模型的基 本假定中，有同方差假定：,如果Var( ui )对不同的解释变量的观测值彼此不 同，则称随机误差项具有异方差性。,4,方差度量的是被解释变量观测值围绕回归线的分散程度，所以异方差性就是指被解释变量观测值 的分散程度随解释变量的变化而变化。,5,在复杂的实际经济现象中异方差性是大量存在的。,例如储蓄函数,再如服装需求函数,这里Q为服装的需求量，Y为消费者的收入、 P为服装价格、 P1为其

2、它商品的价格。,这里Yi表示第i个家庭的储蓄额，Xi为收入。,6,二、产生异方差的原因,（一）模型中省略了某些重要的解释变量,假设正确的模型是：,假如略去了重要的解释变量X3 ，而采用,这时会导致X3 对Y的影响反映在vi中，而这些影响 具有差异性，从而产生异方差性。,所以在用剔除变量法消除共线性时，又有可能 引起异方差性，应注意。,7,（二）模型的设定误差 模型的设定主要包括变量的选择和模型形式的确定。模型中略去了重要解释变量常常导致异方差，实际就是模型设定问题。除此而外，模型的函数形式不正确，如把变量间本来为非线性的关系设定为线性，也可能导致异方差。 （三）数据的测量误差 样本数据的观测误

3、差有可能随研究范围的扩大而增加，或随时间的推移逐步积累，也可能随着观测技术的提高而逐步减小。如储蓄函数，假如用的是1980年至2010年的数据，前些年工资较透明，现在灰色收入较多，测量误差有变化。,8,（四）截面数据中总体各单位的差异 例如利用截面数据研究消费与收入的关系时，不同地区收入有差距，低收入地区家庭用于生活必需品的比例较大，消费的分散程度不大，而高收入地区家庭有更多自由支配的收入，家庭消费有更广泛的选择范围，消费的分散程度较大，而出现异方差性。 通常认为，截面数据较时间序列数据更容易产生异方差。这是因为同一时点不同对象的差异，一般说来会大于同一对象不同时间的差异。不过，在时间序列数据

4、发生较大变化的情况下，也可能出现比截面数据更严重的异方差。,9,第二节 异方差性的后果,一、对参数估计统计特性的影响,如果随机误差项具有异方差性，当我们仍用 OLS进行参数估计时，估计式仍具有线性性和无 偏性，但已不再具有最小方差性。,设回归模型为,10,与同方差假定无关，所以存在异方差时仍能保持 线性性。,因为用OLS估计,11,推导也仅用到零均值假定，表明无偏性也成立。,P37(2.36),12,为了说明最小方差性不再成立，将回归方程改 写成离差形式：,由于Var(vi) = Var(ui)，若（1）式存在异方差， 则（2）式也存在异方差，为讨论方便，不妨设：,（1）,（2）,将（2）变为

5、：,其中,显然wi已具有同方差。,（3）,13,对(1)采用OLS法估计得：,（1）,于是,（3）,对(3)采用OLS法（也即对(2)采用WLS法） 估计得：,P37(2.36),P38(2.40),14,于是,由于,所以,即,15,二、对参数显著性检验的影响,在同方差假定下，作t检验，用无偏估计,仍以模型为例,代替 s2,这里,在异方差情况下，不妨设,作OLS估计，参数方差为,16,于是,代替 s2时,如果,当用无偏估计,则,17,若仍用,作为统计量的值，由于低估,由于高估了真实方差，导致降低 t 统计量的值，本应拒绝的原假设可能被错误地接受，从而降低了所估计参数的显著性。,则,了真实方差，

6、导致夸大 t 统计量的值，本应接受的原 假设可能被错误地拒绝，从而夸大了所估计参数的显著性。反之，如果,18,当 u 存在异方差时，表明方差与解释变量的变化有关，虽然参数的估计量仍然无偏，并且基于此的预测也是无偏的，但是方差会增大，参数估计量不是有效的，从而对Y的预测也将不是有效的，Y的预测值的精度会下降。,三、对预测的影响,19,第三节 异方差性的检验,常用检验方法: 图示检验法 Goldfeld-Quanadt检验 White检验 Glejser检验,20,一、图示检验法,（一）相关图形分析 方差描述的是随机变量取值的（与其均值的）离散程度。因为被解释变量Y与随机误差项u有相同的方差，所以

7、分析Y与X的相关图，可以初略地看到Y的离散程度与X之间是否有相关关系。 如果随着X的增加，Y的离散程度为逐渐增大（或减小）的变化趋势，则认为存在递增型（或递减型）的异方差。,21,用1998年四川省各地市州农村居民家庭消费支出与家庭纯 收入的数据，绘制出消费支出对纯收入的散点图,其中用 Y1表示农村家庭消费支出，X1表示家庭纯收入。,图形举例,22,虽然随机误差项无法观测，但样本回归的残差一 定程度反映了随机误差的某些分布特征，可通过残差 的图形对异方差进行观察。,（二）残差图形分析,对于一元回归模型，绘制出ei2 对Xi的散点图,对 于多元回归模型，绘制出ei2 对Yi的散点图或ei2 与认

8、 为和异方差有关的X的散点图。 如果ei2不随Xi或Yi而变化，则表明不存在异方差； 如果ei2随Xi或Yi而变化，则表明存在异方差。,23,二、Goldfeld-Quanadt检验,基本思想：将样本分为两部分，然后分别对两个样 本进行回归，并计算两个子样的残差平方和所构成 的比，以此为统计量来判断是否存在异方差。 （一） 检验的前提条件 1、要求检验使用的为大样本容量，一般样本容 量不低于参数个数的两倍。 2、除了同方差假定不成立外，其它假定均满足。,24,（二）检验步骤,1.将观测值按某个解释变量的取值按从小到大排序。 2.将排列在中间的c个（取样本容量约1/4）观察值删除掉，再将剩余的分

9、为两个部分，每部分观察 值的个数为（n-c)/2。 3.提出假设 H0: 两部分数据的方差相等 H1：两部分数据的方差相等,25,4.构造F统计量 分别对两个部分的观察值作回归，得到两个部分 的残差平方和，设： Se1i2为前一部分样本回归产生的残差平方和， Se2i2为后一部分样本回归产生的残差平方和。 它们的自由度均为(n-c)/2-k，k为参数的个数。则,26,给定显著性水平a，查 F 分布表，得临界值Fa。 若FFa，则拒绝H0，接受H1，认为存在异方差； 若FFa，则接受H0，拒绝H1，认为不存在异方差。,5.判断 如果没有异方差，则Se1i2与Se2i2为比较接近，F 值接近于1；

10、如果存在递增性方差，则Se1i2应明显大 于Se2i2，此时F值应比1大；对递减性方差，可考虑,27,要求大样本 异方差的表现既可为递增型，也可为递减型 检验结果与选择数据删除的个数 的大小有关 只能判断异方差是否存在，在多个解释变量的 情况下，无法判断是哪个变量引起的异方差。,（三）检验的特点,28,三、White检验,（一）基本思想： 不需要关于异方差的任何先验信息，只需要在大样本的情况下，将OLS估计后的残差平方对常数、解释变量、解释变量的平方及其交叉乘积等构成一个辅助回归，利用辅助回归建立相应的检验统计量来判断异方差性。,29,（二）检验步骤： 以一个二元线性回归模型为例，设模型为：,

11、1.用OLS估计上式，计算残差ei； 2.用ei2作为异方差si2的估计，作辅助回归：,其中 是 的估计值；,30,3.计算辅助回归函数的可决系数R2； 4.提出假设 H0: a2= a3= a4= a5= a6= 0 H0: a2, a3, a4, a5, a6 不全为 0, 在无异方差的假设下，nR2近似服从自由度等 于辅助回归中回归元个数的c2分布，即,这里m=5，n为样本容量。,31,5.检验 给定显著性水平a，查c2分布表的临界值ca2(5)， 若nR2 ca2(5)，则拒绝零假设，接受备择假设，表 明存在异方差；反之，则不存在异方差。,(二)检验的特点 要求变量的取值为大样本；不仅

12、能够检验异方 差的存在性，同时在多变量的情况下，还能判断出 是哪一个变量引起的异方差。缺点是引进回归元太 多，容易消耗自由度，有时可把交叉项去掉。,32,（一）基本思想 寻找残差与某个解释变量之间的显著成立的 关系，将残差的绝对值同时去拟合解释变量的若干 种函数，若其中有显著成立的关系，则认为存在异 方差性。于1969年提出。,四、Glejser检验(格莱泽，戈里瑟）,33,（二）检验步骤：,1.根据样本数据建立估计模型，计算残差ei； 2.分别建立残差绝对值对每个解释变量的一系列函数形式，进行回归，如：,34,3.用t检验，若参数b，显著地不为零，则认为存在 异方差。,(二)检验的特点 不仅

13、能对异方差的存在作出判断，而且还能得 到异方差的随某个解释变量变化的形式。要求大样 本。缺点是函数形式不易确定，检验量太大。,35,第四节 异方差性的补救措施,主要方法: 模型变换法 加权最小二乘法 模型的对数变换,36,一、对模型进行变换,假定经检验，存在异方差，并且已知,以一元线性回归模型为例,其中 s2为常数，f(Xi)是Xi的已知函数。,将模型作适当变换，用 去除模型两边，得,37,记,则有,此时,可见，随机扰动项已没有异方差了。f(Xi)可以有不同的形式,Glejser检验提供了相应的信息。,38,二、加权最小二乘法,普通最小二乘法的目标，是使残差平方和最小，在 同方差假定下，普通最

14、小二乘法是把每个残差的平 方都同等对待，赋予相同的权数 1。但存在异方差 时，方差越小，其样本值偏离均值程度越小，其观 测值越应受到重视，其作用越大。所以对较小的 ei 给予较大的权数，对较大的 ei 给予较小的权数，从 而使残差平方和更好地反映si2对它的影响。,仍以一元线性回归模型为例,39,通常取权数,得加权的残差平方和：,根据最小二乘原理，使得加权的残差平方和最小。,40,41,其中,于是,这样估计的参数称为加权最小二乘估计。,42,可以证明，对原模型变换的方法与加权最小二乘法实际是等价的。所以常常是采用加权最小二乘法来消除异方差性，而用对原模型变换的方法来说明加权最小二乘法可以消除异

15、方差性，注意前提是方差si2 的函数形式是已知的。,43,对数变换后的模型通常可以降低异方差性的影响： 运用对数变换能使测定变量值的尺度缩小。 经过对数变换后的线性模型，其残差表示相对误 差，往往比绝对误差有较小的差异。,当si2 未知时，可采用对数变换，变量Yi和Xi分别用lnYi和lnXi代替，即,注意：1、取对数后变量的经济意义。 2、解释变量之间是否呈对数线性关系。,三、模型的对数变换,44,第五节 案例分析,【例1】表1列出了1998年我国主要制造工业销售收入与销售利 润的统计资料，请利用数据资料,检验异方差性。,46,一、图示检验法,1、相关图形分析,观察销售利润 Y 与销售收入

16、X 的相关图：SCAT X Y,从图中可以看出，随着销售收入的增加，销售利润的平 均水平不断提高，但离散程度也逐步扩大。这说明变量 之间可能存在递增的异方差性。,47,2、残差图形分析,首先将数据排序，然后建立回归方程。在方程窗口 中点击 Resids 按钮可以得到模型的残差分布图。,48,从残差分布图和散点图可以看出，随机误差项存在明显 的扩大趋势，即表明存在异方差性。,再分别作出散点图:,49,二、Goldfeld-Quandt检验,1、将样本按解释变量 X 排序：SORT X,2、将排列在中间的8个观测数据去掉，再将剩余的20个 观测值分成1到10共10个样本和19到28共10个样本,3

17、、利用样本1建立回归模型1（回归结果如图1）：,SMPL 1 10 LS Y C X,其残差平方和为 RSS=2579.587,利用样本2建立回归模型2（回归结果如图2）：,SMPL 19 28 LS Y C X,其残差平方和为 RSS=63769.67,50,图1 样本1回归结果,51,图2 样本2回归结果,52,4、计算F统计量：F63769.67/2579.59=24.72,5、取a=0.05时，查F分布表得Fa(8,8)=3.44，而 F=24.72 Fa(8,8)=3.44 所以存在异方差性。,三、White检验,1、建立回归模型：LS Y C X,由于本例是一元回归模型，辅助回归模

18、型中只有X和 X2项，没有交叉项：,2、检验异方差性：点击,ViewResidualTestWhite Heteroskedastcity,辅助回归模型的估计结果如下：,53,54,3、辅助回归的可决系数R2=0.223944,4、给定显著性水平a=0.05，这里辅助回归中回归元 的个数 m=2，由于,所以存在异方差性。,实际上，由输出结果的概率（p值）可以看出，只要 取显著性水平a0.04349，就可以认为存在异方差性。 实际应用中可以直接观察p值的大小，若p值较小， 则认为存在异方差性。反之，则认为不存在异方差性。,55,四、Glejser检验,1、建立回归模型：LS Y C X,残差的绝

19、对值ei：GENR E=ABS(RESID),2、分别建立序列（E）对如下解释变量的回归模型：,X，X2，X(1/2)，X(1)， X(1/2),回归结果如图所示,56,57,3、由上述各回归结果可知，各回归模型中解释变量 的系数估计值显著不为0且均能通过显著性检验。 所以认为存在异方差性。,通过可决系数 R2 可以确定异方差的具体形式。 本例中，图 X(1/2) 中所示的回归方程中 R2 最大， 可以据此来确定异方差的形式。,异方差性的补救,一、加权最小二乘法,1、生成权数变量,根据Glejser检验，得到 是 的函数,GENR w=1/X,58,2、利用加权最小二乘法估计模型：LS(W=W) Y C X,3、对所估计的模型再进行White检验，观察异方差的 修正情况。点击,ViewResidualTestWhite Heteroskedastcity,检验结果如下：,59,