第8讲 异方差性

1、第八讲第八讲 异方差性异方差性 Heteroskedasticity 一、异方差性对于一、异方差性对于OLS估计的影响估计的影响 二、稳健性检验二、稳健性检验 三、对是否存在异方差性的检验三、对是否存在异方差性的检验 四、加权最小二乘估计四、加权最小二乘估计 n 异方差性异方差性 n 异方差性对于异方差性对于OLS估计的影响估计的影响 n 如何解决可能存在的异方差性？如何解决可能存在的异方差性？ 一、一、异方差性对于异方差性对于OLS估计的影响估计的影响 异方差性异方差性 回忆：经典线性模型（回忆：经典线性模型（CLM）的假定）的假定 )0(6 . ),|(5 . 0),|(4 . 3 . 2

2、 . 1 . 2 2 1 1 110 ,NuuMLR XXuVarMLR XXuEMLR MLR MLR MLR uXXY k k kk 且且独独立立于于所所有有解解释释变变量量，正正态态性性： 同同方方差差性性： 零零条条件件均均值值： 全全的的线线性性关关系系且且自自变变量量之之间间不不存存在在完完 异异个个解解释释变变量量具具有有一一定定变变不不存存在在完完全全共共线线性性；每每 的的从从总总体体中中随随机机抽抽样样得得到到样样本本的的随随机机性性：样样本本是是 的的型型对对于于参参数数而而言言是是线线性性参参数数的的线线性性性性：回回归归模模 对对于于总总体体回回归归函函数数 异方差性

3、异方差性 o 同方差性（同方差性（homoscedasticity）：误差项的条件方差相同：误差项的条件方差相同 o 异方差性（异方差性（heteroscedasticity）：误差项的条件方差不相同：误差项的条件方差不相同 2 10 2 10 2 2 10 )|()|()|( )|()|()|( )|( )|( iiiiiiii iiiiiii iii ii XuVarXuXVarXYVar XuVarXuXVarXYVar XuVar XuVar uXY 异异方方差差性性： 同同方方差差性性： 也也即即： 异异方方差差性性： 同同方方差差性性： 对对于于 异方差性异方差性 同方差性同方差性

4、 X Y 概概 率率 密密 度度 X：受教育年限：受教育年限 Y：工资：工资 异方差性异方差性 异方差性异方差性 X Y 概概 率率 密密 度度 X：受教育年限：受教育年限 Y：工资：工资 异方差性异方差性 异方差性异方差性 X Y 概概 率率 密密 度度 X：时间：时间 Y：打字正确率：打字正确率 异方差性对异方差性对OLS估计的影响估计的影响 o 回归系数的回归系数的OLS估计量仍然是无偏的、一致的，并且不影响估计量仍然是无偏的、一致的，并且不影响 R2和调整的和调整的R2 o 回归标准差的估计不再是无偏的，从而回归系数回归标准差的估计不再是无偏的，从而回归系数OLS估计量估计量 的方差估

5、计不再是无偏的，的方差估计不再是无偏的， OLS估计量不再是有效的和渐近估计量不再是有效的和渐近 有效的有效的 o t统计量不服从统计量不服从t分布，分布，F统计量也不服从统计量也不服从F分布，从而无法进分布，从而无法进 行假设检验和区间估计，也无法进行区间预测行假设检验和区间估计，也无法进行区间预测 如何解决可能存在的异方差性？如何解决可能存在的异方差性？ 两种方法两种方法 o 其一，异方差性不影响其一，异方差性不影响OLS估计量的无偏性和一致性，只影估计量的无偏性和一致性，只影 响响OLS估计量的方差估计，因此，如果能找到一种方法（不估计量的方差估计，因此，如果能找到一种方法（不 同于同于

6、OLS估计）正确地估计出估计）正确地估计出OLS估计量的方差，那么同样估计量的方差，那么同样 可以进行假设检验。这种方法称为稳健性检验可以进行假设检验。这种方法称为稳健性检验 o 其二，首先检验是否存在异方差，如果不存在，可以使用其二，首先检验是否存在异方差，如果不存在，可以使用 OLS估计；如果存在异方差，使用另外一种估计方法（即加估计；如果存在异方差，使用另外一种估计方法（即加 权最小二乘估计，权最小二乘估计，WLS） n 稳健性稳健性t检验检验 n 稳健性稳健性F检验检验 n 稳健性稳健性LM检验检验 二、稳健性检验二、稳健性检验 稳健性稳健性t检验检验 o 异方差性不影响异方差性不影响

7、OLS估计量的无偏性和一致性，只是影响估计量的无偏性和一致性，只是影响 OLS估计量的方差估计，从而影响估计量的方差估计，从而影响t检验和检验和F检验。因此，如检验。因此，如 果能找到一种方法正确地估计出果能找到一种方法正确地估计出OLS估计量的方差，那么同估计量的方差，那么同 样可以进行样可以进行t检验和检验和F检验检验 o 对于大样本数据，在假定对于大样本数据，在假定MLR.1-4下，可以通过一定的方法下，可以通过一定的方法 得到得到OLS估计量的方差的正确估计量（参见课本估计量的方差的正确估计量（参见课本p253，8.4式式 ），并进而得到），并进而得到OLS估计量的标准误。通过这种方法

8、得到的估计量的标准误。通过这种方法得到的 标准误称为标准误称为异方差异方差-稳健性标准误（稳健性标准误（heteroskedasticity-robust standard error），或简称，或简称稳健性标准误（稳健性标准误（robust standard error ）。 稳健性稳健性t检验检验 o 一旦得到了稳健性标准误，就可以在此基础上构造一旦得到了稳健性标准误，就可以在此基础上构造稳健性稳健性t 统计量（统计量（robust t statistics） ，进而进行稳健性，进而进行稳健性t检验。检验。 稳稳健健性性标标准准误误 假假设设值值估估计计值值 统统计计量量稳稳健健性性 OL

9、S t 稳健性稳健性t检验检验 例题例题8_1：工资方程（课本：工资方程（课本p253，例，例8.1） lwageCoef.SEtrobust SEt (robust) married_male0.2127 0.0554 3.84 0.0571 3.72 married_female-0.1983 0.0578 -3.43 0.0588 -3.37 single_female-0.1104 0.0557 -1.98 0.0571 -1.93 educ0.0789 0.0067 11.79 0.0074 10.64 exper0.0268 0.0052 5.11 0.0051 5.22 expe

10、rsq-0.0005 0.0001 -4.85 0.0001 -5.03 tenure0.0291 0.0068 4.30 0.0069 4.19 tenursq-0.0005 0.0002 -2.31 0.0002 -2.19 _cons0.3214 0.1000 3.21 0.1095 2.94 稳健性稳健性F检验检验 o 也可以构造也可以构造异方差异方差-稳健性稳健性F统计量（统计量（heteroskedasticity- robust F statistic ）或或异方差异方差-稳健性瓦尔德统计量（稳健性瓦尔德统计量（ heteroskedasticity-robust Wald st

11、atistic） ，从而进行异方差，从而进行异方差- 稳健性稳健性F检验（对多个线性假设的检验）检验（对多个线性假设的检验） o 例题例题8_2：学习成绩的决定（课本：学习成绩的决定（课本p255，例，例8.2） 稳健性稳健性LM检验检验 o 与异方性与异方性-稳健性稳健性F检验相同，针对多个线性假设的检验还可检验相同，针对多个线性假设的检验还可 采用采用异方差异方差-稳健性拉格朗日乘子检验（稳健性拉格朗日乘子检验（heteroskedasticity- robust Lagrange Multiplier test） ，简称稳健性，简称稳健性LM检验。检验。 o 本课程不要求同学掌握稳健性本

12、课程不要求同学掌握稳健性LM检验，有兴趣的同学请参检验，有兴趣的同学请参 看课本看课本p255-257 o为什么要对异方差性进行检验？为什么要对异方差性进行检验？ o布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test） o怀特检验（怀特检验（White test） 三、对是否存在异方差性的检验三、对是否存在异方差性的检验 为什么要对异方差性进行检验？为什么要对异方差性进行检验？ o 不管模型是否满足同方差假定，估计稳健性标准误和进行不管模型是否满足同方差假定，估计稳健性标准误和进行 稳健性检验是更为稳妥的方法，因此这一方法越来越普遍稳健性检验是更为稳妥的方法，因此这一方法越

13、来越普遍 。那么，为什么还要对是否存在异方差性进行检验？。那么，为什么还要对是否存在异方差性进行检验？ o 对于小样本数据，稳健性对于小样本数据，稳健性t统计量并不十分接近统计量并不十分接近t分布，应使分布，应使 用通常的用通常的t检验。此时，应首先对是否存在异方差性进行检检验。此时，应首先对是否存在异方差性进行检 验。如果不存在异方差性，就可以使用通常的验。如果不存在异方差性，就可以使用通常的t检验；如果检验；如果 存在异方差性，就应使用不同于存在异方差性，就应使用不同于OLS的估计方法。的估计方法。 o 只要存在异方差，只要存在异方差，OLS估计量就不是最优线性无偏估计量估计量就不是最优线

14、性无偏估计量 。因此最好使用比。因此最好使用比OLS更好的估计方法更好的估计方法 为什么要对异方差性进行检验？为什么要对异方差性进行检验？ o 出现异方差性的一个常见原因，是误差项的条件方差与某出现异方差性的一个常见原因，是误差项的条件方差与某 些自变量相关，下面的两种检验方法都是看误差项的条件些自变量相关，下面的两种检验方法都是看误差项的条件 方差是否与某些自变量相关方差是否与某些自变量相关 布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test） 基本思想基本思想 假定就不成立假定就不成立 相关，那么同方差相关，那么同方差与一个或多个解释变量与一个或多个解释变量因此，如果因

15、此，如果 ：等价于等价于 ：从而同方差假定从而同方差假定 。所以：。所以：，那么，那么满足满足 如果总体回归函数如果总体回归函数 2 22 1 2 0 2 10 1 2 2 11 2 1 1 110 )()( ),( )( ),()(),( 0),(41 . u uE,X,|XuEH XX|uVarH ,X,|XuE XX|uE,X,|XuEXX|uVar XX|uEMLR uXXY k k k kkk k kk 布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test） 布罗施布罗施-帕甘检验（帕甘检验（BP test） 即即存存在在异异方方差差性性说说明明可可以以拒拒绝绝原原

16、假假设设，显显著著的的， 统统计计量量是是统统计计量量或或，如如果果，对对于于 量量统统计计量量，或或者者构构造造统统计计）的的得得到到模模型型（ 回回归归，得得到到的的作作为为因因变变量量做做以以下下模模型型用用 方方法法估估计计）用用根根据据模模型型（ 假假定定： ）（对对于于 MLFHd knRLMFc vXXu ROLSub uOLSa vXX XX|uEXX|uVar uXXY k u kk u kk kk kk 00:. )(2. )2( . 1. ),(),( ,1 10 22 110 2 22 2 110 1 2 1 110 布罗施布罗施-帕甘检验（帕甘检验（Breusch-P

17、agan test） 例题例题8_3：住房价格（课本：住房价格（课本p259，例，例8.4） 为不存在异方差性为不存在异方差性不能拒绝原假设，即认不能拒绝原假设，即认 为存在异方差性为存在异方差性可以拒绝原假设，即认可以拒绝原假设，即认 614)3(224048008804800 2450411)843( 99. 5)3(09.141601. 088,1601. 0 00020345)843( 2 10 2 3210 2 05. 0 2 0 .,LM.R .,p.,F ubdrmslsqrftllotsizelprice LMR .,p.,F ubdrmssqrftlotsizeprice .

18、u u 321 怀特检验（怀特检验（White test） 怀特检验（怀特检验（White test）：一般检验）：一般检验 o 与与BP检验相比，怀特检验进一步考虑误差项方差与每个自变检验相比，怀特检验进一步考虑误差项方差与每个自变 量的平方及每两个自变量的交互项的关系。量的平方及每两个自变量的交互项的关系。 vXXXX XXXX XX|uEXX|uVar uXXY kk kk k kkkkk kk kk 1 2 3 2112 2 2 2 11110 1 2 1 110 2 ),(),( ),1( 假假定定： 对对于于 怀特检验（怀特检验（White test） 怀特检验（怀特检验（Whit

19、e test）：一般检验）：一般检验 即即存存在在异异方方差差性性说说明明可可以以拒拒绝绝原原假假设设，显显著著的的， 统统计计量量是是统统计计量量或或，如如果果，对对于于 量量统统计计量量，或或者者构构造造统统计计）的的得得到到模模型型（ 回回归归，得得到到的的作作为为因因变变量量做做以以下下模模型型用用 方方法法估估计计出出用用根根据据模模型型 MLFH kk nRLMF vXXXX XXXXu ROLSu uOLS kk u kk kk k kkkkk u 00:. 4 ) 2 3 (2. 3 )2( . 2 )1(. 1 2 3 10 2 22 1 2 3 2112 2 2 2 111

20、10 2 22 2 2 2 怀特检验（怀特检验（White test） 怀特检验（怀特检验（White test）：特殊检验）：特殊检验 o 为了节省自由度，有时采用如下形式的怀特特殊检验为了节省自由度，有时采用如下形式的怀特特殊检验 即即存存在在异异方方差差性性说说明明可可以以拒拒绝绝原原假假设设，显显著著的的， 统统计计量量是是统统计计量量或或如如果果对对于于 量量统统计计量量，或或者者构构造造统统计计得得到到上上述述回回归归的的 回回归归，得得到到的的作作为为因因变变量量做做以以下下模模型型用用 和和、）的的方方法法估估计计出出方方程程（根根据据模模型型用用 假假定定： 对对于于 MLF

21、，Hd nRLMFc vYYu ROLSub YYuOLSa vYY uXXY u u kk 00:. )2(. . 1. ),1( 210 22 2 210 2 22 22 2 210 2 110 怀特检验（怀特检验（White test） 例题例题8_4 ：住房价格（课本：住房价格（课本p261，例，例8.5） 性性，即即认认为为不不存存在在异异方方差差所所以以，不不能能拒拒绝绝原原假假设设 特特殊殊检检验验 一一般般检检验验： 614)2(45303920 18300731)852( 6814)9(55910850 40530051)789( 2 10 2 2 10 2 3210 .,L

22、M.R .,p.,F : .,LM.R .,p.,F ubdrmslsqrftllotsizelprice .u .u o加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知 o加权最小二乘估计：异方差形式未知加权最小二乘估计：异方差形式未知 四、加权最小二乘估计四、加权最小二乘估计 加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知 如果发现存在异方差，可以采取两种方式解决：如果发现存在异方差，可以采取两种方式解决： o 对于大样本数据，可使用稳健性标准误和稳健性检验对于大样本数据，可使用稳健性标准误和稳健性检验 o 探究异方差的形式，通过适当的变换得到最优线性无偏

23、估计探究异方差的形式，通过适当的变换得到最优线性无偏估计 量量 加权最小二乘回归：异方差形式已知加权最小二乘回归：异方差形式已知 加权最小二乘估计加权最小二乘估计 估估计计以以应应用用）满满足足同同方方差差假假定定，可可从从而而模模型型（ 此此时时， 即即： 那那么么可可以以做做如如下下变变换换： 若若已已知知： 对对于于 OLS h h h uE h u EuEuVar uXXXY h u h X h X hh Y h,X,Xh,X,u|XVar uXXY i i i i i i ii ikikiii i i i ki k i i ii i ikiiikii ikikii 2 )X|( )X

24、|)()X|()X|( )2( )()() 1 ( )()( )1( 2 2 2 2 2 * * 11 * 00 * 1 10 2 1 22 1 110 加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知 加权最小二乘估计加权最小二乘估计 ）称称为为加加权权最最小小二二乘乘法法（ 和和，故故而而化化经经过过加加权权的的残残差差平平方方这这一一方方法法实实际际上上是是最最小小 对对于于 ： 对对于于 WLSsquaresleastweighted uwu h XXY h h X h X hh Y uOLS h u h X h X h h Y XXYuOLS uXXY iii i k

25、ikii i i ki k i i ii i* i i i i ki k i i ii i kikiii ikikii , 1 )( 1 )()() 1 (min: )2()()() 1 ( )(min )1( 222 110 21 10 2 1 10 2 110 2 110 加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知 加权最小二乘估计加权最小二乘估计 例题例题8_5：家庭储蓄方程（课本：家庭储蓄方程（课本p265，例，例8.6） o 加权最小二乘估计属于加权最小二乘估计属于广义最小二乘估计（广义最小二乘估计（Generalized Least Square, GLS）的

26、一种的一种 归归的的模模型型是是一一个个过过原原点点回回需需要要注注意意的的是是，变变换换后后 ，即即：归归的的权权重重为为此此时时，加加权权最最小小二二乘乘回回 ）呈呈正正相相关关关关系系，即即（如如 释释变变量量项项的的条条件件方方差差与与某某个个解解一一种种常常见见的的情情况况是是误误差差 i i i ki k i i ii i i ikiii X u X X X X X X Y X X,X,u|XVarX 111 1 1 1 0 1 1 1 2 1 2 1 )()() 1 ( 1 )( 加权最小二乘估计：异方差形式未知加权最小二乘估计：异方差形式未知 o 在一般情况下，我们并不知道异方

27、差的具体形式，需要对异在一般情况下，我们并不知道异方差的具体形式，需要对异 方差的函数形式做出估计，然后再进行加权最小二乘估计，方差的函数形式做出估计，然后再进行加权最小二乘估计， 这种方法属于这种方法属于可行的广义最小二乘估计（可行的广义最小二乘估计（Feasible Generalized Least Square, FGLS）或或估计的广义最小二乘估估计的广义最小二乘估 计（计（Estimated Generalized Least Square, EGLS）的一种的一种 加权最小二乘估计：异方差形式未知加权最小二乘估计：异方差形式未知 可行的广义最小二乘估计（可行的广义最小二乘估计（FGLS） i i ki i k i iii i ii kikiii ikikii i ikiki