第8讲 异方差性

1、第八讲第八讲 异方差性异方差性 Heteroskedasticity一、异方差性对于一、异方差性对于OLS估计的影响估计的影响二、稳健性检验二、稳健性检验三、对是否存在异方差性的检验三、对是否存在异方差性的检验四、加权最小二乘估计四、加权最小二乘估计1. 异方差性异方差性2. 异方差性对于异方差性对于OLS估计的影响估计的影响3. 如何解决可能存在的异方差性？如何解决可能存在的异方差性？一、一、异方差性对于异方差性对于OLS估计的影响估计的影响异方差性异方差性回忆：经典线性模型（回忆：经典线性模型（CLM）的假定）的假定)0(6 .),|(5 .0),|(4 .3 .2 .1 .2211110

2、 ,NuuMLRXXuVarMLRXXuEMLRMLRMLRMLRuXXYkkkk且且独独立立于于所所有有解解释释变变量量，正正态态性性：同同方方差差性性：零零条条件件均均值值：全全的的线线性性关关系系且且自自变变量量之之间间不不存存在在完完异异个个解解释释变变量量具具有有一一定定变变不不存存在在完完全全共共线线性性；每每的的从从总总体体中中随随机机抽抽样样得得到到样样本本的的随随机机性性：样样本本是是的的型型对对于于参参数数而而言言是是线线性性参参数数的的线线性性性性：回回归归模模对对于于总总体体回回归归函函数数 异方差性异方差性o 同方差性（同方差性（homoscedasticity）：误

3、差项的条件方差相同：误差项的条件方差相同o 异方差性（异方差性（heteroscedasticity）：误差项的条件方差不相同：误差项的条件方差不相同2102102210)|()|()|()|()|()|()|()|(iiiiiiiiiiiiiiiiiiiiXuVarXuXVarXYVarXuVarXuXVarXYVarXuVarXuVaruXY 异异方方差差性性：同同方方差差性性：也也即即：异异方方差差性性：同同方方差差性性：对对于于异方差性异方差性同方差性同方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资异方差性异方差性异方差异方差性性XY概概率率密密度度X：受教育年限：

4、受教育年限Y：工资：工资异方差性异方差性异方差性异方差性XY概概率率密密度度X：时间：时间Y：打字正确率：打字正确率异方差性对异方差性对OLS估计的影响估计的影响1) 回归系数的回归系数的OLS估计量仍然是无偏的、一致的，并且不影响估计量仍然是无偏的、一致的，并且不影响R2和调整的和调整的R22) 回归标准差的估计不再是无偏的，从而回归系数回归标准差的估计不再是无偏的，从而回归系数OLS估计量估计量的方差估计不再是无偏的，的方差估计不再是无偏的， OLS估计量不再是有效的和渐近估计量不再是有效的和渐近有效的有效的3) t统计量不服从统计量不服从t分布，分布，F统计量也不服从统计量也不服从F分布

5、，从而无法进分布，从而无法进行假设检验和区间估计，也无法进行区间预测行假设检验和区间估计，也无法进行区间预测如何解决可能存在的异方差性？如何解决可能存在的异方差性？两种方法两种方法o 其一，异方差性不影响其一，异方差性不影响OLS估计量的无偏性和一致性，只影估计量的无偏性和一致性，只影响响OLS估计量的方差估计，因此，如果能找到一种方法（不估计量的方差估计，因此，如果能找到一种方法（不同于同于OLS估计）正确地估计出估计）正确地估计出OLS估计量的方差，那么同样估计量的方差，那么同样可以进行假设检验。这种方法称为稳健性检验可以进行假设检验。这种方法称为稳健性检验o 其二，首先检验是否存在异方差

6、，如果不存在，可以使用其二，首先检验是否存在异方差，如果不存在，可以使用OLS估计；如果存在异方差，使用另外一种估计方法（即加估计；如果存在异方差，使用另外一种估计方法（即加权最小二乘估计，权最小二乘估计，WLS）1. 稳健性稳健性t检验检验2. 稳健性稳健性F检验检验3. 稳健性稳健性LM检验检验二、稳健性检验二、稳健性检验稳健性稳健性t检验检验o 异方差性不影响异方差性不影响OLS估计量的无偏性和一致性，只是影响估计量的无偏性和一致性，只是影响OLS估计量的方差估计，从而影响估计量的方差估计，从而影响t检验和检验和F检验。因此，如检验。因此，如果能找到一种方法正确地估计出果能找到一种方法正

7、确地估计出OLS估计量的方差，那么同估计量的方差，那么同样可以进行样可以进行t检验和检验和F检验检验o 对于大样本数据，在假定对于大样本数据，在假定MLR.1-4下，可以通过一定的方法下，可以通过一定的方法得到得到OLS估计量的方差的正确估计量（参见课本估计量的方差的正确估计量（参见课本p253，8.4式式），并进而得到），并进而得到OLS估计量的标准误。通过这种方法得到的估计量的标准误。通过这种方法得到的标准误称为标准误称为异方差异方差-稳健性标准误（稳健性标准误（heteroskedasticity-robust standard error），或简称，或简称稳健性标准误（稳健性标准误（r

8、obust standard error ）。稳健性稳健性t检验检验o 一旦得到了稳健性标准误，就可以在此基础上构造一旦得到了稳健性标准误，就可以在此基础上构造稳健性稳健性t统计量（统计量（robust t statistics） ，进而进行稳健性，进而进行稳健性t检验。检验。稳健性标准误稳健性标准误假设值假设值估计值估计值统计量统计量稳健性稳健性 OLSt稳健性稳健性t检验检验例题例题8_1：工资方程（课本：工资方程（课本p253，例，例8.1）lwageCoef.SEtrobust SEt (robust)married_male0.2127 0.0554 3.84 0.0571 3.72

9、 married_female-0.1983 0.0578 -3.43 0.0588 -3.37 single_female-0.1104 0.0557 -1.98 0.0571 -1.93 educ0.0789 0.0067 11.79 0.0074 10.64 exper0.0268 0.0052 5.11 0.0051 5.22 expersq-0.0005 0.0001 -4.85 0.0001 -5.03 tenure0.0291 0.0068 4.30 0.0069 4.19 tenursq-0.0005 0.0002 -2.31 0.0002 -2.19 _cons0.3214

10、0.1000 3.21 0.1095 2.94 稳健性稳健性F检验检验o 也可以构造也可以构造异方差异方差-稳健性稳健性F统计量（统计量（heteroskedasticity-robust F statistic ）或或异方差异方差-稳健性瓦尔德统计量（稳健性瓦尔德统计量（heteroskedasticity-robust Wald statistic） ，从而进行异方差，从而进行异方差-稳健性稳健性F检验（对多个线性假设的检验）检验（对多个线性假设的检验）o 例题例题8_2：学习成绩的决定（课本：学习成绩的决定（课本p255，例，例8.2）稳健性稳健性LM检验检验o 与异方性与异方性-稳健性

11、稳健性F检验相同，针对多个线性假设的检验还可检验相同，针对多个线性假设的检验还可采用采用异方差异方差-稳健性拉格朗日乘子检验（稳健性拉格朗日乘子检验（heteroskedasticity-robust Lagrange Multiplier test） ，简称稳健性，简称稳健性LM检验。检验。o 本课程不要求同学掌握稳健性本课程不要求同学掌握稳健性LM检验，有兴趣的同学请参检验，有兴趣的同学请参看课本看课本p255-2571. 为什么要对异方差性进行检验？为什么要对异方差性进行检验？2. 布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test）3. 怀特检验（怀特检验（Whit

12、e test）三、对是否存在异方差性的检验三、对是否存在异方差性的检验为什么要对异方差性进行检验？为什么要对异方差性进行检验？o 不管模型是否满足同方差假定，估计稳健性标准误和进行不管模型是否满足同方差假定，估计稳健性标准误和进行稳健性检验是更为稳妥的方法，因此这一方法越来越普遍稳健性检验是更为稳妥的方法，因此这一方法越来越普遍。那么，为什么还要对是否存在异方差性进行检验？。那么，为什么还要对是否存在异方差性进行检验？a) 对于小样本数据，稳健性对于小样本数据，稳健性t统计量并不十分接近统计量并不十分接近t分布，应使分布，应使用通常的用通常的t检验。此时，应首先对是否存在异方差性进行检检验。此

13、时，应首先对是否存在异方差性进行检验。如果不存在异方差性，就可以使用通常的验。如果不存在异方差性，就可以使用通常的t检验；如果检验；如果存在异方差性，就应使用不同于存在异方差性，就应使用不同于OLS的估计方法。的估计方法。b) 只要存在异方差，只要存在异方差，OLS估计量就不是最优线性无偏估计量估计量就不是最优线性无偏估计量。因此最好使用比。因此最好使用比OLS更好的估计方法更好的估计方法为什么要对异方差性进行检验？为什么要对异方差性进行检验？o 出现异方差性的一个常见原因，是误差项的条件方差与某出现异方差性的一个常见原因，是误差项的条件方差与某些自变量相关，下面的两种检验方法都是看误差项的条

14、件些自变量相关，下面的两种检验方法都是看误差项的条件方差是否与某些自变量相关方差是否与某些自变量相关布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test）基本思想基本思想假定就不成立假定就不成立相关，那么同方差相关，那么同方差与一个或多个解释变量与一个或多个解释变量因此，如果因此，如果：等价于等价于：从而同方差假定从而同方差假定。所以：。所以：，那么，那么满足满足如果总体回归函数如果总体回归函数22212021012211211110)()(),()(),()(),(0),(41 .uuE,X,|XuEHXX|uVarH,X,|XuEXX|uE,X,|XuEXX|uVarXX

15、|uEMLRuXXYkkkkkkkkk 布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test）布罗施布罗施-帕甘检验（帕甘检验（BP test）即即存存在在异异方方差差性性说说明明可可以以拒拒绝绝原原假假设设，显显著著的的，统统计计量量是是统统计计量量或或，如如果果，对对于于量量统统计计量量，或或者者构构造造统统计计）的的得得到到模模型型（回回归归，得得到到的的作作为为因因变变量量做做以以下下模模型型用用方方法法估估计计）用用根根据据模模型型（假假定定：）（对对于于MLFHdknRLMFcvXXuROLSubuOLSavXXXX|uEXX|uVaruXXYkukkukkkkk

16、k00:.)(2.)2(.1.),(),(,110221102222110121110 布罗施布罗施-帕甘检验（帕甘检验（Breusch-Pagan test）例题例题8_3：住房价格（课本：住房价格（课本p259，例，例8.4）为不存在异方差性为不存在异方差性不能拒绝原假设，即认不能拒绝原假设，即认为存在异方差性为存在异方差性可以拒绝原假设，即认可以拒绝原假设，即认614)3(2240480088048002450411)843(99. 5)3(09.141601. 088,1601. 000020345)843(21023210205. 020.,LM.R.,p.,Fubdrmslsqrf

17、tllotsizelpriceLMR.,p.,Fubdrmssqrftlotsizeprice.uu321 怀特检验（怀特检验（White test）怀特检验（怀特检验（White test）：一般检验）：一般检验o 与与BP检验相比，怀特检验进一步考虑误差项方差与每个自变检验相比，怀特检验进一步考虑误差项方差与每个自变量的平方及每两个自变量的交互项的关系。量的平方及每两个自变量的交互项的关系。vXXXXXXXXXX|uEXX|uVaruXXYkkkkkkkkkkkkkk 1232112222111101211102),(),(),1( 假假定定：对对于于怀特检验（怀特检验（White tes

18、t）怀特检验（怀特检验（White test）：一般检验）：一般检验即即存存在在异异方方差差性性说说明明可可以以拒拒绝绝原原假假设设，显显著著的的，统统计计量量是是统统计计量量或或，如如果果，对对于于量量统统计计量量，或或者者构构造造统统计计）的的得得到到模模型型（回回归归，得得到到的的作作为为因因变变量量做做以以下下模模型型用用方方法法估估计计出出用用根根据据模模型型MLFHkknRLMFvXXXXXXXXuROLSuuOLSkkukkkkkkkkkku00:. 4)23(2. 3)2(. 2)1(. 12310222123211222211110222222 怀特检验（怀特检验（White

19、 test）怀特检验（怀特检验（White test）：特殊检验）：特殊检验o 为了节省自由度，有时采用如下形式的怀特特殊检验为了节省自由度，有时采用如下形式的怀特特殊检验即即存存在在异异方方差差性性说说明明可可以以拒拒绝绝原原假假设设，显显著著的的，统统计计量量是是统统计计量量或或如如果果对对于于量量统统计计量量，或或者者构构造造统统计计得得到到上上述述回回归归的的回回归归，得得到到的的作作为为因因变变量量做做以以下下模模型型用用和和、）的的方方法法估估计计出出方方程程（根根据据模模型型用用假假定定：对对于于MLF，HdnRLMFcvYYuROLSubYYuOLSavYYuXXYuukk00

20、:.)2(.1.),1(2102222102222222102110 怀特检验（怀特检验（White test）例题例题8_4 ：住房价格（课本：住房价格（课本p261，例，例8.5）性性，即认为不存在异方差，即认为不存在异方差所以，不能拒绝原假设所以，不能拒绝原假设特殊检验特殊检验一般检验：一般检验：614)2(4530392018300731)852(6814)9(5591085040530051)789(210221023210.,LM.R.,p.,F:.,LM.R.,p.,Fubdrmslsqrftllotsizelprice.u.u 1. 加权最小二乘估计：异方差形式已知加权最小二乘

21、估计：异方差形式已知2. 加权最小二乘估计：异方差形式未知加权最小二乘估计：异方差形式未知四、加权最小二乘估计四、加权最小二乘估计加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知如果发现存在异方差，可以采取两种方式解决：如果发现存在异方差，可以采取两种方式解决：a. 对于大样本数据，可使用稳健性标准误和稳健性检验对于大样本数据，可使用稳健性标准误和稳健性检验b. 探究异方差的形式，通过适当的变换得到最优线性无偏估计探究异方差的形式，通过适当的变换得到最优线性无偏估计量量加权最小二乘回归：异方差形式已知加权最小二乘回归：异方差形式已知加权最小二乘估计加权最小二乘估计估估计计以以应

22、应用用）满满足足同同方方差差假假定定，可可从从而而模模型型（此此时时，即即：那那么么可可以以做做如如下下变变换换：若若已已知知：对对于于OLShhhuEhuEuEuVaruXXXYhuhXhXhhYh,X,Xh,X,u|XVaruXXYiiiiiiiiikikiiiiiikikiiiiiikiiikiiikikii2)X|()X|)()X|()X|()2()()()1()()()1(22222*11*00*11021221110 加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知加权最小二乘估计加权最小二乘估计）称称为为加加权权最最小小二二乘乘法法（和和，故故而而化化经经过过加加

23、权权的的残残差差平平方方这这一一方方法法实实际际上上是是最最小小对对于于：对对于于WLSsquaresleastweighteduwuhXXYhhXhXhhYuOLShuhXhXhhYXXYuOLSuXXYiiiikikiiiikikiiiii*iiiikikiiiiikikiiiikikii,1)(1)()()1(min:)2()()()1()(min)1(2221102110211021102110 加权最小二乘估计：异方差形式已知加权最小二乘估计：异方差形式已知加权最小二乘估计加权最小二乘估计例题例题8_5：家庭储蓄方程（课本：家庭储蓄方程（课本p265，例，例8.6）o 加权最小二乘估

24、计属于加权最小二乘估计属于广义最小二乘估计（广义最小二乘估计（Generalized Least Square, GLS）的一种的一种归归的的模模型型是是一一个个过过原原点点回回需需要要注注意意的的是是，变变换换后后，即即：归归的的权权重重为为此此时时，加加权权最最小小二二乘乘回回）呈呈正正相相关关关关系系，即即（如如释释变变量量项项的的条条件件方方差差与与某某个个解解一一种种常常见见的的情情况况是是误误差差iiikikiiiiiiikiiiXuXXXXXXYXX,X,u|XVarX11111101112121)()()1(1)( 加权最小二乘估计：异方差形式未知加权最小二乘估计：异方差形式未

25、知o 在一般情况下，我们并不知道异方差的具体形式，需要对异在一般情况下，我们并不知道异方差的具体形式，需要对异方差的函数形式做出估计，然后再进行加权最小二乘估计，方差的函数形式做出估计，然后再进行加权最小二乘估计，这种方法属于这种方法属于可行的广义最小二乘估计（可行的广义最小二乘估计（Feasible Generalized Least Square, FGLS）或或估计的广义最小二乘估估计的广义最小二乘估计（计（Estimated Generalized Least Square, EGLS）的一种的一种加权最小二乘估计：异方差形式未知加权最小二乘估计：异方差形式未知可行的广义最小二乘估计（可行的广义最小二乘估计（FGLS） iikiikiiiiiiikikiiiikikiiiikikiiikikiihuXh