计量经济学重点笔记第四讲

1、第四讲 异方差一、 同方差与异方差：图形展示对于模型，在高斯-马尔科夫假定下有：其中意味着同方差假定成立。为了理解同方差假定，我们先考察图一。在图一中，空心圆点代表，实心圆点代表观测值，是随机变量的一个实现（注意，按照假定，是非随机的，即在重复抽样的情况下，给定i的取值，不随样本的变化而变化），倾斜的直线代表总体回归函数：。图一显示了一个重要特征，即，尽管的期望值随着的不同而随之变化，但由于假定，它们的离散程度（方差）是不变的。然而，假定误差项同方差从而被解释变量同方差可能并不符合经济现实。例如，如果被解释变量y代表居民储蓄，x代表收入，那么经常出现的情况是，低收入居民间的储蓄不会有太大的差异

2、，这是因为在满足基本消费后剩余收入已不多。但在高收入居民间，储蓄可能受消费习惯、家庭成员构成等因素的影响而千差万别。图二能够展示这种现象。图一 同方差情况 图二 异方差情况在图二中，依据x1所对应的分布曲线形状，x5所对应的实心圆点看起来是一个异常点（但依据x5所对应的分布曲线形状，它或许称不上是异常点）。异常点的出现是同方差假定被违背情况下的一个典型症状，事实上通过散点图来发现异常点从而初步识别异方差现象在实践中经常被采用，见图三。 图三 异方差情况下的散点图 笔记：应该注意的是，如果第一个高斯-马尔科夫假定被违背，即模型设定有误，那么也可能出现异方差症状。例如，正确模型是非线性的，但我们错

3、误地设定为线性，以这个线性模型为参照，散点图也许显示出明显的异方差症状。事实上，在很多情况下，异方差症状被认为是模型错误设定的一个表现。如果产生异方差症状的原因是模型设定有误，那么我们首先应该要做的事情是正确设定模型，而不是基于错误设定的模型寻找有效的估计方法。在本讲中，我们假定其他所有的高斯-马尔科夫假定成立。二、 异方差的后果在证明高斯-马尔科夫定理时，我们仅仅在证明OLS估计量具有有效性时涉及到了同方差假定，而在证明线性、无偏性并没有用到该假定，因此违背同方差假定并不影响OLS估计量所具有的线性与无偏性这两个性质（实际上也不影响OLS估计量的一致性，一致性只涉及到高斯-马尔科夫假定一、二

4、、三）。既然存在异方差，在估计各系数时我们为何不利用这个信息呢？要知道，利用的信息越多，我们获得的估计量其方差将越小，即估计精度越高。利用OLS估计法来估计系数时并没有利用异方差这个信息，因此，在存在异方差的情况下，在所有线性无偏估计量中，OLS估计量并不是最有效的。另外值得注意的是，当同方差假定被违背时，计量软件包在默认状态下计算出的参数估计量的标准误是无意义的，因为默认状态是同方差假定成立。作为一个复习，下面我们把默认状态下参数估计量的标准差与标准误公式再推导一遍。真实模型是：，那么有：在重要假定五：下，有：在重要假定四：下，计量软件包默认状态下通过公式：来计算的标准误，其中用来估计误差项

5、的方差。显然，如果同方差假定不成立，则，故试图以来估计从而达到估计的想法是错误的。我们也注意到，只有在高斯-马尔科夫假定成立的前提下，才是对误差项方差的一个无偏估计。当误差项具有异方差性时，即误差项的方差随着i 的变化而变化时，用一个与i无关的估计量（的最终结果与i无关）去估计误差项的方差显然是不合理的。换句话说，当误差项具有异方差性时，不可能是对误差方差的一个恰当估计。笔记：如果误差项方差已被恰当估计出，如，直观来看，我们应该以来作为对的标准差估计。不幸的是，我们无法很好地估计出各个误差项的方差。误差项是观察不到的，因为我们并不知道参数的真实值。但我们可以获得残差。如果残差是对误差的良好近似

6、，则对误差项性质的任何推断都可以建立在对残差的观察基础上。然而，在异方差情况下，对于每一种不同的误差分布曲线，我们只有一个残差观测值。仅仅依靠一个观察值，我们无法获得对误差方差的一致估计。应该注意到，既然残差是对误差的近似，难道我们不可以用来作为对的估计吗？问题还是在于，我们只能使用一个观测值来估计，它不可能是一个一致估计。然而，尽管是对的糟糕估计，但以来估计其情况应该更为乐观，因为借助于求和，单个估计误差有被抵消的可能。事实上White(1980)已经证明，是对估计量方差的一致估计，其正的平方根被称为异方差稳健性标准误，或者White-Huber-Eicher标准误。总而言之，在异方差情况下

7、采用公式来计算的标准误是不恰当的，当然，依靠这个错误的标准误来进行的t检验也是无效的。思考题：通常的F检验有效吗？F检验在何处体现了同方差假定？ 三、 发现异方差 我们是通过对残差的分析来检验同方差假定是否被违背。因此，下面所有的异方差检验方法都隐含一个前提，即残差是对误差的良好近似。记住这一点十分重要，因为高斯-马尔科夫假定中的假定一、二、三被违背将使得下面的一系列检验都无效。（一）Goldfeld-Quandt检验Goldfeld-Quandt检验法假设，在经典线性模型假定中，只有同方差假定或许并不成立，而其他假定是成立的。笔记：如果误差项序列相关，即使其他经典线性模型假定成立，但并不服从

8、卡方分布，而对于构造F检验十分重要。为什么不服从卡方分布呢？这是因为按照定义，其中。如果服从正态分布的误差项序列相关，则各误差项并不独立，此时，作为对误差项的近似，各残差将不是独立的，进而通过残差标准化所构建的卡方统计量就再也不服从卡方分布了。这意味着，在利用Goldfeld-Quandt检验法之前，误差项序列无关的假定是否被违背应该先于检验，在序列相关情况下，异方差检验将无效。只有在序列相关被校正之后，异方差检验才能被进行。该检验的原假设是误差项同方差，备择假设是方差随着某一个变量z的增加而增加。其检验步骤是：1、对N个观测值按z升序排列，并抛弃中间的N-2N*个观测值，形成两个容量都为N*

9、的子样本；2、就两个子样本分别进行回归，记RSS1、RSS2分别为两次回归的残差平方和。3、计算RSS2/RSS1。在同方差的原假设下有：若计算出的F值大于Fa，则在显著水平a下我们拒绝原假设。笔记：1、在原假设为真时，与都是对的无偏、一致估计，故RSS2与RSS1应该相差不大，而RSS2/RSS1与1接近。2、为了提高检验的势（不会错误地不拒绝原假设的概率），中间被抛弃的观测值数目约为总样本容量的3/8，以使RSS2与RSS1的差异显得更明显（“放大镜”作用）。通俗地讲，所谓检验的势，是指该检验对原假设的“苛刻度”，如果该检验不会轻易地“不拒绝原假设”，那么检验的势就高。实际上，如果轻易地“

10、不拒绝原假设”，那么我们犯“第二类错误”（不拒绝错误的原假设）的概率就高。显然，当检验对原假设的“苛刻度”较高时我们仍然不拒绝原假设，那么原假设的真实性是更加可信的。3、有时我们或许具有确切的理由认为不同的样本期间被解释变量具有不同的方差。例如，在解释我国1952-2002年间工业产值增长率时，我们有理由认为，在1952-1978年间工业产值增长率的方差应该小于1979-2002年期间的方差，因为前段样本期间属于计划经济，缺乏市场冲击，而后一段时期属于市场或者半市场经济，存在市场冲击。此时，我们可以把完整样本期间只划分为两个子期间，按照Goldfeld-Quandt检验法第2、3步进行异方差检

11、验。（二） White检验Goldfeld-Quandt检验对误差方差的形式作了一定的假定。然而，很多时候我们除了知道方差与解释变量具有一定关系之外，并无其他的关于方差的确切先验信息。此时，我们可以利用White检验。假设模型是，则White检验的步骤是：1、估计模型并计算残差的平方；2、估计辅助回归（auxiliary regression）模型：原模型同方差的原假设对应于辅助模型的原假设：3、对于辅助回归模型，利用拉格朗日乘数（LM）统计量进行检验原假设。其中是辅助模型的判定系数（利用第三讲的术语，对于辅助模型，它就是不受约束情况下的判定系数），q是辅助模型中不包含截距项的解释变量的个数，

12、在上例中q=5。笔记：1、应该注意到，辅助模型的被解释变量是而不是误差方差，毕竟误差方差是无法获得的。采取这样的做法有什么理由呢？注意到。在误差项序列无关的前提下，再假设同方差原假设成立，则必定有：当N趋于无穷大时，1/N趋于0；将趋于一个一个分母为、分子为0的分数，故该项趋于0。因此，将收敛于误差方差。我们注意到，因此，故当N趋于无穷大时，将趋于。由于，因此当N趋于无穷大时，。总结上述数学推理，如果在辅助模型中用代替误差方差，那么隐含的前提是：（1）大样本。故相关的检验是大样本下的检验。（2）其他高斯-马尔科夫假定成立，尤其要注意到误差项序列无关假定要成立。与Goldfeld-Quandt检

13、验一样，在利用White检验之前，误差项序列无关的假定是否被违背应该先于检验。只有在序列相关被校正之后，异方差检验才能被进行。2、在White检验下，我们对误差方差的形式并无确切的先验信息。然而利用泰勒展开式，我们可以利用来近似。 3、为什么不直接用F检验而是首选LM检验呢？这是因为，我们是用残差的平方来代替方差，在这种情况下，当原假设为真时，的分布在大样本情况下与足够近似，而与F分布的近似却不够好。然而，利用F检验也是渐进合理的,见Wooldridge(fourth edition，p.275)。4、对于辅助模型，受约束情况下的判定系数应该为0（约束条件是）。直观来看，如果与0相差不多，那么

14、我们应该不拒绝原假设（这个原假设就是）。为何近似服从卡方分布？按照第三讲，对辅助模型，。应该注意，由于使用残差的平方来代替方差，因此只是渐进服从F分布。当原假设为真时，与0相差不多，因此有：因此，在样本容很大的情况下，。按照第三讲附录，如果，则当时，渐进分布于。因此，。当样本容量不够大时，辅助模型中的交叉相乘项有时不得不被省略以节约自由度。不过有文献指出，若White检验没有出现交叉项，则是纯粹的异方差检验，若出现了交叉项，则该检验既是异方差检验又是模型设定偏误检验，见Gujarati（第四版，p.414）。另外，为了解决在估计辅助回归时可能面临的自由度不足问题，Wooldridge(第四版，

15、p.275)建议建立辅助模型：再利用LM或者F检验来检验原假设：。（三）Breusch-Pagan检验除了知道误差项方差与解释变量具有一定关系之外， White检验并未利用任何其他先验信息。因此可以说，White检验法是普适的。普适的方法往往也是粗糙的！正因如此，当White检验表明不拒绝同方差的原假设时，我们应该对该结果保持足够的警惕！另一方面，当White检验表明拒绝同方差的原假设时，我们可以认为这是异方差的强烈证据。【“一个高度近视的人没有发现一只小蚂蚁是非常可能的，然而，如果他竟然也发现了一只蚂蚁，那么那只蚂蚁很可能还不小”】。正式的表述是：由于White检验没有充分利用关于异方差形式

16、的先验信息，因此该检验具有较低的检验势。如果我们确实有关于异方差的正确的先验信息，那么我们应该利用它，以提高检验的势。这正是Breusch-Pagan检验的思想。例如，如果我们预先知道，方差与解释变量的平方项及其交叉项无关，那么，我们可以对White检验进行改进：1、估计模型并计算残差的平方；2、估计辅助回归模型：原模型同方差的原假设对应于辅助模型的原假设：3、利用拉格朗日乘数(LM)统计量进行检验。其中是辅助模型的判定系数，q是辅助模型中不包含截距项的解释变量的个数，在上例中q=2。同样也可利用F检验。再例如，如果我们预先知道方差与某一个变量Z（可以不是解释变量）具有线性关系，那么我们可以采

17、取如下步骤进行异方差检验：1、估计模型并计算残差的平方；2、估计辅助回归模型：原模型同方差的原假设对应于辅助模型的原假设：3、利用拉格朗日乘数(LM)统计量进行检验。我们也可以利用t检验来检验这个原假设。笔记：一些教科书还涉及到异方差的Park检验法。对模型：，假定：Park检验的步骤是：1、估计模型并计算残差的平方；2、估计辅助回归模型：利用拉格朗日乘数LM统计量或者F统计量检验原假设：但Park检验存在一些问题：（1）它涉及到的原假设除同方差假设之外，还假定原模型中误差项与解释变量独立；（2）对于辅助回归，F统计量可能并不服从F分布。因此在进行异方差检验时应该避免使用Park检验，参见Wo

18、oldridge(第四版，p.284)。四、 发现异方差后我们该怎么办？选择一：异方差稳健标准误按照White(1980)，我们可以采用White-Huber-Eicher标准误来作为对作为估计量方差的一致估计。根据该标准误，仍可构造t统计量进行t检验。另外，还有异方差稳健F统计量与异方差稳健LM统计量，参见Wooldridge(第四版)相关内容。不过值得注意的是，稳健标准误一般适用于大样本，事实上当利用稳健标准误来构造t统计量时，在小样本下这个t统计量可能并不接近于t分布。选择二：加权最小二乘法记住！即使我们利用了异方差稳健标准误，OLS估计仍然不是最有效的线性无偏估计量。为了得到最有效的估

19、计，我们利用加权最小二乘法（WLS）。WLS是广义最小二乘法（GLS）的一个特例。关于GLS可参见第五讲附录。情况一：异方差的形式已知对于线性模型，假定异方差形式是已知的，。我们把原模型转化为：现在，因此，转换后的模型满足同方差假定，于是得到WLS估计量。为什么称为WLS?对转化后的模型利用OLS，即求：也即或者是什么呢？ 它是残差。因此，WLS就是对残差的平方进行了加权，权数是。显然，选择为权数也不会影响的取值。警告：在使用EVIEWS软件时，输入权数变量是指输入，而不是。笔记：关于WLS的直觉。直线正是我们所关注的总体回归函数，然而我们无法确定它，因为它包含了未知的真实参数。我们的任务是，利用观测值拟合一条直线以近似总体回归函数。假设与对应的误差