08.第八章计量经济学

1、Economics 20 - Prof. Anderson,1,多元回归分析,y = b0 + b1x1 + b2x2 + . . . bkxk + u 6. 异方差性,Economics 20 - Prof. Anderson,2,异方差性的定义,回顾同方差性的假定暗含在解释变量条件下无法观测到的误差u的方差为常数 如果这一假定不能满足,即如果对于x的不同值来说u的方差是不同的, 那么该误差具有异方差性 例子: 估计教育的回报 如果能力是无法观测到的, 那么我们认为能力的方差依据获得教育程度的不同而不同,Economics 20 - Prof. Anderson,3,.,x,x1,x2,y,

2、f(y|x),异方差性的例子,x3,.,.,E(y|x) = b0 + b1x,Economics 20 - Prof. Anderson,4,为什么我们担心异方差性?,即使我们不能假定同方差性，普通最小二乘估计量仍是无偏估计量和一致估计量 如果我们有异方差，那么普通最小二乘估计值的标准误差是有偏的 如果标准误差是有偏的, 那么我们不能使用通常的t统计量或F统计量或LM统计量来得出推断,Economics 20 - Prof. Anderson,5,具有异方差性的方差,对于简单回归的情形来说，b1 = b1+ 因此Var(b1)= ,其中SSTx =(xi -x)2 当si2 s 2时, Va

3、r(b1)的一个有效估计量是 ,其中ui是普通最小二乘残差,(xi -x) ui,_,(xi -x)2,_,(xi -x)2si2,_,SSTx2,_,(xi -x)2ui2,_,SSTx2,Economics 20 - Prof. Anderson,6,具有异方差性的方差 (续),对于一般多元回归模型来说，具有异方差性的 Var(b j)的一个有效估计量是Var(bj)= 其中rij是将xi对所有其他自变量进行回归所得到的第i个残差, SSRj是从该回归中得到的残差平方和,rij2ui2,SSRj2,Economics 20 - Prof. Anderson,7,稳健标准误差,既然我们有方差

4、的一个一致性估计值, 那么我们能用它的平方根作为用于推断的一个标准误差 通常,我们称这些为稳健标准误差 有时,通过乘以 n/(n k 1)我们将方差的估计值做自由度的校正 但是,当n 时，校正与否是相同的。,Economics 20 - Prof. Anderson,8,稳健标准误差 (续),重要的是要记住这些稳健标准误差只有渐近性质，即由稳健标准误差形成的小样本容量的t统计量的分布将不会接近t分布，并且推断将是错误的 在Stata中, 我们通过使用回归的稳健选项很容易获得稳健标准误差,Economics 20 - Prof. Anderson,9,一个稳健LM统计量,运行受约束模型的普通最小

5、二乘法估计,并保存 残差u 将每一个被排除的变量对所有被包括的变量进行回归 (q 个不同的回归)并保存每组的残 差r1, r2, , rq 将一个被定义为1的变量对r1 u, r2 u, , rq u进行回归, 具有零截距 LM统计量是 n SSR1, 其中SSR1 是从这个最后 的回归中得到的残差平方和,Economics 20 - Prof. Anderson,10,检验异方差性,我们本来想要检验H0:Var(u|x1, x2 ,xk)=s2, 它等同于H0: E(u2|x1, x2 , xk) = E(u2) = s2 如果我们假定u2和xj之间的关系将是线性 的, 那么我们能把它当作一

6、个线性约束进 行检验 因此, 对于u2 = d0 + d1x1 + dk xk + v 来 说,这意味检验H0: d1 = d2 = = dk = 0,Economics 20 - Prof. Anderson,11,Breusch-Pagan检验,虽然我们无法观测到误差, 但是我们能通过从普通最小二乘回归中得到的残差对它进行估计 在我们将该残差平方对所有的 x进行回归后, 我们能用R2来构造一个F或LM 检验 构造的F统计量只是对回归的整体显著性进行报告的F统量,F = R2/k/(1 R2)/(n k 1), 它服从 Fk, n k - 1分布 构造的LM统计量是LM = nR2, 它服从

7、c2k分布,Economics 20 - Prof. Anderson,12,怀特检验,Breusch-Pagan检验将发现异方差性的任何线性形式 怀特检验容许通过使用所有x的平方以及x间的交叉乘积而产生的非线性 我们仍然仅仅使用一个F或LM来检验所有的xj, xj2以及xjxh是否都具有联合显著性 这个操作可能是繁琐的,Economics 20 - Prof. Anderson,13,怀特检验的对立形式,我们认为从普通最小二乘法中得到的拟合值是所有 x的一个函数 因此2将是所有x的平方,x间的交叉乘积以及的一个函数,并且2 能代理所有的xj, xj2, 和xjxh 于是,将残差平方对和2进行

8、回归并且使用R2来构造一个F或LM统计量 注意现在仅检验两个约束,Economics 20 - Prof. Anderson,14,加权最小二乘法,虽然估计普通最小二乘估计量的稳健标准误差总是可能的,但是如果我们了解一些关于异方差的明确形式的信息, 那么我们就能得到比普通最小二乘估计值更有效的估计值 该方法的基本思想是将具有异方差的模型转化成具有同方差的模型 该方法被称为加权最小二乘法,Economics 20 - Prof. Anderson,15,以一种已知的乘积常量形式表示的异方差的情形,假设我们能将异方差用模型表示为 Var(u|x) =s2h(x),其中令 h(x) hi 因为hi只

9、是x的一个函数,所以E(ui/hi|x)=0 因为我们知道Var(u|x) = s2hi, 所以Var(ui/hi|x) = s2 因此, 如果将整个方程式除以hi 那么我们就有一个误差是同方差的模型,Economics 20 - Prof. Anderson,16,广义最小二乘法,估计普通最小二乘法的变换方程是广义最小二乘法 (GLS)的一个例子 在该情形下, 广义最小二乘估计量将是最优线性无偏估计量 广义最小二乘法采用加权最小二乘法 (WLS)的做法,其中每个残差平方的权重是Var(ui|xi)的倒数,Economics 20 - Prof. Anderson,17,加权最小二乘法,尽管我

10、们从直觉上了解对一个已转换的方程求普通最小二乘估计量是合适的, 但是做这种转换是繁琐的 加权最小二乘法是不需要对方程进行转换就能得到相同结果的一种方法 其思想是最小化加权平方和(权重为 1/hi),Economics 20 - Prof. Anderson,18,关于加权最小二乘法的更多内容,如果我们知道 Var(ui|xi),那么我们就采用加权最小二乘法 在大多数情形下, 我们不知道异方差的形式 例如:如果数据是集合数据, 而模型是个体水平,我们对数据该怎么处理 我们想将每个集合观测值乘以个体编号的倒数,Economics 20 - Prof. Anderson,19,可行的广义最小二乘估计

11、量,较为典型的情形是我们不知道异方差的形式 在这种情形下, 我们需要估计h(xi) 通常, 我们以一个相当可行的模型的假定开始, 如 Var(u|x) = s2exp(d0 + d1x1 + + dkxk) 因为我们不知道d, 所以我们必须对它进行估计,Economics 20 - Prof. Anderson,20,可行的广义最小二乘估计量(续),我们的假定暗含u2 = s2exp(d0+d1x1+ dkxk)v 其中如果 E(v) = 1,那么E(v|x) = 1 ln(u2) = a0 + d1x1 + + dkxk + e 其中 E(e) = 1 并且e独立于x 现在, 我们知道是u的一个估计值, 因此我们能通过普通最小二乘法来估计出,Economics 20 - Prof. Anderson,21,可行的广义最小二乘估计量(续),现在, 我们获得h的一个估计值 = exp(), 并且它的倒数就是我们的权重 于是, 我们该怎样做? 运行原始的普通最小二乘模型, 保存残差 , 对他们求平方并取对数 将ln(2)对所有的自变量进行回归 并且得到拟合值 使用1/exp()作为权重来进行加权最小二乘法,Economics 20 - Prof. An