《异方差秋马》PPT课件.ppt

,第八章 异方差,第八章：异方差,计量经济学，高教出版社2011年6月 王少平、杨继生、欧阳志刚等编著,8.1 异方差的本质及来源 8.2 异方差对最小二乘估计量的影响 8.3 异方差的检验 8.4 异方差的补救方法 8.5 例子：中国消费函数的分析,第八章：异方差,目 录,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,一、直观认识异方差,同方差（ Homoskedasticty ）：对任意的样本点（或观测值），随机扰动项的方差都相同（第三章）,8.1 异方差的本质及来源,回 顾,（8.1.1）,以两变量为例：,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,收入和消费：收入越高，消费支出波动越大 低收入家庭（收入小于200）的消费与总体（样本）回归直线的距离，就小于高收入家庭的消费与对应的总体（样本）回归直线的距离（第二章） 地区居民消费支出（Y）和居民可支配收入（X）的数据（第三章例3.1.1）,同方差假定不成立的例子,8.1 异方差的本质及来源,一、直观认识异方差,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,异方差（heteroskedasticity） ：随机扰动项的方差随着观测值的变化而变化 这里 带有下标i，是为了强调对不同的观测值，其方差是不同的 这显然是一种每一个样本点的方差均不相同的极端情形。对于现实的样本观测值，大多数的异方差表现为若干个样本观测值的方差不同于另外若干个样本观测值的方差。 一种常见的情形是，样本观测值的方差因为样本观测值属于不同组别而有所差异，这种异方差形式我们称之为分组异方差。,归纳：异方差,（8.1.2）,8.1 异方差的本质及来源,一、直观认识异方差,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,模型：X分为4组，对应于X=1、2、3和4（递增型异方差） 数据见表8.1.1。如果我们单独比较前五个观测值（对应的 Xi=1）与后五个观测值（对应的Xi =4）所对应的 的分布，其均值均为0，而方差分别为1和16。于是，对应的前五个和后五个样本点， 的分布如下图所示。,模拟异方差实例,8.1 异方差的本质及来源,一、直观认识异方差,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,递减型异方差： 随机扰动项的条件方差随着自变量的增加而减小 条件回归型的异方差：时间序列数据 在股票市场日收益率波动通常呈现出群集波动现象 异方差抽象地表述为： 这里 h(.)表示为与“ i”或“t ”有关的变量或函数，它决定了异方差的形式,其他异方差实例,（8.1.6）,8.1 异方差的本质及来源,一、直观认识异方差,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,异方差出现的两大类因素：经济理论与模型误设 纯异方差性（pure heteroskedasticity）：模型设定是正确的 例8.1.1：收入和消费支出之间的函数关系 例8.1.2：行业成本函数 非纯异方差（impure heteroskedasticity）：如果异方差是由于模型错误设定（如遗漏变量等）所致 真实的回归模型为： 遗漏了变量 ，将模型误设为： 遗漏变量 的效应会在随机扰动项中： （= ）,纯异方差与非纯异方差,8.1 异方差的本质及来源,二、异方差的来源,（8.1.10）,（8.1.11）,（8.1.12）,下文均为针对纯异方差的研究,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,8.2 异方差对最小二乘估计量的影响,8.1 异方差的本质及来源 8.2 异方差对最小二乘估计量的影响 8.3 异方差的检验 8.4 异方差的补救方法 8.5 例子：中国消费函数的分析,第八章：异方差,目 录,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,一、依然线性、无偏性和一致性,一元线性回归模型： 其中,8.2 异方差对最小二乘估计量的影响,异方差不影响线性无偏一致性,： 的OLS估计量： 其中 和 分别为 和 的离差形式,（8.2.1）,线性的,无偏的,只要 成立,证明超出本书范围,一致的,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,二、 OLS估计量的方差,OLS估计量的真实方差为：,8.2 异方差对最小二乘估计量的影响,异方差影响有效性,（8.2.5）,如果有 的估计结果 ，我们就可以得到OLS估计量真实方差 的估计值，进而计算OLS估计量的标准误。,忽略异方差，而使用同方差假定下的方差公式：,方差估计结果就是有偏的，因为我们使用了错误的方差公式,既然异方差不影响OLS估计量的线性、无偏和一致性，则必然表明其会影响有效性。要不然第二章就不需要这一假定即可得到BLUE，我们也不会专门研究异方差了,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,二、 OLS估计量的方差,忽略异方差，使用同方差假定下的方差估计，是高估还是低估了真实的方差，这取决于 的变化与解释变量 的关系。,8.2 异方差对最小二乘估计量的影响,忽略异方差的影响不确定,例如： ，（8.2.5）可以变化为：,该偏误取决于 的取值,（8.2.7）,当存在异方差时，OLS估计量在所有线性无偏估计量中不再具有最小方差。如果考虑到异方差的存在，基于（8.2.5）式估计方差，那么我们估计的对象还是真实的方差，只不过这一方差在所有线性无偏估计量中不是最小的。而如果忽略了异方差的存在，基于（8.2.6）式估计方差，那么我们估计的对象就不再是OLS估计量的真实方差了。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,三、 检验不可靠,8.2 异方差对最小二乘估计量的影响,假设检验不可靠,我们知道，如果忽略了模型中确实存在的异方差，我们基于（8.2.6）对OLS估计量方差的估计将是有偏的，那么其标准误 也是有偏的。显然，根据有偏的 所构造的置信区间和t检验统计量会发生变化，其检验结论自然是不可靠的。 而且，基于OLS估计的结果，利用有偏的方差构造的F检验统计量也是不可靠的。,检验统计量的偏误由方差估计的偏误大小所决定，也就是说，同样取决于 的变化与解释变量 的关系。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,8.3 异方差的检验,8.1 异方差的本质及来源 8.2 异方差对最小二乘估计量的影响 8.3 异方差的检验 8.4 异方差的补救方法 8.5 例子：中国消费函数的分析,第八章：异方差,目 录,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,一、图示法,一种直观的判断是利用OLS估计所得到的残差的平方对因变量y或者自变量x做二维图来初步判断是否存在明显的异方差，以及异方差的具体形式。在下图中，纵轴为残差的平方，横轴为消费Y，我们可以直观的看出异方差现象，且表现为递增型异方差。,8.3 异方差的检验,直观判断,使用OLS残差平方的原因是：在回归模型中，即使当异方差存在时，残差 也是总体随机扰动项 的无偏估计量，相应地， 就是随机扰动项的方差 的一个合理的估计值。因此， 取值范围的扩大或缩小就是异方差可能存在的一个信号。正因为其“信号”作用，我们使用公式推断以检验异方差的方法都是基于OLS残差进行的。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,二、LM检验,设线性模型为：,8.3 异方差的检验,拉格朗日乘数检验,如果我们没有设定 的具体形式，则需要估计的 有n个，回归系数有k个，即共有 (n+k)个参数需要估计，显然，仅有n个样本数据是无法估计出 (n+k)个参数的。因此，我们需要对误差方差做简化假设。一般地，常用的假设有：,（8.3.1）,（8.3.2a）,（8.3.2b）,（8.3.2c）,Breusch-Pagan-Godfrey（BPG）：,Glejser：,Harvey：,其中， q为未知系数的数量；Z为决定异方差的比例因子，一般地，Z的全部或其中的一部分可能是模型中的变量X。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,二、LM检验,为检验模型（8.3.1）是否存在异方差，只需对（8.3.2）式进行检验即可，构造原假设和备选假设为：,8.3 异方差的检验,LM检验构造,接受原假设表明，方差是不随Z的变化而变化的同方差，而拒绝原假设接受备选假设则表明存在异方差。 由于无法观察到随机扰动项 ，相应地（8.3.2）式中 （或 ）是未知的，所以我们通过对（8.3.1）式应用OLS获得其估计值 ，也就相应地得到平方值 。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,二、LM检验,Step 1：对（8.3.1）式进行OLS估计，求得相应的估计值 和 Step 2：将估计所得的 取平方，由于它是 的一个合理估计量，因此将它代入辅助回归方程（8.3.2a）或（8.3.2c）（或将 取绝对值代入（8.3.2b），求得 的OLS估计值及未校正的判定系数 Step 3：计算检验统计量LM= ，其中n为估计辅助回归方程（8.3.2）时使用的观测值的数量。 Step 4：根据第5章LM检验的判定规则检验,8.3 异方差的检验,LM检验步骤,此外，我们注意到对原假设 的假设检验也等价于对方程（8.3.2）做F检验。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,三、 White检验,LM检验需事先知道造成异方差的原因，给实际应用造成一定的困难。而White（1980）检验不需要，因此在实践中备受推崇。 White检验和LM检验紧密相关，其检验步骤也十分类似。实际上，White检验的思想为：,8.3 异方差的检验,无需知道异方差的具体原因,（8.3.3）,如果 与解释变量 、解释变量的平方项 以及交叉乘积项（ ， ）不相关，则不存在异方差,由此，White检验将LM检验的Step 2修改为辅助回归：,利用F或者LM统计量对上述原假设进行检验即可,缺点：当变量数K增加时，上述辅助回归中的变量将迅速增加，致使自由度损失严重,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,三、 White检验,从LM检验第1步中得到拟合方程：,8.3 异方差的检验,改 进,（8.3.4）,理由： 包含了所有的解释变量（ ）的信息，而 则包含了所有解释变量的平方项（ ）以及交叉乘积项（ ）的信息。因此，可以将White检验辅助回归方程改写为：,对（8.3.1）式进行OLS估计，求得 和 将估计所得的 取平方，做辅助回归方程（8.3.4），对其进行OLS估计并求得未校正的判定系数 计算检验统计量LM= 根据LM检验的判定规则进行检验,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,实 例,例3.1.1，消费支出（Y）与可支配收入（X）的关系：,8.3 异方差的检验,可支配收入与消费支出,（8.3.5）,BPG：根据估计结果可以得到残差值 ，将其取平方 ，并对解释变量 回归，得： LM= ，查表可拒绝原假设,White：将估计的 取平方 ，并将其对解释变量 及其平方项做辅助回归（仅一个解释变量，无交叉项）： LM= ，查表可拒绝原假设,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,实 例,例3.1.1，消费支出（Y）与可支配收入（X）的关系：,8.3 异方差的检验,Eviews操作,使用例3.1.1的数据在Eviews6.0中的效果图：,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,8.4 异方差的补救方法,8.1 异方差的本质及来源 8.2 异方差对最小二乘估计量的影响 8.3 异方差的检验 8.4 异方差的补救方法 8.5 例子：中国消费函数的分析,第八章：异方差,目 录,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,一、加权最小二乘法,如果使用以上的检验拒绝同方差假设，我们首先要做的是仔细检查模型是否存在设定偏误。如果模型没有明显的设定偏误，就表明模型可能存在纯异方差，我们所面临的问题是找到优于普通最小二乘估计的估计方法。,8.4 异方差的补救方法,异方差的表现形式已知,（8.4.1） （8.4.2）,两边同时除以Z,（8.4.3）,令 ，则 ， 满足同方差以及其他所有经典假定 令 ， ， ，相当于加权，权重为,（8.4.4）,（8.4.4）满足使OLS估计量具有理想性质的所有条件。因此，将 对 和 进行OLS回归可得到 与 的BLUE估计量，分别记为 和 。注意：（8.4.4）无截距项,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,一、加权最小二乘法,第一，虽然OLS应用于变换后的方程（8.4.4），但对估计的系数的解释却是针对原方程（8.4.1）的 第二，方程（8.4.1）和（8.4.4）的R2也不再具有可比性,8.4 异方差的补救方法,WLS的原理与问题,把权重表示为一般形式 ：,（8.4.5）,（8.4.6）,对方差大的样本点赋予了较小的权重，而对方差小的样本点赋予了较大的权重，从而更有效地利用了样本信息,问题：异方差的形式未知，使用不恰当加权重会如何？ 加权变换可能使随机干扰项与解释变量产生相关性， 即医治某种疾病的同时又会诱发其它疾病的发生,线性无偏估计量中最小,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,二、两阶段估计法,异方差形式未知： ， 未知,8.4 异方差的补救方法,异方差的表现形式未知,思想：构造 ，利用数据估计得到 ，再使用WLS 因此称为两阶段、或者可行的GLS（FGLS）,（8.4.7）,（8.4.8）,通常假定异方差形式为（8.3.2c），令 ，由此可构造回归方程：,第一阶段：对原始模型OLS而得到 ，由此计算 ，将其作为 的样本并进行回归，得到无偏估计量 ，于是可得,注意， 是常数，类似于 ，从而不包含在 中,第二阶段：以 作为权重，对于原始模型运用WLS即可,由于h(.)为估计量，所以以这种方法得到的参数的方差的估计量和在 h(.)已知条件下WLS的估计量不完全相同，因此最终的估计结果并不具有BLUE的性质。但是在猜测可靠的情况下，估计结果比OLS要渐进有效。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,三、方差和协方差的White稳健性估计,现有主流文献中，处理异方差的关键点是：改进对 的估计，从而使我们能够利用t检验和F检验进行统计推断,8.4 异方差的补救方法,不补救，保证检验,（8.4.9）,（8.4.10）,对（8.4.1）， 的正确方差为：,由于 未知，White利用OLS得到的残差平方 代替：,White证明了（8.4.10）为 的方差的一致估计量，因此，以（8.4.10）为基础计算的 及其假设检验是有效的。正因为如此，通常将（8.4.10）的平方根称为White稳健标准误估计。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,四、改变模型的设定形式,8.4 异方差的补救方法,不补救，减弱异方差,续例8.3.1：对收入与消费支出取对数：,在有些情况下，改变模型的设定形式可以消除或者弱化异方差：取对数等,BPG：根据估计结果可以得到残差值 ，将其取平方 ，并对解释变量 回归，得： LM= ，查表不拒绝原假设,White：将估计的 取平方 ，并将其对解释变量 及其平方项做辅助回归（仅一个解释变量，无交叉项）： LM= ，查表不拒绝原假设,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,五、异方差修正的相关讨论,8.4 异方差的补救方法,异方差问题严重吗？,异方差在许多应用中都会出现，在实际应用中我们是否总是选择White的稳健标准误而不管是否存在异方差？ 我们认为，如果误差项的方差是异方差并且其形式未知，则显然应选择稳健的标准误，以提高检验结论的可靠性。当然，如果知道异方差的形式，也可以选择加权最小二乘估计来对异方差进行修正。,对已经存在的异方差必须进行严格的修正呢？ Mankiw（1990）指出“一个好的模型绝不会因异方差的原因而被抛弃”， John Fox则提出如下警言：异方差对OLS推断的可靠性所产生的影响取决于“样本容量、 的变异程度、X值的结构及误差方差与X之间的关系” Fox指出一个经验法则“只有当最大方差是最小方差的10倍甚至还大时，我们才担心这个问题”。不难看出，Fox隐含的意思是，一般可以不处理异方差。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,8.5 例子：中国消费函数的案例分析,8.1 异方差的本质及来源 8.2 异方差对最小二乘估计量的影响 8.3 异方差的检验 8.4 异方差的补救方法 8.5 例子：中国消费函数的分析,第八章：异方差,目 录,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,消费函数模型为： 数据：2008年我国286个地级市人均可支配收入与人均消费支出（/sem下载数据） OLS结果：,8.5 例子：中国消费函数的案例分析,以消费函数为例,（8.5.2）,直观观察上图，可猜测可能存在异方差现象,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,8.5 例子：中国消费函数的案例分析,以消费函数为例：检验,BPG：根据估计结果可以得到残差值 ，将其取平方 ，并对解释变量 回归，得： ，查表拒绝原假设,White：将估计的 取平方 ，并将其对解释变量 及其平方项做辅助回