《数学异方差》PPT课件.ppt

第十三章 异方差,本章目的：介绍古典假设中同方差假定不满 足的情况下，如何进行计量经济 分析。 要 求：掌握异方差的概念、后果及其检 验，了解一些补救措施。,第十三章 异方差,古典线性回归模型的基本假定： （1）解释变量与扰动误差项不相关。 （2）扰动项（随机误差项）的期望或均值为零。 （3）扰动项同方差。 （4）扰动项无自相关。 （5）解释变量之间不存在线性相关关系。(对应于多重共线性) （6）随机误差项服从正态分布。 在实际应用中，上述假定不一定满足。,本章讨论的主要问题： (1)异方差的性质是什么？ (2)异方差的后果是什么？ (3)如何检验异方差的存在？ (4)如果存在异方差，有哪些补救措施？,第十三章 异方差,第一节 异方差的性质 异方差的概念,第十三章 异方差,考虑一个双变量线性回归模型，其中，应变量Y是个人储蓄，解释变量X是个人可支配收入。,图 5-1,Y,对于不同的观测点，随机扰动项ui的方差不同。用符号表示为：,例子： 异方差问题多存在于横截面数据中。 例1. 放松管制后纽约股票交易所的经纪人佣金 例2. 美国工业的研究与发展费用支出、销售和利润,第十三章 异方差,例1结论：,1. 佣金率有下降的趋势。 2. 平均佣金率和所索取佣金的方差存在显著的不同。 原因： 这里存在规模效应交易量越大，则交易的平均成本就越低。方差的显著不同是由于大机构投资者的谈判能力比较强（吸引力比较强）。,例2. 美国工业的研究与发展费用支出、销售和利润 (18行业1988年的数据),R&D=1172.69+0.0238X2+ei (1) t=(1.030) (2.3121) r2=0.2504,因为观察值是按照销售额升序排列的，所以就等于间接的将残差对销售额做图。从图中可以看到，残差的绝对值随着销售额的增加而增加，同方差的假定似乎站不脚！,第二节 异方差的后果 (1) OLS估计量仍然是线性的。 (2) OLS估计量是无偏的。 (3) OLS估计量不再具有最小方差性。 (4) 根据常用估计公式， 不再是真实 的无 偏估计量。 (5) 从而OLS估计量的方差的估计量是有偏的。 (6) t检验和F检验失效。,第十三章 异方差,R&D=192.99+0.0319X2+ei (2) t=(0.1948)(3.9434) r2=0.4783 如果上述模型确实存在异方差，我们就不能相信估计得到的标准差。因此，异方差是一个潜在的严重问题，因为它破坏了常用的OLS估计以及假设检验过程。 在具体研究中，尤其是涉及横截面数据时，最重要的就是判断是否存在异方差问题。 那为什么在异方差的情形下OLS估计量是无效的！,Y,b) 样本回归函数图,X,Yn,上图描述了某一假设总体Y 对变量X的所选值的关系。从图中可以看出给定X，对应的每一（子）总体Y的方差是不同的，这表明存在异方差。但是在利用OLS时，每一个ei2都有相同的权重，这似乎不太合理。这就需要给不同的残差赋以不同的权重。即我们稍后要讨论的加权最小二乘法（weighted least squares）。,第三节 异方差的诊断 一、根据问题的性质 所考察问题的性质往往提供是否存在异方差的信息。例如：我们考虑区域经济的发展问题。所以在涉及不均匀单位的横截面数据中，异方差可能是常有的情况，而不是例外。 二、残差的图形检验 在回归分析中，常常对拟合回归方程中的残差进行分析，将残差对其相应的观察值描图(残差图)。,第十三章 异方差,X,X,上述散点图只不过是一个检测工具，我们在分析时应该谨慎。上图是我们根据R&D一例，用残差平方和销售额做的散点图。该图与我们上面介绍的(b)图有点相似，表明了残差平方与销售是系统相关的。说明我们所做的回归可能存在异方差。,三、帕克（Park）检验 如果存在异方差，则 可能与一个或多个解释变量系统相关(可以用模型来刻画)。 帕克检验的步骤如下： (1) 作普通最小二乘回归，不考虑异方差。 (2) 从原始回归方程中得残差 ，并求其平方，再取对数形式。 (3) 利用原始模型中的一个解释变量做回归(如果有多个变量，我们就做多个回归)。 (4) 检验零假设B2=0，即不存在异方差。 (5)如果接受零假设，则为同方差。,第十三章 异方差,Dependent Variable: LOG(E2) Variable Coefficient Std. Error t-Statistic LOG(SALE) 0.3599 0.3997 0.9004 C 10.6995 4.3492 2.4601,R&D回归与帕克检验,R-squared 0.0482 Prob(F-statistic) 0.261777,我们是否可以根据这个结果接受：R&D数据不存在异方差？因为模型本身的特殊性可能会使我们得出不同的结论，我们不能这么早下结论。因为这个模型本身可能也存在异方差、自相关等问题。这样我们就又回到了问题的起点。,四、Glejser检验 这种方法的实质与帕克检验很相似。从原始模型中获得残差ei 之后， Glejser建议作ei 的绝对值 | ei |对Xi的回归。 Glejser建议的一些函数形式如下: | ei |=B1+B2 Xi+ Vi | ei |=B1+B2 + Vi | ei |=B1+B2 + Vi,第十三章 异方差,Glejser检验的结果： 1 . |ei|=1638.54+0.0062Xi t=(2.0362)(0.8499) r2=0.0432,每种情形的零假设都是不存在异方差，也即B2=0。如果零假设被拒绝，则表明可能存在着异方差。 注意： 与Park检验一样，在Glejser所建议的回归方程中，误差项本身可能存在异方差和序列相关的问题。对于大样本，上述模型能够很好的检测异方差问题。,第十三章 异方差,五、White检验 White提出了异方差一般检验方法，此方法在实际中很容易应用。 假定有如下模型： Yi=B1+B2X2i+B3X3i+ui White检验步骤如下： （1）首先用最小二乘法估计上述回归方程，获得残差ei 。 （2）作如下辅助回归 ： =A1+A2X2i+A3X3i+ A4 + A5 +A6X2iX3i+Vi,第十三章 异方差,(3) 求辅助回归方程的R2值。在零假设：不存在异方差下，White证明了，从辅助回归方程中获得的R2值与样本容量（=n）的积服从 x2 分布，自由度等于辅助回归方程中解释变量的个数（不包括截距项）。 n*R2 x2 （ d.f.） (4) 如果从辅助回归方程中得到的 x2 值超过了所选显著水平下的x2 临界值，则可以拒绝零假设：不存在异方差。否则，如果计算的x2 值不比临界值大，则不能拒绝零假设。,第十三章 异方差,课后13.18题（p309），Y代表婴儿死亡率，X2代表人均GNP，X3代表受初等教育占人口的百分比(作为文化程度的指标)。我们的数据来源于具有不同收入水平的国家，由于他们经济条件差别很大，所以我们先验的预期存在异方差。为了检验是否存在，我们使用white检验，得出下面的结果。 n*R2=20*0.230=4.6x2 (5) =11.0705(5%) 所以我们无法拒绝(不存在异方差)的原假设,即认为模型不存在异方差。,例子：,异方差的其他检验方法： （1）斯皮尔曼秩相关检验。 （2）戈德费尔德匡特检验。 （3）巴特莱特方差同质性检验。 （4）匹克(Peak)检验。 （5）布鲁尔什培甘检验。 （6）CUSUMSQ检验。,第十三章 异方差,我们前面介绍了检验异方差的方法，那么如果我们确定存在异方差以后，我们怎么解决这个问题呢？是否存在某种方法，使得我们可以通过某种“变换”，使得“变换”后的模型具有同方差性。 但是具体采取什么方法，将取决于(1)误差项的方差已知的;(2)误差项的方差是未知的。,第四节 异方差的补救措施,第四节 异方差的补救措施 一、加权最小二乘法（WLS） 考虑双变量回归函数 Yi=B1+B2Xi+ui （1） 假设误差 是已知的，对模型作如下变换： （2） 令 ，把它称为变换后的误差项。,第十三章 异方差,则 满足同方差性，从而可以按常规的方法进行回归分析。 在实际估计回归方程Yi=B1+B2Xi+ui时，将Y和X的每个观察值都除以已知的 ，然后再对这些变换后的数据进行OLS回归，由此获得的估计量就称为加权最小二乘估计量， 为权数。这种加权的过程就称为加权最小二乘法。,第十三章 异方差,为未知的情况 情形1：方差 与Xi成比例(平方根变换)： 作如下变换：,第十三章 异方差,上图表明误差和解释变量X之间线性相关。或者说与Xi成比例。 上面介绍的是一个解释变量的情形，对于多元的情形我们可以选择任何一个解释变量，将模型进行变换。原则上我们根据图形进行选择。,例子：变换后的研发费用例子： 从研发费用的残差图可以看到，误差与销售额成比例，我们根据上述方法，可得到下面的结果：,R&D=1172.69+0.0238X2+ei (1) t=(1.0300)(2.3121) r2=0.2504,上图表明误差和解释变量X之间不是线性相关。而是与Xi的平方成比例。,情形2：误差方差与 成比例 作如下变换：,第十三章 异方差,二、重新设定模型 有时通过重新设定总体回归函数，也能够消除异方差。比如：不选择变量的线性回归函数，而采取对数形式来估计模型，这样也常常能够消除异方差。当然，要根据具体问题来设定模型的形式。 R&D对数线性模型,第十三章 异方差,Dependent Variable: LOG(R&D) Variable Coefficient Std. Error t-Statistic Prob. LOG(SALE) 1.2952 0.168040 5.8990 0.0000 C -6.9234 1.848034 -2.8980 0.0011 R-squared 0.6850 Adjusted R-squared 0.781830 F-statistic 61.92090 Prob(F-statistic) 0.000001,White Heteroskedasticity Test: F-statistic 1.276048 Probability 0.307764 Obs*R-squared 2.617221 Probability 0.270195 Test Equation: Dependent Variable: RESID2 Included observations: 18 Variable Coefficient Std. Error t-Statistic Prob. C -5.832320 15.16057 -0.384703 0.7059 LOG(SALE) 0.954731 2.838335 0.336370 0.7413 (LOG(SALE)2 -0.034056 0.131896 -0.258205 0.7998 R-squared 0.145401 F-statistic 1.276048 Prob(F-statistic) 0.307764,前面我们所讨论的消除异方差的方法称为方差稳定变换。 需要注意的是：在不知道误差方差的情况下，我们通常的做法是推测它会是什么样的。究竟选择哪种方法，取决于问题的性质和异方差的严重程度。,White异方差校正后的标准差和t统计量 在存在异方差的情况下，OLS估计量尽管是无偏的，但却是无效的，因此，所得到的标准差和 t 统计量都值得怀疑。 White建立了一种估计方法，利用这种方法得到的标准差和 t 统计量考虑到了异方差的存在。因而可以继续使用 t 检验和F检验，但是是渐进有效的，也就是说对大样本是有效的。,第十三章 异方差,下面我们通过一个例子，说明模型存在异方差时的严重后果。 仍然以例1的数据为例，纽约股票交易所最初是极力反对对经纪佣金率放松管制的。他们做了一项下面的报告： 其中Y表示总成本，X表示股票交易的数量。,在上式中可以看到，总成本与交易数量正相关。但是由于交易量的二次方项系数为负，并且是“统计显著的”，这意味着总成本是以一个递减的速率在增加。因此，纽约股票交易所认为在经纪行业中存在规模经济，从而认为股票交易