第三篇 违背经典回归假定的 §5异方差.doc

第三篇 违背经典回归假定的单方程经济计量模型 在第二篇古典回归分析中，回归模型的参数最小二乘（OLS）估计都有很好的统计性质，即线性、无偏和最小方差性。获得如此良好的参数估计量皆因模型满足经典假定。但在实际工作中，这些假定未必都能满足。这样，如何判断模型是否满足经典假定？若不满足假定，OLS法是否还能有效使用？参数的OLS估计量，是否还有很好的统计性质？若不能直接使用OLS，应如何进行参数的估计？ 为此，先来分析这些假定： 关于假定1（正态性）：随机干扰项服从正态分布； 假定1是否成立不影响参数OLS估计量的统计性质，只影响小样本下OLS估计量的抽样分布，从而影响显著性检验和区间估计。在大样本下，参数OLS估计量可认为近似服从正态分布（由中心极限定理知）。在小样本时，仍需要假定1。 有关正态检验，可参考相关文献。 关于假定2（零期望）：， 一般情况下，假定2是合理的，这是由的构成所决定。是由所有未被列入模型的影响因素（未被列入的解释变量）、观测误差等的综合结果。任何一个的影响可能微不足道，且作用方式和影响效果也各不相同，但它们的综合影响平均起来为零，即。即使随机项的期望不等于零，只要模型中包含常数项，都可将非零期望并入常数项，因此，假定2的成立是有保障的。 关于假定5（非随机解释变量）：与独立。 作出这一假定的原因是：在经济工作中，完全随机抽样是很难做到的，样本通常不可重复，推断是在给定数据条件下进行的。另外，在处理实际问题时使用的数据多为官方公布，以这些数据为依据进行推断。经济计量工作者不能对数据可能存在的问题负责，推断应视为无条件推断。因此在单方程模型的情况下，假定自变量是非随机变量是合理的。而违背假定5的情况一般出现在联立方程模型中，我们将在第四篇中讨论。 关于假定3.4.6.被违背的情况，是本篇的主要内容。第五章 异 方 差 随机干扰项违背假定3，称模型具有异方差性。 5.1 异方差性 设线性模型为，假定3：（const）, 异方差性是指的值对不同的不相同，即 异方差性也可以理解为是自变量的函数，其数学表达式为： ， 为自变量的第i个观测值。这里只讨论一元的情况，多元模型的讨论完全类似。一元线性模型的异方差可表示成 ，异方差性可通过散点图来观察， 基本不随变化 随增大而增大 随增大而减小 先减小后增大 在实际问题中常会遇到异方差的情况。例如，家庭储蓄模型中，假设储蓄额与可支配收入的关系是线性的，其计量经济学模型为 ，看作是随意支配的部分。可支配收入（）较少的家庭，除了必要的支出外剩余较少，为某种目的而储蓄，且较有规律。而可支配收入（）较多的家庭，必要支出外剩余较多，因此用于储蓄的收入随意性较大，差异较大。所以上述储蓄模型具有异方差性。异方差产生的原因：1 随机项包含了观测误差和被省略的其它影响因素。2 抽样观察值之间的差异较大。 所以异方差多出现在横断面数据中。 5.2 异方差性的后果一 线性和无偏性：若具有异方差性，但满足其它假定，使用OLS法进行参数估计，并不影响参数1估计量的线性和无偏性。，是的线性函数。 又由于（假定2），所以，是无偏估计量。二 最小方差性：若具有异方差性，使用OLS法进行参数估计，估计量不再具有最小方差性。为此，设计一种特殊的参数估计方法，对具有异方差性的模型参数进行估计，并在同一组观察值下与OLS估计量的方差进行对比。假设模型为 ， 其中具有异方差性，由于可看作是解释变量的函数，不妨假设的方差有如下形式： ，对模型进行变换，这是一个非标准线性模型，其中且 满足假定3，。对变换后的模型参数做OLS估计，有 ，其中， 计算的方差；(根据书18页(2.3.11)式) 而原模型参数的OLS估计量的方差为 将代如上述两式，得 显然具有异方差性的模型，其参数的OLS估计量已不再具有最小方差性。若直接使用OLS进行参数估计，其主要的不良后果就是：1 参数显著性检验时，检验统计量T被低估，变小，导致错误判断；2 参数的区间估计时，置信区间扩大，估计精度下降。所以若模型具有异方差性，通常OLS法不能直接使用。5.3 异方差性的检验方法一 残差图法（散点图法）：1散点图：在处理一元线性模型时，若散点图随x的增加，散点的分布区域变宽或变窄；或出现偏离带状区域的复杂变化时，则随机项可能存在异方差。这是一种近似的判断。可参考5.1中图5.1.1。2散点图：存在异方差，此时的方差可看作是自变量的函数。而不可观察，我们用作为的近似估计（因为可看做在样本中的反映），即， 这样可看作方差的估计，即，从而用与自变量的散点图判断是否存在异方差。可用OLS法算出。为纵坐标，以自变量为横坐标做散点图。 图：在一元情况下，可作图判断异方差性； 图：在多元情况下，与被认为可能引起异方差的自变量的散点图； 图：与的散点图，以判断是否有异方差。 (a) 无异方差 （b） （c） (d) (e) (f) 图a无异方差，图b和图c有异方差且是线性的，图d和图f有异方差且是二次的，图e是开放型的。二 Spearman等级相关检验法： 异方差性表面看来是的方差与自变量有关系，但实质上还是与有关，所以可检验与的相关性。为此可用与计算相关系数进行检验（因为不可观察），从而用相关性来说明其异方差性。然而这种想法是行不通的，（极值存在的必要条件）此法失效。此时可采用Spearman等级相关检验法进行近似检验，其步骤是：1 用OLS法估计，并计算残差，；2 排出和的等级序号和；3 计算等级序号差（又叫等级差），；4 计算等级相关系数， ；5 进行检验： 检验统计量 对于多元的情况可分别计算与各自变量的等级相关系数进行检验。三 戈特菲尔德奎恩特检验法（GK法）： 适用于大样本（n30）且要求，是参数的个数； 服从正态分布（假定1），且 （）（假定4）检验步骤：若具有异方差，其异方差的主要形式之一是具有递增的方差1等方差，异方差；2将某个自变量的观察值按大小顺序排列，然后将居中的个值（一般是的）去掉，将剩下的个数据分为数目相等（）的两组，一组的数据值较小，另一组的数据值较大；3 对上述两组数据分别用OLS建立回归方程，得到两组残差和；4 建立检验统计量 （服从正态分布）5 根据给定的显著性水平，查出临界值，若，拒绝，接受； 若，接受，拒绝。两点说明：应大于零，以充分保证对参数的有效估计； 递减的方差也是异方差的主要形式，若检验此种情况时，检验统计量的形式是 Spearman法和GK法都只能检验原数据有无异方差，不能确定异方差的结构，但计算量较小。四 帕克检验法： 根据残差图给出与之间的具体函数结构形式，再对该结构形式是否显著进行检验，以判断异方差性及异方差的结构。具体步骤： 1设，和是未知参数，是随机项。 将其线性化 2. 由于未知，以代替，上式为，可表示为3 用OLS法估计和，并对进行检验。若，则无异方差性，即与无关。该检验法即判断了有无异方差，又给出了异方差的结构；但在使用中也要注意可能仍有异方差性，从而影响该法使用效果。五 格莱泽检验法： 本检验法是通过寻找与之间显著成立的关系，以判断异方差性并给出异方差结构。具体步骤：1 建立样本回归方程，并计算残差2 若认为与有关，可选定与可能的函数形式，如 等也可由与的散点图而定。 3用OLS法估计和，并计算各自的拟合优度，以最大者作为最佳配合。4然后再对进行显著性检验，以确定异方差性。若显著，即则判断存在异方差；若不显著，即也不能轻易认为无异方差，还须考察其它形式。 六. 怀特检验法： White法是在大样本条件下，将随机项的方差表示成模型自变量的二次函数的形式，利用该形式的拟合程度检验是否存在异方差性。设 计量经济学模型为 随机干扰项的方差写成 （*） （*）式有些项不必都列出，但必须是二次函数。对（*）式用OLS法进行估计。由于不可观察，用残差代替。并计算拟合优度和检验统计量，n为样本容量。在假设下， 根据给定的显著性水平，对进行检验。 5.4 异方差性问题的解决办法 若对具有异方差性的模型直接使用OLS法，则参数估计量不再具有最小方差性，在显著性检验和确定估计精度时都会出现问题。这样在估计参数时要考虑消除异方差的影响。一 对原模型进行变换： 模型：，矩阵形式 其中 有异方差性，且。这里，正常数，。 对原模型作变换： 表示为 ；这里，此时变换后的模型不再具有异方差性。变换的矩阵表示， 相当于模型左乘 变换后的模型可表示成 ，其中， ，已满足高斯马尔科夫假定。 参数的估计量： 二 加权最小二乘法（WLS）： 在OLS中，此时的估计量为。这里每一个残差平方的权数可视为相同，在等方差条件下是合理的，这是因为可视为的估计量，而所有相等时，每一个残差平方的贡献也是相近的。但在异方差条件下，对应于不同观测值的是不相等的，的估计量对残差平方和的影响也是不同的。用相同的尺度衡量变化的偏差（残差）是不合适的。为此要进行调整，给影响较大的赋予较小的权数，给影响较小的赋予较大的权数。设异方差的结构为 ，；加权最小二乘法（WLS）的具体作法是 有 其中， = 当时，这就是前一种方法，可以说前一种方法是WLS法的直接应用。WLS法又被看作是另一种适用范围更广泛的方法的特例，这就是广义最小二乘法（GLS）。 三广义最小二乘法（GLS）： 广义最小二乘发可用来解决广义线性模型的参数估计问题。1广义线性模型：若线性模型 其中，且（这是随机干扰项的方差-协方差矩阵） 是正定矩阵，此时，其它假定都不变，即满足正态性、零期望、与独立（）和无多重共线性（）。而经典假定中的高斯马尔柯夫假定为若，则模型就是满足所有经典假定的线性模型，所以满足经典假定的线性模型（标准线性模型）是广义线性模型的一个特例。2 广义最小二乘法（GLS）：是一种用以处理广义线性模型参数估计的有效方法。由于是正定的，根据线性代数的知识，与单位矩阵合同。即存在非奇异（非退化、可逆）矩阵P，使得 ，用左乘该式且同时用右乘该式，可得 这样，在对广义线性模型进行参数估计时，可先对模型进行变换（P变换），以矩阵P左乘（广义线性）模型 ，并记为 。变换后的随机干扰项满足高斯马尔柯夫假定 因此，对变换后的模型应用OLS法估计参数，参数估计量为 对广义线性模型先做P变换，再施以OLS估计，就是广义最小二乘法（GLS）， 称为参数的广义最小二乘估计量。当时，就是普通最小二乘估计量。 参数GLS估计量的方差协方差矩阵为： 的估计量为： 四