第八章2多重共线性问题

1、多重共线性的讨论多元线性回归模型的假定条件假设MLR1. 总体模型（真实模型）对参数而言是线性的。假设MLR2. 样本是随机抽样的。假设MLR3. 条件均值为零：𝐸𝐸 𝑢𝑢 𝑥𝑥1, , 𝑥𝑥𝑘𝑘= 0假设MLR4. 不完全共线性：在样本（因而在总体中），没有一个自变量是常数，自变量间也不严格的线性。ØØ在MLR.1MLR.4下，OLS回归量是无偏且一致的。假设MLR5. 同方差性：𝑣𝑣

2、;𝑣𝑣𝑣𝑣 𝑢𝑢 𝑥𝑥1, , 𝑥𝑥𝑘𝑘= 𝜎𝜎2高斯马尔科夫定理：在高斯马尔科夫假定（假定1假定5）下，𝛽𝛽0, 𝛽𝛽1, ,𝛽𝛽𝑘𝑘分别是𝛽𝛽0, 𝛽𝛽1,𝛽

3、20573;𝑘𝑘的最优线性无偏估计量（BLUEs）。于解释变量𝑥𝑥1，𝑥𝑥2，假定MLR.6 正态性假定：总体误差u𝑥𝑥𝑘𝑘，而且服从均值为零和方差为𝜎𝜎2的正态分布：𝑢𝑢𝑁𝑁(0, 𝜎𝜎2)Ø在经典线性模型（CLM）假定（MLR.1MLR.6）下，在所有的无偏估计中（与BLUEs相比，不再局限于线性

4、估计量的比较），OLS估计量具有最小的方差。多重共线性假定假定MLR.4：在样本（因而在总体中），没有一个自变量是常数，自变量间也不严格的。即解释变量的取值1，𝑥𝑥1， ，𝑥𝑥𝑘𝑘线性之间不是严格线性，不不全为零的常数𝐶𝐶0，𝐶𝐶1， ，𝐶𝐶𝑘𝑘使𝐶𝐶0 + 𝐶𝐶1 𝑥𝑥1 +

5、𝐶𝐶𝑘𝑘 𝑥𝑥𝑘𝑘 = 0。实践中，解释变量间的线性有三种可能： (1) 解释变量线性不相关（满足假设条件）。 (2) 解释变量间是严格线性（不满足假设条件）。，称为完全共线性 (3) 解释变量间一定程度的线性（满足假设条件） 。(常见情形，如果样本相数接近于1，就称为严重的多重共线性或多重共线性。)多重共线性的来源多重共线性的后果（1） 完全共线性，相当于𝑣𝑣𝑖𝑖𝑖𝑖 =

6、 0（𝑥𝑥𝑖𝑖𝑖𝑖对其他自变量进行回归的残差等于零），无法计算 OLS估计量。（2）多重共线性，OLS估计量仍具有无偏性和一致性，但估计量的方差变得很大，导致t检验精度降低，易犯取伪（变量不显著）错误。（3）由于若干个解释变量互相影响，共同变化，因此每个解释变量对被解释变量的影响无法确定（参数真值不再反映真实规律）。多重共线性的检验多重共线性的检验很多，但每一种检验都不是绝对的。也就是说，当通不过检验时很可能有多重共线性，而当检验效果很好时，并不能完全排除多重共线性。很多时候要综合多方面因素进行分析

7、。（1）定性观察。当模型的拟合优度（𝑅𝑅2）很高，F值很高，而每个回归参数估计值的方差又非常大（即t值很低）时，说明解释变量间可能多重共线性。回归参数估计值的符号不符合理论。增减某个不太重要的解释变量时，回归参数估计值变化很大。（2）Klein判别法计算拟合优度𝑅𝑅2以及变量间的简单相数𝑣𝑣𝑥𝑥𝑖𝑖𝑥𝑥𝑗𝑗 ，如果> 𝑅𝑅2，则

8、9909;𝑥𝑖𝑖和𝑥𝑥𝑖𝑖间的多重共线性是有害的。𝑣𝑣𝑥𝑥𝑖𝑖𝑥𝑥𝑗𝑗多重共线性的检验（3）VIF（方差膨胀因子）检验对k个不同的𝑥𝑥𝑖𝑖计算其各自的VIF： 𝑥𝑥𝑖𝑖对原方程其它全部解释变量进行OL

9、S回归，例如，若i =1，则回归方程𝑥𝑥1 = 𝛼𝛼0 + 𝛼𝛼2𝑥𝑥2 + + 𝛼𝛼𝑘𝑘𝑥𝑥𝑘𝑘 + 𝑣𝑣，得到拟合优度𝑅𝑅12 计算VIF：𝑉𝑉𝑉𝑉𝑉𝑉1𝛽

10、0573;𝑖𝑖=1𝑅𝑅𝑖𝑖2VIF检验是通过检查指定的解释变量能够被回归方程中其它全部解释变量所解释的程度来检测多重共线性。高VIF表明多重共线性使OLS估计量的方差增大了多少倍，VIF越高，多重共线性的影响越严重。判定是否多重共线性的经验法则： 若VIF>5 ，则用VIF > 10作为严重多重共线性；在解释变量多的情形下， 严重多重共线性的标准。多重共线性的处理1. 利用理论施加约束条件以生产函数估计为例：𝑌𝑌 = 𝐴𝐴&

11、#119870;𝐾𝛼𝛼𝐿𝐿𝛽𝛽两侧取对数，得到计量方程：𝑙𝑙𝑙𝑙𝑙𝑙𝑌𝑌 = 𝑙𝑙𝑙𝑙𝑙𝑙𝐴𝐴 + 𝛼𝛼𝑙𝑙𝑙𝑙𝑙

12、19897;𝐾𝐾 + 𝛽𝛽𝑙𝑙𝑙𝑙𝑙𝑙𝐿𝐿 + 𝑢𝑢劳动和资本通常高度相关，他们的对数形式也高度相关，所以这个计量方程多重共线性。假设已知生产函数是规模不变的，则有𝛼𝛼 + 𝛽𝛽 = 1，带入原计量方程，有𝑙𝑙𝑙𝑙𝑙𝑙

13、;𝑌𝑌 = 𝑙𝑙𝑙𝑙𝑙𝑙𝐴𝐴 + 𝛼𝛼𝑙𝑙𝑙𝑙𝑙𝑙𝐾𝐾 + (1 𝛼𝛼)𝑙𝑙𝑙𝑙𝑙𝑙𝐿𝐿 + 𝑢

14、9906;两侧同时减去𝑙𝑙𝑙𝑙𝑙𝑙𝐿𝐿 ，得到𝑌𝑌𝐿𝐿𝐾𝐾log= 𝑙𝑙𝑙𝑙𝑙𝑙𝐴𝐴 + 𝛼𝛼log( 𝐿𝐿 ) + 𝑢𝑢变成了一元线性回归模型，消除了

15、多重共线性。多重共线性的处理2.直接合并解释变量当模型中多重共线性时，在不失去实际意义的前提下，可以把有关的解释变量直接合并，从而降低或消除多重共线性。如果研究的目的是货运量，那么可以把重工业总产值和轻工业总产值合并为工业总产值，甚至还可以与农业总产值合并，变为工农业总产值。解释变量变成了一个，自然消除了多重共线性。3. 增加样本容量或重新抽取样本重新抽样主要适用于那些由测量误差而引起的多重共线性。当重新抽取样本时，克服了测量误差，自然也消除了多重共线性。此外，增加样本容量也可以减弱多重共线性的程度（减少小样本抽样偶然的强相关性）。多重共线性的处理4.逐步回归删除一个或多个共线变量 （经验方法

16、）（1） 用被解释变量对每一个所考虑的解释变量做简单回归。按拟合优度大小给解释变量重要性排序。（2） 以拟合优度最大的回归方程为基础，按解释变量重要性大小为顺序逐个引入其余的解释变量。这个过程会出现3种情形。若新变量的引入改进了𝑅𝑅2，且回归参数的t检验在统计上也是显著的，则该变量在模型中予以保留。若新变量的引入未能改进𝑅𝑅2 ，且对其他回归参数估计值的t检验也未带来什么影响，则认为该变量是多余的，应该舍弃。若新变量的引入未能改进𝑅𝑅2 ，且显著地影响了其他回归参数估计值的符号或数值，同时本身的回归

17、参数也通不过t检验， 这说明出现了严重的多重共线性。舍弃该变量。多重共线性的处理5.利用理论变换模型形式销量𝑦𝑦取决于出厂价格𝑥𝑥1、市场价例：某格𝑥𝑥2和市场供应量𝑥𝑥3，计量模型为：log 𝑦𝑦 = 𝛽𝛽0 + 𝛽𝛽1𝑥𝑥1 + 𝛽𝛽2𝑥𝑥2 + 𝛽x

18、573;3𝑥𝑥3 + u 通常，出厂价格𝑥𝑥1和市场价格𝑥𝑥2高度相关。可以用相对价格𝑥𝑥1𝑥𝑥2代替𝑥𝑥1和𝑥𝑥2：log 𝑦𝑦 = 𝛽𝛽0 + 𝛽𝛽1(𝑥𝑥1/ 𝑥𝑥2) + 𝛽𝛽

19、3𝑥𝑥3 + u6.使用其他估计 例如主成分（有偏估计）、岭回归、偏LS等。多重共线性小结多重共线性产生的来源是纷繁复杂的，因此解决办法也是多种多样、难以尽数的。1. 多重共线性是普遍的，轻微的多重共线性可不采取措施。2. 对于不同的多重共线性况采取相应措施。，要根据不同情3. 如果模型仅用于处理多重共线性，则只要拟合好，可不，多重共线性的模型结果。用于时，往往不影响案例分析1市粮食需求模型（1974-1987）是否多重共线性1.2. 处理多重共线性案例分析21998年农村居民食品1.建立计量回归模型，线性是否多重共2.对于多重共线性的处理利用逐步恢复法确定适用的计量方程，过程不赘述，发现用food只对EX回归效果较好。案例分析3中国私人轿车拥有量决定因素分析（1985-2002）考虑样本持续