第7章多重共线性

1、 第七章第七章 多重共线性多重共线性 讨论 假定七：解释变量之间不是完全线性相关的。假定七：解释变量之间不是完全线性相关的。 目的与要求目的与要求：1.什么是多重共线性？什么是多重共线性？ 2.多重共线性产生的主要原因是什么？多重共线性产生的主要原因是什么？ 3.多重共线性会导致什么后果？多重共线性会导致什么后果？ 4.如何划定容忍多重共线性的标准？如何划定容忍多重共线性的标准？ 5.多重共线性的检验方法多重共线性的检验方法 6.多重共线性的解决方法多重共线性的解决方法 关于假定六：关于假定六： ui与与Xi无关无关,解释变量解释变量Xi是一组确是一组确定性变量的说明定性变量的说明 第一节第一

2、节 多重共线性多重共线性 一、什么是多重共线性 1.多重共线性 Yi= b 0+ b 1X1i+ b 2X2i+ b kXki+ui 解释变量X1 X2Xk间存在完全的或接近的线性关系 （完全的） ； （接近的）（i j） 2.正交性 1rXiXj1rXiXjjijiXiXjr01 二、多重共线性产生的主要原因 1. 经济变量都随时间有共同的变化趋势（主要原因）：如国民经济增长，收入、消费、储蓄、投资共同增长，这是造成多重共线性的主要原因。 2. 滞后变量在模型中的广泛应用 消费Ct与收入Yt ：Ct=f（Yt，Y t-1，）中既包括现期收入，又包括前期收入。 投资IPt与固定资产Kt：Kt=

3、f（K t-1,Ipt,IP t-1,）中既包括现期投资，也包括前期投资。 所有这些，由于解释变量前后期相关容易造成多重共线性。三、三、 多重共线形的估计后果多重共线形的估计后果 以二元模型 :Yi= b 0+ b 1X1i+ b 2X2i+ui 为例来说明 （一）完全多重共线性一）完全多重共线性 即 X2i = X1i （ 0） )(21222212122211xxxxxxyxxyxbiiiiiiiiiii)(21222212112122xxxxxxyxxyxbiiiiiiiiiii 若若 X2i = X1i 则则 ： 型 0011)(2221212111221121xxxxxxyxxyxb

4、iiiiiiiiiii21)()(222212221xxxxxbiiVariiiu 同理：同理： 型型OLS估计后果：1.参数估计值是未定式，无法确定； 2.参数估计值方差趋向无穷大； 002b11)()(222121221221xxxxxbiiVariiiu （二）二）不完全多重共线性不完全多重共线性 即 x2i = x1i+vi 为相关系数， vi满足通常假定 则： 结论结论1：参数估计值可以计算，但不稳定（随：参数估计值可以计算，但不稳定（随vi的变化而变化的变化而变化） 这往往会导致参数估计值经济含义不合理这往往会导致参数估计值经济含义不合理 。 xvxyvvyxbiiiiiiii21

5、2121211 例题例题：研究河北省粮食总产量（LSY）与水浇地面积（SJDMJ）、农机总动力（NJZDL）、化肥施用量（HFSYL）等因素之间的关系时发现： 水浇地面积（SJDMJ）与农机总动力（NJZDL）之间高度共线性，导致参数估计值反号，不合理。 对于方差对于方差 又因为 所以， 随着的变化，方差会变大 结论结论2：参数：参数OLS估计量的方差增大；估计量的方差增大； 结论结论3：t检验失效；检验失效； 结论结论4：预测精度降低；：预测精度降低；21)()(222212221xxxxxbiiVariiiuxxxxiii2212122)(21)1 ()(22121xbiuVar由于 1，

6、故 1/(1- )122仍以二元线性模型 y=1x1+2x2+ 为例: 2221221212221222122211121)(1/)()()var(iiiiiiiiiixxxxxxxxxxXX221211rxi2221221)(iiiixxxx恰为X1与X2的线性相关系数的平方22222121/)var(ix当完全不共线完全不共线时, =0 当近似共线近似共线时, 0 3.11，故认上述粮食生产的总体线性关系显著成立。 但X4 、X5 的参数未通过t检验，且符号不正确，故解释变量间解释变量间可能存在多重共线性可能存在多重共线性。 2、检验简单相关系数、检验简单相关系数列出X1，X2，X3，X4

7、，X5的相关系数矩阵：X1X2X3X4X5X11.000.010.640.960.55X20.011.00-0.45-0.040.18X30.64-0.451.000.690.36X40.96-0.040.691.000.45X50.550.180.360.451.00发现：发现： X1与X4间存在高度相关性。 3、找出最简单的回归形式、找出最简单的回归形式分别作Y与X1，X2，X4，X5间的回归：1576. 464.30867XY (25.58) (11.49) R2=0.8919 F=132.1 DW=1.562699. 018.33821XY (-0.49) (1.14) R2=0.07

8、5 F=1.30 DW=0.124380. 00 .31919XY (17.45) (6.68) R2=0.7527 F=48.7 DW=1.115240. 219.28259XY (-1.04) (2.66)R2=0.3064 F=7.07 DW=0.36可见，应选可见，应选第第1 1个式子个式子为初始的回归模型。为初始的回归模型。 4、逐步回归、逐步回归 将其他解释变量分别导入上述初始回归模型，寻找最佳回归方程。CX1X2X3X4X52RDWY=f(X1)308684.230.88521.56 t 值25.5811.49Y=f(X1,X2)-438714.650.670.95582.01t

9、 值-3.0218.475.16Y=f(X1,X2,X3)-119785.260.41-0.190.97521.53t 值0.8519.63.35-3.57Y=f(X1,X2,X3,X4)-130566.170.42-0.17-0.090.97751.80t 值-0.979.613.57-3.09-1.55Y=f(X1,X3,X4,X5)-126905.220.40-0.200.070.97981.55t 值-0.8717.853.02-3.470.37 5、结论、结论 回归方程以回归方程以Y=f(X1，X2，X3)为最优：为最优：32119. 041. 026. 511978XXXY 第三节

10、第三节 多重共线性的解决方法多重共线性的解决方法 一、除去引起多重共线性的相对不重要的解释变量一、除去引起多重共线性的相对不重要的解释变量 注意：删除不当会引起参数估计值是有偏的 例题：研究河南省粮食总产量时，将水浇地面积删除 二、改变解释变量的定义形式二、改变解释变量的定义形式 1.采用差分法，用增量作为解释变量； 2.进行变换，采用相对量作为解释变量 例题： 新变量一般要有经济意义 差分法差分法 时间序列数据、线性模型：将原模型变换为差分模型: Yi=1 X1i+2 X2i+k Xki+ i可以有效地消除原模型中的多重共线性。 一般讲，增量之间的线性关系远比总量一般讲，增量之间的线性关系远

11、比总量之间的线性关系弱得多之间的线性关系弱得多。表表 4.3.2 中国中国 GDP 与居民消费与居民消费 C 的总量与增量数据的总量与增量数据（亿元）（亿元）年份CYC/YCYC/Y19781759.13605.60.48819792005.44074.00.492246.3468.40.52619802317.14551.30.509311.7477.30.65319812604.14901.40.531287.0350.10.82019822867.95489.20.522263.8587.80.44919833182.56076.30.524314.6587.10.53619843674

12、.57164.40.513492.01088.10.45219854589.08792.10.522914.51627.70.56219865175.010132.80.511586.01340.70.43719875961.211784.70.506786.21651.90.47619887633.114704.00.5191671.92919.30.57319898523.516466.00.518890.41762.00.50519909113.218319.50.497589.71853.50.318199110315.921280.40.4851202.72960.90.406199

13、212459.825863.70.4822143.94583.30.468199315682.434500.70.4553222.68637.00.373199420809.846690.70.4465127.412190.00.421199526944.558510.50.4616134.711819.80.519199632152.368330.40.4715207.89819.90.530199734854.674894.20.4652702.36563.80.412199836921.179003.30.4672066.54109.10.503199939334.482673.10.4762413.33669.80.658200042911.989112