第四章多重共线性

1、第五节 解决多重共线性实例,第四章 多重共线性,第一节 什么是多重共线性,第二节 多重共线性产生的后果,第三节 多重共线性的检验,第四节 多重共线性的补救措施,主要内容,两个实例: 例1：某地区为研究不同家庭的消费Y与收入X2的关系，在此基础上，还引进了消费者家庭财富状况X3作为第二个解释变量。模型为：,SE =（6.7525） （0.8229） （0.0807）,t =（3.6690） （1.1442） （-0.5261）,F924020,第一节 什么是多重共线性,注：例1中X2、X3的 t 值小。且X3的系数符号与经济意义不符。原因？,例2：某国家分析汽车保养费用支出Y(元)与汽车的行程数

2、X2(公里)以及汽车拥有的时间X3(周)的关系。建立如下模型：,SE =(121.50) (28.79) (21.41),t = (0.06) （0.958） （-7.06）,例 2 中X3的 t 值大，但X3的系数符号与经济意义不符。原因？,式中： 是不全为0 的常数，则称解释变量之间存在完全多重共线性。,一、多重共线性的定义,（一）完全的多重共线性 线性回归模型中的若干解释变量或全部解释变量的样本观测值之间具有某种严格的线性关系。,即对于一般线性回归模型,各解释变量的样本观测值之间存在一个或多个如下的关系式,例如，设有回归模型,其中： C为居民个人消费； S为个人工资收入； N为非劳动收入

3、； T为总收入 因为,所以 解释变量之间存在完全共线性。,称解释变量之间存在着近似（不完全）多重共线性。,(二) 近似（不完全）多重共线性,若解释变量之间满足近似线性关系：,例如，用时间序列数据建立回归模型时，由于许多经济变量都有随时间的推移而同方向变动的特征，往往使得解释变量之间也具有很高的线性相关性。,例如，影响家庭消费支出的家庭收入和家庭财富两个变量之间就存在明显的高度相关关系（但不是完全线性相关关系）；,例如，影响企业产出的劳动投入和资本投入二者之间也往往具有相当高的相关关系，但也不是完全线性相关关系；,注意： 解释变量之间无多重共线性，是指解释变量之间不存在线性相关性。但并不排除解释

4、变量之间存在非线性关系。,二、产生多重共线性的背景,1、趋同性,经济变量随时间的变化过程，存在共同变化趋势 .,例如，宏观经济处于上升阶段时，国内生产总值增长，净出口也增长；,例如，经济的增长带动了收入的增长，随之使商品销售额有所增长，相应地市场利率，零售物价指数，储蓄额等变量也会发生变化。,如果将这些变量作为解释变量引入模型，则它们之间极有可能存在很强的相关性。,2、用截面数据建模时也容易产生共线性,例如，利用截面数据来研究企业生产函数时，从投入的要素看，资本投入、劳动力投入等，都与企业的生产规模密切相关（较大的企业，资本投入和劳动力投入都会较多，反之较少。因此，资本投入与劳动力投入之间几乎

5、是高度线性相关的，它们之间往往存在严重的多重共线性。,3、模型中大量地采用滞后变量也易产生多重共线性,（滞后变量与原来的变量在经济性质上无区别，仅在时间的角度上有所不同）,例如，在研究消费函数Y的时候，如果记可支配收入为X ，若在模型中引入本期可支配收入，还考虑了以往各期的可支配收入，那么同一变量的前后期之值极有可能是高度线性相关的，故可能产生多重共线性。,4、建模时由于认识的局限性，也易产生多重共线性,1）数据资料的来源（抽样范围过小，指标推算）,2）变量的选择不当,例如，在分析建立某省粮食产量Y线性回归模型时，考虑引入解释变量化肥X2、灌溉面积X3、农业生产资金投入X4 （在X2、X3和X

6、4之间存在很强的相关性，由于化肥使用量和灌溉面积(兴修水利的结果)都受农业资金投入的影响）。 因此可以考虑去掉农业生产资金投入变量X4。,例如，做电力消费Y对收入X2、住房面积X3的回归时 （收入高的家庭一般都比低收入家庭有较大的住房面积这样一种有形的约束）；,1、参数估计值的不确定性,第二节 多重共线性产生的后果,一、完全多重共线性产生的后果,例：二元线性回归模型：,模型的离差形式为：,用普通最小二乘法，得参数估计量的正规方程为：,2、参数估计值的方差无限大,即：,（注：见下页）,注：,二、不完全多重共线性产生的后果,1、可以估计参数，但参数估计不稳定 （注：见下页）,例：某国家分析汽车保养

7、费用支出(元)与汽车的行程数(公里)以及汽车拥有的时间(周)的关系。建立如下模型：,尽管X3的t值较显著，但它的系数符号与经济意义不一致。计算出X2与X3的相关系数为0.9960，表明汽车的行程数与拥有汽车的时间呈高度的线性相关。,注：,2、估计量的方差增大,由于,注：,3、可能导致模型设定误差；t 检验失效,方法：模型中将要引进的解释变量为 ，计算相关系数矩阵，观察两两之间的线性相关是否密切,第三节 多重共线性的检验,一、简单相关系数矩阵法,注：该方法的局限性主要在于相关系数只能测度两个解释变量之间线性相关的程度，而不能测度三个或更多解释变量之间的线性相关程度。,二、综合判断法,注：,三、辅

8、助回归判定系数测度法,方法：计算模型中每个解释变量 对其余解释变量的辅助回归 。,|,第四节 多重共线性的补救措施,一、增加样本容量,建模时样本数据太少，易产生多重共线性。,例如，二元线性回归模型,二、利用先验信息改变参数的约束条件,非样本先验信息主要来自经济理论分析。如果通过经济理论分折，可知回归模型中某些参数间具有某种线性关系，则可将这种线性关系作为约束条件，将此约束条件和样本信息结合起来进行有约束最小平方估计。,例如，在对国民经济的总量生产函数研究中，常使用国内生产总值Y和资本投入K及劳动力投入L的时间序列资料来建立回归方程：,式中：A表示生产的技术水平。由于劳动力投入L和资本投入K的时

9、间序列资料通常都具有很高的线性相关关系，所以这里往往存在较严重的多重共线性。但是，若通过经济理论分析或经验判断可认为该经济系统存在规模效益不变的特征，即有,（投入增加多少，产出比例不变）,即可将Y对L和K的二元双对数线性回归模型转化为劳动生产率（资本产出率）Y/L对劳动资本装备程度（劳动对资本的投入率）K/L的一元双对数线性回归模型，避免了多重共线性的影响。,上述回归模型就转变为：,三、数据的结合,如果经济计量建模型时，利用的是时间序列数据（存在多重共线性），若我们还可以取得其间某些截面的数据样本，则应当设法将这两类样本数据结合起来进行模型的估计，以减轻时间序列资料中的多重共线性，提高估计的精

10、度。,例如，某种商品的需求函数：,若能取到某个时期（或时点）的家计调查资料（同一时期商品的价格不会有多大变动），则：,如何处理？,然后再利用时间序列资料，将上式变换成,四、利用差分方程（变换模型的形式）,目的：改变变量的定义形式，以克服多重共线性。,因为经济时序数据中，做了差分的变量，其相关性比原变量的相关性弱，即多重共线性的程度有明显的降低。,则模型变化为,五、逐步回归法,首先，用因变量Y对每一个解释变量Xi分别进行回归，从中确定一个基本回归方程。然后，逐一引入其它解释变量 ，重新再作回归，逐步扩大模型的规模。,然后，逐一引入其它解释变量，重新再作回归，逐步扩大模型的规模。,引入每个新变量之

11、后，如果,1) 拟合优度得以改进( 提高)，而且每个参数统计检验显著，则引入的变量保留;,2) 拟合优度无明显提高甚至下降，对其他参数无明显影响，则舍弃该变量.,3) 拟合优度提高，但方程内其他参数的符号和数值明显变化，可以肯定产生了严重多重共线性。,注意: 这时对于3), 需考察变量间线性相关的形式和程度，经过经济意义的综合权衡，在线性相关程度最高的两个变量中，略去其中对因变量影响较小，经济意义相对次要的一个，保留影响较大，经济意义相对重要的一个。此时不宜轻率舍去新引入变量，否则会造成模型设定偏误和随机项与解释变量相关的后果。,第五节 案例中国粮食生产函数,根据理论和经验分析，影响粮食生产（

12、Y）的主要因素有： 农业化肥施用量（X1）；粮食播种面积(X2) 成灾面积(X3); 农业机械总动力(X4); 农业劳动力(X5),已知中国粮食生产的相关数据，建立中国粮食生产函数： Y=0+1 X1 +2 X2 +3 X3 +4 X4 +4 X5 +,1、用OLS法估计上述模型：,R2接近于1； 给定=5%，得F临界值 F0.05(5,12)=3.11 F=638.4 15.19， 故认上述粮食生产的总体线性关系显著成立。 但X4 、X5 的参数未通过t检验，且符号不正确，故解释变量间可能存在多重共线性。,(-0.91) (8.39) (3.32) (-2.81) (-1.45) (-0.14),2、检验简单相关系数,发现： X1与X4间存在高度相关性。,列出X1，X2，X3，X4，X5的相关系数矩阵：,3、找出最简单的回归形式,可见，应选第1个式子为初始的回归模型。,分别作Y与X1，X2，X4，X5间的回归：,(25.58) (11.49) R2=0.8919 F=13