多重共线性问题的几种解决方法.doc

多重共线性问题的几种解决方法在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，Xk中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。这里，我们总结了8个处理多重共线性问题的可用方法，大家在遇到多重共线性问题时可作参考：1、保留重要解释变量，去掉次要或可替代解释变量2、用相对数变量替代绝对数变量3、差分法4、逐步回归分析 5、主成份分析6、偏最小二乘回归7、岭回归8、增加样本容量这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的。逐步回归分析方法的基本思想是通过相关系数r 、拟合优度R2 和标准误差三个方面综合判断一系列回归方程的优劣，从而得到最优回归方程。具体方法分为两步：第一步，先将被解释变量y对每个解释变量作简单回归:对每一个回归方程进行统计检验分析（相关系数r 、拟合优度R2 和标准误差），并结合经济理论分析选出最优回归方程，也称为基本回归方程。第二步，将其他解释变量逐一引入到基本回归方程中，建立一系列回归方程，根据每个新加的解释变量的标准差和复相关系数来考察其对每个回归系数的影响，一般根据如下标准进行分类判别：.如果新引进的解释变量使R2 得到提高,而其他参数回归系数在统计上和经济理论上仍然合理，则认为这个新引入的变量对回归模型是有利的，可以作为解释变量予以保留。.如果新引进的解释变量对R2 改进不明显，对其他回归系数也没有多大影响，则不必保留在回归模型中。.如果新引进的解释变量不仅改变了R2 ，而且对其他回归系数的数值或符号具有明显影响，则认为该解释变量为不利变量，引进后会使回归模型出现多重共线性问题。不利变量未必是多余的，如果它可能对被解释变量是不可缺少的，则不能简单舍弃，而是应研究改善模型的形式，寻找更符合实际的模型，重新进行估计。如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中一个可以被另一个很好地解释，则可略去其中对被解释变量影响较小的那个变量，模型中保留影响较大的那个变量。下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具体应用过程。具体实例例1 设某地10年间有关服装消费、可支配收入、流动资产、服装类物价指数、总物价指数的调查数据如表1，请建立需求函数模型。表1 服装消费及相关变量调查数据年份服装开支（百万元）可支配收入Y（百万元）流动资产（百万元）服装类物价指数Pc1992年=100总物价指数01992年=10019888.482.917.1929419899.688.021.39396199010.499.925.19697199111.4105.329.09497199212.2117.734.0100100199314.2131.040.0101101199415.8148.244.0105104199517.9161.849.0112109199619.3174.251.0112111199720.8184.753.0112111（）设对服装的需求函数为用最小二乘法估计得估计模型：模型的检验量得分，R2=0.998，DW=3.383，F=626.4634 R2接近1，说明该回归模型与原始数据拟合得很好。由得出拒绝零假设，认为服装支出与解释变量间存在显著关系。（）求各解释变量的基本相关系数上述基本相关系数表明解释变量间高度相关，也就是存在较严重的多重共线性。（）为检验多重共线性的影响，作如下简单回归：各方程下边括号内的数字分别表示的是对应解释变量系数的t检验值。观察以上四个方程，根据经济理论和统计检验（t检验值=41.937最大，拟合优度也最高），收入是最重要的解释变量，从而得出最优简单回归方程。（）将其余变量逐个引入，计算结果如下表2：表2服装消费模型的估计结果分析：在最优简单回归方程中引入变量Pc，使R2由0.9955提高到0.9957；根据经济理论分析，正号，负号是合理的。然而t检验不显著（），而从经济理论分析，Pc应该是重要因素。虽然Y与Pc高度相关，但并不影响收入Y回归系数的显著性和稳定性。依照第1条判别标准，Pc可能是“有利变量”，暂时给予保留。模型中引入变量L ，R2 由0.9957提高到0.9959， 值略有提高。一方面，虽然Y 与L ，Pc与L 均高度相关，但是L 的引入对回归系数、的影响不大（其中的值由0.1257变为0.1387，值由-0.0361变为-0.0345，变化很小）；另一方面，根据经济理论的分析，L与服装支出C之间应该是正相关关系，即的符号应该为正号而非负号，依照第2条判别标准，解释变量L不必保留在模型中。舍去变量L ，加入变量P0 ，使R2 由0.9957提高到0.9980，R2 值改进较大。、均显著（这三个回归系数的t检验值绝对值均大于），从经济意义上看也是合理的（服装支出C与Y,P0之间呈正相关，而与服装价格Pc之间呈负相关关系）。根据判别标准第1条，可以认为Pc、P0皆为“有利变量”，给予保留。最后再引入变量L ，此时R2 0.9980没有增加（或几乎没有增加），新引入变量对其他三个解释变量的参数系数也没有产生多大影响，可以确定L 是多余变量，根据判别标准第2条，解释变量L 不必保留在模型中。因此我们得到如下结论：回归模型为最优模型。通过以上案例的分析，我们从理论和实际问题两方面具体了解了逐步回归分析是如何对多重共线性问题进行处理的。事实上，一般统计软件如SPSS，在回归模型的窗口中都会提供