《多重共线性问题》PPT课件.ppt

第四章多重共线性问题,与多重共线性问题有关的基本假定是“矩阵列满秩”。,多重共线性模型的岭回归估计,多重共线性问题的检测,本章讨论的问题,多重共线性问题,多重共线性模型的主成分估计,4.1多重共线性问题,（一）多重共线性问题,严格共线性,线性相关,驻点条件方程组有解，但解不惟一。,高度共线性,近似线性相关,驻点条件方程组有惟一解，病态。,（二）多重共线性问题的症状,严格共线性,高度共线性,OLS估计可能出现与较大方差有关的一类症状：,（）个别可能很大；,（）某些的符号与理论或常识不符；,（）某些重要的解释变量不能通过检验；,（）值对样本敏感，样本数据或样本容量的轻微变动，会引起发生较大的变化。,4.1多重共线性问题,例农民消费函数,Y=农民消费(亿元),X1=农业净产值(亿元),X2=农村人口数(万人),X3=粮食总产值(亿元),X4=轻工业总产值(亿元),X5=农产品收购价格指数与农村工业品牌价指数比,样本区间:1953-1982,4.1多重共线性问题,农民消费函数主要回归计算结果,4.1多重共线性问题,多重共线性问题发生的原因,很多宏观经济总量随着经济周期的波动，呈现出几乎同步增长或削减的趋势，它们的数据向量极易出现近似线性相关的现象。,还有一些经济行为不仅需要某些变量作为其解释因素，同时还需要它们的滞后值变量也作为其解释因素。由于变量与它的滞后变量几乎总是同方向发生变化，模型也容易存在多重共线性问题。,4.1多重共线性问题,4.2多重共线性问题的检测,方差扩大化因子检测（以为例）,方差的因子分解,其中,为以下模型的拟合,检测临界指标：,受三方面因素的影响：,4.3多重共线性模型的岭回归估计,线性无偏估计类整体不再适用于多重共线性模型,岭回归估计是具有较小均方误差的线性有偏估计量,（一）均方误差,对于无偏估计量,对于有偏估计量,较小均方误差估计量必须取值集中而且中心点在真值附近。,（二）向量组、离差向量组与标准离差向量组,若向量组线性相关，则离差向量组线性相关。,若离差向量组线性相关，则向量组线性相关。,若向量组线性相关，则标准离差向量组线性相关。,4.3多重共线性模型的岭回归估计,（三）岭回归估计,称由关系式,所确定的估计量：,为线性回归模型的岭回归估计，其中是待定常数。,4.3多重共线性模型的岭回归估计,2.矩阵有特征根,1.,矩阵有特征根,逆运算矩阵有较小特征根的情形得到改善,3.岭回归估计是线性估计量,4.岭回归估计是有偏估计量,4.3多重共线性模型的岭回归估计,5.岭回归估计的均方误差,其中，只与矩阵有关，而与无关；,只与矩阵有关，与参数有关，而与无关。,考虑函数,4.3多重共线性模型的岭回归估计,均方误差结论,存在，对于，,由以上邻域内之所确定的岭回归估计，其误差将小于OLS估计的误差。,4.3多重共线性模型的岭回归估计,岭回归估计实施步骤,（）试探性选取：,计算相应的：,（）绘制岭迹图，；,（）观察岭迹图，使得各岭迹图均已经趋于平缓的即为所求。,4.3多重共线性模型的岭回归估计,例4.1,设Y=为我国粮食产量（LSCL，单位万吨），X1=为化肥使用量（HFSYL，单位万吨），X2=为农业劳动力（NYLDL，单位万人）。,4.3多重共线性模型的岭回归估计,模型的岭回归估计,4.3多重共线性模型的岭回归估计,岭迹图,4.3多重共线性模型的岭回归估计,取，求得,得岭回归函数：,岭回归估计的残差平方和：,普通最小平方估计的残差平方和：,拟合程度损失不算太大，模型的岭回归估计是比较成功的。,拟合程度评价,4.3多重共线性模型的岭回归估计,统计性质比较,4.3多重共线性模型的岭回归估计,4.4多重共线性模型的主成分估计,(一)主成分方法,按照系列优化模型构造组合变量。,设第一个组合变量为，其数据向量仍记为：,求解知：其中：,是矩阵的属于最大特征根的单位特征向量；,构造第二个组合变量，其数据向量也记为：,求解知：，其中：,是矩阵的属于第二大特征根的单位特征向量；,4.4多重共线性模型的主成分估计,逐一求得全部个组合变量，它们具有以下性质：,（）任何，与正交；,（）各的变差平方和等于的对应特征根，且依次单调递减；,（）组合变量组的总变差平方和等于解释变量的标准离差变量组的总变差平方和，即：,4.4多重共线性模型的主成分估计,（二）多重共线性模型的主成分估计,设,记,称,为线性回归模型的主成分估计，其中,4.4多重共线性模型的主成分估计,（三）例4.1的主成分估计,解特征方程,解方程组,4.4多重共线性模型的主成分估计,计算可得,主成分回归函数：,主成分回归、岭回归、最小平方回归的残差平方和：