计量经济学第八讲

三 多重共线性的检验 一 相关系数检验 利用相关系数可以分析解释变量之间的两两相关情况 在 EViews 软件中可以直接计算 解释 变量的相关系数矩阵 命令方式 COR 解释变量名 菜单方式 将所有解释变量设置成一个数组 并在数组窗口中 点击 View Correlations 二 辅助回归模型检验 相关系数只能判断解释变量之间的两两相关情况 当模型的解 释变量个数多于两下 并且呈现出较为复杂的相关关系时 可以通 过每个解释变量对其他解释变量的辅助回归模型来检验多重共线性 即依次建立个辅助回归模型 k kixaxaxaxaax kkiiiii 1 1111110 如果 其中某些方程显著 则表明存在多重共线性 所对应的变量 可以近似地用其他解释变量线性表示 辅助回归模型检验不仅能检验多元回归模型的多重共线性 而 且可以得到多重共线性的具体形式 如果再结合偏相关关系检验 还能进一步判定是哪些解释变量引起了多重共线性 这有助于分析 如何消除多重共线性的影响 三 方差膨胀因子检验 对于多元线性回归模型 的方差可以表示成 i b i ijiiij i VIF xxRxx bD 2 2 22 2 1 1 其中 关于其他解释变量辅助回归模型的判定系数 为 ii xR 为 2 i VIF 方差膨胀因子 随着多重共线性程度的增强 VIF 以及系数估计误 差都在增大 因此 可以用 VIF 作为衡量多重共线性的一个指标 一般当时 此时 认为模型存在较严重的多10 VIF9 0 2 i R 重共线性 另一个与 VIF 等价的指标是 容许度 Tolerance 其定义为 iii VIFRTOL 1 1 2 显然 当与其他解释变量高度相关时 10 TOL i x 因此 一般当时 认为模型存在较严重的0 TOL1 0 TOL 多重共线性 四 特征值检验 考察解释变量的样本数据矩阵 knnn k k xxx xxx xxx X 21 22212 12111 1 1 1 当模型存在完全多重共线性时 而0 1 XXkXrank 当模型存在严重的多重共线性时 根据矩阵知识 若0 X X 为矩阵个特征值 则有 121 k 1 kXX的 0 121 K XX 这表明特征值中至少有一个近似地等于零 因 1 2 1 ki i 此 可以利用的特征值来检验模型的多重共线性 实际计算时 X X 先对样本数据做标准化处理 这样矩阵转化成解释变量的相 X X 关系数矩阵 特征值也减少到个 k 利用特征值还可以构造两个用于检验多重共线性的指标 病态 数Condition Number 和病态指数 Condition Index 其指标 CI 定义为 最大特征值 最小特征值 CI 这两个指标都反映了特征值的离散程度 数值越大 表明多重共线 性越严重 一般当时 认为存在严重的多 30 1000 CI或 重共线性 四 多重共线性的解决方法 设定计量经济模型的时候 为了全面反映各方面因素的影响 总是在理论和实践认识的基础上 尽量选取被解释变量的所有影响 因素 这样在同时考虑多个影响因素的情况下 很可能产生多重共 线性问题 在处理多重共线性之前 首先应该明确以下两点 第一 多重共线性的主要后果是无法区分每个解释变量的单 独影响 因此 如果建立模型的目的是进行预测 只要模型的拟合 优度较高 即能正确反映所有解释变量的总影响 并且解释变量的 相关类型在预测期内保持不变 则可以忽略多重共线性的问题 但 是 如果是应用模型进行结构分析或政策评价 即利用系数分析 比较各个解释变量的单独影响 则需要消除多重共线性的影响 第二 引起多重共线性的原因是模型中存在相关的解释变量 所以消除多重共线性的根本方法只能是从模型中剔除这些变量 但 直接剔除变量可能会产生新的问题 1 模型的经济意义不合理 例如 生产函数中资金与劳动者人数通常是高度相关的 但从中剔 除任何一个要素都不太合适 2 如果剔除的是重要解释变量 则 这些变量的影响将反映在随机误差项中 使模型产生异方差性或自 相关性 3 若剔除不当还会产生设定误差的问题 造成参数估计 严重有偏 因此 为了解决这一矛盾 剔除变量时应该全面 慎重 考虑 根据解释变量的特点分别采用直接剔除和间接剔除两种方式 一 直接剔除次要或可替代的变量 根据经济理论和实际经验设定计量经济模型时容易考虑过多的 解释变量 其中有些可能是无显著影响的次要变量 还有一些变量 的影响可以用模型中的其他变量来代替 所以在估计模型之前 为 避免多重共线性的影响 应该从模型中先剔除这些变量 次要变量 可以通过被解释变量与解释变量的相关系数检验 相关图分析等统 计分析加以鉴别 利用辅助回归模型和特征值检验多重共线性时 又可以提供解释变量之间相互替代性的信息 二 间接剔除重要的解释变量 对于有重要影响的解释变量 可以通过以下方式将其 间接剔除 1 利用附加信息 例如 著名的 Cobb Douglas 生产函数中 KALY 劳动投入量 L 与资金投入量 K 之间通常是高度相关的 如果已 知附加信息 规模报酬不变 1 则 1 L K ALKALY 或 L K A L Y 记 LKkLYy 则 C D 生产函数可以表示成 Aky 此时二元模型转化成一元模型 当然不存在多重共线性的问题 可以利用 OLS 法估计 进而得到 A 1 a 又如 设工业能源需求函数为 2211 xbxbay 其中 分别为重 轻工业总产值 利用此模型不仅能反映工业 21 x x 经济增长对能源的需求情况 而且可以反映工业结构变化对能源需 求的影响 但是重 轻工业发展的共向性 很可能使模型产生多重 共线性 由于分别是重 轻工业的单位能耗 如果根据历史统 21 b b 计资料测得重工业的单位能耗 平均来说 是轻工业单位能耗的 即获得以下附加信息 0 倍 21 bb 则工业能源需求函数可以表示成 2 212 2212 xba xxba xbxbay 其中 模型转化成一元模型 估计出之后 又 21 xxx 2 ba 得到 从而在消除多重共线性影响的情况下得到工业能源 21 bb 需求函数 2211 xbxbay 2 变换模型的形式 对原设定的模型进行适当的变换 也可以消除或削弱原模型中 解释变量之间的相关关系 具体有三种变换方式 一是变换模型的 函数形式 如将线性模型转换成双对数模型 半对数模型 多项式 模型等 二是变换模型的变量形式 如引入差分变量 相对数变量 等 三是改变变量的统计指标 如将生产过程中的资金投入量取成 固定资金或流动资金 或两者之和 劳动投入量取成职工人数或工 资总额 经济增长指标取成 GDP GNP 国民收入等 再如 投资函数 1210ttt YbYbbI 也可以变换成 ttt YaYaaI 2110 即以收入和收入增长来解释投资的增长情况 3 综合使用时序数据与横截面数据 如果能同时获得变量的时序数据和横截面数据 则先利用某类 数据估计出模型中的部分参数 再利用另一类数据估计模型的其余 参数 例如 设某类商品的需求函数为 Pbxbbylnlnln 210 其中 为商品需求量 分别为居民收入和该商品价格 并yPx 且已知在时序样本数据中高度相关 为此分以下二步完成 Px与 1 收集最近一年该商品的销售量和居民收入的统计资料 横截面 数据 由于商品价格在一年中的变化幅度不大 所以将需求 函数取成 ii xaaylnln 10 利用横截面资料估计该模型 得到需求的收入弹性 1 a 2 原需求函数中的也是需求的收入弹性 所以 此时 1 b 11 ab 实际上假设历年的平均收入弹性与近期的收入弹性近似相等 将原模型变换成 itt Pbby ln 10 其中 再利用历年商品销售量 居民收入和 ttt xayyln ln 1 价格的统计资料 时序数据 估计模型 得到 从而在消除多 10 bb 重共线性影响的情况下 估计出需求函数 Pbxbbyln ln ln 210 从上述三种方法的处理过程可以看出 最终还是通过减少模型 中解释变量个数的方式 即剔除引起多重共线性的变量 来消除多 重共线性的影响 但并不是直接剔除有重要影响的解释变量 模型 中还是保留了这些变量的影响 所以称之为 间接剔除 三 逐步回归 建立计量经济模型的时候 一般是将解释变量全部引入模型 然后再根据统计检验和定性分析从中逐个剔除次要的或产生多重共 线性的变量 选择变量是一个 由多到少 的过程 而逐步回归选 择变量时 却是一个 由少到多 的过程 即从所有解释变量中间 先选择影响最为显著的变量建立模型 然后再将模型之外的变量逐 个引入模型 每引入一个变量 就对模型中的所有变量进行一次显 著性检验 并从中剔除不显著的变量 逐步引入 剔除 引入 直到模型之外所有变量均不显著时为止 许多统计分析软件都有逐 步回归程序 但根据计算机软件自动挑选的模型往往统计检验合理 经济意义并不理想 因此 实际应用中一般是依据逐步回归的原理 结合主观分析来筛选变量 具体步骤为 1 利用相关系数从所有解释变量中选取相关性最强的变量建 立一元回归模型 2 在一元回归模型中分别引入第二个变量 共建立个二1 k 元回归模型 设共有个解释变量 从这些模型中再选取k 一个较优的模型 选择时要求 模型中每个解释变量影响 显著 参数符号正确 值有所提高 2 R 3 在选取的二元回归模型中以同样方式引入第三个变量 如 此下去 直到无法引入新的变量时为止 例 5 服装需求函数 根据理论和经验分析 影响居民服装需求 的主要因素有 可支配收入 X 流动资产拥有量 K 服装类价格指 数 P1 和总物价指数 P0 表 3 4 给出了有关统计资料 表 3 4 服装需求函数有关统计资料 年份服装需求 可支配 收入 X 流动资产 拥有量 K 服装类价 格指数 P1 总物价 指数 P0 1979 1980 1981 1982 1983 1984 1985 1986 1987 1988 8 4 9 6 10 4 11 4 12 2 14 2 15 8 17 9 19 3 20 8 82 9 88 0 99 9 105 3 117 7 131 0 148 0 161 8 174 2 184 7 17 1 21 3 25 1 29 0 34 0 40 0 44 0 49 0 51 0 53 0 92 93 96 94 100 101 105 112 112 112 94 96 97 97 100 101 104 109 111 111 设服装需求函数为 KbPbPbXbaY 4321 01 1 相关系数检验 键入 COR Y X K P0 P1 输出的相关系数矩阵为 YXKP0 X K P0 P1 0 9977 0 9834 0 9887 0 9755 0 9883 0 9877 0 9804 0 9695 0 97000 9918 可见每个因素都与服装需求高度相关 而且解释变量之间也是 高度相关的 现按照逐步回归原理建立模型 2 建立一元回归模型 根据理论分析 可支配收入应该是服装需求最主要的影响因素 相关系数检验也表明 收入与服装需求的相关性最强 所以以 作为最基本的模型 bXaY 3 将其余变量逐个引入模型 估计结果列入表 3 5 其中括号里 的数字为 统计量值 t XP1P0K 2 R 2 R XfY 0 11790 99500 9956 1 PXfY 0 1262 8 57 0 0378 0 57 0 99460 9958 0 PXfY 0 1030 5 67 0 0857 0 83 0 99480 9960 KXfY 0 1315 7 03 0 0388 0 74 0 99470 9959 0 1 PPXfY 0 1042 7 55 0 1866 2 47 0 3132 2 59 0 99700 9980 0 1 KPPxfY 0 0978 3 71 0 1972 2 24 0 3401 2 20 0 0144 0 30 0 99650 9980 从表 3 5 的估计结果可以看出 在基本模型中引入 P1 之后 的符号正确 但 P1 的 检验不显著 同时拟合优度提高不 21 b bt 2 R 多 反而下降 同理再分别引入其他两个解释变量 引入的变量 2 R 都不显著 但相对来说 模型的拟合优度最高 所 0 PXfY 以再将该模型作为基本模型 逐步引入其他变量 引入 P1 之后 模 型中各个系数的符号合理 解释变量的 t 检验也都是显著的 并且 拟合优度都有所提高 在此基础上再引入 K 其 检验不显 22 RR 和t 著 为多余变量 经过以上的逐步引入 检验过程 最终确定服装需求函数为 50 3 9970 0 9980 0 59 2 47 2 55 7 03132 0 11866 0 1042 0 45 12 22 DWRR t PPXY 从本例的讨论过程可以看出 1 模型中引入相关性较强的解释变量 会影响系数的估计值和 检验值 这正是多重共线性的主要影响 t 2 在模型中增添解释变量 不论其影响是否显著都会使的值 2 R 上升 但的值却不一定增加 增添不显著的解释变量甚至可能会 2 R 使的值下降 所以比较不同模型的拟合优度时 取比较合理 2 R 2 R 另外 该需求模型还存在两个问题 一是 DW 值接近于 4 可 能存在自相关性 二是样本容量太小 却要考虑引入 4 个解10 n 释变量 样本的自由度只有 所以模型的估计结果51410 可能并不可靠 过高的拟合优度也可能提供的是虚假信息 本例只 是为了说明多重共线性的处理过程 实际应用中只有在样本容量较 大的情况下 才能考虑引入多个解释变量 四 主成分回归 主成分回归 Principal Components Regression 简称 PCR 是根据 多元统计分析中的主成分分析原理 用于处理多重共线性模型的一 种新的参数估计方法 其基本原理是 利用主成分分析将解释变量 转换成若干个主成分 这些主成分从不同侧面反映了解释变量的综 合影响 并且互不相关 因此 可以将被解释变量关于这些主成分 进行回归 再根据主成分与解释变量之间的对应关系 求得原回归 模型的估计方程 主成分回归的具体步骤为 1 对原始样本数据做标准化处理 这样矩阵即为解释X X 变量的相关系数矩阵 R 2 计算个特征值 以及相应的标kR的 k 21 准化特征向量 k uuu 21 Auu AI 的根0 3 利用特征值检验多重共线性 模型存在多重共线性时 至 少有一个特征值近似地等于零 不妨设近似为零 kmm 21 这表明解释变量之间存在着个线性相关关系 mk 4 设解释变量 已标准化 个主成分为 kXXX k的 21 的标准差 标准化 i iij ij X XX X 183 2211 22221212 12121111 kkkkkk kk kk XuXuXuZ XuXuXuZ XuXuXuZ 其中 互不相关 并且近似为零 将 标准化 i Z kmm ZZZ 21 的 被解释变量关于个主成分进行回归 得 Ym m ZZZ 21 193 2211 mmZ aZaZaY 5 根据主成分与解释变量之间的关系式 3 18 将其代 入主成分回归方程 3 19 式 求得用标准化数据表示的 的回归方程 k XXX 21 kkX XXY 2211 系数与原模型中参数之间的关系为 i i b 203 2 1 1 0 k i ii i i y i xbyb ki S S b 其中 分别为和的标准差 由此可以计算出原回归模型 y S i Sy i x 中的参数 进而得到 kkx bxbxbby 22110 例 6 中国民航客运量预测模型 为了研究我国民航客运量的变化趋 势及其成因 经分析选择了以下解释变量 居民消费额 亿元 1 x 政府消费额 亿元 铁路客运量 万人 来华旅游入境人数 2 x 3 x 万人 民航航线里程 万公里 并取中国民航客运量 4 x 5 x 万人 作为被解释变量 有关统计资料列入表 3 6 y 表 3 6 民航客运量及其影响因素的统计资料 年份 民航客 运量y 居民消 费额 1 x 政府消 费额 2 x 铁路客 运量 3 x 来华旅 游人数 4 x 民航航 线里程 5 x 1978 1979 1980 1981 1982 1983 1984 1985 1986 1987 1988 1989 1990 1991 1992 1993 1994 1995 1996 1997 1998 231 298 343 401 445 391 554 747 997 1310 1442 1283 1660 2178 2886 3383 4038 5117 5555 5630 5755 1759 1 2005 4 2317 1 2604 1 2867 9 3182 5 3674 5 4589 0 5175 0 5961 2 7633 1 8523 5 9113 2 10315 9 12459 8 15682 4 20809 8 26944 5 32152 3 34854 6 36921 1 480 614 659 705 770 838 1020 1184 1367 1490 1727 2033 2252 2830 3492 4500 5986 6690 7852 8725 9485 81491 86389 92204 95300 99922 95712 95080 99693 94162 92578 93620 180 92 420 39 570 25 776 71 792 43 947 70 1285 22 1783 30 2281 95 2690 23 3169 48 2450 14 2746 20 3335 65 3311 50 4152 70 4368 45 4638 65 5112 75 5758 79 6347 84 14 89 16 00 19 53 21 82 23 27 22 91 26 02 27 72 32 43 38 91 37 38 47 19 50 68 55 91 83 66 96 08 104 56 112 90 116 65 142 50 150 58 1 多重共线性检验 由于选择的影响因素较多 所以估计模型之前 应该先分析各 个因素与被解释变量之间的关系 以及因素之间的相关程度 利用 SCAT 命令观察了与各个解释变量的相关图之后 再用 COR 命y i x 令进行相关系数检验输出的相关系数矩阵为 y 1 x 2 x 3 x 4 x 1 x 0 9862 2 x 0 9869 0 9969 3 x 0 1199 0 1567 0 1569 4 x 0 9553 0 9377 0 9420 0 0779 5 x 0 9878 0 9778 0 9877 0 1140 0 9569 计算结果表明 除铁路客运量之外 其他因素与民航客运量 3 x 高度相关 而且解释变量之间也是两两高度相关的 为了进一步检验解释变量之间的相关关系 利用 SPSS 软件计 算出解释变量相关系数矩阵的特征值为 00133 0 019 0 041 0 028 1 911 3 54321 此时 即 标准化后的 01017 4 6 i XX 样本数据矩阵是一个病态矩阵 而且病态 条件 数和病态指X X 数分别为 1000294100133 0 911 3 51 3023 542941 CI 因此 模型存在严重的多重共线性 如果此时用 OLS 法估计模 型 将得到以下估计结果 92 0 9862 0 48 1 95 0 31 0 01 0 92 0 0572 191477 0 0025 0 0027 0 0766 0 39 48 2 54321 DWR t xxxxxy 模型中所有解释变量的 检验均不显著 并且的系数符号不合理 t 2 x 2 主成分回归 现采用主成分回归解决多重共线性问题 根据 SPSS 软件的计 算结果 所对应主成分的累计贡献率 贡献率为 21 ii 达到 98 77 对应的标准化特征向量为 21 993 0 965 0 120 0 996 0 992 0 1 u 00523 0 202 0 992 0 040 0 041 0 2 u 所以两个主成分为 543211 993 0 965 0 120 0 996 0 992 0XXXXXZ 543212 00523 0 202 0 992 0 040 0 041 0 XXXXXZ 其中 均为标准化后的解释变量 从主成分中各变量的系数值可 i X 以看出 第一主成分主要反映了的变化 即综 1 Z 5421 XXXX和 合反映了与民航客运量正相关因素的影响 第二主成分主要反映 2 Z 了客运量的变化 即与民航客运量负相关因素的影响 3 X 在 SPSS 软件中可以自动生成主成分的样本值 又称为样 21 Z Z 本得分值 将其转入 EViews 软件后 先对变量 Y 进行标准化处理 43 1982 91 2125 YYZGENR 再将标准化后的 Y 关于回归 21 Z Z LS YZ Z1 Z2 估计之后 经检验模型还存在一阶和二阶自相关性 所以再加 上 AR 1 AR 2 项重新估计模型 得到以下估计结果