计量经济学讲义第五讲(共十讲).doc

浙江工商大学金融学院姚耀军讲义系列第五讲 自相关高斯-马尔科夫假定五是：如果该假定不成立，那么称模型的误差项是序列相关的。由于序列相关主要针对于时间序列数据，因此，下面把i改写为t，样本容量N改写为T。笔记： 1、如果基于横截面数据的回归模型其误差项是相关的，则称为空间自相关。但是要记住，除非观察顺序具有某种逻辑或者经济上的意义，否则，在横截面数据回归中，观察顺序是可以随意的，因此，也许在某种观测顺序下误差项呈现出一种模式的自相关但在另一种观测顺序下又呈现出另外一种模式的自相关。然而，当我们处理时间序列时，观测服从时间上的一种自然顺序。2、在经济变量时间序列回归模型中，误差项经常被称之为冲击（Shock）。对经济系统的冲击经常具有持续性，从而这为误差项序列相关提供了现实依据。一、 自相关的后果在证明高斯-马尔科夫定理时，我们仅仅在证明OLS估计量的方差最小（在所有线性无偏估计量中）时用到了序列无关假定，而在证明线性、无偏性并没有用到该假定，因此违背无自相关性假定并不影响线性、无偏性，只影响方差最小性质。在证明方差最小时，我们分了两步，其中第一步是计算OLS估计量的方差。对模型：有：在假定五：下，有：如果假定五不成立，那么正确的方差表达式应该是：所以， OLS法下通常的系数估计量方差的表示是错误的。一般来说它小于真实的方差。这是因为，对于经济数据来说，正的序列相关是最常见的，因此一般为正，而一般也是正的。因此，一般是大于0的。当然，依靠错误的标准误所进行的t检验也是无效的。标准的F检验同样依赖于高斯-马尔科夫假定，因此在序列相关情况下通常的F检验也是无效的。笔记：应该注意的是，如果模型设定有误，那么也可能使误差项是序列相关的。例如，如果设定的模型遗漏了变量，而这些被遗漏的变量是自相关的，它们进入了误差项，从而导致误差项也具有自相关性。因此，误差项序列相关同异方差一样，它也可能是模型设定错误的信号。如果产生自相关性的原因是模型设定有误，那么我们首先应该要作的事情是正确设定模型！二、 发现自相关（一）图示法图一：正序列相关图二：负序列相关误差项当然我们是观察不到的，但我们可以获得残差。直观来看，我们可以基于残差来判断误差项所具有的性质。如果残差随着观测顺序的变化并不频繁地改变符号，见图一，则这是误差项序列正自相关的证据；如果残差随着观测顺序的变化频繁地改变符号，则这是误差项序列负自相关的证据，见图二。笔记：1、与上述图形检验思路一样但更正规的一种检验方式是游程检验（runs test）。首先记录残差的符号，例如：(+)(-)(+)(-)(+)。所谓游程是指具有同一符号的一个不间断历程。在此例中，具有5个游程。直观来看，如果游程太多，这意味着残差频繁地改变符号，而这是负自相关的证据；反之，如果游程太少，则是正自相关的证据。我们是用残差来近似作为误差的观测值。给定观测值的个数，利用Swed & Eisenhart所给出的一定显著水平下关于游程数的两个临界值，我们可以检验误差是独立的这个原假设。具体详情可参见相关教科书。 2、在图一中，残差大约在三个位置改变了符号，你也许会问，这不是违背了正序列相关的判断吗？记住！我们发现的正序列相关是统计规律，而统计规律是大部分观测所具有的规律。（二）Durbin-Watson检验图示法仅仅是非正式的检验方法。接下来我们介绍著名的DW检验。该法用来检验误差项是否存在一阶自相关。首先利用OLS残差构造检验统计量：显然，就是残差的（样本）一阶自相关系数，当然其前提是：（1）残差均值为零，这意味着初始模型必须带有截距；（2）残差序列是同方差的，这进一步意味着初始模型中的误差项必须是同方差的。直观来看，它就是对误差项一阶自相关系数的估计。因此，。如果误差项没有一阶自相关，那么应该接近于0，而DW应该接近于2；如果误差项具有强烈的一阶正自相关关系，即接近于1，而DW应该接近于0；如果误差项具有强烈的一阶负自相关关系，即接近于-1，而DW应该接近于4。不幸的是，在误差项的一阶自相关系数为零的原假设下，DW的精确分布取决于解释变量矩阵X。然而，Durbin-Watson证明，DW的精确分布位于两个极限分布之间。我们利用这两个极限分布就可以进行检验了。dUdL4-dU4-dL2在实践中，经济变量如果存在自相关，那么一般是正自相关【针对水平变量而不是差分变量，对于差分变量，负自相关是常见的，这是因为差分表示变量的变化。如果经济变量在均衡位置上下波动，那么上一期涨幅较大往往意味着在本期将出现回落】，因此，在进行DW检验时，我们通常利用的是单侧（左侧）检验【很多教材所所提供的临界值表是针对单侧检验】。事实上，如果你计算的DW值超过了4-dl，这往往是模型错误设定的信号。在单侧检验下，给定显著水平，当，我们认为误差项是一阶正自相关的；当，则无法判断；当，我们认为误差项不存在一阶自相关。DW检验应该注意的问题：（1） 该检验用来判断误差项是否是一阶自相关的。一阶自相关不存在并不一定意味着不存在高阶自相关。（2）回归模型必须带有截距项以保证残差均值为零；（3）DW统计量的分布除了取决于解释变量矩阵X外还依赖于全套的经典线性模型假定。因此，为了保证DW检验的有效，其他相关假定的成立也是重要的（比如说同方差假定）。（4）解释变量中不能含有滞后因变量。考虑模型：，当与相关时， 与是相关的，这违背了标准假定（标准假定是，要么解释变量非随机，要么随机但与误差项无关），如果此时利用OLS估计上述模型，那么估计量将是有偏的，且偏差不会随样本的增加而趋于零。事实上，OLS估计将把误差项所包含的信息价值归功于解释变量，而相应的残差看起来再也不含有价值的信息，因此，此时DW值经常接近于2，从而具有误导性 Durbin针对此情况提出Durbin-h统计量：，h渐进服从标准正态分布。由于不能保证，故该检验具有局限性。（5）没有缺失数据。例如，完整样本是1978-2008年的年度数据，但是，由于某些原因，我们所掌握的样本没有1999年的观测值。笔记：既然，为什么不基于直接进行检验呢？如果考虑回归：，则针对上述回归，利用t检验不是可以检验的显著性吗？这里首先要指出的是，既然约等于，故利用上述t检验只是渐进合理的，或者说适用于大样本。不过基于残差自回归的检验确实具有一定的优点，例如操作简单，并且还可以利用异方差稳健标准误。但要记住，此时原模型同样不能含有滞后因变量，解释同DW检验。我们还可以对这种方法进行推广，如进行回归：，以检验误差项是否具有高阶自回归性质。（三）相关图(Correlogram)分析首先介绍基本概念：1、 自相关系数定义与的相关系数为。为了估计它，我们首先利用OLS估计得到残差序列，然后，就对就行无截距回归，则可以得到。在原假设：下，因此，在95%的置信水平下，样本自相关函数将落在的区间内，即“两倍的标准误差带内”。笔记：为什么的渐进方差是1/T？考虑对回归，按照系数标准误的公式，有：。另外有：而正是Box-PierceQ统计量【注：Q统计量所对应的原假设是】。在小样本下，为了更加接近卡方分布，对该统计量的一个修正是： ，此即Ljung-Box Q统计量，这个统计量被EVIEWS采用。2、 偏自相关系数如果关于误差项的模型是形式：则被称为误差序列的阶偏自相关系数。对其的估计是还是通过对残差进行自回归，那么其相应的估计系数就是。同样，在原假设：下，。笔记：与的自相关系数与偏自相关系数的区别在于，前者度量了两变量之间简单、常规的相关程度；而后者在度量相关程度时，首先剔除了对两者的影响。思考：基于样本的一阶自相关系数与一阶偏自相关系数具有什么关系？这个关系能够推广到二阶及其以上的情况吗？ 3、 一些含义如果误差项是形式的，那么它的偏自相关系数是截尾的。然而，它的自相关系数是拖尾的。考虑最简单的AR(1)形式： ，（为什么有该约束？），在这里，。按照偏自相关系数的定义，显然有：。故偏自相关系数截尾。为了显示其自相关系数是拖尾的，进行迭代，有：把括号内表达整体上看成是一个误差项，则，当时，。如果误差项是移动平均（MA）形式，那么它的偏自相关系数是拖尾的。然而，它的自相关系数是截尾的。考虑最简单的MA(1)形式：在这里，。把上式递推，有：不难证明，。为了看出它的偏自相关系数是拖尾的，我们进行迭代：因此，。误差项也可能是自回归移动平均（ARMA）形式，为简单起见，以ARMA(1,1)模型为例：通过迭代不难发现，此时误差项的自相关系数与偏自相关系数皆是拖尾的。总结：当误差项可以用AR、MA、ARMA模型描述时，其自相关系数、偏自相关系数具有如下性质：AC(自相关系数)PAC（偏自相关系数）AR(自回归)拖尾截尾【按照定义】MA（移动平均）截尾拖尾ARMA(自回归移动平均）拖尾拖尾注：在讨论上述性质时，误差项皆是平稳时间序列，关于平稳时间序列的概念见第八讲。4、相关图分析的用途 误差项观察不到，我们不得不利用残差来获得对自相关系数及其偏自相关系数的估计。对这些估计结果描图，即得到所谓的相关图，如下所示：相关图分析上图中虚线区域表示两倍的标准误差带。显然，根据样本计算的一阶自相关系数及其一阶、二阶偏自相关系数都超出了两倍的标准误差带。因此，我们可以得到结论：在5%显著水平下，拒绝一阶自相关系数及其一阶、二阶偏自相关系数为零的原假设。根据Q统计值，我们也可以得到结论：在5%显著水平下，拒绝的原假设。 根据上图，我们还可以认为，一个AR(2)模型可以被用来描述误差项的数据生成过程。此时从理论上看，偏自相关系数将从第三步开始为零，而自相关系数是拖尾的。基于残差数据所获得的相关图与上述判断一致。笔记：应该要注意，基于相关图进行序列相关检验在本质上等价于基于回归：进行序列相关检验。因此，原模型同样不能含有滞后因变量！思考题： “误差项具有高阶自相关关系意味着用一阶自回归模型来表示误差项是不正确的”，这种表述正确吗？（四）Breusch-Godfrey检验假定模型是：Breusch-Godfrey检验的步骤是：（1）估计模型并计算残差；（2）估计辅助回归模型：并检验原假设。这可以利用拉格朗日乘数LM统计量进行检验，其中是辅助模型的判定系数。当然利用F检验也是渐进合理的。在该检验中，对辅助模型，因变量也可以改为；原模型中的解释变量可以是滞后因变量。事实上，正是因为解释变量可以是滞后因变量，从而辅助回归是：而不是：。关于其原因我们暂不做解释。三、 发现了自相关，我们该怎么办？在模型设定无误的情况下，我们有两种选择（一） 修正系数的标准误，并作自相关-稳健性推断，见附录1。笔记：回忆关于系数估计量方差的推导，如果基于公式：来计算自相关稳健的标准差（或者标准误），那么这个计算结果显然也是异方差稳健的，因为它并没有用到同方差假定。（二） 广义差分法误差项模型是：（1）如果是已知的原模型是：显然，其中 、被称为广义差分。上述转换也被称为Cochrane-Orcutt转换。转换后的模型满足高斯-马尔科夫假定，可以直接利用OLS。思考：当误差项模型是：时，如何进行Cochrane-Orcutt转换？注意到，在Cochrane-Orcutt转换后，等变量是从开始的，即丢失了第一个观测值。事实上我们还可以把第一个观测值所包含的信息补充进来，以提高估计量的有效性。此即Prais-Winsten转换，见附录2。基于该转换后所得到的估计量实际上就是所谓的广义最小二乘（GLS）估计量。 （2）如果需要估计无论如何，我们是基于残差而不是误差来估计的，只有在大样本情况下这样的估计才是的良好近似。事实上可以证明，并不是的无偏估计，但是的一致估计。因此接下来的方法都是适用于大样本。一种思路是，首先把估计出来，然后采用Cochrane-Orcutt转换得到a,b的估计，这样的估计方法被称为可行（Feasible）的广义差分法。如果利用的是Prais-Winsten转换，则得到可行的广义最小二乘（FGLS）估计量。如何估计？主要的方法包括近似估计法、Durbin估计法及其迭代估计法等。Durbin估计法：直接估计模型，得到，并把它作为对的估计。迭代估计法：第一轮：第一步：直接利用OLS估计模型，得到第一轮的残差；再估计模型，得到第一轮的的估计。第二步：采用Cochrane-Orcutt转换（也可以采用Prais-Winsten转换），得到第一轮的的估计值。第二轮：第一步：利用计算第二轮残差，并得到第二轮的估计。第二步：采用Cochrane-Orcutt转换，得到第二轮的估计值.直到,为事先给定的精度。当然，你也可以指定迭代次数。我们也可以利用Hidreth-Lu搜索估计法，见相关教材。笔记：1、在Durbin估计法下，因此，直接估计模型：，我们得到的估计。直观来看，为什么不利用作为的估计、作为的估计？在这里关键的问题是，如何计算的标准误。在计算机还不先进时，涉及到该问题的计算成本比较昂贵。而到了现在，这个问题并不重要了。利用非线性最小二乘法（NLS）对模型：进行估计，软件包可以提供相关参数估计及其标准误。NLS的应用是十分普遍的。在EVIEWS中，如果输入命令：LS Y C X AR(1),那么软件将自动进行NLS估计。2、广义差分不能应用于解释变量含有滞后因变量的模型。为简单计，考虑模型：广义差分后有：在这里，与 是相关的，这违背了标准假定。附录1：存在自相关性时的稳健标准误其中。，故，。而因此，是序列相关调整因子。当时，就是White的异方差稳健方差，记White的异方差稳健方差的估计量为，那么现在我们可以得到所谓的的异方差-自相关-一致性（heteroskedasticity-autocorrelation-consistent，HAC）方差估计量：，其中。直观地看，如果估计时只考虑了一阶自相关而忽略了所有的高阶自相关，那么就不是一致估计。另一方面，当考虑了所有的自相关关系时，由于估计每一个都有估计误差，因此的估计误差会很大。在实际利用时，到底选择多少阶的自相关被包括进来需要在两个极端情况间作出平衡。Newey-West(1987)提出，被称为截断参数。这样所获得的HAC估计量被称为Newey-West方差估计量