计量经济学模型的广义矩估计

1、精选课件2.2 2.2 计量经济学模型的广义矩估计计量经济学模型的广义矩估计（GMM, Generalized Method of Moments）一、广义矩估计的概念一、广义矩估计的概念 二、计量经济学模型的广义矩估计二、计量经济学模型的广义矩估计 三、三、OLSOLS和和MLML估计是估计是GMMGMM估计的特例估计的特例 四、假设检验四、假设检验 精选课件关于关于GMMGMM的主要文献的主要文献 关于关于GMM最早的系统的描述最早的系统的描述L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 5

2、0, p1029-1054 关于关于GMM 的总结的总结A. Pagan and M. Wickens, 1989: A Survey of Some Recent Economertic Methods, Economic Journal 99, p962-1025精选课件 关于关于GMM发展的讨论发展的讨论R. Davidson and J. MacKinnon, 1993: Estimation and Inference in Econometrics, New York Oxford Univ. Press精选课件一、广义矩估计的概念一、广义矩估计的概念精选课件几个重要的性质几个重要

3、的性质 从方法论角度从方法论角度 变量设定的相对性：直接与间接、内生与外生、随机变量设定的相对性：直接与间接、内生与外生、随机与确定。与确定。 经验信息（样本数据）的充分利用。经验信息（样本数据）的充分利用。 具有包容性：实际上是已有估计方法的概括和一般化。具有包容性：实际上是已有估计方法的概括和一般化。 适用于大样本并显示其优越性。适用于大样本并显示其优越性。精选课件几个重要的性质几个重要的性质 从技术角度从技术角度 无须要求正规方程组中方程数目与待估参数数目相等。无须要求正规方程组中方程数目与待估参数数目相等。 无须进行高阶矩阵的求逆运算。无须进行高阶矩阵的求逆运算。精选课件参数的矩估计参

4、数的矩估计 参数的矩估计就是用样本矩去估计总体矩。参数的矩估计就是用样本矩去估计总体矩。 用样本的一阶原点矩作为期望的估计量。用样本的一阶原点矩作为期望的估计量。 用样本的二阶中心矩作为方差的估计量。用样本的二阶中心矩作为方差的估计量。 从样本观测值计算样本一阶（原点）矩和二阶从样本观测值计算样本一阶（原点）矩和二阶（原点）矩，然后去估计总体一阶矩和总体二阶（原点）矩，然后去估计总体一阶矩和总体二阶矩，再进一步计算总体参数（期望和方差）的估矩，再进一步计算总体参数（期望和方差）的估计量。计量。 精选课件niiniiynXynX12)2(1) 1 (11样本的一阶矩样本的一阶矩和二阶矩和二阶矩

5、niiynXYEM1)1()1(1)(niiynXYEM12)2(2)2(1)(总体一阶矩和总体总体一阶矩和总体二阶矩的估计量二阶矩的估计量 ) 1 () 1 ()(XYEM总体参数（期总体参数（期望和方差）的望和方差）的估计量估计量 2)1()2(2)1()2(2)()(XXMM精选课件参数的广义矩估计参数的广义矩估计 如果选择的矩估计方程个数多于待估参数个数。如果选择的矩估计方程个数多于待估参数个数。使得欧氏距离函数使得欧氏距离函数 达到最小：达到最小：riiiMXQ12)()()()(0),(0),(0),(21)()(21)2()2(21)1()1(rrrrrMXMXMX矩条件数等于待

6、矩条件数等于待估参数数目估参数数目精选课件计量经济学模型的广义矩估计计量经济学模型的广义矩估计 如果模型的设定是正确，则存在一些为如果模型的设定是正确，则存在一些为0的条件矩。的条件矩。广义矩估计的基本思想是利用矩条件估计模型参数。广义矩估计的基本思想是利用矩条件估计模型参数。 等于等于0的条件矩的数目大于待估计模型参数的数目。的条件矩的数目大于待估计模型参数的数目。 求解二次型。求解二次型。精选课件二、计量经济学模型的广义矩估计二、计量经济学模型的广义矩估计精选课件 估计方法的原理估计方法的原理 一组矩条件，普通最小二乘估计的正规方程组。一组矩条件，普通最小二乘估计的正规方程组。iiiXhy

7、),(ni, 1kjxniiji, 2 , 101kjXhyxniiiji, 2 , 10),(1精选课件 一组矩条件，工具变量估计的正规方程组。一组矩条件，工具变量估计的正规方程组。iiiXhy),(ni, 1kjzniiji, 2 , 101kjXhyzniiiji, 2 , 10),(1精选课件),();,(iiiiXhyXye);,(1);,(1)(XyeZnXyeZnmiiiiiikiiiiiiikeznezneznmmmm111)()()()(21210)(m工具变量估计的工具变量估计的正规方程组。正规方程组。精选课件 工具变量估计正规方程组的解就是工具变量估计正规方程组的解就是)

8、()(minmm一阶极值条件的解。一阶极值条件的解。精选课件 如果工具变量如果工具变量Jk，并且对不同的矩条件加权，并且对不同的矩条件加权，考虑随机项存在异方差和序列相关考虑随机项存在异方差和序列相关)()(minarg1mWmiiJiiiiiiiJeznezneznmmmm111)()()()(2121精选课件 Arg , Argument, 自变量、宗数 W矩阵的阶数：矩阵的阶数：JJ精选课件以多元线性模型为例以多元线性模型为例 如果满足所有基本假设，如果满足所有基本假设，OLS的正规方程组为：的正规方程组为：nixxxyiiiii, 2 , 13322110该方程组该方程组是如何得是如何

9、得到的？到的？如何从矩条如何从矩条件出发得到件出发得到该方程组？该方程组？如何求如何求解该方解该方程组？程组？0)(0)(0)(0)(3332211032332211021332211013322110iiiiiiiiiiiiiiiiiiiiiixxxxxyxxxxxyxxxxxyxxxy精选课件 如果如果x2为随机变量，为随机变量，z1为它的工具变量，为它的工具变量，IV的正的正规方程组为：规方程组为：nixxxyiiiii, 2 , 133221100)(0)(0)(0)(3332211031332211011332211013322110iiiiiiiiiiiiiiiiiiiiiixxx

10、xxyzxxxzyxxxxxyxxxy为什么将为什么将x2换为换为z1？如何求如何求解该方解该方程组？程组？该方程组是如该方程组是如何得到的？何得到的？4个等于0的矩条件，求解4个参数精选课件 如果如果x2为随机变量，为随机变量，z1、z2 为它的工具变量，为它的工具变量，GMM关于参数估计量的矩条件为：关于参数估计量的矩条件为：nixxxyiiiii, 2 , 133221100)(0)(0)(0)(0)(3332211032332211021332211011332211013322110iiiiiiiiiiiiiiiiiiiiiiiiiiiixxxxxyzxxxzyzxxxzyxxxxx

11、yxxxy如何求如何求解该方解该方程组？程组？5个等于0的矩条件，求解4个参数该方程组是如何该方程组是如何得到的？得到的？精选课件 GMM GMM估计量估计量 min Q()=(1/n)Z(Y-X)W(1/n)Z(Y-X)的的1阶极值条件（偏导为0）： -2XZWZY+2XZWZX=0 XZWZX=XZWZY这是一个有K个未知参数，K个方程的线性方程组。 当lK时，ZX是一个列满秩于K的矩阵。从而(XZWZX)K K非奇异，于是有： =(XZWZX)-1XZWZY即为原模型Y=X + 的一个广义矩估计量。广义矩估计量。精选课件 如果如果l=K，这时ZX为KK方阵且可逆。于是： =(ZX)-1W

12、-1(XZ)-1XZWZY =(ZX)-1ZY 可见，可见，GMM=IV, 这时这时W的选择对结果无影响。的选择对结果无影响。 如果如果lK，这时根据这时根据W选取的不同，有不同的解选取的不同，有不同的解GMM，但只要，但只要W是对称正定矩阵，估计结果都满是对称正定矩阵，估计结果都满足一致性。足一致性。 尽管不同的权矩阵尽管不同的权矩阵W都可得到都可得到 的一致估计量，但的一致估计量，但估计量的方差矩阵可能是不同的。因此，可以选估计量的方差矩阵可能是不同的。因此，可以选择最佳的择最佳的W，以使估计量更有效，以使估计量更有效(有小的方差有小的方差)。精选课件权矩阵的选择权矩阵的选择 关于权矩阵的

13、选择，是关于权矩阵的选择，是GMM估计方法的一个核心估计方法的一个核心问题。问题。)()(minarg1mWm权矩阵可根据每个样本矩条件估计的精确程度来设权矩阵可根据每个样本矩条件估计的精确程度来设置（用方差来度量）。例如，对估计较精确的矩条置（用方差来度量）。例如，对估计较精确的矩条件给予较大的权重，对估计较不精确的矩条件给予件给予较大的权重，对估计较不精确的矩条件给予较小的权重。较小的权重。精选课件 如此构造权矩阵体现了上述设置权矩阵的原则。如此构造权矩阵体现了上述设置权矩阵的原则。 权矩阵调整的是权矩阵调整的是J个矩条件之间的关系，而不是个矩条件之间的关系，而不是n个样本点之间的关系。个

14、样本点之间的关系。 W应是应是(1/n)Var(Z )-1的一致估计。的一致估计。 权矩阵的阶权矩阵的阶,12ijjjiiZZCovnW)()(min(arg)1(1)()1(JJJJmWm精选课件 Hansens(1982)提出最佳的权矩阵为：提出最佳的权矩阵为： )(.mVarAsyW ,12ijjjiiZZCovnZZnZZnjiijij1122精选课件L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 50, p1029-1054精选课件 若随机误差项存在异方差且不存在自相关，若随机误差项存在

15、异方差且不存在自相关，White(1980)提出权矩阵的估计量为：提出权矩阵的估计量为： 01SnW nliliiliilzzeenS11White, 1980: A heteroskedasticity-consistent convariance matrix and direct test for heteroskedaticity, Econometrica 48, 817-838Eviews 中中GMM方程设定页面选择方程设定页面选择“cross section”，即为该情况。，即为该情况。L=0精选课件精选课件 若随机误差项存在自相关，若随机误差项存在自相关，Newey和和West

16、(1987)提出权矩阵的估计量为：提出权矩阵的估计量为： )(1110lLllSSlwSnSnW11)(LllwNewey and West, 1987: A Simple positive semi-definite, heteroskedasticity and Autocorrelation consisitent covariance matrix, Econometrica 55,703-708精选课件 Eviews 中中GMM方程设定页面选择方程设定页面选择“time series”，在，在HAC optons的的Kernel options中中选择选择Bartlett，然后在然后

17、在Bandwidth selection中中选择选择 Fixed，再填写，再填写NW即为该情况。即为该情况。 其中其中Kernel options选择选择Bartlett，即是：，即是：11)(Lllw精选课件精选课件 其它选择的含义其它选择的含义 Eviews 中中GMM方程设定页面选择方程设定页面选择“time series”，在在HAC optons的的Kernel options中选择中选择Bartlett，然后在然后在Bandwidth selection中选择中选择 Fixed，如果，如果填写填写1个具体的数字，例如个具体的数字，例如2，表示，表示L=2。精选课件 Eviews 中

18、中GMM方程设定页面选择方程设定页面选择“time series”，在在HAC optons的的Kernel options中选择中选择Bartlett，然后在然后在Bandwidth selection中选择中选择 Andrews，表示采用表示采用Andrews1991年论文中提出的选择方法。年论文中提出的选择方法。 Andrews,1991: Heteroskedasticity and autocorrelation consistent covariance matrix estimation, Econometrica 59, 817-858精选课件 Eviews 中中GMM方程设定

19、页面选择方程设定页面选择“time series”，在在HAC optons的的Kernel options中选择中选择Bartlett，然后在然后在Bandwidth selection中选择中选择 Variable-Newway-West，表示采用，表示采用Newey-West 1994年年论文中提出的选择方法。论文中提出的选择方法。 Newey and West,1994: Automatic lag selection in covariance matrix estimation, Review of Economic Studies 61, 631-精选课件 Eviews 中中GM

20、M方程设定页面选择方程设定页面选择“time series”，在在HAC optons的的Kernel options中选择中选择Quadratic，然后在然后在Bandwidth selection中进行中进行选择。表示采用选择。表示采用Quadratic 核函数。核函数。精选课件 Eviews 中中GMM方程设定页面选择方程设定页面选择“time series”，在在HAC optons中选择中选择Prewhitening,然后在然后在Kernel options中和中和Bandwidth selection中进行中进行选择。表示在权矩阵计算之前，设置简单的选择。表示在权矩阵计算之前，设置

21、简单的AR(1)模型，加到估计的模型中。模型，加到估计的模型中。精选课件 估计方法的步骤估计方法的步骤 采用采用OLS估计模型，求得参数的一组估计量，目估计模型，求得参数的一组估计量，目的在于求得权矩阵的估计量。的在于求得权矩阵的估计量。 计算权矩阵的估计量。如果采用计算权矩阵的估计量。如果采用Newey和和West(1987)提出的权矩阵估计量，则要首先选择提出的权矩阵估计量，则要首先选择L的值。当模型不存在序列相关时，取的值。当模型不存在序列相关时，取L=1；当模；当模型存在序列相关时，可以采用广义差分法判断型存在序列相关时，可以采用广义差分法判断L的取值。权矩阵为的取值。权矩阵为JJ阶矩

22、阵。阶矩阵。 将权矩阵的估计量代入二次型表达式，得到参数将权矩阵的估计量代入二次型表达式，得到参数的的GMM估计量。估计量。 迭代迭代 精选课件例题例题 居民消费居民消费CONS由由GDP、CONS(-1)解释。解释。 OLS估计估计 以以GDP(-1)作为作为CONS(-1)工具变量的工具变量的IV估计估计 以以C、GDP、GDP(-1)、政府消费、政府消费CONSG作为工作为工具变量的具变量的GMM估计估计 精选课件OLSOLS估计结果估计结果Dependent Variable: CONS Method: Least Squares Date: 03/20/03 Time: 22:05

23、Sample(adjusted): 1981 1996 Included observations: 16 after adjusting endpoints Variable Coefficient Std. Error t-Statistic Prob. C 540.5286 84.30153 6.411848 0.0000 GDP 0.480948 0.021861 22.00035 0.0000 CONS1 0.198545 0.047409 4.187969 0.0011 R-squared 0.999773 Mean dependent var 13618.94 Adjusted

24、R-squared 0.999739 S.D. dependent var 11360.47 S.E. of regression 183.6831 Akaike info criterion 13.43166 Sum squared resid 438613.2 Schwarz criterion 13.57652 Log likelihood -104.4533 F-statistic 28682.51 Durbin-Watson stat 1.450101 Prob(F-statistic) 0.000000 精选课件IVIV估计结果估计结果Dependent Variable: CON

25、S Method: Two-Stage Least Squares Date: 03/20/03 Time: 22:07 Sample(adjusted): 1981 1996 Included observations: 16 after adjusting endpoints Instrument list: C GDP GDP1 Variable Coefficient Std. Error t-Statistic Prob. C 557.7307 85.67812 6.509605 0.0000 GDP 0.489100 0.022767 21.48264 0.0000 CONS1 0

26、.180759 0.049394 3.659516 0.0029 R-squared 0.999771 Mean dependent var 13618.94 Adjusted R-squared 0.999736 S.D. dependent var 11360.47 S.E. of regression 184.6748 Sum squared resid 443362.1 F-statistic 28373.31 Durbin-Watson stat 1.387119 Prob(F-statistic) 0.000000 精选课件GMMGMM估计结果估计结果Dependent Varia

27、ble: CONS Method: Generalized Method of Moments Date: 03/20/03 Time: 22:26 Sample(adjusted): 1981 1996 Included observations: 16 after adjusting endpoints No prewhitening Bandwidth: Fixed (2) Kernel: Bartlett Convergence achieved after: 3 weight matricies, 4 total coef iterations Instrument list: C

28、GDP GDP1 CONSG Variable Coefficient Std. Error t-Statistic Prob. C 565.0009 68.12409 8.293701 0.0000 GDP 0.491428 0.011075 44.37421 0.0000 CONS1 0.174992 0.023809 7.349952 0.0000 R-squared 0.999769 Mean dependent var 13618.94 Adjusted R-squared 0.999733 S.D. dependent var 11360.47 S.E. of regression

29、 185.6382 Sum squared resid 448000.1 Durbin-Watson stat 1.360786 J-statistic 0.029837 精选课件三、三、OLSOLS和和MLML估计是估计是GMMGMM估计的特例估计的特例精选课件 OLS OLS是是GMMGMM的特例的特例 选择解释变量作为工具变量构造矩条件，权矩阵选择解释变量作为工具变量构造矩条件，权矩阵为单位阵，为单位阵，GMM即为即为OLS。 见教材见教材 参数估计值相同参数估计值相同 参数估计量的方差参数估计量的方差协方差矩阵一般不相同协方差矩阵一般不相同精选课件精选课件精选课件 ML ML是是GMM

30、GMM的特例的特例 用对数似然函数的导数构造等于用对数似然函数的导数构造等于0的矩条件时，的矩条件时，所表示的所表示的GMM等价于等价于ML 。 见教材见教材精选课件 IV IV是是GMMGMM的特例的特例 GMM中方程个数等于参数个数时，即等价于工具中方程个数等于参数个数时，即等价于工具变量估计法。变量估计法。 见教材见教材精选课件 2SLS 2SLS是是GMMGMM的特例的特例 2SLS是工具变量估计方法的特殊情形，而工具变是工具变量估计方法的特殊情形，而工具变量估计是量估计是GMM估计的特殊情形。估计的特殊情形。 如果如果GMM中利用了所有先决变量，中利用了所有先决变量， 2SLS与与

31、GMM估计等价。估计等价。精选课件 2SLS估计估计iiiXyni, 1XZZZZZXXZZZZX11)()(YZZZZXXZZZZXYXXX1111)()()(第1阶段估计第2阶段估计精选课件 GMM估计估计)(1 )(1min1XYZnWXYZnArg 0)()(1XZYZWZX0)()(11XZWZXYZWZX)()(111YZWZXXZWZXZZnW22YZZZZXXZZZZX111)()(大括号部分的一阶极值条件 精选课件 联立方程模型理论的地位问题联立方程模型理论的地位问题 如果对模型系统中的每个方程采用如果对模型系统中的每个方程采用GMM，联立方程模，联立方程模型的识别理论、估计

32、理论就失去价值。型的识别理论、估计理论就失去价值。 在新的教科书中出现淡化联立方程模型理论的趋势。在新的教科书中出现淡化联立方程模型理论的趋势。精选课件四、假设检验四、假设检验精选课件提示提示 对于对于GMM，关键是两项检验：，关键是两项检验： 一是检验过度识别限制是否有效。即一是检验过度识别限制是否有效。即Jk的那部分是否的那部分是否有效。如果经过检验无效，那么有效。如果经过检验无效，那么GMM在这个意义上就在这个意义上就没有优越性。没有优越性。 二是检验构造的矩条件是否成立。如果矩条件不成立，二是检验构造的矩条件是否成立。如果矩条件不成立，就要从模型设定方面寻找原因。就要从模型设定方面寻找

33、原因。 另外，如果对模型参数施加约束，则需要进行参另外，如果对模型参数施加约束，则需要进行参数约束检验。数约束检验。精选课件矩条件和矩条件和过度识别约束的检验过度识别约束的检验 如果拒绝原假设，意味着并非所有的总体矩条件如果拒绝原假设，意味着并非所有的总体矩条件都成立。都成立。0)(:0uZEH)()()(212kLXYZeZZXYZTestGMMiiiiGMMGMM在应用软件中，被称为J统计量，但应该是nJ2(l-K)精选课件 检验步骤检验步骤 得到参数的一个一致估计得到参数的一个一致估计 计算残差计算残差 计算检验统计量计算检验统计量 如果如果Test小于临界值，将小于临界值，将不拒绝不拒

34、绝过度识别限制有过度识别限制有效的假设。效的假设。 如果拒绝原假设，而且没有进一步的信息，就不如果拒绝原假设，而且没有进一步的信息，就不能判断哪个矩条件不成立，或者说哪个工具变量能判断哪个矩条件不成立，或者说哪个工具变量无效。无效。精选课件 当当l=K时，称模型参数时，称模型参数“恰好识别恰好识别” ，这时不论，这时不论总体矩条件是否真的成立，都存在唯一解，意味总体矩条件是否真的成立，都存在唯一解，意味着当着当l=K时，总体矩条件不可检验。时，总体矩条件不可检验。 当当lK时，称模型参数时，称模型参数“过度识别过度识别” ，该检验称该检验称为为过渡识别约束检验。过渡识别约束检验。 过渡识别约束

35、检验过渡识别约束检验也称为也称为Sargan检验。检验。精选课件 当随机误差项同分布且序列不相关时，检验统计当随机误差项同分布且序列不相关时，检验统计量具有特别简单的形式：量具有特别简单的形式： 2nRTestGMM首先求出首先求出GMM估计量，计算残差项估计量，计算残差项ei，再用残差项，再用残差项ei对所对所有的工具变量有的工具变量Zi做做OLS回归，称为回归，称为辅助回归辅助回归；然后用上述；然后用上述辅助回归的可决系数辅助回归的可决系数R2乘以样本容量乘以样本容量n。直观上看很清楚，如果直观上看很清楚，如果0 0假设成立，则工具变量应假设成立，则工具变量应该与残差项正交。于是从辅助回归得到的该与残差项正交。于是从辅助回归得到的R2将很将很小，此时将不拒绝过度识别限制有效的假设。小，此时将