hausman检验与模型选择统计量

Hausman检验Hausman检验的基本思想是：由于在遗漏相关变量的情况下，往往导致解释变量与随机扰动项出现同期相关性，即，外生性条件不满足，从而使得OLS估计量有偏且非一致。因此，对模型遗漏相关变量的检验可以用模型是否出现解释变量与随机扰动项同期相关性的检验来替代。我们知道，当，或者解释变量与随机扰动项同期相关时，采用工具变量法（IV）可得到参数的一致估计量；当解释变量与随机扰动项同期无关时，OLS估计量为参数的一致估计量。因此，只须检验IV估计量与OLS估计量是否存在显著的差异性，以检验解释变量与随机扰动项是否同期无关，进而判别模型是否存在着遗漏相关变量的情况。Hausman检验在原假设条件下，IV估计量与LS估计量都是一致的，而在备择假设中，只有IV估计量是一致的。若外生性条件确定满足时，我们更倾向于使用LS估计量；而当外生性条件不确定满足时，就需要使用IV估计量。令，则H检验统计量为一个Wald统计量：可以证明得到。则若拒绝原假设则需要选用IV估计量。模型选择统计量我们知道，随着模型中变量个数的增加，残差平方和将减小，拟合优度增加，但自由度减少。和指标的提出都是为了权衡减小和自由度丢失两个方面，是模型选择中最常用的标准。近年来，若干模型选择的标准相继面世。这些标准所采用的的形式均为残差平方和与具有惩罚意义的自由度因子（表征模型设定复杂度）的乘积。其中，赤池（1970，1974）提出了有限预测误差（FPE）和赤池信息准则(AIC)；汉南（Hannan）和奎因（Quinn）的HQ准则；许瓦兹准则（SCHWARZ）；施巴塔准则（Shibata）；赖斯准则（RICE）；广义交叉确认准则（GCV）等。下表是关于各类不同标准的总结。这些统计量也被称为模型选择统计量。SGMASQHQAICRICEFPESCHWARZGCVSHIBATA理想情况是，我们所设定的模型，在上述各科统计量中，与其他模型相比较，有着较小的检验统计值。换言之，模型选择的标准为，上述各个模型选择统计量具有较小的统计值。各个统计量的推导不作要求。思考题1、假设真实的模型为：，若遗漏变量，讨论估计量的无偏性。若我们关心的不是回归参数，而是的预测值，遗漏变量是否带来偏误？若是的线性函数，结论是怎样的？2、证明：有约束的统计量绝不会比无约束的统计量大，加入约束条件不能提高模型的拟合优度。（提示：从RSS入手。）3、对一个常数、和的多元回归结果如下：，8/60，模型满足古典的假设条件，根据这些结果，检验两个斜率之和为1的假设。Wald检验、拉格朗日乘数检验和似然比检验基本思路：（1）沃尔德检验对于回归模型的参数约束而言，可以是线性约束也可以是非线性约束。设，采用ML估计，有：则：故当成立时，有： Wald检验统计量为：其中，是无约束条件下的参数估计向量。在和大样本条件下，W遵从自由度等于约束个数的卡方分布。其中，约束个数是指约束方程的个数。（2）似然比检验基本思想设总体的密度函数（或分布列）为，为未知参数，现考虑如下的检验问题： ， （1）其中与是非空子集，且与不相交，下面为方便起见，讨论与之并为的情况。 设是来自的样本，记其似然函数为，与分别是的参数空间与上的极大似然估计，似然函数在与上的极大值分别记为与，即和，记其比值为： （2）其中，是一个统计量，由于范围越大L的最大值不会减少，故总有，这意味着。由于似然函数可以看成是给定样本后，出现可能性的一种度量。设的密度函数为，为阶的未知参数向量，。分三种情形讨论1，；2，；3，；简单假设情形：，则有：当成立时，有：，且的拒绝域为：。复合假设情形：，其中：是的向量，与是一一对应，连续。由于为的极大似然估计，则：，可得：因此，。一般情形：，则有检验统计量 （3）拉格朗日乘数检验基本思想由于在非限制条件下，满足，即在处为0。若成立，则也应在0附近。考虑到和均为的一致性估计，有约束条件下的对数似然函数为 因而，有。此乃拉格朗日乘数检验：若成立，则；则可依据构造检验统计量，得到给定显著水平条件下的拒绝