试谈对数极大似然估计.doc

第九章 对数极大似然估计9.1 对数极大似然估计的基本原理9.2 对数极大似然估计方法用对数极大似然估计来估计一个模型，主要的工作是建立极大似然函数形式，利用EViews可以方便地估计出未知参数。9.1.1 一元线性回归模型的极大似然函数举个简单的例子，普通的线性回归模型： (9.2.1)这里，是观测序列，而是模型的参数。有T个观测值的样本的对数似然函数（观测值密度的对数）可以写成： (9.2.2)注意到，我们能将对数似然函数写成每个观测值t的对数似然贡献的和的形式： (9.2.3)这里每个观测值的贡献由下面的式子给出： (9.2.4)例9.1 普通最小二乘方程的极大似然估计我们选择凯恩斯消费函数 （美）斯蒂格利茨，经济学，p89页。作为例子，分析普通回归方程的极大似然估计方法。消费函数的因变量选为城镇消费（cc），而城镇人民收入（ci）作为自变量，样本为从1978年到2000年的年度数据。首先利用最小二乘法，估计了一个普通的回归方程，结果如下： （63.04） (0.58)=0.995 对数似然值 = -177.02 AIC = 15.57 SC = 15.67 D.W.=1.48利用前面的公式(9.1.2)，我们可以写出这个方程的极大似然函数，进行极大似然求解之后，我们得到了城镇消费和城镇收入之间的回归方程，得到的结果是：（44.33） (0.18) 对数似然值 = -177.02 AIC = 15.57 SC = 15.67 观察两个方程的系数值发现最小二乘方法和极大似然函数估计的结果几乎没有什么区别，但是由于初值选择的不同，所以产生了统计量的差异。9.2.2 AR(1)模型的极大似然函数一阶自回归过程有如下形式，记作AR(1)： (9.2.5)其中是一个白噪声过程，即。在此情形下，总体参数向量为。首先考察样本中第一个观察值的概率分布。由于在时，存在一个满足（9.2.5）的协方差平稳过程，此时， ，所以，第一个观察值的密度函数形如 (9.2.6)接下来考虑第二个观察值在观察到的条件下的分布。由（9.2.5） (9.2.7)可以将随机变量视做确定性常数。在此情形下，（9.2.7）给出作为常数和随机变量的和。因此，。 (9.2.8)一般地，只通过对起作用，第t个观察值以前t -1个观察值为条件的分布为： (9.2.9)完全样本的似然函数为 (9.2.10)其对数似然函数（记作log）可由（9.2.10）取对数求得： (9.2.11)将（9.2.8）和（9.2.9）代入（9.2.10），得到样本量为T的AR(1)过程的对数似然函数：(9.1.12)例9.2 AR (1 )模型的极大似然估计设Y的数据生成过程为：其中是一个白噪声过程，即。AR(1)过程的样本量为T的对数似然函数为(9.1.21)式，总体参数向量为。利用极大似然估计方法估计的AR (1)模型，可以得到如下的结果： (-0.305) (17.22) 对数似然值 = -163.65 AIC =2.78 SC = 2.859.2.2 GARCH（p, q）的极大似然函数标准的GARCH（p, q）模型的形式为： (9.2.13)要想写出GARCH（p, q）模型的极大似然函数，首先要分析扰动项的密度函数。为了方便起见，我们对方程 (9.2.13) 采用另外一种方法来表示，它对的序列相关施以更强的假定。假定； (9.2.14)这里，是一个i. i.d. 序列，其均值为0，方差为1： 如果的变化服从 (9.2.15)那么 (9.2.14) 意味着， (9.2.16)因此，如果是由 (9.2.14) 和 (9.2.15) 产生的话，那么服从GARCH（p, q）过程，并且线性投影 (9.2.16) 是其条件期望。如果，的条件分布为正态分布，其均值为，方差为，则其密度函数为: (9.2.17)式中Yt表示 t -1时刻前的信息集合， (9.2.18)将欲估计的未知参数列成一个向量：则样本对数似然函数是 (9.2.19)但是，很多金融时间序列的无条件分布不同于正态分布，它们具有更宽的尾部，也就是说，即使 (9.2.14) 中的为正态分布，的无条件分布也是一个非正态分布。大量事实表明，的条件分布也常常是非正态的。对于非正态分布可以使用原来的基本方法。例如，博勒斯莱文（1987）认为 (9.2.14)中的可以取自一个自由度为k的t分布，k可视作由极大似然函数估计的参数。如果是一具有k个自由度的t分布，当时，其密度函数为 参见（美）詹姆斯 D. 汉密尔顿 著， 刘明志译，中国社会科学出版社，1999年12月，p419-p423页。式中代表 g 函数。 (9.2.20)该密度函数可用来取代（9.2.17）中的正态设定，未知参数向量变为：这样，样本对数似然函数就变成： (9.2.21)这样对数似然函数 (9.2.21) 在的约束下关于数值最大化。例9.3 GARCH (p, q ) 模型的极大似然估计根据方程（9.2.13）中描述的GARCH (p, q )模型和 (9.2.21) 式的极大似然函数，利用极大似然估计方法重新估计的股票价格指数的GARC