时间序列模型

1、Wold 分解定理：任何协方差平稳过程 x t都可以被表示为xt - - dt = ut + 1 ut-1 + 2 Ut-2 + + =jUt jj 0其中表示xt的期望。dt表示xt的线性确定性成分，如周期性成分、时间t的多项式和指数形式等，可以直接用Xt的滞后值预测。0 = 1 , j 0 j < X。ut为白噪声过程。ut表示用xt的滞后项预测 xt时的误差。ut = xt - E(xt xt-1, xt-2 ,)j 0 jUt j称为xt的线性非确定性成分。当dt = 0时，称xt为纯线性非确定性过程。Wold分解定理由 Wold在1938年提岀。Wold分解定理只要求过程2阶平

2、稳即可。从原理上讲，要得到过程的Wold分解，就必须知道无限个j参数，这对于一个有限样本来说是不可能的。实际中可以对j做另一种假定，即可以把(L)看作是2个有限特征多项式的比，(L) = jLjj o(L)1丄2L2 qLq(L) = 11L2L2.pLP注意，无论原序列中含有何种确定性成分，在前面介绍的模型种类中，还是后面介绍的自相关函数、偏自相关函数中都假设在原序列中已经剔除了所有确定性成分，是一个纯的随机过程(过程中不含有任 何确定性成分)。如果一个序列如上式，xt = + dt + ut + 1 ut-1+ 2 ut-2 + +则所有研究都是在 yt = xt - - dt的基础上进行

3、。例如前面给岀的各类模型中都不含有均值项、 时间趋势项 就是这个道理。2.3自相关函数以上介绍了随机过程的几种模型。实际中单凭对时间序列的观察很难确定其属于哪一种模型，而自 相关函数和偏自相关函数是分析随机过程和识别模型的有力工具。1. 自相关函数定义在给岀自相关函数定义之前先介绍自协方差函数概念。由第一节知随机过程xt中的每一个元素 xt，t= 1,2,都是随机变量。对于平稳的随机过程，其期望为常数，用 表示，即E(x t) = , t = 1, 2,随机过程的取值将以为中心上下变动。平稳随机过程的方差也是一个常量Var(x t) = E ( xt - E(xt)2 = E ( xt - )

4、2 = x2 , t = 1,2,x2用来度量随机过程取值对其均值的离散程度。相隔k期的两个随机变量 x t与xt - k的协方差即滞后 k期的自协方差，定义为k = Cov (xt , x t - k ) = E( xt - ) (xt - k -)自协方差序列k, k = 0, 1,K,称为随机过程Xt的自协方差函数。当k = 0时0 = Var (xt) = x2自相关系数定义()()Cov(xt ,xt k)k =Var(xt) . Var(xt k )因为对于一个平稳过程有2Var (xt) = Var ( xt - k) = x所以()可以改写为Cov(xt ,xt k)2当k =

5、 0时，有o = 1。以滞后期k为变量的自相关系数列k, k = 0,1, K,称为自相关函数。因为k = - k即COV (xt - k , xt ) = COV ( xt , x t + k )，自相关函数是零对称的，所以实际研究中只给岀自相关函数的正半部分即可。2. 自回归过程的自相关函数(1) 平稳AR(1)过程的自相关函数AR(1)过程如下xt = xt-1 + ut ,1用xt- k同乘上式两侧xt xt- k = xt-1 xt- k + ut xt- k两侧同取期望，k =1 k -1其中E(xt- k ut) = 0 ( ut与其t - k期及以前各项都不相关)。两侧同除o得

6、，kk =1 k -1 =11 k -2 =10因为 。=1。所以有k = 1k ,(k 0)对于平稳序列有。所以当1为正时，自相关函数按指数衰减至零(过阻尼情形)，当1为负时，自相关函数正负交错地指数衰减至零。见图。因为对于经济时间序列，1一般为正，所以第一种情形常见。指数衰减至零的表现形式说明随着时间间隔的加长，变量之间的关系变得越来越弱。0 (经济问题中常见)0 (经济问题中少见)图 AR(1)过程的自相关函数(2) AR( p)过程的自相关函数用xt - k, (k同乘平稳的 p阶自回归过程x t =1 x t - 1+2 x t - 2+ +p x t - p + u t的两侧，得x

7、t - k xt =1 xt - k xt -1 +2 xt - k xt -2 + p xt - k xt - p + xt - k ut对上式两侧分别求期望得k =1k - 1+2k-2+pk-p ,k0上式中对于 k 0,有E(xt_ k ut) = 0。因为当k 0时，xt - k发生在ut之前，所以 xt - k与ut不相关。用0分别除()式的两侧得k =1k - 1+2k - 2+pk - p ,k0令(L) = (1 - 1 L - 2 L2 -p Lp)其中L为k的滞后算子，则上式可表达为(L) k = 0因(L)可因式分解为，p(L) =(1-GiL),i 1则()式的通解(

8、证明见附录)是k = A 1 G 1 k + A 2 G 2 k + A p Gpk.其中Ai, i = 1, 为待定常数。这里Gi-1, i = 1, 2,是特征方程(L) = (1 -1 L - 2 L2 -p Lp ) = 0的根。为保证随机过程的平稳性，要求| Gi | 1, i = 1, 2,。,这会遇到如下两种情形。 当Gi为实数时，式中的Ai Gik将随着k的增加而几何衰减至零，称为指数衰减(过阻尼情形)。 当Gi和Gj表示一对共轭复根时，设Gi = a + bi, Gj = a -bi, ya2 b2 = R，则Gi, Gj的极座标形式是 Gi = R (Cos + i Sin

9、 ), Gj = R (Cos - i Sin )。若 AR(p)过程平稳，则 G < 1，所以必有 R <1。那 么随着k的增加，Gik= Rk (Cosk + i Sink )，Gjk= Rk (Cosk - i Sink )，自相关函数()式中的相应项 Gik, Gjk将按正弦振荡形式衰减(欠阻尼情形)。实际中的平稳自回归过程的自相关函数常是由指数衰减和正弦衰减两部分混合而成。 从()式可以看岀，当特征方程的根取值远离单位圆时，k不必很大，自相关函数就会衰减至零。 有一个实数根接近 1时，自相关函数将衰减的很慢，近似于线性衰减。当有两个以上的根取值接近1时，自相关函数同样会衰

10、减的很慢。a.两个特征根为实根b.两个特征根为共轭复根图 AR(2)过程的自相关函数3. 移动平均过程的自相关函数(1) MA(1)过程的自相关函数。对于 MA(1)过程 xt = ut + 1 ut-1有k = E(xt xt- k) = E ( ut+ 1 ut -1) (ut - k + 1 ut -k -1)当k = 0时，0 = E(xt xt) = E ( ut+ 1 ut -1) (ut + 1 ut -1)22222=E (ut + 1 ut ut-1 + 1 ut ut-1 + 1 ut-1 ) = (1 + 1 )当k = 1时1 = E(xt xt- 1) = E ( u

11、t+ 1 ut -1) (ut -1 + 1 ut -2 )222=E (ut ut -1 + 1 ut -1 + 1 ut ut -2 + 1 ut -1 ut -2) = 1 E (ut -1) = 1当k 1时,k = E ( ut+ 1 ut-1)(ut -k + 1 ut -k -1) = 0综合以上三种情形，MA(1)过程自相关函数为121 10 ,见图。可见MA(1)过程的自相关函数具有图 MA(1)过程的自相关函数截尾特征。当k 1时，k = 0。MA( q)过程的自相关函数MA( q)过程的自相关函数是k1 k 12 k 2q k q,k= 1, 2,q-,21 122 2

12、q0k q ,当k q时，k = 0,说明 k , k = 0, 1,具有截尾特征。(注意：模型移动平均项的符号以及这里k的符号正好与Box-Je nkins书中的符号相反，这样表示的好处是保持与计算机输出结果一致。)4. ARMA (1, 1)过程的自相关函数ARMA (1, 1)过程的自相关函数k从1开始指数衰减。1的大小取决于 1和1,1的符号取决于(1 - 1 )。若1 > 0，指数衰减是平滑的，或正或负。若1 < 0，相关函数为正负交替式指数衰减。对于ARMA (p, q)过程,p, q 2时，自相关函数是指数衰减或正弦衰减的。5.相关图(correlogram)对于一个

13、有限时间序列(X1, X2,XT)用样本平均数1 TX=XtT t 1估计总体均值，用样本方差Ts2 = 1 (Xt X)2估计总体方差X2。当用样本矩估计随机过程的自相关函数，则称其为相关图或估计的自相关函数，记 为k = 0,1 , 2,K, ( K < T ).X)(xt k X), k = 0, 1,2,K ,X)2rk=c。rk是对k的估计。其中T k1Ck = (XtTtt 1是对k的估计C0= 1 (xtT t 1是对0的估计，T是时间序列数据的样本容量。实际中 T不应太小，最好能大于60。注意：式分母为T,不是T-k。Ck为有偏估计量。但在小样本条件下更有效。注：2个标准

14、差=2 T -1/2 = 2 (1/7)=。图中虚线表示到中心线 2个标准差宽度。相关图是对自相关函数的估计。由于 MA过程和ARMA过程中的MA分量的自相 关函数具有截尾特性，所以通过相关图可以估计 MA过程的阶数q。相关图是识别MA 过程阶数和ARMA过程中MA分量阶数的一个重要方法。实际应用中相关图一般取k = 15就足够了。rk的方差近似为T-1。所以在观察相关图时，若rk的绝对值超过2 T-1/2 (2个标准 差)，就被认为是显着地不为零。当 T充分大时，近似有(rk -0) / T-1/2 = rkT1/2 N (0, 1)2.4偏自相关函数偏自相关函数是描述随机过程结构特征的另一

15、种方法。用kj表示k阶自回归式中第j个回归系数，则k阶自回归模型表示为xt =k 1 Xt-1 +k 2 Xt-2 + + kk Xt-k + Ut其中kk是最后一个回归系数。若把k = 1,2的一系列回归式kk看作是滞后期k的函数，则称kk,k = 1,2为偏自相关函数。它由下式中的红项组成。xt = 11 xt-1 + utxt= 21 xt-1 + 22 xt-2 + ut。xt = k 1 xt-1 + k 2 xt-2+ + kk xt-k + ut因偏自相关函数中每一个回归系数kk恰好表示xt与xt-k在排除了其中间变量xt-1,xt-2, xt-k +1 影响之后的相关系数，xt

16、 - k 1 xt-1 - k 2 xt-2 - - kk-1 xt-k +1 = kk xt-k + ut所以偏自相关函数由此得名。对于 AR(1)过程，xt= iixt-i + ut，当 k = 1 时，ii 0，当 k > 1 时，kk = 0，所以AR(1)过程的偏自相关函数特征是在 k = 1出现峰值(ii = 1)然后截尾。11 > 0对于AR(2)过程，当kAR(1) 过程的偏相关图11 < 0kk= 0。偏自相关函数在滞后期2时，kk0，当 k >2时，2 以后有截尾特性。对于AR(p)过程，当kP时，kk0，当k > p时，kk= 0。偏自相关函

17、数在滞后期p以后有截尾特性，因此可用此特征识别 AR(p)过程的阶数。MA(1) 过程的偏自相关函数呈指数衰减特征。若 1 > 0, 偏自相关函数呈交替改变符 号式指数衰减；若 1 0，偏自相关函数呈负数的指数衰减。因为任何一个可逆的 MA(q) 过程都可以转换成一个无限阶的系数按几何递减的AR 过程，所以 MA(q) 过程的偏自相关函数呈缓慢衰减特征。MA(1) 过程的偏自相关函数例 5：对于 xt = ut + 1 ut-1 过程，有 1/ (1+ 1 L) xt = ut , 当 1 > 0，(1- i L + i2 L2 -)xt = ut ,xt = 1 x t-1 -

18、12x t-2 + 13 x t-3 -+ ut ,对于 xt = ut - i ut-i 过程，有 i/ (i- i L) xt = ut ，当 i > 0,22(1+ 1 L + 1 L + )xt = ut ,xt = - 1 x t-1 - 12x t-2 - 13x t-3 - + ut ,对于 MA(2) 过程，若 (L) = 0的根是实数，偏自相关函数由两个指数衰减形式叠加 而成。若 (L) = 0的根是虚数，偏自相关函数呈正弦衰减形式。ARMA( p, q)过程的偏自相关函数也是无限延长的， 其表现形式与MA(q)过程的偏 自相关函数相类似。根据模型中移动平均部分的阶数

19、q以及参数i的不同，偏自相关函 数呈指数衰减和(或)正弦衰减混合形式。对于时间序列数据，偏自相关函数通常是未知的。可用样本计算 11, 22, 的估计 量 ?11, ?22, 。估计的偏自相关函数?kk, k= 1,2,，称为偏相关图。因为 AR 过程和 ARMA 过程中 AR 分量的偏自相关函数具有截尾特性， 所以可利用偏相关图估计自回归过程的阶数 p。实际中对于偏相关图取k = 15就足可以 了。?kk的方差近似为T-10当T充分大时，近似有(?kk -0) / T-1/2 = T1/2?kk N (0, 1)所以在观察偏相关图时，若?kk的绝对值超过2 T-1/2 (2个标准差)，就被认

20、为是显着地 不为零。2.5时间序列模型的建立与预测ARIMA过程yt用(L) A dyt = o + (L) ut表示，其中(L)和(L)分别是p, q阶的以L为变数的多项式，它们的根都在单位圆之 外。o为位移项，A d yt表示对yt进行d次差分之后可以表达为一个平稳的可逆的 ARMA 过程。这是随机过程的一般表达式。它既包括了 AR, MA和ARMA过程，也包括了 单整的AR , MA和ARMA过程。建立时间序列模型通常包括三个步骤。（1）模型的识别，（2）模型参数的估计，（3） 诊断与检验。模型的识别就是通过对相关图的分析，初步确定适合于给定样本的ARIMA模型形式，即确定d, p, q

21、的取值。模型参数的估计就是待初步确定模型形式后对模型参数进行估计。诊断与检验就是以样本为基础检验拟合的模型，以求发现某些不妥之处。如果模型 的某些参数估计值不能通过显着性检验， 或者残差序列不能近似为一个白噪声过程， 应 返回第一步再次对模型进行识别。如果上述两个问题都不存在，就可接受所建立的模型。 建摸过程用图表示。下面对建摸过程做详细论述。1. 模型的识别模型的识别主要依赖于对相关图与偏相关图的分析。在对经济时间序列进行分析之 前，首先应对样本数据取对数，目的是消除数据中可能存在的异方差， 然后分析其相关 图。识别的第1步是判断随机过程是否平稳。由节知，如果一个随机过程是平稳的，其 特征方

22、程的根都应在单位圆之外。由节知，如果（L） = 0的根接近单位圆，自相关函数将衰减的很慢。所以在分析相关图时，如果发现其衰减很慢，即可认为该时间序列是非 平稳的。这时应对该时间序列进行差分，同时分析差分序列的相关图以判断差分序列的 平稳性，直至得到一个平稳的序列。对于经济时间序列，差分次数，即模型（）中的参 数d通常只取0，1或2。三.诊断与检验包括参数的显着性检验和 残差的随模型可取吗不可取可取图建立时间序列模型程序图实际中也要防止过度差分。一般来说平稳序列差分得到的仍然是平稳序列，但当差分次数过多时存在两个缺点，(1)序列的样本容量减小；(2)方差变大；所以建模过程中要防止差分过度。对于一

23、个序列，差分后若数据的极差变大，说明差分过度第2步是在平稳时间序列基础上识别ARMA模型阶数p, q。表给岀了不同 ARMA模型的自相关函数和偏自相关函数。当然一个过程的自相关函数和偏自相关函数通常是未知的。用样本得到的只是估计 的自相关函数和偏自相关函数，即相关图和偏相关图。 建立ARMA模型，时间序列的相关图与偏相关图可为识别模型参数 p, q提供信息。相关图和偏相关图(估计的自相关系数和偏自相关系数)通常比真实 的自相关系数和偏自相关系数的方差要大，并表现为更高的自相关。实际中相关图，偏相关图的特征不 会像自相关函数与偏自相关函数那样“规范”，所以应该善于从相关图，偏相关图中识别岀模型的

24、真实 参数p, q。另外，估计的模型形式不是唯一的，所以在模型识别阶段应多选择几种模型形式，以供进一 步选择。表 ARIMA过程与其自相关函数偏自相关函数特征模型自相关函数特征偏自相关函数特征ARIMA(1,1,1)xt = 1 Xt-1 + ut + 1Ut-1缓慢地线性衰减AR (1)xt = 1 Xt-1 + ut若1 > 0,平滑地指数衰减 若1 < 0,正负交替地指数衰减若11 > 0，k=1时有正峰值然后截尾 若11 < 0，k=1时有负峰值然后截尾MA (1)Xt = ut + 1 Ut-1若1 > 0，k=1时有正峰值然后截尾 若1 < 0，

25、k=1时有负峰值然后截尾若1 > 0，交替式指数衰减 若1 < 0，负的平滑式指数衰减AR (2)Xt = 1 Xt-1 + 2 xt-2 + Ut指数或正弦衰减(两个特征根为实根)(两个特征根为共轭复根)k=1,2时有两个峰值然后截尾(1 > 0， 2 > 0)(1 > 0， 2 < 0)MA (2)xt = ut + 1 Ut-1+ 2 Ut-2k=1,2有两个峰值然后截尾(1 > 0， 2 < 0)(1 > 0， 2 > 0)指数或正弦衰减(1 > 0， 2 < 0)(1 > 0， 2 > 0)ARMA

26、(1，1)xt = 1 xt-1 + Ut + 1 Ut-1k=1有峰值然后按指数衰减(1 > 0， 1 > 0)(1 > 0， 1 < 0)k=1有峰值然后按指数衰减(1 > 0， 1 > 0)(1 > 0， 1 < 0)ARMA ( 2，1)xt = 1 xt-1 + 2 xt-2+ Ut + 1 Ut-1k=1有峰值然后按指数或正弦衰减(1 > 0， 2 < 0， 1 > 0)k=1,2有两个峰值然后按指数衰减 (1 > 0， 2 < 0， 1 > 0)ARMA (1，2)xt = 1 xt-1+ Ut

27、+ 1 Ut-1+ 2 Ut-2k=1,2有两个峰值然后按指数衰减(1 > 0， 1 > 0， 2 < 0)(1 > 0， 1 > 0， 2 >0)k=1有峰值然后按指数或正弦衰减(1 > 0，1 > 0， 2 < 0)(1 > 0，1 > 0， 2 > 0)ARMA ( 2，2)xt= 1xt-1 + 2xt-2+ Ut + 1Ut-1+ 2Ut-2k=1,2有两个峰值然后按指数或正弦 衰减(1 > 0， 2 < 0， 1 > 0， 2 < 0 )(1 > 0， 2 < 0， 1 &g

28、t; 0， 2 > 0 )k=1,2有两个峰值然后按指数或正弦 衰减(1 >0，2 < 0，1 > 0，2 < 0)(1 >0，2 < 0，1 > 0，2 > 0)F面通过一些相关图和偏相关图识别模型结构2. 模型参数的估计对于时间序列模型，一般采用极大似然法估计参数。对于一组相互独立的随机变量xt, (t = 1,2,T),，当得到一个样本(X1, X2,XT)时，似然函数可表示为TL ( | X1 , X2,XT) = f (xi| ) f (X2| ) - - f (XT | ) = f(Xt | )t 1其中=(1, 2，,k)是一

29、组未知参数。对数似然函数是Tlog L = log f (Xt | )t 1通过选择使上式达到最大，从而求得极大似然估计值？。具体步骤是用上述对数似然函数对每个未知参数求偏导数并令其为零，即r旦=01* .旦=0,(k个方程联立)k一般来说似然函数是非线性的，必须采用迭代计算的方法求参数的极大似然估计值。极大似然估计量(MLE)具有一致性和渐近有效性。首先讨论怎样对如下线性回归模型yt = 0 + 1 Xt1 + 2 Xt 2 + + k-1 Xt k -1 + ut , t = 1,2, T；, 进行极大似然估计。假定ut N(0, 2 )，则yt也服从正态分布。yt N(E(yt), 2

30、)，其中E(yt) = o + 1 Xt1 + 2 Xt 2 + k -1 Xt k -1。若yt是相互独立的，则对于样本(y1, y2, -yT)，似然函数是2 L( ,| y1, ,y2,yr) = f( y1) f( y2) -f( yT)其中 表示未知参数0, 1,k -1的集合。由()式每个yt的概率密度函数为2f ( yt ) =Vexp (yt E<2yt).(2 2) 2 2对于样本(yi,申，yr),对数似然函数为logL =log f ( yt) = -flog 2T2logyt- E( yt ) 2上式右侧前两项是常量。第三项的符号为负，所以对logL极大化等同于选

31、择值从而使平方和：- e( yt)2极小化，即选择使TT 2 2(yt - 0 - i xt 1 - 2 xt 2 -k iXt k -1) =Utt 1t 1极小化。上式中t表示残差。这种估计方法恰好与OLS法相同，所以在这个例子中的MLE估计量与OLS估计量？完全相同，即二？。与OLS法不同的是极大似然估计 法在估计的同时，还得到ut方差的估计量。对()式求 2的偏导数并令其为零。logL T 丄 1 T2r=-尹+厂七yt- E(於)=0用代替上式中E(yt)中的 得T2 = T-1t2t 1现在讨论怎样对时间序列模型的参数进行极大似然估计。对于非平稳过程 yt，假定经过d次差分之后可以

32、表达为一个平稳、可逆的自回归移动平均过程xt，(L) d yt =(L) xt =(L) ut.对于yt假定可以观测到 T + d个观测值，即y-d+1,yo, y1,yT，则经过d次差分之后， xt的样本容 量为T。以X1,x为样本估计ARMA ( p, q)模型参数(1,，p, 1，,q )。对随机过程xt的参 数估计就如对回归模型的参数估计一样，目的是使xt与其拟合值 ?的残差平方和(xt xt)=i?ttt最小。把式改写为ut =斗.(L)若用？，?和U?分别表示对i, i和ut的估计，则使下式最小?2 = S ( ?，,?p , ?1，,?,)t假定utN (0, u2),t = 1

33、,log L = -T log uT，且不存在自相关，则条件对数似然函数为?t2t2 u2之所以称之为条件对数似然函数是因为2?依赖于过去的不可知观测值xo, x-1,x- p+1和uo, u-1,u - q +1。比如对()式求极大即等同于对?t2求极小。对ut2求极小时需要先确定xo,X -,X-P+1和U0,u-1 ,u-q +1的值。此问题的一般处理方法是取这些变量等于他们的无条件期望值。U0, U-1,U- q +1的无条件期望值为零。若模型()中不含有漂移项，则xo, X-1，X- p +1的无条件期望值也为零。当样本容量T与滞后长度p, q值相比充分大，且1,p的值不接近1时，这

34、种近似非常理想。若 式中不含有移动平均项，对于自回归参数来说式是一个线性函数。可以用 OLS法估计参数。如果式中含有移动平均项，那么对于移动平均参数来说，式是一个非线性函数。对式必须采用非线性估计方法。首先假定模型为纯自回归形式，(L) xt = ut或xt = 1 Xt-1 + + pXt-p + ut .这是一个线性回归模型，极大似然估计与OLS估计结果近似相同。当模型中含有移动平均成分时Ut =-1(L)(L) Xt对于参数来说，模型是非线性的。对于非线性模型，通常由三种估计方法。直接搜索法。通过改变参数的取值，反复计算残差平方和I?2的值。然后从中选择最小的那个值所对应的参数值作为对参

35、数的估计值。这种方法只有在参数个数较少时才是可行的。当参数个数较多 时，计算量将非常大。例如当含有四个被估参数，每个参数需选择20个计算值时，则需要计算(20) 4 = 160000 次。直接优化法。求误差平方和函数对每一个参数的偏导数并令其为零，从而求得正规方程 (Ut2)t=0, i =1,p + q其中(1,p+q) = ( 1,，p, 1,q)o因为p + q个方程中都含有 p + q个参数，所以必须联立求 解。由于计算上的困难，这种方法很少直接采用。线性迭代法。对任何非线性函数通常都可以按泰勒级数展开。首先为参数选一组初始值(1, 0，,p+q, 0)后将xt = f (xt-1,X

36、t-p)按泰勒级数在(1, 0 ,f (x) = f(X0)+ f (X0) (x X0)+=(X0)- f (X0) X0 + f ( X0) X +(下标零表示初始值。怎样确定初始值并不重要。)，然",p+q, 0 )点展开。(i1 i 0i,0)p+q, 0时的值。取上式右侧的前两项对原非线pxt = f (xt-1,Xt-p, 1, 0 ,p+q, 0 ) +i,p q p q 2，-i,0)( jj,0)+1 f +2i 1 j 1 i j1 = 1, 0 ,p+q =其中偏导数的下标写为零表示偏导数在性函数Xt进行近似。去掉右侧第三项及以后各项得p qf _ pqxt -

37、 f (xt-1,- , xt-p,1, 0 ,p+q, o ) +i,0 -i 1i oi 1f+ Ut.i 0i , i = 1,p + q。利用OLS法对上式上式为线性回归方程形式。左侧为已知量，右侧含有一组未知量进行估计。设所得估计值用(1, 1，,p+q, 1 )表示。以此作为第二组估计值，对非线性函数再一次线性化，从而得到一个新的线性方程。xt - f (Xt-1,xt-p,1, 1 ,f+ Utp q，p+q，1 ) +i,1i 1对上式再次应用 OLS法估计参数，并把(1,2,p+q, 2)作为待估参数的第三组估计值。重复上述过程,直至满足如下要求为止。< ,i = 1,

38、-p, + q,ij其中i表示参数序号，j表示迭代次数。是预先给定的精度标准如果最后次的参数估计值用(1, k ,p+q, k)表示，并且 (1, k ,p+q, k)接近真值(1p+q)，则必有,p qp qffi,kii 1i ki 1i k所以有xt = f (xt-1,xt-p, 1, k,，p+q, k) + l?t(1, k,p+q, k)是对(1,p+q )的最终估计。这种迭代计算一般都是通过计算机完成。评价线性模型的一些统计量例F, t等都不能直接用于评价非线性模型。原因是尽管ut是正态分布的且均值为零，但残差l?t= xt-Xt =xt -f (Xt-1,xt-p,1, k

39、,p + q, k)不服从正态分布，则c?2不服从 2分布，参数估计量不服从正态分布。所以不能使用F和t检验。然而对迭代中的最后一步可以进行F, t检验。如果估计量 ？=i, k, (i = 1, -p, + q)，接近真值i,那么F, t检验将会对非线性模型有很满意的解释作用。3. 诊断与检验完成模型的识别与参数估计后，应对估计结果进行诊断与检验，以求发现所选用的 模型是否合适。若不合适，应该知道下一步作何种修改。这一阶段主要检验拟合的模型是否合理。 一是检验模型参数的估计值是否具有显着性；二是检验模型的残差序列是否为白噪声。参数估计值的显着性检验是通过t检验完成的，而模型的残差序列是否为白

40、噪声的检验是用 Box-Pierce (1970)提出的Q统计量完成的。Q检验的零假设是即模型的误差项是一个白噪声过程。 Q统计量定义为KQ = Trk2k 1近似服从2( K - p - q)分布，其中T表示样本容量，rk表示用残差序列计算的自相关系数值，K表示自相关系数的个数，p表示模型自回归部分的最大滞后值，q表示移动平均 部分的最大滞后值。Ljung和Box认为式定义的Q统计量的分布与2( k - p - q)分布存在差异(相应值偏小)， 于是提出修正的Q统计量。Q = T (T+2)K 2rkk i T k其中rk，K，p，q的定义如式。修正的Q统计量 近似服从2( k - p -

41、q)分布。且它的近似性比原Q统计量的近似性更好。(EViews中给出的Q统计量就是按式定义的。)用残差序列计算Q统计量的值。显然若残差序列不是白噪声，残差序列中必含有其 他成份，自相关系数不等于零。则 Q值将很大，反之Q值将很小。判别规则是：若 Q < 2 ( K - p - q)，则接受 HO。若 Q > 2 ( K - p - q)，则拒绝 H0。其中 表示检验水平。4. 时间序列模型预测下面以ARMA (1, 1)模型为例具体介绍预测方法。其他形式时间序列模型的预测方法与此类似。设对时间序列样本xt, t = 1,2,，T，所拟合的模型是xt = 1 xt-1 + ut+ 1

42、 ut-1则理论上T + 1期xt的值应按下式计算xT+1 = 1 xT + uT+1 + 1 uT用估计的参数?, ?和?T分别代替上式中的1, 1和UT 0上式中的UT+1是未知的，但知E(UT+1)= 0,所以取UT+1 = 00 XT是已知的(样本值)。对XT+1的预测按下式进行x?T 1 = ?1 xT + ?1 U?T由式，理论上XT+2的预测式是XT+2 =1 XT+1 + UT+2 +1 UT+1仍取UT+1 = 0, UT+2 = 0,贝U XT+2的实际预测式是X?T 2 = ?1 X?T 1其中 X?T 1是上一步得到的预测值，与此类推 XT+3 的预测式是X?T 3 =

43、?1 X?T 2由上可见，随着预测期的加长，预测式 中移动平均项逐步淡出预测模型，预测式变成 了纯自回归形式0若上面所用的 Xt 是一个差分变量，设yt = Xt ，则得到的预测值相当于y?t, (t = T +1,T+2 ,。)因为yt = yt-1 + yt所以原序列 T+1 期预测值应按下式计算y?T 1= yT+y?T 1对于 t > T +1，预测式是y?t = y?t 1 + y?t , t = T +2, T+3, 其中 y?t 1是相应上一步的预测结果0用 EViews 计算相关图和偏相关图附录：对式(自相关函数通解表达式)的证明对于 AR( p) 过程xt =1 xt

44、-1 +2 Xt-2 + + p Xt- p + ut它的自相关函数满足下式，k =1 k -1 +2 k -2+ pkp k 0(见计量经济分析第 77 页)即有(1 - 1 L - 2 L2 - - p Lp ) k = 0 则( 2)式的自相关函数有如下形式通解，k = A1 G1k + A2 G2k+ +Ap Gpk.其中Ai, i = 1, 为待定系数。Gi-1, i = 1,2, 是(3)式特征方程(1 - 1 L - 2 L2 -p Lp ) = 0的根。证明( 1)：首先以 AR(2) 过程为例xt =1 xt -1 +2 xt -2 + ut由上式可知k =1 k -1 +2 k -2 , k 0即有(1 - G1