时间序列模型的构建和预测

1、时间序列模型的构建和预测（Box Jenkins Methodology）l 步骤1：识别。观察相关图和偏相关图l 步骤2：估计。估计模型中所包含的自回归系数和移动平均系数，可以用OLS 来估计l 步骤3：诊断检验。选一个最适合数据的模型，检查从这模型中估计到的残差是否白噪声，如果不是的话，我们必须从头来过l 步骤4 ：预测。在很多情况下，这种方法得到的预测结果要比其它计量模型得到的要准确识别l 检查时间序列是否平稳- 如果自相关函数衰退的很慢，则序列可能是非平稳- 如果时间序列为一非平稳过程，应该运用差分的形式使它变为平稳过程- 在检验了一个时间序列的平稳性之后，我们应该用相关图和偏相关图检

2、验ARMA 模型中的阶数p 和q 模 型 自相关函数特征 偏自相关函数特征ARIMA(1,1,1)D xt = j1D xt-1 + ut + q1ut-1缓慢地线性衰减AR（1）xt = j1 xt-1 + ut若j1 > 0，平滑地指数衰减若j1 < 0，正负交替地指数衰减若j11 > 0，k=1时有正峰值然后截尾若j11 < 0，k=1时有负峰值然后截尾MA（1）xt = ut + q1 ut-1若q1 > 0，k=1时有正峰值然后截尾若q1 < 0，k=1时有负峰值然后截尾若q1 > 0，交替式指数衰减若q1 < 0，负的平滑式指数衰减A

3、R（2）xt = j1 xt-1 + j2 xt-2 + ut指数或正弦衰减（两个特征根为实根）（两个特征根为共轭复根）k=1, 2时有两个峰值然后截尾（j1 > 0，j2 > 0）（j1 > 0，j2 < 0）MA（2）xt = ut + q1 ut-1+ q2 ut-2k=1, 2有两个峰值然后截尾（q1 > 0，q2 < 0）（q1 > 0，q2 > 0）指数或正弦衰减（q1 > 0，q2 < 0）（q1 > 0，q2 > 0）ARMA（1，1）xt = j1 xt-1 + ut + q1 ut-1k=1有峰值然后按

4、指数衰减（j1 > 0，q1 > 0）（j1 > 0，q1 < 0）k=1有峰值然后按指数衰减（j1 > 0，q1 > 0）（j1 > 0，q1 < 0）ARMA（2，1）xt = j1 xt-1+ j2 xt-2+ ut + q1 ut-1k=1有峰值然后按指数或正弦衰减（j1 > 0，j2 < 0，q1 > 0）k=1, 2有两个峰值然后按指数衰减（j1 > 0，j2 < 0，q1 > 0）ARMA（1，2）xt = j1 xt-1+ ut + q1 ut-1+ q2 ut-2k=1, 2有两个峰值然后按指

5、数衰减（j1 > 0，q1 > 0，q2 < 0）（j1 > 0，q1 > 0，q2 >0）k=1有峰值然后按指数或正弦衰减（j1 > 0，q1 > 0，q2 < 0）（j1 > 0，q1 > 0，q2 > 0）ARMA（2，2）xt=j1xt-1+j2xt-2+ ut +q1ut-1+q2ut-2k=1, 2有两个峰值然后按指数或正弦衰减（j1 > 0，j2 < 0，q1 > 0，q2 < 0）（j1 > 0，j2 < 0，q1 > 0，q2 > 0）k=1, 2有两个峰值

6、然后按指数或正弦衰减（j1 > 0，j2 < 0，q1 > 0，q2 < 0）（j1 > 0，j2 < 0，q1 > 0，q2 > 0） 估计OLS 方法在时间序列分析中的问题： 考虑下面简单的线性回归模型： OLS估计量 为一致估计且为最优线性无偏估计量的条件为： 但时间序列模型中可能无法满足以上条件。它取决于误差项et 的性质。 情形1： 情形2： ，极大似然估计法： 假设随机变量xt 的概率密度函数为f(x),其参数用表示，似然函数定义为： 对于一组相互独立的随机变量xt,（t = 1, 2, , T），当得到一个样本 (x1, x2, ,

7、 xT) 时，似然函数可表示为 L (g | x1, x2, , xT) = f (x1| g ) f (x2| g ) f (xT | g ) = | g ) 对数似然函数是 log L = f (xt | g ) 一般来说似然函数是非线性的。极大似然估计量 (MLE) 具有一致性和渐近有效性。 首先讨论怎样对如下线性回归模型yt = b0 + b1 xt1 + b 2 xt 2 + + b k-1 xt k -1 + ut , t = 1, 2, , T, 进行极大似然估计。 假定ut N(0, s 2 ) ，yt N(E(yt), s 2 ) 似然函数是 L(b, s 2 | y1, ,

8、y2, , yT) = f( y1) f( y2) f( yT) 每个yt的概率密度函数为 f ( yt ) = exp. 对于样本 ( y1, y2, , yT)，对数似然函数为logL = f ( yt ) = -log 2p -log s 2 - E( yt ) 2 选择使 - -xt 1 -xt 2 - -xt k -1) 2 = 这种估计方法恰好与OLS法相同，所以在这个例子中 b 的MLE估计量与OLS估计量完全相同，即= = T -1，有偏。 对于非平稳过程ytF (L) Dd yt = F (L) xt = Q (L) ut. 使xt与其拟合值的残差平方和 = 最小 ut =

9、= S (, , , , , ) 首先假定模型为纯自回归形式， F (L) xt = ut 或xt = f1 xt-1 + + fp xt-p + ut 这是一个线性回归模型，极大似然估计与OLS估计结果近似相同 当模型中含有移动平均项，那么对于移动平均参数来说，是一个非线性函数，必须采用非线性估计方法估计。 诊断检验：（1）t 检验（2）检验特征根是否落在单位圆之外（3）Q检验- 原假设：r1 = r2 = = rK = 0r是残差序列的自相关系数- Q统计量：Q = T (T+2)大致会服从c2( K - p - q)分布，其中rk 为估计到的残差序列的自相关系数，p 为AR 部分的阶数，

10、q 为MA 部分的阶数- 当样本很小或k值很高的时候(T+2)/ (T- k)变得非常大，Q值不太容易通过Q检验- 如果残差序列不是白噪声过程，残差项的自相关系数不是零以至于Q值会非常大- 判定规则：如果Q < c2a ( K - p - q) , 则接受H0，否则拒绝 预测- 下面先以ARMA (1, 1) 模型为例具体介绍点预测方法。- 设对时间序列样本xt, t = 1, 2, , T，所拟合的模型是：xt = f1 xt-1 + ut + q1 ut-1- 则理论上T + 1期xt的值应按下式计算xT+1 = f1 xT + uT+1 + q1 uT- = xT + - 理论上x

11、T+2的预测式是 xT+2 = f1 xT+1 + uT+2 + q1 uT+1- 则xT+2的实际预测式是 ：= - = - 对于AR (p)过程，预测式永远是AR (p)形式的，对于MA (q) 过程，当预测期超过q时，预测值等于零。- 若上面所用的xt 是一个差分变量，设 D yt = xt ，则得到的预测值相当于D, (t = T +1, T +2 , )。因为 yt = yt-1 + D yt- = yT + D - =+, i = 2, 3, - 静态预测和动态预测下面介绍AR(1)、MA(1)和ARIMA(1,1,0)过程的区间预测。这些结论也可用于更高阶ARIMA模型的预测。-

12、 对于AR(1) 过程，xt = f 1 xt-1 + a + ut，预测误差是eT+k = xT+k -= uT+k+f 1 uT+k-1+f 1k-1 uT+1-预测误差的方差是E(eT+k)2 = (1+f 12 + +f 12k-2 )su2-预测误差的方差随预测期k的增加而增加。这种增加在初期比较显著，当k充分大时，增加越来越慢。 - 对于MA(1) 过程，xt = a + ut+q1 ut-1，预测误差是eT+1 = xT+1 -= uT+1eT+k = xT+k -= uT+ k +q1 uT+ k -1, k ³2- 预测误差的方差是E(eT+1)2 = su2 E(eT+k)2 = (1+q 12 )su2, k ³2- 当k =1时，预测误差的方差是su2。当k ³2时，预测误差的方差是常数，(1+q 12 )su2。xT+k的置信区间等宽。-对于