第2章 时间序列模型(讲稿)

1、第2章 时间序列模型时间序列分析方法由Box-Jenkins (1976) 年提出。它适用于各种领域的时间序列分析。时间序列模型不同于经济计量模型的两个特点是： 这种建模方法不以经济理论为依据，而是依据变量自身的变化规律，利用外推机制描述时间序列的变化。 明确考虑时间序列的非平稳性。如果时间序列非平稳，建立模型之前应先通过差分把它变换成平稳的时间序列，再考虑建模问题。 研究的主要内容 1随机过程、时间序列定义 2时间序列模型的分类 3自相关函数与偏自相关函数 4建模步骤（识别、参数估计、诊断检验） 5案例分析2.1随机过程、时间序列（1）为什么在研究时间序列之前先要介绍随机过程？就是要把时间序

2、列的研究提高到理论高度来认识。时间序列不是无源之水。它是由相应随机过程产生的。只有从随机过程的高度认识了它的一般规律。对时间序列的研究才会有指导意义。对时间序列的认识才会更深刻。（2）过程的类型自然界中事物变化的过程可以分成两类。一类是确定型过程。确定型过程即可以用关于时间t的函数描述的过程。例如，真空中的自由落体运动过程，电容器通过电阻的放电过程，行星的运动过程等。一类是非确定型过程。非确定型过程即不能用一个（或几个）关于时间t的确定性函数描述的过程。换句话说，对同一事物的变化过程独立、重复地进行多次观测而得到的结果是不相同的。例如，对河流水位的测量。其中每一时刻的水位值都是一个随机变量。如

3、果以一年的水位纪录作为实验结果，便得到一个水位关于时间的函数xt。这个水位函数是预先不可确知的。只有通过测量才能得到。而在每年中同一时刻的水位纪录是不相同的。（3）随机过程：由随机变量组成的一个有序序列称为随机过程，随机过程简记为 xt 或 xt。随机过程也常简称为过程。（4）随机过程一般分为两类。连续型。如果一个随机过程xt对任意的tÎT 都是一个连续型随机变量，则称此随机过程为连续型随机过程。离散型。如果一个随机过程xt对任意的tÎT 都是一个离散型随机变量，则称此随机过程为离散型随机过程。（5）严（强）平稳过程：一个随机过程中若随机变量的任意子集的联合分布函数与时间无

4、关，即无论对T的任何时间子集（t1, t 2, , tn）以及任何实数k, (ti + k) ÎT, i = 1, 2, , n 都有 F( x(t1) , x(t2), , x(tn) ) = F(x(t1 + k), x(t2 + k), , x(tn + k) )成立，其中F(·) 表示n个随机变量的联合分布函数，则称其为严平稳过程或强平稳过程。（6）宽平稳过程： 如果一个随机过程m阶矩以下的矩的取值全部与时间无关，则称该过程为m阶平稳过程。比如 E x(ti) = E x(ti + k) = m < ¥, Varx(ti) = Varx(ti + k

5、) = s 2 < ¥, Covx(ti), x(tj) = Covx (ti + k), x (tj + k) = s i j2 < ¥,其中 m , s 2 和 s ij2 为常数，不随 t, (tÎT ); k, ( (tr + k) ÎT, r = i, j ) 变化而变化，则称该随机过程 xt 为二阶平稳过程。该过程属于宽平稳过程。 如果严平稳过程的二阶矩为有限常数值，则其一定是宽平稳过程。反之，一个宽平稳过程不一定是严平稳过程。但对于正态随机过程而言，严平稳与宽平稳是一致的。这是因为正态随机过程的联合分布函数完全由均值、方差和协方

6、差所惟一确定。本书简称二阶平稳过程为平稳过程。（7）时间序列：随机过程的一次实现称为时间序列，也用x t 或x t表示。 时间序列中的元素称为观测值。xt既表示随机过程，也表示时间序列。xt既表示随机过程的元素随机变量，也表示时间序列的元素观测值。在不致引起混淆的情况下，为方便，xt 也直接表示随机过程和时间序列。自然科学领域中的许多时间序列常常是平稳的。如工业生产中对液面、压力、温度的控制过程，某地的气温变化过程，某地100年的水文资料，单位时间内路口通过的车辆数过程等。但经济领域中多数宏观经济时间序列却都是非平稳的。如一个国家的年GDP序列，年投资序列，年进出口序列等。为便于计算，先给出差

7、分定义。（7）滞后算子。滞后算子定义是Ln x t = xt- n 。L1 x t = xt- 1 ， L2 x t = xt- 2 Ln x t = xt- n（8）差分：时间序列变量的本期值与其滞后值相减的运算叫差分。首先给出差分符号。对于时间序列x t ，一阶差分可表示为 D x t = x t - x t -1 = (1- L) x t = x t - L x t (2.1)其中D 称为一阶差分算子。 二次一阶差分表示为， D2xt = D xt - D xt -1 = (xt - xt -1) (xt-1 - xt -2) = xt - 2 xt -1+ xt 2，或 D2xt =

8、(1- L ) 2 xt = (1 2L + L 2 ) xt = xt 2 xt-1+ xt2 (2.2)k阶差分可表示为 xt - xt -k = Dk xt = (1- Lk ) xt = xt Lk xtk阶差分常用于季节性数据的差分。（9）两种基本的随机过程1）白噪声（white noise）过程白噪声过程：对于随机过程 xt , tÎT , 如果E(xt) = 0, Var (xt) = s 2 < ¥ , tÎT; Cov (xt, xt + k) = 0, (t + k ) Î T , k ¹ 0 , 则称xt为白噪声过程

9、。 图2.1a 由白噪声过程产生的时间序列 图2.1b 日元对美元汇率的收益率序列白噪声是平稳的随机过程，因其均值为零，方差不变，随机变量之间非相关。显然上述白噪声是二阶宽平稳随机过程。如果xt 同时还服从正态分布，则它就是一个强平稳的随机过程。白噪声源于物理学与电学，原指音频和电信号在一定频带中的一种强度不变的干扰声。2)随机游走（random walk）过程对于下面的表达式 xt = xt -1 + ut ( 2.3)如果ut 为白噪声过程，则称xt 为随机游走过程。 图2.1e. 由随机游走过程产生时间序列 图2.1f. 日元对美元汇率（300天，1995年）“随机游走”一词首次出现于1

10、905年自然（Nature）杂志第72卷Pearson K. 和 Rayleigh L.的一篇通信中。该信件的题目是“随机游走问题”。文中讨论寻找一个被放在野地中央的醉汉的最佳策略是从投放点开始搜索。随机游走过程的均值为零，方差为无限大。 xt = xt -1 + ut = ut + ut-1 + xt -2 = ut + ut-1 + ut-2 + E(xt) = E(ut + ut-1 + ut-2 + ) = 0,Var(xt) = Var(ut + ut-1 + ut-2 + ) = ® ¥ 所以随机游走过程是非平稳的随机过程。2.2时间序列模型的分类 2.2.1

11、自回归过程1)定义 如果一个线性过程可表达为xt = f 1xt-1 + f 2 xt-2 + + f p xt-p + ut , (2.4)其中fi, i = 1, p 是自回归参数，ut 是白噪声过程，则称xt为p阶自回归过程，用AR(p)表示。xt = f 1xt-1 + f 2 xt-2 + + f p xt-p + ut 称为自回归模型。xt是由它的p个滞后变量的加权和以及ut相加而成。 若用滞后算子表示 (1- f 1L - f 2 L2 - - f p Lp ) xt = F (L) xt = ut (2.5)其中F (L) = 1- f 1L - f 2 L2 - - f p

12、Lp称为特征多项式或自回归算子。2）平稳性与自回归模型常联系在一起的是平稳性问题。对于自回归过程AR(p)，如果其特征方程F (z) = 1- f 1 z - f 2 z2 - - f p z p= (1 G1 z) (1 G2 z) . (1 Gp z) = 0 (2.6)的特征根 zi=1/ Gi i=1,2,.p的绝对值都大于1，则AR(p)是一个平稳的随机过程。AR(p)过程中最常用的是AR(1)、AR(2)过程， xt = f 1 xt-1 + ut (2.7)保持其平稳性的条件是特征方程 (1 - f 1 L) = 0的特征根 L=1/f 1的绝对值必须大于1，满足 |1/f1|&

13、gt; 1也就是 | f1| < 1解释如下：一阶自回归过程，xt = f 1 xt-1 + ut，可写为 (1- f1L) xt = ut xt = (1- f1 L)-1 ut 在 | f1| < 1条件下，有xt = (1+ f1L + (f1 L) 2 + (f1 L) 3 +) ut 若保证AR(1)具有平稳性，必须收敛，即f1必须满足|f1|< 1。这是容易理解的，如果|f1| ³ 1，发散，于是xt 变成一个非平稳随机过程。由（2.7）式有xt = ut + f1 ut-1 + f12 xt-2 = ut + f1 ut-1 + f12 ut-2 +

14、（短记忆过程）因为ut 是一个白噪声过程，所以对于平稳的AR(1)过程 E(xt) = 0 Var (xt) = su2 + f12 su2 + f14su2 + =(1 + f12 + f14 +)su2 =上式也说明若保证xt平稳，必须保证 | f1| < 1。例1：有AR(1) 模型 xt = 0.6 x t-1 + ut 则，(1 - 0.6 L ) x t = ut xt =(1 - 0.6 L )-1ut =0.6 L + 0.36 L2 + 0.216 L3 + ) ut = ut + 0.6 ut-1 + 0.36 ut-2 + 0.216 ut-3 + 上式变换为一个无

15、限阶的移动平均过程。 3）一般的自回归过程AR (p)平稳性对于一般的自回归过程AR (p)，特征多项式F (L) = 1 - f1 L - f2 L2 - - fp Lp = (1 G1 L) (1 G2 L) . (1 Gp L)则xt 可表达为 xt = F -1 (L) ut = (+ +ut , (2.8)其中k1, k 2, , k p 是待定系数。xt 具有平稳性的条件是 F -1 (L) 必须收敛，即应有| Gi | < 1, i = 1, 2, , p。而G1-1，G2-1，.，Gp-1 是特征方程 F(L) = 0（见 (2.6) 式）的根，所以保证AR(p)具有平稳

16、性的条件是特征方程的全部根必须在单位圆（半径为）之外，即 |1/Gi| >1。保证AR(p) 过程平稳的一个必要但不充分的条件是p个自回归系数之和要小于1，即 <重新分析随机游走过程xt = xt -1 + ut,特征方程 1- L=0 因为 f1 = 1，L=1所以随机游走过程是一个非平稳的随机过程。 图2.2 AR(1)过程 2.2.2 移动平均过程1）定义如果一个线性随机过程可用下式表达xt = ut + q 1 ut 1 +q 2 ut -2 + + q q ut q = (1 + q 1L + q 2 L2 + +q q Lq) ut = Q(L) ut (2.9)其中q

17、 1, q 2, , q q是回归参数，ut为白噪声过程，则称xt为 q阶移动平均过程，记为MA(q) 。模型xt = ut + q 1 ut 1 +q 2 ut -2 + + q q ut q 称为移动平均模型。之所以称“移动平均”，是因为xt是由q +1个ut和ut滞后项的加权和构造而成。“移动”指t的变化，“平均”指加权和。 由定义知任何一个q 阶移动平均过程都是由q+1个白噪声变量的加权和组成，所以任何一个移动平均过程都是平稳的。2） 可逆性与移动平均过程相联系的一个重要概念是可逆性。移动平均过程具有可逆性的条件是特征方程。 Q(z) = (1 +q 1 z + q 2 z2 + +

18、q qzq)= 0 (2.10)的全部根的绝对值必须大于1。 由 (2.9) 有Q (L)-1xt = ut。由于Q (L) 可表示为 Q (L) = (1 H1 L) ( 1 H2 L) (1 Hq L)所以有 Q (L)-1 =（+）, (2.11)mi为待定参数。可见保证MA(q)过程可以转换成一个无限阶自回归过程，即MA(q)具有可逆性的条件Q(L)-1收敛。对于 | L | £ 1，必须有|Hj|<1 或| Hj -1| > 1，j = 1，2，q成立。而Hj -1是特征方程Q (L) = (1 H1 L) ( 1 H2 L) (1 Hq L) = 0的根，所以

19、MA(q)过程具有可逆性的条件是特征方程Q (L) = 0的根必须在单位圆之外。（因为x t =Q (L) ut是平稳的，如果变换成Q (L)-1 xt = ut 后，变得不平稳，显然失去可逆性。）注意，对于无限阶的移动平均过程 xt = q i u t -i) = (1+q1 L + q2 L 2 + ) ut (2.12)其方差为 Var(xt) = q i2 Var (ut i) = su2 q i2 (2.13)很明显虽然有限阶移动平均过程都是平稳的，但对于无限阶移动平均过程还须另加约束条件才能保证其平稳性。这条件就是x t的方差必须为有限值，即 < ¥ MA(q) 过

20、程中最常见的是一阶移动平均过程， xt = (1+ q 1 L) ut (2.14)其具有可逆性的条件是（1 + q 1L) = 0的根（绝对值）应大于1，即 |1/q 1| >1, 或|q 1|< 1。当|q1|< 1时，MA(1)过程（2.14）应变换为ut = (1+ q 1L) 1 xt = (1 - q 1L + q 12L2 - q 13L3 + ) xt (2.15)这是一个无限阶的以几何衰减特征为权数的自回归过程。 对于MA(1)过程有 E(x t) = E(ut) + E(q 1 ut - 1) = 0 Var(xt) = Var(ut) + Var(q 1

21、 ut 1) = (1+q 12 ) su2 图2.3 MA(1)过程3）回归与移动平均过程的关系一个平稳的AR(p)过程(1 - f1L - f2L2 - - fpLp ) xt = ut可以转换为一个无限阶的移动平均过程。 xt = (1 - f1L - f2L2 - - fpLp )-1 u t = F (L)-1 ut 一个可逆的MA(p)过程 xt = (1 + q 1L + q 2 L2 + +q q Lq ) ut = Q (L) ut可转换成一个无限阶的自回归过程。 (1 + q 1L + q 2 L2 + +q q Lq)-1 xt = Q (L) -1 xt = ut 对于

22、AR(p)过程只需考虑平稳性问题，条件是F (L) = 0的根（绝对值）必须大于1。不必考虑可逆性问题。对于MA(q)过程，只需考虑可逆性问题，条件是Q (L) = 0的根（绝对值）必须大于1，不必考虑平稳性问题。2.2.3 自回归移动平均过程由自回归和移动平均两部分共同构成的随机过程称为自回归移动平均过程，记为ARMA(p, q), 其中p, q分别表示自回归和移动平均部分的最大阶数。ARMA(p, q) 的一般表达式是 xt = f 1xt-1 + f 2xt-2 +f p xt-p + ut +q 1ut-1 + q 2 ut-2 + .+ q q ut-q (2.16)即 (1 - f

23、 1L - f 2 L2 - - f p Lp ) xt = (1 + q 1 L + q 2 L2+ +q q Lq ) ut或 F (L) xt = Q (L) ut （2.17）其中 F (L) 和 Q (L) 分别表示L的p, q阶特征多项式。ARMA(p, q) 过程的平稳性只依赖于其自回归部分，即F (L) = 0的全部根取值在单位圆之外（绝对值大于1）。其可逆性则只依赖于移动平均部分，即Q (L) = 0的根取值应在单位圆之外。实际中最常用的是ARMA(1, 1)过程。 xt - f 1xt-1 = ut +q 1 ut - 1 (2.18)或（1 - f 1 L）xt =（1

24、+ q 1 L）ut很明显只有当 1 < f1 < 1和 1 < q 1 < 1 时，上述模型才是平稳的，可逆的。 图2.4 ARMA(1,1) 过程2.2.4 单整自回归移动平均过程 以上介绍了三种平稳的随机过程。对于ARMA过程（包括AR过程），如果特征方程F(L) = 0 的全部根取值在单位圆之外，则该过程是平稳的；如果若干个或全部根取值在单位圆之内，则该过程是强非平稳的。例如， xt = 1.3 xt-1 + ut（特征方程的根 = 1/ 1.3 = 0.77）上式两侧同减 xt-1得xt的差分 Dxt = 0.3 xt-1 + ut差分Dxt仍然非平稳。除此之

25、外还有第三种情形，即特征方程的若干根取值恰好在单位圆上。这种根称为单位根，这种过程也是非平稳的。下面介绍这种重要的非平稳随机过程。假设一个随机过程含有d个单位根，其经过d次差分之后可以变换为一个平稳的自回归移动平均过程。则该随机过程称为单整自回归移动平均过程。伯克斯詹金斯积数十年理论与实践的研究指出，时间序列的非平稳性是多种多样的，然而幸运的是经济时间序列常常具有这种特殊的线性齐次非平稳特性（即参数是线性的，xt及其滞后项都是一次幂的）。对于一个非季节性经济时间序列常常可以用含有一个或多个单位根的随机过程模型描述。考虑如下模型 F (L)Dd yt = Q (L) ut (2.19)其中F(L

26、) 是一个平稳的自回归算子。即F (z) = 0 的根都大于1。Q (L)表示可逆的移动平均算子。若取 xt = Dd yt (2.20)则（2.19）可表示为 F (L) xt = Q (L) ut (2.21)说明yt 经过d 次差分之后，可用一个平稳的、可逆的ARMA过程xt 表示。 图2.5 ARIMA(1,1,1) 过程 随机过程yt 经过d 次差分之后可变换为一个以F (L)为p阶自回归算子，Q (L)为q阶移动平均算子的平稳、可逆的随机过程，则称yt 为（p, d, q）阶单整(单积)自回归移动平均过程，记为ARIMA (p, d, q)。这种取名的目的是与以后各章中的称谓相一致

27、。ARIMA过程也称为综合自回归移动平均过程。其中F (L) Dd称为广义自回归算子。(2.19) 是随机过程的一般表达式。当p ¹ 0, d = 0, q ¹ 0 时，（2.19）变成ARMA (p, q)过程， p = 0, d = 0, q ¹ 0时，ARIMA过程变成AM(q)过程；而当 p = d = q = 0时，ARIMA过程变成白噪声过程。给出若干具体的非平稳随机过程如下：1) ARIMA (0, 1, 1)过程Dyt = u t + q 1 u t 1 =（1 + q 1L）u t其中p = 0 , d = 1, q = 1, F (L) = 1

28、, Q (L) = 1+q 1 L .2) ARIMA(1, 1, 0)过程Dyt - f1Dyt 1 = u t其中 p = 1, d = 1 , q = 0 , F (L) = 1 - f1 L , Q (L) = 1. 3) ARIMA(1,1,1)过程Dyt - f1Dyt -1 = u t + q 1 u t -1或 （1 - f1 L）Dyt 1=（1 + q 1L）u t其中 p = 1, d = 1, q = 1, F (L) = 1 - f1 L, Q (L) = 1+ q 1 L对于非季节经济时间序列p, d, q的取值很少有大于2的情景。这些参数的常见取值是0、1和2。如

29、何判别其是自回归过程还是移动平均过程？如何判别其过程的阶数呢？如何通过一个时间序列研究其过程的平稳性呢？ Wold分解定理：任何协方差平稳过程xt，都可以被表示为xt - m - dt = ut + y1 ut-1+ y2 ut-2 + + = 其中m 表示xt的期望。dt 表示xt的线性确定性成分，如周期性成分、时间t的多项式和指数形式等，可以直接用xt的滞后值预测。y0 = 1，< 。ut为白噪声过程。ut表示用xt的滞后项预测xt时的误差。ut = xt - E(xt | xt-1, xt-2 , )称为xt的线性非确定性成分。当dt = 0时，称xt为纯线性非确定性过程。 Wol

30、d分解定理由Wold在1938年提出。Wold分解定理只要求过程2阶平稳即可。从原理上讲，要得到过程的Wold分解，就必须知道无限个yj参数，这对于一个有限样本来说是不可能的。实际中可以对yj做另一种假定，即可以把Y (L)看作是2个有限特征多项式的比， Y(L) = 注意，无论原序列中含有何种确定性成分，在前面介绍的模型种类中，还是后面介绍的自相关函数、偏自相关函数中都假设在原序列中已经剔除了所有确定性成分，是一个纯的随机过程（过程中不含有任何确定性成分）。如果一个序列如上式， xt = m + dt + ut + y1 ut-1+ y2 ut-2 + +则所有研究都是在yt = xt -

31、m - dt 的基础上进行。例如前面给出的各类模型中都不含有均值项、时间趋势项就是这个道理。2.3自相关函数以上介绍了随机过程的几种模型。实际中单凭对时间序列的观察很难确定其属于哪一种模型，而自相关函数和偏自相关函数是分析随机过程和识别模型的有力工具。2.3.1. 自相关函数定义 在给出自相关函数定义之前先介绍自协方差函数概念。对于平稳的随机过程，其期望为常数，用 m 表示，即 E(x t) = m, t = 1, 2, (2.25)随机过程的取值将以 m 为中心上下变动。平稳随机过程的方差也是一个常量Var(x t) = E (xt - E(xt)2 = E (xt - m)2 = sx2

32、, t = 1, 2, (2.26)sx2用来度量随机过程取值对其均值 m 的离散程度。 （1）自协方差函数相隔k期的两个随机变量x t 与xt - k 的协方差即滞后k期的自协方差，定义为gk = Cov (xt , xt-k) = E(xt -m)(xt-k - m) (2.27)自协方差序列 gk , k = 0, 1, , K,称为随机过程 xt 的自协方差函数。当k = 0 时 g0 = Var (xt) = sx2 （2）自相关函数相关系数 rk = （2.28）因为对于一个平稳过程有 Var (xt) = Var (xt - k) = sx2 =g0 (2.29)所以（2.28）

33、可以改写为 （2.30）当 k = 0 时，有 r 0 = 1。 以滞后期k为变量的自相关系数列 rk, k = 0, 1, , K (2.31)称为自相关函数。因为rk = r- k 即Cov (xt - k , xt ) = Cov (xt , x t + k )，自相关函数是零对称的，所以实际研究中只给出自相关函数的正半部分即可。2.3.2 自回归过程的自相关函数(1) 平稳AR(1)过程的自相关函数AR(1)过程如下 xt = f1 xt-1 + ut , |f1| < 1用xt- k同乘上式两侧 xt xt- k = f1 xt-1 xt- k + ut xt- k两侧同取期望

34、，E(xt xt- k )=E(xt -m)(xt- k-m) gk = f1 gk -1其中E(xt- k ut) = 0（ut与其t - k期及以前各项都不相关）。两侧同除 g0 得, rk = f1 rk -1 = f1 f1 rk -2 = = f1k r0因为 ro = 1。所以有 rk = f1k , （k ³ 0）对于平稳序列有 | f1| < 1。所以1）当 f1为正时，自相关函数按指数衰减至零（过阻尼情形），2）当 f1为负时，自相关函数正负交错地指数衰减至零。见图2.6。因为对于经济时间序列，f1一般为正，所以第一种情形常见。指数衰减至零的表现形式说明随着时

35、间间隔的加长，变量之间的关系变得越来越弱。 f1 > 0 （经济问题中常见） f1 < 0 （经济问题中少见）图2.6 AR(1) 过程的自相关函数（2）AR(p) 过程的自相关函数用xt - k , (k > 0) 同乘平稳的 p阶自回归过程xt = f 1 xt -1 + f 2 xt -2 + f p xt - p + ut (2.32)的两侧，得xt-k xt = f1xt -k xt -1+f2xt -k xt -2 +fpxt-k xt -p +xt -kut (2.33)对上式两侧分别求期望得gk = f1 gk -1 + f2 gk -2 + + fp gk

36、- p，k > 0 (2.34)上式中对于 k > 0，有E(xt - k ut ) = 0。因为当 k > 0时，xt - k 发生在ut 之前，所以 xt - k与ut不相关。用 g0分别除（2.34）式的两侧得 rk = f1 rk -1 + f2 rk -2 + + fp rk -p， k > 0 (2.35)令 F(L) = (1 - f1 L - f2 L2 - - fp Lp）其中L为k的滞后算子，则上式可表达为 F(L) rk = 0因 F(L) 可因式分解为， F(L) =,则（2.35）式的通解（证明见附录）是 rk =A1G1k + A2G2k +

37、 + ApGpk. (2.36)其中Ai, i = 1, p 为待定常数。这里 Gi-1, i = 1, 2, , p 是特征方程 F(L) = (1 - f1 L - f2 L2 - - fp Lp ) = 0的根。为保证随机过程的平稳性，要求 | Gi | < 1, i = 1, 2, , p。这会遇到如下两种情形。 当Gi为实数时，(2.36) 式中的Ai Gik 将随着k 的增加而几何衰减至零，称为指数衰减（过阻尼情形）。 当Gi 和Gj 表示一对共轭复根时，设Gi = a + bi, Gj = a bi, = R，则Gi , Gj的极座标形式是Gi = R (Cosq + i

38、Sinq )，Gj = R (Cosq - i Sinq )。若AR(p) 过程平稳，则 |Gi| < 1，所以必有R <1。那么随着k的增加，Gik = Rk (Coskq + i Sinkq )，Gjk = Rk (Coskq - i Sinkq )，自相关函数（2.36）式中的相应项Gik , Gjk将按正弦振荡形式衰减（欠阻尼情形）。实际中的平稳自回归过程的自相关函数常是由指数衰减和正弦衰减两部分混合而成。从（2.36）式可以看出，当特征方程的根取值远离单位圆时，k不必很大，自相关函数就会衰减至零。有一个实数根接近1时，自相关函数将衰减的很慢，近似于线性衰减。当有两个以上的

39、根取值接近1时，自相关函数同样会衰减的很慢。 a. 两个特征根为实根 b. 两个特征根为共轭复根图2.6 AR(2) 过程的自相关函数2.3.3 移动平均过程的自相关函数 (1) MA(1) 过程的自相关函数。 对于MA(1)过程xt = ut + q1 ut-1有gk = E(xt xt- k) = E (ut + q1 ut -1) (ut - k + q1 ut -k -1)当k = 0时， g0 = E(xt xt) = E (ut + q1 ut -1) (ut + q1 ut -1) = E (ut2 + q1 ut ut-1 + q1 ut ut-1 + q12 ut-12 )

40、= (1 + q12 ) s 2当k = 1时 g1 = E(xt xt- 1) = E (ut + q1 ut -1) (ut 1 + q1 ut 2 ) = E (ut ut -1 + q1 ut -12 + q1 ut ut -2 + q12 ut -1 ut -2) = q1 E (ut -1) 2 = q1 s 2当 k > 1 时， gk = E (ut + q1 ut -1) (ut k + q1 ut k -1) = 0综合以上三种情形，MA(1)过程自相关函数为 rk = = , k = 1 0 , k > 1，见图2.7。 q1 > 0 q1 < 0

41、图2.7 MA(1)过程的自相关函数可见MA(1) 过程的自相关函数具有截尾特征。 当k > 1时， rk = 0。 (2) MA(q) 过程的自相关函数 MA(q) 过程的自相关函数是 rk = , k = 1, 2, , q , 0 k > q ,当k > q 时，rk = 0，说明 rk , k = 0, 1, 具有截尾特征。 2.3.4 ARMA (1, 1) 过程的自相关函数ARMA (1, 1) 过程的自相关函数rk 从r1开始指数衰减。r1的大小取决于f1和q1, r1的符号取决于 (f1 - q1 )。若 f1 > 0，指数衰减是平滑的，或正或负。若 f

42、1 < 0，相关函数为正负交替式指数衰减。对于ARMA (p, q) 过程，p, q ³ 2时，自相关函数是指数衰减或正弦衰减的。 2.3.5 相关图（correlogram） 1) 样本平均数样本方差对于一个有限时间序列（x1, x2, , xT）用样本平均数 估计总体均值 m，用样本方差 s2 = 估计总体方差sx2。2) 相关图当用样本矩估计随机过程的自相关函数，则称其为相关图或估计的自相关函数，记为 rk = , k = 0, 1 , 2, , K, ( K < T ) . (2.41)rk 是对rk的估计。其中 Ck = k = 0, 1, 2, , K , (

43、2.42)是对gk 的估计 C0 = (2.43)是对g0的估计，T是时间序列数据的样本容量。实际中T不应太小，最好能大于60。注意：(2.42)式分母为T，不是T-k。Ck为有偏估计量。但在小样本条件下更有效。注：2个标准差 = 2 T -1/2 = 2（1/7）= 0.286。图中虚线表示到中心线2个标准差宽度。相关图是对自相关函数的估计。由于MA过程和ARMA过程中的MA分量的自相关函数具有截尾特性，所以通过相关图可以估计MA过程的阶数q。相关图是识别MA过程阶数和ARMA过程中MA分量阶数的一个重要方法。实际应用中相关图一般取k = 15就足够了。3)自相关的方差rk的方差近似为T-1

44、。所以在观察相关图时，若rk的绝对值超过2 T-1/2（2个标准差），就被认为是显著地不为零。当T充分大时，近似有 (rk -0) / T-1/2 = rk T1/2 N (0, 1)2.4偏自相关函数 2.4.1偏自相关函数偏自相关函数是描述随机过程结构特征的另一种方法。用 fkj 表示k阶自回归式中第j个回归系数，则k阶自回归模型表示为 xt = fk 1 xt-1 + fk 2 xt-2 + + fkk xt-k + ut其中 fkk 是最后一个回归系数。若把k = 1, 2的一系列回归式fkk看作是滞后期k的函数，则称 fkk, k = 1, 2 (2.45)为偏自相关函数。它由下式中

45、的红项组成。 xt = f11 xt-1 + ut xt = f21 xt-1 + f22 xt-2 + ut。 xt = fk 1 xt-1 + fk 2 xt-2 + + fkk xt-k + ut因偏自相关函数中每一个回归系数fkk 恰好表示xt 与xt-k在排除了其中间变量xt-1, xt-2,xt-k +1 影响之后的相关系数，xt - fk 1 xt-1 - fk 2 xt-2 - - fkk-1 xt-k +1 = fkk xt-k + ut所以偏自相关函数由此得名。 2.4.2自回归过程的偏自相关函数1) 对于AR(1)过程，xt = f11 xt-1 + ut，当k = 1时

46、， f11 ¹ 0，当k > 1时，fkk = 0，所以AR(1)过程的偏自相关函数特征是在k = 1出现峰值（f11 = r1）然后截尾。f11 > 0 f11 < 0AR(1) 过程的偏相关图2) 对于AR(2)过程，当k £ 2时，fkk ¹ 0，当k >2时，fkk = 0。偏自相关函数在滞后期2以后有截尾特性。3) 对于AR(p)过程，当k £ p时，fkk ¹ 0，当k > p时，fkk = 0。偏自相关函数在滞后期p以后有截尾特性，因此可用此特征识别AR(p)过程的阶数。2.4.3 移动平均过程的偏自

47、相关函数MA(1)过程的偏自相关函数呈指数衰减特征。若q1 > 0, 偏自相关函数呈交替改变符号式指数衰减；若q1 < 0，偏自相关函数呈负数的指数衰减。因为任何一个可逆的MA(q) 过程都可以转换成一个无限阶的系数按几何递减的AR过程，所以MA(q) 过程的偏自相关函数呈缓慢衰减特征。 q1 > 0 q1 < 0MA(1) 过程的偏自相关函数例5：对于xt = ut + q1 ut-1过程，有 1/ (1+ q1 L) xt = ut , 当q1 > 0， (1- q1 L + q12 L2 - ) xt = ut , xt = q1 x t-1 - q12 x

48、 t-2 + q13 x t-3 - + ut , 对于xt = ut - q1 ut-1过程，有 1/ (1- q1 L) xt = ut ，当q1 > 0, (1+ q1 L + q12 L2 + ) xt = ut , xt = - q1 x t-1 - q12 x t-2 - q13 x t-3 - + ut , 对于MA(2) 过程，若Q (L) = 0的根是实数，偏自相关函数由两个指数衰减形式叠加而成。若Q (L) = 0的根是虚数，偏自相关函数呈正弦衰减形式。2.4.4 自回归移动平均过程的偏自相关函数ARMA( p, q) 过程的偏自相关函数也是无限延长的，其表现形式与M

49、A(q)过程的偏自相关函数相类似。根据模型中移动平均部分的阶数q以及参数qi的不同，偏自相关函数呈指数衰减和（或）正弦衰减混合形式。2.4.5 偏自相关图对于时间序列数据，偏自相关函数通常是未知的。可用样本计算f11, f22, 的估计量, , 。估计的偏自相关函数 , k = 1, 2, , K, (2.48)称为偏相关图。因为AR过程和ARMA过程中AR分量的偏自相关函数具有截尾特性，所以可利用偏相关图估计自回归过程的阶数p。实际中对于偏相关图取k = 15就足可以了。2.4.6偏自相关方差的方差近似为T-1。当T充分大时，近似有 ( -0) / T-1/2 = T1/2 N (0, 1)

50、所以在观察偏相关图时，若的绝对值超过2 T-1/2（2个标准差），就被认为是显著地不为零。2.5时间序列模型的建立与预测2.5.1 时间序列模型的建立ARIMA过程yt用 F (L)dyt = q0 +Q (L) ut (2.51)表示，其中F (L)和Q (L)分别是p, q 阶的以L为变数的多项式，它们的根都在单位圆之外。q0为位移项，d yt表示对yt 进行d次差分之后可以表达为一个平稳的可逆的ARMA过程。这是随机过程的一般表达式。它既包括了AR，MA 和ARMA过程，也包括了单整的AR，MA和ARMA过程。建立时间序列模型通常包括三个步骤。（1）模型的识别，（2）模型参数的估计，（3

51、）诊断与检验。（1）模型的识别就是通过对相关图的分析，初步确定适合于给定样本的ARIMA模型形式，即确定d, p, q的取值。（2）模型参数的估计就是待初步确定模型形式后对模型参数进行估计。（3）诊断与检验就是以样本为基础检验拟合的模型，以求发现某些不妥之处。如果模型的某些参数估计值不能通过显著性检验，或者残差序列不能近似为一个白噪声过程，应返回第一步再次对模型进行识别。如果上述两个问题都不存在，就可接受所建立的模型。建摸过程用图2.8表示。94一. 识别 用相关图和偏相关图识别模型形式（确定参数d, p, q）二. 估计 对初步选取的模型进行参数估计三. 诊断与检验包括参数的显著性检验和残差

52、的随机性检验不可取模型可取吗 可取 止 图2.8 建立时间序列模型程序图下面对建摸过程做详细论述。1）模型的识别模型的识别主要依赖于对相关图与偏相关图的分析。在对经济时间序列进行分析之前，首先应对样本数据取对数，目的是消除数据中可能存在的异方差，然后分析其相关图。识别的第1步是判断随机过程是否平稳。由2.2节知，如果一个随机过程是平稳的，其特征方程的根都应在单位圆之外。由2.7节知，如果F (L) = 0的根接近单位圆，自相关函数将衰减的很慢。所以在分析相关图时，如果发现其衰减很慢，即可认为该时间序列是非平稳的。这时应对该时间序列进行差分，同时分析差分序列的相关图以判断差分序列的平稳性，直至得

53、到一个平稳的序列。对于经济时间序列，差分次数，即模型（2.51）中的参数d通常只取0，1或2。实际中也要防止过度差分。一般来说平稳序列差分得到的仍然是平稳序列，但当差分次数过多时存在两个缺点，（1）序列的样本容量减小；（2）方差变大；所以建模过程中要防止差分过度。对于一个序列，差分后若数据的极差变大，说明差分过度。第2步是在平稳时间序列基础上识别ARMA模型阶数p, q。表2.3给出了不同ARMA模型的自相关函数和偏自相关函数。当然一个过程的自相关函数和偏自相关函数通常是未知的。用样本得到的只是估计的自相关函数和偏自相关函数，即相关图和偏相关图。建立ARMA模型，时间序列的相关图与偏相关图可为识别模型参数p, q提供信息。相关图和