自回归移动平均模型

1、第二章自回归移动平均模型一些金融时间序列的变动往往呈现出一定的平稳特征，由Box和Jenkins创立的ARMA模型就是借助时间序列的随机性来描述平稳序列的相关性信息，并由此对时间序列的变化进行建模和预测。第一节ARMA模型的基本原理ARMA 模型由三种基本的模型构成：自回归模型AR， Auto-regressiveModel )，移动平均模型(MA， Moving AverageModel以及自回归移动平均模型(ARMA，Auto-regressive Movi ng Average Model2.1.1 自回归模型的基本原理1 . AR模型的基本形式AR模型的一般形式如下:ytc1yt 12

2、 yt 2pyt p其中，c为常数项,p模型的系数,t为白噪声序列。我们称上述方程为p阶自回归模型，记为 AR( p) °2 . AR模型的平稳性此处的平稳性是指宽平稳,即时间序列的均值,方差和自协方差均与时刻无关。即若时间序列%是平稳的，即E(yt), Var(yt)2 , Cov(yt, yt s)为了描述的方便，对式(2.1 )的滞后项引入滞后算子。若ytXt!，定义算子“ L” ,使得yt Lxt Xt 1 L称为滞后算子。由此可知,kL XtXt k °对于式子(2.1 ),可利用滞后算子改写为：yt c 1Lyt2L2ytpLpytt移项整理，可得:(1 iL

3、2L2pLP)yt c tAR( p)的平稳性条件为方程1 iL2L2pLP 0的解均位于单位圆外。3 . AR模型的统计性质(1) AR模型的均值。假设AR( p)模型是平稳的，对AR( p)模型两边取期望可得:Eyt) E(c 1%122pyt p t)根据平稳序列的定义知，E(yt)，由于随即干扰项为白噪声序列，所以E( t) 0 , 因此上式可化简为:(1 1 2所以,(2) AR模型的方差。直接计算AR( p)模型的方差较困难，这里引入Green函数。AR( p)模型可以改写成如下形式：yt设1 p为平稳AR( p)模型的反特征根，则p(L) 11L2L2 LpLp(1 iL)。i

4、1止步，ytkii 1 1 iLpki(丄)j ti 1 j 0pkij 0 i 1Gj t jj 0p其中，ki为常数，Gjki ij，称为Green函数，因为1p均在单位圆，所以i 1Green函数是呈负指数下降的。对上式两边取方差，可得:2var(yjGjVar()j 0由于随机干扰项为白噪声序列，所以var( t j)2。因为Green函数是呈负指数下降,2所以 Gjj 0，这说明平稳时间序列方差有界,且等于常数Gj22。j 0(3 )自协方差函数。假设将原序列已经中心化，则E(yt)，则对 AR( p )模型等号两边同时乘以yt k( k 1)，两边取期望得:E(ytytQ 1E(y

5、ytk)2E(yt 2% QpE(yt pyt k) E( tyt k)因为当期的随机干扰项与过去的时间序列值无关,所以:E( tyt k)0。因此，上式可以化为:rk1 rk 12rk 2Prk p其中rk，表示k阶自协方差。2.1.2 移动平均模型的基本原理1. MA模型的基本形式MA模型的一般形式如下:其中，U为常数项,yt U t 1 t 12 t 2p为模型的系数，t为白噪声序列。我们称上述方程为 q阶移动平均模型，记为 MA( q)。2、MA模型的可逆性对于一个MA( q)模型:ytU t 1 t 12 t 2将其写成滞后算子的形式：yt U (1 丄2L2qLq)t若方程1 iL

6、2L2qLq 0的根全部落在单位圆外，则称MA模型是可逆的。可逆性可以保证 MA模型可以改写成：(L)(yt u) t即MA模型可以转化为 AR模型，同时可以保证参数估计的唯一性。3、MA模型的数字特征(1)均值当q时，对于一般的 MA ( q )模型:yt ut1 t 12 t 2Lq t q两边取期望，可得:E(yt) E(u t 1 t即一般的MA( q )模型的期望值即为模型中的常数项。(2)方差对MA ( q )模型，两边取方差:Var(yt) Var(u tq t q)(1122) 2(3) 协方差函数mE(ytyt k) E(uq t q)(uq t k q)化简可得:2 2 2

7、(1 1 2(k 1 k 10,k qp),kq k q ),02.1.3自回归移动平均模型的基本原理1、ARMA模型的基本形式ARMA模型的一般形式如下:ytc 1yt 12 yt 2pyt p t显然ARMA(p,q)模型可看成是AR(p)模型和MA(q)模型相结合的混合形式。2、ARMA模型的平稳性和可逆性对于一个 ARMA ( p，q )模型,yt c 必122pVt p将其写为滞后算子的形式:(11L2L2L丄 p)Vtc (12L2qLq) t两边同时除以(11L2L2L pLp)yt(L) t其中:qLq由此可以看出,ARMA模型的平稳性完全取决于AR(P)模型的参数，与 MA

8、( q)模型的参数无关。类似地，ARMA模型的可逆性完全取决于 MA(q )模型的参数，与 AR( p )模型的参数无关。3、ARMA模型的数字特征(1)期望对于一个一般的ARMA(p,q)模型两边同时取期望，化简得:E(yt) L(2)自协方差函数rkE(ytyt k) E( G t i)(Gj t k j)i oj oEGi G j t i t k j i 0 j 0GiGi第二节时间序列的相关性分析与平稳性2.2.1 时间序列的自相关系数2.2.1.1 自相关函数（ACF）1、AR（ p）的自相关函数在上一节中已经介绍了 AR（ p ）模型的协方差函数满足下式：rk1 rk 1 2rk

9、2 prk p由于自相关系数k 丛，因此：rok1 k 12 k 2 p k p该式表示自相关系数满足p阶差分方程。根据差分方程解的性质，上差分方程的通解可以写为：p（k） Ci ki 1其中，Ci为任意不全为0的常数，错误!未找到引用源。是滞后多项式的反特征根。根 据平稳性的性质，错误!未找到引用源。从自相关系数的一般形式可看出，错误！未找到引用源。始终不为0,但是随着滞后阶数的增加，自相关系数慢慢逼近0，在图形上表现出一定的拖尾性。2、MA模型的自相关函数根据上一节推导的 MA模型的自协方差函数的表达式，MA模型的自相关函数表示为：1, k0kk 1 k 1 Lq k qk222,0 k

10、q0112 L p0,k q因此，当k>q时，自相关函数为0,也就是说MA（q ）模型的自相关函数在 q步以后 是截尾的。3、ARMA模型的自相关函数根据ARMA模型的自协方差函数，不难得到ARMA模型的自相关函数：GjGj kk i 0k0Gi2i 0由此可以看出，ARMA模型的自相关函数不具有截尾性。事实上，ARMA模型若满足可逆性，其形式相当于一个无穷阶的 AR模型，因此自相关函数与 AR模型一样具有拖尾性。2.2.1.2 偏自相关函数（PACF）1、偏自相关函数的定义自相关函数 错误!未找到引用源。不能纯粹地表示 错误！未找到引用源。与错误!未找到 引用源。之间的相关性，两者的相

11、关性还会受到错误 味找到引用源。、错误！未找到引用源。错误！未找到引用源。的间接影响，为了单纯地表示 错误！未找到引用源。 与错误！未 找到引用源。之间的相关性，这里引入偏自相关函数。偏自相关函数表示在固定错误味找到引用源。、错误!未找到引用源。错误！未找到引用源。 的情况下错误！未找到引用源。 与错误！未找到引用源。之间的相关性。下面介绍偏自相关函数错误!未找到引用源。的计算方法。设序列yt可由下回归方程估计:ytk1yt 1k2yt 2Lkk 1 yt k 1kk yt kt根据回归方程的性质，式中估计系数错误！未找到引用源。 即为偏自相关函数。为了估计回归系数，采用 OLS方法，即LE（

12、ytklyt 1k2 yt2 .kk lytk 1kk ytk）达到最小。对L关于各回归系数求偏导，可得到以下方程组：1k1 0k2 1Lkk k 12k1 1k2 0Lkk k 2kk1 k 1k2 k 2Lkk 0该方程组称为 Yule- Wolker方程。根据自相关系数，求解Y-W方程即可得到偏自相关系数。2、AR（ p ）的偏自相关函数对于AR（p）模型，错误!未找到引用源。 时，L = EC（Et + 工輛一铀hz 一 工 %J尸由于错误!未找到引用源。 与序列的滞后项无关，因此 错误！未找到引用源。，且当j ,1 j Pkjj 0,P 1 j k由此，AR（p）模型的偏自相关函数错

13、误！未找到引用源。在k>p后等于0,即AR（p）模 型的偏自相关函数具有截尾性。事实上，AR模型偏相关函数的截尾性也可直接从该模型的表达式看出。AR（ p ）模型实质上假设序列至多只与滞后p阶的值相关，因此偏自相关函数至多在p阶处非0。3、MA（ q ）和ARMA （ p，q ）的偏自相关函数由于MA （ q ）和ARMA （ p，q ）相当于无穷阶的 AR模型，因此这两个模型的偏自 相关函数均不具有截尾性，而是拖尾性。221.3 ARMA模型自相关系数与偏自相关系数的估计与检验根据以上分析，不同ARMA模型自相关系数与偏自相关系数的表现存在明显的差异。表2.1给出了三类模型 ACF与P

14、ACF的特征。表2.1 ARMA 类模型 ACF与PACF的特征模型自相关系数偏自相关函数AR（ p）拖尾p阶截尾MA （ q）q阶截尾拖尾ARMA （ p，q）拖尾拖尾因此，我们可以通过观察偏自相关函数来识别并确定AR模型的滞后阶数， 通过自相关函数来识别并确定 MA模型的滞后阶数 q。那么对于给定的样本数据，如何估计样本 ACF 与PACF，并从统计角度检验两者是否为 0呢？下面分别介绍 ACF与PACF的估计与检验。1、样本ACF与PACF的估计与实现对于给定样本，只需估计样本的自协方差与方差，将两者相除即可得到样本ACF。具体而言，样本自协方差表示为：=乔耳二仗一司切应一 W其中错误!

15、未找到引用源。 表示样本均值。那么SACF=错误！未找到引用源。对于PACF主要是利用Yule- Wolker方程求解。当滞后阶数较大时，Y-W方程直接计算较难，目前多采用递推算法来求解。2、样本ACF与PACF的显著性检验常用的检验方法主要包括两类：正态检验法和Portma nteau 检验法。若序列满足独立性，则由统计渐进分布的有关定理可知，当样本个数充分大时，ACF和PACF均满足均值为0,方差1/T的正态分布，即错误!未找到引用源。，错误！未找到引用源。因此若错误！未找到引用源。，错误！未找到引用源。，则可认为样本数据是独立的，即自相关系数和偏自相关系数均不显著异于0。该检验法即为正态

16、检验法。Portmanteau检验法是联合检验法，即检验直到k阶的自相关系数是否同时为0。该检验法使用Q统计量进行检验。Q统计量具体形式为:Q = T(T + 2)其中T为样本容量，k为设定的滞后阶数。Q统计量服从错误！未找到引用源。分布。k阶以的自相关性。当Q统计量超过设定的临界值时，就拒绝原假设，即序列至少存在 222 时间序列平稳性检验建立ARMA的前提是序列是平稳的。 检验平稳性常用的方法主要有三种：经验法、自/ 偏自相关系数法、单位根检验法。1、经验法经验法是通过观察图形的方式来初步判断时间序列是否平稳的。首先画出时间序列的图形，如果该图形围绕某一直线上下以较小的幅度波动，则该序列一

17、般是平稳的， 否则是不平稳的。2、自/偏自相关系数法由于ARMA模型的自/偏自相关系数要么是截尾的， 要么是拖尾的，因此可以观察时间 序列的自/偏自相关图，如果时间序列的自 /偏自相关系数从某个滞后期开始均与 0无差异, 可以认为该时间序列是平稳的；若自 /偏自相关系数衰减很慢，且与 0存在明显的差异，贝U 时间序列是非平稳的。3、单位检验法常用的单位根检验法主要包括DF检验法和ADF检验法。（1） DF检验法DF检验包括三种形式：ytyt i tytytictytytictt其中，c为常数项，t表示线性趋势，随机干扰项独立同分布，且服从 N（o, 2）。根据平稳性的概念，若序列yt是不平稳的

18、，则回归系数 错误！未找到引用源。一般错误!未找到引用源。 较易识别。因此判断序列 yt是否平稳，主要是判断 错误！未找到引用源。 是否为1。如果1，则说明序列存在单位根，是不平稳的，否则是平稳的。进一步，上述三个方程两边同时减去yt i，得：ytyt i tytytictytytict t其中，i，因此可以将DF检验的原假设和备择假设分别为：Ho :0Hi :0相应的统计量为：DF 二一-std（p）DF的形式与t统计量相似，但是该统计量并不服从 t分布，Dickey和Fuller （ I979） 给出了利用蒙特卡罗模拟方法模拟的临界值，因此该检验称为DF检验。DF检验是左侧检验，且不同形式的方程临界值是不同的。注意 DF检验只