ARMA模型的时域特性

1、ARMA模型的时域特性 第三章第三章 ARMAARMA模型的特性模型的特性 ARMA模型的时域特性 nARMA模型，一方面，它基于观测时间序列 建立 起来的随机微分方程，因而它解释了动态数据的统 计特性；另一方面，由于 可视为某一系统的输 出，因而，它又揭示了产生此动态数据的系统的动 态特性。 n同时，不论是数据的统计特性，还是系统的动态特 性，均可在时域和频域中得到描述，所有这些特性， 构成了ARMA模型的基本特性。 t x t x ARMA模型的时域特性 n本章重点讨论ARMA模型的最主要的时域特性 系统的单位脉冲响应函数 和动态数据的自协方 差函数 。前者表征系统特性，在时序方法中又 称

2、为Green函数，后者表征数据的统计特性。 n同时，还将介绍ARMA模型的另外两个时域特性 逆函数和偏自相关函数。 j G k ARMA模型的时域特性 n讨论模型特性的目的在于，一方面，它 是实际应用的理论基础，很多实际问题 的解决往往就是模型特性直接应用的结 果；另一方面，它又是建立模型的必要 准备。 ARMA模型的时域特性 线性常系数差分方程及其解的一般形式线性常系数差分方程及其解的一般形式 n在时间序列的时域分析中，线性差分方程是非 常重要，也是极为有效的工具。 n任何一个ARMA模型都是一个线性差分方程； 因此，ARMA模型的性质往往取决于差分方程 根的性质。 n为了更好地讨论ARMA

3、模型的特性，先简单介 绍线性差分方程的一般知识。 ARMA模型的时域特性 时间序列模型与线性差分方程时间序列模型与线性差分方程 n线性差分方程在时间序列分析中有着重要的 应用，常用的时间序列模型和某些模型的自 协方差函数和自相关函数都可以视为线性差 分方程，而线性差分方程对应的特征根的性 质对判断模型的平稳性有着非常重要的意义。 ARMA模型的时域特性 n是普通的n阶差分方程，其中 为系统参数 的函数，当 为常数时，就是常系数n阶差 分方程， 是个离散序列，也叫驱动函数； 是 系统的响应。当 时，上式变为 n称为n阶齐次差分方程。 10 ()(1) .( )( ) n y knay kna y

4、 ku k 10 ()(1) .( )0 n y knay kna y k 01 ,., n aa 01 ,., n aa ( )u k( )y k ( )0u k 线性差分方程 ARMA模型的时域特性 112211 .( ) tttnt n aaaau t ARMA模型的时域特性 n线性差分方程 n齐次线性差分方程 10 ()(1) .( )( ) n y knay kna y ku k 10 ()(1) .( )0 n y knay kna y k ARMA模型的时域特性 n设 ( ) k y k ARMA模型的时域特性 AR(1)AR(1)模型的模型的GreenGreen函数函数 n1、

5、AR(1)AR(1)模型的模型的GreenGreen函数函数 ARMA模型的时域特性 n首先，将最简单的AR(1)模型作为一个例子。 n AR(1)模型： n反复进行迭代 11ttt XXa 11 11 1121 2 1112 () . . ttt ttt ttt ttt XXa XXa Xaa aa ARMA模型的时域特性 n 1 0 j ttj j Xa 即： ARMA模型的时域特性 GreenGreen函数的定义函数的定义 n当一个相关的平稳时间序列可以用一个无关的平稳 时间序列的现在值和过去值的线性组合表示时，其 “权权”定义为GreenGreen函数，即函数，即 式中，式中， 称为称

6、为GreenGreen函数，函数， ， 0 tjtj j XG a j G 0 1G 1 j j G ARMA模型的时域特性 tt XG B a（1）式可以记为 其中 0 j j j G BG B 式（1）表明具有传递形式的平稳序列可以由现在时刻以前 的白噪声通过系统“ ”的作用而生成， 是j个 单位时间以前加入系统的干扰项 对现实响应的权，亦 即系统对 的“记忆”。 0 j j j G BG B j G tj a tj a 格林函数的意义格林函数的意义 格林函数的含义：格林函数是描述系统记忆扰动程度的函数。格林函数的含义：格林函数是描述系统记忆扰动程度的函数。 ARMA模型的时域特性 nGr

7、een函数刻画了系统动态响应衰减的快慢程 度。 nGreen函数所描述的动态性完全取决于系统参 数 。 j ARMA模型的时域特性 则AR(1)模型的格林函数可以表示为： AR(1)模型可表示为 同时，可用一个无限阶MA来逼近。 1 j j G 1 0 j ttj j Xa ARMA模型的时域特性 例例：下面是参数分别为0.9、0.1的AR（1）系统 对 t a扰动的记忆情况。（P46） ARMA模型的时域特性 AR(1)AR(1)系统的平稳性系统的平稳性 n系统稳定性的概念以及稳定性与平稳性的关系系统稳定性的概念以及稳定性与平稳性的关系 ARMA模型的时域特性 一阶系统的稳定性 nGreen

8、函数的另一个重要作用是， 可表明系统 的稳定性这一重要的动态特性。所谓一个系统是 不稳定的，是指它在任意瞬间受到一个一瞬即逝 的干扰(即脉冲)后，其运动状态偏离平衡位置越 来越远，这相当于 ， 是发散的；反之， 如果其运动状态最终能回到平衡位置上，这相当 于 ，则称系统是渐进稳定的； j G j Glim j j G lim0 j j G ARMA模型的时域特性 n线性系统的稳定性仅由系统本身的固有特性所 决定，而与外界无关，即，ARMA模型所描述 的线性系统，其稳定性只与AR部分有关，而与 MA部分无关，因此，AR(1)，ARMA(1,1)， ARMA(1,m)系统的稳定性问题实质上是一致的

9、， 从而可根据Green函数的取值情况判断它们所 对应的不同的一阶系统的稳定性。 ARMA模型的时域特性 n 11 11 1 (1)1limlim0, 1limlim 1lim1lim1 j jj jj j jj jj jj jj GG GG GG 当时，收敛于零，系统是渐进稳定的。 (2)当时，是发散的，系统是不稳定的。 (3)当时，或，系统是稳定的，但不是渐进稳定的。 ARMA模型的时域特性 2、 AR(1)AR(1)系统的平稳性条件系统的平稳性条件 平稳性的涵义就是干扰项对系统的影响逐渐减平稳性的涵义就是干扰项对系统的影响逐渐减 弱，直到消失，对于一个弱，直到消失，对于一个ARAR（1

10、1）系统，将其写成）系统，将其写成 格林函数的表示形式格林函数的表示形式: : 0 tjtj j XG a ARMA模型的时域特性 如果系统是平稳的，则预示随着j，扰动的权 数 0 j G 对于AR(1)系统0 j G 即 1 0 j 这要求 1 1 上述条件等价于AR(1)系统的特征方程 1 0 的根在单位圆内(或方程( )0B 的根在单位圆外). ARMA模型的时域特性 AR（n）模型，即() tt B Xa 其中： 2 12 ( )1. n n BBBB 的平稳性条件为： ( )0B的根在单位圆外 12 12 ( ).0 nnn n （或 的根在单位圆内）。 AR（n）系统的平稳性条件：

11、）系统的平稳性条件： AR(1)AR(1)的结论可以推广到的结论可以推广到AR(n)AR(n) ARMA模型的时域特性 ARMA(2,1)模型的Green函数 n 1122 jj j Ggg 1121 12 1221 g,g 其中， 12 AR和是部分的特征根。 ARMA模型的时域特性 AR(2)和ARMA(1,1)模型的Green函数 nAR(2)和ARMA(1,1)模型是ARMA(2,1)模型的特殊 形式； n描述动态性的Green函数也有上述关系； ARMA模型的时域特性 ARMA(1,1)模型的Green函数 n 1 111 1,0 (),1 jj j G j ARMA模型的时域特性

12、ARMA(2,1)系统的平稳性 n1、用特征根表示的平稳性条件 n这个推论在AR(1)中平稳性的条件，同样对ARMA(2,1) 模型也依然适应；此时， nARMA(2,1)系统的平稳性条件为： n即，特征方程的特征根的模在单位圆内 0, j Gj 若则系统是渐进平稳的 1122 jj j Ggg 12 1,1 ARMA模型的时域特性 ARMA(n,n-1)系统的平稳性 1,1, 2,., i in ARMA模型的时域特性 2、用自回归系数表示的平稳性条件 12 21 2 (2,1) 1 1 1 ARMA 系统的平稳性条件的系统参数形式为： 系统的平稳性仅与自回归参数有关，而与移动平均参数无关。

13、 特征根的表示形式也说明了这一点，由于特征根仅与自回归 参数有关，与移动平均参数无关。 ARMA模型的时域特性 AR(n)AR(n)模型的模型的GreenGreen函数函数 nAR(n)AR(n)模型模型GreenGreen函数的递推公式为：函数的递推公式为： 0 1 G1 G,1,2,. , 0, j jkj k k k k Gj kn kn 其中： ARMA模型的时域特性 AR（n）模型，即() tt B Xa 其中： 2 12 ( )1. n n BBBB 的平稳性条件为： ( )0B的根在单位圆外 12 12 ( ).0 nnn n （或 的根在单位圆内）。 AR（n）系统的平稳性条件

14、：）系统的平稳性条件： ARMA模型的时域特性 第二节第二节 逆函数和可逆性逆函数和可逆性 （Invertibility） ARMA模型的时域特性 是零均值平稳序列，如果白噪声序列 t X t a 1 ttjtj j aXI X 能够表示为 一、逆函数的定义逆函数的定义 设 则称上式为平稳序列 t X 式中的加权系数 0 1,2,.1 j IjI称为逆函数。 的”逆转形式“。 ARMA模型的时域特性 n1、逆函数逆函数 类似Green函数，逆函数定义为：当一 个无关的平稳时间序列 可以用一个相关 的平稳时间序列 的现在值和过去值的线 性组合来表示时，其负“权”定义为逆函 数. t a t X

15、ARMA模型的时域特性 可逆的定义可逆的定义 n可逆定义 n若一个模型能够表示成为收敛的AR模型 形式，那么该模型具有可逆性，也就是可 逆的。 n可逆概念的重要性 n一个自相关系数列唯一对应一个可逆MA 模型。 ARMA模型的时域特性 AR(1)模型的逆函数模型的逆函数 11 11 (1) ttt ttt ARXXa aXX 模 型 ： 即 ， 11 AR(1) ,0,1 j IIj 模型的逆函数为： 逆函数逆函数 ARMA模型的时域特性 1 1 22 11 1 0 (1) 1 (1) (1) tt tt t j tj j BXa Xa B BBa a Green函数函数 j1 AR(1)Gr

16、een G j 模型的函数为： ARMA模型的时域特性 1 1 1 (1) (1) j j jj G B IB IG 可 见 ： 由 算 子求 得 由 算 子求 得 由 于 形 成的 算 子 是 形 成的 算 子 的 倒 数 ， 所 以 称 作 为 逆 函 数 。 “ 逆 ” 的 由 来 ARMA模型的时域特性 MA(1)模型的逆函数模型的逆函数 11 1 (1) (1) ttt tt M AXaa XB a 模 型 ： 逆函数逆函数 1 22 11 1 1 1 (1) (1.) tt t j ttj j aX B BBX XX ARMA模型的时域特性 1 MA(1) j j I 模型的逆函数

17、为： 1 1 () j ttjt j XXa ARMA模型的时域特性 Green函数函数 011 AR(1)Green 1,0,1 j GGGj 模型的函数为： 11 1 (1) ttt t Xaa B a ARMA模型的时域特性 1 1 (1) 1 (1) j j jj GB I B IG 可见： 由算子求得 由算子求得 形成 的算子是形成的算子的倒数 ARMA模型的时域特性 格林函数与逆函数间关系格林函数与逆函数间关系 11j1 AR(1),0,1G j j IIj： 0 111 1, MA(1): , 0,1 j j j G GI Gj j 1 1 AR(1)GMA(1) - .AR(1

18、)MA(1) j jjjj jj I GIIG IG 的与的 形式一致，只是符号相反，参数 互换.从而，可以根据求得 ，用代替，用 代 替同样，的 与的形式也是一致. ARMA模型的时域特性 n格林函数与逆函数间的这种对偶性不只是 一阶模型所有，对于任意阶模型都成立。 n例如：ARMA(2,1)与ARMA(1,2) 111122 (1,2): ttttt ARMA XXaaa 模型 1122=0ttt aaa 逆函数的显示表达： 令 ARMA模型的时域特性 2 12 12 2 12112 121 1 22 0 , 1 ,=+4 2 += =- VV V V V V V V VV 解之，得 设：

19、是特征根，则有 1 122 jj j VhVhV 由此可得该方程的通解： ARMA模型的时域特性 1121 12 1221 , VV hh VVVV 解得， 格林函数与逆函数的对偶性可见。 1111 122 211121 122 () IhVhV IhVhV 利用逆函数隐式与显示对比可得 ARMA模型的时域特性 MA(m)模型逆函数的递推公式 n如果一个MA(m)模型满足可逆性条件，它就可 以写成如下两种等价形式： ( ) ( ) ( ) ( ) tt tt tt B aX B I B XX aI B X ARMA模型的时域特性 MA(m)模型模型逆函数的递推公式逆函数的递推公式 0 1 1

20、,1 , 0, l ljlj j j j I IIl jm jm 其中： ARMA模型的时域特性 MA模型的可逆条件 nMA(m)模型的可逆条件是： nMA(m)模型的特征根都在单位圆内 1 i V ARMA模型的时域特性 ARMA(1,2)模型的可逆性条件模型的可逆性条件 12 12 2 (1,2) 1 1 1 ARMA 系统的可逆性条件的系统参数形式为： 12 (1,2) 1,1 ARMA VV 系统的可逆性条件的特征根形式为： ARMA模型的时域特性 例3.6续:考察如下MA模型的可逆性 21 21 1 1 4 25 2 5 )4( 25 4 5 2 )3( 5 . 0)2( 2) 1

21、( tttt tttt ttt ttt x x x x ARMA模型的时域特性 (1)(2) n n n逆函数 n逆转形式 不可逆 122 1 ttt x 可逆 15 . 05 . 0 1 ttt x 0 5 . 0 k kt k t x 1,5 . 0 1 k I k k ARMA模型的时域特性 (3)(4) n n n逆函数 n逆转形式 可逆 1, 1 25 4 5 2 21221 tttt x , 1 , 0, 23, 0 133,) 1( 1 n nk nnk I kn k 或 0 13 131 0 3 31 4 . 0) 1(4 . 0) 1( n nt nn n nt nn t x

22、x 不可逆 1 4 25 4 25 4 25 2 5 2221 tttt x ARMA模型的时域特性 ARMA模型 一、一、ARMA(n,m)模型可分别表示为：模型可分别表示为： ()() tt B XB a 其中：其中： 2 12 ( )1., n n BBBB 为n阶自回归系数多项式。 2 12 ( )1. m m BBBBm ，为 阶移动平均系数多项式。 ARMA模型的时域特性 平稳条件与可逆条件 nARMA(n,m)模型的平稳条件 nn阶自回归系数多项式 的根都在单位圆外 n即ARMA(n,m)模型的平稳性完全由其自回归部分的平 稳性决定 nARMA(n,m)模型的可逆条件 nm阶移动

23、平均系数多项式 的根都在单位圆外 n即ARMA(n,m)模型的可逆性完全由其移动平滑部分的 可逆性决定 ( )0B ( )0B ARMA模型的时域特性 理论自协方差函数和自相关函数 对于ARMA系统来说，设序列的均值为零，则自协方差函数 ktt k E X X 第三节第三节 自相关函数与偏自相关函数自相关函数与偏自相关函数 自相关函数 0 k k 样本自相关函数的计算 在拟合模型之前，我们所有的只是序列的一个有限 样本数据，无法求得理论自相关函数，只能求样本的自 协方差函数和自相关函数。样本自协方差样本自协方差有两种形式： * 1 1 ,0,1,2,.,1 N ktt k t k X XkN

24、Nk 一、自相关函数自相关函数 ARMA模型的时域特性 则相应的样本自相关函数为：样本自相关函数为： 11 22 0 11 1 1 NN ttkttk ktktk kNN tt tt X XX X N XX N * * 11 22 0 11 1 1 NN tt ktt k kt kt k kNN it tt X XX X NNk Nk XX N 1 1 ,0,1,2,.,1 N ktt k t k X XkN N ARMA模型的时域特性 1 1、AR(n)AR(n)过程自相关函数过程自相关函数ACFACF 1阶自回归模型阶自回归模型AR(1) Xt=Xt-1+ at 的k阶滞后自协方差函数自协

25、方差函数为： 011 )( k kttktk XXE k=1,2, 因此，AR(1)模型的自相关函数自相关函数为 k kk 0 k=1,2, 若若AR(1) 稳定，则稳定，则| | | 1，因此，因此，k k时，呈指数形时，呈指数形 衰减，直到零衰减，直到零。这种现象称为拖尾拖尾或称AR(1)有无穷记忆有无穷记忆 （infinite memory）。 注意注意， 0时，呈振荡衰减状。 ARMA模型的时域特性 一般地，n阶自回归模型阶自回归模型AR(n) Xt=1Xt-1+ 2Xt-2 + nXt-n + at k k期滞后协方差为期滞后协方差为: : nknkk tntnttKtk XXXXE

26、 2211 2211 )( 从而有自相关函数从而有自相关函数 : : 可见，无论无论k k有多大，有多大， k 的计算均与其到的计算均与其到n n阶滞后阶滞后 的自相关函数有关的自相关函数有关，因此呈拖尾状呈拖尾状。 如果如果AR(n)AR(n)是平稳的，则是平稳的，则| | k k| |递减且趋于零递减且趋于零。 1122 . kkknk n ARMA模型的时域特性 其中：zi是AR(n)特征方程(z)=0的特征根， 由AR(n)平稳的条件知，|zi|1时，时， k k=0，即，即Xt与与Xt-k不相关，不相关，MA(1)MA(1)自自 相关函数是截尾的。相关函数是截尾的。 ARMA模型的时

27、域特性 其自协方差系数自协方差系数为 一般地，一般地，m阶移动平均过程阶移动平均过程MA(m) 相应的自相关函数自相关函数为 2222 12 2 11 (1.)0 ()(.) 0 am ktt kakkm km k rE X Xkm km s s 当 当1 当 11 . tttmt m Xaaa 222 1112 0 10 (.)/(1.) 0 k kkkm kmm k r km r km 当 当1 当 ARMA模型的时域特性 n 可见，当km时， Xt与与Xt-k不相关，即存在截尾现象，因 此，当当km时，时， k k=0是是MA(m)的一个特征的一个特征。 于是：可以根据自相关系数是否从某

28、一点开始一直为可以根据自相关系数是否从某一点开始一直为0 0来来 判断判断MA(m)MA(m)模型的阶。模型的阶。 ARMA模型的时域特性 二、偏自相关函数二、偏自相关函数 自相关函数自相关函数ACF(k)给出了给出了X Xt t与与X Xt-1 t-1的总体相关性， 的总体相关性， 但总体但总体 相关性可能掩盖了变量间完全不同的隐含关相关性可能掩盖了变量间完全不同的隐含关 系。系。 例如，在AR(1)随机过程中，Xt与Xt-2间有相关性相关性 可能主要是由于它们各自与Xt-1间的相关性带来的: )()( 211 2 1 2 2 tttt XXEXXE ARMA模型的时域特性 n即自相关函数中

29、包含了这种所有的“间接” 相关。 与之相反，与之相反，X Xt t与与X Xt-kt-k间的偏自相关函数间的偏自相关函数 (partial autocorrelation(partial autocorrelation，简记为，简记为PACF)PACF) 则是消除了中间变量则是消除了中间变量Xt-1Xt-1，Xt-k+1 Xt-k+1 带带 来的间接相关后的直接相关性，它是在已知来的间接相关后的直接相关性，它是在已知 序列值序列值Xt-1Xt-1，Xt-k+1Xt-k+1的条件下，的条件下，XtXt与与 Xt-kXt-k间关系的度量。间关系的度量。 ARMA模型的时域特性 从Xt中去掉Xt-1

30、的影响，则只剩下随机扰动项at， 显然它与Xt-2无关，因此我们说Xt与Xt-2的偏自相关函数偏自相关函数 为零，记为 在AR(1)中， 0),( 2 * 2 tt XCorr 对于AR(1) 过程，当k = 1时, 1 0，当k 1时, k* =0，所以AR(1) 过程的偏自相关函数特征是在k = 1出现 峰值（ 1 = 1*）然后截尾。 AR(n)模型模型 ARMA模型的时域特性 自相关函数： 平滑地指数衰减平滑地指数衰减 偏自相关函数： k=1时有正峰值然后截尾时有正峰值然后截尾 AR(1)模型相关函数与偏自相关函数对比模型相关函数与偏自相关函数对比 ARMA模型的时域特性 同样地，在同样地，在AR(n)过程中，对所有的过程中，对所有的kn，Xt与与Xt-k间的间的 偏自相关函数为零。偏自相关函数为零。 AR(n)的一个主要特征是的一个主要特征是: kn时，时， k*=Corr(Xt,Xt-k)=0 即即 k*在在n以后是截尾的。以后是截尾的。 一随机时间序列的识别原则：一随机时间序列的识别原则： 若若Xt的偏自相关函数在的偏自相关函数在n n以