五时间序列模型

1、5时间序列模型5.1时间序列数字化技术的应用和发展使得随机序列的分析变得日益广泛和 重要，并由平稳随机过程在时间轴上的取样引出平稳离散随机信号或时间序列的概念.对于这类随机序列，主要采用相关函数和功率谱 进行分析.对于平稳离散时间信号，还常用时间序列描述方法进行研 究，由此提出时间序列模型法.它是采用各种随机差分方程表示时间 序列信号的模型.在许多情况下，一个平稳离散随机信号可以视为白 噪声序列通过某一离散时间线性系统所产生的.在时间序列信号模型分析中，AR(自回归)模型、MA(滑动平均) 模型和ARM(自回归滑动平均)模型是三种最常见的标准线性模型， 它们均由白噪声序列通过离散时间线性系统而

2、产生.而实际应用中许多平稳时间序列往往可由这些模型近似表示，使得有关的分析变得更为简单，也为平稳随机序列的分析和产生提供了有效方法.另外，这些线性模型都具有连续功率谱形状，在参数谱估计方面显示出极大的 优点.除非特别说明，本章只讨论具有连续谱特性的平稳时间序列.5.2自回归(AR)模型设'(n)为具有零均值，方差为 二2的平稳白噪声序列，随机序列 x(n)由如下随机差分方程表示：px(n) _ 八 akx(n _ k) (n)k=i式中p为一正整数,ak(k=0,1, ,p)为实常数，不失一般性，设ao =1， 并设ap =0.上式表示的信号称为p阶自回归模型.显然，x(n)是它的p个

3、过去值和白噪声(n)的线性组合.用AR (p)表示上式的模型.对于上式，从统计观点讲，称x(n)以随机误差(n)线性回归于它的p个过去 值.为使分析方便，首先研究一阶和二阶 AR模型，然后根据p阶AR模型的分析，研究AR模型的自相关函数及功率谱密度.1. 一阶AR模型根据随机序列的差分表达式，当P=1时，可得一阶AR模型x(n)二 ax(n1)亠八(n)式中a为不等于零的实常数.上式为一阶随机差分方程.若设x(0)=0， 可得：2x(n) = (n) ax(n 1) = (n) a (n 1) a x(n_2)二二(n) a (n -1)an(1)容易得到一阶矩Ex(n) =(1 aan4)E

4、p (n)_a E (n).E(n) na =1a =1如果E(n) -0，由上式可以看出，x(n)的均值有可能不满足平稳性， 即可能不满足一阶平稳.然而，如果系数|a <1，当n较大时，则有1imEx( n)=厂£巩 n)I a在此情况下，x(n)是一阶渐进平稳的.通常，Ep (n)=0，可得时间序列x(n)的自相关函数(二阶矩)为:Rx(n,n m)二 Ex(n)x(n m)= E (n) a (n1厂an(1)同(n + m) +ao(n + m1) +an初七(1)2 mm，：2= ；na am：；2(n)U-a22n 二n,2n aa"a =1显然，当a=1

5、时，x(n)并不满足自相关平稳性，但是，当a < 1并且n足够大时，有lim Rx(n,n m) = Rx(m)=n_对于实随机序列，由于m对于R(m)对称分布，有2 m -n aRx(m)n 21 -a对于a ：1，不难推得，当a为正数时，Rx(m)恒为正，且呈指数衰减. 当a为负数时，Rx(m)正负相间指数衰减.根据Rx(m)可得x( n)的方差为：2c2Rx (0)T1 -a说明平稳随机序列x(n)的方差二2比白噪声方差二2大.最后讨论AR(1)模型的功率谱.对Rx(m)式两边取z变换，可得其传递函数为：H(z)11 - azz - ax(n)的功率谱为4 2Zb 2Sx(z) =

6、H (z) Hd(z-a)(1-az)令zV,有Sx() 口1 a2 - 2a cos 2二 n- ,-_ - - :2.二阶AR模型定义随机序列x(n)的二阶AR模型为:1 - ae j 'x(n) a1x(n-1) a2x(n-2) = (n)式中ai和a2均为实常数，a? =0.上式二阶差分方程的特征多项式为:2zaiza2定义后移算子D为后移一步的运算，即Dx(n) = x(n -1)于是，二阶AR模型成为：(1 a1D a2D2)x (n )= (n) = (1 - 乙。)(1 - z2D)x( n)(-a1 -4a2式中Z1和Z2为二阶AR模型特征多项式的根，即Z1,2所以

7、，有特解为:/、(n)1l,Z|Z21 /、x(n)-(n)(1Z1D)(1Z2D)乙一Z2 (1 Z1D) (1Z2D)1F k卅k出 r 乂 L / Z1 -Z2 D (n)Z1 -Z2 _k=0:k 1 k 1八 Z1_Z2(n-k)心 Z - Z2根据模型差分方程，零输入下得齐次方程x(n) ax(n1) a2x(n2) = 0其解为:x(n)二 Az： A2Z；式中A和A2是待定系数，由初始条件确定模型特解和上式之和即为模型的解：x（n） = A1z1n - A2z； ' 勺（n - k）7 zi - z2当-1,2<1时，上式右边齐次解随n的增大而趋于零，而特解部分具

8、有 有限方差，在均方意义下收敛，随n的增大而渐近收敛于特解公式的 平稳结果.实际上，二阶模型的平稳条件与其系数ai和a2是有关的，这可通 过ai和a2平面表示.设zi,2 <1，并设Zi +Z2 = -ai和=a2，根据乙ci， 在其两边同乘（I-Z2），有zi z2 - ziz2 : I 或ai - a2 I其次，根据不等式z-I，两边同乘（i p），有zi z2 ziz -i或 a 一 a2 ：-1根据上式分析，得到以下三个条件：a2 : 1,a1 - a2 乜-1 以及 a -a2 ： 1这就是保证二阶AR模型平稳的条件，可用系数分布图说明.图中示出 了二阶系数欠阻尼、过阻尼和临界

9、阻尼三种情况的系数区域分布， 分 别对应于以下三种情况：（1）欠阻尼：出现Zi和Z2 对共轭复根.（2）过阻尼：出现zi和Z2不同的实根.（3）临界阻尼：出现zi和Z2相同的实根.a22.5a2=0.25*a1*a11.50.51欠阻尼临界阻尼-2-1-0.50过阻尼"Xa1-1a2=-a1-1-1.5-2 11-3-2-1对于平稳的情况，考察二阶 AR模型的自相关函数，对模型方差方程两边同乘x(n m)并作集平均，可得: x(n) ajX(n -1) a2x(n - 2)x(n m)a1x(n m-1) a2x(nm-2)二 E，( n m)，(n)考虑到Eo( n+m)®

10、;( n) =时,.0,可得:Rx(0) a1Rx(1) a2Rx"：,Rx(m) ajRx (m-1) a2Rx(m-2) = 0, m = 0以及Rx(0) a1Rx(1) a2Rx(2)Rx(1) a1Rx(0) a2Rx(1)=0Rx(2) a“Rx (1) a2Rx(00由此解得:2Rx (0)二(1七2)62(1 - a2)(1a2)ai-aiRx(1)丸 Rx(0)1 + a2广 2RJ2)=a? Rx(0)l(1+a2)丿最后，分析AR(2)模型的功率谱密度.容易知道，其传递函数为:H(z)11a1zJ a2z于是，x(n)的功率谱为:1 21a1za2z2z =ej

11、3. p阶AR模型定义如下随机差分方程为p阶AR模型x(n) yx(n-1) 一一apx(n - p)二(n)式中ak(k=1,2, ,p)为实常数，且ap=0.对上式两边取z变换，可得：p、akX(z)z* =W(z), (a。=1)k=0于是，以上AP(p)模型的传递函数为：H(z)X(z)W(z)1p1 a akz"km根据它的特征多项式可解出p个H(z)的极点Z1,Z2,，Zp.于是，该模型H(z)二的传递函数可写为:(1 _讨)(1 _Z2ZJ)(1-ZpZ-1)所以，AR模型的传递函数只有极点，除原点外没有任何零点，属于 全极点模型，对应于全极点滤波器，具有无限冲激响应(

12、IIR).因此， 模型传递函数的性质完全取决于 p个极点在z平面上的分布情况.可以证明，如果所有p个极点均满足|召| c1(i=1,2,，p)，那么，AR模型信 号满足渐近平稳性.条件|Zi ：1(i =1,2,p)意味着有界输入通过线性系 统导致有界输出，系统H(z)是稳定的，这说明模型传递函数的稳定性与模型的平稳性是等价的.根据AR模型的传递函数,p阶AR模型的功率谱密度为:H3)2p1 akekk珀2-npn (e-Zk)i斗可见AR模型的功率谱由各模型系数a'k =1,2，,p)确定.最后讨论AR(p)模型参数与相关函数的关系.根据自相关函数的定义，有Ex( n)x( n m)

13、 =Rx(m)p=Ex(n)-' akx(n m _ k) (n m)k#p-x' akRx(m-k) Ex(n) (n m)k =1由于aEx( n)co( n + m) = *0,于是，有:" p2一£ akRx(m _k)+6, m = 0Rx(m)二kp1- akRx(m-k),m = 0将上式分别以m =1,2,p代入，可得以下矩阵方程形式:-Rx(0)Rx(1)Rx(2)aRx(-1)Rx(0)Rx(1)a-Rx(-2)Rx(-1)Rx(0)aRx(-P)-Rx(_p + 1)Rx(p+2)1a1a200Rx(p)Rx(p-1)Rx(P_2)Rx

14、(0)_?p-0 一由于Rx(m)= Rx(_m)，可得_Rx(0)Rx(1)Rx(2)Rx(p) T_1-Rx(1)Rx(0)Rx(1)-Rx(P-1)a10Rx(2)Rx(1)aRx(0)aRx(P-2)ia2=03-Rx(P)Rx(p1)Rx(p2)Rx(0)_ap 一-0 一上式称为尤里-沃克(Yule-Walker )方程.所以，如果选择了 AR(p)模型，并可选定或根据观测数据估计模型的自相关函数， 则可由尤里-沃克方程解出p个模型参数ak，由此确定该模型，估计模型的功率谱密度函数.关于其他AR(p)参数谱估计法还有很多，请有兴趣的同 学自行查阅相关文献.5.3滑动平均(MA)模型

15、滑动平均模型(MA模型)是时间序列模型另一种主要形式，通 常用MA(q)记q阶MA莫型.定义为：qx(n)八 bk (n - k)k=0式中bjk =1,2, ,q)为实常数，且bq =0 ,称为MA(q)模型的参数，通常 有b。=1 , (n)仍为零均值、方差为匚2的白噪声序列.由于q是有限的， 所以MA(q)模型也是平稳的.1. 一阶MA模型定义MA(1)模型为：x(n) = (n) b (n -1)容易求得Ex2(n)二 Rx(0) "2 =1 b2Rx(1) =bRx (m) = 0, m 1显然，MA(1)模型是一阶相关的，其相关系数在士 0.5之间取值.2. q阶MA模型

16、对于MA(q)模型qx(n)八 ，(nk)k=1上式两边取z变换，可得该模型的传递函数为：H(z) -1 b1zJ b2zbqzT可知H(z)有q个零点k(k =1,2/ ,q)，于是H(z) =(1z，)(1 说')(V qz-1)这是一个全零点模型，具有有限冲激响应(FIR).由MA(q)的定义式，可见x(n)是白噪声序列(n)的当前值和(q-1) 个过去值的线性组合，所以，当x(n)中的n大于q时，其白噪声序列的线性组合将全部为更新后的值，由此可以推断，相隔长度大于q的x(n)其自相关函数为零，即x(k)与x(k q i)(i =1,2,3,)互不相关.因此,MA(q)模型自相关

17、函数的相关长度为q .MA(q)的自相关函数为:qqRx(m)二 Ex(n)x(n m)二 E, bk (n-k) b(n m-k)7k£由于E (n)，(n m)0,于是有q2Rx(m) =；n' bkbk_m,0 辽 m m qk由此可得x(n)的方差为:q-X = Rx(0) = ； n 一 bkk -m所以，MA(q)模型的二阶矩与阶次和参数有关.Rx(m)式子证明了 MA(q)模型自相关函数的相关长度为q ,当各模型参数bk均为丄时，其相关函数具有如下简单形式:q +1Rx(m)二c 2nq 1q+J根据MA(q)的全零点传递函数，模型的功率谱密度函数为:Sx(&#

18、39;)二二2q1 - bke”k =1也可用全零点谱形式表示:q2Sx®) "nD(Z-如)k#5.4自回归滑动平均(ARMA模型如果用一个p阶自回归模型和一个q阶滑动平均模型组成一个混 合模型，可得一个形如以下差分方程的模型：pqakX(n-k) 八 bk (n-k)k z0k z0式中ak(k =0,1,2- , p)和bk(k =0,1,2, ,q)均为实常数，且ak和bk不为零， 通常有ao二b。=1.如果q =0,上式退化为一个 AR(p)信号模型；如果 P = 0，则为一个MA(q)信号模型.上式定义的模型称为自回归滑动平 均模型，也称ARM模型，记为ARMA(p,q).对上式两边取z变换，可得ARMAI型的传递函数为：qH (z) = A(z) _ kz = (Z '1)(Z 2)(Z q)(Z八葩：a ”Z J(Z 2) (Z p) akZ