时间序列模型归纳地地总结复习

1、时间序列模型归纳总结复习随机时间序列分析的几个基本概念一、随机过程(Stochastic Process)定义 设(Q ,F,P)是概率空间，T是给定的参数集，如果对于任意 t T,都有一定义在(Q ,F ,P)上 的随机变量 X(t, 3)与之对应，则称随机变量 族X(t, 3),t T为随机过程。简记为X(t,),t T或Xt,t T 或 Xt离散参数的随机过程也称为随机序列或(随机)时间序列。上述定义可简单理解成：随机过程是一簇随机变量Xt,t T，其中T表示时间t的变动范围，对每个固定的时刻t而言，Xt是一普通的随机变量，这些随机变量的全体就构成一个随机过程。当t=0, ±1

2、, ±2,时，即时刻t只取整数时，随机过程Xt,t T可写成如下形式,Xt,t=0, ±1, ±2,。 此类随机过程Xt是离散时间t的随机函数，称它为随机序列或时间序列。对于一个连续时间的随机过程的等间隔采样序列，即Xt,t=0, ±1, ±2就是一个离散随机序列。二、时间序列的概率分布和数值特征1、时间序列的概率分布一个时间序列便是一个无限维的随机向量。一个无限维随机向量 X=(,X-1,X0,X1,)/的概率分布应当用一个无限维概率分布描述。根据柯尔莫哥夫定理，一个时间序列的概率分布可以用它有限维分布簇来描述。时间序列所有的一维分布是：，F

3、-1( ), F0(), F1(),所有二维分布是：Fij( ,), i, j=0, ±1, ±2,(i 冇)一个时间序列的所有有限维分布簇的全体，称为该序列的有限维分布簇。2、时间序列的均值函数一个时间序列的均值函数是指:t EXtXdFt(X)其中EXt表示在t固定时对随机变量 Xt的求均值，它只一维分布簇中的分布函数Ft()有关。3、时间序列的协方差函数与自相关函数与随机变量之间的协方差相似，时间序列的协方差函数 定义为：(t,s) E(Xtt) Xs s(Xt) Yss dFt,s(X,Y)其中Ft,s(X,Y)为(Xt，Xs)的二维联合分布。类似可以定义时间序列的

4、 自相关函数，即：(t,s)(t,s)/., (t,t) (s,s)时间序列的自协方差函数有以下性质：(1)对称性：(t,s)(s,t)(2) 非负定性：对任意正整数m和任意m个整数ki, k2,km，方阵ki,kiki,k2 L ki,kmk2,k1k2,k2 Lk 2,kmkm ,kik m ,k 2 Lk m ,k为对称非负定矩阵。时间序列的自相关函数同样也具有上述性质且有p(t,t)=i 。三、平稳随机过程平稳时间序列是时间序列分析中一类重要而特殊的随机序列，时间序列分析的主要内容是关于平稳时 间序列的统计分析。(一) 两种不同的平稳性定义:i、严平稳：如果对于时间t的任意n个值ti,

5、t2,L ,tn和任意实数，随机过程Xt的n维分布满足关系式:Xi，X2，L Xn；tt2 丄 tFn 0X2 丄 Xn；,t2则称Xt为严平稳过程。2、宽平稳：若随机过程Xt,t T的均值(一阶矩)和协方差存在，且满足(1) E Xt at T(2) E Xt k a Xt a k t,t k T则称 Xt,t T为宽平稳随机过程。通常说的平稳是指宽平稳。二者的联系：(I) 严宽：因为宽平稳要求期望和协方差存在，而严平稳要求概率分布存在，而不能断言二阶矩存在。(n)宽严，这是不言而喻的。(川)严平稳+二阶矩存在宽平稳。但反过来一般不成立。(W)对于正态过程来说，有：严平稳宽平稳(二) 平稳时

6、间序列自协方差函数和自相关函数为了叙述方便，常假定平稳时间序列Xt的均值为零，即E Xt 0。用以下记号表示平稳序列 Xt的自协方差函数，即k E Xt k EXt k Xt EXt当 EXt 0时EXtXt k相应地，Xt的自相关函数用以下记号kk： 0平稳序列Xt的自协方差函数列和自相关函数列具有以下性质：(1) 对称性：k(2) 非负定性：对于任意正整数 m ,01 Lm-110 Lm-2L L L L，Rm11Lm-1L m-2L Lm-1m-2L 0m-1m-2 L 11。为非负定对称方阵;(3)(三) 平稳序列的样本统计量(1) 样本均值时间序列无法获得多重实现，多数时间序列仅包含

7、一次实现，对于一个平稳序列用时间均值代替总体均值。即nXtt 1上式的估计是无偏的。(2) 样本自协方差函数kXt1Xt k XXtXXt k X第一式是有偏估计，第二式是无偏估计，但有效性不如第一式。其它概率性质和偏自相关函数的定义将在以后章节介绍。四、几类特殊的随机过程(序列)1、纯随机过程：随机过程如果是由一个不相关的随机变量的序列构成的，则称其为纯随机过程。2、白噪声序列(White noise ):如果时间序列 Xt满足以下性质:(1)E Xt0(2)E XtXs 2 t,s式中，当t MS时，t,s 0, t,t 1。称此序列为白噪声序列，简称白噪声。白噪声是一种最简单的平稳序列。

8、（3） 独立同分布序列：如果时间序列Xt ,t T中的随机变量Xt,t=0, ±1, ±2,为相互独立的随机变量，而且Xt具有相同的分布，称这样的时间序列Xt,t T为独立同分布序列。独立同分布序列是一种最简单的严平稳序列。一般说，白噪声序列与独立同分布序列是不同的两种序列，当白噪声序列为正态序列时，它也是独立 同分布序列，此时称之为正态白噪声序列。（4） 独立增量随机过程：对于任意正整数n,任意ti T i 1,2,L ,n, t2 Ltn，随机变量Xt2 Xti, Xt3 Xt2丄Xtn Xtni相互独立。简单地讲，就是任意两相邻时刻上的随机变量之差（增量）是相互独立的

9、。（5） 二阶矩过程：若随机过程 Xt,t T对每个t T, Xt的均值和方差存在，则称之为二阶矩过程。（6）正态过程：若 Xt,t T的有限维分布都是正态分布，则称Xt,t T为正态随机过程。主要介绍三种单变量模型：自回归（ AR ）模型、移动平均（MA ）模型和自回归移动平均（ARMA ） 模型。第一节自回归模型一、一阶自回归模型 AR（1）如果时间序列独立，就是说事物的后一时刻的行为主要与其前一时刻的行为毫无关系。这样的资料所 揭示甲统计规律就是事物独立地随机变动，系统无记忆能力。如果情况不是这样，资料之间有一定的依存性。Xt-1 ;后一时刻的行为主要与前一时刻的行为有关，而与其前一时刻

10、以前的行为无直接关系，即已知Xt主要与Xt-1相关。用记忆性来说，就是最短的记忆，即一期记忆，也就是一阶动态性。描述这种关系的数学模型就是一阶自回归模型。即Xt1Xt 1at记作AR (1 )。其中Xt零均值平稳序列，a t为随机扰动。1、一阶自回归模型的特点Xt对Xt-1有线性相关关系at为独立正态同分布序列E(atXtj)0, j 1,2,2、AR (1 )与普通一元线性回归的关系元线性回归YXi i一阶自回归Xt1Xt 1 at两个变量，Y为随机变量，X为确定性变量；一个变量，Xt为随机变量;E( i)0 ；cov( ij)0 i jvar( i)2;cov( X ii)0 ；i : N

11、0,2at为白噪声序列，E(at) 0 ;E(atXtj)0, j 1,2,.；还可假定at为正态分布。主要区别：(1 ) 普通线性回归模型需要一组确定性变量值和相应的观测值；AR( 1)模型只需要一组随机变量的观测值。(2) 普通一无线性回归表示的是一随机变量对另一个确定性变量的依存关系；而AR (1)表示的是一个随机变量对其自身过去值的依存关系。(3) 普通线性回归是在静态的条件下研究的；AR( 1)是在动态的条件下研究的。(4) 二者的假定不同。(5) 普通回归模型实质是一种条件回归，而AR( 1 )是无条件回归。主要联系：固定时刻t-1，且观察值Xt-1已知时，AR( 1 )就是一个普

12、通的一元线性回归。二、AR( 1 )模型的特例随机游动1、随机游动模型Xt Xt 1 at2、模型的特性(1) 系统具有极强的一期记忆性，系统在t-1和t时刻的响应，除随机扰动外，完全一致，差异完全是由扰动引起的。(2) 在时刻t-1时，系统的一步超前预测就是系统在t-1时的响应Xt-1 ,即X(11 Xt 1。(3) 系统行为是一系列独立随机变量的和，即at jXt三、一般自回归模型 AR(n)Xt 1Xt 12Xt 2 .nXt n 可其中：引为白噪声，E( Xt j) 0, j 1,2,。第二节移动平均模型一、一阶移动平均模型 MA (1)如果系统的响应 Xt仅与其前一时刻进入系统的扰动

13、at存在一定的相关关系，则有MA (1)模型:Xt at 角1其中：at为白噪声。MA（1）模型的基本假设为:（1）系统的响应 Xt仅与其前一时刻进入系统的扰动at有一疋的依存关系；（2）at为白噪声。、一般移动模型MA（m ）模型的形式：Xtat1at 11目 2mat m其中:(1) Xt 仅与 t 1 ,t 2，t m有关，而与 t j （j=m+1,m+2,）无关；（2）t为白噪第三节自回归移动平均（ARMA）模型、ARMA （2 , 1）模型1、ARMA （ 2，1）模型的形式：Xt 1Xt 12 Xt 2 t 1 t 1其中：Xt与Xt 1、Xt 2和t 1有相关关系，t白噪声。2

14、、ARMA （ 2，1）模型的结构：ARMA （ 2，1）模型是由一个 AR（ 2）和一个 MA （ 1 ）两部分构成。3、ARMA （ 2，1 ）与 AR（ 1 ）的区别从模型形式看，ARMA （ 2，1 ）比AR（ 1 ）的项数多；从模型的动态性看， ARMA （ 2，1 ）比AR（ 1） 具有更长的记忆；从计算 t所需的资料看，ARMA （2 , 1）需要用t期以前的t 1 , t 2，这需要从初期开始 递归地计算出来，o通常取零；从参数估计来看，ARMA （2 , 1 ）比AR （1）困难。ARMA (n , n-1 )模型X t 1X t 1 .n Xt n t 1 t 1 . n

15、1 t n 1ARMA (n,n-1 )模型的基本假设为:t独立于 t (j=n,n +1,),从而t独立于Xt j (j=n+1, n+2,).、ARMA（n , n-1）模型的合理性为什么我们以 ARMA(n , n-1)模型为一般形式来建立时序模型呢 ？难道一个ARMA(n , n-1)模型总可 以描述一个时间序列吗 ？对于平稳系统来说，这是毫无疑问的。之所以以ARMA(n , n-1)为基本模型是因为下述理由：第一，AR、MA、ARMA(n , m)模型都是 ARMA(n , n-1)模型的特殊情形。第二，理论依据：用 Hilbert空间线性算子的基本理论可以证明，对于任何平稳随机系统

16、，我们都可以用一个ARMA(n ,n-1)模型近似到我们想要达到的程度；用差分方程的理论也可以证明，对于n阶自回归，MA模型的阶数应该是 n-1。第三，从连续系统的离散化过程来看，ARMA(n , n 1)也是合理的。在一个 n阶自回归线性微分方程和任意阶的移动平均数的形式下，如果一个连续自回归移动平均过程在一致区间上抽样，那么，这个抽 样过程的结果是 ARMA(n , n-1)。【章节实验】利用 Eviews软件生成AR序列、MA序列和ARMA序列。第三章 ARMA 模型的特性AFC和PAFC的形本章为本书重点之一，主要掌握三类模型的格林函数形式、平稳性和可逆性条件、 式和特点。第一节线性差

17、分方程一、后移(Backshift)算子:1. 定义：后移算子B定义为BXt Xt 1，从而BmXt Xt m。2. 后移算子的性质：(1)常数的后移算子为常数：Bc c分配律:(Bm Bn)Xt BmXt BnXt Xt m Xt n结合律:BmBnXt Bm(BnXt) BmXt nXt m n后移算子B的逆为前移算子B1Xt Xt 1对于1，无限求和得(13B3 .)XtXt1 B前面的MA(m)模型、AR(n)模型和ARMA (n ,m)模型可分别表示为:Xt(B)at(B)Xt at(B)Xt(B)at其中：(B) 11B2B2 LnBn(B) 1 1B 2B2 LmBm线性差分方程

18、Xt1Xt 12Xt 2 LnXt n at1at 12at 2 Lmat m可将写成(B)Xt(B)at这里(B)11B2B2LnBn(B)11B2B2LmBm差分方程通解为：Xt C(t) I(t)这里，C (t)是齐次方程解，I (t)是特解。三、齐次方程解的计算无重根 考虑齐次差分方程(B)Xt 0其中(B)(1 GiB)(1 G2B)L (1 GnB)假定G1 , G2,，Gn是互不相同，则在时刻 t的通解:Xt AG 1 A2G2LAnGn其中Ai为常数（可由初始条件确定）。重根 设（B）0有d个相等的根1G°，可验证通解为Xt(A° Ajt Azt Ld 1

19、tAd 1t )G0对一般情形，当（B）的因式分解为(1 G1B)(1 G2B)L(1Gn/B)(1G°B)d齐次方程解便是d 1Ck(t) GOAjtj0n/DiG：i 1因此，齐次方程解是由衰减指数项GJ多项式tj、衰减正弦项Dtsin（2冗fot+F），以及这些函数的组合混合生成的。上述过程中计算 Gi并不方便，通常通过解方程n 0得到其根为:i ,i 1,2,., n。由于0的根与11B2B2Ln Bn0的根互为倒数，因此iGi。非齐次方程的特解通常情况下不容易得到，没有一个“万能钥匙”，需要具体问题具体分析，只能对和平稳性（Stationary）一些具有特殊形式非齐次项的方

20、程进行讨论。此处丛略。第二节格林函数(Green ' s function)格林函数(Green ' s function)1、定义：设零均值平稳序列Xt,t 0, 1, 2,.能够表示为XtGjat jj 0则称上式为平稳序列 Xt的传递形式，式中的加权系数Gj称为格林（Green ）函数，其中G0 1。2、格林函数的含义：格林函数是描述系统记忆扰动程度的函数。式（1 ）可以记为Xt G B at（ 2）其中 G B GjBj。j o式（1）表明具有传递形式的平稳序列 Xt可以由现在时刻以前的白噪声通过系统“G B GjBj”j o的作用而生成，Gj是j个单位时间以前加入系统

21、的干扰项 at j对现实响应Xt的权，亦即系统对at j的 “记忆”。AR（ 1 ）系统的格林函数由AR（ 1 ）模型XtXt1X t 1at1 X t 1a t1 (1 X t 2a t 1) a tt1 a t 121 a t.即:Xt1at jj 0则AR（1）模型的格林函数 Gj1j。如若11，则Gj随着j的增大而缓慢减小，表明系统的记忆较强；相反，若 10 ,则Gj随着j的增大而急剧减小，表明系统的记忆较弱.例：下面是参数分别为0.9、0.1和-0.9的AR（ 1）系统对扰动t的记忆情况（三个序列由同一正态白噪声序列模拟生成）6420-2-4642_0-2-4-6X 0.9X|- p

22、n1 'iii! 'iii! nip iJTT®TTT|uii|, p i"|102030405060708090100Xt 0.1Xt 1 atXt0.9Xt 1 q比较前后三个不同参数的图，可以看出:1取正值时，响应波动较平坦。(2)1取负值时，响应波动较大。(3)1越大，系统响应回到均衡位置的速度越慢，时间越长。由于Xtj21 at jat1 at 11 at 2j 0at iat i2at 2.其中 1j ,因此 AR (1 )模型可用一个无限阶 MA来逼近，这说明 AR模型是一种长效记忆模型。三、AR系统的平稳性1、由平稳性的定义求 AR(1)系统

23、的平稳性条件将AR (1)模型Xt 1Xt 1 at两边平方再取数学期望，得到2 2E(Xt ) E( 1Xt 1 at)1E(Xt 1at )1 时，Gj =1；当 1 =1 时,Gj =(-1) j 当 1 =-1 时 这时，虽然响应不回到其均衡位置，但仍是有界的，这时系统为临界稳定的，系统可能存在某种趋势E(X：1)EG2) 22a如果序列Xt是平稳的，则有E(XCE(X：),由上式可得2 2 2(11 )E(Xt ) a2E(Xt2) T由于E(Xt2)是非负的，所以2a(1 12)0,从而1，这就是AR( 1)模型的平稳性条件。利用滞后算子B，AR( 1)模型可以写为(B)Xtat式

24、中(B)11B，那么平稳性条件1就等价于(B)0的根在单位圆外10的根落在单位圆内)。上述平稳条件可以推广到 AR (n)模型，即2(B)Xt at 其中：(B)11B 2B LnB0的平稳性条件为:(B)0的根在单位圆外(或12E(X：1)n 0的根在单位圆内)。2、由格林函数求 AR(1)模型的平稳性条件该扰动的作用渐渐减对于AR(1)系统来说，其平稳性条件也可以由格林函数得出。如果系统受扰后,小,直至趋于零，即系统响应随着时间的增长回到均衡位置，那么，该系统就是平稳的。相对于格林函数来说，就是随着jfa,扰动的权数 Gj 0 ,由于Gj = 1故必有jT8, 10，显然,这就是AR(1)

25、系统平稳性条件。反过来，若1，则称AR(1)为渐近稳定的，也必是平稳的。例:解:20的根; 124 21根据AR模型的平稳性的条件1(i1,2)2由于2)1(i2是实数，1,2），因此1,1,2必同为实数或共轭复数，由故AR2 m 11（2 ）模型的平稳域为” fi如札7必27j/四、格林函数与Wold 分解(Wold ' s Decomposition)所谓Wold分解也叫正交分解，其核心就是把一个平稳过程分解成不相关的随机变量的和。由于这一思想是由 Wold弓I入（1938年）到时序分析中的，故叫做 Wold分解。他认为可以用线性空间来解释ARMA模型的解。在n维线性空间Ln中，n

26、个线性无关的向量 印，玄2,a.称为空间的一组 基。设 可由an线性表示:«a1k2a2. knan或季节性。当i 1时，j十,Gj *,任意小的扰动只要给定足够的时间，就会使系统响应正负趋于无穷，永远不会回到其均衡位置，这时系统便是不稳定的，当然是非平稳的。求AR（2）模型的平稳域 特征方程（）1 ' 1 4 2其中ki由向量 和ai唯一确定，ki称为向量 关于基ai的坐标。如果用线性空间的观点来看AR（1）模型的解Xt1 at jj 0由于at j是相互独立的，可看作线性空间的基j (或无限维坐标轴)，显然Xt可由at j线性表示，其系数Gj就是Xt对于at j的坐标，X

27、t就是Gj at j的正交向量的和。因而上式也叫做Wold分解式，其系数 叫Wold系数。Wold系数是线性空格林函数和Wold系数是同一客体从不同角度观察的结果，二者是完全一致的。间解释，格林函数是系统解释。五、ARMA模型格林函数的通用解法ARMA (n ,m)模型(B)Xt(B)Xt G(B)at(B)G(B)(B)j，00，ji, 00, l则(B)G(B)(B)化为* ijBj 0GkBk0iB10比较等式两边 B的同次幕的系数，可得li ,丨 1,2,3,.*j i jj 0由上式，格林函数可从l1开始依次递推算出。思考：MA(m)模型Xt(B)at的格林函数为Gj j，1 j m

28、0, j m例：ARMA(2, 1 )系统的格林函数ARMA(2，1)模型 Xt1Xt 12Xt 2at1at 1可以看作是,个二阶差分方程，设该方程的解XtGjGjBj)at0将上式代入模型中:(11B2B2)(GjBj)at(11B)at0(11B22B )(G。2G1BG2 B .)4(11B)at(GoG1BG2B21G0 B1G B22G0 B.)at(11B)at利用比较系数法，B的同次幕必相等，于是:B的指数:0:G。11:G11G02: G21G13： G31G212G02G1G1G2G3111G11G22G02G1Gj 1Gj 12G j 2上式可以写成：Gj 1Gj 12G

29、j 2 02即:11B 2B Gj 0,j2上式为一关于Gj齐次差分方程的形式，其通解为Gjg1 1g2 2其中:1和2是特征方程20的根；g1和g2是任意常数，其值由初始条件确定。这里的初始条件是:Go1G11 1则 ARMA (2,系统的格林函数为:GjARMA （2，1）模型的格林函数也可以通过下面的过程求得。根据Wold分解，平稳ARMA （ 2，1）模型（11B2B2）Xt （1 世记可以写成Xt1 1B a2 at11B2 B1 注1 1B 12B1B2Bat1Bat2 Bjatat jAR( 2 )为 ARMA（2，1 ）模型的特殊形式，同样具有上述关系。例：ARMA （n, n

30、-1 ）系统的格林函数与上面方法相同，ARMA （n, n-1 ）系统的格林函数的隐式的递推式为:(1 iB2B2.启0 0,j n其中 G0,G1 ,G2,.Gn 1,Gn由下列式子导出Go1Gi1G01G21G12G02Gn 11Gn 22Gn 3.n 1G0Gn1Gn 12Gn 2.n G00即其最终解为(1 1B2B2LnBn)Gj0, jGj91 1j 92j2 .ni9n n1n 21 i.gii1i2. ii 1i其中：g1g2.gn1例：ARMA （ 2，1 ）系统的平稳性条件ARMA （ 2，1）的平稳性条件要求j时由 G jg1 1g2 2 得：11,2由于ARMA （ 2

31、，1）的特征方程()2n 1nn 1i 1. i nGj 0。1，即（）2120的根在单位圆内。120和AR（ 2）和形式一样（或者说和其移动平均项系数无关），因此其平稳域与AR（2）系统的平稳域相同，都是:思考：MA模型的平稳性条件。第三节逆函数和可逆性（Invertibility ）所谓可逆性(Invertibility)是指移动平均模型可以用AR模型表示。、逆函数的定义设Xt是零均值平稳序列，如果白噪声序列 at能够表示为atXtIjXt jj i称为逆函数。则称上式为平稳序列Xt的逆转形式，式中的加权系数I j j 1,2,.、ARMA模型的逆函数1、ARMA (n,m )模型逆函数通

32、用解法对于ARMA (n,m )模型的逆函数求解模型格林函数求解方法相同。令 I(B) 1 ljXtj,l。1，j 1则平稳序列Xt的逆转形式atXtIjXt j可表示为j 1at I (B)Xt由 ARMA(n,m)模型(B)Xt(B)at 可得(B)(B)I(B)仍由先前定义的*和*，则上式可化为*Bj*Bl IkBkj 0l 0k 0比较上式两边B的同次幕的系数，得到j*jk 11 kk 0j即I j jk I j k, J 1,2,-k 1由此I j可从j 1开始推算出。2、AR模型的逆函数对于AR（ 1）模型Xt1Xt 1at 有则其逆函数类似对于AR（ n）Xt1Xt 1I1I2I

33、n3、 MAXtI1模型Xt2Xt 2模型的逆函数对于MA （ 1 ）模型Xt(B) 1，(B) 11Xt 1 at0，j12XtnXt nnXt nt其逆函数为:at有(111B I B1BI1Bi2b2比较上式两边B的同次幕的系数得从而有Ij也可以用以下方法求 MA （ 1）I01j, j1,111,2,模型的逆函数j 1,j 2由 Xt (11 B)at 得atXt（11B）2 211B 1 B . XtXt1jXt jj 1即 Xtat（1jXt j）j 1可见 I j /与AR （1）讨论相类似，上面推导所隐含的可逆性条件为对于MA （ m ）模型的可逆性讨论与 AR （n）模型平稳

34、性的讨论是类似的，即：MA（ m ）模型的可逆性条件为其特征方程 V 1Vm12Vm 2 . m 0Vk 1的特征根 V满足Vk 1下面所讲的逆函数与格林函数的关系也作为求逆函数的一种选择。二、Gj和lj之间的关系对于AR（ 1）模型和MA （ 1 ）模型， 注意到格林函数逆函数AR（ 1 ）：Gjj1M11ljo,jG01MA （ 1 ）G11ljj1Gj0,j1可以看出，AR（1）的Gj和 MA （1）的1 j形式一致攵，只是符号相反，参数互换。此对偶性对其它模型仍然存在，如：ARMA （ 2，1）的格林函数为G0 1G1 1 1G2 Gi 12Gj Gj 11 Gj 22, j 3ARM

35、A (1 , 2)的逆函数为11 1 11 2 I1 1 21 j 1 j 1 11 j 2 2 , j 3综上可知，在格林函数的表达式中，用lj代替Gj , 代替, 代替 ，即可得到相对应的逆函数。四、关于ARMA模型平稳性与可逆性的说明通过上面的讨论可知，AR模型不存在可逆性性条件， MA模型不存在平稳性条件。 因此，对于ARMA 模型的平稳性条件是针对其 AR系数而言，可逆性条件是针对其 MA系数而言。只有同时满足平稳性可可逆性条件，ARMA模型才是有意义的。第四节自协方差函数一、理论自协方差函数和自相关函数对于ARMA系统来说，设序列的均值为零，则自协方差函数k E XtXt k自相关

36、函数二、样本自相关函数的计算在拟合模型之前，我们所有的只是序列的一个有限样本数据，无法求得理论自相关函数，只能求样本的自协方差函数和自相关函数。样本自协方差有两种形式：?k丄N t k 1N kt kXtXt k,k10,1,2,.,N 1则相应的自相关函数为?0NXtXt kt k 1NXt2N t iNXtXt kt k 1 NXt2t 1?01 NXtXtN kt k11 N-Xi2N t 1NXtXt k N tk1NN kXt2t 1在通常的情况下，我们常采用第一种的计算方法。三、AR模型的自协方差函数和自相关函数（1） AR（ 1 ）模型的自协方差函数和自相关函数AR（ 1 ）模型

37、为：Xt X 1 at假设Xt为零均值序列。将上式两端乘以 Xt k，并取期望，得E XtXt 11E Xt 1Xt kE atXtk当k=0时,有:E XtXt1E Xt1XtEatXt即：01 12a当k=1时,有EXtXt11EXt1Xt1E g即：11 0当k=2时,有EXtXt 21EXt1 Xt 2E atXt 221 1依此类推，便有般式：k1 k 1k0NXtXt k,k0,1,2,., N 122a将1代入0，有，0110a0丄21 1k1 k 1,k0相应的自相关函数为k/ 0，即0 °/ 0 1kk /01 k 1/01 k 1、AR (n)模型的自协方差函数和

38、自相关函数自相关函数Xt1 Xt 12Xt 2 LpXt nat两边同乘以Xt k得到Xt kXt1Xt kXt 12Xt k Xt2 LnXt kXt nXt kat取期望，得：k1 k 12 k 2Ln k n(k0)上式两边除以0，可得差分方程：k1 k 12 k 2Ln k n(k0)我们注意到，上式类似于过程Xt自身所满足的差分方程。假定将上式记为(B) k0这里，(B)11BLnBn记(B)n(1j 1GjB)则差分方程通解：kAG：kkA2G2L AnGn这里，G1 1， G21，-，Gn1是特征方程：(B)1 1B LnBn=0的根。为了保证平稳性，则要求G 1。在实际应用中，

39、如果假定根是互异的，会出现两种情况:1 .Gi是实根，这时在通解 pk中AiGik随k增大等比例地衰减到零，我们常称之为指数衰减。2 . Gi和Gj是一对共轭复根，导致在通解出现:Dks in (2 fk F)使得自相关函数呈衰减的正弦振荡,衰减系数GiGj，频率f满足:cos1Re(Gi) /D方差：当k=0时,上式两边除以 0并有k k，故方差2X可以写成四、MA模型的自协方差函数和自相关函数（1）MA （ 1 ）模型的自协方差函数和自相关函数:将MA （ 1 ）模型Xtat1at 1两端同乘以Xtk取期望，得E XtXt kE at Xt k1E at 1Xt kE atGjat k j

40、j 01Eat 1Gj at k j j 0GjE atatj 0k j 1 GjEj 0at 1at k jG0E atat kG1E at k 1atE atQ k1E atat k 11E1 G0E at 1at k12EG1E at 1at k 1at iat kat 但 k 1当k=0时，有0 E XtXtEqat1Eatat 12 2 2a1 a当k=1时，有1EXtXt 1Eatat 11Eatat 221 a当k=2时，有2EXtXt 2Eatat 21Eatat 301 E at 1at2匚1 E at 1at 11E at 1at 12匚1 E at 1at 21E at

41、1at 22匚1 E at 1at 3可见，对于MA (1 )模型来说10,212ak10, k 2(2 ) MA (m)模型的自协方差函数和自相关函数自相关函数kEg© 1 Lmat m)(at k何 k 1 Lmatk m)因此该过程的方差是一 22 20 (1 1Lm) a且(k1 k 12 k 2Lmkm)a.k1,2,L ,mk0Jkm由此得出自相关函数是1 k 1 Li2Lk 1,2,L ,mk m对于MA(m)过程，当滞后超出过程的阶数m时自相关函数为零。换言之，滑动平均过程的自相关函数具 有超出m步滞后的截尾性。(上述性质用来在 B-J建模过程中，识别 MA模型)五、

42、偏自相关函数由此得到Yule-Walker方程,记为1 12L1 11LMMMLk 1k 2k 3L或j k1 j 1 k2 j2 Lkk j kj 1,2,L ,kk 1k11k 2k22MMM1kkkPk © k= pk当1, 2, k已知时，由该方程组可以解出kk。遗憾的是，用该方程组求解时，需要知道自回归过程的阶数。因此，我们可以对连续的k值求解Yule-Walker 方程。对于一个k阶AR模型，有:对k=1 , 2 , 3，依次求解方程，得11 1111222122112111111111221311211121133k 21k 32MM1k1 1 2 Li1iLMMMLk

43、 1k 2k3Lkk上述kk序列为AR模型的偏自相关函数。如果自回归过程的阶数为 n,则对于k>n应该有kk=0。(1) 偏自相关性是条件相关，是在给定Xj 1,Xj 2,，Xj k 1的条件下，Xj和Xj k的条件相关。换名话说，偏自相关函数是对 Xj和Xj k之间未被Xj 1,Xj 2,，Xj k 1所解释的相关的度量。(2) 由最小二乘原理易得，k1, k2,，kk是作为X j关于X j 1, X j 2,，Xj k线性回归的回归系数。(3) 由(2)可得，对于 AR (n)模型，当k>n时，kk =0。(此性质用来在 B-J建模过程中， 识别AR特征)(4) 对于任何平稳过

44、程， 都可以由Yule-Walker方程定义偏自相关函数，当然也都是作为自相关函数的函数。六、自回归和滑动平均过程之间的对偶性自回归和有限滑动平均过程之间存在对偶关系的特征：1. 在一个n阶平稳自回归模型中，at可表示为既往X的有限加权和，换言之，Xt可表为既往a的无限加权和：1 Xt(B)at同样，在一个 m阶滑动平均模型中，Xt可表示为既往a的有限加权和，换言之，at可表为既往X的无限加权和：1(B)Xt at2 有限的MA过程具有在某点之外全为零的自相关函数， 但由于它等价于一个无限阶的 AR过程,因此其偏自相关函数无限伸延，且被衰减指数和(或)衰减正弦波所控制。与此相反，AR过程具有在

45、某点之外全为零的偏自相关函数，但是它的自相关函数无限伸延，且有衰减指数和(或)衰减正弦波混合生成。3 .对于一个有限m阶自回归过程，其参数不必满足任何条件就能保证可逆性，然而，为满足平稳性，0 (B)=0的根必须都在单位圆外。与此相反，MA过程的参数不需要满足任何条件就能保证平稳性，然而，为满足可逆性，B (B)=0的根必须都在单位圆外。4 .滑动平均过程的谱与对应的自回归过程的谱存在互逆关系。七、本章小结零均值时间序列统计分析结果类别模型AR(n)MA(m)ARMA (n ,m)模型方程at(B)XtXt(B)at(B)Xt(B)at平稳性条件特征根全在单位圆内无条件平稳特征根全在单位圆内可

46、逆性条件无条件可逆特征根全在单位圆内特征根全在单位圆内传递形式1Xt(B)atXt(B)at1Xt(B) (B)at逆转形式at(B)Xtat(B) 1Xtat(B) 1 (B)XtGreen函数拖尾截尾拖尾逆函数截尾拖尾拖尾自相关函数拖尾截尾拖尾偏相关函数截尾（截尾应该是快速趋于0）拖尾拖尾自相关系数拖着长长的尾巴，就是拖尾，AC （自相关autocorr ）值是慢慢减少的。而偏相关系数是突然收敛到临界值水平范围内的，这就是截尾，PAC （偏相关parcorr ）突然变的很小。AR模型：自相关系数拖尾，偏自相关系数截尾；MA模型：自相关系数截尾，偏自相关函数拖尾；ARMA模型：自相关函数和偏自相关函数均拖尾。ACF, Lags, Boun ds = autocorr（y）ACF, Lags, Boun ds = parcorr（y）【本章思考题】叙述 AR、MA和ARMA模型的格林函数形式、平稳性和可逆性条件、AFC和PAFC的形式和特点。【实验内容】1、观察前面生成的几个自回归序列的波动变化不同之处；2、观察生成的 AR模型和MA模型自相关函数和偏自相关函数的不同之处。平稳时间序列模型的建立本章讨论平稳时间序列的建模问题，也就是从