时间序列分析及其应用-基于R 课件 3- 平稳时间序列分析

时间序列分析TimeSeriesAnalysis03

平稳时间序列建模（ARMA)经典时序模型之AR,MA,ARMADYMWUST本章结构AR模型3.1MA模型3.2ARMA模型3.3平稳序列建模步骤3.43.1AR模型具有如下结构的模型称为p阶自回归模型，简记为AR(p)特别当时，称为中心化模型

AR(P)序列中心化变换称为的中心化序列，令自回归系数多项式引进延迟算子，中心化AR（p）模型又可以简记为

自回归系数多项式对比特征方程注:F(l)=0与f(u)=0二者根互为倒数AR模型平稳性判别

判别原因要拟合一个平稳序列,用来拟合的模型显然也应该是平稳的。AR模型是常用的平稳序列的拟合模型之一,但并非所有的AR模型都是平稳的。

判别方法特征根判别法平稳域判别法AR（P）模型的求解任一个中心化模型都可以视为一个非齐次线性差分方程，它的通解求法如下（1）求齐次线性差分方程的一个通解（2）求非齐次线性差分方程的一个特解（3）求非齐次线性差分方程的通解

特征根检验自回归序列平稳，要求序列最终回归到均值水平，即：成立的条件平稳域判别对于一个AR(p)模型而言，如果没有平稳性的要求，实际上也就意味着对参数向量没有任何限制，它们可以取遍p维欧氏空间的任意一点如果加上了平稳性限制，参数向量就只能取p维欧氏空间的一个子集，使得特征根都在单位圆内的系数集合对于低阶自回归模型用平稳域的方法判别模型的平稳性通常更为简便。AR(1)模型平稳条件模型结构特征方程特征根平稳域举例作出如下两个理论模型的序列图

x1=arima.sim(n=100,list(ar=0.8))；e=rnorm(100)x2=filter(e,filter=-1.1,method="recursive")plot(x1)；plot(e)举例作出如下两个理论模型的序列图

平稳性判断：

一般地，

举例arima.sim()##函数产生AR模型的仿真序列sim.data<-arima.sim(list(order=c(1,0,0),ar=0.9),n=100)acf(sim.data)arima.sim函数的参数的说明model:包含ar和/或ma分量，分别给出ar和ma系数。默认给出ARIMA(0,0,0)模型，这是白噪声。n:输出序列的长度，没有进行差分计算前的序列长度。严格为正整数。rand.gen:可选项，生成更新的函数。n.start：“老化”期的长度。如果NA是默认值，则计算可行值。start.innov：承接n.start使用，用于可选的更新时间序列(n.start默认在函数内部计算)。

AR(2)模型的平稳条件模型结构特征方程特征根平稳域AR(2)的平稳域复根实根考察如下例子：X3=arima.sim(n=100,list(ar=c(1,-0.5))x4=filter(e,filter=c(1,0.5),method="recursive")plot(X3)；plot(x4)（3）

（4）平稳性判断

平稳AR(p)模型的统计性质均值方差协方差自相关系数偏自相关系数均值如果AR(p)模型满足平稳性条件，则有根据平稳序列均值为常数，且为白噪声序列，有推导出Green函数定义AR(p)模型的传递形式（设li为对应特征方程的根）其中系数称为Green函数上式可以记为其中

这表明具有传递形式的平稳序列可以由现在时刻以前的白噪声通过系统“

”的作用而生成，Gj是j个单位时间以前加入系统的干扰项et-j对现实Xt响应的权，亦即系统对et-j的“记忆”。

格林函数的含义：格林函数是描述系统记忆扰动程度的函数。系统Xtet,...Green函数递推公式原理方法：待定系数法格林函数由上述可得：（注意：p不变！）即可以先从G0出发，依次递推得到G1,…,Gp-1，再求解p阶齐次线性差分方程得到Gk：AR(p)模型的方差、自协方差、自相关系数平稳AR(p)模型的传递形式两边求方差得协方差自相关系数例求平稳AR(1)模型的方差和协方差平稳AR(1)模型的Green函数Green函数为AR(1)模型的方差AR(1)模型的协方差方差、协方差函数的另一种求解方法在平稳AR(p)模型两边同乘，再求期望根据，得协方差函数的递推公式：当k=0时，则有：当k=1,2…,p时有平稳AR(P)模型的自相关系数递推公式例求平稳AR(1)模型的协方差递推公式AR(1)模型的方差为AR(1)模型协方差为AR(1)模型的自相关系数若AR(1)

稳定，则|f1|<1，因此，k

时，呈指数形衰减，直到零。这种现象称为拖尾或称AR(1)有无穷记忆（infinitememory）。注意，f1<0时，呈振荡衰减状。

例求平稳AR(2)模型的协方差平稳AR(2)模型的协方差函数递推公式为由递推公式，令k=1,2,有解方程组有常用AR模型自相关系数递推公式AR(1)模型AR(2)模型AR模型自相关系数的性质AR模型自相关系数的表达式是一个齐次差分方程设它的通解形式为呈指数衰减拖尾性例考察如下AR模型的自相关图例考察四个平稳AR模型的自相关图自相关系数按负指数单调收敛到零；自相关系数呈正负相间衰减例考察四个平稳AR模型的自相关图自相关呈“伪周期”性；自相关系数不规则衰减例图示解释从上图中可以看到,这四个平稳AR模型,不论它们是AR(1)模型还是AR(2)模型,不论它们的特征根是实根还是复根,是正根还是负根,它们的自相关系数都呈现出拖尾性和呈指数衰减到零值附近的性质。但由于特征根不同,它们的自相关系数衰减的方式也不一样有的是按负指数单调衰减(如模型(1))有的是正负相间地衰减(如模型(2))有的呈现出类似于周期性的余弦衰减,即具有“伪周期”特征(如模型(3))有的是不规则衰减（如模型(4)）格林函数、协方差函数、自相关函数关系？AR(p)模型AR(p)格林函数、协方差函数、自相关函数关系？偏自相关函数（引）自相关函数(ACF)gk给出了Xt与Xt-k的相关性，但这一相关性可能掩盖了变量间完全不同的隐含关系。例如，在AR(1)模型中，Xt与Xt-2间有相关性可能主要是由于它们各自与Xt-1间的相关性带来的:

即自相关函数中包含了这种所有的“间接”相关。与之相反，Xt与Xt-k间的偏自相关函数(partialautocorrelation，简记为PACF)则是消除了中间变量Xt-1，…，Xt-k+1带来的间接相关后的直接相关性，它是在已知序列值Xt-1，…，Xt-k+1的条件下，Xt与Xt-k间关系的度量。

偏自相关系数定义

对于平稳时间序列Xt，所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后，对相关影响的度量。用数学语言描述就是注：本定义本身无法计算偏相关系数！偏自相关系数的计算Yule-Walker方程组在方程等号两边同时乘以，并取期望，得取前k个方程构成的方程组即Yule-Walker方程组解Yule-Walker方程可以得到参数的解，最后一个参数的解即为延迟K偏自相关系数Yule-Walker方程求解对k＝1，2，3，…依次求解Yule-Walker方程组，得到Yule-Walker方程求解例如，AR(1)模型偏自相关系数的计算其Yule-Walker方程则偏自相关系数AR(2)模型偏自相关系数的计算K=1时，，同时亦有K=2时

同时，所以有，同理，从而，AR（2）模型的偏自相关系数为对于AR（p）模型，由Yule-Walker方程组，可推出且当k>p时，由矩阵性质知

于是

从而，偏自相关函数：

样本的偏自相关系数

使用命令pacf(data,plot=FALSE),直接计算出仿真序列的偏自相关系数：123456789100.667-0.431-0.209-0.1270.1480.032-0.0710.0190.093-0.10311121314151617181920-0.047-0.0210.044-0.026-0.145-0.1060.096-0.0630.027-0.081例续:考察如下AR模型的偏自相关图例3.5续:考察如下AR模型的偏自相关图理论偏自相关系数样本偏自相关图例3.5续:考察如下AR模型的偏自相关图理论偏自相关系数样本偏自相关图例3.5续:考察如下AR模型的偏自相关图理论偏自相关系数样本偏自相关图例3.5续:考察如下AR模型的偏自相关图理论偏自相关系数样本偏自相关系数图本章结构ARMA模型3.3AR模型3.1MA模型3.2平稳时间序列建模步骤3.43.2MA模型MA模型定义具有如下结构的模型称为q阶移（滑）动平均模型，简记为MA(q)特别当m=0时，称为中心化MA(q)模型

移动平均系数多项式引进延迟算子，中心化模型又可以简记为

q阶移动平均系数多项式对应的特征方程为：显然，F(l)=0与Q(B)=0二者根互为倒数MA模型的统计性质常数均值常数方差MA模型的统计性质自协方差函数q阶截尾自相关系数q阶截尾

常用MA模型的自相关系数MA(1)模型MA(2)模型例3.6:考察如下MA模型的自相关性质

MA(1)模型的自相关图

MA(1)模型自相关图特征解读考察上面两个MA(1)模型的自相关图，排除样本随机性的影响,样本自相关图清晰显示出MA(1)模型自相关系数一阶截尾；考察上面两个MA(1)模型的自相关图，可以发现这两个不同的MA模型具有完全相同的自相关图。容易验证它们的理论自相关系数也正好相等：MA(2)模型的自相关图

MA(2)模型自相关图特征解读考察上面两个MA(2)模型的自相关图，排除样本随机性的影响,样本自相关图清晰显示出MA(2)模型自相关系数二阶截尾；考察上面两个MA(2)模型的自相关图，可以发现这两个不同的MA模型具有完全相同的自相关图。容易验证它们的理论自相关系数也正好相等：MA模型的可逆性上述例子演示了不同的MA模型，可能具有完全相同的自相关系数的现象。产生这种现象的原因就是我们在第二章中提到的：自相关系数的非唯一性。这种自相关系数的不唯一性，会给我们将来的工作带来麻烦，即无法根据样本自相关系数确定拟合的模型。为了保证一个给定的自相关函数能够对应唯一的模型，我们就要给模型增加约束条件。这个约束条件称为模型的可逆性条件。可逆的定义可逆MA模型定义若一个MA模型能够表示成为收敛的AR模型形式，那么该MA模型称为可逆MA模型收敛的AR模型：满足平稳性条件可逆概念的重要性一个自相关系数唯一对应一个可逆MA模型。MA(q)模型的可逆条件MA(q)模型的可逆概念和AR(p)模型的平稳概念是对偶概念。MA(q)模型的可逆条件该模型特征方程:

的q个非零特征根都在单位圆内或移动平滑系数多项式的根都在单位圆外逆函数的递推公式一个MA（q）模型满足可逆条件，则可以写出如下逆转形式：逆函数的递推公式原理方法：待定系数法递推公式低阶MA模型系数可逆域根据MA模型的结构，求出特征方程的特征根，根据特征根都在单位圆内的约束条件，可以求出满足可逆条件的系数取值空间，这就是MA模型的系数可逆域。MA模型的系数可逆域与AR模型的平稳域具有对偶关系MA(1)模型的系数可逆域MA(2)模型的系数可逆域例续:考察如下MA模型的可逆性(1)—(2)

逆函数逆转形式(3)—(4)

逆函数逆转形式MA模型偏自相关系数拖尾对于一个可逆模型，可以等价写成模型形式其中AR(p)模型偏自相关系数p阶截尾，所以可逆MA(q)模型偏自相关系数阶截尾，即具有偏自相关系数拖尾属性。一个可逆MA(q)模型一定对应着一个与它具有相同自相关系数和偏自相关系数的不可逆MA(q)模型，这个不可逆MA(q)模型也同样具有偏自相关系数拖尾特性。例3.7求MA(1)模型偏自相关系数的表达式MA(1)模型表达式：根据偏自相关系数的定义，我们知道延迟k阶偏自相关系数是如下方程组的最后一个系数对j=1,2,…,K依次求方程，可以得到MA(1)模型任意k阶偏自相关系数的通解为

如，运行如下R代码>data<-arima.sim(list(order=c(0,0,1),ma=-0.9),n=1000)>pacf(data,lag.max=12)

仍然用arima.sim()函数生成模型的仿真序列，再用pacf()函数画出仿真序列的偏自相关函数图，模型（1）的程序data<-arima.sim(list(order=c(0,0,1),ma=0.8),n=100)pacf(data)模型（2）的程序data<-arima.sim(list(order=c(0,0,2),ma=c(-1,0.5)),n=100)pacf(data)

例

续绘制下列MA模型的偏自相关系数图，直观考察MA模型偏自相关系数的拖尾性MA(1)模型偏自相关系数拖尾MA(2)模型偏自相关系数拖尾本章结构ARMA模型3.3AR模型3.1MA模型3.2平稳时间序列建模步骤3.43.3ARMA模型具有如下结构的模型称为自回归移动平均模型，简记为ARMA(p,q)特别当f0=0时，称为中心化ARMA(p,q)模型系数多项式引进延迟算子，中心化ARMA(p,q)模型又可以简记为

p阶自回归系数多项式

q阶移动平均系数多项式注：

平稳条件与可逆条件ARMA(p,q)模型的平稳条件P阶自回归系数多项式的根都在单位圆外即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定ARMA(p,q)模型的可逆条件q阶移动平均系数多项式的根都在单位圆外即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定

传递形式与逆转形式（对偶性）逆转形式平稳性与MA(∞)模型

传递形式与逆转形式（对偶性）传递形式逆转形式ARMA(p,q)模型的统计性质均值协方差自相关系数自相关系数拖尾ARMA(p,q)模型可以转化为无穷阶移动平均模型偏相关系数拖尾ARMA(p,q)模型可以转化为无穷阶自回归模型以ARMA(1,1)模型为例，解读PCF&PACF的拖尾性

总结经典的平稳时序模型的统计特征对于ARMA模型，其自相关函数和偏自相关函数计算相较复杂，这里就不推导一般的计算公式了。我们借助ARMAacf()函数来计算ARMA模型的自相关函数和偏自相关函数，该函数的使用格式ARMAacf(ar=numeric(),ma=numeric(),lag.max=r,pacf=FALSE)其中，ar:AR模型的系数向量ma:MA模型的系数向量lag.max：最大滞后阶数，整数，默认为max(p,q+1)，其中p,q分别为AR和MA项的参数。pacf:逻辑选择，是否显示偏自相关函数，默认“FALSE”。例考察ARMA模型的相关性拟合模型ARMA(1,1)

并直观地考察该模型自相关系数和偏自相关系数的性质。

ARMAacf(ar=0.5,ma=-0.8,lag.max=5)012345

1.00000000-0.21428571-0.10714286-0.05357143-0.02678571-0.01339286ARMAacf(ar=0.5,ma=-0.8,lag.max=5,pacf=TRUE)[1]-0.21428571-0.16042781-0.12327923-0.09619470-0.07576171自相关系数和偏自相关系数拖尾