非平稳时间序列的随机分析

1、第四章第四章 非平稳序列的随机分析非平稳序列的随机分析n时间序列的分解n差分运算nARIMA模型nAuto-Regressive模型n异方差的性质n方差齐性变化n条件异方差模型4.1 时间序列的分解时间序列的分解4.1.1 Wold分解定理4.1.2 Cramer分解定理引引例例4.1.1、Wold分解定理（1938）n对于任何一个离散平稳平稳过程 它都可以分解为两个不相关的平稳序列之和，其中一个为确定性确定性的，另一个为随机性随机性的，不妨记作 其中： 为确定性序列确定性序列， 为随机序列随机序列， 它们需要满足如下条件 （1） （2） （3）txtttVxtV t0jjtjt020, 1j

2、j ), 0(2WNtov( ,)( ,)0,tstsCVE Vts 确定性序列与随机序列的定义确定性序列与随机序列的定义n对任意序列 而言，令 关于q期之前的序列值作线性回归 其中 为回归残差序列回归残差序列， 。显然， ，且随着随着q的增大而增大的增大而增大，也就是说 是非减的有界序列，它的大小可以衡量历史信息对现时值的预测精度。 越小，说明预测得越准确， 越大，说明预测得越差。 tytytqtqttyyy1210t2)(qtVar2()qtVar y2q2q2q对比对比43页页AR模型模型n确定性序列确定性序列：若n即说明序列随着时间的发展有很强的规律性很强的规律性。n随机序列随机序列：

3、若n即说明序列随着时间的发展随机性很强随机性很强，预测效果很差，此时称 是随机序列。2lim0qq)(lim2tqqyVar ty例如：例如：ARMA模型分解模型分解ttBBx)()(确定性序列随机序列nWold分解定理说明任何平稳序列平稳序列都可以分解为确确定性平稳序列和随机平稳序列定性平稳序列和随机平稳序列之和。它是现代时间序列分析理论的灵魂，是构造ARMA模型拟合平稳序列的理论基础。4.1.2、Cramer分解定理（分解定理（1961）n任何一个时间序列（可适用于非平稳序列可适用于非平稳序列） 都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势确定性趋势成分，另一部分是平稳的

4、平稳的零均值误差零均值误差成分，即txtttx确定性影响随机性影响例如：平稳ARMAtaB)(djjjt0j为常数系数 ta为一个零均值白噪声序列为延迟算子对对Cramer分解定理的理解：分解定理的理解：nCramer 分解定理是Wold分解定理的理论推广，它说明任何一个序列任何一个序列的波动都可以视为同时受到了确确定性影响和随机性定性影响和随机性影响的综合作用。平稳序列平稳序列要求这两方面的影响都是稳定都是稳定的，而非平稳序列非平稳序列产生的机理就在于它所受到的这两方面的影响至少有一方至少有一方面是不稳定的面是不稳定的。 4.2 差分运算差分运算n差分运算的实质n差分方式的选择n过差分4.2

5、.1、差分运算的实质、差分运算的实质n得到观察值序列之后，无论采用确定性时序分析方法还是随机时序分析方法，第一步都是要提取序列中的确定性信息提取序列中的确定性信息。n确定性时序分析方法：季节指数、长期趋势模型、移动平均（消弱短期随机波动对序列的影响）、指数平滑等（第五章）。差分方法差分方法是一种非常简便、有效的确定性信息提取方法（Box和Jenkins）。nCramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息。n离散序列的d阶差分就相当于连续变量的d阶求导，n在上述分解下， d阶差分就可充分提取时序中的确定性信息。tx taB)(0djjjt0,ddjjjtc c为某一常

6、数n 展开1阶差分，有n1阶差分实质上就是一个自回归过程自回归过程，它是用延迟一期的历史数据 作为自变量来解释当期序列值的变动状况，差分序列 度量的是1阶自回归过程中产生的随机误差随机误差的大小。n差分运算的实质是使用自回归的方式提取确定性信息自回归的方式提取确定性信息 diitiditdtdxCxBx0) 1()1 (11ttttttxxxxxx1txtx11( 1)diidtdt itixC xx 随机误差随机误差4.2.2 差分方式的选择差分方式的选择1）序列蕴含着显著的线性线性趋势，一阶差分一阶差分就可以实现趋势平稳 2）序列蕴含着曲线曲线趋势，通常低阶低阶（二阶或三阶）差分就可以提取

7、出曲线趋势的影响 3）对于蕴含着固定周期固定周期的序列进行步长为周步长为周期长度的差分期长度的差分运算，通常可以较好地提取周期信息 【例4.1】1964年1999年中国纱年产量序列蕴含着一个近似线性的递增趋势。对该序列进行一阶差分运算 考察差分运算对该序列线性趋势信息的提取作用 1tttxxx1 1）序列蕴含着显著的线性趋势）序列蕴含着显著的线性趋势差分前后时序图差分前后时序图n原序列时序图n差分后序列时序图序列蕴含着显著的线性趋势，序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳一阶差分就可以实现趋势平稳 2 2）序列蕴含着曲线趋势）序列蕴含着曲线趋势n例4.2 尝试提取1950年199

8、9年北京市民用车辆拥有量序列的确定性信息差分后序列时序图差分后序列时序图n一阶差分n二阶差分序列蕴含着显著的曲线趋势，序列蕴含着显著的曲线趋势，二阶或三阶差分就可以实现趋势平稳二阶或三阶差分就可以实现趋势平稳 3 3）蕴含着固定周期的序列）蕴含着固定周期的序列n例4.3 差分运算提取1962年1月1975年12月平均每头奶牛的月产奶量序列中的确定性信息 差分后序列时序图差分后序列时序图1阶差分：提取线性递增趋势，剩季节波动和随机波动。序列还蕴含着固定周期，如何实现趋势平稳？序列还蕴含着固定周期，如何实现趋势平稳？ 思考：如果把每一时刻的观察值与上年同期相应的观察值相减，是否能将原序列的周期性变

9、化消除？（或实现平稳化），在经济上，就是考查与前期相比的净增值，用数学语言来描述就是定义季节差分算子。 定义：季节差分可以表示为1阶12步差分：提取周期信息。4.3.34.3.3、过差分、过差分 n足够多次的差分运算可以充分地提取原序列中的非平稳确定性信息n但过度的差分会造成有用信息的无谓浪费，从而降低估计的精度。 n假设序列如下n考察一阶差分后序列和二阶差分序列 的平稳性与方差 ttatx10例4.4过差分实质上是因为过多次的差分导致有效信息的无谓浪费而降低了估计的精度。n一阶差分一阶差分n平稳平稳n二阶差分二阶差分（过差分）（过差分）n平稳平稳111tttttaaxxx21122ttttt

10、taaaxxx212)()(tttaaVarxVar22126)2()(ttttaaaVarxVar4.3 ARIMA模型nARIMA模型结构nARIMA模型性质nARIMA模型建模nARIMA模型预测n疏系数模型n季节模型4.3.1、ARIMA模型结构模型结构n使用场合：差分平稳序列拟合nARIMA（autoregressive integrated moving average求和自回归移动平均）nARIMA（p,d,q）模型结构tsExtsEVarEBxBtsstttttd, 0, 0)(,)(0)()()(2，ppBBBB2211)(1;ddB 为平稳可逆ARMA（p,q）模型的自回归

11、系数多项式（4.1）对比对比63页页qqBBBB2211)(为平稳可逆ARMA（p,q）模型的移动平均系数多项式。( )( )dttBxB（4.1）简记为 t其中，为零均值白噪声序列。（4.2） ARIMA模型的实质就是差分运算与ARMA模型的组合。即任何非平稳序列如果能通过适当阶数的差分实现差分后平稳，此时可对差分后序列进行ARMA模型拟合了。ARIMA 模型族模型族nd=0ARIMA(p,d,q)=ARMA(p,q)nP=0ARIMA(P,d,q)=IMA(d,q)nq=0ARIMA(P,d,q)=ARI(p,d)nd=1,P=q=0ARIMA(0,1,0)=random walk mod

12、el随机游走模型随机游走模型( random walk)n模型结构n模型产生典故nKarl Pearson(1905.07)在自然杂志上提问：假如有个醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外，一段时间之后再去找他，在什么地方找到他的概率最大呢？n雷利爵士（1905.08）认为，最好去初始位置找他tsExtsEVarExxtsstttttt, 0, 0)(,)(0)(21，2、ARIMA模型的平稳性模型的平稳性( , , ):( )( )dttARIMA p d qBxB 模型ppBBBB2211)(1;ddB qqBBBB2211)( )( )dBB 称为广义自回归系数多项式。 1(

13、 )( )11pddiiBBBB =1( , , )p+d11pARIMA p d q模型的广义自回归系数多项式有个根，其中p个根，.,在单位圆外，d个根在圆上。n 自回归系数多项式的根为特征根的倒数，所以ARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在单位圆上。n 所以当当 时时ARIMA(p,d,q)模型模型非平稳。非平稳。n例4.5ARIMA(0,1,0)时序图0d3、ARIMA模型的方差齐性模型的方差齐性n 时，原序列方差非齐性nd阶差分后，差分后序列方差齐性0d2)()()0 , 1 , 0(ttVarxVarARIMA模型2110)()()0 , 1 ,

14、0(txVarxVarARIMAttt模型如：问题：问题：平稳平稳AR模型和可逆模型和可逆MA模型，它们是否具有方差齐性？模型，它们是否具有方差齐性？回顾：回顾：Cramer分解定理（分解定理（1961）n任何一个时间序列（可适用于非平稳序列可适用于非平稳序列） 都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势确定性趋势成分，另一部分是平稳的平稳的零均值误差零均值误差成分，即txtttx确定性影响随机性影响例如：平稳ARMAtaB)(djjjt0j为常数系数 ta为一个零均值白噪声序列为延迟算子离散序列的d阶差分就相当于连续变量的d阶求导，在上述分解下， d阶差分就可充分提取时序

15、中的确定性信息。注意：注意：防止出现过差分。0,ddjjjtc c为某一常数ARIMA模型结构模型结构ARIMA（p,d,q）模型结构tsExtsEVarEBxBtsstttttd, 0, 0)(,)(0)()()(2，ppBBBB2211)(1;ddB 分别为平稳可逆ARMA（p,q）模型的自回归系数多项式和移动平均系数。注意：注意：ARIMA（p,q）的平稳性？方差齐性？）的平稳性？方差齐性？ ARMA（p,q）呢？）呢？qqBBBB2211)(ARIMA模型建模步骤获获得得观观察察值值序序列列平稳性平稳性检验检验差分差分运算运算YN白噪声白噪声检验检验Y分分析析结结束束N拟合拟合ARMA

16、模型模型例4.6n对1952年1988年中国农业实际国民收入指数序列建模d=read.csv(shouru.csv,head=F)shouru=ts(d,start=1952,end=1988,freq=1) ts.plot(shouru,type=b) chafen=diff(shouru,differences=1) ts.plot(chafen) acf(chafen,10) 时序图和一阶差分序列时序图时序图和一阶差分序列时序图Time1955196019651970197519801985100150200250Time1955196019651970197519801985-20-1

17、001020300246810-0.20.00.20.40.60.81.0LagACFV1246810-0.20.00.20.4LagPartial ACFSeries chafenacf(chafen,10)pacf(chafen,10)Box.test(chafen, type=Ljung-Box,lag=6)data: chafenX-squared = 15.3304, df = 6, p-value = 0.01784arima(chafen, order = c(0,0,1),method=ML) arima(x = chafen, order = c(0, 0, 1), meth

18、od = ML)Coefficients: ma1 intercept 0.6710 4.9947s.e. 0.1648 2.0139sigma2 estimated as 53.42: log likelihood = -122.99, aic = 251.97a= arima(chafen, order = c(0,0,1),method=ML)r=a$residualsBox.test(r,type=Ljung-Box,lag=6,fitdf=1)data: rX-squared = 3.6649, df = 5, p-value = 0.5986214.99471 0.6710,53.

19、42ttB xB p=pt(4.0716,df=35,lower.tail = F)*2p1 0.0002536605 (theta1的检验）p=pt(2.4801,df=35,lower.tail = F)*2P1 0.01809275 (截距项的检验） ( , , ):( )( ) 1dttARIMA p d qBxB 模型4、ARIMA模型预测模型预测 1122*212*.( ) 221( ) 1( )( )( )( ) 11.-( ) ( )( )ttttttddp dp djARMAxxBBBBBBBBBBBBBB 和模型一样， 也可以表示为随机扰动项的线性组合：将代入得到：若记则有：待定系数法，得到 的递推公式：4、ARIMA模型预测1111221211.p djjj p dj 000=,=,1,0jjjjqjjqj，式中，预测值：线性最小方差预测原则预测值：线性最小方差预测原则)()(1111