时间序列课件 4

时间序列分析1横截面数据时间序列数据人们对统计数据往往可以根据其特点从两个方面来切入，以简化分析过程。一个是研究所谓横截面(crosssection)数据，也就是对大体上同时，或者和时间无关的不同对象的观测值组成的数据。另一个称为时间序列(timeseries)，也就是由对象在不同时间的观测值形成的数据。前面讨论的模型多是和横截面数据有关。这里将讨论时间序列的分析。我们将不讨论更加复杂的包含这两方面的数据。

2时间序列和回归时间序列分析也是一种回归。回归分析的目的是建立因变量和自变量之间关系的模型；并且可以用自变量来对因变量进行预测。通常线性回归分析因变量的观测值假定是互相独立并且有同样分布。而时间序列的最大特点是观测值并不独立。时间序列的一个目的是用变量过去的观测值来预测同一变量的未来值。也就是说，时间序列的因变量为变量未来的可能值，而用来预测的自变量中就包含该变量的一系列历史观测值。当然时间序列的自变量也可能包含随着时间度量的独立变量。3例15.1(数据：Tax.txt，Tax.sav)某地从1995年1月到2005年7月的税收（单位：万元）。该数据有按照时间顺序的按月记录，共127个观测值。图15.1就是由该数据得到的一个时间序列图。

4例15.1(数据：Tax.txt，Tax.sav)从这个点图可以看出。总的趋势是增长的，但增长并不是单调上升的；有涨有落。大体上看，这种升降不是杂乱无章的，和季节或月份的周期有关系。当然，除了增长的趋势和季节影响之外，还有些无规律的随机因素的作用。这个只有一种随着时间变化的变量（税收）的序列一般称为纯粹时间序列（puretimeseries）。下面将通过该例子对纯粹时间序列进行介绍。5时间序列的组成部分

从该例可以看出，该时间序列可以有三部分组成：趋势(trend)、季节(seasonal)成分和无法用趋势和季节模式解释的随机干扰(disturbance）。例中数据的税收就就可以用这三个成分叠加而成的模型来描述。一般的时间序列还可能有循环或波动(Cyclic,orfluctuations)成分；循环模式和有规律的季节模式不同，周期长短不一定固定。比如经济危机周期，金融危机周期等等。6时间序列的组成部分

一个时间序列可能有趋势、季节、循环这三个成分中的某些或全部再加上随机成分。因此，如果要想对一个时间序列本身进行较深入的研究，把序列的这些成分分解出来、或者把它们过虑掉则会有很大的帮助。如果要进行预测，则最好把模型中的与这些成分有关的参数估计出来。就例中的时间序列的分解，通过SPSS软件，可以很轻而易举地得到该序列的趋势、季节和误差成分。7去掉季节成分，只有趋势和误差成分的例15.1的时间序列。8例15.1的时间序列分解出来的纯趋势成分和纯季节成分两条曲线9例15.1的时间序列分解出来的纯趋势成分和纯误差成分两条曲线10指数数平平滑滑如果果我我们们不不仅仅仅仅满满足足于于分分解解现现有有的的时时间间序序列列，，而而且且想想要要对对未未来来进进行行预预测测，，就就需需要要建建立立模模型型。。首首先先，，这这里里介介绍绍比比较较简简单单的的指数数平平滑滑(exponentialsmoothing)。指数数平平滑滑只能能用用于于纯纯粹粹时时间间序序列列的情情况况，，而而不不能能用用于于含含有有独独立立变变量量时时间间序序列列的的因因果果关关系系的的研研究究。。指数数平平滑滑的的原原理理为为：：当当利利用用过过去去观观测测值值的的加加权权平平均均来来预预测测未未来来的的观观测测值值时时（（这这个个过过程程称称为为平平滑滑）），，离离得得越越近近的的观观测测值值要要给给以以更更多多的的权权。。而““指数数”意意味味着着：：按按照照已已有有观观测测值值““老老””的的程程度度，，其其上上的的权权数数按按指指数数速速度度递递减减。。11指数数平平滑滑以简简单单的的没没有有趋趋势势和和没没有有季季节节成成分分的的纯纯粹粹时时间间序序列列为为例例，，指指数数平平滑滑在在数数学学上上这这实实际际上上是是一一个个几几何何级级数数。。这这时时，，如如果果用用Yt表示示在在t时间间的的平平滑滑后后的的数数据据（（或或预预测测值值）），，而而用用X1,X2,……,Xt表示示原原始始的的时时间间序序列列。。那那么么指指数数平平滑滑模模型型为为或者者，，等等价价地地，，这里里的的系系数数为为几几何何级级数数。。因因此此称称之之为为““几几何何平平滑滑””比比使使人人不不解解的的“指指数数平平滑滑””似乎更有有道理。。12指数平滑滑自然，这这种在简简单情况况下导出出的公式式（如上上面的公公式）无无法应对对具有各各种成分分的复杂杂情况。。后面将给给出各种种实用的的指数平平滑模型型的公式式。根据数据据，可以以得到这这些模型型参数的的估计以以及对未未来的预预测。在在和我们们例子有有关的指指数平滑滑模型中中，需要要估计12个季季节指标标和三个个参数（（包含前前面公式式权重中中的a，和趋势势有关的的g，以及和和季节指指标有关关的d）。在简单的的选项之之后，SPSS通过指指数平滑滑产生了了对2005年年6月后后一年的的预测。。下图为为原始的的时间序序列和预预测的时时间序列列(光滑滑后的)。下面面为误差差。1314例15.1时间间序列数数据的指指数平滑滑和对未未来的预预测15x=scan("d:/booktj1/data/tax.txt")tax=ts(x,frequency=12,start=c(1995,1))ts.plot(tax,ylab="Tax")#plot(x1,ylab="Sales")a=stl(tax,"period")#分解a$time.series#分分解结果果(三列列)ts.plot(a$time.series[,1:3])b=HoltWinters(tax,beta=0)#Holt-Winters滤滤波指数数平滑predict(b,n.ahead=12)#对未未来12个月预预测pacf(tax);acf(tax)w=arima(tax,c(0,1,1),seasonal=list(order=c(1,2,1),period=12))predict(w,n.ahead=12)w$residuals#残残差acf(w$resi)pacf(w$resi)w$coef#估计的的模型系系数w$aic#aic值16Box-Jenkins方法：ARIMA模型如果要对对比较复复杂的纯纯粹时间间序列进进行细致致的分析析,指数数平滑往往往是无无法满足足要求的的.而若想对对有独立立变量的的时间序序列进行行预测，，指数平平滑更是是无能为为力。于是需要要更加强强有力的的模型。。这就是是下面要要介绍的的Box-JenkinsARIMA模模型。数学上,指数平平滑仅仅仅是ARIMA模型的的特例.17ARIMA模型：AR模模型比指数平平滑要有有用和精精细得多多的模型型是Box-Jenkins引入的ARIMA模型。或或称为整整合自回回归移动动平均模模型(ARIMA为AutoregressiveIntegratedMovingAverage一些关键键字母的的缩写)。该模型型的基础础是自回回归和移移动平均均模型或或ARMA(AutoregressiveandMovingAverage)模型。它由两个个特殊模模型发展展而成，，一个特特例是自自回归模模型或AR(Autoregressive)模型。假假定时间间序列用用X1,X2,…,Xt表示，则则一个纯纯粹的AR(p)模型意味味着变量量的一个个观测值值由其以以前的p个观测值值的线性性组合加加上随机机误差项项at（该误差差为独立立无关的的）而得得：这看上去去象自己己对自己己回归一一样，所所以称为为自回归归模型；；它牵涉涉到过去去p个观测值值（相关关的观测测值间隔隔最多为为p个.18ARIMA模型：MA模模型ARMA模型的的另一个个特例为为移动平平均模型型或MA(MovingAverage)模模型，，一个纯纯粹的MA(q)模型意意味着变变量的一一个观测测值由目目前的和和先前的的q个随机误误差的线线性的组组合：由于右边边系数的的和不为为1（q甚至不一一定是正正数），，因此叫叫做“移移动平均均”不如如叫做““移动线线性组合合”更确确切；虽虽然行家家已经习习惯于叫叫“平均均”了，，但初学学者还是是因此可可能和初初等平滑滑方法中中的什么么“三点点平均””之类的的术语混混淆。19ARIMA模型：ARMA模型型显然ARMA(p,q)模型应应该为AR(p)模型和和MA(q)模型的的组合了了：显然ARMA(p,0)模型就是是AR(p)模型，而而ARMA(0,q)模型就是是MA(q)模型。这这个一般般模型有有p+q个参数要要估计，，看起来来很繁琐琐，但利利用计算算机软件件则是常常规运算算；并不不复杂。。20ARIMA模型：平平稳性和和可逆性性但是要想想ARMA(p,q)模型有意意义则要要求时间间序列满满足平稳稳性(stationarity)和可逆性性(invertibility)的条件，，这意味着着序列均均值不随随着时间间增加或或减少，，序列的的方差不不随时间间变化，，另外序序列本身身相关的的模式不不改变等等。一个实际际的时间间序列是是否满足足这些条条件是无无法在数数学上验验证的，，这没有关关系，但但可以从从下面要要介绍的的时间序序列的自自相关函函数和偏偏相关函函数图中中可以识识别出来来。一般人们们所关注注的的有有趋势和和季节/循环成成分的时时间序列列都不是是平稳的的。这时时就需要要对时间间序列进进行差分分(difference)来消除除这些使使序列不不平稳的的成分，，而使其其变成平平稳的时时间序列列，并估估计ARMA模模型，估估计之后后再转变变该模型型，使之之适应于于差分之之前的序序列（这这个过程程和差分分相反，，所以称称为整合合的(integrated)ARMA模模型），，得到的的模型于于是称为为ARIMA模模型。21ARIMA模型：差差分差分是什什么意思思呢？差差分可以以是每一一个观测测值减去去其前面面的一个个观测值值，即Xt-Xt-1。这样，如如果时间间序列有有一个斜斜率不变变的趋势势，经过过这样的的差分之之后，该该趋势就就会被消消除了。。当然差分分也可以以是每一一个观测测值减去去其前面面任意间间隔的一一个观测测值；比比如存在在周期固固定为s的季节成成分，那么相隔隔s的差分为Xt-Xt-s就可以把把这种以以s为周期的的季节成成分消除除。对于复杂杂情况，，可能要要进行多多次差分分，才能能够使得得变换后后的时间间序列平平稳。22ARMA模型的识识别和估估计上面引进进了一些些必要的的术语和和概念。。下面就就如何识识别模型型进行说说明。要想拟合合ARIMA模型，必必须先把把它利用用差分变变成ARMA(p,q)模型，并并确定是是否平稳稳，然后后确定参参数p,q。现在利用用一个例例子来说说明如何何识别一一个AR(p)模型和参参数p。由此MA(q)及ARMA(p,q)模型模型型可用类类似的方方法来识识别。23ARMA模型的识识别和估估计根据ARMA(p,q)模型的的定义,它的参参数p,q和自相关关函数(acf，autocorrelationsfunction)及偏自自相关函函数(pacf，partialautocorrelationsfunction)有有关。自相关函函数描述述观测值值和前面面的观测测值的相相关系数数；而偏自相相关函数数为在给给定中间间观测值值的条件件下观测测值和前前面某间间隔的观观测值的的相关系系数。这里当然然不打算算讨论这这两个概概念的细细节。引引进这两两个概念念主要是是为了能能够了解如何何通过研研究关于于这两个个函数的的acf和pacf图来识别别模型。。24例：数据据AR2.sav为了直观观地理解解上面的的概念，，下面利利用一个个数据例例子来描描述。25例：数据据AR2.sav；拖拖尾和截截尾先来看该该时间序序列的acf(左)和pacf图(右)左边的acf条条形图是是衰减的的指数型型的波动动；这种种图形称称为拖尾。而右边边的pacf条条形图是是在第二二个条(p=2)之之后就很很小，而而且没有有什么模模式；这这种图形形称为在在在p=2后截尾。这说明明该数据据满足是是平稳的的AR(2)模模型。26拖尾和截截尾所谓拖尾尾图形模模式也可可能不是是以指数数形式，，而是以以正负相相间的正正弦形式式衰减。。类似地地，如果果acf图形是是在第q=k个条后截截尾，而而pacf图形形为拖尾尾，则数数据满足足MA(q)模型。。如果两两个图形形都拖尾尾则可能能满足ARMA(p,q)模型。。具体判判别法总总结在下下面表中中（并不一一定严格格！）：27acf和和pacf图如acf和pacf图图中至少少一个不不是以指指数形式式或正弦弦形式衰衰减，那那么说明明该序列列不是平平稳序列列，必须须进行差差分变换换来得到到一个可可以估计计参数的的满足ARMA(p,q)模型的的序列如一个时时间序列列的acf和pacf图没有有任何模模式，而而且数值值很小，，那么这这个序列列可能就就是一些些互相独独立的无无关的随随机变量量。一个个很好拟拟合的时时间序列列模型的的残差就就应该有有这样的的acf和pacf图图。28AR(2)、MA(2)和ARMA(2,2)模模型所对对应的acf和和pacf图。。注意，，图中有有些条是是从0开开始的（（不算在在p或q内）。29例：数据据AR2.sav根据acf和和pacf图的形态，，不用进进行任何何差分就就可以直直接用AR(2)模型拟合合。利用用SPSS软件，选选择AR(2)模型(等价价地ARIMA(2,0,0)(0,0,0)模型),得得到参数估估计为也就是说该该AR(2)模型为为30例：数据AR2.sav例15.2的原始序序列和由模模型AR(2)得到到的拟合值值及对未来来10个观观测的预测测图（虚线线）31例：数据AR2.sav下面再看剩剩下的残差差序列是否否还有什么么模式。这这还可以由由残差的pacf(左)和acf(右右)图来判断。。可以看出出，它们没没有什么模模式；这说说明拟合比比较成功。。32例：数据AR2.sav下图为残差差对拟合值值的散点图图。看不出出任何模式式。说明残残差的确是是独立的和和随机的。。33ARIMA(p,d,q)(P,D,Q)s模型在对含有季季节和趋势势/循环等等成分的时时间序列进进行ARIMA模型型的拟合研研究和预测测时，就不不象对纯粹粹的满足可可解条件的的ARMA模型那么么简单了。。一般的ARIMA模模型有多个个参数，没没有季节成成分的可以以记为ARIMA(p,d,q)，如果没没有必要利利用差分来来消除趋势势或循环成成分时，差差分阶数d=0，模型型为ARIMA(p,0,q)，即ARMA(p,q)。在有已知的的固定周期期s时，模模型多了4个参数，，可记为ARIMA(p,d,q)(P,D,Q)s。这里增加加的除了周周期s已知知之外，还还有描述季季节本身的的ARIMA(P,D,Q)的模型识识别问题。。因此，实实际建模要要复杂得多多。需要经经过反复比比较。34用ARIMA模型拟合tax.sav先前对例15.1(数据tax.txt或tax.sav)进行行了分解，，并且用指指数平滑做做了预测。。知道其中中有季节和和趋势成分分。下面试图对对其进行ARIMA模型拟合。。先试图对对该序列做做acf和pacf条形图。其其中acf图显然不是是拖尾（不不是以指数数速率递减减），因此此说明需要要进行差分分。35用ARIMA模型拟合例例tax.sav关于于参数数，不要选选得过大；；每次拟合合之后要检检查残差的的acf和pacf图，看是否否为无关随随机序列。。在SPSS软件中还有有类似于回回归系数的的检验以及及其他一些些判别标准准的计算机机输出可做做参考（这这里不细说说）。经过几次对对比之后，，对于例16.1数据我们最最后选中了了ARIMA(0,1,1)(1,2,1)12模型来拟合合。拟合的结果果和对2005年6月之后12个月的的预测在下图中36例tax.sav的原始序列列和由模型型得到的拟拟合值及对对未来12个月的预测测图。37例：数据tax.sav为了核对，，当然要画画出残差的的acf和和pacf的条形图图来看是否否还有什么么非随机的的因素存在在。下图为为这两个点点图，看来来我们的模模型选择还还是适当的的。3839例：数据tax.sav例15.1数据拟合合ARIMA(0,1,1)(1,2,1)12模型后残差差序列的Ljung-Box检验的p值40新SPSS414243用ARIMA模型拟合带带有独立变变量的时间间序列例：数据tsadds2.sav是一个销售售时间序列列，以每周周七天为一一个季节周周期，除了了销售额序序列sales之外，还有有一个广告告花费的独独立变量adds。先不理睬睬这个独立立变量，把把该序列当当成纯粹时时间序列来来用ARIMA模型型拟合。右右图为该序序列的点图图。44数据tsadds2.sav再首先点出出其acf和pacf条形图图acf图显然不是是拖尾模式式，因此，，必须进行行差分以消消除季节影影响。试验验多次之后后，看上去去ARIMA(2,1,2)(0,1,1)7的结果还可可以接受。。残差的pacf和和acf条条形图在下下一页图中中45用ARIMA模型拟合带带有独立变变量的时间间序列继续改进我我们的模型型，再把独独立变量广广告支出加加入模型，，最后得到到的带有独独立变量adds的的ARIMA(2,1,2)(0,1,1)7模型。拟合合后的残差差图在下图图中。46用ARIMA模型拟合带带有独立变变量的时间间序列从各种角度度来看拟合合带独立变变量平方的的ARIMA(2,1,2)(0,1,1)7模型给出更更好的结果果。虽然从上面面的acf和pacf图看不不出（一般般也不应该该看出）独独立变量对对序列的自自相关性的的影响，但但是根据另另外的一些些判别准则则，独立变变量的影响响是显著的的，而且加加入独立变变量使得模模型更加有有效。47用ARIMA模型拟合带带有独立变变量的时间间序列要注意，一一些独立变变量的效果果也可能是是满足某些些时间序列列模型的，，也可能会会和季节、、趋势等效效应混杂起起来不易分分辩。这时时，模型选选择可能就就比较困难难。也可能能不同模型型会有类似似的效果。。一个时间序序列在各种种相关的因因素影响下下的模型选选择并不是是一件简单单明了的事事情。实际际上没有任任何统计模模型是绝对对正确的，，它们的区区别在于，，在某种意意义上，一一些模型的的某些性质质可能要优优于另外一一些。48新SPSS的时间序序列实现特点:在ARIMA中自动动选择用什什么参数在指数平滑滑和ARIMA中自自动选择模模型(包括括参数)下面是两个个例子TAXAIRPORT49tsadds2.sav50515253Airport.sav545556575859606162SPSS的的实现:ARIMA模型时间序列的的acf和和pacf图：可以以用选项Graphs－TimeSeries－Autocorrelations，然后把变量量选入Variables中中(对于数数据AR1.sav，把时间间序列Z选选入)。在Display中中(默认地地)有选项项Autocorrelations和Partialautocorrelations导致acf和pacf图图。人们还经常常对残差项项绘acf和pacf图。63SPSS的的实现:ARIMA(p,d,q)(P,D,Q)s模型拟合选择Analyze－TimeSeries－ARIMA，然然后把数据据中的时间间序列选入入Dependent(在数数据AR1.sav中,选Z,对数据据tssales.sav时时选sales,而而对数据tsadds2.sav时选选sales),对对于Independent,仅在使使用数据tsadds2.sav时选选了adds。在Model的第一一列为ARIMA(p,d,q)(P,D,Q)s模型的前三三个参数(p,d,q),第第二列(sp,sd,sq)为ARIMA(p,d,q)(P,D,Q)s模型的后三三个参数(P,D,Q)。这这样只要选选定我们所所希望尝试试的模型参参数即可。。周期s由于于在定义序序列时已经经有了(见见对话框中中注明的CurrentPeriodicity后面面的数字),就不用用另外输入入了。在输输出的变量量中有误差差和拟合(预测)的的序列，在在输出文件件中还有各各个参数和和一些判别别准则等。。。64公式：指数平滑模模型这些模型中中有a，g，d，f为待估计参参数，g＝0意味着斜率率为常数（（趋势无变变化），而而d＝0意味着没有有季节成分分，f和减幅趋势势有关；对对于时间序序列Xt，趋势、光光滑后的序序列、季节节因子和预预测的序列列分别用Tt、St、It和表表示；另外，，p表示周期，et为残差65指数平滑模型型:线性趋势可加加季节模型（Lineartrend,additiveseasonalitymodel）66指数平滑模型型:线性趋势可乘乘季节模型（（Lineartrend,multiplicativeseasonalitymodel）67指数平滑模型型:指数趋势可加加季节模型（（Exponentialtrend,additiveseasonalitymodel）68指数平滑模型型:指数趋势可乘乘季节模型(Exponentialtrend,multiplicativeseasonalitymodel)69指数平滑模型型:减幅趋势可加加季节模型（（Dampedtrend,additiveseasonalitymodel）70指数平滑模型型:减幅趋势可乘乘季节模型（（Dampedtrend,multiplicativeseasonalitymodel）71ARIMA模型平稳时间序列列满足的条件件：对所有t,E(Zt)=m，而且自协方方差函数gts=cov(Xt,Xs)=E(Xt-m)(Xs-m)。仅仅与差t-s有关，因此可可以记gk=gt,t+k=cov(Xt-m)(Xt-m)。

对于平平稳序列，自自相关函数(acf)定定义为corr(Zt,Zt+k)=gk/g0。偏相关函数数(pacf)定义为corr(Zt,Zt+k|Zt+1,…,Zt+k-1)。函数acf和和pacf的的点图可以用用来帮助识别别平稳过程的的ARMA(p,q)模型。AR(p)和MA(q)模型是ARMA(p,q)模型的特例例，而ARMA(p,q)模型又是ARIMA(p,d,q)的特例（这这里只有趋势势，没有季节节），而ARIMA(p,d,q)又是既有趋趋势又有季节节成分的ARIMA(p,d,q)(P,D,Q)s模型的特例。。72ARIMA模模型:为了便于描述述公式，定义义算子73AR(p)模型或者，用等价的算子子符号，74MA(q)模型或者，用等价的算子子符号，75ARMA(p,q)模型或者，用等价的算子子符号，76ARIMA(p,d,q)(P,D,Q)s模型这里为为类似于ARMA(p,q)模型中的算子子只不过是描述述季节序列的的罢了；它们们定义为77AR(p)模型：或者，用等价的算子子符号，78AR(p)模型：或者，用等价的算子子符号，79指数平滑模型型:减幅趋势可乘乘季节模型（（Dampedtrend,multiplicativeseasonalitymodel）80指数平滑模型型:减幅趋势可乘乘季节模型（（Dampedtrend,multiplicativeseasonalitymodel）81AR(p)模型：或者，用等价的算子子符号，829、静夜四四无邻，，荒居旧旧业贫。。。12月-2212月-22Saturday,December24,202210、雨中黄黄叶树，，灯下白白头人。。。07:29:2907:29:2907:2912/24/20227:29:29AM11、以我独沈沈久，愧君君相见频。。。12月-2207:29:2907:29Dec-2224-Dec-2212、故人江海海别，几度度隔山川。。。07:29:2907:29:2907:29Saturday,December24,202213、乍乍见见翻翻疑疑梦梦，，相相悲悲各各问问年年。。。。12月月-2212月月-2207:29:2907:29:29December24,202214、他乡乡生白白发，，旧国国见青青山。。。24十十二二月20227:29:29上上午07:29:2912月月-2215、比不了了得就不不比，得得不到的的就不要要。。。十二月227:29上午午12月-2207:29December24,202216、行动出出成果，，工作出出财富。。。2022/12/247:29:2907:29:2924December202217、做前，，能够环环视四周周；做时时，你只只能或者者最好沿沿着以脚脚为起点点的射线线向前。。。7:29:29上午午7:29上午午07:29:2912月-229、没有失失败，只只有暂时时停止成成功！。。12月-2212月-22Saturday,December24,202210、很多事事情努力力了未必必有结果果，但是是不努力力却什么么改变也也没有。。。07:29:2907:29:2907:2912/24/20227:29:29AM11、成功就是是日复一日