第2章平稳时间序列模型

1、精品文档第二章平稳时间序列模型本章将介绍Box-Jenkins方法，主要包括一元平稳时间序列的识别、估计、诊断和预测方法。2.1平稳性时间序列yt的均值和协方差E(yJ=5cov(yt,ys)=E(yt-4)5-八)=一个随机过程的线性性质可由均值和协方差来描述。如果这个过程是正态过程，几可以完全刻画这个随机过程的分布性质。如果没有正态性质，但生成过程是线性的，则在它的均值和方差中可获得关于这个过程的更多的重要特征。下面的问题是如何来估计收，对于一些过程我们可以得到大量的实现(反复做观测)yjt,t=12ll1n.j=12W,k.那么，也的估计是1 k?t十yjtkj1但对大多数过程来说，得不

2、到更多的实现。如，不可能把经济停下来，然后重新开始观测。对一个实现，不可能估计出也。为了克服这个困难，时间序列分析要做如下的假设：均值和方差不随时间而改变。如果对任何t,t-s,都有E(yt)=E(ytv)=2 22E（yt-口）2=E（y.）2=二2cov（yt,ytJ=cov（yt，yt“）三入这里也蔼都是常量，与时间无关，R是依赖于s的常量。这样的随机过程称为协方差平稳。可以简单地说，如果一个时间序列的均值和协方差不受时间变化影响，则称这个时间序列是协方差平稳。在一些文献中，协方差平稳的过程也称为弱平稳，二阶矩平稳或宽平稳过程。（注意一个强平稳过程不一定有有限的均值和方差）。一个更进一步

3、的假设是遍历性（ergodic）是这是一个较难理解的一个概念。遍历性是指，按时间平均_iynytn1是总体均值的无偏、一致估计。即E（yn）=hVar（yn）J0,（nTg）,同理，工的估计也是一致的。因此，如果有平稳性和遍历性的假设，利用关于时间的平均，就可以得到较好的估计。遍历性的一个必要条件（但不充分）是；sT0（STo）O对于一个协方差平稳的序列，yt和yt7之间的自相关系数可定义为S=s/0因此，yt和yt之间的自相关系数与yt-和ytq之间的自相关系数相同,显然P=1。序列Ps,s=0,1,2川，描述了这个过程的一个值与先前的值的相关程度，所以自相关系数可用来测量过程本身的记忆性的

4、长度和强度，即在时刻t的值与时刻t-s的值的相关程度。R,s=0,1,2儿的图形被称为相关图。用来刻画这个过程生成机制的线性性质。2.2自回归模型如果一个时间序列乂可表示成yt=+礼是零均值白噪声则称yt为一阶自回归过程。记为ytAR(1)。由Yule(1927)引入，起源于实践。如，每月的失业人数可认为是上月失业人数的一个固定比例，加上寻求职业的工人数。如果这些人数形成一个白噪声序列，那么，失业序列就是一阶自回归。更一般的形式yt=：,0，,工jyt_j；tji称为p阶自回归过程。记为ytAR(p)op如果口(z)=1-%zj=0的根在单位园|z=1外，则过程yt是平稳j6的。用滞后算子表7

5、5为cc(L)yt=st它的一殳解为5=一乙驾。如;(L)果平稳性条件成立，则yt=气_j,b0=1。这里,b(L)=EbjLj=V(L)ojfj=0特别地，如果ytAR(1)那么,网z)=1yz,所以，yt=1I(2.2.1)j=0二-_2如果E(5)=0,贝UVar(yt)=。2c(2j=J,由此可看出，如果a1,1-yt的解具有发散性质。2.3 运动平均模型一般的运动平均的模型是qxr=-i；ti.0按这样方式构成的序列被称为阶为q的运动平均，记为xtMA(q)。运动平均过程由Yule(1926)引出，Wold(1938)进行了详细地研究。如果一个经济变量处在均衡中，如果受到来自经济系统

6、内部(或外部)不可预期事件的冲击而偏离原来状态。如果本系统弁不能立刻吸收这些冲击效应，那么，将出现一个运动平均模型。如，一个小型商品市场得到了一系列关于农产品状况的信息，一条特别新闻对价格有即时影响，也有不同程度的滞后影响，令yt表示价格在t处的变化，假设这种冲击影响价格变化，直到q天，这种冲击影响消失。这时，较适当的模型是MA(q)yt二1。-HI-q。如果影响是逐渐消失Pj=Qj,(0a1),j1川，即j天前的影响是久j,则见=9支上一，由(221),yt可表示成j=0yt,这时，MA(g)过程等价于AR(1)过程。由2.2节知道，平稳的AR(p)过程可以写成MA(专，那么，如q果P(z)

7、=1苞PjZj的根在单位园外(可逆性性条件成立)，则MA(q)j=0q过程乂=Pj.可以写成ARg)过程。j=02.4 ARMA模型将自回归模型和运动平均模型结合起来，pqyt=a0十必八十?iSt_L(2.4.1)i1i0总可以将Po标准化成1,如果自回归部分和运动平均部分的滞后阶数分别为p,q,模型被称为ARMA(p,q)o如果q=0,这过程被称为自回归过程AR(p),如果p=0,这过程是运动平均过程MA(q)o在ARMA1型中，允许p,q是无限的。用滞后算子表示为:(LM=L)什pq这里ct(L)=1-Z%Lj,P(L)=1-工PjLj。jijf这时容易知道：(1)如果a(z)=0的根在

8、单位园外，则过程是平稳的。(2)如果过程是平稳的，则有一个等价的MA过程OOyt=ZCj斗_j,C01j=0(3)如果P(z)=0的根在单位园|z=1外(通常称为可逆性条件)，则有一个等价的AR()过程yt=djyt_j+驾。j1这说明，一个平稳的ARMAi程yt可以逼近高阶MA过程如果过程yj满足可逆性条件，这过程可以逼近高阶AR过程2.5自相关函数Box-Jenkins(1976)在识别和估计时间序列时，给出了非常有用的工具是自协方差和自相关。如AR(1)模型yt=ao十ayt二十氧0=二2/(1-a；)s=；，2a；/(1-a；)每个工用，除，得到自相关8=1,巴=2/2=a；,，Ps=

9、a；。对于AR(1)过程，平稳的必要条件是|a12o对于二阶过程的平稳性限制条件是1-aiz-a2z2=0的根在单位圆外，如果根是实的，自相关按指数衰减；如果根是复的，自相关按震荡式衰减。f精品文档MA（1）过程的自相关函数弁取期下面考虑MA（1）过程yt=驾+用yj乘方程两边,望，可得Yule-Walker方程0=Var（yt）=Ey,yt=E（丁）（4）=（一2）二2i=Eyty=E（；tL=）（-：）=二：一2弁=Eytyt=E(%+P%)(h+*)=0,sa1,用%除”可得ACE刀=1,H=P/(1+P2),Ps=0,sio下面求MA(q)过程汽.，P0=1的自相关函数。j=0乂=；t

10、.：1；t,|卜飞11_sd-：s；t_s,飞1；t_s,HI,:q；tqyt_s=;t_S_1；t_SJIII_q_S；t_qIH_q_q_S所以，？S=E(ytyt)=Ps”1久中+P2PsH2+|+Pq=Pq,sqo因此，对充分大的s,?sT0。下面求ARMA(11)过程的自相关函数考虑ARMA(1,1)过程yt=aiy+君t+Pe，可同样求出Yule-Walker方程：Eytyt=aiEytytE个乂-E匕乂=aii.二2一(ai.2Eytyt=a1Eyt4yt4E；tyt-1E气.yt=1=al0T7Eytyt2aalEyt.lytJ2E；tytN-1E；tyt_2=2=al1Eyt

11、yt=aiEy_ytqE”匕：1E:s=ais因此,1122ai-120二2(1-ai2)(1ai：i)(ai：i)；(1-a12)一：_(1ai)(a1)21(1：22al：1)*S=ai*S1,S2o因此，ARMA(11)的ACF类似于AR(1)的ACF如果0为0,指数衰减：Ps=a；AR(1)：ai0在滞后1期处有正峰值，但：-s=0,s.2MA(1):九0在滞后1期处有负峰值，但：；=0,s一2ARMA(11)在滞后1期处开始按几何ai0衰减Sign*Sign(a1:)ARMA(11)在滞后1期处开始振藩哀4。减Sign;?1=Sign(a1：)ARMA(p,q)在滞后q期开始衰减(或

12、直接或振荡)PACF所有ss=011=：1,ss=0,s211=0,s_2在p期前后峰值，但在p期之后ss=0,s_p振藩哀减，HO几何衰减，111(2.7.1)TI在零假设H:%+p书=0下，丸p渐近服从均值为零的正态分布，其中，0+p卡的方差渐近于在实际检验中，我们可以使用这些样本值来构造样本自相关%和偏相关函数如，利用(2.7.1)进行显著性检验。例如，如果我们使用95濯信区间(即，2个标准差)，且计算出的ri值大于21斤，则拒绝零假设-一阶自相关在统计意义上不是显著异于零。拒绝零假设意味着接受备择假设s1o下面检验是否上=0;这时，Var(r2)=(1+2r；)/T,如果ri=0.5,

13、T=100，则Var(r2)=0.015，标准差为0.123。如果2超过2父0.123,则拒绝假设2=0。因此，拒绝零假设意味着接受备择假设s2o重复上述过程，我们可确定这个过程的阶数。Q-统计量可用来检验自相关是否显著不为零，Box-Pierce(1970)利用样本自相关构造了统计量sQTk2在H0：k=0下，Q是渐近x2-分布，自由度为S,较高的样本自相关可导致较大Q的值。显然，白噪声过程(所有的自相关都为零)的Q值为零。如果Q的值超过X表中的临界值，我们可以拒绝零假设(各阶自相关都为零)，意味着接受备择假设：至少有一个自相关不为零。然而，即使在大样本情况下，Box-Pierce的Q统计量

14、有偏差，Ljung和Box(1978)给出了修正的Q-统计量sQ-T(T2广r：/(T-k)k1如果这个Q值超过*(s)表中的临界值，那么至少有一个rk在给定的显著水平上显著不为零。Box-Pierce和Ljung-Box的Q统计量也可用来检验来自于ARMA（p,q）模型的残差是否为白噪声。但是，如果对ARMA（p,q）模型的残差计算s个自相关，则Q统计量的自由度就会由待估计的系数个数增加而减少。因此，如果检验ARMA（p,q）模型的残差时，Q统计量有自由度为s-p-q的/2分布，（如果包含常数的话，自由度就是s-p-q-1）。2.8 选择模型准则一个自然的问题是：所选择的模型拟合数据效果如何

15、？增加滞后阶数一定能减少残差平方和。但是增加滞后阶数需要估计更多的参数，使自由度减少。而且，系数个数的增加降低预测的精度。因而产生了各种选择模型的准则（能降低残差平方的更节俭的模型）。有两个通常使用的准则是Akaike信息准则（AIC）和SchwartzBayesian准贝U（SBC）.AIC=Tln（残差平方和）+2nSBC=Tln（残差平方和）+nln（T）这里n=估计的参数的个数（p+q+常数项个数），T=观测值个数。当使用滞后变量估计模型时，一些观测值被损失。为了比较选择的模型，T应当是固定的。当然希望AIC和SBC尽可能小（也可能是负的），随着模型拟合的改进，AIC和SBCa趋于o我

16、们能利用这些准则，选择最适合的模型。如果模型A的AIC（或SBC小于模型B的AIC（或SBC,我们就说模型A拟合的比B好。在使用这些准则对不同的模型进行比较时，必须在相同的样本期间内进行估计，以使它们可进行比较。回归变量个数n的增加，可以降低残差平方和。因此，如果一个回归变量没有解释能力，把它添加到模型中会引起AIC和SBC增加。由于ln（T）大于2,所以，SBC总是比AIC选择更节俭的模型。两个准则中，SBC有更好的大样本性质。令数据生成过程的真正阶为（p*q*），假设我们利用AIC和SBC古计阶为（p,q）的ARMA模型，这里p之p*qq当样本个数趋于无穷时，AIC和SBC都将选择阶数大于

17、等于（p冲,q*）的模型。然而，AIC倾向于选择参数过多的模型，而SBC却是渐进一致的。1在小样本中，AIC优于SBC。如果AIC和SBC选择了同一模型，对这个模型就应当有较大的信心。如果两个准则选择了不同的模型，这时就需要再进一步的分析。由于SBC倾向于选择更节俭的模型，所以一旦选择了这个节俭模型，还需要检验残差是否为白噪声。因为AIC能选择参数过多的模型，所有系数的t-统计量都应是显著的（在适当的显著水平下）。以后我们还会介绍更多的诊断检验来检验模型的充足性。2.9 AR（1）模型的估计让我们用一个例子说明利用样本自相关、偏相关函数来识别ARMAI型。利用计算机生成100个正态分布的随机数

18、（方差为1）,这些随机变量称为t=1,2,100.yt由yt=0.7yj+雪和初始条件y0=0生成上图给出了样本自相关和偏自相关函数的图形。在实际中，我们不知道真实的数据生成过程。假设我们利用这100个数据(样本值)来找出真正过程。第一步，比较ACF和PACFACF的衰减和PACF&滞后一阶处的截尾说明了AR(1)模型。前三个自相关r1=0.74,2=r0.58亍r(有4附大于理论值ri=0.7,0.49(=0.72),0.343)。在PACF中，滞后1阶处有一个显著的高峰值0.74,所有其它偏自相关(除在滞后12阶处)都非常小。1在零假设H。：1=0,下，1的标准差是T2=0.1,因为1=0

19、.74的样本值大于7个标准差。我们可以拒绝1=0的零假设。再计算2方差Var(r2)=(12(0.74)2)/100=0.0211因为2的标准差(0.021)2=0.1449,2的样本值大于3倍(0.58/0.15)的标准差；在通常的显著水平下，我们可以拒绝2=0的零假设。我们可同样检验其它自相关值的显著性。除，外，所有偏自相关函数(除滞后12阶外)，都小于2L2=0.2。ACF的衰减和PACF的一个高峰值建议了一阶自回归模型。然而，如果我们不知道真正过程，而且使用了月度数据，这时需要关注偏自相关函数在滞后12阶处的显著性，需要关注yt和yt,2的直接关系。尽管我们这里知道这过程是由AR(1)

20、生成的，下面我们将两个不同的模型作一比较。假设我们估计AR(1)模型，弁试图用MAK数捕捉白在滞后12阶处峰值。因此，考虑两个模型模型1:yt=ayt,叶模型2:yt=ayt；t.一；t下表报告了两个估计结果，模型1的系数满足稳定性条件a1t_i这里y0,玩都为零。样本ACF和PACFW图如果数据生成过程是未知的，还要关注一些相近的情形。AR(2)模型也许能产生类似上图的ACF和PACF考虑三个模型模型1：M=ayt_i,；t模型2:yt=a1yt,；t,一：一4模型3：yt=a1yt4a2yt旺下表给出估计结果：ARMA(1.1)模型的估计估计(括号内为标准差)Q统的(括号内为显著水平)AI

21、C/SBC模型1ai:-0.835(.053)0.835/0.053=16Q(8)=26.19(.000)Q(24)=41.10(.001)AIC=496.5SBC=499.0模型2ai:-0.679(.076)P1:-0.676(.081)Q(8)=3.86(.695)Q(24)=14.23(.892)AIC=471.0SBC=476.2模型3ai:-1.16(.093)a2:-0.378(.092)Q(8)=11.44(.057)Q(24)=22.59(.424)AIC=482.8SBC=487.9有上表可看出：所有ai的估计值都是高度显著的。每个估计值至少是8倍的标准差。显然AR(1)模

22、型是不适合的。模型1的Q统计量说明：在残差中有显著的自相关性。而ARMA(1.1)并不存在这样问题。而且，AIC和SBCTB建议选择模型2。同样的理由也说明选择模型2比选择模型3较为适合。我们还可注意到：对每个模型，估计的系数都是高度显著的。虽然在滞后24阶处，Q-统计量没有说明这两个模型的残差中有自相关，在滞后8阶处，Q-统计量指出了模型3的残差中有序列相关。因此，AR(2)模型也没能像ARMA(1.1)模型捕捉到短期动态。AIC和SBCS选择了模型2。120000Date:03/30WTime:11:06Sample:19782002Includedobservations:25Autoc

23、orrelationPartialCorrelationACPACQ-StatProbi1111ii20.7270.5300.7270.00114.B7723.1110.000.10130.365-0.04427,1990.0001=11i40240-0.02229.0550.0001Zl1i50.1760.04S30.129D001160.1690.057310220.00011i701460.02031.8300.00011180.1360.006325720.00011i90119-0.00133.1650.0001口1i10,91-0.01433.540,11110.057-0.022

24、33,699000011IIi120020-0.03133.7190.001Date:04/01/D7Time:22:48Sample(adjusted):19792002Includedobservations：24afteradjustmentsFailuretoimproveSSRafter19iterationsBackcast:197BVariableCoefficientStd.Errort-StatisticProb.AR(1)1.1026370.007138154.47260.0000MA(1)0.9973130.1833795.4385230.0000R-squared0.9

25、97556Meandependentvar37501.38AdjustedR-squared0.997445S.D.dependentvar35005.21S.Eofregression1769.338Akaikeinfocriterion17,87425Sumsquaredresid68872269Schwarzcriterion17.97243Loglikelihood-212.4910Durbin-Watsonstat0.745405InvertedARRoots1.10EstimatedARprocessisnonstationaryInvertedMARoots-1.00Depend

26、entVariable:ODGDP02Method:LeastSquaresDate:04/01/07Time:22:18Sample(adjusted):19812002Includedobservations:22afteradjustmentsConvergenceachievedafter16iterationsBackcast:1980VariableCoefficientStd.Errort-StatisticProbAR(1)0,3133980.2660761.1778490.2527MA0.6570230.2111393.111798U0055R-squared0.4860D3

27、AdjustedR-squared0.460303S.E.ofregression1338,901Sumsquaredresid35853101Loglikelihood*188,5595Meandependentvar401,2409StD.d即巳ndntvar1B22.525Akaikeinfocriterion17.32359Schwarzcriterion17.42278Durbin-Watsonstat1.898215InvertedARRoots.31InvertedMARoots-.66DependentVariable;DDGDP02Method:LeastSquaresDat

28、e:04/0W7Time:22:38Sample(adjusted):19802002Includedobsen/ations:23afteradjustmentsConvergenceachievedafter20iterationsEackcast:1979VariableCoefficientStdErrort-StatisticProb.MA(1)0.7593690.14094253913530.0000R-squared0446965Meandependentvar384.1913AdjustedR-squarsd0.446965SDdependentvar1782.499S.E.o

29、fregression1325.991Akaikeinfocriterion17,25961Sumsquaredresid38658192Schwarzcriterion17.30098Loglikelihood-197.4855Durbin-Watsonstat1.576891InvertedMARoots-.76消费价格指数Date:04/02/07Time:13:12Sample:1980M012004M12Includedobservations：296AutocorrelationPartialCarrslationACPACQ-StatProbI1 0 990 0 990293.1

30、10 000I2 0.970 -0.496675690.0003 0.9J3 -0.215643 520.000L4 0 910 -0 1221093 4u ULIOi|5 0.B71 -0.0341323E0.000i6 0.829 -0.0571532.70.000r7 0783 -0.1261719.80.000i|3 0 733 -0 0261884 40 0009 0.681 -0.0442027.00.00010 0.627 0.0032148.30.00011 0.574 0.1262250.40.00012 0.524 0.0872335.50 00013 0.477 0.1322406.40.00014 0.434 0.0052465.20.000c15 0.393 -0.1062513.60.000DependentVariable:CPIMethod:LeastSquaresDate:04/02/07Time:12:45Sample(adjusted):1980M022004M08Includedobseivations:295afteradjustmentsConvergenceachievedafter12iterationsEackcast:1980M01VariableCoef