平稳时序模型ARMA

1、2.32.3 时间序列模型时间序列模型 Stochastic Time Serial ModelStochastic Time Serial Model 一、一、时间序列模型概述时间序列模型概述 二、二、平稳时间序列模型的平稳性条件模型的平稳性条件 三、三、平稳时间序列模型的识别时间序列模型的识别 四、四、平稳时间序列模型的估计时间序列模型的估计 五、五、平稳时间序列模型的检验时间序列模型的检验 六、六、ARIMA模型案例案例 说明说明 严格从理论体系讲，本节内容属于时间序列分严格从理论体系讲，本节内容属于时间序列分 析，但不属于我们所定义的狭义的计量经济学。析，但不属于我们所定义的狭义的计量

2、经济学。 本节内容一般不纳入计量经济学的课堂教学内本节内容一般不纳入计量经济学的课堂教学内 容，供没有学习过应用数理统计或者经济预测容，供没有学习过应用数理统计或者经济预测 课程的同学自学。课程的同学自学。 课件只提供一个简单的思路。课件只提供一个简单的思路。 一、一、时间序列模型概述时间序列模型概述 1、时间序列模型、时间序列模型 两类时间序列模型两类时间序列模型 时间序列结构模型：时间序列结构模型：通过协整分析，建立反映不同时间通过协整分析，建立反映不同时间 序列之间结构关系的模型，揭示了不同时间序列在每个序列之间结构关系的模型，揭示了不同时间序列在每个 时点上都存在的结构关系。时点上都存

3、在的结构关系。 随机时间序列模型：随机时间序列模型：揭示时间序列不同时点观测值之间揭示时间序列不同时点观测值之间 的关系，也称为的关系，也称为无条件预测模型。无条件预测模型。 平稳时间序列模型包括：平稳时间序列模型包括：AR(p)、MA(q)、 ARMA(p,q)。 平稳时间序列模型并不属于现代计量经济学。平稳时间序列模型并不属于现代计量经济学。 2、随机时间序列模型的适用性、随机时间序列模型的适用性 用于无条件预测用于无条件预测 结构模型用于预测的条件：建立正确的结构模型，给定结构模型用于预测的条件：建立正确的结构模型，给定 外生变量的预测值。外生变量的预测值。 无条件预测模型的优点。无条件

4、预测模型的优点。 结构模型的简化形式结构模型的简化形式 结构模型经常可以通过约化和简化，变换为随及时间序结构模型经常可以通过约化和简化，变换为随及时间序 列模型。列模型。 二、随机时间序列模型的平稳性条件二、随机时间序列模型的平稳性条件 1 1、AR(p)AR(p)模型的平稳性条件模型的平稳性条件 随机时间序列模型的平稳性，可通过它所生成随机时间序列模型的平稳性，可通过它所生成 的随机时间序列的平稳性来判断。的随机时间序列的平稳性来判断。 如果一个如果一个p p阶自回归模型阶自回归模型AR(p)AR(p)生成的时间序列生成的时间序列 是平稳的，就说该是平稳的，就说该AR(p)AR(p)模型是平

5、稳的；模型是平稳的； 否则，就说该否则，就说该AR(p)AR(p)模型是非平稳的。模型是非平稳的。 考虑考虑p p阶自回归模型阶自回归模型AR(p)AR(p) tptpttt XXXX 2211 ptt p tttt XXLXXLXLX , 2 2 1 tt p p XLLL)1 ( 2 21 )1 ()( 2 21 p pL LLL 0)1 ()( 2 21 p pz zzz AR(AR(p p) )的特征方程的特征方程 可以证明，如果该特征方程的可以证明，如果该特征方程的所有根在单位圆所有根在单位圆 外外（根的模大于（根的模大于1），则），则AR(p)模型是平稳的。模型是平稳的。 容易得到

6、如下平稳性条件容易得到如下平稳性条件 ttt XX 1 1 tttt XXX 2211 1, 1, 1 22121 1 21 p 1| 21 p tptpttt XXXX 2211 必要条件 充分条件 2 2、MA(q)MA(q)模型的平稳性模型的平稳性 有限阶移动平均模型总是平稳的。有限阶移动平均模型总是平稳的。 qtqttt X 11 0)()()()( 11 qtqttt EEEXE 2 2 1111 2 13221111 222 10 ),( )(),( )(),( )1 ( qqttq qqqttq qqtt qt XXCov XXCov XXCov XVar 当滞后期大于q 时，X

7、的自协方 差系数为0。 3、ARMA(p,q)模型的平稳性模型的平稳性 ARMA(p,q)平稳性取决于平稳性取决于AR(p)的平稳性。的平稳性。 当当AR(p)AR(p)部分平稳时，则该部分平稳时，则该ARMA(p,q)ARMA(p,q)模型是平模型是平 稳的，否则，不是平稳的。稳的，否则，不是平稳的。 qtqttptptt XXX 1111 4 4、总结、总结 一个平稳的时间序列总可以找到生成它的平稳一个平稳的时间序列总可以找到生成它的平稳 的随机过程或模型。的随机过程或模型。 一个非平稳的随机时间序列通常可以通过差分一个非平稳的随机时间序列通常可以通过差分 的方法将它变换为平稳的，对差分后

8、平稳的时的方法将它变换为平稳的，对差分后平稳的时 间序列也可找出对应的平稳随机过程或模型。间序列也可找出对应的平稳随机过程或模型。 如果将一个非平稳时间序列通过如果将一个非平稳时间序列通过d d次差分，将次差分，将 它变为平稳的，然后用一个平稳的它变为平稳的，然后用一个平稳的ARMA(p,q)ARMA(p,q) 模型作为它的生成模型，则该原始时间序列是模型作为它的生成模型，则该原始时间序列是 一个一个自回归单整移动平均（自回归单整移动平均（autoregressive autoregressive integrated moving averageintegrated moving avera

9、ge）时间序列，记）时间序列，记 为为ARIMA(p,d,q)ARIMA(p,d,q)。 三、随机时间序列模型的识别三、随机时间序列模型的识别 所谓所谓随机时间序列模型的识别随机时间序列模型的识别，就是对于一个，就是对于一个 平稳的随机时间序列，找出生成它的合适的随平稳的随机时间序列，找出生成它的合适的随 机过程或模型，即判断该时间序列是遵循一纯机过程或模型，即判断该时间序列是遵循一纯 ARAR过程、还是遵循一纯过程、还是遵循一纯MAMA过程或过程或ARMAARMA过程。过程。 所使用的工具主要是时间序列的所使用的工具主要是时间序列的自相关函数自相关函数 （autocorrelation fu

10、nctionautocorrelation function，ACFACF）及）及偏自偏自 相关函数相关函数（partial autocorrelation partial autocorrelation functionfunction， PACF PACF ）。）。 1 1、AR(p)AR(p)过程过程 自相关函数自相关函数ACFACF tptpttt XXXX 2211 pkpkk tptpttktk XXXXE 2211 2211 )( pkpkkkk 22110 k期滞后自协方差 k阶自 相关 函数 可见，无论可见，无论k k有多大，有多大， k k的计算均与其到的计算均与其到p p

11、阶滞后的自阶滞后的自 相关函数有关，因此呈拖尾状。相关函数有关，因此呈拖尾状。如果如果AR(p)AR(p)是平稳的，则是平稳的，则 | | k k| |递减且趋于零递减且趋于零（可作为平稳性判断方法）（可作为平稳性判断方法）。 偏自相关函数偏自相关函数 自相关函数自相关函数ACF(k)ACF(k)给出了给出了X Xt t与与X Xt-1 t-1的总体相关性， 的总体相关性， 但总体相关性可能掩盖了变量间完全不同的隐但总体相关性可能掩盖了变量间完全不同的隐 含关系。含关系。 与之相反，与之相反，X Xt t与与X Xt-k t-k间的 间的偏自相关函数偏自相关函数(partial (partia

12、l autocorrelationautocorrelation，简记为，简记为PACF)PACF)则是消除了中则是消除了中 间变量间变量X Xt-1 t-1， ，X Xt-k+1 t-k+1 带来的间接相关后的直 带来的间接相关后的直 接相关性，它是在已知序列值接相关性，它是在已知序列值X Xt-1 t-1， ，X Xt-k+1 t-k+1的 的 条件下，条件下，X Xt t与与X Xt-k t-k间关系的度量。 间关系的度量。 AR(p)AR(p)的一个主要特征是的一个主要特征是:kp:kp时，时， k k* *=Corr(=Corr(X Xt t,X,Xt-k t-k)=0 )=0 ，即

13、即 k k* *在在p p以后是截尾的。以后是截尾的。 随机时间序列随机时间序列AR(p)AR(p)的识别原则：的识别原则： 若若XtXt的偏自相关函数在的偏自相关函数在p p以后截尾，即以后截尾，即kp时，时， k*=0=0，而它的自相关函数，而它的自相关函数 k是拖尾的，则此是拖尾的，则此 序列是自回归序列是自回归AR(p)AR(p)序列。序列。 18 AR(p)模型的自相关函数和偏自相关函数的 计算看起来较为复杂，但是计量经济学软件 都有自相关和偏相关函数的菜单，使用起来 非常方便。 以Eviews软件为例，我们来看AR(p)模型的自 相关函数和偏自相关函数。 19 AR(1)模型模型x

14、t=0.7xt-1+ut的自相关图和偏自相关图的自相关图和偏自相关图 自相关图 呈现出 拖尾特征拖尾特征 偏自相关图 在1阶以后 呈现出 截尾特征截尾特征 2 2、MA(q)MA(q)过程过程 MA(q)模型的识别规则：模型的识别规则：若随机序列的自相关若随机序列的自相关 函数截尾，即自函数截尾，即自q q以后，以后， k k=0=0（ kqkq）；而它）；而它 的偏自相关函数是拖尾的，则此序列是滑动平的偏自相关函数是拖尾的，则此序列是滑动平 均均MA(q)MA(q)序列。序列。 21 MA(1)模型模型xt=ut+0.8ut-1的自相关图和偏自相关图的自相关图和偏自相关图 偏自相关图 呈现出

15、 拖尾特征拖尾特征 自相关图 在1阶以后 呈现出 截尾特征截尾特征 3 3、ARMA(p, q)ARMA(p, q)过程过程 ARMA(p,q)ARMA(p,q)模型的识别规则：模型的识别规则：若随机序列的自若随机序列的自 相关函数和偏自相关函数都是拖尾的，则此序相关函数和偏自相关函数都是拖尾的，则此序 列是列是ARMA(p,q)ARMA(p,q)序列。序列。 实际上，实际上，ARMA(p,q)ARMA(p,q)过程的偏自相关函数，可过程的偏自相关函数，可 能在能在p p阶滞后前有几项明显的尖柱（阶滞后前有几项明显的尖柱（spikesspikes），）， 但从但从p p阶滞后项开始逐渐趋向于零

16、；而它的自阶滞后项开始逐渐趋向于零；而它的自 相关函数则是在相关函数则是在q q阶滞后前有几项明显的尖柱，阶滞后前有几项明显的尖柱， 从从q q阶滞后项开始逐渐趋向于零。阶滞后项开始逐渐趋向于零。 23 ARMA(1,1)模型模型xt=0.8xt-1+ut-0.3ut-1的自相关图和偏自相关图的自相关图和偏自相关图 可以看出，可以看出，ARMA(1,1)模型的自相关图和偏自相关图均是模型的自相关图和偏自相关图均是 在在k=1达到峰值后呈现出按指数衰减的拖尾特征达到峰值后呈现出按指数衰减的拖尾特征。 24 ARMA(2,2)模型模型xt=0.8xt-1-0.3xt-2+ut-0.5ut-1+0.

17、7ut-2 的自相关图和偏自相关图的自相关图和偏自相关图 可以看出，可以看出，ARMA(2,2)模型的自相关图和偏自相关图在模型的自相关图和偏自相关图在 k=1、2达到两个峰值后达到两个峰值后按指数或正弦衰减按指数或正弦衰减。 ARMA模型的识别原则的识别原则 ARMAARMA ACF拖尾q阶截尾拖尾 PACFp阶截尾拖尾拖尾 至于模型中的p和q阶具体取什么值，则要从 低阶开始逐步试探，直到合适的模型为止。 四、随机时间序列模型的估计四、随机时间序列模型的估计 AR(p)AR(p)、MA(q)MA(q)、ARMA(p,q)ARMA(p,q)模型的估计方法较模型的估计方法较 多，多，大体上分为大

18、体上分为3 3类：类： 最小二乘估计；最小二乘估计； 矩估计；矩估计； 利用自相关函数的直接估计利用自相关函数的直接估计。 下面有选择地加以介绍。下面有选择地加以介绍。 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估计方程估计 pkpkkk 2211 k=-k kppppp pp pp 1211 22112 11211 此方程组被称为此方程组被称为Yule WalkerYule Walker方程组。该方程方程组。该方程 组建立了组建立了AR(p)AR(p)模型的模型参数模型的模型参数 1 1, , 2 2, , , p p与与 自相关函数自相关函数 1 1

19、, , 2 2, , , p p的关系。的关系。 1 2 011 102 120 1 1 2 p p p ppp ptpttt XXX 11 p ji ijjit E 1, 0 22 p ji ijji 1, 0 2 MA(q) MA(q)模型的矩估计模型的矩估计 将将MA(q)模型的自协方差函数中的各个量用估计模型的自协方差函数中的各个量用估计 量代替，得到：量代替，得到： qk qk k qkqkk q k 当 当 当 0 1) ( 0) 1 ( 11 2 22 2 2 1 2 2 21 , , q 非线性方程组，用直接法非线性方程组，用直接法 或迭代法求解。常用的迭或迭代法求解。常用的迭

20、 代方法有线性迭代法和代方法有线性迭代法和 Newton-RaphsanNewton-Raphsan迭代法。迭代法。 ARMA(p,q) ARMA(p,q)模型的矩估计模型的矩估计 在在ARMA(p,q)中共有中共有(p+q+1)个待估参数个待估参数 1, 2, p与与 1, 2, q以及以及 2，其估计量计算步，其估计量计算步 骤及公式如下：骤及公式如下： 第一步第一步，估计，估计 1, 2, p 1 2 11 1 12 1 1 2 p qqq p qqq p q pq pq q q q p 第二步，第二步，改写模型，求改写模型，求 1, 2, q以及以及 2的估计值的估计值 tptpttt

21、 XXXX 2211qtqtt 2211 ptptttt XXXXX 2211 qtqtttt X 2211 构成一个构成一个MAMA模型。按照估计模型。按照估计MAMA模型参数的方法，模型参数的方法， 可以得到可以得到 1 1, , 2 2, , , q q以及以及 2 2的估计值。的估计值。 qtqttptptt XXX 1111 AR(p) AR(p)的最小二乘估计的最小二乘估计 tptpttt XXXX 2211 2 1 2211 1 2 )( ) ( n pt ptpttt n pt t XXXXS S j 0 0)( 1 2211 jt n pt ptpttt XXXXX 解该方程

22、组，就可得到待估参数的估计值。解该方程组，就可得到待估参数的估计值。 五、模型的检验五、模型的检验 1 1、残差项的白噪声检验、残差项的白噪声检验 由于由于ARMA(p,q)ARMA(p,q)模型的识别与估计是在假设随模型的识别与估计是在假设随 机扰动项是一白噪声的基础上进行的，因此，机扰动项是一白噪声的基础上进行的，因此， 如果估计的模型确认正确的话，残差应代表一如果估计的模型确认正确的话，残差应代表一 白噪声序列。白噪声序列。 如果通过所估计的模型计算的样本残差不代表如果通过所估计的模型计算的样本残差不代表 一白噪声，则说明模型的识别与估计有误，需一白噪声，则说明模型的识别与估计有误，需

23、重新识别与估计。重新识别与估计。 在实际检验时，主要检验残差序列是否存在自在实际检验时，主要检验残差序列是否存在自 相关。相关。 可用可用Q QLB LB统计量进行 统计量进行 2 2检验：在给定显著性水平检验：在给定显著性水平 下，可计算不同滞后期的下，可计算不同滞后期的Q QLB LB值，通过与 值，通过与 2 2分布分布 表中的相应临界值比较，来检验是否拒绝残差表中的相应临界值比较，来检验是否拒绝残差 序列为白噪声的假设。若大于相应临界值，则序列为白噪声的假设。若大于相应临界值，则 应拒绝所估计的模型，需重新识别与估计。应拒绝所估计的模型，需重新识别与估计。 2 2、AICAIC与与SBCSBC模型选择标准模型选择标准 在多组通过识别检验的（在多组通过识别检验的（p,qp,q）值选择最适当）值选择最适当 的模型。的模型。 常用的模型选择的判别标准有：常用的模型选择的判别标准有：赤池信息法赤池信息法 （Akaike information criterion，简记为，简记为AICAIC） 与施瓦兹贝叶斯法（与施瓦兹贝叶斯法（Schwartz Bayesian criterion，简记为，简记为SBCSBC）：）： )ln()ln( 2)ln( T