非平稳时间序列的随机分析课件

第四章非平稳序列的随机分析时间序列的分解差分运算ARIMA模型Auto-Regressive模型异方差的性质方差齐性变化条件异方差模型第四章非平稳序列的随机分析时间序列的分解4.1时间序列的分解4.1.1

Wold分解定理4.1.2Cramer分解定理引例4.1时间序列的分解4.1.1Wold分解定理引例4.1.1、Wold分解定理（1938）对于任何一个离散平稳过程它都可以分解为两个不相关的平稳序列之和，其中一个为确定性的，另一个为随机性的，不妨记作其中：为确定性序列，为随机序列，它们需要满足如下条件（1）（2）（3）4.1.1、Wold分解定理（1938）对于任何一个离散平稳确定性序列与随机序列的定义对任意序列而言，令关于q期之前的序列值作线性回归其中为回归残差序列，。显然，，且随着q的增大而增大，也就是说是非减的有界序列，它的大小可以衡量历史信息对现时值的预测精度。越小，说明预测得越准确，越大，说明预测得越差。对比43页AR模型确定性序列与随机序列的定义对任意序列而言，令确定性序列：若即说明序列随着时间的发展有很强的规律性。随机序列：若即说明序列随着时间的发展随机性很强，预测效果很差，此时称是随机序列。确定性序列：若例如：ARMA模型分解确定性序列随机序列Wold分解定理说明任何平稳序列都可以分解为确定性平稳序列和随机平稳序列之和。它是现代时间序列分析理论的灵魂，是构造ARMA模型拟合平稳序列的理论基础。例如：ARMA模型分解确定性序列随机序列Wold分解定理说明4.1.2、Cramer分解定理（1961）任何一个时间序列（可适用于非平稳序列）都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势成分，另一部分是平稳的零均值误差成分，即确定性影响随机性影响例如：平稳ARMA为常数系数为一个零均值白噪声序列为延迟算子4.1.2、Cramer分解定理（1961）任何一个时间序列对Cramer分解定理的理解：Cramer分解定理是Wold分解定理的理论推广，它说明任何一个序列的波动都可以视为同时受到了确定性影响和随机性影响的综合作用。平稳序列要求这两方面的影响都是稳定的，而非平稳序列产生的机理就在于它所受到的这两方面的影响至少有一方面是不稳定的。对Cramer分解定理的理解：Cramer分解定理是Wol4.2差分运算差分运算的实质差分方式的选择过差分4.2差分运算差分运算的实质4.2.1、差分运算的实质得到观察值序列之后，无论采用确定性时序分析方法还是随机时序分析方法，第一步都是要提取序列中的确定性信息。确定性时序分析方法：季节指数、长期趋势模型、移动平均（消弱短期随机波动对序列的影响）、指数平滑等（第五章）。4.2.1、差分运算的实质得到观察值序列之后，无论采用确定性差分方法是一种非常简便、有效的确定性信息提取方法（Box和Jenkins）。差分方法是一种非常简便、有效的确定性信息提取方法（Box和JCramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息。离散序列的d阶差分就相当于连续变量的d阶求导，在上述分解下，d阶差分就可充分提取时序中的确定性信息。Cramer分解定理在理论上保证了适当阶数的差分一定可以充分展开1阶差分，有1阶差分实质上就是一个自回归过程，它是用延迟一期的历史数据作为自变量来解释当期序列值的变动状况，差分序列度量的是1阶自回归过程中产生的随机误差的大小。差分运算的实质是使用自回归的方式提取确定性信息随机误差展开1阶差分，有随机误差4.2.2差分方式的选择1）序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳

2）序列蕴含着曲线趋势，通常低阶（二阶或三阶）差分就可以提取出曲线趋势的影响

3）对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好地提取周期信息

4.2.2差分方式的选择1）序列蕴含着显著的线性趋势，一【例4.1】1964年——1999年中国纱年产量序列蕴含着一个近似线性的递增趋势。对该序列进行一阶差分运算考察差分运算对该序列线性趋势信息的提取作用

1）序列蕴含着显著的线性趋势【例4.1】1964年——1999年中国纱年产量序列蕴含着差分前后时序图原序列时序图差分后序列时序图序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳

差分前后时序图原序列时序图差分后序列时序图序列蕴含着显著的线2）序列蕴含着曲线趋势例4.2尝试提取1950年——1999年北京市民用车辆拥有量序列的确定性信息2）序列蕴含着曲线趋势例4.2尝试提取1950年——199差分后序列时序图一阶差分二阶差分序列蕴含着显著的曲线趋势，二阶或三阶差分就可以实现趋势平稳

差分后序列时序图一阶差分二阶差分序列蕴含着显著的曲线趋势，3）蕴含着固定周期的序列例4.3差分运算提取1962年1月——1975年12月平均每头奶牛的月产奶量序列中的确定性信息

3）蕴含着固定周期的序列例4.3差分运算提取1962年1月差分后序列时序图1阶差分：提取线性递增趋势，剩季节波动和随机波动。序列还蕴含着固定周期，如何实现趋势平稳？

差分后序列时序图1阶差分：提取线性递增趋势，序列还蕴含着固定思考：如果把每一时刻的观察值与上年同期相应的观察值相减，是否能将原序列的周期性变化消除？（或实现平稳化），在经济上，就是考查与前期相比的净增值，用数学语言来描述就是定义季节差分算子。

定义：季节差分可以表示为1阶－12步差分：提取周期信息。思考：如果把每一时刻的观察值与上年同期相应的观察值相减，是否4.3.3、过差分

足够多次的差分运算可以充分地提取原序列中的非平稳确定性信息但过度的差分会造成有用信息的无谓浪费，从而降低估计的精度。

假设序列如下考察一阶差分后序列和二阶差分序列的平稳性与方差例4.44.3.3、过差分足够多次的差分运算可以充分地提取原序列中过差分实质上是因为过多次的差分导致有效信息的无谓浪费而降低了估计的精度。一阶差分平稳二阶差分（过差分）平稳过差分实质上是因为过多次的差分导致有效信息的无谓浪费而降低了4.3

ARIMA模型ARIMA模型结构ARIMA模型性质ARIMA模型建模ARIMA模型预测疏系数模型季节模型4.3ARIMA模型ARIMA模型结构4.3.1、ARIMA模型结构使用场合：差分平稳序列拟合ARIMA（autoregressiveintegratedmovingaverage求和自回归移动平均）ARIMA（p,d,q）模型结构为平稳可逆ARMA（p,q）模型的自回归系数多项式（4.1）对比63页4.3.1、ARIMA模型结构使用场合：差分平稳序列拟合为平为平稳可逆ARMA（p,q）模型的移动平均系数多项式。（4.1）简记为（4.2）ARIMA模型的实质就是差分运算与ARMA模型的组合。即任何非平稳序列如果能通过适当阶数的差分实现差分后平稳，此时可对差分后序列进行ARMA模型拟合了。为平稳可逆ARMA（p,q）模型的移动平均系数多项式。（4.ARIMA模型族d=0ARIMA(p,d,q)=ARMA(p,q)P=0ARIMA(P,d,q)=IMA(d,q)q=0ARIMA(P,d,q)=ARI(p,d)d=1,P=q=0ARIMA(0,1,0)=randomwalkmodelARIMA模型族d=0随机游走模型(randomwalk)模型结构模型产生典故KarlPearson(1905.07)在《自然》杂志上提问：假如有个醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外，一段时间之后再去找他，在什么地方找到他的概率最大呢？雷利爵士（1905.08）认为，最好去初始位置找他随机游走模型(randomwalk)模型结构2、ARIMA模型的平稳性2、ARIMA模型的平稳性自回归系数多项式的根为特征根的倒数，所以ARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在单位圆上。所以当时ARIMA(p,d,q)模型非平稳。例4.5ARIMA(0,1,0)时序图自回归系数多项式的根为特征根的倒数，所以ARIMA(p,3、ARIMA模型的方差齐性时，原序列方差非齐性d阶差分后，差分后序列方差齐性问题：平稳AR模型和可逆MA模型，它们是否具有方差齐性？3、ARIMA模型的方差齐性时，原序列方差非齐性问题回顾：Cramer分解定理（1961）任何一个时间序列（可适用于非平稳序列）都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势成分，另一部分是平稳的零均值误差成分，即确定性影响随机性影响例如：平稳ARMA为常数系数为一个零均值白噪声序列为延迟算子回顾：Cramer分解定理（1961）任何一个时间序列（可适离散序列的d阶差分就相当于连续变量的d阶求导，在上述分解下，d阶差分就可充分提取时序中的确定性信息。注意：防止出现过差分。离散序列的d阶差分就相当于连续变量的d阶求导，ARIMA模型结构ARIMA（p,d,q）模型结构分别为平稳可逆ARMA（p,q）模型的自回归系数多项式和移动平均系数。注意：ARIMA（p,q）的平稳性？方差齐性？ARMA（p,q）呢？ARIMA模型结构ARIMA（p,d,q）模型结构分别为平稳ARIMA模型建模步骤获得观察值序列平稳性检验差分运算YN白噪声检验Y分析结束N拟合ARMA模型ARIMA模型建模步骤获平稳性差分YN白噪声Y分N拟合例4.6对1952年——1988年中国农业实际国民收入指数序列建模>d=read.csv("shouru.csv",head=F)>shouru=ts(d,start=1952,end=1988,freq=1)>ts.plot(shouru,type="b")>chafen=diff(shouru,differences=1)>ts.plot(chafen)>acf(chafen,10)

例4.6对1952年——1988年中国农业实际国民收入指数序时序图和一阶差分序列时序图时序图和一阶差分序列时序图>acf(chafen,10)>pacf(chafen,10)>acf(chafen,10)>Box.test(chafen,type="Ljung-Box",lag=6)data:chafenX-squared=15.3304,df=6,p-value=0.01784arima(chafen,order=c(0,0,1),method="ML")>arima(x=chafen,order=c(0,0,1),method="ML")Coefficients:ma1intercept0.67104.9947s.e.0.16482.0139sigma^2estimatedas53.42:loglikelihood=-122.99,aic=251.97>Box.test(chafen,type="Ljung->a=arima(chafen,order=c(0,0,1),method="ML")>r=a$residuals>Box.test(r,type="Ljung-Box",lag=6,fitdf=1)data:rX-squared=3.6649,df=5,p-value=0.5986>p=pt(4.0716,df=35,lower.tail=F)*2>p[1]0.0002536605(theta1的检验）>p=pt(2.4801,df=35,lower.tail=F)*2>P[1]0.01809275(截距项的检验）>a=arima(chafen,order=c(0,4、ARIMA模型预测4、ARIMA模型预测4、ARIMA模型预测4、ARIMA模型预测预测值：线性最小方差预测原则预测值：线性最小方差预测原则例4.7已知ARIMA(1,1,1)模型为

且求的95％的置信区间

例4.7已知ARIMA(1,1,1)模型为（1）计算预测值展开原模型，得到等价形式计算预测值（1）计算预测值展开原模型，得到等价形式计算预测误差写出广义自相关函数的表达式，求出求出求出预测误差的方差计算预测误差写出广义自相关函数的表达式，求出计算置信区间

的95％置信区间计算置信区间例4.6续：对中国农业实际国民收入指数序列做为期10年的预测

例4.6续：对中国农业实际国民收入指数序列做为期10年的预测第四章非平稳序列的随机分析时间序列的分解差分运算ARIMA模型Auto-Regressive模型异方差的性质方差齐性变化条件异方差模型第四章非平稳序列的随机分析时间序列的分解4.1时间序列的分解4.1.1

Wold分解定理4.1.2Cramer分解定理引例4.1时间序列的分解4.1.1Wold分解定理引例4.1.1、Wold分解定理（1938）对于任何一个离散平稳过程它都可以分解为两个不相关的平稳序列之和，其中一个为确定性的，另一个为随机性的，不妨记作其中：为确定性序列，为随机序列，它们需要满足如下条件（1）（2）（3）4.1.1、Wold分解定理（1938）对于任何一个离散平稳确定性序列与随机序列的定义对任意序列而言，令关于q期之前的序列值作线性回归其中为回归残差序列，。显然，，且随着q的增大而增大，也就是说是非减的有界序列，它的大小可以衡量历史信息对现时值的预测精度。越小，说明预测得越准确，越大，说明预测得越差。对比43页AR模型确定性序列与随机序列的定义对任意序列而言，令确定性序列：若即说明序列随着时间的发展有很强的规律性。随机序列：若即说明序列随着时间的发展随机性很强，预测效果很差，此时称是随机序列。确定性序列：若例如：ARMA模型分解确定性序列随机序列Wold分解定理说明任何平稳序列都可以分解为确定性平稳序列和随机平稳序列之和。它是现代时间序列分析理论的灵魂，是构造ARMA模型拟合平稳序列的理论基础。例如：ARMA模型分解确定性序列随机序列Wold分解定理说明4.1.2、Cramer分解定理（1961）任何一个时间序列（可适用于非平稳序列）都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势成分，另一部分是平稳的零均值误差成分，即确定性影响随机性影响例如：平稳ARMA为常数系数为一个零均值白噪声序列为延迟算子4.1.2、Cramer分解定理（1961）任何一个时间序列对Cramer分解定理的理解：Cramer分解定理是Wold分解定理的理论推广，它说明任何一个序列的波动都可以视为同时受到了确定性影响和随机性影响的综合作用。平稳序列要求这两方面的影响都是稳定的，而非平稳序列产生的机理就在于它所受到的这两方面的影响至少有一方面是不稳定的。对Cramer分解定理的理解：Cramer分解定理是Wol4.2差分运算差分运算的实质差分方式的选择过差分4.2差分运算差分运算的实质4.2.1、差分运算的实质得到观察值序列之后，无论采用确定性时序分析方法还是随机时序分析方法，第一步都是要提取序列中的确定性信息。确定性时序分析方法：季节指数、长期趋势模型、移动平均（消弱短期随机波动对序列的影响）、指数平滑等（第五章）。4.2.1、差分运算的实质得到观察值序列之后，无论采用确定性差分方法是一种非常简便、有效的确定性信息提取方法（Box和Jenkins）。差分方法是一种非常简便、有效的确定性信息提取方法（Box和JCramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息。离散序列的d阶差分就相当于连续变量的d阶求导，在上述分解下，d阶差分就可充分提取时序中的确定性信息。Cramer分解定理在理论上保证了适当阶数的差分一定可以充分展开1阶差分，有1阶差分实质上就是一个自回归过程，它是用延迟一期的历史数据作为自变量来解释当期序列值的变动状况，差分序列度量的是1阶自回归过程中产生的随机误差的大小。差分运算的实质是使用自回归的方式提取确定性信息随机误差展开1阶差分，有随机误差4.2.2差分方式的选择1）序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳

2）序列蕴含着曲线趋势，通常低阶（二阶或三阶）差分就可以提取出曲线趋势的影响

3）对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好地提取周期信息

4.2.2差分方式的选择1）序列蕴含着显著的线性趋势，一【例4.1】1964年——1999年中国纱年产量序列蕴含着一个近似线性的递增趋势。对该序列进行一阶差分运算考察差分运算对该序列线性趋势信息的提取作用

1）序列蕴含着显著的线性趋势【例4.1】1964年——1999年中国纱年产量序列蕴含着差分前后时序图原序列时序图差分后序列时序图序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳

差分前后时序图原序列时序图差分后序列时序图序列蕴含着显著的线2）序列蕴含着曲线趋势例4.2尝试提取1950年——1999年北京市民用车辆拥有量序列的确定性信息2）序列蕴含着曲线趋势例4.2尝试提取1950年——199差分后序列时序图一阶差分二阶差分序列蕴含着显著的曲线趋势，二阶或三阶差分就可以实现趋势平稳

差分后序列时序图一阶差分二阶差分序列蕴含着显著的曲线趋势，3）蕴含着固定周期的序列例4.3差分运算提取1962年1月——1975年12月平均每头奶牛的月产奶量序列中的确定性信息

3）蕴含着固定周期的序列例4.3差分运算提取1962年1月差分后序列时序图1阶差分：提取线性递增趋势，剩季节波动和随机波动。序列还蕴含着固定周期，如何实现趋势平稳？

差分后序列时序图1阶差分：提取线性递增趋势，序列还蕴含着固定思考：如果把每一时刻的观察值与上年同期相应的观察值相减，是否能将原序列的周期性变化消除？（或实现平稳化），在经济上，就是考查与前期相比的净增值，用数学语言来描述就是定义季节差分算子。

定义：季节差分可以表示为1阶－12步差分：提取周期信息。思考：如果把每一时刻的观察值与上年同期相应的观察值相减，是否4.3.3、过差分

足够多次的差分运算可以充分地提取原序列中的非平稳确定性信息但过度的差分会造成有用信息的无谓浪费，从而降低估计的精度。

假设序列如下考察一阶差分后序列和二阶差分序列的平稳性与方差例4.44.3.3、过差分足够多次的差分运算可以充分地提取原序列中过差分实质上是因为过多次的差分导致有效信息的无谓浪费而降低了估计的精度。一阶差分平稳二阶差分（过差分）平稳过差分实质上是因为过多次的差分导致有效信息的无谓浪费而降低了4.3

ARIMA模型ARIMA模型结构ARIMA模型性质ARIMA模型建模ARIMA模型预测疏系数模型季节模型4.3ARIMA模型ARIMA模型结构4.3.1、ARIMA模型结构使用场合：差分平稳序列拟合ARIMA（autoregressiveintegratedmovingaverage求和自回归移动平均）ARIMA（p,d,q）模型结构为平稳可逆ARMA（p,q）模型的自回归系数多项式（4.1）对比63页4.3.1、ARIMA模型结构使用场合：差分平稳序列拟合为平为平稳可逆ARMA（p,q）模型的移动平均系数多项式。（4.1）简记为（4.2）ARIMA模型的实质就是差分运算与ARMA模型的组合。即任何非平稳序列如果能通过适当阶数的差分实现差分后平稳，此时可对差分后序列进行ARMA模型拟合了。为平稳可逆ARMA（p,q）模型的移动平均系数多项式。（4.ARIMA模型族d=0ARIMA(p,d,q)=ARMA(p,q)P=0ARIMA(P,d,q)=IMA(d,q)q=0ARIMA(P,d,q)=ARI(p,d)d=1,P=q=0ARIMA(0,1,0)=randomwalkmodelARIMA模型族d=0随机游走模型(randomwalk)模型结构模型产生典故KarlPearson(1905.07)在《自然》杂志上提问：假如有个醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外，一段时间之后再去找他，在什么地方找到他的概率最大呢？雷利爵士（1905.08）认为，最好去初始位置找他随机游走模型(randomwalk)模型结构2、ARIMA模型的平稳性2、ARIMA模型的平稳性自回归系数多项式的根为特征根的倒数，所以ARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在单位圆上。所以当时ARIMA(p,d,q)模型非平稳。例4.5ARIMA(0,1,0)时序图自回归系数多项式的根为特征根的倒数，所以ARIMA(p,3、ARIMA模型的方差齐性时，原序列方差非齐性d阶差分后，差分后序列方差齐性问题：平稳AR模型和可逆MA模型，它们是否具有方差齐性？3、ARIMA模型的方差齐性时，原序列方差非齐性问题回顾：Cramer分解定理（1961）任何一个时间序列（可适用于非平稳序列）都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势成分，另一部分是平稳的零均值误差成分，即确定性影响随机性影响例如：平稳ARMA为常数系数为一个零均值白噪声序列为延迟算子回顾：Cramer分解定理（1961）任何一个时间序列（可适离散序列的d阶差分就相当于连续变量的d阶求导，在上述分解下，d阶差分就可充分提取时序中的确定性信息。注意：防止出现过差分。离散序列的d阶差分就相当于连续变量的d阶求导，ARIMA模型结构ARIMA（p,d,q）模型结构分别为平稳可逆ARMA（p,q）模型的自回归系数多项式和移动平均系数。注意：ARIMA（p,q）的平稳性？方差齐性？ARMA（p,q）呢？ARIMA模型结构ARIMA（p,d,q）模型结构分别为平稳ARIMA模型建模步骤获得观察值序列平稳性检验差分运算YN白噪声检验Y分析结束N拟合ARMA模型ARIMA模型建模步骤获平稳性差分YN白噪声Y分N拟合例4.6对1952年——1988年中国农业实际国民收入指数序列建模>d=read.csv("shouru.csv",head=F)>shouru=ts(d,start=1952,end=1988,freq=1)>ts.plot(shouru,type="b")>chafen=diff(shouru,differences=1)>ts.plot(chafen)>acf(chafe