非平稳序列的随机分析

非平稳序列的随机分析第一页，共一百四十三页，编辑于2023年，星期五本章结构差分运算ARIMA模型残差自回归模型异方差的性质方差齐性变化条件异方差模型2第二页，共一百四十三页，编辑于2023年，星期五5.1差分运算差分运算的实质差分方式的选择过差分3第三页，共一百四十三页，编辑于2023年，星期五5.1.1差分运算的实质差分方法是一种非常简便、有效的确定性信息提取方法离散序列的d阶差分就相当于连续变量的d阶求导。Cramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息4第四页，共一百四十三页，编辑于2023年，星期五Cramer分解定理（1961）任何一个时间序列都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势成分，另一部分是平稳的零均值误差成分，即确定性影响随机性影响5第五页，共一百四十三页，编辑于2023年，星期五Cramer分解定理（1961）任何一个时间序列都可以分解为两部分的叠加：其中一部分是由多项式决定的确定性趋势成分，另一部分是平稳的零均值误差成分，即6第六页，共一百四十三页，编辑于2023年，星期五差分运算的实质

7第七页，共一百四十三页，编辑于2023年，星期五差分运算的实质差分运算的实质是使用自回归的方式提取确定性信息

8第八页，共一百四十三页，编辑于2023年，星期五5.1.2差分方式的选择序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳现实中的经济指标序列常常表现为指数增长趋势，在分析时一般是对这些指标先取对数，这样既可以方便用线性趋势模型描述，又可以消除异方差[参见5.5方差齐性变换的介绍]9第九页，共一百四十三页，编辑于2023年，星期五现实经济指标序列常常表现为指数增长

10第十页，共一百四十三页，编辑于2023年，星期五差分方式的选择序列蕴含着曲线趋势，通常低阶（二阶或三阶）差分就可以提取出曲线趋势的影响

对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好地提取周期信息

11第十一页，共一百四十三页，编辑于2023年，星期五例5.1

【例1.1】1964年——1999年中国纱年产量序列蕴含着一个近似线性的递增趋势。对该序列进行一阶差分运算考察差分运算对该序列线性趋势信息的提取作用

12第十二页，共一百四十三页，编辑于2023年，星期五差分前后时序图原序列时序图差分后序列时序图13第十三页，共一百四十三页，编辑于2023年，星期五例5.2尝试提取1950年——1999年北京市民用车辆拥有量序列的确定性信息14第十四页，共一百四十三页，编辑于2023年，星期五差分后序列时序图一阶差分二阶差分15第十五页，共一百四十三页，编辑于2023年，星期五例5.3差分运算提取1962年1月——1975年12月平均每头奶牛的月产奶量序列中的确定性信息

16第十六页，共一百四十三页，编辑于2023年，星期五差分后序列时序图一阶差分1阶－12步差分17第十七页，共一百四十三页，编辑于2023年，星期五5.1.3过差分

足够多次的差分运算可以充分地提取原序列中的非平稳确定性信息但过度的差分会造成有用信息的浪费样本容量减小方差变大18第十八页，共一百四十三页，编辑于2023年，星期五例5.4假设序列如下

考察一阶差分后序列和二阶差分序列的平稳性与方差19第十九页，共一百四十三页，编辑于2023年，星期五比较一阶差分平稳方差小二阶差分（过差分）平稳方差大20第二十页，共一百四十三页，编辑于2023年，星期五5.2ARIMA模型ARIMA模型结构ARIMA模型性质ARIMA模型建模ARIMA模型预测疏系数模型季节模型21第二十一页，共一百四十三页，编辑于2023年，星期五5.2.1ARIMA模型结构使用场合差分平稳序列的拟合模型结构22第二十二页，共一百四十三页，编辑于2023年，星期五ARIMA模型族d=0ARIMA(p,d,q)=ARMA(p,q)p=0ARIMA(p,d,q)=IMA(d,q)q=0ARIMA(p,d,q)=ARI(p,d)d=1,p=q=0ARIMA(p,d,q)=randomwalkmodel23第二十三页，共一百四十三页，编辑于2023年，星期五随机游走模型(randomwalk)模型结构24第二十四页，共一百四十三页，编辑于2023年，星期五5.2.2ARIMA模型的性质ARIMA模型的平稳性ARIMA模型的方差齐性25第二十五页，共一百四十三页，编辑于2023年，星期五ARIMA模型的平稳性ARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在单位圆上。所以当时ARIMA(p,d,q)模型非平稳。例5.5随机游走序列ARIMA(0,1,0)时序图26第二十六页，共一百四十三页，编辑于2023年，星期五ARIMA模型的方差齐性时，原非平稳序列方差非齐性d阶差分后，差分后的序列方差齐性27第二十七页，共一百四十三页，编辑于2023年，星期五5.2.3ARIMA模型建模步骤获得观察值序列平稳性检验差分运算YN白噪声检验Y分析结束N拟合ARMA模型28第二十八页，共一百四十三页，编辑于2023年，星期五例5.6对1952年——1988年中国农业实际国民收入指数序列建模

29第二十九页，共一百四十三页，编辑于2023年，星期五一阶差分序列时序图30第三十页，共一百四十三页，编辑于2023年，星期五一阶差分序列自相关图31第三十一页，共一百四十三页，编辑于2023年，星期五一阶差分后序列白噪声检验延迟阶数

统计量P值615.330.01781218.330.10601824.660.134432第三十二页，共一百四十三页，编辑于2023年，星期五拟合ARMA模型偏自相关图33第三十三页，共一百四十三页，编辑于2023年，星期五ARIMA(1,1,0)34第三十四页，共一百四十三页，编辑于2023年，星期五ARIMA(0,1,1)35第三十五页，共一百四十三页，编辑于2023年，星期五建模定阶ARIMA(0,1,1)参数估计模型检验模型显著参数显著36第三十六页，共一百四十三页，编辑于2023年，星期五5.2.4ARIMA模型预测原则最小均方误差预测原理

ARIMA模型表示成MA(∞)的形式37第三十七页，共一百四十三页，编辑于2023年，星期五回顾-ARMA模型的传递形式ARMA模型的传递形式38第三十八页，共一百四十三页，编辑于2023年，星期五ARIMA模型预测ARIMA模型Green函数递推公式39第三十九页，共一百四十三页，编辑于2023年，星期五回顾-最小均方误差预测40第四十页，共一百四十三页，编辑于2023年，星期五预测值41第四十一页，共一百四十三页，编辑于2023年，星期五例5.7已知ARIMA(1,1,1)模型为

且求的95％的置信区间

42第四十二页，共一百四十三页，编辑于2023年，星期五回顾-ARMA(p,q)序列预测预测值预测方差43第四十三页，共一百四十三页，编辑于2023年，星期五预测值等价形式计算预测值44第四十四页，共一百四十三页，编辑于2023年，星期五计算置信区间Green函数值方差95％置信区间45第四十五页，共一百四十三页，编辑于2023年，星期五例5.6续：对中国农业实际国民收入指数序列做为期10年的预测

46第四十六页，共一百四十三页，编辑于2023年，星期五5.2.5疏系数模型ARIMA(p,d,q)模型是指d阶差分后自相关最高阶数为p，移动平均最高阶数为q的模型，通常它包含p+q个独立的未知系数：如果该模型中有部分自相关系数或部分移动平滑系数为零，即原模型中有部分系数省缺了，那么该模型称为疏系数模型。47第四十七页，共一百四十三页，编辑于2023年，星期五疏系数模型类型如果只是自相关部分有省缺系数，那么该疏系数模型可以简记为为非零自相关系数的阶数如果只是移动平滑部分有省缺系数，那么该疏系数模型可以简记为为非零移动平均系数的阶数如果自相关和移动平滑部分都有省缺，可以简记为48第四十八页，共一百四十三页，编辑于2023年，星期五例5.8对1917年－1975年美国23岁妇女每万人生育率序列建模

49第四十九页，共一百四十三页，编辑于2023年，星期五一阶差分50第五十页，共一百四十三页，编辑于2023年，星期五自相关图51第五十一页，共一百四十三页，编辑于2023年，星期五偏自相关图52第五十二页，共一百四十三页，编辑于2023年，星期五53第五十三页，共一百四十三页，编辑于2023年，星期五建模定阶ARIMA((1,4),1,0)参数估计模型检验模型显著参数显著54第五十四页，共一百四十三页，编辑于2023年，星期五5.2.6季节模型简单季节模型乘积季节模型

55第五十五页，共一百四十三页，编辑于2023年，星期五简单季节模型简单季节模型是指序列中的季节效应和其它效应之间是加法关系简单季节模型通过简单的趋势差分、季节差分之后序列即可转化为平稳，它的模型结构通常如下

56第五十六页，共一百四十三页，编辑于2023年，星期五例5.9拟合1962——1991年德国工人季度失业率序列

57第五十七页，共一百四十三页，编辑于2023年，星期五差分平稳对原序列作一阶差分消除趋势，再作4步差分消除季节效应的影响，差分后序列的时序图如下

58第五十八页，共一百四十三页，编辑于2023年，星期五白噪声检验延迟阶数

统计量P值643.84<0.00011251.71<0.00011854.48<0.000159第五十九页，共一百四十三页，编辑于2023年，星期五差分后序列自相关图60第六十页，共一百四十三页，编辑于2023年，星期五差分后序列偏自相关图61第六十一页，共一百四十三页，编辑于2023年，星期五62第六十二页，共一百四十三页，编辑于2023年，星期五模型拟合定阶ARIMA((1,4),(1,4),0)参数估计63第六十三页，共一百四十三页，编辑于2023年，星期五拟合效果图64第六十四页，共一百四十三页，编辑于2023年，星期五乘积季节模型使用场合序列的季节效应、长期趋势效应和随机波动之间有着复杂地相互关联性，简单的季节模型不能充分地提取其中的相关关系构造原理短期相关性用低阶ARMA(p,q)模型提取季节相关性用以周期步长S为单位的ARMA(P,Q)模型提取序列具有季节效应，季节效应本身还具有相关性时，短期相关和季节效应之间具有乘积关系，模型结构如下

65第六十五页，共一百四十三页，编辑于2023年，星期五乘积季节模型ARIMA(p,d,q)×(P,D,Q)66第六十六页，共一百四十三页，编辑于2023年，星期五例5.10:拟合1948——1981年美国女性月度失业率序列

67第六十七页，共一百四十三页，编辑于2023年，星期五差分平稳一阶、12步差分68第六十八页，共一百四十三页，编辑于2023年，星期五差分后序列自相关图69第六十九页，共一百四十三页，编辑于2023年，星期五差分后序列偏自相关图70第七十页，共一百四十三页，编辑于2023年，星期五ARIMA((1,12),(1,12),0)71第七十一页，共一百四十三页，编辑于2023年，星期五ARIMA(0,(1,12),(1,2,12))72第七十二页，共一百四十三页，编辑于2023年，星期五ARIMA((1,12),(1,12),(1,12))73第七十三页，共一百四十三页，编辑于2023年，星期五ARIMA(1,1,1)×(0,1,1)1274第七十四页，共一百四十三页，编辑于2023年，星期五乘积季节模型拟合模型定阶ARIMA(1,1,1)×(0,1,1)12参数估计75第七十五页，共一百四十三页，编辑于2023年，星期五乘积季节模型拟合效果图76第七十六页，共一百四十三页，编辑于2023年，星期五5.3残差自回归ARIMA模型是1970年Box和Jenkins提出来的，现在已经成为最经典的一种时间序列拟合模型。有时也称ARIMA模型为Box-Jenkins模型。ARIMA模型是用差分方法提取确定性信息，差分方法的优点是方法简单，并可以充分提取确定性信息；缺点是很难对差分过程进行直观解释。当序列具有非常显著的确定性趋势或季节效应时，人们会怀念确定性因素分解方法，因为确定性因素分解方法下对各种确定性效应的解释变得容易，但这种方法不对残差进行分析因而是一种信息的浪费。残差自回归模型就是在确定性因素分解的基础上，同时还对随机性残差序列进行建模的一种方法。77第七十七页，共一百四十三页，编辑于2023年，星期五5.3残差自回归构造思想首先通过确定性因素分解方法提取序列中主要的确定性信息然后对残差序列拟合自回归模型，以便充分提取相关信息78第七十八页，共一百四十三页，编辑于2023年，星期五残差自回归结构79第七十九页，共一百四十三页，编辑于2023年，星期五对趋势效应的常用拟合方法自变量为时间t的幂函数自变量为历史观察值80第八十页，共一百四十三页，编辑于2023年，星期五对季节效应的常用拟合方法给定季节指数建立季节自回归模型81第八十一页，共一百四十三页，编辑于2023年，星期五例5.6续使用残差自回归模型分析1952年－1988年中国农业实际国民收入指数序列。时序图显示该序列有显著的线性递增趋势，但没有季节效应，所以考虑建立如下结构的残差自回归模型

82第八十二页，共一百四十三页，编辑于2023年，星期五趋势拟合方法一：变量为时间t的幂函数方法二：变量为一阶延迟序列值

注：这个模型不同于AR模型，不要求特征根在单位圆内。83第八十三页，共一百四十三页，编辑于2023年，星期五趋势拟合效果图84第八十四页，共一百四十三页，编辑于2023年，星期五残差自相关(序列相关)检验检验原理回归模型拟合充分，残差的性质回归模型拟合得不充分，残差的性质85第八十五页，共一百四十三页，编辑于2023年，星期五Durbin-Waston检验(DW检验)

假设条件原假设：残差序列不存在一阶自相关性

备择假设：残差序列存在一阶自相关性

86第八十六页，共一百四十三页，编辑于2023年，星期五DW统计量构造统计量DW统计量和自相关系数的关系87第八十七页，共一百四十三页，编辑于2023年，星期五DW统计量的判定结果正相关相关性待定不相关相关性待定负相关04288第八十八页，共一百四十三页，编辑于2023年，星期五例5.6续

检验第一个确定性趋势模型

残差序列的自相关性。89第八十九页，共一百四十三页，编辑于2023年，星期五DW检验结果检验结果检验结论检验结果显示残差序列高度正自相关。DW统计量的值P值0.13781.421.530.000190第九十页，共一百四十三页，编辑于2023年，星期五Durbinh检验

DW统计量的缺陷当回归因子包含延迟因变量时，残差序列的DW统计量是一个有偏统计量。在这种场合下使用DW统计量容易产生残差序列正自相关性不显著的误判

Durbinh检验91第九十一页，共一百四十三页，编辑于2023年，星期五例5.6续检验第二个确定性趋势模型

残差序列的自相关性。92第九十二页，共一百四十三页，编辑于2023年，星期五Dh检验结果检验结果检验结论检验结果显示残差序列高度正自相关。实际上也可以用Q统计量来检验。Dh统计量的值P值2.80380.002593第九十三页，共一百四十三页，编辑于2023年，星期五残差序列拟合确定自回归模型的阶数参数估计模型检验94第九十四页，共一百四十三页，编辑于2023年，星期五例5.6续对第一个确定性趋势模型的残差序列进行拟合95第九十五页，共一百四十三页，编辑于2023年，星期五残差序列自相关图96第九十六页，共一百四十三页，编辑于2023年，星期五残差序列偏自相关图97第九十七页，共一百四十三页，编辑于2023年，星期五模型拟合定阶AR(2)参数估计方法极大似然估计最终拟合模型口径98第九十八页，共一百四十三页，编辑于2023年，星期五例5.6第二个残差自回归模型的拟合结果99第九十九页，共一百四十三页，编辑于2023年，星期五三个拟合模型的比较模型AICSBCARIMA(0,1,1)模型：249.3305252.4976残差自回归模型一：260.8454267.2891残差自回归模型二：250.6317253.7987100第一百页，共一百四十三页，编辑于2023年，星期五5.4异方差的性质异方差的影响异方差的直观诊断

1982年Engle在分析英国通货膨胀序列时，发现经典的ARIMA模型始终无法取得理想的拟合效果。经过研究他发现问题出现在残差序列具有异方差性。101第一百零一页，共一百四十三页，编辑于2023年，星期五回顾-ARIMA模型结构使用场合差分平稳序列的拟合模型结构零均值方差齐性纯随机Q统计量、DW统计量PortmanteauQ检验LM检验102第一百零二页，共一百四十三页，编辑于2023年，星期五异方差的影响异方差的定义如果随机误差序列的方差会随着时间的变化而变化，这种情况被称作为异方差异方差的影响忽视异方差的存在会导致残差的方差会被严重低估，继而参数显著性检验容易犯纳伪错误，这使得参数的显著性检验失去意义，最终导致模型的拟合精度受影响。

103第一百零三页，共一百四十三页，编辑于2023年，星期五异方差直观诊断残差图残差平方图104第一百零四页，共一百四十三页，编辑于2023年，星期五残差图方差齐性残差图递增型异方差残差图105第一百零五页，共一百四十三页，编辑于2023年，星期五残差平方图原理残差序列的方差实际上就是它平方的期望。所以考察残差序列是否方差齐性，主要是考察残差平方序列的性质。可以借助残差平方序列关于时间t变化的二维坐标，对残差序列的方差齐性进行直观诊断。如果满足方差齐性，则意味着残差平方序列应该在某个常数值附近随机波动，而不应该表现出任何明显的趋势。106第一百零六页，共一百四十三页，编辑于2023年，星期五例5.11直观考察美国1963年4月——1971年7月短期国库券的月度收益率序列的方差齐性。

107第一百零七页，共一百四十三页，编辑于2023年，星期五一阶差分后残差图108第一百零八页，共一百四十三页，编辑于2023年，星期五一阶差分后残差平方图109第一百零九页，共一百四十三页，编辑于2023年，星期五异方差处理方法假如已知异方差函数具体形式，进行方差齐性变化假如不知异方差函数的具体形式，拟合条件异方差模型110第一百一十页，共一百四十三页，编辑于2023年，星期五5.5方差齐性变换使用场合序列显示出显著的异方差性，且方差与均值之间具有某种函数关系

其中：是某个已知函数处理思路尝试寻找一个转换函数，使得经转换后的变量满足方差齐性111第一百一十一页，共一百四十三页，编辑于2023年，星期五转换函数的确定原理转换函数在附近作一阶泰勒展开求转换函数的方差转换函数的确定112第一百一十二页，共一百四十三页，编辑于2023年，星期五转换函数的确定实践中，很多金融时间序列都呈现出异方差的性质，比较常见的异方差表现形式是：序列水平低时，波动小；序列水平高时，波动大。即序列标准差与其水平之间具有某种正比关系。113第一百一十三页，共一百四十三页，编辑于2023年，星期五常用转换函数的确定假定转换函数的确定现实中的经济序列通常都先对其进行对数变换然后才进行一系列的模型分析，其目的之一就是为了实现方差齐性。114第一百一十四页，共一百四十三页，编辑于2023年，星期五例5.11续对美国1963年4月——1971年7月短期国库券的月度收益率序列使用方差齐性变换方法进行分析

假定函数变换115第一百一十五页，共一百四十三页，编辑于2023年，星期五对数序列时序图116第一百一十六页，共一百四十三页，编辑于2023年，星期五一阶差分后序列图117第一百一十七页，共一百四十三页，编辑于2023年，星期五白噪声检验延迟阶数LB统计量P值63.580.73371210.820.54411821.710.2452118第一百一十八页，共一百四十三页，编辑于2023年，星期五拟合模型口径及拟合效果图119第一百一十九页，共一百四十三页，编辑于2023年，星期五5.6条件异方差模型ARCH模型GARCH模型GARCH模型的变体EGARCH模型IGARCH模型GARCH-M模型AR-GARCH模型120第一百二十页，共一百四十三页，编辑于2023年，星期五ARCH模型当序列的标准差与其水平值之间具有某种正比关系时，对数变换就可以消除异方差性。但是，还有很多时间序列的异方差性即使通过对数变化也无法化解。为了更加精确的估计异方差函数，Engle于1982年提出了ARCH模型(autoregressiveconditionalheteroskedastic，自回归条件异方差模型)。121第一百二十一页，共一百四十三页，编辑于2023年，星期五ARCH模型考虑残差平方序列的自相关系数原理在残差平方序列存在序列相关的条件下，可以通过构造残差平方序列的自回归模型来拟合异方差函数而对于残差平方序列不存在序列相关的情况则还没有有效的方法提取其中的异方差信息。122第一百二十二页，共一百四十三页，编辑于2023年，星期五ARCH模型ARCH(q)模型结构的异方差性通过下式得到了很好的刻画即的条件方差取决于的已知值。123第一百二十三页，共一百四十三页，编辑于2023年，星期五GARCH模型结构使用场合ARCH模型实际上适用于异方差函数短期自相关过程

GARCH模型实际上适用于异方差函数长期自相关过程(Bollerslov于1985年提出广义自回归条件异方差模型)

GARCH(p,q)模型结构124第一百二十四页，共一百四十三页，编辑于2023年，星期五GARCH模型的约束条件为了保证的方差和条件方差为正数且有界，以及为纯随机序列，要求GARCH模型满足：参数非负

参数有界

125第一百二十五页，共一百四十三页，编辑于2023年，星期五GARCH模型的约束条件Bollerslov(1986)证明GARCH过程是平稳的则126第一百二十六页，共一百四十三页，编辑于2023年，星期五EGARCH模型Nelson于1991年提出指数GARCH模型，放宽了参数非负的约束127第一百二十七页，共一百四十三页，编辑于2023年，星期五IGARCH模型128第一百二十八页，共一百四十三页，编辑于2023年，星期五GARCH-M模型序列均值与条件方差之间具有某种相关关系129第一百二十九页，共一百四十三页，编辑于2023年，星期五AR-GARCH模型对残差序列拟合G