线性平稳时间序列模型.ppt

第三章 线性平稳时间序列模型,第一节 时间序列的预处理 第二节 线性平稳时间序列建模原理 第三节 线性平稳时间序列的种类 第四节 ARMA模型的平稳性和可逆性,第一节 时间序列的预处理 第二节 线性平稳时间序列建模原理 第三节 线性平稳时间序列的种类 第四节 ARMA模型的平稳性和可逆性,第一节 时间序列的预处理,一、平稳性检验 二、纯随机性检验,返回本节首页,下一页,上一页,时间序列的预处理,返回本节首页,下一页,上一页,时间序列,平稳性 检验,平稳性 时间序列,非平稳性 时间序列,纯随机 性检验,白噪声序列 (纯随机序列),平稳非白噪声序列,无规律可循，分析结束,ARMA模型,1.确定性分析 2.随机性分析（ARIMA模型）,一、平稳性检验,1.平稳性定义（性质） 2.平稳性检验的方法 3. 应用举例,返回本节首页,下一页,上一页,1.平稳性定义知识回顾,严平稳 严平稳是一种条件比较苛刻的平稳性定义，它认为只有当序列所有的统计性质都不会随着时间的推移而发生变化时，该序列才能被认为平稳。 宽平稳 宽平稳是使用序列的特征统计量来定义的一种平稳性。它认为序列的统计性质主要由它的低阶矩决定，所以只要保证序列低阶矩平稳（二阶），就能保证序列的主要性质近似稳定。,返回本节首页,下一页,上一页,2.平稳性检验方法,(1)通过时间序列的趋势图来判断 (2)通过自相关函数(ACF)判断 特征根检验法 单位根检验法 非参数检验法,图检验方法,返回本节首页,下一页,上一页,图检验（特点）,这种方法是通过观察时间序列的趋势图和自相关图来判断时间序列是否存在趋势性或周期性。 优点：简便、直观。对于那些明显为非平稳的时间序列，可以采用这种方法。 缺点：对于一般的时间序列是否平稳，不易用这种方法判断出来。,(1)时序图检验（判断准则）,根据平稳时间序列均值、方差为常数的性质，平稳序列的时序图应该显示出该序列始终在一个常数值附近随机波动，而且波动的范围有界、无明显趋势及无周期特征,(2)自相关图检验（判断准则）,平稳序列通常具有短期相关性。该性质用自相关系数来描述就是随着延迟期数的增加，平稳序列的自相关系数会很快地衰减向零。 若时间序列的自相关函数在k3时都落入置 信区间，且逐渐趋于零，则该时间序列具有平稳性； 若时间序列的自相关函数更多地落在置信区间外面，则该时间序列就不具有平稳性。,若序列无趋势，但是具有季节性，那末对于按月采集的数据，时滞12，24，36的自相关系数达到最大(如果数据是按季度采集，则最大自相关系数出现在4，8，12， )，并且随着时滞的增加变得较小。,若序列是有趋势的，且具有季节性，其自相关函数特性类似于有趋势序列，但它们是摆动的，对于按月数据，在时滞12，24，36，等处具有峰态；如果时间序列数据是按季节的，则峰出现在时滞4，8，12， 等处。,3.应用举例,例1 时序图 自相关图 检验1951年2005年我国居民消费价格指数的平稳性 例2 时序图 自相关图 检验1990年1月1997年12月我国工业总产值序列的平稳性 例3 时序图 自相关图 检验1949年1998年北京市每年最高气温序列的平稳性,返回本节首页,下一页,上一页,例1 居民消费价格指数时序图,返回例题,例1居民消费价格指数自相关图,返回例题,例2 GIP时序图,返回例题,例2 GIP相关图,返回例题,例3 北京市最高气温时序图,返回例题,例3 北京市最高气温自相关图,返回例题,二、纯随机性检验,（一）纯随机序列的定义 （二）纯随机性的性质 （三）纯随机性检验,返回本节首页,下一页,上一页,（一）纯随机序列的定义,纯随机序列也称为白噪声序列，它满足如下两条性质,并不是所有平稳序列都值得建模！,纯随机序列无法预测，无法进一步建模！,返回本节首页,下一页,上一页,标准正态白噪声序列时序图,（二）白噪声序列的性质,纯随机性 各序列值之间没有任何相关关系，即为 “没有记忆”的序列 方差齐性(平稳) 根据马尔可夫定理，只有方差齐性假定成立时，用最小二乘法得到的未知参数估计值才是准确的、有效的,返回本节首页,下一页,上一页,（三）纯随机性检验,1.检验原理 2.假设条件 3.检验统计量 4.判别原则 5.应用举例,返回本节首页,下一页,上一页,1.检验原理:Barlett定理,如果一个时间序列是纯随机的，得到一个观察期数为 的观察序列，那么该序列的延迟非零期的样本自相关系数将近似服从均值为零，方差为序列观察期数倒数的正态分布,返回本节首页,下一页,上一页,2.假设条件,原假设：延迟期数小于或等于 期的序列值之间相互独立 备择假设：延迟期数小于或等于 期的序列值之间有相关性,返回本节首页,下一页,上一页,3.检验统计量,Q统计量 （大样本） LB统计量 （小样本）,返回本节首页,下一页,上一页,4.判别原则,拒绝原假设 当检验统计量大于 分位点，或该统计量的P值小于 时，则可以以 的置信水平拒绝原假设，认为该序列为非白噪声序列 接受原假设 当检验统计量小于 分位点，或该统计量的P值大于 时，则认为在 的置信水平下无法拒绝原假设，即不能显著拒绝序列为纯随机序列的假定,返回本节首页,下一页,上一页,5.应用举例,例4：标准正态白噪声序列纯随机性检验。 例3 续 对19491998年北京市最高气温序列做白噪声检验。 例5 对1950年1998年北京市城乡居民定期储蓄所占比例序列的平稳性与纯随机性进行检验。,返回本节首页,下一页,上一页,例4： 标准正态白噪声序列纯随机性检验,样本自相关图,返回例题,检验结果,由于P值显著大于显著性水平 ，所以该序列不能拒绝纯随机的原假设。,返回例题,例3 续 对19491998年北京市最高气温序列做白噪声检验。,自相关图,返回例题,例3续 白噪声检验结果,由于P值显著大于显著性水平 ，所以不能拒绝序列纯随机的原假设。因而可以认为北京市最高气温的变动属于纯随机波动。这说明我们很难根据历史信息预测未来年份的最高气温。,返回例题,例5 时序图,返回例题,例5自相关图,返回例题,例5 白噪声检验结果,由于P值显著小于显著性水平 ，所以我们可以以很大的把握断定北京是城乡居民定期储蓄比例序列属于非白噪声序列。,返回例题,结合前面的平稳性检验结果，说明该序列不仅可以视为是平稳的，而且还蕴含着值得我们提取的相关信息。这种平稳非白噪声序列是目前最容易分析的一种序列。,返回本节首页,下一页,上一页,第二节 建立线性时序模型的原理 动态性,返回本节首页,下一页,上一页,动态性：就是指时间序列各观测值之间的相关性。 从系统的观点看：动态性即指系统的记忆性，也就是某一时刻进入系统的输入对系统后继行为的影响，图示如下：,系统,输入,输出（响应）,例,（1）某人在某一天打了一针，如果当天的反应 是疼痛 ，而以后没有其它反应，那么系统 的输入、输出如下：,时间 t ：1 2 3 4 5 输入 at: 0 1 0 0 0 输出 xt：0 0 0 0,这种状况可用模型概括为：,（2）如果此人在打针后当天没有什么感觉， 而第二天出现了红肿 ，那么系统的输入、 输出如下：,时间 t ：1 2 3 4 5 输入 at: 0 1 0 0 0 输出 xt：0 0 0 0,这种状况可用模型概括为：,（3）如果当天的反应是疼痛 ，第二天出现了红肿 ，那么：,时间 t ：1 2 3 4 5 输入 at: 0 1 0 0 0 输出 xt：0 0 0,这种状况可用模型概括为：,（4）如果打针以后各个时刻都存在相应的反 应，那么，关于该刺激的总的概括为：,上式中：,总称为记忆函数，其中 为at-j对xt 的影响 程度，输入与输出是由记忆函数联结起 来的。由于系统具有记忆性，我们可以 用过去的数据预测未来。,第三节 线性平稳时间序列模型的种类,一、自回归模型 二、移动平均模型 三、自回归移动平均模型 四、求和自回归移动平均模型,返回本节首页,下一页,上一页,(一).一阶自回归模型，AR(1) 1.设xt为零均值的平稳过程，如果关于xt的合适模型为：,其中：(1)at是白噪声序列（Eat=0,Var(at)=2, cov(at,at+k)=0 ,k0）,(2)假定：E(xt,as)=0 (ts)， 那么我们就说xt遵循一个一阶自回归或AR(1) 随机过程。,一、自回归模型(Auto regressive model,AR）,返回本节首页,下一页,上一页,可见,AR(1)模型中，xt在t时刻值依赖于两部分，一部分依赖于它的前一期的值xt-1；另一部分是依赖于与xt-1不相关的部分at,2.可将AR(1)模型写成另一种形式：,通过这一种形式可以看出，AR(1)模型通过 消除xt中依赖于xt-1的部分，而使相关数据 转化成了独立数据。,3.随机游走模型 如果一个时间序列xt的合适的模型为如下的形式：,其中：at为白噪声序列，那么就称该模型为 随机游走模型 ，这样的时间序列称随机游 走过程。,注意：随机游走过程是非平稳时间序列。,证明：,随机游走通常被比作一个醉汉的游走。,BAR,虽然随机游走过程是非平稳的，但是我们 看到，它的一阶差分却是平稳的：,有些研究表明，许多经济时间序列呈现出随机游走或 至少有随机游走的成分，如股票价格，这些序列虽然 是非平稳的，但它们的一阶(或高阶)差分却是平稳的。 BoxJenkins就是利用差分这种数学工具来使非平 稳序列转化为平稳序列的。,有关随机走的单位根(Unit root)检验,我们以后将作介绍,1.设xt为零均值的平稳过程，如果关于xt的合适模型为,（二）二阶自回归模型，AR(2),其中：(1)at是白噪声序列,(2)假定：E(xt,as)=0 (ts)，那么我们就说xt遵循一个二阶自回归或AR(2)随机过程。上述模型就是AR(2)模型。,思考：若建立AR(2)模型以后，上述假设不符合，说明了什么问题？,2.AR(2)模型的等价形式,通过等价形式可以看出，AR(2)模型通过 将xt中依赖于xt-1、xt-2的部分剔除掉，而 使数据转化成了独立数据at。,1.如果关于xt的合适模型为:,（三）一般自回归模型，AR(p),那么，就称xt满足p阶自回归模型， 记作AR(p)。（假设条件同前）,2. AR(p)模型的等价形式,通过等价形式可以看出，AR(p)模型通过 将xt中依赖于xt-1、xt-2xt-p的部分剔除掉， 而使数据转化成了独立数据at。,我们得到一个AR(p)模型后，要检验它是否符合实际，主要就是通过检验模型的有关假设是否成立来进行的， 例如，如果检验出残差序列at不是白噪声序列，那么该模型就不是合适的模型。,二、移动平均模型（moving average model,MA）,（一）一阶移动平均模型，MA(1) 如果关于xt（假设同前）的合适的模型如下：,其中：at为白噪声序列，那么就称xt满 足一阶移动平均模型，记作MA(1),返回本节首页,下一页,上一页,MA(1)模型表明，xt依赖于两部分，一部 分为at-1，另一部分为at,一般移动平均模型的形式：,（二）一般移动平均模型，MA(q),其中：at为白噪声序列。,从一般移动平均模型可以看出，xt仅 与at，at-1，at-q有关，而与at-j(jq) 无关。,三、自回归移动平均模型，ARMA（p,q）,1.自回归移动平均模型的一般形式,如果xt即有AR模型特性，又有MA模型的 特性，那么它可以用如下的线性模型来描述：,其中：(1)at是白噪声序列,(2)假定：E(xt,as)=0 (ts)，那么我们就说xt满足自回归移动平均模型，记为ARMA(p,q)。,返回本节首页,下一页,上一页,例如,ARMA(2,1),ARMA(3,2),从以上可以看出AR、MA、ARMA(p,q)等 模型均可以看作是 ARMA(p,p-1) 模型的特例， 这为我们提供了一种很好的建模策略，即建 模时，可以通过逐渐增加ARMA(p,p-1) 模型的 阶数，逐渐找到最有效的模型。,参见课本P41,思考：如果xt是一个非零均值的平稳时间序列，怎么对其建立模型？,2.ARMA(p,q)模型的另一种表示方式,用Bk表示k步线性推移算子或延迟算子 (backward shift operator, delay operator) ,则有,并令：,那么，ARMA(p,q)可简写为：,把 看作算子B的多项式，通常 假定它们之间不出现公共因子。,例如,四、 求和自回归移动平均模型（ARIMA ,Integrated Autoregressive Moving average model）,前面我们讨论的都是对平稳时间序列 建立模型。 如果序列xt是非平稳的，那么我们必须 对其进行d次差分，把它变为平稳的序列dxt， 然后用ARMA(p,q)作为它的模型，此时 就称对原始序列xt建立了ARIMA(p,d,q)模型。 其中：p为自回归部分项数，q指移动平均项数 d为使序列平稳之前必须对其差分的次数,返回本节首页,下一页,上一页,ARIMA(2,1,2)表示先对时间序列进行一阶差分，使之 转化为平稳序列，然后对平稳序列建立ARMA(2,2)模型。,例如：,ARIMA(p,0,q)就相当于ARMA(p,q)。,ARIMA(p,0,0)就相当于AR(p)。,ARIMA(0,0,q)就相当于MA(q)。,对于一个ARIMA(p,d,q)也可以用推移算子B表示如下,其中,一、时间序列模型的平稳性 二、时间序列模型的可逆性 三、自回归模型的平稳性条件 四、移动平均模型的可逆性条件,第四节 ARMA模型的平稳性和可逆性,返回本节首页,下一页,上一页,一、时间序列模型的平稳性（Stationarity）,平稳性的定义：,如果一个时间序列模型可以写成如下形式：,其中，xt为零均值平稳序列，at为白噪声， 且满足条件 就称该模型是平稳的。（上式又称Wold展开式）,返回本节首页,下一页,上一页,对于一个有限阶的MA(q)模型,总有：,所以，一个有限阶的MA(q)模型总是平稳的。,二、时间序列模型的可逆性 (ivertibility),如果一个时间序列（未必平稳）的模型可以写成如下形式：,其中：at为白噪声，且有 那么，就称这个模型是可逆的。,返回本节首页,下一页,上一页,对于一个有限阶的自回归模型AR(P),总有：,所以，一个有限阶的AR(P)模型总是可逆的。,自回归表示有助于理解预测机制， Box和Jenkins证明，在预测时， 一个非可逆过程是毫无意义的。,一个可逆过程不一定是平稳的， 对于一个有限阶的AR(P)模型：,三、自回归过程