第五章 平稳时间序列模型的建立.ppt

1 第五章平稳时间序列模型的建立 2 引 对平稳时间序列建立模型一般要经过以下几步 1 模型识别 根据系统性质 以及所及所提供的时序据的概貌 提出一个相适的类型的模型 2 模型参数估计 就是根据实际的观测数据具体地确定该数学模型所包含的项数以及各项系数的数值 3 模型的诊断检验 包括模型的适应性检验 模型的定阶等等 4 模型的应用 如预测 本章主要介绍前三部分的内容 3 第一节平稳时间序列模型的识别 4 一 模型识别前的说明 一 关于非平稳序列本章所介绍的是对零均值平稳序列建立ARMA模型 因此 在对实际的序列进行模型识别之前 应首先检验序列是否平稳 若序列非平稳 应先通过适当变换将其化为平稳序列 然后再进行模型识别 5 序列的非平稳包括均值非平稳和方差非平稳 均值非平稳序列平稳化的方法 差分变换 方差非平稳序列平稳化的方法 对数变换 平方根变换等 序列平稳性的检验方法和手段主要有 序列趋势图 自相关图 非参数检验方法 单位根检验等等 有关内容的详细说明参见上机实习3 6 二 关于非零均值的平稳序列非零均值的平稳序列有两种处理方法 设xt为一非零均值的平稳序列 且有E xt 方法一 用样本均值作为序列均值 的估计 建模前先对序列作如下处理 令然后对零均值平稳序列wt建模 7 方法二在模型识别阶段对序列均值是否为零不予考虑 而在参数估计阶段 将序列均值作为一个参数加以估计 以一般的ARMA p q 为例说明如下 将上式展开得 此时 所要估计的未知参数有p q 1个 8 式中 在实际估计模型时 可将 0看作一个常数估计 若 0显著不为0 则 0 此时 0 有如上关系 若 0显著为0 则可认为 0 在最终模型中将此常数项去掉即可 一般而言 后一种方法拟合的效果较好 9 三 关于平稳序列均值是否为零的检验 方法一为检验 E xt 0可将样本均值和均值的标准差进行比较 若样本均值落在的范围内 则可认为是零均值过程 的般公式和几种特殊情况下的计算公式参见课本P90 91 10 方法二 同说明 二 在的方法二 11 二 模型识别方法 一 平稳序列模型识别要领零均值平稳序列模型识别的主要根据是序列的自相关函数 ACF 和偏自相关函数 PACF 的特征 若序列xt的偏自相关函数在k p以后截尾 即k p时 而且它的自相关函数拖尾 则可判断此序列是AR p 序列 12 若序列xt的自相关函数在k q以后截尾 即k q时 而且它的偏自相关函数拖尾 则可判断此序列是MA q 序列 若序列xt的自相关函数 偏相关函数都呈拖尾形态 则可断言此序列是ARMA序列 若序列的自相关函数和偏自相关函数不但都不截尾 而且至少有一个下降趋势势缓慢或呈周期性衰减 则可认为它也不是拖尾的 此时序列是非平稳序列 应先将其转化为平稳序列后再进行模型识别 13 二 样本自相关函数 SACF 和偏自相关函数 SPACF 截尾性的判断 前面模型识别方法中有关自相关函数 偏自相关函数截尾性的判断仅是理论上的 实际上的样本自相关函数和样本偏自相关函数仅是理论上的一个估计值 由于样本的随机性 免不了有误差 因此需要根据SACF和SPACF对ACF和PACF的截尾性作一判断 14 1 样本自相关函数截尾性的判断方法理论上证明 若序列xt为MA q 序列 则k q后 序列的样本自相关函数渐近服从正态分布 即 或近似的有 15 故由正态分布理论可知 此处n是样本容量 对于k q 若的个数不超过总个数的31 7 或的个数不超过总个数的4 5 就可认为在k q时是截尾的 16 在实际进行检验时 可对每个k 0 分别检验 通常取 中满足的个数所占的百分比是否超过31 7 或满足的个数是否超过4 5 若k 1 2 q 1都超过了 而k q时未超过 就可认为在k q时是截尾的 17 2 样本偏自相关函数截尾性的判断方法可以证明 若序列xt为AR p 序列 则k p后 序列的样本偏自相关函数服从渐近正态分布 即近似的有 此处n表示样本容量 于是可得 18 在实际进行检验时 可对每个k 0 分别检验 通常取 中满足的个数所占的百分比是否超过31 7 或满足的个数是否超过4 5 若k 1 2 p 1都超过了 而k p时未超过 就可认为在k q时是截尾的 19 三 关于ARMA序列阶数的确定 ARMA序列的阶数 直接通过自相关图较难确定 较常用的方法有Pandit Wu方法 后将介绍 或延伸自相关函数 EACF 法 延伸自相关函数可参见P217附录I 20 模型识别举例 见Eviews操作 21 第二节ARMA模型参数估计 引 本章我们将讨论如下模型的参数估计 式中 xt是零均值平稳序列 at为白噪声序列 待估计参数有 一 模型参数的矩方法估计 一 基本思路矩方法估计就是利用样本自协方差函数或样本自相关函数对模型参数进行估计 类似于数理统计中采用的矩方法估计 假设序列xt是ARMA p q 序列 那么xt的自协方差函数或自相关函数可由模型参数表达出来 估计时 将公式中的 换成 解方程组即可求出参数的矩估计值 24 说明 1 此方法简明易懂 计算工作量小 但在大样本情况下 估计的精度才较高 2 当序列xt为AR P 此方法的估计精度较高 与其它方法相比相差不大 但如果xt是MA或ARMA序列 矩估计的精度较差 25 二 AR p 模型参数的矩估计设序列xt经过模型识别 确定为AR p 模型 由第四章有如下结论 于是可得如下的Yule Walk方程 用代替 并解上述方程组 就可得 27 根据自协方差公式有 于是可得到的矩估计 28 例1 AR 1 模型的矩估计 29 例2 AR 2 模型参数的矩估计 30 三 MA q 模型参数的矩估计第四章已经推导出MA q 的自协方差结果 将代替 代替 i 1 2 q 得如下方程组 上式是含有q 1个参数的非线性方程组 解此方程组 即可以求出各参数 方程组可以直接求解 也可以用迭代法求解 31 例 MA 1 模型参数的矩估计 32 33 此例介绍的是直接求解法 还有线性迭代法和Newton Raphson算法 参见P105 由上求解可以看出MA模型和ARMA模型参数的矩方法估计是很复杂的 并且其估计精度较差 对它们参数的估计最好用其他方法 ARMA模型参数的矩估计可参见课本P106 此处不作详细介绍 34 三 最小二乘估计 基本思想 35 36 考虑以下时序模型 若et at 即et为白噪声 此时模型为AR P 模型 则前述四个假设都能满足 因此 对于AR P 模型 用普通最小二乘法 OLS 估计的参数是无偏 一致估计 注 基于误识别的AR参数的估计是不一致的 若 此时模型为ARMA p q 模型或MA q p 0时 模型 此时et不满足第3 4个条件 因此 对于ARMA模型和MA模型 普通最小二乘估计不是一致的估计 37 对于ARMA模型或MA模型参数的估计 一般采用非线性最小二乘法 或极大似然估计法 例 在Eviews中用OLS对磨轮剖面数据 zl14 wf1 建立AR 2 模型 Lsxx 1 x 2 此结果与NLS估计结果一致 38 四 非线性最小二乘估计 基本思想 这个方程关于参数是非线性的 因此必须用非线迭代 iteration 估计方法 39 非线性最小二乘估计的原理是首先采用泰勒级数展开式的前两项在参数的初始猜测值处线性化 然后对该线性方程应用OLS估计得到各参数的估计 再将方程在这些新的系数值处线性化 再用OLS得到参数的第二次估计 如此重复 直至收敛 convergence 即参数估计值不再发生变化为止 40 说明 1 运用非线性最小二乘法进行估计时 可借助样本自相关函数给参数选取初始值 2 在Eviews中 运用AR MA SAR SMA等参数项估计模型 所采用的就是非线性最小二乘法 41 42 二 极大似然估计 一 基本思想设有平稳的ARMA p q 模型 其中at为白噪声 对于极大似然估计法 一般假定at为正态白噪声 即 令为总体参数向量 假定观察到一个样本容量为n的样本 43 计算联合概率密度 它可大致看作已观察到具体样本的概率 最大似然估计就是求使这个样本最可能出现的参数向量 极大似然估计的估计精度一般较高 因此又称为精估计 44 二 基本步骤极大似然估计包括两步 1 计算似然函数 2 求使这个函数达到最大的参数值 45 第三节模型的诊断检验 引 模型的诊断检验包括模型的适应性检验 模型的平稳性和可逆性检验等 46 一 模型的适应性检验 若建立的模型恰当的描绘了已给数据数据序列的ARMA模型 那么模型拟合的残差应是白噪声序列 即均值为零 常数方差 彼此不相关 ARMA模型的适应性检验 主要就是检验残差是否为白噪声序列 47 设为估计出的残差序列 其样本自相关函数为 通常用Q统计量检验原假设是否为白噪声 48 49 说明 1 检验ARMA模型残差是否为白噪声和序列是否为白噪声时统计量的自由度不同 后者见第二章 2 Eviews用的Q统计量是Ljung BoxQ统计量 3 在Eviews中可直接用Q统计量的对应的P值进行检验 举例 50 二 模型的平稳性和可逆性分析 一 平稳性分析若是AR P 模型或ARMA p q 模型 其平稳性条件是自回归部分所对应的差分方程的特征方程的特征根必须都小于 若特征根有大于或等于1的 说明模型是非平稳的 特别是当特征根等于1或非常接近于1时 说明序列为单位根过程 此时需要对原序列进行适当的差分变换 有几个单位根 作几次差分 使其平稳 然后再对变换后的序列建模 51 2 可逆性分析对于MA q 和ARMA p q 模型 模型的可逆性条件是移动平均部分所对应的差分方程的特征都小于1 若有特征根大于1或等于1的 说明模型是非可逆的 此时要对序列作适当的变换 再建模 特别是当特征根有等于1或很接近1 说明此模型有过度差分之误 因此 应适当减少差分阶数再建模 以使模型满足可逆性条件 52 Eviews估计结果直接输出自回归部分所对应的差分方程的特征根 invertedARroot 移动平均部分所对应的差分方程的特征方程的特征根 invertedMAroot 53 第四节模型的定阶 模型的定阶又称模型的过拟合检验 分两种情况 一是评价模型是否包含过多的参数 二是评价模型是否参数不足 需要拟合额外的参数 模型定阶的准则主要有残差方差图定阶法 F检验定阶法 AIC和SBC定阶准则等等 54 一 残差方差图定阶法 见P94 1 基本思想如果拟合的模型阶数与真正阶数不符数 则模型的残差平方和SSE必然偏大 残差方差将比真正模型的残差方差大 如果是不足拟合 那么逐渐增加模型阶数 模型的残差方差会渐减少 直到残差方差达到最小 如果是过度拟合 此时逐渐少模型阶数 模型残差方差分逐渐下降 直到残差方差达到最小 55 2 残差方差的估计公式 注 式中 实际观察值个数 是指拟合模型时实际使用的观察值项数 即经过平稳化后的有效样本容量 设原序列有n个样本 若建立的模型中有含有自回归AR部分 且阶数为p 则实际观察值个数为n p个 若没有AR部分 则实际观察值个数即为n个 模型的参数个数指模型中所含的参数个数 如 若是不带常数项的ARMA p q 模型 参数个数为p q个 若带有常数项 则参数个数为p q 1个 56 用Eviews建立ARMA模型后 可直接得到乘余平方和SSE Sumsquaredresid 输出结果中也可直接得到残差标准差 S E ofregression 此项的平方即为残差方差 因此 对不同的模型残差方差进行比较 直接比较此项既可 57 例 以zl14 wf1磨轮剖面数据为例 分别建立适应性模型 输出结果见图示 从中选择最佳模型 58 59 60 61 三个模型残差方差比较 62 二 F检验定阶法 1 基本思想 以一般情形和ARMA p q 模型为例 先对数据拟合ARMA p q 模型 假设不含常数项 设其残差平方和为Q0 再对数据拟合较低阶的模型ARMA p m q s 设其残差平方和为Q1 建立原假设H0 63 在原假设成立的条件下有 于是计算统计量F 在给定的显著性水平下 若F F 则拒绝原假设 说明两模型差异是显著的 此时模型阶数存在升高的可能性 若F F 此不能拒绝原假设 说明两模型差异不显著 此时模型阶数存在降低的可能性 注 F检验定阶法的应用条件 两模型中有一个为合适模型 64 举例 见课本P98及Eviews操作 65 三 最佳准则函数定法 最佳准则函数法 即确定出一个准则函数 该函数既要考虑某一模型拟合时对原始数据的接近程度 同时又要考虑模型中所含待定参数的个数 建模时 使准则函数达到极小的是最佳模型 66 一 赤池的AIC准则和BIC准则1 AIC准则 Akaikeiformationcriterion AIC准则是1973年由赤池 Akaike 提出 此准则是对FPE准则 用来判别AR模型的阶数是否合适 的推广 用来识别ARMA模型的阶数 67 AIC准则函数为 式中 M为模型中参数的个数 AIC的简化式为 式中 是残差方差的极大似然估计值 68 Eviews输出的Akaikeinfocriterion与上述形式略有差别 参见Eviewshelp 其定义为 其中 n是实际观察值的个数 例见操作 69 2 BIC准则柴田 Shibata 1976年证明AIC有过分估计自回归参数的倾向 于是Akaike又提出了AIC方法的贝叶斯扩展 即BIC BIC准则函数为 式中 C为常数 余同前 70 二 施瓦茨 Schwarz 的SBC准则此准则1978年由Schwarz提出 被称为SBC Schwartz sBayesiancriterion 准则函数 简化式为 71 同样Eviews输出的结果与上形式略有差别 其定义为 72 前面介绍的几种定阶方法对于AR模型和MA模型还比较有效 但对于混合的ARMA模型定阶 并不方便 1984年Tiao 刁锦寰