第3-2章_平稳时间序列分析-ARMA模型.ppt

第三章 平稳时间序列分析 第二节ARMA模型 AR模型 AutoRegressionModel MA模型 MovingAverageModel ARMA模型 AutoRegressionMovingAveragemodel 一 AR模型 AutoRegressionModel 具有如下结构的模型称为阶自回归模型 简记为特别当时 称为中心化模型 一 AR模型定义 AR P 序列中心化变换 对于非中心化序列 作变换 则原序列即化为中心化序列 所以 以后我们重点讨论中心化时间序列 AR模型的算子表示 令 则模型可表示为 二 AR模型平稳性判别 判别原因 AR模型是常用的平稳序列的拟合模型之一 但并非所有的AR模型都是平稳的 判别方法 特征根判别法 平稳域判别法 例3 1 考察如下四个模型的平稳性 例3 1平稳序列时序图 例3 1非平稳序列时序图 从时序图上可以看出 1 3 模型平稳 2 4 模型非平稳 三 AR模型平稳性常用判别方法 特征根判别 平稳域判别 AR p 模型平稳的充要条件是它的p个特征根都在单位圆内 根据特征根和算子多项式的根成倒数的性质 AR p 模型平稳的充要条件是该模型的算子多项式的根都在单位圆外 平稳域为 四 两个常见模型的平稳性条件 1 AR 1 模型平稳条件 特征根为 平稳条件 平稳域为 AR 1 模型的平稳性条件也可以如下讨论 对1阶自回归模型AR 1 方程两边平方再求数学期望 得到Xt的方差 由于Xt仅与 t相关 因此 E Xt 1 t 0 如果该模型稳定 则有E Xt2 E Xt 12 从而上式可变换为 在稳定条件下 该方差是一非负的常数 从而有 1 而AR 1 的算子多项式方程 的根为z 1 AR 1 稳定 即 1 意味着特征根大于1 2 AR 2 模型平稳条件 特征根为 由 知等价于 平稳域 2 1 1 2 1 2 1 1 1 1 2 2 1 1 2 1 2 1 1 1 1 2 无论 1 2为实数或共轭复数 由 1 0 从而得 2 1 1 2 1 1 且 1 2 1 事实上 由于 平稳域是一个三角形区域 见下图阴影部分 平稳AR 2 过程 1 2取值域 阴影部分 回归参数 2 1的取值变化分三种情形讨论 1 当 12 4 2 0时 特征方程有相等实数根 2 1取值在图中的抛物线上 称为临界阻尼状态 2 当 12 4 2 0时 特征方程有不等实数根 2 1的值位于过阻尼区 自相关函数呈指数衰减 3 当 12 4 2 0时 特征方程根为共轭复根 2 1的值位于欠阻尼区 自相关函数呈正弦震荡衰减 AR 2 模型的平稳性也可以如下讨论 对AR 2 模型 方程两边同乘以Xt 再取期望得 又由于 于是 同样地 由原式还可得到 于是方差为 由平稳性的定义 该方差必须是一不变的正数 于是有 1 2 1 2 1 1 2 1 对高阶自回模型AR p 来说 多数情况下没有必要直接计算其特征方程的特征根 但有一些有用的规则可用来检验高阶自回归模型的稳定性 1 AR p 模型稳定的必要条件是 2 由于可正可负 AR p 模型稳定的充分条件是 例3 1平稳性判别 三 平稳AR模型的统计性质 1 均值 如果AR p 模型满足平稳性条件 则有 根据平稳序列均值为常数 且为白噪声序列 有 推导出 1 Green函数定义 2 方差 将平稳的AR p 模型表示成如下的传递形式 其中系数称为Green函数 求Green函数递推公式 由待定系数法可得如下递推公式 2 平稳的AR p 模型的方差 由平稳AR模型的传递形式 两边求方差得 例3 2 求平稳AR 1 模型的方差 平稳AR 1 模型的传递形式为 Green函数为 平稳AR 1 模型的方差为 也可用以下方法计算 将原过程改写为 所以 3 自协方差函数 在平稳AR p 模型两边同乘 再求期望 根据 得自协方差函数的递推公式 例3 3 求平稳AR 1 模型的自协方差函数 递推公式 平稳AR 1 模型的方差为 自协方差函数的递推公式为 例3 4 求平稳AR 2 模型的协方差 利用 其中 所以 平稳AR 2 模型的协方差函数递推公式为 4 自相关系数 1 自相关系数的定义 特别 2 平稳AR P 模型的自相关系数递推公式 上述方程称为Yule Walker方程 3 常用AR模型自相关系数递推公式 AR 1 模型 AR 2 模型 说明 在AR 1 模型中 即使没有直接出现在模型中 和也是相关的 因为 所以 是通过与相关的 这种间接相关出现在任何AR模型中 与的自相关系数等于与的自相关系数乘以与的自相关系数 即 5 平稳AR p 模型自相关系数的性质 1 拖尾性 2 呈负指数衰减 拖尾性说明之前的每一个序列值都会对构成影响 但因为自相关系数呈负指数衰减 所以 间隔较远的序列值对现时值的影响很小 具有所谓的 短期相关性 例3 5 考察如下AR模型的自相关图 例3 5 自相关系数按负指数单调收敛到零 例3 5 自相关系数呈现正负相间地衰减 例3 5 自相关系数呈现出 伪周期 性 例3 5 自相关系数不规则衰减 6 偏自相关函数 自相关函数ACF k 给出了Xt与Xt k的总体相关性 但总体相关性可能掩盖了变量间完全不同的相关关系 例如 在AR 1 中 Xt与Xt 2间有相关性可能主要是由于它们各自与Xt 1间的相关性带来的 即自相关函数中包含了这种所有的 间接 相关 与之相反 Xt与Xt k间的偏自相关函数 partialautocorrelation 简记为PACF 则是消除了中间变量Xt 1 Xt k 1带来的间接相关后的直接相关性 它是在已知序列值Xt 1 Xt k 1的条件下 Xt与Xt k间关系的度量 定义 对于平稳AR p 序列 所谓滞后k偏自相关系数就是指在给定中间k 1个随机变量的条件下 或者说 在剔除了中间k 1个随机变量的干扰之后 对影响的相关度量 用数学语言描述就是 7 偏自相关系数的计算 1 直接利用回归方法计算 首先将序列中心化 作如下形式的回归 滞后k偏自相关系数实际上就等于k阶自回归模型第个k回归系数的值 注意到 所以 即为剔除了中间k 1个随机变量的干扰之后 与的相关系数 即与的偏自相关系数 2 利用Yule Walker方程计算 当时 当时 所以 一般地 利用Cramer法则可得 3 利用Levinson递推公式计算 或写成 其中 定理的证明 Yule Walker方程 可写为 利用归纳法 对k 1 Levinson递推公式显然成立 假设公式对k 1已经成立 即 对k阶Yule Walker方程 作上述分块矩阵 记 则是正交阵 有 k阶Yule Walker方程可记为 所以 由 1 式 注意到 1 2 3 代入 2 式得 所以 注意到 已经假定Levinson公式对k 1成立 即 所以有 再由 3 式得 即 8 平稳AR p 模型偏自相关系数的截尾性 AR p 模型偏自相关系数P阶截尾 这是因为对于AR p 模型 与之间不存在直接相关 所以 平稳AR p 模型偏自相关系数的截尾性是AR模型所具有的一个重要特性 它可以帮助我们识别AR模型 9 常用AR模型偏自相关系数公式 AR 1 模型 AR 2 模型 例3 5续 考察如下AR模型的偏自相关图 例3 5 理论偏自相关系数 样本偏自相关图 例3 5 理论偏自相关系数 样本偏自相关图 例3 5 理论偏自相关系数 样本偏自相关图 例3 5 理论偏自相关系数 样本偏自相关图 二 MA模型 MovingAverageModel 一 MA模型的定义 具有如下结构的模型称为阶移动平均模型 简记为 特别当时 称为中心化模型 利用延迟算子 中心化模型又可以简记为 其中 是阶移动平均系数多项式 为了以后识别一个模型是否是移动平均模型MA q 下面讨论MA模型的统计性质 二 MA模型的统计性质 1 常数均值 2 常数方差 显然 MA模型是平稳的 3 MA模型的自协方差函数 MA q 自协方差函数q阶截尾 4 MA模型的自相关函数 MA q 自相关系数q阶截尾 5 常用MA模型的自相关系数 MA 1 模型 MA 2 模型 6 MA模型的偏自相关系数 MA模型的偏自相关系数拖尾 对于中心化的MA q 模型 有 例3 6 考察如下MA模型的相关性质 MA模型的自相关系数截尾 可以看出 1 2 自相关系数相同 MA模型的自相关系数截尾 可以看出 3 4 自相关系数相同 MA模型的偏自相关系数拖尾 可以看出 1 和 2 的偏自相关系数相同 3 和 4 的偏自相关系数相同 三 MA模型的可逆性 由例3 6可以看出 不同的MA模型可能具有完全相同的自相关系数和偏自相关系数 为了利用自相关系数和偏自相关系数来识别MA模型 要求给定一个自相关函数能够对应惟一的MA模型 这就要求我们给模型增加约束条件 这个约束条称为件MA模型的可逆性条件 1 MA模型可逆性的定义 定义 若一个MA模型能够表示称为收敛的AR模型形式 那么该MA模型称为可逆MA模型 意义 可以保证一个自相关系数列唯一对应一个可逆MA模型 2 可逆的MA 1 模型 3 MA模型的可逆条件 MA q 模型可逆的充要条件是 MA q 模型的特征根都在单位圆内 等价条件是算子多项式的根都在单位圆外 4 MA模型逆函数的递推公式 利用待定系数法可得如下逆函数递推公式 由 若MA模型可逆 则MA模型可表示为 称为MA模型的可逆表示 例3 6续 考察如下MA模型的可逆性 逆函数为 逆转形式为 可逆表示 MA 2 可逆条件 3 的逆函数为 3 的逆转形式为 可逆表示 自回归与移动平均过程的关系 一个平稳的AR p 过程 1 1B 2B2 pBp xt ut可以转换为一个无限阶的移动平均过程 xt 1 1B 2B2 pBp 1ut B 1ut 一个可逆的MA q 过程xt 1 1B 2B2 qBq ut B ut可转换成一个无限阶的自回归过程 1 1B 2B2 qBq 1xt B 1xt ut 对于MA q 过程 只需考虑可逆性问题 条件是 B 0的根 绝对值 必须大于1 不必考虑平稳性问题 对于AR p 过程只需考虑平稳性问题 条件是 B 0的根 绝对值 必须大于1 不必考虑可逆性问题 三 ARMA模型 一 ARMA模型的定义 具有如下结构的模型称为自回归移动平均模型 简记为 特别当时 称为中心化模型 利用延迟算子 中心化模型又可以简记为 其中 是阶自回归系数多项式 是阶移动平均系数多项式 二 ARMA p q 平稳条件与可逆条件 ARMA p q 模型的平稳条件 P阶自回归系数多项式的根都在单位圆外 即ARMA p q 模型的平稳性完全由其自回归部分的平稳性决定 ARMA p q 模型的可逆条件 q阶移动平均系数多项式的根都在单位圆外 即ARMA p q 模型的可逆性完全由其移动平滑部分的可逆性决定 三 ARMA p q 传递形式与逆转形式 传递形式 逆转形式 无穷阶MA模型 无穷阶AR模型 格林函数 逆函数 其中 四 ARMA p q 模型的统计性质 均值 自协方差函数 自相关系数 例 求ARMA 1 1 过程的自协方差函数 自相关函数 偏自相关函数 解 所以 偏自回归系数的Levinson递推公式为 所以 的偏自相关系数为 类