时间序列分析方法 第04章 预测

1、时间序列分析方法讲义 第4章 预测PAGE PAGE 12第四章 预 测在本章当中我们讨论预测的一般概念和方法，然后分析利用模型进行预测的问题。4.1 预期原理利用各种条件对某个变量下一个时点或者时间阶段内取值的判断是预测的重要情形。为此，需要了解如何确定预测值和度量预测的精度。4.1.1基于条条件预期期的预测测假设我们们可以观观察到一一组随机机变量的的样本值值，然后后利用这这些数据据预测随随机变量量的值。特别地地，一个个最为简简单的情情形就是是利用的的前个样样本值预预测，此此时可以以描述为为：假设表示示根据对对于做出的预预测。那那么如何何度量预预测效果果呢？通常情情况下，我们利利用损失失函数

2、来来度量预预测效果果的优劣劣。假设设预测值值与真实实值之间间的偏离离作为损损失，则则简单的的二次损损失函数数可以表表示为(该度量量也称为为预测的的均方误误差)：定理4.1使得预预测均方方误差达达到最小小的预测测是给定定时，对对的条件件数学期期望，即即：证明：假假设基于于对的任意意预测值值为：则此预测测的均方方误差为为：对上式均均方误差差进行分分解，可可以得到到：其中交叉叉项的数数学期望望为(利用数数学期望望的叠代代法则)：因此均方方误差为为：为了使得得均方误误差达到到最小，则有：此时最优优预测的的均方误误差为：Endd我们以后后经常使使用条件件数学期期望作为为随机变变量的预预测值。4.1.2

3、基于于线性投投影的预预测由于上述述条件数数学期望望比较难难以确定定，因此此将预测测函数的的范围限限制在线线性函数数当中，我们考考虑下述述线性预预测：如此预测测的选取取是所有有预测变变量的线线性组合合，预测测的优劣劣则体现现在系数数向量的的选择上上。定义4.1如果我我们可以以求出一一个系数数向量值值，使得得预测误误差与不相关关：则称预测测为基于的线线性投影影。定理4.2在所所有线性性预测当当中，线线性投影影预测具具有最小小的均方方误差。证明：假假设是任任意一个个线性预预测，则则对应的的均方误误差可以以分解为为：由于是线线性投影影，则有有：因此均方方误差为为：为了使得得均方误误差达到到最小，线性预

4、预测满足足：这是一个个线性投投影。Ennd我们将线线性投影影预测表表示为：或者简化化为：显然线性性投影的的预测误误差仍然然不小于于条件期期望预测测，因此此有：当条件中中包含常常数的时时候，此此时线性性投影当当中就含含有常数数，为此此使用表表示含有有常数项项的线性性投影预预测，即即：4.1.3线性投投影的性性质根据线性性投影的的定义，我们可可以求出出投影的的系数向向量：如果是可可逆的，则有：命题4.1 线性预预测满足足下述性性质：(1)最优线线性预测测的均方方误差为为：(2)线性投投影满足足线性平平移性质质：证明：(1)根据投投影向量量的表达达式，可可以得到到：化简就可可以得到到命题表表达式。(

5、2) 需要证证明是的线性性投影。显然，它是线线性函数数，其次次，可以以证明它它满足正正交性质质。Ennd4.1.4线性投投影和普普通最小小二乘回回归线性投影影与最小小二乘估估计紧密密相关，这两种种概念之之间存在在联系。例如，将基于于建立线线性回归归方程，得到：对于给定定和的T个样本本，样本本残差平平方和定定义为：使得残差差平方和和达到最最小的系系数最小小二乘估估计为：如果过程程是协方方差平稳稳过程且且关于二二阶矩是是遍历的的，则有有：因此上述述OLSS估计按按概率收收敛到线线性投影影系数：4.1.5向量预预测上述结果果可以推推广到利利用维向向量预测测维向量量，记为为：其中为投投影系数数的一个个

6、阶矩阵阵，满足足正交条条件：上式说明明预测误误差的每每一个分分量与条条件变量量的每一一个分量量都无关关。命题4.2假设是的最小小均方误误差线性性预测，则对任任意的线线性组合合，它的的最小均均方误差差线性预预测为：证明：只只需证明明是线性性投影即即可，这这时需要要验证相相应的正正交性。Ennd类似地，投影矩矩阵为：与此对应应的均方方误差矩矩阵为：4.22基于无无限个观观测值的的预测无论是条条件期望望预测还还是正交交线性预预测，都都是基于于有限个个条件变变量的，下面我我们分析析基于无无限个观观测值情情形下的的预测。4.2.1基于滞滞后误差差的预测测考察一个个无限阶阶移动平平均过程程：，假设已经经知

7、道过过去所有有时间阶阶段的残残差观测测值，也也知道模模型中各各种参数数的值。现在我我们要预预测个阶阶段以后后的，根根据模型型它应该该是：对此最优优线性预预测形式式为：这个预测测值的对对应误差差为：这个预测测值的均均方误差差为：例4.11 试求求过程的的最优线线性预测测。解：过程程为：，则它的最最优线性性预测为为：对应的均均方误差差为：上上述预测测具有清清楚的含含义，在在时间间间隔以后后，使用用过程的的均值进进行预测测，而方方差是过过程的无无条件方方差。4.2.2基于滞滞后Y的预测测一般情况况下，我我们仅仅仅可以观观察到YY的值，为此假假设移动动平均过过程具有有可逆表表示：其中：，假设上述述AR

8、过程程与MAA过程之之间滞后后算子多多项式的的关系：1. 协协方差平平稳的过过程为：表示成为为算子多多项式形形式：满足：，2. 一一个过程程可以表表示成为为：也可以表表示成为为算子多多项式形形式：在可逆性性假设条条件下，则有：，如果给出出了观测测值，可可以在模模型当中中构造出出残差序序列，例例如在过过程当中中：对于给定定系数和和，由上上式可以以计算出出：在可逆的的过程当当中，可可以得到到：最后，可可以得到到给定条条件下的的预测公公式为：或者：w-k公式上述公式式也被称称为Wiieneer-KKolmmogoorovv预测公公式。上上述公式式当中的的算子是是截断形形式的算算子表达达式，算算子表达

9、达式中将将滞后算算子的负负指数项项省略。4.2.3预测一一个过程程对于一个个平稳的的过程，可以将将算子多多项式表表示成为为：利用上述述公式，可以得得到阶段段后的最最优线性性预测为为：上述预测测公式说说明，随随着预测测阶段的的增加，预测值值将趋于于长期均均值。对对应的预预测误差差为：随着预测测阶段的的增加，预测误误差也趋趋于无条条件方差差。4.2.4预测一一个过程程对于一个个平稳的的过程，可以利利用Wiieneer-KKolmmogoorovv预测公公式进行行预测。该公式式的主要要特点在在于：它它可以利利用过去去的过程程观测值值和未来来的残差差值表示示预测值值，然后后未来的的残差值值利用期期望去

10、掉掉。其中表示示矩阵中中第行、第列元元素，矩矩阵为： 这时阶段段的最优优预测为为：显然上述述预测是是均值基基础上加加上观测测值的一一个线性性组合，是观测测值的线线性函数数。相应的预预测误差差为：下面我们们给出具具体的预预测推导导过程：(1) 进行11个时期期的预测测，它满满足：(2) 将时间间开始阶阶段换为为，得到到：根据多重重投影定定理断言言，如果果的期预测测是期信信息的投投影，则则该预测测也是期期进行的的最优线线性预测测，则有有：将1期预预测代入入得到：(3)过程的的前期预预测根据据叠代可可以得到到：，其中：，4.2.5预测一一个过程程继续考察察一个过过程，可可以利用用滞后算算子表示示为：

11、，利用Wiieneer-KKolmmogoorovv预测公公式进行行预测，得到：向前预测测1期时时有：则预测值值为：当预测步步长超过过1时：则预测值值为：4.2.6预测一一个过程程继续考察察一个可可逆的过过程：利用Wiieneer-KKolmmogoorovv预测公公式进行行预测，得到：其中：对于比较较近期的的预测()有：其中可以以利用下下述递推推表示：对于比较较远期的的预测()比较简简单：4.2.7预测一一个过程程过程可以以表示为为：假设该过过程是平平稳的()和可逆逆的()，则：其中：代入到预预测公式式中：注意到对对于任意意，预测测值满足足递推公公式：这意味着着预测值值按照几几何方式式以速度

12、度收敛到到无条件件均值。前1期期预测由由下式给给出：上式可以以等价地地表示为为：其中：或者：4.2.8预测一一个过程程综合上述述各种预预测情形形，我们们可以得得到预测测平稳过过程的方方法。过过程可以以表示为为：最优线性性预测方方程可以以表示为为： 其中可以以利用下下述递推推表示：前期预测测为：其中：，4.22基于无无限个观观测值的的预测下面我们们假设已已知模型型的参数数，但是是只获得得了有限限样本情情形下的的预测问问题。4.3.1最优预预测的近近似基于有限限个观察察值的预预测方法法是假设设样本之之前的残残差都为为零，这这是因为为有下面面的近似似公式存存在：4.3.2有限样样本情形形下的精精确预

13、测测利用线性性投影可可以得到到有限样样本情形形下的精精确预测测：4.77 ARMMA(11)过程程之和下面我们们考虑两两个ARRMA过过程相加加所得到到的时间间序列性性质。4.7.1MA(11)过程程与白噪噪声之和和假设一个个序列是是零均值值的过程程：其中是白白噪声序序列，满满足：此时过程程自协方方差函数数为：假设随机机过程是是另外一一个白噪噪声过程程，满足足：假设两个个白噪声声序列之之间在任任何时点点都是不不相关的的，也即即有：，这是也有有：，目前的问问题是，如何观观测到一一个序列列是上述述移动平平均过程程和白噪噪声过程程的和，那么这这个和过过程的性性质如何何？显然，上上述过程程仍然具具有零

14、均均值，它它的自协协方差函函数可以以表示为为：由此可见见，随机机过程也也是平稳稳过程，它的自自协方差差函数与与过程是是类似的的。此时时，我们们设想是是否有一一个过程程：其中白噪噪声满足足：它具有与与和过程程一致的的自协方方差函数数？如何是这这样，则则要求白白噪声的的方差满满足：对于给定定的参数数：，满满足上述述要求的的值为：在特殊情情形下，如果，则上式式变为：对于其他他情形，可以分分析具有有相同自自协方差差函数的的自回归归系数的的要求。4.7.2两个移移动平均均过程之之和假设是过过程，是是过程，并且两两个过程程的残差差在任何何时点都都不相关关，则可可以证明明，他们们的和过过程满足足过程。4.7

15、.2两个自自回归过过程之和和假设随机机过程和和是两个个过程，满足：其中和是是两个在在任何时时点上都都不相关关的白噪噪声序列列。假设设我们可可以观察察到并且想利利用来对对进行预预测。为此，我我们需要要分析时时间序列列的结构构。在特特殊情形形下，如如果一旦旦自回归归系数相相同，或或，则直直接得到到的自回回归表示示：如果，则则有：可以等价价地表示示为：对应的要要求为：因此可以以知道：更为一般般地，对对于两个个残差序序列不相相关的自自回归过过程而言言：它们相加加可以得得到一个个过程：，4.88Wolld分解解和Boox-JJenkkinss建模思思想平稳时间间序列具具有类似似的性质质，那么么如果表表示

16、平稳稳时间序序列的一一般结构构呢？WWoldd分解定定理给出出了一般般的结论论。4.8.1Wolld分解解定理4.3(Woold分分解定理理)任何零零均值协协方差平平稳过程程可以表表示成为为如下形形式：其中：，是利用用预测时产产生的误误差：对于任意意，与不相关关，并且且也可以以利用利利用进行行预测：称为过程程的线性性确定性性成分，而称为为过程的的线性非非确定性性成分。如果，则称该该过程是是纯线性性不确定定性的。4.8.2Boxx-Jeenkiins建建模思想想任何时间间序列数数据都有有自己的的生成机机制，但但是如何何揭示和和描述时时间序列列的数据据生成机机制呢？这需要要利用时时间序列列模型对对

17、数据生生成机制制进行逼逼近或者者近似，这就需需要寻求求建立时时间序列列模型的的基本过过程。(1)建立模模型一个个基本出出发点是是，所采采用的模模型越节节俭越好好，所要要估计的的参数越越多，模模型出现现错误的的可能性性就越大大。(2) 即使一一个复杂杂的模型型描述和和模拟历历史数据据的能力力很好，但是有有时进行行预测时时的误差差却很大大。以前前大型经经济计量量模型的的失败则则说明了了这一点点。Box-Jennkinns提出出并倡导导的预测测方法主主要步骤骤为：(1)如果有有必要，可以对对数据进进行变化化，使得得数据的的协方差差平稳性性变得更更为合理理。(2) 对于描描述平稳稳性数据据的模型型的阶

18、数数做出一一个初始始的数值值比较小小的猜测测。(3) 估计自自回归和和移动平平均算子子多项式式中的系系数。(4) 对模型型进行诊诊断分析析以确定定所得到到的模型型确实与与观测到到的数据据具有类类似的特特征。其中数据据变化主主要根据据经济时时间序列列的特征征，对数数序列的的差分是是非常常常用的变变换方法法。时间间序列模模型的估估计与诊诊断是后后面讨论论的主要要内容。4.8.3 样本本自相关关函数为了确定定模型的的阶数，我们首首先讨论论自相关关函数的的估计问问题。一一般情况况下可以以利用样样本的矩矩估计进进行：，根据和过过程的性性质，我我们可以以根据上上述样本本自协方方差函数数收敛到到零的性性质，区区分出两两类过程程。如果数据据由一个个高斯过过程生成成，则估估计的方方差近似似为：，特别地，如果认认为该数数据是由由高斯白白噪声数数据生成成的，则则对于任任意的，应该在在95%的时间间内落在在之间。这是因因为的渐渐近分布布为，而而标准正正态分布布的5%临界值值为1.96。4.8.4偏自相相关函数数为了识别别自回归归过程的的阶数，一个有有用的度度量方法法是采用用偏自相相关函数数。第阶阶偏自相相关系数数(表示为为)定义为为关于它它的最近近个值的的线性投投影的最最后一个个系数：其中向量量可以利利用下述述方程计计算：上述命题题将线性性投影的的系数与与过程的的自协