时间序列的预报课件

1、时间序列的预报课件第五章第五章 时间序列的预报时间序列的预报n最小方差估计n平稳线性最小均方误差预报n一类非平稳序列的线性最小均方误差预报nARMA序列的新息预报时间序列的预报课件 第一节第一节 最小方差估计最小方差估计一一. . 最小方差估计准则最小方差估计准则n对未知随机变量或未知随机向量进行估计是时间序列分析中预测理论的重要内容。n令 表示依据量测Z对X所得的某种估计，称 为X的估计，它是与X的维数相同的随机向量，而且是Z的函数.)(ZXX X时间序列的预报课件 n记估计的误差为 ，称 为估计的均方误差阵，若存在某种估计，使得估计的均方误差阵比任何其他的均方误差阵都小，则称这个估计是最优

2、的。n注：这里所讲的估计的均方误差阵大小，是指矩阵的大小。设A,B为同阶对称阵，若A-B是非负定阵，则称A不小于B，记为 ；若A-B是正定阵，则A大于B，记为AB。XXXTXXEBA时间序列的预报课件 二二. . 条件期望与条件方差条件期望与条件方差n对于两个二阶矩有穷的随机向量，定义在给定Y=y的条件下，X的条件期望和条件方差分别记为E(X|y)和Var(X|y) 其中p(x|y)是给定Y=y的条件下X的条件密度函数。dxyxpyXExyXExyXVardxyxxpyXET)|()|()(|()|()|()|(时间序列的预报课件 n条件期望的性质：(1) E(X|Y)是Y的函数向量并与X的维

3、数相同， E(X|Y)使随机向量(2) E(X|Y)具有线性性，即对k个相同维数随机向量 及k个常数 有，(3) EE(X|Y)=EXkjXj, 2 , 1,jcc,1)|()|(11YXEcYXcEjkjjjkjj时间序列的预报课件 (4) 设X与Y为相互独立的随机向量，则 Ef(X)|Y=f(X) 其中f( )为适当的函数向量，仅要求f(x)为随机向量。(5) Ef(Y)|Y=f(Y)时间序列的预报课件0)()()|()|()()|()()|(),()()|()()|(22 dyypyfyXEyXEdxdyypyxpyfyXExdxdyyxpyfyXExYfYXEXETTTT(6)0)()

4、|(YfYXEXET(7) 当X与Y的联合分布为正态分布时，则),()(,()|()()(,()|(11YXCovVarYYXCovVarXYXVarEYYVarYYXCovEXYXE时间序列的预报课件的条件密度为的条件密度为的条件下的条件下所以在所以在其中其中求逆公式可得求逆公式可得由分块矩阵的行列式和由分块矩阵的行列式和其中其中的维数的维数分别是分别是维正态随机向量，维正态随机向量，为为设设XyYYXVarYVarXEZZEZZEVarZEYEXEZYXlrlrkkYXZTTTTT .,|).,cov(,)(,1212212111112211112122122111121221221211

5、11111221121122211222112112121 时间序列的预报课件).,()(,()|()()(,()()|()|(),()(21exp|)2(1)(),()|(11212212111112122121212212111121221212/1112/2YXCovVarYYXCovVarXYXVarEYYVarYYXCovEXyYXEyxPyxyxypyxpyxpTTr 为正态，且条件期望为为正态，且条件期望为由上式知，条件密度由上式知，条件密度时间序列的预报课件 三三. . 最小方差估计最小方差估计n寻找最小方差估计就是寻找一个适当的Z的函数 为随机函数向量，较之其它估计 相应估计

6、的均方误差阵达最小，即n可以证明： )(ZXXMVMVXTMVTMVXXEXXE)|(ZXEXMV时间序列的预报课件 n注： （1） 最小方差估计是无偏估计 （2） 最小方差估计的均方误差阵为 dzzpzxVardzzpdxzXpzXExzXExdxdzzxpzXExzXExZXXVarXXETTMVMVTMV)()|()()|()|()|(),()|()|()(22时间序列的预报课件 四四. . 线性最小方差估计线性最小方差估计n若估计 为量测随机向量Z的线性函数其中 为n维随机向量，Z为m维随机向量，a为与 同维数的常值向量，A为非随机矩阵，选择a,A是估计的均方误差阵达最小的估计称为线性

7、最小方差估计。XZXAaXX时间序列的预报课件 nX的线性最小方差估计为 n 的性质：(1) 线性最小方差估计具有无偏性(2) 线性最小方差估计的估计误差为 且 与Z正交。),()(,()()()(,(11XZCovVarZZXCovVarXXXXXEEZZVarZZXCovEXXTLMVLMVLMV且LMVX)()(,()(1EZZVarZZXCovEXXXXLMVLMVXX时间序列的预报课件 n定义1.1 设X与Z分别是二阶矩的n维与m维随机向量，如果存在一个与X同维数随机向量 ，且具有下列性质：(1) 可由Z的线性表示，即 ,其中a和A分别为常值向量和常值矩阵(2) (3) 与Z正交，即

8、则称 是X在Z上的投影，记为*X*XZXAa*EXEX *XX 0)(* TZXXE*X)|(*ZXEX 时间序列的预报课件 n注：(1) 线性最小方差估计 是X在Z上的投影(2) X在Z上的投影只能是线性最小方差估计 ，即投影是唯一的(3) 当X与Z为联合正态时,X关于Z的条件期望和X在Z上的投影相等，即LMVX)()(,()|(1EZZVarZZXCovEXZXEXLMV)|()|(ZXEZXE时间序列的预报课件第二节第二节 平稳线性最小均方平稳线性最小均方 误差预报误差预报n预报是根据现在和过去的观察资料，对未来时刻的取值进行估计。n设 为零均值平稳序列， 为 的长度为k的样本，根据 对

9、 ( 为正整数)做出估计 ，取估计的优劣标准为使估计误差 (2.1)的方差 达最小，则 tXkXX,1tXkXX,1lkXl),(1nlkXXfXlklklkXXXlkXE2时间序列的预报课件 (1) (2.2)称 为 步最小均方误差预报。(2) 如果函数f是 的线性函数,那么(2.2)为正交投影，即 其中 ，称 为 步线性最小均方误差预报。),|(1XXXEXklklklkXlkXX,1kkTklkklklkXVarXXEXXXXEX, 11, 1, 11)(),|(TkkXXX),(1, 1lkXl时间序列的预报课件 n注： (1) 当 为正态序列时，最小均方误差预报与线性最小均方误差预报

10、是一致的。 (2) 当 为非正态序列时，最小均方误差预报要优于线性最小均方误差预报。tXtX时间序列的预报课件 例2.1: 设 为相互独立的随机变量, ,令 分别求Y关于X的线性最小均方误差估计和最小均方误差估计。,), 0(,2N)3(,22YX0)|(0),(033)3(03)3(0)(,()|(44422422332321XYEEYEXEXYXYCovEEEEEXYEEEEEEYEEXXVarXXYCovXYE预报：解：线性最小均方误差时间序列的预报课件.)|()|(18)(9)(933)3(3)|(2415182769)3()|(.33| )3(|)3()|()(22222222222

11、232322223226666642242222232323222YXYEEYXYEEEEEEXXEYXYEEEEEEEEEYYXYEEXXXEXXXXEXEXYE故，和别为它们的估计误差方差分最小均方误差预报：条件期望时间序列的预报课件 n线性最小均方误差估计具体的表述：选择使得达最小。由于因此，令)()(2)(1,lkllccc21)()(jkjljlkkXcXEjikjiljlijlkkjljkrccrcr1,)()(1)(02kjrcrcjikilijlkjk, 2 , 1,221)(kjcjk, 2 , 1, 0时间序列的预报课件 则有，将理论自协方差函数 换成样本自协方差函数 ，得

12、到， (1.5),)()(2)(102120111021 lkllkkkkllklkcccrrrrrrrrrrrrkrkr llklkkkkklkllrrrrrrrrrrrrccc211021201110)()(2)(1时间序列的预报课件 于是 步线性最小均方误差预报为存在的问题：1. 样本自协方差函数 由 计算出来，k很大，故(1.5)的计算量极大2. 部分样本自协方差函数 无法计算。l kjjljlkXcX1)(jrkXX,1,1lkr时间序列的预报课件 n为克服上述困难,不妨假设已获得的观测资料为所有的历史资料,即为 ，令 表示由k时刻和它之前的所有历史数据对 所作的 步线性最小均方误差

13、预报，即 其中 是使 步预报误差 的均方达到最小，则有,101xxxxk,:020RccXcXXjjjjjkjkX)(ZllXklkXl1)(jjkjkXclXjcl)()(lXXlXklkk)(2lXEk)|()(klkkXElXX时间序列的预报课件 1.1 1.1 步预报和预报误差方差步预报和预报误差方差n设 为ARMA(p,q)序列，其传递形式和逆转形式分别为且令 可知，ltX10,jjtjttjjtjtXIXGX,:020RhhhjjjjjkjkAkXA k4 , 3 , 2 , 1, 0,| ,|4231jaeaIeaGjjajjaj时间序列的预报课件 n则序列 的 步线性最小均方误

14、差预报为： (1.11) 步预报误差为： (1.12) 步预报误差方差为： (1.13) tXl.)|()|()|()(100ljjlkjkljjlkjljjlkjkjjlkjklkkGGGEGEXElXAAXl10)()(ljjlkjklkkGlXXlXl221212)1 ()(lkGGlXE时间序列的预报课件 n注：(1) 由(1.11)可得 (1.14) (1.14)表明，在k+1时刻的 步预报等于k时刻的 步预报加上k时刻的一步预报误差得加权修正项。(2) 由两部分组成，第一部分 为 步预报误差，第二部分 为 步预报1121111) 1()(klkklklklljjlkjkGlXGGG

15、GlXl2110IIGGXljjlkjljjlkjlklkX1Ill2I1l时间序列的预报课件 (3) 等式(1.13)表明：在线性最小均方误差预报意义下， 步预报误差方差仅与预报步数有关，而与预报起点k无关，并且步数愈大，预报误差也就愈大，即预报精度愈差。l时间序列的预报课件 n对于ARMA(p,q)模型参数 与Green函数 的关系式：其中 当模型建立后， 由模型参数 逐步递推得到，再由公式(1.12),(1.13),(1.14)计算出 步预报 和预报误差，误差方差。,jG,2, 1,*0*mGmmjjmjqjqjpjpjjjjj,01 ,01 ,*,jGl)(lXk时间序列的预报课件 1

16、.2 1.2 ARMA(p,q)ARMA(p,q)序列的平稳线性最小均方误差预报序列的平稳线性最小均方误差预报一一. . AR(p)AR(p)序列的预报序列的预报模型： n 步预报为n当 时，有 tptpttXXX11l)()|()|()(11jlXXEXElXkpjjklkjlkpjjklkkXXjl jlkkXjlX)(时间序列的预报课件 n定理1.1 设 为AR(p)序列，则观测到时刻k为止的各步预报有如下递推公式: (1.16)tXpljlxlXxxpxpxpXxxxXxxxXpjkjkkpkpkkkpkpkkkpkpkkk, )()()1 ()2()1()()1 ()2()1 (11

17、212211221时间序列的预报课件 n注：定理1.1表明，对AR(p)序列，只要知道 这p个数据，就可递推求得AR(p)序列的任意步的平稳线性最小均方误差预报，比k-p+1时刻更早的历史数据对预报不起作用。11,pkkkxxx时间序列的预报课件 n例1.2 试求AR(1)序列的预报和预报误差方差。 2)1(21412110111)1 ()(,0,)1 ()()0(1)1()()16.1 (lkjjjjtjtklkkkkklXVarljGGreenXARxlXXXllXlX步预报误差方差为故函数其序列的传递形式为又因为。，知由，可知：解：由公式时间序列的预报课件 注:若 为正态噪声，则 的95

18、%的置信区间的置信上、下限为tlkX)1 (96. 1)() 1(214121lklX时间序列的预报课件 n例1.3 试求AR(2)序列的预报。 步预报为：(1) 递推法：由初值 ,可递推出任意 步预报 。(2) 差分方程法： 满足二阶差分方程 其中推移算子B作用于 ，即)2()1()(21lxlxlxkkkl1) 1(,) 0(kkkkxxxxl)( lxk)( lxk0)()1 (221lxBBkl)1()(lxlxBkk时间序列的预报课件 n设 为特征方程 的特征根，当k固定时，由差分方程理论知：(1) 为不同实根，则 步预报为 其中 满足 则，21,021221,lllkcclx221

19、1)(21,cc122111121ccxccxkk1212121211211)()(kllkllkxxlx时间序列的预报课件 (2) 当 ，则 步预报为 其中 满足 则，21llklcclx121)()(21,cc112111)(ccxcxkk1111) 1()(klklkxlxllx时间序列的预报课件 (3) 当 ，记 则 步预报为 21)sin(cos21 iei l112211sinsinsin)1sin()(klklllkxlxlcclx时间序列的预报课件 n例1.4 设某地区年平均降水量 为540毫米，其偏差序列 为AR(2)序列其中 ，已知近5年的实测降水量(单位：毫米)为 求今后

20、3年各年降水量的预测值。tXZttttXXX213.05.0ZZXtt560,470,585,496,5764321kkkkkZZZZZ时间序列的预报课件44.5173340.5662280.5081156.2213 . 0250. 0340.263 . 0150. 0220.313 . 050. 0120,70,45,44,3614321ZXZZXZZXZXXXXXXXXXXXXXXkkkkkkkkkkkkkkkkkkkk）（）（）（）（）（）（故，）（）（）（）（）（）（由递推公式，解：易知，时间序列的预报课件 二二. . MA(q)MA(q)序列的预报序列的预报(1) (1) 逆函数法预

21、报逆函数法预报nMA(q)模型： (2.1)n其逆转形式为 (2.2)从逆函数出发，给出的预报为逆函数法预报。qjjtjqtqttttaZtaaaaX0022111,jtjjtjjjttXIXBIXBa001)(时间序列的预报课件 n定理1.2 设 为MA(q)序列，则观测到时刻k为止的各步预报为 (2.3)其中 由下式递推得到， (2.4)tX.,0,1,)(11)(qlqlXIlxjkjljk)(ljI. 1, 1, 1,)1 (11)(1)(jIIljIIIIjjliiljijllj时间序列的预报课件)5 .2()()|()|()|()|()()(10)|()|()|()(101001j

22、lkljjkljjklkjlkljjjlkljjklkjlkjjklkklkkkjlkqjjklkklkktXIjlXIXIXIEXIEXEXElXqMAqlEXEXElXqlAAAXAAX模型的逆转形式知，由当时，有为正交序列知，当证：利用时间序列的预报课件 .1, 1, 1,),5 .2()6 .2()6 .2(1,)(,)(11)1(11)(1)(11111111)(11)(11)(jIIljIIIIXXIXIIXIliXIiXjlXljjjliiljijlljjkjkjjllijjkiljijkjljjkjijkkk的系数，可知，于是对比等式两边得代入将令，又X时间序列的预报课件 n注

23、： (1) 公式（2.4）不仅适用于MA(q)序列，也适用于ARMA(p,q)序列。 (2) MA(q)序列和AR(p)序列两者预报有一个根本区别：对MA(q)序列的预报 依赖于k时刻和k时刻以前的全部历史数据。)( lxk时间序列的预报课件 n在实际应用中，我们采取有穷和(取求和项适当的大)代替(2.3)式中的无穷和，从而近似的线性最小均方误差预报为 (2.7)n对于M的选择，可根据 收敛于零的速度适当地选择，以保证预报的精度。.,0,1,)(11)(qlqlXIlxjkMjljk)(ljI时间序列的预报课件 (2). (2). 向量递推预报向量递推预报n引理1.1 设 为ARMA(p,q)

24、序列，则有如下预报递推公式： (2.8) tX0),1 () 1()(11lXXGlxlxkklkk时间序列的预报课件得证。又有对模型的传递形式为证：1111)1(111101110) 1 () 1 () 1()(, 0),(kkkkklkliilkikljjkjlkljjkjlljjlkjkjjtjtXXXGlxGGGGGGlxlGXqpARMA时间序列的预报课件 n定理1.3 设 为MA(q)序列，则线性最小均方误差预报向量 满足如下递推公式 (2.9) 其中，tX)(qkX1121)(121)(1000100010001kqqqkqqqkXXXTkkkqkqXXX)(,),2(),1 (

25、)(X时间序列的预报课件11111221111111)(1) 1 () 1() 1 ()() 1 ()3() 1 ()2()() 1()2() 1 (1 . 1, 0)(, 01,)(kqkqkkqkqkkkkkkkkkkkqkkjjXXqXXXqXXXXXXXqXqXXXqllXqjqjGqMAX知以及引理和序列证：由时间序列的预报课件证毕1121)(1211121121000100010001)() 1()2() 1 (000100010001kqqqkqqkqqkkkkqqXXqXqXXXX时间序列的预报课件 n注：递推公式(2.9)中的初值 可由逆函数公式直接得到，当 很小时，也可取

26、。n例1.4 求MA(2)序列： 的逆函数法预报。解：逆函数为： 由系数公式，)(0qkX0k0)(0qkX2124. 0ttttX1,) 6 . 0(3) 4 . 0(2jIjjj1,) 4 . 0() 6 . 0(2 . 111)2() 1 (jIIIIIIjjjjjjj时间序列的预报课件 故其逆函数法预报为：当 时， 取M=13,其近似预报为：3, 0)()4 . 0()6 . 0(2 . 1)2()6 . 0( 3)4 . 0( 2) 1 (1111)2(1111)1( llXXXIXXXIXkjjkjjjjkjkjjkjjjjkjk13M，在此精度下，都不超过和01. 0|)2()1

27、(MjjMjjII时间序列的预报课件3, 0)() 4 . 0() 6 . 0(2 . 1) 2() 6 . 0( 3) 4 . 0( 2) 1 (13111311llXXXXXkjjkjjkjjkjjk时间序列的预报课件 n例1.5求MA(2)序列： 的向量递推预报。值。可取为上例公式的近似初值解：由递推公式知：)2(1)2(121)2(2111)2(1024. 01024. 01101)2() 1 (kkkkkkkkXXXXXXXX 2124. 0ttttX时间序列的预报课件 三三. . ARMA(p,q)ARMA(p,q)序列的预报序列的预报(1) (1) 逆函数法预报逆函数法预报n预报

28、公式为： (2.10) 其中 这里，1,)(11)( lXIlxjkjljk . 1, 1, 1,)1(11)(1)(jIIljIIIIjjliiljijllj)()(1)(1BBBIBIjjj 时间序列的预报课件 n注：在实际应用中，我们采取有穷和(取求和项适当的大)代替(2.10)式中的无穷和，从而近似的线性最小均方误差预报为， (2.11)1,)(11)( lXIlxjkMjljk时间序列的预报课件 (2) (2) 向量递推预报向量递推预报nARMA(p,q)模型： (2.12)n其传递形式为： (2.13)n注意到，当 时， (2.14)其中， ,故当 时， 由(2.14)递推求得。

29、qjjtjpjjtjtXX0011, 00jjtjjtjjtGBGX ql )()(1jlxlxkpjjk jlxjlxjlkk,)(ql )( lxk时间序列的预报课件 n定理1.4 设 为ARMA(p,q)序列，则线性最小均方误差预报向量 满足如下递推公式 (2.15)其中， tX)(Xqk pqjjqkjkqqqkqqqqqqkXXGGGGGGGG111121)(121121)(1000X100010001X .,0,1,qjpjjj 时间序列的预报课件 pqjjqkjkqqqkqqqqqkqkqkkqkqkkkkkkkkkkkqkXXGGGGGGGGXGXGqXXGXGqXXGXGXX

30、GXGXqXqXXX111121)(12112111111221111111)(1000X100010001)1()1()1()()1()3()1()2()()1()2()1(X)8 . 2( 知知，证证：由由公公式式时间序列的预报课件 n注：递推公式中的初值 的选取方法与MA(q)序列选取是一致的。)(0qkX时间序列的预报课件 n例1.6 求ARMA(1,2)序列的逆函数法预报和向量递推预报。解：(1) 模型的逆转形式为： 于是，逆函数为：21124. 08 . 0 tttttaXX ttXBBB)8 . 01()24. 01(12 1,)4 . 0()6 . 0(4 . 0, 1,)4

31、. 0(2)6 . 0(11)2()1( jIIIIjIIjjjjjjjjj时间序列的预报课件 逆函数法预报为选取M=30,于是相应的近似预报为 . 3),2()8 . 0()1()(2 , 1,)(2111)(lxlxlxlXIlxklkkjkjljk . 3),2()8 . 0()1()(2 , 1,)(211301)(lxlxlxlXIlxklkkjkjljk 时间序列的预报课件 (2) 模型的传递形式为：于是，其Green函数为：故，向量递推预报为： 212108. 02 . 0)24. 01()8 . 01(tttttaBBBX ,08. 0, 2 . 021 GG. 3),1 ()

32、 8 . 0()(08. 02 . 0X8 . 008. 012 . 0X21)2()2(1 lXlXXklkkkk时间序列的预报课件 第三节 一类非平稳序列的线性 最小均方误差预报一一. . ARIMA(p,d,q)ARIMA(p,d,q)序列的预报序列的预报n设 为ARIMA(p,d,q)序列, ，令，则， 可通过 及 表示为 (3.1)tZdtZXtdt,:1为常数为常数jtdjjjtCXZCXZZXZ tZ)(dmtXtdZZZ,21 mtjjmddjmtdjkjjjmttXCZCZ111101时间序列的预报课件 当tm=d时，由 这里 为ARMA(p, q)序列，我们有如下定理，n定

33、理1.5 设 为ARIMA(p,d,q)序列，则已知条件下关于 线性最小均方误差预报为, 其中， dtjjddjtdjkjjjdttXCZCZ111101tXtZ,ktZt)(dkZlk ljkddjldjkjjjlkjXCZClZ111101)()()|()(kjkkXEjXX 时间序列的预报课件 ljkddjldjkjjjlkkkjkkjkdkkkjkjkjljkjkddjldjkkjjjlklkkkdlkslkkljjkddjldjkjjjlmlkjjmddjmlkdjkjjjmlklkjXCZClZjXXEXEdkZZZdkXZdjZBZXECZECZEXXZZZZEksZZElZXC

34、ZCXCZCZkmdmlk11110121111101121111101111101)()()()|()|(,)(, 1, 1 , 0,)1()|()|()|(),|(),|()(,1 . 3所以所以时，有时，有因此，因此，又又由于由于得得再取再取）知）知证：由公式（证：由公式（XZZ时间序列的预报课件 n注：定理1.5表明：通过ARMA(p,q)序列 的线性最小均方误差预报，可给出原序列 的预报。n例1.7 求 为ARIMA(1,1,0)序列的预报。解： 的模型为： 令 ，于是 为AR(1)序列，则tXtZtZtZttZB )1(1ttZXtX11111111111)1(11)()( klk

35、lljkjkljkkkZZXZjXZlZ 时间序列的预报课件 二二. . 季节性乘积模型的预报季节性乘积模型的预报n设 为 模型,即：令 ，则 令 这里， 为ARMA(p,q)序列，而 为ARIMA(p,d,q)序列。tZsqp)0 , 1 , 0(), 1 ,(ttsBZB )()( ttttYYYX 1tXtYtstZX有有步的一阶差分，由上式步的一阶差分，由上式相隔相隔是是即即sZYZZYttsttt, )()()1)(1(1111 sttsttststtttststZZZZZZZZZBBZX时间序列的预报课件 序列，则由 的线性最小均方误差预报，得到 的预报为，其中又因为，于是，原序列 的 步预报公式为，或tXtY ljkkkjXYlY1)()().|()(klkkXEjXX ljkskkkkjXZZslZlZ1)()()(tZl ljkkskkkjXslZZZlZ1)()()()()1()()1()(lXslZslZlZlZkkkkk 时间序列的预报课件 n例3.1 设 为 序列：求 的 步预报。tZ24) 1 , 1 , 0()0 , 1 , 1 (ttZB 24)783. 01(tZ)241 ( ll)(.78. 01)78. 01(78. 0.78. 01)78. 01(78. 0)78. 0()(25241242