平稳时间序列分析课件

1、第三章平稳时间序列分析1本章结构n方法性工具 nARMA模型 n平稳序列建模n序列预测 23.1 方法性工具 n差分运算n延迟算子n线性差分方程3差分运算n一阶差分n 阶差分 n 步差分pk1tttxxx111tptptpxxxktttkxxxgradient4延迟算子n延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻 n记B为延迟算子，有 1,pxBxtppt5延迟算子的性质n n n n n )!( !,) 1()1 ()(,)()(101110ininCBCBxxByxyxBcxcxBcxcBBininiininnttnttttttt其

2、中为任意常数6用延迟算子表示差分运算n 阶差分 n 步差分pkitpiipitptpxCxBx0) 1()1 (tkktttkxBxxx)1 ( 7线性差分方程 n线性差分方程n齐次线性差分方程)(2211thzazazazptpttt02211ptptttzazazaz8齐次线性差分方程的解n特征方程n特征方程的根称为特征根，记作n齐次线性差分方程的通解n不相等实数根场合n有相等实根场合n复根场合02211ppppaaap,21tpptttcccz2211tpptddtddtcctctccz111121)(tpptititttccececrz3321)(9齐次线性差分方程的解n我们用迭代法求

3、解差分方程的过程来揭示前面给出的齐次线性差分方程通解的实质。n考虑一阶差分方程n相应的通过特征方程求解为n可见，两种方法求得的解的形式是一致的。022101)()(0zazaazzzazztttttt代法求解得给定的情况下，通过迭在tttacczaa)(0的解为根据公式一阶差分方程特征根为：特征方程：10齐次线性差分方程的解n考虑二阶差分方程02211tttzazaz的特征方程式得到了二阶差分方程可见，我们通过这种方后，有在消去非零共因子02122aact02211ttttttcacacczc差分方程，有的解，将该试探解代入因此我们先试探形式为用非常重要在差分方程的通解中作表明，解一阶差分方程

4、的经验24221121aaa，方程的解们就可以得到二阶差分通过计算其特征根，我11齐次线性差分方程的解tttcczaa221122121, 04,. 1通解为为不同的实根时，当ttttccztc)(,21212为为相同的实根时，通解因此通解中的另一项可以作为二阶差分方程可见项线性无关而另一项则要求与这一则通解中的一项应该为为相同的实根时，当,2)(, 04,. 2112122121tcaaa)2() 1()2() 1(,21222222121222112tatatctcatcatczazaztczttttttttt有分方程的左边将该试探解代入二阶差的解式为我们可以进一步试探形0)214)(4(

5、)2(2224)2()2()2)(1()2()2()2() 1(,22212122221212121221121212212221taaacataatataactaataatactatatcatttt代入上式得已知12齐次线性差分方程的解212122212212121221211221212arccos2arccos242242,24204,. 3aaaaaaaarreiaaareiaaaaaii其中为复根时，当ititttititttececrrecrecccz21212211为则二阶差分方程的通解13非齐次线性差分方程的解 n非齐次线性差分方程的特解n使非齐次线性差分方程成立的任意一个解n

6、非齐次线性差分方程的通解n齐次线性差分方程的通解和非齐次线性差分方程的特解之和tttzzz tz )(2211thzazazazptpttt 143.2 ARMA模型的性质 nAR模型（Autoregressive Model） nMA模型（Moving Average Model） nARMA模型（Autoregressive Moving Average model）15AR模型的定义n具有如下结构的模型称为 阶自回归模型，简记为 *注意最后一项条件是stn特别当 时，称为中心化 模型tsExtsEVarExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)

7、(pAR00)(pAR16 AR(P)序列中心化变换 称 为 的中心化序列 ，令p101ttxytytx17自回归系数多项式n引进延迟算子，中心化 模型又可以简记为 n自回归系数多项式 * 注意这里连接各项的是减号)(pARttxB)(ppBBBB2211)(18AR模型平稳性判别 n判别原因n要拟合一个平稳序列，所采用的拟合模型也应该是平稳的。AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的 n判别方法n特征根判别法n平稳域判别法19AR模型平稳性判别方法n特征根判别nAR(p)模型平稳的充要条件是它的p个特征根都在单位圆内n根据特征根和自回归系数多项式的根成倒数的性质

8、，等价判别条件是该模型的自回归系数多项式的根都在单位圆外n平稳域判别 n平稳域特征根都在单位圆内p,2120AR模型平稳性特征根判别)7 . 3()B()(AR2211tptptttttxxxxxp分方程：视为一个非齐次线性差都可以模型任意一个中心化的一个特解。为方程的通解，为齐次线性差分方程式中，的通解为：方程)7 . 3(0)B()7 . 3(ttttttxxxxxx21AR模型平稳性特征根判别个特征根。的对应的特征方程是差分方程，假定pxxxxpptpttt002-p21 -p1 p2211p21。的通解求齐次线性差分方程ttxx0)B() 1 (对共轭复根为，个互不相等的实根为，个相等

9、实根为个特征根取值如下：设这为了有代表性，不妨假mmjerermdpdpjjijjijjdd)1(2212m-p21d2122AR模型平稳性特征根判别为任意实数。，其中，的通解为：那么齐次线性差分方程)1()sincos(sincossincos)(0)B(212m-p21121211112121111212111mjccccctictcrctctitctitcrctcececrctcxxjjmjjjjjtjtjmpdjjdjtjjjmjjjjjjjtjtjmpdjjdjtjjjmjitjitjtjtjmpdjjdjtjjjttjj书中46页和47页第一项有误23AR模型平稳性特征根判别01)

10、(221ppuuuuu系数多项式方程表示为的形式表示，则自回归替换成变量的延迟算子我们将自回归多项式中首先，为了理解方便，tttxxB的一个特解求非齐次线性差分方程)()2(的根是特征根的倒数。方程，即自回归系数多项式都使，个特征根的则特征方程0)(0)1(0212211upppppppppppppu221122111111)1(1，有令24AR模型平稳性特征根判别piiBBB1)1 ()()(可以因子分解为根据这个性质，为常数。，其中，的一个特解为：性差分方程由此可以得到非齐次线)21(1)1 ()()(11pikBkBBxxBitpiiipiittttt25AR模型平稳性特征根判别0lim

11、)1()(1)sincos()7 . 3()2)(1 ()3(212m-p2111212111ttjjtpiiimjjjjjtjtjmpdjjdjtjjjttttxmjcccccpARBktictcrctcxxxx，即要求对任意实数模型平稳，要使得中心化为的通解差分方程步的分析，非齐次线性根据得出特征根判别条件26AR模型平稳性特征根判别的根都在单位圆外。即系数多项式的根，相应的该模型的自回归，个特征根都在单位圆内它的模型平稳的充要条件是因此0)()( uppAR。个特征根都在单位圆内模型的求这两个条件实际就是要ppAR)(mirmpiii，上式成立的充要条件是211221127AR(1)模型

12、平稳条件，求得特征根为：其特征方程为：模型：0) 1 (1tttxxAR1) 1 (：模型平稳的充要条件是条件模型平稳的特征根判别根据ARAR11) 1 (1模型的平稳域是：因此，这也就等价于要求由于AR28AR(2)模型平稳条件24,240)2(22112221112122211求得特征根为：其特征方程为：模型：ttttxxxAR11)2(21且：模型平稳的充要条件是条件模型平稳的特征根判别根据ARAR29AR(2)模型平稳条件221121根据1) 1212可以导出1111)2212121121111)32121211230AR(2)模型平稳条件n特征根n平稳域242422112221111

13、1,12221，且31例3.1 考察如下四个模型的平稳性ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(1 . 1)2(8 . 0) 1 (32例3.1平稳序列时序图1(1)0.8tttxx12(3)0.5ttttxxx33例3.1非平稳序列时序图1(2)1.1tttxx ttttxxx115 . 0)4(34例3.1平稳性判别8 . 010.81 . 111.1 211i212i221210.5,0.5,1.5 23112312221210.5,1.5,0.5 模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳35例3.1平稳

14、性判别以(4)为例模型非平稳因此判断该的特征根判别条件不满足由于特征根为：特征方程为：一、特征根判别)2()2,1( 11231231,23105 . 05 . 0121221ARixxxitttt36例3.1平稳性判别以(4)为例模型非平稳因此判断该的条件中不满足平稳域判别条件二、平稳域判别)2(115 . 115 . 015 . 015 . 01.505 . 0121212221ARxxxtttt37平稳AR模型的统计性质n均值n方差n协方差n自相关系数n偏自相关系数38均值 n如果AR(p)模型满足平稳性条件，则有n根据平稳序列均值为常数，且 为白噪声序列，有n推导出p101)(110t

15、ptpttxxEExTtEExtt, 0)(,t39Green函数定义n平稳AR模型的传递形式jtjjjpijtjiipijtjiipitiittGkBkBkBx001101)(1)(ttjjjijpijiijBGxpARBGBGGreenjGjkG)(:)(,)(1), 2 , 1 , 0(), 2 , 1 , 0(01模型可以表示为记呈负指数下降函数称为系数式中40Green函数递推公式n原理n方法：待定系数法n递推公式pkpkjGGGkkkjjkkj, 0, 2 , 1110其中，ttttttBGBBGxxB)()()()(41Green函数递推公式推导n待定系数法。首先容易得出G0=1

16、ttjjjpkkkttBGBBGB011)()(0,0,1jkkjkjkkGGpkpk根据待定系数法其中11011110111111jjjkkjkjjjjpkkkjjjjjjpkkkjjjpkkkBGGBGBBGBGBBGB42Green函数递推公式推导 , 2, 1,1Green3,03,31011523324141322313031221202110133221033221031jGGGkkBGBGGGBGGGBGGGBGGBGBGBGBGGBBBBGBpjkkjkjkkjjjkkjkjjjkkk函数的递推公式为：因此其中时例如43方差n平稳AR模型的传递形式n两边求方差得n平稳AR模型条

17、件下，Gj呈负指数下降，因此 。从而说明平稳序列的方差有界，等于常数函数为GreenGGxVarjjjt,)(202jtjjtGx0022jjG02jjG44例3.2 平稳AR(1)模型的方差n平稳AR(1)模型的传递形式为nGreen函数为n平稳AR(1)模型的方差jtjjtjjttBBx01011)(1, 2 , 1 , 0,1jGjj2122021021)()(jjtjjtVarGxVar45自协方差函数n在平稳AR(p)模型两边同乘 ，再求期望n根据n得自协方差函数的递推公式)()()()(11kttktptpkttkttxExxExxExxEktx1,k0)(kttxE1,k, 2

18、, 1,2211kpkpkkk46例3.3 平稳AR(1)模型的自协方差n递推公式n平稳AR(1)模型的方差为n自协方差函数的递推公式为0111kkk212011,12121kkk47自相关系数n自相关系数的定义n平稳AR(p)模型的自相关系数递推公式，也称尤尔沃克(Yule-Walker)方程0kk, 2 , 1,2211kpkpkkk48常用AR模型自相关系数递推公式nAR(1)模型nAR(2)模型0,1kkk2110, 1221121kkkkkk49例3.4 平稳AR(2)模型的自协方差1,)2(22112211kxxxARkkktttt为自协方差函数递推公式模型平稳2011120111

19、1，可以推出时，特别的，当k ttttttttxExxExxExExAR22112)2(，再求期望得到：模型两边同时乘以而方差可以通过在2122222221120202201102221101111即50例3.4 平稳AR(2)模型的自协方差21)1)(1)(1 (1)2(2211201122121220kARkkk，推公式如下：模型的自协方差函数递则平稳51AR模型自相关系数的性质n拖尾性n呈负指数衰减构成影响都会对，之前的每一个序列值模型的拖尾性如下：直观的解释等于零，这就是拖尾性大于某个常数之后就恒不会在始终有非零取值，不能全为零，因此阶自相关系数的通解为滞后任意tktttkppikii

20、kxxxxARkcccck,1211的速度在减小这种衰减是以负指数时，kpikiikick01152例3.5 考察如下AR模型的自相关图ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (53例3.5 n自相关系数按负指数单调收敛到零1(1)0.8tttxx54例3.5 n自相关系数呈正负相间地衰减1(2)0.8tttxx 55例3.5 n自相关系数呈现出“伪周期”性衰减12(3)0.5ttttxxx56例3.5 n自相关系数不规则衰减12(4)0.5ttttxxx 57偏自相关系数n定义3.3 对于平稳AR(p)序列

21、xt，所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量 的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后，xt-k对xt影响的相关度量。用数学语言描述就是121,ktttxxx2,11ktktktktttxxxxxExExExxExEkttktt58(1)偏自相关系数的计算tktkktktkttxxxxkx2211阶自回归拟合作对系数归出发来计算偏自相关因此启发我们从线性回的定义非常相似回归分析中偏相关系数偏自相关系数的定义和1111,kttktktkttttxxxExExxxExE记条件期望为111)1(2211,ktttktkkktkktktktxxExExxxxE则59kt

22、kkktkktktkttktttsttxExxxxEExxEtsxEE0,0,01)1(221111则所以已知)23. 3(tktktkkttxExxEx则)2 . 3()23. 3(2，并求期望等号两边同时乘以在式ktkttktktkkktktttktktxExExExExExxExExEx0,0,0ktkttsttxExEtsxEE因此已知60的值。个自回归系数第阶自回归模型的偏自相关系数就等于从而说明滞后偏自相关系数。描述的滞后右边就是定义式等价于则kkktktktktttkkktktkkktktttkkkkxExExExxExExExExExxExE.33)25. 3()24. 3(2

23、2注意：1.这里是“k阶自回归模型”， k+1阶或k+n阶的模型都不可以。2.k阶自回归模型只能用于计算“滞后k偏自相关系数”，不能用于计算滞后k-1或k-n偏执相关系数。61(2)通过自相关系数计算偏自相关系数1,1,22112211llxxxxxkxklkklklkllttktkktktktt并求期望再除以方差得等号两边同时乘以阶自回归拟合式的在)26. 3(02211202112112011kkkkkkkkkkkkkkkkkk个方程构成的方程组取前62)27. 3(111walkerYule2121212111kkkkkkkkk：方程用矩阵形式表示为kkkkkkkkkkkDDDDCram

24、er21211121211111,111，式中法则，有根据线性方程组求解的偏自相关系数。，它就是滞后参数最后一个的解。我们关注的只是得到参数，可以方程。通过解该方程组称为式kkkkkkk,kerWalYule)26. 3(21634,03,01111111111211111111)2(1211211221122111121112112131221112212102112121211211211kkkkARkk，：模型的偏自相关系数为3,0201111111) 1 (212121212121121111kkkARDDkkkkk，：模型的偏自相关系数为容易算出根据64(3)平稳AR(p)模型的偏自

25、相关系数p阶截尾kppkkkpptptptttpkxxxxpAR2121212111221111kerWalYule,)(方程成立：有如下的对模型：已知ppkkiiiipi22112121;,2,1则有，令65(3)平稳AR(p)模型的偏自相关系数p阶截尾011),2,1(021212111kpkkkppkipDpi的非零线性组合。则一定可以表示成向量，也就是说向量由于阶截尾。模型的偏自相关系数因此，可以等价推出由ppARDkkk)(0066例3.5续 考察如下AR模型的偏自相关图ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 .

26、 0) 1 (67例3.5 n理论偏自相关系数n样本偏自相关图1(1)0.8tttxx0.8,10,2kkkk68例3.5 n理论偏自相关系数n样本偏自相关图1(2)0.8tttxx 0.8,10,2kkkk69例3.5 n理论偏自相关系数n样本偏自相关图12(3)0.5ttttxxx2,130.5,20,3kkkkk 70例3.5 n理论偏自相关系数n样本偏自相关系数图12(4)0.5ttttxxx 2,130.5,20,3kkkkk 71MA模型的定义n具有如下结构的模型称为 阶移动平均模型，简记为n特别当 时，称为中心化 模型q)(qMA0)(qMA112220( )0( ),()0,t

27、tttqt qqtttsxEVarEst ，72移动平均系数多项式n引进延迟算子，中心化 模型又可以简记为 n 阶移动平均系数多项式 * 注意这里连接各项的是减号)(qMAttBx)(qqqBBBB2211)(73MA模型的统计性质n常数均值n常数方差）（qtqttttEEx221122212211)1 ()()(qqtqttttVarxVar74MA模型的统计性质n自协方差函数q阶截尾n当q时，MA(q)一定平稳n自相关系数q阶截尾q kqkkkqiikikqk , 01 ,)(0 ,)1 (212221qkqkkqkqiikikk , 01 ,10 , 1221175MA模型的统计性质ts

28、Eq kqkkExxEstkqiikikqqktqktktqtqttkttk, 0)( , 01 ,)(0 ,)1 ()()(212221111176MA模型的统计性质234133211234134433221133)()()()(qqqtqqtqqtqqtqttqtqtttttttExxE0)()(12111111qqtqqtqtqtqttqttqExxE77MA模型的统计性质MA(2)模型的自协方差函数：2 , 02 ,)(1 ,)()(0 ,)1 ()()()(224231222112211322112211222212211221122112211 kkEkEkEExxEttttttt

29、tttttttttttktktkttttkttk78常用MA模型的自相关系数nMA(1)模型nMA(2)模型2, 01, 10, 1211kkkk3, 02, 11, 10, 1222122221211kkkkk79MA模型的统计性质n偏自相关系数拖尾(证明在后面讲完MA模型逆函数时再讲)80例3.6:考察如下MA模型的相关性质212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx81MA模型的自相关系数截尾112tttx（）120.5tttx（ ）82MA模型的自相关系数截尾124163525ttttx（ ）125254416tttt

30、x（ ）83MA模型的偏自相关系数拖尾112tttx（）120.5tttx（ ）84MA模型的偏自相关系数拖尾124163525ttttx（ ）125254416ttttx（ ）85MA模型的可逆性nMA模型自相关系数的不唯一性n例3.6中不同的MA模型具有完全相同的自相关系数和偏自相关系数212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx86可逆的定义n可逆MA模型定义n若一个MA模型能够表示称为收敛的AR模型形式，那么该MA模型称为可逆MA模型n可逆概念的重要性n一个自相关系数列唯一对应一个可逆MA模型。87可逆MA(1)模型1

31、tttx11tttx21ttBx1ttBx11可逆, 1可逆, 188MA模型的可逆条件n推导过程与AR模型的平稳稳性条件类似 根的倒数。是移动平均多项式其中，)()1 ()1 ()(11BBBxBxqqttt89MA模型的可逆条件nMA(q)模型的可逆条件是：nMA(q)模型的特征根都在单位圆内n等价条件是移动平均系数多项式的根都在单位圆外11i1i90逆函数的递推公式n原理n方法：待定系数法n递推公式,3, 0, 2 , 112332415132231403122130211201110IIIIIIIIIIIIIIIIIqqkqkjIIIkkkjjkkj时，有例如：其中，ttttttxxB

32、IBxBIBx)()()()(91逆函数的表达式(可以自己看)ttjjjqijiijjtjjjqijtjiiqijtjiiqitiittjxBIqMABIBIjkIxIxkxBkxBkBxIGreen)(:)(,)(), 2 , 1 , 0()(1)(01001101模型的逆转形式为记式中的表达式推导如下：函数类似，逆函数与92例3.6续:考察如下MA模型的可逆性212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx93(1)(2)n n n逆函数n逆转形式不可逆1221tttx可逆15 . 05 . 01tttx05 . 0kktkt

33、x1,5 . 00,1,5 . 05 . 0, 5 . 032132112011kkIIIIIIIkk94(3)(4)n n n逆函数n逆转形式可逆1, 125165412221ttttx, 1 , 0,23,0133,) 1(1nnknnkIknk或013130338 . 0) 1(8 . 0) 1(nntnnnntnntxx不可逆11625162545221ttttx95 逆函数递推过程n331232113131233121134113223133133123211312123413211313213123233113212321131113213113231132321131232131

34、n310119182911091712121612117162718711615261761412142516312113132415411312231431121122132121021121011212121)()(,)(,)(0000000,002516,54,251654)3(IIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIIxnnnnnnnnnnnnnnnnnnnnnnnnnnnnntttt，其中21251654) 3(ttttx注意：这里12的符号与模型里给出的符号相反96MA模型偏自相关系数拖尾的证明 尾。模型

35、的偏自相关系数拖不会恒等于零，因此由于)(MA)1 ()1 ()()()()(),|()()(022q21022q210011qIIxxEIxExVarxxIExxxVarxExxExEllklllkllktkltklkttktktkltlkltkttktktktttkk97ARMA模型的定义n具有如下结构的模型称为自回归移动平均模型，简记为n特别当 时，称为中心化 模型),(qpARMAtsxEtsEVarExxxtsstttqpqtqttptptt, 0)(, 0)(,)(0)(00211110，00),(qpARMA98系数多项式n引进延迟算子，中心化 模型又可以简记为 n 阶自回归系数

36、多项式n 阶移动平均系数多项式),(qpARMAttBxB)()(qqqBBBB2211)(pppBBBB2211)(99平稳条件与可逆条件nARMA(p,q)模型的平稳条件nP阶自回归系数多项式 的根都在单位圆外n即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定nARMA(p,q)模型的可逆条件nq阶移动平均系数多项式 的根都在单位圆外n即ARMA(p,q)模型的可逆性完全由其移动平均部分的可逆性决定0)( B0)( B100传递形式与逆转形式n传递形式n逆转形式01)()(jjtjttGBBx1,110kGGGkjkjkjk01)()(jjtjttxIxBB1,110kIII

37、kjkjkjkqkqkpjpjkkjj,01,01,101ARMA(p,q)模型的统计性质n均值n协方差n自相关系数ptEx101 )(02ikiiGGk020)0()()(jjjkjjGGGkk102ARMA模型的相关性n由于ARMA模型可以转化为无穷阶移动平均模型，因此其自相关系数拖尾。n由于ARMA模型可以转化为无穷阶自回归模型，因此其偏自相关系数拖尾。 103例3.7:考察ARMA模型的相关性n拟合模型ARMA(1,1): 并直观地考察该模型自相关系数和偏自相关系数的性质。 10.50.8ttttxx104自相关系数和偏自相关系数拖尾性n样本自相关图n样本偏自相关图105ARMA模型相

38、关性特征模型自相关系数偏自相关系数AR(P)拖尾P阶截尾MA(q)q阶截尾拖尾ARMA(p,q)拖尾拖尾1063.3平稳序列建模 n建模步骤n模型识别n参数估计n模型检验n模型优化107建模步骤平平稳稳非非白白噪噪声声序序列列计计算算样样本本相相关关系系数数模型模型识别识别参数参数估计估计模型模型检验检验模模型型优优化化序序列列预预测测YN108计算样本相关系数n样本自相关系数n样本偏自相关系数nttkntkttkxxxxxx121)()(DDkkk109模型识别n基本原则选择模型拖尾p阶截AR(p)q阶截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkk110模型定阶的困难n由于样本的随机性，

39、样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的 或 仍会呈现出小值振荡的情况。n由于平稳时间序列通常都具有短期相关性，随着延迟阶数 ， 与 都会衰减至零值附近作小值波动。 当 或 在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？实际上并没有绝对的标准，很大程度上是依靠主观经验。但可以参考近似分布。kkkkkkkkkk111样本相关系数的近似分布nBarlettnQuenouillennNk,)1, 0(nnNkk,)1, 0(112模型定阶经验方法n95的置信区间n模型定阶的经验方法n如果样本(

40、偏)自相关系数在最初的d阶明显大于两倍标准差范围，而后几乎95%的自相关系数都落在2倍标准差的范围以内，而且由非零自相关系数衰减为小值波动的过程非常突然。这时，通常视为(偏)自相关系数截尾。截尾阶数为d。22Pr0.9522Pr0.95kkknnnn113例2.5续n选择合适的模型ARMA拟合1950年1998年北京市城乡居民定期储蓄比例序列。114序列自相关图115序列偏自相关图116拟合模型识别n自相关图显示延迟3阶之后，自相关系数全部衰减到2倍标准差范围内波动，这表明序列明显地短期相关。但序列由显著非零的相关系数衰减为小值波动的过程相当连续，相当缓慢，该自相关系数可视为不截尾 n偏自相关

41、图显示除了延迟1阶的偏自相关系数显著大于2倍标准差之外，其它的偏自相关系数都在2倍标准差范围内作小值随机波动，而且由非零相关系数衰减为小值波动的过程非常突然，所以该偏自相关系数可视为一阶截尾 n所以可以考虑拟合模型为AR(1)117例3.8美国科罗拉多州某一加油站连续57天的OVERSHORT序列 118序列自相关图119序列偏自相关图120拟合模型识别n自相关图显示除了延迟1阶的自相关系数在2倍标准差范围之外，其它阶数的自相关系数都在2倍标准差范围内波动。根据这个特点可以判断该序列具有短期相关性，进一步确定序列平稳。同时，可以认为该序列自相关系数1阶截尾n偏自相关系数显示出典型非截尾的性质。

42、n综合该序列自相关系数和偏自相关系数的性质，为拟合模型定阶为MA(1) 121例3.9n1880-1985全球气表平均温度改变值差分序列 122序列自相关图123序列偏自相关图124拟合模型识别n自相关系数显示出不截尾的性质n偏自相关系数也显示出不截尾的性质n综合该序列自相关系数和偏自相关系数的性质，可以尝试使用ARMA(1,1)模型拟合该序列125参数估计n待估参数n 个未知参数n常用估计方法n矩估计n极大似然估计n最小二乘估计2pq211, ,pq 126矩估计n原理n样本自相关系数估计总体自相关系数n样本一阶均值估计总体均值，样本方差估计总体方差111111( ,)( ,)pqp qpq

43、p q 22212212122111,)(,xqpniixniinxxnxx127例3.10:求AR(2)模型系数的矩估计nAR(2)模型nYule-Walker方程n矩估计（Yule-Walker方程的解）ttttxxx22112112121112121112121221128例3.11:求MA(1)模型系数的矩估计nMA(1)模型n方程n矩估计11tttx2201111220111(1)1 12112411129例3.12:求ARMA(1,1)模型系数的矩估计 11221111112121121111202112121141211211112222221111121211111221112

44、121151211312111112012122111212121120220111111111112111011011111021)1)(1)()()()()()(1)1)(1)()()()()()()(1211)(1, )(, )(,1) 1 , 1 (1,0,1,)(),(iiiiiiiiiiiiittttiijjijiikiiGGGGGGGGGGGGxxARMAiGiGGGkqpARMA的自协方差函数模型推导其中式模型的自协方差函数公根据130例3.12:求ARMA(1,1)模型系数的矩估计n方程n矩估计,2,242,24,12211211cccccc有，考虑可逆条件：12111111

45、212111211211111011012121)1)(112211111212121c131例3.12:求ARMA(1,1)模型系数的矩估计2,242,2412412404)2(0)2)(2()2)(2(022021240420)2)(2()2)(2(02201242, 22,04,1241221122222221211cccccccccccccccccccccccccccccccccccccc的估计有唯一解取值的情况下，因此，在已知时，时，在该前提下或即因此有前提条件为实数已知移动平均参数项有，考虑可逆条件：132对矩估计的评价n优点n估计思想简单直观n不需要假设总体分布n计算量小（低阶模

46、型场合）n缺点n信息浪费严重n只用到了p+q个样本自相关系数信息，其他信息都被忽略n估计精度差n通常,矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值 133极大似然估计n原理n在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值 n极大似然估计要求已知总体分布函数，而现实情况是时间序列的总体分布通常是未知的。为了便于分析和计算，通常假设序列服从多元正态分布。,);(max);,(2121kkxpxL134似然函数212212122212122102010102211111112ln21)ln(2)2l

47、n(2);(2exp)()2(2exp)2();,();()(,),(, ),(xxnnxlxxxxxxxpxLxGGGGGGxxExxxxxxnnnnnniiiniiiniiiinqpnqtqttptptt对数似然函数为的似然函数为式中，记135似然方程n由于 和 都不是 的显式表达式。因而通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值 ( )Sln xxSSxlSnxl)(0)(21ln21);(02)(2);(12422136对极大似然估计的评价n优点n极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高n同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良

48、的统计性质n缺点n需要假定总体分布137最小二乘估计n原理n使残差平方和达到最小的那组参数值即为最小二乘估计值 n解法：迭代法ntqtqtptpttxxxQQ121111)(min)(min)(138条件最小二乘估计n实际中最常用的参数估计方法n假设条件n残差平方和方程n解法n迭代法0,0txtnttiititnttxxQ12112)(139对最小二乘估计的评价n优点n最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高n条件最小二乘估计方法使用率最高n缺点140例2.5续n确定1950年1998年北京市城乡居民定期储蓄比例序列拟合模型的口径 n拟合模型：AR(1)n估计方法：极

49、大似然估计n模型口径tttxx169. 017.2517.16)(2Var141例2.5续n确定1950年1998年北京市城乡居民定期储蓄比例序列拟合模型的口径 n拟合模型：AR(1)n估计方法：EViews对带有AR或MA的模型通常采用非线性最小二乘法估计，非线性最小二乘估计渐进等于极大似然估计且渐进有效。n模型口径n注意EViews输出结果中ARMA模型的常数项是均值而不是漂移项。ttttttxxxx1170. 040.24)32.81(70. 032.81142例2.5续143例3.8续n确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径 n拟合模型：MA(1

50、)n估计方法：条件最小二乘估计n模型口径ttBx)82303. 01 (40351. 4929.2178)(2Var144例3.8续n确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径 n拟合模型：MA(1)n估计方法： EViews对带有AR或MA的模型通常采用非线性最小二乘法估计，非线性最小二乘估计渐进等于极大似然估计且渐进有效。n模型口径ttBx)97784. 01 (07073. 5145例3.9续n确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径 n拟合模型：ARMA(1,1)n估计方法：条件最小二乘估计n模型口径119 . 0407.

51、0003. 0ttttxx016. 0)(2Var146例3.9续n确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径 n拟合模型：ARMA(1,1)n估计方法： EViews对带有AR或MA的模型通常采用非线性最小二乘法估计，非线性最小二乘估计渐进等于极大似然估计且渐进有效。n模型口径11118863. 03802. 00035. 08863. 0)0057. 0(3802. 00057. 0ttttttttxxxx147模型检验n平稳可逆性检验n模型的全部系数多项式（包括自回归、移动平均两部分）的根都必须在单位圆外 n模型的显著性检验n整个模型对信息的提取是否充分n参数的显

52、著性检验n模型结构是否最简148模型的显著性检验n目的n检验模型的有效性（对信息的提取是否充分）n检验对象n残差序列n判定原则n一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列 n反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效n模型的显著性检验即为残差序列的白噪声检验149假设条件n原假设：残差序列为白噪声序列n备择假设：残差序列为非白噪声序列0120,1mHm：mkmHk，：至少存在某个1, 01150检验统计量nLB统计量221(2)() ( )mkkLBn nmnk151例2.5续n检验1

53、950年1998年北京市城乡居民定期储蓄比例序列拟合模型的显著性 n残差白噪声序列检验结果延迟阶数LB统计量P值检验结论65.830.3229拟合模型显著有效1210.280.50501811.380.8361152例2.5续nEViews153参数显著性检验n目的n检验每一个未知参数是否显著非零。删除不显著参数使模型结构最精简 n假设条件n检验统计量mjHHjj10:0:10)()(mntQamnTjjjj154例2.5续n检验1950年1998年北京市城乡居民定期储蓄比例序列极大似然估计模型的参数是否显著 n参数检验结果检验参数t统计量P值结论均值46.120.0001显著6.720.00

54、01显著1155例3.8续:对OVERSHORTS序列的拟合模型进行检验 n残差白噪声检验n参数显著性检验检验参数t统计量P值结论均值3.750.0004显著10.600.0001显著延迟阶数LB统计量P值结论63.150.6772模型显著有效129.050.61711156例3.9续:对1880-1985全球气表平均温度改变值差分序列拟合模型进行检验 n残差白噪声检验n参数显著性检验检验参数t统计量P值结论16.340.0001显著3.50.0007显著延迟阶数LB统计量P值结论65.280.2595模型显著有效1210.300.424711157模型优化n问题提出n当一个拟合模型通过了检验

55、，说明在一定的置信水平下，该模型能有效地拟合观察值序列的波动，但这种有效模型并不是唯一的。n优化的目的n选择相对最优模型 158例3.13:拟合某一化学序列159序列自相关图160序列偏自相关图161拟合模型一n根据自相关系数2阶截尾，拟合MA(2)模型n参数估计n模型检验n模型显著有效 n三参数均显著 ttBByield)31009. 032286. 01 (17301.512162拟合模型二n根据偏自相关系数1阶截尾，拟合AR(1)模型n参数估计n模型检验n模型显著有效 n两参数均显著 Byieldtt42481. 0126169.51163问题n同一个序列可以构造两个拟合模型，两个模型都

56、显著有效，那么到底该选择哪个模型用于统计推断呢？ n解决办法n确定适当的比较准则，构造适当的统计量，确定相对最优164AIC准则n最小信息量准则（An Information Criterion） n指导思想n似然函数值越大越好 n未知参数的个数越少越好 nAIC统计量)(2)ln(2未知参数个数nAIC165SBC准则nAIC准则的缺陷n在样本容量趋于无穷大时，由AIC准则选择的模型不收敛于真实模型，它通常比真实模型所含的未知参数个数要多 nSBC统计量)(ln()ln(2未知参数nnSBC166例3.13续n用AIC准则和SBC准则评判例3.13中两个拟合模型的相对优劣 n结果nAR(1)

57、优于MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.28661673.4 序列预测n均方误差n最小均方误差预测n预测误差n序列分解nAR(p)序列的预测nMA(q)序列的预测nARMA(p,q)序列的预测n修正预测168序列预测-均方误差n时间序列分析的一个主要目的就是预测n平稳时间序列预测，就是根据所有已知历史信息 对序列未来某个时期 的发展水平作出估计n为了评价预测的有用性，需要给出一个损失函数损失函数来概括我们对预测偏离量的关注程度n常用的是被定义为均方误差均方误差的二次损失函数二次损失函数，),(,)()(112ttkttktktt

58、tkttkttktkttktxxxExxxxtxtxxxExMSE的期望条件下值时刻之前全部样本观测已知的预测就是可以证明均方误差最小的预测值值作出的对时刻之前全部样本观测表示根据,1ttxx), 2 , 1(kxkt169序列预测-最小均方误差预测)(,2121多项式之间的倒数关系多项式和利用的线性函数击因而也是现在和过去冲的线性函数它是当前和历史观测值步预测值的第我们称之为序列的预测值我们的目的是给出假定当前时刻为MAARxxxkxxxttttttttkktkt170序列预测-最小均方误差预测11202221212111111121111111121112121000), 1 , 0()(

59、)1 ()()()()()()(, 1,)(,)()(tktktktjkjkjjkjkktkktkktkktkttktktktktkktkttktktkktktktkttttjjjjjtttxjEExxExtLLpsaiLxMA可使上式极小化，即那么预测的均方误差是是待定的，权系数假设最佳预测为的值系数同时已知所有移动平均，期的无穷个观测值直到假定我们已知】读音【为白噪声，其中过程：考察一个中心化171序列预测-最小均方误差预测的期望条件下是即均方误差最小的预测因此可以看到，即的条件期望等于零，已知时，时刻之前全部原因很明显，因为同时我们注意到kttttktkttktkktttjtjttktk

60、tttktktkktktttktxxxxxxExjxxEjxtxxExxxE,),(00),()0(),(),(111111111111111172序列预测-预测误差最小也实现了预测误差方差同时在实现最小均方误差的步预测值因此第为预测的均方误差相等，这样预测误差的方差与，预测是无偏的为白噪声序列，因此由于的预测误差是步预测值的第序列tktkiiktktktktktktktktttkktkttktktkttkttxkxxEeEeEeEeVareExxexkx)1 ()()()()(0)(1022221212221111173序列分解预测误差预测误差预测值预测值)(0,)(),()( )( 0),