滑动平均模型与自回归滑动平均模型

1、第三章 滑动平均模型与自回归滑动平均模型 若平稳序列t X 的自协方差函数0,0(q k k q =>.则称t X 是q 步相关的. (或自相关系数k 滑动平均模型: 1,qt t j t jj X b t -=+ q 步相关基本问题: 模型参数20,1,(k k q b f ,(t k k X f §3.1 滑动平均模型例1.1化学试验中197个溶液浓度数据(见附录B8. 做一次差分:1,1196t t t x y y t +=-=.则0.002x =, 及19611(196kk t t k t x x x x -+=-: 05010015020016050100150200

2、-1-0.5自相关系数图如右.10.4130=- 0,1k k >, 故认 t x 是一步相关的.用模型MA(1表示1,t t t X b t -=+ , 2WN(0,t 参数b 由22201(,b b =+=求得:2111140.52762b -=-. 010*-0.50.51k 1. MA(q模型和MA(q序列 定义1.1 MA(q模型=q 阶滑动模型:1,qt t j t j j X b t -=+ (*其中1(10,|1qjj j B z b zz =+<,0q b ,2WN(0,t , 由此, 平稳t X 称为MA(q序列.若(0,|1B z z , 则称(*为可逆的MA

3、(q模型,相应的平稳序列称为可逆的MA(q序列. 利用B , (*可写成:(,t t X B t = B对可逆的MA(q模型: 10(,|1j j j B z z z -=从而可得 1(,t t jt jj B X Xt -= B另外引入01b =, 易得20,0,E(0,q kj j k j k t t k b b k q X X k q -+=+=>定理1.1 MA(q序列的自协方差函数是截尾的20,0(q q k b k q =>且有谱密度 22i i 1(e e ,22q k k q f B -=-=-. 证略. 引理1.2 设i 1(e ,2q j j q g c -=-

4、=-,0q c 则有惟一实系数多项1(10,|1qj j j B z b z z =+<,0q b . 使得22i (e 2g B =, 这里2为某常数.(证超定理 1.3 设t X 零均值, 自协方差k , 则t X 是MA(q序列0,0,q k k q =>.证 必要性, 由定理1.1给 出.充分性, 证略.*2. 最小序列直观上: 零均值平稳序列t X 中每一t X 都重要, 缺一不可, 即t s X X 生成空间t X 生成空间.若某个k 退化(有部分相关的, 则不是最小序列. *定理1.4(见7 设平稳序列t X 有谱密度(f , 则t X 是最小序列的d (f -<

5、;. 由此可得: 可逆的MA(q序列是最小序列.不可逆的MA(q序列不是最小序列.另外任何AR(q序列都是最小序列;任何有谱密度的平稳序列, 若其谱密度连续恒正, 则此序列为最小序列.3. MA(q模型举例例1.2 1t t t X b -=+,2WN(0,t , 1b <, 则不难得:22201(1,0(1k b b k =+=>自相关系数: 2(1,1,0,1.k b b k k +=> 谱密度: 22i (1e ,2f b =+- (注:逆转后2221,(1(1,1k k k k a b b b k +-=-偏相关系数不截尾; 逆转形式0(j t t j j b X -

6、=- 取20.1065=,谱密度如右 012300.01例1.3 可逆MA(2模型1122,t t t t X b b t -=+ ,2WN(0,t , 特征多项式: 212(1B z b z b z =+(1 可逆域212(0,11,1B z z b b b =±>-< 与AR(2的平稳域对应. (2 自协方差函数(由公式可得222012(1b b =+, 21112(b bb =+,222b =,0, 2.k k =>(3 自相关系数112122121b b b b b +=+,2222121b b b =+,0,2k k => (4 谱密度 22i i2

7、12(1e e 2f b b 123020*-10-55104. 由k 确定MA(q系数的递推计算 文5给出.0q q qA C = 1212312111,k k k q q q q q k q q q+- = 2021,(T q C C A C =-=-b ,其中1lim T k k k k -=. 若取2q =, 则有1122011,000b A C b =b , 12122312000k k k += , 01101121012000000k k k k k -=假设已知02(7.4084, 2.664,3.4=-, 则 (1 构造,k k q ;(2 计算1T k k k k -=,

8、取较大的k ;(3 计算2021,(Tk q k C C A C -b .6 12 20 30 40 51-0.3367 -0.3527 -0.3587 -0.3597 -0.3599 -0.3600 0.7515 0.8234 0.8421 0.8487 0.8497 0.8500 4.5243 4.1292 4.0374 4.0062 4.0014 4.0002 实际是: t k X §3.2 自回归滑动平均(ARMA模型1. ARMA(p,q模型及其平稳解定义2.1自回归滑动平均模型=ARMA(p,q模型 10,p qt j t j j t j j j X a X b t -=

9、+ (*其中2WN(0,t , 01,0p q b a b =和1(10,|1p jj j A z a z z =-,0(0,|1qj j j B z b z z =< 其解称为平稳解或ARMA(p,q序列, 用B , 则有(,t t A X B t = B B由稳定条件, 1>, 有1(,|j j j z A z B z z z -= 而后定义:10(j j j A B -=B B B B ,故10(,t t j t j j X A B t -= B B (+是一个平稳解, 其中的j 称t X 的Wold 系数.由差分理论知:1,10cos(,j r k l t t t l j

10、j j l j j l Y X V t t t -=+-其中t X 是平稳解;1i 11e k k k z =为(A z 的互异根; 重数分别为1k r , 变量,l j V ,l j 由值001111,p p Y X Y X Y X -确定. 类似AR(p讨论, 有定理 2.1 由(+定义的解是ARIMA(p,d,q模型惟一平稳解.因为t 充分大后, 有1,100,j r k l t t t l j j j l Y X V t t -=-.产生ARMA(p,q序列t X 的方法(实际问题11 取初值0110p Y Y Y -= ;2 足够多10,p qt j t j j t j j Y a

11、Yb t p m n -=+=+;3 取后面,1,2,t m t X Y t n += . 基本上就是ARMA(p ,q序列了.2. ARMA(p ,q序列自协方差函数(实际问题2 由(+式, 可得 20,0k jj k j k +=Wold 系数递推: 11,0,1,2,p j j k j k k j b a j -=+=其中规定0(,0(0j j b j q j =>=<. 证 补01a =-, 则00(pkj k jk j A z z a zz =-00pqjj k j k j j k j a z b z -=-=.比两边系数得0pk j kj k a b -=-=, 1j

12、, 且由k 负指数阶0, 可得11|,1k c ->也是以负指数阶趋于零.3. ARMA(p ,q模型的可识别性模型参数可识别性, 要求(A z 与(B z 无公因子.引理 2.2 设t X 是(*的平稳解. 若又有白噪声t 和(,(C D B B , 使得(,t t C X D t = B B则(C z 的阶数p , (D z 的阶数q (不证. 同样应有E(,0,s t X s t =>.补0(0k k =<,记01b =, 在(*两边乘t k X -, 再E21,pqk j k j j j kj j a b k -=+即2021,0,q j j k j pk j k j

13、q j b k qa b k q k q -=-=<-=>从而得到延伸的Yule-Walker 方程:1111212212q qq q p q q q q p p q n q p q p q a a a +-+-+-+-=上述矩阵记为,p q ,(1 若,p q 可逆, 则可定出1(,T p a a =a (2 令1(pt t j t jt j Y X a XB -=-=B 是MA(q序列它的(y k 是q 后截尾的, 对|k q , 有00(E(p py t t k j l k l j j l k YY a a -+-=写矩阵形式为1111(kk k p T k k k p y

14、k p k p k k +-+-+=a a其中1(1,T p a a =-a .由§3.1知, 可惟一确定出b 和2.故只要,p q 可逆, k 与2,a b 互相确定. 定理 2.3(见6 设k 为ARMA(p,q序列t X 的自协方差函数列, 则m p 时, ,m q 可逆. (证略 定理2.4设平稳序列,E 0t t X X =有自协方差函数k . 又设1,(0p p a a a 使得(1 1(10,|1pjj j A z a zz =-;(2 10,0,pk j k jj c k q a k q -=-=> 则t X 是一个ARMA (,p q ''序列

15、(,p p q q ''.4. ARMA 序列的谱密度和可逆性因ARMA 序列的k 是绝对可和的, 所以有222i i 0(e e 22k j kjk j f =-=22i i (e 2(e B A =. 称为有理谱密度.定义2.2 可逆的ARMA 模型, 若(0,|1qj j j B z b z z =.可逆的ARMA(p,q序列是最小序列. 对于可逆的ARMA(p,q模型, 有1(,|,(1j j j B z A z z z -=>从而可得1(,t t j t j j B A X X t -= B B表明序列t X 与噪声t 相互线性表示.例2.1 设t 是标准正态白

16、噪声.模型ARMA(4,2.14(0.9, 1.4,0.7,0.6a =-, 1,2(0.5,0.4b =-,(A z 的根 2.2062i 1.4896i 1,23,41.1380e , 1.1344e z z ±±= (B z 的两根为2.3252和-1.0752. 有关图如下. 204060-6-4-20246801234123456 5101520-6-4-202468例2.2 利用k 的前5个值, 建ARMA(2,2模型.04(4.61, 1.06,0.29,0.69,0.12=-这里2p q =,(1 由延伸的Yule-Walker 方程, 得1(2 由1111

17、(kk k p T k kk p y k p k p k k +-+-+=a a, 求出(02(7.1278, 2.4287,3.2729y =-.(3 由2021,(Tq C C A C =-=-b , 其中1lim T k k k k -=, 求出212(,(0.3334,0.8158, 4.0119b b =-=.(4 写出模型W N (0,4.011t (A z 的根: 1,20.0713 1.2614i z =±. 均在单 (B z 的根: 1,20.2043 1.0881i z =±. 位圆外§3.3* 广义ARMA 模型和ARIMA(p,d,q模型介

18、绍 1. 广义ARMA 模型(,t t A X B t = B B , 2WN(0,t (#只设1(1pjj j A z a z =-与1(1qj j j B z b z =+(0p q a b 互质.广义ARMA 序列: 满足(#的t X(给初值011(,p x x x -+ 后, 递推得若(A z 在|1z =上有根, 则(#无平稳解; 若(A z 在|1z =上无根, 则有1201<<<, 使(B z A z 在圆环: 12:|D z z =内解析, 故有 1(,j j j A z B z c z z D -=-=j c 是负指数阶收敛到0, 故可定义1(jjj A B

19、 c -=-=B B B由此得平稳解1(,t t j t jj X A B c t -=-= B B若(A z 在|1z =内有根, 则t X 是t 的双边无限滑动, 与12,t t + 有关, 无实际意义. 数学上模拟时, 数值加速振荡, 称为爆炸模型.2. 求和ARIMA(p,d,q模型思想: (1 对数据进行适当d 次差分;(2 拟合成ARMA(p,q模型. 即若有d , 使0(1(1,ddkk t t d t k k Y X C X t -=-=- B ,是一个ARMA (p,q 序列, 则称序列t X 是一个 求和ARIMA (p,d,q 序列. 即t X 满足:(1(,d t t

20、A X B t -= B B B其中(,(A z B z 满足ARMA(p,q模型的条件.例3.1 分析: 求和ARIMA(p,1,q序列t X .1(1t t t t Y X X X -=-=-B 是ARMA(p,q序列给0X 后, 推得121t t t t t t X X Y X Y Y -=+=+ 0121t t t X Y Y Y Y -=+设t Y 为例2.1中ARMA(4,2序列, 分别取数据60和600如图,表明求和ARIMA(4,1,2t X 非平稳性. 102030405060-8-6-4-2024680100200300400500600-10-505101520例3.2

21、分析: 求和ARIMA(p,2,q序列t X . 2d =212(12t t t t t Y X X X X -=-=-+B是ARMA(p,q序列, 给01,X X -后, 推得112t t t t t X X X X Y -=-+两边对11,2,t n = 求和, 得1110111n n n t t X X X X Y -=-=-+,整理为 1111011n n n t t X X X X Y -=-=-+,两边再对11,2,n t = 求和, 得1100111(,1n t t j n j X X t X X Y t -=-=-+这是对ARMA 序列t Y 的两重求和. 由差分方程解理论,

22、得通解为110111,1n tt j n j X C C t Y t =+一般21111011111d n n t d t d jn n j X C C t C tY-=+ . 同样对例2.1进行仿真(60个, 得ARIMA(4,2,2序列明显不是一个平稳序列.实际问题中, 许多数据经一次或二次差分后, 常是一个平稳序列, 然后, 再拟合建ARMA(p,q模型.-1003. 单位根过程单位根模型=ARIMA(p,1,q模型.(视(1A z z 为新(A z 例3.1表明: 一般用有限较少数据, 难 于区分ARMA(p,q与 ARIMA(p,1,q模型.如右图用600个数据难分,金融领域中, 带

23、线性趋势的(广义ARMA(p,q模型01,t t X c c t Y t =+(其中t Y 是ARMA(p,q序列一次差分:111t t t t X X c Y Y -=+-后也是平稳序列但若ARIMA(p,1,q, 去掉任何趋势项, 仍不为平稳.这3种模型: ARMA(p,q, ARIMA(p,1,q, 带线性趋势的ARMA(p,q模型, 用较少数据, 较难分辨.理论上区别方法, 设t Y 是可逆的ARMA(p,q序列, 若t X 是单位根序列, 则1t t t Z X X -=-的谱密度22i i (e (2(e B f A =满足22(1(002(1B f A => 而若t X 是带线性趋势的ARMA 序列, 则差分 1t t t Z X X -=-后的谱密度22i i i (e (1e (2(e B f A -=满足(00f =4. 平稳ARIMA(0,d,0模型因ARMA(p,q序列的0(k k -负指数阶, 故人称