（概率论与数理统计专业论文）多维arp模型的估计及预测方法.pdf

西南交通大学硕士研究生学位论文第l 页 摘要 本文主要研究了多维平稳序列自回归模型a r ( p ) 的参数估计及其相关 的统计性质，具体内容如下： 第一部分，介绍了多维平稳时间序列及其均值向量和协方差阵函数的 概念，并引入了多维a r ( p ) 模型及其数字特征，在此基础上给出了模型的平 稳性条件。 第二部分，主要讨论研究了多维h r ( p ) 模型参数估计的四种方法。首先， 借鉴文献 9 中一维a r ( p ) 模型的y u l e - w a l k e r 估计方法，得到了多维平稳 序列的y u l e - w a l k e r 方程，从而给出了多维a r ( p ) 模型参数的递推估计。其 次，本文对传统的最小二乘估计方法做出了改进，从而更便于借助m a t l a b 进行编程计算。接下来，作者以文献 9 中的多维d u r b i n l e v i n s o n 算法为 基础，给出了a r ( p ) 模型的d u r b i n - l e v i n s o n 估计，使模型得到了较好的拟 合。最后，在g a u s s 白噪声的假设下，对已有的观测值，构造出其样本对数 似然函数，并讨论了模型的参数阵n 和白噪声方差阵的极大似然估计。 第三部分，引用传统的线性预报理论，给出多维a r ( p ) 模型的预报，并 简要介绍模型的定阶准则。 关键词：多维自回归；平稳性；估计；预报 西南交通大学硕士研究生学位论文第1 l 页 a b s t r a c t i nt t d sd i s s e r t a t i o n ，t h em e t h o d so fp r e d i c t i o na n dp a r a m e t e r s e s t i m a t i o n b a s e do ns t a t i o n a r ym u l t i v a r i a t ea u t o r e g r e s s i v em o d e l s ( a r ( p ) ) a r es t u d i e d s y s t e m a t i c a l l y s o m ep r o p e r t i e so ft h e s em e t h o d sa r ef o r m u l i z e d i nt h ef i r s tp a r t ，i ti n t r o d u c es o m eb a s a lc o n c e p t i o n sa b o u tm u l t i d i m e n s i o n a ls t a t i o n a r yt i m es e r i e s ，c o n t a i n e dt h ee s t i m a t i o na n dp r o p e r t yo fm e a nv e c t o r a n da u t o c o v a r i a n c ef u n c t i o n t h e nt h e s t a b l ec o n d i t i o no fm u l t i d i m e n s i o n a l a r ( p ) m o d e l sa r ed i s c u s s e d i nt h es e c o n dp a r t ，t h ef o u rm e t h o d so fe s t i m a t i o nf o rm u l t i d i m e n s i o n a l a r ( p ) m o d e l sa r er e s e a r c h e d f i r s t ，b yr e f e r e n c eo fe s t i m a t i o nm e t h o d si no n e d i m e n s i o n a la r ( p ) m o d e la n db a s e do nt h ee a u q t i o no fy u l e w a l k e ri nl i t e r a t u r e 9 ，i to b t a i nt h er e c u r s i v ee s t i m a t e s s e c o n d ，i ti m p r o v et h et r a d i t i o n a ll s e s t i m a t e s ，t h u s ，i tw i l lb em o r ee a s i l yc a l c u l a t e db yp r o g r a mi nm a t l a b a f t e r t h a t i to b t a i nt h ed u r b i n 1 e v i n s o nr e c u r s i v ee s t i m a t e sb a s e do nt h e d u r b i n - l e v i n s o na l g o r i t h mi nl i t e r a t u r e 9 f i n a l l y , b a s e do nt h ea s s u m p t i o no f g a u s sw h i t en o i s e ，i tc o n s t r u c tt h e l o g l i k e l i h o o d f u n c t i o nf o rt h e e x i s t i n g o b s e r v a t i o n s ，a n dt h e n ，t h em a x i m u ml i k e l i h o o de s t i m a t i o no fp a r a m e t e r s a r r a ya n dw h i t en o i s ec o v a r i a n c em a t r i xa r ed i s c u s s e d i nt h et h i r dp a r t ，q u o t i n gt h et r a d i t i o n a lt h e o r yi nl i n e a rp r e d i c t i o n ，i to b t a i n t h ef o r e c a s t i n go fm u l t i - d i m e n s i o n a la r ( p ) m o d e l t h e n ，i tr i e f l yi n t r o d u c et h e c r i t e r i o no fo r d e rd e t e r m i n a t i o nf o ra r ( p ) m o d e l k e y w o r d s ：a u t o r e g r e s s i v e ；s t a t i o n a r i t y ；e s t i m a t i o n ；f o r e c a s t i n g 西南交通大学曲阐父遗大罕 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，同意学 校保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被 查阅和借阅。本人授权西南交通大学可以将本论文的全部或部分内容编入 有关数据库进行检索，可以采用影印、缩印或扫描等复印手段保存和汇编 本学位论文。 本学位论文属于 1 保密口，在年解密后适用本授权书； 2 不保密趴使用本授权书。 ( 请在以上方框内打“”) 学位论文作者竽名：五圳 日期：加，7 净6 爵眇， v 。o 了 殇国 客桫 名澎 躲噼 咖 老 ： 西南交通大学学位论文创新性声明 本人郑重声明：所呈交的学位论文，是在导师指导下独立进行研究工 作所得的成果。除文中已经注明引用的内容外，本论文不包含任何其他个 人或集体已经发表或撰写过的研究成果。对本文的研究做出贡献的个人和 集体，均已在文中作了明确的说明。本人完全意识到本声明的法律结果由 本人承担。 本学位论文的主要创新点如下： 1 、本文对传统的最小二乘估计方法做出了改进，从而更方便借助 m a t l a b 进行编程计算； 2 、以文献 9 中的多维d u r b i n - l e v i n s o n 算法为基础，给出了a r ( p ) 模型的d u r b i n l e v i n s o n 估计，使模型得到了较好的拟合。 五壶 沁降否舟印 西南交通大学硕士研究生学位论文第1 页 第1 章绪论 1 1 多维时间序列分析方法的研究背景和现状 时间序列分析作为统计科学里一个非常活跃的分支，广泛地应用于自 然领域、社会领域的科学研究和思维。在建立时间序列模型时，一个变量 往往不仅受自身滞后的影响，往往也受到其他变量的影响，将具有相互联 系的变量作为一个整体来进行建模，不仅能有效地表达系统内变量相互影 响的动态机制，清晰地刻画变量间动态影响的过程，而且能提高变量预测 的精度，这样建立的时间序列模型称为多变量时间序列模型( 又称多维时间 序列模型) 。 多维时间序列的研究是从上个世纪七十年代开始，逐渐繁荣起来。1 9 7 0 年h a n n a n ，e j 1 l 。1 发表著作( ( m u l t i p l et i m es e r i e s ) ) ，促进了多维时间序列的 迅速发展。b o x 和t i a o t 4 1 在1 9 7 0 年左右讨论了带干扰变量的时间序列分析。 这些研究实际是把对随机事件的横向研究和纵向研究有机地融合在一起， 提高了对随机事件分析和预测的精度。1 9 8 0 年，s i m s ，c a 和l i t t e r m a n ，r b t 5 4 】 将多维自回a r ( p ) 模型用于经济计量分析，提高了经济预测的准确性。1 9 8 6 年，l i t t e r m a n t 6 j 禾t j 用贝叶斯推断理论解决了多维自回归a r ( p ) 模型参数过多 时的估计问题。1 9 8 7 年，英国统计学家c g r a n g e l 4 s 】提出了协整理论，进一 步为多变量时间序列建模松绑。1 9 9 1 年，b r o c k w e l l ，p j 和d a v i s ，r a t 9 1 联合 发表著作( ( t i m es e r i e s ：t h e o r ya n dm e t h o d s ) ) ，书中详细介绍了多维时间序 列的频域分析方法。1 9 9 4 年h a m i l t o n ，j d 【一0 1 发表著作t i m es e r i e s a n a l y s i s ) ) ，详细讨论了多维a r ( p ) 模型及其在非限制性条件下的极大似然估 计，进一步促进了多维a r ( p ) 模型在实际中的应用。2 0 0 5 年，h e l m u t l u t k e p o h l t l i 】在( ( n e wi n t r o d u c t i o nt om u l t i p l et i m es e r i e sa n a l y s i s ) ) 一书中， 总结了多维时间序列发展的最新成果，为多维时间序列的建模提供了新的 思路。 西南交通大学硕士研究生学位论文第2 页 1 2 本文的研究目的 多维时间序列本身比每个分量时间序列含有更多的信息，对多维时间 序列的研究比对每个分量时间序列的研究会得到更好的结果，那么对多维 a r m a l l 2 模型的研究就显现出较大的实际意义。但是由于维数的增加，导致 了频域分析法的困难，其经典的例子是：不同的a r m a 序列可以对应同一个 密度矩阵，与一维情况的一一对应相悖。 在多维情况下，文献 1 3 证明了基于任何可逆的a r m a 模型都可用阶数 充分大的a r 模型逼近到任意精度，故在多维情况下，对a r ( p ) 模型进行研 究具有基础性的作用和重要的意义。多维时间序列a r ( p ) 模型的建模过程， 一般分为模型识别、模型估计和诊断以及模型预测三个步骤，其中模型的 参数估计具有基础性的作用。鉴于模型估计阶段在多维a r ( p ) 模型的建模过 程中的重要地位，本文将对多维a r ( p ) 模型的参数估计和预测方法的部分内 容做出比较详细的讨论，且主要以时域分析方法为主。 1 3 本文的主要工作 文献 1 、 9 分别介绍了多维a r ( p ) 模型及其参数的估计，但其中主要 讨论了模型参数的频域分析方法，对于时域分析方法没有详细的研究。而 s i m s ，c a 和l i t t e r m a n ，r b 主要是将贝叶斯推断理论应用于多维自回归 a r ( p ) 模型的参数估计。在h e l m u tl u t k e p o h l 的工作中，关于a r ( p ) 模型的 参数估计，其主要工作是对模型的最小二乘估计做了详尽的讨论。 本文中，借鉴文献 9 中一维a r ( p ) 模型的y u l e w a l k e r 估计方法，得 到了多维平稳序列的y u l e - w a l k e r 方程，从而给出了多维a r ( p ) 模型参数的 递推估计。在介绍模型参数的最小二乘估计时，部分引用了项静恬等人1 1 4 的工作，并对传统的最小二乘估计做出了改进。接下来，本文基于多维 d u r b i n l e v i n s o n f 9 算法，给出了模型的d u r b i n - l e v i n s o n 估计。模型参数 的极大似然估计，是在g a u s s 白噪声的假设下，基于观测值 x 训，舡。，x 。，墨， ，x t 小墨，构造出样本对数似然函数( 4 4 1 0 ) ，进 而讨论了参数阵n 和白噪声方差阵的极大似然估计。部分结果引用了 西南交通大学硕士研究生学位论文第3 页 h a m il t o n ，j d 1 1 0 1 的工作。 本文第1 章详细地介绍了多维时间序列分析的理论发展，简单阐述了 本文的写作目的、基本思想和主要内容。第2 章介绍了本文用到的平稳多 维时间序列和多维a r ( p ) 模型的基本理论及其相应的性质。第3 章讨论了多 维a r ( p ) 模型的平稳性条件。第4 章在第3 章的基础上讨论了多维a r ( p ) 模 型参数的估计问题。第5 章简单介绍多维a r ( p ) 模型的预测和定阶准则。 西南交通大学硕士研究生学位论文第4 页 第2 章预备知识 2 1 平稳多维时间序列及其统计性质 2 1 1 平稳多维时间序列 考虑聊个时间序列 ，t = o ，1 ，2 ，) ，i = 1 ，l n ，对于任意的f 和i ，有 磷 ，如果序列 以) 的一切有限维联合分布是多元正态分布，则 。k ) 的分布由其均值心全巩和协方差y n ( t + h ，t ) - 厶e e ( x , 帆，一“帆，) ( 曩一心) 所确定。即使观测值 以) 不是联合正态分布，触和虼( t + h ，f ) 仍确定了其 二阶性质。 为方便起见，考察m 个相关序列，用向量记号定义 x ，- - - ( x , l ，一，l ) 7 ，t = o ，l ，2 ， ( 2 1 1 ) 多维时间序列 x t ) 的二阶统计性质由其均值向量 一= ae x , = ( 鸬，) 1 ( 2 1 2 ) 和协方差阵列 r ( m ，f ) 垒町( x 圹) ( x 一鸬) 1 = 乃( h 反t - i ；， ( 2 1 3 ) 所确定。 注：如果 x ) 是复值多维时间序列，则f ( t + h ，t ) 定义为： r ( ，f ) 全吐( x 圹) ( x 一鸬) + 其中水表示复共轭转置，在本文中 x t ) 是实多维时间序列。 西南交通大学硕士研究生学位论文第5 页 定义2 1 1 ( 平稳多维时间序列) 设多维时间序列 墨) 的均值向量鸬 和协方差阵列f ( t + h ，f ) ，h = o ，1 ，分别为式( 2 1 2 ) 和式( 2 1 3 ) 所定 义，如果1 1 1 和f ( t + h ，f ) ( 办= o ，l ，) 与f 无关，则称 x ) 为平稳多维时间序 列。 和 对于平稳多维时间序列，分别用记号： ：ne x t = ( 鸽，鸬，心) r ( 2 1 4 ) r ( h ) n - s ( x , 圹1 1 ) ( x t 一1 1 ) r = 巧( 办) l ( 2 1 5 ) 表示其均值向量和在时滞h 处的协方差阵。如果 x t ) 是协方差阵函数为 r ( ) 的多维平稳序列，则对每一个f ， 瓦) 是协方差函数为形疋) 的平稳序 列，而巧( ) ，( f 歹) 称为两个序列 瓦) 和 乃) 的互协方差函数。一般情况 下，( ) 如( ) ，( i 歹) 。虼( ) 是自协方差函数，i = l ，m 。 定义相关函数阵尺( ) 为 月( j i i ) 全 巧( ) 虼( 。) ( 。) v 2 二：。= p 。( 办) 乙：。 ( 2 1 6 ) 此函数尺( ) 为标准化( 即由墨减去并除以每个分量的标准方差) 后序列 的协方阵函数。 平稳时间序列 x ) 的协方差阵函数r ( ) = 巧( 。) 已：。具有如下性质： ( 1 ) r h ) = f r ( - h ) ； ( 2 ) l 巧( ) i 兀( o ) 圪( o ) r f ，j = l ，z ； 对一切” 1 ，2 ) ，q ，瓞“，嘭r ( 歹一后) 0 。 西南交通大学硕士研究生学位论文第6 页 性质( 1 ) 由定义即可得证，由c a u c h y s c h w a r z 不等式可证明性质( 2 ) ，性质 ( 3 ) 的证明只需注意到虼( ) 是平稳序列 k ，t = o ，l ) 的自协方差函数。 2 1 2 多维白噪声 定义2 1 2 ( 多维白噪声) 称聊维序列 互，t = o ，1 ，2 ，) 是均值为0 ， 协方差阵为的白噪声，如果 z ，) 是平稳序列，其均值向量为0 ，协方差阵 函数为： r ( 乃) = l z 。，, 兵h = 他0 ( 2 1 7 ) 记为： 互) 一w n ( 0 ，) ( 2 1 8 ) 用记号 互) i i d ( o ，) 表示独立同分布随机向量序列互t = o ，1 ，2 ，其均 值为0 ，协方差阵为。多维白噪声 互) 是构造大量多维时间序列的基础。 2 1 3 均值和协方差函数的估计 与一维场合相同，平稳多维时间序列的均值向量和互相关( 系数) 函数 不仅在描述分量时间序列的相依性方面起着重要作用，而且对这种相依性 建模时也起着重要作用。 设 墨= ( 置l ，一，瓦) t ，一 f o o ) 是聊维平稳时间序列，其均值向量 t u = ( j 一，。) r = e x t ( 2 1 9 ) 和协方差函数 r ( 五) = e 【( x + 。一) ( 置一) t = ( j l z ) 】? ，= l ( 2 1 1o ) 其中心= c o v ( x , 枷，) 。过程 以 和 瓦 的互相关( 系数) 函数为 西南交通大学硕士研究生学位论文第7 页 p ( j i z ) = 乃( 办) ( ( o ) ( o ) ) 牝，h = o ，1 ， 的估计基于观测值x 一，鼍的的无偏估计量是样本均值向量 一x 。= 三室墨 以智 注意第个时间序列的均值心的估计量为( 1 刀) 。于是有： 定理2 1 1 设 墨) 是平稳多维时间序列，其均值为，协方差函数为 r ( ) ，则当n 一一时， ( 1 ) 如果形，( 疗) 一0 ，i = 1 ，m ，则e ( x 。一) t ( x n 一) - - - 0 ； ( 2 ) 如果l 虼( 而) l o 。，i = 1 ，朋，则刀e ( i 。- u ) t ( 叉。一) j 赡( 办) 。 证明：e ( 叉。一) t ( 叉。一) = e( 去弘咏去窆t = l l 一风) 去喜”鲳 去喜k 一心 、j ，、 丫， 训 砧 以 0 叫 叫 “ 慨 一时 瓦 掷 书 。阢。泌一一汁。孝礁蔟川孙 可。一，了矿。一矿 西南交通大学硕士研究生学位论文第8 页 ( 1 ) 如果当，zj 时，虼( ，z ) 一0 ，则 因此 ，z 一三胁) l = 2 1 i mn ( ，z ) l = o ， e ( 叉。一) t ( 叉。一声1 ) 一o 。 ( 2 ) 施( 叉。一) t ( 叉。一) 当咒一时，l n ( h ) l - - ， 则善mi 1 丕t - i ( j i 2 ) 一。，且 羔n - i ( | i i ) 一兰主虼( 办) 。因此，以( 叉。一) t ( 叉。一，f ) 一兰主( 矗) 。 如果过程满足更严格假设条件，则向量x 。渐近于正态分布。特别地， 如果 置) 是多维滑动平均过程，则x 一渐近于正态分布。 引理2 1 2 【9 】设 墨) 是平稳多维时间序列，且满足 置= + g z , 互) 一i i d ( o ，) 其中 g = f g ( f ) 器，) 是朋肋矩阵列，满足l g ( i ，) j o o ，f ，= 1 ，历， 则 叉n 是a n i 言( 薹c ) ( 重g t ) ) o r ( h ) 的估计为简单起见，假设m = 2 。与一维情况相同，协方差阵 乃 “ 砷 川一 ，f_i、 川 鬯拙 胁 。州 k p 一 、= = ， “ 垧 = ，卜禁 肿阔 。汹 i l = 西南交通大学硕士研究生学位论文第9 页 r ( j i z ) = e l ( x , + 。一) ( 一一) t 的估计是 r ( 办) = 万一- n - h ( 葺+ 。一叉。) ( x 一叉。) t ，o 矗力一1 1 1 - 1 窆( 置+ 。一叉。) ( 置一叉。) t ，一力+ 1 j j z o 记r j ( h ) 为r ( 办) 的第( f ，) 个元素，则互相关( 系数) 函数的估计为 多 ，( 愚) = 死( ) 丸( o ) 乃( o ) 啦。 如果f - 歹，则弓打( 磊) 是第i 个序列的样本自相关( 系数) 函数。我们首先 证明对于有限阶滑动平均，估计量死( 办) 的弱相容性( 同样瓦( ) 的弱相容 性) ，然后考虑在某些重要特殊场合下，死( 办) 和瓦( 乃) 的渐近分布。 引理2 1 3 t 9 t 设 墨) 是二维时间序列 置= ee 五一。， 互= ( 五，互：) t ) 一i i d ( 0 ，) ， ；一 其中 g = g ( f ，歹) 置捌) 是满足l g ( t 刮 的矩阵列，f ，j = l ，2 ，则对每 = 一 一个固定h 0 和f ，j = 1 ，2 ，当，zj o o 时，有 死( 五) o ( 办) ， 和 和 磊( 办) 鸟岛( 五) 。 定理2 1 4 设序列置。和置：分别满足下式 墨，= 哆互吐。，钇。) i i d ( 0 ，仃2 ) j = 一 五：= 孱z f 吐：，： 一i i d ( 0 ，盯2 ) 歹= 西南交通大学硕士研究生学位论文第10 页 其中序列 z f 。) 和 z f ：) 相互独立，l 哆i ，i 孱i ，如果办o ，则 jj 另，：( 向) 是a n ( o ，栉一1 届，( 歹) 如( 朋。 = ” 如果j l l ，露o 且j lck ，则( 多。( 磊) ，；及( 女) ) t 渐近于均值为0 ，方差为 刀- 1 a 。( j ) p 2 ：( ) ，且协方差为，z - 1 肛。( ，) 见：( 歹+ 七一 ) 的二元正态分布。 j = 一j = 一 定理2 1 5 t 1 5 ( b a r t l e t t 公式) 设 x ) 是二维g a u s s 过程 ( ( 置，置：) t ，t = o ，1 ，) 的一切有限维分布是多元正态分布) ，如果自协方差 函数满足 i 巧( 五) i j = l ，2 ， j _ 一l “、l j 2 一 则 l i m c o v ( p 。：( 办) ，础七) ) = ( j ) p 2 ：( 歹+ j i 一玉) + 届2 ( j + k ) p 2 。( 歹一办) j = 。 - p , ：( 办) n 。( 歹) 夕；2 ( + 办) + 段：( j ) p 2 ，( j - k ) ) 一肛：( ) 肛，( ) 届：( + 五) + 肛：( ) 段l ( j - k ) ) + a ：( 办) a ：( 后) 三p ：( ) + 夕：( ) + 圭夕：( ) p 。 2 2 多维a r ( p ) 模型及其数字特征 定义2 2 1 ( 多维彳r ( p ) 过程) x ，t = o ，1 ，) 是聊维a r ( p ) 过程，如 果 k ) 是平稳序列，且满足方程 置= c + 西1 x l + 西2 k 一2 + + o p x 一尹+ 互 ( 2 2 1 ) 西南交通大学硕士研究生学位论文第11 页 这里c ( m x l 向量) 代表常数项，中，( m x m 矩阵) 是自回归系数， 歹= 1 ，2 ，p 。m x l 向量互是白噪声的一个向量推广 三( 互) = 0 ( 2 2 2 ) e c 互z ，= 吾；i 歹 c 2 2 3 ， 其中是一个m x m 维正定矩阵。 令c f 表示向量c 的第f 个元素，令露”表示矩阵。的第i 行第j 列元素。 则向量系统( 2 2 1 ) 的第一行为 墨，= c 1 + 科p x l 卜l + 州k p ，+ + 识尝疋卜。 + 群；五，- 2 + 蟛置卜2 + + 粥卜2 + + 甜五，p + 缟字置，一p + + 鹕窖x m ，一，+ 岛，。 ( 2 2 4 ) 因此，一个向量自回归就是这样一个系统，系统中每一个变量对常数 项和它的p 滞后值回归，同时也对模型中其它变量的p 阶滞后值回归，其 解释变量都相同。运用滞后算子表示( 2 2 1 ) 式，得 i m - ( 1 ) ，b 一西：b 2 一p b p x = c + 互 或 固( b 、) x t = c + z t 这里，o ( b ) 表示滞后算子b 的一个矩阵多项m x m 式。o ( b ) 的第i 行第j 列 元素是b 的一个数量多项式： o ( b ) = 磊一西”b 一彩2 b 2 一彩川b p 】， 这里 磊= 麓 定义2 2 2 一个向量过程x 被称作协方差平稳的，如果其一阶和二阶 西南交通大学硕士研究生学位论文第12 页 矩( 分别为e ( x ) 和e ( x ) ) 关于时期f 是独立的。 若过程是协方差平稳的，则对( 2 2 1 ) 的两边取期望，得 = c + o l + 2 + + 西p 或 = ( l 一，一中2 - 0 p ) 一c 在方程( 2 2 1 ) 两边同时减去，得到方程的离差形式 k 一= 。( x 一。一j f f ) + ：( 置一：一) + + 西p ( 墨一p 一) + 互 或 x = 中1 x t _ i + 中2 x t 一2 + 件中p x 叩+ 互( 2 2 5 ) i e ( 墨) = 0 对向量协方差平稳的过程置定义其均值和协方差阵( 分别记为e ( x ，) ， r ( h 1 ) 为： 全e ( x ) r ( 办) 全e ( x 件 一声) ( x 一声1 ) r = o + 磊，f ) 】易；1 尺( a ) 垒 巧( 庇) ( 虼( o ) ( o ) ) 1 7 2 0 ：， 则协方差平稳过程x ，的协方差函数r ( ) = 巧( ) 】乃：，具有如下性质： ( 1 ) r ( h ) = r ( 一h ) ； ( 2 ) l 双j i j ) i 形f ( o ) ( o ) l 2 ，f ，j = l ，2 ，m ； ( 3 ) ( ) 是自协方差函数，f ，j = l ，2 ，m ； ( 4 ) 对一切拧 1 ，2 ，) ，q ，呸，r ”，a 歹f ( j - k ) a k o ； ( 5 ) 力，( o ) = 1 。 西南交通大学硕士研究生学位论文第13 页 第3 章多维a r ( p ) 模型的平稳性条件 在这一章里，主要讨论了模型的平稳性，其思路是：应用文献 1 2 中 关于一维a r ( p ) 模型的分析方法，将多维a r ( p ) 模型转换成一阶向量a r ( 1 ) 形式，进而证明了模型的平稳性条件。 首先将模型( 2 2 1 ) 写成如下离差方程形式 x ，一i i = l ( x 卜l 一i ) + 2 ( x 卜2 一p ) + + 西p ( x ，一p p ) + z ， ( 3 1 ) 如元a r ( p ) 过程的情形，将( 3 1 ) 写成a r ( 1 ) 的形式是有用的。为此 目的，定义 当f 兰 m p x l f 兰 m p x m p 矿兰 m p x l x t u x l 一p x t p “一p 2垂3 oo i m 0 o0 p i西p o0 o0 i m 0 ( 3 2 ) ( 3 3 ) 因此，( 3 1 ) 中的多维a r ( p ) 模型可写成下面的向量a r ( 1 ) 形式 乞= k 一，+ 杉 ( 3 4 ) 其中 ( k 件 苫暑 且品三 o o o 0o 0 0 ： 0 i e l o ；o 互0 ；o 西南交通大学硕士研究生学位论文第14 页 方程( 3 4 ) 意味着 乞+ ，= k + ，+ r e + 川+ ，2 + 。一2 + + ，”1 k + l 十，+ ，茧 ( 3 5 ) 为使过程协方差平稳，任意给定互的结果必须最终消失。如果f 的特征值 都落在单位元之内，则称多维a r ( p ) 模型( 3 1 ) 为协方差平稳的。 定理3 1 若( 3 3 ) 中的矩阵f 的特征值旯满足 l l 五p 一1 名川一中2 允一- c d p l = o 。 ( 3 6 ) 且对于满足( 3 6 ) 式的所有名值，有例 1 ，则称多维a r ( p ) 模型是协方差平 稳的。等价的，a r ( p ) 是协方差平稳的，当且仅当所有满足 i l 一中1 y - c d 2 y 2 一一p y p i = o 的y 值都落在单位圆之外。 证，的特征值是使下面的行列式值为0 的a 值： ( 3 7 ) 将最后一块的刀列的每一列都乘以1 名再加到前一块上。将次最后一块的结 果乘以1 五再加到倒数第三快上。持续这个过程，则( 3 7 ) 变为 l毋嵋b20川，l 慨8 ， i一饵。) l u 两7 其中b ，表示下面的m x m 矩阵 b ，三( ，一只l ) + ( ：名) + ( ，名2 ) + + ( 中p 见p - 1 ) 。 且b 2 是一个相关的，z m ( p 1 ) 矩阵。令s 表示下面的m p x m p 矩阵： 学。以o。l 啦。誓o ：厶 。 啦埘-：o 乙 以厶o；o 西南交通大学硕士研究生学位论文第15 页 船匕0 川 ， s 三l”v _ 1 i ， l 厶j 且注意到它的逆为 一暑e ，讣 这里，s - 1 可直接用乘法算出，在( 3 8 ) 式两边左乘以s 右乘以s 一并不改变 行列式的值。因此( 3 8 ) 等于 l 乏j 二( 0 p l 曰0 1 一旯乏p 一。，1 j l , m ：一。，j 0 二 l = i 一无j b 二2 ( p 1 ) b 曼l忆j l一矾。p 圳 。p 叫j l _ l，i 计算上式得： ( 一五小( p 1 ) i 召，l = ( 一五所( p - ) i ( 中，一元l ) + ( 中：名) + ( 西，力2 ) + + ( m p 五p - 1 ) l = ( 一1 ) 唧l l 一中。一中：一p l 。 西南交通大学硕士研究生学位论文第16 页 第4 章估计方法 4 1 多维a r ( p ) 模型的y u le w alk e r 估计 在估计一维a r ( p ) 过程时，通过推导得到模型的y u l e w a l k e r 方程f 9 j 【1 2 j ， 进而可以求出模型参数的递推估计式。对于多维a r ( p ) 过程，借助一维情形 的思想，给出多维a r ( p ) 模型的y u l e w a l k e r 方程，进而求出模型参数的递 推估计。 首先，在( 2 2 5 ) 式两端右乘砰。，并求数学期望得： r ( 五) = j f ( h - j ) ，h = l 2 一， j = l r ( o ) = 币，( ，厂+ = r ( 歹冲；+ ， ( 4 。1 1 ) = lj = l 其中，r ( h ) ( h = 0 ，1 ，2 ，) 都是彤阶方阵，由( 4 1 1 ) 取h = l ，2 ，p ，利 用r ( 一五) = r ( 办) r ，可得到如下矩阵型的线性方程组： f ，( i ) f r ( 2 ) r r ( p ) r ( o )r ( 1 )f ( p 1 ) r ( 一1 )r ( 0 )f ( p 一2 ) ： f ( - p + 1 ) f ( - p + 2 ) f ( 0 ) 西j 西： ： 西： ( 4 1 2 ) 即y u l e w a l k e r 方程组。 由此可见，假如我们能求得r ( h ) 的估计值r ( h ) ，并将此样本估计值 r ( h ) 代入上面的矩阵型的线性方程组( 4 1 2 ) ，只要保证( 4 1 2 ) 式系数矩 阵可逆，就能解得，( j = 1 ，2 ，p ) 的估计值垂，( = l ，2 ，p ) ，也称为 y u l e - w a l k e r 估计。 当样本长度n 充分大时，可取 西南交通大学硕士研究生学位论文第17 页 觚) = 麓x 样一 ( 4 1 3 ) 作为r ( ) 的估计。从理论上可知这个估计量有许多优点，如正定性、渐近 无偏性、弱相容性和渐近正态性等等，并且它的估计误差方差阵 ( f ( j l z ) 一r ( 五) ) ( 于( ) 一r ( 办) ) 7 的数量级为，令 f p = 咖p2 r ( o ) f ( - 1 ) f ( - p + 1 ) 丕r ( 1 ) $ r ( 2 ) 面r ( p ) r ( 1 ) r ( o ) f ( - p + 2 ) ，玎j 口2 f ( 1 ) ，( 2 ) f 7 ( p ) r ( p - 1 ) f ( p - 2 ) r ( o ) ( 4 1 4 ) 则( 4 1 2 ) 式可表示为 t ；，= 磊p ( 4 1 5 ) 由良矗) ，五：0 ，1 ，2 ，是正定列，故t 可逆，解( 4 1 5 ) 得；p = r a p - - 1 茹p ，这 就得到了中j ( = 1 ，2 ，p ) 的y u l e w a l k e r 估计( 又称矩估计) 。 4 2 多维a r ( p ) 模型的最小二乘估计及其改进 ( 1 ) 传统的最小二乘估计方法1 对扰维a r q ) 模型系数矩阵j ( 歹= 1 ，2 ，p ) 的另一种估计方法，即最 小二乘估计方法，就是求一组西( = l ，2 ，p ) ，使得 西南交通大学硕士研究生学位论文第18 页 ，( 中。，m ：，m p ) = 昙，妻，( 置一套中，x 一0 r ( 置一言，置一0 达到最小，为此，$ ( j - 1 ，2 ，p ) 须满足如下的方程组 焉f - o 啪列 2 ，m 扛1 ，2 ， 其中，( z ，足) 表示系数矩阵，的第z 行第七列的元素，上式可表示为 记 溪卜喜$ 叫r 砭2 2 1 ， 矗：1 窆x , x t _ 。 n ，：= l ” 那么，( 4 2 2 ) 式为 r a ，t ：羔面n a t 一，。 户j ( 4 2 2 ) ( 4 2 3 ) 由此可见，( 4 2 3 ) 虽然与( 4 1 3 ) 不同，但当刀充分大时，n 与n 相差甚 微。同样由( 4 2 3 ) 解出最小二乘估计与( 4 1 5 ) 解出的矩估计也是相差甚 微，而它们的渐近性质是完全一致的。由( 4 1 1 ) 和( 4 1 5 ) 知 s = r ( o ) 一，r ( f 一) 中；= r ( o ) 一咖；r p 哆， f ，j = l 如果o j ( j = l ，2 ，p ) 已估计出，代入上式，则s 的相应估计为 ： ( o ) 一p 丕，f ( f 一) 面；= ( o ) 一咖a t p r ，参p 。 f ，j = l 改进后的最d - - 乘估计 对于一个删维零均值平稳序列 x ) ，且 x ) 为一a r ( p ) i 螺，p - , p 满2 = ： 置= l x l + 2 x 一2 + + p 墨一p + z f ( 4 2 4 ) 现在改进的基本思想同样是根据线性模型的理论。进一步，把m 维的 a r ( p ) 模型( 式( 4 2 4 ) ) 写为 西南交通大学硕士研究生学位论文第19 页 h + - + 鼢p + 其中，( 歹) ( f = 1 ，2 ，p ，j = l ，2 ，m ) 为l x m 阶向量，这样可得 置( i ) = 。( o x , 一。+ + 西p ( o x , 一p + 互( i ) f = 1 ，2 ，m ， 上式两端转置后，有 令 x t ( f ) = ( 样。霹p ) t = ( 砰。砰p ) ， 咖( f ) = ( 中。( i ) p ( f ) ) ， 则式( 4 2 6 ) 可写为 ( 4 2 5 ) 卜乩2 ，m 汪2 6 ， x t ( i ) = r 咖( f ) + 五( i ) i = 1 ，2 ，m ， 根据现有的到时刻刀为止的观测数据，可列出下式： 记 k 篙筹 i x p n l ( f ) = l ； 。p 弦lk ( f = 1 ，2 ，m 卜。阱矧= 一z n ( 则式( 4 2 8 ) 可表示为： 厶( i ) = b 。西( f ) + k ( i ) i = 1 ，2 ，m ， 当目标函数( 残差平方和) 达到最小时，即 ( 4 2 7 ) ( 4 2 8 ) ( 4 2 9 ) ，=窆彳互=壹(x一蔷p，xj(x一p，k一刁=rnint=p+l t = p + lj = l c 4 2 ，。， ，= 彳互= ix 一x 一，llx 一，k 一l ( 4 2 1 0 ) 、产l 一、，l，)，=、； 互互 互、j ) ) p ； m 啦 哦 ，。l 、，j )：、他； 葺墨 x ，。t。 r，；r p m ，。一 西南交通大学硕士研究生学位论文第2 0 页 必然有 厂( f ) = 窆l 哆( i ) i i k ( 圳= m i n ，江1 ，2 ，朋， t = p + l 这样基于时刻聆的所有观测的咖( f ) 的最小二乘估计值为： 面。( o - - ( b ：b 。) 昱二l ( 小i = 1 ，2 ，m ， 此外，由于 z r ( i ) = 噩一( f ) + 置( i ) ， i = 1 ，2 ，m ， 可 ! 导至0 方差阵的最小二乘估计为：脚) 2 而1，妻。施a r t 。( 4 2 1 2 ) 改进后的最d - - 乘方法与传统的最小二乘方法相比，便于在m a t l a b 中 编写程序，从而为该方法在实际操作中的实现提供了方便。 4 3 基于l e v in s o n d u r bin 算法的估计 文献 9 基于h i l b e r t 空间理论，给出了x n + 。基于观测值x i ，x 。的最 佳线性预报叉川，并给出了多维d u r b i n l e v i n s o n 算法。本文在此算法的 基础上给出了多维a r ( p ) 模型参数的递推估计。 设 x = ( 置l ，一，k ) r , t = o ，1 ，2 ，) 是m 时间序列，其均值瓯= o ， 协方差函数为m x m 矩阵 k ( i ，) = e (