（概率论与数理统计专业论文）arma模型的几种定阶方法.pdf

摘要 本文针对自回归滑动平均( a r m a ) 过程的参数估计和定阶，把b o x - j e n k i n s 方法 和b i c 准则与系统的定阶方法加以结合，详细地介绍了基于线性估计和自回归定阶准则 的方法( a r c r i ) 和公因子检验定阶改进法。并且把这两种方法和广义样本自相关系数函 数定阶法( e s a c f ) 加以比较总结。 a r c r i 在估计部分采用了两步回归法( t w o s t a g er e g r e s s i o nm e t h o d ) ，用自回归定 阶准则来确定模型的阶。 而公因子检验定阶改进法的参数估计是基于长自回归系数所组成的矩阵，模型阶数 的确定则着眼于上述矩阵行列式是否为零。 在方法的比较中，主要从样本大小，模型结构和参数值大小对模型合理性的影响三 方面加以阐述。 关键词：b o x - j e n k i n s 方法；b i c 准则线性估计；自回归定阶准则；公因子检验 a b s t r a c t t 1 l i sa r t i c l ea i m sa tt h ee s t i m a t i o na n do r d e ri d e n t i f i c a t i o no ft h ea u t o r e g r e s s i v em o v i n g a v e r a g e ( a r m a ) m o d e l s a sp e r f o r m i n gb o x - j e n k i n sm e t h o db i ca n ds y s t e mo r d e r i d e n t i f i c a t i o nt ou n i f yw ei n t r o d u c e dt h ea u t o r e g r e s s i v eo r d e rd e t e r m i n a t i o nc r i t e r i o na n d c o m m o nf a c t o rt e s ti nd e t a i l a n dc o m p a r et h e s et w om e t h o d st oe s a c fa tt h ee n d 啊wf o r m e ru s e dt w o - s t a g er e g r e s s i o nm e t h o di ne s t i m a t i o na n dt h ea u t o r e g r e s s i v eo r d e r d e t e r m i n a t i o nc r i t e r i o ni no r d e ri d e n t i f i c a t i o n i nt h el a t t e r ，h o w e v e r ，b o t he s t i m a t i o na n di d e n t i f i c a t i o na r eb a s e do i lam a t r i xf o r m e d f r o mt h ec o e f f i c i e n t so fa u t o m g r e s s i v e a p p r o x i m a t i o nt ot h ep r o c e s so fi n t e r e s t w es h o wt h a t az e r od e t e r m i n a t i o no ft h i sm a t r i xi sn e c e s s a r ya n ds u f f i c i e n tf o rt h ee x i s t e n c eo fac 0 1 1 l r n o n f a c t o ri na u t o r e g r e s s i v ea n dm o v i n ga v e r a g el a gp o l y n o m i a l sa n dt h e r e f o r ef o rr e d u n d a n t p a r a m e t e r si nt h em o d e l i nt h em e t h o dc o m p a r i s o n ，m a i n l yt h ei n f l u e n c ep e r f o r m sf r o mt h es a m p l es i z e ，m o d e l s t r u c t u r ea n dp a r a m e t e rv a l u e st ot h er a t i o n a t i t , yo f t h em o d e li se l a b o m t e d k e yw o r d s ：b o x j e n k i n sm e t h o d ；b a y e s i a ni n f o r m a t i o nc r i t e r i o n ；t w o s t a g er e g r e s s i o n m e t h o d ；a u t o r e g r c s s i v eo r d e rd e t e r m i n a t i o nc r i t e r i o n ；c o m m o nf a e t o rt e s t 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研 究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他 人已经发表或撰写过的研究成果，也不包含为获得东北师范大学或其他教育机构 的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均 已在论文中作了明确的说明并表示谢意。 1 学位论文作者签名：蜘蕉日期：巡2 定笸：2 兰 学位论文版权使用授权书 本学位论文作者完全了解东北师范大学有关保留、使用学位论文的规定，即： 东北师范大学有权保留并向国家有关部门或机构送交学位论文的复印件和磁盘， 允许论文被查阅和借阅。本人授权东北师范大学可以将学位论文的全部或部分内 容编入有关数据库进行检索，可以采用影印、缩印或其它复制手段保存、汇编学 位论文。 ( 保密的学位论文在解密后适用本授权书 学位论文作者签名：z l l 撞蔓一 指导教师签名：! 鑫 日 期：) 壁显：口：2 三日期：j 。2 2 = 0 ，有y a h ) = y ( 的，h = o ，1 ，_ j 。正因如此( 当然还有其他原因) ，a r m a 过程在时间 序列数据建模中起着关键作用”。 这类模型通常有如下表示： m ，( 丑) z ：= 。( b ) q 其中b 是后移算子，b “互= 互。( 聊：) ， q t = o 1 士2 为自噪声序列。 e ( 珥) ：0 ，v a t ( a , ) ：一。西，( 功；l 一壹办b ，o 。( 功：l 一壹谚b ，。当西，( b ) ，。( b ) 的 j - 1 j - l 根都在单位圆外时。原过程即是平稳的又是可逆的。a r m a ( p ，q ) 过程即有无限阶滑动平 均表示：z ，= 、壬，( b ) = y j q 叫( 甲( b ) = 吖( b ) 。( 奶) ，又有无限阶自回归表示： j o 万( 占) 互= z f 一乃互叫= q ，即z f = 乃z f + q 。( 万( 丑) = - l ( b ) ，( 占) 权竹和乃都是 j - lj - l 绝对可和的) 。 根据已经掌握的一组样本五，z 2 ，z 建立a r m a 模型，其含义就是对模型的阶数 q ) 和参数( 力，6 i ，西) 做出判断和估计。- - 般称( p ，q ) 的判断为定阶，而估计相应的 办，谚，称为参数估计。然而参数估计都是在假设自回归滑动平均模型的阶数事先已知 的情况下进行的。但事实上这些阶数几乎总是不知道的。所以定阶成为其中有难度的一 部分。 用假定的某类模型来拟合量测的数据有各种不同的方法，而且即使是用同一组量测 数据也可能得到不同的拟合模型。这一点并不奇怪，人们可以从各种准则出发嘲i 如 模型参数数目较小，便于实施计算，拟合残差最小或其他准则最优等来选择自己认 1 为最合适的模型。 所以，在过去二十多年的时间里，人们给出很多a r m a 模型的定阶方法。b o x 和 j e n k i n s 最早着眼于用序列的自相关系数函数( a c f ) 和偏自相关系数函数( p a c f ) 1 1 1 来定 阶，以后不断有人在这方面提出新的方法。如w o o d w a r d 和g r a y 的广义偏自相关系数 函数( g p a c f ) 【2 1 ，t s a y 和t i a o 的广义样本自相关系数函数( e s a c f ) t 3 1 等。由于b o x 和 j e n k i n s 最早指出序列的自相关系数和偏自相关系数的不同表现性质决定了a r m a 模型 的类别，所以b o x - j e n k i n s 方法可以说是时间序列分析建模的启发式方法。还有一类方 法是给出某种定阶准受l j ，根据准则最优来确定模型的阶。这始于a k a i k e 的两种方法： 基于预测误差方差最小准则( f p e 准则) 或信息损失最小准则( a r c 、b i c 准则。在这 之后r i s s a n a a 在1 9 7 8 年给出了s 准则，h a n n a h 和q u i n n 在1 9 7 9 年给出h q 准则，g e w e k e 和m e e s e 在1 9 8 1 年给出b e c 准则等【”。 当然定阶问题不存在“万能公式”，我们所能做的就是用某种方法得到更接近于现 实过程的模型。1 9 8 5 年g o o i j e r 等人写了一篇很漂亮的综述p 】，总结了自1 9 7 0 年到1 9 8 5 年期间的1 3 种方法：f p e 准则、c a t 准则、c v c 准则、越c 准则、b i c 准则、b e c 准则、h q 准则、s 准则、a c f 和p a c f 、g p a c f 、e s a c f 、c o m e r 方法、r - a n d s a r r a y 。 并把这些方法加以分类比较。 分类的原则是：“主观”方法( s u b j e c tm e t h o d ) 和“客观”方法( o b j e c tm e d l o d ) 。主观 方法通常认为是由人来做某种决定。如选择显著性水平，某统计量图表性质的观测；而 客观方法则在建模过程中不必要加进人为因素。主观方法又分为两个子类：基于统计假 设检验的方法和基于确定或随机理论的方法。客观方法又包括了一步预测误差、信息尺 度和贝叶斯方法( 当然也有另外的分类，比如c h i o 把c o m e r 方法、e s a c f 等称为“模 式定阶法，f “( p a t t # mi d e n t i f i c a t i o nm e t h o d s ) 。 在这篇文章的最后，作者给出了几种方法的联系： 1 a i c 准则和似然比检验法有如下关系： a i c ( s ，o ) - a i c ( l ，o ) = l r ( s ) - 2 ( l s ) ( s 2 0 ，1 ，l - 1 ) 2 m c 准则和f p e 准则有如下关系： a i c ( p ，q ) n l o g f p e ( p ，q ) 3 a i c 准则和c a t 准则有如下关系： c a t ( p ) 垒x p - a i c ( p ，o ) ) 单纯关于方法的比较，也有很多人发表了自己的看法。如：k o e h l e r 关于a i c 与b i c 的比较【”，k r e i s h a 关于c o m e r 方法、基于线性估计和自回归定阶准则的方法( a r c r i ) 以及广义样本自相关系数函数定阶法( e s a c f ) 的比较【8 】 2 1 2 内容简介 1 9 8 5 年以后，不断有人提出了新的定阶方法，本文结合b o x - j e n k i n s 方法和b i c 准则，详细阐述了1 9 9 0 年以后具有代表性的两种方法：基于线性估计和自回归定阶准 则的方法( a r c r 1 和公因子检验定阶改进法【l “。并且把这两种方法和广义样本自相关 系数函数定阶法( e s a c f ) 加以比较总结。 a r c r i 在估计部分采用了两步回归估计法( t w o s t a g er e g r e s s i o nm e t h o d ) ，这是一 种线性估计，它的好处在于，简单易操作，在任何计算机上都可以实现。两步回归法见 于k r e i s h a 和p u k k i l a 于1 9 9 0 年发表的文章f l i j 4 ”i 。在这两篇文章中，作者给出了对于 a r m a 模型的若干种参数估计的方法。包括广义最d , - 乘和线性估计。两步回归法分两 步给出a r m a 参数的估计：第一步用长自回归给出初估计，然后利用广义最d x - - 乘得 到广义最小二乘估计，再利用这些广义最d , - - 乘估计逐濒更新残差的协方差阵，反复应 用广义最d , - 乘，直到给出的估计收敛为止。这样给出的参数估计更有效。定阶遵循的 是自回归定阶准则。它的基本思想是：如果建立的模型是合理的，那么残差 应该是 白噪声的。既然白噪声序列可以看成是a r ( 0 ) 序列，那么如果某序列被判定为a r ( p ) ( p ) 0 ) 的，则此序列就可以认为是非白噪声的。所以，就可以把 日l 当作观测数据，。用某种准 则( 如b i c 准则) 判断其是否为白噪声序列即可。 公因子检验定阶改进法的参数估计是基于长自回归系数所组成的矩阵。如果a r m a 模型是可逆的，那么就有a r ( 一) 表示，a r ( 一) 表示的系数也就包含了a r m a 模型中 的所有信息。实际中a r ( o o ) 可以用g r ( k ) 去近似。所以只要给出a r ( k ) 近似的参数估 计，就可以得到a r m a 模型中参数的估计。阶数的确定则着眼于长自回归系数所组成矩 阵的行列式是否为零。当上述行列式为零时，说明自回归多项式和滑动平均多项式有公 因子，则所建模型的阶数要减小。 本文在第二章详细阐述了基于线性估计和自回归定阶准则的方法。第一节介绍了两 步回归估计法，第二节说明了自回归定阶准则的基本思想，第三节则结合了b o x - j e n k i n s 方法从最简单的模型a r m a ( 1 ，1 ) 开始详细阐述了建模的基本步骤。 第三章主要介绍了 公因子检验定阶改进法。这种方法的框架前人已经给出。这里所介绍的是一种改进的方 法。在参数估计阶段，定义了新的统计量，使得估计更有效；在定阶中，应用了w 甜d 检验，并指出，当原假设成立时，w a l d 统计量渐进自由度为l 的卡方分布。第三节详 细阐述了建立模型的基本步骤。第四节则给出了作者自己关于这种方法的理解。 由于前面的综述中已经介绍过广义样本自相关系数函数定阶法，所以第四章只是简 单介绍了这种方法；只给出了递推公式和广义样本自相关系数函数的定义。在第五章我 们主要把这几种方法加以比较总结。最后是参考文献和后记。 第二章基于线性估计和自回归定阶准则的方法 2 1 两步回归估计 k o r e i s h a 和p u k k i l a 于1 9 9 0 年给出了a r m a 模型的几种线性估计n 1 】。线性估 计的好处在于简便易操作，在任何计算机上都很容易实现。这里我们要介绍的是两步回 归估计( t w o s t a g er e g r e s s i o nm e t h o d ) 。已有观测值z l ，z 2 ，z _ ，两步回归估计是按以下 步骤进行的： 1 用长自回归去拟合已知数据。 例如： z t - - z 耳i z 州+ a t ，- 1 ( 2 1 ) 其中窟，露可由y u l e w a l k e r 方程给出。 下面介绍如何利用y u l e - w a l k e r 方程给出以上估计。设 互 是因果自回归过程： z ：= 而z ；- l + 乃互- 2 + + 艿z 卜l + a t ， 口， w n ( 0 ，露) ( 2 2 ) 问题是：基于观测值z l ，z 2 ，乙求出系数向量( 乃，乃，死) 7 ( 工= 万，n 为观测 值个数) 和白噪声方差的估计。 由因果性知： 互= 吩q ( 2 3 ) 其中i 壬，( z ) = 姜奶= 百b ，l z l 1a 把( 2 2 ) 式两端同时乘以互一，并取期望， e ( z f ) = e ( 而互- 1 ) + e ( 筇2 z ，- 2 ) 十+ e ( 乱z f l ) + e ( qz f 一，) ( 2 4 ) 由( 2 3 ) 知最后一项为零则： ，( 力= 乃，( ，一1 ) + y ( _ ，一2 ) + + 万i ，u - 3 ) ( 2 5 ) 取j = l ，2 ，三，分别有： ，( 1 ) = 覆y ( 0 ) + 乃y ( 1 ) + + 石7 ( 一1 ) r ( 2 ) = x i y ( 1 ) + t r o t ( o ) + + 刀c ，( 上一2 ) r ( l ) = x t y ( l 一1 ) + 乃r ( l 一2 ) + + ，r 二，( o ) 4 即 其中 则： 那么： l = 1 t i 1 1 = ( 石l ，万2 ，九) ， l = ( ，( 1 ) ，( 2 ) ，( 工) ) ， ly ( o )r 0 )r ( l 一1 ) r ：i ，( 1 ) y ( o )y ( 工一2 ) l y ( 三一1 ) r ( l 2 ) ，( o ) f i = r 1 t 酬口，) ：劬一壹考铂石壹z 乃o ：e l 互，( z f 一壹考4 ，) i j 量1- 1l j = l j ( 2 6 ) ；，( o ) 一e ( z ：，壹乏2 ，) ：，( o ) 一t 。r 一- t 。 ( 2 7 ) 如果用样本自协方差函数r ( j ) ( j = 1 ，2 ，l ) 代替( 2 6 ) ，( 2 7 ) 中的自协方差函 数，u ) ( 产1 2 l ) 就可以得到磊和乏： i i ( 工) = r 。y l ，z = r i b ) 一t l r “t l ( 2 8 ) 2 两步回归第一步：给出参数的初估计。 给出上述估计后，我们就可以得到： 一，七一 口f 2 z l 一己乃2 t _ j ( 2 9 ) 把( 2 9 ) 代入互：圭谚弓。+ 口f 一壹g 有： i - i j - i z ，：圭谚钆+ 乏一壹9 a t “_ ( 2 1 0 ) 用最小二乘可以给出参数的初估计：旃，q 3 两步回归第二步：利用初估计得到广义最小二乘估计，用广义最j 、- 乘 估计逐渐更新q ，得到最终的估计。 ( 2 9 ) 所给出的五并不是真正的残差q ，仍包含随机变量。如果直接用于估计就 会导致有偏和无效估计。所以，设： 瓿= a , + r h ( 2 1 1 ) 再把( 2 1 1 ) 4 弋a z , = 艺破4 ，+ q 一哆q ，得到： ，m lj = l 互：杰谚z f 一。+ 乏+ 仇一至b ( 会h + 珥一，) ， ，t 1t l 即z f 一乏：圭破毛，。一圭色会, - j + r h 一羔岛仇一 ( 2 1 2 ) f l ，i l严1 这样残差就成为心( g ) 形式。令；仇一羔q 研一，( 2 1 2 ) 可表示为： 产l z f 一盆：圭破钆，一妻包二t - j + 马 ( 2 1 3 ) 在( 2 1 3 ) 中e ) = o ，c b v ) = q ，是由初估计组成的协方差阵。当q = l 时 盎；彰! 那么用广义最小二乘便可以给出参数估计：既，用广义最小二乘 估计代入q ，又可以给出新的估计，这样逐渐更新q ，直到收敛为止。设最后收敛时得 到的估计是堍，那么所建立的模型是： 互一五：圭不一羔矗会，+ b ( 2 1 4 ) i = i j = l 这样我们就得到了参数的估计。上述过程中我们利用了长自回归导出 q ，把 q 带回原模型进行参数估计，所以我们称之为两步回归估计。下面就是用自回归定阶准则 来判定所建立的模型是否合理。 2 2 自回归定阶准则 用两步回归法逐渐提高模型的阶总可以给出参数的估计，直到用某种准则判定所建 模型合理为止。自回归定阶准则正是用来确定模型是否合理。它的主要思想是：如果所 建立模型是正确的，那么残差是白噪声序列。所以我们就可以求出残差日，由( 2 1 4 ) 6 蜀：五一乏一圭厶毛。+ 妻醢三一 i = 1 ，1 把纽) 当作观测数据，检验其是否为自噪声序列。 白噪声序列可以看成是a r ( o ) 的；相反的，a r ( p ) ( p ， o ) 就认为是非白噪声的。 所以我们就可以利用某种准则对 建模，确定其p 值 ( 1 ) 若p ，= o ，则 q ) 为白噪声序列，原来所建立的a r m a ( p ，q ) 模型是合理的； ( 2 ) 若 0 ，则 ) 非白噪声序列，原来所建立的a r m a ( p 舢模型不合理，需 要重新建模。 对 q ) 建模可采用的准则有很多。都是基于以下函数 6 ( ) = 疗l o 甙仃) + p 宫( 矽 ( 2 1 5 ) 最小来确定模型的阶的。( a - 是取阶时得到的残差的方差的估计，g ( n ) 为惩罚 项) 当g ( 力_ 2 时，上述函数表示的是a i c 准则，当g ( 力= l o g h 时为b i c 准则。而 g ( 功= c l o g l o g n 时为h q 准则a 因为a i c 准则所定的阶往往偏高，在实际应用中，我们 往往选取后两种的任意一个来定阶。彰可以由y u l e - w a l k e r 方程得到。 2 3 建模的基本步骤 b o x 和j e n k i n s 曾提出”1 ，若样本自相关系数岛( ， g ) 截尾，则判断 刁为 m a ( q ) 序列；若样本偏自相关系数九( k p ) 截尾，则判断f 刁为a r ( p ) 序列；若岛， 九都不截尾，但被负指数型函数所控制( 即拖尾) ，则应判断其为a r m a 序列；若a ， 丸不但都不截尾，而且至少有一个不拖尾，即下降趋势很慢或是不具有下降趋势而是 周期变化，那么我们便认为观察序列 互 具有增长趋势或季节性变化( 最后一种情况不 再我们讨论之列) 。所以我们可以先做 互) 的a c f 图和p a c f 图，根据图形性质判定其 是否为单纯的m a ( q ) 或单纯的a r ( p ) 。若二者都不是，且两图都呈现拖尾性，那么就再 转用别的方法建立a r m a 模型。 1 建立阶数l ：万( n 为观测值个数) 的长自回归来拟合数据。即 7 z t ：皂：i z 叫+ ：t 州 ( 乃，q ，露可由y u l e w a l k e r 方程给出) 所以有： 2 建立a r m a 0 ，1 ) 模型： 把巩代入： 用最小二乘给出参数的初估计 其中 ；| = z , - 皂三 ，l 五= 破磊- 1 + 口，一日q 1 z ：= 红刁一l + a , - 0 1q 1 二1 叶衙_ n 由两步回归法把q = q + 仇代入( 2 1 6 ) 得： ( 2 1 6 ) ( 2 1 7 ) ( 2 。1 8 ) 2 ：一a t = 磊4 1 一岛口f - l + 岛 ( 2 1 9 ) 其中= 研一岛研一，c m a ( ，的，e ，= 。，c 。v ( b ，= q = 西b 钥首先用c 2 ，给 出的参数的初估计反代替q 中的矽，则壶= 彰 主 。由广义最小二乘给出 其中 l 乏j 2 一。争y ， 1，j 蛳钆 一 一 j 2五乙 p。l i i y 1，j j 工 一 一 口 口 一 一 j 2 一 一互乏 。l =x 1j j 2 嘶 m 一 一 l 2 互互 ，l = y 1j j 2 一 一 口 口 一 一 j 2知知。l = z 用上述广义最小二乘得到的估计更新q ，即遗：刃f ：畦1 ，再用广义最小二 【1j 乘求出参数的估计矗，皖，再更新q ，不断更新q ，不断得到新的估计，- t r 至u 收敛为止。设第k 步收敛，则所得到的模型应为 z , - a , = 奔q 刁_ l 一岛g ia t - l + s t ( 2 2 0 ) = 五一匆一；，q 铀+ 务略盒- 1 ( 2 2 1 ) 下面就是用自回归定阶准则来判定 q 是否为白噪声。 ( 1 ) - 若p = o ，则缸) 为白噪声序列，原过程就是h g m a ( 1 ，1 ) 的； ( 2 ) - 若p o ，则 b ) 非白噪声序列，原来所建立的h g m h ( 1 ，1 ) 模型不合理，模 型的阶数就要增加。假设经过上述判断后p o 成立。 3 建立h r m h ( 1 ，2 ) 模型： z ，= 萌弓- 1 + a t b q - 1 一岛q 一2 ( 2 2 2 ) 由( 2 1 5 ) 把怠代入，用最小二乘给出参数的初估计：缶，反，怠，由两步回归把 口f ：盒+ 研代入( 2 2 1 ) 得： z ：一盒；卉。一岛i ：一岛口：+ q ( 2 2 3 ) q = r h 一岛研i 一岛仉一2 ，e ( t ) = 0 ，c o y ( e , ) = q ， 6 = 吒2 1 b岛 岛岛2q 岛 龟反龟z ： ( b ，岛是由2 2 1 式给出的初估计) 。 用广义最小二乘算出 9 其中 x = 磊最 o l g = ( x q 一1 石) 一1 z q y ， 一a t 一2 l 一口f 一2 2 一口f 一2 3 ，y = i 互： 再用上述最4 - - 乘估计更新q ，逐渐得到新的估计，直到第k 步收敛为止。 则所建立的a r m a ( 1 2 ) 模型为： z ；一q = 破qz ：一t 一最g ia ，_ i - q 一2 + ( 2 2 4 ) 那么t = z t 一口l 一暖q 互一、+ 鼠q q 一+ 岛4 q 一：a 再次用自回归定阶准则判断 b 是否为 自噪声。若是，建模过程停止。若不是，继续建模。 4 反复上述估计和判定过程。 逐渐建立a r m a ( 2 ，1 ) ，a r m a ( i ，3 ) ，a r m a ( 3 ，1 ) ，a r m a ( 2 ，2 ) 每建一次都重复上述 过程，直到 岛 为白噪声为止。总之，从低阶到高阶对模型逐个进行拟合及检验，模 型阶数增加的顺序为： 1 参数：m a o ) ，a r ( 1 ) ； 2 参数：m a ( 2 ) ，a r ( 2 ) ，a r m a 0 ，1 ) ； 3 参数：m a ( 3 ) ，a r ( 3 ) ，a r m a ( i ，2 ) ，a r m a ( 2 ，1 ) b o x 和j e n k i n s 认为，实际应用中混合模型的阶数都是很低的。所以，从低阶到高 阶逐个穷举进行模型挑选的办法是可行的。而且线性估计在计算机上很好实现。特别是 两步回归估计的第二步中的是m a ( q ) 的，它的协方差阵很好得到用广义最小二乘法去 估计参数就不是很困难的事，而用上述参数更新q 也能使得到的佶计很快收敛，所以这 是一个很好的定阶方法。 l o 第三章公因子检验定阶改进法 3 1 参数的估计 定理3 1 1 对于模型灿m l a o ，q ) ： o ，( b ) z ，= g ( b ) 口f ( 3 i ) 其中，( 功= l 一魂b 一虎曰2 一办，b 9 ，o 口( 口) = 1 + b b + 岛b 2 + + 岛b 9 若o 。( 占) 的根在单位圆外，则( 3 1 ) 有如下无限阶自回归( a r ( m ) ) 表示： ( - - 口i ) z t = a t ( 3 2 ) - o 其中铴= - i ，嘶= q + 卉，= 一日啊+ 岛+ 唬 吩：- 警”q q 一，+ 力，u p ) ，嘶：一警毋嘶。，u g ) ( 3 3 ) 吩= 一q q 一，+ 力，u p ) ，嘶= 一毋嘶一，u g ) ( 3 3 ) 觋因鸲社舻m 所以螋o q ( b ) 张删篇邓( 耽即 o p ( 功= o g ( b ) 口( 占) 把各项展开为： ( 一c b q 一b 2 一鸭一) ( 1 + 0 1 b + 0 2 8 2 + + 9 ，占9 ) = ( 1 一萌b 一唬口2 一办，口9 ) 上式两边都是关于b 的多项式，所以左右相等当且仅当同次系数相等。即 = 1 ，一q + 岛= 一磊，一一岛啊+ 岛= 珐， 所以： 鸭咒9 l ：i u s 心。一嘶一艺：o ，u s g ) a o = 一1 ，嘶= b + 破，= 一岛+ 岛+ 欢， 伍i ：芝e 口i 。+ i u s 曲 定理证毕。 嘶：一警毋u g ) 。 l - i 上述定理表明若舢n f a q ，( 1 ) 过程是可逆的，则a r ( o o ) 表示的系数和舢v , m a ( p ，q ) 的系数可以互相表示。a r ( o o ) 表示的系数包含了* r m a ( p ，( 1 ) 过程的全部信息。如果我 们能够给出a r ( o o ) 表示的参数估计，那么也就可以给出a r m a q ，q ) 过程的参数估计了。 为了方便，我们把定理3 1 1 所阐述的关系用矩阵表示出来。( 3 3 ) 中前p + q 个等式用 矩阵表示为： c = b - 1 唧j ，州 ( 3 4 ) 其中唧扣，刊= ( q ，锡，+ 。) 1 ，c = ( 旃，杰，吃岛，岛，岛) 7 ， 且2 = 岛2 = ( g ) 1 一喁 一 一口口一1 占= 匕 0 1 一q 一q p 2 0 0 1 一n 0 - 3 一a p t一c p 1 1 一a p 4一a p q 2 n p + q 七 一a p ( 3 5 ) ( 3 6 1 ) ( 3 6 2 ) 其中l 是p 阶单位阵，令口，= o ( 歹 p ，则中也会有零出现。 若q ：o ，贝e j b = t , ；若p = - 0 ，则b = 岛2 。 有了( 3 4 ) 这一关系后，如果我们把岱代入就可以得到, r m a ( p , q ) 的参数估计 c = ( 荫，唬，九岛，岛，岛) 7 。但是，在一只( m ) 表示里，口是无法给出的，所以我们用足 够高阶的4 置( 七) 去近似( 豇= d ( 乃) 为观察值个数) ，那么a r m a ，q ) 的参数估计就可 以按以下步骤进行： 1 长自回归：建立a r 模型，用最小二乘给出三l ：( 会i ，oo 色) r ， 2 m a 参数估计：定义吒p “朋= ( + l ，) 7 ，口= ，岛) 7 ， 1 2 呷。 ? 乏 a = 一a p n p - 、吐p 2 一a p q n 吨p “叫j 一一i 绵一p 2 吃- l 咆2 咆3 鸭1 ( 3 7 ) 其中，= 一i ，吩= o ( _ ， o ) 。则由( 3 3 ) 知嘶p “朋= 朋，把第一步给出的估计代 入就可以得到： 口= ( 么爿) - 1 么口 p l 朋 ( 3 8 ) 3 a r 参数估计：把( 3 5 ) 的b 扩展为： d = o ( 2 弦，2 9 ， 则a i t m a 0 ，q ) 的p + q 个参数估计为： c = ( d d ) - 1d ，口 ( 3 1 0 ) ( c 渐进等于y u l e w a l k e r 方程的根。) 可以证明第三步中得到的估计中的痧与第二 步得到的占是相同的。 以上估计方法前人已经给出了框架。为了得到更有效的估计，这里保留前两步而把 a r 参数估计改变一下。定义： u = z z r - l f , l 口 ( 3 1 1 ) 其中z = ( 互+ 。z f ，口是第一步中由长自回归a r ( k ) - 互。m 是列向量为z 的前k 个滞后值组成的矩阵，即： z l 【i l = 所以可以看成相应的残差向量。令 z tz i “z i 互一，乙z ，一。 z lz 1 z 1 t z + ：z 一杰谚正， 则有才= z _ 】，所以类似于上述2 中 声= ( z 7 - 1 驴】z 一 l p l ) 一1z l i 州z ( 3 1 2 ) ( 3 1 3 ) ( 3 1 4 ) 虽然由( 3 1 1 ) 给出的也不是渐进有效的，但是比用( 3 。1 0 ) 得到的估计有效。 这样，我们就利用a r ( k ) 的系数与a r m a ( p ，q ) 系数之间的关系，给出了模型的参数估计。 3 2 公因子检验定阶 如果a r 部分和m a 部分有公因子，那么矩阵b 的行列式为零，所以a r ( o o ) 表示的 系数所组成的矩阵b 可以用来选择a r m a ( p ，q ) 模型的阶。d e t ( b ) = d e t ( b ：2 ) 。因此， 我们所关注的是d 呱岛：) 并且有这样的结论： d e t ( b 。) = 0 ( 用口乞表示强调是由a r ( o o ) 表示的系数所组成的矩阵) 当且仅当a r 多项式和m _ a 多项式有一对公因子。 以下几个定理支持以上结论。 引理，( b ) ， 。( b ) 的特征多项式分别记为： p ( z ) = x ，一磊x 一一一砟，q ( x ) = x 9 + q z 9 - 1 + + 岛 若p ( x ) ，q ( 功有公因子则，( 口) ， 。( 口) 也有公因子。 定理3 2 1d e t ( r o ) = r ( g ( 工) ，p ( 工) ) ：i ! i 行( r , - a j ) 。 其中r c q c 破尸c 善 为p c 巩q c x ，的结式，以为q c x ，的根，一为p 的根，r = ( 是 为 ( p + g ) ( p + g ) 的矩阵。其中： 见 4 x ( ，+ g ) 墨= p ( ，+ g ) 1 a l 岛岛0 0 01 q 岛吃0 0 0 1 瞑岛吃 1 一q - g 9 2 叫b 00 0 1 啦一口2 一口p 00 00 1 飞川2 一 证明：p ( x ) ，q ( x ) 有非常数公因子的充要条件是：存在不全为零的多项式 “( 功，v ( 力f 【胡使得甜( 工) q ( 功= v o ) p ( 砷，其中d e g ( u ( x ) ) p ，d c g ( “砌 1 ) ，那么，用舀代替口，用痧代替口，g 代替g ， 厦满足( 3 3 ) ，且有 磁= 一a p a p - 、 一a p - 2 一q p q 1 一a ma p a p 、 一n p 一4 + 1 一口”q i 一口”4 2 一口p q 一3 一口d ( 霹是由睨中j + 1 列乘以嘶加到第j 列得到的，最后一列不变) 则d c t ( 髭) = d 科( ) ， 然后，前g f 行分别乘以反后加到最后一行，由于玩与一厅，满足( 3 3 ) ，所以，当矿= q - i 时最后一行除最后一个皆为零。最后一个为咱名一杰舀，口，。，由瓯：吼一吼一。递推得： f t 0 1 6 t = 西一砖且= 西。= 一i ，q = 反= o ，o o ) 。则 l - o 4一p口一i p - t 一一艺矾；一球一以一岛，一 i - o f - oi m l，- o p g i ，一 = 艺一( 一口，一囟口州) 。0m = 套( 一谚) 以= 垂( 一鸬) ， ，i o 。 令磁左上( g 一1 ) ( g 1 ) 矩阵为珑“，则有磁。= r ( q ( x ) ，p ( 功) ， 则 一 口 d e t ( b 。) = 月( ) ，户( 工”n ( 一肛) = r ( q ( 功，p ( x ) ) 。 l l l 由( 1 ) ( 2 ) 定理得证。 有了定理3 2 2 的支持，我们就可以检验b 。行列式是否为零来确定是否有公因子， 进而确定模型的阶。但是，就如我们以前所提到的，在4 r ( 叻表示里，参数的估计是无 法给出的。所以我们用高阶的爿r ( 后) 去近似，所得到的参数估计所组成的矩阵记为b 乞， 那么当k 增加时，有专占。，所以，实际操作中，我们要检验的对象是。 对于k 阶自回归近似，所有p + q k 的a r m a ( p 柚模型都要考虑。不同的p 、q ， 得到不同的岛：，对所有的占玉做公因子检验，就可以确定模型的阶。当然，由以下推论 知还可以做关于b 。的秩的检验来定阶。 推论：若q ( x ) 和户( 力有s 个公因子，贝1 r a n k ( b 4 ) = q - s 。( 为了表示b 。2 2 对p ，q 的依赖，用b 4 。( p ，q ) 来表示) 证明： ( 1 ) 当s = l 时，由定理2 ，d d ( 口。2 2 ( 易口) ) = 0 ，则r a n k ( b ”2 2 ( p ，g ) ) q - 1 而 b 。( p - 1 ，q - 1 ) 是b 。2 2 ( p ，q ) 右上角( q - 1 ) + ( q - 1 ) 的矩阵，由定理2 知， d e “曰。( p l ，q - 1 ) ) 0 ，所以，r a n k ( b 。( p ，g ) ) = q - 1 。 ( 2 ) 设s 时，曰。2 2 0 ，g ) 的最后一行 是前g 行的线性组合。因此，b ”2 2 ，g ) 的秩与去掉最后一行的子矩阵的最高秩相等。 再考虑矿2 2 ( p ，譬) 的子阵0 。( p - 1 ，g 1 ) 表明a r 多项式和m a 多项式有s 一1 个公因子， 秩为q - s 。因此矩阵的第一列可表示为后q - s 列的线性组合。类似的b 。2 2 ( p ，q - 1 ) 的秩 为q - s ，它的第一列是其它列的线性组合，因此也是口。( p ，g ) 后q - s 列的线性组合。 所以，r a n k ( b 。砼( p ，g ) ) = g f 。证毕。 下面，我们介绍一下公因子检验是如何进行的： 日0 ：d e t ( s ：2 ) = 0v j h ：d e t ( b 2 2 ) 0 。 选用的统计量为a 埘统计量：g ( 去) 2 g ( 三) 矿 ) g ( 三) ，其中，三是k 阶自回归近 似系数的估计，g ( a ) 是曲t ( 占五) 的数量表示，g ( a ) 是g ( a ) 关于每个系数求导后得到的 k i 维列向量，v ( a ) 是最小二乘得到的口的协方差阵，则由j 方法知：g ) v ( a ) g ) 是g ( a ) 的协方差阵。例如：i d a 部分q = 2 时， g o ) = d e t ( s ：d = f 一? 9 一? 。卜三，2 一去川会，“， j i 卜口p i一口p g ( 贷) = 【o 0 - - a p + l2 a ，一a p 10 0 】2 ， 其中一口肼在第p - 1 个位置，2 a p 在第p 个位置，一口，q 在第p + 1 个位置。 若a r 多项式与m a 多项式有一对公因子使风成立，则耽材统计量是渐进石2 的。 女寸时有一嫒，则以上进行的就是检验d e t ( s 4 丑) = o 。若多于一对公因子则 g ( 占) = o ，_ b w a l d 统计量不再是渐进石2 的，g a l b r m t h 等给出此种情况下统计量的 分布 蚓。在通常情况下，用莓给出水平即是正确的，是岛：是中非零的自回归系数个 岱。 数，( ，( o ) 1 ，i ( 1 )r 2 0 )仅i )r 4 0 ) 2 ，i ( 2 )r 2 ( 2 )r 3 ( 2 )r 4 ( 2 ) t s a y 和啊a 0 指出，对于a r m a ( p ，q