（应用数学专业论文）含时变矩阵的状态空间模型估计与预测.pdf

摘要 状态空间模型是一类范围很广且应用性很强的统计模型，鉴于在一定假设 条件下由模型导出的各类k a l i i l a l l 滤子和平滑可以应用到模型推断的各个方面， 因此，将时间序列所建立的模型纳入这个框架内考虑，对参数估计、检验及预 测等推断问题的处理存在着很大的优势。本文着重研究了非中心、含时变矩阵 的线性高斯状态空间模型以及非高斯、非线性状态空间模型核心的推断问韪。 具体来说，所做工作包括以下几个方面： 第一，以中心化常系数线性高斯状态空间理论为基础，论述了非中心、含 时变矩阵的状态空间模型基于k a l m a n 滤子和平滑的参数估计、检验和预测， 重点讨论了在各种假设条件下以e m 算法为核心的参数的极大似然估计及检 验。 第二，研究了含时变矩阵的状态空间模型在初始扩散情形下精确初始化 k a l m a l l 滤子和扩大的k a l m a l l 滤子及的迭代规律。作为应用，利用这两类滤子 及对应的平滑，给出了含缺失观测值的含有外生解释变量且系数随时间变化的 回归模型的参数的极大似然估计求解方式，并对识别的模型给出了观测变量提 前若干期以精确初始k a l i n a n 滤子所表示的预测结果。 第三，对于非高斯、非线性模型，本文重点研究了这些模型的线性化、扩 展的k a l i n a n 滤子和平滑、基于线性化模型的极大似然估计与预测，以及适用 于重要：袖样的从经典分析和b a y e s 分析两方面入手的累积状态向量函数通过模 拟产生的精确估计，这种模拟可以直接应用到对似然函数和预测的估计。 第四，对于以近似线性化模型进行推断的非高斯、非线性模型，鉴于线性 化是这一过程的核心环节，本文对三类含时变矩阵的非高斯状态空间模型给出 了由e m 算法迭代产生的线性化模型的具体形式，这三类模型包含了大多数常 见的非高斯状态空间模型。 第五，对于最一般的且可含间变矩阵的非线性状态空间模型，本文着重讨 论了基于一阶t a y l o r 展开和以e m 算法迭代产生的线性化方法。作为应用，以 这种方法处理了可揭示股票收益和波动性内在关系的s v m 模型，给出了近似 线性化模型参数极大似然估计的产生形式以及由近似线性化模型导出的扩展 k a l i n a n 滤子所表示的预测。 关键词：线性高斯、非高斯、非线性状态空间模型，k a l m a n 滤子和平滑，近 似线性化模型，重要密度和重要抽样 a b s t r a c t s 诅t es d a c ei sas o r to fm o d e is t n l c t u r ew 1 1 i c hh a saw i d er a l l g eo fi n c l u d i n g v a r i o u s 渤t i s t i c sm o d e l s 0 w h gt og i v e ns o m em o d e lh y p o m e s i su n d e r 也i ss t r u c _ i l r e ， i tc a 工lb ep r o d u c t e dc o r r e s p o n d i n gk a l m a l lf i n e ra n dt h e i rs m o o t h e rs y s t e mw h j c h c a na p p l yt oa h n o s ta s p e c t so fm o d e li 1 1 f c r e r l c es u c ha sp a r a m 酏凸re s t i m a t e ，m o d e l d i a g n o s ea n dp r e d i c t o r a c c o r d i n g l y ，t h e r ea r eg r e a ta d v a l l t a g e so fm f e r 髓c et os t a t e s 口a c em o d e i s c o n c r e t e l y ，w h a ti 、v o r k e dc o n c l u d et h ef o l l o w i n ga s p e c t s ： f i r s t b a s e do nt l l em a n l r et h e o r yo fc e n 廿a l1 i n e a rg a u s s s i a ns t a t es p a c em o d e l s w h i c hh a v ei n v a r i a b l ec o e 伍c i e n t ，id i s c u s sp a r a m e t e re s t i m a t e ，d i a g n o s ea n d p r e d i c t o rf o r1 曲e a rg a u s s s i 趾s 诅t es p a c em o d e i s 、v i t hn o n c e r 血ea n dt i 芏n e v a r y i n g m a t r i xb vt h e i rk a l i 工1 a nf 1 1 t e ra n ds m o o m e r ，a 1 1 dt h em a x i m u ml i k e l i h o o de s t i m a t i o n s o f p a r a m e t e r1 i n d e rv a r i o u sb y p o t h e s i sa r ec o n c e n 台a d ys t u d i e de s p e c i a l l y s e c o n d ，t h er e c u r i o nn l l e so fe x a c ti 工l i t i a l i s a t i o nf i l t e ra i ma u g m e m e df i h e ra n d c o r r e s p o n d i n gs m o o m e ri n 也es i t u a t i o no fd i 矗u s ei m t i a l i za _ d o na r es t u i e d a sa n a d p l i c a t i o n ig i v et h em o d eo fm a 对m u ml i k e l 诜o o de s t i m a t i o nf o rr e 昏e s s i o n 如o d e l s w 1 1 i c hk ee x o g e n o u se x p l a n a l i o 】了v a r i a b l e st h a tc o e m c i e n tm a t r i xv a r y 诵t ht i m e b vt h ee x a c ti i l i t i a l i s a t i o no ff i l t e ra n da u g m e n t e d 日t e ra n dc o r r e s p o n d i n gs m o o 血e r mt h eh v d o t h e s i so fd i 丘- u s ei 面t i a l i z a t i o n ，f o r c a s t 矗b o u to b s e r v a t i o n a lv a r i 矗b l eo f i d e n t i 丘e dm o d e ib ve x a c ti n i t i a l i s a t i o no fk a l r n a nf i h e ri sr e v e a l e ds i l u l t a l l e o u s l y t a st on o n - g a u s s i a na 1 1 dn o n - n o m 抽e a rs t a t es p a c em o d e l s ， l l n e a r i s 砒i o n e x t e n d e dk a l m a i lf i l 把ra n ds m o o 也e tm a x i r n 吼1 i k e l i h o o de s t i 工n a t i o n a r ec 1 1 i e f i ys t u i e d ，a tm es a m et i m e ，a 1 1 a l y s i s 丘o mb o t hc l a s s i c a la n db a y e s i a l l s t a n d p o i mo ne x a c te s t i m a t i o no fs t o c k e ds t a t ev e s t o rf u c t i o nb ys i i n u l a t i n gb a s e do n i 加p o r t a n c es a m p l i n ga r er e s e a r c h e d ，a n db yt 】1 i ss i m u i a t m 岛w ec a no b t a i nt h e e s t i 工n a t eb o mo fi k e l m o o df u c t i o na n df o r e c a s tf b ro b s e a t i o n a lv a r i a b l e f o u r n l i nv i e wo fl i n e a r i z a t i o ni sc o r es e 鲫e n to fi i l f 苦r e n c eo nn o n g a u s s i a 工l 趾dn o n n 0 1 1 l i n e a rs t a t es p a c em o d e l sb a s e do nt 1 1 e i r 印p r o x i m a t i n gm o d e l s ，1w o r k o nt h r e es o r t so fn o n g a u s s i a i lr n o d e l s 、v i mt i r n e v a r y i n gm 砌x ，a n ds h o wt h e c o n c r e t el i n e a rm o d e l sp r o d u c e db ye ma l g o r i 吐m ni s 也et l l r e es o r t so fm o d e l s 也缸 c o n c l u d em 旬o rc o m m o nn o n g a u s s i a ns 诅t es p a c em o d e l s f i 舫，a p p r o x i m a t i n g l i i l e a r i z a t i o n a lm o d e l s o ft h em o s tm e d i o c r e n o n n o n l i l l e a rs t a t es 口a c em o d e l sb a s e do nf i r s to r d e rt a v l o rs e r i e sa n de m a 1 2 0 r i m ma r ea l s or e s e a r c h e di nt h i st h e s i s a sa na p p l i c a t i o n ，id i s p o s eo fm es v 】 m o d e lw h i c hc a ne ) 中o s ei n t e r e m 口o r a lr e l a t i o n sb e t w e e ns t o c ki n d e xr e n l r 工l s 趴d v o l a t i l i t ua n dg i v e 也em o d eo fm a x i m u ml 像e l i h o o de s t i m a t i o nf o rs v mm o d e l ， m o r e o v e r - f o r c a s ta b o u to b s e r v a t i o n a lv a d a b l eo fi d e d t i f i e ds v mm o d e lb ye x t e n d e d k a l i n a nf i l t e ri sa l s og i v e nt o g e m e l k e y w o r d s ：l i n e a rg a u s s s i a n ，n o n g a u s s i a l la 工l dn o n n o n i i i l e a rs 诅t es p a c e m o d e l s ，k a l m a nf i l t e ra 1 1 ds m o o t h e r ，a p p r o x i m a t i l l gi i n e a r i s a t i o nm o d e l s ，i m p o r t a n c e d e n s i t ) fa n di m p o r t a n c es 呻l i l l g 学位论文独创性声明 本人郑重声明： 1 、坚持以“求实、创新4 的科学精神从事研究工作。 2 、本论文是我个人在导师指导下进行的研究工作和取得的研究 成果。 3 、本论文中除引文外，所有实验、数据和有关材料均是真实的。 4 、本论文中除引文和致谢的内容外，不包含其他人或其它机构 已经发表或撰写过的研究成果。 5 、其他同志对本研究所做的贡献均已在论文中作了声明并表示 了谢意。 作者签名： 日期： 学位论文使用授权声明 本人完全了解南京信息工程大学有关保留、使用学位论文的规 定，学校有权保留学位论文并向国家主管部门或其指定机构送交论 文的电子版和纸质版；有权将学位论文用于非赢利目的的少量复制 并允许论文进入学校图书馆被查阅；有权将学位论文的内容编入有 关数据库进行检索；有权将学位论文的标题和摘要汇编出版。保密 的学位论文在解密后适用本规定。 作者签名： 日期： 1 1 研究意义 第一章引言 状态空间模型是一种由观测方程和状态方程组成的独特模型结构。很多模型，无论是离 散型的还是连续型的，如系数随时间变化的线性回归模型、b 0 x j e n k i i l s 体系中的a r m a 模型与含单位根的a m a 模型、大多数的结构模型、g r a c h 模型组族与s v 模型族以及 大量的金融模型都能转化成状态空间结构进行研究。 因为在这样的框架内，由于状态方程所具有的m a r k o v 性，当模型满足一定假设条件 时，可以直接或间接导出高效的k a l m m 滤子和平滑或扩展的k a l r r l 滤子和平滑迭代系统。 正是k a l m a n 滤子和平滑或扩展的k a l m a n 滤子和平滑可以应用到线性高斯模型或非高斯、 非线性模型的近似线性化模型中绝大多数统计量的计算，如估计方面，线性高斯模型似然 函数可以由k a l m a n 滤子表述成特定的运算结构，即s c h w 印p e 误差分解公式，而在应用e m 算法极大化似然函数过程中核心工具一成绩向量的计算完全可由扰动平滑和对应的条件方 差来表示；检验方面，在状态空间框架内检验观测数据是否具有正态性、异方差性、序列 相关性、野点存在与否以及模型是否存在结构中断等推断问题的检验统计量都可以用一定 形式的滤子和平滑的代数结构来表示；在预测方面，预测函数的表示可直接以所识别模型 的k a l m a n 滤子来完成，正是凭借k a i m a l l 滤子和平滑高效的运算性质，状态空间是一类范 围很广且应用性很强的模型结构。 当然，以上k a l m a n 滤子和平滑的应用仅局限于线性高斯模型，而很多由时间序列识 别的模型并非具有这样的形式。即便有些模型是线性高斯的，但很多情形下模型的系数矩 阵或扰动方差矩阵随时间变化，例如，著将含外生解释变量且系数随时闾变化回归模型纳 入状态空间结构考虑，那么模型结构就具有这一特性。更复杂的情形还要考虑初始状态变 量具有无限方差的扩散形式，这一特定条件下只能发展精确k a l m a n 滤子和扩大的k a l m a n 滤子才能完成上述在统计推断中的应用，因此，对非中心、含时变矩阵或系数和初始扩散 的状态空间模型的研究就有着特别重要的理论意义和现实意义。此外，鉴于大多数离散化 的金融模型，如g r a c h 模型和s v 模型都具有自然的状态空间但更适宣以非离斯或非线 性的形式进行建模。然而，对非高斯、非线性状态空间模型进行的统计分析，无论是经典 的方法还是b a y e s 方法，借助线性高斯模型的理论和方法将模型线性化无疑是整个推断过 程的一个基本环节和重要前提。本文正是在上述背景下进行研究的。 1 2 国内外研究现状。吣“1 在国外，状态空间时间序列分析起源于1 9 6 0 年k a l n m 里程碑式的关于滤子及其应用 的论文发表和早期这一学术在工程领域的发展，经过四十多年的发展，以k a l i i l a i l 滤子和 平滑为核心的状态空间模型理论得到不断发完善，特别是初始扩散情形下由 r o s e n b e 唱( 1 9 7 3 ) 和d ej o n g ( 1 9 8 8 、1 9 9 1 ) 发展的扩大的k a l m a n 滤子和平滑，以及k 0 0 口m a n 和d u r b 协于2 0 0 1 年推出的精确初始化的k a l i n a 滤子和平滑极大地完善了状态空间框架内 的滤子理论，也使得在状态空间框架下的时间序列分析和应用有了更广的实用范围和更深 厚的理论基础。 非高斯、非线性状态空间模型由着很广的实际背景，但其理论和应用的发展也经历了 一些曲直。比如在金融领域，b l a c k 和s c h o l e s 最初将s v 模型作为期权定价的理论依据将 其引入，t 砂1 0 r y 于1 9 8 6 年首先将其视为状态空f 司框架内考虑，或许没有纯粹的分析工具 来处理的非高斯、非线性状态空间模型，使得s v 模型及与其有着类似应用的g a r c h 模 型在这个框架内自被引入开始，在随后一段时间内并未得到真实应用，直到1 9 9 2 年c a r l i n 、 p o l s o n 和s t o 位r ，利用b a v e s 手法通过m o m ec a r l o 模拟找到了非高斯、非线性状态空间模 型推断的一种方法，从而为像s v 及g a r c h 等模型在状态空间框架内进行应用铺平了道 路，1 9 9 6 年s h e 口h a r d 和g h y s e l s ，以及h a “e y 和r e n a u l l 等人用更一般形式的s v 模型作 为非高斯、非线性状态空间模型对金融数据的波动进行研究。随后，非高斯、非线性状态 空间理论和应用均得到较快的发展，k o o p m a n 和d w b i n 于1 9 9 7 年推出的基于重要密度的 非高斯、非线性状态空间模型的线性化开辟了基于近似线性化模型进行经典统计分析的新 途径，也为b a v e s 分析中模拟抽样提供了新的方法；加之1 9 9 4 至1 9 9 7 年间s h 印h a r d 、c a r t e r 、 k o h n 、m u l l e r 、w e s t 和g a i n e h n a n 等人从各个方面不断完善非高斯、非线性状态空间模型 基于m c m c 方法的b a y e s 分析体系，使得这两种建立在以一定方式模拟基础上的b a y e s 推断方式成为当今处理非高斯、非线性状态空间模型实际应用最有效、最流行的统计分析 方法。 如今，在应用中越来越多的模型无论属于离散型还是属于连续型的，都被纳入状态空 间框架内进行考虑和推断，如c m s t i a nd u n i s 和b i l lz 1 0 u 于1 9 9 8 年在其文献【1 3 中将f x 指示价格模型和其他高频时间序列纳入状态空间框架内考虑：2 0 0 0 年d u r b i i i 和k 0 0 p m a n 在其著作 3 】中对英国具有p o i s s o n 密度的车祸死亡人数序列、具有两点分布且含缺失值的 牛津一剑桥船赛胜负序列以及英镑美圆汇率序列用非高斯或非线性状态空间模型拟合并 进行相应的统计分析；k e l l e r h a l s 于2 0 0 1 年在其文献中 7 分别将以随机微分方程表述连续 过程的定价模型，如封闭式基金定价模型、利率期限结构模型以及电力期货定价模型通过 离散化后直接转化为状态空间结构进行诸如参数估计、预测和其他方面的推断。 在国内，虽然关于状态空间模型理论和应用的文献和书籍还是有一定数量，但绝大多 数仍局限在线性高斯模型的范畴，并且这个范围内，无论是理论还是应用鲜有考虑初始扩 散进行模型推断的文献。而对非高斯、非线性状态空间模型的研究大多也只局限子一些应 用。因此，状态空间模型理论创新和更大范围、更深层次的应用亟待加强。 1 3 本文研究综述 首先在第二章引用了经典的线性高斯状态空间模型及其k a l m a n 滤子和平滑的基本理 论，作为理论延伸和应用的基础。 在第三章，对非中心、含时变矩阵的状态空间模型，应用第二章的理论和方法首先导 出了这类模型在整体模型参数给定时的k a l n l a n 滤子和平滑系统；重点讨论了各种假设条 件下以k a l m a i l 滤子为主体的似然函数运算结构，即s c h w e p p e 误差分解公式：以及由滤子 和平滑构建的成绩向量所承担的e m 算法并由此得到未知参数的极大似然估计，并将其例 行惯例地应用于参数估计及检验；作为延伸理论的应用，在这一章最后，在状态空间模型 框架内，对初始扩散情形下含有外生解释变量且系数随时间变化的回归模型，利用导出的 精确初始化k a l m a n 滤子和扩大的k a l i l l a n 滤子及其它们的平滑进行参数估计和预测作了具 体的研究，不失一般性，我们然这样的研究在含缺失观测值的前提下进行。 第四章对含时变矩阵的非高斯状态空间模型提出了基于重要密度由e m 算法实现的模 型线性化的基本思想和实施方法，利用这种方法，推导了三类扰动具有特定分布且含时变 矩阵的非高斯模型线性化的具体结果，并对非中心、含时变矩阵的非离斯模型在其近似线 性化模型基础上发展了可用于对近似模型检验和预测的扩展k a l m a i l 滤子和平滑，这种检 验和预测无疑是原模型对应的检验和预测的一个很好的遥近，很多情况下可将其直接视为 原模型检验和预测的结果：对非线性状态空间模型，本文从最一般的模型形式出发，提出 4 了基于一阶t a y l o r 展开和e m 算法为核心的线性化的基本思想和实施方法，并导出了近似 线性化模型扩展的k a h n a n 滤子和平滑；非高斯、非线性状态空间模型的线性化的意义不 仅体现在近似线性化模型基础上用成熟的线性高斯模型理论对原模型进行统计推断，而且 它还是以抽样模拟实现包含参数估计和预测在内的经典推断或b a y e s 推断的重要前提，本 章对可产生重要密度的非高斯、非线性状态空间模型基于重要抽样进行的两种推断方式作 了基本的介绍。 作为第四章建立的理论和方法的应用，本文第五章对可揭示股票收益与其波动内在关 系的s 模型为对象进行讨论，给出了确定其近似线性化模型的参数极大似然估计产生 方式，并对由近似模型作出的预测作了具体结果。 第二章线性高斯状态空间模型及其k ai 脯n 滤子和平滑 2 1 线性高斯状态空间模型 2 1 1 模型及假设 线性高斯状态空间模型可以表示成多种形式，我们首先给出常系数矩阵、中心化的结 构，并在本章以此结构介绍推断线性高斯状态空间模型的核心工具k a h n a n 滤子和平滑。 这不仅考虑到此类模型及其导出的理论结构有着较筒约的形式，而且还缘于本文中将着重 研究的非中心及含时变矩阵的状态空间模型基本理论，比如k a i m a n 滤子和平滑、参数估 计及检验、预测等方面直接是这种常系数矩阵、中心化模型及其相应理论的推广。这类模 型通常表示为 y ，= 一，口，+ q ， 暑n ( 0 ，e ) ， ，。 q + 1 = 尽啦+ e 哺一n ( 0 ，q f ) ， f = 1 ，竹 其中，y ，一个p 1 观测向量，是m 1 未被观测的状态向量；( 2 1 ) 中的两个方程分别 称为观测方程和状态方程，分别揭示了观测变量的产生方式和状态系统的演化规律；矩阵 4 ，b ，c 。，q 和q f 假设已知；q 和研是相互独立且在各时点相互独立的白噪声序列或离 散化的w e n e r 过程；初始状态变量假设服从n ( q ，暑) ，独立于日，矗，研，巩且q 和只首先假设己知。 更一般的状态空间模型可考虑矩阵爿：，占，c ，只和q 依赖总体参数y 、壬r 随时间变 化，因而可将这些矩阵表示为4 ，( y ) ，b ，( y ) ，c ；( p ) ，q ( ) 和q f ( ) 并且观测方程和状态 方程含有依赖于模型参数随时间变化的非零中心项，( y ) 和6 f ( 妒) ，于是模型具有形式 _ y ，= d ，( ) + 爿，( 妒) 哆+ t ( ) ，岛一n ( 0 ，日，( 妒) ) ，、 q + l = 4 ( 妒) + e ( ) q + c f ( ) 仇( y ) ，聃n ( o ，q f ( ) ) ，f = l ，月 其中、壬，为模型的参数空间，对每一个y 甲，t ( ) 和珥( ) 是两个各时点独立且相互独 立的白噪声过程，由状态扰动的独立性知状态方程是具有m a r k o v 性从而使其仍具有很多 优良性质的一阶向量自回归。 就模型( 2 1 ) 而言，一般情况下c f 是单位矩阵，其他情况可定义玎= e 琅且 g = c q q 从而使模型显得更为简单，如果c 是m ， m 且q 非奇异，选择非奇 异的研不是奇异的硝对模型的处理将更有利。假设c f 是由单位矩阵的列所构成的子集劳 根据它选择了状态方程中具有非零扰动的行因之称其为选择矩阵，本文后续所涉模型包含 了c r 是通常的肌，矩阵的情形。对模型( 2 2 ) 中e ( ) 有类似的解释，唯一不同的是它依 赖整体模型参数v 随时间变化。 2 1 2 常见模型的状态空间结构o 川 作为一类模型结构，状态空间模型包容性非常广泛，很多结构模型如局部水平模型和 由其扩展的线性趋势模型、a m 舱模型和a r m 协模型、指数平滑模型、系数随时间变化 的回归模型、有着a r m a 误差的回归模型( 即r e g a r m a 模型) 、g r a c h 模型、s v 模型 6 以及大量的金融模型都能转化成这种模型来处理。下面是几个具体模型转化的实例 局部线性趋势模型 y t 2 蚌t + t ， = c + q + 茧 q “= q + ， 置n ( o ，盯；) ， 轰n ( o ，) ， ( 2 3 ) n ( o ，) 选择趋势“和坡度q 构成的2 维向量作为状态变量，则模型( 2 3 ) 对应的状态空间模型 可表示如下 y r = c ，。， 竺j + t ， = + ( 勤 a i m a 模型和a 】眦模型 首先考察l 维a r m a ( p ，g ) 模型 q n ( o ，一) ， 争n 隋 身 心4 y ，= 缈r _ 1 + + 以y ，一p + b + 岛q _ i + + 岛一g n ( o ，) ( 2 5 ) 令r = m a x ( p ，g + 1 ) ，4 = ( 10 o ) 且 仉2 b = b = y f 如_ y _ l + + 妒 y ，1 + 岛量+ + b l t 一卜2 - 1 + + ，2 + 岛岛+ + 只一l s 3 商 1 o 冉一 o 1 以o o 妒h + 印一t f c = c = 1 岛 ： 只 聃= g + 1 ( 2 6 ) 则a 砌从( 矽，口) 模型对应( 2 6 ) 的状态空间表示为 y t = a 芦t ， 。：t “= b t o ：t + c 刀t 其中，观测方程中无扰动，即相对标准模型( 2 1 ) ，其观测扰动方差矩阵e = o 如果l 维时间序列服从不含季节项的非平稳a r v i a ( p ，d ，g ) 过程，先对数据y ：施行 d 次差分运算产生服从 r m a ( p ，g ) 模型的平稳数据y ? = ，这里y 。= 儿一y f - 1 如 果数据y ，中含有季节项，差分运算中再并入季节差分可得到平稳数据y i = 4 ，其中 s 表示季节周期，d 表示数据中季节的阶数。对服从6 r m6 ( p ，g ) 模型的y ? 施行前述的 方法可得其状态空间表示，并将状态空间模型中的y j 还原成y ，的运算再加以相应调整，便 可以得到原先a r 以a ( p ，d ，g ) 模型的状态空间表示。 系数随时间变化的回归模型 设这类模型为 y ，= 4 ，啦+ 日， 一n ( o ，月：) ( 2 7 ) 这里系数向量岱，随时间交化，我们可假设中的每一系数变化都服从随机游动 q _ f _ l 。c 气+ 巩 从而，方程( 2 7 ) 与服从随机游动的向量方程 呸。1 = + 轨，研一n ( o ，d 构成其状态空间表示。 r e 售a r m a 模型 考察回归模型 y ，= ，p + 毒， f = 1 ，2 ，- 一，h ( 2 8 ) 假设y ，是1 维因变量，z 。是l p 回归向量，为回归系数，毒一a 】l m a ( p ，g ) 且有 ( 2 ，5 ) 形式的方程，将岱。定义为具有( 2 6 ) 中形式的变量且相应的状态方程为 位t n ；b a t + c n t ，令0 l = 8t = 0 8 ：，。c ：) t 亨年谩 耳峰心势c = q = ( 兰 ， a ? = ( x ，。) 则( 2 8 ) 对应的状态空间模型可表示为 y t = 置a ：， c c ：n = b ? a ：+ c ；n t ， 趋势一循环分解模型 这类模型的实质是用不被观测的成分建模宏观时间序列 型常以下列方式给出 ( 2 9 ) 中心化的趋势一循环分解模 y 。= h + + t ， f = 1 ，。，”，( 2 1 0 ) 其中y ，为数据，“，分别表示数据中不被观测的趋势项和循环项，为f 时刻的创新， 假设 s n ) ( o ，盯：) 趋势项以高阶积分随机游动建模 4 麒一n ) ( o ，盯：) 积分阶数越高对应一个更加平滑的趋势，趋势是形成非平稳时间序列主导因素的，) 过 程，实际上，多数情况下d = 1 或d = 2 分别对应随机游动与平滑趋势，较困难的是循环项， 这里采用的建模是h a r v e y ( 1 9 8 9 ) 正弦一余弦波 = 一c o s + 占s i n m ， 8 即循环函数是周期为2 ，振幅为厅面，幅角为t a l l 1 ( ) 的三角函数。基于这种 表示的循环项的一个随机化迭代方程可以如此给出 = 一盛黝州钞 ( 弘mm 珊闰，擤 其中，矿“0 ，1 】为确保这个2 维随机过程平稳的限制因子t 的值越趋于l 对应于一个越 持续的循环，易见y t a 眦( 2 ，1 ) 。 + l = ( 2 矿c o s 五) p + 2 一l + 幺一( c o s 五) 一l + ( 庐s i l l 旯) 矢一1 由此得的自相关函数为p ( ) = 妒。c o s m 女) ，它包含了趋势成分c o s 七，而的无条件 方差为；= ) 更为一般的情形可假设以上模型参数随时间变化，如果以一，( d ) 且模型参数随时间 变化，选择d + 2 维状态向量吒：( 衄，：“，4 h ，蛾) ，过渡矩阵尽= f ；：) ， q = 观测方程的系数矩阵为4 = ( 1 ol o ) 可表示为 y t = a t g t ， 口h 1 = b f 啦+ c 吼， ，。fc o s 丑s i n 丑1 7 f 2 魏l “n 丑c 。s j c = 则趋势一循环分解模型( 2 1 0 ) 的状态空间结构 翥二瓮躐，m 亿 巩一n i d ( 0 ，q f ) ， f = 1 ，m 以上矩阵中的o 为对应的形式零矩阵。 同时很多非高斯、非线性动态过程也可用状态空闯构架建模，下面是个具体例子 g a r c h 模型与s v 模型 这是广泛应用于经济金融时间序列波动性分析和建模的有力工具，从数据生成过程的 角度看，g a r c h 模型描述的是离散的可观测的时间序列的波动情况，即波动过程可由过 去的观测值和过去误差的平方项线性表示，而s v 模型则是一类随机微分方程的离散化表 示形式，它的波动是由一个不可观测的随机过程决定的。一般地，对某一动态过程波动如 股指收益的描述，如果观测方程表示为 9 o 。肭p 附 + 矩 屯择 l i 选 u 和阵矩差方动 扰 中 态 其 状 o o 略 o 00 y ，= 。+ q ，一n i d ( o ，1 ) ( 2 1 2 ) t 其中，麒= 口+ 6 j j u 为线性的随时间变化的均值，口是常量，x “( i = 1 ，七) 为可包含 滞后的外生因变量的解释变量，6 f ( f = 1 ，) 为对应的回归系数，岛为有着零均值单位方 差的独立同分布过程，仉为非线性的波动过程；同时对吼的演化规律附以方程 i = + ( y 。一h 一。) 2 + 屈。 川嗣 ( 2 1 3 ) = + q ( 盯。t 一) 2 + 屈畦， ? = 】忙l 其中，q 一，( f _ 1 ，p 一1 ) ，q 一。( f = 1 ，m a x ( p ，g ) 一1 ) 可观测，国，嘶， 属，以为未知参数，通常把方程( 2 1 2 ) 和( 2 1 3 ) 合称g a r c h ( p ，q ) 模型。显然，这个 模型具有状态空间结构。上述两个方程分别称为观测方程和状态方程，这两个方程都是非 线性的。 与g a r c h 模型不同，s v 模型把离散化的对数波动刻划成具有一阶自回归过程，即观测方 程和状态方程表示成 b y ，= ，+ 盯+ e x p ( 睾) ，岛n i d ( o ，1 ) ( 2 1 4 ) z 啊= 红一1 + 盯。珥， 吼一n i d ( 0 ，1 ) ( 2 1 5 ) 这里，h 同( 2 1 1 ) 中随时间变化的均值，盯为波动的单位参数，而，盯。为状态m a ( 1 ) 的模型参数，由于观测方程是非线性的，因而方程( 2 1 4 ) 和( 2 1 5 ) 构成了非线性的状态空 间模型。如果考虑均值中含有波动项，则上述两类模型对应的a r c h m 与s v m 模型仍然 可纳入状态空间框架下考虑。 2 。2k a l m a n 滤予及平滑盼3 2 2 1i ( a l m a n 滤子及滤子方程 k a l m a 玎滤子是从状态空同模型框架下导出的非常有用工具，其本质是一种连续修正系 统的线性投影的迭代算法，由k a l i n a i l 和b u c y 于1 9 世纪6 0 年代在解决空运工程和电讯工 程中最先创立并付诸应用。这种算法的优异性主要体现在对高斯脚w a 过程的精确有限样 本预测和精确似然函数的计算，分解矩阵自协方差生成函数或谱密度，估计系数随时间变 化的向量自回归。 在模型( 2 1 ) 中，设r = m ，y 1 ，q = e ( a ，i r 一? ) ，u = y ，e ( y ，阿) ， 只= v a r ( q i 誓，) ，鼻= v a r ( 叶) ，q i ；= e ( g ，i r ) ，e 。= v a r ( 口，l i ) ，且n ( d 。，只) ， 假设q ，置已知。由模型( 2 1 ) 知任意y ，可表示成相互独立的啦，矾，聃十岛的线性运算 及状态变量的m a r k o v 性可得p ( y ，b ，f ) = p ( y ，l q ) 且p ( q + 1 f 嘶，啦，z ) = p ( 口i 口l ，一，q ，e ) = p ( q “l ) ，下面我们的屠标是确定l 给定时噶+ 1 的条件分布，为 l o 之首先给出将导出滤子、平滑及相关问题的反映多维正态变量条件分布数字特征的一个重 要结论。 引理2 2 1 设x ，y ，z 为具有二阶矩以= e ( p ) ，w = e 【o 一以) ( g 一岛) j 的任意维正 态向量，其中印，q 扛，_ y 芦 ，如果= 满足条件乜= o 且p = o ，则 e ( x 陟，z ) = e ( x l y ) + 汀：z ， v a r ( x 陟，z ) = v a r ( 工l y ) + 石：2 由于模型涉及的均是正态变量，从而相关的联合分布和条件分布都是正态分布，于 是数量q + 。= e ( q + l l r ) 、只+ i = v a r ( + 1 i r ) 完全决定了分布p ( q “畋) ，设 p ( 呸阢，) n ( q ，只) ，k a h n a n 滤子的实质就是由数量q ，只到数量q + l ，迭代的实现。 由状态方程q “= e 呸+ q 珥易得 q “= e ( 县+ g 仇i z ) = ee ( q l r ) ， ( 2 1 6 ) 只“= v a r ( 尽q + g 聃i r ) = 旦v a r ( q 【r ) 耳+ c f q c ， f = l ，n ( 2 1 7 ) 前述v 为观测变量基于历史观测值提前一期的线性投影预测产生的误差，即 u = 儿一e ( y 。阢) 2 y ，一e ( 4 坼+ 目i e 一? ) = y 。一4 ，q ， 信息集r 与 鬈_ k 包含的变量可以相互线性表示，因而等价，故 e ( 呸j z ) = e ( y ：阢，v ，) ，但e ( h j z ) = e ( 岛i i ) = o ，于是e ( v ) = o 且 c o v o ，h ) = e 【y ，e 心阮) ， ，7 = 1 ，一由上述引理可得 e ( q i r ) = e ( 瞄r 。u ) = e ( qi i ，) + c o v ( q ，_ ) v a r ( u ) q = q + m ( “u ， ( 2 1 8 ) 其中 m ，= c o v ( ，v f ) = e e a ，( a ，一a ；) i l ：j 】4 = e e 口，( 4 口，+ s ，一爿，) l 王，；j ) = p4 ，且只= v a r ( 4 口，+ q 一一，) = 4 4 一只，当e 非奇异时，将( 2 1 8 ) 代入( 2 1 6 ) 得 1 毫：筹。1 q ， c z 埘 = e 呸+ 墨u ， r = 1 ，h ， 这里，k = 县- t f = 尽异4 ，巧于是q + ，就表示成了先前数值哆，k 的线性函数，再根据 引理2 2 1 可得 v a r ( q 阢) = v 盯( q | r _ ，叶) = i v a r ( 哎l r ，) 一c d v ( q ，一) 【v a r ( v f ) j 叫c o v ( q ，一) = 墨一m t 守m ： = 只鼻4 ，鼻_ 1 4 只 ( 2 2 0 ) 将( 2 2 0 ) 代入( 2 1 7 ) 得 # “= 县只爿+ e q f q ， f = 1 ，n ， ( 2 ，2 1 ) 其中= e 一墨4 更新方程( 2 1 9 ) 和( 2 2 1 ) 就是著名的线性高斯状态空间模型( 2 1 ) 的 k a l i n a l l 滤子( 或滤波) ，它能使我们随着最新观测值y ，f = l ，玎+ 的获得，更新基于信息 集对状态变量同期估计q k 和提前一期预测q + 1 以及对应均方误差矩阵昂和只“，而迭代序 列u ，m ，# ，墨和厶则是完成这个系统更新不可缺少的环节，整个迭代系统各序列间的关 系导出是多维正态回归模型标准结果( 引理2 2 1 ) 的一个应用。下面我们综合以上导出 的迭代系统各序列间关系如下 v f = m 一4 q ，f = 4 只4 + 只， q k = q + 鸩只“v f ，e k = 只一m 鼻1 蟛， m = 只爿，k = e m e = e # z e ( 2 ，2 2 ) l t = b 一k ! a ， n t a = b t q t + k ，t ， # 。= 尽只k 层+ g q c ， f = 1 ，n 必须指出这个系统的产生也完全基于初始状态分布假设，对于初始状态扩散，我们也将给 出两种不同技术导出精确初始化的k a h a l l 滤子和扩大的k a h n a n 滤子，后面将扼要地介绍 其中内容。 2 2 2 平精 i 状态平滑 虽然状态空间模型中的状态变量未被观测，但在某些设置下它可以有一个结构性解释， 在此情形下，未被观测的变量值往往倍受关注。在模型( 2 1 ) 中设由历史观测值构成的信息 向量定义为y 2 爿，必，必卜以这个信息向量为基础对状态变量呸的推断称为嚷的平 滑推断，记作幺= e ( f 功，由此产生的均方误差记为k = v a r ( q 一幺) = v a r ( 禽f d 此 时，由迭代系统( 2 2 1 ) 所表