（应用数学专业论文）离散小波在季节性长记忆过程上的应用研究.pdf

摘要 本文主要讨论了离散小波变换( d w t ) 在季节性长记忆过程( s l m ) 上的去相关 性以及基于小波去相关的季节性长记忆过程参数的近似极大似然估计全文共由 五章组成 第一章先简要介绍了离散小波变换在时间序列分析上的应用背景，研究现状 以及本文的主要研究内容 第二章主要介绍了长记忆过程，季节性长记忆过程以及多重季节性长记忆过 程的定义以及相应得谱密度函数( s d f ) 第三章主要讨论了季节性长记忆过程的离散小波变换和离散小波变换的去 相关性，并给出了离散小波变换在尺度内去相关的理论证明 第四章给出了一种基于小波去相关性的季节性长记忆过程参数的近似极大 似然估计( a m l e ) 的方法，这种方法极大的减少了估计计算的复杂度 最后一章以从6 2 2 年至u 1 2 8 4 年这6 6 3 年间尼罗河的最低水位时间序列为例，计 算了其参数的估计值，并将由此估计值得到的时间序列的谱密度函数与直接通过 时间序列计算的谱密度函数相比较，我们发现两者是相当吻合的 关键词：离散小波变换，季节性长记忆过程，去相关性，极大似然估计，谱密 度函数 a b s t a c t t h i sp a p e rm a i n l yd i s c u s s e st h ed e c o r r e l a t i o np e r f o r m a n c eo fd i s c r e t ew a v e l e t t r a n s f o r m ( d w t ) i nt h es e a s o n a ll o n g m e m o r yp r o c e s s ( s l m ) a n dt h ea p p r o x i m a t e m a x i m u ml i k e l i h o o de s t i m a t i o no ft h ew a v e l e t d e c o r r e l a t i o n b a s e ds e a s o n a l l o n g m e m o r yp r o c e s sp a r a m e t e r s t h ef u l lt e x ti sc o m p o s e do f at o t a lo ff i v ec h a p t e r s t h ef i r s t c h a p t e rb r i e f l yi n t r o d u c e st h eb a c k g r o u n da n dr e s e a r c h s t a t u so f a p p l i c a t i o no ft h ed i s c r e t ew a v e l e tt r a n s f o r mi nt i m es e r i e sa n a l y s i sa sw e l la st h e m a i nr e s e a r c hc o n t e n t so ft h i sa r t i c l e t h es e c o n dc h a p t e ri n t r o d u c e st h ed e f i n i t i o no fl o n g - m e m o r yp r o c e s s ，s e a s o n a l l o n g - m e m o r yp r o c e s s a n dm u l t i - s e a s o n a l l o n g - - m e m o r yp r o c e s s a n dt h e i r c o r r e s p o n d i n gs p e c t r a ld e n s i t yf u n c t i o n s ( s d f ) t h et h i r dc h a p t e rd i s c u s s e sd i s c r e t ew a v e l e tt r a n s f o r mo fs e a s o n a ll o n g m e m o r y p r o c e s sa n dd ec o r r e l a t i o np e r f o r m a n c eo ft h ed i s c r e t ew a v e l e tt r a n s f o r m ，p r o v i d e st h e t h e o r e t i c a ld e m o n s t r a t i o no fd ec o r r e l a t i o no fd i s c r e t ew a v e l e tt r a n s f 0 1 1 1 1i ns c a l e t h ef o r t hc h a p t e rp r o v i d e sam e t h o do ft h ea p p r o x i m a t em a x i m u ml i k e l i h o o d e s t i m a t i o no ft h ew a v e l e t - d e - c o r r e l a t i o n b a s e ds e a s o n a l l o n g - m e m o r yp r o c e s s p a r a m e t e r s ，w h i c hg r e a t l yr e d u c e st h ec o m p l e x i t yo fe s t i m a t i n gc o m p u t e t h ef i n a lc h a p t e rt a k e st h en il e sm i n i m u mw a t e rl e v e lt i m es e r i e si nt h ep a s t 6 6 3y e a r sf r o m6 2 2t o12 8 4f o ra ne x a m p l e ，a n dc o m p a r e st h es p e c t r a ld e n s i t y f u n c t i o no ft h et i m es e r i e st h r o u g ht h i se s t i m a t i o nv a l u ew i t ht h eo n e d i r e c t l yt h r o u g h t h ec o m p u t eo ft i m es e r i e s a sar e s u l tw ef i n dt h a tt h et w os p e c t r a ld e n s i t yf u n c t i o n s a r eq u i t ei d e n t i c a l k e y w o r d s ：d i s c r e t ew a v e l e tt r a n s f o r m ，s e a s o n a ll o n g m e m o r yp r o c e s s ， s p e c t r a ld e n s i t yf u n c t i o n ，d e c o r r e l a t i o np e r f o r m a n c e ，m a x i m u ml i k e l i h o o d e s t i m a t e s i i 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含为获得逝鎏盘堂或其他教育机 构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献 均己在论文中作了明确的说明并表示谢意。 学位论文作者签名：金山出 签字日期：如芦尹年 月易e t 学位论文版权使用授权书 本学位论文作者完全了解迸鎏盘堂有关保留、使用学位论文的规定， 有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和 借阅。本人授权逝姿态堂可以将学位论文的全部或部分内容编入有关数据库 进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名：屋山厶 签字日期：砂呵年6 月2 日 学位论文作者毕业后去向： 工作单位： 通讯地址： 导师签名：砧垮踢 签字日期：中么月多日 ， 电话： 邮编： 浙江火学硕士论文 第一章前言 在一些金融过程和物理现象中，我们经常会发现有些时间序列，如公司股票 的每股每季节盈利，某地一段时间的气候数据等会呈现出一定的循环或周期性， 这样的时间序列叫做季节性时问序列小波是分析时间序列的一种相当新颖的方 法，其正式的研究可以追溯到二十世纪八十年代但是在许多方面，小波仅仅是 具有新的优美的数学结果和有效的计算方法的古老概念的合成在某些情况下， 小波分析是现存的分析技术( 例如相关分析和谱分析) 的补充，而在其他情况下可 以用来解决一些在小波引入之前进展缓慢的问题 1 1 研究背景 离散小波变换在时间序列的分析上是离散傅立叶变换的一个有用的替代实 际上可以认为它是一个独立的并且是一个重要而且实用的进行时间分析的工具 离散小波变换是一个有效的分析工具，其基本理由如下： ( 1 ) 离散小波变换将时间序列重新表示为与特定的时间和特定的二进尺度 2 一相关联的系数形式而且由于可以从其离散小波变换的系数重构次时间序 列，所以这些系数就等价于原来的时间序列 ( 2 ) 离散小波变换允许我们将时间序列的能量分割为不同的时间和尺度相关 联的片段能量分解和著名的统计分析中的方差分析( n a o v a ) 技术很相似，于是利 用离散小波变换就可以得到基于尺度的方差分析，这与利用能量谱而建立的基于 频率的方差分析是十分相似的 ( 3 ) 离散小波变换可以有效地将物理应用中常见的大量的时间序列去相关 而时间序列统计分析的一个核心目的就是寻找将相关序列表示为不相关序列的 组合的方法结合我们可以利用离散小波变换的系数可以精确的重构原来的时间 序列，所以这是离散小波变换是时问序列分析的一个很有用的工具的根本原因 ( 4 ) 离散小波变换可以通过一种比快速傅立叶变换更快的算法进行计算此 算法即为离散小波变换的塔式算法 浙江大学硕士论文 1 2 研究现状 利用小波变换来分析长记忆时间序列的思想可以追溯到a 1 l a n ( 1 9 9 6 ) n 1 ， a l l a n 的“a l l a n 方差”用于高性能震荡器的频率平稳性的一个时域测量当使用 哈尔小波滤波器的时候，在特殊的尺度上a l l a n 方差与小波方差直接相关m c c o y 和w a l d e n ( 1 9 9 6 ) 瞳1 研究了如何利用离散小波变换来模拟一个长记忆过 程w h i t c h e r ( 1 9 9 8 ) 臼3 讨论了离散小波变换作为一个分形差分过程的去相关器的 性质，并发现连散小波变换对于分形差分过程具有很好的去相关性 g e w e k e 和p o r t e r h u d a k ( 1 9 8 3 ) ，r o b i m s o n ( 1 9 9 5 ) 5 1 和h u r v i c h 等( 1 9 9 8 ) 讨 论了长记过程的长记忆参数的最4 , - 乘估计量的统计性质，这些长记忆参数是基 于回归作为对数频率的函数的对数周期当基于傅立叶和基于小波的最4 , - 乘估 计量的比较结果还没有给出的时候，j e n s e n ( 1 9 9 8 ) 盯1 发现基于周期图的估计量不 如他明确给出的常规最小二乘估计量好而m c c o y 和w a l d e n ( 1 9 9 6 ) 哺3 却指出基于 小波的估计量比基于周期图和多椎的估计量都要好 w o r n e l l 和o p p e n h e i m ( 1 9 9 2 ) 臼1 考虑了基于小波变换的连续时间高斯l 7 r 型 过程的参数的极大似然估计他们借助于小波系数单纯的形成了似然函数他们 的方法没有包括尺度系数巧，。，而系数巧。包含了关于最低频带l - 1 2 s + , 1 2 p 1 中的带通方差的信息，因此没有这些的估计方案是比较差的k a l m a n 和 k u o ( 1 9 9 3 ) n 们讨论w o r n e l l 和o p p e n h e i m 方法的一种修改他们在文献中指出：离散 小波变换实际上用于离散分性布朗运动，以至于含有尺度的依赖方差级数是有偏 差的，导致了谱指数估计的潜在问题他们证明分形高斯噪声仅在使用哈尔小波 时产生了无偏差方差级数j e n s o n ( 2 0 0 0 ) 3 把基于小波的极大似然估计延伸到处 理自回归的，分形积分的移动平均过程( a r f i m a ) 这些延陀包含了p 个自回归参 数和q 移动平均参数，这些是为了模拟时间序列上的小尺度( 高频) 属性 2 浙江大学硕士论文 1 3 本文的贡献 本文我们就考虑将离散小波变换用于季节性长记忆过程的分析的方法首先 我们考虑了离散小波变换作为季节性长记忆过程的去相关器的些性质，我们发 现离散小波变换可以很好的近似的去除季节性长记忆过程的相关性，并给出了在 季节性长记忆过程中离散小波变换在尺度内去相关的理论证明鉴于长记忆过程 的随机变量具有高度的相关性，离散小波变换产生了一些性的随机变量族，在尺 度内及之间它近似的去掉了相关性，因此更适合于统计分析 文章的后半部分讨论了基于小波去相关的季节性长记忆过程的极大似然估 计我们用极大似然估计来估计该过程的三个未知参数极大似然估计直接以离 散小波的去相关性为基础，从而极大地简化的似然函数，减少了计算量最后我 们以从6 2 2 年到1 2 8 4 年这6 6 3 年间尼罗河的最低水位时间序列为例，验证了基于小 波的季节性长记忆过程的近似极大似然估计的效果结果表明基于小波估计出的 参数是相当准确的 浙江大学硕士论文 第二章季节性长记忆过程 2 1 长记忆过程的定义n 9 3 假设 x 。) 是平稳过程，其谱密度函数用s x ( ) 表示为了方便，假设a t = 1 ， 所以始终有厶= 1 2 称 x 。) 是一个平稳的长记忆过程，如果存在常数倪和e ， 满足一1 口 0 ，使得： 慨辨：1 ( 2 1 ) p oe i r 、 换句话说，平稳长记忆过程的谱密度函数s x ( 厂) 满足殴( ) ef l 。，当厂趋于 0 的时候逼近程度更好另外也可以根据 x 。) 的自协方差序列 如，) 来定义称 x 。) 是一个平稳的长记忆过程，如果存在常数一1 3 0 ，使得： 嬲号= l ( 2 2 ) ”e f 户 、7 其中与式2 2 中的口有关，a + z = 一1 标准的时间序列模型，比如说平稳自回 归过程，对于较大的f ，其自协方差满足吩，c 7 ，其中c 0 ，i i 1 对于一 个长记忆过程，当f 较大的时候有呀，e f 声在这两种情况下都有：随着f 一， 如，专0 但是对于长记忆过程而言衰减到零的速度是非常慢的，也就是说时间 序列中距离很远的两个随机变量仍然有着不可忽略的协方差，以更吸引人的术语 说，当前观测保留着久远的往事的一此记 乙 4 浙江大学硕士论文 2 2 季节性长记忆( s l m ) 过程 假设 x 。) 是一个平稳过程，且满足： ( 1 2 乎k b + b 2 ) j 置= s t ( 2 3 ) 其中s ，是期望为零，方差为2 的高斯白噪声，b e ，= s 川，则称 x 。) 是一个季节 性长记忆过程，即为s l m ( 8 ，矽) 参数6 和具体刻画一个季节性长记过程，万 被称为长记忆参数或分形差分参数，它衡量了频谱上奇异点奇异性的增长速度， 表示频谱上奇异点的相位g r a y 等在1 9 8 9 年n 2 3 证明了当l 矽l - 1 且叫4 歇或 i i _ 1 | - 1 2 8 1 2 时， x 。) 是平稳且可逆的显然，季节性长记忆过程的定 义也包含了分形差分过程 x 。) 也被称为g e g e n b a u e r 过程，因为它能转化成一个 无穷滑动平均过程： 置= 瞵黔一。 七= 0 ( 2 4 ) 其中q ? 是g e g e n b a u e r 多项式( 一种正交多项式) x 。) 的谱密度函数为： k = o s x ( f ) = 2c o s ( 2 z f ) - # i - ”， ifl 的平方增益函数q ( ) 必须积分为1 ，能够 产生相糙的近似： w = 言7 兰蔷芦l 2 7 若把 哆，) 用于滤波 x 。) ，就得到带有谱密度函数的一个过程，谱密度函数由 q u ) ) 给出这个过程与形的循环无约束系数嘭，有关即在给定尺度上， 形，除了边界所有系数不多于三一2 个，( 通常是单位尺度小波滤波器的宽度) ， 若略去这些边界系数，的方差为： ，2 v a t ) 2 上m q u ) & u ) 矽 一，2 2 j 矿2 j ( ) 矽 = 百忐牝1 2 川js x ( f ) d f l 2 j 1 2 j = = - - - - - - - 一 一 + l j l ，2 + 1 兰q 1 0 浙江大学硕士论文 因为 击e 砌) 幽 可以看做是是函数石( ) 在区间 口，6 】上的平均值，所以能把q 看作是谱密度函数 在倍频程带 1 2 川，1 2 7 】上的平均值 浙江大学硕士论文 3 2 小波去相关的证明 现在来看各种离散小波变换如何使s l m 过程很好的去相关 引理3 1 令形，和形分别为形和嘭- 中的两个任意非边界系数( 即系数1 i 受循环性假设影响) 则有： c 。v 形，嘭) = l 荟- 1l 茎, - i 哆，勺。蛳竹心“竹， ( 3 2 ) 其中，是滤波器 乃，) 的宽度另外，当= ，f 。= t + t 时，上式简化为： c o v 杉，+ ，) - ：屯咖。- i m1 以，勺川胛i ( 3 3 ) 上，一il r m 一( 0 一1 ) 1 = 0 证明：因为 所以有： l 一l 杉，= ，t 卜h l ，, - l ，2 萎勺，t ，竹，一。 ，= 0 、 工，一l? 一i c 。v ，哆，) 2 c。v(l，x2j(t+1)-i-i，萎勺，xi=0 ，( f + 。一。) ，= 0 ， = 艺艺” 一。，州一。) = 0 i = 0 , j c o v ( x 2 一、 ，一ll 一1 =艺=0艺o。一(，w，i=0 一。，。， 可以利用上式来计算对于在第层的非边界小波系数的理论自相关序列， 浙江大学硕士论文 暑帮，一，- 1 ，o ，l ， ( 3 4 ) 其中有：v a r w j ，) = v a r i l j ，f + ，) = c o v f ，f + ，) 图3 2 表示了与哈尔，d ( 4 ) ，l a ( 8 ) 小波滤波器结合s l m ( 0 2 ，1 ) 过程在歹= 4 层和延迟f = 1 ，2 ，3 ，4 时的计算结果( 注 意垂直的轴的范围是从一0 2 到0 2 ) 如图3 2 ，在每一个自相关序列中的值绘出 与零的偏差，这些值接近于零以至于看不清在这1 2 个图的每一个中，在量值上 的最大自相关性发生在单位延迟上，对于d ( 4 ) 离散小波变换最大的是 以。= - 0 1 4 ，之后自相关序列在f 2 变得很接近于零，注意对于给定的离散小 波变换，i 乃，。j 随层的增加而增加，但是计算显示对于所有的三个离散小波变 换有 i b ，l 一以，li 0 0 1 ，( 5 ) ， 因此单位延迟相关不会增长的超过j = 4 为了比较起见，图3 3 表示对于 s l m ( 0 2 ，1 ) 过程的延迟f = 6 4 的自相关序列显然可以看出在图3 3 中给出的所 有自相关性在量值上是大于图3 2 中的因此，在给定尺度中，所有三个离散小波 变换的去相关性都相当的好 通过公式化等价式3 2 的频域，我们可以得到对离散小波变换去相关性的证 明 引理3 2 利用自协方差序列是谱密度函数的离散小波逆变换的事实，证明： c 。v ) = 艺e i 2 _ r f ( 2 i ( t + i ) - 2 i ( t + 1 ) ) h g ( f ) t t i ( f ) s x ( f ) d f ( 3 5 ) 其中q ( ) 对应于第层小波滤波器的传递函数 证明：由于自协方差序列是谱密度函数的离散小波逆变换，所以有： 0 ，：，。，+ 。卜，一：，。，+ 。，+ ，= ：2 2 p j 2 f ，( 2 。( ，+ 1 r ，一( f + l 卜f ) s ( f ) d z 浙江大学硕上论文 0 。2 o 。0 一o 。2 j - - - lj = 2歹- - 3j = 4 o 2 o 0 一o 2 o 2 o ，0 一o 2 0l2340l2340l2340l234 tttt d ( 4 ) d 、波 0l2340l234o12340l234 ffrf l a ( 8 ) d , 波 图3 2 对：于- s l m ( 0 2 ，1 ) 过程中哈尔d ( 4 ) ，l a ( 8 ) d 波系数在f = l ，2 ，3 ，4 l f j 的自相关序列 1 o l 0 1 6 3 24 86 4 f 图3 3 对t s l m ( 0 2 ，1 ) 过程的自相关序列 r = l ，6 4 1 4 432 f o432 f 们 波廿 3 尔 2 f 哈 o 叶 3 2 f o 浙江大学硕士论文 又因为 所以 h j ，= e 2 扩。i h u r h ，= ：；2e i 2 即h h 力 f 。k 噩u m f c 。v ，形) = i = 0 i = 0 勺，勺o 。州卜刚+ 。卜， 。 ，。一， = f 胆e 嘲化7 。( ，竹：m + 1 ) 日，u ) 日；( 厂) & ( 厂) i - 1 2i 、l 、 上式表明对于尺度的相关在数量上l a ( 8 ) 比哈尔小坡婴小得多，式3 5 中传 递函数乘积的大小应该随着三的增加而变小，这是因为 哆 ，) 和 吩，) 通过带通滤 波器后变得更好的相似 在式2 1 0 中令= ，t = t + r ，可以得到式3 3 的频域等价式，即 c o v 杉嘭，+ ，) = f 笼2 矿喝u ) 1 2g ( d ) a f ( 3 6 ) 当& ( ) 在整个标称通带 1 2 川，1 2 】上近似为常数时，对于r 0 ， c o v ， f + ，) 0 基于下面的结果可以得到进一步的了解 引理3 3 证明等式 矽 f ，) = c 2e 1 2 口fs ，u ) 矿，( 1 3 c o y t 2 j t f r 7 ) 彬，) 2l ，： ，u ) 矿， ( 7 其中 = 石12 厶1 - 1 s ，c f )q ( 之笋) i ：& ( 乏笋)= 石厶i q ( 乞笋) 1 2 & ( 乞笋) 厶 k = o l1 - - 证明：由引理3 2 可知 c 。v 嘭形，+ ，) = 上：；2 2 门口p 哆u ) 1 2g o o a f 浙江大学硕上论文 其中 = 三1 呐f 2 j ， j e i 2 7 r f r 喝( 耖s 彳( f ) a f = 击r 扩7 喝( 舌讦( 蒡) 矽 = 虿1 2 j - 1f 2 j l p 胁p 喝学汗瓯( 等) = 一2e i 2 j r f r s ，( f ) a f 墨= j 1 2 , - 1 h j ( _ _ 学jk ) l ：觅( f + 厂k )墨= j2 觅( i - ) 一 k = o - 定理3 1 设x = 托，k 一。】是一个季节性长记忆过程，和f + 是x 离散小 波变换后的小波系数，则： 证明：由引理3 3 可得 c o v v 6 ，乃f + ，) 0 f 0 彬 f ，杉，+ ，) = c 2 p scoy i 2 l r f r ，u ) ， 其中 杉，杉，+ ，) 2e ，：pu ) ， 其中 = 1 2-,_f+厂k)i：殴(-f+_ksj(f)5；zih，( 3 + l j = 厂) 1 2 殴( 了_ j k = o 厶厶 又因为一( ) 和& ( 厂) 是相对平滑的连续函数，所以 啪= 古篓吲等外以( 等) f iq ( 号汗& ( 参) 矽 兰c 1 6 浙江大学硕士论文 所以当f 0 时： c o v ，一) = f 复p f 2 妒t 扩) 矿0 上面表明如果忽略边界系数，那么形中的随机变量可以作为具有谱密度函 数l ( 。) 的平稳过程的一部分，然而如果一( ) 接近于一个白噪声过程的谱密度函 数，即如果t ( ) 是近似平滑的，这些非边界小波系数将近似无关 1 0 o - 1 0 形3形2形l _ l 一 *。，* i 瓯( j 瓢( - ) ( 一) 岛 0 1 81 43 81 201 81 43 81 2 图3 4 左图：s l m ( 0 2 ，1 ) 过程的谱密度函数 右图：w 。，w ：，w ，w 。中非边界l a ( 8 ) 小波系数的谱密度函数， 竖轴以分贝为单位 作为一个例子，图3 4 显示了一个s l m ( 0 2 ，1 ) 过程( 左图) 的谱密度函数 最( ) ，标称通带与垂线刻画得离散小波系数形，形有关右图显示了当 使用l a ( 8 ) 离散小波变换时的谱密度函数s ( ) 考虑当厂寸0 时，最( ) 无限的增 长，对于非边界小波系数谱密度函数具有最大值和最小值，他们有着不超过三分 贝的区别这些s f ( ) 没有被任意给定倍频程带( ) 剧烈改变这一事实可以得到 结：随着s x ( ) 专o 。( 厂寸0 ) 倍频程带长度减小，该过程解释了为什么离散小波 1 7 浙江大学硕士论文 变换可以很好的适用于季节性模型和其他长记忆过程 为了检验在不同层小波系数的相关性，对于给定的和。，能用式3 4 来 计算在f 和f 的网格上，与哆的相关性图3 5 和图3 6 表示了对哈尔和l a ( 8 ) 离散小波变换在1 j 4 的情况下的计算结果对于哈尔小波我们设置 t = 2 1 j 一j l - 1 ，而对于l a ( 8 ) 离散小波变换我们有： ，= 仁 然后令t = h f ，r = 一8 ，8 对于f 和f 的选择，要确保每一个图形在这些指标 所有可能的选择下包含极大相关通过尺度的相关是小的，但可以看到利用l a ( 8 ) 比哈尔小波有一个好处：前者的极大绝对相关比后者要小得多 1 8 劬 3 ，i 、 1 2 3 j l f f 一 一 一 浙江大学硕士论文 ，= 2j = 3j = 4 - 8o8 - 8o8 o 2 0 0 j = 1 0 2 0 2 0 0 - - - 2 0 2 o 2 0 。0 歹= 3 一o 2 - 808 图3 5 l j 0 的 零均值的季节性长记忆过程，是由x = 【五，瓦一。】部分实现，其中= 2 s 对于 某个整数，成立我们想基于x 来估计这些参数在假设x 服从多变量的高斯正 态分布的情况下，使用极大似然估计法来估计万，矽和对于给定的观测值，万， 和的似然函数由 l ( 6 ，夕，i x ) = 三一e - x t ：x i x ，： nl ( 4 1 ) ( 2 z ) 2i x1 2 给出m 1 ，其中j 是x 的协方差矩阵，i l 百ly ji 是x 的行列式注意似然函数是独 自通过z x 来依赖于万，和的能够对于任意特殊参数值来进行似然估计6 ， 矽和的极大似然估计是使得满足l ( 6 ，ix ) 取最大值时相应万，和的 取值 但是对于准确的极大似然估计存在着两个实际问题首先，它们的行列式的 计算是非常耗时的，即使对于中等的也是如此其次当万趋于! 时，似然方程 z 的计算有可能是数值不稳定的所以，有效率的且数值稳定的斯然估计是我们考 虑且感兴趣的下面我们考虑一个近似的极大似然估计的方法 对于一个长为n - - 2 。的时间序列x = 【k ，“一。】，可以把完全离散小波变 换换写成矩阵形式w = w x w 的协方差矩阵w 为：w = 形x w7 ，其中x 为 x 的协方差矩阵，所以我们就可以算出相应的相关矩阵：w m ，。是w 的第咖，玎) 个元素，则相关矩阵的第( m ，刀) 个元素可以由w m 。0 焉：，i ：来定义 图4 1 ，图4 2 ，和图4 3 给出了由时间序列x 生成的w 的相关矩阵x 是 与哈尔，d ( 4 ) 和l a ( 8 ) 离散小波变换联合的s l m ( 0 2 ，1 ) 过程的长为3 2 2 n 斫学颧论z 圈41 s l m ( 02 ，1 1 过程中长为3 2 的部分前哈尔小波系数的相关矩阵 图4 , 2s l m ( 0 2 ，n 过程中长为3 2 的部分的i ) ( 4 y j 、波系数的相关矩阵 图4 3 s l m ( 0 2 n 过程中长为3 2 的部分的l a ( 8 ) d 、渡系数的相关矩阵 浙江丈学硕士论文 的一部分每一个图形的峰点都是对角元素，所有对角元素是单位元并且用来衡 量非对角相关的大小最前峰点和最后峰点分别对应元素( 3 1 ，3 1 ) 和( 0 ，0 ) 这些 图证实了前面关于各种离连散小波变换去相关的结论例如，图4 1 中对于哈尔 离散小波变换远离对角的峰点是由尺度间的相关所致在图4 3 相应的部分中， 对于l a ( 8 ) 离散小波变换这些相关都比较小，这与图3 6 一致 最后，让我们回忆在这个例子当中，x 有一个相关矩阵，该矩阵的第( m ，z ) 个元素由p x 护叫三奴枷- 叫s x ，o 给出，其中0 | m 一，2l 3 1 这个自相关序列在图3 3 中延迟为6 4 ，但是对延迟小于等于3 1 ，最小值p x 引= 0 3 3 8 ，该值比图4 1 ， 图4 2 ，和图4 3 显示的任何非对角元素都要大因此虽然离散小波变换对于去 掉季节性长记忆过程的相关性虽然不是完美的，但是离散小波系数显示的总体相 关性明显比x 中的原始随机变量要小得多 从图4 1 ，图4 2 ，和图4 3 可以看出，由于离散小波变换具有很好的去相 关的性质，所以w 近似的等于一个以c ，为元素的数量阵q n 由此，实际上x 能 够由x 兰w t q n w 近似的给出由这个近似，有： l ( a ，lx ) ( 万，ix ) 通过两边去对数，重新尺度化和重新局部化，可以得到对数似然函数： t ( e r ，lx ) = - 2 1 0 9 ( l ( 8 ，矽，ix ) ) - n l 0 9 2 n 引理4 1 证明 = l o g i y , xi + x t 毽x v 蚶，= 掣嚆掣 ( 4 2 ) ( 4 3 ) 浙江大学硕士论文 证明：因为有 v a r ，产鼢q ( ) 1 2s ( f ) d f e l 2 v a r 巧，。) 2 上l ，：i q ( 厂) 1 2 & u ) t i 2 v a r x , 2 上l 2 s ( 厂矽 所以欲证明上面等式，只需证明： ! g 笪址+ 争! 堡! 塑f ：1 n 葛 2 j 对于整数，用数学归纳法来证明此等式 当j = 1 时，显然有 ! g ! ! + ! 丝( ! e ：1 22 假设等式在，= j o 时成立，所以有： 当j = j o + l 时， 所以 型2 j o 嘻学= - 吒( f ) 1 2 = l 吒+ 。1 2 + l 民+ 。( 删2 ：掣+ 磐+ 竞盟丛2 s 2 如+ 12 厶+ 1 鲁 学 芝一学 浙江大学硕士论文 所以 成立 由引理可以得到： ：掣+ 争型：1 2 山 厶2 = 1 2 j v 毗，= 掣唼孚 v 峭，= 等嚆等 根据前面的讨论，我们知道当j = 1 j 时， c j2，：2pj。i；i：苫：勃，：2，+j，挣 所以当= ，+ 1 时 引理4 2 证明 其审n j = n 2 l 。g ( i 至ji ) ：l 。g ( c + ，) + 兰一l 。g ( q ) 产l 证明：因为丢x 三w t q n w ，其中 缈li n 2 4 、，r o 游 ，一 一扩 一 o一疋 卜 竖 x 一l 娴 犷 一q ，l 。一拼。一川 硼 应 浙江大学硕士论文 q n = d i a g ( c 1 c l ，c 2 c 2 c i c j c j - l cj 1 ，c j ，c j + 1 ) 、，、r ok - ，、，o n 1 2n 4 n 2 j 2 所以 所以 f , xi = lw t q n w l = iq n | - 口卅f i c f n i w1 q n= iq n | - 口卅 l 。g ( i 至x1 ) ：l 。g ( o + 。) + 兰_ l 。g ( q ) 令q = q ( 万，矽) ，j = l 。j + l ，所以有： 引理4 3证明等式 l 。g ( i 至ji ) ：1 。g ( c 川) + 羔ml 。g ( q ) 产1 ， = n l o g ( e r 2 ) + l o g ( c s + l ( 万，) ) + ml o g ( c j ( 8 ，) ) - - - 小i 毒c 捣 盯二o i d 妒l 其中形，是x 的离散小波变换系数 证明：因为 所以 所以 x = w t q n w 至= 形1 q j ( 形t ) 一1 = 形t q 习 x t 丢- x i x = x t w l n ； w x j = l j吆 栅一咖 一i ，爿 浙江大学硕士论文 = ( 麟) 7 q - w x ：产v 2 + j 砉1n - i 吆 c + 。鲁c ，智 = ! “r + v ，) 丽。十否s 丽1 善吆) 定理4 1 证明仅仅依赖于万和的对数似然函数为： z ( 万，o - ；ix ) n i 。g ( z p ，矽) ) + i 。g ( e 川l ( 万，) ) + 杰ml 。g ( c p ，矽) )( 4 4 ) j = l 证明：由引理4 2 和引理4 3 可得： l ( 8 ，矽，l x ) ， n l o g ( o s ) + l o g ( c j + 。( 万，) ) + eul o g ( c j ( 8 ，) ) 产l 专搞嘻南勖， 对上式左右两边关于求微分，可以得到 旦= 虿n 一雨it 丽v i o a ( o - f )+ 姜虿南篓吆) ( 4 5 ) ( ) 2 、c + ，( 万，) 。鲁c ? p ，矽) 台“ r “7 再使得到的表达式4 5 为零，可以得到一个的近似极大似然估计爰的表 达式关于求解得到的估计值爰，它是关于万和的函数，它的表达式为： 魂舻专c 石v 孙2 嘻南篓嗡 6 ， 利用上面的表达式，可以估计参数，将它代入式( 4 4 ) ，即得到关于仅仅 依赖于万和矽的对数似然函数为： 浙江大学硕士论文 z ( j ，i x ) n i 。g ( 孑；( 万，矽) ) + l 。g ( c + ，( 艿，) ) + j _ l 。g ( q ( 万，) ) ( 4 7 ) 得到仅仅依赖于万和矽的对数似然函数后，分别在区间( 一1 2 ，1 2 ) 和( 一1 ，1 ) 确定6 和矽的数值，即否和孑，是一个简单的问题，最小化z ( 8 ，矽ix ) 便得到关于 否和孑的方程组，其解就是6 和矽的近似的极大似然估计在确定否和孑的值后， 通过把它代入式4 6 中，便得到相关的的近似极大似然估计 2 7 * “太学m 论! 第五章例子 这里提出个时间序列作为例子来检验基于小波的近似极大似然估计的有 效性这个时间序列是由开罗附近的r o d a 测定的数据，它记录了从6 2 2 年到1 2 8 4 年这6 6 3 年问尼罗河的最低水位以米为单位的测量的水位时间序列在图51 中 给出 删 图5l6 2 2 年到1 2 8 4 年尼岁河韵晕低水位的对问序列 下面以基于h a a r 小渡的估计来说明上一节的方法由于要求时间序列的长度 是2 的幂次方，而这个时间的大约前一百年似乎与余下的时间序列有较小的尺度 的变化所以很自然的可以利用后5 1 2 年即7 7 3 年至1 2 8 4 年的时问序列作为样 本由于这个时间序列的期望明显不为零，但可以计算出后5 1 2 年的平均值 盖= 1 15 5 3 来估计此过程的期望，所以z 一即可看为一个期望为零的平稳的季 节性场记忆过程 首先利用h a a r 小波将时间序列进行离散小波变换，得到相应的小波系数 。蚴i1 i扎酽i i m w 5 4 3 2 1 0 9 浙江大学硕士论文 【-f | j ，日r f 。i i 卜纛砒喵曩畔“，叫气陋 !u脚呻i 。 q 。 乙 5 0 1 0 0 1 5 02 0 02 5 03 0 03 5 04 0 04 5 05 0 0 图5 2 尼罗河最低水位的离散z - z a a r 小波变换系数，其中9 4 ，西分别为 第l 到9 层小波系数，口9 为尺度系数其中s = 破+ a 9 七= l z u 24t4a，4，3u 5zuz，3u 5 1 u 1 1u1ul j u j上uz 1 z u z 暮|鼎疆 班 砸乱 也0 壤 s d 飞d i 畦1 d 1 d 1 d 1 浙江大学硕士论文 如图5 2 将得到的小波系数哆，和尺度系数形，代入得到的对数似然方程，最小 化便可得到万和的近似极大似然估计否= 0 2 2 6 4 ，= 0 9 9 7 2 ，将它们代入式 ( 4 5 ) 中，便可得到的近似极大似然估计为z ( 万，) = o 4 2 8 1 由万的无偏估计 量的渐进c r a m e r r a o 下界得到n = 5 1 2 时的平方均值的平方根为0 0 3 6 9 ，而相 应的矽的为0 0 0 8 5 ，通过从给定的估计值中减去或加上两倍的平方均值的平方根 即可得到相应艿和的置信度为9 5 的置信区间。详细见表5 。l 表5 1 所以可以得到尼罗河最低水位时间序列满足的季节性长记忆过程模型为： ( 1 1 9 9 4 4 b + b 2 ) 0 2 2 6 4 ( 置一= 乞 ( 5 1 ) 其中6 t 是期望为零，方差为0 4 2 8 1 的白噪声，i 是时间序列 x 。) 的均值由式 2 5 可以得到五一夏的谱密度函数s x u ) 为： i z = 0 4 2 8 1 * 2 1c o s ( 2 z f ) - o 9 9 7 2 1 啪5 2 7t f l 1 2 ( 5 2 ) 其中g e g e n b a u e r 频率兀( c o s - 1 0 ) ( 2 z c ) 0 即s x ) 在厂= o 处变为无穷大 同时，可以利用给出的五一彳估计出它的自相关序列赡，为： 矗，= 币15 霎( 置一趸) ( 如一夏) 旧，1 5 1 l ( 5 3 ) 所以利用估算出的自相关序列；”也可以计算出谱密度函数s x ( f ) ， x ( ) 善羔o c 。s ( 2 z f r ) ( 5 4 ) 浙江大学硕士论文 将通过估计出参数算出的碧x ( ) 和直接通过置一夏算出的s x ( 厂) 作比较， 如图5 3 ，发现两者是相当吻合所以可以得出结论通过基于小波的极大似然估 计方法是准确的 图5 3 实线表示利用原始数据估算出的谱密度函数 虚线表示直接代入艿和矽得到的谱密度函数 浙江大学硕士论文 第六章总结与展望 正如前面讨论的我们发现小波是分析时间序列的一个有用的工具，它不但能 够简化计算，而且为我们提供了一个将复杂问题简单化的一个手段通过小波变 换将原时间序列分解为小波系数，然后直接利用小波系数作极大似然估计，不但 没有丢失信息，而且降低了计算量，同时似然方程的计算也是稳定的，从而达到 了我们预期的目标 进一步的讨论可以分为两个方向第一个方向可以将基于小波的估计方法进 一步扩展应用到非平稳的时间序列和短时记忆过程由于在前面的讨论中我们忽 略了边界系数的相关性，所以另一个就是进一步改进基于小波的估计方法来提高 估计的准确度可以利用极大重叠离散小波包变换( m o d w t ) 来避免边界系数