（信号与信息处理专业论文）稳定分布参数动态估计问题的研究.pdf

大连理工大学硕士学位论文 摘要 随着信号处理技术的发展，非高斯信号处理已经受到越来越多的关注。作为一种典 型的非高斯信号模型，口稳定分布自1 9 9 3 年开始应用于信号处理中以后，吸引了国内 外大量专家学者的重视。但是，作为一种统计模型，口一稳定分布具有其自身的特性。 如何在这些特性的约束下对该分布进行理论上的研究，并且将扩展到实际应用中。具有 非常重要的意义。 本课题主要研究了口稳定分布的性质及其应用的问题，主要工作概括如下： 首先介绍非高斯口稳定分布研究意义以及有关定义、性质、定理等基本理论，并 详细分析了与口稳定分布相关的几个统计量。 由于口稳定分布自身的性质，参数估计问题成为其研究中的一个难点。本文总结 了自口稳定分布提出以来，所经常用到的几种参数估计方法。特别是最新的快速估计 方法，并在其基础上进行了扩展，推导出基于极端顺序统计量的递推算法，实现了参数 的动态估计。 考虑到口稳定分布波形的性质，在稳健估计理论的基础上，利用稳健估计函数改 进了原有的基于二阶矩的自适应算法。并将其应用到系统辨识问题中，有效的抑制了脉 冲噪声对权函数收敛带来的负面影响。 最后，对上述工作做了小结，并展望了未来的工作。 关键词：稳定分布；参数估计：稳健统计；脉冲噪声；系统辨识 操建闻：稳定分布参数动态估计问题的研究 t h es t u d yo nt h ed y n a m i cp a r a m e t e re s t i m a t i o no f s t a b l ed i s t r i b u t i o n a b s t r a c t n o n g a _ u s s i a ns i g n a l p r o c e s s i n g h a sc a l l e dm o r ea n dm o r ea t t e n t i o n sw i 血t h e d e v e l o p m e n t o fs i g n a l p r o c e s s i n gt e c h n i q u e s a l p h a s t a b l e d i s t r i b u t i o ni sat y p i c a l n o n - g a u s s i a ns i g n a lm o d e l a f t e ri tw a sf i r s tu s e di ns i g n a lp r o c e s s i n g ，l a r g en u m b e r so f r e s e a r c h e r sd o m e s t i ca n do v e r s e a sh a v et h o u g h tm u c ho fi t b u tb e i n gas t a t i s t i c a lm o d e l ， a l p h as t a b l ed i s t r i b u t i o nh a si t sc h a r a c t e r i s t i c h o wt od ot h et h e o r ys t u d yo ft h ed i s t r i b u t i o n u n d e rt h e s er e s t r i c ta n de x p a n di tt ot h ep r a c t i c ea p p l i c a t i o n s ，h a sv e r yi m p o r t a n tm e a n i n g s 1 1 1 et a s kd ot h er e s e a r c ho fp r o p e r t i e so fs t a b l ed i s t r i b u t i o na n di t sa p p l i c a t i o n s ，t h em a i nj o b o f t h et h e s i si sb e l o w f i r s ti tg i v e st h er e s e a r c hm e a n i n go fa l p h as t a b l ed i s t r i b u t i o n ，a sw e l la si t sr e l a t i o n a l d e f i n i t i o n s ，p r o p e r t i e s ，t h e o r e m s ，a n dd e t a i l e da n a l y z e st h ei n t e r r e l a t e ds t a t i s t i c s o fs t a b l e d i s t r i b u t i o n s d u et ot h ec h a r a c t e r i s t i c so fa l p h as t a b l ed i s t r i b u t i o n st h e m s e l v e s ，p a r a m e t e r se s t i m a t i o n i sad i 瓶c u l tp r o b l e m 1 h et h e s i ss u m m a r i z e st h ef r e q u e n t l yu s e dp a r a m e t e r se s t i m a r i o n m e t h o d sa f t e ra l p h as t a b l ed i s t r i b u t i o nw a sp u tf o r w a r d e s p e c i a l l yt h el a t e s tf a s te s t i m a t i o n m e t h o d ，t h e ne x p a n d si to nt h i sb a s e ，r a t i o c i n a t e st h er e c u r s i v ea l g o r i t h mb a s e do ne x t r e m e o m e rs t a t i s t i c s r e a l i z i n gt h ed y n a m i ce s t i m a t i o no f p a r a m e t e r s c o n s i d e r i n gt h ec h a r a c t e r so ft h ew a v e f o r mo fi m p u l s i v en o i s e ，o nt h eb a s eo fr o b u s t s t a t i s t i c s ，t h et h e s i su s e st h em b n s ts t a t i s t i c a l f u n c t i o nm e n d i n gt h ec u s t o m a r ya d a p t i v e a l g o r i t h mb a s e do ns e c o n do r d e rs t a t i s t i c a p p l i e si tt ot h es y s t e mi d e n t i f i c a t i o np r o b l e m t h i s a l g o r i t h mc a r ls u p p r e s st h en e g a t i v ee f f e c t t h a tt h ei m p u l s i v en o i s eb r i n g st ot h ew e i g h t c o e f f i c i e n t se f f e c t i v e l y f i n a l l y ，t h e t h e s i sg i v e s a b f i e f s u m m a r y o f t h e j o ba s w e l la s t h e f u t u r ee x p e c t a t i o n s k e yw o r d s ：s t a b l ed i s t r i b u t i o n ；p a r a m e t e re s t i m a t e ；r o b u s ts t a t i s t i c s ：i m p u l s i v en o i s e s y s t e mi d e n t i f i c a t i o n 独创性说明 作者郑重声明：本硕士学位论文是我个人在导师指导下进行的研究工 作及取得研究成果。尽我所知，除了文中特别加以标注和致谢的地方外， 论文中不包含其他人已经发表或撰写的研究成果，也不包含为获得大连理 工大学或者其他单位的学位或证书所使用过的材料。与我一同工作的同志 对本研究所做的贡献均已在论文中做了明确的说明并表示了谢意。 大连理工大学硕士研究生学位论文 大连理工大学学位论文版权使用授权书 本学位论文作者及指导教师完全了解“大连理工大学硕士、博士学位论文版权使用 规定”，同意大连理工大学保留并向国家有关部门或机构送交学位论文的复印件和电子 版，允许论文被查阅和借阅。本人授权大连理工大学可以将本学位论文的全部或部分内 容编入有关数据库进行检索，也可采用影印、缩印或扫描等复制手段保存和汇编学位论 文。 作者签名： 导师签名： 幽 毕! 二丝匹年丝月翻日 大连理工大学硕士学位论文 1 绪论 早在1 8 世纪，统计学的先驱就从天文学中得到灵感，并逐步建立了稳定分布数学 理论体系。但直到1 9 9 3 年，随着传统的高斯模型不能够真实反映现实信号的物理特征， 信号处理学界才开始对它关注 1 】。作为非高斯脉冲噪声的理想数学模型，它很快成为信 号处理领域的研究热点。 本文主要研究a 稳定分布的参数估计问题，以及基于稳健估计的自适应算法。在 介绍具体工作之前，有必要先介绍一下研究非高斯脉冲噪声的意义和口稳定分布作为 非高斯脉冲噪声的可行性。并介绍一下口。稳定分布的研究近况。由此展开，说明本文 要完成的工作。 1 1 非高斯脉冲噪声模型研究的意义 信号处理的很重要的一个任务就是发现隐藏在观测信号中的特定信息。比如，用几 个参数来描述信号，对信号进行建模：或者说通过现有的数据来预测未来时刻的数据样 本或内插丢失的数据样本：又或者将混叠在一起的多个信号分离开来，这些都是信号处 理的基本问题。 在所有的这些情况中，由于信号受到噪声的影响，使得信号处理的工作存在着一定 的困难。噪声的产生主要有以下几个方面：一些是由于邻近的信号源、自然条件或者是 人为产生；另一些则是由于测量精度产生的噪声。在现实信号中，噪声是无处不在的， 信号处理的工作就是要在受到污染的数据中恢复原始的信号或将信号中有用的信息提 取出来。为了达到这个目的，需要假设一个统计模型来描述信号和噪声的产生。 在所有的噪声模型中，加性噪声模型是最常见的模型，其模型如下： x ( n ) = j ( 胛) + 叩( 玎) 玎= 1 2 ， ( 1 1 ) 在( 1 1 ) 式中，s 为纯净信号，x 为受到污染的信号，玎为噪声，通常情况下，都假设 为高斯白噪声，其概率密度函数( p d f ) 为： 如舶小志e x p i 一等l ( 1 z ， 其中，为均值，盯2 为方差。 在很多科学领域，高斯分布在信号处理中都占有相当重要的地位。很多通信、检测 估计理论都是基于高斯噪声的假设，很多信号处理技术的改进都是为了在高斯噪声条件 下能够理想的工作。使用高斯分布作为信号模型，主要基于以下两方面的考虑：第一， 操建闻：稳定分布参数动态估计问题的研究 根据中心极限定理，无数多个独立同分布，并且方差有限的随机变量的和，就是高斯分 布的随机变量 2 】。第二，在高斯假设下，通常有关信号分析的方程都是线性方程，这就 使信号分析的难度大大降低。高斯变量的线性组合依然是高斯的，因此，高斯信号通过 线性系统依然是高斯的。更何况，高斯分布易于描述，只需要均值和方差两个参数就能 准确地描述一个高斯分布。 然而，现实中仍然存在着大量的信号和嗓声比高斯噪声更具有脉冲性，如雷达、声 纳、水声、低频大气噪声、卫星通信、网络数据包流量以及经济学中都存在着大量的非 高斯脉冲噪声妒4 】。因此，必须用比高斯分布具有更厚重的拖尾的概率分布才能准确插 述这些噪声。 如果信号和噪声偏离高斯分布的特性，高斯假设下的最佳系统性能将发生明显退 化，即使稍微偏离高斯分布都会导致有显著的误差。譬如：最小二乘估计对高斯分布的 信号和噪声是最大似然意义下的最佳估计，但是对非高斯数据则远远不是这样。因此， 研究非高斯分布的脉冲噪声模型则变得非常有必要了。 1 2c t 一稳定分布的统计模型 口稳定分布于1 9 2 5 年由p a u ll e v y 首先发现 2 2 】，发展到现在。已经逐渐形成一套 具有丰富内涵的理论。口稳定分布模型是一类适用范围很宽并且得到广泛应用的随机 信号模型，包含高斯分布和非高斯分布两种情况。由于口稳定分布没有统一的封闭概 率密度函数，遥常用其特征函数 中( x ) = e x p j o , 一，l 工厂 1 + ，s i g n ( x ) 国( z ，d ) ( 1 3 ) 来表示。其中：s i g n ( 1 是符号函数，而 协等，口1 由( x ，口) = z i 昙l o g l x l - 1 ( 1 4 ) 可见，一个稳定分布由其四个参数口，y 和口唯一确定。 选择口一稳定分布作为非高斯数据的统计模型，主要基于以下的几个原因： 一稳定分布是唯一满足广义中心极限定理的分布。即无限多个方差可能无限大的 独立同分布的随机变量的和，其极限分布是口稳定分布。如同高斯假设的一个主要原 因是中心极限定理。因此，口稳定分布和高斯分布一样可以在理论上得到证明。事实 大连理工大学硕士学位论文 上，很多不满足传统的中心极限定理的数据都可以用口稳定分布来描述，因此，从理 论上讲，d 稳定分布比高斯分布更具有一般性。 在与噪声产生机制和传播条件适合的情况下，a 稳定分布证明是自然噪声的极限 分布。这是其第二个定理证明。 口- 稳定分布是高斯分布的推广，即高斯分布仅是它的一个特例。它们最主要的不 同就是口稳定分布是代数拖尾分布，其代数拖尾比高斯分布的拖尾要厚重。口稳定分 布的特征指数口控制着拖尾的大小，因此口稳定分布作为非高斯脉冲噪声的统计模型 具有很强的灵活性。图1 1 给出了口分别等于2 0 、1 8 、1 5 和1 0 时所对应的波形，从 中我们可以很清楚地看出口越小显示的脉冲性更强，a = 2 时，该分布就是高斯分布。 操建闻：稳定分布参数动态估计问题的研究 2 0 0 0 1 5 0 t l 1 0 9 d 型 坚5 0 o i = ! 竖：坐f 6 口1 6 0 果怿 图1 1 不同的口值所对应的波形 f i g 11w a v e f o r mo f d i f f e r e n t 口v a l u e s 口，稳定分布与很多经验数据吻合的非常好。s t u c k 和k l e i n e r 通过验证证明了口 稳定分布作为电话线中的噪声模型非常有效i l 盯；后来n i k i a s 和s h a o 证明它也是大气噪 声的极好模型【5 l ；m a n d e l b r o t 用a 稳定分布模拟金融周期序列也得到了比较好的结果 【8 】。 从上面的论述可以看出，口稳定分布作为脉冲噪声模型有许多的优点，但是信号 处理领域对该分布的研究也是近几年才发展起来，国内的研究开展得更晚。这主要是 由于以下两方面的原因：一是口稳定分布的概率密度函数( p d f ) 不存在严格形式的 数学表达式，因此统计信号处理中常用的诸如最大似然估计等需要概率密度函数表达 式的一些方法，都不能应用于口稳定分布的信号。另一方面，口一稳定分布不存在有限 的y - - - 阶矩，而传统的最优滤波方法都是基于二阶矩，并且二阶矩与信号的能量有关， 因此认为由口稳定分布描述的信号波形并非物理的。 但现实生活中，观测信号的任何一种统计模型，都只是描述某些特定的方面，而不 可能描述全部观测过程。我们实际处理的都是有限持续时间的样本，不可能具有无限大 的能量，口稳定分布提供的是局部脉冲数据的模型，这并不影响它作为脉冲噪声的理 想统计模型。 大连理工大学硕士学位论文 1 3 稳健统计的简要介绍 稳健统计的目的是研究具有稳健性的统计方法，即当观测数据符合假定模型，甚至 与假定模型有偏离时，性质都较好或者至少不会很坏的统计方法。 尽管早在1 8 世纪就出现了最简单、直观的稳健统计方法，但是直到2 0 世纪3 0 年 代前后基于正态分布理论的统计方法的不稳健性才引起了统计学家的广泛注意。h u b e r 于1 9 6 4 年创立的渐进极大极小理论1 9 】，以及h a m p e l 于2 0 世纪6 0 年代末提出的崩溃点 等概念和有界影响方法 1 0 】奠定了稳健统计的理论基础。其后，稳健检验、多元位置和散 布阵的多种稳健估计、线性回归的m 估计、有界影响估计，以及高崩溃点高效率估计 等许多方法和理论相继提出和建立，这不仅使稳健统计日臻完善，而且为统计诊断提供 了更可靠的工具。 由于观测数据偏离假定模型是普遍存在的问题，因此，稳健统计方法已经被广泛应 用于经济、金融、气象、环境、生物医学和信号处理等许多领域的建模、预测、推断和 数据分析。 1 4 国内外研究进展 1 4 1 稳定分布理论的发展概况 1 9 2 5 年，法国科学家列维( l e v y ) 在研究中心极限定理时发现，如果将中心极限定 理中的一个条件放宽松，让独立同分布( i i d ) 的随机变量不具有有限的方差，则它们 的和服从稳定分布1 2 “。在这个结论的鼓舞下，列维研究了所有的稳定分布的傅立叶变换， 建立了稳定分布族的理论，从此揭开了o r 稳定分布理论研究的序幕。 列维在1 9 3 7 年还提出了一种新的更简单的研究稳定分布的方法，该方法就是基于 傅立叶分析的无限可分分布方法。d o b l i n 在分析中使用规则变化的函数建立了现代稳 定分布理论的基础。之后，很多数学家对这个理论作出了贡献：最著名的三个人就是 g n e d e n k o 、k o l m o g o r o v 【1 1 】和z o l o t a r e v 1 2 1 。随后，p a u l a u s k a s 在多变量稳定分布 1 3 】； c a m b a n i s 在稳定过程的线性理论【1 4 ；s a m o r o d n i t s k y 和t a q q u 在a 稳定分布的线性和 非线性回归【1 5 】；j a n i c k i 和w e r o n 在稳定随机过程【1 司等方面都做出了突出的贡献。并由 此建立了稳定分布完整的理论体系。 1 4 2 稳定分布理论应用的发展 m a n d e l b r o t 在经济问题的研究中，发现诸如股票价格和风险投资利率的波动等经 济学变量服从非高斯稳定分布【8 】，这引起了科学家的广泛重视。随后，o r 稳定分布在 工程上得到了应用，b e r g e r 用稳定分布来模拟电话线路中的错误聚类 1 7 。s t u c k 和 操建闻；稳定分布参数动态估计问题的研究 k l e i n e r 根据经验发现电话线路中的噪声可以很好的由稳定分布来描述 1 ”。后来，s t u c k 还针对d 稳定分布的数据设计了k b i i d f a i 滤波方案口j ，并于1 9 7 8 年首次提出了最小离 差准则。然而他所设计的k a l m a n 滤波器并不是最优的，最小分散系数准则也没有被工 程界所重视。直到1 9 9 3 年，s h a o 和n i k i a s 的论文【i l 在信号处理领域引起了关于口稳 定分布的研究热潮。从此，人们才注意到s t u c k 的最小分散系数准则。目前，口稳定 分布研究领域大部分集中在a 稳定分布的参数估计、线形过程的参数估计、口稳定分 布噪声环境下的最优接收机设计口0 1 、盲信道辨识1 1 9 瞎问题。 1 5 本文的主要工作和论文安排 本文系统地研究了口稳定分布的统计特性，特别涉及了国内很少研究到的参数估 计的问题。并对含有脉冲噪声的自适应算法进行了深入研究。主要工作为以下几个方 面： 首先在第一章讨论了研究非高斯脉冲噪声模型的研究意义，说明将口稳定分布作 为理想脉冲噪声模型的主要原因。介绍了口稳定分布的理论和实景应用的研究概况。 第二章详细介绍了口稳定分布的基本理论，主要着眼点在于稳定分布不同于其他 统计模型的性质，以及有关的重要定理。给出了研究中所经常用到的几个统计量 分数低阶矩、共变等，从而使读者对口稳定分布的基本理论有一个整体的了解。 第三章主要介绍口稳定分布的参数估计问题。总结了已存在的集中参数估计方 法，具体分析了各种估计方法的优缺点，并对基于极端顺序统计量的快速算法其进行 扩展，推导出递推估计方法。对该方法进行了理论上的性能分析和仿真实验，实验表 明，该方法能够应用到参数的动态估计中。 第四章的主要内容是在稳健统计的基础上实现自适应算法对脉冲噪声的抑制。采 用改进的h u b e r 估计函数，修改了自适应算法的代价函数，通过系统辨识的仿真试验 表明，该方法消除了脉冲噪声对滤波器权系数的影响，效果较好。 大连理工大学硕士学位论文 2 稳定分布及其主要性质 2 1 口一稳定分布简介 在信号处理研究领域，存在着一类随机信号，该信号的时间抽样幅度模值的概率密 度函数的衰减过程比高斯分布慢，从而造成了比较厚重的拖尾。若采用高斯分布来描述 这类过程，数学模型和信号噪声之间不能匹配，造成所设计的信号处理器的性能严重退 化。这时，我们一般采用d 稳定分布来描述这类具有显著的尖峰脉冲和厚重的拖尾的 随机信号。 2 1 1 定义 通常情况，口- 稳定分布都由其特征函数进行定义。其特征函数已经在式( 1 3 ) ， ( 1 4 ) 中给出，其四个参数的意义为： 1 口称为特征指数，它是被唯一确定的；因此我们将这样的分布和相应的随机变 量称为a 稳定分布和口稳定随机变量。特征指数用来度量分布函数拖尾的厚度。如果 观测到的稳定分布随机变量的特征指数a 的值越大，那么远离它的中心位置的随机变量 的观测值的可能性越小。口一2 与高斯分布一致( 对任意的卢) ，口= 1 ，= o 与柯西 分布一致。图2 1 表示不同的口值所对应的概率密度曲线，从中我们可以看出，和高斯 分布( a = 2 ) 相比，稳定分布具有更明显的脉冲性和更厚重的尾部。图2 2 是图2 1 所 画出的概率密度函数的尾部，从中可以很清楚地看出，随着口值的减小，尾部变得更加 厚重。 图2 1 特征指数对概率密度函数的影响 f i g 2 1e f f e c to f c h a r a c t e re x p o n e n to np d f 操建闻：稳定分布参数动态估计问题的研究 图2 2 图2 1 中各概率密度函数的尾部 f i g 2 2t a i l so f t h ep d f i nf i g2 1 3 、，称为分散系数，有时候也称为尺度参数。它表示分布的采样点离开其均值的 程度。在高斯分布中，分散系数也被称为是方差。更准确地说，在高斯分布中，分散系 数是方差的二倍。图2 3 给出了在口= 1 5 ，= 0 ，a = 0 时，不同的，所对应的概率密 度函数曲线。 图2 3 分散系数对概率密度函数的影响 f i g 2 3e f f e c to f d i s p e r s i o np a r a m e t e ro i lp df 3 是对称参数。图2 4 给出了在口= 1 5 ，y = 1 ，4 = 0 时，不同的所对应的概 率密度曲线。可以看出，当夕= 0 时，该分布的概率密度曲线是对称的，这时，我们称 这样的稳定分布为对称口稳定分布，简写为s a s ( s y m m e t r i ca l p h as t a b l e ) 分布。 大连理工大学硕士学位论文 图2 4 对称参数对概率密度函数的影响 f i g 2 4e f f e c to f s y m m e t r yp a r a m e t e ro np d f 4 、口是位置参数。考虑特征函数是概率密度函数的傅立叶变换，( 1 3 ) 式中的 e x p j a t l 对应于p d f 函数中x 轴上的位移。对s a s 分布，当1 r ) = d ( 严) 其中，( ) 表示概率，则称该随机变量是具有代数拖尾分布的。 在文献口2 2 3 1 中指出，对分散系数为r 的非高斯口稳定分布随机变量x 立 燃尸州z i f ) = 归( 口) 其中d ( 口) 是仅与g 有关的常数。 由式( 2 9 ) 易知，口一稳定分布满足式( 2 8 ) ，所以是代数拖尾分布。 为口= 2 时的口- 稳定分布的特例，所以对一个高斯随机变量墨，有 州墨l f ) = d ( f - 2 ) 由于一般的非高斯a 稳定分布的特征指数0 r ) ( 2 1 1 ) 成立。式( 2 1 1 ) 说明一般非高斯口稳定分布的尾部概率即代数拖尾比高斯分布要大， 并且d 越小，尾部概率越大。这也就是高斯分布不同于一般的非高斯口稳定分布的原 因。 2 3 和稳定分布有关的统计量 2 3 1 分数低阶矩( f l o m ) 定义2 2 ( 分数低阶矩) 特征指数为0 口 2 的口稳定分布随机变量不存在二阶矩，但对于任意o p a ， e i x l 9 都存在，称, e i x t 9 为j 的分数p 阶矩。 大连理工大学硕士学位论文 e ( i x l 9 ) = c p 兰，咖。三量三口 ( z t ：) c ( p 川= 鬻 ，口) = j 了铲 ( 2 1 3 ) 口、石ii 一i 甚至其绝对均值e 口x i 也不存在。 i x ，y 。= 阿“) 出 ( 2 1 4 ) 操建闻：稳定分布参数动态估计问题的研究 ：o = 阡s i g n ( z ) 则z 和y 的共变系数定义为： 如广两i x , y l 显然，共变和方差最主要的区别在于，共变不具有对称性 也就是说： ( 2 1 5 ) ( 2 1 6 ) ( 除了口= 2 的情况) ， 【j ，i ，l 一z l ，1 口 2( 2 1 7 ) 共变和分数低阶矩( f l o m ) 之间的关系可以让我们得到如下的定理： 定理2 5 令鼻和y 是联合胁s 分布的，1 口 - 2 。假设y 的分散系数为以，则有如 下结论 只吃= 1 1y f l ：= 以 ( 2 1 8 ) 如= 帮胚 g 护专耐1 印锄 ( 2 - 1 9 ) m 。= 帮 口 共变主要有如下性质( 具体证明可以参考 2 5 】) ： i 、x 与y 的共变 z y 】。对z 是线性的，也就是说，如果五、五和y 是s a s 的随 机变量，则对任何实数口和b ，存在 f c + 抗k ，y l = 口 五，y l + 6 。砭，y l ( 2 ，2 0 2 、若口= 2 ，即x 与】，均为0 均值高斯随机变量时 z ，y l = e ( 剧) = c 。v ( 叫 啦 ( 2 2 2 ) 3 、若x 与y 为独立的s a s 随机变量，则 z ，r i o = o ( 2 2 3 ) 大连理工大学硕士学位论文 陋】，】。i - l l x l l 。i l y l i ? 。 f 2 2 4 ) 2 3 3 最小分散系数准则 从定理2 4 可以得到这样的结论：许多对于高斯分布看来是有效的技术不能用于口一 稳定分布。因此，一直以来应用于高斯数据的最大似然意义下的最优化方法最小均 方误差准则和最小均方估计技术，不再能应用到d 稳定分布中。对于c a u c h y 分布，研 究均值也存在着一定的问题。 从前面的内容可以看出，尺度参数，也就是分散系数在口。稳定分布的理论分析中， 起到和高斯分布的方差一样的作用，它表明了随机变量离开其均值的程度。受到m m s e ( 最小均方误差) 准则的启发，s t u c k 于1 9 7 8 年首先提出了m d ( 最小分散系数) 准则 口】。在最小分散系数准则下，最优估计就是使误差的绝对值最小。 根据最小分散系数准则，z o l o t a r e v 的理论提出了解决该问题的一个方法。在定理 2 4 中，由于矩估计量e f i z 可以用来估计数据向量的l p 泛数，将误差向量的分散系数 、。， 最小化就像当于将其z 泛数最小化。该定理也指出，在稳定情况下，所有的分数低阶矩 都是等价的，也就是说，可以任意选择p ，使计算变得简便。 2 4 能够描述脉冲噪声模型的其他分布 2 4 1 广义高斯分布 前面提到，现实中遇到的大部分非高斯分布都是脉冲性的，也意味着相对于高斯噪 声来说，它们有更厚重的尾部。由于高斯分布在分析中具有良好的性质，因此寻求一种 与高斯分布的p d f 形式相近的分布来描述噪声模型，可以使研究变得更加方便。通常 都选择广义高斯分布，有时也称为广义指数分布。 通过将高斯分布函数的二次指数推广到p 次指数就能够得到广义高斯分布，这样可 以得至0 一个指数衰落的变量。p d f 可以表示为： ，( e 臼) = 其中，倪为实数集合 一耢卜 亿z s ， 彳(p)=丽cr2f(1p)v ( 2 2 6 ) 操建闻：稳定分布参数动态估计问题的研究 参数p 控制尾部的厚度：p 越小，则尾部越厚；j 为均值，仃2 为对应的高斯分布中的 方差。从( 2 2 5 ) 中可以看出，当p = 2 时，广义高斯分布退化成高斯分布，当p = 1 时 为l a p l a c i a n 分布。 广义高斯分布最先由d i a n a n d a 提出，虽然有关它的性质和应用的文献比较少，但 是它已经逐渐引起了广大学者的兴趣【2 6 。2 8 1 。广义高斯分布和口一稳定分布之间存在着一 定的联系和区别： 从( 1 , 3 ) 、( 1 4 ) 和( 2 2 5 ) 式中可以看出，口稳定分布的特征函数在某种形式 上和广义高斯分布的p d f 有相同的形式。用广义高斯分布描述的信号模型的最大似然 估计等同于用口稳定分布描述的信号模型的最小分散系数估计。但是，广义高斯分布 既不满足稳定性，也不满足广义中心极限定理。 2 4 2s t u d e n t t 分布 s t u d e n t t 分布具有高斯分布的性质，并且相对于高斯分布来说，具有更厚重的尾部， 其p d ，f 为： m = 器筹k 一”w 2 亿：， 其中v 是控制尾部厚度的参数，。当v 寸c o ，s t u d e n t t 分布趋近于正态分布：当v = 1 ， 则变为柯西分布。该分布的均值为0 ，方差为v ( v 一2 ) 。 r a p p a p o r t 和k u r z 用柯西分布来表示一些噪声1 2 9 】，这种由m e r t z 提出的模型【3 川在数 据传输系统中的噪声模型在形式上和s t u d e n t - t 分布有很大的相似之处。事实上，s t u d e n t - t 分布具有和a 稳定分布一样的代数尾部，非常适合用来描述脉冲噪声模型。特别是柯 西分布，它既是一种s t u d e n t - t 分布，也是一种口稳定分布。 大连理工大学硕士学位论文 3 稳定分布的参数估计 3 1 常规估计方法 在2 1 _ 1 中已经提到，一个对称稳定( s a s ) 分布由特征指数a ( 0 0 ) ，位置参数a ( 一* 1 的情况。 3 1 2 基于抽样分位数的方法 令f ( - ) 为分布函数，则它的厂( 0 ， 1 ) 分位数定义为： ，( 0 ) = ， ( 3 8 ) 抽样五，k ，- 。，耳的j 顿序统计量就是将抽样值的大小按照升序排列，用x o p , 五。) 来表示，满足五。) 五。) 。也就是说 五1 ) 2 m i n , 一五。) 五2 ) 2 s e c o n ds m a l l e s t 五。 五* ) = m a x 一”五。) ( 3r 9 ) 形如这样的随机抽样观测的最小抽样、最大抽样和中间抽样值就称为顺序统计抽样。 令x 。，x ：，k 为未知分布f ( x ) 的随机抽样，其顺序统计量为五) s s 五。) 。设 0 ， 1 ，则，的一致估计尊由五。圹给出am c c u l l o c h 指出，为了避免母中存在着伪 偏差，必须做出一定的修正。假设1 疗s ，至笋厂 1 9 ) ，则最好的估计值 为o9 9 。 m c c u u o c h 将f a m a r o l l 的方法加以推广1 3 4 j ，得出了口和c 一致估计方法。具体做 法是：对s a s 分布，存在着独立于a 和c 的分位数估计 吒= 鲁譬监( 3 15 )# 、o 操建闻：稳定分布参数动态估计问题的研究 因此，可以通过搜索类似于m c c u u o c h 提出的袭，找到和也值匹配的项来得出一致估计 值西。对固定的t 2 而言，下面的变量是岱的函数，并且独立于a 。 u ：血遗 ( 3 1 6 ) 因为a ，i 。，i 。，都是一致估计，所以下式也是c 的一致估计。 拄x 0 7 5 - - 。x 0 ：2 5 ( 3 1 7 ) 叱( 西) 3 1 3 基于抽样特征函数的方法 抽样特征函数的定义为 庐( r ) 2 专丢。x p ( 溉) ( 3 。1 8 ) n 是样本容量，五，k ，j 0 是观测样本a 它是唯一决定密度函数的真实特征函数的一 致估计。注意到样本特征函数 i f ( t ) ，一 ， o o ) 是一个非平稳的随机过程，且有 0 眵( r ) b 1 ，从而( f ) 的所有矩都是有限的 k o u t r o u v e l i s 在分析了s a s 分布的特征函数和参数的联系的基础上，采用回归的参 数估计方法，取得了较好的效果f 3 5 1 。该方法基于以下的特征函数和参数的联系： 1 。g f 一1 。g f 伊o ) j 2 ) = l o g ( 2 c o ) + 口l 。g l f j ( 3 1 9 ) 硐i m ( f a ( t ) ) = t a n 口rr e ( 妒( f ) ) “ f 3 2 0 ) 因此，根据( 3 1 6 ) 式，可以用线性回归方程 y k = + 口+ 缸，k = 1 ，- 一，n ( 3 2 1 ) 对参数口和c 进行估计。其中欺= l 。g ( 一l 。g i 伊( ，) 1 2 ) ，a = l 。g ( 2 c 4 ) ，心= l 。g ，岛表 示误差项，定义为独立同分布的零均值随机变量，“是实数集合。 同理，对位置参数a 的估计，可以采用如下的回归方程 刁= a l d , , + 毋，= 1 ，三 ( 3 2 2 ) 大连理工大学硕士学位论文 其中靠= a 曙t a n ( i i l l p ( ) ) r e ( ( ) ) ) ，q 表示误差项，定义为独立同分布的零均值随 机变量地，“，为实数集合。 整个过程可以通过迭代方法直到满足预先设定的收敛条件实现。估计的初值可以通 过f a m a r o l l 法或者m c c u l l o c h 法得到。 3 1 4 基于分数低阶矩的方法 1 、基于负阶矩的方法 m a 和n i k i a s 提出了一种基于负阶矩理论的新的估计方法 1 9 1 。设j 是一个s 硝随机 变量，有 e o 9 e o 爿i 一9 = c ( p ，口) c ( 一p ，口) = 鬻，。 p m i n ( a ，) ( 3 2 3 ) 其中，c ( p ，口1 由( 2 1 3 ) 定义，因此 鞠 幽， z 。， 并且a 可以通过( 3 - 2 0 ) 式估计矩( 正阶数和负阶数) 来得到，其中( 3 2 0 ) 式与分散 系数，无关。一旦估计出口，则可以通过( 2 - 1 2 ) 式求出，。我们也将该方法称为s i n c 方法，这是因为s i n c ( t 1 = s i n t t 。 2 、l o g 方法 m a 和n i k i a s 还提出了一种基于分数低阶矩的对数估计方法，称之为l o g 方法。在 该方法中指出，如果是一个鼬s 随机变量，它的p 阶矩满足e ( i z = c l ( p ，口) y 咖。我 们定义一个新的随机变量j ，= l i l i z i ，那么x 的p 阶矩又可以表示为 e ( i x 9 ) = e o p l 1 4 ) = e ( p p y )( 3 - 2 5 ) 对e ( e ) 作麦克劳林展开，有 ) = 妻e ( y k k = 0 ) 蔷 ( 3 2 6 ) ： 因此，y 的任意阶矩为 操建闻：稳定分布参数动态估计问题的研究 即兮軎( c l ( 彤炉地：。 ( 3 2 7 ) 简化上面的等式，得到y 的一阶矩和二阶矩分别为 e c y ：c ：( - l 一1 ) + 土h ，( 3 2 8 ) v a r y m 肌期) 2 】= 等专+ 争 ( 3 2 9 ) 其中，c o = 0 5 7 7 2 1 5 6 6 是欧拉常数。口是特征指数，是分散系数。可以看出，y 的二 阶矩( 方差) 只与瑾值有关，】，的一阶矩( 期望) 由口和y 决定。因此，通过r 的期望 和方差可以得到参数口和，的估计。 3 1 4 基于极端顺序统计量的方法 令五，五，“为服从s a s 分布的，独立同分布的随机变量。对于s d s 分布的位 置参数万的估计分，可以通过观测样本的中位数获得： a = m e d i a n ，五，x u ( 3 3 0 ) 样本中位数的定义为：如果采样点数为奇数，则中位数定义为中心顺序统计量；如 果采样点数为偶数，则中位数定义为中间两个顺序统计量的平均。采样中位数构成了 l a p l a c e ( 双边指数) 分布的位置参数的极大似然估计，拥有极大似然估计的所有性质。作 为s a s 的位置参数占的估计，在性能上具有很强的稳健性。 特征指数口的估计采用以下的方法，将采样分成相互不重叠的三段，每一段的长度 为足= n z ，则可以得到 西一占，五一a ，一，- 一a = x ( 1 ) ，x ( 2 ) ，x ( ) ( 3 3 1 ) 其中，x ( o = 五“) 一一a ，五“) 一一a ，以- h j ，f - 1 ，2 ，三。对分段的选择决定了 计算的复杂性。 令置和茧为x ( ) 的最大值和最小值，定义： 习= l o g 蜀( 3 3 2 ) 玉= 一i o g ( 一茧) ( 3 3 3 ) 大连理工大学硕士学位论文 1 l 1l 定义i = j i ；，兰= 墨，则对应的标准差为： 厶，t l厶l - 1 可= 酉1 善l ( 写吲2 墨= 压喜( 玉叫2 由此，可以得到s a s 分布的特征指数口的估计 石r11 、 虻丽悟+ 刮 对于特征指数a 的估计的证明可以见附录。 仆新磊糟的估计粟胃其千仆靳低阶牾的青溃 v =籀互 c ( p ，a 1 ( 3 3 4 ) ( 3 3 5 ) ( 3 3 6 ) ( 3 3 7 ) 通常情况下，取0 p a 2 。 从中我们可以看出，在估计特征指数口之前，必须对位置参数口进行估计。同理， 在估计离差，之前，必须对位置参数口和特征指数口进行估计。 3 1 5 几种估计方法的分析比较 对于近似最大似然估计方法，b o r s o n 和y a n g 所作的m o n t ec a r l o 仿真【3 2 】虽然取得 了较好的效果，但作为一个复杂的非线性优化问题，该方法除了在计算量上存在着缺陷 外，也没有初始值选择原则和收敛分析可以加以利用。 f a m a r o l l 的方法比较简单，同近似最大似然方法相比，计算量上有一个很大的减 小，但是存在着一个渐近偏差，并且不是渐近有效的。同时，口被严格地限制在1 口2 。 m c c u l l o c h 的做法消除了f a m a - r o l l 的方法估计口和c 时的渐近偏差。事实上，和本文介 绍的方法相比，m c c u l l o c h 的方法要更通用。它给出了所有4 个参数的一致估计，如果 一1 1 且口0 6 ，m c c u u o e h 法还将保留f a m a - r o l l 法的计算量小的优点。 以样本特征函数为基础，曾经提出过很多种参数估计方法。主要包括：p r e s s 的矩 法，p a u l s o n ，h o l e o m b 和l e i t c h 的方法，以及k o u t r o u v e l i s 的回归法。仿真结果表明， 操建闻：稳定分布参数动态估计问题的研究 在一致性，偏差，效率方面k o u t r o u v e l i s 的回归法要比其他两种方法好。该方法回归估 计所得到的西，0 和占是一致收敛和渐近无偏的。仿真结果表明，回归法优于最大似然 法和f a m a - r o l l 分位数法，和这两种方法相比，回归法的计算量最小，比较容易实现。 基于分数低阶矩的l o g 方法同基于极端顺序统计量的方法一样，具有闭合形式的 计算