（信号与信息处理专业论文）α稳定噪声环境下的自适应滤波算法.pdf

摘要 捅要 本文在简述口一稳定噪声的性质以及高斯噪声环境下的经典自适应滤波算法 基础上，主要研究了a 稳定脉冲噪声环境下的若干自适应滤波算法，并对其中一 个算法进行了改进。下面是具体工作安排： 首先，给出口一稳定分布的定义以及它所具有的重要性质，论述了分数低阶矩 和最小离差准则的定义、性质和重要的定理及结论。 其次，简述高斯噪声环境下的自适应滤波器原理，并介绍了高斯噪声下的两 种经典自适应滤波算法一最小均方( l m s ) 算法和递归最小二乘( r l s ) 算法。 在此基础上，研究了它们的推广算法，即口稳定噪声环境中常用的最小平均，。范 数( l m p ) 类和递归最小f 。范数( r l p ) 自适应滤波算法，并通过仿真实验分析 了它们的性能。 然后，详细介绍了近年来兴起的新的拟牛顿自适应滤波算法，包括q n l m p 自适应滤波算法和q n r ip 自适应滤波算法。除此之外，还介绍了一类采用总体 思想的自适应算法，包括总体最小z 。范数算法( m p ) 和递归全局最小f 。范数算 法( r t l m p ) 算法，实验证实这类算法的优势。这两类算法为我们下面的改进算 法奠定了基础。 最后，本文将拟牛顿方法应用于递归全局最小平均z 范数( r t l m p ) 算法之 中，用满足拟牛顿方程的正定矩阵逼近增广输入向量自相关矩阵的逆矩阵，并对 其使用d f p 校正公式进行迭代，从而实现了算法的改进。最后将改进算法用于自 适应i i r 滤波器中，通过计算机仿真验证了改进算法不仅不存在数值计算不稳定 的问题，而且其鲁棒性也有了一定的提高。 关键词：口稳定分布分数低阶矩最小离差拟牛顿递归全局最小f 。范数 自适应i i r 滤波器 a b s t r a c t a b s t r a c t o nt h eb a s i so fd s t a b l en o i s e sp r o p e r t ya n dt y p i c a la d a p t i v ef i l t e r i n ga l g o r i t h m s i ng a u s s i a nn o i s ec o n d i t i o n ，t h i sp a p e rm a i n l ys t u d i e ss e v e r a l a d a p t i v ef i l t e r i n g a l g o r i t h m si n 口一s t a b l en o i s ec o n d i t i o n s ，a n dm a k e sm u c hi m p r o v e m e n tt oo n eo f t h e m m o r ed e t a i l sb e l o w ： f i r s t l y , t h i sp a p e rp r e s e n t st h ed e f i n i t i o na n di m p o r t a n tc h a r a c t e r i s t i co f 一s t a b l e d i s t r i b u t i o n ，a n dd i s c u s s e s t h ed e f i n i t i o n sa n dp r o p e r t i e so ff r a c t i o n a lt o w e r - o r d e r m o m e n t ，m i n i m u md i s p e r s i o n ，a n ds o m ei m p o r t a n tt h e o r e m sa n dc o n c l u s i o n s t h e nt h ea d a p t i v ef i l t e r i n gp r i n c i p l ei ng a u s s i a nn o i s ec o n d i t i o ni si n t r o d u c e d ，a n d t w ot y p i c a la d a p t i v ef i l t e r i n ga l g o r i t h m sa r e p r e s e n t e d ，i n c l u d i n gt h el e a s tm e a ns q u a r e a l g o r i t h ma n dt h er e c u r s i v el e a s ts q u a r ea l g o r i t h m t w on e wm e t h o d sa r es t u d i e d d e r i v e df r o ma b o v ea l g o r i t h m s ，n a m e l y , t h el e a s tm e a nl p n o r ma n dt h er e c u r s i v el e a s t l pn o r ma d a p t i v ef i l t e r i n ga l g o r i t h m s t h e i rp e r f o r m a n c e i sa n a l y z e dv i ac o m p u t e r s i m u l a t i o n s o m en e wq u a s i - n e w t o na d a p t i v ef i l t e r i n ga l g o r i t h m sa r ep r e s e n t e d ，i n c l u d i n gt h e q u a s i n e w t o nl e a s tm e a nl pn o r ma l g o r i t h ma n dt h eq u a s i - n e w t o nr e c o r s i v el e a s t f p n o r ma d a p t i v ef i l t e r i n ga l g o r i t h m b e s i d e s ，t h et o t a ll e a s t l p u o i t na l g o r i t h ma n dt h e r e c u r s i v et o t a ll e a s t l p n o r ma l g o r i t h ma r ei n t r o d u c e d ，a n dt h e i ra d v a n t a g e sa r e s h o w e dv i ac o m p u t e rs i m u l a t i o n t h e s et w ot y p i c a la l g o r i t h m sf o r maf i r mb a s i sf o r t h ei m p r o v e da l g o r i t h mb e l o w a tl a s t ，t h eq u a s i - n e w t o nm e t h o di sa p p l i e di n t ot h er e c u r s i v et o t a ll e a s t l 。n o r m a l g o r i t h m ap o s i t i v em a t r i xw h i c hs a t i s f i e s t h eq u a s i - n e w t o ne q u a t i o ni su s e dt o a p p r o a c ht h ec o n t r a r ya u t o c o r r e l a t i o nm a t r i xo ft h ee x t e n d e di n p u tv e c t o r , a n di t i s i t e r a t e dw i t hd f pf o r m u l a s of o r m st h ei m p r o v e da l g o r i t h m a n dt h e nw ea p p l yi ti n t o i i ra d a p t i v ef i l t e r i tc a l lb es e e nt h a tt h en e wa l g o r i t h m l ss t a b i l i t yh a sc e r t a i n i m p r o v e m e n tc o m p a r i n gw i t ho t h e rs e v e r a la l g o r i t h m s k e y w o r d s ：a s t a b l ed i s t r i b u t i o n f r a c t i o n a ll o w e r - o r d e rm o m e n tm i n i m u m d i s p e r s i o nq u a s i _ n e w t o n r e c u r s i v et o t a ll e a s t l p n o l t ni i ra d a p t i v ef i l t e r 创新性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究 成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不 包含其他人已经发表或撰写过的研究成果；也不包含为获得西安电子科技大学或 其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做 的任何贡献均已在论文中做了明确的说明并表示了谢意。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 本人签名：熟重望日期：竺生：f ：纽 关于论文使用授权的说明 本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究 生在校攻读学位期间论文工作的知识产权单位属西安电子科技大学。本人保证毕 业离校后，发表论文或使用论文工作成果时署名单位仍然为西安电子科技大学。 学校有权保留送交论文的复印件，允许查阅和借阅论文；学校可以公布论文的全 部或部分内容，可以允许采用影印、缩印或其它复制手段保存论文。 本人签名 导师签名 丝重揖 弓呔烈 日期：砷7 矽 日期：型! z ：! ：驾 第一章绪论 第一章绪论 1 1 口一稳定分布历史回顾 目前，高斯信号处理的理论及方法仍然在信号处理与通信领域占主导地位 然而，在通信和许多其它实际应用中所遇到的信号和，或噪声往往是非高斯分布 的，并伴有显著的脉冲，如现实物理世界中的水下噪声、低频大气噪声以及多种 人类噪声等【1 1 1 2 】具有很强的冲击特性的噪声跟传统的高斯噪声有显著的不同。这 就是本文所要研究的口一稳定分布噪声。 1 9 2 5 年，正在研究中心极限定理的法国数学家l e v y 注意到中心极限定理存 在着一些例外：如果放宽中心极限定理中有限方差的条件，则其极限分布服从稳 定分布规律。受到这个结论的启发，l e v y 开始评价所有稳定分布的傅立叶变换， 并首次提出了口一稳定分布的概念。而事实上，a 一稳定分布的首次应用却是在此 之前。1 9 1 9 年，天文学家h o l t s m a r k 发现在宇宙中任一点由恒星所施加的重力服 从稳定分布，且其特征指数为口- 3 2 遗憾地是，数学家们并没有注意到 h o l t s m a r k 的结论，并在很长时间内没有给予重视。1 9 3 7 年，l e v y 又发现了种 新的、更简单的用于研究口一稳定分布理论的方法，这种新的方法也是建立在傅 立叶分析的基础上的。1 9 3 9 年，d o b l i n 采用规则变化的函数构成了现代的a 一稳 定分布规则。后来，许多数学家对口一稳定分布理论做出了很大的贡献，逐渐形 成了比较完整的理论体系。 经历了漫长的时间，直到m a n d e l b r o t 对金融问题的研究才使口一稳定分布引 起了应用科学家的重视。m a n d e l b r o t 在研究金融时间序列的问题中，曾试图采用 高斯模型和最小均方算法，但他失败了。然后，他转向了非高斯模型。m a n d e l b r o t 发现了一些现象，如股票价格和风险投资利率波动等变量服从非高斯稳定分布【3 】。 随后，口一稳定分布在工程上得到了一些应用。如，b e r g e r 应用口一稳定分布来模 拟电话线路中的错误聚类，s t u c k 和k l e i n e r 根据经验发现电话线路中的噪声可以 很好地由口一稳定分布来描述。后来s t u c k 还针对口一稳定分布的数据设计了 k a l m a n 滤波方案，并且于1 9 7 8 年首次提出了最小离差准则【4 】然而，由于他所 设计的k a l m a u 滤波器不是最优的，所以他提出的最小离差准则并没有被工程界 所重视。1 9 9 3 年，s h a o 和n i k i a s 所写的一篇文章1 1 悛表之后，才在信号处理领域 引发了关于口一稳定分布的研究热潮，直到这时，人们才注意到最小离差准则， 并且在十年左右的时问内，口一稳定分布得到了迅速的发展，并被广泛地应用到 实践中。因此，口一稳定分布作为一个理想的数学模型，为信号处理领域开辟了 2口一稳定噪声环境下的自适应滤波算法 一个新的研究领域，正吸引着研究者们的极大关注。 本文主要研究这种脉冲很强的口一稳定噪声情况下的自适应算法。首先了解了 口一稳定噪声的研究意义，还有其具体模型和研究概况；然后在此基础之上回顾 了多种经典的自适应滤波算法，并提出了改进的算法；最后总结所完成的任务， 分析有待解决的问题。 1 2 口一稳定分布模型的研究意义 信号处理就是从干扰或噪声中提取有用信号并进一步从中提取人们所需要的 各种信息的过程。实际上所有信号处理问题中所考虑的信号都有可能受到随机噪 声的污染。噪声在现实物理世界中是不可避免的，它来自多方面的原因：如邻近 信号的干扰、人为噪声、宇宙噪声、热噪声或是观测过程所带来的噪声。因此， 需要从被噪声污染的信号中将源信号或有关信息提取出来，为此我们需要对随机 性、独立性、噪声背景的概率分布模型、某些未知参量的先验分布等的假定引入 数学工具，或者是对实际情况作简化，或者只是对某些模糊知识作粗略的描绘。 这是一些理想的假定，是信号处理背景条件的理想化模型。其中，在众多噪声模 型中使用最广泛的就是如下的加性噪声模型： s ( n ) 一d ( ，1 ) + v ( 刀) ，万一1 , 2 ，3 ( 1 1 ) 其中，s ( 肛1 和d ( n 1 分别代表被噪声污染的信号和原始信号，v ( 抖) 是噪声。 通常情况下，噪声，( 雄) 被假定为高斯噪声。这是因为直到二十世纪八十年代 中期，包括信号分析、系统辨识、信号估计等问题在内的统计信号处理基本上是 建立在二阶矩或二阶统计量的基础之上的，如对随机信号的均值、方差、相关函 数和功率谱密度等的分析，以及基于信号二阶统计量的滤波、预测、检测与估值 等。自相关函数和互相关函数是得到广泛应用的两个二阶统计量的例子。众所周 知，高斯分布是统计信号处理领域所普遍采用的描述随机信号的模型。高斯随机 信号的概率密度函数可以完全由两个统计矩参数来描述，即数学期望和方差。这 样，在统计信号处理领域采用基于二阶矩的信号处理方法就成为顺理成章的事 情。到目前为止，基于二阶统计量的方法对随机信号及其通过线性系统的分析， 在很多情况下都是有效的。 然而，如果信号和噪声有偏离高斯分布的特性，高斯假设下的最佳系统性能 下降非常明显，即使稍微偏离高斯分布都会导致误差显著的增加。如在高斯假设 下，最小均方误差估计( m m s e ) 是线性估计，但在非高斯数据下，它却变成了 非线性的；另外，最小= 乘估计对高斯分布的信号或噪声是最大似然意义上的最 佳估计，但对非高斯数据则远远不是这样。当处理非高斯脉冲噪声时如果仍使用 第一章绪论 3 适用于高斯假设下的一些算法，则会使自适应滤波器的性能下降甚至失效而这 种脉冲状噪声正是分数低阶口一稳定分布( f r a c t i o n a li o w o io r d e ra s t a b l e d i s t r i b u t i o n ，简称f l o a 分布) 过程的显著特征。 我们选择o f 一稳定分布作为非高斯数据的统计模型有以下几个方面的原因： ( 1 ) 口一稳定分布是满足广义中心极限定理的唯一的一类分布，而广义中心极 限定理表明，无限多个方差可能无限大的独立同分布的随机变量之和，其极限分 布是a 一稳定分布【5 】。实际上，提出常规的高斯分布的动因是中心极限定理。因此， a 一稳定分布在理论上的合理性与高斯分布一样。当然，a 一稳定分布具有更普遍 的意义，因为它能够描述更加广泛的数据，甚至可以描述许多不满足中心极限定 理的数据。因此，从理论上讲，o f 一稳定分布比高斯分布更具有一般性。 ( 2 ) 口一稳定分布是一种能够保持自然噪声过程的产生机制和传播条件的极 限分布【1 1 6 1 。 ( 3 ) 口一稳定分布是一种更加广义化的高斯分布，是高斯分布的推广，或者说 高斯分布仅是它的一个特例，两者拥有许多共同的特性。其中最重要的一点就是 所谓的稳定特性，即具有相同特征指数的几个口一稳定随机变量的线性组合仍是 口一稳定分布的，但离差不同。因此，输入为口一稳定分布的线性系统的输出也是 口一稳定的，并且在高斯信号环境下发展起来的线性系统理论也可以直接推广到 口一稳定信号环境中。它们的主要不同就是口一稳定分布是代数重拖尾分布，其代 数拖尾比高斯分布的代数拖尾要大。口一稳定分布的特征指数a 控制其拖尾的大 小，因此口一稳定分布作为非高斯脉冲噪声的统计模型具有很强的灵活性。a 越 小其分布显示越强的冲激性，口接近2 时其分布接近高斯分布，而当o f = 2 时的口一 稳定分布即是高斯分布。 ( 4 ) 口一稳定分布能够非常好地与很多实际数据相吻合。s t u c k 和k l e i n e r 通过 实验表明，电话线路中的噪声可以用口一稳定分布有效地描述；后来n i k i a s 和s h a o 也证明了口一稳定分布是描述大气噪声的极好模型【1 】；f l o w 表明口一稳定分布与无 线网络中的多路干扰和雷达系统中的反向散射回波相符合；众所周知m a n d e l b r o t 曾利用口一稳定分布对金融时间序列建模也非常成功1 3 1 。 因此，我们有必要研究非高斯口稳定分布的脉冲噪声模型。由此，分数低阶 统计量f 1 7 回( f r a c t i o n a ll o w e ro r d e rs t a t i s t i c s ，简称f l o s ) 应运而生分数低阶 统计量是指低于二阶的( 0 ，2 ) 范围内的分数阶统计量，典型的分数低阶矩可以 表示为e k 伽) i ， ，其中，0 p a 墨2 。分数低阶矩( f l o m ) 等分数低阶统计 量对于f l o a 分布的噪声具有显著的抑制作用，并且对f l o a 分布信号的分析和 处理具有非常好的韧性。根据非高斯信号处理领域著名教授n i k i a s 的评价，基于 a 一稳定分布假设而导出的信号处理算法对诸如信号噪声模型的不确定性与实际 情况有误差等情况，具有良好的韧性。研究表明，这类算法在很多方面优于相应 4 a 一稳定噪声环境下的自适应滤波算法 的基于高斯假设的算法，即使当信号噪声确实为高斯分布时，基于f l o s 算法的 性能也与基于高斯假定的算法相当。正是因为具有上述显著优点，自二十世纪九 十年代中期以来，基于分数低阶统计量的信号处理理论和方法受到国际信号处理 学术界的极大关注并且在许多领域，如雷达信号处理、语音信号处理、时间延迟 估计与频率估计和生物医学信号处理及其它许多领域得到了广泛的应用。目前， 口一稳定分布领域的大部分研究工作集中在口一稳定分布噪声环境下最优( 或近似 最优) 接收机的设计、盲信道估计、线性过程的参数估计、波达方向估计、方位 估计及其它与雷达有关的问题，具有口一稳定过程的信号建模，以及口一稳定分布 概率密度函数的参数估计等方面。 1 3 口一稳定分布的研究概况 在信号处理中，自适应系统一般都是控制自适应滤波器的权系数，利用前一 时刻已获得的滤波器权系数等结果，自动地调节现时刻的滤波器权系数，以适应 信号和噪声未知的或随时间变化的统计特性，从而使整个系统收敛到最优解。因 此，在自适应调整过程中，自适应算法的收敛速度、计算复杂度、稳定性等是衡 量自适应算法性能好坏的重要指标。 高斯假设下的自适应信号处理方法是基于最小均方误差( m m s e ) 准则的， 如最常用的最小均方( u m s ) 算法和递归最小二乘( r l s ) 算法。由于口一稳定分 布不存在有限的二阶和二阶以上矩【1 1 ，高斯假设下自适应信号处理用的最多的最小 均方误差准则不再适用。因此，人们基于最小离差准则【1 l f f l s l ( m d ) 提出了多种 自适应方法。在最小f 。范数误差准则下，国内外很多学者都进行了自适应算法的研 究工作。n 艏a s 和s h a o 于1 9 9 3 年率先提出的最小平均j 。范数( l m p ) 自适应算法1 1 1 ， 可以看作l m s 算法的推广。l m p 算法与l m s 算法相类似，都存在收敛速度与稳态 误差不能兼顾的缺点，因此效果并不能令人满意。后来，受归一化l m s ( n l m s ) 算法的启发，a r i k a n 等人提出了一种归一化最小平均z 。范数( n l m p ) 算法唧，其 收敛速度较l m p 算法有了明显提高。m u r a t b e i g e 等人在r i s 的启发下，提出了类 r l s 算法一一r l p 算法1 1 0 】；除此之外，还有后来的总体最小平均，。范数( t l m p ) 算法1 2 3 1 、递归全局最小平均z 。范数( r t l m p ) 算法1 2 4 】等。但整体来说，口一稳定 分布假设下自适应滤波算法的研究还刚刚开始，有待我们进一步研究。 第二章口一稳定噪声5 第二章a - 稳定噪声 本章主要介绍了口一稳定分布的定义以及该分布所具有的最主要的两种基本 特征；除此之外，还重点讲述了分数低阶矩的概念和最小离差准则 2 1 口一稳定噪声的定义 定义2 1 如果一个随机变量被称为是口一稳定的，则它的特征函划1 1 1 须具有如下 形式： 妒( f ) 一e x p i j z t r h 4 【1 + j 卢s i 朗( f ) o ，a ) 】( 2 - 1 ) 其中， ( f ，口) 一 号- l o g t i 口一1 二竿， 一竭 ( 2 - 3 ) 卢，y ，和p 唯一并完全 确定，这四个参数分别具有如下的物理意义 g l 9 1 ： ( 1 ) 口称为特征指数，口( 0 2 】。一个特征指数为a 的稳定分布即称为口一稳 定分布，它决定着该分布脉冲特性的程度。口越小，其对应分布拖尾越厚，因此 脉冲特性越显著；相反，随着口值变大，所对应的分布拖尾会越变越薄，且脉冲 特性会减弱。我们熟悉的柯西分布和高斯分布实际上分别是a 一稳定分布在口= 1 和口- - 2 时的两种特殊情况。 ( 2 ) 芦称为对称参数，一1 t 卢一c 1 。它决定分布的斜度，也就是对称程度。卢= o 时，对应的分布为对称的，称之为对称口一稳定分布( 简写为s a s ) 芦t 0 说明分 布左偏；，0 说明分布右偏。柯西分布和高斯分布都属于s a $ 分布。 ( 3 ) y 称为分散系数，也称为离差( d i s p e r s i o n ) 。它也是度量样本分布偏离其均 值程度大小的参数，其意义类似于高斯情况下的方差。不过，高斯情况下，分散 系数的数值是方差的2 倍。 ( 4 ) 称为位置参数，一* cp co o 。考虑到分布的特征函数是其概率密度函 数的傅立叶变换，因此式中的e x p j 基本上对应于概率密度函数在x 轴上的平 移。对s a s 分布，1 c a 2 情况下p 即为均值；0 c 口s 1 情况下即为中值。如 6 口一稳定噪声环境下的自适应滤波算法 果一个a - 平稳分布的位置参数p = 0 且离差y = 1 ，则称其为标准a 一稳定分布。 注意：以下本文中只考虑p = 0 情况下的口一稳定分布。 非高斯口一稳定分布的冲击性强于高斯分布的原因在于它具有更大的代数拖 尾。代数拖尾的定义如下： 定义2 2 如果一个随机变量x 是具有代数拖尾分布的，则须满足对v f ，o ，有： p ( i x 卜f ) 一o ( 严) ( z - 4 ) 离差为y 的非高斯口稳定分布随机变量z ，满足以下等式l s l ： 蜘严p ( i x l , ) 一r c ( a ) ，( o a s 2 )( 2 母 其中，c ( a 1 为仅与邸有关的正常数。 由式( 2 5 ) 可以看出，口一稳定分布满足式( 2 4 ) ，所以是代数拖尾分布。因此， 非高斯a 一稳定分布( 0 口 r ) 一d ( r ”) ，o ( t 。2 ) - p ( 1 牙l ，r ) ( 2 - 0 式( 2 - 6 ) 中下划线部分代表高斯分布，从而说明一般非高斯口一稳定分布的尾 部概率即代数拖尾比高斯分布大，并r a 越小，代数拖尾越大，从而导致分布的 冲击性明显变强。这也是一般非高斯口一稳定分布不同于高斯分布的主要原因。 为了对口一稳定分布有一个更直观的了解，图2 1 和图2 2 分别给出了参数 口；0 5 , 1 0 , 1 5 ，2 0 时s a s 稳定分布的概率密度函数及其放大的拖尾部分。 图2 1 不同a 参数条件下的概率密度函数 图2 2 当a 一0 5 ，1 0 ，1 5 ，2 0 时的拖尾分布 第二章a 一稳定噪声 7 如图2 2 所示，口值越小，非高斯口- 稳定分布的拖尾越重；口值越大，该种 稳定分布的拖尾越轻；当它的值等于2 时，即成为拖尾很小的高斯分布了 图2 3 则分别给出了口- 0 5 ，1 o ，1 5 ，2 0 时的s a s 稳定噪声，很明显看出随着 特征指数a 越大，冲击性也逐渐减弱。 ：糍 1 咖 0 1 0 - 舢 3 叨 4 0 i1 01 0 0 抛如伽锄e o o7 0 0 咖咖1 咖 ( c ) a l p h a = 1 5 稳定噪声 l l 。 l i j 。l 。j jlk h d ”r 1 r r r r f | ” 。7 r i t l 1 。 i 叩：l ih a l p h a = 2 嘴定噪声 图2 3 ( 曩) 0 ) 、( c ) 、 p 分别是口- 0 5 ，1 o ，1 5 ，2 0 时的稳定分布 8a 一稳定噪声环境下的自适应滤波算法 2 2a 一稳定分布的基本性质 稳定性质和广义中心极限定理是口一稳定分布的两个最重要的基本性质【1 2 1 【1 3 1 【1 4 l ，也是口一稳定分布作为非高斯脉冲噪声统计模型的重要原因 性质2 1 ( 稳定性质) 如果一个随机变量x 服从口一稳定分布，那么满足：对任何与z 同分布的两 个独立随机变量置和x ：，给定任意常数口，和如，都存在常数4 和b 使得 d 口1 j ，1 + 订2 x j = 寺n x + 6 ( 2 7 ) 其中，符号石一y 表示x 和l ，同分布。 如果x 是对称口一稳定分布，则x 和一z 同分布，从而得出下面的结论： 结论1 如果性质2 1 中b 一0 ，则此时x 为对称a 一稳定分布。 利用稳定分布的特征函数，我们可以很容易得到下面更一般的结论： 结论2 如果随机变量序歹i j x ，x ：，x 。为相互独立且具有相同参数b ，p ) 的口一稳定分布随机变量，则其线性组合 x i q l x l + 口2 2 2 + + 口。石 ( 2 8 ) 也是参数为b ，户) 的稳定分布随机变量。 性质2 2 ( 广义中心极限定型3 】1 1 习) 一个随机变量x 是服从稳定分布的，如果存在独立同分布的随机变量序列 k ，y 2 ，e 和e r + 及吒e r ，使得 x 。坠型二生+ b 。皱( 2 - 9 ) 口 其中，一表示依分布收敛。 特例，当忸。) 独立同分布且方差存在时，伍。) 的极限分布为高斯分布。这正 是一般中心极限定理的结论。 2 3 分数低阶矩 定义2 3 对服从口一稳定分布( o c a t 2 ) 的随机变量置，当o t pc a 时，e l x l 7 称 为x 的p 阶分数低阶矩( n d m ) 。 性质2 3 若x 是服从d 一稳定分布的随机变量，则 当。c 口c 2 时， e f i 防x r p 。- 。，。, p 。p , 。z “ 第二章口一稳定噪声9 当a 一2 时，e i x r m ，v p 苫。 从性质2 3 可以看出，对于0 c 口1 ，口一稳定分布没有一阶和一阶以上的矩； 对于l 0 ，位置参数p - 0 的对称口一稳定随机变量，它的 范数定义为 u x 也- 笔 ) 因此，x 的范数实际上是离差r 的函数，并且通过特征函数决定着它的分布，且 由式( 2 1 ) 得： 舯h 唧 制- i i x i 附li , i 】 小, o 若a ( z 1 1 ，则a r m a 过程退化为 x ( n ) - v ( n ) + 却，( 行一1 ) + + 6 口v ( 雄一) ( 3 5 ) 这一过程称为阶数为口的滑动平均过程，简记为t a ( c o 过程。 在很多实际应用中，我们通常假设a r ，m a 或a r m a 过程的激励v ( 刀) 为高 斯自噪声。这是因为高斯过程分析简单并且满足中心极限定理。在很多信号处理 应用中，用高斯激励下的线性模型建模效果都非常好。然而，现实中还存在很多 观测数据用商斯激励下的线性模型建模并不理想，如第一章中所讲的水下信号、 气象信号及生物医学信号等都显示出很强的冲击性。正是由于这个原因，用对称 a 一稳定分布随机信号作为a r m a 过程的激励，即s a s a r m a 过程就成了二阶 矩不存在的过程中常用的线性模型 3 2 高斯噪声环境下的经典自适应滤波算法 3 2 1 自适应滤波器原理 线性系统模型是应用非常广泛的一类系统模型，线性f i r 系统的自适应辨识 原理如图3 1 所示。 1 ，( 功 图3 1 自适应f i r 滤渡器原理图 输入信号x ( 肛) 经过未知系统后的输出以及噪声v ( 尼) 共同构成了期望信号 d ( n ) ，设吩，f 一0 ，村一1 为未知系统的有限脉冲响应，则有： - 1 d ( n ) 一罗h t x ( t l i ) + ，( 拜) ( 3 - 6 ) i 0 定义未知系统的输入为m 1 维数据向量： 第三章经典自适应滤波算法 k ( n ) - p ( 雄) ，工b 一1 ) ，一j z ( n 一膨+ 1 ) r 0 - 7 ) 和m 1 维未知系统脉冲响应： h - ，啊，k 。】r( 3 8 ) 则式( 3 固可改写为 d ( n ) - 吒( ) h + v ( ) ( 3 - 9 ) 在自适应辨识中，如图3 1 所示的自适应滤波器，其权向量为： w - ，嵋，m k 。r ( 3 1 0 ) 我们希望w 为未知系统有限脉冲响应h 的估计。当未知系统的有限脉冲响应h 随 时间变化时，白适应滤波器的权向量w 也可以随之变化，使其输出y ( 万) 尽可能地 逼近期望信号d ( 以) 。 p ( 厅) - d ( n ) - y ( n ) - dc n ) - 巧( n ) w( 3 - 1 1 ) 在某种准则下，通过控制误差p ( 厍) 从而获得对未知系统参数的估计，即自适应滤 波器的权向量w 。 在p ( 玎) 为高斯噪声的假设下，最常用的自适应算法大都是基于最小均方误差 准则( m m s e ) 而得到的，即令如下代价函数： ，o ) - e h n ) 】i e 陋雄) 一( n ) w ) 2 1 ( s - 1 2 ) 最小化。 令r - e 【k 扣) 瑶( 打) 】，p - e p ( n ) x ”( 露) 】，则式( 3 1 2 ) 可改写为： - ，( n ) - e p 2 ( 开) 】+ w 7 r w - 2 w 7 p o 1 3 ) 将式( 3 1 3 ) 对权向量w 求导，得到均方误差函数的梯度 寺( 以) 一掣一2 r w 一2 p 3 - 1 4 在最佳权向量处的梯度值应为零，于是 v ( 甩) 一2 r w 一2 p - 0 ( 3 1 5 ) 故自适应系统在最小均方误差情况下的最佳权向量w 。满足维纳一霍夫( w i e n e r - h o f f ) 方程： w 一r 。p( 3 1 6 ) 式( 3 1 6 ) 中，相关矩阵r 必须是满秩的。 利用式( 3 1 6 ) 求解最佳系数向量的精确解需要知道r 和p 的先验统计知识，而 且还需要进行矩阵求逆等运算。但当只有观测值可利用时，则需要用随机近似方 1 4a 一稳定噪声环境下的自适应滤波算法 法求最佳系数向量。w i d r o w 和h o f f 于1 9 6 0 年提出了w i d r o w h o f f l m s 算法【切， 它可以在这些先验知识未知时，用来求解w 咿的近似值该算法的根据是最优化 方法中的最速下降法。 3 2 2l m s 算法 w i d r o w 和h o f f 翠先提出昀u m s 算法是亘瑗利用单次采样数据输出误差 的瞬时平方值( 即瞬时功率) i e ( 雄1 2 来代替均方误差e 【e 2 ( 杯) 】。于是在自适应过 程的每次迭代中，其梯度估值具有以下形式： 寺。专俐2 。毒酝0 1 ) 1 2 + 矿伽) x ”( 刀) 瑶( 疗) w o ) - 2 r e ( d 伽) 扣) w 伽) ) 】( 3 - 1 7 ) - 2 x 。( 厅) x ：( 矗) w o ) 一2 d 0 ) x ( n ) 一一2 b ( 厅) x 。( 厅) 采用这个简单的梯度估值，就可以导出最速下降法类型的自适应算法i m s 算法 的迭代公式； 吣柚州箔：品洲0 - 1 - w ( n 功 ) + 烨( 玎) x * ( 再) 。 l m s 算法： 初始化： w ( o ) - 0 ； f o r n = l ：lo 滤波器输出； y 0 ) 一伽) w o 1 ) 估计误差： e ( n ) - d ( n ) - y ( n ) - d ( n ) - 0 ) w o 一1 ) 权向量迭代：w ( n ) 一w o 1 ) + u e ( n ) x q ) 在通常情况下l m s 算法鲁棒性强，但收敛速度较慢；且步长因子不易确定， 收敛速度要受到输入信号相关矩阵特征值离散程度的影响。 基本l m s 算法中，自适应系数口为常数； 当自适应系数u 为变数，即 俐- 万蒜，( o 如t 2 ，卢苫0 ) ( 3 - 1 9 ) p ) 万i 磊百丽( o 口2 ，卢苫0 ) 时，为传统的归一化l m s ( n l m s ) 算法1 9 】； 而当权向量更新公式变为 第三章经典自适应滤波算法 w ( n ) - w 一1 ) + 丽1 s j 聃。k )( 3 御 时，则成为所谓的符号误差n i j 江s ( t h es i g n e x t o r n l m s ) 算法【9 l 。 3 2 3r l sl l c 法1 2 0 l 在最小二乘法的递归实现中，从给定的条件出发，通过应用新的数据样值中 所包含的信息对旧的估值进行更新。因此，可测数据的长度是可变的从而把待 最小化的代价函数表示为_ ，d ) ，其中n 是可测数据的可变长度。习惯上在代价函 数中引入加权因子，于是代价函数写成： l 加) 一z 卢o ，o l p ( 0 1 2 ( 3 - 2 1 ) 其中，e g ) 是i 时刻期望响应d o 与滤波器的输出) ， 之差，表示如下： 哟= | ! 伊y 先k ( i ) ( 3 - 2 2 ) d ( i ) - w - 2 ( 玎) x 冒o ) 而( f ) 又是f 时刻的抽头输入向量，r p x m g ) 一阢o ) ，x ( 一1 ) ，工o j l f + 1 ) i r ( 3 2 3 ) r 伽) 为n 时刻的权向量，定义为： w o ) 一【o ) m o ) ，k 。o ) 】7( 3 2 4 ) 注意：在代价函数， ) 定义的观测区间1 f s 雄内，滤波器的抽头权值保持不变 式3 2 1 ) 中的加权因子声( n ，f ) ，满足如下关系： 0 算法n i _ m p 算法与l m p 算法的不同之处在于n l m p 算 法用可变步长因子代替了常量步长因子，其步长p _ ) 的计算由下式给出。 “小赢，( 队 旬 。 其中，i l x wd ) 旺一艺p 扣一f + i ) 1 9 ，肛是系数修正的迭代步长常量，a 为一个小的 正常数，用于避免在自适应滤波器输入较小时4 x 加) 0 ：过小而引起的数值不稳定 性。用式( 3 - 4 8 ) 替换式( 3 - 4 7 ) 中的，可得n l m p 算法的权值迭代公式为： w ( 刀) 一w ( 一一1 ) + p 锴x w ( 雄) ，( 0 0 ) 口一稳定噪声环境下的自适应滤波算法 误差估计： e ( n ) - d ( 以) 一瑶n ) w ( 万一1 ) 权向量更新：寺( n 一1 ) 一_ p p ( 厅l ”1 s i g n e n ) 】0 ) “d 。雨丽i 焉面面丽 w ( 再) 一耳( 再一1 ) 一弘( 玎) h ( 玎一1 ) 专( h 一1 ) 逆自相关矩阵的更新： 亭( 阼) - d ( 露) 一( 筇) w ( 尼) v ( 小t - p l 考( 席扩4s i g n i ：蜘) 】x ( n ) d ( ) f f i w ( 一) 一w ( 肛一1 ) ，1 r ( 弗) 一v ( 一) 一寺( 雄一1 ) hc盯，_hrn一-)+1璺兰2二!：iij!：；!ii铲 q n u 佃算法用式( 4 - 1 4 ) 递推修正相关矩阵逆的估计，将使算法的稳定性 得到保证，同时具有较l m p 算法更快的收敛速度；但由于该算法采用的是与im p 算法一样的瞬时梯度方法，因此它的稳态效果- qr l p 算法相比( 在r l p 算法的 稳定阶段) 会有明显不足。 4 2 1o n r l p 算法 较之l m p 算法，r l p 算法收敛速度更快，性能更好，如果我们将拟牛顿的思 想应用其中，就可以在保证原算法优点的基础上克服其最主要的缺点，那就是它