（信号与信息处理专业论文）α稳定脉冲噪声中的自适应算法研究及应用.pdf

摘要 a 一稳定分布作为非高斯脉冲噪声的理想数学模型，已经成为信号处理领域的 热点研究课题。本文主要研究a 稳定脉冲噪声中的自适应滤波算法及其应用，具 体工作可概括如下： 1 本文首先论述了分数低阶矩和最小离差准则两个重要概念，在此基础上介 绍了a 一稳定噪声中常用的最小平均z 。范数( l m p ) 和递归最小? 。范数( r l p ) 自 适应算法，并通过仿真实验分析了它们的性能。 2 针对r l p 算法的数值不稳定性，基于拟牛顿优化方法，提出了种稳健的 自适应f 1 r 滤波算法。新算法采用输出误差的加权最小z 。范数作为代价函数，它 具有和r l p 算法相近似的追踪能力，且不存在数值计算不稳定的问题。 3 提出了一种改进n i m p ( m n p ) 自适应脉冲噪声对消算法，该算法根 据输出误差的! 。范数来调整步长。当算法未收敛时，使用较大的步长：在算法的稳 定阶段，使步长逐步减小。由仿真实验比较了l m p 、n l m p 以及m n 蜥p 三种算 法的对消性能，在不同输入信噪比的情况下，m n 】晰p 算法的输出信噪比较其它两 种算法有了明显的提高。 关键词：自适应滤波口一稳定分布分数低阶矩 拟牛顿噪声对消 a b s t r a c t a st h ei d e a lm a t h e m a t i c a lm o d e l 如rn o i 卜g a u s s l a ni m p u l s l v en o i s e ，a s t a b l e d i s t r i b u t i o nh a sb e e nt h ef o c u so fi r i t e n s i v er e s e a r c hi ns i 弘a lp r o c c s s i n gn e l d s 1 h i s t h e s i sm a i n l ys t u d i e st h ca d a p t i v ef i n e r i n ga 1 9 0 r i t h m s 锄dt h e i ia p p l i c a t i o n si n 口- s t a b l ei m p u l s i v en o j s e t h em a i nw o f k sc 卸b es u m m a r i z e da sf o l l o w s 1 w es t a no u rd i s c u s s i o nw i t ht h ei n 垃o d u c t i o no ft w oi m p o n a n td e f i n i t i o n s ： f r a c t i o n a ll o 、e r - o r d e rm o m e n t sa n dm i n i i n u md i s p e r s i o n c r i t e r i o n ，w h i c ha r et l l e f o u n d a t i o no fs i g n a lp r o c e s s i n gi 1 1a s t a b l en o i s ee n v i r o 枷e n t s t h e nt h ec o m m o l l l y u s e dl e a s tm e a nf ，一n o 册( i m p ) a n dr e c u r s i v el e a s tf p n o 皿( r l p ) a l g o r i t h m sa r e s t u d j e di nd e t a i l t h ep e d b n a n c co f t h ea 1 9 0 r i t h m si se v a l u a t e dv i as i m u l a t i o n s 2 ar o b u s ta d 印t i v ea l g o r i t h mf o rf mf i l t e f sb a s c do nt l l eq u a s i n e w t o nd 骶s0 f o p t i m i z a t i o nm e t h o d sj sd e r i v e d ，w h i c hc a i lb er e g a r d e da st h e “n p r o v e m e n to fr l p a 1 9 0 r i t h i no nt h ep r o b l e mo fs t a b n i t y m o r c o v e r ，aw e i g l l t e dl e a s tf p n o 咖o ft l l eo u t p u t e 玎o rj ss e 】e c t e da st h cc o s tf u 丑c t i o n e 删e da 】g o 删咖h a sai f a c k i n ga b i l i t y c o m p a r a b l et ot h a to fr l pa l 酬t h m ，w h i l eb 咖g s t a b 【en u 窿慨沁a l l y 3 am o d m e dn u 垤p ( m n u 订p ) a l g 删l h mf o ra d a p l i v en o j s ec a l l c e l l a “o ni n a s 诅b l ee n v i 涮蚴c n t si sp f o p o s e d 。i l lt h ea l g o r i t h i n ，t h ef 。n o mo f 也eo u t p u te r r o ri s c a l c l l l a t e dt oa d j u s tt h es t e ps i z e d u 血gc o n v e r g e n c c ，ad c c f e a s ei nt h ef p n o 皿o ft h e o u t p u te r r o rr c s l l l t s i i las t e ps i z cd e c r e a s e ( = 0 m p u t c rs i m u l a t i o n sa r ep r c s e n t e dt o c o m p a r et h er c l a t i v ep c r f o n n 柚c eo f p ，n u 胛a i l dm n l m pa 1 9 0 r i t h m s r e s u l t s s h o wt l i a tm n l m pa l g o 删皿h a sah i g h e ro u t p u ts n rm a l lt h a to fl m pa n dn l m p a 1 9 0 r i t h m sf o re a c hi n p u ts n r k e y w o r d s ：a d a p t i v ef i l t e r i n g 岱s t a b l ed i s t 曲u t i o n仃a c t i o n a ll o w e r - o r d c rm o m e n t q u a s i n e w t o n i i o i s ec a n c e l l a t i o n 创新性声明 y8 5 8 8 5 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究 成果。尽我所知，除了文中特别加以标注和致谢中所罗列的内容以外，论文中不 包含其他人已经发表或撰写过的研究成果；也不包含为获得西安电子科技大学或 其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做 的任何贡献均已在论文中做了明确的说明并表示了谢意。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 本人签名： 日期： 2 口口i 一岁 关于论文使用授权的说明 本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究 生在校攻读学位期间论文工作的知识产权单位属西安电子科技大学。本人保证毕 业离校后，发表论文或使用论文工作成果时署名单位仍然为西安电子科技大学。 学校有权保留送交论文的复印件，允许查阅和借阅论文；学校可以公布论文的全 部或部分内容，可以允许采用影印、缩印或其它复制手段保存论文。 本人签名： 导师签名： 兰主 歹写衣雹久 同期： 2 弦参，r 日期：2 。i - r 第一章绪论 第一章绪论 很久以来a 一稳定分布在数学领域就己为人们所知，但直到1 9 9 3 年这种分布才 在信号处理领域引起了极大关注。作为非商斯脉冲嗓声的理想数学模型，它很快 成为信号处理领域的热点研究课题。 本文主要研究。稳定脉冲噪声中的自适应滤波算法以及其在噪声对消中的应 用。在具体介绍工作之前，我们将首先讨论研究非高斯脉冲噪声模型的意义，并 介绍a 稳定噪声中自适应信号处理的研究概况。最后以此为出发点，阐述本文所 要完成的工作。 1 1 自适应滤波的主要研究领域 自适应滤波是近4 0 年来发展起来的信号处理领域一个新的分支。它是在 w i e e r 滤波、k a l m a n 滤波等线性滤波基础上发展起来的一种最佳滤波方法，它可 以通过自身与外界环境的接触来改善自身对信号处理的性能。由于它具有更强的 适应性和更优的滤波性能，从而在工程实际中，尤其在信息处理技术中得到了广 泛的应用。 自适应滤波的研究对象是具有不确定的系统或信息过程。这里的“不确定性” 是指所研究的信息处理过程及其环境的数学模型不是完全确定的，其中包含一些 未知因素和随机因素。 物理世晃中的任何信息都具有不同程度的不确定性，这些不确定性有时表现 在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动态 过程的数学模型的结构和参数是设计者事前并不能确切知道的。外界环境对信号 的影响可以用扰动来表示，这些扰动通常是不可测的，它们可能是确定的，也可 能是随机的。此外，还有一些测量噪声也以不同的途径影响信号的传输。因此， 在实际应用中有很多问题不能用固定的数字滤波器很好的解决，这时就需要我们 设计特殊的智能滤波器，即常说的自适应滤波器。这种自适应滤波器的显著特性 是：它在工作中不需要用户的干预就能改变响应以改善性能，其工作原理如图l ，l 所示。 图中s ( n ) 表示n 时刻的输入信号值，y ( n ) 表示n 时刻的输出信号值，d ( n ) 表 示n 时刻的参考信号值或期望信弓值误差信号e ( h ) 为d ( h ) 与y b ) 之差。在某种 准则的作用下，自适应滤波器的参数可以通过误差信号e ( n 1 来控制，我们希掣r 时刻的输入s ( h + 1 ) 所产生的输i f y ( n + 1 ) 能更接近参考信号d ( n + 1 ) 。根扼i 通 应系统性能准则的小l 司自适j 越滤波器的基本算法大致町分为最小均方( l m s ) 算法以及递归最小乘( r l s ) 并“：两人类。l m s 算法是使系统输出误差信qp fn ) a 一稳定脉冲噪声中的自适应滤波算法研究及应用 的均方误差e e 2 _ ) 】最小；r l s 算法是使误差信号e ( n ) 在段时间内的平均功率 ( 在时间上作平均) 达到最小。 s 0 ) 图1 1自适应滤波器原理图 近年来，随着自适应滤波理论的不断发展完善，人们针对算法的收敛速度、 计算复杂度、数值稳定性等方面进行了大量的改进工作，由这两种准则又衍生出 多种不同的自适应滤波算法。目前，自适应滤波已经成为信号处理领域的一个研 究热点，它在通讯、声纳、雷达、电子测量仪器，以及生物医学工程等领域有着 广泛的应用，其中较经典的应用主要包括： 1 系统辨识 2 自适应信道均衡 3 线性预测编码 4 多传感器干扰抵消 5 自适应噪声抵消与谱线增强 6 自适应谱估计 7 自适应波束形成 1 2 口稳定脉冲噪声模型的研究意义 信号处理的一个主要目的就是揭示隐藏在观测信号中的特定信息。如信号建 模问题的目的就是用参数模型来描述信号的一组特征；信号分离问题是在多个信 号源中分离出期望信号；丽信号盲均衡问题则是在只有发射信号的统计特性和接 收信号可以利用的情况下，辨识信道，恢复源信号；又如利用所得数据预测未来 时刻的数据样本或内插丢失的数据样本等等都是信号处理问题。实际上所有信号 处理问题中所考虑的信号都有可能受到随机噪声的污染。噪声在现实物理世界中 是不可避免的，它来自多方面的原因：如邻近信号的干扰、人为噪声、宇宙噪声、 热噪声或是观测噪声。因此，需要从被噪声污染的信号中将源信号或有关信息提 取出来，为了利用数学工具对它进行处理，需要假定信号和噪声产生的统计模型。 在多种噪声模型中，加性噪声模型 s ( 胆) = d ( ，1 ) + w ( 以) ， 几= 1 ，2 ，3 ( 1 1 ) 第一章绪论 是最常用的。在式( 1 1 ) 中，s ( ，i ) 和d ( ，1 ) 分别代表被噪声污染的信号和原始信号， w n ) 是噪声。由于中心极限定理的原因，在信号处理领域中，通常将所研究的噪 声假定为高斯的，其概率密度函数( p d f ) 为 p ( 啡川= 志e 叶等 ， 2 ) 其中，_ l 是均值，盯2 为其方差。 高斯概率分布已被广泛地作为信号分析中的噪声模型，通信系统中的许多原 理、估计和检测都是在高斯噪声的假设下确立的。当随机过程的前二阶矩，均值_ l 和方差仃2 已知时，高斯密度是最大熵密度【1 1 因此，高斯过程很容易描述，仅由 均值和方差便可完全描述一个高斯过程。另外，从式( 1 2 ) 可以看出，高斯密度 函数是随机样本偏离其均值的平方的指数函数，因此，高斯假设下样本远远偏离 均值的概率非常小，即代数拖尾非常小。在高斯假设下。自适应信号处理的各种 算法通常采用均方误差( m s e ) 作为代价函数。 然而，现实世界中仍存在大量信号和噪声显示出比高斯分布更强的冲激性， 即其概率密度函数的振幅波动比高斯分布大得多，如海洋噪声、低频大气噪声以 及各种人为噪声【2 1 3 l 均不是服从高斯分布的。因此，这些噪声过程必须由比高斯分 布有更大代数拖尾的概率分布，如口稳定分布才能描述。口一稳定分布一般由其特 征函数也就是概率密度函数的傅立叶变换来描述： 妒( f ) 一 唧卜州4 卜s i 舯蛆( 钏一1 m 。， e x p ，口r r p i 。 1 + ，芦s ；g n ( r ) 乏，。g h l 】 ，d 一1 其中s i 印( - ) 为符号函数。该分布由四个参数o ，芦，y 和p 完全确定，特征指数口的 取值决定着分布的冲激特性的强弱。 如果信号和噪声有偏离高斯分布的特性，高斯假设下的最佳系统性能下降非 常明显，即使稍微偏离高斯分布都会导致误差显著的增加。如在高斯假设下，最 小均方误差估计( m m s e ) 是线性估计，但在非高斯数据下，它却变成了非线性 的。另外，最小二乘估计对高斯分布的信号或噪声是最大似然意义上的最佳估计， 但对非高斯数据则远远不是这样。当处理非高斯脉冲噪声时如果仍使用适用于高 斯假设下的一些算法，则会使自适应滤波器的性能下降甚至失效，因此对a 一稳定 分布脉冲噪声模型的研究是十分有必要的。 d 一稳定脉冲噪声中的自适应滤波算法研究及应用 1 - 3口稳定噪声中自适应信号处理的研究概况 高斯假设下的自适应信号处理方法是基于最小均方误差( m m s e ) 准则的， 如最常用的最小均方( l m s ) 算法和递归最小二乘( i t l s ) 算法。由于稳定分 布不存在有限的二阶和二阶以上矩1 4 】，高斯假设下自适应信号处理用的最多的最小 均方误差准则不再适用。 为此，人们基于最小离差准则( m d ) 提出了多种自适应方法【圳。所谓最小离 差就是使误差的p ( o c pc a ) 阶分数低阶矩最小，即误差的f 。范数最小。在最小，。 范数误差准则下，国内外很多学者都进行了自适应算法的研究工作。n i 】【i a s 和s h a o 率先提出的最小平均f 。范数( p ) 自适应算法1 3 l ，可以看作l m s 算法的推广。 l m p 算法与l m s 算法相类似，都存在收敛速度与稳态误差不能兼顾的缺点，因此 效果并不能令人满意。后来，受归一化l m s ( n l m s ) 算法的启发，a r i k a n 等人 提出了一种归一化最小平均f 范数( n p ) 算法【5 j ，其收敛速度较l m p 算法有 了明显提高。但整体来说，a 稳定分布假设下自适应滤波算法的研究还刚刚开始， 很多问题还有待解决。 1 4 本文的主要工作 在本论文中，作者所做的主要工作如下： 第一章介绍了自适应滤波的研究领域，讨论了对非高斯脉冲噪声模型的研究 意义，简单回顾了人们对口稳定噪声中自适应信号处理的研究状况。 第二章介绍a 稳定分布的有关定义、性质以及重要定理，论述了分数低阶矩 和最小离差准则两个重要概念，以对口稳定分布的基本理论有一个整体的了解。 第三章介绍线性最小f 范数估计，并研究其在自回归对称口稳定过程的参数 估计问题中的应用。 第四章讨论了a 稳定噪声中两种常用的自适应滤波算法，即最小平均f 。范数 ( 1 m p ) 和递归最小f 。范数( r 廿) 算法，并通过仿真实验比较了它们的性能。 第五章提出了一种新的拟牛顿自适应算法，该算法可以克服r l p 算法的数值 不稳定性，并保持与之相近似的收敛速度。 第六章提出了一种改进的归一化最小平均，范数( m n l m p ) 算法，并将其应 用于a 稳定脉冲噪声的自适应对消中，仿真实验表明m n l m p 算法的对消性能比 l m p 、n l m p 算法有了明显提高。 第二章a 一稳定分布 第二章钟稳定分布 本章主要介绍a 稳定分布的有关定义、性质、定理等基本理论，论述了分数 低阶矩和最小离差准则两个重要概念，它们是口稳定噪声环境中自适应滤波算法 性能准则的基础。 2 1 口稳定分布的定义 定义a 稳定分布最方便的方法是由其特征函数，即用概率密度函数的傅立叶 变换来定义【7 j 。 定义2 1 一个随机变量称为是a 稳定的，如果其特征函数有如下形式： 驴。，：j e x p ，肛f r p l 。【1 + ，卢s i g n t f ，t a n ( 詈) 】) ，口= 1 。：， 。 l e x p ，p r r i r 【1 + ，卢s i g n ( ，) 三一。9 1 1 ) ，a 一， 由其定义容易看出，a 稳定分布由四个参数a ，卢，y ，和p 唯一并完全确 定，这四个参数分别具有如下的物理意义： ( 1 ) 口称为特征指数。个特征指数为a 的稳定分布即称为o 稳定分御，它 是决定分布的冲激性强弱的重要参数。a 越小其对应分布的尾部概率密度越大， 因而冲激性越强。而随着a 不断增加，分布的尾部概率密度将变小，冲激性也随 之变弱。我们熟悉的高斯分布和柯西分布实际上分别是n - 稳定分布在口= 2 和a = l 时的两种特殊情况。 ( 2 ) 卢称为倾斜参数( 电叫对称参数) 。它决定分布的对称程度。卢c0 说明 分布左偏；卢，o 说明分布右偏；卢一o 时，一个稳定分布是关于肛的对称分布， 个对称的口一稳定分布记为s a s 。高斯分布和柯西分布都是对称的a 稳定分布。 ( 3 ) y 称为比例参数，也称为离差( d i s p e r s i o n ) 。它也是度量样本分御偏离 其均值程度大小的参数，其意义类似于高斯情况下的方差。事实上在口= 2 ，疗：o 时，我们得到方差为2 y 的高斯分布。 ( 4 ) 肛称为位置参数。对于s 西分布，lc 口2 情况下“即为均值：0c as 1 情况下卢即为中位数。如果个口稳定分布的位置参数口s o 且y = 1 ，则称其为 标准口稳定分布。不失一般性，以下本文中只考虑“= o 的s 口s 分布的情况。 为了对口一稳定分南有。个更直观的了解，图2 1 分别给出了独立同分佑时 口：2 o ，1 8 ，1 4 ，1 o 的s 岱分粕的样本实现。从图中也明显可以看m ，a 越小对忠的 分伟冲激性越强。 口一稳定脉冲噪声中的自适应滤波算法研究及应用 5 坦 + 争o 世 1 5 趔 幡 壮 01 0 02 0 03 0 04 0 05 0 0 6 0 07 0 0 8 0 0 9 0 01 0 0 0 样本数 图2 1 ( a )a = 2 的对称分布( 高斯分布) 样本实现 图2 1 ( b )口= 1 8 的对称分布样本实现 1 0 0r 1 t 鬻。卜一叫l 。i 一下r 山k 。 站 1 1 01 0 02 0 03 0 04 0 05 0 0 6 0 07 0 08 0 09 1 0 样本数 图2 1 ( c ) 口= 1 4 的对称分布样本实现 5 0 0 r 一” 鬻o l ，一一 站 占0 0 卜1 蔷高 _ ：_ j 。、? 霉 。一一一一一。一j 图2 1 ( d ) 口= 1 的对称分布( 柯西分布) 样本实现 非高斯a 稳定分布的冲击性强于高斯分布的原因在于它具有更大的代数拖 尾，代数拖尾的定义如下。 定义2 2 一个随机变量x 称为是具有代数拖尾分布的，如果v f ) - 0 ，有 p ( i x | ) f ) = o ( f ”) ( 2 - 2 ) 在文献【8 1 中，对离差为y 的非高斯口一稳定分佃随机变量x ，有_ f 式成立： 憋f 一。p ( 例，f ) = y c ( a ) ，( o c 。s 2 ) 2 - 3 其l c ( a ) 为仅与a 有关的正常数。 第二章口一稳定分布 由式( 2 3 ) 易知，口稳定分布满足式( 2 2 ) ，所以是代数拖尾分布。而高斯 分布为a = 2 时的对称a 稳定分布，所以对于一个高斯随机变量j ，有 p ( 吲，r ) = o ( ，) ( 2 - 4 ) 因为非高斯a 一稳定分布的特征指数取值为o c 口t 2 ，则有 p ( 1 x i f ) o ( f 4 ) ，o ( f 4 ) ；p ( 陋1 ) f ) ( 2 5 ) 式( 2 5 ) 说明般非高斯口稳定分布的尾部概率即代数拖尾比高斯分布大， 并且口越小，代数拖尾越大，从而导致分布的冲击性明显变强。这也是一般非高 斯a 稳定分布不同于高斯分布的主要原因。 2 2a 一稳定分布的性质 稳定性质和广义中心极限定理是一稳定分布的两个最重要的性质，也是口 稳定分布作为非高斯脉冲噪声统计模型的重要原因。 下面的稳定性质实际上是口稳定分布的一个等价定义。 性质2 1 ( 稳定性质) 一个随机变量z 称为是服从a 稳定分布的，如果对任何与x 同分布的两个独 立随机变量工，和x ：，任给常数日，0 和口， o ，都存在常数，0 和6 ，0 使得 d 口1 x l + 6 1 x 2i 厦x + 6 ( 2 6 ) d 其中符号x = y 表示z 和l ，同分布。 对于对称d 一稳定分布，则x 和一x 同分布，易得下面的结论： 结论l 如果性质2 1 中6 = o ，则此时x 为对称稳定分布。 利用稳定分布的特征函数，我们可以很容易得到下面更一般的结论： 结论2 如果随机变量序列并。j ：，j 。为相互独立且具有相同参数如，) 的 a 稳定分布随机变量，则其线性组合 z = 口l z l + 口2 并2 + + 口。石 ( 2 - 7 ) 也是参数为( 口，芦) 的稳定分布随机变量。 性质2 2 ( 广义中心极限定理) 一个随机变量x 称为是服从稳定分布的，如果存在独立同分布的随机变量序 列k ，y 2 ，k 和口。只+ 及坑月，使得 x 。；坠型= 生。当x 口“ ( 2 - 8 ) j 其中一表永依分布收敛。 特别地、忸。 独莎l 司分布且方差存在时，缸。 的极限分向为高斯分佑。这 a 一稳定脉冲噪声中的自适应滤波算法研究及应用 正是一般中心极限定理的结论。 为了说明a - 稳定分布各阶矩的性质，下面首先给出分数低阶矩( f r a c t i o n a l l o w e r - o t d e rm o m e t ) 的定义。 定义2 0 对特征指数为0c 口c2 的口稳定分布随机变量z ，当0 c 口t 口时， e 瞳1 9 称为z 的p 阶分数低阶矩( f l o m ) 。 性质2 3 设x 是a 稳定随机变量，则 ( 1 ) 如果o 。口。2 ，那么弦f 7 ；，劫a ； l e 防i c m ，若o p o ，为自适应步长。 p 算法还包含两种特殊情况： ( 1 )当p ：1 时，称为最小平均绝对偏差( u 舱d ) 算法【4 】，其权值迭代公 式为 w ( 九) 一w ( 一一1 ) + s 咖p ( n ) 】x 。( 拈) ( 4 2 7 ) 该算法实际上为符号l m s 算法的推广。 ( 2 ) 当p ；2 时，则l 佃算法退化为l 】s 算法。 l m p 算法简单，但收敛速度较慢。在第六章中，我们将介绍一种归一化最小 平均，。范数( n m p ) 算法，其收敛速度以及稳定性都要优于p 算法。 4 3 2r l p 自适应算法 u s 类自适应算法的一个缺点就是步长因子的选择不易确定，它的取值很 大程度上影响着算法的稳定性和收敛速度。选择小步长，则会降低算法的收敛速 度；而步长值过大，则可能导致算法发散。另外，l m p 与i m s 算法相类似，其代 价函数的梯度都是基于样本瞬时值的随机梯度，它仅是实际统计量的渐进估计， 所以具有很大的噪声。 4 - 2 节给出的r l s 算法则不存在上述u s 类自适应算法的缺点，它可以看作 是一种随机高斯一牛顿优化算法【吲。因此，我们可以将“加权最小二乘”的思想应 用于a 一稳定脉冲噪声环境下的自适应信号处理中。下面将给出一种递归最小f 。范 数( r i j p ) 自适应算法，它是r l s 算法的推广。 考察如下代价函数 - ，。( n ) = r ) 1 9 ( 4 2 8 ) 其中，o c s 1 为遗忘因子，估计误差 e ( 丘) j d ( 良) 一x 二( 七) w ( 珂) ，是皇1 ，一，善 ( 4 2 9 ) 第四章a 一稳定噪声中的经典自适应滤波算法 这里权向量为w ( n ) = ( n ) ，w 1 ( n ) ，一，( n ) 7 。 用式( 4 2 8 ) 对权系数h ( ，1 ) ，f = o ，m 一1 求导数，得到目标函数的梯度 端a 一毫4 俐叫s i 盟 e ( t ) 批m ，) = 一荟p ”。( 七) p ( 七) r 2 x ( t f + 1 ) ，f ；o ，吖一1 ( 4 - 3 0 ) t 1 定义刀x 丹维对角加权矩阵 a ( n ) = n x l 维期望信号向量 和mx n 维输入数据矩阵 x 扛) ； ”4 蚶2 o 0 0 r 2 蚓”2 0 0 o d ( n ) = d ( 1 ) ，d ( 2 ) ，d ( n ) 】7 工( 1 )工( 2 ) o 上( 1 ) oo o 工) z ( n ) x ( m 一1 ) - 工( n 一1 ) x ( m 一2 ) - rx ( n 一2 ) ； ； o z ( 1 )z 扣一m + 1 ) ( 4 3 1 ) ( 4 3 2 ) ( 4 。3 3 ) 则得到式( 4 3 0 ) 的矩阵形式 g ( n ) 。赢- p 【x ( n ) a 梆7 ( ”) w ( n ) 一x ( n ) a ( n m ) ( 4 _ 3 4 ) 让上式为零，就可得至权向量 w ( n ) = ( x ( n ) a ( 肛) ( 训x ( n ) a ( n ) d ( n ) ( 4 3 5 ) 将上式与第三章m l s 算法( 3 之5 ) 相比较，易见两者的区别在于加权矩阵不同。 为了表示方便，令 r ( n ) = x ( 以) a ( ) r ( n ) 2 y 。m ) x ”( 2 ) x 乙( 2 ) 4 蕊 r ( 小x ( n ) a ( ，1 ) d ( 一) 。酽。小) x ”( 咖( 2 ) 埘 其叶1 ，( ) = k ( 女) r 2 。则式( 4 - 3 5 ) 可改写为 w ( n ) = r 。1 ( n ) r ( n ) ( 4 3 8 ) 兰兰二塑室! 查! 堡要! 塑宴重鏖整亟塞鲨堡塞墨窒旦 式( 4 3 8 ) 表明，指数加权最小范数问题( 4 2 8 ) 的解w ( n ) 为w i c n e r 滤波 器。由式( 4 - 3 6 ) 、( 4 - 3 7 ) 易得r ( ，1 ) 和r 0 ) 的递推公式为 r ( n ) = a r ( n 一1 ) + ，( n ) x 。( n ) x 0 ( n ) ( 4 3 9 ) r ( ，1 ) 暑 r ( 力一1 ) + ，( ，1 ) ，r ( 甩) d ( 疗) ( 4 4 0 ) 对式( 4 3 9 ) 应用矩阵求逆引理，可得逆矩阵p ( n ) t r 一1 ( n ) 的递推公式为 p ( n ) = p ( n ，) 一j 1 8 ：；：；j ：； ： ；黼1 = p ( n 1 ) 一，( n ) k ( n ) x ：( n ) p ( 雅一1 ) 1 ( 4 _ 4 1 ) j 式中k ( n ) 称为增益向量，定义为 k ；可戒黹器诵 4 z ， 利用式( 4 4 1 ) 、( 4 4 2 ) 不难证明 p ( n ) 粕( n ) 去【p ( 以一1 ) h ( 行) 一，( 以) k ( n ) ( 一) p n 一1 ) h ( n ) 2 去 p + 厂【n ) 靠( 打) p 一1 ) ( ，t ) k ( ) 一，( 一) k ( n ) ( 行) p _ 一1 ) ( n ) = k ( n )( 4 - 4 3 ) 另一万回，由式( 4 - 3 8 ) 又有 w ( n ) 一r 。1 n ) r ( 厅) = p ( n ) r ( n ) 2 砉【p ( n 一1 ) 一砌) k ( n ) 靠( n ) p ( n 一1 ) 【抽( n 一1 ) + ，( n ) h d ( n ) = p ( n 一1 ) r ( n 一1 ) + ，( n ) d ( n ) p f n 1 ) 一，( n ) k ( n ) 再( 以) p ( n 一1 ) 1 k ( ”) 一 ，l j ，( n ) k ( ，1 ) x 0 ( n ) p ( 一一1 ) r ( 以一1 ) 掌w ( ，t 一1 ) + ，( n ) d ( n ) p ( 以) x ，( n ) 一，( n ) k ( n ) x 0 ( n ) w ( n 一1 ) 代入式( 4 - 4 3 ) 后，上式可写作 w ( 以) = w ( - ，z 一1 ) + ，( 一) d ( n ) k ( 露) 一厂( 一) k ( 即) x 暑( 厅) w o 1 ) 经化简后，得 w ( n ) = w ( 甩一1 ) + ，( h ) k ( 珂) g ( 甩) 式中 ( 4 4 4 ) 4 4 5 ) 第四章a 一稳定噪声中的经典自适应滤波算法 为先验估计误差。 综合以上推导过程，下面的算法4 2 列出了递归最小，。范数( r i j p ) 算法。 算法4 2 ( 1 u l p 直接算法) 初始化：w ( o ) = o ，p ( o ) = 6 一l i 。6 是一个小的正常数。对于n = 1 2 ， 1 滤波： e ( 理) 一d ( 厅) 一( 疗) 开( 肛一1 ) 2 自适应增益计算： ，( n ) ；k ( n r i 。( n ) 一p ( n 一1 ) ( n ) 口。( n ) t a + ，( n ) 碍( n ) k ( n ) 吣) 鬻 p ( n ) 2 去 p ( n 一1 ) 一，( n ) k ( n ) i ：( n ) 】 3 权系数更新： w ( 咒) 皇w ( n 一1 ) + ，( 玎) k ( 蚪) e ( n ) 其中as 1 ，为遗忘因子。 甜j 算法收敛速度快，稳态效果好：但与r l s 算法相类似，当遗忘因子ac 】 时，存在数值计算不稳定的缺陷，在某些情况下会导致算法发散。为了克服这种 数值不稳定性，本文提出了一种新的拟牛顿类型算法，算法的具体形式将在下一 章给出。 4 4 仿真实验 实验l ( 姗和r l p 的性能比较) 本章第一节已经介绍了线性f i r 系统的自适应辨识问题。如图4 1 所示，假设 未知系统的脉冲响应为 h 兰ll ，一o 8 ，o ，6 ，一o 4 ，o 2 ( 4 4 6 ) 系统的激励_ ) ( n ) 为标准偏差等于1 的高斯白噪声序列，加性噪声v ( h ) 是a = 1 5 的 s 口s 稳定分布白噪声序列，未知系统输出s ( h ) 与y n ) 的信噪比为1 0 d b 。注意，由 于非高斯a 稳定过程不存住有限的阶矩，因此这里的信噪比是一种分数阶信噪 比，其定义如下 a 一稳定脉冲噪声中的自适应滤波算法研究及应用 f s n r 1 1 0 。1 。g - 。( 只只) = 1 0 l 。g ，。i 善b ( ) 1 97 善卜( ) 1 9l ，( o c p a ) ( 4 4 7 ) 其中为序列长度。 下面将比较l m p 、r l p 算法对未知系统权系数的追踪性能，在算法中均取 p = 1 4 5 。图4 3 显示了自适应滤波器权系数叫n ) = ( ，t ) ，( n ) ，心( 一) ，嵋( 以) ，啦( n ) f 随 迭代次数h 的瞬时特性曲线，图4 4 显示了两种算法的学习曲线，即抽头权向量的 误差曲线，这里权向量的误差定义为 o ( n ) = 1 0 - 1 0 9 ，。i l h w ( n ) k ( 4 4 8 ) 由图4 - 3 和图4 4 都可以看出r l p 算法的收敛速度明显快于圳p 算法，而且 其稳态误差也要更加小一些，这与理论分析的结果相一致。 呈 糕 谣 辚 冰 摄 巅 嫌 娶 泳 擐 0 图4 3 ( a ) 的追踪曲线 f - - - 一 _ p 算法 - 、一 r l p 算法 、+ h ，一 h r 05 01 0 01 5 02 0 0 2 5 03 0 03 s 04 0 04 5 0 0 迭代次数 图4 3 ( b ) w 1 的追踪曲线 剁 1 巅o 5 幡 晕0 球 最0 ，5 05 01 0 01 5 02 0 0 2 5 03 0 03 5 04 0 04 5 0 5 0 0 选代次数 图4 3 ( c ) w 2 的追踪曲线 第四章a 一稳定噪声中的经典自适应滤波算法2 9 譬 o 5 甄 倏 。 辎 水 罐0 5 善 瓢 噼 墨 水 最 o5 01 0 01 5 02 0 02 5 03 0 03 5 04 0 0 4 5 05 0 0 迭代次数 图4 3 ( d ) m 的追踪曲线 序一一一h 一： 高p 算嘉 j r l p 算法 占 已 州 嗤 g 辚 球 曩 图4 _ 3 ( e ) 的追踪曲线 迭代次数 图4 4i 位和r l p 的学习曲线 实验2 ( 遗忘因子对r l p 算法性能的影响) 在r l p 算法的代价函数式( 4 2 8 ) 中，有效的加窗长度由下式给出： k 竺娶；上 ( 4 4 9 ) k h21 r 2 两 q w a = 1 将导致按矩形增长的窗口，算法具有无限的记忆力，因此不能跟踪参数变化， 此时r l p 算法不能在非平稳信号环境中进行自适应运算。 虽然 能取0 s 引中的任意值，但由于它将影响有效的记忆长度：为了减小 算法的稳态误差a 的值应更接近1 ，通常 的值在0 9 干u1 之间。图4 5 示出了 分别取09 5 和o 9 9 时r l p 算法的学习曲线，山图中我仃j 也町以看到 的值越小， a 一稳定脉冲噪声中的自适应滤波算法研究及应用 算法的稳态性能越差。 另外当a = 1 时，r l j p 算法是数值稳定的：当 c 1 时，处理器的有限精度将导 致算法成为不稳定的。由图4 6 中我们可以看到随着迭代次数撑的增加，r 廿算法 明显出现发散的情况。 菡 马 剁 媸 g 辎 冰 最 占 9 粕 账 嚣 醛 冰 擐 迭代次数 图4 5a 分别取o 9 5 和o 9 9 时i t l p 算法的学习曲线 迭代次数 图4 6a 1 时r l p 算法的数值不稳定性 4 5 本章小结 本章通过线性f 1 r 系统的自适应辨识问题介绍了a 稳定脉冲噪声中两种最常 用的自适应滤波算法，即最小平均f 。范数( l m p ) 算法和递归最小f 范数( r 凹) 算法。实际上这两种算法分别是l m s 和r l s 算法在a 一稳定噪声环境下的推广， l m p 算法简单、易实现，但收敛速度慢，步长因子不易确定；r l p 算法计算复杂 度高，收敛速度和稳态效果均优于l m p 算法，f i j 与遗忘因子a t l 时，会存在数值 不稳定的情况。 第五章稳健的拟牛顿类型自适应算法 第五章稳健的拟牛顿类型自适应算法 收敛遽度和数值稳定性是自适应算法重要的性能指标，然而这两点有时并不 能得到兼顾。l m s 算法在一般情况下非常稳定，但收敛速度较慢；r 1 5 算法收敛 速度快，但存在由于定点和浮点运算的有限精度所造成的不稳定性【2 “。从上一章 4 4 节实验2 中可以看到作为r l s 的推广，r l p 算法当遗忘因子at 1 时也存在数 值计算的不稳定性。虽然可以通过对加权矩阵做适当修正来加强稳定性口1 ，但算 法本身固有的这种缺陷仍然在很大程度上妨碍了它的应用。 为了得到良好的数值稳定性，同时又具有较快的收敛速度，文献【2 8 1 提出了一 种拟牛顿( 0 n ) 自适应算法。与r l s 算法相比，这种算法具有近似的收敛速度和 更好的稳定性，尤其是在输入为非持续或者有色信号的环境下，它成为1 m s 和 r l s 算法的一种良好的替代算法。但0 n 算法采用的代价函数为均方误差，实际 上是输出误差瞬时值的平方，这就使得它的稳态效果要逊于r l s 算法。 本章将把拟牛顿优化方法应用到a 一稳定噪声环境下的自适应滤波中。首先， 推导q n 算法在此种情况下的推广形式，即拟牛顿一最小平均f 。椹数( q n u 卯) 算法；其次，采用与r l p 算法相同的代价函数，提出一种拟牛顿一递归最小f 范数 ( o n _ r l p ) 自适应算法，并通过仿真实验比较它们的性能。 5 1 “稳定噪声环境中的拟牛顿自适应算法 拟牛顿优化方法已经广泛应用于自适应信号处理领域i 蚀 2 9 l ，但这些拟牛顿类 型的算法大都是在高斯假设下进行的，本节将介绍d 稳定噪声假设下的拟牛顿类 型自适应算法。 51 1o n l m p 自适应算法 与蹦p 算法一样，这里的拟牛顿一最小平均f 。范数( 0 n l ，m p ) 算法也是到用 瞬时“先验输出误差”来定义性能表面的，即 j ( ) 皇e ( n ) 1 9 ( 5 - 1 ) 式中 e ( 砌= d ( n ) 一x ：( n ) w ( 一 称为先验输出误差，式中的权向量是用前。次迭代得到的。在以下的讨沦中，还 将用到“后验输出误差”，终定义为 虿( n ) = d ( n ) 一x 0 ( n ) w ( n ) ( 5 3 ) 虿( n ) = d ( n ) 一x 0 ( n ) w ( n ) ( 5 3 ) 3 2 a 一稳定脉冲噪声中的自适应滤波算法研究及应用 上式是在完成第n 次迭代后再用所得的权向量计算得到的误差输出值。 与前面讨论的u t p 算法所采用的梯度估计类似，有 v ( n 一1 ) ；一p 婚) | p _ 1s 咖 e ( n ) 】x 。( n ) ( 5 4 ) 根据牛顿法梯度搜索，o n l m p 算法的权向量迭代可表示为 w ( 打) = w ( 厅一1 ) 一p 矗一1 ( 玎一1 ) v ( ，l 一1 ) ( 5 5 ) 在式( 5 5 ) 中相关矩阵的逆用拟牛顿的方法来估计，文献( 3 0 】给出了一种构造公 式，即 食刊。袁一，( 州) + 坠坠竺型竽螂业萼坠! 堂巫( 5 _ 。) 一 f w ( n ) 一食- 1 ( n 一1 ) g ( 恕) 1 j g ( n ) 这里w ( 行) = w ( n ) 一w ( n 一1 ) 为权向量的增量，g ( n ) 为 g ( n ) 。帚( 珂) 一v 【n 一1 ) ( 5 7 ) 是梯度增量，其中审( 一) t p p ( n ) rs i g l l f ( n ) 1 ( ”) 。 要注意，式( 5 7 ) 中利用帚( n ) 而不是v ( n ) ，这是因为计算v ( n ) 需要的数据 d ( ，l + 1 ) 和x 。( ，l + 1 ) 在n 时刻无法获得。实际上，v ( n ) 可以理解为先验梯度，而 亏( ，z ) 是后验梯度。通常，可设置初始值食。1 ( o ) * y i ，r ，o 。由此，可以保证在式 ( 5 6 ) 中每次迭代的盘。1 f ，1 ) 都为正定矩阵1 3 l 】，因而可使q n l m p 算法稳定。 自适应增益常数卢的修正是通过声( n ) i 对求导并令其为零得到的，且可得 ，、1 芦”雨万酉两而面丽 岱。8 现将q