（电子科学与技术专业论文）基于多尺度小波变换的lms自适应滤波算法研究与实现.pdf

a b s t r a c t a d a p t i v ef i l t e r i n ga l g o r i t h mi so n eo ft h em o s ta c t i v er e s e a r c hi nm o d e ms i g n a l p r o c e s s i n gf i e l d l e a s tm e a ns q u a r e ( l m s ) a l g o r i t h mi su s e dw i d e l yi na d a p t i v ef i l t e r a l t h o u g hc l a s s i c a ll m sa l g o r i t h m h a s s i m p l ec o m p l e x i t y a n di se a s yt ob e i m p l e m e n t e d ，i t sc o n v e r g e n c es p e e di sv e r ys l o w i no r d e rt os p e e d u pt h ec o n v e r g e n c e p r o c e s s ，o n ec a ni n c r e a s et h es t e ps i z e ，b u ta tt h es a l l l et i m e ，t h es t e a d ys t a t ee r r o r w i l l b el a r g ea n dt h ea l g o r i t h mm a ye v e nb e c o m eu n s t a b l e f i x e ds t e ps i z ec a n n o tr e s u l ti n f a s tc o n v e r g e n c es p e e da n dl o wr e s i d u a le r r o rs i m u l t a n e o u s l y i no r d e rt os o l v et h i s p r o b l e m ，p e o p l ep r e s e n tal o to fm o d i f i e dl m sa l g o r i t h m s t h e r ea r et w of a m o u s r e s e a r c hd i r e c t i o no fa l g o r i t h m st h a ta r es u m m a r i z e d ，o n ei sv a r i a b l es t e ps i z el m s a l g o r i t h m ，t h e o t h e ro n ei st r a n s f o r m d o m a i nl m sa l g o r i t h m t h em e t h o dt h a ta w a v e l e ti si n t r o d u c e di n t ot h ea d a p t i v ef i l t e r i n gh a sap r o s p e r o u sf u t u r ei nt h ea d a p t i v e f i l t e r i n go ft i m e v a r y i n ga n dr a p i dc h a n g i n gs i g n a lb e c a u s et h ew a v e l e th a st h eg o o d c a p a c i t yt od e c r e a s et h ec o r r e l a t i o np r o p e r t yo ft h ei n p u tv e c t o r ，a n dp o s s e s s e st h e c h a r a c t e r i s t i c so fm u l t i r e s o l u t i o na n dt i m e f r e q u e n c yl o c a l i z a t i o n t h e m a i n a c h i e v e m e n ti nt h i st h e s i sc a nb es u m m a r i z e da sf o l l o w s ： 1 e x p a t i a t ea d a p t i v ef i l t e r i n gt e c h n o l o g ya n dt h eb a s i cp r i n c i p l eo fl m sa l g o r i t h m ， d i s c u s st h ec o n v e r g e n c er a n g eo fs t e ps i z ef a c t o ri nl m sa l g o r i t h m ，a n a l y z et h em e r i t s a n dd e m e r i t so fl m sa d a p t i v ef i l t e r i n ga l g o r i t h m s ，a n dp r e s e n tt w ov a r i a b l es t e ps i z e l m sa l g o r i t h m _ v s sa n dm v s sa l g o r i t h m s ，t h e o r e t i c a la n a l y s i sa n dc o m p u t e r s i m u l a t i o nd e m o n s t r a t et h e i rp e r f o r m a n c e 2 a n a l y s i st h ec h a r a c t e r i s t i c so ft i m e - f r e q u e n c yl o c a l i z a t i o no fw a v e l e tt r a n s f o r m ， e x p a t i a t em a l l a tf a s ta l g o r i t h ma n dm u l t i p l e r e s o l u t i o na n a l y s i s ，d i s c u s sm u l t i s c a l e w a v e l e td e c o m p o s i t i o na n dr e c o n s t r u c t i o n 3 t h em u l t i p l e s c a l ew a v e l e tt r a n s f o r mt h e o r yi si n t r o d u c e di n t ot h el m s a d a p t i v ef i l t e r i n ga l g o r i t h m t h el i n e a rf i l t e ri sr e p r e s e n t e db yas e to fo r t h o g o n a l w a v e l e t s t h ep a p e ra n a l y s i st h ep r i n c i p l ea n dc o n v e r g e n c es p e e da n dc o n d i t i o n so ft h e l m sa d a p t i v e f i l t e r i n ga l g o r i t h m b a s e do n m u l t i p l e s c a l e w a v e l e tt r a n s f o r m t h e o r e t i c a la n a l y s i sa n ds i m u l a t i o n ss h o wt h a tt h em s w t - l m sa l g o r i t h mc o n v e r g e s f a s t e rt h a nt h ec l a s s i c a ll m sa d a p t i v ef i l t e r i n g t h es p e c t r u md y n a m i cr a n g eo f a u t o c o r r e l a t i o nm a t r i xo ft h ei n p u tv e c t o ri sd e c r e a s e ds ot h a tt h ec o n v e r g e n c es p e e do f t h el m s a l g o r i t h mi si m p r o v e d 4 t h ev a r i a b l es t e ps i z el m sa l g o r i t h ma n dt h em u l t i p l e s c a l ew a v e l e tt r a n s f o r m a r em e r g e di n t ot h ea d a p t i v ef i l t e r i n gs y s t e m an o v e lm e t h o di sp r o p o s e di nt h i sp a p e r ， t h a ti s ，al m sa d a p t i v ef i l t e r i n ga l g o r i t h mw i t hm o d i f i e dv a r i a b l es t e ps i z eb a s e do n m u l t i p l e s c a l ew a v e l e tt r a n s f o r m ( m s w t - m v s s - l m s ) t h en o v e la l g o r i t h mc a n d e c r e a s et h ec o n d i t i o n so fa u t o c o r r e l a t i o nm a t r i xo ft h ei n p u tv e c t o r ，a sw e l la sr e s o l v e 第1 i 页 国防科学技术大学研究生院硕士学位论文 t h ec o n t r a d i c t i o nt h a tf i x e ds t e ps i z ec a n n o tr e s u l ti nf a s tc o n v e r g e n c es p e e da n dl o w r e s i d u a le r r o rs i m u l t a n e o u s l y e x p e r i m e n t a lr e s u l t sd e m o n s t r a t et h a tt h en e wa l g o r i t h m h a sn o to n l yb e t t e rc o n v e r g e n c ep r o p e r t yb u ta l s ob e t t e rs t a b l em e a ns q u a r ee r r o r st h a n t h ef o r m e ra l g o r i t h m s 5 t h en o v e la l g o r i t h mi sa p p l i e dt os p e e c hs i g n a ln o i s ec a n c e l l a t i o ns y s t e m e x p e r i m e n t a lr e s u l t sd e m o n s t r a t et h a tt h em s w t m v s s l m sa l g o r i t h mc a no v e r c o m e t h ed e f i c i e n c yo fc l a s s i c a ls p e e c hs i g n a la d a p t i v en o i s ec a n c e l l a t i o ns y s t e mt h a th a sa s l o wc o n v e r g e n c es p e e da n dal a r g em a l a d j u s t m e n ta n dt h el a r g es p e c t r u md y n a m i c r a n g eo fa u t o - c o r r e l a t i o nm a t r i xo ft h ei n p u tv e e t o r k e yw o r d s ：a d a p t i v ef i l t e r i n g ，l m sa l g o r i t h m ，v a r i a b l es t e ps i z e ， m u l t i p l e - s c a l ew a v e l e tt r a n s f o r m 第1 i i 页 国防科学技术人学研究生院硕士学位论文 图2 2 - 1 图2 2 - 2 图2 2 - 3 图2 3 1 图2 3 2 图2 3 - 3 图2 3 - 4 图2 4 - 1 图2 4 - 2 图2 4 - 3 图2 4 4 图3 2 - 1 图3 2 - 2 图 图 图 图 图4 3 - 1 图 图 图 图 图4 4 - 4 图4 4 - 5 图4 4 - 6 图4 4 - 7 图4 4 - 8 图 图 图 图 图目录 维纳滤波器的输入一输出关系5 横向f i r 结构的自适应滤波器6 阶数为2 时的m s e 曲面8 l m s 算法的学习曲线儿 仿真系统框图1 5 当收敛因子不同时l m s 算法的平均学习曲线1 6 当特征值扩展分别为l ，2 0 和8 0 时l m s 算法的学习曲线1 7 m v s s l m s 算法中步长因子大小随迭代次数的变化2 0 l m s 、v s s - l m s 、m v s s l m s 算法的收敛曲线比较2 l m v s s l m s 算法不同一的收敛曲线比较2 l 当信噪比降低时v s s - l m s 和m v s s l m s 算法收敛曲线比较2 2 多分辨分析结构2 7 一维m a ll a t 算法：( a ) 分解算法，( b ) 重构算法3 0 信号的多尺度小波分解与重构及与傅立叶变换频谱分析比较。3 2 信号的m a lf a t 塔式分解结构3 5 m s w t - l m s 算法模型结构3 7 多尺度( j = 3 ) 小波分解过程3 8 m s w t - m v s s l m s 算法模型结构4 l m s w t m v s s - l m s 算法中步长因子u 与误差e 的关系曲线4 2 自适应噪声对消原理图4 3 原始信号和输入信号4 5 s n r = 一2 3 0 5 0 8 d b 时三种算法的收敛过程比较4 5 同一小波不同尺度下的m s w t l m s 算法的收敛过程比较4 6 l m s 算法自适应噪声对消仿真结果4 7 m s w t l m s 算法自适应噪声对消仿真结果4 7 m s w t m v s s l m s 算法自适应噪声对消仿真结果4 8 采用m s w t m v s s l m s 算法输出信号与原信号的比较4 8 原始语音信号和；带噪语音信号5 0 采用l m s 算法输出语音信号和误差5 0 采用m s w t - l m s 算法输出语音信号和误差5 1 采用m s w t - m v s s - l m s 算法输出语音信号和误差5 l 第i i i 页 国防科学技术人学研究生院硕十学位论文 表目录 表2 3 - i 失调量与步长因子的关系1 6 表4 4 - 1 三种算法的信噪比比较4 4 第i v 页 独创性声明 本人声明所呈交的学位论文是我本人在导师指导下进行的研究工作及取得 的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含 其他人已经发表和撰写过的研究成果，也不包含为获得国防科学技术大学或其它 教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任 何贡献均已在论文中作了明确的说明并表示谢意。 学位论文题目： 基王垒屋廑丛! 这变选鲍巡墨自适应遗这簋法珏究生塞丑一 学位论文作者签名： 一 日期： p 彦年月2 日 学位论文版权使用授权书 本人完全了解国防科学技术大学有关保留、使用学位论文的规定。本人授权 国防科学技术大学可以保留并向国家有关部门或机构送交论文的复印件和电子 文档，允许论文被查阅和借阅；可以将学位论文的全部或部分内容编入有关数据 库进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。 ( 保密学位论文在解密后适用本授权书。) 学位论文题目： 基王垒屋廑型：这銮逸鲍巡墨自适廑速这簋洼珏究生塞趣 学位论文作者签名： 作者指导教师签名： 日期：d 彦年月2 日 日期：浙矿年6 月2e t 国防科学技术大学研究生院硕士学位论文 第一章绪论 1 1 课题背景及研究的目的和意义 滤波是电子信息处理领域的一种最基本而又极其重要的技术。所谓滤波，就 是通过对一系列带有误差的实际测量数据的处理来滤除信号中的干扰，从而尽可 能地恢复一个被噪声干扰了的信息流的问题。在电子系统中滤波器是一种基本的 单元电路，使用很多，技术也较为复杂，有时滤波器的优劣直接决定产品的性能， 所以很多国家非常重视滤波器的理论研究和产品开发。 在2 0 世纪4 0 年代，维纳就对平稳随机信号建立了维纳滤波理论。根据有用 信号和干扰噪声的统计特性( 自相关函数或功率谱) ，以线性最小均方误差估计准 则所设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪 声，提取有用信号。但是，当输入信号的统计特性偏离设计条件时，则它就不再 是最佳的了，这在实际应用中受到了限制。上世纪6 0 年代初，由于空间技术的发 展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多输入多输出随机 序列作最优估计。现在，卡尔曼滤波器已成功地应用到许多领域，它既可对平稳 的和非平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波 器是卡尔曼滤波器的一个特例。在设计卡尔曼滤波器时，必须知道产生输入过程 的系统的状态方程和测量方程，即要求对信号和噪声的统计特性有先验知识。 由以上分析我们知道，维纳滤波器参数是固定的，适于平稳随机信号；卡尔 曼滤波是时变的，适于非平稳随机信号。然而，只有对信号和噪声的统计特性先 验已知的情况下，这两种滤波器才能获得最优滤波。但是，在工程信号处理中，常 常无法得到所测信号与其所含噪声的统计特征，而实际上所测信号的统计特征也 随时间而变化。对这类时变的非平稳信号，难以用维纳滤波或卡尔曼滤波实现最优 滤波，而自适应滤波能提供较好的滤波效果n 吲。当输入信号的统计特性未知，或者 输入信号的统计特性变化时，自适应滤波器能够自动地迭代调节自身的滤波器参 数，以满足某种准则的要求，从而实现最优滤波。因此，自适应滤波器具有“自 我调节 和“跟踪 能力。自适应滤波器的设计方法对滤波器的性能影响很大， 所以其自适应算法一直是人们研究的热点，它包括线性自适应算法和非线性自适 应算法，非线性自适应算法具有更强的信号处理能力，但计算比较复杂，实际应用 最多的仍然是线性自适应算法。线性自适应滤波算法的种类很多，有l m s 自适应滤 波算法、r l s 自适应滤波算法、变换域自适应滤波算法、仿射投影算法、共轭梯度 算法等，随着信号处理理论和技术的迅速发展，自适应信号处理理论和技术己经 发展成为这一领域的一个新分支，并且在通信、雷达、声纳、地震学、导航系统、 第1 页 国防科学技术大学石) f 究生院硕士学位论文 生物医学和工业控制等领域获得越来越广泛的应用。对自适应滤波算法的研究是 当今信号处理中最为活跃的研究课题之一。 自上世纪6 0 年代b w i d r o w 等人提出自适应l m s ( 随机梯度或最小均方) 算法 以来，基于w i d r o w h o f f 标准的l m s 算法和其相应的自适应滤波器以其算法和结构 简单、计算量小、易于实现等优点，在不同领域得到了广泛的应用。但这种以f i r 直接实现形式的梯度类算法，在输入信号强相关引起输入信号的自相关阵特征值 分散度变大时，其收敛速度和精度受到极大的制约。特别是在自适应系统辨识应 用，如在声回波消除应用中，由于需要采用很高阶数的有限脉冲响应( f i r ) 滤波器 而使这一问题更为突出。目前存在的各种改进的自适应滤波方法普遍存在着算法 结构复杂、实时性和可靠性较差，不利于工程应用等一系列缺点。在算法结构的 设计上，还缺乏统一的理论指导，这些都是今后自适应滤波研究领域中努力的方 向。 经典l m s 算法在收敛速度、时变系统的跟踪能力和稳态失调之间的要求上存 在着比较大的矛盾：由于主输入端不可避免地存在干扰噪声，l m s 算法将产生参数 失调噪声，干扰噪声越大，则引起的失调噪声就越大，减少步长因子可减少自适应 滤波算法的稳态失调噪声，提高算法的收敛精度，然而步长因子的减少将降低算法 的收敛速度和跟踪速度。人们为了克服这一矛盾，提出了许多改进型l m s 算法。 对于改进型的l m s 算法可以归结为两个方向： ( 1 ) 变步长l m s 算法。文献 4 1 8 提出了一些变步长l m s 自适应算法，这些 算法基本上遵循这样的步长调整原则：在初始收敛阶段或未知系统参数发生变化 时，步长应比较大，以便有较快的收敛速度和对时变系统的跟踪速度：在算法收敛 后，不管主输入端干扰信号有多大，都应保持很小的调整步长以达到很小的稳态失 调噪声。近年来，变步长l m s 算法一直是时域l m s 算法研究的热点之一，其中多数 都利用自适应过程中提供的某种近似值作为衡量标准来调节步长，比较常见的方 法是利用自适应过程中的误差信号，试图在步长与误差信号之间建立某种函数关 系。但是，这种l m s 算法的收敛速度还对输入信号的自相关矩阵的特征值的分布 敏感，如果分布太散即最大值与最小值差异太大，因为收敛步长的动态范围选取 的较小，收敛速度同样会很慢。为了克服这一缺点，人们又采用了变换域自适应 滤波处理。 ( 2 ) 变换域l m s 算法n 螂3 。针对上述时域l m s 算法中输入信号自相关矩阵特 征值分散度较大的情况，通过对输入信号正交化可以减小其分散度而提高收敛速 度基于这一点，d e n t i n o 等于1 9 7 9 年首先提出了变换域自适应滤波的概念，此种 算法一般通过对输入到自适应滤波器的信号进行正交化归一预处理，可以减小自 相关函数矩阵特征值的分布，提高收敛速度。典型的正交化方案有g r a m - s c h m i d t 第2 页 国防科学技术大学研究生院硕士学位论文 正交化、格型滤波正交化、以及离散傅立叶变换( d f t ) 、离散余弦变换( d c t ) 、 k a r h u n e n - l o e v e 变换( k l t ) 等，这些变换域处理方式均在不同程度上达到了正交归 一输入信号向量的目的。因而与时域自适应信号处理平行发展的变换域自适应信 号处理近年来受到了广泛的关注。 然而，对于输入信号的时变特征和快速变化，上述各种变换域的自适应滤波方 法却不能满意地重现，这是因为它们在时域中没有任何分辨，且在变换域中的分辨 率固定不变。近年来兴起的小波变换为解决这一问题提供了有力的工具。小波变 换是一种信号的时间一尺度分析方法，具有多分辨分析的特点，而且在时频两域都 具有表征信号局部特征的能力。它充分体现了自适应分辨的思想，即小波变换的窗 是可调时频窗，能以不同的尺度观察信号，以不同的分辨力分析信号，在对高频成 分分析时，时间分辨率高些，时间窗口自动变窄、频率窗口增加，在对低频成分分析 时，频率分辨率高些，时间窗口自动变宽、频率窗口减少，较好地解决了时间和频率 分辨率的矛盾，被称作“数学显微镜”。将小波变换引入自适应滤波结构，具有小波 分析优于f o u r i e r 分析的所有优点，在时变信号和快速变化的信号自适应滤波方面 有着广阔的应用前景，文献 2 5 - 2 6 对小波变换域的自适应滤波算法作了初步探 索，文献 2 7 - 2 8 提出一种h a a r 小波的回波路径模拟算法。这些研究结果表明小 波在自适应信号处理中有着广泛的应用潜力，是未来自适应滤波发展的新方向】。 本文研究了l m s 自适应滤波算法，并将小波变换引入自适应滤波算法中，充分 利用小波分解系数的抽取特性，把输入信号分解于多尺度空间，提出了多尺度小波 变换的变步长l m s 自适应滤波算法，从而改善了原来的自适应l m s 算法的性能。因 此，选题在理论上及工程实践上都具有很重要的指导意义和应用价值。 1 2 本文的主要工作及章节安排 文章研究了固定步长l m s 自适应滤波算法以及变步长的l m s 自适应算法性能， 研究了小波变换理论、m a l l a t 快速分解方法，并将多尺度小波变换理论应用到l m s 自适应滤波算法中，得到基于多尺度小波变换的变步长l m s 自适应滤波算法，分 析了其性能并仿真实现。为此，本文章节安排如下： 第一章综述了l m s 自适应滤波算法的应用背景和研究意义；分析了l m s 自 适应算法的优缺点和存在的问题；总结了该算法的两种发展方向。 第二章介绍了自适应滤波技术和l m s 算法原理，分析了使l m s 算法收敛的 步长值范围；介绍了梯度噪声的概念和算法所引起的失调：分析了经典l m s 算法 的优缺点，并给出了两种变步长l m s 算法叫s s 和m v s s 算法，理论和仿真分析 了它 门的性能。 第三章详细讨论了小波分析的基本理论，介绍了连续小波变换和离散小波 第3 页 国防科学技术大学研究生院硕士学位论文 变换基本概念，分析了小波的时频局部特性，介绍了多分辨( 多尺度) 分析的思 想，并分析了正交小波变换的快速算法叫a 1 1 a t 算法，仿真研究了非平稳信号的 多尺度小波分解与重构，并与信号的傅立叶变换进行了对比。 第四章将多尺度小波变换的理论引入到l m s 自适应滤波器的设计中，用小 波变换的方法对自适应滤波器的输入进行正交变换，将输入向量正交分解到多尺 度空间，利用小波的时频局部特性，减小了自适应滤波器输入向量自相关矩阵的 特征值扩展范围，并且将变步长l m s 算法与多尺度小波变换的思想结合起来，提 出了新的小波自适应滤波算法，因此既减少了输入信号的自相关矩阵条件数，又 克服了固定步长在收敛速度与收敛精度方面与步长因子i l 的矛盾，提高了l m s 算 法的收敛速度和稳定性。实验结果表明了新算法是有效的和优越的。再此基础上 把新算法应用到语音信号消噪处理中去，通过新的小波自适应滤波算法可以克服 传统语音信号自适应滤波系统收敛速度慢、失调大，且输入自相关矩阵的特征值分 散过大，系统不稳定的缺点，仿真表明此方法取得了较有效的效果。 第五章总结了本文的主要工作及贡献，并指出了下一步的研究工作方向。 第4 页 国防科学技术大学研究生院硕士学位论文 第二章自适应l m s 算法及性能研究 2 1 引言 自适应滤波器是近3 0 年来发展起来的关于信号处理方法和技术的滤波器，其 设计方法对滤波器的性能影响很大。维纳滤波器等滤波器设计方法都是建立在信 号特征先验知识基础上的。然而，在实际应用中常常无法得到信号特征先验知识， 在这种情况下，自适应滤波器能够得到较好的滤波性能。当输入信号的统计特性 未知，或者输入信号的统计特性变化时，自适应滤波器能够自动地迭代调节滤波 器参数，以满足某种准则的要求，从而实现最优滤波。因此，自适应滤波器具有 “自我调节”和“跟踪 能力。自适应滤波器典型的算法有最小均方( l e a s tm e a n s q u a r e ，简称l m s ) 算法，递推最小二乘( r e c u r s i v el e a s ts q u a r e ，简称r l s ) 算 法等。从滤波结构上分有自适应f i r 滤波器与自适应i i r 滤波器两种。考虑到与 本人研究的论题的有机关联，本章将主要涉及l m s 类算法。 2 2 自适应滤波器的基本原理例3 自适应滤波器与维纳滤波器一样都是以最小均方误差( m i n i m u mm e a n s q u a r e e r r o r ，简称m s e ) 为准则的最佳过滤器。自适应滤波器实际上是能自动调节其本身 的单位样本响应h ( n ) 特性以达到最优化维纳滤波器。图2 2 - 1 为一维纳滤波器的 输入输出关系，其输入是一随机信号x ( n ) ： x ( n ) = j ( 刀) + v ( 聆) ( 2 1 ) 图2 2 - 1 ：维纳滤波器的输入一输出关系 其中s ( n ) 表示信号的真值，v ( n ) 表示噪声。其输出y ( n ) 等于s ( n ) 的估计值，用；( n ) 表示。维纳滤波器具有这样的h ( 1 3 ) 或h ( z ) 的滤波器，它能使s 与毒之间的均方误 差( m s e ) 函数e e 2 ( n ) 最小，即 e e 2 ( 刀) 】_ e 【0 一s ) 2 】- r a i n ( 2 - 2 ) 从而达到最好地从噪声中提取信号的目的。而自适应滤波器则能自动调节它的h ( n ) 值以满足上述最小均方误差的准则。 应用横向结构的f i r 滤波器形式来实现自适应滤波是最常用的一种方法。如 图2 2 - 2 所示，如果h ( n ) 长为n ，则从图2 2 - i 可以得到 第5 页 国防科学技术大学研究生院硕士学位论文 一l y ( 甩) = h ( m ) x ( n m ) = 忽薯 ( 2 3 ) 这里f = m + l ，= 啊( f 一1 ) ，x ，= 置( 心一1 ) 。 由此可见，输出y ( n ) 是n 个所有过去各输入的线性加权之和，其加权系数就 是 恕) 。在自适应滤波器中这个加权系数常用符号w 或c ，表示，所希望的输出常 用d 表示，并为了书写简化，时间n 用下标j 表示，于是式( 2 3 ) 成为 y = 嵋嘞 ( 2 4 ) ，- 1 由式( 2 - 4 ) 可见，自适应滤波器可看成是自适应线性组合器。一般来说，其 一，x ：，。埘可以是任意一组输入信号，并不一定要求其各嘞是同一信号的不同延 迟，如图2 2 2 ( a ) 所示，这种横向f i r 滤波器结构是最常用的一种自适应滤波 器的结构形式。图2 2 - 2 ( b ) 是它的原理图。自适应滤波器的要点在于按照e ，及各鼍， 值，通过某种算法寻找e 瞄】= m i n 时的各w i ，从而可自动地调节各w j 值。 x l x l j z iz - 1 rrr w lw 2 1r 。 1rl ( 口) 图2 2 - 2 横向f i r 结构的自适应滤波器 利用讨论维纳滤波器时域解的方法可以求得在研p ；】_ e ( d j y ，) 2 = m i n 时 第6 页 国防科学技术大学研究生院硕士学位论文 的权系数。将式( 2 4 ) 写成矩阵形式有 y j = x j w = w t x i 这里w = 所以 w 1 w 2 - h x j = 五 x 2 j x m e ? = di = d - y 一lx ?j d j w j 。j 2 1x j 研巧】= e 【( 嘭- y j ) 2 = e d i - 2 e d j x 7 形+ 形r 研f 形 令p = e d j x 】= 研乃五，d j x 2 一嘭嘞】r = d ，与一的互相关矢量 r = e f ，= e f 要j 三j 兰至篓 ( 2 - 5 ) ( 2 - 6 ) ( 2 - 7 ) ( 2 8 ) ( 2 - 9 ) ( 2 - 1 0 ) 所以式( 2 - 8 ) 可以写成： e ；】= e 【d ；】一2 p r w + w r r w ( 2 - 1 1 ) 对于平稳输入，式( 2 一“) 的e 暖】是权矢量w 的非负二次方函数，引入均方 误差曲面来描述均方误差函数与权矢量的映射关系，权矢量w 的非负二次方函数 即对应于一个超抛物面；曲面的等高线，即e e ；】为常量的截面在权矢量平面上的 投影，是同中心的一组超椭圆。图2 2 3 绘出了两个权系数( 或称为二维) 情况 下均方误差曲面的情形，该曲面为一个抛物面，抛物面上的等高线是一组同中心 椭圆。 显然，均方误差曲面只有唯一极小值位于曲面最底部，可以用梯度方法沿着 该曲面调节权矢量的各元素，得到这个均方误差研p ；】的最小点。均方误差的梯度 ( 用v 表示) 可以通过将式( 2 - 1 1 ) 对权矢量的各，进行微分得到 驴 等，等，筹卜蚴矿 第7 页 鳓i 科学技术大学研究生院硕士学位论文 3 0 0 2 5 0 2 0 0 塔1 5 0 芝 1 0 0 5 0 0 1 0 1 0 图2 2 - 3 阶数为2 时的m s e 曲面 令v = 0 就可得到最佳权矢量，用形表示，即 或- 2 渺p ：+ 形2 r _ w * = 0 尸 ( 2 - 1 3 ) 或渺= 形+ = r - 1 尸i 、 。 式( 2 1 3 ) 是维纳一霍夫方程的矩阵形式。满足式( 2 - 1 3 ) 的形+ 即为最佳权 矢量或称维纳权矢量。将式( 2 1 3 ) 代入式( 2 - 1 2 ) ，得最小均方误差为： ( e ；】) m i 。= e t a ；j 一矿叩尸 ( 2 1 4 ) 实际上，上述这套方程与维纳滤波器推出的结果完全相同。自适应滤波器与 维纳滤波器比较，其差别在于它加了一个识别控制的环节，将输出y ，与所希望的 值乃比较，看是否一样。如有误差p ，则用p 去控制w ，使w 为研口；】_ m i n 的+ 。 因此它的关键在于怎样简便的寻找形，或者说用什么样的算法来求得，最常 用的算法就是l m s 算法。 2 3 经典l m s 算法及性能 2 3 1 最陡下降法 最陡下降法( s t e e p e s td e s c e n tm e t h o d ) 采用如下的一般形式来更新系数： + i = 一 ( 2 1 5 ) 第8 页 国防科学技术大学研究生院硕士学位论文 其中u 是一个控制稳定和收敛速度的参量。当w 是多维的情况，梯度v ，可以用列 矩阵表示如下： 驴 等，等，幽o w j r ；肌 浯 因为某点的梯度方向是代表该点变化率最大的方向，在这里即e p ；】下降最快的方 向，因此这种方法称为最陡下降法。按式( 2 1 5 ) 当形+ 时，+ 。将以v ，的方 向，即e 眩】最陡下降的方向w 靠拢，靠拢的步距由u 确定，当达到e 陋；卜w 的最 小点时，v 2 0 ，呢+ 。= 杉= 肜。将( 2 一1 6 ) 中的求导与期望值对换，得 驴2 e e jo w l 一霹o e i 割i 又因为 e ，= d ，一w r x ， 得 岛o e ji o w 2 - 割鸭 ( 2 _ 1 8 ) l 伽l伽 。 于是，式( 2 1 8 ) 约束了w 改变的走向，将式( 2 1 8 ) 代入式( 2 - 1 7 ) 得 v ；= - 2 e e | x 1，。 令v - ，= 0 ，即e e 】= 0 由此可解得这个凹超抛物体曲面的最小点。 ( 2 - 1 9 ) ( 2 - 2 0 ) 在实际中，为了便于用实时系统实现，取单个误差样本的平方e ：的梯度作为 均方误差梯度的估计。如用9 表示v 的估计，则有 卟喏蔷，蒜l ，珑正詈杀，别二：盯 将( 2 - 1 8 ) 代入上式得 v j = - 2 e j x j i 、2 - 2 1 1 有 研v ，】= v ，= 一2 e e _ ，】 ( 2 2 2 ) 即的期望值等于其真值v ，所以这种对v ，的估计是无偏估计。于是将寺作为 v 。代入式( 2 1 5 ) 得 w j a = w j 一母l = w j 七2 烨j xj q f - 2 3 ) 其中 e j2d j w jxj 上两式表示的算法即称为w i d r o w - - h o f fl m s 算法。 国防科学技术大学研究生院硕士学位论文 2 3 2l m s 算法收敛条件 由文献 2 9 可知若想要使算法收敛必须满足 卜12 从。i 0 ( 2 2 5 ) k “ 步长因子u 是一个控制稳定性和收敛速度参量，它在此区间内取值取的越大，算 法收敛越快，但稳定性越差，均方误差越大。而步长因子u 的确定取决于最大特 征值丑一，即收敛条件取决于自相关矩阵的最大特征值。 由于自相关矩阵r 的特征值( 包括k ) 通常是预先不知道的，因此利用式 ( 2 - 2 5 ) 来确定u 的范围是不现实的，然而我们知道矩阵r 的迹 f ，【r 】= e 【砰】= ( 2 2 6 ) 由于正定矩阵的各兄值均大于零，故 九。 0 时，这种递推算法最终将使 t l m a x w 的集合平均e w 】收敛于维纳权矢量形+ 。因此，当u 的值满足上述条件时，这种 递推算法是有效的。因输入信号是实的，所以自相关矩阵是对称的和正定的二次 型矩阵，总可以通过正交变换将其化成标准型： r = q 人q r ( 2 3 1 ) 第l o 页 国防科学技术大学研究生院硕十学位论文 2 3 3l m s 算法收敛速度 文献 2 9 讨论了，需要经过一个迭代过程才能达到w ( 维纳解) ，也就是说 e 陋；】趋于研p ；】曲需要一个过程。通常将均方误差与迭代次数n 的关系曲线称为 学习曲线，它表达了l m s 算法的动态特性，即任意一个初始权矢量通过一次次 逼近最后趋于矽的过程，也即e k ；】趋于研p 2 ，】劬的过程。图2 3 一l 中表明了一个 典型的2 0 0 个样本集合平均的学习曲线的例子。集合平均呈现指数和特性。 越 蜷 燕 运 趔 七 妲 g 山 c ，) 芝 图2 3 1l m s 算法的学习曲线( 2 0 0 条样本曲线的集合平均) 根据式( 2 一1 1 ) 与式( 2 1 4 ) 日- t 将e p ；】表达式用昱【e ；】m i n 表示为； e 【e ；】= 忙眩】l + 叩尸一2 p 7 形+ 形7 r w = 仁【p 力乙+ 妒一w ) r r 缈一矽) ( 2 3 2 ) = 汩e 为l + 哆r 匕 或： e 眩】- 仁【e j 2 】k + v f q q 。1 一 ( 2 3 3 ) 这里巧= w - w 。又若令巧。= q 。巧= q r 巧，则( 巧) r = ( q ，圪) r - - v t q ，于是式 ( 2 3 3 ) 成为： 第1l 页 国防科学技术大学研究生院硕士学位论文 研p ；】：忙嗍) m 洒+ 巧r 人巧7 ( 2 - 3 4 ) 将式( 2 3 2 ) 对进行微分得： v = 2 r v j ( 2 3 5 ) 又+ 。= + 卜v j ) ，所以+ 。一= 一形一2 肚巧，即： + 。= _ 一2 肚巧= q i - 2 k ta q 。1 巧 。= u 一2 八彬 于是： ( 2 3 6 ) ( 2 - 3 7 ) k = ( ，一2 z ) 瑶 ，2 ( ，一2 八阼0 2 人) 2 瑶( 2 - 3 8 ) = ( ，一2 八) 7 瑶 代入式( 2 3 4 ) 得： e p ；】_ 仁k j 2 l 。+ 瑶7 八( ，一2 pa ) 2 。圪( 2 - 3 9 ) 这里，因为a 与( i - 2ua ) 均是对角矩阵，而对角矩阵与它本身的转置相等。 对比式： e 【+ 。1 = q i 一2 1 t a j “q 。1 e 【甄】+ 2 q ( ，一2 ) q 一p 与式( 2 - 3 9 ) 对比可见，式( 2 - 3 9 ) 右方的第二项每迭代一次衰减( ，一2 人) 2 倍，当j - - , ，0 0 ，e 【p ；】= 研g ； 。i 。由此可见，e g ；】随j 增加的衰减比快一倍。如果权矢 量w 有n 个分量，则有n 个自由度和n 个特征值入，同时有n 个特征振动模式， 第p 个振动模式的均方误差能量每次衰减为( ，一2 a ) 2 。定义： y p 2 兰( ，一2 以p ) 2y 2 = ( ，一2 以卢) 2 ( y ；) 7 随迭代次数j 做指数衰减。为了求