（电气工程专业论文）自适应算法及应用研究.pdf

自适应算法及应用研究 摘要 自适应滤波算法韵研究是当今自适应信号处理中最为活跃的研究课题之一。 寻求收敛速度快，计算复杂度低，数值稳定性好的自适应滤波算法是研究人员不 断努力追求的目标。本文主要对囱适应算法以及应用进行了研究和分析。 首先在论述自适应滤波基本原理的基础上，介绍了凡种典型的自适应滤波算 法及其应用。并对这些自适应滤波算法的性能特点进行比较，给出了算法性能的 综含评价。其次对传统的l m s ( l e a s tm e a ns q u a r e ) 算法进行了详细地分析。并针 对该算法中步长选取影响收敛速度与稳态误差的这一对矛盾，提出了种改进的 归一化变步长l m s 算法。仿真试验证实了新算法性能的提高。最后，结合实际应 用，详细地介绍了线性约束l m s 算法，并在f i r 滤波器上运用了该算法实现了强杂 波背景下信号的提取。 关键词：信号处理，l m s 算法，约束l m s 算法，自适应滤波，信号提敬 r e s e a r c ho fa d a p t i v ef i l t e r i n ga l g o r i t h m s a b s t r a c t t h er e s e a r c ho fa d a p t i v ef i l t e r i n ga l g o r i t h m si so n eo ft h em o s ta c t i v et a s k si nt h e f i e l do fm o d e ms i g n a lp r o c e s s i n g t h eg o a lt h a tr e s e a r c h e r sa r ep u r s u i n gi st of i n da l l a d a p t i v ef i l t e r i n ga l g o r i t h m t h a t c o n v e r g e s f a s ta n dh a sl o wa r i t h m e t i c c o m p l e x i t y t h i sp a p e ra i m sa tt h ea d a p t i v ef i l t e r i n ga l g o r i t h m sa n dt h e i ra p p l i c a t i o n s f i r s t l y ，b a s e d o nt h ea d a p t i v e f i l t e r i n gp r i n c i p l e ，s e v e r a lt y p i c a la d a p t i v e a l g o r i t h m sa sw e l la st h e i ra p p l i c a t i o n sa r ei n t r o d u c e di nt h i sp a p e r , a n dac o m p a r i s o n i sm a d ea m o n gt h e s ea l g o r i t h m s c h a r a c t e r s s e c o n d l y ，t h ea u t h o ra n a l y z e st h e p e r f o r m a n c eo ft h ec o n v e n t i o n a ll m s ( l e a s tm e a ns q u a r e ) a l g o r i t h m a n dd u et ot h e f a c tt h a tt h ec o n v e r g e n ts p e e da n ds t e a d y - s t a t ee r r o ra l ea f e c t e db yt h ef i x e ds t e p - s i z e i nc l a s s i c a ll m sa l g o r i t h m ，a l li m p r o v e da l g o r i t h mi s p r e s e n t e dw i t hn o r m a l i z e d v a r i a b l es t e p s i z e c o m p u t e rs i m u l a t i o nv e r i f i e st h eb e t t e r o ft h en e w a l g o r i t h m a tl a s t ，t h ea u t h o rc o n n e c tw i t hp r a c t i c e ，i n t r o d u c el i n e a rl i m i t e dl m s a l g o r i t h mi nd e t a i la n du s e t h ea l g o r i t h mi nf i rf i l t e rt or e a l i s ep i c ku pt h es i g n a l si n t h eb a c k g r o u do f c l u t t e r k e yw o r d s ：s i g n a lp r o c e s s i n g ，l m sa l g o r i t h m ，l i m i t e dl m sa l g o r i t h m ，a d a p t i v e f i l t e r i n g ，r e a l i s ep i c ku pt h es i g n a l s 插图表格清单 图2 - 1 自适应前向预测滤波器7 图3 1l m s 自适应f 瓜滤波器1 1 表3 1 最速下降法与l m s 算法的失调和时间常数1 2 表3 2 稳态均方误差与滤波器阶数的关系1 6 图3 2 系统辨识器。18 图3 3 两种算法收敛性能比较1 9 图3 - 4 跟踪性能比较( 5 h z ) 2 0 图3 5 跟踪性能比较( 1 0 h z ) 2 1 图4 1 带横向滤波器的多输入线性组合器2 2 图4 2 约束l m s 算法的权值迭代图解2 6 图5 1 回波功率图2 8 图5 2 理论滤波器频率响应。2 9 图5 3 理想滤波后的频谱图。3 0 图5 4 实际应用中滤波器频率响应3 1 图5 5 实际应用滤波后的信号频谱3 2 图5 6 迭代过程中均方误差的学习曲线3 2 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作殿取得的研究成果。据 我所知，除了文中特别加以标注和致谢的地方外，论文中不镪含其他人已经发表或撰写过的 研究成果，也不包含为获得盒鬓王璧太璧或其他教霄机构的学位或证书精使掰过的 材料。与我一瞬工佟酶丽恚对本研究所徽靛基何贡献均已在论文串终了秀确约说明并袭示谢 意。 涨文作者签名：互；讯 签字日期瞬f 月日 学位论文版权使用授权书 本学位论艾作嚣完全了髂金罂至冀塞堂膏关保赛、使用学位论文的规定，蠢权保留势 向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。本人授毅金壁 王些塞堂可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩 印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学截论文作者签名： 币红邙 签字目期：口咿【1 月a 学位论文作者毕业后去向： 工作单位： 通讯地址； ) 一名2 p 下瞄， 电话： 邮编： 致谢 在论文完成之际，非常感谢合肥工业大学电气与自动化工程学院给我这个再 次学习和提高的机会，并衷心地感谢导师温阳东教授在我学习和论文写作过程中 给予的关怀和帮助。导师渊博的学识、严谨的治学、开阔的视野、认真的态度使 我受益匪浅。研究生期间，导师在学习和工作上给我很多的关怀、帮助与鼓励， 在此学生表示衷心的感谢和深深的敬意。 此外论文工作得以顺利完成还要感谢蚌埠坦克学院电子教研室实验室冯根 生、方龙、李学武等老师给予的支持与帮助，在此深表谢意。 在整个学习和工作阶段，我的妻子给予了无微不至的照顾和支持，在此对我 所有家庭成员表示诚挚的谢意和最深的感激! 作者：顾涌 2 0 0 8 年1 0 月 第一章绪论 1 1 课题来源及研究意义 本课题是根据自适应信号处理在信号处理中的发展而提出的。 自适应信号处理时近4 0 年来发展起来的信号处理领域一个新的分支。随着 人们在该领域研究的不断深入，自适应信号处理的理论和技术日趋完善，其应用 的范围也愈来愈广，目前自适应滤波器己经成功的应用于通信、自动控制、雷达、 医学成像、模式识别、声纳和地震学等众多应用领域。 自适应滤波的研究对象是具有不确定性的系统或信息过程。这里的“不确定 性 是指所研究和处理的信息过程及其环境的数学模型不是完全确定的。其中包 含一些未知因素和随机因素。自适应信号处理所研究的信号既可以是随机平稳信 号，也可以是局部平稳的随机信号。在大量的工程应用和研究中，又将信号在频 域分成窄带和宽带两种，在两种情况下研究或处理的方法及自适应系统的结构也 不相同。同时，信号的统计量也极其重要。常用的统计量为信号的均值( 一阶统 计一量) 、相关函数与功率谱密度( 二阶统计量) ，还有高阶矩、高阶累计量和高阶 谱等高阶统计量。 任何一个实际的信息过程都具有不同程度的不确定性，这些不确定性有时表 现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动 态过程的数学模型的结构和参数是事先并不能够确切知道的。作为外部环境对信 息过程的影响，可以等效地用扰动来表示。这些扰动通常是不可测的，它们可能 是确定性的，也可能是随机的。此外，还有一些观测噪声也以不同的途径影响信 息过程。这些扰动和噪声的统计特性常常是未知的。面对这些客观存在的不确定 性，如何综合处理该信息过程，并使得某些指定的性能指标达到最优或近似最优， 就是自适应滤波所要解决的问题。 1 2 自适应滤波理论与算法的概述 自适应处理的发展与最优化理论有着密切的联系n 1 。自适应算法中的最速下 降算法以及最小二乘算法最初都是用来解决有无约束条件的极值优化问题的 乜t3 1 。对于不同的自适应滤波器，可以采用各种不同的递推算法，这些自适应算 法都有各自的特点，适用于不同的场合，下面分别进行介绍。 1 2 1 基于维纳滤波理论的方法 在线性滤波理论中，维纳滤波器所要解决的是最小均方误差准则下的线性滤 波问题。这种滤波方法是在已知信号与噪声的相关函数或功率谱的情况下，通过 求解维纳一霍夫( w i e n e r h o p f ) 方程，对平稳随机信号进行最优预测和滤波。 为了得到自适应横向滤波器权矢量调整的递推算法，由最佳维纳解定义的矩 阵方程，应用均方误差的梯度矢量等干零，就可得到最佳权矢量，用表示， 也就是： 批= 殿1 p ( 1 - 1 ) 其中，r 为横向滤波器抽头输入信号的相关矩阵，p 为抽头输入信号与期望响应的 互相关矢量。 式( 卜1 ) 就是维纳一霍夫方程的矩阵形式，满足式( 1 - i ) 的称为最佳权矢 量或最佳维纳权向量。其次，利用这些相关的瞬时值推导蹴梯度矢量的估计值， 由此可以得到最常用的一种算法，即所谓的最小均方( l e a s tm e a ns q u a r e ) 算法， 简称l v l s 算法。这种算法实现简单，盥性能较为满意。它的主要缺点是，收敛速 度慢和对输入信号的相关矩阵特征僮发散程度( 即最大特征值与最小特征簋之跣) 的变化较灵敏。 圭2 2 基于卡尔曼滤波理论的方法 卡尔曼滤波和维纳滤波都是以最小均方误差为准则的最佳线性估计或滤波。 但是，维纳滤波只适用于平稳的环境中，而卡尔曼滤波没有这个限制，因此，为 了使自适应滤波器能工作在平稳的或菲平稳的环境中，可i 以借助予卡尔曼滤波器 推导宣适应滤波算法。 卡尔曼滤波是线性无偏最小方差递推滤波，它的估计性能是最优的，而递推 计算形式又能适应实时处理的需要。对于一个线性动态系统的卡尔曼滤波问题， 可以用状态方程与测量方程来描述，慧者以状态矢量来刻划系统的动态，藤者表 述系统中的测量误差。根据估计理论，可知最小误差嫡估计准则与最小方差估计 准则等价，而卡尔曼滤波是线性无偏最小方差估计，敌有不同方法推导卡尔曼滤 波的递接公式，其接导过程可见相关参考文献踟。 利用卡尔曼滤波的递推求解法可以推导出权矢量更新递推算法。这些算法与 l m s 算法相比具有较快的收敛速率；同时，在收敛过程中具有很好的稳健性，因 其收敛速率对特征值发散程度不灵敏。但是，这些算法的应用受到计算复杂度的 限制。 1 2 。3 基予最小= 乘准则的方法 由维纳滤波器与卡尔曼滤波器所推导出的自适应滤波算法的理论是基于统 计概念的。而最d x - 乘估计算法是以最小误差平方和为优化目标，这里的误差就 是自适应滤波器的期望响应d ) 与真实滤波输出y ( 珂) 之差值，故这类自适应滤 波性戆优化的准哭| l 是 r a i n ( 尊( 七) ) 2 = r a i n ( d ( 七) 一y ( 七) ) 2 章口1老= ( 】2 ) 2 根据这类自适应滤波器的实现结构，有如下三种不同的最小几乘自适应滤波 算法：自适应递归最小二乘算法；自适应最4 - - 乘格型算法；q r 分解最小二乘算 法。 1 2 4 基于小波变换的方法 小波变换是由法国地球物理学家m o r l e t 于8 4 年代初在分析地球物理信号时 作为一种信号分析的数学工具提出来的。通俗地讲，小波是一种短期波。在积分 变换中，小波作为核函数的用法大体与傅立叶分析中的正弦和余弦函数或与沃耳 什( w a l s h ) 分析中的沃耳什函数的用法相同。目前，小波分析主要用于信号处理、 图像压缩、次能带编码、医学显像、数据压缩、地震分析、消除噪声数据、计算 机图像、声音合成等领域。小波变换的基本特点是多分辨率或多标度的观点，目 的是“既要看到森林( 信号的概貌) ，又要看到树木( 信号的细节) 。借助于小波 的精辟理论，自适应滤波技术有了新的发展方向，这也引起了信号处理领域许多 学者专家的浓厚兴趣和热切关注。 基于小波变换的自适应滤波技术是未来自适应滤波发展的方向之一，有着广 阔的应用前景。目前还有许多问题有待解决，例如不同形式的小波滤波器的滤波 效果研究；在时变信号滤波方面的应用研究以及对于失调噪声的滤波等等。 1 2 5 基于模糊神经网络的方法 神经网络作为一种新的计算方法，已经引起了人们广泛的研究兴趣。神经网 络可以认为是一种由许多称为“神经元 n e u r o n ) 的基本计算单元通过广泛的连 接所组成的网络。它是在现代神经科学研究成果的基础上提出来的，反映了人脑 功能的基本特征。网络的信息处理由神经元之间的相互作用来实现，网络的学习 与识别决定于各神经元之间联接权系数的动态变化过程。 而利用模糊技术我们也可以很容易的将人们熟悉的语言描述应用到自动控 制或信号处理中来，因此，将两者融合在一起的模糊神经网络可以有效的克服两 者的缺点，提高整个网络的性能。神经网络与模糊神经网络有力的推动了自适应 滤波技术，特别是非线性自适应滤波技术的发展。事实上，一个神经网络或模糊 神经网络本身就可以看作是一个自适应滤波器。 1 3 本课题研究的主要任务 本文在研究自适应滤波理论的基础上，对几种重要的自适应算法进行了理论 分析，研究了它们在自适应滤波技术中的应用，并进行了模拟仿真试验，对算法 的性能进行了分析。 本文的研究工作主要包括以下几个方面： 第一章中，主要介绍自适应滤波技术发展的过程，对自适应滤波原理及其应 3 用进行了简要的介绍，在论述盘适应滤波基本琢理的基础上，介绍了凡种典型的 自适应滤波算法及其应用，并对这些自适应滤波算法的性能特点进行比较，给出 了算法性能的综合评价。并提出了对自适应滤波技术的研究意义。 第二章中，对传统的l m s ( l e a s tm e a ns q u a r e ) 算法和r l s 算法进行了分析。 并针对该基于两种算法的衍生算法进行了原理性的阐述，并对它们的性能进行了 研究和比较，最后给出了简单的总结分析。l m s 算法的基本原理是基于最速下降 法，即沿着权值的梯度估值的负方向进行搜索，达到权值最优，实现均方误差最 小意义下的自适应滤波。r l s 算法有优良的性能，它的收敛速度很快，对输入信 号的谱特性也无依赖，但是算法很复杂，运算量很大，实现起来也比较困难，而 且这种算法还存在长期的数值稳定问题。r l s 算法也可以利用输入信号的移位特 性，得到快速r l s 算法，可以大大降低运算量，但是数值不稳定问题更加严重。 用格行结构实现r l s 算法，能够部分解决数值稳定问题，但用到太多的除法，运 算复杂，实用性也较差。 第三章，对广泛使用的l m s 算法进行7 分析，对l m s 算法的性能进行具体的分 析，研究了l m s 算法中输入信号相关性、滤波器阶数和稳态均方误差之间的关系， 并且通过试验证明了此关系。通过公式推导，从理论上证明了增加滤波器阶数并 不麓保证减小稳态均方误差。对予具体的输入信号，存在个最佳( 藏准最佳 的滤波器阶数，使稳态均方误差最小，若爵增加滤波器阶数，稳态均方误差有增 大的可能。并在此基础上，提出了一种改进的归一化变步长最小均方滤波算法， 并且通过仿真试验，使用是衡量自适应滤波算法优劣的三个重要的技术指标一初 始收敛速度、时变系统跟踪能力及稳态失调，分析了新算法的收敛和跟踪性能。 第四章中，在一些实际应用的情况下，往往要求一个自适应系统保证对有用 信号的输出，同时抑制不希望的噪声或干扰。这就需要在权向量自适应迭代时增 加约束条件，以便使自适应过程达到稳态时，能同时满足保证有用信号接收和输 出噪声功率最小的要求。在前面3 章介绍的l m s 算法基础上，引进了以最小方 差( ) 性能为准则的线性约束l m s 算法。详细地推导了该算法的基本原理， 并分析了其收敛性，还用几何概念解释了权向量不会偏离其约束的误差修正特 性。 第五章中，自适应滤波器以某种意义上的最优化方式消除包含在基本信号中 躬未知干扰( 类似予一个承载信息的信号分量) 。有时候这种于扰或杂波大予有用 信号若干的d b ，有用信号淹没在于扰或杂波中，本章即将主要对自适应噪声对消 ( 杂波消除) 进行研究，结合相关实例，讨论了线性约束l m s 算法在滤波器中的 运熏，比较了理论滤波效果与实际应用中滤波效果的差异。最爱提出了在实际应 用中要根据实际情况来确定步长的取值。 4 第二章自适应算法研究及分析 2 1 自适应滤波基本概念 自适应滤波器一般可分为两个部分，即滤波部分和自适应更新部分：( 1 ) 其 中滤波部分根据某结构常用的可有f i r 和i i r 两种滤波形式，i i r 结构的自适应滤 波器在运算的阶数上要i ：i ：f i r 结构的滤波器的阶数要少，因而比相同性能的f i r 池波器所需要的运算里要少，但由于i i r 结构的滤波器在有限精度的条件下容易 产生振荡，具有不稳定的特性，而且通过增加阶数，a r 模型能够对a r m a 棋型进行 近似的模拟，所以，本文最后讨论的自适应算法应用是基于f i r 滤波( 2 ) 自适应信 号处理算法一般用来获得有关可调参数。使这些参数为变盈的目标函数在一定的 约束条件下达到最优。最常用的方法是基于估计误差的平方值。然而在不同情况 下它具有不尽相通的定义，从其准则上进行区分，自适应处理方法可分为两类：( a ) 随机统计法，在随机统计法中，准则包含了输入数据的统计特性，算法的推导以 估计误差的平方的集平均或时平均( 即均方误差，m s e ) 为基础，经典的算法是l m s 算法。( b ) 精确法。在精确法中，准则包含了已经得到的真是确切的数据。满足 此类准则所用的技术常称为递归最小平方( r l s ) 技术。本章中将对其中的一些算 法进行综述。 2 2 自适应滤波算法介绍 2 2 1 变步长l m s 滤波算法 基于最速下降法的最小均方误差( l m s ) 算法的迭代公式如下： p ( 行) = d ( 刀) 一z 1 ( 以) 形( 拧) ( 2 1 ) 形( 珂+ 1 ) = 形0 ) + 2 t e ( n ) x ( n ) ( 2 - 2 ) 初始收敛速度、时变系统跟踪能力及稳态失调是衡量自适应滤波算法优劣的 三个最重要的技术指标。覃景繁等畸1 分析了最小均方误差( l m s ) 算法的收敛性能。 固定步长的自适应滤波算法在收敛速度、时变系统跟踪速度与稳态失调方面对算 法调整步长因子的要求是相互矛盾的。为了克服这一矛盾，人们提出了许多变 步长自适应滤波算法。r d g i r li n 呻1 曾提出了一种变步长自适应滤波算法，其步 长因子0 ) 随迭代次数n 的增加而逐渐小。y a s u k a w a 等口1 提出了使步长因子a ( n ) 正比于误差信号e ( n ) 的大小。而g i t l i n 等阳1 ，提出了一种时间平均估值梯度的自 适应滤波算法。叶华等口3 提出了另一种变步长自适应滤波算法，步长因子0 ) 与 p 0 ) 和x ( n ) 的互相关函数的估值成正比。吴光弼等n 们通过对误差信号的非线性 处理，得到了l e - l m s 变步长自适应滤波算法。 2 2 2 变换域l m s 算法 变换域l m s 算法是在输入信号具有很强的相关性时，提高l m s 算法收敛速度的 一种技术。这种方法的基本思想是对用于自适应滤波器的输入信号进行修改，使 得对应的相关矩阵的条件数增大，使得发散程度越小。 n a r a y a n 等n 妇对变换域自适应滤波算法作了全面的总结。变换域自适应滤波 算法的一般步骤是：1 ) 选择正交变换，把时域信号转变为变换域信号；2 ) 变换后 的信号用其能量的平方根进行姻一化；3 ) 采用某种自适应算法进行滤波。此外， 小波变换选被用于交换域自适应滤波。在小波变换自适应滤波中。通常采用两静 形式：一是小波子带自适应滤波，它相当于把输入信号和期望响应信号在多分辨 率空间进行自适应滤波后，再变换为时域输出信号：另一种是小波变换域鲁适应 滤波，它是把输入信号用小波的多分辨率空间的信号来表示，作为自适应滤波器 的输入，而期望响应信号并不作小波变换。 2 2 。3 仿射投影算法 在有些情况下，可以重复利用过去的数据信号，以便提高自适应滤波算法的 收敛速度。数据重用算法的代价就是增加了算法的失调，并且和通常情况下一样， 逶过弓l 入步长来实现最终的失调和收敛速度的之闻的平衡，但是我们也可以通过 仿射投影算法来达到目的。仿射投影算法最早由k o z e k i 和t u m e d a u 别提出，它是 归一化最小均方误差( n l m s ) 算法的推广。仿射投影算法的性能介予l m s 算法和 r l s 算法之间，其计算复杂度比r l s 算法低。归一化最小均方误差( n l m s ) 算法是l i d s 算法的一种改进算法，它可以看作是一种变步长因子的l m s 算法，其收敛性能对 输入信号的能量变化不敏感。而仿射投影算法的计算复杂度比n l m s 算法高很多。 g a y 等弧“3 提出的快速仿射投影算法大大降低了仿射投影算法的计算复杂度。在 快速仿射投影算法中，采用滑动窗快速横向滤波器算法计算预滤波向最，避免了 矩阵求逆运算。快速仿射投影算法的计算复杂度虽然降低了，但其内嵌的滑动窗 快速横向滤波器算法的实现相对复杂，并且存在数值稳定性问题。为解决快速仿 射投影算法的数值稳定性问题，d o u g l a s 等n 朝提出了正交变换的快速仿射投影算 法的近似算法，避免了采用复杂的滑动窗快速横向滤波器算法，改善了快速仿射 投影算法在有限精度运算时的数值稳定性。 2 。2 4r l s 自适应滤波算法 r l s 算法采用了在每个时刻对所有已输入信号重估的平方误差之和最小这样 的准剡，它是对输入信号的自相关矩阵灭。幻) 的逆进行递推估计更新，收敛速度 快，其收敛性能与输入信号的频谱特性无关。但是，r l s 算法的计算复杂度很高， 所需的存储量极大，不利于实时实现；倘若被估计的自相关矩阵r 。0 ) 的逆失去 了正定特性，还将引起算法的发散。为了减j 、r l s 算法的计算复杂度，并保留r l s 6 算法收敛速度快的特点，许多文献提出了改进的r l s 算法，如快速r l s ( f a s t r l s ) 算法n 司，快速递推最小二乘格型( f a s tr e c u r s i v el e a s ts q u a r e sl a t i c e ) 算法 n 刀等。这些算法的计算复杂度低于r l s 算法，但它们都存在数值稳定性问题。文 献秘硝为避免r l s 类算法递推估计更新融相关矩阵的逆的不足，基于最小二乘准则， 利用最陡下降法，雩导到一种新的梯度型童适应滤波算法，该算法诗算复杂度较低， 收敛性能良好。 r l s 算法在自适应预测滤波器中十分有用，可以有效地进行a r 参数估计及对 平稳信号的谱估计。如下图的蜜适应翦向预测滤波器 图2 - 1 自适应前向预测滤波器 2 2 5 基于q r 分解的r l s 算法 早裳提出的基予q r 分解豹r l s 算法的重点是使信息矩阵对焦化，以避免矩阵 求逆运算。然而，这种算法要求每个输出采样值进行o t n 2 1 次乘法运算，后来人 们提出y q r - r l s 算法的快速实现方法。如基于g i v e n s 旋转q r - r l s 算法。 基于鳇分解的自适应滤波算法对输入信号矩阵直接进行更新，因此在有限精 度运算条件下，具有良好的数值稳定性。各种q r 分解的快速自适应滤波算法可以 直接计算估计误差，并不需要更新权系数向量。而基于逆q r 分解的递推最小三乘 自适应滤波算法可以直接更新权系数向量，并且避免了复杂的回代运算。 2 2 6 归一化格型r l s 算法 通过对r l s 算法的内部变量进行归一亿，使其幅度限制在小于等于王的范围内， 可以得到格型r l s 算法的另一种形式，即魍一化格型r l s 算法。它适合予采用定点 数实现，且该算法需要的迭代次数和变量数比非归一化格型算法更少，即对于每 个时间采样的每次预测节，只需要三个方程。 归一化格型算法的惟一特性在予，通过利用许多平方根运算来降低方程和变 量的数县。它的另一个特点是，遗忘因子名没有出现在内部更新方程中，丽只在 计算输入信号和参考信号能量时出现。从计算的观点来看，在需要变化五值的情 况下，这个特性比较有用。另一方面，由予所有内部变量都被归一化了，霞此在 其他格型结构中，误差信号的真实幅度和其他量都与它们不匹配。实际上，利用 归一化格型结构只能有效地提取出频率的形状，因为计算归化和非归一化结构 参数之间的映射是非常困难的。 2 2 7 基于子带分解的自适应滤波算法 基于予带分解自适应滤波的基本原理是将输入信号与参考信号经过分解滤 波器组抽取进行子带分解，对信号按频带划分，然后在各个子带上分别进行皇适 应滤波，再将予带信号内插后通过合成滤波器组得到最后的合成信号。其中，由 于对信号进行了抽取，使完成自适应滤波所需的计算量得以减小；而在子带上进 行自适应滤波伎收敛性能又有所提高。在信号的子带分解中，存在着毒于分解滤 波器组的非理想特性引起的子带信号混叠的问题。为了避免混叠对自适应滤波的 影响，g i l l o i r e n 氍列采用加入予带间滤波的方法，而p e r a g l i a 等强髓采取在抽取时 过采样的方法。一般来说，信号的子带分勰处理有如下优点：采样间隔增大孳| 起 滤波器抽头数日减少，减小了计算复杂性；采样间隔扩大藤，输入信号本身的自 相关也减弱，可以提高算法的收敛性能。为了提高信号子带分解自适应滤波器的 收敛速度，d e l e o n 等臻霹认必，经过子带分解后，抽取弓| 起部分信号的浪费，采用 m u l t i r a t er e o e a t i n gm e t h o d 可以利用那些被浪费的信号成分，通过增加单位时 间内对权值的更新次数，获得更快的收敛速度。 2 。2 8 其他自适应滤波算法 除了上面介绍的自适应滤波算法之外，还有一些其它的算法，如：系数部分 更新自适应滤波算法汹、l m f ( r l f ) 算法洛、l e a k y - l m s 算法汹3 等。在一些自适应 滤波应用中，即使简单的l m s ( n 嵫s ) 算法实现起来也显复杂，为此，系数部分更 新自适应滤波算法被提出，其主要思想是在自适应滤波算法的每次迭代中，自适 应滤波器的部分系数被更新，这使得整个自适应滤波算法的计算量有所降低。 2 3 本章小结 本章中对各种类型的搿适应滤波算法进行了简单的总结分析。变步长的自适 应滤波算法虽然解决了收敛速度、时变系统跟踪速度与闯题误差对算法调整步长 因子的矛盾，但变步长中的其它参数的选取还需实验来确定，应用起来不太方 便。变换域类算法也是通过作某些正交变换使输入信号自相关矩阵的特征值发散 程度变小，提高收敛速度。而仿射投影算法的性能介于l m s 算法和r l s 算法之闻。 8 对r l s 算法的各种改进，其目的均是保留r l s 算法收敛速度快的特点同时降低算法 的计算复杂度。基于矩阵的q r 分解的自适应滤波算法具有良好的数值稳定性。归 一化格型算法的惟一特性在于，遥过利用许多平方根运算来降低方程和变量的数 目。信号的子带分解能降低输入信号的自相关矩阵的特征值发散程度，从而加快 自适应滤波算法的收敛速度，同时便于并行处理，带来了一定的灵活性。总之， 寻求收敛速度快，计算复杂性低，数值稳定性好的自适应滤波算法是研究人员不 断追求的目标。虽然线性自适应滤波器及其相应的算法具有结构简单、计算复杂 性低的优点而广泛应用于实际，但由于对信号的处理能力有限因而在应用中受到 限制。由于非线性自适应滤波器，如v o l t e r r a 滤波器和基于神经网络的自适应滤 波器，具有更强的信号处理能力，己成为自适应信号处理中的一个研究热点。 9 第三章基于l m s 的自适应算法 3 1 引言 由w i d r o w 和h o f f 提出的最小均方误差( l m s ) 算法，因为其具有计算量小、易 于实现等优点而在实践中被广泛采用。典型的应用领域有系统识别、信号处理和 自适应控制。具体的例子包括神经网络的学习过程，噪声背景下的信号检测、天 线旁瓣干扰的对消，电话线路中的回波消除、自适应波束形成等。l m s 算法的基 本原理是基于最速下降法，即沿着权值的梯度估值的负方向进行搜索，达到权值 最优，实现均方误差最小意义下的自适应滤波。初始收敛速度、时变系统跟踪能 力及稳态失调是衡量自适应滤波算法优劣的三个重要的技术指标。由于主输入端 不可避免地存在干扰噪声，自适应滤波算法将产生参数失调噪声。干扰噪声越大， 则引起的失调噪声就越大。减少步长因子产可减少自适应滤波算法的稳态失调， 提高算法的收敛精度。 在本章中，首先对l m s 算法的性能进行具体的分析，并且详细的讨论了l m s 算法中输入信号相关性、滤波器阶数和稳态均方误差的关系。通过公式推导，从 理论上证明了增加滤波器阶数并不能保证减小稳态均方误差。对于具体的输入信 号，存在一个最佳( 或准最佳) 的滤波器阶数，使稳态均方误差最小，若再增加滤 波器阶数，稳态均方误差有增大的可能。并且以强相关的直流信号和弱相关的正 弦信号分别作为自适应滤波器的输入信号进行了计算机仿真实验，实验结果与公 式推导结果一致。该理论为自适应滤波器设计时阶数的选择提供了理论指导。 分析现有的文献资料，变步长算法都是利用自适应过程中提供的某种近似值 作为衡量标准来调节步长。比较简单有效的方法是利用自适应过程中的误差信 号，在步长与误差信号之间建立某种函数关系。 因此，在研究了l m s 算法的基础上，提出了l m s 算法的改进方案对文献 啪1 中的归一化变步长算法( m n v s 算法) 进行了改进，得到了一种新的归一化变步长 l m s 算法( n n v s 算法) 。对改进后的n n v s 算法在计算量、收敛速率和跟踪等性能方 面进行了分析，并通过试验仿真比较了原算法和改进后的新算法。 3 2l m s 算法性能分析 3 2 1l m s 算法 l m s 算法的更新方程为： w ( k + 1 ) = w ( k ) + 2 店( 尼) x ( 七) ( 3 - 1 ) 式( 3 1 ) 中，w ( k ) 为k 时刻的滤波器的权向量，x ( 尼) 为k 时刻输入信号向量，占( 尼) 为k 时刻系统输出误差，是于控制自适应速度和稳定性的增益常数，即收敛因 子。图3 1 表示了对延迟线输入彳( 七) 的l m s 算法实现。 1 0 经过推导，得到l m s 算法的稳态均方误差孝为： 孝= + e x c m s e = ( 1 + 。t r r ) 舌m ( 3 2 ) 式( 3 - 2 ) 中，缸为最小均方误差，它是当权向量形( 七) = 形 ) 即最佳权向量 时的均方误差，e x c m s e 为超量均方误差，r = g x ( k ) x 7 ( 七) 】，t r r 为矩阵r 的 迹： = e d ( 七) d ( 后) 卜p 1 尺_ 1 p ( 3 3 ) 式( 3 - 3 ) 中，d ( k ) 为期待响应，p = 研d ( 七) x ( 尼) n ) 为期待响应与输入向量之 间的互相关向量。从式( 3 - 2 ) 看出，孝大小不仅与成正比，而且与输入信号功 率成正比。可以看出，步长p 控制着自适应算法的收敛速度。如果步长较大，系 数将更快的向着维纳解收敛，接近维纳解后，系数将在维纳解周围一个较大的邻 域内来回抖动而无法进一步收敛，因而会有较大的稳态误差；如果步长较小，系 数向着维纳解收敛的速度就会放慢，但是系数会稳定在一个较小的邻域内抖动， 因而稳态误差会下降。这就是l m s 算法中收敛速度和稳态误差之间的矛盾。由于 输入信号功率与滤波器阶数成正比，所以当加权数目增加时，t r r 增加。下面 进一步讨论缸与滤波器阶数及输入信号特性之间的关系。 2 图3 - 1l m s 自适应f i r 滤波器 下表对l m s 算法和最速下降法的失调与时间常数的表示式，可以看出，l m s 算法 的性能优势是十分明显的。对两种算法来说，慢的自适应速度将能减少失调。然 而给定时间常数，l m s 算法所产生的失调随权数线性增加，而最速下降法是随权 数的平方相加，因而采用l m s 算法会减少失调，或者说，在典型的应用环境下， 它可以得到更快的自适应速率。另外，由于l m s 算法在梯度估值时无须作扰动， 因而其总失调仅为超量均方误差引起的失调一项，这就使l m s 算法总的失调进一 步得到减少。 表3 1 最速下降法与l m s 算法的失调和时间常数 最速下降法l m s 算法 失调 等缸= 譬c 脚= 孕亡，。 扰动p 万2 k p 亏血 总失调 n h pm 第n 个模的时间常 l1 数： 4 l 九。4 m ，n 自适应迭代次数 n ( l + 1 ) 1 m l 4 从 数据样点数 3 2 2 与滤波器阶数n 及输入信号特性的关系 由式( 3 3 ) 可知，e 【d ( 尼) d ( 七) 与滤波器阶数k 无关，则，r _ 尸越大，缸越 小。为方便起见，设下标k 表示迭代次数，令取= w ( k ) ，五= x ( k ) ，d k = d ( k ) ， 以下所讨论的量均加一个表示滤波器阶数的下标： 五石= 【x k ，而- 1 ，讫一删 1 ( 3 4 ) 根据定义，有 1 2 心= 埘砭 = ，i o 气置一i ) o l ，i l 气置一1 ) i 最= e 以砭足】= p o ，p 。，p k 一。】r 当滤波器介数增加为k + 1 时，将矩阵化为分 = 】= 最+ 。= 研反五肌。】= 溉，p l 一p r 】r 在式( 3 - 5 ) p f = g a 。吒一f 】，0 i k ； 和1 1 。所以有 墨。、 ( 置、1 ) ，i ( x 1 ) 气x l x 置一1 ) ( 3 5 ) ( 3 - 6 ) = 降- 墨2 恒。如- j ( 3 - 7 ) ( 3 8 ) ( 3 - 8 )中， 吩= 鼍一，噍一， = 珞，o f ，j k ； 置2 、恐，和恐：的维数分别为k xk 、k 1 、lxk r 1 = r f 马2= 【k ，i r ，气n ) r 】r 马l = k o ，乍l ，k ( r 1 ) = 磋 坞2 = ，麟 比较式( 3 6 ) 和式( 3 8 ) ，可得，足+ 。- - 巧， ( 3 9 ) ( 3 1 0 ) ( 3 1 1 ) ( 3 1 2 ) p 】r 。输入自相关矩阵为正 定阵，即取和r x + 。均正定，故、：。存在。由分块矩阵求逆公式，当局。0 时，有 其中， 一f 硝+ 姊1 r 。：魁r 。尺0 l 一钙。- ：1 r 。2 r 0 魁- 如一砭。k 1 墨：】q 1 3 一再1 r 1 2 砑 ( 3 - 1 3 ) ( 3 1 4 ) 吼； q nr 将式( 3 - 1 3 ) 中：。进行分解，得 赋。= 曙州毪嚣砌秀程 砭。r 二：，最+ 。= 砭r 二1 乓+ 只玉。 ( 3 1 5 ) 墨- t 1 冬2 。- i o t - t i r 二磐程 斥+ 。将式( 3 一1 5 ) 等号 1 一趔置：r 0 勉j 叫“一一。一。 两边左乘砭。，右乘最+ l ，可得， 鼍。尺二：& + 。= t x - 1 & + 利用式( 3 8 ) ，上式等号右边第2 项可变为 础墨：鼢马。硝- t r ： 一程r ：耐勉 将式( 3 1 7 ) 代入式( 3 1 6 ) 中，得到 砭。赋。& + 。 一咯程 a 。rk + i 鹾 ( 3 1 6 ) 勉 昂“= 趔i r 。尉蠢一& 1 2 = 砭t - i 昂+ 勉l 恐。r 0 昂一昂1 2 是：= 恐：一r 。r o r ：= ，麒一r 五r ? 蜀： 因为r 置正定，所以存在k k 酉变换矩阵q ，使得 q r 砭q = 人k =d i a g ( & ，a ，以一，) q r 尺二1 q = 人：= d i a g ( 磊- , 百1 ，) = q 人：q r 将上式代入式( 3 1 9 ) ，并令q l ：= q r r ：，其中，q = 9 0 ，吼，g 纠】， 吼= 吼。，g f l ，吼( k i ) r ，o s f n 一1 ，则可得 j i 2 ：= k q i l 2 八足- 1 q l ：= k 1 4 石一l 百1 r i j = ok 1 2 ( 3 1 7 ) ( 3 1 8 ) ( 3 1 9 ) ( 3 - 2 0 ) ( 3 2 1 ) ( 3 2 2 ) ( 3 2 3 ) 兄1。 蕊露掩 1 l p 因为l 篁的k 1 2 艺| g l 1 2 艺l 伽1 2 ，所以因为l 的k i l g l 。l ，知i ，所以 j j f oj t oj - o 疋k 一 篓 萎k 1 2 i i 芸i 伽1 2 i t j i 2 ：k 一 l 蚶i 伽1 2 l f l ol = | ojl ，。由j j ( 3 2 4 ) 定义矩阵的第c 七一个元素的相关系数巳= 甚r ，显然，。g 。令 口f = 丢k - i i 劬1 2 ，代入式( 3 - 2 4 ) , 可得 砼k 1 ( * 煽) ) 烙背r异、种入骨f ，冀一1r 、可徂 ( 3 2 5 ) 只己。r 未。最钉一砭r 了目 ( 3 2 6 ) 式( 3 2 6 ) 表明，当增加一个权，其减小的量是有限的，所能减少的亏曲最 多为( 3 2 6 ) 右边式子的值，具体分析此式可看出，增加滤波器阶数时，善石1 q 显然增大，j - o 勺啄也增大，增大的值与咏密切相关；越大，增加滤波器阶显然增大，也增大，增大的值与堆密切相关；堆越大，增加滤波器阶 数后所能减少的缸越大，比较小时，增加阶数后所能减少的缸相对就要 小些。而根据式( 3 2 ) ，阶数增加一个时，。凇显然要增加。增加滤波器阶数 所引起的稳态均方误差的改变由缸及。袱两部分的改变所决走。所以，对于 具体的输入信号，有一个最佳( 或准最佳) 的滤波器阶数，使稳态均方误差最 小，再增加阶数，稳态均方误差有变大的可能，且输入信号的相关系数。雎越小， 这种可能就越大。 为了验证理论推导的结论，做如下计算机仿真试验：分别在自适应噪声对消 器的输入端，以一个正弦信号和一个直流信号作为输入信号，噪声采用高斯白噪 声，其中正弦信号是弱相关信号，直流信号是强相关信号。所得稳态均方误差的 结果是，以正弦信号和白噪声作为输入，其相关系数小于以直流信号和白噪声作 为输入的相关系数：增加滤波器阶数后，缸减少的小些，稳态均方误差大些， 适合于这两个输入信号的最佳滤波器阶数也不同。 表3 - 2 稳态均方误差与滤波器阶数的关系 滤波器阶数 正弦信号稳态彘扭直流信号稳态彘i 。 4 o 2 1 3 60 1 4 8 8 8 o 2 1 3 40 1 4 3 2 1 60 2