（信号与信息处理专业论文）利用相关矩阵特殊结构的临界采样子带自适应滤波.pdf

摘要 摘要 在许多应用中，基于梯度算法的子带自适应滤波已经显示了其在计算和性能上 的优点。然而，在实际应用中，随着子带数目增加而增加的收敛速率却最终受限 于不理想的滤波器组和有限字长效应。在诸多自适应算法中，直接矩阵求逆( d m i ) 算法具有优异的收敛性能。然而，矩阵求逆巨大的计算复杂度限制了该算法的广 泛应用。基于最近提出的个采用临界采样滤波器组的子带自适应结构，该文引 入了子带直接矩阵求逆( d m i ) 算法。在保持了该算法快速收敛优点的同时，利 用相关矩阵块三对角的特殊结构，降低了该算法的计算复杂度。理论分析及计算 机实验显示，子带直接矩阵求逆算法只需经过较少的更新次数自适应子滤波 器自由度的两倍，就能够收敛到高于最小均方误差的3 d b 附近。 关键词：子带自适应滤波器块三对角直接矩阵求逆 a b s t r a e t a b s t r a c t 3 i nm a n ya p p l i c a t i o n s s u b b a n da d a p t i v ef i l t e rs t r u c t u r e sb a s e do nt h eg r a d i e n t a l g o r i t h m sh a v eb e e ns h o w nt ob es u p e r i o rc o m p u t a t i o n a l l ya n dp e r f o r m a n c e w i s e h o w e v e r , i np r a c t i c e ，t h ec o n v e r g e n c ei m p r o v e m e n tg a i n e db yi n c r e a s i n gt h en u m b e ro f s u b b a n d si su l t i m a t e l yl i m i t e db yn o n i d e a lf i l t e rb a n k sa n df i n i t e w o r d - l e n g t he f f e c t s i n m a n ya d a p t i v ea l g o r i t h m s ，d i r e c tm a t r i xi n v e r s i o n ( d m i ) a l g o r i t h mp r o v i d e sw i m e x c e l l e n tc o n v e r g e n c ep e r f o r m a n c e ，w h e r e a st h eh l g ec o m p u t a t i o n a lc o m p l e x i t yo f m a t r i xi n v e r s ei su n a c c e p t a b l ei np r a c t i c e t h i sp a p e rp r e s e n t sas u b b a n dd i r e c tm a t r i x i n v e r s i o na l g o r i t h ms u i t a b l ef o ru s ew i t h i na r e c e n t l yp r o p o s e da d a p t i v ef i l t e rs t r u c t u r e e m p l o y i n gc r i t i c a l l ys a m p l e df i l t e rb a n k s t h i sn e wm e t h o dr e d u c e st h ec o m p u t a t i o n a l c o m p l e x i t yb yu s i n gt h eb l o c kt r i d i a g o n a ls t r u c t u r eo ft h ei n p u t 鼢m p l ec o r r e l a t i o n m a t r i x ，a n da tt h es a m et i m ek e e p st h ep r o p e r t yo ff a s tc o n v e r g e n c e e x p e r i m e n t a l r e s u l t ss h o wt h a tt h eo u t p u tr e s i d u ep o w e ro ft h es u b b a n dd m i a l g o r i t h mi sa r o u n d3 d b u p o nt h eo p t i m u mv a l u ea f t e ro n l y2 ku p d a t i n go ft h ea d a p t i v es u b f i l t e r s ，w h e r ek i s t h ed i m e n s i o no f t h ea d a p t i v es u b f i l t e r s k e y w o r d ：s u b b a n da d a p t i v ef i l t e r sb l o c kt r i d i a g o n a ld i r e c tm a t r i xi n v e r s i o n 西安电子科技大学 创新性声明 秉承学校严谨的学风和优良的科学道德，本人声明所呈交的论文是我个人在 导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标 注和致谢中所罗列的内容以外，论文中不包含其他人已经发表或撰写过的研究成 果；电不包含为获得西安电子科技大学或其它教育机构的学位或证书而使用过的 材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中做了明确的说 明并表示了谢意。 申请学位沦文与资料若有不实之处，本人承担一切的法律责任。 本人签名 同期址江 西安电子科技大学 关于论文使用授权的说明 本人完全了解西安电子科技大学有关保留和使用学位论文的规定，即：研究生 在校攻读学位期间论文工作的知识产权单位属西安电子科技大学。学校有权保留 送交论文的复印件，允许查阅和借阅论文；学校可以公布论文的全部或部分内容， 可以允许采用影印、缩印或其它复制手段保存论文。同时本人保证，毕业后结合 学位论文研究课题再撰写的文章一律署名单位为西安电子科技大学。( 保密的论文 在解密后遵守此规定) 本人签名 导帅签名 丝蓝选 牵沮 日期 开期 p 罚ji 第一章绪论 第一章绪论 1 1 研究的背景和意义 早在2 0 世纪4 0 年代，人们针对平稳随机信号建立了维纳滤波理论。根据信号 和干扰噪声的统计特性( 自相关函数或功率谱) ，以最小均方准则所设计的最佳滤 波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。 但是当输入信号的统计特性发生变化，那么根据原有设计条件设计的维纳滤波器 就不再是最佳的了，这在实际应用中受到了限制。到6 0 年代初，出现了卡尔曼滤 波理论，即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。卡 尔曼滤波器已成功应用到许多领域，它既可以对平稳的和非平稳的随机信号作线 性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特 例。 在设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方 程，即要求对信号和噪声的统计特性有先验知识。但在实际中，如同维纳滤波中 面临的问题一样，往往难以预知这些统计特性，因此难以实现真正的最佳滤波。 w i d r o wb 等于1 9 6 7 年提出的自适应滤波理论，可使自适应滤波系统的参数自 动地调整到最佳状态，而在设计时，只需要很少的或根本不需要任何关于信号与 噪声的先验统计知识。这种滤波器的实现差不多像维纳滤波器那样简单，而滤波 性能几乎如卡尔曼滤波器一样好。因此，近十年来，自适应滤波理论和方法得到 了迅速发展。 图1 1 描述的是一个通用的自适应滤波估计问题，图中离散时间线性系统表示 一个可编程滤波器，它的冲激响应为| i 仞) ，或称为滤波参数；自适应滤波器输出 信号为y ( n ) ，所期望的响应信号为d ( n ) ，误差信号e ( n ) 为d ( n ) 与y ( n ) 之差。这 里期望响应信号d ( ) 是根据不同用途来选择的，自适应滤波器输出信号y ( 胛) 是对 期望响应信号d ( ，1 ) 进行估计的，滤波参数受误差信号p ( 胛) 的控制并自动调整，使 y ( 栉) 的估计值y ( 行) 等于所期望的响应d ( n ) 。因此，自适应滤波器与普通滤波器不 同，它的冲激响应或滤波参数是随外部环境的变化而改变的，经过一段自动调节 的收敛时i 日j 达到最佳滤波的要求。但是，自适应滤波器本身有一个重要的自适应 算法，这个算法可以根据输入、输出及原参量值，按照一定准则修改滤波参量， 以使它本身能有效地跟踪外部环境的变化。通常，自适应滤波器是线性的，因而 也是一种线性时变滤波器。 !利_ 【f j 相芙矩阵特殊结构的临界采样子带自适麻滤波 d ( ) 豳i 1 自适应滤波原理框图 在图1 1 中，离散时间线性系统可以分为两类基本结构，具有有限记忆的非递 归型的自适应f i r 结构和具有无限记忆的递归型的自适应i i r 结构。 应用最广泛的自适应f i r 结构是利用抽头延迟线做成的横向滤波器，如图l - 2 所示，它利用正规直接形式实现全零点传输函数，而不采用反馈环节，通称为自 适应横向滤波器或自适应f i r 滤波器，其抽头加权系数集正好等于它的冲激响应。 由于不采用反馈环节，自适应f i r 横向滤波器是稳定的。在输入平稳随机信号时， 所期望的响应信号与横向滤波器输出信号之间的差值的均方值是滤波参数或权向 量的二次方函数，因此，自适应滤波器均方误差与权向量的关系是一个凹形的超 抛物体的曲面，它具有唯一的极小点，这是自适应f i r 横向滤波器的另一个优点。 本文将基于这种自适应横向f i r 滤波器展开有关子带自适应滤波的讨论。 图1 2 自适应横向滤波器框图 自适应滤波具有很强的自学习、自跟踪能力和算法的简单易实现性，它在带噪 信号的检测增强，噪声干扰抵消，波形编码的线性预测，雷达声纳系统的阵列处 理和波束形成，通信系统的自适应均衡，图像自适应压缩编码，图像的自适应增 强复原，图像识别的自适应分割，以及未知系统的自适应参数辨识等方面得到了 广泛的应用。 在自适应滤波的诸多应用中，以脉冲响应为模型的线性系统的自适应辨识已经 得到了广泛的研究。针对该问题，人们已经提出了一系列有效的自适应算法【l 】- l “。 自适应横向滤波算法在直接形式上得出了脉冲响应的一个估计，将系统的输入信 第一章绪论 号和估计的脉冲响应进行卷积可以得到模型的估计。由于具有稳定性及单峰性能 表面等优点，在实时辨识中人们往往采用有限冲激响应自适应滤波器以及梯度类 型的自适应算法( l m s ) ，在自适应均衡和自适应回波消除等通信系统的应用中， 该类方法具有良好的性能表现。图1 3 是一个传统的系统辨识的原理框图。 图1 3 自适应系统辨识原理图 然而，在诸如回声相消等新应用中，一些问题限制了此类“经典”方法的有效 性。回声通道脉冲响应的长度( 往往数百毫秒) 导致了自适应滤波器的巨大抽头 数( 数千个) ，从而导致了高的计算复杂度。另一个困难来自于语音信号本身，其 不平坦的谱导致其不适于作辨识。在使用l m s 算法1 6 j ，1 7 】的情况下，输入信号自相 关矩阵的特征值的分散使自适应过程变慢。注意到回声通道是时变的，这就要求 在通信过程中自适应滤波器必须不断地调整。因此对于回声相消来说，跟踪能力 成了自适应辨识算法的一个重要指标。 这些问题的存在催生了一类新的方法：子带中的自适应滤波【8 1 - 2 2 1 ，希望能够实 现算法的计算复杂度的降低和收敛速率的提高。通过将输入信号分割到m 个频带 上，然后对每个子带信号下采样，再用长度更短的自适应子滤波器对下采样后的 子带信号进行滤波，相比较于传统的基于l m s 算法的全频带自适应滤波器，这些 子带结构能够有效地降低计算复杂度并提高自适应系统的收敛速度。随着子带数 日的增加，用于分割的频带变窄，这样对输入信号产生了去相关的效果。对输入 信号的去相关使得每个子带内信号的自相关矩阵的特征值离散度降低，从而使自 适应滤波器的收敛速率增加。尽管如此，在实际应用中，随着予带数目增加而增 加的收敛速率却最终受限于不理想的滤波器组和有限字长效应 2 3 1 。 另一种提高收敛速率的途径是采用更加复杂的自适应算法，例如递归最小平方 算法( r l s ) 、仿射投影算法( a p ) 或者直接矩阵求逆算法( d m i ) f 4 j ，1 2 4 】- 1 2 6 。然 而，相对于简单的l m s 算法，这些算法往往具有较高的计算复杂度：因此，一个 比较自然的想法就是将这些复杂的算法与子带自适应滤波器结合，希望在获得这 些算法收敛速率快的优点的同时，利用子带自适应滤波结构降低这些算法的计算 复杂度。本文将围绕这个主题展开工作。 !利用相关矩阵特殊结构的临界采样子带自适应滤波 1 2 本文的主要内容 在许多应用中，尤其在以回声相消为代表的，具有长脉冲响应的系统辨识问题 中，子带自适应滤波器结构已经显示了其在计算和性能上的优点。基于最近提出 的一个采用临界采样滤波器组的子带自适应结构嘲，本文引入了子带直接矩阵求 逆( d m i ) 算法。利用相关矩阵块三对角的特殊结构，在保持了该算法快速收敛优 点的同时，降低了该算法的计算复杂度。 本文的具体章节安排如下： 第二章：介绍了一些常用的自适应准则及自适应算法。 第三章：介绍了多速率滤波器组的基本知识，在此基础上详细介绍了本文所采 用的临界采样子带自适应结构。 第四章：将直接矩阵求逆算法( d m i ) 引入到临界采样子带自适应结构中，并 对子带中的直接矩阵求逆算法的收敛性能做出理论分析，同时给出子带直接矩阵 求逆算法的计算复杂度。通过计算机仿真实验，比较了子带直接矩阵求逆算法与 子带n l m s 算法以及全频带l m s 和n l m s 算法的收敛性能，同时也在仿真实验中证明了 对子带d m i 算法的收敛性能所做的理论分析。 结束语：总结了本文所做的工作以及存在的问题，并说明进一步研究的方向。 第二章自适应准则和自适应算法 第二章自适应准则和自适应算法 2 1 自适应准则 在自适应回声相消等系统辨识的应用中，主要工具是自适应滤波器，而自适应 滤波器的灵魂就是自适应算法。自适应算法按照某种自适应准则不断地修正自适 应滤波器的系数，使它们的输出越来越接近期望响应，从而最终达到消除回声或 者辨识未知系统的目的。 自适应准则是基于最佳滤波器的设计提出来的，典型的最佳滤波器是维纳滤波 器。自适应滤波器对于平稳信号收敛到维纳解。实际上，在平稳的环境下，自适 应滤波的过程就是从某一初始状态出发求最佳维纳解的过程。有多种用于估计和 自适应调节滤波器系数的自适应准则，下面将介绍两类最常用的自适应准则，均 方误差( m s e ) 准则和最小平方( l s ) 准则。 2 1 1 均方误差( m s e ) 准则 自适应滤波器对期望信号进行估计所产生的误差的均值称为均方误差，也就是 期望信号与实际滤波器输出信号的差值的平方的期望值。令d ( n ) 表示期望信号， y ( n ) 表示自适应滤波器的输出信号，w 表示自适应滤波器的权向量，x ( n ) 表示自 适应滤波器的输入信号向量，e 表示数学期望，那么均方误差表示的代价函数如 下h 】，1 2 5 】： y “s a w ) = e l f ( 疗) 1 2 i = e j d ( ，1 ) 一y ( 即) 1 2 ) = e l d ( 胛) 一w h x ( n ) 1 2 ( 2 1 ) = e ( 1 a ( n ) 1 2 + w “r w w “p p ”w 式( 2 - 1 ) 中，r = e x ( n ) x “0 ) 】，p = e a ( h ) x ( ，1 ) 】。由式( 2 1 ) 知，均方误差表 示的代价函数为权向量的二次函数，且j 。( w ) 为大于或等于零的实数。 自适应系统在最小均方误差准则下的最佳权向量w 。满足维纳一霍夫 ( w i c n c r - h o p f ) 方程【4 】，【2 习： w“=r“p(2-2) 这里要求相关矩阵r 必须是满秩的。从而得到最小均方误差为： 厶。= i ，盈( w o p | ) = e 日d ( 硝) 一p “w 唯 ( 2 - 3 ) 由式( 2 - 3 ) 知，在理想无噪的情况下，系统的最小均方误差输出可以趋于 !利用相关矩阵特殊结构的临界采样子带自适应滤波 零，即自适应滤波器的输出y ( n ) 将和期望响应d ( 甩) 相同。而当期望信号中叠加 了与输入x ( n ) 及期望d ( n ) 统计独立的噪声n ( n ) 时，系统的最小均方误差输出为 【2 5 】： 屯。= e l g ( n ) 1 2 ) = 蠢( 2 - 4 ) 2 1 2 最小平方( l s ) 准则 白适应横向滤波器有两路输入，一路为输入信号 x ( m ，含有样本 x o ) ，石( 2 ) ，x ( ) ；另一个为期望信号序列 d ( o ，含有样本 d ( 1 ) ，d ( 2 ) ，d ( ) 。 自适应滤波器权向量w 表示为 ，w 2 ，w l 一，) ，其中为自适应滤波器长度，这里 l n 。记自适应滤波器输出为j ，( f ) ，最小平方准则的代价函数可以表示为【4 j ，【2 7 】： j l d w ) = ) 1 2 = 艺i d ( o - y ( i ) 1 2 管i- ”1 1 1 2 ( 2 - 5 ) = ) 一以x ( f 一后) i 利用“正交性原则”【4 】或者把式( 2 5 ) 的代价函数对权系数求微分【2 7 1 ，可以 得到最小平方准则下的自适应滤波器权向量的表达式m 【2 7 ： ；( ，z ) = m 一( 胛) z ( ) ( 2 6 ) 式( 2 6 ) 中，m ( 一) 为输入信号的确定性相关函数l x l 维矩阵，z ( n ) 为期望响应 与输入信号之间的确定性互相关函数l x l 维矢量，即： m ( ”) = 矿( 甩；o ，0 )矿( 竹；o ，1 ) 妒( 疗；0 ，l - 1 ) 矿( h ；1 ，0 ) 妒( 珂；l ，1 ) 妒( 行；1 ，上1 ) ；i； q s ( n ；l - 1 ，0 ) 妒( n ；l 1 ，1 ) 妒( n ；1 ，l 一1 ) z ( 珂) = 【z ( ，l ；0 ) z ( 力；1 ) z ( n ；l 一1 ) 】 ( 2 7 ) 式( 2 7 ) 中的自相关函数和互相关函数如下式所示： 妒( 厅；k ，i t i ) = x ( i k ) x ( i m ) ； ( 2 8 ) z ( 厅；k ) = d ( i ) x ( i k ) ； k , m = o ，1 ，工一1 百 由以上各式可以看出，最小平方准则不需要计算信号的统计特性( 期望、相关 函数等) ，而是直接对给定数据进行处理。同时，当输入信号数据的长度趋于无 穷大时，且输入信号与期望响应序列是平稳的随机过程，那么最小平方估计趋近 于最佳维纳解【2 7 1 ，即： 第二章自适应准则和自适应算法 憋；( n ) _ l i m 玎。一1 ( 咖( 珂) h ( 2 9 ) 2 w 叩l 7 若误差信号e ( i ) = j ( f ) 一y ( i ) 对所有的i 是零均值随机过程，那么滤波器系数向量的 最小平方估计是无偏的【2 7 1 。 2 2 性能表面搜索 自适应滤波的过程就是按照自适应算法不断调整滤波器的系数使其输出更加 接近期望信号。对常用的线性f i r 来说，自适应算法调整滤波器系数的过程是按 照均方误差( m s e ) 的原则进行的。从几何上看，在输入信号和期望信号都是平 稳随机信号的情况，均方误差是权系数的二次函数。但在许多实际应用中，性能 曲面的参数甚至解析表达式都是未知的，因此只能根据已知测量数据，采用某种 算法自动地对性能曲面进行搜索，寻找最低点从而获得最佳权向量。由此发展出 了一系列能搜索性能表面并寻找最佳权向量的方法和算法【2 5 l 。下面将讨论两种熟 知的性能表面搜索方法，最陡下降法和牛顿法。 2 2 1 最陡下降法搜索 因为该搜索方法的简单性，并且比其他算法要求更少的计算量，最陡下降法是 一种常用的自适应梯度搜索方法。该算法的一般形式如下： w ( 刀+ 1 ) = w ( ，1 ) + 去【一1 9 j j 衄( 厅) 】= w ( 订) 一寺腭( 以) ( 2 一l o ) 式( 2 1 0 ) 中，w ( n ) 是当前滤波器的系数矢量，是控制搜索的步长，曲面上各 时刻点梯度不同，因此梯度加有下标疗。v 以。( 帕或g ( n ) 代表均方误差性能曲面的 梯度，定义为： 咖)=掣螋=【器，帮，一odu小se(功n)10w o w 7 ( 2 d p l 厅 ( 7 ，“l j ，q i 、二l - 7 = - 2 p 4 2 r w ( n ) 2 1 2 牛顿梯度法搜索 牛顿法梯度搜索利用一阶和二阶梯度来决定最佳滤波器系数，表达式如下： w ( n + 1 ) = w ( 以) 一i z r 。g ( n ) ( 2 - 1 2 ) 其中r 表示输入信号的自相关矩阵，是代价函数以。( 玎) 关于w ( 厅) 的- - 阶r 梯度， !利用相关矩阵特殊结构的临界采样子带自适应滤波 和g ( h ) 的定义与最陡下降法相同。假设真实梯度和相关矩阵r 是可以得到的， 将式( 2 - 1 i ) 代入式( 2 1 2 ) ，牛顿梯度法可以重新表示如下： w 0 + 1 ) = w ( 聆) 一r 一( - 2 p + 2 r w ( n ) ) = ( i - 2 u 1 ) w ( n ) + 2 t w o d l ( 2 1 3 ) 可以看出，如果= 三，那么该方法可以通过一步更新达到最佳维纳解。 通常而言，基于牛顿法梯度搜索的算法能够实现快速收敛。然而对r 。的估 计需要很大的计算量，而且如果不是特别注意，就会导致数值不稳定问题。由 于这些因素的存在，相比较而言，基于最陡下降法的算法在自适应滤波中应用 得更加广泛。 2 1 3 梯度估值对自适应过程的影响 最陡下降法和牛顿法梯度搜索的基本思想是基于性能表面的梯度。而以上讨论 中，我们假定了自适应过程中每次迭代所必需的梯度向量可精确得到。然而，在 大多数应用场合，这个精确值难以获取，而通常需要从有限个统计样本中进行估 计，且这样的估值是“带噪”的。“带噪”的梯度估值自适应过程将导致在权向量 解中的噪声，从而给自适应过程带来损失。人们通过超量均方误差和失调来度量 “带噪”的梯度估值给自适应过程所带来的损失。 如果在自适应过程中无噪声，则最速下降法、牛顿法以及其他自适应方法都将 使权向量收敛于均方误差性能表面的最小点，达到稳定时系统的均方误差输出将 精确等于厶一然而，自适应过程中的权值噪声将引起稳态权向量解围绕最佳点随 机地变化，即系统输出均方误差在二次性能曲面的“碗底”附近“徘徊”，结果就 产生了“超量”均方误差，于是会使稳态均方误差输出值大于以m ，如图2 1 所示。 n 图2 1 超量均方误差示意图 第二章自适应准则和自适应算法 9 在2 1 节中定义了均方误差输出为权向量固定在某一点w 时误差模值平方的期 望值。若权向量不固定，则在第，z 次迭代时瞬时均方误差可定义为w = w ( 甩) 时误差 模平方的期望值。考虑到权向量是带噪的，须对瞬时均方误差以。( 珂) 在r l 值任意 大时定义一个平均量。超量均方误差的定义如下： e x c m s e = 研。i m ( ，哆一，删。】= e v 8 ( 挥) r v ( 功】 ( 2 1 4 ) 上式中v ( 打) 是第f 次迭代时的权偏差向量，定义如下： v ( n ) = w ( 疗) 一w 。 ( 2 1 5 ) 在上述超量均方误差的定义中，期望运算应对每个拧都进行。显然，上述定义仅 当v ( 尼) 对撑来讲是平稳过程，即当噪声、输入信号向量及期望响应都是统计平 稳时才能应用。因此，仅当自适应瞬态结束，系统处于稳态时上述定义才可应 用。 图2 1 表示了上述超量均方误差定义的具体物理意义。围绕最佳权向量的随 机变化引起相应均方误差值的增加，这个增加的平均值就是超量均方误差。超 量均方误差提供了实际值与最佳性能的时间平均上差别的量度。还存在另一个 十分有用的归一化量度这种差别的物理量，称为“失调”，失调毒可表示为： f ：e x c m s e( 芝1 6 ) ，m 失调是超量均方误差和最小均方误差的相对比值，为一个无量纲的量。换言之， 它是自适应能力所付代价( t h ec o s t o f a d a p t a b i l i t y ) 的归一化量度。 2 3 基本自适应算法 最陡下降法每次迭代都需要性能曲面上某点的梯度值，而实际梯度值只能根据 观测数据进行估计。l m s 算法是一种有效而且简单的估计梯度的方法。它的突出 优点是计算量小、易于实现且不要求离线计算。 2 3 1l m s 算法及n l m s 算法 1l m s 算法 l m s 算法的核心思想是用平方误差代替均方误差。这样， 义的梯度近似表示表示为： 吒( 加掣 鲫 原来由式( 2 1 1 ) 定 ( 2 1 7 ) 旦利用相关矩阵特殊结构的临界采样子带自适戍滤波 求偏导数得： 豆k ( 炉杀【) 1 2 + w i 1 x ( 疗) x h ( 咖_ w x d 锄) x ( 矿x “( 州( 棚】( 2 郴)c ，wl z 1 6j = - 2 x ( n ) e ) 实际上，v 以。( 肝) 只是单个平方误差值的梯度，而v 以船( 疗) 则是多个平方误差 序列统计平均的梯度，所以l m s 算法将前者作为后者的近似。将式( 2 1 8 ) 代入 式( 2 1 0 ) 得： w ( n + 1 ) = w ( n ) + n ) e ( 咒) ( 2 1 9 ) 称上式为l m s 算法。为了保证l m s 算法的收敛性，自适应步长须满足如下条 件【2 5 】： 0 g 士 ( 2 2 0 ) 4 n 瓤 以。为输入相关矩阵r 的最大特征值。l m s 算法实际上是在每次迭代中使用梯度 估计值v 以。( ) 来代替梯度精确值v 以。( 甩) 。可以证明，前者是后者的无偏估计 【25 1 。 人们已经对l m s 算法的收敛性和稳定性进行了广泛的讨论口外1 【3 2 1 ，结论是l m s 算法实现简单、稳定性好，缺点是收敛速度慢。 2n l m s 算法 为了避免由于l m s 算法的输入信号过大带来的梯度噪声放大问题【4 1 ，将l m s 算 法中滤波器系数更新方程中l x ( n ) e + ( ，2 ) 项对输入信号功率的当前能量匕( n ) 进行归 一化处理，得到了另一有名的n l m s 算法。n l m s 算法是归一化的l m s 算法，具有 比l m s 算法更好的稳定性和更快的收敛速度。下面是n l m s 算法的一种比较直接的 解释【”1 。 在一般性的l m s 迭代过程中，有： w ( 甩+ 1 ) = w ( 疗) + ( 盯) x ( 押) e ( 疗) ( 2 - 2 1 ) 其中步长a ( n ) 为时变的。其后验误差( p o s t e r i o re r r o r ) 表示如下： 矿( 以) = d ( n ) - w “+ 1 ) x ( 功 ( 2 2 2 ) 将( 2 2 1 ) 代入( 2 2 2 ) ，整理得到： p + ( 栉) = ( 1 - 2 z ( n ) x 8 ( 以) x ( 珂) ) p ( ”) ( 2 2 3 ) 欲使得p ( n ) r 最小，则有： 1 从功2 西南丽( 2 - 2 4 ) 这样就使得e + ( 厅) 为0 ，这也相当于使得w ”+ 1 ) x ( 力= d ( 胛) 。这就是归一化步长的 第二章自适廊准则和自适应算法 由来。 在实际应用中，令式( 2 - 2 1 ) 中的步长为： 砌) 2 万 ( 2 - 2 5 ) 式中艿为一个取值较小的正数，当信号功率足( 月) 过小时，万的存在可以避免出现 很大的步长，它对算法的稳定起到保护作用。五为自适应常数，是一个固定的收 敛因子，其存在是为了控制失调，这是因为所有导数都是基于平方误差的瞬时值 而不是m s e 得到的。五的取值范围如下刚： 0 五 m ，则由于混叠现象，会有信息的丢 失，将不能恢复原始信号。在上m 时，通过正确地设计分析滤波器组并结合综合 滤波器f ( z ) ( 其中扛0 ，l ，膨一1 ) ，可以得到包含在输入信号内的全部信息。如 果子带内没有信号处理任务( 见图3 4 ) ，则滤波器组的输出y ( 以) 可以表示成输入 信号x ( 胛) 的延迟形式，延迟的产生是由于子带滤波器的因果性。在这样的情况下， 可以得到一个完全重构的滤波器组。在实际中，有几种设计分析滤波器哆( z ) 和综 合滤波器f ( z ) 的方法，能够对信号进行良好的重构或任意的近似。这些滤波器可 以是具有重叠频率响应的f i r 滤波器，用于消除混叠的影响，从而实现完全重构。 在l 五，同时盂，是随机信号的自相关估计，那么相关矩阵是主对角占 优的，当采样点数足够多时。相关矩阵的逆存在。 4 2 子带直接矩阵求逆算法的实现 将子带d m i 算法等价写为下式： a o b d b oa ib i b la 2b 2 b m 一2a m l g o 舀 9 2 ： g u l ( 4 1 9 ) 将式中的每个分块矩阵和向量具看作一个“元素”，由于具有块三对角的特殊形式， 利用“追赶法” 4 h 的形式解( 4 1 9 ) 式可实现直接矩阵求逆算法。首先对相关矩 阵的估计进行c r o u t 形式的分解： u 0 0 = a o u f 川2 1 划，乇( 4 - 2 0 ) l v - l = b l - l u 三- l ，f = l ，m l u v = a 一l v l u ，u ，f = l ， ，一l 得： 令： i l l m i l 2 ，1 i l 村一i _ | l ，2 l u q o u n l u 1 1u 1 j u 2 j u 2 j u 一l 一l p o p l p 2 ： p ，一1 ( 4 2 1 ) n如；队 第四章利用直接矩阵求逆算法的子带自适应滤波 塑 则 z o z z 2 ： z 一l u q ou o ，l u i 1u 1 j u 2 。u 2 j u ，一l 一 i | fz 0 k 1 0z l 2 ，。il lz ： ， ” l m i 一2 ii l z 盯一l g o g l 9 2 ： g 村一1 p o p t p 2 ： p m 一1 ( 4 2 2 ) ( 4 2 3 ) 解上式得： zo-p。(4-24) 互= n l “互- 】，i = l ，m 一1 再根据z ，求g ，： ! ”一2u ：一- 。，一- z “- 1 ( 4 2 5 ) g ，= u “- 1 ( z f u + l g 川) ，f = m 一2 ，l ，0 到此，实现了( 4 1 7 ) 式的直接矩阵求逆算法。以上的计算过程将大小为 m k x m k 的相关矩阵的求逆转化为对大小为足k 的实对称矩阵u 的求逆，使原 本d ( ，3 ) 的计算复杂度降为o ( 坼3 ) m 3 。由于存在矩阵u 。的求逆，所以最好在 求逆之前对其条件数进行判断，以免对病态矩阵求逆从而导致大的误差。 4 3 子带直接矩阵求逆算法收敛性能分析 由( 4 - 4 ) 式知，当各子带收敛时， 定。为了简化收敛性能的分析， 系统也收敛，系统的收敛性能由各子带决 令矗- 一。、；，= 去善x 。七) 吐( 七一) 以及 左，= 去善x 。( 女) x o ( 后) ，同时也忽略加在期望信号上的很小的噪声。下面首先对第f 带的收敛性能作分析。 e ( 聊) 是第坍次更新第i 带的均方误差，记曰。是第i 带能达到的最小均方误 差，将第i 带自适应子滤波器的失调定义为： 一 毒：c 2 ；亟蜂 ( 4 2 6 ) 。 。 其中，一是一个随机变量。 利j e | ：i 相关矩阵特殊结构的临界采样子带自适戍滤波 假设未知系统也是线性的，那么x r ) 和一( 研- ) 是零均值高斯分布的随机信 号x ( 疗) 通过线性系统再经下采样得到的, t ( 输r a 出，它们是联合高斯分布的，则它们组 成的向量x ：= x 毛z ( 历一)