自适应滤波算法的研究

1、自适应滤波算法的研究第1章绪论1.1课题背景伴随着移动通信事业的飞速发展，口适应滤波技术应用的范围也日益 扩大。早在20世纪40年代，就对平稳随机信号建立了维纳滤波理论。根 据有用信号和干扰噪声的统计特性（自相关函数或功率谱），用线性最小均 方误差估计准则设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大 程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离 设计条件，则它就不是最佳的了，这在实际应用中受到了限制。到60年 代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模 型对非平稳、多输入多输出随机序列作最优估计。现在，卡尔曼滤波器己 成功地应用到许多领域，它既可

2、对平稳的和非平稳的随机信号作线性最佳 滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特 例。在设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和 测量方程，即要求对信号和噪声的统计特性有先验知识，但在实际中，往 往难以预知这些统计特性，因此实现不了真正的最佳滤波。widrow b等于1967年提出的自适应滤波理论，可使自适应滤波系统 的参数口动地调整而达到最佳状况，而且在设计时，只需耍很少的或根本 不需要任何关于信号与噪声的先验统计知识。这种滤波器的实现差不多象维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波器一样好。因此，近 十几年来，自适应滤波理论和方法得到了迅速发展

3、。1口适应滤波是一种最佳滤波方法。它是在维纳滤波，kalman滤波等线 性滤波基础上发展起来的一种最佳滤波方法。由于它具有更强的适应性和 更优的滤波性能。从而在工程实际中，尤其在信息处理技术中得到广泛的 应用。自适应滤波的研究对象是具有不确定的系统或信息过程。“不确定” 是指所研究的处理信息过程及其环境的数学模型不是完全确定的。其中包 含一些未知因数和随机因数。1任何一个实际的信息过程都具有不同程度的不确定性，这些不确定性 有时表现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究 对象即信息动态过程的数学模型的结构和参数是我们事先不知道的。作为 外部环境对信息过程的影响，可以等效地用扰

4、动来表示，这些扰动通常是 不可测的，它们可能是确定的，也可能是随机的。此外一些测量噪音也是 以不同的途径影响信息过程。这些扰动和噪声的统计特性常常是未知的。 面对这些客观存在的各种不确定性，如何综合处理信息过程，并使某一些 指定的性能指标达到最优或近似最优，这就是自适应滤波所要解决的问题。1.2国内外目前的研究状况最早人们根据生物能以各种有效的方式适应生存环境从而使生命力 变强的特性引伸出口适应这个概念。口适应滤波器属于现代滤波器的范畴, 它是40年代发展起来的自适应信号处理领域的一个重要应用。60年代， 美国b.windrow和hoff首先提出了主要应用于随机信号处理的自适应滤波 器算法，从

5、而奠定自适应滤波器的发展。所谓口适应滤波器，即利用前一 时刻己获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适 应信号与噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应信号处理主耍是研究结构可变或可调整的系统，它可以通过自 身与外界环境的接触来改善自身对信号处理的性能。通常这类系统是时变 的非线性系统，可以自动适应信号传输的环境和要求，无须详细知道信号 的结构和实际知识，无须精确设计处理系统本身。自适应系统的非线性特 性主要是由系统对不同的信号环境实现自身参数的调整來确定的。自适应 系统的时变特性主耍是由其口适应响应或口适应学习过程来确定的，当自 适应过程结束和系统不再进行

6、时，有一类自适应系统可成为线性系统，并 称为线性自适应系统，因为这类系统便于设计且易于数学处理，所以实际 应用广泛。本文研究的自适应滤波器就是这类滤波器。自适应信号处理的 应用领域包括通信、雷达、声纳、地震学、导航系统、生物医学和工业控 制等。2自适应滤波器出现以后，发展很快。由于设计简单、性能最佳，自适 应滤波器是目前数字滤波器领域是活跃的分支，也是数字滤波器研究的热 点。主要自适应滤波器有：递推最小二乘(rls)滤波器、最小均方差(lms) 滤波器、格型滤波器、无限冲激响应(iir)滤波器。其屮lms滤波器和rls 滤波器具有稳定的自适应行为而且算法简单，收敛性能良好。将作为本文 研究的重

7、点。自适应滤波器是相对固定滤波器而言的，固定滤波器属于经典滤波器, 它滤波的频率是固定的，口适应滤波器滤波的频率则是口动适应输入信号 而变化的，所以其适用范围更广。在没有任何关于信号和噪声的先验知识 的条件下，自适应滤波器利用前一时刻已获得的滤波器参数來自动调节现 时刻的滤波器参数，以适应信号和噪声未知或随机变化的统计特性，从而 实现最优滤波。自适应滤波器是以最小均方误差为准则，由自适应算法通过调整滤波 器系数，以达到最优滤波的时变最佳滤波器。设计自适应滤波器时，可以 不必预先知道信号与噪声的自相关函数，在滤波过程中，即使噪声与信号 的口相关函数随时间缓慢变化，滤波器也能口动适应，口动调节到满

8、足均 方误差最小的要求。自适应滤波器主要由参数可调的数字滤波器和调整滤 波器系数的自适应算法两部分构成自适应滤波器的一般结构。实际上，自 适应滤波器是一种能够自动调整本身参数的特殊维纳滤波器，在设计时不 需要实现知道关于输入信号和噪声的统计特性的知识，它能够在自己的工 作过程中逐渐“了解”或估计出所需的统计特性，并以此为依据自动调整 自己的参数，以达到最佳滤波效果。一旦输入信号的统计特性发生变化， 它又能够跟踪这种变化，自动调整参数，使滤波器性能重新达到最佳。 第2章 自适应滤波的原理及应用2.1引言在对随机信号处理过程屮经常用到的是维纳滤波器和卡尔曼滤波器 两种滤波器。维纳(weiner)滤

9、波，它根据平稳随机信号的全部过去和当前 的观察数据来估计信号的当前值，在最小均方差的条件下得到系统的传递函数或3者冲击响应，它是一种最优线性滤波方法，参数是固定的，适用于平 稳随机信号。卡尔曼滤波，它是依据当前时刻数据的观测值和前一时刻对 该时刻的预测值进行递推数据处理的滤波算法。它口动调节本身的冲击响 应特性，或者说，自动的调节数字滤波器的系数，以适应信号变化的特性， 从而达到最优化滤波。它的参数是时变的，适用于非平稳随机信号。然而， 只有对信号噪声的统计特性先验己知的情况下，这两种滤波器才能获得最 优滤波。可是，在实际应用中，常常无法得到这些统计特性的先验知识; 或者，统计特性是随时间变化

10、的。因此，用维纳或卡尔曼滤波器实现不了 最优滤波。在这种情况下，自适应能够提供卓越的滤波性能。2.2自适应滤波器的基本原理所谓自适应滤波，就是利用前一时刻己获得的滤波器参数等结果，自 动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的 统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自 身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信 号的先验知识，计算量小，特别适用于实时处理。由于无法预先知道信号和噪声的特性或者它们是随时间变化的，仅仅 用fir和iir两种具有固定滤波系数的滤波器无法实现最优滤波。在这种情 况下，必须设计自适应滤波器，以跟踪信号和

11、噪声的变化。自适应滤波器是以最小均方误差为准则，由自适应算法通过调整滤波器系数，以达到最优滤波的时变最佳滤波器。设计自适应滤波器时，可以 不必预先知道信号与噪声的自相关函数，在滤波过程中，即使噪声与信号 的口相关函数随时间缓慢变化，滤波器也能口动适应，口动调节到满足均 方误差最小的要求。自适应滤波器主要由参数可调的数字滤波器和调整滤 波器系数的自适应算法两部分构成自适应滤波器。参数可调数字滤波器可 以是fir滤波器或iir数字滤波器，也可以是格形滤波器图2-1示出了自适应滤波器的一般结构。4图2j自适应滤波原理图图中，x(n)为输入信号，y(n)为输出信号，d(n)为参考信号或期望信号， e(

12、n)则是d(n)和y(n)的误差信号。口适应滤波器的滤波器系数受误差信号 e(n)控制，根据e(n)的值和自适应算法自动调整。一个自适应滤波器的完整规范是由如下三项所组成的：(1) 应用 在过去十年中，自适应技术在更多的应用场合(比如回波消除、 色散信道的均衡、系统辨识、信号增强、自适应波束形成、噪声消除级 控制领域等)取得了成功。研究自适应滤波器的各种应用本文会简单考虑一 些应用例子。(2) 自适应滤波器结构 自适应滤波器可以用许多不同结构来实现。结 构的选取会营销到处理的计算复杂度(即每次迭代的算数操作数目)，还会 对达到期望性能标准所需要的迭代次数产生影响。从根本上讲主要有两类 自适应数

13、字滤波器结构(这是根据其冲激响应的形式来划分的)，即有限长 冲击响应(fir)滤波器和无限长冲激响应(iir)滤波器。fir滤波器通常利用非 递归结构来实现，而iir滤波器则利用递归结构来实现。自适应fir滤波器 结构：应用最广泛的自适应fir滤波器结构是横向滤波器，也成为抽头延 迟线，它利用正规直接形式实现全零点传输函数，二不采用反馈环节。对 于这种结构，输出信号y(n)是滤波器洗漱的线性组合，它产生具有惟一最 优解的二次均方5误差函数。为了得到相对于横向滤波器结构来说更好的性能(这些性能 是用计算复杂度、收敛速度和有限字长特征等来描述的)自适应iir滤波器 结构：自适应iir滤波器采用得最

14、多的结构是标准直接形式结构，因为它 的实现和分析都很简单。然而，采用递归自适应滤波会存在一些内在的问 题(这些问题是由结构决定的，比如耍求对极点的稳定性进行监视)，而且 收敛速度很慢。为了克服这些问题，人们提出了不同的结构形式。(3) 算法 其中算法是为了使某个预先确定的准则达到最小化，而自适 应地调整滤波器系数的方法。算法是通过定义搜索方法(或者最小化算法)、 目标函数和无偿信号的特性來确定的。算法的选择据定了整个自适应过程 的几个重要因素，比如优解的存在性、有偏最优解和计算复杂度等。72.3白适应iir滤波器自适应滤波器出现以后，发展很快。由于设计简单、性能最佳，自适 应滤波器是目前数字滤

15、波器领域是活跃的分支，也是数字滤波器研究的热 点。主要自适应滤波器有：递推最小二乘(rls)滤波器、最小均方差(lms) 滤波器、格型滤波器、无限冲激响应(iir)滤波器。其屮rls滤波器具有稳 定的自适应行为而但算法简单，收敛性能良好。实际情况中，由于信号和噪声的统计特性常常未知或无法获知，这就 为自适应滤波器提供广阔的应用空间、系统辨识、噪声对消、自适应谱线 增强、通信信道的口适应均衡、线性预测、自适应天线阵列等是自适应滤 波器的主要应用领域。自适应有限冲激响应(fir)滤波器由于其收敛性和稳定性十分简单，现 已有相当完善的口适应算法，在信号处理领域，获得了广泛应用。但由于 它是非递归结构

16、，冲激响应为有限长，当用于较高精度兀配的实际物理系 统时，所需阶次可能相当大，因而导致结构复杂，运算量大。自适应iir 滤波器是一个具有无限冲激响应的递归滤波器，它的一个最重要的优点是, 与相同系数个数的自适应fir滤波器相比有更好的性能，这是因为输岀的 反馈使有限数量的系数产生了无限冲激响应，使得零点与极点模型滤波器 的输出比起仅有零点的滤波器的输出能更有效地逼近期望响应信号。例如, 一个有足够高6阶数的自适应iir滤波器可以精确地逼近一未知的零点与极点系数阔， 而一个自适应fir滤波器只能近似逼近这一系统。反之，要达到相同性能， hr滤波器所需要的系数个数一般比fir滤波器少得多，正是由于

17、这一潜在 的计算量的优势，近十年来，自适应iir滤波器的研究一直非常活跃，出 现了一批比较成熟的算法。可以预测，在许多应用中，自适应iir滤波器 将取代止被广泛使用的自适应fir滤波器。8应该指出的是，与口适应fir滤波器相比，口适应iir滤波器在减少计 算量的同时也付出了一定的代价。由于反馈的存在，算法的收敛时间加大， 其收敛性和稳定性分析都十分复杂，这是需要注意继续研究的问题。目前, 在相同滤波性能条件下，自适应iir滤波器的收敛性己可优于自适应fir滤 波器。根据误差的不同表示，自适应iir滤波器又可分为两种形式：方程误 (equation-error)形式和输岀误差(output-er

18、ror)形式。在很大程度上方程误差口适应iir滤波器在很像一个口适应fir滤波器, 他们之间的主要区别在与方程误差自适应iir滤波器就是一个零点一极点 模型，而自适应fir滤波器是一个严格全零点模型。而输出误差形式的自 适应iir滤波器的算法比方程误差iir滤波器的算法要复杂的多。输出误差 方法中的滤波器输岀仅由观测输入来产生期望响应。2.4 口适应滤波器的应用近十几年来，自适应滤波理论和方法得到了迅速的发展，究其原因是 因为自适应滤波器相比于其他一般的滤波器在滤波性能、设计实现的难易 程度、对外部环境的复杂程度的适应能力和对系统先验统计知识的依赖程 度等方面都显现出强大的优势。自适应滤波器具

19、冇很强的自学习、自跟踪 能力和算法的简单易实现性，它在噪化信号的检测增强，噪声干扰的抵消， 通信系统的自适应均衡，图象的白适应增强复原以及未知系统的白适应参 数辩识等方面都有广泛的应用。在本节中，我们将讨论输入信号和期槊信 号的一些可能选择，并讨论这些选择是如何与应用联系在一起的。72.4.1信号增强器自适应滤波器的一个简单应用就是信号增强器，它被用来检测或增强 淹没在宽度噪声中的窄带随机信号。对于信号增强的情况，信号x(k)受噪声nl(k)的污染，而且与噪声相关的信号n2(k)是可以得到的(即可测量的)。 如果n2(k)作为口适应滤波器的输入，而将受到噪声污染的信号作为期望信 号，则当滤波收

20、敛以后，英输出误差就是信号的增强形式。图22说明了 一种信号增强的典型配置。9图22信号增强。其中nl(k)和n2(k)是彼此相关的噪声函数2.4.2系统辨识器在系统辨识应用中，期槊信号是未知系统受某个宽带信号激励时产生 的输出，在大多数情况下，输入是白噪声信号。宽带信号同时也被用来作 为图23所示的自适应滤波器的输入。当输出mse达到最小时，自适应滤 波器就代表了未知系统的模型。2.4.3信道均衡器信道均衡器的作用是在信道通带内形成一个信道传输函数的逆，而在 通带之外它的增益则很小或者为零。因而，由信道和均衡器级联组成的系 统在通带内有基本均匀的振幅特性，而带外基本为零，相位响应在带内是 频

21、率的线性函数。如果条件满足，联合的冲激响应就是辛格函数，故符号 间干扰可被消除。自适应调整也解决了信道木身未知、时变的特性所带来 的困难。在信道均衡应用中，将发送的受信道失真影响的原始信号作为自适应 滤波器的输入信号，而期望信号是原始信号的时延形式，如图24所示。通常情况下，输入信号的时延形式在接收端是可以得到的，采用形式是标 准的训练信号。当mse达到最小时，就表明自适应滤波器代表了信道的逆 模型（均衡器）。图2-3系统辨识器图2-4信道均衡器2.4.4信号预测器最后，对于预测情形，期槊信号是自适应滤波器输入信号的前向（有时 可能是后向）形式，如图25所示。当滤波器收敛以后，自适应滤波器就代

22、 表了输入信号的模型，而口可以用来作为输入信号的预测器模型。9图2-5信号预测器第3章lms自适应滤波算法分析3.1引言lms算法是1960年由widrow和hoff提出的最小均方误差（lms）算法，lms算法是基于估计梯度的最速下降算法的，由于采用粗糙的梯度估计值 得到的，从而其算法性能欠佳，应用范围受限，但是因为其具有计算量小、 易于实现等优点而在实践中被广泛采用。典型的应用领域有系统识别、信 号处理和自适应控制。lms算法的基本原理是基于最速下降法，即沿着权 值的梯度估值的负方向进行搜索，达到权值最优，实现均方误差最小意义 下的口适应滤波。初始收敛速度、时变系统跟踪能力及稳态失调是衡量口

23、 适应滤波算法优劣的三个重要的技术指标。由于主输入端不可避免地存在 干扰噪声，自适应滤波算法将产生参数失调噪声。干扰噪声越大，则引起 的失调噪声就越大。减小步长因子产可降低自适应滤波算法的稳态失调, 提高算法的收敛精度。253.2最小均方差(lms)算法lms算法的判据是最小均方误差，即理想信号d(n)与滤波器输出y(n)z差e(n)的平方值的期望值最小，并且根据这个判据来修改权系数wi(n) 由此产生的算法称为最小均方算法(lms)。绝大多数对自适应滤波器的研究 是基于由widrow提出的lms算法。这是因为lms算法的设计和实现都比 较10简单，在很多应用场合都非常适用。16令n阶fir滤

24、波器的抽头系数为wi(n),滤波器的输入和输出分别为x(n) 和y(n),则fir横向滤波器方程可表示为：y(n)?wi(n)x(n?i)i?ln(3-l)令d(n)代表“所期望的响应”，并定义误差信号：e(n)?d(n)?y(n)?d(n)?wi(n)x(n?i)(3-2)i?ln采用向量形式表示权系数及输入w和x(n),可以将误差信号e(n)写作e(n)?d(n)?wtx(n)?d(n)?xt(n)w(3-3)误差的平方为：e2(n)?d2(n)?2d(n)xt(n)w?wtx(n)xt(n)w(3-4)上式两边取数学期槊后，得均方误差：ee2(n)?ed2(n)?2ed(n)xt(n)w

25、?wtex(n)xt(n)w (3-5)定义互相关 函数向量：trxd?ed(n)xt(n)?(3-6)和自相关函数矩阵：rxx?ex(n)xt(n)(3-7)所以均方误差可表述为：tee2(n)?ed2(n)?2rxdw?wtrxxw(3-8)这表明均方误差是权系数向量w的二次函数，它是一个凹的抛物形曲 面，是具有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿 抛物形曲面下降找最小值。可以用梯度法来求该最小值。将式(38)对权系数w求导数，得到均方误差函数的梯度：?ee2(n)?ee2(n)?2?(n)?ee(n)?z.z?2rxd?2rxxw? wl? wn ?(3-9)?lwop

26、t?rxxrxd(310)t 令？(n)二0,即可以求出最佳权系数向量：将wopt代入式(38),得最小均方误差：11tee2(n)min?ed2(n)?rxdwopt(3-11)利用式(3-11)最佳权系数向量的精确解需要知道rxx和rxd的先验统 计知识，而且还需耍进行矩阵求逆等运算。widrow和hoff提出了一种在 这些先验统计知识未知时求wopt的近似值的方法，习惯上称之为 widrow-hoff lms算法。这种算法的根据是最优化方法中的最速下降法。根据这个最速下降法，“下一时刻”权系数向量w(n?l)应该等于“现时刻” 权系数向量w(n)加上一个负均方误差梯度?(n)的比例项，即

27、w(n?l)?w(n)?(n)(3-12)式中的?是一个控制收敛速度与稳定性的常数，称之为收敛因子。不难看出，lms算法有两个关键：梯度?(n)的计算以及收敛因子?的选 择。精确计算梯度?(n)是十分困难的。一种粗略的但是却十分有效的计 算?(n)的近似方法是：直接取e2(n)作为均方误差ee2(n)的估计值，即?2式中的?e(n)?为:?e(n)?2e(n)?e(n)?(3-13)?e(n)?d(n)?wt(n)x(n)?x(n)(3-14)将(414)代入式(413)中，得到梯度估值：?(n)?2e(n)x(n)(3-15)于是，widrow-hoff lms算法最终为：w(n?l)?w(

28、n)?2?e(n)x(n)(3-16) ?3.3最小均方差(lms)算法的性能分析lms算法的性能准则是采用瞬时平方误差性能函数|e(k)|2代替均方 误差性能函数e|e(k)|2,其实质是以当前输出误差、当前参考信号和当前 权系数求得下个时刻的权系数。其输岀信号y(k)、输出误差e(k)及权系数w(k)的计算公式为：2712y(k)?w(k)xt(k) e(k)?d(k)?y(k)(3-17) w(k?l)?w(n)?2?e(k)x(k)d(k)?x(k)?n(k)k为迭代次数，m为滤波器的阶数。d(k)表示第k时刻的输入信号矢量 式中，式中，x(k)表示参考信号的信号矢量：x(k)?n(k

29、),n(k?l)?n(k?m?l)(3-18)y(k)、e(k)分别表示第k时刻的输出信号与输出误差，w(k)表示k时刻 权系数矢量：w(k)?w(k?o),w(k,l)w(k,m?l)?(3-19)?表示lms算法步长收敛因子。自适应滤波器收敛的条件是：1(3-20) 0?max?的选収必须在收敛速其中?max是输入信号的自相关矩阵r的最大特 征值。度和失调之间取得较好的折中，既要具有较快的收敛速度，又要使稳态 误差最小。它控制了算法稳定性和自适应速度，如果?很小，算法的自适 应速度会很慢；如果?很大，算法会变得不稳定。由于lms算法结构简单、 计算量小、稳定性好，因此被广泛应用于系统辨识、

30、信号增强、自适应波 束形成、噪声消除以及控制领域等。在最小均方差(lms)算法中，步长因子?的取值对算法的性能有着非常 重要的影响，这些影响包括：算法的稳定性、算法的收敛速度、算法的扰 动和失调。以下我们针对?在这三方面的影响分别进行讨论。为减小失调， 需要设置较小的步长因子，这会使算法的收敛速度降低，这构成了一对矛 盾。因此在考虑算法的总体性能时，必须在这两个性能之间加以折中。从 收敛速度的角度考虑，步长因子?应该尽可能大，但较大的?取值却会加重 算法的失调。lms算法采用瞬时的采样值对梯度进行估计，由于噪声的影 响，总会是会伴随着估计的误差，这将对算法带来直接的影响。这些影响 主要表现为算

31、法的失调，而失调的严重程度，则和?的取值存在直接关系。 失调是指由于梯度估计偏差的存在，在算法收敛后，均方误差并不无穷趋 近于最小值，13而是呈现岀在最小值附近随机的波动特性，而权值亦不无穷趋近于最 优权值，而是在最优权值附近呈现随机的波动。关于lms算法的收敛速度，将讨论两点：第一，对一个特定的信号环 境，收敛速度和步长因子?有何关系。第二，信号环境本身的特性，对收 敛速度有何影响。从收敛速度的角度考虑，步长因子?应该尽可能大，再 看信号环境，即rxx的特性对算法收敛性能的影响如果当特征值的分布范 围较大，即最大特征值和最小特征值之比较大吋，公比的取值幅度也将比 较大，算法的总的收敛速度将会

32、变得比较慢。传统的lms算法确实结构简单、计算量小且稳定性好，因此被广泛地 应用于自适应控制、雷达、系统辨识及信号处理等领域。但是固定步长的 lms自适应算法在收敛速率、跟踪速率及权失调噪声之间的要求是相互矛 盾的，为了克服这一缺点，人们研究出了各种各样的变步长lms的改进算 法。尽管各种改进算法的原理不同，但变步长lms 口适应算法基本上遵循 如下调整原则：即在初始收敛阶段或未知系统参数发牛变化时，步长应比 较人，以便有较快的收敛速度或对时变系统的跟踪速度；而在算法收敛后,不管主输人端干扰信号有多大，都应保持很小的调整步长以达到很小的稳 态失调噪声。第4章rls自适应滤波算法分析4.1引言最

33、小二乘(ls, least-square)算法旨在期望信号与模型滤波器输出z差 的平方和达到最小。当每次迭代中接受到输入好的新采样值时，可以采用 递归形式求解最小二乘问题，得到递归最小二乘(rls, recursive least-square) 算法。rls算法能实现快速收敛，即使是在输入信号相关矩阵的特征值扩 展比较大的情况下。当工作与变换环境中时，这类算法具有极好的性能, 但其实现都以增加计算复杂度和稳定问题为代价。4.2递归最小二乘(rls)算法这一节主要介绍递归最小二乘法(rls)算法是一种快速收敛的算法，该 算法判决依据是直接处理接受数据，使其二次性能指数函数最小，而前面 所14述

34、的lms算法则是使平方误差的期望值最小。设计出的自适应滤波器，通过调节滤波器参数wi,使得基于过去的观 测样本而得到的观测信号s(n)在某种意义上最逼近原信号s(n)o此时，一 方面，恢复误差：?(n)?s(n)?wtx(n)(4-1)另一方面，可以将wtx(n)视作为x(n)的预测。因此可定义预测误差:设计自适应滤波器的目的自然是希望使恢复误差?(n)最小。但是由于 真实信号s(n)未知，故?(n)是不可观测的或无法计算的。与此相反，预测误 差e(n)却是可观测的，它与恢复误差的关系为：e(n)?(n)?n(n)(4-3)而噪声序列n(n)是独立的，因此不可观测的恢复误差?(n)的最小化等

35、价于可观测的预测误差e(n)的最小化。具体的，考虑到?(nzw)?n?ie(i)(4-4)i?ln2的最小化。式中，？为遗忘因子，通常取0?lo由n2?(n,w)?nn?it?x(i)?wx(i)?2?n?ix(i)?wtx(i)x(i)?0 ?w?wi?li?l(4-5) ?可得到等价关系式： i?lnn?ix(i)x(i)w?n?ix(i)x(i)(4-6) tn(4-7)若令：r(n)?n?ix(i)xt(i)(4-8)u(n)?n?ix(i)x(i) i?ln?lini?l则式件6)可简写为：r(n)w(n)?u(n)(4-9)假定r(n)是非奇异的，贝山(4-10)w(n)?r?l(

36、n)u(n)这就是滤波器滤波参数的公式，之所以记作w(n),是因为w随着时间而改15变。式(58)叫做最佳滤波器系数的yule-walker方程。依据式(510)来 调整滤波器参数有两处不便。第一，需要矩阵求逆及矩阵乘法等运算，因 而计算量大。第二，w(n)与预测误差e(n)z间也未建立任何关系，不能达 到根据预测误差e(n)来调整滤波器参数的要求。(非平稳或时变)预测误差e(n)由e(n)?x(n)?wt(n?l)x(n)(4-11)表示。利用此公式，可以将式(5刀的u(n)改写作(4-12)注意到 wt(i?l)x(i)x(i)?x(i)xt(i)w(i?l)和(5-11),用 r?l(n

37、)式乘上式后得到:w(n)?r(n)?x(i)x(i)w(i?l)?r(n)?x(i)e(i)?wl(n)?w2(n)?ln?it?ln?it i?li?lnn(4-13)为了简化第一项wl(n)的表达，并建立w(n)与w(n?l)之间的关系，一 种合理的想法是认为n?l时刻及其以前时刻的滤波器参数相同，hp：w(o)?w(1)? ?w(n?l)这样，利用式(5刀及上述假定，就有wl(n)?r(n)?n?ix(i)xt(i)w(n?l)?w(n?l)?li?ln(4-14)另一方面，为了简化w2(n)的表达，一种合理的想法就是：认为遗忘 因子?0。这相当于，只有本时刻的结果被记忆下来，而将以前

38、的各时刻的结果全部遗忘。从而，有下列的简化结果:w2(n)?r(n)?0n?ixt(i)e(i)?r?l(n)xt(n)e(n)(4-15) ?1i?ln将式件13)和(414)代入(412),则得w(n)?w(n?l)?r?l(n)xt(n)e(n)(4-16)式(415)描述了一个滤波器参数受其输入误差e(n)控制的口适应滤波 算法，被称作递归最小二乘(rls)o为了实现递推计算，还要解决逆矩阵r?l(n)的递推计算问题。为此， 我们先引入一个著名的结果一一矩阵求逆引理。矩阵求逆引理：若a是非奇异的，贝山16(a?bct)?1?a?1?a?1b(i?cta?1b)?1cta?1(4-17)

39、由r(n)的定义式(4-7),显然有r(n)?r(n?l)?x(n)xt(n)(4-18)对它应用矩阵求逆引理,得:r?l(n)x(n)xt(n)r?l(n?l)?l?lr )(n? 1) ? t?1(4-19) (n? rl?x(n)r(n?l)x(n)综上所分析，递归最小二乘法自适应滤波(rls)算法如下所示算法初始化:18w(0)?0r(0)?lfor k=l to n final do :e(n)?x(n)?wt(n?l)x(n) ?lr?l(n)x(n)xt(n)r?l(n?l)?lr (n)?r(n?l)?l?xt(n)r?l(n?l)x(n)w(n)?w(n?l)?r?l(n)x

40、t(n)e(n) (4-20)4.3递归最小二乘(rls)算法的性能分析rls(递推最小二乘法)算法的关键是用二乘方的时间平均的最小化锯 带最小均方准则，并按时间进行迭代计算。对于非平稳信号的自适应处理， 最合适的方法是采用最小二乘自适应滤波器。它使误差的总能量最小。rls 算法的优点是收敛速度快，其收敛性能与输入信号的频谱特性无关，但其 缺点是计算复杂度很高，对于n阶的滤波器,rls算法的计算量为o(n2)2 为了对非平稳信号进行跟踪，rls算法引入了数加权遗忘因子入。该遗忘 因子的引入，使rls算法能够对非平稳信号进行跟踪。19由于设计简单、性能最佳，其屮rls滤波器具有稳定的口适应行为而

41、 但算法简单，收敛性能良好。这里讨论rls算法收敛特性两个方面的问题：一是从均值的意义上讨 论?(n)的收敛性；二是从均方值的意义上讨论误差e(n)的收敛性。为了讨 论w进行这样的讨论，必须对输入过程的类别作出规定o考虑随即机回归模型：d(n)?wox(n?i?l)?v(n)i?lm(4-21)17其中x(n)是零均值过程v(n)是均值为零，方差为?2n的高斯白噪声序列。?(n)的收敛性 其中ew对公式 d(n)?xt(n)w0?v(n),其中 w0?w01?w0mto 而可以写出：q(n)?n?ix(i)xt(i)wo?v(i)(4-22)i?ln?(n)满足：当?(n), ww(n)?at

42、(n)?(n)a(n)?l?lat(n)?(n)b(n)?rx(n)q(n)(4-23)将其写成如下形式：nrx(n)?rx(n)?l(4-24)其中rx(n)?n?ix(i)xt(n)(4-25)i?ln将式件22)和式件24)带入式(423)中得：?(n)?r(n)?nl?lr(n)w?n?ix(i)v(i)(4-26)wxxoi?：ln故?(n)?r(n)?nl?lr(n)w ewxxo?rx(n)?rx(n)?nlrx(n)rx(n)wo?wo?rx(n)?nwo(42刀假定输入过程呈各态历经的平稳随机过程，对于?=1的情况，当n很大时，有?1?1?1?1r(n)lnrx?x(i)xt

43、(i)?x(4-28)ni?ln其中rx表示输入矢量x的m?m组合平相关矩阵，所以?(n)?w,故滤波器的权矢量个估计是由此可见，当n?时，ewo 无偏的。还有ee2(n)啲收敛性18?t(n)x(n)e(n)?d(n)?wt?(n)tx(n) ?d(n)?wox(n)?(wo?w?(n)tx(n)?v(n)?w?wo考虑到x(n)与v(n)的不相关性，所以2?(n)tx(n)xt(n)(w?w?(n) ee2(n)?v?e(w0?w0根据矩阵迹的性质，加权矢量的均方误差又可写成2?(n)c?t(n)r(4-30)ee2(n)?v?trecx?(n)?w?w?(n),r?ex(n)xt(n)f

44、i中 c。ox?(n)=(at(n) a (n)a(n)-lat(n) a (n)b(n)由 w现令 v(n)?v(l)?v(n)t,则:v(n)?b(n)?a(n)w0(4-31)将式(5-31)带入式(530)中得w(n)?at(n)?(n)a(n)?lat(n)?(n)v(n)?a(n)wo?(n)?w?w?(n)?at(n)?(n)a(n)?lat(n)?(n)v(n) co因此?l?l?e?c(n)ct(n)?eat(n)?(n)a(n)at(n)?(n)v(n)vt(n)?(n)a(n)at(n)?( n)a(n)?因为x(n)与v(n)的不相关，则上式变为：?t?l?(n)c?(

45、n)?ev(n)v(n)ec ea(n)?(n)a(n)(n)?lat(n)?2(n)a(n)at(n)?(n)a ?v2eat(n)?(n)a(n)?lat(n)?2(n)a(n)at(n)?(n)a(n)?l(5-32) tt对于n?时有采用这些近似则式(533)可划简为：at(n)a(no?nrxa(n)?(n)a(n)?rx?n?jtj?ln(4-33)a(n)?2(n)a(n)?rx?(?n?j)2tj?ln由式件30)可知192?(n)c?t(n)ree2(n)?v?trecxn(?n?j)2?2j?l?tr?vn?(?n?j)2?j?l? (4-34)根据自适应滤波器失调量?的定义ee2(n)?v? ?