自适应滤波器.doc

大连水产学院本科毕业论文（设计） 高通自适应滤波器的算法研究及DSP仿真实现毕业论文（设计）高通自适应滤波器的算法研究及DSP仿真实现学 生 姓 名： 文 通 指导教师： 梁策 讲师 合作指导教师： 专业名称： 电子信息工程 所在学院： 信学院息工程 年 月目 录摘 要错误！未定义书签。Abstract错误！未定义书签。第一章 绪 论- 5 -1.1自适应滤波理论发展- 6 -1.2国内外目前研究现状- 7 -1.2.1基于维纳滤波理论的方法- 8 -1.2.2基于卡尔曼滤波理论的方法- 9 -1.2.3基于最小二乘准则的方法- 10 -1.2.4基于神经网络理论的方法- 10 -1.3论文的主要工作和结构安排- 11 -第二章 自适应滤波原理及应用- 12 -2.2自适应滤波器的基本应用- 15 -2.2.1信号增强器- 18 -2.2.2自适应噪声抵消器- 19 -2.2.3自适应信道均衡- 20 -第三章自适应滤波算法- 21 -3.1自适应滤波算法种类- 22 -3.1.1 LM S自适应滤波算法- 22 -3.1.2 RLS自适应滤波算法- 23 -3.1.3变换域自适应滤波算法- 24 -3.1.4仿射投影算法- 24 -3.1.5共扼梯度算法- 25 -3.1.6基于子带分解的自适应滤波算法- 26 -3.1.7基于QR分解的自适应滤波算法- 26 -3.1.8其它一些自适应滤波算法- 27 -3.2算法性能评价- 28 -第四章 自适应LMS算法的研究- 29 -4. 1概述- 29 -4. 2 LMS算法及其基本变型- 29 -4.2.1基本LMS算法- 30 -4.3 LMS算法的性能分析- 31 -4.3. 1学习速率参数的选择- 31 -4.3.1.1均值收敛的条件- 32 -4.3. 2 LMS算法的统计性能- 33 -4.3.2.1稳态剩余输出均方误差- 34 -4.3.2.2稳态剩余输出能量- 35 -4.4 LMS算法的跟踪性能- 36 -4.4.1非平稳度a- 36 -第五章 RLS自适应算法分析- 37 -5.1自适应算法的基本概念- 37 -5.1.1基本RLS算法原理及性能分析- 38 -5.1.1.1最小二乘滤波方程- 38 -5.1.1.2递推最小二乘法- 41 -5.2 RLS算法的收敛性- 46 -5.2.1系统模型- 47 -第六章 仿真- 51 - 摘要自适应滤波器是在不知道输入过程的统计特性时，或是输入过程的统计特性发生变化时，能够自动调整自己的参数，以满足某种最佳准则要求的滤波器。所谓自适应滤波，就是利用前一时刻己获得的滤波器参数等结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，计算量小，特别适用于实时处理。自适应滤波算法的研究是当今自适应信号处理中最为活跃的研究课题之一。寻求收敛速度快，计算复杂性低，数值稳定性好的自适应滤波算法是研究人员不断努力追求的目标。本文在论述自适应滤波基本原理的基础上，介绍了目前几种典型的自适应滤波算法及其应用。并对几种典型自适应滤波算法的性能特点进行比较，给出了算法性能的综合评价。其中对LMS算法和RLS算法进行了较深入的理论分析和研究。在matlab6.5仿真条件下设计一个二阶加权系数自适应横向FIR滤波器，对一正弦信号加噪声信号进行滤波。关键词:自适应滤波，LMS算法，RLS算法，自适应滤波仿真AbstractAdaptive filter is in the process do not know the statistical properties of input when the input process or change the statistical properties, it can automatically adjust its parameters to meet the requirements of a best filter criteria. The so-called adaptive filtering is one time use of the former has access to the results of the filter parameters, automatic adjustment of filter parameters is time to adapt to the unknown signal and noise or time-varying statistical characteristics, in order to achieve the optimal filter. In essence, is a kind of adaptive filter to adjust its own transmission characteristics in order to achieve optimal Wiener filter. Adaptive filter on the input signal does not require a priori knowledge, a small amount of calculation, especially for real-time processing. Adaptive filtering algorithm for adaptive signal processing is the most active one of the research topic. The search for fast convergence and low computational complexity, numerical stability of adaptive filtering algorithm is good researchers continue to strive for goals. This paper discusses the basic principles of adaptive filtering based on the introduction is typical of the adaptive filtering algorithm and its application. And several typical adaptive filtering algorithm to compare the performance characteristics, the algorithm is given a comprehensive evaluation of the performance. One of the LMS algorithm and RLS algorithm is more in-depth theoretical analysis and research. Matlab7.0 simulation conditions in the design of a second-order weighting coefficient adaptive FIR filter horizontally, of a sinusoidal signal plus noise filtering signals.Key words: adaptive filter, LMS algorithm, RLS algorithm, adaptive filter simulation第一章 绪论从连续的(或离散的)输入数据中滤除噪声和干扰以提取有用信息的过程称为滤波。相应的装置称为滤波器。实际上一个滤波器可以看成一个系统，这个系统的目的是为了从含有噪声的数据中提取人们感兴趣的、或者希望得到的有用信号，即期望信号。滤波器可分为线性滤波器和非线性滤波器两种。当滤波器的输出为输入的线性函数时，该滤波器称为线性滤波器，当滤波器的输出为输入的非线性函数时，该滤波器就称为非线性滤波器。自适应滤波器是在不知道输入过程的统计特性时，或是输入过程的统计特性发生变化时，能够自动调整自己的参数，以满足某种最佳准则要求的滤波器。1.1自适应滤波理论发展过程早在20世纪40年代，就对平稳随机信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性(自相关函数或功率谱)，用线性最小均方误差估计准则设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离设计条件，则它就不是最佳的了，这在实际应用中受到了限制。到60年代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。现在，卡尔曼滤波器已成功地应用到许多领域，它既可对平稳的和非平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特例。在设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方程，即要求对信号和噪声的统计特性有先验知识，但在实际中，往往难以预知这些统计特性，因此实现不了真正的最佳滤波。Widrow B.等于1967年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整而达到最佳状况，而且在设计时，只需要很少的或根本不需要任何关于信号与噪声的先验统计知识。这种滤波器的实现差不多象维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波器一样好。因此，近十几年来，自适应滤波理论和方法得到了迅速发展。图1-1描述的是一个通用的自适应滤波估计问题，图中离散时间线性系统表示一个可编程滤波器，它的冲激响应为h(n)，或称其为滤波参数；自适应滤波器输出信号为y(n)，所期望的响应信号为d(n)，误差信号e(n)为d(n)与y(n)之差。这里，期望响应信号d(n)是根据不同用途来选择的，自适应滤波器的输出信号y(n)是对期望响应信号d(n)进行估计的，滤波器参数受误差信号e(n)的控制并自动调整，使y(n)的估计值（n）超于所期望的响应d(n)。因此，自适应滤波器与普通滤波器不同，它的冲激响应或滤波器参数是随外部环境的变化而改变的，经过一段自动调节的收敛时间达到最佳滤波的要求。但是，自适应滤波器本身有一个重要的自适应算法，这个算法可以根据输入、输出及原参量值，按照一定准则修改滤波器参量，以使它本身能有效地跟踪外部环境的变化。通常，自适应滤波器是线性的，因而也是一种线性移变滤波器。当然，它也可推广到自适应非线性滤波器。图1-1自适应滤波原理框图在图1-1中，离散时间线性系统可以分为两类基本结构，其中一类为非递归型横向结构的数字滤波器，它具有有限的记忆，因而称之为有限冲激响应(FIR)系统，即自适应FIR滤波器；另一类为递归型数字滤波器结构，理论上，它具有无限的记忆，因而称之为无限冲激响应(IIR)系统，即自适应IIR滤波器。对于上述两类自适应滤波器，还可以根据不同的滤波理论和算法，分为结构不同的自适应滤波器，它们的滤波性能也不完全相同。本论文主要研究的是自适应IIR滤波器。1.2国内外目前研究现状自从Windrow等人提出自适应信号处理方法以后，自适应技术就广泛应用在通信，雷达，声纳，地震学，自动化，机械设计，导航系统与生物医学，电子学等几乎所有领域。自适应处理器是工作在闭环(反馈)状态。输入信号通过可编程滤波器滤波或加权后产生一个输出，然后它与期望的参考或训练信号进行比较，形成误差信号。接着，用这一误差信号来修正可编程滤波器的权系数(通常用迭代方法来实现)，最终使这一误差逐渐达到最小值(也就是使处理器的输出更逼近于训练信号)。这种自适应处理器可划分成自适应滤波器和自适应天线两大类。在本文中我们只考虑自适应滤波器。自适应滤波器就是利用前一时刻已获得的滤波器系数等结果，自动地调节现时刻的滤波器系数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器通常由两个不同的部分构成:滤波器部分，其结构适合于完成所需要的处理功能;自适应算法部分。用来调整上述滤波器的系数。在本文中，我们主要是设计稳定的自适应算法来调整其系数。从理论上讲，自适应滤波问题没有唯一的解。为了得到自适应滤波器及其应用系统，可以采用各种不同的递推算法，这些自适应算法都有各自的特点，能适用于不同场合。下面我们对国内外已有的几种方法基于维纳滤波理论、基于卡尔曼滤波理论、基于最小二乘准则、基于神经网络理论的方法分别进行讨论。1.2.1基于维纳滤波理论的方法在线性滤波理论中，维纳滤波器所要解决的是最小均方误差准则下的线性滤波问题。这种滤波方法是在已知信号与噪声的相关函数或功率谱的情况下，通过求解维纳霍夫(Wiener-Hopf)方程，对平稳随机信号进行最优预测和滤波的。利用抽头延迟线做成的横向滤波结构的自适应滤波器，通称为自适应横向滤波器，或自适应FIR滤波器，其抽头加权系数集正好等于它的冲激响应。在输入是平稳随机信号时，所期望的响应信号与横向滤波器输出信号之间的差值的均方值是滤波参数或权矢量的二次型关系是一个凹形的超抛物体的曲面，它具有唯一的极小点。可以用梯度方法沿着该曲面调节权矢量的各元素。到达这个均方误差的最小点，对应于此最小点的权矢量称之为最佳维纳解。为了得到自适应横向滤波器权矢量调整的递推算法，我们先使用最优化理论中的最陡下降法来修改正则方程，即由最佳维纳解定义的矩阵方程，应用均方误差的梯度矢量等于零，就可得到最佳权矢量，用w0表示，即：w0=R-1P (1-1)其中，R为横向滤波器抽头输入信号的相关矩阵，P为抽头输入信号与所期望响应的互相关向量。式(1-1)就是维纳霍夫方程的矩阵形式。满足式(1-1)的w0称为最佳权矢量或称为最佳维纳权矢量。其次，我们利用这些相关的瞬时值推导出梯度矢量的估计值，由此可得到最常用的一种算法，即所谓最小均方(LeastMean Square)算法，简称LMS算法。这种算法简单，且能达到满意的性能。它的主要缺点是收敛速度慢和对输入信号的相关矩阵特征值扩展度(即特征值最大值与特征值最小值之比)的变化较灵敏。在非平稳情况下，描述误差性能的超抛物曲面将随着时间连续地变化，要求LMS算法能连续地跟踪误差性能地多维抛物曲面的底部，只有当输入数据变化比LMS算法学习速率较缓慢时，才能自适应跟踪，这就限制了LMS算法的应用。本节讨论的离散时间维纳滤波理论是从维纳关于连续时间信号的线性最优滤波器这个开拓性工作演变过来的。维纳滤波器的重要性在于，它为广义平稳信号的线性滤波提供了一个重要框架。维纳滤波器具有两个重要特性：1） 正交性原理: 维纳滤波器所产生的误差信号（估计误差）正交于它的抽头输入信号；2） 误差信号统计表征为白噪声: 当滤波器长度与描述观测数据（即期望响应）产生的多回归模型阶数匹配时，这个条件成立。归入维纳滤波理论范围的滤波器结构有两种不同的物理类型： 横向滤波器，以有限脉冲响应为特征。 窄带波束形成器，有一组权值可调，间隔均匀的天线元素组成。 这两个结构具有相同的特征：它们都是线性系统的实例，其输出都定义为权向量与输入向量的内积。设计这种结构的最优滤波器都是维纳-霍夫方程的具体体现，其解都包含两个集平均参数： 输入向量的相关矩阵。 输入向量与期望响应的互相关矩阵。维纳滤波的标准表达式中要求具备期望响应。但在许多应用中，无法得到这样的响应。对于这样的应用，可以利用一类称为线性约束最小方差（LCMV）的线性最优滤波器或者LCMV波束形成器，这取决于该应用是在时间域还是空间域。1.2.2基于卡尔曼滤波理论的方法为使自适应滤波器能工作在平稳的或非平稳的环境，可以借助于卡尔尔曼滤波。我们知道，卡尔曼滤波是线性无偏最小方差递推滤波，它的估计性能是最优的，而递推计算形式又能适应实时处理的需要。对于一个线性动态系统的卡尔曼滤波问题，可以用状态方程与测量方程描述，前者以状态矢量来规划系统的动态，后者表述系统中的测量误差。根据估计理论，可知最小误差估计准则与最小方差估计准则等价，而卡尔曼滤波是线性无偏最小方差估计，故有不同方法推演卡尔曼滤波的递推公式。假设所研究离散线性动态系统的N维参数的状态矢量为x(n)，M维观察数据的测量矢量为y(n)，通常矢量x(n)和y(n)都是随机变量，由它们表示系统模型的状态方程和测量方程分别为： x(n+1)= (n+1,n)x(n) +v1(n) （1-2）y(n)=c(n)x(n)+v2(n) (1-3)其中(n+1,n)为系统在n+1和n时刻的NN状态转移矩阵，C(n)为已知的NM测量矩阵。系统动态噪声v1(n)和v2(n)的统计特为：Ev1(n)=0, cov(v1(n),v1(k)= Ev1(n)v1h(k)=Q1(n)nk (1-4)Ev2(n)=0, cov(v2(n),v2(k)= Ev2(n)v2h(k)=Q2(n)nk (1-5)cov(v1(n),v2(k)= Ev1(n)v2h(k)=0 (1-6)这里符号“H”表示共扼转置；当n=k，nk =1，当nk，nk =0；噪声矢量v1(n)和v2(n)是统计独立的。根据观察数据得测量矢量y(1),y(2),.,y(n)，可求出系统状态x(i)的线性无偏最小方差估计。当i=n时，这种最佳估计问题称为卡尔曼滤波；当in时，则称为最优预测；两者之间存在着密切的关系。将卡尔曼滤波这个最优工作条件的模型作为理论的基准框架，可以把卡尔曼滤波算法用于平稳的和非平稳的自适应滤波器。因为自适应横向滤波器结构恰好提供了一个很好的推演基础，它的权矢量可以看作系统的状态矢量。因此，对于平稳情况，可以使用固定状态模型，它的权矢量或状态矢量等于一常数。对于非平稳情况，可以使用噪声化状态模型，它的权矢量或状态矢量围绕着某均值随机游程变化。据此，可利用卡尔曼滤波的递推求解法导出自适应滤波器更新权矢量的不同递推算法。这些算法比起LMS算法有极快的收敛速率；同时，在收敛过程具有好的坚韧性，因其收敛速率对特征值扩展度不灵敏。但是，这些算法的主要限制是其计算复杂度，因要求解卡尔曼滤波问题的矩阵公式，计算量较大。卡尔曼滤波器是具有递归结构的有限维线性离散时间系统，很适合用数字计算机实现。卡尔曼滤波器的一个关键特性是：卡尔曼滤波器是从随机状态空间模型导出的线性动态系统状态的最小均方（方差）估计。1.2.3基于最小二乘准则的方法前面由维纳滤波器与卡尔曼滤波器所推导出的自适应滤波算法的理论是基于统计概念的。而最小二乘估计算法是以最小误差平方和为优化目标，这里误差就是自适应滤波器的期望响应d(n)与真实滤波输出y(n)之差值，故这类自适应滤波性能优化的准则是：min(e(k)2=min(d(k)-y(k)2 (1-7)根据这类自适应滤波器的实现结构，有如下三种不同的最小二乘自适应滤波算法：(1)自适应递归最小二乘算法这种自适应滤波算法是指横向滤波器结构的递推最小二乘算法(简称RLS算法)，它的推导依赖于线性代数中矩阵反演引理，与卡尔曼滤波算法有密切关系。为了减少RLS算法的计算量，现已开拓出快速RLS算法和快速横向滤波器(FTF)算法等，这些快速自适应算法保持了普通RLS算法的优点，而且它们的计算复杂度大为减少，已接近于简单的LMS算法。(2)自适应最小二乘格型算法这是以多级格型预测器作为自适应滤波器实现的基本结构。在时间平均意义上，多级格型预测器中各级之间存在相互去耦关系，这个重要性质用来推演递归最小二乘格型算法(简称RLSL算法)，使它具有时间递归和空间递归。这种RLSL算法具有收敛速度快，计算效率高，坚韧性强，数值性能优等特点。(3)QR分解最小二乘算法这种算法的结构不同于上述迭代闭环形式的自适应算法，而是以迭代开环形式和用QR分解法对输入数据矩阵直接进行的递推运算。首先，将输入数据矩阵用QR分解成正交三角形化矩阵，对新输入数据进行递推计算，但保持输入数据阵经线性变换成的上三角形式。其次，利用QR分解最小二乘(QRD-LS)算法来计算滤波器的权矢量。这种算法具有稳定、坚韧性、快速收敛以及计算效率高等优点。1.2.4基于神经网络理论的方法人工神经网络是一种模拟生物神经模型信号处理能力的计算结构。思维和记忆是人脑非常重要的功能，对于脑的记忆机理，思维和知觉信息处理过程等基础理论的开拓性研究，是发展神经网络理论并推动相关的认知科学发展的关键问题。神经网络是由大量的神经元相互联接而成的网络系统，实质上它是一个高度非线性的动力学网络系统，这个系统具有很强的自适应、自学习、自组织能力，以及巨量并行性、容错性和坚韧性，因而，它可以做许多传统的信号和信息处理技术所不能做的事情。例如，它有比传统单处理器的冯诺依曼计算机快得多的速度；可以执行目前最佳线性信号处理技术所无法完成的复杂函数逼近和信号滤波检测，以及可以完成特征空间高度非线性区域的模式识别等任务。神经网络已广泛地应用于通信、雷达、声纳、地震勘探、生物医学工程、语音和图象处理、模式识别、计算机和自动控制等领域。神经网络通过学习，对其神经突触不断进行调节，以响应周围环境的变化，逐渐适应于进行各种信号处理的功能操作。这涉及到非编程的自适应信号处理，因为自适应信号处理与自适应神经网络都具有这样两个过程：学习过程与功能过程。从模型结构上来说，它们都有自适应线性组合器这个共同部分，以延迟线抽头连接其输入即构成自适应横向滤波器，以量化器连接其输入即构成自适应神经元的一种模型。用此神经元组成的神经网络可进行各种自适应信号的处理。目前，描述神经网络功能性的计算模型已有许多种，利用神经网络固有的自适应性、自学习性、自组织性，以及联想、记忆等性能，都可以实现自适应信号处理。受上述方法的影响，本文主要在这这些方法的基础上提出了几种自适应IIR滤波算法，并设计了一种以IIR滤波器为控制器的自适应逆控制系统，然后将其应用到船舶控制中。1.3论文的主要工作和结构安排现代社会是一个信息社会，掌握了信息，就能占领科技的最高峰，就能掌握国民经济的命脉。信号是信息的重要内容，研究信号处理的重要性是毋庸置疑的。本课题属于自适应滤波的研究领域。本文所做的本文主要工作有：(1)在认真学习经典自适应滤波理论的基础上，通过研究各种先进算法，以解决以往算法的复杂性、收敛速度慢、容易陷入局部极小点等缺点，并通过仿真实验证明了各种算法的有效性；(2)通过研究LMS算法和RLS算法，也通过仿真实验来证明它的优越性。具体的讲，本文共分为5章。第1章主要介绍了自适应滤波技术的发展过程和国内外研究现状；第2章主要介绍了自适应滤波器的原理及应用；第3章介绍超自适应滤波器的几种算法以及性能分析；第4章介绍了LMS算法，并把其应用到滤波器参数优化当中；第5章介绍了RLS算法。第3章、第4章和第5章是本文研究的重点内容。第二章 自适应滤波原理及应用 在对随机信号处理过程中经常用到的是维纳滤波器和卡尔曼滤波器两种滤波器。维纳(Weiner)滤波，它根据平稳随机信号的全部过去和当前的观察数据来估计信号的当前值，在最小均方差的条件下得到系统的传递函数或者冲击响应，它是一种最优线性滤波方法，参数是固定的，适用于平稳随机信号。卡尔曼滤波，它是依据当前时刻数据的观测值和前一时刻对该时刻的预测值进行递推数据处理的滤波算法。它自动调节本身的冲击响应特性，或者说，自动的调节数字滤波器的系数，以适应信号变化的特性，从而达到最优化滤波。它的参数是时变的适用于非平稳随机信号。然而，只有对信号噪声的统计特性先验已知的情况下，这两种滤波器才能获得最优滤波。可是，在实际应用中，常常无法得到这些统计特性的先验知识;或者，统计特性是随时间变化的。因此，用维纳或卡尔曼滤波器实现不了最优滤波。在这种情况下，自适应能够提供卓越的滤波性能。 所谓自适应滤波，就是利用前一时刻己获得的滤波器参数等结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，计算量小，特别适用于实时处理。2.1自适应滤波器的基本原理图2.1其中显示了一维纳滤波器的输入输出关系，其输入是一随机信号:图2.1维纳滤波器的输入输出关系s(n)表示信号的真值，v(n)表示噪声。其输出y(n)等于、s(n)的估计值，用(n)表示维纳滤波器是具有这样的h(n)或H (Z)的滤波器，它能使s与间的均方误差Ee2(n)最小即 E e2(n)=E(s-)2=min 从而达到最好地从噪声中提取信号的目的。而自适应滤波器则能自动调节它的h(n)值以满足上述最小均方误差的准则。 应用横向结构的FIR滤波器形式来实现自适应滤波是最常用的一种方法。如果h(n)长为L，则从图2.1可以得到 （2-1）由此可见，输出y(n)是L个所有过去各输人的线性加权之和，其加权系数就是hi。在自适应滤波器中这个加权系数常用符号wi表示.所希望的输出常用d表示。为了书写简化.时间n用下标J表示，于是式(2-1)成为 (2-2)由(2-2)可见，自适应滤波器可看成是自适应线性综合器，如图2.2所示。图2.2自适应滤波系统中的线性综合器 所谓横向FIR结构(如图2.3)。但是这种横向FIR结构是最常用的一种自适应滤波器的结构形式。现在主要讨论这种横向结构的自适应滤波器。令横向结构的自适应滤波器的权系数矢量和参考输入矢量为 W=w1,w2,.,wlTx(j)=x(j),x(j-1),.,x(j-L+1)T (2.4)式中L为自适应滤波器的长度。第j时刻线性综合器的输出(2.2)以矩阵形式表达有y(j)=XT(1)W=WTX(j) (2.5)可以得到第j时刻自适应滤波器的误差信号e(j) =d(j)-y(j)=d(j)- WTX(j) (2.6) 显然，e (j)是一个随机变量，它有可能是正的，也有可能是负的。为求出最佳权系数，用它的最小均方值来表达误差，这就是最小均方误差准则。采用这种准则作为最佳滤波准则的原因在于它的理论分析比较简单，不要求对概率的描述。同时，在这种准则下导出的最佳线性系统对其它很广泛一类准则也是最佳 图2.3横向FIR结构的自适应滤波器由式(2.6 ) 得均方误差为P, R分别被称为d(j)与X(j)的互相关矢量和参考输入X(j)的自相关矩阵。式(2.7)可写成 对于平稳输入，Ee2 (j)是权系数矢量W的二次型函数。因此，Ee2 (j)(w)是一个上凹的超抛物面的曲面，具有唯一的极小值点。可以用梯度方法沿着该曲面调节权系数矢量的各元素，得到Ee2 (j)的最小值。 均方误差的梯度(用v表示)可以通过将式(2.10)对权矢量的各wj，进行微分得到 式(2.12)是维纳-霍夫方程的矩阵形式。满足式(2.12)的W*即为最佳权系数矢量。将式(2.12)代到式(2.11)，的最小均方误差为实际上，上述方程与维纳滤波器推出的结果完全相同。自适应滤波器与维纳滤波器比较其差别在于它加了一个识别控制的环节，将输出y(j)与所希望的值d(j)比较，看是否一样。如果有误差e(j)，则用。e(j)去控制W，使W为Ee2 (j)=min的W*。关键在于怎样能简便地寻找W*，或者说用什么样的算法来求得W*。最常用的算法是所谓最小均方算法。2.2自适应滤波器的基本应用 自适应滤波器具有在未知环境下良好运行并跟踪输入统计量随时间变化的能力，使得自适应滤波器成为信号处理和自动控制应用领域强大的设备。实际上，自适应滤波器已经成功的应用于通信，雷达，声纳，地震学和生物医学工程等领域。尽管这些应用在特性方面是千变万化的，但它们都有一个基本的特征：输入向量和期望响应被用来计算估计误差，该误差依次用来控制一组可调滤波器系数。取决于所采用滤波器的结构，可调系数可取抽头权值、反射系数或旋转参数等形式。然而，自适应滤波器各种应用之间的本质不同在于其期望响应的提取方式不同。就此，可把自适应滤波器应用分为四种类型，如图所示。为方便起见，图中使用如下记号：u=加到自适应滤波器的输入y=自适应滤波器的输出d=期望响应e=d y=估计误差系统输入设备（待测）自适应滤波器系统输出(a) 辨识系统输入设备（待测）自适应滤波器延迟系统输出 （b）逆模型 延迟自适应滤波器 （c）预测自适应滤波器应用的四种基本类型的作用描述如下：1）辨识(图a) 数学模型概念是科学与工程的基础，在这类涉及辨别的应用中，自适应滤波器用来提供了一个在某种意义上能够最好拟合位置装置的线性模型。该装置和自使用滤波器由相同的输入激励。该装置的输出提供作为自适应滤波器的期望响应。如果该装置具有动态特性，则自适应滤波器所提供的模型将是时变的。2） 逆模型（图b） 在第二类应用中，自适应滤波器的作用是提供一个逆模型，该模型可在某种意义上最好拟合未知噪声装置。理想的，在线性系统的情况下，该逆模型具有等于未知装置转移函数导数的转移函数，使得二者的组合构成一个理想的传输媒介。该装置输入的延迟构成自适应滤波器的期望响应。在某些应用中，该装置输入不加延迟的用做期望响应。3）预测（图c） 这里，自适应滤波器的作用是对随机信号的当前值提供某种意义上的一个最好预测。于是，信号的当前值用作自适应滤波器的期望响应。信号的过去值加到滤波器的输入端。取决于感兴趣的应用，自适应滤波器的输出或估计误差均可作为系统的输出。在第一种情况下，系统作为一个预测器;二而在后一种情况下，系统作为预测误差滤波器。4）干扰消除（图d） 在最后一类应用中，自适应滤波器某种意义上的最优化方式消除包含在基本信号中的未知干扰（类似于一个承载信息的一个信号分量）。基本信号用做自适应滤波器的期望响应，参考（辅助）信号用作滤波器的输入。参考信号来自定位的某一传感器或一组传感器，并以承载信息的信号是微弱的或基本不可预测的方式，供给基本信号上。表1列出某些特定的应用以便说明自适应滤波器应用的四种基本类型。所列出的应用来自控制系统、地震学、心电图学、通信和雷达等领域。表1 自适应滤波器的应用自适应滤波的类型 应用 用途辨别 系统辨识 给定一个未知的动态系统，系统辨别的目的是设计一个自适应滤波器以逼近该动态系统逆模型 分层地球建模均衡 在地震探测中，开发研究地球的分层模型，以解释地球表面的复杂问题均衡 给定一个未知脉冲响应的信道，自适应均衡器的用途是通过操作信道输出，使得信道与均衡器的级联提供理想传输媒介的一个良好逼近预测 预测编码 自适应预测用来开发感兴趣信号（如语音信号）的模型，而不是直接对信号编码。在该编码中，预测误差被编码以便传输和存储。典型的，预测误差具有比源信号更小的方差，从而作为改进编码的基础 谱分析 在这项应用中，预测模型用于估计某一感兴趣信号的功率谱干扰消除 噪声消除 自使用噪声消除器的目的是接收信号中减去噪声以改善信噪比。电话短路中遇到的回应消除是噪声消除的一种特殊形式。噪声消除也用在心电图学中。 波束形成 波速形成器是由具有可调加权系数的天线阵员组成的空间滤波器。自适应波束形成器的双重目的是，自适应的控制加权系数以便消除与未知方向阵列密切有关的干扰信号，并同时对感兴趣目标信号提供保护。 2.2.1信号增强器 自适应滤波器的一个简单的应用就是信号增强器，它被用来检测或增强淹没在宽度噪声中的窄带随机信号，如图2.4. 它包括一个延迟单元Z-M和一个预估器。延迟单元用来除去输入信号的噪声部分与采样的任何可能的相关，预估器就是一个系数可调的FIR滤波器，它的输出yk给出增强的窄带信号。最佳的预估系数W*可以用LMS算法求出。这个自适应滤波器的特性可以由下面的方程给出 2.2.2自适应噪声抵消器 它有两个输入:原始输入或主输入和参考输入，原始输入为受干扰信号 而参考输入为与干扰v0(j)相关，而与信号s(j)不相关的干扰v1(j),原始输入加到自适应滤波器的d (j)端，参考输入则加到自适应滤波器的二x(j)端。图中自适应滤波器AF接受误差。e(j)的控制，调整W(j)使得它的输出Y(j)趋于d (j)中与它相关vo，于是。E(j)作为d (j)与Y(j)之差就接近等于信号s(j)2.2.3自适应信道均衡 自适应均衡的应用极大地改善了数字式电话通信的速度和可靠性。图(2.6)表示一个采用自适应信道均衡器的通信系统方框图。 信道均衡器的作用是在信道通带内形成一个信道传输函数的逆，而在通带之外它的增益则很小或者为零。因而，由信道和均衡器级联组成的系统在通带内有基本均匀的振幅特性，而带外基本为零，相位响应在带内是频率的线性函数。如果条件满足，联合的冲激响应就是辛格函数，故符号间干扰可被消除。自适应调整也解决了信道本身未知、时变的特性所带来的困难。 图(2.7)绘出了自适应均衡器的结构。逆模拟用一个自适应横向滤波器(LMS滤波器)，由于输入xk的信号带宽受到信道带宽的限制，因而，自适应滤波器仅需在信道的通带内去均衡信道的振幅和相位特性。如果能知道信道的输入，并考虑到整个系统的延迟，就可得到期待响应dk，但一般是难于获得的。周期性地中断信息传输，发射一些已知的码序列，便可以进行断续式的自适应调整。第三章自适应滤波算法 根据自适应滤波算法优化准则的不同，自适应滤波算法可以分为两类最基本的算法:最小均方误差(LMS)算法和递推最小二乘(RLS)算法。基于最小均方误差准则，LMS算法使滤波器的输出信号与期望输出信号之间的均方误差Ee2(n)最小。基于最小二乘准则，RLS算法决定自适应滤波器的权系数向量W（n）使估计误差的力口权平方和，最小。其中;为遗忘因子，且01。由此两准则衍生出许多不同的自适应滤波算法。3.1自适应滤波算法种类3.1.1 LM S自适应滤波算法由Widrow和Hoff提出的最小均方误差(LMS )算法，因其具有计算量小、易于实现等优点而在实践中被广泛采用。自适应滤波模型如图3.1基于最速下降法的最小均方误差(LMS )算法的迭代公式如下e (n)=d (n)-XT (n) W (n)W (n+1)=W (n)+2ue(n)X (n)其中:W (n)为自适应滤波器在时刻n的权矢量，X (n) = x(n), x(n -1),X(n-L+l)为时刻N的输入信号矢量，L是自适应滤波器的长度。d(n)为期望输出值，v(n)为干扰信号，e(n)是误差信号u是步长因子。LMS算法收敛的条件为:0 u 1 /max ，max是输入信号自相关矩阵的最大特征值。 初始收敛速度、时变系统跟踪能力及稳态失调是衡量自适应滤波算法优劣的三个最重要的技术指标。由于主输入端不可避免地存在干扰噪声，自适应滤波算法将产生参数失调噪声。干扰噪声v(n)越大，则引起的失调噪声就越大。减小步长因子u可减小自适应滤波算法的稳态失调噪声，提高算法的收敛精度。然而步长因子、的减小将降低算法的收敛速度和跟踪速度。因此，固定步长的自适应滤波算法在收敛速度、时变系统跟踪速度与收敛精度方面对算法调整步长因子u的要求是相互矛盾的。为了克服这一矛盾，人们提出了许多变步长自适应滤波算法。R.D.Gitlin曾提出了一种变步长自适应滤波算法23，其步长因子u(n)随迭代次数的增加而逐渐减小。Yasukawa提出了使步长因子u正比于误差信号e(n)的大小24。而Gitlin等提出了一种时间平均估值梯度的自适应滤波算法【25】.变步长自适应滤波算法的步长调整原则是在初始收敛阶段或未知系统参数发生变化时，步长应比较大，以便有较快的收敛速度和对时变系统的跟踪速度;而在算法收敛后，不管主输入端干扰信号v(n)有多大，都应保持很小的调整步长以达到很小的稳态失调噪声。根据这一步长调整原则，有Sigmoid函数变步长LMS算法(SVSLMS ) 261 ，其变步长u是e(n)的Sigmoid函数:u（n）=（1/（1+exp(-|e(n)|)）-0.5）。该算法能同时获得较快的收敛速度、跟踪速度和较小的稳态误差。然而，该Sigmoid函数过于复杂，且在误差e(n)接近零处变化太大，不具有缓慢变化的特性，使得SVSLMS算法在自适应稳态阶段仍有较大的步长变化这是该算法的不足。3.1.2 RLS自适应滤波算法 LMS算法的优点是结构简单，鲁棒性强，其缺点是收敛速度很慢。基于最小二乘准则，RLS算法决定自适应滤波器的权系数向量W (n)使估计误差的加权平方和最小。RLS算法对输入信号的自相关矩阵RXX（n）的逆进行递推估计更新，收敛速度快，其收敛性能与输入信号的频谱特性无关。但是，RLS算法的计算复杂度很高，所需的存储量极大，不利于适时实现;倘若被估计的自相关矩阵Rxx（n）的逆失去了正定特性，这还将引起算法发散。为了减小RLS算法的计算复杂度，并保留RLS算法收敛速度快的特点，产生了许多改进的RLS算法。如快速RLS (Fast R LS)算法27,281，快速递推最小二乘格型(Fast Recursive Least Squares Lattice)算法29等。这些算法的计算复杂度低于RLS算法，但它们都存在数值稳定性问题。改进的RLS算法着重于用格型滤波器的RLS算法，快速RLS算法就是在RLS格型算法基础上得到的。格型滤波器与直接形式的FIR滤波器可以通过滤波器系数转换相互实现。格型参数称为反射系数，直接形式的FIR滤波器长度是固定的，一旦长度改变则会导致一组新的滤波器系数，而新的滤波器系数与旧的滤波器系数是完全不同的。而格型滤波器是次序递推的，因此，它的级数的改变并不影响其它级的反射系数，这是格型滤波器的一大优点。RLS格型滤波器算法就是将最小二乘准则用于求解最佳前向预测器系数、最佳后向预测器系数，进行时间更新、阶次更新及联合过程估计。格型RLS算法的收敛速度基本上与常规RLS算法的收敛速度相同，因为二者都是在最小二乘的意义下求最佳。但格型RLS算法的计算复杂度高于常规RLS算法。格型RLS算法的数字精度比常规RLS算法的精度高，对舍入误差的不敏感性甚至优于LMS算法。3.1.3变换域自适应滤波算法 对于强相关的信号，LMS算法的收敛性能降低，这是由于LMS算法的收敛性能依赖于输入信号自相关矩阵的特征值发散程度。输入信号自相关矩阵的特征值发散程度越小，LMS算法的收敛性能越好。经过研究发现，对输入信号作某些正交变换后，输入信号自相关矩的特征值发散程度会变小。于是，Dentino等1979年首先提出了变换域自适应滤波的概念301，其基本思想是把时域信号转变为变换域信号，在变换域中采用自适应算法。Narayan等对变换域自适应滤波算法作了全面的总结311。变换域自适应滤波算法的一般步骤是:1)选择正交变换，把时域信号转变为变换域信号。2)变换后的信号用其能量的平方根归一化。3)采用某一自适应算法进行滤波。 设输入信号为:X(n) =