第16章_自适应滤波器.ppt

第16章自适应滤波器,16.1前言16.2最陡下降法16.3LMS算法16.4RLS算法16.5自适应滤波器的应用16.6与本章内容有关的MATLAB文件,16.1前言,1.维纳滤波器的基本公式：,要求：是已知的。如果未知，怎么办？,自适应滤波器研究的目标和对象：,2.维纳滤波器研究的对象是平稳信号。对非平稳信号，是随时刻时变的。如果对每一个时刻，都去求出，包括，显然是不实际的。怎么办？,需要“跟踪”,“学习”和“跟踪”是自适应滤波器的基本特点。自适应滤波器应用于信号的先验统计知识未知和非平稳的情况。有着广泛的应用。,自适应滤波器框图。图中各变量的含义同维纳滤波器。但是多了一个“自适应算法”环节。,输入信号模型,输入信号中的噪声,期望信号,输出信号,真实信号,的选择：尽可能的接近于真实信号,误差信号,16.2最陡下降法,令：,于是：,目标函数：,均方误差,令：,得：,上述的工作和已经讨论过的维纳滤波器几乎是完全一样的。我们将由这些内容引出下面“学习”和“跟踪”的话题。,写成矩阵形式：,分析：,可知，是的二次函数，,16.2.1误差性能曲面,是误差能量，恒正。所以该超抛物面的开口朝上，最下端对应的是，而对应的坐标就应该是最优解。,例令观察信号是一个零均值、方差为1的白噪声序列，并假定期望信号使用FIR滤波器，长度为2，求误差性能曲面。,解：,，,及,可求出,如果输入信号是宽平稳的，则其二阶统计特性不随时间变化，上图的误差曲面有着固定的形状，即有唯一的最小值。反之，则误差曲面的形状和梯度方向将会改变，且其底部会不断的移动，即在随时间改变，这就需要使用自适应算法来对其进行跟踪，以找到不同时刻的。,16.2.2最陡下降法,如果在误差曲面上任选一个初始点，然后在误差曲面上沿着某一条路径下到“碗底”，那么，我们即可得到最优滤波器的系数和最小均方误差。这样，即可避免矩阵求逆。,在误差曲面上往下搜索的一个非常自然的方法是沿着曲面切线的方向，也即负梯度的方向进行搜索。是一迭代的过程。记第次迭代得到的滤波器系数为，并记该次迭代得到的均方误差是，那么，在第次迭代的滤波器系数可由下式求出：,：第次迭代时的梯度向量；,：第次迭代时的方向向量；,：第次迭代时的步长。收敛因子。,梯度向量的定义：,注意：是集总平均,上述选择误差曲面上负的梯度向量作为搜索（或迭代）时的方向向量的方法称为“最陡下降法”。,最后得迭代公式：,搜索到曲面的底部时梯度向量，,由,有,维纳解,16.3LMS算法,B.Widrow和M.E.Hoff在1960年给出的估计的方法LMS算法。,16.3.1LMS算法导出,LMS算法的步骤：,1.给定滤波器的长度、步长和滤波器的初始值，或；,2.计算卷积；,3.计算；,4.由更新滤波器。,重复上述步骤24，直到收敛到最优的滤波器系数。这时误差序列的均方误差达到其最小值。迭代结束。,LMS算法只利用了和，没有用到及。由此，该算法适合应用于先验知识未知的场合，当然，也适用于输入信号非平稳的情况。计算量是。,16.3.2LMS算法性能,1.收敛的稳定性；2.收敛的速度；3.在附近的摆动，或误差能量的“超量（excess）”。,1.收敛的稳定性,的特征值,推导过程见教材,（1）由于步长的上界反比于滤波器的长度，因此，滤波器越长，相应的步长应该越小；,（2）同理，弱的信号（功率小），可选较大的步长，反之，取小的步长。,2.收敛的速度,可以证明，收敛的时间常数,显然，如果输入信号的自相关矩阵的最大和最小特征值越接近，则时间常数越小，收敛速度越快。反之，若的特征值越分散，则时间常数越大。,3.误差能量的“超量”,可以证明：误差能量超量：,这三个量又和收敛速度有关。取折中,例利用例16.5.1（系统辨识）中的误差序列来研究LMS算法的性能。其结果如图：,：对一个自适应滤波算法进行多次实现所得到的每一个误差序列都取平方再经集总取平均后而得到的。,曲线：对应的步长，集总平均的次数是100次；,曲线：对应的步长，集总平均的次数是100次；下降快；,曲线：曲线的“预测MSE曲线”,曲线：最小均方误差曲线MMSE,：预测MMSE0.01；超量EMSE=,：预测MMSE0.01；超量EMSE=,16.3.3改进的LMS算法,1归一化LMS算法,LMS算法的收敛稳定性、收敛速度及收敛到稳态时所产生的均方误差的超量都直接受到步长的控制。而又直接和输入信号的功率有关。因此，一个合理的方法是在指定时预先除以信号的功率，即令在保证稳态收敛特性的情况下又独立于信号的功率，从而加快了收敛速度。,时变步长，被“瞬时”功率除,2泄漏LMS算法,问题的提出：,非负定,但可能奇异？,若奇异将不收敛,16.4RLS算法,16.4.1RLS算法导出,定义：,：FIR滤波器在时刻的系数，,：时刻输入到自适应滤波器的数据，,：时刻期望信号和滤波器输出之差，,RLS算法可表述如下：在已知观察数据的情况下，令为最小以求出滤波器的系数。,是加权因子。采用指数加权的本质是对新到数据求出的误差给以大的权，而对较早数据求出的误差给以小的权，其目的是使新求出的能尽快跟踪输入信号的时变统计特征。,通过令为相对最小，可求出：,RLS算法,维纳解,自相关和互相关分别“同类”（akin）,递推公式,定义,则：,将分母乘到左边，再整理，得,最后递推公式,RLS算法的递推步骤：,（1）令，计算滤波器的输出：,（2）计算误差；,（3）计算Kalman增益向量；,（4）令，小正数，,计算：,（5）计算：,16.4.2RLS算法性能分析,分析RLS算法的性能要比分析LMS算法的性能困难得多，文献2研究了一特殊情况：,假定自适应滤波器的输入信号是由一个阶的AR模型所产生，即,方差,令滤波器系数,跟踪,AR模型的系数向量,（1）是否收敛于？,（2）令为系数误差向量，到稳态后，均方误差,研究：,结论：,（1）,RLS算法的一般性能：,（1）算法总是收敛的，不存在均方误差的超量；,该方法通过迭代求解和，避免求逆。,16.5自适应滤波器的应用,由于自适应滤波器具有很强的学习和跟踪能力，适应了输入信号统计特性未知和时变时的客观需要，因此在实际中获得了广泛的应用。这些应用领域包括通信、雷达、声纳、自动控制、地质勘探及生物医学工程等。下面通过六个例子说明自适应滤波器的应用。说明：这些例子参考了MATLAB工具箱中所给出的有关例子，然后通过修改参数而完成。,16.5.1系统辨识,系统辨识又称为系统建模，是根据一个系统的输入及输出关系来确定系统的参数，如系统的转移函数。一旦该系统的转移函数被求出，也就是对该系统建立了一个数学模型。,：待辨识系统（plant）,：自适应滤波器,显然，如果,则,实现了辨识,例16.5.1设待辨识的系统是一个FIR系统，长度。为了验证自适应滤波器对其辨识到效果，我们假定是已知的。令是一高斯分布、方差等于1的白噪声。是通过后再加上方差为0.01的白噪声所得到的序列。,注意：两个横坐标含义不同,逆系统辨识：,令：,收敛后：,例16.5.2设待辨识的系统是一个FIR系统，长度，归一化截止频率为0.4。令是方差等于1的高白噪声。延迟器输出2000次迭代后的结果如图：,16.5.2自适应噪声抵消,自适应噪声抵消有广泛的应用。例如，在记录人体生理信号（心电、脑电、肌电、心音等）时，不可避免地会受到50Hz工频的干扰。再例如，记录胎儿心电时也不可避免地会同时记录到母亲的心电。需要对“噪声”抵消掉。其他如，驾驶室内噪声的抵消，长途电话线路中的回声抵消，耳道式数字助听器中speaker对microphone所产生的干扰的抵消，等等。,混入到上面的传感器，得到,使逼近，则,例16.5.3信号是一正弦信号，受到白噪声的污染，使用上面的自适应噪声抵消方案所得到结果如下图。,16.5.3自适应预测,该系统根据输入信号的不同和应用目的不同，可得到不同的应用。如预测和谱线增强。,1.自适应线性预测器,所谓预测，是指用在时的值来估计值。如果，称为前向预测，如果，称为后向预测。在实际工作中应用最多的是前向预测，即利用过去的值来预测当前的值。在上图，用,在语音和图像的编码中，总希望用最小的bit数对信号进行编码同时又保证有最小的编码误差。实现该目的的一个有效的方法是减小被编码信号的动态范围。显然，误差序列的动态范围应远小于原信号的动态范围。预测效果越好，的动态范围越小。这就是“线性预测编码（LPC）”的基本原理。由于信号的统计特性是未知的，且是时变的，因此要利用自适应滤波器。在上图中，通过使的能量为最小而得到最优的滤波器系数，从而可保证在每一个时刻都得到对的最好预测。,例16.5.4信号（上图中的）是一分段的正弦信号，现使用上图的方案对其进行一步前向预测。输入到自适应滤波器的是加上一定的白噪声后并做一步延迟所得到的，而就是，其长度和相等。所得到结果如下图所示。,分段正弦,预测,1.自适应谱线增强（原预测器图）,：窄带或线谱；,：宽带白噪声；,如果,AdaptiveLineEnhancer，ALE。谱线增强，即将正弦信号和白噪声分离。,例16.5.5令信号由两个正弦信号所组成，其归一化频率分别是0.05和0.1.再令，并令是由加上白噪声再做单位延迟后所得到的希望信号，但它是被噪声污染了的信号。将和输入到上图的自适应预测器。注意，本例的目的不是预测而是谱线增强，因此本例的和与上图中的和互换了位置。结果见下图：,16.5.4通道的自适应均衡,数字通信的基本系统框图,假定发送器、通道滤波器和接收滤波器三者综合的转移函数是，均衡器的转移函数是，我们希望,互为逆系统,由于通道的特性是未知的，且是时变的，因此要求是一自适应滤波器。,但自适应滤波器的希望信号如何获得？因为对方传送的信号总是未知道！,事先，发送器先发送一个短的脉冲序列，存储于接收端。接收器收到的为，二者可以用来“训练”自适应滤波器，得到自适应滤波器的系数。然后发送器开始发送实际的信号。训练结束后便没有了希望信号。这时，有两种工作模式：一是利用训练得到的滤波器系数工作在固定的滤波器形式，即系数不再调整。只适用于通道特性变化较慢的情况。二是自适应模式，这时需人为地构造出一个希望信号。方法是利用判据器的输出当作，可取得很好的效果，称为“决策方向”法（Decision-Direction），简称DD方法。,例16.5.6设是复信号，实部和虚部都是通过符号函数（sign）对白噪声序列取值而得到的二值序列，因此的所有取值应分布在由实部和虚部构成的平面上的的位置上：散点图（正交相移键控，QPSK）信号，通道滤波器，非全通。将送入通道滤波器，在其输出上再加上一定幅度的复数白噪声，记为，其散点图在平面上非常发散，判据器无法判决。将送入均衡器（即自适应滤波器），经均衡后的信号又相对较为集中，有利于判据。结果如下图：,的散点图，处在,，的实部。迭代200次后误差已很小。,的散点图，分散。,的散点图。均衡后较为集中。,16.6有关MATLAB文件,MATLAB（R2009a）提供了丰富的有关自适应滤波器的m文件，五大类自适应滤波器：,一、LMS自适应滤波器；二、RLS自适应滤波器；三、仿射投影自适应滤波器；四、基于频域的自适应滤波器；五、基于Lattice结构的自适应滤波器。,Affineprojection,路径：toolbox/filterdesign/filterdesign/adaptfilt,一、LMS自适应算法1adaptfilt.lms本文件用来“构造”一个基本的LMS算法的FIR自适应滤波器H，其调用格式是,H=ADAPTFILT.LMS（L，STEPSIZE，LEAKAGE，COEFFS，STATES）,两点说明：,一、在MATLAB工具箱中并无文件ADAPTFILT.LMS。调用它时，MATLAB自的将其转为调用lms.m文件。lms.m的调用格式就是ADAPTFILT.LMS的调用格式。自适应滤波器中的其他算法文件也都是这样安排的，即文件adaptfilt.xyz的实际文件是xyz.m。,2filter.mMATLAB中有多个filter.m文件，它们有着相同的名称，但实现不同的功能。区分它们的主要方法是调用方式和处路径的不同。三个：一个是用来实现普通线性滤波路径在toolbox/signal/signal/dfilt），第二个是用于多抽样率信号处理，路径toolbox/filterdesign/filterdesign/mfilt/casecade）第三个是用于实现自适应滤波，路径toolbox/filterdesign/filterdesign/adaptfilt/baseclass）进入后一个路径，打开filter.m，它做了一件事：y,e=thisfilter（this，x，d）。即filter.m把自适应滤波器的参数传给了新的m文件thisfilter，以求出滤波器的输出y和e。,3.thisfilter.mthisfilter是MATLAB中真正应用于实现自适应滤波的文件。每一种自适应算法都有一个thisfilter文件，因此它也是同名称的多文件。区别它们的方法还是调用方式和所处的路径。对基本LMS算法，它的thisfilter所处的路径是toolbox/filterdesign/filterdesign/adaptfilt/lms。调用格式和filter.m完全一样。,4.maxstep.m本文件用来预测保证LMS算法收敛所需的最大步长，它是根据（16.3.1