自适应均衡算法LMS研究

1、文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持自适应均衡算法LMS研究一、自适应滤波原理与应用所谓自适应滤波器，就是利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数， 以适应信号和噪声未知的或随时间变化的统计特性， 从而实现最优滤波。根据环境的改变，使用自适应算法来改变滤波器的参数和结构。1.1 均衡器的发展及概况均衡是减少码间串扰的有效措施。均衡器的发展有史已久，二十世纪 60 年代前，电话信道均衡器的出现克服了数据传输过程中的码间串扰带来的失真影响。但是均衡器要么是固定的， 要么其参数的调整是手工进行。 1965年， Lucky 在均衡问题上提出了迫零准则，

2、自动调整横向滤波器的权系数。 1969 年， Gerhso 和 Porkasi ， Milier 分别独立的提出采用均方误差准则(MSE)。1972年，ungeboekc将LM就法应用于自适应均衡。1974年，Gedard 在kalmna滤波理论上推导出递推最小均方算法 RLS(Recursive least-squares) 。LMS类 算法和RLS类算法是自适应滤波算法的两个大类。自适应滤波在信道均衡、回波抵消、谱线增强、噪声抑制、天线自适应旁瓣抑制、雷达杂波抵消、相参检测、谱估计、窄带干扰抑制、系统辨识、系统建模、语音信号处理、生物医学、电子学等方面获得广泛的应用。1.2 均衡器种类均衡

3、技术可分为两类：线性均衡和非线性均衡。这两类的差别主要在于自适应均衡器的输出被用于反馈控制的方法。如果判决输出没有被用于均衡器的反馈逻辑中，那么均衡器是线性的；如果判决输出被用于反馈逻辑中并帮助改变了均衡器的后续输出，那么均衡器是非线性的。图 1.1 均衡器的分类1.3 自适应算法LMS算法LMST法是由widrow和Hoff于1960年提出来的，是统计梯度算法类的很重 要的成员之一。它具有运算量小，简单，易于实现等优点。LMS算法是建立在Wiener滤波的基础上发展而来的。Wiener解是在最小均方误差 (MMSE®义下使用均方误差作为代价函数而得到的在最小误差准则下的最优解。因其

4、结构 简单、稳定性好，一直是自适应滤波经典有效的算法之一，被广泛应用于雷达、通信、声纳、 系统辨识及信号处理等领域。1.3.1 MSE的含义MSE为基础。下LMS算法的推导以估计误差平方的集平均或时平均(即均方误差, 面先介绍MSE勺概念。设计一个均衡系统如下图所示：图1.2图1.2中的均衡器为一 FIR横式滤波器，其结构如图1,3所示。其输入矢量为(1.1 )(1.(2)(1.(3)(1.(4)x(n) x(n),x(n 1), , x(n M 1)加权矢量(即滤波器抽头系数矢量)为TwW1,W2, ,Wm可知滤波器的输出M *HT ,、?(n) wi x(n i 1) w x(n) x (

5、n)w i 1则有He(n) d(n) y?(n) d(n) w x(n)其中H表示共腕转置。根据最小均方误差准则，最佳的滤波器抽头系数矢量wopt应f (w) Ee(n)(1.5)使得性能函数一均方误差为最小。式(1.5)称为均方误差性能函数。图1.3时域FIR横式滤波器在指定的信道条件下，f (w)为各滤波器抽头系数的函数。现在来研究系统处于平稳3文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持状态时的情况。将式(1.4)代入式(1.5)可得E d(n) 2 wHrxd (wH")* wH RxxW2HHE d(n) 2 2RewHrxd wH Rxxw(1.(6)其

6、中rxd表示d(n)和x(n)的互相关矢量。Rxx(n)表示x(n)的自相关矩阵。对(1.6)式两端对w求导，并令导数为零，得到：Rxxwrxd(1.(7)当Rxx为满秩时，从而可得到该横式滤波器抽头系数的最优维纳解为:wopt Rxx rxd(1.(8)LMS4代算法由式(1.8)知Wiener滤波器的抽头系数的直接计算需要矩阵求逆，当 M较大时，计 算量较大且由于信号和干扰环境的变化常须对求逆过程不断进行。所以常用其它递推求解 的方法。下面我们介绍从最陡下降法来推导 LMST法。根据最陡下降法，有：w(n 1) w(n) w f (w)(1.(9)其中，wf(w)为f(w)的梯度，而 为常

7、数并被称为步长因子。又因为:wf(w) 2Rxxw 2rxd(1.10)为了实现上述迭代算法需要知道梯度wf(w)的精确值，这就要求输入信号x(n)和d(n)平稳且其二阶统计特性已知。这时才能根据信号x(n)和需要信号d(n)的采样值来估 计Rxx和"，从而寻找wopt 0为了克服上述困难和减少求解每次迭代的计算量的问题。一种粗略的但是却是十分有效的计算wf(w)的近似方法是：直接取2e(n)作为均方误差e(n)2的估计值，即?wf(w)?wEe(n) 2 w e(n)由式(1.4)可得 2 w e(n) 2e(n)x(n)将式(1.11 )和式(1.12)代入式(1.9)得(1.1

8、1 )(1.12)文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持w(n 1) w(n) 2 e(n)x(n)(1.13)上式就是B.Windrow在60年代初提出的LMS自适应迭彳t算法。LMST法的流程归纳如初始化：wm 0 00T更新：n 1，2，H ， 、 7在第二步中，若取二常数，则称之为基本 LMS算法；若取 = x (n)x(n),其中(0,2),0,则得到归一化LMSB法。LMS算法的重要特点是将其期望值近似为瞬时值。故在迭代收敛后，加权矢量不会等 于最优的加权矢量，而是在最优加权矢量附近随机性的波动，等效于在最优加权矢量上叠 加了一个噪声，也就是说这种近似存在误差

9、。所以，LMS算法又被称为随机梯度法。此法可以被视为最陡下降法的近似。其另一个重要的特点是每次迭代需要M 1次乘法和M次加法，因而运算处理相当简单。LMS算法采用瞬时值代替期望值，则会存在着一个算法收敛、稳定性的问题。在本节 中，主要来讨论LMSB法的收敛性及稳定性。§ LMS算法的稳定性比较LMSB法递推公式(1.13)和最陡下降法递推公式(1.9)可以看出，LMSB法用2Ea(n) 2l /一w e(n)作为wEe(n)估计。从而可以想象，LM新法的加权矢量平均值Ew(n)将按最陡下降法的加权矢量的变化规律变化。现在，假设x(n)和w(n)不相关来寻找LMS算法的加权矢量平均值的

10、变化规律。将式(1.4)代入(1.13) LMSB法的递推公式可写为：(2.1 )(2.(2)(2.(3)w(n 1) w(n) 2 x(n)d(n) x(n)xH (n)w(n)w(n 1) I 2 x(n)xH (n)w(n) 2 x(n)d(n)对式(2.2 )求均值,可得E w(n 1) I 2 RxxE w(n) 2 4并令误差矢量v(n)为4文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持.文档来源为 :从网络收集整理.word 版本可编辑.欢迎下载支持6 文档来源为 :从网络收集整理.word 版本可编辑.欢迎下载支持为对角线元素的对角线阵。则由式（ 2.3 ）可得和

11、式中根据矩阵理论有其中 Q 是可以将 Rxx 对角化的酉矩阵，在令2.7 ）可得当且仅当时v(n) w(n) woptE v(n) E w(n) woptE v(n 1) I 2 RxxE v(n)E v(n) I 2 Rxxnv(0)v(0)w(0) wopt1Rxx Q AQE v (n) I 2 Anv2.5 ）还有E w(n)2.11 ）和（ 2.12 ）可得：v (n)A (八 Diag( i,1Q 1v(n)'1E v'(n) Q 1E v(n)(0)wopt2,QI 2 AnQ 1w(0)1/maxlim E w(n)woptnwopt 2.4)2.5)2.6)(

12、2.(7)(2.(8)(2.(9)M ） ）是以 Rxx 的特征值2.10)2.11 )2.12)2.13)2.14)其中max为滤波器对应的输入信号相关矩阵Rxx的最大特征值。式（2.13）即为LMS算法的加权矢量平均值的收敛条件。实际上，有maxTr Rxx2.15)式中TrRxx为Rxx的迹，且文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持TrRxx iEx2(n i 1) MS.(2.16)i 1i 1式中Sin为滤波器输入信号X(n)的功率。这样还可以得到加权矢量收敛的充分条件(2.17)0 (MSin)式(2.17)导出了一个大M的LM酊法滤波器步长参数 稳定性界的必

13、要条件，滤波 器步长参数对M为较小长度时，至今没有理论上得到的固定上界。但是对于步长小的时候：小步长理论对收敛性提供了理论描述9即满足式(2.13)的要求。由上面的收敛稳定性分析可以看出，LMSB法的收敛是有条件的。步长 必须要满 足一定的要求。§ LMS算法的收敛速度对信道均衡自适应算法的选择，除了算法本身的稳定性，我们还要考虑它的收敛速度。收敛速度是指对于恒定输入，当迭代算法的迭代结果已经充分接近最优解时，即已经收敛 时，算法所需的迭代次数。一般来说快速的收敛算法可以快速地适应稳定的环境，而且也 可以及时地跟上非稳定环境的特性变化。从均方误差来看，LMS算法的最终收敛速度要取决于

14、最慢的一个指数过程，相应的时问常数为msemax (2 min )(2.18)min为矩阵Rxx的最小特征值。从式(2.13)可知，为了保证自适应算法收敛受限于max,将式(2.13)代入时(2.18)有maxmsem ax 2 min(2.19)所以，当Rxx的特征值分散时，即max和相差很大时，LMSf法的收敛速度性能将变的很差。特征值分散定义为：cond(Rxx)maxmin(2.20)10文档来源为：从网络收集整理.word版本可编辑.欢迎下载支持它反映了一个矩阵Rxx的条件数。当cOnd(Rxx)大时，称矩阵Rxx及相应的Rxx方程为病态，所以当Rxx为病态时，LMS»法的

15、收敛性能很差。由上分析可知，LMST法的收敛速度主要是由两个参数来决定：步长 和特征值分散。 即对Rxx的特征值分散敏感。也就是说，对于不同的特征值分散，LMSB法的收敛速度不同。 另一方面，LMS算法的收敛速度和步长 之间也有关系。由(2.13)和(2.18)可知在收 敛范围内，愈大，LMSJJ法的收敛速度愈快。但过大时，过渡过程将出现振荡70§ LMS算法的性能学习曲线及稳态误差自适应算法的均方误差的过渡过程又称为学习曲线，均方误差学习曲线是研究自适应2滤波器的统计特性的一种通用的方法。它是基于均方估计误差e(n)的集平均值。这个学习曲线因此也是均方误差Ee(n)2在时亥n的图形

16、。由，LMS算法的均方误差E e(n) 2将近似地按最陡下降法的均方误差的变化规律变化。这就是说，LMSB法的学习曲线近似地为几个不同的时间常数的指数之和由式(2.4)及式(1.4)有，、 H ，、，、eopt(n) v (n)x(n)而H ，、，、eopt (n) d(n) Wopt(n)x(n)(2.21 )(2.22)为w W0Pt时的误差信号，称为最佳误差信号。最佳误差信号对应于最小均方误差(维纳误差)min2E eopt (n)o由于LMS»法的加权矢量w(n)具有随机性，使得LMST法的Ee(n) 2将高于最陡下降法的Eeo特别是，对于LMSJJ法来说，在Ew(n)收敛到

17、最佳值wopt后，加 权矢量继续按式(1.13)变化，其校正值2 36次5)不为零，而是继续随机起伏的，从而使w(n)继续随机起伏。这就使得LMSB法的Ew(n)收敛到wopt后，均方误差 将大于维纳 误差m%B.Widrow为此引入了失调系数minmin(2.23)来描述LMSB法(和其他算法)的稳态均方误差对维纳误差的相对偏差。并且有MSin(2.24)可知滤波器阶数愈高，步长因子和输入信号功率愈大，就使得失调系数愈大。由上分析可知，使LMSB法的性能达到最佳，要选择合适的步长因子、滤波器抽头数、输入信号能量及特征值分散。总而言之，对于平稳系统，算法的参数选择应保证较小 的稳态误差和较快的

18、收敛速度，这时均衡才能得到较理想的效果。本文着重对自适应滤波器算法进行理论分析。LMS算法简单，计算代价小，易于实现等特点是其主要优点。但其缺点是速度慢且收敛速度强烈依赖于输入信号相关矩阵特征值。 LMS算法是一种递归运算，它不需要对信号的统计特性有先验的了解，而只是使用它们的 瞬时估计值，运算得到的只是权重系数的估计值，但随着时间的增加，权数逐步调整，估 计值也逐步调整，估计值也逐步改善，最终得到收敛值。就经典的LMS#法提出了改进算法：误差归一化的变步长 LMSB法。算法的基本指导 思想是先指定一个较大的步长，使算法有较快的收敛速度；算法在若干次迭代以后会进入 稳态邻域，这时减小步长，算法

19、就会在先前稳态的基础上进一步收敛，从而和维纳解更接 近，进入范围更小的稳态邻域。可以看出选择一个可以反映稳态邻域大小的参量是变步长 算法核心问题。并且对改进算法进行了 MATLA时真。计算机仿真结果表明，改进算法有快速的收敛 能力，很好的跟踪能力和较小的稳态误差。通过自适应算法的研究，尤其是LMST法的深入研究，使我们对自适应滤波器有了更为透彻的认识。§ LMS算法的仿真实现采用线性横向均衡器与LMS#法%LMSf法1次实验clear;N=500;db=25;sh1=sqrt(10A(-db/10);文档来源为 :从网络收集整理.word 版本可编辑.欢迎下载支持u=1;error_

20、s=zeros(1,N);for loop=1:1w=0.05*ones(1,11)'V=sh1*randn(1,N );K=randn(1,N)-0.5;x=sign(K);for n=3:N;M(n)=0.3*x(n)+0.9*x(n-1)+0.3*x(n-2);endz=M+V;for n=8:N;d(n)=x(n-7);enda(1)=z(1)A2;for n=2:11;a(n)=z(n).A2+a(n-1);endfor n=12:N;a(n)=z(n).A2-z(n-11)A2+a(n-1);endfor n=11:N;z1=z(n) z(n-1) z(n-2) z(n-3

21、) z(n-4) z(n-5) z(n-6) z(n-7) z(n-8) z(n-9) z(n-10)'y(n)=w'*z1;e(n)=d(n)-y(n);w=w+u./(eps+a(n).*z1.*conj(e(n);enderror_s=error_s+e.A2;endwerror_s=error_s./1;n=1:N;plot(n,error_s);xlabel('n (当 u=1;DB=25 时) ');ylabel('e(n)A2');title('LMS 算法 1 次实验误差平方的均值曲线');%LMSJ法20次实验clear;N=500;db=20;sh1=sqrt(10A(-db/10);u=1;error_s=zeros(1,N);for loop=1:20w=0.05*