(精校版)自适应滤波LMS算法及RLS算法及其仿真._第1页
(精校版)自适应滤波LMS算法及RLS算法及其仿真._第2页
免费预览已结束,剩余34页可下载查看

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、I(完整 word 版)自适应滤波 LMS 算法及 RLS 算法及其仿真.编辑整理:尊敬的读者朋友们:这里是精品文档编辑中心,本文档内容是由我和我的同事精心编辑整理后发布的,发布之前我们对 文中内容进行仔细校对,但是难免会有疏漏的地方,但是任然希雲(完整word版)自适应滤波LMS算法及RLS算法及其仿真)的内容能够给您的工作和学习带来便利。同时也真诚的希望收到您的 建议和反馈,这将是我们进步的源泉,前进的动力。本文可编辑可修改,如果觉得对您有帮助请收藏以便随时查阅,最后祝您生活愉快业绩进步,以 下为(完整word版)自适应滤波LMS算法及RLS算法及其仿真的全部内容。自适应滤波第第 1 章绪

2、论章绪论.0D1. 1自适应滤波理论发展过程.01. 2自适应滤波发展前景.21. 2. 1小波变换与自适应滤波.21, 2. 2模糊神经网络与自适应滤波.3第第 2 章线性自适应滤波理论章线性自适应滤波理论.52. 1最小均方自适应滤波器.52. 1. 1最速下降算法.52. 1. 2最小均方算法.72. 2递归最小二乘自适应滤波器.10第第 3 章仿真章仿真.163. 1基于LMS算法的MATLAB仿真.163. 2基于RLS算法的MATLAB仿真.20组别:第二小组组员:黄亚明李存龙杨振第1章绪论从连续的(或离散的)输入数据中滤除噪声和干扰以提取有用信息的过程称为滤波。相应的装置称为滤波

3、器。实际上,一个滤波器可以看成是一个系统,这个系统的目的是为了从含有噪声的数据中提取人们感兴趣的、或者希望得到的有用信号,即期望信号滤波器可分为线性滤波器和非o线性滤波器两种当滤波器的输出为输入的线性函数时,该滤波器称为线性滤波器,当滤波器的输出为输入的非线性函数时,该滤波器就称为非线 性滤波器。自适应滤波器是在不知道输入过程的统计特性时,或是输入过程的统计特性发生 变化时,能够自动调整自己的参数,以满足某种最佳准则要求的滤波器。仁1自适应滤波理论发展过程自适应技术与最优化理论有着密切的系。自适应算法中的最速下降算法以及最 小二乘算法最初都是用来解决有/无约束条件的极值优化问题的.1942年维

4、纳(Wiener)研究了基于最小均方误差(MMSE)准则的在可加性噪声中 信号的最佳滤波问题。并利用WienerHopf方程给出了对连续信号情况的最佳解。基于这准则的最佳滤波器称为维纳滤波器。20世纪60年代初,卡尔曼(Kalman)突 破和发展了经典滤波理论,在时间域上提岀了状态空间方法,提出了一套便于在计算机上实现的递推滤波算法,并且适用于非平 稳过程的滤波和多变量系统的滤波,克服了维纳(Wiener)滤波理论的局限性,并获 得了广泛的应用。 这种基于MMSE准则的对于动态系统的离散形式递推算法即卡尔曼 滤波算法。这两种算法都为自适应算法奠定了基础.1从频域上的谱分析方法到时域上的状态空间

5、分析方法的变革,也标志着现代控制理论的诞生。最优滤波理论是现代控制论的重要组成部分在控制论的文 献中,最优滤波理论也叫做Kalman滤波理论或者状态估计理论。从应用观点来看,Kalman滤波的缺点和局限性是应用Kalman滤波时要求知道系 统的数学模型和噪声统计这两种先验知识。然而在绝大多数实际应用问题中,它们是 不知道的,或者是近似知道的, 也或者是部分知道的应用不精确或者错误的模型和 噪声统计设计Kalman滤波器将使滤波器性能变坏,导致大的状态估计误差,甚至使 滤波发散。为了解决这个矛盾,产生了自适应滤波。最早的自适应滤波算法是最小JY (LMS)算法它成为横向滤波器的一种简单而有 效的

6、算法实际上,LMS算法是一种随机梯度算法,它在相对于抽头权值的误差信号平 方幅度的梯度方向上迭代调整每个抽头权值。1996年Hassibi等人证明了LMS算法在H.准则下为最佳,从而在理论上证明了LMS算法具有孥实性。 自Widrow等人1976年提出LMs自适应滤波算法以来, 经过30多年的迅速发展,已经使这一理论成果成功的应用到通信、系统辨识、信号处理和自适应 控制等领域,为自适应滤波开辟了新的发展方向。在各种自适应滤波算法中,LMS算 法因为其简单、计算量小、稳定性好和易于实现而得到了广泛应用。这种算法中,固 定步长因子U对算法的性能有决定性的影响。若U较小时,算法收敛速度慢,并且 为得

7、到满意的结果需要很多的采样数据,但稳态失调误差较小:当“较大时,该算法 收敛速度快,但稳态失调误差变大,并有可能使算法发散。收敛速度与稳态失调误差 是不可兼得的两个指标。以往的文献对LMS算法的性能和改进算法已经做出了相当多 的研究,并且至今仍然是一个重要的研究课题。另一类重要的自适应算法是最小二乘(LS)算法。LS算法早在1795年就由高斯 提出来了,但LS算法存在运算量大等缺点,因而在自适应滤波中一般采用其递推形式2-一递推最小二乘(RLS)算法,这是一种通过递推方式寻求最佳解的算法,复杂度比 直接LS算法小, 因而获得了广泛应用.1994年Sayed和Kai lath建立了Kalman滤

8、波和RLS算法之间的对应关系,证明了RLS算法事实上是Kalman滤波器的一种特例, 从而使人们对RLS算法有了进一步的 理解,而且Kalman滤波的大量研究成果可应用于自适应滤波处理。这对自适应滤波技 术起到了重要的推动作用。基本上,现有的参考文献都是基于这两种算法进行改进的。而这两种算法又可 以简单的用以下语句来描述:LMS:(抽头权向量更新值)二(老的抽头权向量值)+ (学习速率)(抽头输出向量)(误 差信号)RLS:(状态递推值)二(旧的状态值)+ (卡尔曼增益)(新息向量)以往的研究多集中在线性滤波方面,非线性滤波理论还有待于进一步的研究开发。1. 2自适应滤波发展前景现代信号处理理

9、论为自适应滤波技术的发展提供了广阔的空间尤其是小波技 术和人工智能理论的发展,更是推动和加快了自适应滤波技术的前进.1. 2. 1小波变换与自适应滤波小波变换是由法国地球物理学家Mo门et于80年代初在分析地球物理信 号时作为种信号分析的数学工具提出来的。通俗地讲,小波是一种短期 波在积分变换中,小波作为核函数的用法大体与傅立叶分析中的正弦和 余弦函数或与沃耳什(Wa I sh)分析中的沃耳什函数的用法相同。目前,小波 分析主要用于信号处理、图像压缩、次能带编码、医学显像、数据压缩、 地震分析、消除噪声数据、计算机图像、声音合成等领域。3小波变换的基 本特点是多分辨率或多标度的观点, 目的是“

10、既要看到森林 (信号的概貌) ,又要看到树木(信号的细节)” 借助于小波的精辟理论,自适应滤波技术有 了新的发展方向,这也引起了信号处理领域许多学者专家的浓厚兴趣和热 切关注。基于小波变换的自适应滤波技术是未来自适应滤波发展的方向之一,有着广阔的应用前景。目前还有许多问题亟待解决,例如不同形式的小波 滤波器的滤波效果研究;在时变信号滤波方面的应用研究以及对于失调噪 声的滤波等等。1. 2. 2模糊神经网络与自适应滤波神经网络作为一种新的计算方法,已经引起了人们广泛的研究兴趣神经网络可以认为是一种由许多称为“神经元”(neuron)的基本计算单元通过广泛的连接所组成的网络。它是在现代神经科学研究

11、成果的基础上提出来的,反映了人脑功能的 基本特征。网络的信息处理由神经元之间的相互作用来实现,网络的学习与识别决 定于各神经元之间联接权系数的动态变化过程.人工神经网络是模仿和延伸人脑认知功能的新型智能信息处理系统,由于神经 元本身具有高度自适应性,因而由大量神经元组成的神经网络具有自学习性、自组 织性、巨量并行性、存储分布性、结构可变性等特点,能解决常规信息处理方法难 以解决或无法解决的问题.模糊技术也是现代智能理论的一个重要方面。利用模糊技术我们可以很容易的 将人们熟悉的语言描述应用到自动控制或信号处理中来,然而,模糊理论与神经网 络都存在着各自的优缺点。模糊逻辑和神经网络在许多方面具有关

12、联性和互补性。它们的交叉研究正是基 于二者互补性和关联性的结合。首先,两者具有互补性.一方面,模糊技术的特长在 于模糊推理能力,容易进行高阶的信息处理。将模糊技术引入神经网络,可以大大拓 宽神经网络4处理信息的范围和能力,使其不仅能够处理精确信息,也能够处理模糊 信息或其它不精确信息,不仅能够实现精确性联想及映射,也能够实现不精确性联想 及映射,特别是模糊联想和模糊映射。另一方面,神经网络在自学习和自动模式识别 方面有极强的优势,采取神经网络技术进行模糊信息处理,则使得模糊规则的自动提 取及隶属函数的全自动生成有可能得以解决.其次, 两者具有关联性, 有许多共同点。它们都着眼于模拟人的思维,都

13、是为了处理实际中不确定性、不精确性等引起的系 统难以控制等问题两者在形式上有不少相似之处,其信息都是分布式存储于其结构 之中,从而都具有好的容错能力。不管是神经网络还是模糊逻辑,都不需要建立数 学模型,只需根据输入的采样数据去获取所需的结论,也就是模型无关估计器.另外, 神经网络的映射功能早已得到证明。近年来,Kosko、Lo X. Wang等证明了模糊系统 能以任意精度逼近紧密集上的实连续函数,这也说明了二者之间有着密切的关系。因此,将两者融合在一起的模糊神经网络可以有效的克服两者的缺点,提高整个 网络的性能。譬如;神经网络可以降低透明程度,使它们更接近于模糊系统;而模糊 系统可以提高自适应

14、性,更接近于神经网络。神经网络与模糊神经网络有力的推动 了自适应滤波技术,特别是非线性自适应滤波技术的发展。事实上,一个神经网络 或模糊神经网络本身就可以看作是一个自适应滤波器.第2章线性自适应滤波理论线性自适应滤波理论比非线性自适应滤波理论发展的比较早、比较成熟这里只 重点介绍基本的最小均方(LMS)年tl最小二乘(LS)自适应滤波器。2 1最小均方自适应滤波器本节所讨论的LMS算法是应用最广泛的一类算法,从理论体系上来看,最优化方 法中的最速下降法是随机梯度信息处理的一种递归算法,在误差性能未知的情况下, 它可以5寻求误差曲面的最小点,可为平稳随机条件下的LMS算法提供若干启发性思 路,并

15、且是分析算法性能的重要基础.2. 1. 1最速下降算法最速下降法是一种不用求矩阵逆来解正规方程组的方法。它通过递推方式寻求 加权矢量的最佳值。虽然在自适应滤波中很少直接使用最速下泽算法,但它构成了 其它自适应算法、特别是LMS算法的基础。图2. 1表示一个横向滤波器.图21横向滤波器输入矢量为%(/?) = %(/?,A(?-1),.,X(7?-M + 1);(2 1 )加权矢量(即滤波器参数矢量)为”3) =%(), w(),()丫(22)滤波器输出为my(n)=工vVj (/: )x(/7 -/ +1)= w1(” )x(/7)(23)利用图21中输出信号y(n)与期望信号的d (n)的关

16、系,误差序列e(n)可以写成:e (n) =d (n) y (n)( 24)自适应滤波器就是根据误差序列8(行)按照某种准则和算法对其系数w (n)进行调 整,最6终使自适应滤波器的目标(代价)函数达到最小,即最佳滤波状态。按照均方 误差(MSE)准则所定义的目标函数是F (e (n) = 4 (n) =Ee2(n)=Ed2(n) -2d (n) y (n) +y2(n) (2-5)将式(2-3)代入上式,得到g (n) =E d2(n) -2E d (n) wT(n) x (n) +E wT(n) x (n) xT(n) w (n) (2-6)固定滤波器系数,则目标函数(26)可写为 (n)

17、 = =E d2(n)一2wTp+wTw(2.刀式中,R=Ex (n)xT(n)是输入信号的自相关矩阵;P=E d(n) x(n)是期望信号与输入信号的互相关矢量。假设输入自相关矩阵R为非奇异的,当R与P均已知时,将式(2. 7)对W求导数,并令其等于零,可得到使目标函数最小的最佳滤波参数W。为Wo =RP(28)这个解称为维纳解,即最佳滤波参数值。从式(2. 7)可以看出,自适应滤波器的目7标函数是滤波参数W的二次函数,因此形成了一个多维的超抛物曲面,二维时好像是 一个碗状的曲面且具有唯一的碗底最小点这个多维的超抛物曲面通常称之为自适 应滤波器的误差性能曲面。位于该曲面上的某一点,经过自适应

18、调节过程,可以朝碗 底最小方向移动,最终到达最小点。最速下降法就是实现这种从初始值到最佳值搜 索的一种优化技术,它利用梯度信息分析白适应滤波性能和最佳滤波状态,避免了 对输入信号自相关矩阵R直接求逆。可以想象,沿着2减小的方向调整权值W,应该 可以找到最佳值W。,因为梯度的方向是增长最快的方向,所以负的梯度方向就是E减少最快的方向,这样,就可以采用如下的递推公式来调整w以寻找w.:W他 +1)-w(E + /2-V(n)(2-9)式中,()代表珂时刻孝的梯度,是一个MX 1维的矢量,这里M为滤波器滤波权系数 的数目;u是一个正实常数,通常被称为步长或步长因子。根据梯度定义,()可以写成:=-E

19、2en)x(n)将式(2. 7)对W取偏导,可以得到:V(w) = -2P + 2Rw(n)将式(2-11)代入式(2-9)可得到最速下降法的递推公式:w(n +1)二w何十2“P Rw(/t)(212)有关最速下降法的收敛性,这里只给出其结果当最速下降法满足下面条件时是收敛 的:0U入max式中,入环是自相关矩阵R的最大特征根。(2“0)(2小)82 1. 2最小均方算法如上节所述, 要使用最速下降法, 就要知道均方误差性能函数的梯度的精确值, 见 式(2-11),这就要求输入信号x (n)和期望信号d (n)平稳,并且要求它们的二 阶统计特性已知而这是相当复杂的,很多情况下它们是未知的或不

20、完全知道的,因 此一般采用梯度的估计值V(n)来代替梯度(“),即w(n + l) = w(R)-“0(q(2-14)最小均方(LMS)算法就是使用瞬时输出误差功率的梯度 bE e2(n)J作为均方误差梯度 DEe2(n)的估计值,也就是令(n)二可/何(2-15)将式(215)代入式(2-14),有W(W4-1) = W(力亠刃)】=w(w) - wr(w)x(w):=w(w) 42“(H)X(X)(2-16)式(2. 16)就是LMS算法的递推公式。自适应LMS算法简单,既不需要计算输入信号的相关函数,又不需要求矩阵的逆,因而得到了广泛应用但是,由于LMS算法采用梯度矢量的瞬时估计,它有很

21、大的方差,以至不能获得最优滤波性能。下面给出完整的算法步骤:有关参量:M滤波器抽头数;U一步长;0R(MPj_1,Pin=E xi (n)2初始条件:w (0)=0或者由先验知识确定9计算步骤:对于H二1,2,取x (n), d (n)(2)滤波y(n) =Wr(n) x (n)10(3)估计误差e(n) =d (n) -y (n)(4)更新权向量w (H+1) =w (n) +ue (n)x (n)当滤波器的输入信号为有色随机过程时,特别是输入信号为高度相关的情况,大多 数自适应滤波算法的收敛速度都要下降,对于上述典型LMS算法。此问题更加突出。 为了提高收敛速度,相继提出了多种改进的算法下

22、面给出几种改进的权值递推公 式:(1)归一化LMS算法:式中,0口1为控制失调的固定收敛因子;Y是为了避免XT(n) x(n)过小而导致步长值太大而设置的正常数。(2)简化的LMS算法:w(w +1) = w(w) + 25zgMx()e(w)(2-或W+ 1) = w(H)+ 2/,ix(ti)signe(n)(2-19)或w(“ + 1) = w() + 2psigr(n)sige(n(2-20)式中,signx) = * -l,x00 ,x = 01(3) MLMS算法:W( 丰1) = w(w) 4-( + l)e财 5 +1)x(灯+1)(2-21)式中,=M + xr( + lMn

23、 + l);财 5 +1)二(刃 +1) - wr(w)x(n +1)以上这几种改进LMS算法中,前两种都是交步长方法,后一种采用的是改变梯度估值 的方法。除了这几种方法以外,还有很多改进的算法,比如变换域LMS算法,该算法 适用于输入信号具有高度相关性的情况下;频域LMS算法,该算法与经典梯度下降法w(w + l)- w(n) +k 亦他丽(2-17)相比较有着更好的收敛性;分块LMS算法,与其它方法相比该算法计算量大为减少; 最小高阶均方(LMK)算法,该算法是LMS算法的扩展,或者说LMS算法是该算法的特 例,当系统噪声为非高斯分布时,LMK算法要比LMS算法收敛精度高;QR分解LMS算

24、法,该算法适用于横向延迟线抽头数目比较小的情况。其它方法这里不再列举。2. 2递归最小二乘自适应滤波器最小二乘(LS)法是一种典型的有效的数据处理方法,既可用于静态系统,又可 用于动态系统:既可用于线性系统,又可用于非线性系统;既可用于离线估计,又可 用于在线估计。递归最小二乘(Recursive Least Square简写RLS)是最小乘法的一 种快速算法,它包含时间递归最小二乘(TRLS)算法和阶数递归最小二乘(ORES)算 法两方面内容,一般前者适用于动态系统辨识和在线估计,后者适用于静态系统辨 识和离线估计。与LMS算法相比,RLS算法有着非常快的收敛速度。11图22自适应RLS算法

25、采用RLS算法的自适应滤波器如图2-2所示。输入信号x (n),含有N个已知样本x,x (2) , x(3) -x (N) ,期望输出为d (n) =d(1),d (2),d(N)。 滤波器输出为二工叫(ji)xn一 丘 +1);w = 12,N(2-22)M为滤波器长度,且MWN.误差信号为e(n) =d (n) -y (n)(223)按照最小平方准则,设计滤波器目标函数为帥)=Jy二 犯)_w)F(2-24)丿=1/si将式(222)代入式(224)得到g何二fM上-2工u;-去 +1)归11=1M MN+ 工工W*(M)%(可工x(i- k + 1)x(/一用 +1)(2-25)ft*L

26、r-1定义如下参量:?0(N;火,加)=工x(d-fc)x(Z-w)Jk,m =0,1,M -1(2-26)r=l为确定性自相关函数,表示输入信号在抽头k与抽头m之间两信号的相关性:e(N約=fR就一幻;“ 081,M-1(2-27)为确定性互相关函数,表示期望响应与在抽头K输入信号之间的互相关性:码”十0)(2-28)1-1为期望响应序列的能量。将式(2-26)(228)代入式(2. 25),目标函数可写为M52 & 5) 一2工叫幺冷1)+ 工 叫(2-29)因此有唤)如(叭 令式(230)等于零,得到2枸(训(N; 1期0(N;A-1);“ 1,2,,M(2-31)w=1M一2O

27、(N;斤一1) 4 2工()0(N;k -1”一1)(2-30)”1=1把它简化成矩阵形式,有何w) - G(w)(232)式中,w(n)为MX1维最小平方估计的滤波器系数矢量,即W何二叫(心粘(心,(W)r(233)(n)为延迟线抽头输入信号的确定性自相关函数,是一个MXM维矩阵即0(乃;0,0d(n:OJ) -匕0) 0(n;M -1,1)0 (n)为脉冲响应序列与输入信号之间的确定性互相关函数MX 1维矢量,即e()=0(n;o),0(n;i.8e(n;Af - )r(2-35)假定矩阵O(n)是非奇异的,其逆矩阵存在,则由(2-32)可求得w(w)= O)0(刀;1)0(讥M-1)(2

28、-34)(2-39)(238)() = 一1) +x(n)xT(n)利用矩阵求逆定理十BCD)DAlBy1DA1再由式(2-39)可求得(”_1)_T(R-i)x(n),(n)(2-44)上式两边右乘x (n)P(n)x(n) = P(n - l)x(w) - l)x()(2-45)用式(2. 43)中分母多项式右乘上式两边, 整理得到K(w)xr(n)P(-l)x(rt)- P3 l)x(n)-K(”)(2-46)把上式带入式(245)中,可化简成下式K(n)工PS)x)(2-47)另外,根据式(2. 27)有如下递推关系式0(n k)二Q(n T; *) + d(n)x(n - k)(24

29、8)写成矩阵形式0(w) =Q(n-1) 1d(n)x(n)(2-49)式中M X 1维矢量d (n) x (n)代表递归计算的更新校正项,把式(242)代入式(2-36)得到:(2M0)w(w) = P(w)O(h)(2-50)再将式(2-49)代入上式,并由式(2-47)可得到w(n) = P(n)0(n一1) + P(rt)c/(w)x(n)=P(n)9G-1) + K5)如)(2-51)将式(244)代入式(251)中,且根据式(250)有W(M)= P(刃 一1)9(一1)一K(n)xT(n)P(n一1)0(M一1) +K(ri)d(n)二w(n-1) +K(n)d(n)-xT(n)

30、w(n一1)(2-52)上式就是RLS算法的递推公式。与LMS算法相比较,两者的主要差别在于增益系数,LMS算法简单的利用输入矢量乘上常数,而RLS算法则用较复杂的K(n)。下面给出RLS算法的初始条件以及运算步骤:初始条件:w (0) =0;P(0)二 Z(0)二&-打为小的正实数运算步骤:对于n=1,2, -(1)取d (n), x (n)更新增益矢壘K()二一黑二空yi+*(刃)PS-5何更新滤波器参数W)=吩-1)+ K(“)他-xJ(M)w(-D更新逆矩阵P()=P(n + l_KS)x?E第3章仿真在mat lab中输入以下程序,可得出仿真结果g=100;%统计仿真次数为g

31、N=1024;%输入信号抽样点数k=128;%滤波器阶数pp二zeros (g, N-k);%将每次独立循环的误差结果存于矩阵PP中,以便后面对其平均u=0. 00026;%滤波器收敛因子for q=1 : gth :N;a=1;s二a次sin (0. 05*pi*t);%输入单信号sfigured);subp Iot (411)plot (s);%信号s时域波形title(信号s时域波形);x I abe I ( n);3 o 1基于LMS算法的MATLAB仿真=1ax i s (0, N,一a一1, a+1);xn=awgn (s, 5) ;%加入均值为零的高斯白噪声EXN=xn( (i-k+1) : (i);y (i)二w*XN;e(i)=s(i) y (i);w二w+u*e(i) *XN;endpp(q,:)= (e(k+1) :N).八2;end subp Iot (412)plot (xn) ;%信号s时域波形title(信号功口噪声后的时域波形);subplot (413)p I ot (y);%信号s时域波形titleC自适应滤波后的输出时域波形);subp Iot (414)%设置初值y=zeros (1, N);y (1: k) =xn (1: k);%输出信号y值w=zeros (1,k);e=zeros (1, N);%用1$算法迭代滤波

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论