现代信号处理ch1.ppt

1,第三章 自适应信号处理,2019年6月18日,2,主要内容,随机信号的最优预测和滤波 最优滤波理论与维纳滤波器 横向LMS自适应数字滤波器 横向RLS自适应数字滤波器 自适应格型滤波器 快速横向滤波（FTF）自适应算法 无限脉冲响应自适应滤波器 盲自适应信号处理 同态滤波及倒谱 自适应滤波器应用,3,四、横向RLS自适应数字滤波器,基本思想 RLS算法 RLS滤波算法与Kalman滤波算法 比较,4,四、横向RLS自适应数字滤波器,基本思想 把最小二乘法(LS)推广为一种自适应算法，用来设计自适应的横向滤波器，利用n-1时刻的滤波器抽头权系数，通过简单的更新，求出n 时刻的滤波器抽头权系数。这样一种自适应的最二乘算法称为递归(递推)最小二乘算法, 简称RLS算法。,5,四、横向RLS自适应数字滤波器,RLS算法,基本方程 考虑指数加权的最小二乘法，其代价函数为,式中 , 称为遗忘因子, 其作用是对离n时刻越近的误差加越大的权重, 而对离n时刻越远的误差加越小的权重, 即该参数对各个时刻的误差具有某种遗忘作用。 式(1a)中, 误差函数定义为,式中 表示i 时刻的期望响应。,BACK,6,四、横向RLS自适应数字滤波器,RLS算法,i) 有些著作中, 把式中的 写作 , 且 ii)式中滤波器抽头权向量取为n时刻的权向量, 理由如下: 在自适应更新过程中, 滤波器特性总是越来越好, 这意 味着,对任何时刻而言, 总有,故使用 作为误差函数比使用e(i)更为合理。 iii) 和e(i)分别称为滤波器在i 时刻后验估计误差和 先验估计误差,关于误差函数定义式 的讨论,7,四、横向RLS自适应数字滤波器,RLS算法,合并(1a)和(1b)得,显然，它是 的函数。由,其解,式中,易得,式(3)表明, 指数加权最小二乘问题(2)的解亦为维纳解。 下面考虑它的自适应更新问题。,BACK,8,四、横向RLS自适应数字滤波器,RLS算法,自适应更新 根据式(4)，易得其递推估计公式,令P(n)=R-1(n) 利用,可得,定义Kalman增益向量:,则有,BACK,9,四、横向RLS自适应数字滤波器,RLS算法 利用上式, 易证,注意:上面推导中,利用了(7)。再利用(3)、(5b)和(8)、(9a)得,10,四、横向RLS自适应数字滤波器,RLS算法 根据上式, 有,其中,作为比较,下面重列LMS算法迭代式：,结论: 用Kalman增益向量k(n)代替LMS算法中 即得RLS算法。,利用(9c)和(7),11,四、横向RLS自适应数字滤波器,RLS算法,步骤1：初始化： , 是一个小的正数 步骤2：更新：对n=1,2,计算,RLS算法步骤:,即(7),即(8),12,关于RLS算法的收敛速度问题 因为,四、横向RLS自适应数字滤波器,RLS算法,故,结论:RLS算法在权向量的更新方程中, 比LMS算法多了迭代矩阵P(n), 而该矩阵可看作代价函数二阶导数矩阵的近似逆矩阵, 因此RLS收敛速度快于LMS算法.,而,作为比较,再次重列LMS算法迭代式：,即(9c),13,四、横向RLS自适应数字滤波器,RLS算法与Kalman滤波算法比较,考虑一特殊的“无激励”动态模型：,式中s(n)为模型的状态向量, y(n)为一标量观测值或参考信号,u(n)观测向量, v(n)是零均值、方差为1的一标量白噪声过程。 为正常数。由式(11a)易知,式中s(0)是状态向量的初始值。将上式代入式(11b),则有,14,四、横向RLS自适应数字滤波器,RLS算法与Kalman滤波算法比较,或等效写为,从Kalman滤波观点看,这表示无激励动态模型的随机性。 与采用随机模型的Kalman滤波器不同, RLS算法则采用确定模型, 即期望信号(参考信号)可用线性回归模型表示为,其中w0是模型参数向量,u(n)为输入向量,e0(n)为观测噪声。,15,四、横向RLS自适应数字滤波器,RLS算法与Kalman滤波算法比较,若令Kalman滤波器中状态向量的初始值等于RLS算法中抽头权向量, 即,则容易看出, RLS算法的确定模型(14)与Kalman滤波算法的特殊随机模型(13)等价的条件如下：,式中左边为状态空间模型参数,右边为线性回归模型参数,结论： RLS自适应算法使用的确定性线性回归模型是Kalman滤波算法的一种特殊的无激励的状态空间模型,16,四、横向RLS自适应数字滤波器,RLS算法与Kalman滤波算法比较,表1 Kalman滤波算法与RLS滤波算法之间的变量对应关系,17,主要内容,随机信号的最优预测和滤波 最优滤波理论与维纳滤波器 横向LMS自适应数字滤波器 横向RLS自适应数字滤波器 自适应格型滤波器 快速横向滤波（FTF）自适应算法 无限脉冲响应自适应滤波器 盲自适应信号处理 自适应滤波器应用,18,五、自适应格型滤波器,m阶前向预测 m阶前向预测误差 m阶前向预测误差平方和 按使(3)式最小的准则求得的 称为最小二乘前向预测系数。,前向预测和后向预测,19,五、自适应格型滤波器,令m阶前向预测误差矢量 、当前数据矢量 、前向预测系数矢量 以及数据矩阵 分别为 于是有,前向预测和后向预测,20,五、自适应格型滤波器,根据矢量空间的概念，由 的列矢量对 所作的最小二乘（最佳）前向预测 是 在 上的投影，即 式中， 是 的投影矩阵，有 m阶前向预测误差矢量 是 对 的投影补 其中 是 的正交投影矩阵。,前向预测和后向预测,(10),(11),21,五、自适应格型滤波器,m阶后向预测 m阶后向预测误差 令m阶后向预测误差矢量 、后向预测矢量 ，后向预测系数矢量 以及数据矩阵 分别为,前向预测和后向预测,(12),(13),(14),(16),(15),22,五、自适应格型滤波器,则有 由矢量空间的概念，有,前向预测和后向预测,(17),(18),(19),(20),(21),23,五、自适应格型滤波器,预测误差矢量的范数的平方即预测误差功率，称为预测误差剩余。前向和后向预测误差剩余分别定义为,前向预测和后向预测,(22a),(22b),(23a),(23b),24,五、自适应格型滤波器,前向预测误差和后向预测误差按阶递推计算（阶更新）公式：,预测误差滤波器的格型结构,25,五、自适应格型滤波器,如果给出 就可以得到m阶预测误差滤波器的格型结构，见书P88的图3.28(b)。,预测误差滤波器的格型结构,26,五、自适应格型滤波器,前向预测误差剩余和后向预测误差剩余按阶更新的公式分别为： 以上公式中涉及到 的更新，其更新公式为： 其中 为角参量，它的阶更新公式为,最小二乘格型自适应算法,27,五、自适应格型滤波器,LSL自适应算法的计算流程如下： （1）初始化 （2）迭代计算（按时间n=1,2,),最小二乘格型自适应算法,28,五、自适应格型滤波器,（3）迭代计算（按阶m=0,1,M-1） 同阶的 嵌套着按时间进行迭