自适应滤波算法的研究

1 自适应滤波算法的研究自适应滤波算法的研究 第 1 章 绪论 1 1 课题背景 伴随着移动通信事业的飞速发展 自适应滤波技术应用的范围也日益 扩大 早在20世纪40年代 就对平稳随机信号建立了维纳滤波理论 根据 有用信号和干扰噪声的统计特性 自相关函数或功率谱 用线性最小均方 误差估计准则设计的最佳滤波器 称为维纳滤波器 这种滤波器能最大程 度地滤除干扰噪声 提取有用信号 但是 当输入信号的统计特性偏离设 计条件 则它就不是最佳的了 这在实际应用中受到了限制 到60年代初 由于空间技术的发展 出现了卡尔曼滤波理论 即利用状态变量模型对非 平稳 多输入多输出随机序列作最优估计 现在 卡尔曼滤波器己成功地 应用到许多领域 它既可对平稳的和非平稳的随机信号作线性最佳滤波 也可作非线性滤波 实质上 维纳滤波器是卡尔曼滤波器的一个特例 在设计卡尔曼滤波器时 必须知道产生输入过程的系统的状态方程和 测量方程 即要求对信号和噪声的统计特性有先验知识 但在实际中 往 往难以预知这些统计特性 因此实现不了真正的最佳滤波 Widrow B等于1967年提出的自适应滤波理论 可使自适应滤波系统的 参数自动地调整而达到最佳状况 而且在设计时 只需要很少的或根本不 需要任何关于信号与噪声的先验统计知识 这种滤波器的实现差不多象维 纳滤波器那样简单 而滤波性能几乎如卡尔曼滤波器一样好 因此 近十 几年来 自适应滤波理论和方法得到了迅速发展 1 自适应滤波是一种最佳滤波方法 它是在维纳滤波 Kalman滤波等线 性滤波基础上发展起来的一种最佳滤波方法 由于它具有更强的适应性和 更优的滤波性能 从而在工程实际中 尤其在信息处理技术中得到广泛的 应用 自适应滤波的研究对象是具有不确定的系统或信息过程 不确定 是指所研究的处理信息过程及其环境的数学模型不是完全确定的 其中包 2 含一些未知因数和随机因数 任何一个实际的信息过程都具有不同程度的不确定性 这些不确定性 有时表现在过程内部 有时表现在过程外部 从过程内部来讲 描述研究 对象即信息动态过程的数学模型的结构和参数是我们事先不知道的 作为 外部环境对信息过程的影响 可以等效地用扰动来表示 这些扰动通常是 不可测的 它们可能是确定的 也可能是随机的 此外一些测量噪音也是 以不同的途径影响信息过程 2 这些扰动和噪声的统计特性常常是未知的 面对这些客观存在的各种不确定性 如何综合处理信息过程 并使某一些 指定的性能指标达到最优或近似最优 这就是自适应滤波所要解决的问题 可见 自适应滤波算法的研究与实际状况有着密不可分的关系 具有 重要的意义 1 2 国内外目前的研究状况 最早人们根据生物能以各种有效的方式适应生存环境从而使生命力变 强的特性引伸出自适应这个概念 自适应滤波器属于现代滤波器的范畴 它是 40 年代发展起来的自适应信号处理领域的一个重要应用 60 年代 美国 B Windrow 和 Hoff 首先提出了主要应用于随机信号处理的自适应滤波 器算法 从而奠定自适应滤波器的发展 所谓自适应滤波器 即利用前一 时刻已获得的滤波器参数等结果 自动地调节现时刻的滤波器参数 以适 应信号与噪声未知的或随时间变化的统计特性 从而实现最优滤波 自适应信号处理主要是研究结构可变或可调整的系统 它可以通过自 身与外界环境的接触来改善自身对信号处理的性能 通常这类系统是时变 的非线性系统 可以自动适应信号传输的环境和要求 无须详细知道信号 的结构和实际知识 无须精确设计处理系统本身 自适应系统的非线性特 性主要是由系统对不同的信号环境实现自身参数的调整来确定的 自适应 系统的时变特性主要是由其自适应响应或自适应学习过程来确定的 当自 适应过程结束和系统不再进行时 有一类自适应系统可成为线性系统 并 称为线性自适应系统 因为这类系统便于设计且易于数学处理 所以实际 3 应用广泛 本文研究的自适应滤波器就是这类滤波器 自适应信号处理的 应用领域包括通信 雷达 声纳 地震学 导航系统 生物医学和工业控 制等 3 自适应滤波器出现以后 发展很快 由于设计简单 性能最佳 自适 应滤波器是目前数字滤波器领域是活跃的分支 也是数字滤波器研究的热 点 主要自适应滤波器有 递推最小二乘 RLS 滤波器 最小均方差 LMS 滤波器 格型滤波器 无限冲激响应 IIR 滤波器 其中 LMS 滤波器和 RLS 滤波器具有稳定的自适应行为而且算法简单 收敛性能良好 将作为 本文研究的重点 自适应滤波器是相对固定滤波器而言的 固定滤波器属于经典滤波器 它滤波的频率是固定的 自适应滤波器滤波的频率则是自动适应输入信号 而变化的 所以其适用范围更广 在没有任何关于信号和噪声的先验知识 的条件下 自适应滤波器利用前一时刻已获得的滤波器参数来自动调节现 时刻的滤波器参数 以适应信号和噪声未知或随机变化的统计特性 从而 实现最优滤波 自适应滤波器是以最小均方误差为准则 由自适应算法通过调整滤波 器系数 以达到最优滤波的时变最佳滤波器 设计自适应滤波器时 可以 不必预先知道信号与噪声的自相关函数 在滤波过程中 即使噪声与信号 的自相关函数随时间缓慢变化 滤波器也能自动适应 自动调节到满足均 方误差最小的要求 自适应滤波器主要由参数可调的数字滤波器和调整滤 波器系数的自适应算法两部分构成自适应滤波器的一般结构 实际上 自 适应滤波器是一种能够自动调整本身参数的特殊维纳滤波器 在设计时不 需要实现知道关于输入信号和噪声的统计特性的知识 它能够在自己的工 作过程中逐渐 了解 或估计出所需的统计特性 并以此为依据自动调整 自己的参数 以达到最佳滤波效果 一旦输入信号的统计特性发生变化 它又能够跟踪这种变化 自动调整参数 使滤波器性能重新达到最佳 4 第第 2 章章 自适应滤波的原理及应用自适应滤波的原理及应用 4 2 1 引言 在对随机信号处理过程中经常用到的是维纳滤波器和卡尔曼滤波器两 种滤波器 维纳 Weiner 滤波 它根据平稳随机信号的全部过去和当前的 观察数据来估计信号的当前值 在最小均方差的条件下得到系统的传递函 数或者冲击响应 它是一种最优线性滤波方法 参数是固定的 适用于平 稳随机信号 卡尔曼滤波 它是依据当前时刻数据的观测值和前一时刻对 该时刻的预测值进行递推数据处理的滤波算法 它自动调节本身的冲击响 应特性 或者说 自动的调节数字滤波器的系数 以适应信号变化的特性 从而达到最优化滤波 它的参数是时变的 适用于非平稳随机信号 然而 只有对信号噪声的统计特性先验已知的情况下 这两种滤波器才能获得最 优滤波 可是 在实际应用中 常常无法得到这些统计特性的先验知识 或者 统计特性是随时间变化的 因此 用维纳或卡尔曼滤波器实现不了 最优滤波 在这种情况下 自适应能够提供卓越的滤波性能 5 2 2 自适应滤波器的基本原理 所谓自适应滤波 就是利用前一时刻己获得的滤波器参数等结果 自 动的调节现时刻的滤波器参数 以适应信号和噪声未知的或随时间变化的 统计特性 从而实现最优滤波 自适应滤波器实质上就是一种能调节其自 身传输特性以达到最优化的维纳滤波器 自适应滤波器不需要关于输入信 号的先验知识 计算量小 特别适用于实时处理 由于无法预先知道信号和噪声的特性或者它们是随时间变化的 仅仅 用FIR和IIR两种具有固定滤波系数的滤波器无法实现最优滤波 在这种情 况下 必须设计自适应滤波器 以跟踪信号和噪声的变化 自适应滤波器是以最小均方误差为准则 由自适应算法通过调整滤波 器系数 以达到最优滤波的时变最佳滤波器 设计自适应滤波器时 可以 不必预先知道信号与噪声的自相关函数 在滤波过程中 即使噪声与信号 的自相关函数随时间缓慢变化 滤波器也能自动适应 自动调节到满足均 方误差最小的要求 自适应滤波器主要由参数可调的数字滤波器和调整滤 波器系数的自适应算法两部分构成自适应滤波器 参数可调数字滤波器可 5 以是FIR滤波器或IIR数字滤波器 也可以是格形滤波器 6 图2 1示出了自适应滤波器的一般结构 图2 1 自适应滤波原理图 图中 为输入信号 为输出信号 为参考信号或期望信 x n y n d n 号 则是和的误差信号 自适应滤波器的滤波器系数受误差 e n d n y n 信号控制 根据的值和自适应算法自动调整 e n e n 一个自适应滤波器的完整规范是由如下三项所组成的 1 应用 在过去十年中 自适应技术在更多的应用场合 比如回波消 除 色散信道的均衡 系统辨识 信号增强 自适应波束形成 噪声消除 一级控制领域等 取得了成功 研究自适应滤波器的各种应用本文会简单考 虑一些应用例子 2 自适应滤波器结构 自适应滤波器可以用许多不同结构来实现 结 构的选取会营销到处理的计算复杂度 即每次迭代的算数操作数目 还会 对达到期望性能标准所需要的迭代次数产生影响 从根本上讲主要有两类 自适应数字滤波器结构 这是根据其冲激响应的形式来划分的 即有限长 冲击响应 FIR 滤波器和无限长冲激响应 IIR 滤波器 FIR滤波器通常利用 非递归结构来实现 而IIR滤波器则利用递归结构来实现 自适应FIR滤波 器结构 应用最广泛的自适应FIR滤波器结构是横向滤波器 也成为抽头延 自适应滤波 未知系统 x n y n e n d n r n 6 迟线 它利用正规直接形式实现全零点传输函数 二不采用反馈环节 对 于这种结构 输出信号是滤波器洗漱的线性组合 它产生具有惟一最 y n 优解的二次均方误差函数 为了得到相对于横向滤波器结构来说更好的性 能 这些性能是用计算复杂度 收敛速度和有限字长特征等来描述的 自适 应IIR滤波器结构 自适应IIR滤波器采用得最多的结构是标准直接形式结 构 因为它的实现和分析都很简单 然而 采用递归自适应滤波会存在一 些内在的问题 这些问题是由结构决定的 比如要求对极点的稳定性进行监 视 而且收敛速度很慢 为了克服这些问题 人们提出了不同的结构形式 3 算法 其中算法是为了使某个预先确定的准则达到最小化 而自适 应地调整滤波器系数的方法 算法是通过定义搜索方法 或者最小化算法 目标函数和无偿信号的特性来确定的 算法的选择据定了整个自适应过程 的几个重要因素 比如优解的存在性 有偏最优解和计算复杂度等 7 2 3 自适应 IIR 滤波器 自适应滤波器出现以后 发展很快 由于设计简单 性能最佳 自适 应滤波器是目前数字滤波器领域是活跃的分支 也是数字滤波器研究的热 点 主要自适应滤波器有 递推最小二乘 RLS 滤波器 最小均方差 LMS 滤 波器 格型滤波器 无限冲激响应 IIR 滤波器 其中 RLS 滤波器具有稳 定的自适应行为而且算法简单 收敛性能良好 实际情况中 由于信号和噪声的统计特性常常未知或无法获知 这就 为自适应滤波器提供广阔的应用空间 系统辨识 噪声对消 自适应谱线 增强 通信信道的自适应均衡 线性预测 自适应天线阵列等是自适应滤 波器的主要应用领域 自适应有限冲激响应 FIR 滤波器由于其收敛性和稳定性十分简单 现 已有相当完善的自适应算法 在信号处理领域 获得了广泛应用 但由于 它是非递归结构 冲激响应为有限长 当用于较高精度匹配的实际物理系 统时 所需阶次可能相当大 因而导致结构复杂 运算量大 自适应IIR滤 波器是一个具有无限冲激响应的递归滤波器 它的一个最重要的优点是 7 与相同系数个数的自适应FIR滤波器相比有更好的性能 这是因为输出的反 馈使有限数量的系数产生了无限冲激响应 使得零点与极点模型滤波器的 输出比起仅有零点的滤波器的输出能更有效地逼近期望响应信号 例如 一个有足够高阶数的自适应IIR滤波器可以精确地逼近一未知的零点与极点 系数阔 而一个自适应FIR滤波器只能近似逼近这一系统 反之 要达到相 同性能 IIR滤波器所需要的系数个数一般比FIR滤波器少得多 正是由于 这一潜在的计算量的优势 近十年来 自适应IIR滤波器的研究一直非常活 跃 出现了一批比较成熟的算法 可以预测 在许多应用中 自适应IIR滤 波器将取代正被广泛使用的自适应FIR滤波器 8 应该指出的是 与自适应FIR滤波器相比 自适应IIR滤波器在减少计 算量的同时也付出了一定的代价 由于反馈的存在 算法的收敛时间加大 其收敛性和稳定性分析都十分复杂 这是需要注意继续研究的问题 目前 在相同滤波性能条件下 自适应IIR滤波器的收敛性己可优于自适应FIR滤 波器 根据误差的不同表示 自适应IIR滤波器又可分为两种形式 方程误差 Equation Error 形式和输出误差 Output Error 形式 在很大程度上方程误差自适应IIR滤波器在很像一个自适应FIR滤波器 他们之间的主要区别在与方程误差自适应IIR滤波器就是一个零点一极点模 型 而自适应FIR滤波器是一个严格全零点模型 而输出误差形式的自适应 IIR滤波器的算法比方程误差IIR滤波器的算法要复杂的多 输出误差方法 中的滤波器输出仅由观测输入来产生期望响应 2 4 自适应滤波器的应用 近十几年来 自适应滤波理论和方法得到了迅速的发展 究其原因是 因为自适应滤波器相比于其他一般的滤波器在滤波性能 设计实现的难易 程度 对外部环境的复杂程度的适应能力和对系统先验统计知识的依赖程 度等方面都显现出强大的优势 自适应滤波器具有很强的自学习 自跟踪 能力和算法的简单易实现性 它在噪化信号的检测增强 噪声干扰的抵消 通信系统的自适应均衡 图象的自适应增强复原以及未知系统的自适应参 8 数辩识等方面都有广泛的应用 在本节中 我们将讨论输入信号和期望信 号的一些可能选择 并讨论这些选择是如何与应用联系在一起的 2 4 1 信号增强器 自适应滤波器的一个简单应用就是信号增强器 它被用来检测或增强 淹没在宽度噪声中的窄带随机信号 对于信号增强的情况 信号受噪 x k 声的污染 而且与噪声相关的信号是可以得到的 即可测量的 1 n k 2 n k 如果作为自适应滤波器的输入 而将受到噪声污染的信号作为期望信 2 n k 号 则当滤波收敛以后 其输出误差就是信号的增强形式 图 2 2 说明了 一种信号增强的典型配置 9 图 2 2 信号增强 其中和是彼此相关的噪声函数 1 n k 2 n k 2 4 2 系统辨识器 在系统辨识应用中 期望信号是未知系统受某个宽带信号激励时产生 的输出 在大多数情况下 输入是白噪声信号 宽带信号同时也被用来作 为图 2 3 所示的自适应滤波器的输入 当输出 MSE 达到最小时 自适应滤 波器就代表了未知系统的模型 2 4 3 信道均衡器 信道均衡器的作用是在信道通带内形成一个信道传输函数的逆 而在 通带之外它的增益则很小或者为零 因而 由信道和均衡器级联组成的系 统在 通带内有基本均匀的振幅特性 而带外基本为零 相位响应在带内是 自适应 滤波器 1 x kn k 2 n k e k 9 未知系统 自适应 滤波器 d k y k e k 频率的线性函数 如果条件满足 联合的冲激响应就是辛格函数 故符号 间干扰可被消除 自适应调整也解决了信道本身未知 时变的特性所带来 的困难 在信道均衡应用中 将发送的受信道失真影响的原始信号作为自适应 滤波器的输入信号 而期望信号是原始信号的时延形式 如图 2 4 所示 通常情况下 输入信号的时延形式在接收端是可以得到的 采用形式是标 准的训练信号 当 MSE 达到最小时 就表明自适应滤波器代表了信道的逆 模型 均衡器 图 2 3 系统辨识器 图 2 4 信道均衡器 n k d k e k 自适应 滤波器 L Z x k y k 信道 x k 10 2 4 4 信号预测器 最后 对于预测情形 期望信号是自适应滤波器输入信号的前向 有时 可能是后向 形式 如图 2 5 所示 当滤波器收敛以后 自适应滤波器就代 表了输入信号的模型 而且可以用来作为输入信号的预测器模型 L Z 自适应 滤波器 x k y k e k 图 2 5 信号预测器 第 3 章 LMS 自适应滤波算法分析 3 1 引言 LMS算法是1960年由Widrow和Hoff提出的最小均方误差 LMS 算法 LMS算法是基于估计梯度的最速下降算法的 由于采用粗糙的梯度估计值 得到的 从而其算法性能欠佳 应用范围受限 但是因为其具有计算量小 易于实现等优点而在实践中被广泛采用 典型的应用领域有系统识别 信 号处理和自适应控制 LMS算法的基本原理是基于最速下降法 即沿着权 值的梯度估值的负方向进行搜索 达到权值最优 实现均方误差最小意义 下的自适应滤波 初始收敛速度 时变系统跟踪能力及稳态失调是衡量自 适应滤波算法优劣的三个重要的技术指标 由于主输入端不可避免地存在 干扰噪声 自适应滤波算法将产生参数失调噪声 干扰噪声越大 则引起 的失调噪声就越大 减小步长因子产可降低自适应滤波算法的稳态失调 提高算法的收敛精度 15 11 3 2 最小均方差 LMS 算法 LMS 算法的判据是最小均方误差 即理想信号与滤波器输出 nd 之差的平方值的期望值最小 并且根据这个判据来修改权系数 ny ne 由此产生的算法称为最小均方算法 LMS 绝大多数对自适应滤波器 nwi 的研究是基于由 Widrow 提出的 LMS 算法 这是因为 LMS 算法的设计和 实现都比较简单 在很多应用场合都非常适用 16 令阶 FIR 滤波器的抽头系数为 滤波器的输入和输出分别为N nwi 和 则 FIR 横向滤波器方程可表示为 nx ny 3 1 令代表 所期望的响应 并定义误差信号 nd 3 2 1 inxnwndnyndne N i i 采用向量形式表示权系数及输入和 可以将误差信号写作w nX ne 3 3 WnXndnXWndne TT 误差的平方为 3 4 WnXnXWWnXndndne TTT 2 22 上式两边取数学期望后 得均方误差 3 5 WnXnXEWWnXndEndEneE TTT 2 22 定义互相关函数向量 3 6 TT Xd REd n Xn 和自相关函数矩阵 3 7 nXnXER T XX 所以均方误差可表述为 3 8 WRWWRndEneE XX TT Xd 2 22 这表明均方误差是权系数向量的二次函数 它是一个凹的抛物形曲W 面 是具有唯一最小值的函数 调节权系数使均方误差为最小 相当于沿 抛物形曲面下降找最小值 可以用梯度法来求该最小值 将式 3 8 对权系数求导数 得到均方误差函数的梯度 W 1 inxnwny N i i 12 3 9 令 0 即可以求出最佳权系数向量 n 3 10 XdXXopt RRW 1 将代入式 3 8 得最小均方误差 opt W 3 11 opt T XdW RndEneE 2 min 2 利用式 3 11 求最佳权系数向量的精确解需要知道和的先验统计 xx R xd R 知识 而且还需要进行矩阵求逆等运算 Widrow 和 Hoff 提出了一种在这 些先验统计知识未知时求的近似值的方法 习惯上称之为 Widrow Hoff opt W LMS 算法 这种算法的根据是最优化方法中的最速下降法 根据这个最速 下降法 下一时刻 权系数向量应该等于 现时刻 权系数向量 1 nW 加上一个负均方误差梯度的比例项 即 nW n 3 12 1 nnWnW 式中的是一个控制收敛速度与稳定性的常数 称之为收敛因子 不难看出 LMS 算法有两个关键 梯度的计算以及收敛因子的 n 选择 精确计算梯度是十分困难的 一种粗略的但是却十分有效的计算 n 的近似方法是 直接取作为均方误差的估计值 即 n 2 ne 2 neE 3 13 2 2 nenene 式中的为 ne 3 14 nXnXnWndne T 将 4 14 代入式 4 13 中 得到梯度估值 3 15 2 nXnen 于是 Widrow Hoff LMS 算法最终为 3 16 2 1 nXnenWnW 3 3 最小均方差 LMS 算法的性能分析 LMS 算法的性能准则是采用瞬时平方误差性能函数 e k 2代替均方误 差性能函数 E e k 2 其实质是以当前输出误差 当前参考信号和当前权 WRR W neE W neE neEn XXXd T N 22 2 1 2 2 13 系数求得下个时刻的权系数 其输出信号 输出误差及权系数的计算公式为 17 y k e k W k 3 17 2 1 knkxkd kXknWkW kykdke kXkWky e T 为迭代次数 M 为滤波器的阶数 表示第时刻的输入信号矢k d kk 量式中 式中 表示参考信号的信号矢量 kX 3 18 1 1 MknknknkX 分别表示第时刻的输出信号与输出误差 W k 表示时 y k e kkk 刻权系数矢量 3 19 0 1 1 W kW kW kW k M 表示 LMS 算法步长收敛因子 自适应滤波器收敛的条件是 3 20 max 1 0 其中是输入信号的自相关矩阵 R 的最大特征值 的选取必须在收敛 max 速度和失调之间取得较好的折中 既要具有较快的收敛速度 又要使稳态误 差最小 它控制了算法稳定性和自适应速度 如果很小 算法的自适应 速度会很慢 如果很大 算法会变得不稳定 由于 LMS 算法结构简单 计算量小 稳定性好 因此被广泛应用于系统辨识 信号增强 自适应波 束形成 噪声消除以及控制领域等 在最小均方差 LMS 算法中 步长因子的取值对算法的性能有着非 常重要的影响 这些影响包括 算法的稳定性 算法的收敛速度 算法的 扰动和失调 以下我们针对在这三方面的影响分别进行讨论 为减小失 调 需要设置较小的步长因子 这会使算法的收敛速度降低 这构成了一 对矛盾 因此在考虑算法的总体性能时 必须在这两个性能之间加以折中 从收敛速度的角度考虑 步长因子应该尽可能大 但较大的取值却会 加重算法的失调 LMS 算法采用瞬时的采样值对梯度进行估计 由于噪声 的影响 总会是会伴随着估计的误差 这将对算法带来直接的影响 这些 14 影响主要表现为算法的失调 而失调的严重程度 则和的取值存在直接 关系 失调是指由于梯度估计偏差的存在 在算法收敛后 均方误差并不 无穷趋近于最小值 而是呈现出在最小值附近随机的波动特性 而权值亦 不无穷趋近于最优权值 而是在最优权值附近呈现随机的波动 关于 LMS 算法的收敛速度 将讨论两点 第一 对一个特定的信号环 境 收敛速度和步长因子有何关系 第二 信号环境本身的特性 对收 敛速度有何影响 从收敛速度的角度考虑 步长因子应该尽可能大 再 看信号环境 即的特性对算法收敛性能的影响如果当特征值的分布范围 xx R 较大 即最大特征值和最小特征值之比较大时 公比的取值幅度也将比较 大 算法的总的收敛速度将会变得比较慢 传统的LMS算法确实结构简单 计算量小且稳定性好 因此被广泛地 应用于自适应控制 雷达 系统辨识及信号处理等领域 但是固定步长的 LMS自适应算法在收敛速率 跟踪速率及权失调噪声之间的要求是相互矛 盾的 为了克服这一缺点 人们研究出了各种各样的变步长LMS的改进算 法 尽管各种改进算法的原理不同 但变步长LMS自适应算法基本上遵循 如下调整原则 即在初始收敛阶段或未知系统参数发生变化时 步长应比 较大 以便有较快的收敛速度或对时变系统的跟踪速度 而在算法收敛后 不管主输人端干扰信号有多大 都应保持很小的调整步长以达到很小的稳 态失调噪声 第 4 章 RLS 自适应滤波算法分析 4 1 引言 最小二乘 LS Least square 算法旨在期望信号与模型滤波器输出之差 的平方和达到最小 当每次迭代中接受到输入好的新采样值时 可以采用 递归形式求解最小二乘问题 得到递归最小二乘 RLS recursive least square 算法 RLS算法能实现快速收敛 即使是在输入信号相关矩阵的特 征值扩展比较大的情况下 当工作与变换环境中时 这类算法具有极好的 性能 但其实现都以增加计算复杂度和稳定问题为代价 15 4 2 递归最小二乘 RLS 算法 这一节主要介绍递归最小二乘法 RLS 算法是一种快速收敛的算法 该 算法判决依据是直接处理接受数据 使其二次性能指数函数最小 而前面 所述的 LMS 算法则是使平方误差的期望值最小 设计出的自适应滤波器 通过调节滤波器参数 使得基于过去的观 i W 测样本而得到的观测信号在某种意义上最逼近原信号 此时 一 ns ns 方面 恢复误差 4 1 nXWnsn T 另一方面 可以将视作为的预测 因此可定义预测误差 nXW T nx 4 2 nXWnxne T 设计自适应滤波器的目的自然是希望使恢复误差最小 但是由于 n 真实信号未知 故是不可观测的或无法计算的 与此相反 预测 ns n 误差却是可观测的 它与恢复误差的关系为 ne 4 3 nnnne 而噪声序列是独立的 因此不可观测的恢复误差的最小化等 nn n 价于可观测的预测误差的最小化 ne 具体的 考虑到 4 4 n i in ieWn 1 2 的最小化 式中 为遗忘因子 通常取 由 10 0 2 11 2 iXiXWixiXWix WW Wn n i Tin n i Tin 4 5 可得到等价关系式 4 6 n i n i inTin iXixWiXiX 11 若令 4 7 n i Tin iXiXnR 1 4 8 n i in iXixnU 1 则式 4 6 可简写为 16 4 9 nUnWnR 假定是非奇异的 则 nR 4 10 1 nUnRnW 这就是滤波器滤波参数的公式 之所以记作 是因为随着时间而改 nWW 变 式 5 8 叫做最佳滤波器系数的 Yule Walker 方程 依据式 5 10 来调整 滤波器参数有两处不便 第一 需要矩阵求逆及矩阵乘法等运算 因而计 算量大 第二 与预测误差之间也未建立任何关系 不能达到根 nW ne 据预测误差来调整滤波器参数的要求 ne 非平稳或时变 预测误差由 ne 4 11 1 nXnWnxne T 表示 利用此公式 可以将式 5 7 的改写作 4 12 nU 注意到和式 5 11 用式乘 1 1 iWiXiXiXiXiW TT 1 nR 上式后得到 1 21 11 11 nWnWieiXnRiWiXiXnRnW n i n i TinTin 4 13 为了简化第一项的表达 并建立与之间的关系 一 1 nW nW 1 nW 种合理的想法是认为时刻及其以前时刻的滤波器参数相同 即 1 n 1 0 WW 1 nW 这样 利用式 5 7 及上述假定 就有 4 14 另一方面 为了简化的表达 一种合理的想法就是 认为遗忘 2 nW 因子 这相当于 只有本时刻的结果被记忆下来 而将以前的各时刻0 的结果全部遗忘 从而 有下列的简化结果 4 15 0 1 1 1 2 nenXnRieiXnRnW T n i Tin 将式 4 13 和 4 14 代入 4 12 则得 4 16 1 1 nenXnRnWnW T 式 4 15 描述了一个滤波器参数受其输入误差控制的自适应滤波算 ne 法 被称作递归最小二乘 RLS 1 1 1 1 1 nWnWiXiXnRnW n i Tin 17 为了实现递推计算 还要解决逆矩阵的递推计算问题 为此 1 nR 我们先引入一个著名的结果 矩阵求逆引理 矩阵求逆引理 若是非奇异的 则 A 4 17 111111 ACBACIBAABCA TTT 由的定义式 4 7 显然有 nR 4 18 1 nXnXnRnR T 对它应用矩阵求逆引理 得 4 19 综上所分析 递归最小二乘法自适应滤波 RLS 算法如下所示 算法初始化 18 0 0 W IR 0 For k 1 to n final do 1 nXnWnxne T 4 20 1 1 nenXnRnWnW T 4 3 递归最小二乘 RLS 算法的性能分析 RLS 递推最小二乘法 算法的关键是用二乘方的时间平均的最小化锯带 最小均方准则 并按时间进行迭代计算 对于非平稳信号的自适应处理 最合适的方法是采用最小二乘自适应滤波器 它使误差的总能量最小 RLS算法的优点是收敛速度快 其收敛性能与输入信号的频谱特性无关 但其缺点是计算复杂度很高 对于N阶的滤波器 RLS算法的计算量为 O N2 1 2 为了对非平稳信号进行跟踪 RLS算法引入了数加权遗忘因子 该遗忘因子的引入 使RLS算法能够对非平稳信号进行跟踪 19 由于设计简单 性能最佳 其中 RLS 滤波器具有稳定的自适应行为而 且算法简单 收敛性能良好 这里讨论RLS算法收敛特性两个方面的问题 一是从均值的意义上讨 论的收敛性 二是从均方值的意义上讨论误差的收敛性 为了讨 nW e n 1 1 1 1 1 11 11 nXnRnX nRnXnXnR nRnR T T 1 1 1 1 1 11 11 nXnRnX nRnXnXnR nRnR T T 18 论进行这样的讨论 必须对输入过程的类别作出规定 考虑随即机回归模型 4 21 其中是零均值过程是均值为零 方差为的高斯白噪声序列 x n nVN 2 其中的收敛性 nWE 对公式 其中 而可以写 0 nVWnXnd T T M wwW 0010 出 4 22 n i Tin iVWiXiXnq 1 0 当 满足 n nW 4 23 1 1 nqnRnbnnAnAnnAnW X TT 将其写成如下形式 4 24 InrnR n xx 其中 4 25 n i Tin x nXiXnr 1 将式 4 22 和式 4 24 带入式 4 23 中得 4 26 n i in x n x iViXWnrInrnW 1 0 1 故 0 1 WnrInrnWE x n x 0 111 WnrnIrnrnr xx n xx 4 27 0 1 0 WnrW n x 假定输入过程呈各态历经的平稳随机过程 对于 1 的情况 当 n 很 大时 有 4 28 n i xT n nr iXiX n Rx 1 1 M i nVinxwnd 1 0 1 19 其中表示输入矢量的组合平相关矩阵 所以Rx iXMM 4 29 0 1 0 WR n WnWE x 由此可见 当时 故滤波器的权矢量个估计是 n 0 WnWE 无偏的 还有的收敛性 2 neE 0 00 nXnWWnV nXnWWnXWnd nXnWndne T T T T 考虑到与的不相关性 所以 nX nV 00 2 2 nWWnXnXnWWEneE TT V 根据矩阵迹的性质 加权矢量的均方误差又可写成 4 30 2 2 x T V RnCnCEtrneE 其中 0 nXnXERnWWnC T x 由 AT n n A n 1AT n n b n nW 现令 则 T nvvnV 1 4 31 0 WnAnbnV 将式 5 31 带入式 5 30 中得 0 1 WnAnVnnAnAnnAnW TT 1 0 nVnnAnAnnAnWWnC TT 因此 11 nAnnAnAnnVnVnnAnAnnAEnCnCE TTTTT 因为与的不相关 则上式变为 nX nV 5 32 对于时有采用这些近似则式 5 33 可划简为 n 1 21 2121 V TTT TT TTT E C n CnE V n Vn EAnn A n Ann A n Ann A n EAnn A nAnn A n Ann A n 20 4 33 n j jn x T n j jn x T x T RnAnnA RnAnnA nRnAnA 1 2 1 2 0 由式 4 30 可知 4 34 Itr RnCnCEtrneE n j jn n j jn V x T V 2 1 1 2 2 2 2 根据自适应滤波器失调量的定义 4 35 2 1 0 1 0 2 2 1 1 2 2 2 2 n j