11_自适应横向滤波器(2).ppt

3 2 3最陡下降法 搜索性能曲面最低点的目的 是求最佳权矢量 搜索寻优 但在实际应用中 性能曲面的参数和解析式都是未知的 因此 通常只能根据已知的量测数据 采用某种自适应算法自动地对性能曲面进行搜索 工程上较易实现的一种实用的搜索方法是最优化数学方法 最陡下降法 即沿性能曲面向下按最陡方向 即曲面的负梯度方向 搜索曲面的最低点 并实现对该最低点的跟踪 1 最陡下降法迭代公式与求解按最陡下降法进行搜索的过程 实际上是一个迭代计算权矢量 迭代寻优 过程 即 曲面上某点的梯度方向 是该点变化率最大的方向 负梯度方向就是E ej2 下降最快的方向 因此 最陡下降法又称最速下降法 在性能曲面上设一初始点 对应初始权矢量 沿该点负梯度方向搜索至1点 对应权矢量 等于加上一个正比于负梯度的增量 最后搜索到 对应曲面最低点 因此 采用最陡下降法迭代计算权矢量的公式为 3 2 35a 式中 自适应增益常数量 或收敛参数 用于控制搜索步长 又称权矢量更新公式 即w向w 靠拢的步距 性能曲面的梯度 时间指标 表示不同时间搜索到曲面上各点的梯度是不同的 根据梯度表示式 3 2 13 可将迭代公式写成如下形式 3 2 35b 求解上式 即可求得权矢量随迭代次数变化的函数关系 为此 需将该式变换成个互相独立的标量方程 在标量方程中 为了避免各方程之间通过的各分量产生耦合 还需进一步将坐标变换成新的坐标 即 主轴坐标系 1 迭代方程的坐标转换 迭代公式的坐标表示将迭代公式两边同减 令 则有 3 2 36 根据性能曲面 可求得其梯度代入式 3 2 36 得即 3 2 37 上式中 由于不是对角矩阵 计算与分析均较复杂 因此再将坐标转换到坐标 迭代公式的坐标表示因有将上式代入式 3 2 37 得等式两边左乘 并令得到 3 2 38 上式就是采用坐标系时最陡下降法的迭代计算公式 2 迭代方程的求解将式 3 2 38 展开 得到个标量方程如下 因QTQ I 故QT Q 1 3 2 38 以上各方程间没有各分量的相互耦合 可分别由初始权值进行迭代求解 例如 对式 3 2 39 的第一个方程式 设初始权系数为 相应有偏移量和主轴分量 可作如下迭代运算 对其它各式作同样的迭代运算 最后得 3 2 40 式中 个初始权值构成一个初始权矢量 3 2 41 用矢量表示 3 2 42 该式给出了权矢量的递推解以及随迭代次数的变化关系 自然坐标系的权矢量的递推解 再回到自然坐标系 由式 3 2 42 得由于 故式 3 2 42 可写成 3 2 43 这就是自然坐标系中权系数的递推公式 搜索的目标是要实现 即 因此 必呈现几何级数衰减特性 且每迭代一次 即 衰减倍 2 值对稳定性和收敛性的影响以一维情况为例说明值的影响 一维递推公式为 3 2 44 式中 误差抛物线梯度权系数增量为了分析简单 假设梯度采用一条样本曲线进行估算 即 3 2 45 收敛性指 系统是否收敛 收敛速度快慢 该假设是在求梯度时以平方误差代替均方误差 上式说明 关系为一直线 如图3 2 6所示 图中用代替 代替 由图可见 1 2 一定 权调整量 权差 权系数的瞬时偏差 由式 3 2 45 可得 直线的斜率为与图对照 得 或即正比于 因此 每迭代一次 向靠拢的调整量为上式说明 每次迭代的调整量正比于权瞬时偏移量 下面分4种情况讨论值对收敛的影响 参见图3 2 7 结论 1 值是控制稳定性和收敛速度的参量 2 从搜索至有一个迭代过程 在满足稳定 收敛的条件下 越大 每次迭代的权调整量越大 收敛越快 但过大 将会引起过渡过程的振荡 3 收敛条件收敛概念 当迭代次数足够大时 满足 3 2 46 这时收敛于最佳权矢量 即 3 2 47 由式 3 2 40 可见 确保算法稳定和收敛的条件是 所有特征值必须满足下式 3 2 48 或者 3 2 49 即 得到 设的最大特征值为 并取 3 2 50 则式 3 2 48 因而式 3 2 47 必然满足 上式就是最陡下降法搜索曲面迭代计算收敛的必要条件 收敛条件的近似由于输入信号自相关矩阵是正定的 因此的迹 3 2 51 这样 在更保守的情况下 收敛条件可改为 3 2 52 按上式选取值 免去了计算的麻烦 4 过渡过程过渡过程是指随迭代次数的增加 权矢量和性能函数由起始点开始变化的过程 按此不等式选取 的上限 值小 一定满足 tr R 等于R主对角线元素之和 1 权矢量的过渡过程式 3 2 42 给出权矢量的递推解是其中第个权系数的递推方程是 3 2 53 现定义 衰减为的倍时所经历的迭代次数为权系数衰减时间常数 即 3 2 54 得到 3 2 55 当 10时 上式可近似为 由此得到权系数衰减的时间常数为 3 2 56 上式表明时间常数与特征值成反比 由于 则有所以 3 2 57 另由式 3 2 53 和 3 2 55 得 3 2 58 于是 式 3 2 57 可写成 3 2 59 进一步有 3 2 60 式中 上式说明 第个权系数从初始值到最佳值 是按照个指数和的规律变化的 2 性能函数的过渡过程 均方误差函数与迭代次数关系曲线称为学习曲线 它表明采用最陡下降算法自适应调整权矢量的动态特性 按照式 3 2 31 性能函数表示为下式 将式 3 2 58 代入 得到最陡下降法的学习曲线表达式如下 3 2 61 上式说明性能函数也是按个指数和的规律变化的 其时常为 3 2 62 imse表示均方误差 mse 曲线函数变化的时间常数 平均学习曲线示例 说明 由式 3