自适应处理随机梯度.ppt

1,第十一章,自 适 应 处 理 随机梯度法,2,主要内容 11.1概述 11.2横向结构的随机梯度法 11.3应用实例,3,11.1概述,由于生物体是一个复杂的有机体,生理过程受许多难以人为控制的因素影响环境诱发的、生理过程自发的(如疲乏、精神状态的变化等)它的非平稳性比较突出因此需要估计来研究生物信号的统计知识。,4,自适应信号处理的特点：,在没有关于待提取信息的先验统计知识的条件下，直接利用观测数据根据某种判据在观测过程中不断地递归更新处理参数，以逐步逼近某一最优处理结果 非平稳信号的统计特性是时变的，因此理论的最忧解答也是时变的采用自适应算法通过递归来自动跟踪统计性质的变化。,5,随着计算机和数字处理技术的发展，自适应处理技术也发展很快 就所采用处理器的结构形式看，仍可分为横向结构（也就是抽头延迟线结构）和格形结构两大类，它们都是FIR结构。IIR结构很难. 就每输入多少数据重复一次自适应计算看，可分为每进一段数据重新计算一次的成批处理法和每输入一个新数据就把新信息和旧处理结果结合起来推出新结果的递归处理法,6,就逐次调节所用的算法看，可以分成随机梯度法和最小二乘法两大类随机梯度算法优点是：算法简单，易于实时实现，至今仍广泛应用，并且不断有新的发展 最小二乘法文献中称为RLS（Recursive Least Square）RLS法的计算量虽然略高于梯度法，但收敛速度快更重要的是它的理论基础比较系统，因而是一类有发展前景的自适应算法,7,自适应处理的应用范围很广诸如噪声抵消、回声抵消、谱线增强、通道均衡、系统辨识、时间延迟估计等都可做自适应处理 横向结构的随机梯度自适应算法； 生物医学信号处理应用实例,8,11.2横向结构的随机梯度法,11.2.1基本原理 令观察值组成的矢量是: X(T)= xTxT-1xT-p-1 处理器各系数组成矢量W= w0w1wp-1 此时处理器的输出为,9,+ -,自适应 算法,随机梯度自适应结构图,10,与理想响应dT间的误差为： 因此： 而均方误差是：,11,式中, 是xT延迟0p-1的自相关阵; 是dT与xT间，当xT的延迟值由0p-1时的互相关系数矢量. Rdd(0)是理想响应dT的均方.,12,自适应随机梯度法的任务就是在没有先验知识的前提下，随着每一次新观察xT+1的输入，采用一定算法逐次更新W，使它能逐渐接近W*,解就是维纳解：,13,+ -,自适应 算法,随机梯度自适应结构图,14,随机梯度自适应示意图,E(eT2)是系数矢量W的二次函数，由于自相关阵是对称正定的， E(eT2)具有总体最小值，没有局部最小值。,15,计算抛物面在此点的负梯度： G(T)= w(E(eT2)=2 Rdx-RxxW(T) 沿此方向计算下一次的（指 XT+1输出后的）系数更新值： W(T+1)=W(T)+G(T) (是步长因子，控制收敛速度和稳定性也称收敛因子) W(T+1)比W(T)更接近碗底。 随机梯度法的特点是用由单位样本求得的梯度值代替真实梯度。 G(T) w(eT2)=2eTX(T) W(T+1)=W(T)+2eT X(T),16,新观察XT+1 输入后，把X(T)更新成 重新计算新误差： 更新系数W(T+2).如此，随着新数据不断输入，不断重复使用上述两式，使W逐渐趋近W*。这就是随机梯度法的基本原理。步长的大小不同，下降过程也就不同。值过大时过程甚至可能发散。,17,（a）小，收敛 （b）过大，发散,18,以上算法我们要关心的问题： 迭代过程一定能收敛吗？即算法稳定性问题； 如能迭代，收敛值一定是维纳解W*吗？ 经多少次跌代才收敛？即收敛速度问题； 收敛后系统的均方误差与哪些因素有关？即稳态失调问题。,19,取均值：,由于各次系数W(T)也是随机变量，所以讨论只能在均值意义下进行：,20,假设W(T)和X(T)统计无关，则：,这就是EW(T)的差分方程。,21,令W(T)=W(T)-W*代表T时刻系数矢量和维纳解之差：,所以上式后两项之和为零.因此有：,22,设系数差矢量的初始值是W(0)=W(0)-W*则解为：,由于Rxx是正定对称的自相关阵，因此它可以化成规范形式：,式中是由 Rxx 的特征根k(k=1p)组成的对角阵。V是由各特征矢量组成的正交归一阵：,23,因此有：,由于I-2也是对角阵，主对角线上各元素是1-2k(k=1p), 因此只要这些元素的绝对值| 1-2k|1.就有：,证明了在所有k都满足|1-2k|1的条件下，EW(T)将收敛于维纳解W*。,24,正定阵的全部特征根均大于零。 所以收敛条件是： 收敛值是维纳解： 注意:收敛与否与初始值W(0)无关。,25,收敛速度当然由: 中各系数差分量W(T+1)消逝的快慢决定. 相邻两值之比是: rk绝对值愈小,自由分量衰减愈快. 使收敛速度最快的最优步长为:,26,11.3应用实例,11.3.1 自适应噪声抵消 如果在自适应处理的框图上,dT中含有希望提取的信号sT和噪声nT.xT中却不含有信号sT,只有另一个噪声nT， 它和nT是相关的。 由于nT和nT相关,因此,当E(eT2)达到极小时,必有:,27,+ -,自适应 算法,自适应 滤波器,dT=sT+nT,xT=nT,nT nT相关,28,即滤波后的输出yT将在最小均方误差意义下抵消nT,同时抵消后的结果eT将在最小均方误差意义下逼近信号sT . 证明: 由于 可见,29,由于sT和nT 无关,所以E(sTnT)=0; 由于sT和nT无关,所以过程收敛后它和yT也无关,即: E(sTyT)=0.,再证明：当： 有：,30,后者是与处理无关的常数. 可见E(eT2) 最小时, E(sT-eT)2 也最小.,可见：,31,11.3.2自适应噪声抵消法增强心电图（ECG）监护 ESU（An electrosurgical unit）（以下简称电刀）是一种医疗设备。它被广泛地应用于切割组织和凝结血管，会产生调制在120Hz的射频信号。记录心电信号的心电图（ECG）电极能够采集到出现在病人皮肤表面的大ESU电压。电刀工作时能够产生信噪比大约为-90DB的非平稳干扰，这种干扰能够淹没有用的心电信号。 dT取自心脏附近，既有心电信号，又有电刀噪声干扰，xT取自胳膊只有电刀噪声干扰,32,Yelderman等提出了一种自适应噪声抵消的方法: (1)增强在手术室里的心电监护 (2)从心电信号中消除50Hz的电源线干扰,d(t),x(t),e(t),33,方法的两个步骤： 第一步，利用被动式射频滤波器消除高压射频噪声，这些被动式滤波器为心电图电极提供了高阻抗负载。在被动式滤波器处理后，主动式滤波器被用来消除剩余的高于600Hz的噪声信号。尽管ECG的信噪比从-90DB改进为-10DB（大约80dB的动态范围），但是在低频频率点50Hz、100Hz和150Hz上仍然剩余有较强的干扰噪声。,34,第二步，用自适应噪声抵消方法从ECG信号中消除较强的低频干扰。 Yeldman 等人的研究表明，仅仅运用自适应噪声抵消方法而又没有任何预处理滤波器，要消除所有ECG信号干扰是不可能的。,35,一种基于LMS算法的数字式自适应滤波器,36,特点：,因为同时存在两个不同的干扰，所以采用双参考信道 低频干扰（25Hz）来源于射频电流流动的波动。 50Hz、150Hz的导线频率失真。,37,双参考自适应噪声抵消器的方框图 抽样率为400Hz； 对于两个不同的参考信道，收敛参数在0.02和0.2之间取值 ，通过选择适当的值来控制收敛率。,38,结果:,39,结论:,Yelderman 等人的工作表明，在自适应滤波处理之前，生物医学信号的预处理是十分必要的，以便消除高频干扰噪声。研究结果表明，模拟/数字滤波器和ANC（自适应噪声消除）的结合可有效地从背景噪声中获取ECG心电信号。,40,11.3.3 自适应噪声抵消方法增强胎儿ECG心电监护 通过记录怀孕和分娩时的母亲腹部心电图来探测胎儿心率和三个月以上胎儿数量。 然而，这种腹部心电图常常被肌肉活动和胎儿运动引起的背景噪声所污染。胎儿心跳的探测更被强于其两倍的母体心跳所模糊。,41,方法:,采用基于LMS算法的自适应噪声抵消器，主输入由母亲和胎儿的心跳组成，从母亲腹部记录数据。 在母亲胸部的四个电极用来记录母亲的ECG，作为其参考输入。,42,母亲和胎儿的心电场向量和导联的位置,43,多参考噪声抵消器的方框图,44,抽样率:256Hz,参考输入之一（胸导联）,45,主输入信号（腹部导联）,46,自适应噪声抵消器输出,47,抽样率512Hz:参考输入（胸导联）,48,主输入（腹部导联）,49,自适应噪声抵消器输出,50,结论:,在主输入信号和参考输入信号中都存在50Hz成分的强干扰。 自适应噪声抵消器能够通过减弱母亲的ECG心电信号和50Hz干扰来增强胎儿的ECG心电信号。,51,11.3.4 自适应噪声抵消在增强胃电测量中的应用,问题的提出： 胃电活动可利用胃电图在体内或者体表记录。 因为体表胃电测量是无创的，所以得到临床诊断的迫切需要。 不管是体内或是体表测量都易受到呼吸背景噪声和由于运动造成电极与皮肤之间的位置变化而形成的背景噪声的影响。 需要利用信号处理技术，例如带通滤波、锁相滤波、自回归建模和自适应滤波，来增强胃电信号。,52,被测量的胃电信号和呼吸信号,呼吸背景噪声（慢波）和EGG信号（有层次的钉状成分）污染入了体表和体内胃电信号,53,体表和体内胃电信号的功率谱密度函数,54,体表和体内胃电信号的功率谱密度函数分析,实验表明：呼吸信号的功率谱密度函数在0.3Hz附近出现主峰 可以明显看出，体表胃电信号的功率谱密度函数分别在0.05Hz和0.3Hz附近出现两个主峰，前者由于胃活动引起，而后者由于呼吸背景噪声形成。 呼吸背景噪声的频率可能和实际的体内胃信号的频率相重叠，特别是对于胃的腹部活动产生的信号频率。 因此，传统的功率谱估计难以成功地分离这两类信号。,55,相关数据,胃电信号和呼吸信号的周期分别是40和4个采样点。 ALE（自适应线性增强）滤波权值为50，输出端产生呼吸和胃电信号的复制信号。 ANC（自适应噪声消除）滤波权值为10，输出端产生呼吸背景噪声。 对于ALE和ANC，收敛因子分别被选为输入信号功率的0.01和0.05倍。 在自适应滤波前，主信号需要通过1Hz截止频率的低通滤波器。采用LMS算法。,56,自适应噪声抵消从胃电测量信号中消除呼吸背景噪声方案,（a）自适应线性增强级； (b) 自适应噪声抵消级,57,自适应线性增强器 自适应线性增强器的目的是从主信号dj中消除背景噪声nj。为了从nj去相关周期和相关信号sj和rj，延迟选为1。自适应系统的自适应线性增强部分(ALE)实质作为一个预处理单元来消除背景噪声nj。 自适应噪声抵消器 自适应线