《现代数字信号处理》-第二章-自适应数字滤波器解析

1、第三章自适应数字滤波器3.1 引言3.2 自适应横向滤波器3.3 自适应格型滤波器3.4 最小二乘自适应滤波3.5 自适应滤波的应用3.1引言（维纳滤波器的特点与不足）自适应数字滤波器和维纳滤波器一样，都是符合 某种准则 的最佳滤波器。维纳滤波器的参数是固定的，适用于平稳随机信号的最佳滤波，但要设计这种滤波器，必须要求输入信号是平稳的，且具有信号和噪声统计分布规律的先验知识。在实际中，常常无法知道这些先验知识 ，且统计特性还会变化 ，因此实现最佳滤波是困难的。自适应滤波器的特点是：滤波器的参数可以自动地按照某种准则调整到最佳滤波；实现时不需要任何关于信号和噪声的先验统计知识，尤其当输入统计特性

2、变化时，自适应滤波器都能调整自身的参数来满足最佳滤波的需要。常常将这种输入统计特性未知，调整自身的参数到最佳的过程称为“ 学习过程 ”。 将输入信号统计特性变化时，调整自身的参数到最佳的过程称为“ 跟踪过程 ”，因此自适应滤波器具有学习和跟踪的性能。由于自适应滤波器有这些特点， 自 1967 年威德诺 (B. Widrow) 等人提出自适应滤波器以来，在短短十几年中，自适应滤波器发展很快，已广泛地用于系统模型识别，通信信道的自适应均衡，雷达与声纳的波束形成，减少或消除心电图中的周期干扰，噪声中信号的检测、跟踪、增强和线性预测等。本章主要介绍自适应横向滤波器、自适应格型滤波器、最小二乘自适应滤波

3、器以及自适应滤波器的应用举例。3.2 自适应横向滤波器自适应滤波器的原理框图如图3.2.1 所示，图中 x(n) 称为输入信号，y(n) 是输出信号， d(n) 称为期望信号，或者称为参考信号、 训练信号， e(n)是误差信号。其中x(n)y(n)e(n)d (n) y(n)H(z)自适应滤波器 H ( z) 的系数根据误差信e(n)d(n)号，通过一定的自适应算法，不断地进图 3.2.1自适应滤波器原理图行改变，使输出y(n) 最接近期望信号d(n) 。这里暂时假定 d (n) 是可以利用的，实际中， d (n) 要根据具体情况进行选取，能够选到一个合适的信号作为期望信号，是设计自适应滤波器

4、的一项有创意的工作。如果真正的d (n) 可以获得，我们将不需要做任何自适应滤波器。自适应线性组合器和自适应FIR 滤波器是学习自适应信号处理的基础，它们都是非递归型的，相对地说，容易分析和理解，我们首先由此展开对自适应滤波基础理论的讨论。3.2.1 自适应线性组合器和自适应FIR1. 自适应滤波器的矩阵表示式图 3.2.2表示的是一个有 N 个x1jw1权系数的自适应线性组合器，图x2jyj中 N 个权系数 w1 , w2 , , wN 受误-w2?ej差信号 ej 的自适应控制。对于固xNjdjwN定的权系数，输出 yj 是输入信号x1 j , x2 j , , xN j 的线性组合，因此

5、图3.2.2 自适应线性组合器称它为线性组合器。这里的 x1 j , x2 j , xN j 可以理解为是从 N 个不同的信号源到达的瞬时输入，是一个多输入系统，也可以是同一个信号源的 N 个序贯样本，如图 3.2.3 所示。x(n)x(n 1)x(n 2)z1x(n N)z1z1w1w2w3wN 1wNd(n)e(n)y(n)图 3.2.3 自适应 FIR 滤波器因此它是一个单输入系统，实际上这种单输入系统就是一个FIR 网络结构，或者说是一个自适应横向滤波器。其输出y(n) 用滤波器的单位脉冲相应表示成下式：N1y(n)w(m) x(n m)(3.2.1)m 0这里 w(n) 称为滤波器单

6、位脉冲响应，令：i m 1 ，记wi(1)，w ixi x(n i 1)， n用 j 表示，上式可以写成Ny jwi xij(3.2.2)i 1这里 wi 也称为滤波器加权系数。用上面公式表示其输出，适合于自适应线性组合器，也适合于FIR 滤波器。将上式表示成矩阵形式：y jX Tj WW T X j(3.2.3)式中， W w1 , w2 , wN T , X j x1 j , x2 j , xN j T误差信号表示为ejd j yjd j X TjWd j W T X j(3.2.4)2. 利用均方误差最小准则求最佳权系数和最小均方误差误差信号被用来作为权系数的控制信号。下面采用均方误差最

7、小的准则，求最佳权系数。由(3.2.4)式，均方误差为Ee2j E( d jy j )2 E d j2 2E d j X Tj WW T E X j X Tj W(3.2.5)令R dxE d j X j E d j x1 j , d j x2 j , d j xNj T(3.2.6)x2xxxxN j1 j1 j2 j1 jxxx2xxN jR xx E X j X Tj E1 j1 j2 j1 j(3.2.7)xxxN jxx2N j1 j2 jN j将(3.2.6)、(3.2.7)式代入 (3.2.5)式，得到E e2j E d j2 2R dxT W W T R xx W(3.2.8)

8、Rdx 称为 d j 与 X j 的互相关矩阵，是一个N 维列矩阵； R xx 是输入信号的自相关矩阵，特点如下：(1) 是对称矩阵，即 RTxxR xx ；(2) 是正定或半正定的，因为对于任意矢量 V 满足下式：V T R xx VE V T XX T V E| X T V |2 0自相关矩阵主对角线是输入信号的均方值，交叉项是输入信号的自相关值。(3.2.8)式表明，当输入信号和期望信号是平稳随机信号时（即 Rdx 和 R xx为常数），均方误差信号 Ee2j 是权系数的二次函数，即将(3.2.8)式展开时，公式中的权系数均以它的一次幂或二次幂出现。如果只有一个权系数w1，则 Ee2j

9、是 w1 的口向上的抛物线；如果有两个权系数w1, w2 ，则Ee2j 是它们的口向上的抛物面；对于两个权系数以上的情况，则属于超抛物面性质。Ee2j 在自适应信号处理中是一个重要的函数，经常称它为性能函数 。为选择权系数，使性能函数到达它的最小点，一些有用的自适应方法都是基于梯度法的，我们用j 表示 Ee2j 的梯度向量，它是用 E e2j 对每个权系数求微分而形成的一个列向量，用公式表示如下：E e2j ,Ee2j ,Ee2jTj,(3.2.9)w1w2wN按照 (3.2.4)式： ejd j W T X j ，梯度推导如下：ejejejTj 2E ej, ,2E ej X j (3.2.

10、10)w1wNw2还可以用 (3.2.8)式： Ee2j Ed j2 2R dxT WW T R xx W 对 W 求导得到j2R xx W2R dx(3.2.11)令上式等于 0，得到最佳权矢量W 的表达式：W *R xx1R dx(3.2.12)对比第二章维纳滤波器的最佳解，结果是一样的。上式也称为维纳权矢量 。当自适应滤波器的权系数满足上式时， 均方误差将取最小值。将(3.2.12)式代入 (3.2.8)式得到最小均方误差：E e2j minE d 2j 2RTdx WW T R xxWE d 2j 2RTdx W( R xxW)T WE d 2j R Tdx W(3.2.13)或者将上

11、式取转置，用下式表示：Ee2j minE d 2j W T R dx(3.2.14)比较式（ 3.2.13）和（ 3.2.14）可知，R Tdx WW T R dx ，这是因为它们都是常数。我们知道，在维纳滤波器中，当滤波器的单位脉冲响应取最佳值时，其误差信号和输入信号是正交的；这里也有相同的结果，当权矢量取最佳值时，梯度为0，按照 (3.2.10)式：j2E ej Xj j2E ej Xj 0上式表明，权系数取最佳值时，误差信号与输入信号是正交的，即仍然服从正交原理。也可以根据正交原理推导出维纳解 （3.2.12）式：W *R xx1 R dx 。上式关于自适应滤波器的结论适合于随机信号的自

12、适应滤波器，也适合与确定性信号的自适应滤波器，但对于随机信号取统计平均的地方，确定性信号必须用时间平均代替。为了说明自适应滤波器基本原理，下面举一个确定性信号自适应滤波器的例子。例 3.2.1一个单输入的二维权xj矢量自适应滤波器如图 3.2.4 所示，z 1dj图中输入信号与期望信号分别为w1w2ejxj sin 2j, d j 2cos 2jyjNN这两个信号都是周期性确定性图 3.2.4两个权的自适应滤波器信号，因为任何正弦函数积的期望值，都可由这个积在一个或多个周期上作时间平均来计算，可以推导出下面公式6 ：E x j xj n 1N2j sin212n0,1N j 1sinNN( j

13、n)cosn2NE d j xj n 2Ncos22n)sin2n0,1N j 1Nj sinN( jnNEd j d j n 4Ncos22n)2cos2n0,1N j 1Nj cos( jnNN2R xxEx2jxj xj 10.51cos Nxj 1 xjx2j 121cosN0, sin 2TR dxEd j xj , d j xj 1 TNE e2j Ed 2j 2RTdxW W T R xx W1cos 22 w12 0.5w1w2 Nw120sin2w2N w21cosN0.5(w2w2 )w w cos2 2w sin 2 21212N2N上式表明性能函数 Ee2j 对权函数是

14、二次型的，用(3.2.11)式求其梯度向量，得到j2R xxW2Rdx1cos 2w10ww cos2N212Nsin 22w22cos12Nw1 cosw22sinNNN求最佳权矢量可以用(3.2.12)式： W *R xx1R dx ，通过对 R xx 求逆得到，也可以通过上式，令j0 ，而求出：W ww T2cot 22csc 2 T12NN用(3.2.13)式求最小均方误差：2cot 2E e2minE d2 RTW2 0sin 2N0jjdxN2csc 2N上式说明只要 N2 ，不管 N 取多少，通过对权系数的调整可使均方误差达到 0，此时输出信号 yj 完全等于期望信号 d j ，

15、例如 N4 ，按照上面公式，可以求出输入、输出信号以及最佳权系数如下：w w1w2 02Txjsin( j )2y jw1 xjw2 xj 12cos( j )2d j2cos(j)2可以看出 yj 和 d j 相同。3.2.2 性能函数表示式及其几何意义在自适应滤波器的分析研究中，性能函数是一个重要函数，前面已推导出性能函数用 (3.2.8)式表示，现重写如下：Ee2j E d 2j 2R Tdx W + W T R xx W下面我们推导它的其它表示方法以及几何意义。均方误差是权系数的二次函数，当权系数取最佳值时，均方误差取得最小值，将(3.2.14)式代入(3.2.8)式，可以用最小均方误

16、差表示性能函数，推导如下：为了表示方便，令E e2j ，那么由式（3.2.14）可知：E d 2 jEe2j minW T R dx ，则E e2j minW T R dx2R Tdx WW T R xx W将(3.2.12)式代入上式，得到minW T R xx W W T R xx WW T R xx WW T R xx Wmi n W TW T R xxW W TW T R xxWmin(WW ) T R xx (W W )(3.2.15)其中， W T R xx WW T R xx W ，成立的条件是 W T R xx W 是标量。令V = W - W = v1 , v2 , v N

17、T(3.2.16)其中， V 称为偏差权向量，它表示权向量对最佳权向量的偏差。这样性能函数可以表示得更简单：min V T R xx V(3.2.17)因为 Rxx 是对称的，正定或半正定的， 利用它的特征值和特征向量再进一步简化，假设 Rxx 是 NN 维，它的 N 个特征值为：1, 2 , N ，将 R xx进行正交分解，得到R xxQ Q T ，其中， = Q T R xx Q(3.2.18)通过调节使 Q 归一化，即QTQ=I,QT =Q 1(3.2.19)q11q12q1 NQ = q1 ,q 2 ,q N q21q22q2 N(3.2.20)qN 1qN 2qNN式中， Q 称为正

18、交矩阵或特征矩阵，qi 称为特征向量，满足下式：q iTqj1ij(3.2.21)0 ijR q= qi1,2, , N(3.2.22)xx ii i是由特征值组成的对角矩阵，用下式表示： Diag( 1, 2 , , N )(3.2.23)将(3.2.18)式代入 (3.2.17)式，得到minV TQQTV令V = Q T V = v1,v2 , vN T ,V = QV(3.2.24)则minV TVN2mini vi(3.2.25)i 1上式将性能函数变成了平方和的形式。再观察(3.2.24)式，该式将 V 坐标中的 Rxx 的特征向量变成了 V 坐标中的单位向量。利用(3.2.24)

19、式将特征向量 qi 变成 qi ，再利用 (3.2.20)、(3.2.21)式，可得qi= Q T qi = q1 , qi ,q N T qi0,1,0 T(3.2.26)可以理解为R xx qi = iqiQQ T qiiqiQ T qiiQ T qiqiiqi 。也就是说， qi 为 V 坐标中的第 i 个单位向量， qi 亦是 矩阵对应于i的特征向量。下面用二维权矢量的情况说明它的几何意义。对于二维权矢量情况，有下面公式：Ww1 ,V = W - Wv1w2v2R xxrxx (0)rxx (1)rxx(1)rxx (0)min(W - W )T R xx (W - W )minrxx

20、 (0)v122rxx (1)v1v2rxx (0)v22式中， rxx (0) 0 。显然，这是一个口向上的抛物面，如图3.2.5 所示， V 坐标相当于将坐标原点移动W 坐标的最佳点 W ，如果用性能函数等于常数的不同平面（平行于 W 坐标平面）去切割抛物面，投影在W 坐标平面，便得到一族同心椭圆，如图3.2.6 所示。w2v2v2v1w2optwoptv1w1optminw2w1v2v10w1图 3.2.5 二维权矢量性能表面图 3.2.6 等均方误差的椭圆曲线族按照 (3.2.17)式：min V T R xx V ，有min V T R xx Vc或V T R xx Vc1当 cmi

21、n 时，对应椭圆的中心， V = W- W ，则相当于 W 坐标平移到 V 坐标的原点，即 V 坐标的原点对应 W 坐标的最佳点 W 。这里，v1, v2 不是椭圆的主轴。但经过对 Rxx 的分解：Q T RxxQ = 1002且 V = QT V 将性能函数的椭圆族 (按照 (3.2.25)式)变成V T Vc1即1v122 v22c1或者v 2v2121(3.2.27)c1 / 1c1 /2显然，上式是一个椭圆方程，v1 和 v2 是椭圆族的主轴，如果12 ，则 v1是长轴， v2 是短轴。因此 (3.2.24)式起坐标旋转的作用，将 v1, v2 旋转到主轴上，形成 v1 ,v2 主轴。

22、对于维数 N2的情况，长轴对应最小特征值，按照上面的椭圆方程长轴正比于 1/min；短轴对应于最大特征值，正比于1/max 。另外，因为V = Q T V = v1 , v2 ,vN T得到q1v1 , q2 v2 , , q N vN v1 , v2 , , vN (3.2.28)V 中单位矢量对应就是 V 坐标中的 Rxx 的特征矢量。3.2.3 最陡下降法我们知道，自适应过程的最终目的是要寻找最佳权系数。按照（3.2.12）式： W *R xx1R dx ，要预先求得互相关函数和自相关函数，还要计算矩阵的逆，这样在实际应用中便遇到了很大的困难。下面介绍最佳权系数的搜索方法。前面已经学习过

23、，当输入信号和期望信号都是平稳随机信号时，均方误差函数是权系数的二次函数，二次函数的参数却是未知的，但是可以在一段时间中，根据误差函数的平方求平均，估计出在误差性能函数上的位置。由此出发，可以得到不同的搜索性能表面函数并寻找最佳值的方法或算法，这里有两种熟知的搜索方法，它们是牛顿法和最徒下降法。牛顿法常常难以实现，但具有重要的数学意义2 ；最陡下降法已经工程实现，并已证明是在广泛的实际应用中有价值的一种方法。本书仅介绍最陡下降法 1-3 。威德诺（ Widrow ）等人于1959 年提出最陡下降法（ Steepest DescentMethod）的算法，按照这一算法，最陡下降法权矢量的改变用下

24、式表示：W j+1 = W j( j )(3.2.29)式中，是调整步长的常数，它控制着系统的稳定性和自适应的收敛速度。上面公式表示下一个权矢量Wj+1 等于现在的权矢量W j 加上一个正比于负梯度的变化量，因为梯度的方向是性能函数增加最快的方向，负梯度的方向就是性能函数减小最快的方向，因此称为最陡下降法。下面按照上式来推导最陡下降法的递推公式、收敛条件以及它的过渡特性。1. 最陡下降法的递推公式将(3.2.11)式代入 (3.2.29)式，得到W j+1 = W j(2 R dx - 2R xx W j )(3.2.30)I2R xx W j2 R xx W(3.2.31)在上式两边都减去

25、W ，并令 Vj= Wj-W ，得到Vj+1 I2R xx Vj(3.2.32)上式是一个递推公式，由于 项不是对角矩阵，计算与分析均复杂。下面仍然采用坐标旋转的方法进行推导。R xx= QQ T = QQ-1 , = Q -1 R xx QV j= Q-1 Vj ,V j = QV jVj 1 = Q -1V j 1Q-1I2 R xx V jQ -1I2 R xx QV j(Q -1IQ2 Q-1 RxxQ)V j(I 2)Vj(3.2.33)此时 项已变成对角矩阵， 假设起始值是 V0 ，可得到上式的递推解为Vj(I 2 ) jV0(3.2.34)再将 (3.2.24)式： V = QT

26、 V,V = QV 代入，再经过坐标平移，即代入V j = Wj - W 式， 最后得到权系数的递推公式：Wj = W + V jWQV jWQ(I2) j V0WQ(I2) j QT V0WQ(I2) j Q T (W 0 - W )(3.2.35)上面递推公式中， 部分已变成对角矩阵，这使分析与研究自适应特性变得简单了。2. 收敛条件由最陡下降法的递推公式不难分析出它的收敛条件，即当迭代次数j 趋于时，权系数收敛最佳时的条件。按照上式，显然只有当lim I2 j0(3.2.36)j|1 2i |1i1,2, N| 2i1|112 i 1 102i201i01(3.2.37)max满足时，才

27、能得到： lim Wj = W 。(3.2.37)式即是最陡下降法的收敛条件，j式中 max 是 Rxx 的最大特征值。 (3.2.36)式中的 0 表示 0 矢量。3. 过渡过程过渡过程是指权矢量和性能函数由起始点随迭代次数的增加，进行变化的过程。下面从权矢量和性能函数两方面讨论自适应滤波器的过渡过程。权矢量的过渡过程讨论如下：按照 (3.2.34)式，权矢量的递推解是V j(I2) j V 0第 i 个权系数递推方程是v ji(12i ) j v0 i(3.2.38)令11 2i1,2,3, N(3.2.39)ie i将上式代入 (3.2.38)式，得到1vjiei1,2,3, N(3.2

28、.40)iv0i上式说明第 i 个分量 vji 按指数规律变化，其时常数为i1i1,2,3, N(3.2.41)1n(12i )因为一般取得比较小（ ln(1x)x,x0），可以近似为1i1,2,3, N(3.2.42)i2i因为qqqvj111121Nqqq2 NvVj = QV j2122j 2qN1qN 2qNNvjN所以Nvjiqik v jkk1再将 (3.2.40)式代入，得到Njv jik 1qik v0k e i(3.2.43)Njwjiwi(3.2.44)k 1cik e k式中cikqik v0 k(3.2.45)上式说明第 i个加权系数按照N个指数和的规律变化， 由初始值

29、收敛到最佳值，其时常数k 与特征值k 成反比。下面分析性能函数的过渡过程。按照 (3.2.25)式，性能函数如下式：NE e2j mini vji2(3.2.46)i 1将(3.2.40)式代入，得到N2 jE e2j miniv0i2e i(3.2.47)i 1上式说明性能函数也是按N 个指数和的规律变化，和加权系数过渡过程不同的是时间常数不同，它的时常数为i1(3.2.48)imse4 i2我们已经知道，性能函数和各个加权系数都是按照N 个具有不同时常数的指数和的规律变化的，时常数和特征值成反比，不同的特征值对应的收敛时间是不一样的，但最终的收敛要取决于最慢的指数过程，它的时常数最大，对应

30、最小的特征值，公式如下：1max2(3.2.49)min1mse max4(3.2.50)min但为保证收敛，不能取得太大，受限于最大特征值max 。这样，如果特征值比较分散时， 即max 和 min 相差很大时， 使最陡下降法的收敛性能很差。下面分析值的影响。值收敛过程影响很大，首先必须选择得足够小，使之满足收敛条件：01max但按照 (3.2.47)、(3.2.48)式，它影响收敛速度。一般希望在保证收敛的条件下，选大一些，使时间常数小一些，收敛的速度快一些。但当选择得太大时，即使收敛条件满足，也可能形成振动性的过渡特性。在图3.2.7中，图 (a)是较小时的情况；图 (b)是较大时的情况

31、，此时过渡过程已发生振荡。w2w2w(0)w(0)w1w1(a)(b)图 3.2.7值的影响（ a）较小时的情况； （ b）较大时的情况3.2.4 最小均方 (LMS) 算法上面研究的最陡下降法是自适应滤波具体算法的基础，按照（3.2.29）式控制加权系数可以收敛到它的最佳状态。但是需要求出其梯度的精确值，要求输入信号和期望信号平稳，且按照（3.2.11）式首先要估计自相关函数R xx 和互相关函数 R dx ，这给具体实现带来很大的困难。Widrow 等人提出的最小均方算法，是用梯度的估计值代替梯度的精确值，这种算法简单易行，因此获得了广泛的应用，下面进行介绍。1. LMS 算法的权值计算L

32、MS (Least Mean Square) 算法的梯度估计值用一条样本曲线进行计算，公式如下：? je2je2je2je2j(3.2.51)w1w2wN因为ejd jW T X j所以ej ,ejejT, ,X jw1w2wN?j2ejX j(3.2.52)W j+1 = Wj(?j )Wj2 ej X j(3.2.53)FIR 滤波器中的第 i 个权系数的计算公式为wj 1,i wj ,i 2 ej xj ,i i 1,2,3, , N(3.2.54)FIR 滤波器中的第 i 个权系数的控制电路如图3.2.8所示 , LMS 自适应滤波器的总框图如图3.2.9 所示。xi (n )w i

33、(n )z 1w i (n 1)2控制电路e( n)图 3.2.8FIR 第 i 个支路的控制电路LMS 算法的加权系数按照 (3.2.53)式进行控制，式中加权矢量的改变量是 2 ej X j ，梯度的估计值是 2ej X j 。显然，这是一个随机变量，这说明 LMS 算法的加权矢量是随机变化的。因此， LMS 算法又称为 随机梯度法 。下面对这种算法的性能进行分析，主要分析加权矢理和性能函数的平均变化规律以及它们的随机性造成的影响。按照 (3.2.52)式，对梯度估计值求统计平均，得到E ? j 2Eej X j j(3.2.55)上式说明梯度估计值是无偏估计的，梯度的估计量在理想梯度j

34、附近随机变化，权系数也是在理想情况下的权轨迹附近随机变化的。x1( n)w1x2( n)w2-y(n)?-?xN( n)wNd(n)控 制 1e(n)控 制 2-?控 制 N图 3.2.8 LMS 自适应滤波器总计算框图2. LMS 算法加权矢量的过渡过程将误差公式 (3.2.4)式代入 (3.2.53)式，得到Wj+1 = Wj2X j (d jX Tj Wj )Wj2( X j d jX j X jT Wj )I2X j X Tj W j2 X j d j(3.2.56)如果对上式取统计平均， 关系到 X j 和 W j 之间的相关性问题。 按照上式递推， W j 和 X j 1 ，这样就

35、与 X j 和 X j 1 的关联性有关。如果按照（3.2.53）式计算权矢量， 经过若干步之后， 才调整一次权矢量， 可以认为 Wj 和 X j 不相关；但如果每一次迭代后， 都改变一次权系数， 问题较复杂，如果信号 X j变化很快，使 X j 和 X j 1 不相关， W j 和 X j 1 有关，就得到 W j 和 X j 无关的结论。或者 值取得很小， 每一次迭代权矢量的变化量很小， Wj 相对 X j 变化慢得多，这种情况下， Wj 和 X j 之间的相关性很小，可以认为 W j 和 X j 不相关。另外，为了分析简单，可假设W j 和 Xj 不相关，按照（3.2.53）式，对加权矢

36、量取统计平均：E Wj+1 E Wj 2E ej X j E Wj 2( E d j X j E X j X Tj W j E Wj 2(R dx R xx E Wj )E Wj 2(R xx WR xx EWj )( I 2R xx )E Wj 2 R xx W(3.2.57)类似于最陡下降法的推导，经过坐标平移和旋转，变换到V坐标中。其公式推导如下：令Vj = Wj - W(3.2.58)那么E V j = E Wj - W(3.2.59)E V j 1 = E Wj 1 - W将上面两式代入 (3.2.57)式中，得到E V j+1 I2R xx E V j 它的递推解是E Vj I2 R xx j V0令R xxQ Q T , Q T R xxQ(3.2.60)V =QTV v1 , v2 , , vN , V = QV(3.2.61)得到E V j I 2 j V0(3.2.62)再将 (3.2.59)、(3.2.60)和(3.2.61)式代入上式，得到EV j I 2 j V0QT E V j I 2 j QT V0QT E Wj W I 2 j QT W0 - W E Wj WQ I 2