数字信号处理第2章

1、第二章 维纳滤波和卡尔曼滤波 第二章 维纳滤波和卡尔曼滤波 2.1 引言引言 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.3 离散维纳滤波器的离散维纳滤波器的z域解域解 2.4 维纳预测维纳预测 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 第二章 维纳滤波和卡尔曼滤波 2.1 引引 言言 在生产实践中，我们所观测到的信号都是受到噪声干扰的。如何最大限度地抑制噪声，并将有用信号分离出来，是信号处理中经常遇到的问题。换句话说，信号处理的目的就是要得到不受干扰影响的真正信号。相应的处理系统称为滤波器。这里， 我们只考虑加性噪声的影响，即观测数据x(n)是信号s(n)与噪声v(

2、n)之和（如图2.1.1所示）, 即 x(n)=s(n)+v(n) （2.1.1） 第二章 维纳滤波和卡尔曼滤波 我们的目的是为了得到不含噪声的信号s(n)，也称为期望信号，若滤波系统的单位脉冲响应为h(n)（如图2.1.2所示）， 系统的期望输出用yd(n)表示，yd(n)应等于信号的真值s(n)；系统的实际输出用y(n)表示，y(n)是s(n)的逼近或估计，用公式表示为yd(n)=s(n)， y(n) = 。因此对信号x(n)进行处理，可以看成是对期望信号的估计，这样可以将h(n)看作是一个估计器，也就是说, 信号处理的目的是要得到信号的一个最佳估计。那么， 采用不同的最佳准则，估计得到的

3、结果可能不同。所得到的估计， 在通信中称为波形估计; 在自动控制中，称为动态估计。 )( ns第二章 维纳滤波和卡尔曼滤波 图 2.1.1 观测信号的组成 x(n)s(n)v(n)第二章 维纳滤波和卡尔曼滤波 图 2.1.2 信号处理的一般模型 h(n)x(n)s(n) v(n)y(n)第二章 维纳滤波和卡尔曼滤波 假若已知x(n-1), x(n-2), , x(n-m)，要估计当前及以后时刻的信号值s(n+N), N0，这样的估计问题称为预测问题；若已知x(n-1), x(n-2), , x(n-m) ，要估计当前的信号值s(n)，称为过滤或滤波； 根据过去的观测值x(n-1), x(n-2

4、), , x(n-m)，估计过去的信号值s(n-N), N1，称为平滑或内插。维纳(Wiener)滤波与卡尔曼(Kalman)滤波就是用来解决这样一类从噪声中提取信号的过滤或预测问题, 并以估计的结果与信号真值之间的误差的均方值最小作为最佳准则。 第二章 维纳滤波和卡尔曼滤波 维纳滤波是在第二次世界大战期间，由于军事的需要由维纳提出的。1950年，伯特和香农给出了当信号的功率谱为有理谱时，由功率谱直接求取维纳滤波器传输函数的设计方法。 维纳滤波器的求解，要求知道随机信号的统计分布规律（自相关函数或功率谱密度），得到的结果是封闭公式。采用谱分解的方法求解，简单易行，具有一定的工程实用价值，并且物

5、理概念清楚，但不能实时处理；维纳滤波的最大缺点是仅适用于一维平稳随机信号。这是由于采用频域设计法所造成的， 因此人们逐渐转向在时域内直接设计最佳滤波器的方法。 第二章 维纳滤波和卡尔曼滤波 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法根据线性系统的基本理论，并考虑到系统的因果性，可以得到滤波器的输出y(n), 0)()()()()(mmnxmhnhnxnyn=0, 1, 2, （2.2.2） 设期望信号为d(n)，误差信号e(n)及其均方值E|e(n)|2分别为 e(n)=d(n)-y(n)=s(n)-y(n) （2

6、.2.） 2022)()()(| )()(| )(|mmnxmhndEnyndEneE（2.2.） 第二章 维纳滤波和卡尔曼滤波 要使均方误差为最小，须满足 0| )(|2jhneE（2.2.5） 这里，hj表示h(j); 同理，可以用aj，bj分别表示a(j)，b(j)。由于误差的均方值是一标量，因此（2.2.5）式是一个标量对复函数的求导问题， 它等价于 0| )(| )(|22jjbneEjaneEj=0, 1, 2, （2.2.6） 记 jjjbjaj=0, 1, 2, （2.2.） 第二章 维纳滤波和卡尔曼滤波 则（2.2.6）式可以写为 0| )(|2neEj（2.2.8） 将（2

7、.2.8）式展开 )()()()()()()()(| )(|*2njebnenjebneneaneneaneEneEjjjjj（2.2.9） 又根据（2.2.1）(2.2.3)式 第二章 维纳滤波和卡尔曼滤波 )()()()()()()()(*jnjxbnejnxanejnjxbnejnxanejjjj将（2.2.10）（2.2.13）式代入（2.2.9）式， 得 )()(2| )(|*2nejnxEneEj（2.2.14) 第二章 维纳滤波和卡尔曼滤波 因此 Ex*(n-j)e(n)=0 j=0, 1, 2, （2.2.15） 上式说明，均方误差达到最小值的充要条件是误差信号与任一进入估计的

8、输入信号正交，这就是通常所说的正交性原理。它的重要意义在于提供了一个数学方法，用以判断线性滤波系统是否工作于最佳状态。 第二章 维纳滤波和卡尔曼滤波 下面计算输出信号与误差信号的互相关函数 0*0*)()()( )()()()()(jjnejnxEjhnejnxjhEnenyE(2.2.16) 假定滤波器工作于最佳状态，滤波器的输出yopt(n)与期望信号d(n)的误差为eopt(n)，把（2.2.15）式代入上式，得到 0)()(*optnenyEopt(2.2.17) 第二章 维纳滤波和卡尔曼滤波 图 2.2.1 期望信号、 估计值与误差信号的几何关系 eopt(n)d(n)yopt(n)

9、第二章 维纳滤波和卡尔曼滤波 图2.2.1表明在滤波器处于最佳工作状态时， 估计值加上估计偏差等于期望信号， 即 )(e)()(optoptnnynd注意我们所研究的是随机信号，图2.2.1中各矢量的几何表示应理解为相应量的统计平均或者是数学期望。再从能量的角度来看，假定输入信号和期望信号都是零均值, 应用正交性原理,则, 因此在滤波器处于最佳状态时， 估计值的能量总是小于等于期望信号的能量。 |2opt22dopteEy第二章 维纳滤波和卡尔曼滤波 2.2.2 维纳维纳霍夫方程霍夫方程将（2.2.15）式展开， 可以得到 0)()()()(0*mmnxmhndknxE将输入信号分配进去， 得

10、到 )()()(0*kmrmhkrmxxdxk=0, 1, 2, 对上式两边取共轭，利用相关函数的性质: ryx(-k)=r*xy(k), 得到 )()()()()(0krkhmkrmhkrxxmxxxdk=0, 1, 2, (2.2.20) 第二章 维纳滤波和卡尔曼滤波 (2.2.20)式称为维纳-霍夫（WienerHopf）方程。当h(n)是一个长度为M的因果序列(即h(n)是一个长度为M的FIR滤波器)时， 维纳-霍夫方程表述为 )()()()()(10krkhmkrmhkrxxMmxxxdk=0, 1, 2, (2.2.21) 把k的取值代入(2.2.21)式， 得到 当k=0时，h1

11、rxx(0)+h2rxx(1)+hMrxx(M-1)=rxd(0)当k=1时， h1rxx(1)+ h2rxx(0)+ hMrxx(M-2)= rxd(+1) 当k=M-1时， h1rxx(M-1)+ h2rxx (M-2)+hMrxx(0)= rxd(M-1) (2.2.22) 第二章 维纳滤波和卡尔曼滤波 定义 )0()2() 1()2()0()0() 1() 1 ()0() 1() 1 ()0(21xxxxxxxxxxxxxxxxxxxxxdxdxdxdMrMrMrMrrrMrrrRMrrrRhhhh第二章 维纳滤波和卡尔曼滤波 （2.2.22）式可以写成矩阵的形式， 即 hRRxxxd

12、(2.2.23) 对上式求逆，得到 xdxxRRh1(2.2.24) 第二章 维纳滤波和卡尔曼滤波 上式表明已知期望信号与观测数据的互相关函数及观测数据的自相关函数时，可以通过矩阵求逆运算， 得到维纳滤波器的最佳解。同时可以看到，直接从时域求解因果的维纳滤波器， 当选择的滤波器的长度M较大时， 计算工作量很大， 并且需要计算Rxx的逆矩阵，从而要求的存贮量也很大。此外， 在具体实现时，滤波器的长度是由实验来确定的，如果想通过增加长度提高逼近的精度，就需要在新M基础上重新进行计算。因此，从时域求解维纳滤波器，并不是一个有效的方法。 第二章 维纳滤波和卡尔曼滤波 2.2.3 估计误差的均方值估计误

13、差的均方值 假定所研究的信号都是零均值的，滤波器为FIR型，长度等于M，将(2.2.2)式和(2.2.3)式代入(2.2.4)式，可以得到 )()() 1 ()()()()()()()(| )(| )(|*1010*10*10*22inxknxEhkhndknxEkhndknxEkhndEneEMkMiMkMk(2.2.25) 第二章 维纳滤波和卡尔曼滤波 上式可以进一步化简得到 )()()(*)()()()()()()()()()(| )(|1T*11T*2TT*T*21010*10*10*22xdxxxxxdxxxdxxxddxxxdxddMkxxMiMkxdxdMkdRRhRRRhRRR

14、hRhhRRhkirihkhkrkhkrkhneE 可以看出， 均方误差与滤波器的单位脉冲响应是一个二次函数关系。由于单位脉冲响应h (n)为M维向量，因此均方误差是一个超椭圆抛物形曲面，该曲面有极小点存在。当滤波器工作于最佳状态时， 均方误差取得最小值。第二章 维纳滤波和卡尔曼滤波 将（2.2.24）式代入(2.2.26)式，得到最小均方误差 optxddxdxxxddhRRRRneET*21T*2min2)()(| )(|(2.2.27) 例2.2.1 设y(n)=x(n)+v2(n)，v2(n)是一白噪声，方差22=0.1。 期望信号x1(n)的信号模型如图2.2.2（a）所示，其中白噪

15、声v1(n)的方差21=0.27，且b0=0.8458。x(n)的信号模型如图2.2.2（b）所示，b1=0.9458。假定v1(n)与v2(n)、x1(n)与y(n)不相关，并都是实信号。设计一个维纳滤波器，得到该信号的最佳估计，要求滤波器是一长度为2的FIR滤波器。 第二章 维纳滤波和卡尔曼滤波 图 2.2.2 输入信号与观测数据的模型 z1x1(n)v1(n)b0z1x(n)x1(n)b1y(n)v2(n)(a)(b)第二章 维纳滤波和卡尔曼滤波 解解 这个问题属于直接应用维纳-霍夫方程的典型问题， 其关键在于求出观测信号的自相关函数和观测信号与期望信号的互相关函数。 图 2.2.3 维

16、纳滤波器的框图 H1(z)H2(z)v1(n)x1(n)x(n)y(n)v2(n)第二章 维纳滤波和卡尔曼滤波 根据题意，画出这个维纳滤波器的框图，如图2.2.3所示。 用H1(z)和H2(z)分别表示x1(n)和x(n)的信号模型，那么滤波器的输入信号x(n)可以看作是v1(n)通过H1(z)和H(z)级联后的输出， H1(z)和H(z)级联后的等效系统用H(z)表示，输出信号y(n)就等于x(n)和v2(n)之和。因此求出输出信号的自相关函数矩阵Ryy和输出信号与期望信号的互相关矩阵Ryd是解决问题的关键。相关函数矩阵由相关函数值组成，已知x(n)与v2(n)不相关，那么 )()()(22

17、mrmrmrvvxxyy第二章 维纳滤波和卡尔曼滤波 (1) 求出期望信号的方差。根据图2.2.2(a)，期望信号的时间序列模型所对应的差分方程为 x1(n)=v1(n)-b0 x1(n-1) 这里，b0=0.8458, 由于x1(n)的均值为零，其方差与自相关函数在零点的值相等。 22021212111021212111)1() 1()(2)()()0(xxxbnxbnxnvbnvEnxER9486. 0)8458. 0(127. 0122021221bxd第二章 维纳滤波和卡尔曼滤波 (2) 计算输入信号和输出信号的自相关函数矩阵。根据自相关函数、功率谱密度和时间序列信号模型的等价关系，已

18、知时间序列信号模型，就可以求出自相关函数。这里，信号的模型H(z)可以通过计算得到。 )9458. 01)(8458. 01 (1)()()(1121zzzHzHzH这是一个二阶系统，所对应的差分方程为 x(n)+a1x(n-1)+a2x(n-2)=v1(n) 式中，a1=-0.1，a2=-0.8。由于v1(n)、v2(n)的均值为零，因此， x(n)的均值为0。给方程两边同乘以x*(n-m)，并取数学期望，得到 rxx(m)+a1rxx(m-1)+a2rxx (m-2)=0 m0 (1)rxx(0)+ a1rxx(1)+a2rxx(2)=21 m=0 (2) 第二章 维纳滤波和卡尔曼滤波 对

19、方程（1）取m=1, 2，得到 rxx(1)+a1rxx(0)+a2rxx(1)=0 (3)rxx(2)+a1rxx(1)+a2rxx(0)=0(4) 方程（2）、（3）、（4）联立求解，得 5 . 08 . 011 . 01) 1 (1) 1 . 0()8 . 01(27. 08 . 018 . 01)1(11)0(2122212221222aaraaaarxxxxx至此， 输入信号的自相关矩阵Rxx可以写出： 15 . 05 . 01)0() 1 () 1 ()0(xxxxxxxxxxrrrrR第二章 维纳滤波和卡尔曼滤波 v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形， 且

20、，22)0(22vvr1 . 0001 . 0)0() 1 () 1 ()0(2222222222vvvvvvvvvvrrrrR因此，输出信号的自相关Ryy为 1 . 15 . 05 . 01 . 1)0()0() 1 () 1 () 1 ()0()0() 1 () 1 ()0(22222222vvxxvvxxvvxxvvxxyyyyyyyyyyrrrrrrrrrrrrR第二章 维纳滤波和卡尔曼滤波 (3) 计算输出信号与期望信号的互相关函数矩阵。 由于两个信号都是实信号，故 ryd(m)=Ey(n)d(n-m)=Ey(n)x1(n-m)=E(x(n)+v2(n)x1(n-m)=Ex(n)x1

21、(n-m) m=0, 1 根据图2.2.2系统H2(z)的输入与输出的关系, 有 x1(n)-b1x(n-1)=x(n) 推出 x1(n)=x(n)+b1x(n-1) 这样 ryd(m) =Ex(n)x1(n-m)=Ex(n)(x(n-m)+b1x(n-1-m) =rxx(m)+b1rxx(m-1) 第二章 维纳滤波和卡尔曼滤波 将m=0, m=1代入上式, 得 ryd(0)=rxx(0)+b1rxx(-1)=1-0.94580.5=0.5272ryd(1)=rxx(1)+ b1rxx(0)=0.5-0.94581=-0.4458 因此，输出信号与期望信号的互相关Ryd为 4458. 0527

22、2. 0) 1 ()0(ydydydrrR求出输出信号自相关的逆矩阵, 并乘以Ryd, 就可以得到维纳滤波器的最佳解Wopt:1456. 15208. 05208. 01456. 1)0() 1 () 1 ()0() 1 ()0(1)0() 1 () 1 ()0(2211rrrrrrrrrrRyy第二章 维纳滤波和卡尔曼滤波 7853. 08360. 0458. 05272. 01456. 15428. 05208. 01456. 11ydyyoptRRW把Wopt代入（2.2.27）式，可以计算出该维纳滤波达到最佳状态时均方误差，即取得了最小值E|e(n)|2min， 1579. 07583

23、. 08360. 04458. 05272. 09486. 0)(| )(|optT*2min2WRneEydd第二章 维纳滤波和卡尔曼滤波 2.3 离散维纳滤波器的离散维纳滤波器的z域解域解 若不考虑滤波器的因果性，（2.2.20）式可以写为 )()()()()(krkhmkrmhkrxxmxxxd设定d(n)=s(n)，对上式两边做Z变换，得到 Sxs(z)=Hopt(z)Sxx(z) )()()(zSzSzHxxxsopt第二章 维纳滤波和卡尔曼滤波 假设信号和噪声不相关，即rsv(m)=0，则 Sxs(z)=Sss(z)Sxx(z)=Sss(z)+Svv(z) （2.3.2）式可以写成

24、 )()()()()()(zSzSzSzSzSzHvvssssxxxsopt（2.3.5）式表示，当噪声为0时，信号全部通过；当信号为0时， 噪声全部被抑制掉，因此维纳滤波确有滤除噪声的能力。把信号的频谱用Pss(ej)表示，噪声的频谱用Pvv(ej)表示，那么非因果的维纳滤波器的传输函数Hopt(ej)的幅频特性如图2.3.1所示。 第二章 维纳滤波和卡尔曼滤波 011)e (joptHPss(ej)0, Pvv(ej)=0 Pss(ej)0, Pvv(ej) 0 Pss(ej)=0, Pvv(ej) 0 然而实际的系统都是因果的。对于一个因果系统，不能直接转入频域求解的原因是由于输入信号与

25、期望信号的互相关序列是一个因果序列，如果能够把因果维纳滤波器的求解问题转化为非因果问题，求解方法将大大简化。那么怎样把一个因果序列转化为一个非因果序列呢？ 第二章 维纳滤波和卡尔曼滤波 图 2.3.1 非因果维纳滤波器的传输函数的幅频特性 Hopt(ej)PSS(ej)Pvv(ej)0第二章 维纳滤波和卡尔曼滤波 回顾前面讲到的时间序列信号模型，假设x(n)的信号模型B(z)已知（如图2.3.2(a)所示），求出信号模型的逆系统B-1(z)， 并将x(n)作为输入，那么逆系统B-1(z)的输出(n)为白噪声。一般把信号转化为白噪声的过程称为白化，对应的滤波器称为白化滤波器（如图2.3.2(b)

26、所示）。 图 2.3.2 x(n)的时间序列信号模型及其白化滤波器 B(z)(n)x(n)B1(z)(n)x(n)第二章 维纳滤波和卡尔曼滤波 具体思路如图2.3.3所示。用白噪声作为待求的维纳滤波器的输入，设定1/B(z)为信号x(n)的白化滤波器的传输函数，那么维纳滤波器的传输函数G(z)的关系为 )()()(zBzGzH(2.3.7) 因此，维纳滤波器的传输函数H(z)的求解转化为G(z)的求解。 图 2.3.3 维纳滤波解题思路 (n)x(n)G(z)y(n) s(n)(1zB第二章 维纳滤波和卡尔曼滤波 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解 假设待求维纳滤波器的单

27、位脉冲响应为(n)，期望信号d(n)=s(n)，系统的输出信号y(n)=s(n)，g(n)是G(z)的逆Z变换， 如图2.3.3所示。 kknkgngnnsny)()()()()( )(第二章 维纳滤波和卡尔曼滤波 kskskkskskkkkkrkrkgrkrkgkrkgkgrnsknkgnsknkgErnknrgkgEnsEknkgnsEneE222ss*22ss*222|)()()0()()()()(| )(|)0()()()()()()()()()()(| )(|)()()(| )(|(2.3.9) 第二章 维纳滤波和卡尔曼滤波 可以看出，均方误差的第一项和第三项都是非负数, 要使均方误

28、差为最小，当且仅当 0)()(krkgs -k (2.3.10) 因此g(n)的最佳值为 2)()(krkgsopt -k (2.3.11) 对上式两边同时做Z变换，得到 2)()(zSzGsopt(2.3.12) 第二章 维纳滤波和卡尔曼滤波 这样，非因果维纳滤波器的最佳解为 )()(1)()()(2optoptzBzSzBzGzHs(2.3.13) 因为s(n)=s(n)*(n)，且x(n)=(n)*b(n)，根据相关卷积定理(1.4.15)式, 得到 rxs(m)=rs(m)*b(-m) (2.3.14) 对上式两边做Z变换，得到 Sxs (z)=Ss(z)B(z-1) 因此 )()()

29、(1zBzSzSxss(2.3.15) 第二章 维纳滤波和卡尔曼滤波 将上式代入(2.3.13)式，并根据x(n)的信号模型，得到非因果的维纳滤波器的复频域最佳解的一般表达式 )()()()()(11)(12optzSzSzBzSzBzHxxxsxs(2.3.16) 假定信号与噪声不相关，即当Es(n)v(n)=0时，有 rxs(m)=E(s(n)+v(n)*s(n+m)=rss(m)rxx(m)=E(s(n)+v(n)*(s(n+m)+v(n+m)=rss(m)+rvv(m) 对上边两式做Z变换, 得到 Sxs(z)=Sss(z) Sxx(z)=Sss(z)+Svv(z) (2.3.17)

30、(2.3.18) 第二章 维纳滤波和卡尔曼滤波 把(2.3.17)式代入(2.3.15)式, 得到 )()()(1zBzSzSsss（2.3.19) 将（2.3.18）式和（2.3.19）式代入（2.3.16）式, 得到信号和噪声不相关时，非因果维纳滤波器的复频域最佳解和频率响应分别为 )()()()()()(optzSzSzSzSzSzHvvssssxxxs)()()()e ()e ()e ()e (jjjjoptvvssssvvssssPPPSSSH（2.3.20) （2.3.21) 第二章 维纳滤波和卡尔曼滤波 下面我们推出该滤波器的最小均方误差E|e(n)|2min的计算, 重新写出(

31、2.3.9)式的最佳解 kssskrrneE22min2| )(|)0(| )(|根据围线积分法求逆Z变换的公式, rss(m)用下式表示: CmsssszzzSmrd)(j21)(1(2.3.22) 得出 CsssszzzSrd)(j21)0(1(2.3.23) 第二章 维纳滤波和卡尔曼滤波 由复卷积定理 zzzYzXnynxCnd1)(j21)()(*(2.3.24) 取y(n)=x(n), 有 zzzXzXnxCnd)(j21| )(|12(2.3.25) 因此 zzzSzSkrCssnsd)()(j21| )(|12(2.3.26) 把(2.3.23)式和(2.3.26)式代入(2.3

32、.9)式， 得到 zzzSzSzSneEsssCd)()(1)(j21| )(|12min2(2.3.27) 第二章 维纳滤波和卡尔曼滤波 将（2.3.19）式代入上式， 得到 zzzSzHzSzzzBzSzBzSzSneEssoptssCsssssCd)()()(j21d)()()()(1)(j21| )(|1112min2(2.3.28) 因为实信号的自相关函数是偶函数，即rss(m)=rss(-m)，因此 Sss(z)=Sss(z-1) 假定信号与噪声不相关，Es(n)v(n)=0， 则 CxxvvssCssxxsssszzzSzSzSzzzSzSzSzSneEd)()()(j21d)(

33、)()()(j21| )(|1min2(2.3.30) 第二章 维纳滤波和卡尔曼滤波 2.3.2 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解 若维纳滤波器是一个因果滤波器， 要求 g(n)=0 n0 则滤波器的输出信号 0)()()()()( )(kknkgngnnsny估计误差的均方值 E|e(n)|2=E|s(n)-y(n)|2 (2.3.32) (2.3.31) 类似于（2.3.9）式的推导，得到 022202| )(|1)()()0(| )(|kskssskrkrkgrneE(2.3.33) 第二章 维纳滤波和卡尔曼滤波 要使均方误差取得最小值， 当且仅当 )()(000)(

34、)(22optnunrnnnrngss(2.3.34) 令 )(1)(ZT)()()()()(2opt0zSngzGznrznunrzSsoptnnsnnss(2.3.35) (2.3.36) 第二章 维纳滤波和卡尔曼滤波 又由（2.3.15）式得到 )()(1)(12optzBzSzGxs(2.3.37) 所以因果维纳滤波器的复频域最佳解为 )()()(11)()()(12optzBzSzBzBzGzHxsopt(2.3.38) 第二章 维纳滤波和卡尔曼滤波 维纳滤波的最小均方误差为 zzzSzHzSzzzBzSzBzSzSzzzSzSrkrkukrrkrrneExsssCxsxsssCsC

35、ssskssssksssd)()()(j21d)()()()(1)(j21d)()(1j21)0()()()(1)0(| )(|)0(| )(|1opt11212*2022min2(2.3.39) 第二章 维纳滤波和卡尔曼滤波 比较（2.3.28）式和（2.3.39）式，可以看出因果维纳滤波器的最小均方误差与非因果维纳滤波器的最小均方误差的形式相同，但公式中的Hopt(z)的表达式不同, 分别参见(2.3.16) 式和(2.3.38)式。 前面已经导出， 对于非因果情况，kssskrrneE22min2| )(|)0(| )(|对于因果情况， 022min2| )(|)0(| )(|ksssk

36、rrneE比较两式，它们的第二项求和域不同，因为因果情况下,k=0+， 因此可以说明非因果情况的E|e(n)|2min一定小于等于因果情况E|e(n)|2min。在具体计算时,可以选择单位圆作为积分曲线， 应用留数定理， 计算积分函数在单位圆内的极点的留数来得到。 第二章 维纳滤波和卡尔曼滤波 通过前面的分析, 因果维纳滤波器设计的一般方法可以按下面的步骤进行： (1) 根据观测信号x(n)的功率谱求出它所对应的信号模型的传输函数，即采用谱分解的方法得到B(z)。具体方法为Sxx(z)=2B(z)B(z-1)，把单位圆内的零极点分配给B(z)，单位圆外的零极点分配给B(z-1)，系数分配给2。

37、 (2)求的Z反变换，取其因果部分再做Z变换，即舍掉单位圆外的极点，得 (3) 积分曲线取单位圆，应用（2.3.38）式和（2.3.39）式，计算Hopt(z), E|e(n)|2min。 )()(1zBzSxs)()(1zBzSxs。 第二章 维纳滤波和卡尔曼滤波 例例 2.3.1 已知 )8 . 01)(8 . 01 (36. 0)(1zzzSss信号和噪声不相关，即rsv(m)=0，噪声v(n)是零均值、单位功率的白噪声（2v=1,mv=0)，求Hopt(z)和E|e(n)|2min。 解解 根据白噪声的特点得出Svv(z)=1, 由噪声和信号不相关， 得到rxx(m)=rss(m)+r

38、vv(m)。 对上式两边做Z变换，并代入已知条件，对x(n)进行功率谱分解:)()()8 . 01)(8 . 01 ()5 . 01)(5 . 01 (6 . 11)8 . 01)(8 . 01 (36. 0)()()(12111zBzBzzzzzzzSzSzSvvssxx第二章 维纳滤波和卡尔曼滤波 考虑到B(z)必须是因果稳定的系统，得到 6 . 1,8 . 015 . 01)(211zzzB(1) 首先分析物理可实现情况，应用公式（2.3.38）:)5 . 01)(8 . 01 (36. 0)5 . 01 (6 . 18 . 01)()()(11)(11112optzzzzzBzSzBz

39、Hxs令 )5 . 01)(8 . 01 (36. 0)(,)5 . 01)(8 . 01 (36. 0)(11zzzFzzzFF(z)的极点为0.8和2，考虑到因果性、稳定性，仅取单位圆内的极点zi=0.8, f(n)为F(z)的Z反变换。用Res表示留数，应用留数定理，有 第二章 维纳滤波和卡尔曼滤波 nznnzzzzzzzsnf8 . 06 . 0)8 . 0()5 . 01)(8 . 01 (36. 08 . 0 ,)5 . 01)(8 . 01 (36. 0Re)(8 . 01111取因果部分， f+(n)=0.60.8nu(n) 1111opt15 . 011838 . 016 .

40、 0)5 . 01 (6 . 18 . 01)(8 . 016 . 0)(8 . 06 . 0)()(zzzzzHznuZTnfZTzFn第二章 维纳滤波和卡尔曼滤波 zzzzzzzzzzzzzzSzHzSneECCCxsssd)8 . 01)(8 . 01 (36. 0j21d)8 . 01)(8 . 01 (36. 05 . 0183)8 . 01)(8 . 01 (36. 0j21d)()()(j21| )(|11111optmin2令 zzzzE1)5 . 01)(8 . 01 (8536. 0)(1第二章 维纳滤波和卡尔曼滤波 单位圆内只有极点Zi=0.5, 83)5 . 0(1)5

41、 . 01)(8 . 01 (36. 05 . 0),(Res| )(|5 . 01min2zzzzzzEneE未经滤波器的均方误差 1| )(| )()(| )(|2222vnvEnsnxEneE第二章 维纳滤波和卡尔曼滤波 (2) 对于非物理可实现情况, 应用公式(2.3.20)和(2.3.28), 有 )5 . 01)(5 . 01 (225. 0)()()()()()(1optzzzSzSzSzSzSzHvvssssxxxszzzzzzzzzzzzzzzzzzzSzHzSneECCxsssd)5 . 01)(5 . 01)(8 . 01)(8 . 01 ()5 . 05 . 0025.

42、 1 (36. 0j21d)8 . 01)(8 . 01 (36. 0)5 . 01)(5 . 01 (225. 0)8 . 01)(8 . 01 (36. 0j21d)()()(j21| )(|1111111optmin2第二章 维纳滤波和卡尔曼滤波 令 )5 . 01)(5 . 01)(8 . 01)(8 . 01 ()5 . 05 . 0025. 1 (36. 0)(111zzzzzzzF单位圆内有两个极点0.8和0.5, 应用留数定理，有 1035 . 0),(Res8 . 0),(Res)(min2zFzFneE比较两种情况下的最小均方误差,可以看出非物理可实现情况的最小均方误差小于

43、物理可实现情况的均方误差。 第二章 维纳滤波和卡尔曼滤波 2.4 维维 纳纳 预预 测测 2.4.1 2.4.1 维纳预测的计算维纳预测的计算 在维纳滤波中，期望的输出信号yd(n)=s(n)，实际的输出为y(n)=s(n)。在维纳预测中，期望的输出信号yd(n)=s(n+N)， 实际的输出y(n)=s(n+N)。前面已经推导得到维纳滤波的最佳解为 )()()()()(optzSzSzSzSzHxxxyxxxsd（2.4.1） 其中,Sxx(z)是观测数据的功率谱;Sxyd(z)是观测数据与期望信号的互功率谱，即互相关函数rxyd(k)的傅里叶变换 )()(*)(knynxErdkxyd（2.

44、4.2） 第二章 维纳滤波和卡尔曼滤波 对应于维纳预测器， 其输出信号y(n)和预测误差信号e(n+N)分别为 )( )()()()()( )(0NnsNnsNnemNnxmhNnsnym（2.4.3） （2.4.4） 同理，要使预测误差的均方值为最小，须满足 0| )(|2khNneE（2.4.5） 其中，hk表示h(k)。 第二章 维纳滤波和卡尔曼滤波 观测数据与期望的输出的互相关函数rxyd(k)和互谱密度Sxyd(z)分别为 NxsxyxsdxyzzSzSkNrkNnsnxEknynxEkrdd)()()()()()()()(*（2.4.6） （2.4.7） 这样，非因果维纳预测器的最

45、佳解为 )()()()()(optzSzSzzSzSzHxxxsNxxxyd（2.4.8） 因果维纳预测器的最佳解为 )()()(11)()()(11)(1212optzBzSzzBzBzSzBzHxsNxyd（2.4.9） 第二章 维纳滤波和卡尔曼滤波 维纳预测的最小均方误差为 CxsssCxysszdzzSzHzSzdzzSzHzSNneEd)()()(j21)()()(j21| )(|1opt1optmin2从上面分析可以看出， 维纳预测的求解和维纳滤波器的求解方法是一致的。 第二章 维纳滤波和卡尔曼滤波 2.4.2 2.4.2 纯预测纯预测 假设x(n)=s(n)+v(n)，式中v(n

46、)是噪声，且v(n)=0，期望信号为s(n+N), N0，此种情况称为纯预测。 假定维纳预测器是因果的，仍设s(n)与v(n)不相关，纯预测情况下的输入信号的功率谱及维纳预测器的最佳解分别为 )()(1)()()(11)()()()()()(12opt12zBzzBzBzSzzBzHzBzBzSzSzSNxsNssxsxx（2.4.11） （2.4.12） 第二章 维纳滤波和卡尔曼滤波 纯预测器的最小均方误差为 CNNCNNCNxssszdzzBzzzBzBzBzdzzzBzBzBzBzzBzBzdzzzSzHzSNneE)()()()(j2)()()()()()(j21)()()(j21|

47、)(|11212121optmin2（2.4.13） 应用复卷积定理 zzzYzXnynxCnd1)(j21)()(*（2.4.14） 第二章 维纳滤波和卡尔曼滤波 取y(n)=x(n) zzzXzXnxCnd)()(j21)(12（2.4.15） 将上式代入(2.4.13)式, 并考虑到b(n)是因果系统，得到 )( )()()()()()(| )(|10220022222min2nbNnbnbNnbnuNnbnbNneENnnnnn 可以看到，随着N增加，E|e(n+N)|2min也增加。这一点也容易理解，当预测的距离越远，预测的效果越差，偏差越大，因而E|e(n+N)|2min越大。 第

48、二章 维纳滤波和卡尔曼滤波 例例2.4.1 已知 )1)(1 (1)(),()(12azazazSnsnxxx其中-1a1， 求: (1) 最小均方误差下的s(n+N)； (2) E|e(n+N)|2min。 解解 首先对Sxx(z)进行功率谱分解。因为 1221211)(,1)1)(1 (1)(azzBaazazazSxx所以 第二章 维纳滤波和卡尔曼滤波 其次，求出B(z)的Z反变换 )(11T11nuaaznZ 然后，应用Z变换的性质，得到 1ZTT11)()(11 azanuaNnuaazzNNnNnZN取因果部分NNNaazaazzBzzBzH11opt1)1 ()()(1)(（2.

49、4.17） 第二章 维纳滤波和卡尔曼滤波 图 2.4.1 纯预测维纳滤波器 aNx(n)y(n)第二章 维纳滤波和卡尔曼滤波 由Hopt(z)=aN，此时可以把纯预测的维纳滤波器看作是一个线性比例放大器（如图2.4.1所示）。 根据x(n)的信号模型 111)(azzB可以写出x(n)的时间序列模型所对应的输入输出方程 x(n)=(n)+ax(n-1) 将信号x(n)通过纯预测维纳滤波器，随着时间的递增，可以得到 当N=1时，x(n+1)=ax(n)=as(n)当N=2时，x(n+2)=ax(n+1)=a2s(n) 当N=N时，x(n+N)=ax(N+n-1)=aNs(n) （2.4.19）

50、第二章 维纳滤波和卡尔曼滤波 以上推导结果相当于在n+N时刻，(n+N)=0，即去掉噪声时的结果。设N0时，(n+N)=0，则 x(n+N)=ax(n+N-1) 此时，从统计意义上讲，当N0时，白噪声信号(n+N)对x(n)无影响。 这一结论还可以推广，对于任何均值为零的x(n)，要估计s (n+N)时，只需要考虑B(z)的惯性，即可认为(n+N)=0,N0， 这样估计出来的结果将有最小均方误差。 终值定理 21)(lim)() 1(limxxxmxxzmmrzSz第二章 维纳滤波和卡尔曼滤波 表明一个信号的功率谱在单位圆上没有极点与信号均值等于0等价，因此对于功率谱在单位圆上没有极点的信号，

51、要估计s(n+N)时，可认为(n+N)=0, N0，即仅需要考虑B(z)的惯性，这样估计出来的结果将有最小均方误差。 第二章 维纳滤波和卡尔曼滤波 2.4.3 2.4.3 一步线性预测的时域解一步线性预测的时域解 已知x(n-1), x(n-2)，,x(n-p), 预测x(n)，假设噪声v(n)=0，这样的预测称为一步线性预测。设定系统的单位脉冲响应为h(n)，根据线性系统的基本理论，输出信号 pkknxkhnxny1)()()( )(令apk=-h(k)，则 pkpkknxanx1)()( （2.4.21） 预测误差 pkpkpkpkknxaknxanxnxnxne01)()()()( )(

52、)(（2.4.22） 第二章 维纳滤波和卡尔曼滤波 其中, ap0=1, 212)()(| )(|pkpkknxanxEneE（2.4.23） 要使均方误差为最小值，要求 planeEpl, 2 , 10| )(|2 同维纳滤波的推导过程一样, 可以得到 Ee*(n)x(n-l)=0 l=1, 2, , p （2.4.24） 把(2.4.22)式代入(2.4.24)式, 得到 pkxxpkxxlkralr10)()(l=1, 2, , p （2.4.25） 第二章 维纳滤波和卡尔曼滤波 由于预测器的输出 是输入信号的线性组合，参见（2.4.21)式, 得到 )( nx0)( )(*nxneE（

53、2.4.26） (2.4.24)式说明误差信号与输入信号满足正交性原理， (2.4.26)式说明预测误差与预测的信号值同样满足正交性原理。 预测误差的最小均方值 pkxxpkxxpkpkkrarnxknxanxEnxneEnxnxneEneE11*min2)()0()()()()()()( )()(| )(|(2.4.27） 第二章 维纳滤波和卡尔曼滤波 将(2.4.25)式和(2.4.27)式联立， 得到下面的方程组： pkxxpkxxpkxxpkxxpllkralrneEkrar11min2, 2 , 10)()(| )(|)()0(（2.4.28） 将方程组写成矩阵形式 00| )(|1

54、)0() 1()() 1()0() 1 ()() 1 ()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxx（2.4.29） 第二章 维纳滤波和卡尔曼滤波 这就是有名的Yule-Walker方程，可以看出Yule-Walker方程具有以下特点： (1) 除了第一个方程外，其余都是齐次方程; (2) 与维纳-霍夫方程相比，不需要知道观测数据x(n)与期望信号s(n)的互相关函数。 该方程组有p+1个方程，对应地，可以确定apk,k=1, 2, , p和Ee2(n)min，共计p+1个未知数，因此可用来求解AR模型参数。这就是后面要介绍的AR模型法进行功率

55、谱估计的原理，它再一次揭示了时间序列信号模型、功率谱和自相关函数描述一个随机信号的等价性。 第二章 维纳滤波和卡尔曼滤波 例例2.4.2 已知 )8 . 01)(8 . 01 (36. 0)(1zzzSxxx(n)为AR模型，求AR模型参数。 解解 求解AR模型参数包括确定AR模型的阶数p及系数ap1,ap2, ,app。 首先对Sxx(z)做傅里叶反变换，得到x(n)的自相关函数rxx(m), rxx(m)=0.8|m| 采用试验的方法确定模型阶数p。首先取p=2， 各相关函数值由上式计算，并代入(2.4.29)式 00118 . 064. 08 . 018 . 064. 08 . 0122

56、1aa第二章 维纳滤波和卡尔曼滤波 计算得到 a1=-0.8， a2=0, 2=0.36 如果取p=3，可计算出a1=-0.8, a2=a3=0, 2=0.36，说明AR模型的阶数只能是一阶的。采用谱分解的方法，即对Sxx(z)进行谱分解，得到的模型也是一阶的，其时间序列模型和差分方程为 ) 1(8 . 0)()(8 . 011)(1nxnnxzzB第二章 维纳滤波和卡尔曼滤波 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波是用状态空间法描述系统的，由状态方程和量测方程所组成。卡尔曼滤波用前一个状态的估计值和最近一个观测数据来估计状态变量的当前值， 并以状态变量的估计值的形式给出。卡

57、尔曼滤波具有以下的特点： (1) 算法是递推的，且状态空间法采用在时域内设计滤波器的方法，因而适用于多维随机过程的估计；离散型卡尔曼算法适用于计算机处理。 (2) 用递推法计算，不需要知道全部过去的值，用状态方程描述状态变量的动态变化规律，因此信号可以是平稳的，也可以是非平稳的， 即卡尔曼滤波适用于非平稳过程。 (3) 卡尔曼滤波采取的误差准则仍为估计误差的均方值最小。 第二章 维纳滤波和卡尔曼滤波 2.5.1 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程 假设某系统k时刻的状态变量为xk，状态方程和量测方程（也称为输出方程）表示为 kkkkxAx1(2.5.1a)

58、 kkkkvxCy(2.5.1b) 其中，k表示时间，这里指第k步迭代时，相应信号的取值；输入信号k是一白噪声，输出信号的观测噪声vk也是一个白噪声, 输入信号到状态变量的支路增益等于1，即B=1；A A表示状态变量之间的增益矩阵，可以随时间发生变化，用Ak表示第k步迭代时， 增益矩阵A的取值； 第二章 维纳滤波和卡尔曼滤波 C C表示状态变量与输出信号之间的增益矩阵，可以随时间变化， 第k步迭代时， 取值用Ck表示，其信号模型如图2.5.1所示。 将状态方程中时间变量k用k-1代替，得到的状态方程和量测方程如下所示： x xk=A Ak-1xk-1+k-1 yk=Ckxk+vk 其中，xk是

59、状态变量;k-1表示输入信号是白噪声; vk是观测噪声; yk是观测数据。 第二章 维纳滤波和卡尔曼滤波 图 2.5.1 卡尔曼滤波器的信号模型 z1Ak1Ckk1xk1xkvkyk第二章 维纳滤波和卡尔曼滤波 为了后面的推导简单起见，假设状态变量的增益矩阵A不随时间发生变化，k,vk都是均值为零的正态白噪声，方差分别是Qk和Rk，并且初始状态与k,vk都不相关，表示相关系数。即kjkvvkvkkkjkkkkRRvEvQQEjkjk,2,2, 0:, 0:其中 jkjkkj01第二章 维纳滤波和卡尔曼滤波 2.5.2 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法 卡尔曼滤波是采用递推的

60、算法实现的，其基本思想是先不考虑输入信号k和观测噪声vk的影响，得到状态变量和输出信号（即观测数据）的估计值，再用输出信号的估计误差加权后校正状态变量的估计值，使状态变量估计误差的均方值最小。 因此, 卡尔曼滤波的关键是计算出加权矩阵的最佳值。 当不考虑观测噪声和输入信号时，状态方程和量测方程为 11 kkkkkkkkkxACxCyxAx(2.5.4) (2.5.5) 第二章 维纳滤波和卡尔曼滤波 显然，由于不考虑观测噪声的影响，输出信号的估计值与实际值是有误差的，用 表示 kkykkkyyy(2.5.6) 为了提高状态估计的质量，用输出信号的估计误差 来校正状态变量 ky)()(111kkk