维纳滤波和卡尔曼滤波课件

1、维纳滤波和卡尔曼滤波第二章 维纳滤波和卡尔曼滤波 n 2.1 引言引言 n 2.2 离散维纳滤波器的时域解离散维纳滤波器的时域解n 2.3 离散维纳滤波器的离散维纳滤波器的z z域解域解 n 2.4 维纳预测维纳预测n 2.5 卡尔曼卡尔曼(Kalman)(Kalman)滤波滤波 维纳滤波和卡尔曼滤波2.1 引引 言言n最优滤波n维纳滤波和卡尔曼滤波简介n本章讨论的主要内容维纳滤波和卡尔曼滤波1、最优滤波n信号处理的目的是从噪声中提取信号，得到不受干扰影响的真正信号。采用的处理系统称为滤波器。n滤波器的分类：线性滤波器、非线性滤波器；FIR滤波器、IIR滤波器；时域滤波器、频域滤波器；维纳滤波

2、和卡尔曼滤波图 2.1.1 信号处理的一般模型 x(n)=s(n)+v(n) ( )( )( )( )( ) ()my ns nx nh nh m x nm( )( )( )( )( )e ns ny ns ns n维纳滤波和卡尔曼滤波n最优准则最优准则：最大输出信噪比准则匹配滤波器最小均方误差准则误差绝对值的期望值最小 误差绝对值的三次或高次幂的期望值最小2min| ( )| E e nmin| ( )|E e nmin| ( )| kE e n维纳滤波和卡尔曼滤波x(n)=s(n)+v(n) ( )( )( ) ()my ns nh m x nm( )( )( )e ns ny nWien

3、er滤波器的一般结构滤波器的一般结构 2min| ( )| E e n维纳滤波和卡尔曼滤波2、维纳滤波和卡尔曼滤波简介n维纳(Wiener)滤波与卡尔曼(Kalman)滤波以估计的结果与信号真值之间的误差的均方值最小作为最优准则。)( )()(nsnsne22( )E e nEss假设信号的真值与估计值间的误差为： 均方误差最小即误差的平方的统计平均值最小： 最小维纳滤波和卡尔曼滤波3、本章讨论的主要内容n主要内容：维纳滤波器（FIR维纳滤波器和IIR维纳滤波器）、维纳预测器、卡尔曼滤波。n分析思路：在均方误差最小的前提下，求得系统的单位脉冲响应h(n)或传递函数H(z)，进而计算滤波器的最小

4、均方误差2min| ( )| E e n22min( )( )( )optmin E e nhnE e n维纳滤波和卡尔曼滤波2.2 离散维纳滤波器的时域解离散维纳滤波器的时域解n正交性原理正交性原理n维纳维纳霍夫方程霍夫方程nFIR维纳滤波器的时域解维纳滤波器的时域解维纳滤波和卡尔曼滤波1、 维纳滤波器时域求解的方法维纳滤波器时域求解的方法0( )( )( )( )()kky ns nx nh nh x nkn 因果维纳滤波器的输出y(n) ：n=0,1, 2, 设期望信号为d(n)，误差信号e(n)及其均方值E|e(n)|2分别为 e(n)=d(n)-y(n)=s(n)-y(n) 2*(

5、)| ( )| ( )( )J nE e nE e n e n代价函数为( ),0,1,2,.kkh kajb k维纳滤波和卡尔曼滤波22| ( )| | ( )| 0kkE e nE e njabk=0, 1, 2, 记梯度算子为 kkkjab k=0, 1, 2, ( )khmin J nn 要使均方误差为最小，须满足 0kJ nJ nh *kkkE e n enE e n enJ njab维纳滤波和卡尔曼滤波上式展开为 *2*( )( )( )( )| ( )| ( )( )( )( )kkkkke ne ne ne nE e nEe ne nje nje naabb又00( )( )(

6、 )( )()( )( )( )()kkke ns ny ns nh x nks na kjb kx nk维纳滤波和卡尔曼滤波将上述4式代入得 2*| ( )| 2 () ( )kkJ nE e nE x nk e n *( )()( )()( )()( )()kkkke nx nkae njx nkbe nx nkae njx nkb 维纳滤波和卡尔曼滤波 分析：分析：上式说明，若使滤波器的均方误差达到最小，则误差信号与输入信号正交，这就是通常所说的正交性原理。 *0()( )0,0,1,2,.koptJ nE x nk enkn正交性原理：正交性原理：维纳滤波和卡尔曼滤波n正交性原理的重要

7、意义：提供了一个数学方法，用以判正交性原理的重要意义：提供了一个数学方法，用以判断线性滤波系统是否工作于最佳状态。断线性滤波系统是否工作于最佳状态。0 s x1 sse s w2x2 x2 w1x1 维纳滤波和卡尔曼滤波2、 维纳维纳霍夫方程霍夫方程*,0()( )0,0,1,2,.()( )()0optopt iiE x nk enkE x nkd nhx ni将输入信号分配进去， 得到 *,0()()dxopt ixxirkhrikk=0, 1, 2, 维纳维纳-霍夫（霍夫（WienerHopf）方程：）方程：k=0, 1, 2, ,0( )()xdopt i xxirkhrki维纳滤波和

8、卡尔曼滤波3、FIR维纳滤波器的时域解n FIR维纳滤波器的维纳维纳滤波器的维纳-霍夫方程霍夫方程 当h(n)是一个长度为M的因果序列时，FIR维纳滤波器的维纳-霍夫方程表述为 10( )( )()Mxdxxirkh i rkik=0, 1, 2, ,M-1 (2.2.21)维纳滤波和卡尔曼滤波把k的取值代入(2.2.21)式， 得到 当k=0时，h0rxx(0)+h1rxx(-1)+hM-1rxx(-M+1)=rxd (0)当k=1时，h0rxx(1)+ h1rxx(0)+ hM-1rxx(-M+2)= rxd (1) 当k=M-1时，h0rxx(M-1)+ h1rxx (M-2)+hM-1

9、rxx(0)= rxd (M-1) (2.2.22) 维纳滤波和卡尔曼滤波定义 011(0)(1)(1)(0)(1)(1)(1)(0)(2)(1)(2)(0)xdxdxdxdMxxxxxxxxxxxxxxxxxxxxhrhrhRrMhrrrMrrrMRrMrMr维纳滤波和卡尔曼滤波（2.2.22）式可以写成矩阵形式矩阵形式， 即 xdxxRR h 对上式求逆，得到 1optxxxdhhR R 这里涉及到计算相关矩阵和逆矩阵，计算量可能较大。维纳滤波和卡尔曼滤波n FIR维纳滤波器的估计误差的均方值维纳滤波器的估计误差的均方值 假定所研究的信号都是零均值的，滤波器为FIR型，长度等于M， 12*

10、01*012*min012*20| ( )| ( ) ( )( ) ()( )( )( )()| ( )| ( )( ) ( )( ) ()( )( )( )MmMmMmMdxddmE e nE e n d nh m x nmE e n dnhm E e n x nmE e nE e n dnEd nh m x nm dnh m rmHxdR h维纳滤波和卡尔曼滤波 结论：在所有在所有N阶阶FIR滤波器中，最优滤波器的均方误差值是滤波器中，最优滤波器的均方误差值是最小的，从这个意义上说，它是最优的。最小的，从这个意义上说，它是最优的。其阶数越高，采用的已知信息就越多，它的最小均方误差就越小，但

11、相应的计算量也越大。维纳滤波和卡尔曼滤波2.3 离散维纳滤波器的离散维纳滤波器的z域解域解n白化滤波器白化滤波器n非因果非因果IIR维纳滤波器的维纳滤波器的Z域解域解n因果因果IIR维纳滤波器的维纳滤波器的Z域解域解维纳滤波和卡尔曼滤波n 若不考虑滤波器的因果性，维纳霍夫方程可以改写为 ( )( )()( )*xdxxxxmrkh m rkmh krk 设定d(n)=s(n)，对上式两边做Z变换，得到 Sxs (z)=Hopt(z)Sxx(z) ( )( )( )xsoptxxSzHzSzx(n)=s(n)+v(n) 假设信号和噪声不相关，即rsv(m)=0，则 Sxs (z)=Sss(z)S

12、xx(z)=Sss(z)+Svv(z) ( )( )( )( )( )( )xsssoptxxssvvSzSzHzSzSzSz维纳滤波和卡尔曼滤波n 对于因果IIR维纳滤波器，其维纳霍夫方程为 0( )( )()( )( )xdxxxxmrkh m rkmh krkk=0, 1, 2, 因为存在k0的约束，使得上式不能直接转到Z域求解。如有可能将其转化为非因果问题，则求解会大大简化。维纳滤波和卡尔曼滤波 如果滤波器的输入是白噪声，即x(n)= w(n)，w(n)是方差为2w的白噪声，由于 2( )( )xxwwwrkrkk 则因果IIR维纳滤波器的维纳霍夫方程变为：220( )( )( )(

13、)xdwdwwmrkrkh mkmh k k=0, 1, 2, 2( )wdwrkh kk=0, 1, 2, 由此可见，只要将输入信号转化为白噪声，就可以解得因果IIR维纳滤波器的单位脉冲响应。维纳滤波和卡尔曼滤波1、白化滤波器、白化滤波器n任何具有有理功率谱密度的随机信号都可以看成是由一白色噪声w(n)激励某个物理网络所形成。x(n)的时间序列信号模型 21( )( ) ()xxwPzB z B z)()()(zWzBzX维纳滤波和卡尔曼滤波一般把信号转化为白噪声的过程称为白化白化，对应的滤波器称为白化滤波器白化滤波器。 x(n)的白化滤波器 如果B(z)是一个最小相移网络函数，那么1/B(

14、z)显然也是一个物理可实现的最小相移网络，因此可以利用上式白化x(n)。)()(1)(zXzBzW维纳滤波和卡尔曼滤波利用白化x(n)的方法求解维纳-霍夫方程 n 利用白化x(n)的方法求解维纳-霍夫方程:)()()(zBzGzH维纳滤波和卡尔曼滤波于是，在最小均方误差准则下，求最佳于是，在最小均方误差准则下，求最佳Hopt(z)的问题就归结的问题就归结为求最佳为求最佳G(z)的问题了。的问题了。G(z)当然也需分因果性或非因果性的当然也需分因果性或非因果性的约束情况加以讨论。约束情况加以讨论。21( )( ) ()xxPzB z B z 如果已知信号的Pxx(z)，即可由下式求得B(z) 。

15、 维纳滤波和卡尔曼滤波n 计算计算Hopt (z)： ( )( )( )( )( ) ()ky ns nw ng ng k w nk2、 非因果非因果IIR维纳滤波器的求解维纳滤波器的求解维纳滤波和卡尔曼滤波22*22*2ss( )() ( )( ) ()(| ( )| ( )( )( ) ()(0)|( )|( ) ( )() ()| kkwkrkkEg kE e nEs ng kEg k g r wE s nwnk w nrnw nkrk s ng k w nk s ng kg k r 第一项第二项*22ss2( )( )( )( )|(0)( )wswskkwswswkkwwkg k r

16、krkrrg k 第三项(2.3.9) 维纳滤波和卡尔曼滤波 求满足最小均方误差条件下的求满足最小均方误差条件下的g(k)：为求得相对于g(k)的最小均方误差值，令( )( )0wswwrkg k -k 2| ( )| 0E e ng k2( )( )wsoptwrkgk -k 2( )( )wsoptwSzGzZ变换后 维纳滤波和卡尔曼滤波 非因果非因果IIR维纳滤波器的最佳解：维纳滤波器的最佳解： optopt2( )( )1( )( )( )wswGzSzHzB zB zs(n)=s(n)*(n)，x(n)=w(n)*b(n)rxs(m)=rws(m)*b(-m) Sxs (z)=Sws

17、(z)B(z-1) 1( )( )()xswsSzSzB z维纳滤波和卡尔曼滤波 非因果IIR维纳滤波器的复频域最佳解的一般表达式 opt21( )( )11( )( )()( )xsxswxxSzSzHzB z B zSz假定信号与噪声不相关，即当Es(n)v(n)=0时可以得到： Sxs(z)=Sss(z) Sxx(z)=Sss(z)+Svv(z) 1( )( )()sswsSzSzB z维纳滤波和卡尔曼滤波 信号和噪声不相关时，非因果IIR维纳滤波器的复频域最佳解和频率响应分别为 )()()()()()(optzSzSzSzSzSzHvvssssxxxs)()()()e ()e ()e

18、()e (jjjjoptvvssssvvssssPPPSSSH维纳滤波和卡尔曼滤波n由上式可知：当噪声为0时，Hopt=1，信号全部通过；当信号为0时， Hopt=0，噪声全部被抑制掉；当即有信号又有噪声时， Hopt1，大小随Pvv的增加而减小，从而达到降低噪声影响的目的。011)e (joptHPss(ej)0, Pvv(ej)=0 Pss(ej)0, Pvv(ej) 0 Pss(ej)=0, Pvv(ej) 0 维纳滤波和卡尔曼滤波图 2.3.6 非因果维纳滤波器的传输函数的幅频特性 维纳滤波和卡尔曼滤波n 计算最小均方误差计算最小均方误差E|e(n)|2min： 22min2|( )|

19、 ( )| (0)wssskwrkE e nr 第一项根据围线积分法求逆Z变换的公式, rss(m)用下式表示: CmsssszzzSmrd)(j21)(1得出 CsssszzzSrd)(j21)0(1维纳滤波和卡尔曼滤波 第二项由帕塞伐尔定理：zzzYzXnynxCnd1)(j21)()(*取y(n)=x(n), 有 zzzXzXnxCnd)(j21| )(|12因此 211d|( )|( )()2jwswswsCnzrkSz Szz得到 21min211d| ( )| ( )( )()2jsswswsCwzE e nSzSz Szz维纳滤波和卡尔曼滤波112min121()( )( )()

20、( )( )()11d| ( )| ( )2j1d( )()2jwsxsopxsssCsstxsCwsszszSzzE e nSzzzSSzB zB zHzzSzz 1( )( )()xswsSzSzB z21min211d| ( )| ( )( )()2jsswswsCwzE e nSzSz Szz维纳滤波和卡尔曼滤波 假定信号与噪声不相关，Es(n)v(n)=0，又因为实信号的自相关函数是偶函数，即rss(m)=rss(-m)，则2m1(1)in( )1d| ( )| ( )()2j( )( )( )( )()1d2j( )( )( )( )1d2j( )( )( )1d2j( )optH

21、ssssssCxxssxxssssCxxssxxssCxxssvvCxzxSzzE e nSzSzSzzSz SzSz SzzSzzSzSzSzzSzzSz SzzSzz Sxs(z)=Sss(z) ，Sxx(z)=Sss(z)+Svv(z)； Sss(z)=Sss(z-1) 维纳滤波和卡尔曼滤波3 3、 因果因果IIRIIR维纳滤波器的求解维纳滤波器的求解n 若维纳滤波器是一个因果滤波器， 要求 g(n)=0 n0 则滤波器的输出信号 0( )( )( )( )( ) ()ky ns nw ng ng k w nk估计误差的均方值 E|e(n)|2=E|s(n)-y(n)|2 类似于（2.3

22、.9）式的推导，得到 222200( )1| ( )| (0)( )|( )|wssswwskkwwrkE e nrg krk维纳滤波和卡尔曼滤波要使均方误差取得最小值， 当且仅当 2opt2( )0( )00( )( )wswwswrnngnnrnu n令 0opt221( )( ) ( )( )( )11( )ZT( )( )()nnwswswsnnxsoptwswwSzrn u n zrn zSzGzgnSzB z维纳滤波和卡尔曼滤波因果维纳滤波器的复频域最佳解为 )()()(11)()()(12optzBzSzBzBzGzHxsopt维纳滤波和卡尔曼滤波维纳滤波的最小均方误差为 22m

23、in20*212121|( )| ( )| (0)1(0)( ) ( )( )11d(0)( )()2j( )()11d( )2j()( )1( )2jwssskwsswswsksswswsCxsxsssCwssCrkE e nrrrk u k rkzrSzSzzSzSzzSzB zB zzSz 1optd( )()xszHz Szz维纳滤波和卡尔曼滤波 非因果情况时，滤波器的最小均方误差为22min2|( )| ( )| (0)wssskwrkE e nr 对于因果情况， 22min20|( )| ( )| (0)wssskwrkE e nr 比较两式，可以看出非因果情况的E|e(n)|2m

24、in一定小于等于因果情况E|e(n)|2min。维纳滤波和卡尔曼滤波 因果维纳滤波器设计的一般方法： (1) 根据观测信号x(n)的功率谱求出它所对应信号模型的传输函数，即采用谱分解的方法得到B(z)，Sxx(z)=2wB(z)B(z-1)。 (2) 求的Z反变换，取其因果部分再做Z变换，即舍掉单位圆外的极点，得 (3) 积分曲线取单位圆，计算Hopt(z), E|e(n)|2min。 )()(1zBzSxs)()(1zBzSxs维纳滤波和卡尔曼滤波例例 2.3.1 已知 )8 . 01)(8 . 01 (36. 0)(1zzzSss信号和噪声不相关，即rsv(m)=0，噪声v(n)是零均值、

25、单位功率的白噪声（2v=1,mv=0)，求Hopt(z)和E|e(n)|2min。 解解 根据白噪声的特点得出Svv(z)=1, 由噪声和信号不相关， 得到rxx(m)=rss(m)+rvv(m)。 11211( )( )( )0.361(1 0.8)(1 0.8 )1.6 (1 0.5)(1 0.5 )( ) ()(1 0.8)(1 0.8 )xxssvvwSzSzSzzzzzB z B zzz维纳滤波和卡尔曼滤波考虑到B(z)必须是因果稳定的系统，得到 1211 0.5( ),1.61 0.8wzB zz (1)、 首先分析物理可实现情况:1opt2111( )1110.80.36( )(

26、 )()1.6 (10.5)(10.8)(10.5 )xswSzzHzB zB zzzz因为 111110.810.360.36Re,0.8(1 0.8)(1 0.5 )(1 0.8)(1 0.5 )0.360.8(1 0.8)(1 0.5 )3(0.8)5nnznZszzzzzzzzz维纳滤波和卡尔曼滤波1opt11110.80.631( )1.6 (10.5)10.8810.5zHzzzz取其因果部分 110.3633/5(0.8)(1 0.8)(1 0.5 )51 0.8nZTu nzzz 110.363(0.8)(1 0.8)(1 0.5 )5nZu nzz维纳滤波和卡尔曼滤波2min

27、1opt111| ( )| 1d( )( )()2j310.360.36d82j(1 0.8)(1 0.8 )1 0.5(1 0.8)(1 0.8 )50.45(0.5)182(0.8)(1/0.8)(0.5)ssxsCCCE e nzSzHz Szzzzzzzzzzdzjzzz取单位圆为积分围线，上式等于单位圆内的极点 )5 . 08 . 0(zz及的留数之和，即 维纳滤波和卡尔曼滤波未经滤波器的均方误差 1| )(| )()(| )(|2222vnvEnsnxEneE20.80.5min550.450.50.450.588( )(1/0.8)(0.5)(0.8)(1/0.8)3/8zzzz

28、E e nzzzz 所以通过因果维纳滤波器后均方误差下降8/3(2.7)倍。维纳滤波和卡尔曼滤波 (2)、 对于非物理可实现情况有 opt111( )( )( )( )( )( )0.36(1 0.8)(1 0.8 )0.361(1 0.8)(1 0.8 )0.225(1 0.5)(1 0.5 )xsssxxssvvSzSzHzSzSzSzzzzzzz维纳滤波和卡尔曼滤波21minopt111111d| ( )| ( )( )()2j10.360.2250.36d2j (1 0.8)(1 0.8 )(1 0.5)(1 0.5 )(1 0.8)(1 0.8 )10.360.22512(1 0.8

29、)(1 0.8 )(1 0.5)(1 0.5 )ssxsCCzE e nSzHz Szzzzzzzzzzdzjzzzzz11110.36 (1.0250.50.5 )d2j(1 0.8)(1 0.8 )(1 0.5)(1 0.5 )Czzzzzzzz维纳滤波和卡尔曼滤波令 1110.36 (1.0250.50.5 )( )(1 0.8)(1 0.8 )(1 0.5)(1 0.5 )zzF zzzzz z单位圆内有两个极点0.8和0.5, 应用留数定理，有 1035 . 0),(Res8 . 0),(Res)(min2zFzFneE结论：比较两种情况下的最小均方误差,可以看出非物理可实现情况的最

30、小均方误差小于物理可实现情况的均方误差。 维纳滤波和卡尔曼滤波2.4 维维 纳纳 预预 测测n预测的可能性预测的可能性n维纳预测的计算维纳预测的计算n纯预测纯预测n一步线性预测的时域解一步线性预测的时域解维纳滤波和卡尔曼滤波 H(z) x(n)=s(n)+(n) )( )(nsny( H(z) x(n)=s(n)+(n) ( )()y ns nN 图2.4.1(b) 维纳预测器图2.4.1(a) 维纳滤波器维纳滤波和卡尔曼滤波1、预测的可能性、预测的可能性n信号可以预测是由于信号内部存在关联性。数据间关联越密切，预测越准确；完全不关联，则无法预测。 2( )wwwrmm 0( )0wwmrm时

31、， 21( ),0 xxwxxSzB z B zrm输入：输出：维纳滤波和卡尔曼滤波n随机信号预测的特点：随机信号预测的特点：以信号的统计特性作为预测的主要依据；不可能作预测误差为零的绝对精确的预测；实际信号通常带有噪声干扰，使得预测和滤波联系在一起，成为带滤波的预测。维纳滤波和卡尔曼滤波2 2、 维纳预测的计算维纳预测的计算0( )()( ) ()()()()my ns nNh m x nNme nNs nNs nN( )()dyns nN )()(Nnsnyd )()()(nnsnx )( )(Nnsny H（z） 维纳滤波和卡尔曼滤波 同理，要使预测误差的均方值为最小，须满足 2| ()

32、| 0kE e nNh其中，hk表示h(k)。 02jiiixxhNnsE0( )( )(), 0dxyoptxxmrkhm rkmk即 2()jhmin E e nN维纳滤波和卡尔曼滤波NxsxyxsdxyzzSzSkNrkNnsnxEknynxEkrdd)()()()()()()()(*n 非因果维纳预测器的最佳解为 )()()()()(optzSzSzzSzSzHxxxsNxxxydn 因果维纳预测器的最佳解为 )()()(11)()()(11)(1212optzBzSzzBzBzSzBzHxsNxyd维纳滤波和卡尔曼滤波维纳预测的最小均方误差为 21minopt1opt1| ()| (

33、 )( )()2j1( )( )()2jdssxyCNssxsCdzE e nNSzHz SzzdzSzHz Szzz 维纳预测的求解和维纳滤波器的求解方法是一致的。 维纳滤波和卡尔曼滤波3 3、 纯预测纯预测n 假设假设x(n)=s(n)+v(n)，纯预测问题是在，纯预测问题是在v(n)=0情况下对情况下对s(n+N), N0的预测，此时的预测，此时x(n)=s(n)。 因果情况下，假设s(n)与v(n)不相关，纯预测情况下的输入信号的功率谱及维纳预测器的最佳解分别为 )()(1)()()(11)()()()()()(12opt12zBzzBzBzSzzBzHzBzBzSzSzSNxsNss

34、xsxx维纳滤波和卡尔曼滤波纯预测器的最小均方误差为 CNNCNNCNxssszdzzBzzzBzBzBzdzzzBzBzBzBzzBzBzdzzzSzHzSNneE)()()()(j2)()()()()()(j21)()()(j21| )(|11212121optmin2应用复卷积定理 zzzYzXnynxCnd1)(j21)()(*维纳滤波和卡尔曼滤波取y(n)=x(n) zzzXzXnxCnd)()(j21)(12得到 )( )()()()()()(| )(|10220022222min2nbNnbnbNnbnuNnbnbNneENnnnnn 可以看到，随着N增加，E|e(n+N)|2m

35、in也增加。这一点也容易理解，当预测的距离越远，预测的效果越差，偏差越大，当预测的距离越远，预测的效果越差，偏差越大，因而因而E|e(n+N)|2min越大。越大。 维纳滤波和卡尔曼滤波4、 一步线性预测的时域解一步线性预测的时域解n 一步线性预测一步线性预测：采用p个最近的采样值来预测时间序列下一时刻的值，包括前向预测和后向预测两种。 前向预测前向预测：在噪声v(n)=0的情况下，已知x(n-1), x(n-2)，,x(n-p), 预测当前时刻x(n)； 后向预测后向预测：在噪声v(n)=0的情况下，已知x(n)，x(n-1)，x(n-p+1)基础上，估计x(n-p)。 维纳滤波和卡尔曼滤波

36、图 2.4.2 前后向预测数据之间的关系 x(n p) , x(n p1) , , x(n2) , x(n1) , x(n)后向预测前向预测维纳滤波和卡尔曼滤波（1）、前向预测）、前向预测n设定系统的单位脉冲响应为h(n)，其输出信号为1( )( )( )( ) ()pky ns nx nh k x nk令apk=-h(k)，则 pkpkknxanx1)()( n 前向预测误差为 pkpkpkpkknxaknxanxnxnxne01)()()()( )()(其中, ap0=1, 维纳滤波和卡尔曼滤波一步前向预测器结构图 维纳滤波和卡尔曼滤波n前向预测误差的均方值为： 212)()(| )(|p

37、kpkknxanxEneEplaneEpl, 2 , 10| )(|2或Ee (n)x* (n-l)=0 l=1, 2, , p 即*12( )()()01,2,PpkkEx na x nkx nllppkxxpkxxlkralr10)()(维纳滤波和卡尔曼滤波 由于预测器的输出 是输入信号的线性组合，故预测误差与预测的信号值同样满足正交性原理：)( nx0)( )(*nxneEn 前向预测误差的最小均方值为： 2*min*11| ( )| ( )( ( )( )( ) ( )( )()( )(0)( )ppkkpxxpk xxkE e nE e n x nx nE e n x nEx na

38、x nkx nra rk维纳滤波和卡尔曼滤波pkxxpkxxpkxxpkxxpllkralrneEkrar11min2, 2 , 10)()(| )(|)()0(将方程组写成矩阵形式 （Yule-Walker方程）方程）00| )(|1)0() 1()() 1()0() 1 ()() 1 ()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxx维纳滤波和卡尔曼滤波1optxxxdhhR R12(0)(1)(1)(0)(1)(0)(2)(1)(1)(1)(2)(0)xxxxxxxdxxxxxxxdxdMxxxxxxrrrMhrhrrrMrrMhrMrMr

39、维纳霍夫方程00| )(|1)0() 1()() 1()0() 1 ()() 1 ()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxx Yule-Walker方程维纳滤波和卡尔曼滤波 前向预测误差为 1( )( )( )( )()ppkke nx nx nx na x nk AR信号模型为 1( )()pkkx na x nkw n 222min,pkkwaa e nw nE enE wn对比两式可知，维纳滤波和卡尔曼滤波（2）、后向预测）、后向预测n假设前、后向预测器具有相同的系数，即 1( )()()()ppkky ns npx npa x np

40、k n 后向预测误差为 pkpkkpnxapnxpnxpnxnb1)()()( )()(维纳滤波和卡尔曼滤波n后向预测误差的均方值为： 2122)()()( )()(PkpkkpnxapnxEpnxpnxEnbE2| ( )| 01,2,plE b nlpa或Eb (n)x* (n-p+l)=0 l=1, 2, , p 即*12()()()01,2,ppkkEx npa x npkx npllppkxxpkxxlkralr10)()(维纳滤波和卡尔曼滤波 由于预测器的输出 是输入信号的线性组合，故预测误差与预测的信号值同样满足正交性原理：()x np*( ) ()0E b n x npn 后向

41、预测误差的最小均方值为： 2*min*1( )( )()()( ) ()( ) ()( ) ()()()()ppkkE b nE b nx npx npE b n x npb n x npE b n x npEx npa x npkx np维纳滤波和卡尔曼滤波同理，可以得到下面方程组： 2min11(0)( )| ( )| ( )()01,2,pxxpk xxkpxxpk xxkra rkE b nrla rkllp将方程组写成Yule-Walker方程方程形式2min1(0)(1)( )1| ( )| (1)(0)(1)00( )(1)(0)xxxxxxpxxxxxxppxxxxxxrrrp

42、E b narrrparprpr维纳滤波和卡尔曼滤波 Yule-Walker方程具有以下特点： (1) 除了第一个方程外，其余都是齐次方程; (2) 与维纳-霍夫方程相比，不需要知道rxs(m)。 (3) 由方程组的p+1个方程，可以确定apk,k=1, 2, , p和Ee2(n)min，共计p+1个未知数。维纳滤波和卡尔曼滤波n Levinson-Durbin算法算法 Levinson-Durbin算法首先由一阶AR模型开始，一阶AR模型(p=1)的Yule-Walker为 01)0() 1 ()2()0(211 , 1arrrrxxxxxxxx由该方程解出： )0()1 ()0() 1 (

43、21 , 1211 , 1xxxxxxrarra维纳滤波和卡尔曼滤波然后增加一阶，即令p=2，得到 001)0() 1 ()2() 1 ()0() 1 ()2() 1 ()0(222, 21 , 2aarrrrrrrrrxxxxxxxxxxxxxxxxxx 由上面方程解出： 2122, 2221 , 12, 21 , 1221 , 2211 , 12222, 2)1 ()1 ()0(/)2() 1 () 1 ()0(/)1 ()2()1 ()0(/)1 ()2()0(aaaarrrrrrararrrrrraxxxxxxxxxxxxxxxxxxxxxxxxxx维纳滤波和卡尔曼滤波 然后令p=3,

44、 4, , 以此类推， 可以得到Levinson-Durbin的一般递推公式如下： 11,121,1,1,2221220( )()1,2,3,1(1)(0)( )pxxpk xxkpppp pp kpkppp kpppxxrparpkkkaaak akpkrE xn 维纳滤波和卡尔曼滤波例例2.4.2 已知 )8 . 01)(8 . 01 (36. 0)(1zzzSxxx(n)为AR模型，求AR模型参数（包括模型阶数和系数）。rxx(m)=0.8|m| 解解 首先对Sxx(z)做傅里叶反变换，得到x(n)的自相关函数rxx(m), 维纳滤波和卡尔曼滤波 （1）、采用试验的方法确定模型阶数p。首

45、先取p=2，各相关函数值由上式计算 00118 . 064. 08 . 018 . 064. 08 . 01221aa计算得到 a1=-0.8， a2=0, 2=0.36 维纳滤波和卡尔曼滤波（2）、如果取p=3，可计算出a1=-0.8, a2=a3=0, 2=0.36，说明AR模型的阶数只能是一阶的。（3）、采用谱分解的方法，即对Sxx(z)进行谱分解，得到的模型也是一阶的，其时间序列模型和差分方程为 ) 1(8 . 0)()(8 . 011)(1nxnnxzzB维纳滤波和卡尔曼滤波2.5 卡尔曼卡尔曼(Kalman)滤波滤波 n卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程n

46、卡尔曼滤波的递推算法卡尔曼滤波的递推算法维纳滤波和卡尔曼滤波1、卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程 假设某系统k时刻的状态变量为xk，状态方程和量测方程（也称为输出方程）表示为 11kkkkxA xwkkkkvxCy Ak为状态转移矩阵，描述系统状态由时间k-1的状态到时间k的状态之间的转移； Ck为量测矩阵，描述状态经其作用，变成可量测或可观测的； xk为状态向量，是不可观测的；yk为观测向量； wk为过程噪声；vk为量测噪声。维纳滤波和卡尔曼滤波图 2.5.1 卡尔曼滤波器的信号模型 kskx维纳滤波和卡尔曼滤波 假设状态变量的增益矩阵A不随时间发生变化，wk,v

47、k都是零均值白噪声，方差分别是Qk和Rk，并且初始状态x0与wk,vk都不相关，且噪声向量wk,vk也互不相关，即2200:0,:0,0;,00TkkwkkjkkjTkkvkkjkkjkkTkkwE wQE w wQvE vRE v vRCov x wCov x vE w v其中 jkjkkj01维纳滤波和卡尔曼滤波2、 卡尔曼滤波的递推算法卡尔曼滤波的递推算法 n 基本思想： 先不考虑输入信号k和观测噪声vk的影响，得到状态变量和输出信号（即观测数据）的估计值 和 再用输出信号的估计误差 加权后校正状态变量的估计值 ，使状态变量估计误差 的均方值最小。 kxkyky kxkxminkkkkk

48、kkkkTkkkxyyyyxxxxE x xx 量测方程校正维纳滤波和卡尔曼滤波 当不考虑观测噪声和输入信号时，状态方程和量测方程为：11 kkkkkkkkkxACxCyxAx 输出信号的估计误差（新息）为：kkkyyy维纳滤波和卡尔曼滤波 为了提高状态估计的质量，用输出信号的估计误差 来校正状态变量 ky)()(111kkkkkkkkkkkkkxACyHxAyyHxAx其中，Hk为增益矩阵，实质是一加权矩阵。 校正后状态变量的估计误差及其均方值分别为：kkkxxxT()() TkkkkkkkPE x xE xxxx 未经校正的状态变量估计误差的均方值为：T()() kkkkkPE xxxx维

49、纳滤波和卡尔曼滤波 卡尔曼滤波要求状态变量的估计误差的均方值Pk为最小， 因此卡尔曼滤波的关键就是要得到卡尔曼滤波的关键就是要得到Pk与与Hk的关系式，即通过选择的关系式，即通过选择合适的合适的Hk,使使Pk取得最小值。取得最小值。 minkkkPHx维纳滤波和卡尔曼滤波卡尔曼递推公式总结如下：1T11TT11)()()(kkkkkkkkkkkkkkkkkkkkkkkkPCHIPQAPAPRCPCCPHxACyHxAx维纳滤波和卡尔曼滤波n 假设初始条件Ak,Ck,Qk,Rk,yk,xk-1, Pk-1已知，其中x0=Ex0, P0=varx0, 那么，递推流程见图2.5.2。 0011111

50、22222,kkkkkx Px PHx Px PHx PxPHxP维纳滤波和卡尔曼滤波图 2.5.3 求 的卡尔曼滤波一步递推算法 1111()kkkkkkkkkkkkkkkkkxA xyC xC A xxA xHyC A xkx维纳滤波和卡尔曼滤波n卡尔曼滤波的特点：采用递推的方式，不要求存储全部的观测数据，便于实时计算；Hk,Pk, Pk与观测数据yk无关，可以事先计算好并存储；Pk与Qk，Rk是紧密相关的：Rk增大时，Hk变小；（量测噪声大时，增益应取小些，以便减弱量测噪声的影响）P0减小或Qk1变小或两者都变小时， Pk变小， Pk变小， Hk变小；（ P0减小说明初始估计较好， Qk

51、1变小表示状态转移的随机波动小，故新观测值对状态预测的校正影响减弱，增益应取小些）维纳滤波和卡尔曼滤波n例例 x(t)是一个时不变的标量随机变量，y(t)=x(t)+v(t)是观测数据，其中v(t)为白噪声。若用Kalman滤波器自适应估计x(t)，试设计Kalman滤波器。构造状态空间方程设计x(t)的更新公式 0101dx tx tx nx ndtx nx ny nx nv n状态方程量测方程维纳滤波和卡尔曼滤波例例 已知1var, 0, 0)(, 1)(,)8 . 01)(8 . 01 (36. 0)(0011xPxzSzSzzzSvxvvxx在k=0时开始观察yk, yk=xk+vk，用卡尔曼过滤的计算公式求xk， 并与维纳过滤的方法进行比较。 维纳滤波和卡尔曼滤波解解 (1) 由x(n)功率谱及量测方程，确定卡尔曼递推算法。 首先对Sxx(z)进行功率谱分解，确定x(n)的信号模型B(z)，从而确定Ak。根据Sxx(z) =2B(z)B(z-1)，得出 11121( )0.361 0.81 0.80.36,( )1 0.8( )0.8 (1)(1)xxzzSzzzzB zzx nx nn由此可以得到卡尔曼滤波的状态方程为：( )0.8 (1)(1),0.8kx nx nnA维纳滤波和卡尔曼滤波 由量测方程yk=xk+vk, 确定Ck=1， 2(0)1kvv