最佳MMSE滤波PPT学习教案

1、会计学1 最佳最佳MMSE滤波滤波 第1页/共29页 通过对接收信号的线性组合，从通过对接收信号的线性组合，从x x恢复出恢复出y y 1 ( )( ) N ikk k y nc x n = 更一般化的信号估计问题：基于接收信号，构造一定结构的估计器更一般化的信号估计问题：基于接收信号，构造一定结构的估计器 ，从中恢复出期望的信号（又称信号估计问题）。，从中恢复出期望的信号（又称信号估计问题）。 x 11121011 22122221 112 N N NNNNNNN aaayxu xaaauy xuyaaa x = Ayu( )( )( )nnnx= Ayu 第2页/共29页 1 0 ( )(

2、 ) ()( ) L k x nh k y nku n = 输入H(z ) 输出 噪声 信道模型：信道模型： 通过对接收信号不同时刻的线性组合，从通过对接收信号不同时刻的线性组合，从x x恢复出恢复出y y 1 0 ( )( ) ( ) N k y nc k x nk = 第3页/共29页 u 确定估计器的实现结构：确定估计器的实现结构：IIRIIR，FIRFIR u 预先假设信号的统计特性（输入，噪声等）：独预先假设信号的统计特性（输入，噪声等）：独 立同分布输入立同分布输入 u 确定性能准则（目标函数），及其参数确定性能准则（目标函数），及其参数 u 确定优化方法：估计器系数的求解确定优化

3、方法：估计器系数的求解 第4页/共29页 -505 0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5 |e|3 |e|2 |e| |e|0.5 ( )( )( )e ny ny n 期望信期望信 号号 估计信估计信 号号 min( ) p E e n 实现最佳滤波的常用准实现最佳滤波的常用准 则：则： 最小均方误差线性估计最小均方误差线性估计 ： 22 min( )( )( )E e nEy ny n 2p 导致简单的滤波器求解算法导致简单的滤波器求解算法 易于进行性能分析易于进行性能分析 第5页/共29页 1 ( )( ) ( ) N kk k y nc n x n = 一般化

4、问题模型一般化问题模型 期望信期望信 号号 观测信观测信 号号 待估计参数待估计参数 时间下时间下 标标 不同参数，不同观测信不同参数，不同观测信 号号 对非时变系统对非时变系统 * 1 ( ) ( )( ) N H kk k y nc x nn =c x * 1 * 2 * N c c c c 1 2 ( ) ( ) ( ) ( ) N x n x n n xn x 注意和书注意和书(6.2.1)-(6.2.4)(6.2.1)-(6.2.4)的比较的比较 共轭转共轭转 置置 第6页/共29页 2 22 min( )( )( )( )( ) ( )( ) ( )( ) ( )( )( )( )

5、 ( )( ) H HH HHH H E e nEy ny nEy nn Ey nny nn Ey nnynn Ey nn c x c xc x c xc x c x 2 ( )( ) ( )( )( )( )( )( )( ) H HHHH HHH y ynn E y nEn ynE y nnEnn P xc cxxccxxc c dd cc Rc ( )( )En yn dx 观测信号和观测信号和 期望信号的期望信号的 互相关互相关 2 ( )Ey n 期望信期望信 号平均号平均 功率功率 ( )( ) H Enn xx 观测信号的观测信号的 相关矩阵相关矩阵 第7页/共29页 2 ( )

6、 0 E e n c 矢量函数的求导矢量函数的求导 1 1 ( ) ( ) ( ) ( ) K f c f f c f c c c c c c () H d c d c * () H T c Rc R c c 常用求导公式常用求导公式 () 0 H c d c 2 ( ) HHH y E e nP c dd cc Rc 2 ( ) 0 opt E e n Rcd c opt Rcd 2 11111 min( )()()() HHHH yy E e nPP R ddd R dR dR R dd R d 与与6.2.116.2.11一致一致 第8页/共29页 随机矢量的内积定义为随机矢量的内积定义

7、为 * ,x yE xy 正交：内积等于正交：内积等于0 0 ,0 x y 对于最小均方误差估计，当实现最佳估计时对于最小均方误差估计，当实现最佳估计时 000 , ()0 H eEy xxx cd-Rc 000 , ()0 H k x eEy xx cd-Rc1,kN 正交性原理：当实现最佳估计时，估正交性原理：当实现最佳估计时，估 计误差与所采用的观测信号正交计误差与所采用的观测信号正交 可以证明，正交性原理和最小均方误可以证明，正交性原理和最小均方误 差是等价的差是等价的 y y opt e 1 x 2 x 第9页/共29页 u仅依赖于期望信号和输入数据仅依赖于期望信号和输入数据 u性能

8、曲面是滤波器参数的二次函数，函数曲面是凸曲性能曲面是滤波器参数的二次函数，函数曲面是凸曲 面，且存在唯一全局最小点，面，且存在唯一全局最小点， u在偏离最佳估计系数时，所造成的超量误差只决定于在偏离最佳估计系数时，所造成的超量误差只决定于 输入数据的相关矩阵。输入数据的相关矩阵。 u正交性原理提供滤波器参数估计的直观解释和参数估正交性原理提供滤波器参数估计的直观解释和参数估 计途径计途径 u滤波器参数也可由相关矩阵的特征值和特征向量计算滤波器参数也可由相关矩阵的特征值和特征向量计算 得到。得到。 第10页/共29页 * 1 ( )( ) ( ) N kk k y nc n x n = 考虑一般

9、线性最优估计问题中只有一路观测信号，利用信号不同考虑一般线性最优估计问题中只有一路观测信号，利用信号不同 时刻值的线性组合实现信号估计，考虑非时变问题时刻值的线性组合实现信号估计，考虑非时变问题 1 0 ( ) () M k k y nc x nk = 1 0 ( )( ) ( ) M k y nh k x nk = 基于最小均方准则，可以得到基于最小均方准则，可以得到 * * (0)(0) (0) (1) () (1)(1) (1) (0) (1) (1)() (1) (0) optyx xxx optyx xxx optyx xx hr RRR M hr RRR M hMrR MR MR

10、(1)M xoptyx R hr 第11页/共29页 维纳霍夫方程维纳霍夫方程 基于正交性原理基于正交性原理 * 1 * 0 ( )()0 ( )( ) ()()0 M k E e n x nm Ey nh k x nkx nm 1 0 ( )( ) ()00,1 M yxopt k rmhk R mkmM 两边取傅立叶变换两边取傅立叶变换 () () () j yx j j x Re H e R e 从上式求解不一定能得到从上式求解不一定能得到FIRFIR因果滤波器因果滤波器 更适应于求解更适应于求解IIRIIR非因果滤波器非因果滤波器 第12页/共29页 线性预测 前向预测：利用某一时刻以

11、前p时刻的数据的线性组合来预测该时刻的值 。 n p k k knxanx 1 )() ( 不同表现形式 预测误差定义为： ) ( )()(nxnxne 预测均方误差定义为： )( 2 neE * k 1 ( ) () p k x na x nk n 第13页/共29页 0 k a 0)(2 k a e neE 0)()( mnxneEpm, 2 , 1 预测误差和观测值相互正交， 是最佳线性预测的充要条件 pm, 2 , 1 )(nx ) 1( nx )2( nx )(ne p k xkx kmRamR 1 )()( )()0( 1 min kRaR x p k kx 和AR模型的YW方程是

12、一致的。 p k k knxanxnxnxne 1 )()() ( )()( pm, 2 , 1 * * 1 * ( )( ) ( )()( ) ( )( ) p k k E e n e n Ex na x nke n E x n e n 第14页/共29页 线性预测与AR模型的关系 假设信号是一个p阶AR模型，对其应用一个p阶预测器，得到预测误差 为： )()()() ( )()( 1 nuknxanxnxnxne p k k 即预测误差是白噪声，预测过程又称白化(whiten) )(nx)(ne )( 2 th )(nx )(1zA )(nu )(1zA )(ne )( nx)(nx (b

13、)(a) (c) )(zA AR模型 白化滤波 线性预测 p pz aza 1 1 1 1 p pz aza 1 1 1 p pz aza 1 1 第15页/共29页 后向预测：利用某一时刻以后p时刻的数据的线性组合来预测该时刻的值 。 n 预测误差定义为： ( )()()e nx nMx nM 预测均方误差定义为：)( 2 neE pmkmRkamR kRkaR p k xx p k xx , 2, 1, )()()( )()()0( 1 1 min 后向预测的维纳-霍夫方程 1 1 ( )() M k k x nMb x nk 第16页/共29页 前向预测与后向预测的关系 前向预测维纳霍夫

14、方程（二阶预测为例） min 1 2 (0) (1) (2)1 (1) (0) (1)0 (2) (1) (0)0 f rrr rrra rrra 1 2 min (2) (1) (0)10 (1) (0) (1)0 (0) (1) (2) f rrr rrra rrra 相关矩阵按行逆序 1 2 min (0) (1) (2)0 (1) (0) (1)0 (2) (1) (0)1 b brrr rrrb rrr 后向预测方程: 再按列逆序 2 1 min (0) (1) (2)0 (1) (0) (1)0 (2) (1) (0)1 f arrr rrra rrr 结论: minmin fb

15、kMk ab 对复信号,有类似结论: minmin * fb kMk ab 第17页/共29页 线性预测的基本性质 u对平稳信号对平稳信号, ,前向预测算子是最小相位的前向预测算子是最小相位的, ,后向预测算后向预测算 子是最大相位子是最大相位 u线性预测系数可由自相关矩阵的特征矢量和特征值求线性预测系数可由自相关矩阵的特征矢量和特征值求 解解. . u预测误差可由相关矩阵的行列式求解。预测误差可由相关矩阵的行列式求解。 第18页/共29页 线性预测应用例子：信道均衡 信道模型( )( )( )nnny= Hsv 均衡器输出: ( )( ) H s nn c y 第19页/共29页 线性预测应

16、用例子：信道均衡 规则方程yoptsy R cr ( ) ()( )( ) sym rmE s nmnnHsvh 输入信号为零均值, 独立同分布信号 信道传输矩阵第m列 可以证明, 延时为m的线性预测,当预测长度足够长是,预 测误差为 12 ( ) (1) ( ) (1) mm s n s n en s nM hhh 考虑两个不同延时的预测器,有 1 ( )( ) (1) mmm enens nM h 第20页/共29页 ( )( ) ( ) k y nh k x nk = ( ) ()( ) oxyx k h k r mkrm * * 1 * ( )( ) ( )()( ) ( )( ) p

17、 k k E e n e n Ey na x nke n E y n e n * (0)( )( ) oyoyx k Prh k rm 第21页/共29页 ( )( )( ) xyx H zR zRz () () () y x x Pz Hz Pz ()()() oxyx k hkRmkRm 双边z变换： 单位圆外存在零点 不一定是因果系统，物理不可实现 第22页/共29页 0 ()()(),0 xy x k hkRmkRmm 0 ( )( ) ( ) k y nh k x nk = 第23页/共29页 2 1 ()()(),0 y x x hmmRmm 2 ( )( ) xx r ll 2

18、1 ()() y x x hzRz 0 ()() m y xy x k Rzrmz 第24页/共29页 2 2 2* * ( )( ) 1 ( )() xx xx RzHz HzH z 当x(n)是规则过程时,白化滤波器一定存在 同样 信息 白化滤波器 白噪 声 )(nx)(ny )( 1 zG )(zQ )(nw H(z)是可逆的最小相位系统,w(n)可以看成是随机信号下x(n)的更新 1 ( )( )( ) () k w nx ng k w nk = 第25页/共29页 * 2 1 ( )( )(1/) xxx x SzSzSz 谱因式分解： 零极点在单位圆内零极点在单位圆外 ()() x GzSz 最小相位 第26页/共29页 0 ()()() k xngkwnk