信号检测与估计理论.ppt

信号检测与估计,第6章 信号的波形估计 （2）,2019/8/9,电子科技大学 航空航天学院,维纳（18941964），美国数学家，控制论的创始人。 N. 维纳对20世纪的数学发展作出了重大贡献。维纳14(15)岁大学毕业，18岁获哈佛大学哲学博士学位。此后到英国、德国，先后师从罗素、哈代、李特尔伍德和希尔伯特学习。1919年到麻省理工学院任教直至退休。20年代，他在布朗运动理论和位势理论研究方面作出了独创性的具有基本意义的贡献。30年代，他同E. 霍普夫共同研究了一类给定在半无穷区间上的带差核的奇异积分方程，提出了维纳-霍普夫方法，现在这类方程称为维纳-霍普夫方程，其理论在多种领域中得到应用。,第二次世界大战期间，开始了创建控制论的工作。1948年出版了他的名著控制论：或关于在动物或机器中通讯的科学，对科学界产生了巨大的影响。几十年来，控制论得到了迅速发展，广泛应用于自动理论、计算机程序、决策过程等各个方面。,1948年，美国科学家维纳发表控制论，遭到科学界的冷遇，37岁的钱学森却敏锐把握到这一理论的普遍意义，将这一新理论运用到自己的喷气技术研究。1954年，钱学森发表工程控制论一书，开创了一门新的技术科学。多年来，这本著作为世界各国科学家广为引证、参考，成为自动控制领域引用率最高的经典著作。,6.2 连续过程的维纳滤波,维纳滤波也称为最小平方滤波或者最佳滤波，其基本思想是要设计一个滤波器。一般是根据信号s(t)与噪声n(t)的时域或频域特性，选择适当的脉冲响应函数或系统函数，使得其滤波输出与期望输出之间的误差平方和最小（均方误差最小）。,被噪声污染的信号波形恢复称为滤波。 大家熟悉的滤波器是采用电感、电容等分立元件构成，它对于滤去某些干扰频率谱线有较好的效果。对于混在随机信号中的噪声滤波，这种简单的滤波器就不是最佳的滤波电路，这是因为信号与噪声均可能具有连续的功率谱。,如下图所示。不管滤波器具有什么样的频率响应K(j)，均不可能做到噪声完全滤掉，使信号波形的不失真恢复。因此，需要寻找一种使误差最小的最佳滤波方法，又称为最佳滤波准则。,维纳线性滤波理论是一种在最小均方误差准则下的最佳线性滤波方法。（维纳滤波发展的两个方向） 由于维纳滤波器电路实现上的困难，在维纳滤波基础上发展了一种基于状态空间方法的最佳线性递推滤波方法，称为卡尔曼滤波。这种滤波器特别适用于对离散时间序列的实时滤波，可以很方便用计算机处理，因而是近代滤波理论的重要发展，在自动控制领域起到了重要作用。,维纳滤波理论的另一发展方向是自适应滤波，它可以自动地调节其自身参数，在设计时，只需要很少的，或根本不需要任何关于信号和噪声的先验统计知识。因此，目前在模型识别、通信信道的自适应均衡、生物医学信号中周期干扰消除等方面均有重要应用。,维纳滤波问题描述,6.2.1 最佳线性滤波,维纳滤波最基本的概念：从信号加性噪声中尽可能完整地提取信号而最大限度地抑制噪声。实质上是研究维纳滤波器的设计问题。,设观测信号为：,其中， 是有用信号； 是观测噪声。我们可以对 ， ， ， 等信号波形进行估计。为统一分析，将被估计信号波形统一记为 ，估计结果统一记为 。,最佳线性滤波问题，就是根据观测信号 ，按照线性最小均方误差准则，对 进行估计，以获得波形估计的结果 。,设 和 都是零均值的随机过程，则 的线性估计可以表示为,其中， 是 时刻 的采样， 是加权系数。 是采样 的线性加权和。,为使估计波形 具有最小均方误差，由估计误差与观测信号的正交性，有,估计误差矢量,由该式可以求出最佳加权系数 ，从而实现 的线性最佳估计。,的线性加权和表达式，可以用积分的形式表示：,这说明，将随机信号 输入具有时变脉冲响应为 的线性滤波器，其输出为 的估计为 。,线性时变滤波器,为使估计的均方误差最小，利用正交性原理，即,求解线性时变滤波器的脉冲响应 。利用相关函数表示上式，得,该式是实现信号波形线性估计，且均方误差最小的线性时变滤波器的脉冲响应 应满足的积分方程。它能实现非平稳随机信号波形的线性最佳估计（但时变脉冲响应的解比较困难）。,估计的均方误差就是估计误差的方差：,6.2.2 维纳霍夫方程,适用于非平稳随机信号波形最佳估计的线性时变滤波器的 求解困难。为获得实用的结果，进行必要的约束： 设 和 都是零均值的平稳随机过程，且二者联合平稳；这意味着观测时间从 开始，而且滤波器是线性时不变。 考虑因果系统，滤波器在构造估计信号波形时，只用 时刻及以前时刻的观测信号。这样，线性时不变滤波器的估计 为,线性时不变滤波器,令 ，,该式称为维纳霍夫方程。它是信号波形线性最小均方误差估计的线性时不变滤波器的脉冲响应 应满足的积分方程。这样的滤波器称为维纳滤波器，而由维纳滤波器获得信号波形估计 ，称为维纳滤波。,估计误差的方差为 所以，要实现维纳滤波，需要设计维纳滤波器，这就是维纳霍夫方程的解。,6.2.3 维纳霍夫方程的非因果解,维纳霍夫方程,限定 （正半轴）,即维纳滤波器的脉冲响应满足,它是因果系统。如果我们取 ，包括整个时间轴则系统是非因果的。此时，维纳霍夫方程变为,滤波器物理不可实现，但估计的均方误差达到最小，为性能比较提供了度量标准，因此解是有意义的。,是一个线性卷积，因此在频域上求解方程。两边进行傅里叶变换：,最佳滤波器的系统函数为：,维纳-辛钦定理：宽平稳随机过程的功率谱密度是其自相关函数的傅立叶变换,当噪声为0时，信号全部通过； 当信号为0时，噪声全部被抑制； 因此维纳滤波确有滤除噪声的能力。,讨论： 若 ； 与 相互统计独立，即 ， 则 ，,（1）对12的频率范围内，由于Pn()=0，一定有|H()|=1，表示由于没有噪声，故滤波器增益为1，从而保证信号不失真。其次，在这段频率内，均方误差的积分值为零。,（2）对3的频率范围内，由于Ps()=0，一定有H()=0，表示由于没有信号，故滤波器增益为零，从而完全阻止噪声通过。同样在这段频率内，均方误差的积分值也为零。,（3）对23的频率范围内，由于Ps()及Pn()均不为零，则|H()|1，这一方面要防止噪声通过，又要保证信号通过。因此随着增加，Pn()逐渐加大，|H()|逐渐减小，直至为零。,估计误差的方差为,为了获得用功率谱密度形式表示的均方误差,两边进行傅里叶变换,均方误差 若 ； 与 相互统计独立，即 ， 则 ，,可见，维纳滤波能够实现信号波形的线性最佳估计。非因果的维纳滤波器是物理不可实现的。讨论目的：加深对维纳滤波概念理解；提供了维纳滤波均方误差的下界，作为比较的参考标准。,维纳滤波器的均方误差下界,例 s(t)为马尔科夫过程，其功率谱密度为,观测噪声n(t)为白噪声，其Pn()=1，求维纳滤波器的H()及h(t)。,6.2.4 维纳滤波器的因果解,维纳霍夫方程,分析:求解 的困难在于 被限制在 之内。 若 ,则 。,这意味着，若 是自相关函数为 的白过程，则 。积分方程就可以直接求解。,通常， 是非白过程，但上述结果提醒我们：若将非白过程 首先通过白化滤波器 变为白过程 ，然后针对白过程 ，设计维纳滤波器 ，则维纳滤波器的因果解为:,下面分别讨论白化滤波器 和滤波器 的设计问题。,白化滤波器 的设计,若观测信号是 具有有理功率密度 的平稳随机过程，则用复频域表示为：,式中， 的所有零极点在s平面的左半平面； 的所有零极点在s平面的右半平面。,要求白化滤波器能够将非白化过程白化，则,则其输出 是白过程。,从而得白化滤波器的系统函数,滤波器 的设计,由积分方程为,其中， 。所以,式中， 表示取 中零极点在s平面左半平面的部分，这是由 决定的。,先求 ，在取拉普拉斯变换，求得 。,白过程,两边取拉普拉斯变换：,维纳滤波器的系统函数：,估计的均方误差为,例6.2.1 设线性时不变滤波器输入的观测信号x(t)是平稳随机过程，其功率谱为 设计物理可实现的白化滤波器 ，它的输出功率谱密度为1。,该白化滤波器由微分器和常增益器并联组成。,解：,例6.2.2 设随机信号 加白噪声 通过一线性滤波器。已知 和 的自相关函数分别为 现考虑 的波形估计问题，要求估计的均方误差最小。设计该滤波器，并计算波形估计的均方误差。,解：据题意，待估计的波形 ，是维纳滤波问题。首先对 和 进行双边拉普拉斯变换，得,令：,然后求维纳滤波器的系统函数 和均方误差。,非因果的维纳滤波器,因果的维纳滤波器,例6.2.3 维纳预测和平滑问题。设随机信号 加白噪声 都是均值为0的平稳随机过程，二者互不相关。自相关函数分别为 试求估计波形 及均方误差。,6.3 离散过程的维纳滤波,6.3.1 离散过程的维纳霍夫方程,在离散过程情况下，观测区间由一组离散的时刻 组成，每个 时刻的观测信号为 。根据这组观测信号 ，对信号 作出线性最小均方误差估计，即求 。,对于线性估计，估计信号 表示为观测信号 的线性加权和，即,为了使估计的均方误差最小，根据线性最小均方误差估计的正交性原理，加权系数 应选择使估计误差与观测信号正交，即,用相关函数表示：,连续形式,离散形式,为了求解 方便，加入限定条件: 假定离散过程是均值为零的平稳过程，观测区间也是半无限的，研究的系统是因果的线性时不变系统。,令： ， ，得到离散过程的维纳-霍夫方程（因果关系）：,6.3.2 离散维纳滤波器的Z域解,1 离散维纳滤波器的z域解(非因果解),如果不考虑 的约束条件，认为 满足 ，则非因果关系的离散维纳-霍夫方程为：,等式两边取Z变换：,如果观测信号为：,假设信号 与噪声 互不相关，则当 时，离散维纳滤波器的系统函数为：,式中的 ， ， 和 分别是自相关函数 ， 和互相关函数 的Z变换，所以它们分别是 ， 的功率谱密度和 与 的互功率谱密度。,可以看出，维纳滤波的最小均方误差不仅与观测（输入）信号的功率谱有关，而且和噪声和信号功率谱的乘积有关，也就是说，最小均方误差与信号和噪声功率谱的重叠部分的大小有关。,2 离散维纳滤波器的z域解(因果解),观测信号是白色序列,如果观测信号 是白色序列，自相关函数可表示为,系统函数可表示为,1,观测信号是非白色序列,如果观测信号 是非白色序列，需要先把 序列进行白化处理，使之变换成白色序列。若观测信号序列 的功率谱是有理函数，即：,和 分别是 的零极点在单位圆内的部分和单位圆外的部分。,表示互相关函数 因果部分的Z变换 是互功率谱密度 中零极点在单位圆内的部分,白化滤波器的系统函数为,白化滤波器输出的白色序列为 ，其相应的维纳滤波器的系统函数为：,将白化滤波器 与滤波器 级联，离散维纳滤波器的系统函数为：,无限长的因果序列,6.3.3 离散维纳滤波器的时域解,在离散维纳滤波器的Z域解，在已知观测信号序列 的自相关函数 和观测信号序列 与被估计信号 的互相关函数 ，求Z变换和IZT变换就可以解得 和 。,用长度为N的有限长序列 来逼近离散维纳滤波器 的单位脉冲响应，即离散维纳滤波器的时域解。,在实际工程中，由于 为无限长因果序列的离散维纳滤波器不具有实时性而使其应用受到限制。在要求进行实时处理的应用中，在考虑因果性约束，通常在时域用逼近的方法来设计离散维纳滤波器。,设离散维纳滤波器的单位脉冲响应 是长度为N的有限长序列，即,离散维纳霍夫方程：,将 分别代入上式，即获得N个线性方程：,每个元素是滤波器单位脉冲响应 在 时的值。,式中：,写成矩阵形式：,