[工学]4第四章_波形估计.ppt

第四章 波形估计 裘正定 北京交通大学信息科学研究所 第四章 波形估计 波形估计概述 4.1 线性变换与正交原理 4.2 平稳随机过程的估计 维纳滤波 4.3 卡尔曼滤波 波形估计 概述 估计理论是根据受到噪声污染的观察数据来估计随机变 量或随机过程的数字运算。 从概率的观点：一个最佳估计可以使用一些有关的过程的统计 信息；但实际中，通常只能得到少量的信息，所以限定线性最佳估 计，采用最小方差准则，使均方误差最小，换句话说，如果能利用 更多统计信息，线性最小方差估计过程不一定给出最好的估计。因 此，如果随机变量不是高斯分布（广义高斯分布）。则根据线性最 小均方误差准则所求得的估计器是最佳线性估计器，但不一定是最 佳的估计器。 被估计变量是随机变量 称为参量（或参数）估计，又称为静估计； 被估计量是随机过程 称为波形（或状态）估计，又称为动态估计。 静估计 动态估计 根据估计变量的类型区分： 波形估计 概述 波形估计与滤波 在许多实际问题中，需要研究随时间变化的随机变量( 数量随机信号) 与随机矢量(矢量随机信号) 的 估计问题。对这种估计，在通信工程中称为波形估计，而 在控制工程中则称为动态估计。 所谓滤波，是指将噪声中信号尽可能地排除噪声干扰 ，而将有用信号分离出来因此，在波形估计与动态估计 中，基于观测过程 或矢量观测过程 ，对 或 所作的最优估计。 若 ，就是滤波问题； 若 ，称为预测问题； 若 ，称为平滑问题 波形估计 概述 维纳滤波 维纳滤波是在第二次世界大战期间，因为军事技术的需 要由维纳提出的，以后在通信、控制等领域获得了广泛的应 用，并且在应用中得到了发展但维纳滤波不能递推实时处 理，也不适用于非平稳的滤波问题 若信号 或 及观测 或 是广义平稳的，已 知其自相关函数或功率谱的知识，所用的最优估计准则为线 性最小均方误差估计准则，则基于观测过程 或 ，对 或 所作的最优估计，称为维纳滤波。 波形估计 概述 卡尔曼滤波 从本世纪四十年代开始已经有人用状态变量模型来研究随 机过程，到六十年代初由于空间技术的发展，为了解决对非平 稳、多输入输出随机序列的估计问题，由卡尔曼提出的，故称 为卡尔曼滤波。 此后卡尔曼与布西一起将其推广到一般的连续随机过程 卡尔曼滤波一出现，就受到人们的很大重视，现已成功地应用 到许多领域，并在实践中不断丰富和完善 若巳知信号的动态模型与测量方程，则基于矢量观测过 程 与初始条件，按线性无偏最小方差递推估计准则对状 态 所作的最优估计，称为卡尔曼滤波。 4.1 线性变换与正交原理 4.1.1 线性变换 4.1.2 正交性原理 4.1 线性变换与正交原理 4.1.1 线性变换 设估计 是观察信号 的线性变换（即通过一个线 性系统），则 定义 均方差 最小均方误差下的线性变换 线性最优滤波 4.1 线性变换与正交原理 4.1.2 正交性原理 线性最优滤波器如下图所示： 输入 线性系统 输出 + 估计误差 - 期望响应 线性最优代价函数 最小 MMSE 输入 线性系统 输出 + 估计误差 - 期望响应 4.1 线性变换与正交原理 4.1.2 正交性原理 由上图，有 （4.2） （4.1） 4.1 线性变换与正交原理 4.1.2 正交性原理 设 ，梯度算子 于是有 ， 意味着 （4.3） 即 （4.4） 正交性原理 要使估计的均方差最小，滤波器的参数估计应使输出误 差向量与观察向量正交 4.1 线性变换与正交原理 4.1.2 正交性原理 同时有 （4.5） 即 正交性原理推论 要使估计的均方差最小，滤波器的参数估计应使期望 输出的估计值与输出误差正交 正交性原理及其推论线性最优滤波的最重要定理之一 4.1 线性变换与正交原理 4.1.2 正交性原理 正交性原理及其推论 的几何意义如下图所示 （4.5） 令理想输出 期望估计输出 上面的讨论的最优均方误差为 线性估计 根据观察数据 1）正交数据， 2）线性无关数据， 3）一般任意数据， 讨论Y的最小均方估计。 4.1 线性变换与正交原理 4.1.2 正交性原理 1)正交数据 4.1 线性变换与正交原理 4.1.2 正交性原理 取等号，即误差最小的条件时 在 上的投影 4.1 线性变换与正交原理 4.1.2 正交性原理 即e与正交数据观察向量正交 只有 其余为0 2) 线性无关数据 线性无关，当且仅当所有 时， 可用Gram-Schmidt正交化 ； 4.1 线性变换与正交原理 4.1.2 正交性原理 第 s 步 第 s+1 步 直到 N 步 此时， 观察数据变为 归一正交系 4.1 线性变换与正交原理 4.1.2 正交性原理 据正交投影定理，可得的线性最小均方方差估计为 2) 一般任意数据 若 是任意的，但可知 则由Gram-Schmidt正交化 4.1 线性变换与正交原理 4.1.2 正交性原理 由归一化条件 求得 由 ， 可求得 依次类推，求出 4.1 线性变换与正交原理 4.1.2 正交性原理 即 称归一正交基 为 的新息 矩阵B白化滤滤波器 矩阵A新息滤滤波器 还原新息原数据 相当于白噪声 4.2 平稳随机过程的估计 维纳滤波 4.2.1 非因果维纳滤波 4.2.2 因果维纳滤波 4.2.3 离散非因果维纳滤波 4.2.4 离散因果维纳滤波 4.2 平稳随机过程的估计 维纳滤波 章节概述 观察波形，均为平稳随机过程 ，观察区间 ， 设计一线性滤波器 输出估计值 均方意义下最小。由正交原理知，对所有的 应有 4.2 平稳随机过程的估计 维纳滤波 章节概述 即 过程平稳，在滤波器为时不变情况下，上式为： 4.2.1 非因果维纳滤波 非因果维纳滤波 WinerHopf方程。（WH） 两边取Fourier变换，得： 4.2.1 非因果维纳滤波 最小均方误差为： （*） 4.2.1 非因果维纳滤波 由（*）式 由于： 则有： 及 于是有： 4.2.1 非因果维纳滤波 若 与 互不重迭，则 它们之积必为0 于是 I = 0 最小均方误差为0 这个式子物理意义是： 噪声越强越大， 越小，达到抑制噪声，反 之噪声越小，H(w)越大，复现信号越大 4.2.2 因果维纳滤波 因果维纳滤波 限制t0时，h(t)=0。此时： 由正交投影定理，有： 于是 令 则上式为： 4.2.2 因果维纳滤波 因为积分限不满足条件，不能直接进行傅立叶变换。维纳和 霍普提出用补足积分限的方法求解，即设 加到W-H方程（）就有 再做傅立叶变换，得： 由谱分解定理，有： 4.2.2 因果维纳滤波 分别在右半平面和左半平面解析，因而有： 第一项在右半平面解析。H（s）可物理实现，则 广义平稳条件的线性时不变因果维纳滤波器。 注：估值均方误差为： 4.2.2 因果维纳滤波 *因果维纳滤波器的另一种导出 白化滤波 i(t) 新息 新息滤波 白噪声 所以， 即 由因果性知： 4.2.2 因果维纳滤波 于是W-H方程化为： 又因为： 对式，做傅立叶变换： 4.2.2 因果维纳滤波 要求 为物理可实现。所以， 且 ， 4.2.3 离散非因果维纳滤波 离散非因果维纳滤波 两边取z变换 均方误差 4.2.4 离散因果维纳滤波 离散因果维纳滤波 4.2.4 离散因果维纳滤波 4.2.4 离散因果维纳滤波 ，试设计 一个IIR的wiener滤波器来估 计 解：信号 的功率谱 4.2.4 离散因果维纳滤波 互相关谱 4.2.4 离散因果维纳滤波 4.3 卡尔曼滤波 4.3.1 卡尔曼滤波问题 4.3.2 新息过程 4.3.3 滤波算法 4.3.4 实例：基于卡尔曼 滤波的角速度估计 4.3 卡尔曼滤波 维纳滤波为期望响应已知存在的情况下的线性最优滤波 。 若期望响应未知 ，如何进行线性最优滤波？ 卡尔曼提出的解决方法 ：卡尔曼滤波器 其特点是： 1） 引入了状态空间描述 2） 递推估计 最重要是引入了一种卡尔曼新息替代观察数据进行滤波 预测 4.3 卡尔曼滤波 1 ) 过程方程 4.3.1 卡尔曼滤波问题 (4.3.1) 2 ) 观测方程 (4.3.2) (4.3.3) 状态转移矩阵过程噪声 4.3 卡尔曼滤波 4.3.1 卡尔曼滤波问题 (4.3.4) (4.3.5) 4.3 卡尔曼滤波 4.3.2 新息过程 (4.3.6) 即由 一步预测 1） 新息过程的定义和性质 定义： (4.3.7) 向量 表示观测数据 的新的信息. 4.3 卡尔曼滤波 4.3.2 新息过程 1) (4.3.8) 2) (4.3.9) 3) 与 一一对应 (4.3.10) 即n 时刻的新息 是具有白噪声的能提供 的新信息. 性质： 由正交原理得到 4.3 卡尔曼滤波 4.3.2 新息过程 2 ) 新息过程的计算 (4.3.11) 状态变量的一步预测： (4.3.12) 再得到 (4.3.13) 代入（4.3.7） (4.3.14) 4.3 卡尔曼滤波 4.3.2 新息过程 定义 (4.3.15) (4.3.17) 则有： (4.3.16) 4.3 卡尔曼滤波 4.3.3 滤波算法 (4.3.18) 1) 状态向量的一步预测 由(4.3.18)和正交性原理 4.3 卡尔曼滤波 4.3.3 滤波算法 可求得： (4.3.19) 代入(4.3.18) 则 (4.3.20) 4.3 卡尔曼滤波 4.3.3 滤波算法 (4.3.21) 代入4.3.20第一项 (4.3.22) 4.3 卡尔曼滤波 4.3.3 滤波算法 定义(4.3.23) (4.3.20) 使成立 (4.3.24) 确定自适应 4.3 卡尔曼滤波 4.3.3 滤波算法 2）kalman 增益计算 4.3.23 中 (4.3.25) 于是有(4.3.26) 4.3 卡尔曼滤波 4.3.3 滤波算法 3）Riccit 方程 由 (4.3.27) 4.3 卡尔曼滤波 4.3.3 滤波算法 这里用了 互不相关 得 (4.3.28) 状态向量的一步预测误差向量相关矩阵为： (4.3.29) 4.3 卡尔曼滤波 4.3.3 滤波算法 将4.3.29展开 由(4.3.17) 和(4.3.26) 4.3 卡尔曼滤波 4.3.3 滤波算法 可得 (4.3.30) 则： 和4.3.29展开式中的第二项 第四项相消 于是有， Ricccati 差分方程 （4.3.30） 4.3 卡尔曼滤波 4.3.3 滤波算法 实际上，可以证明 为状态误差向量的相关矩阵. (4.3.31) 4）归纳起来，可得： 卡尔曼滤波算法： 初始： 输入观测向量序列 4.3 卡尔曼滤波 4.3.3 滤波算法 已知参数 ，观测矩阵C(n) ，过程噪声相关矩阵 一步预测： 由（4.3.26）与（4.3.17） 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 航天器姿态角速度瞬时估计 其角度方程一阶近似表示如下 角速度方程 加速度方程 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 设状态向量 上面的一阶近似方程均可表示为状态方程 (4.3.32) A x(n)=Fx(n-1)+u(n)+w(n) (4.3.33) 与前面的状态方程相比多了 u(n) 状态转移矩阵 (4.3.34) 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 （4.3.35） （4.3.36） 噪声相关矩阵 （4.3.37） B 观察方程 （4.3.38） 观察矩阵 为白噪声 方差 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 由状态方程式(4.3.33)和观察方程（4.3.38）分别得到 状态向量的两个估计子 （4.3.39） （4.3.40） 通过线形组合构成一个统一估计 （4.3.41） 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 求最小均方差准则下的最优加权矩阵A（ n ） 令A（ n ）=m(n) （4.3.42） 代入 4.3.41有 （4.3.43） 有恒等式 （4.3.44） 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 （4.3.44）-（4.3.43）得 有估计误差的相关矩阵 （4.3.45） 4.3 卡尔曼滤波 4.3.4实例 基于卡尔曼滤波的角速度估计 其中 是第一个估计子误差 是第二个估计子误差 得 （4.3.