卡尔曼滤波器第二章

1、第二章 估计的一般方法2.1 概 述 估计问题考虑一个动态系统，它的状态是一个时间的函数，以维时间随机过程表示，。假定我们已经完成一个序列的测量，以一个与有关的测量系统，顺序地测量完成的。我们希望以某种方法利用测量值提供。我们的假定序列是一个离散时间随机过程。给定测量记录，我们据这些测量值表示的一个估值，以符号表示。作为一个测量的函数，确定状态的估值为 (2-1)可以说成：估值问题是以某种方法确定的问题。在本质上，估值问题的解就是要开发一个适当的算法，采用这种算法，人们能够产生噪声系统状态的近似表达形式。可以分为三种类型：1 滤波问题在(2-1)式中，令，将得到滤波问题。是利用直到时刻的测量数

2、据，估计，将估值记为。可以指出三点： 我们希望得到在时刻的值； 测量数据采集到时刻，没有以后的数据； 直到时刻的测量记录被用来估计状态。2 平滑问题 在(2-1)式中，当时，前述的估值问题就变为平滑问题。平滑问题区别于滤波问题，在于关于的信息。在测量数据的形式中，在时刻的测量值，变为可以不采用。特点： 在产生状态值上，有延迟； 比滤波问题所用数据多。3 预测问题 在(2-1)式中，当时，估值问题变成预测问题。预测问题的目的，是在时刻得到有关，的信息。因此，表示了一种预测，预估计是怎样的值。综上所述，有： 当时，叫做的最优滤波值； 当时，叫做的平滑值； 当时，叫做的预测值。在后面，我们仅讲述滤波

3、问题。 估值的主要方法我们的讨论，不局限于(1-90)(1-92)式表示的一类线性离散时间动态系统，在那里和是高斯随机过程。我们的目的，是指出据一个随机变量，在我们的情况是测量值，如何才能提供有关第二个随机变量的信息，即状态。在特殊情况下，我们要解决下述问题：利用测量数据发现在时刻的有关的信息。 的估值用矢量表示。因为和是随机过程，所以也是随机过程。一般来说，不等于。定义 (2-2)为估计误差。因为估值能够以几种方法找到，我们现在的问题是发现一种估值，它是的一个函数，使它相对某些判据是最佳的。另外，必须保证估值过程相对状态实际值的收敛性。2.2 最小方差估计定义，那么(2-2)式估值误差的平均

4、测量为 (2-3)式中，为非负定的对称权矩阵。从上式可见： 是一个确定的矢量，它由的知识来确定； 平均测量是一个标量，对于比较是方便的； 估值正确时，它有零值。最小方差估值，确定如下 (2-4)不等式右边的项指的是以其它方法从确定的所有，符号。 (2-2)式中，一般和有关，但独立于，因此，(2-2)式右侧可写为经过适当的变换，有 (2-5) 明显的，(2-5)式右边，当时，有唯一最小值。此时，即 (2-6)结论：最小方差估计是条件均值估计，即在给定的情况下，的条件期望值。 同估值有关的均方误差值，可将代入(2-5)式得到 (2-7)估值，常被称为最小平方估值（the least-square

5、estimate）或最小均方估值（the minimum mean-square estimate）。公式的重要性，在于它是适于任意的概率密度函数。对于给定形式的随机过程，需要计算条件概率密度函数。 上式的解为 (2-8)称为最小方差估值。 条件期望估值（最小方差估值）是无偏估值，即 (2-9) 求解(2-7)式时，要用到如下公式。矢量方差公式： 估值误差的方差： 下面给出公式(2-5)解的推导过程。将上式展开，并在展开式中加和减同一项，有从上式可见，等式右边有一个唯一的最小值即说明：【例2-1】对于某一随机变量，它的测量值是未知的，但它的概率密度函数是已知的，即已知其先验知识。求在最小均方意

6、义下的估值。解： 取，令 则有对上式两边求导 所以，得到 物理意义：如果仅仅知道的统计规律的话，对于的最好的常值估值就是的均值。顺便讨论一下，估值误差的协方差。估值误差： 估值误差均值：估值误差协方差： 结论：估值误差的协方差等于的协方差。【例2-2】设未知量是均匀分布的在无其它信息情况下，选择一个常值估计，使其满足最佳均方意义。解： 2.3 极大似然估计 极大似然估计法为了估计参数（未知的确定性量），对其进行测量，（随机变量）是其测量值。由于观测数据是在被观测量的条件下取得的，因此，的PDF应该是一个条件PDF：。我们把条件概率密度函数称为似然函数。最大似然估计判据可以陈述如下：给定一个测量

7、值，如果对于的所有可能值，是的最大值。此时的称为最大似然估值，记为。进一步，可以认为似乎是的对应测量值。可以看出，对于未知量可以不要求验前知识，但对于测量过程必须有验前知识。极大似然估计是使似然函数达到极大值的一种最佳估计。似然方程为 (2-10)或 (2-11)【例2-3】设观测方程为，且已知与（）独立，而的概率密度函数由下式给出试由观测求和的极大似然估计。解： 首先求出极大似然函数。由观测方程可知与同分布，所以似然函数为（1） 当为已知时，求的极大似然估计有所以 即 又因为，所以 因此，是的无偏估计（2） 当为已知时，求的极大似然估计所以，即 由于，所以是的无偏估计。（3） 当、未知时，求

8、和的极大似然估计设 则有 所以，可得到 由此求得 上述第二式也可表示为 同样可以推得是的无偏估计，而是的无偏估计。 线性高斯测量下的极大似然估计 设有一测量假设噪声是正态的，有（为方差）则有似然函数设对上式两边同时求导并令导数为零，有所以 (2-12)最大似然估计，对线性高斯测量情况是无偏的。证明如下：误差的方差为 (2-13)(2-13)式的推导中利用了关系式。利用，(2-12)式可被表达为另外一种形式，即 (2-14) 当，时，由(2-13)、(2-14)两式表示的估值器，称为高斯马尔柯夫估计器（Gauss-Markov estimator）。 由(2-13)式可见，误差方差和测量无关。因

9、此，可以在试验前离线计算完成，所以有助于对试验的设计。 时序极大似然估计（1）测量的时序处理。采样数据的均值和方差的递推计算方法如下。给定个测量值，采样均值与方差分别为由上述两式可得到相应的递推计算公式 (2-15) (2-16)（2）时序极大似然估计 设 (2-17)式中，对不要求任何验前统计知识。 测量方程(2-17)的具体表达形式如下式中，是阵的第行。记，且令，考虑的前个分量，有，所以，可得到 (2-18) (2-19)当有时，即，可得到或表示为 (2-20)这就是误差协方差的递推计算公式。 采用矩阵逆定理，(2-20)可被展开为 由(2-19)式得到即 (2-21)从(2-20)式可得

10、所以，将上式代入(2-21)式中，得到估值递推计算公式如下 (2-22)递推时，可从、开始，显然完全忽略的验前知识。时序极大似然估计的原理框图如下。 _+图2-1 时序极大似然估计原理图图中：，参数、由测量系统结构直接给定，可事先根据测量过程的知识离线计算。2.4 极大验后估计 这种估计是通过验后概率密度函数来实现的。涉及到最大似然的逆问题。极大验后估计是的估值，使验后概率密度函数达到最大。类似（2-11）式 （2-23）可求得通过贝叶斯规则，将极大似然和极大验后估值联系起来当验后分布是均匀时，两种估值是相同的。 上述三种估值，即最小方差估值、极大似然估值与极大验后估值，对任意概率密度都是适用

11、的。有材料证明，当随机矢量是正态分布（高斯），最大验后估值是准确的条件均值估值。根据这种原因，我们强调最小方差作为我们的判据，用来确定最佳估值器。2.5 线性最小方差估计 前面讲述的估计问题，都是需要知道测量和被估计量的联合概率密度。但当所求的估计量必须是的线性函数，即 (2-24)时，即可取消上述限制条件。式中，是与同维数的非随机向量；是非随机矩阵，它的行数等于的维数，列数等于的维数。现在，由及来确定和。因，由无偏性得到即 (2-25)所以 (2-26)因为上式最小值的条件为 (2-27)由此得到线性最小方差估值 (2-28)线性最小方差估计的方差为 (2-29)线性最小方差估计的性质： 是

12、的无偏估计，即 (2-30) 如果与有联合正态概率密度，的最小方差估计就等于它的线性最小方差估计，即 (2-31)2.6 维纳滤波 设，是一个未知的随机过程，是一个测量值。目的：基于这些测量值，重构，使其估值满足如下等式 (2-32)间隔是个采样过程。拟找到一个最佳滤波器脉冲响应，使其重构未知量，给出数据，使其在时间的均方误差最小 (2-33)式中，为估值误差，为误差协方差，它们分别定义为 (2-34) (2-35)上述滤波器称为时变维纳滤波器（the time varying Wiener filter）。 Wiener-Hopf方程据正交性原理，最小的条件是：与间隔中的数据正交，即，(2-

13、36)上式被称为Wiener-Hopf方程，可改写为, (2-37)以相关函数形式，上式可被写作， (2-38)方程的重要性：仅仅知道、的一阶和二阶联合统计特性或的统计特性，就可以建立最佳滤波器。 (2-35)式可被写为 (2-39)考虑和的正交性，上式可以给出 (2-40) 如果、是平稳的，且，存在无穷多数据，最佳滤波成为时不变的，。在稳态情况下，(2-38)式为， (2-41)或者写作， (2-42)在稳态情况下，误差协方差是由下式给出的常值 (2-43) Wiener-Hopf方程的解 解(2-42)式。设，意味着当试验的所有数据都得到以后再进行处理（非实时的）。（2-42）式变为， (

14、2-44)以谱密度的形式，写出如上卷积 (2-45)最优的线性滤波器为 (2-46)令对应有，若记则有 (2-47) 下面举例说明未知马尔柯夫过程的无限延迟稳态平滑。【例2-4】设是一未知马尔柯夫过程，被稳定成形滤波器激发。，是白噪声，谱密度为。为简便，考虑标量情况。可有谱密度和自相关函数 (2-48) (2-49)求和，已知式中，是测量白噪声，其谱密度为。设和正交，有 (2-50) (2-51)所以， (2-52)在线性测量情况下，最优线性滤波器为 (2-53)式中，称为信噪比。令设，则 (2-54)所以，最优线性滤波器的脉冲响应为 (2-55) (2-56)设，则或者 (2-57)式中其中，为状态噪声谱密度，为测量噪声谱密度。 如果，测量不提供信息，有，估值。此时如果，测量是完善的，从（2-52）式有，