系统辩识-04-点估计理论.ppt

系统辨识与滤波第3讲 浙江大学控制科学与工程学系 第三章状态估计的Kalman滤波方法 3 1点估计理论3 2新息序列3 2基本Kalman滤波3 4一般Kalman滤波3 5最优预报与平滑 3 1点估计理论 一组测量样本Y y 1 y N 统计计算T Y 估计量 3 1 1估计量的评价标准 无偏估计和渐近无偏估计若E x则为无偏估计若limE xN 则为渐近无偏估计 例 设随机变量 的数学期望为 1 2 N 是 的一组容量为 的样本 构造统计量 例 2同上例设 1 2 N 是 的一组独立的样本 的方差为构造统计量 因此 不是无偏估计为渐近无偏估计 从而有 一致估计 希望样本容量无限增大时 估计值在真值的任一邻域的概趋近于 定义 1 如果对于任意实数 得到的估计量依概率收敛于真值 即 充分估计 如果包含了样本 关于的全部信息 则称为充分估计 M 费史著 概率论及数理统计 上海科学技术出版社 1978 有效估计 定理 设一个无偏估计 则其协方差函数阵满足不等式其中 称为 信息函数阵 估计方差的最小值又由信息阵 也即量测样本 所含有关 的信息量 决定 获取最理想的估计 必须注意两点 量测y应尽可能多地含有待估量 的信息 应构作适当的统计量使 式成立 1 线性无偏最小方差估计 若对任意 称 为最小方差估计 当且仅当定理 设 和 是两个联合分布的随机向量 则 的最小方差估计就是x的条件期望值 证明 设y为随机向量 的某一实现 f y 为x的一个估计 估计误差为误差方差 观察上式最后两项 当且仅当f y E x y 时等号成立 x 几点说明 最小方差估计是无偏估计 若已知 可证 的最小方差估计为特别当 服从联合正态分布时 是 的线性函数 定理 的条件可扩大到 不是正态联合分布 最小方差估计仍然等于 的条件均值 但不一定是线性函数了 定义 设 是 维随机向量 y 1 y N 是 维随向量 的 维子样 若估计量T Y 能表为 诸分量的线性组合即 T Y 为 维向量 是 矩阵 则称 为线性估计 定理 3 式线性估计为无偏估计的充要条件是 且线性无偏估计为 定理 若 的协方差阵 zz有逆 则 对 的线性无偏最小方差估计唯一地表示为 且误差估计的协方差阵为 注意记号 定理 证明 构造一线性估计 为无偏线性估计 定理 5 设z y 1 y N 是 的一组相互独立的子样 则z对x的线性无偏最小方差估计为 推广 则z对x k 的线性无偏最小方差估计为 线性无偏最小方差估计的性质 设 是 的线性无偏最小方差估计 且S 是 的某个线性变换 则S的线性无偏最小方差估计为S A 设x z 则有 x z x z 表明对量测作零均值处理不失估计的一般性 若取 的线性变换 为可逆方阵 为 维任意向量 则 说明量测数据序列作可逆线性变换不影响估计结果 最小方差估计的几何解释 设 二阶矩有界的随机变量集合 对所有 定义内积和范数 E yTx x 2 称 为上式定义内积和范数的Hilbter空间 随机向量都是 的线性无偏估计 对一切可能的 形成Hilbter空间上的一个线性子空间 定理 正交投影定理 设 和 均为零均值随机向量 是Hilbter空间中按形成的