第二十四讲最小二乘估计波形估计

第二十四讲最小二乘估计波形估计演示文稿目前一页\总数五十五页\编于五点（优选）第二十四讲最小二乘估计波形估计目前二页\总数五十五页\编于五点例：正弦信号频率的估计最小化难以得到闭合性形式的解，原因是信号与未知参数f0之间存在高度的非线性关系。目前三页\总数五十五页\编于五点目前四页\总数五十五页\编于五点加权最小二乘估计目前五页\总数五十五页\编于五点讨论：（1）当观测噪声的均值为零时，最小二乘与加权最小二乘是无偏估计。目前六页\总数五十五页\编于五点（2）估计的方差阵目前七页\总数五十五页\编于五点(3)对于加权最小二乘估计，如果有一些模型的知识，如E(v)=0，E[vvT]=R，当W=R-1时，估计误差的方差阵达到最小，这个最小的方差阵为这时的估计称为马尔可夫估计目前八页\总数五十五页\编于五点例：信号幅度的估计设N次独立观测为方法一：目前九页\总数五十五页\编于五点方法2：目前十页\总数五十五页\编于五点信号处理实例：最小二乘在目标跟踪中的应用目标的跟踪问题可等效成一个曲线拟合问题假定目标做匀速直线运动运动模型（只考虑x方向）：目前十一页\总数五十五页\编于五点观测模型：令目前十二页\总数五十五页\编于五点递推算法：批处理算法，运算量太大。目前十三页\总数五十五页\编于五点递推算法：目前十四页\总数五十五页\编于五点7.7波形估计(WaveformEstimation)根据{z(n),n[n0,nf]}估计s(n)波形估计的应用图像恢复语音恢复目标跟踪弹道数据处理目前十五页\总数五十五页\编于五点1.波形估计的三种类型(1)滤波：根据当前和过去的观测值

{z(k),k=n0,n0+1,...,n}对信号s(n)进行估计(2)预测:根据当前和过去的观测值{z(k),k=n0,n0+1,...,nf

}对未来时刻n(n>nf)的信号s(n)进行估计，预测也称为外推。数据数据目前十六页\总数五十五页\编于五点

(3)内插:根据某一区间的观测数据{z(k),k=n0,n0+1,...,nf

}对区间内的某一个时刻n(n0<n<nf)的信号进行估计，内插也称为平滑。数据目前十七页\总数五十五页\编于五点波形估计宜采用可建立递推算法的线性最小均方估计或最小二乘估计。v(n)相互独立，且若采用最大似然估计目前十八页\总数五十五页\编于五点这个估计量是没有意义的，因为没有对观测做任何处理。目前十九页\总数五十五页\编于五点最小均方估计：线性最小均方估计：滤波目前二十页\总数五十五页\编于五点由正交原理：Wiener-Holf方程波形估计的关键是如何求解Wiener-Holf方程目前二十一页\总数五十五页\编于五点维纳滤波器假定信号和观测过程是平稳随机序列，并且是联合平稳随机序列，系统为线性时不变离散时间线性系统，n0=-，即观测数据为{z(k),-<k}，目前二十二页\总数五十五页\编于五点维纳滤波器目前二十三页\总数五十五页\编于五点当信号s(n)与观测噪声统计独立时目前二十四页\总数五十五页\编于五点如果假定{z(k),-<k}，系统为因果的线性时不变系统目前二十五页\总数五十五页\编于五点目前二十六页\总数五十五页\编于五点当观测为白噪声的时候，目前二十七页\总数五十五页\编于五点如果不是白噪声，那么可以先白化Hw(z)H2(z)目前二十八页\总数五十五页\编于五点例7.13设观测过程为z(n)=s(n)+v(n)，其中假定观测噪声v(n)为零均值白噪声，方差为1，s(n)是具有有理谱的平稳随机序列，功率谱密度为信号s(n)与v(n)统计独立，求估计s(n)的维纳滤波器目前二十九页\总数五十五页\编于五点解：目前三十页\总数五十五页\编于五点目前三十一页\总数五十五页\编于五点目前三十二页\总数五十五页\编于五点连续时间的维纳滤波器离散时间滤波连续时间滤波物理可实现物理可实现目前三十三页\总数五十五页\编于五点例7.13设观测过程为z(t)=s(t)+v(t)，-<t<其中假定观测噪声v(n)为零均值白噪声，功率谱密度为1，s(n)是具有有理谱的平稳随机过陈，功率谱密度为求估计s(t)的维纳滤波器。目前三十四页\总数五十五页\编于五点目前三十五页\总数五十五页\编于五点第七章小结贝叶斯估计非贝叶斯估计最小均方估计条件中位数估计最大后验概率估计线性最小均方估计最大似然估计最小二乘估计都需要计算后验概率密度需要计算似然函数只对数据模型进行假定目前三十六页\总数五十五页\编于五点1.最小均方估计平方代价函数的贝叶斯估计最小均方估计是无偏估计2.条件中位数估计绝对值代价函数的贝叶斯估计目前三十七页\总数五十五页\编于五点3.最大后验概率估计采用绝对值代价函数的贝叶斯估计最大后验概率方程目前三十八页\总数五十五页\编于五点贝叶斯估计都需要计算后验概率密度，需要已知被估计量的分布特性。先验信息的应用，有利于提高估计的性能。目前三十九页\总数五十五页\编于五点Mean=Median=Mode高斯后验分布目前四十页\总数五十五页\编于五点4.最大似然估计最大似然方程：目前四十一页\总数五十五页\编于五点常用信号参数的估计（1）高斯白噪声中恒定电平的估计（2）高斯白噪声的方差估计均值为零均值已知均值未知目前四十二页\总数五十五页\编于五点（3）信号幅度的估计z[n]=As[n]+v[n]，n=0,1,….N-1正弦信号幅度估计:目前四十三页\总数五十五页\编于五点(4)正弦信号相位的估计目前四十四页\总数五十五页\编于五点5.估计的性能0DesirePDF概率密度越尖越好均值要等于真值方差越小越好对于有偏估计，均方误差越小越好性能指标：无偏性有效性一致性目前四十五页\总数五十五页\编于五点估计量的CRLB当且仅当任何无偏估计的方差满足目前四十六页\总数五十五页\编于五点达到CRLB的估计称为效估计量如果有效估计量存在，则该有效估计量一定是最大似然估计如果有效估计量不存在，则最大似然估计的方差不一定是最小的。最大似然估计是渐近有效估计量，即目前四十七页\总数五十五页\编于五点随机参量的CRLB任何无偏估计的均方误差满足等号成立的条件目前四十八页\总数五十五页\编于五点如果有某个无偏估计达到CRLB,那么该估计必定是最大后验概率估计.而最小均方估计的均方误差也是最小的,所以这时最小均方估计与最大后验概率估计等价.目前四十九页\总数五十五页\编于五点6.线性最小均方估计目前五十页\总数五十五页\编于五点线性最小均方估计是无偏的。当观测与被估计量是联合高斯分布式，线性最小均方估计与最小均方估计等价。矢量形式：目前五十一页\总数五十五页\编于五点7.最小二乘