第四章信号检测与估计理论(3).ppt

在那个年代，当时的天文学界正在为火星和木星间庞大的间隙烦恼不已，认为火星和木星间应该还有行星未被发现。在1801年，意大利的天文学家Piazzi发现在火星和木星间有一颗新星。它被命名为谷神星，现在我们知道，它是火星和木星的小行星带中的一个，但当时天文学界争论不休，有人说这是行星，有人说是彗星。必须继续观察才能盘踞，但是Piazzi只能观察到它9度的轨道，再来，它便隐身到太阳后面去，因此，无法知道它的轨道，也无法判别它是行星还是彗星。,高斯对这个问题产生兴趣，它决定解决这个捉摸不到的星体轨迹的问题，高斯独创了只要三次观察，就可以来计算星球轨道的方法。它可以及其准确的预测行星的位置。果然，谷神星准确无误的在高斯预测的地方出现。这个方法，就是最小二乘法。当时并没有公布。1802年，他又准确预测了小行星二号，智神星的未知，这时他声明远扬，荣誉滚滚而来。,5.8最小二乘估计最小二乘估计不需要任何先验知识，只需要关于被估计量的观测信号模型，就可实现信号参量的估计。虽然估计量的性质不如前面讨论的方法，而且难以评价，但易于实现，且能使估计误差的平方和达到最小，所以仍然是一种应用广泛的估计方法。5.8.1最小二乘估计方法如果关于被估计量的信号模型为；由于存在观测噪声，观测量为。如果进行了次观测，的估计量选择为使,达到最小，即误差的平方和最小。所以我们把这种估计称为最小二乘估计，估计量记为。估计量按使（5.8.1）式最小来构造是合理的。因为如果不存在观测噪声和模型误差，使（5.8.1）式最小，则，估计误差为零。当然实际上，是存在观测噪声和模型误差的。此时使（5.8.1）式最小，从统计平均意义上能使最接近。上述讨论结果可以推广到矢量的估计中。设信号模型为，观测矢量为，则构造的使,最小，估计量记为。根据信号模型，最小二乘估计可分为线性最小二乘估计和非线性最小二乘估计。我们将首先讨论线性最小二乘估计。5.8.2线性最小二乘估计设是维被估计矢量，线性观测方程为合成表示为,构造的估计量使最小。估计量记为。1.最小二乘估计量的构造公式由得最小二乘估计量的构造公式,因为是非负定的，所以，是使最小的解。2.最小二乘估计量的性质性质1是的线性函数性质2若，则是无偏估计量。证明：性质3若，则估计的均方误差阵为,例5.8.1根据对二维矢量的两次观测求的线性最小二乘估计量。解线性观测方程为,其中代入构造公式，得说明：由观测方程知，观测结果是这样得到的，即这说明线性最小二乘估计的观测是有很大自由度的。,5.8.3线性最小二乘加权估计线性最小二乘估计对每次观测量是同等对待的。如果各次观测量精度是不一样的，理应给精度高的观测量以较大的权值，而精度低的观测量权值较小，以获得更精确的估计结果。从而引出了线性最小二乘加权估计，其指标是使最小。其中称为加权矩阵。估计量记为。1.线性最小二乘估计量的构造由,得线性最小二乘加权估计量的构造公式为2.估计量的性质性质1是的线性函数；性质2若，则是无偏估计量；性质3若，则的均方误差阵为最佳加权矩阵可以证明，最佳加权矩阵为此时有,说明：若，是非加权的线性最小二乘估计；若，是最佳加权的线性最小二乘估计；若，如果部分与观测量精度相适应，则估计精度介于非加权与最佳加权精度之间；如果与观测量精度不相适应，则估计精度还不如非加权的估计精度。,例5.8.2如果对交流电压的两次测量结果为已知求电压的最小二乘估计量和最小二乘加权估计量,解由题知所以,取，则有取其它加权矩阵之结果，请结合习题5.35进行研究。5.8.4线性最小二乘递推估计线性最小二乘递推估计的问题类似于线性最小均方误差递推估计。加权递推估计公式为,初始条件确定：利用第一次观测量，有和然后从第二次观测开始进行递推估计。5.8.5单参量的线性最小二乘估计设观测方程为其中，我们得,将它们代入矢量构造公式（5.8.7），得若观测方程为则有,这是平均值估计。所以，平均值估计是线性最小二乘估计的特例：单参量，直接（1比1）观测的线性最小二乘估计，就是平均值估计。,5.8.6非线性最小二乘估计,1参量变换方法,例5.8.3教材333页,2参量分离方法,2参量分离方法,2参量分离方法,2参量分离方法,2参量分离方法,例5.8.4教材334页,小节前面讨论了信号参量的统计估计理论。其具体思路是：以观测矢量的离散观测数据为基础，根据已知的先验知识所提出的估计指标，采用相应的最佳估计规则和方法，来构造估计量，然后研究估计量的性质。,5.9信号波形中参量的估计如果被估计的参量含在信号波形中,观测方程为通常，被估计的参量为信号的振幅、相位、频率和到达时间等。我们只介绍振幅、相位估计的主要问题。设是均值为零、功率谱密度为的高斯白噪声。利用第4章关于随机过程的正交级数展开，我们能够得到以为参量的的似然函数。首先讨论信号波形中未知参量的最大似然估计。,式中1.参量的一般最大似然估计由（5.9.2）式，得所以，参量的最大似然估计是下列方程组的解,利用，则费希尔信息矩阵的元素为2.对于信号中单个参量的最大似然估计，最大似然方程为估计量的均方误差，在无偏的条件下满足,5.9.1信号振幅的估计在研究信号振幅的估计时，信号可表示为信号的振幅待估，已知。由（5.9.7）式，有,得若则可由相关器或匹配滤波器实现，如图5.9所示。,现在考查的主要性质。所以，是无偏估计量。所以，是有效估计量。估计量的均方误差为,5.9.2信号相位的估计考虑信号相位估计时，信号表示为其中，振幅、频率已知；相位是被估计量；噪声是高斯白噪声。,由（5.9.7）式得最大似然方程为则相位的最大似然估计量为最大似然方程的解。,实现的结构见图5.10或图5.11。图5.10是双路正交相位估计器；而图5.11是锁相环路相位估计器。,5.9.3信号频率的估计（自学）5.9.4信号到达时间的估计（自学）5.9.5信号频率和到达时间的同时估计（自学）,以上为整个第五章内容，信号的统计估计理论。,第5章主要內容和结论5.25.4单随机参量的贝叶斯估计贝叶斯估计量构造的先验知识：已知，代价函数选定；要求估计的平均代价最小。估计量简记为。1.贝叶斯估计量的构造公式(1)最小均方误差估计(2)条件中位数估计(3)最大后验估计,2.单随机参量估计量的性质若则是无偏估计量，否则就是有偏估计量。若是的任意无偏估计量，则其均方误差满足克拉美罗不等式：当且仅当对所有和都满足,时，不等式取等成立，估计量也是有效的；其均方误差取克拉美罗界，即5.35.4单非随机参量的最大似然估计最大似然估计量构造的原理是使似然函数最大的作为估计量。1.最大似然估计量的构造公式,2.单非随机参量的估计量的性质若则估计量是无偏的，否则是有偏的估计量。若是的任意无偏估计量，则其均方误差满足克拉美罗不等式：当且仅当对所有和都满足,时，不等式取等号成立，估计量也是有效的；其均方误差取克拉美罗界，即5.5矢量估计随机矢量的贝叶斯估计要求知道,选定,使平均代价最小。1.最小均方误差估计量的构造,2.最大后验估计量的构造3.随机矢量估计量的性质：无偏性、均方误差阵等。4.非随机矢量的最大似然估计(1)非随机矢量的最大似然估计原理(2)非随机矢量最大似然估计量的构造(3)非随机矢量估计量的性质：无偏性、均方误差阵等。,5.7线性最小均方误差估计线性最小均方误差估计的先验知识：和的前二阶矩知识。1.线性最小均方误差估计量的构造规则：2.线性最小均方误差估计量的构造公式：3.线性最小均方误差估计量的性质：线性、无偏性、均方误差最小性、正交性、与最小均方误差估计量的差别及关系等。,4.线性最小均方误差递推估计5.8最小二乘估计我们主要讨论了线性最小二乘估计。1.线性观测方程：2.线性最小二