信号检测与估计.ppt

1、b，1，chapter 6，parameter estimation，成员：东春波ma和丰李志成，b，2，记录，6.1最大似然估计6.2广义似然比测试6.3优秀估计评价本章假定允许的信号是正确的，但是某些关联参数是未知的，主要用于使用有限样本参数以最佳方式估计这些参数。Y1，Y2，YK是独立分布的k个随机变量y的示例，密度函数取决于未知参数。Y 1、y 2、y K为范例Y1，Y2，YK的相应值，函数g(Y1，Y2，YK)用于估计参数。表示为参数的推论。通常，估计的参数可以是随机的，也可以不是随机的。随机参数的估计称为贝叶斯估计，随机参数的估计称为最大似然估计(MLE)。b，4，6.1最大似然估

2、计通常通过最大似然(ML)估计来估计非随机参数，如上函数中所述。Y1，Y2，YK表示示例值y 1、y 2、y有关于K的随机变量y的K个观测值，这些随机变量独立分布在一起。表示随机变量y的条件密度函数。y的密度函数取决于必须估计的参数，最大似然函数为l()，表达式6.1.1 (6.1.1)似然函数的最大值称为的最大似然估计。为了估计最大似然，我们用从数学中学到的微积分。由于对数函数lnx是变量x的增量函数，因此为了简单计算，您将在第5章中看到最大化的L()，如ln(L()。使用最大似然函数的代数函数表达式，可以得出可从自变量中求导数的最大似然估计量。例如，6.1.2 (6.1.2)不变：如果使l

3、()成为似然函数，g()是每个参数对应的函数，即g(1)=g(2) 1=2参数的最大似然估计值，则g()最大似然估计值。b，5，6.1最大似然估计，exammle 6.1，the received signal under hypotheses h1 and h0 was(a)assuming the constant m is not known，(b)suppose now that the mean m is known，but the variance 2 is unknown。obtain the mle of=2。第五章确认家庭案中的那个假设是真的。本章假定H1是真的，如果参数未知

4、，则估计为最大似然估计。(a)在示例中，需要确定的参数为相应的，mM。样本参数独立分布相同，因此对6.1.1的似然函数：b，6，6.1的最大似然估计，等式两边取相同的代数，对6.1.2的解释也同样估计。Thus，the ML estimator is，b，7，6.1最大似然估计，(b)最大似然估计采用方程式两侧的代数。其中最大化lnL(2)等于最小化2。似然函数的不变性是b，8，6.1最大似然估计，因此2的最大似然估计是b，9，6.2一般似然比测试，在示例5.9中解决了复合假设检验问题。m参数假定在H1中，m为正或负，但值未知。如果m为正值(仅负值)，则在UMP测试中，如果决策规则为m0，则在

5、m0中，所有参数m的UMP测试将不起作用，因为参数m的正负设置导致实验结果不同。因此，使用上一节中描述的最大似然估计。也就是说，假设H1是真的，使用已经存在的样品进行估算。如果假设正确，我们可以用最大似然比来检验。b，10，6.2广义似然比测试在使用的估计为最大似然估计时称为广义似然比测试，(6.2.1) 0和1是假定H0和H1估计的未知参数。，example 6.2 consider the problem of example 5.9，Where m is an unknown parameter . obtain the generalized likeihed ratio test a

6、nd compare it to，b，11，6.2一般似然比较测试，Example 5.9 consider the situation Where the observation sunder each hypothesis are given by，Where n de notes，假定H1和H0的条件密度函数为b，12，6.2常规似然比测试，因为k个观测是独立的。其中m是未知参数。假定H0不包含m，因此估计过程仅适用于H1家庭。根据基于(6.1.2)的似然方程，H1下m的似然估计值为下，替换或，似然比测试为b，13，6.2正则似然比测试，替换从上述表达式中获得的值，获取代数后简化，因为负

7、不是负，如果小于1(ln负)，则始终认为H1为真。因此，可以将其设置为大于1的数字。因此，不等式转换为b，14，6.2广义似然比测试。其中10 .因此，与上述相同，决定阈值图可以通过设置图6.2.1，figure 6 . 2 . 1 decision regions of the generalized likeihed ratio test，估计误警概率来确定1的值。在得到误警概率PF的表达式之前，必须确定z的密度函数。b，15，6.2的广义似然比测试假定H0到y的平均值为0和方差2，所有观测都是统计上独立的高斯过程。因此，的密度函数是平均值为零、方差K2的高斯过程。因此，z也是具有平均值0

8、和方差2的高斯过程。丢失概率为figure 6.2.2 . 2 density function of z under h0，如图6 . 2 . 2所示。b，16，6.2一般似然比测试可以在没有m的误警概率中确定1的值。但是，检测的概率不能在没有m的情况下确定，但是可以对m进行参数估计。假设这是在H1中具有平均Km和分布式K2的高斯过程。因此，z的密度函数是平均K m和方差2。给定m的检测概率，概率密度图通过图6.2.3所示的b，17，6.2的广义似然比检查，通过比较，广义似然比检查与尼曼-皮尔逊检查一样好。figure 6 . 2 . 3 density function of z unde

9、r h1、b、18和6.3的优秀估计评估标准。由于估计参数是随机变量，因此其值多于一个。因此，必须确定最佳估计。偏法估计：6.3.1式(6.3.1)，部分估计，例如6.3.2，(6.3.2)，1。如果b()不依赖于(b()=b)，则假定存在已知偏差。即(-b)是偏法估计。2 .b()b未知，因此无法获得偏转估计。在这种情况下，估计量被认为存在未知偏差。如果参数全部满足并且不是随机的(无预概率分布)，则也称为绝对偏转估计。b，19，6.3优秀的估计评价标准，如果估计偏狭，则意味着估计接近实际，但不一定是最佳估计。通过图6.3.1中所示的估计条件密度函数，可以很容易地确定。如图中观察到的，在狭隘的

10、估计中，估计的方差也很大，因此可能产生相当大的误差。但是，如果方差小，则预测和期望之间的差距也很小。因此，可以认为，估计的卓越性可以具有方差大小判断。figure 6 . 3 . 1 density function of the unbisased estimator。b，20，6.3优秀估计评估标准，偏心最小方差：示例最小方差和偏心估计，对于所有参数，E()=，对于所有var()var()，也就是说，对于所有偏心估计，存在最小方差。一致估计：基于k观察抽样的参数一致估计，如果满足6.3.3 (6.3.3)，则为p(。)表示概率。应用上述定义并不能验证估计的一致性。可以使用以下清理：定理是基

11、于k-观测样本的参数的无偏估计，满足式6.3.4，(6.3.4)，(6.3.5)是参数的一致估计。，6.3.5、b和21，6.3的优秀估计评估标准，example 6.3，(a)verify if the estimator of example 6.1 is an unbisased estimate of m .(b)，solution，(a)the estimator is unbisased if e=m . after substitution，web obtain，hence，is unbiased。(b) the estimator is unbisased if e=2。tha

12、t is、Hence、is unbisased。b，22，6.4通过引入Bayesian估计、Bayesian估计中的成本(损失)函数，针对所有。成本函数是两个随机变量之和的非负实际函数。在贝叶斯测试中，成本函数的平均成本定义为风险函数，如表达式6.4.1。(6.4.1)，贝叶斯估计是寻找使风险函数(即平均成本)最小的决策标准。一般情况是估计单个变量，所以用估计误差估计。估计误差有三种常用于6.4.2 (6.4.2)的成本函数，如图6.4.1所示。1 .平方成本函数2。绝对值成本函数，(6.4.3)，(6.4.4)，b，23，6.4贝叶斯估计，3。统一成本函数，(6.4.5)表示较小的量，所谓

13、统一成本函数表示如果误差超过特定限制，则表示相同的值，如果误差小于该限制，则表示零。figure 6 . 4 . 1 cost functions :(a)squared error，(b) absolute value of error，and (c) uniform。b，24，6.4 Bayesian估计，未知参数是假定为密度函数的连续随机变量，风险函数可以表示为6.4.6。(6.4.6)，可以采用所有和y的平均成本，y表示矢量Y1，Y2，以YK T表示。6.4.1最小均方误差估计，通过表达式(6.4.2)中提出的成本函数，风险函数的最小估计称为最小均方估计(MMSE)。相应的风险函数用m

14、s表示。在结果6.4.7，(6.4.7)，公式1.91中，风险函数为6.4.8，(6.4.8)，b，25，因此，括号中的方程式为引数，衍生式6.4.9，(6.4.9)，表示式(1.38)下的莱布尼茨准则，取得式6.4.10，(6.4.10)，b，26，6.4贝叶斯估计，的二阶导数是正整数，因此等于ms的唯一最小值，(6.4.11)，给定y的条件下的方差为6.4.12，(6.4.12)，因此ms是给定所有可能y的值条件下的方差。平方误差基准的此估算过程也称为误差估计的最小方差(MV)。b，27，6.4贝叶斯估计，6.4.2条件中值估计，在这种情况下，括号中的方程式给出为6.4.14，与(6.4.14) 6.4.14的导数比较，结果设定为0。实现式6.4.15，(6.4.15)，b，28，6.4贝叶斯估计，即估计是称为误差最小平均绝对值(MAVE)估计的密度函数条件的中值。6.4.3最大后验概率，对于表达式6.4.5中提供的成本函数，贝叶斯风险函数为表达式6.4.16，(6.4.16)，b，29，6.4贝叶斯估计，但(6.4.17)表示概率。因此，通过最大化样式(6.4.17)最小化UNF。的后密度函数称为的最大后推估计(如果您想使用最大限度地满足条件)。6.4.18 (6.4.18)、6.4.18 (6.4.19)、b、30、6.4贝叶斯估计、方程式(6.4.19)称为MAP