3.6 无偏性和有效性.ppt

1、1,3.6 点估计的优良性准则,2,把样本值代入T(X1,X2,Xn) 中，得到,的一个点估计值 .,3,XN( ),使用什么样的统计量去估计 ？,问题是:,可以用样本均值;,也可以用样本中位数;,还可以用别的统计量 .,4,(2) 怎样决定一个估计量是否比另一个估计 量“好”？,需要讨论以下几个问题:,(1) 我们希望一个“好的”估计量具有什么 特性？,(3) 如何求得合理的估计量？,5,这是因为估计量是样本的函数，是个随机变量 . 因此，由不同的观测结果，就会求得不同的参数估计值.,因此一个好的估计，应在多次试验中体现出优良性 .即需要讨论对应于样本分布所得到的估计量的分布。,二、估计量的

2、优良性准则,在介绍估计量优良性的准则之前，我们必须强调指出： 评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量 .,6,常用的几条原则标准是：,1. 无偏性 2. 有效性 3. 相合性,7,估计量是随机变量，对于不同的样本值会得到不同的估计值 . 我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值. 这就导致无偏性这个标准 .,一、无偏性,8,则称 为 的无偏估计 .,1. 定义3.6.3 P78,9,例如，用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在0的周围波动，对同一统计问题大量重复使用不会产生系统偏差 .

3、,无偏性是对估计量的一个常见而重要的要求 .,无偏性的实际意义是指没有系统性的偏差 .,10,例3.6.2,设X1,X2,Xn是取自具有一阶矩、二阶矩存在的总体X一个样本，证明,11,证,一般的，,12,试问：,13,2. 无偏性的弱点,无偏估计量是对估计量的一个重要而常见的要求 ，实际意义是多次试验后没有系统性的偏差，也是工程技术中完全合理的要求，但不要一味认为估计量不满足无偏原则，就是“不好”的估计量。,(3) 无偏估计知只反映了估计量在参数真值附近波动。,14,例2,的样本，其中,事实上,设X1,X2,Xn是取自总体X：,15,但是，此估计量有明显的不合理：,从而，仅有无偏性原则不够。,

4、例2,的样本，其中,设X1,X2,Xn是取自总体X：,16,证,例,17,18,所以无偏估计以方差小者为好, 这就引进了有效性这一概念 .,由于,19,二、有效性,20,二、最小方差无偏估计,目的是: 寻找一个最有效的估计量.,记为：MVUE.,定义3.6.4 P79,21,1.最小方差无偏估计提供了一种优良的估计，然而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这个下界等否达到？,定理3.6.1 (Cramer-Rao不等式)设X1,X2,Xn是 从密度函数为 的总体抽取的样本, 是 的一个无偏估计, 若 集合 与 无关; 对 积分与微分可交换且 存在，

5、即 (3),则有,其中,常称,为Fisher信息量. 特别当, 有,常称为C-R不等式.,费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量I( )有关。I( )的种种性质显示，“I( )越大”可被解释为总体分布中包含未知参数 的信息越多。,例 设总体服从泊松分布 ， X1,X2,Xn 是来自总体的一个样本，试求参数 的无偏估计的下界？,解: (1) 写出密度函数 (2) 求密度函数对数、再求导 (3) 计算fisher信息量 (4) 代入C-R不等式求方差下界,1. 写出密度函数，求对数,2. 计算fiser信息量,3.代入C-R不等式求方差下界,例 设 X1,X2,Xn 是取自总体 X 的一个样本, 求 的无偏估计的方差下界. 解: (1) 写出密度函数 (2) 求密度函数对数、再求导 (3) 计算 (4) 代入C-R不等式求方差下界 最后寻找无偏估计中满足方差下界的估计量.,1. 写出密度函数,2. 求密度函数对数,3. 计算fiser信息量,4.代入C-R不等式求方差下界,2. 求密度函数对数的导数,3. 计算fiser信息量,4.代入C-R不等式求方差下界,5. 计算最小方差无偏估计的方差,30,2、有效估计,例3.24 设 X1, X2, Xn 是取自总体 X