第八章第二节估计优良性

1、 第八章 参数估计第二节 点估计量的优良性 上一节中，我们介绍了估计总体参数的两个常用的方法：矩估计法和极大似然估计法。并且已经知道，对于同一个参数，用矩估计法和极大似然估计法得出的估计量有的时候是相同的，有的时候是不同的，即对于同一个参数,可以有多个估计量等,究竟采用哪一个估计量好呢？这就涉及到用什么标准来评价估计量好坏的问题。通常采用下列标准。一、无偏估计这里我们给出一种对任何样本容量都适用的评价估计量好坏的准则。设是总体分布中的未知参数，为的估计量。既然是样本的函数，因此对于不同的抽样结果，的值也不一定相同，然而我们希望在多次试验中，用作为的估计没有系统误差，即用作为的估计，其平均偏差为

2、0，用公式表示即，这就是估计量的无偏性的概念。这是估计量应具有的一种良好性质。没有系统性偏差的性质在统计学上称作无偏性。显然它可以作为衡量估计量估计量好坏的一个准则。定义2 设（简记为）为未知参数的估计量，若, (8.5)则称为的无偏估计。例1 设总体的均值,总体方差。设为来自于总体的样本,求证：（1）是的无偏估计量；（2）是的无偏估计量。（3）设常数满足，则是总体均值的无偏估计。证明因为独立且与同分布,;于是,故是的无偏估计量；,下面计算。方法1 ;方法2, ;方法3 ,故 . 但是，不是总体方差的无偏估计。事实上，,所以，它是有偏的.这个例题很给力例2 设总体的概率密度为 ,为来自总体的样

3、本.(1)求总体均值,总体方差(2)求的矩估计量;(3)是否为的无偏估计？(4)求的方差 .解 (1)总体均值;总体方差;(2)令,即, 得的矩估计量为;(3),所以是的无偏估计;(4)的方差 . .例3 设总体X，X，X，X是来自X的一个样本，试确定常数C，使为的无偏估计。解法一 因为，故,()( 若写出,则错了,因为不独立.)故 ,而由 得到于是 ，故。解法二 因为独立同分布,()，因而，故 。解法三,因独立同分布，故，,于是 为使其为的无偏估计，必有，即。 解法四 由得到故 。 注意 上例解法四推演步骤甚多，但其使用的手法是很重要的。这个手法就是遇有随即变量之差的平方时，将这个差变形为，

4、从而将差的平方与方差联系起来。显然，由例1我们看到，（）和都是总体均值的无偏估计。由此可见，一个未知参数可以有不同的的无偏估计量。因此，对于几个无偏估计量，应该有个区别好坏的标准。二、最小方差无偏估计 设是的无偏估计量，,我们很自然的要求与尽可能接近，也即要尽量小。而 ,这就看出，当是的无偏估计量时，其方差越小越好。因此方差最小的无偏估计就是一个“最佳”的估计。 定义3 设是的一个无偏估计，若对于的任一无偏估计，成立 ,则称是的最小方差无偏估计。例2设为来自于总体的样本,总体均值,总体方差,求的最小方差线性无偏估计。解 已知独立且与同分布,;的线性估计是将的线性函数作为的估计量。问题是如何选取

5、的值，使得无偏性和最小方差这两个要求都能得到满足。易知, , 无偏性要求,最小方差要求达到最小；利用Cauchy不等式得，且等号成立，当且仅当全相等，记，由条件,得到，于是当时，达到最小；故,是的最小方差线性无偏估计。从这里，我们看到了选取样本均值作为总体均值的估计的优良性质。若和都是的无偏估计量，且成立，则通常称估计量较有效,或较佳,或较优.例 设为总体的一个样本,试证下列估计量,都是总体均值的无偏估计量,且问哪一个最佳？证明 已知独立同分布, 所以都是的无偏估计量;, , 于是,故最佳.三、一致估计设为总体参数的估计量，显然与样本有关，我们希望会随着样本容量的增大而越接近于，这一要求便是衡量估计量好坏的另一标准。定义4 设为未知参数的估计量，若依概率收敛于，即对任意的,成立 , (8.7)或 , 则称为的一致性估计。例8试证样本均值为总体均值的一致性估计。证 因为 ,所以，对于相互独立且服从同一分布的随机变量，由大数定律【第六章】，得，即得 。 此外，还可证明样本方差是