最小方差无偏估计和有效估计

关于最小方差无偏估计和有效估计12一、最小方差无偏估计

由定义2.4知，最小方差无偏估计（MVUE）是在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。

第2页,共30页，2024年2月25日，星期天3第3页,共30页，2024年2月25日，星期天4第4页,共30页，2024年2月25日，星期天5第5页,共30页，2024年2月25日，星期天6第6页,共30页，2024年2月25日，星期天7

定理2.7给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。

第7页,共30页，2024年2月25日，星期天8定理2.8的说明：如果无偏估计不是充分统计量的函数，则将之对充分统计量求条件期望可以得到一个新的无偏估计，该估计的方差比原来的估计的方差要小，从而降低了无偏估计的方差。

换言之，考虑

的估计问题只需要在基于充分统计量的函数中进行即可，该说法对所有的统计推断问题都是正确的，这便是所谓的充分性原则。

第8页,共30页，2024年2月25日，星期天9第9页,共30页，2024年2月25日，星期天10第10页,共30页，2024年2月25日，星期天11第11页,共30页，2024年2月25日，星期天12第12页,共30页，2024年2月25日，星期天13第13页,共30页，2024年2月25日，星期天14第14页,共30页，2024年2月25日，星期天15第15页,共30页，2024年2月25日，星期天16第16页,共30页，2024年2月25日，星期天172.要直接验证某个估计量是最小方差无偏估计量是困难的.若能求出无偏估计中方差的下界,而且又能说明参数的一切无偏估计中存在某个估计的方差能达到这个下界，那么就是的最小方差无偏估计.下面给出一个判别准则：1.最小方差无偏估计提供了一种优良的估计，然而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这个下界等否达到？第17页,共30页，2024年2月25日，星期天定理2.10(Cramer-Rao不等式)设X1,X2,…Xn是从密度函数为的总体抽取的样本,是的一个无偏估计,若集合与无关;对积分与微分可交换且存在，即(3)

则有第18页,共30页，2024年2月25日，星期天其中常称为Fisher信息量.特别当,有常用的另一个表达式常称为C-R不等式.第19页,共30页，2024年2月25日，星期天

费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量I(

)有关。I(

)的种种性质显示，“I(

)越大”可被解释为总体分布中包含未知参数

的信息越多。第20页,共30页，2024年2月25日，星期天例2.22设总体服从泊松分布，X1,X2,…Xn

是来自总体的一个样本，试求参数的无偏估计的下界？解:(1)写出密度函数

(2)求密度函数对数、再求导

(3)计算fisher信息量

(4)代入C-R不等式求方差下界第21页,共30页，2024年2月25日，星期天1.写出密度函数，求对数2.计算fiser信息量3.代入C-R不等式求方差下界第22页,共30页，2024年2月25日，星期天例2.23

设X1,X2,…Xn

是取自总体X~的一个样本,求的无偏估计的方差下界.

解:(1)写出密度函数

(2)求密度函数对数、再求导

(3)计算

(4)代入C-R不等式求方差下界最后寻找无偏估计中满足方差下界的估计量.第23页,共30页，2024年2月25日，星期天1.写出密度函数2.求密度函数对数3.计算fiser信息量4.代入C-R不等式求方差下界第24页,共30页，2024年2月25日，星期天2.求密度函数对数的导数3.计算fiser信息量4.代入C-R不等式求方差下界5.计算最小方差无偏估计的方差第25页,共30页，2024年2月25日，星期天262、有效估计1)

定义2.8P57第26页,共30页，2024年2月25日，星期天

例2.24

设X1,X2,…Xn

是取自总体X~B(N,p)的一个样本，验证

是参数P的有效估计量.1.写出概率函数,再求对数2.计算fiser信息量3.代入C-R不等式求方差下界第27页,共30页，2024年2月25日，星期天4.计