第六章_点估计

1、教辅 第六章 点估计第六章 点估计一、内容要点与要求1. 本章重点概括本章要求学生正确理解参数点估计的概念。掌握矩估计法，明确其实质是用样本矩来替换总体矩，即皮尔逊替换原则。掌握极大似然估计法，明确其基本思想是选取估计量，使得该样本发生的可能性最大，能熟练地求出某些常见分布中未知参数的极大似然估计量。掌握关于判别估计量优良性的一致性、无偏性、有效性这三个准则，并能熟练地加以运用。掌握罗-克拉美(Rao-Cramer)不等式的条件、结论，能求一些常见分布中未知参数的无偏估计量之方差的罗-克拉美下界，会求一些常见分布中未知参数的有效估计，或会证明某是的有效估计。掌握充分统计量的概念和奈曼(Neym

2、an)因子分解定理，并会加以应用。点估计方法一般有两种，一种为矩估计法，一种为极大似然估计法。矩估计法比较直观，对任何总体都适用，方法简单，但需要保证总体的相应的矩存在，若不存在就不能用矩估计的方法。而极大似然估计对任何总体也都适用，从它得到估计量一般有有效性，并且常常具有无偏性，即使不具有无偏性，也可以修正偏差使估计值与待估计参数的真实值充分接近。极大似然估计法的缺点是往往要解一个似然方程，而这个方程在有些情况下是很难解的。在分析估计量的好坏时，应首先考虑一致性，即看估计量是否依概率收敛于所估计的参数，不具备一致性的估计量我们一般是不予考虑的。估计量是一个随机变量，对于不同的样本值，一般给出

3、参数不同的估计值，因而在考虑估计量的优劣时，应该从某种整体性能去衡量，而不能看它在个别样本之下表现如何。一般来说，矩估计和极大似然估计都不一定是无偏估计。无偏估计要求估计量的数学期望等于待估参数，但无偏估计不一定是有效估计，如正态总体期望的估计量，其中是无偏估计，但只有当时，才是有效估计。由于统计量很多，那么怎样的统计量才是最佳的呢？直观的想法是，一方面要尽可能的简单，另一方面又要能提供样本所含的“全部信息”，由此引出了充分统计量的定义。直接从定义出发判断一个统计量是不是充分统计量有时很困难，奈曼给出了一个较为方便的因子分解定理。2. 基本概念1) 点估计设总体X的分布已知，是待估参数。为来自

4、该总体一个样本，若构造一个统计量，并 用估计，则称是的估计量。2) 一致性若是的估计量，如果对于任意，总有，则称为的一致估计量。3) 无偏性若未知参数的估计量满足则称具有无偏性，并称是的无偏估计量。4) 渐近无偏性若未知参数的一个估计有偏，但当时，则称为的渐近无偏估计量。5) 有效性若和都是的无偏估计量，且，则称较有效。若对固定的样本容量n，达到最小，则称为的最小方差无偏估计，记为UMVUE。6) 罗克拉美(Rao-Cramer)不等式设是取自总体的一个样本，又是的一个无偏估计，且满足正则条件：(a)集合与无关；(b)与存在，且对一切，(c) 令称为信息量，则这个不等式称为罗克拉美不等式。罗克

5、拉美不等式指出，在样本容量给定时，的无偏估计的方差不可能无限的小，它有一个下界，称这个下界为下界。7) 有效估计若的一个无偏估计使罗克拉美不等式中等式成立，则称为的有效估计。8) 有效率若是的一个无偏估计，且罗克拉美不等式下界存在，则称与的比为估计的有效率。9) 充分统计量设是取自总体的一个样本，设是一个统计量，有概率密度. 若成立，且每当取一固定值时，发生条件下的条件概率函数不依赖于，则称为的一个充分统计量。3. 基本方法、定理1) 矩估计法由于总体分布中的未知参数往往是总体X的一些原点矩或原点矩的函数，所以矩估计方法的主要思想就是用样本的各阶原点矩去估计相应的总体的各阶原点矩。求的矩估计量

6、的步骤如下：(1) 求出总体的前阶原点矩（用参数表示），(2) 从这个方程中解出：，(3) 用替换上述方程中的，则得到的矩估计： ， 不难看出，只要参数可用原点矩表示，则矩法估计就能进行，无须知道总体分布。2) 极大似然估计法(1) 总体为离散型。设总体X的分布律为，其中为未知参数。为的一个样本，其观测值为，每个取中的某个值，则似然函数为选取作为的估计，使则称极大似然估计。 (2) 总体为连续型。设总体X的概率密度函数为，其中是总体的未知参数，为的一个样本，其观测值为。求的最大似然估计量的步骤如下： 3）奈曼(Neyman)因子分解定理设是取自总体的一个样本，则统计量是一个充分统计量的充要条件

7、是存在两个非负函数和，使得等式成立，并且当取一定值时，函数不依赖于。3. 一些说明1)  关于极大似然估计(2) 并不是对所有的似然函数都可求解似然方程的方法解出极大似然估计量。例如求均匀分布的未知参数的极大似然估计量，设其概率密度为就不能按照求解似然方程的方法来做。1)  2)关于无偏性和有效性“无偏性”是指估计量的平均值接近于真正的参数值；“有效性”是指存在多个无偏估计量中相对方差较小的一个。点估计的优良性取决于这些估计量是否具有无偏性和有效性。不管总体服从什么样的分布，下面的结论成立：(1) 样本均值是总体均值的最小方差无偏估计量；(2) 样本方差

8、是总体方差的最小方差无偏估计量。二、典型例题分析例1 填空题(1) 设总体，是来自的样本，则的矩估计量为 ；极大似然估计量为 .(2) 设射手的命中率为，在向同一目标的80次射击中，命中75次，则的极大似然估计值为 .(3) 设总体，是来自的样本，则的极大似然估计量为 .解 (1)；. 因为，则有，故的矩估计量为；而似然函数为由似然函数可以看出，要使最大，就要使尽可能地小，但又不能小于，所以取时就使最大，故极大似然估计量为.(2). 记，则服从两点分布，即有，似然函数为 ， 令，得 故的极大似然估计值为. (3) . 因为似然函数为，令，得.例2 单选题(1) 设是来自总体的样本，下列统计量中

9、不是的无偏估计量的是（ ）.A. ; B. ; C. ; D. (2) 设，则（ ）. A. 是的矩估计；                    B. 是的有效估计； C. 是的极大似然估计；                  &

10、#160;     D. 是的一致估计(3) 设，且，则必为的（ ）. A. 无偏估计 ；   B. 一致估计 ； C. 有效估计；               D. 有偏估计 (4)*设总体的方差为，是来自的样本，则（ ）.A. 是的无偏估计量; B. 是的极大似然估计量;C. 是的一致估计; D. 与独立解 (1)D. 因为；所以不是的无偏估计量 .(2)D. 因为对任意，有所以是的

11、一致估计.(3) D. 因为，所以必为的有偏估计.(4)C. 因为由大数定律知，对任意，有，所以是的一致估计量.又，其中由大数定律知依概率收敛于，从而依概率收敛于. 又，所以是的一致估计量.例3 设总体的概率密度为求参数和的矩估计.解 矩在本例中，参数和并不是总体分布的矩，但它们与总体的原点矩、中心矩有如下关系： 由此可解得：，我们以样本矩代替总体矩，即取，得到和的矩估计量为.例4设总体的概率密度为求参数和的极大似然估计.解 本题的，如再对和分别求偏导，不可能解出，所以这种方法不能用. 因此，转为按定义求出使似然函数达到最大值的和.由于，故只要选取就能使在处达到最大值，它们就是和的极大似然估计

12、 .例5 设总体的概率密度为，是来自总体的样本，令，为的估计，问哪一个较好？解 令，则的分布函数为，概率密度为 ；的分布函数为，概率密度为 则，故和都是的无偏估计. 故知 ，即比有效.例6*设总体，是来自的样本，在例1(1)中已经得到的两个估计及，试比较两者的无偏性与有效性.解 (1)因为 故是的无偏估计.为求的数学期望，先求它的概率密度. 记，于是 可见不是的无偏估计，但修正估计量则是的无偏估计.(2) .显见，故比有效，而且随着的增大，比的优势会越来越明显.这是极大似然估计优于矩估计的有名例子.例7*设总体服从分布，是来自的样本，若参数已知，未知，试证是的. 证 因为由矩法估计知，所以它是

13、的无偏估计.则因此下界为，而所以是的.例8*设是独立同分布的随机变量，都服从几何分布则是的充分统计量.证 由于的联合概率密度为取，则由奈曼因子分解定理知，是的充分统计量.三、自我检测题1. 填空题(1) 设总体具有几何分布，分布列为 ，其中.是来自总体的样本， 则（1）的矩估计量是 ；（2）的极大似然估计量是 .(2) 设总体，是来自的样本，则的矩估计量为 ;的极大似然估计量为 .(3) 设是来自均匀分布总体的样本，则未知参数的矩估计的方差 .(4) 设的2个独立的无偏估计量，且假定，令，若的无偏估计，又使达到最小值，则_ _； _.2. 选择题(1)设，且，则（ ）. A. 是的无偏估计&#

14、160;； B. 是的一致估计 ； C. 是的有效估计；              D. 以上均不正确(2) 设总体已知，是来自的样本，则的有效估计量为（ ）.A. ； B. ；C. ； D. (3) 子样来自总体，则（ ）可以作为的无偏估计.A. 已知时，统计量；                 

15、                               B. 已知时，统计量；C. 未知时，统计量  ；                                        D. 未知时，统计量3设总体的概率密度为其中已知，未知，是来自总体的样本，试分别用矩法估计和极大似然估计求的估计量 .4设总体X的概率密度是来自总体的样本，试证：（1）都是