参数估计标准和区间估计

1、参数估计标准和区间估计二、估计量的评选标准一 、点估计 三、区间估计 四、正态总体均值与方差的 区间估计 参数估计是统计推断的基本问题之一，问题中，并不一定要求密度函数，而只要知道参数那么在许多实际分布就决定了。考察灯泡厂生产的灯泡质量，由于种种随机易知灯泡使用寿命是随机变量，记为且 问题：如何估计 和？引例1因素的影响，知道了参数，2的值，那么寿命X的分布就完全确定了.参数估计要解决问题:总体分布函数的形式为已知,需要确定未知参数。但其中参数未知时，这类问题称为参数估计问题。只有当参数 确定后，才能通过概率密度函数计算概率。对于未知参数，如何应用样本所提供的信息去对其一个或多个未知参数进行估

2、计。对未知参数估计的两种方法：1、 点估计2、区间估计点估计问题：第一节 点估计基本原理：总体矩是反映总体分布的最简单的数字特征，当总体含有待估计参数时，总体矩是待估计参数的函数。样本取自总体，即样本矩在一定程度上可以逼近总体矩，一、矩估计法故可用样本矩来估计总体矩。这个估计方法是英国统计学家K.皮尔逊最早提出的 其中是待估参数为来自的样本,存在,设总体的k阶矩则样本的k阶矩(大数定律)令k个方程组设总体X的分布函数为矩估计量的观察值称为矩估计值。从中解得即为矩估计量。矩估计的步骤：连续型离散型例 1 设某炸药厂一天中发生着火现象的次数X服从 例2设总体在上服从均匀分布，解：由矩法,解得 是在

3、总体类型已知条件下使用的一种参数估计方法 .2. 极大似然法 极大似然法的基本思想 先看一个简单例子：一只野兔从前方窜过 .是谁打中的呢？某位同学与一位猎人一起外出打猎 .如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下 . 你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率. 看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了极大似然法的基本思想 . 以上这种选择一个参数使得试验结果具有最大概率的思想就是极大似然法的基本思想 .基本思想:若事件 发生了,则认为事件中出现的概率最大。最大似然估计 就是在一次抽样中,若得到观测值则选取若一试验有n个可能结果现做一试验,

4、在这n个可能结果作为 的估计值，使得当时,样本出现的概率最大。最大似然估计法:是的一个样本值(如离散型)(1)设事件 发生的概率为 的函数，形式已知X的分布律为：的联合分布律为： 样本的似然函数即取使得：与有关, 记为称为参数的最大似然估计值称为参数的最大似然估计量.达到最大的参数作为的估计值，现从中挑选使概率样本的似然函数两点说明2、用上述求导方法求参数的MLE有时行不通，这时要用极大似然原则来求 .使似然函数 达到最大的 即 的MLE， (4) 在最大值点的表达式中, 用样本值代入 就得参数的极大似然估计值 .(1) 由总体分布导出样本的联合分布律 (或联合密度);(2) 把样本联合分布律

5、(或联合密度)中自变 量看成已知常数,而把参数 看作自变量, 得到似然函数L( );(3) 求似然函数L( ) 的最大值点(常常转化 为求ln L( )的最大值点) ，即 的MLE;求极大似然估计(MLE)的一般步骤是：L(p)= 设X1,X2,Xn是取自总体 Xb(1, p) 的一个样本，求参数p的极大似然估计.解：似然函数为: 例1对数似然函数为：对p求导并令其为0，=0得即为 p 的MLE .似然函数为：-它与矩估计量是相同的。解：似然函数为 设X1,X2,Xn是取自总体X的一个样本其中 0,求 的极大似然估计.i=1,2,n例3解：i=1,2,n对数似然函数为求导方法无法求参数 的ML

6、E.是对故使 达到最大的 即 的MLE， 取其它值时，且是 的增函数由于这时要用极大似然原则来求 .即 为 的MLE .X的概率密度为：极大似然估计不变性 由于估计量作为样本的函数是一个随机变量,对于不同的样本值, 估计值也不同, 因此评价一个估计量的优劣就不能仅由一个观测值来确定, 而要根据估计量的统计性质来评价. 通常一个好的估计量其观测值应在待估计参数的真值附近波动, 且波动的幅度越小越好, 即要使估计量与待估计参数在某种统计意义下非常“接近”. 常用的几条标准是：1无偏估计2有效估计3相合估计(一致估计）这里我们重点介绍前面两个标准 .第二节 估计量的评选标准4. 渐近正态估计期望应等

7、于未知参数的真值. 则称 为 的无偏估计 .设是未知参数 的估计量，若.真值1无偏性估计量是随机变量，样本值不同估计值也不同。估计值应在参数附近，定义无偏性的意义是：用 来估计 时无系统偏差。则称是的渐近无偏估计量.例 设总体X的数学期望 存在，是X的样本，求证均为的无偏估计。为2 的无偏估计量不是2 的无偏估计量证： 不是 的无偏估计量,是渐近无偏估计量用S2来估计2有系统偏差。为2 的无偏估计量也是2 的无偏估计量均为的无偏估计一般情况下2. 有效性:都是的无偏估计量；若则称较有效.设若 的所有二阶矩存在无偏估计量中有一个估计量,使对任意无偏估计量 有 例：由大数定律知一致性说明：对于大子

8、样，由一次抽样得到的估计量 的值可作的近似值渐近正态估计定理2.3 渐近正态估计一定是相合估计最小方差无偏估计定理2.7 设 是 的一个无偏估计， 则 是 的最小方差无偏估计（MVUE）的充要条件是：对任何满足条件 的统计量 ，有。证明：Th2.8 设总体X的分布函数为 是未知参数， 是来自总体X的一个样本，如果 是 的充分统计量， 是 的任一无偏估计，记 则有设总体X的分布函数为 ， 是来自总体X的一个样本，如果 是 的充分完备统计量， 为 的任一无偏估计， 则有 为 的惟一的最小方差无偏估计。给出了一个判别方法,且是充分必要条件。解决了存在性问题，也就是求解的方法，即最小方差无偏估计在无偏

9、的充分估计量中。解决了惟一性问题，当然指概率意义下的惟一。有效估计与信息不等式罗克拉美不等式 右端为罗克拉美下界，记为 类似： 注：有时能找到无偏估计使它的方差达到 这个下界，有时达不到信息不等式的证明证明：先证必要性点估计总结 在参数的点估计中，对于一个样本值只能得到参数的一个估计值。 虽然有一个明确的量的概念，但只能是一个近似值， 1）只是样本的一个函数；2）不同的样本有不同的点估计； 3）总有偏差；4）没有精确度；5）不知道偏差范围。点估计分类 1、有偏估计；2 、无偏估计点估计的方法 1 、矩估计； 2 、最大似然估计点估计的性质 1、无偏性； 2、有效性（优效性）； 3、相合性（一致性） 结 论矩估计1）无论总体服从什么分布，样本均值和方差分别是总体均值和方差的矩估计量；2）矩估计都是相合估计；3）