概率论与数理统计统计推断与参数估计

1、样本总体样本统计量如：样本均值、比率、方差总体均值、比率、方差等概率论与数理统计统计推断与参数估计(一)-分布是来自总体设的样本,令 称 服从自由度为 的 分布，记为分布的数学期望与方差概率论与数理统计常用统计分布的上侧分位点记为Review(二)分布且设相互独立,令 称 服从自由度为 的 分布，记为概率论与数理统计常用统计分布的上侧分位点记为的双侧分位点记为Review(三)分布且设相互独立,令 称 服从自由度为 的 分布，记为常用统计分布 的上侧分位点记为Review概率论与数理统计常用统计分布Review概率论与数理统计概率论与数理统计常用统计分布设总体 的均值和方差是来自总体 的样本，

2、则都存在.概率论与数理统计样本均值与样本方差的数字特征Review概率论与数理统计单正态总体抽样分布定理Review概率论与数理统计单正态总体抽样分布定理Review概率论与数理统计单正态总体抽样分布定理Review估计量：用于估计总体参数的统计量参数用 表示，估计量用 表示估计值：估计参数时计算出来的统计量的具体值如果样本均值 X =80，则80就是的估计值概率论与数理统计点估计问题Review1.无偏性 (unbiasedness)设为总体未知参数的估计量若 则称是的无偏估计量，称具有无偏性。否则，是有偏估计量.概率论与数理统计评价估计量的标准无偏性是对估计量的一个常见而重要的要求 .注:

3、是的无偏估计量是2的无偏估计量概率论与数理统计评价估计量的标准Review2有效性 若都是的无偏估计量且 或 则称较为有效估计量。两个以上的无偏估计量具有最小方差最佳无偏估计量概率论与数理统计评价估计量的标准Review3相合性（consistency）如果对任意小的正数，有则称是的一致估计量，称具有一致性，可以证明均具有一致性。概率论与数理统计评价估计量的标准Review 由于估计量是样本的函数, 是统计量, 故对不同的样本值, 得到的参数值往往不同, 求估计量的问题是关键问题.估计量的求法: (两种)矩估计法、最大似然估计法.概率论与数理统计估计量的求法1、 矩估计法 它是基于一种简单的“

4、替换”思想建立起来的一种古老的估计方法 . 其基本思想是用样本的指标替代总体的指标用样本矩估计总体矩 .是英国统计学家K.皮尔逊最早提出的 . 理论依据: 大数定律概率论与数理统计估计量的求法 用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,从而得出参数估计，这种估计法称为矩估计法.记总体k阶中心矩为样本k阶中心矩为概率论与数理统计设 X1, X2, , Xn 来自总体X的样本总体k阶矩为样本k阶矩为矩法估计解: 由矩法,样本矩总体矩从中解得的矩估计.即为 例1 设总体X的概率密度为是未知参数,其中X1,X2,Xn是取自X的样本,求参数 的矩估计.概率论与数理统计解解方程组得到

5、矩估计量分别为例2矩法估计概率论与数理统计上例表明: 总体均值与方差的矩估计量的表达式，不因不同的总体分布而异.概率论与数理统计矩法估计 矩法的优点是简单易行. 缺点是，当总体类型已知时，没有 充分利用分布提供的信息 . 一般场合下,矩估计量不具有唯一性 .概率论与数理统计矩法估计2、 最大似然估计法(MLE)最大似然法是在总体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯在1821年提出的 ,然而，GaussFisher这个方法常归功于英国统计学家费歇 . 费歇在1922年重新发现了 这一方法，并首先研究了这 种方法的一些性质 .概率论与数理统计是谁打中的呢？如果要你推测

6、，你会如何想呢? 先看一个简单例子：一只野兔从前方窜过 .某位同学与一位猎人一起外出打猎 .只听一声枪响，野兔应声倒下 .极大似然法的基本思想概率论与数理统计有两外形相同的箱子,各装100个球 1箱 99个白球 1 个红球 2箱 1 个白球 99个红球现从两箱中任取一箱, 并从箱中任取一球,结果所取得的球是白球.极大似然法的基本思想概率论与数理统计问: 所取的球来自哪一箱？又如当机器发生故障，有经验的修理工首先总从易损部件、薄弱环节查起，为什么呢？公安人员在贞破凶杀案时，首先把与被害者密切来往又有作案可能性的人列为重点嫌疑对象. 极大似然法的基本思想概率论与数理统计 思想方法：在试验中概率最大

7、的事件最有可能出现。最大似然原理的直观思想是：在试验中概率最大的事件最有可能出现。因此，一个试验如有若干个可能的结果A,B,若在一次试验中结果A出现，一般认为A出现的概率最大概率论与数理统计最大似然估计似然函数实质上是样本的联合分布律于是定义下面的似然函数概率论与数理统计最大似然估计概率论与数理统计（1）求似然函数（2）一般地，求出及似然方程 （3）解似然方程得到最大似然估计值 （4）最后得到最大似然估计量 概率论与数理统计求最大似然估计量的步骤解似然函数例3概率论与数理统计最大似然估计概率论与数理统计最大似然估计最大似然估计似然函数为解概率论与数理统计概率论与数理统计最大似然估计令得的最大似

8、然估计值为最大似然估计故的最大似然估计量为概率论与数理统计解：似然函数为对数似然函数为例5 设X1,X2,Xn是取自总体X的一个样本求的极大似然估计.其中 0,概率论与数理统计最大似然估计求导并令其为0=0从中解得对数似然函数为最大似然估计故的最大似然估计量为概率论与数理统计解似然函数为例6概率论与数理统计最大似然估计概率论与数理统计最大似然估计它们与相应的矩估计量相同.概率论与数理统计最大似然估计设 是 的极大似然估计值, u( )是 的函数, 且有单值反函数 = (u), uU 则 是 u( ) 的极大似然估计值. 不变性极大似然估计的不变性概率论与数理统计如 在正态总体N (, 2)中,

9、 2的极大 似然估计值为是 2的单值函数, 且具有单值反函数，故 的极大似然估计值为lg 的极大似然估计值为概率论与数理统计两种求点估计的方法:矩估计法最大似然估计法 在统计问题中，往往主要使用最大似然估计法.概率论与数理统计小结最大似然法估计结果大多具有无偏性、有效性或相合性等优良的估计量性质。 定义： 设总体X的分布函数F(x；)含有未知参数，对于给定值（0 1),若由样本X1, , Xn确定的两个统计量 使则称随机区间 为的置信度为1的双侧置信区间置信区间概率论与数理统计参数真实值置信区间置信下限置信上限由样本统计量所构造的总体参数的估计区间称为置信区间统计学家在某种程度上确信这个区间会包含真正的总体参数，所以给它取名为置信区间 用一个具体的样本所构造的区间是一个特定的区间，我们无法知道这个样本所产生的区间是否包含总体参数的真值我们只能是希望这个区间是大量包含总体参数真值的区间中的一个，但它也可能是少数几个不包含参数真值的区间中的一个概率论与数理统计置信区间例如置信区间概率论与数理统计 一旦有了样本，就把 估计在区间内.这里有两个要求: 对参数 作区间估计，就是要设法找出两个只依赖于样本的界限(构造统计量)(X1,Xn)(X1,Xn)置信区间概率论与数理统计长度尽可能短.2.