概率论与数理统计+统计推断与参数估计.ppt

1、统计推断与参数估计,称 服从自由度为 的 分布，记为,常用统计分布,Review,称 服从自由度为 的 分布，记为,常用统计分布,Review,称 服从自由度为 的 分布，记为,常用统计分布,Review,常用统计分布,Review,常用统计分布,设总体 的均值和方差,是来自总体 的样本，则,都存在.,样本均值与样本方差的数字特征,Review,单正态总体抽样分布定理,Review,单正态总体抽样分布定理,Review,单正态总体抽样分布定理,Review,估计量：用于估计总体参数的统计量 参数用 表示，估计量用 表示 估计值：估计参数时计算出来的统计量的具体值 如果样本均值 X =80，则8

2、0就是的估计值,点估计问题,Review,1.无偏性 (unbiasedness) 设为总体未知参数的估计量 若,则称是的无偏估计量，称具有无偏性。否则，,是有偏估计量.,评价估计量的标准,无偏性是对估计量的一个常见而重要的要求 .,注:,是的无偏估计量,评价估计量的标准,Review,2有效性,或,两个以上的 无偏估计量,具有最小方差,最佳无偏估计量,评价估计量的标准,Review,3相合性（consistency） 如果对任意小的正数，有,则称,是,的一致估计量，称,具有一致性，可以证明,均具有一致性。,评价估计量的标准,Review,由于估计量是样本的函数, 是统计量, 故对不同的样本值

3、, 得到的参数值往往不同, 求估计量的问题是关键问题.,估计量的求法: (两种),矩估计法、最大似然估计法.,估计量的求法,1、 矩估计法,它是基于一种简单的“替换”思想建立起来的一种古老的估计方法 .,估计量的求法,用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,从而得出参数估计，这种估计法称为矩估计法.,记总体k阶中心矩为,样本k阶中心矩为,设 X1, X2, , Xn 来自总体X的样本,总体k阶矩为,样本k阶矩为,矩法估计,解:,由矩法,样本矩,总体矩,解,解方程组得到矩估计量分别为,例2,矩法估计,上例表明:,总体均值与方差的矩估计量的表达式，不因不同的总体分布而异.,

4、矩法估计,矩法的优点是简单易行.,缺点是，当总体类型已知时，没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 .,矩法估计,2、 最大似然估计法(MLE),最大似然法是在总体类型已知条件下使用的一种参数估计方法 .,它首先是由德国数学家 高斯在1821年提出的 ,然而，,Gauss,Fisher,这个方法常归功于英国统计学家费歇 .,费歇在1922年重新发现了 这一方法，并首先研究了这 种方法的一些性质 .,极大似然法的基本思想,有两外形相同的箱子,各装100个球 1箱 99个白球 1 个红球 2箱 1 个白球 99个红球 现从两箱中任取一箱, 并从箱中任取一球, 结果所取

5、得的球是白球.,极大似然法的基本思想,问: 所取的球来自哪一箱？,又如当机器发生故障，有经验的修理工首先总从易损部件、薄弱环节查起，为什么呢？ 公安人员在贞破凶杀案时，首先把与被害者密切来往又有作案可能性的人列为重点嫌疑对象.,极大似然法的基本思想,思想方法：在试验中概率最大的事件最有可能出现。,最大似然原理的直观思想是：在试验中概率最大 的事件最有可能出现。因此，一个试验如有若干 个可能的结果A,B,若在一次试验中结果A出现， 一般认为A出现的概率最大,最大似然估计,似然函数实质上是样本的联合分布律,于是定义下面的似然函数,最大似然估计,（1）求似然函数,（3）解似然方程得到最大似然估计值,

6、（4）最后得到最大似然估计量,求最大似然估计量的步骤,解,似然函数,例3,最大似然估计,最大似然估计,最大似然估计,最大似然估计,令,得的最大似然估计值为,最大似然估计,故的最大似然估计量为,解：似然函数为,对数似然函数为,例5 设X1,X2,Xn是取自总体X的一个样本,求的极大似然估计.,其中 0,最大似然估计,求导并令其为0,=0,从中解得,对数似然函数为,最大似然估计,故的最大似然估计量为,解,似然函数为,例6,最大似然估计,最大似然估计,它们与相应的矩估计量相同.,最大似然估计,设 是 的极大似然估计值, u( ),是 的函数, 且有单值反函数, = (u), uU 则 是 u( )

7、的极大似然估计值.,不变性,极大似然估计的不变性,如 在正态总体N (, 2)中, 2的极大 似然估计值为,lg 的极大似然估计值为,两种求点估计的方法:,矩估计法,最大似然估计法,在统计问题中，往往主要使用最大似然估计法.,小结,最大似然法估计结果大多具有无偏性、有效性 或相合性等优良的估计量性质。,定义： 设总体X的分布函数F(x；)含有未知参数，对于给定值（0 1),若由样本X1, , Xn确定的两个统计量 使,则称随机区间 为的置信度为1的双侧置信区间,置信区间,由样本统计量所构造的总体参数的估计区间称为置信区间 统计学家在某种程度上确信这个区间会包含真正的总体参数，所以给它取名为置信区间 用一个具体的样本所构造的区间是一个特定的区间，我们无法知道这个样本所产生的区间是否包含总体参数的真值 我们只能是希望这个区间是大量包含总体参数真值的区间中的一个，但它也可能是少数几个不包含参数真值的区间中的一个,置信区间,例如,置信区间,置信区间,可靠度与精度是一对矛盾， 一般是在保证可靠度的条件下 尽可能提高精度.