概率论与数理统计+统计推断与参数估计.ppt

统计推断与参数估计,称服从自由度为的分布，记为,常用统计分布,Review,称服从自由度为的分布，记为,常用统计分布,Review,称服从自由度为的分布，记为,常用统计分布,Review,常用统计分布,Review,常用统计分布,设总体的均值和方差,是来自总体的样本，则,都存在.,样本均值与样本方差的数字特征,Review,单正态总体抽样分布定理,Review,单正态总体抽样分布定理,Review,单正态总体抽样分布定理,Review,估计量：用于估计总体参数的统计量参数用表示，估计量用表示估计值：估计参数时计算出来的统计量的具体值如果样本均值X=80，则80就是的估计值,点估计问题,Review,1.无偏性(unbiasedness)设为总体未知参数的估计量若,则称是的无偏估计量，称具有无偏性。否则，,是有偏估计量.,评价估计量的标准,无偏性是对估计量的一个常见而重要的要求.,注:,是的无偏估计量,评价估计量的标准,Review,2有效性,或,两个以上的无偏估计量,具有最小方差,最佳无偏估计量,评价估计量的标准,Review,3相合性（consistency）如果对任意小的正数，有,则称,是,的一致估计量，称,具有一致性，可以证明,均具有一致性。,评价估计量的标准,Review,由于估计量是样本的函数,是统计量,故对不同的样本值,得到的参数值往往不同,求估计量的问题是关键问题.,估计量的求法:(两种),矩估计法、最大似然估计法.,估计量的求法,1、矩估计法,它是基于一种简单的“替换”思想建立起来的一种古老的估计方法.,估计量的求法,用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,从而得出参数估计，这种估计法称为矩估计法.,记总体k阶中心矩为,样本k阶中心矩为,设X1,X2,Xn来自总体X的样本,总体k阶矩为,样本k阶矩为,矩法估计,解:,由矩法,样本矩,总体矩,解,解方程组得到矩估计量分别为,例2,矩法估计,上例表明:,总体均值与方差的矩估计量的表达式，不因不同的总体分布而异.,矩法估计,矩法的优点是简单易行.,缺点是，当总体类型已知时，没有充分利用分布提供的信息.一般场合下,矩估计量不具有唯一性.,矩法估计,2、最大似然估计法(MLE),最大似然法是在总体类型已知条件下使用的一种参数估计方法.,它首先是由德国数学家高斯在1821年提出的,然而，,Gauss,Fisher,这个方法常归功于英国统计学家费歇.,费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质.,极大似然法的基本思想,有两外形相同的箱子,各装100个球1箱99个白球1个红球2箱1个白球99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.,极大似然法的基本思想,问:所取的球来自哪一箱？,又如当机器发生故障，有经验的修理工首先总从易损部件、薄弱环节查起，为什么呢？公安人员在贞破凶杀案时，首先把与被害者密切来往又有作案可能性的人列为重点嫌疑对象.,极大似然法的基本思想,思想方法：在试验中概率最大的事件最有可能出现。,最大似然原理的直观思想是：在试验中概率最大的事件最有可能出现。因此，一个试验如有若干个可能的结果A,B,若在一次试验中结果A出现，一般认为A出现的概率最大,最大似然估计,似然函数实质上是样本的联合分布律,于是定义下面的似然函数,最大似然估计,（1）求似然函数,（3）解似然方程得到最大似然估计值,（4）最后得到最大似然估计量,求最大似然估计量的步骤,解,似然函数,例3,最大似然估计,最大似然估计,最大似然估计,最大似然估计,令,得的最大似然估计值为,最大似然估计,故的最大似然估计量为,解：似然函数为,对数似然函数为,例5设X1,X2,Xn是取自总体X的一个样本,求的极大似然估计.,其中0,最大似然估计,求导并令其为0,=0,从中解得,对数似然函数为,最大似然估计,故的最大似然估计量为,解,似然函数为,例6,最大似然估计,最大似然估计,它们与相应的矩估计量相同.,最大似然估计,设是的极大似然估计值,u(),是的函数,且有单值反函数,=(u),uU则是u()的极大似然估计值.,不变性,极大似然估计的不变性,如在正态总体N(,2)中,2的极大似然估计值为,lg的极大似然估计值为,两种求点估计的方法:,矩估计法,最大似然估计法,在统计问题中，往往主要使用最大似然估计法.,小结,最大似然法估计结果大多具有无偏性、有效性或相合性等优良的估计量性质。,定义：设总体X的分布函数F(x；)含有未知参数，对于给定值（01),若由样本X1,Xn确定的两个统计量使,则称随机区间为的置信度为1的双侧置信区间,置信区间,由样本统计量所构造的总体参数的估计区间称为置信区间统计学家在某种程度上确信这个区间会包含真正的总体参数，所以给它取名为置信区间用一个具体的样本所构造的区间是一个特定的区间，我们无法知道这个样本所产生的区间是否包含总体参数的真值我们只能是希望这个区间是大量包含总体参数真值的区间中的一个，但它也可能是少数几个不包含参数真值的区间中的一个,置信区间,例如,置信区间,置信区间,可靠度与精度是一对矛盾，一般是在保证可靠度