概率论与数理统计(VII).ppt

1、第七章,参 数 估 计,二 、估计量的评选标准,一 、点估计,三 、区间估计,四 、正态总体均值与方差的区间估计,统计推断的 基本问题,估计问题,假设检验问题,点估计,区间估计,矩估计法,最大似然估计法,参数估计是统计推断的基本问题之一,参数估计要解决的问题:,总体分布函数的形式为已知,估计,其一个或多个未知参数（如何估计？）,点 估 计,第七章,第一节,二 、矩估计法,一 、点估计问题的一般提法,三 、最大似然估计法,一 、点估计问题的一般提法,构造一个适当的统计量,近似值。,称,为估计量,为估计值,对未知参数估计的两种方法: 矩估计法、最,二 、矩估计法,矩估计法是用样本矩估计总体矩。,英

2、国统计学家K.皮尔逊最早,提出的。,大似然估计法。,命题：若总体X 的 k 阶矩,存在，则,证明,因为样本,相互独立且与总,体X 服从相同的分布。则,也相互,独立且与,服从相同的分布。,由辛钦定理,即,基本思想：令,若X为连续型随机变量，设概率密度为,令,，其中,为样本，,为样本值，,解出,例1设总体,解 令,其中,所以的矩估计量为,例2设总体X 的概率密度为,解,且,X1,X2,Xn是取自X 的样本,求参数的矩估计量.,令,，则,从而的矩估计量,例3设总体,解,令,例4 设,解,令,其中,则,解得数学期望,的矩估计量分别为,总结：任何分布的均值和方差的矩估计量的表,达式都不变。,例5设总体,

3、解 由,所以由上例可得,若X为离散型随机变量，设其分布律为,令,，其中,为样本，,为样本值，,解出,例6设总体X的分布律为,其中参数,未知，现有一组样本值1,1,1,2,2,1,3,解 令 其中,所以的矩估计值为,2,2,1,2,2,3,1,1,2，试求的矩估计值。,三、最大似然估计法,这是在总体类型已知条件下使用的一种参数估计方法 .,它首先是由德国数学家高斯在1821年提出的 ,Gauss,Fisher,然而，这个方法常归功于英国统计学家费歇 。,费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 .,极大似然估计法,思想方法：一次试验就出现的事件有较大的概率,例如: 有两

4、外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球,现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球.,答: 第一箱.,问: 所取的球来自哪一箱？,分布律为,，其中未知。,为X 的样本，,为X 的样本值，, X 为离散型,称为似然函数。,当,时，称统计量,为的最大似然估计量；,为的最大似然估计值；,表示取到样本值 的概率,具体算法：,令,两边取对数,令,设X1,X2,Xn是取自总体 Xb(1, p) 的一个,解,例1,似然函数为:,样本，求参数p的最大似然估计值。,所以,为 p 的最大似然估计值。,解,例2,似然函数为:, X 为连续型,思

5、想：随机点,落在点,的,邻域内的概率近似地为,即取,的最大值。,Xi 的概率密度为,，其中未知。,所以似然函数为,求极大值,或,得,例3,解,似然函数,当,令,所以,例4,解,令,所以,的最大似然估计值为,例5,解,似然函数,所以,所以,则要使得,取最大值,注：特殊的似然函数通过求导得不到其最大， 需要用其它的方法。,例,解, 令,所以,解得参数和的矩估计量为, 设x1, x2, , xn是X1, X2, , Xn的样本值，则,似然函数为,其中,当,时,令,第二个似然方程求不出的估计值，观察,，表明L是的严格递增函数，又,，故,所以当,时L 取到最大值,从而参数和的最大似然估计值分别为,则参数

6、和的最大似然估计量分别为,估计量的评选标准,第七章,第二节,二 、有效性,一 、无偏性,三 、一致性,对同一个参数，用不同的估计方法求出的估,计量可能不相同，采用哪一个估计量为好呢?,一 、无偏性,对于一组观察值,得到,一个估计值,，估计偏差为,定义1 设 是未知参数的估计量,存在，且对任意的，有,则称 为的无偏估计。,无偏性的实际意义是指没有系统偏差,例1 设 是取自总体 X 的一个样本，,X 的 k 阶矩,存在，试证明,不论总体服从什么分布，k阶样本矩Ak是k的,无偏估计。,证明,则,注意: 无论X 服从什么分布,只要它的数学期望,例2,证明,注意,不是,的无偏估计，,而,（不论总体服从什么分布）,一个未知数可以有不同的无偏估计量。,解,例3,的大小来决定二者谁更优。,和,一个参数往往有不止一个无偏估计, 若,和,都是参数 的无偏估计量，,我们通过可以比较,由于,二、有效性,定义2 设,都是参数的无偏估计量，若有,则称 有效。,定义3 设,若对于任意,当,则称 的一致估计量。,为参数的估计量，,（了解）,例4,设 X1, X2,