概率论与数理统计6-1参数估计.ppt

第一节 参数的点估计 第二节 估计量的评价标准 第三节 参数的区间估计,参数估计,第六章,第一节 参数的点估计,一、点估计问题的提法,二、估计量的求法,三、内容小结,第六章,一、点估计问题的提法,注意：,二、估计量的求法,由于估计量是样本的函数, 是随机变量, 故对不同的样本值, 得到的参数值往往不同, 因此如何求得参数 的估计量便是问题的关键所在.,常用构造估计量的方法: (两种),1. 矩估计法 2. 最(极)大似然估计法.,1. 矩估计法,基本思想：用样本矩估计总体矩 , 用样本矩的连续函数来估计总体矩的连续函数,理论依据:,它是基于一种简单的“替换”思想建立起来的一种估计方法 .,是英国统计学家K.皮尔逊最早提出的 .,大数定律,记总体k阶原点矩为,样本k阶原点矩为,记总体k阶中心矩为,样本k阶中心矩为,用样本矩来估计总体矩, 用样本矩的连续函数来估计总体矩的连续函数, 这种估计法称为矩估计法.,设总体 X 的分布函数为,m个待估参数 (未知),为来自总体X的简单随机样本.,矩估计法的具体步骤:,矩估计量的观察值称为矩估计值.,注,方程组,中方程的个数等于待估参数的个数.,解,根据矩估计法，令,例1,解,例2,解方程组得到a, b的矩估计量分别为,解,解方程组得到矩估计量分别为,例3,注. 上例表明:,总体均值与方差的矩估计量的表达式不因不同的总体分布而异.,一般地:,例4,设总体X的分布密度为,为来自总体X的样本. 求参数, 的矩估计量.,分析：,一般地，,只需要求：, 的矩估计量.,不含有，,故不能由此得到 的矩估计量.,解(方法1),要求：, 的矩估计量,(方法2),要求：, 的矩估计量：,注,此例表明：同一参数的矩估计量可不唯一.,矩估计法的优点：简单易行, 并不需要事先 知道总体是什么分布 .,缺点：当总体类型已知时，没有 充分利用分布提供的信息. 一般场合下, 矩估计量不 具有唯一性 .,其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替,带有一定的随意性 .,小结：,最大似然估计法是在总体类型已知条件下使用的一种参数估计方法 .,它首先是由德国数学家 高斯在1821年提出的 ,Gauss,Fisher,然而，这个方法常归功于 英国统计学家费歇 .,费歇在1922年重新发现了 这一方法，并首先研究了这种方法的一些性质 .,2. 最大似然估计法,为自总体X的样本(X1,X2,Xn) 的一个观察值，则称样本的联合分布,(1) 似然函数,定义6.1,设总体X的分布密度(或分布律)为 p(x; ),又设,p(x1, x2, , xn; ),为似然函数.,注,1 离散型X,此时，,2 连续型X,此时，,(2) 最大似然估计量(值),定义,最大似然估计值 (MLE).,maximum likelihood estimate,注,1 对于给定的样本值,求 的最大似然估计问题，归结为求 L( ) 的最大值问题;,则称,由于,而,有相同的最大值点，因此，,为最大似然估计的必要条件为,称它为似然方程组，其中,(3) 求最大似然估计(MLE)的步骤:,注,1 上述求最大似然估计的方法，要求lnL可微，,若不满足此条件，则须从定义出发求最大似然估计.,2 似然方程组是最大似然估计的必要条件， 而非充分条件.,解,似然函数,例7,这一估计量与矩估计量是相同的.,解,例8,这一估计量与矩估计量是相同的.,解,X 的似然函数为,例9,它们与相应的矩估计量相同.,解,例10,分析,三、内容小结,两种求点估计的方法:,矩估计法,最大似然估计法,在统计问题中往往先使用最大似然估计法, 在最大似然估计法使用不方便时, 再用矩估计法.,费希尔资料,Ronald Aylmer Fish