矩估计和极大似然估计2

现在是1页\一共有56页\编辑于星期日（优选）矩估计和极大似然估计现在是2页\一共有56页\编辑于星期日参数估计

参数估计问题是利用从总体抽样得到的信息估计湖中鱼数……估计平均降雨量来估计总体的某些参数或者参数的某些函数。统计推断：参数估计和假设检验。现在是3页\一共有56页\编辑于星期日参数估计要解决问题:总体分布函数的形式为已知,需要确定未知参数。但其中参数θ未知时，这类问题称为参数估计问题。只有当参数θ

确定后，才能通过率密度函数计算概率。对于未知参数，如何应用样本所提供的信息去对其一个或多个未知参数进行估计。现在是4页\一共有56页\编辑于星期日

参数估计是对已知分布类型的总体，参数估计点估计区间估计矩估计极大似然估计

参数估计可作如下划分利用样本对其未知参数作出估计现在是5页\一共有56页\编辑于星期日

1.矩估计2.极大似然估计3.最小二乘法4.贝叶斯方法……这里我们主要介绍前面两种方法.寻求估计量的方法现在是6页\一共有56页\编辑于星期日点估计问题：构造一个适当的统计量用它的观察值来估计未知参数θ.

称为θ的估计量，为θ的估计值.参数估计：点估计:估计θ的具体数值;区间估计:估计θ的所在范围.现在是7页\一共有56页\编辑于星期日第七章第一节矩法估计二、常用分布参数的矩法估计一、矩法估计现在是8页\一共有56页\编辑于星期日一.矩估计法故用样本矩来估计总体矩基本原理：总体矩是反映总体分布的最简单的数字特征，当总体含有待估计参数时，总体矩是待估计参数的函数。样本取自总体，样本矩在一定程度上可以逼近总体矩，由英国统计学家K.皮尔逊最早提出的。现在是9页\一共有56页\编辑于星期日其中是待估参数.为来自的样本,存在,设总体的k阶矩则样本的k阶矩(由大数定理)令从中解得k个方程组即为矩估计量。矩估计量的观察值称为矩估计值。设总体X的分布函数为现在是10页\一共有56页\编辑于星期日矩估计步骤：连续型离散型现在是11页\一共有56页\编辑于星期日所以参数p的矩估计量为例：总体X的分布列为：

是来自总体X的样本，解：由于总体X的分布为二项分布，现在是12页\一共有56页\编辑于星期日设某炸药厂一天中发生着火现象的次数X例1服从现在是13页\一共有56页\编辑于星期日下面我们通过几个例子说明利用矩估计法求未知参数的过程。二、常用分布常数的矩法估计现在是14页\一共有56页\编辑于星期日例2解现在是15页\一共有56页\编辑于星期日注:

总体均值方差的矩估计量与总体分布无关。做矩估计时,也可用中心矩建立关于未知参数的方程组，因而矩估计不唯一。λ未知，求参数λ的矩估计。例3解：现在是16页\一共有56页\编辑于星期日解不合格品率p的矩法估计

分析设总体X为抽的不合格产品数，相当于抽取了一组样本X1，X2，…，Xn,且因p=EX,故

p

的矩估计量为

设某车间生产一批产品，为估计该批产品不合格品(即出现不合格产品的频率).例4率，抽取了n件产品进行检查.现在是17页\一共有56页\编辑于星期日例5解现在是18页\一共有56页\编辑于星期日现在是19页\一共有56页\编辑于星期日θ是未知参数，X1，X2，…,Xn，是X

的一组样本，解设总体X的概率密度为解得例6求θ的矩估计量.现在是20页\一共有56页\编辑于星期日其中θ＞0，μ与θ是未知参数，X1，X2，…,Xn，是X

的一组样本，求μ与θ的矩估计量.解例7.

设总体X的概率密度为令现在是21页\一共有56页\编辑于星期日令注意到DX=E(X2)－(EX)2=θ2=θ2+(θ+μ)2现在是22页\一共有56页\编辑于星期日第七章第二节极大似然估计极大似然估计现在是23页\一共有56页\编辑于星期日

极大似然法的基本思想

先看一个简单例子：一只野兔从前方窜过.是谁打中的呢？某位同学与一位猎人一起外出打猎.如果要你推测，你会如何想呢?只听一声枪响，野兔应声倒下.现在是24页\一共有56页\编辑于星期日基本思想:若事件Ai

发生了,则认为事件Ai在这n个可能结果中出现的概率最大。极大似然估计就是在一次抽样中,若得到观测值则选取若一试验有n个可能结果现做一试验,作为θ的估计值。使得当时,样本出现的概率最大。现在是25页\一共有56页\编辑于星期日极大似然估计法:设是的一个样本值事件发生的概率为为的函数，形式已知(如离散型)X的分布列为的联合分布列为：为样本的似然函数。定义7.1现在是26页\一共有56页\编辑于星期日即取使得：与有关,记为称为参数θ的极大似然估计值。称为参数θ的极大似然估计量。达到最大的参数作为θ的估计值。现从中挑选使概率样本的似然函数现在是27页\一共有56页\编辑于星期日若总体X属连续型,其概率密度的形式已知，θ为待估参数；则的联合密度：一般，关于θ可微，故θ可由下式求得：因此的极大似然估计θ也可从下式解得：在同一点处取极值。现在是28页\一共有56页\编辑于星期日现在是29页\一共有56页\编辑于星期日故似然函数为例1设是来自总体X的一个样本，试求参数

p

的极大似然估计值.解：设是一个样本值。X的分布列为：而令现在是30页\一共有56页\编辑于星期日它与矩估计量是相同的。解得p的极大似然估计值p的极大似然估计量令解得现在是31页\一共有56页\编辑于星期日设总体X的分布列为：是来自总体X的样本，求p的极大解：似然函数为似然估计值。例2现在是32页\一共有56页\编辑于星期日令即所以参数的极大似然估计量为现在是33页\一共有56页\编辑于星期日解例3设X1,X2,…,Xn

是取自总体X

的一个样本,，求参数λ的极大似然估计值。似然函数为:现在是34页\一共有56页\编辑于星期日例4设未知，是一个样本值求的极大似然估计量.解

设的概率密度为：似然函数为现在是35页\一共有56页\编辑于星期日等价于因为对于满足的任意有即时,取最大值在似然函数为现在是36页\一共有56页\编辑于星期日故的极大似然估计值为:故的极大似然估计量为:即时,取最大值在似然函数为现在是37页\一共有56页\编辑于星期日今取得一组样本Xk数据如下，问如何估计θ？162950681001301402702803404104505206201902108001100

某电子管的使用寿命X（单位：小时)服从指数分布例5

指数分布的点估计

分析

可用两种方法：矩法估计和极大似然估计.现在是38页\一共有56页\编辑于星期日1）矩法估计现在是39页\一共有56页\编辑于星期日2）极大似然估计构造似然函数当xi>0,（i=1,2,…,n)时，似然函数为取对数建立似然方程现在是40页\一共有56页\编辑于星期日5.得极大似然估计量：求解得极大似然估计值现在是41页\一共有56页\编辑于星期日似然函数为：例6设为未知参数，是来自X的一个样本值，求的极大似然估计值。解：X的概率密度为：现在是42页\一共有56页\编辑于星期日解得：令即：现在是43页\一共有56页\编辑于星期日

注：lnx是

x

的严格单增函数，lnL与L有相同的极大值，一般只需求lnL的极大值.求极大似然估计的一般步骤：写出似然函数2.

对似然函数取对数3.对i(i=1,…,m)分别求偏导,建立似然方程(组)解得分别为的极大估计值.现在是44页\一共有56页\编辑于星期日例7

矩估计与似然估计不等的例子设总体概率密度为求参数θ的极大似然估计,并用矩法估计θ.解

1)极大似然估计法构造似然函数2.取对数：当0<xi<1,(i=1,2,…,n)时现在是45页\一共有56页\编辑于星期日2.取对数：当0<xi<1,(i=1,2,…,n)时建立似然方程求解得极大似然估计值为5.极大似然估计量为现在是46页\一共有56页\编辑于星期日2)矩估计法现在是47页\一共有56页\编辑于星期日1.矩法估计量与极大似然估计量不一定相同；2.用矩法估计参数比较简单,但有信息量损失；3.极大似然估计法精度较高,但运算较复杂；4.不是所有极大似然估计法都需要建立似然方程小结求解.现在是48页\一共有56页\编辑于星期日解例6.

不合格品率的矩法估计

分析设总体X即抽一件产品的不合格产品数，相当于抽取了一组样本X1，X2，…，Xn,且因p=EX,故p

的矩估计量为

设某车间生产一批产品，为估计该批产品不合格品率，抽取了n件产品进行检查.(即出现不合格产品的频率).现在是49页\一共有56页\编辑于星期日不合格品率p

的估计设总体X是抽一件产品的不合格品数，记

p=P{X=1}=P{产品不合格}则X的分布列可表示为

现得到X的一组样本X1，X2，…,Xn的实际观察值为x1,x2,…,xn,则事件{X1=x1，X2=x2，…,Xn=xn}例7出现的可能性应最大,其概率为现在是50页\一共有56页\编辑于星期日

应选取使L(p)达到最大的值作为参数

p的估计.现在是51页\一共有56页\编辑于星期日令解得（频率值）注意到现在是52页\一共有56页\编辑于星期日其中θ＞0，μ与θ是未知参数，X1，X2，…,Xn，解设总体X的概率密度为是X

的一组样本，求μ与θ的矩估计量.例8现在是53页\一共有56页\编辑于星期日令注意到DX=E(X2)－[E(X)]2=θ2=θ2+(θ+μ)2现