5.2 参数的最大似然估计与矩估计课件

§5

2参数的最大似然估计与矩估计

一、最大似然估计二、矩估计5.2参数的最大似然估计与矩估计一、最大似然估计1

最大似然法的基本思想

在已经得到试验结果的情况下

我们应该寻找使这个结果出现的可能性最大的那个

作为真

的估计

5.2参数的最大似然估计与矩估计一、最大似然估计1

最大似然法的基本思想

若X为离散型随机变量

其概率分布的形式为

P{X

x}

p(x

)

则样本(X1

Xn)的概率分布称为似然函数

设(X1

Xn)为来自总体X的样本

X的分布类型已知

但参数

未知

Θ

似然函数L(

)的值表示(X1

Xn)取值(x1

xn)的可能性的大小

5.2参数的最大似然估计与矩估计一、最大似然估计1

最大似然法的基本思想

设(X1

Xn)为来自总体X的样本

X的分布类型已知

但参数

未知

Θ

若已经得到了样本值(x1

xn)

那该样本值出现的可能性应该是大的

因而我们选择使L(

)达到最大值的那个

作为真

的估计

称为似然函数

若X为连续型随机变量

其密度函数为f(x

)

则样本(X1

Xn)的密度函数5.2参数的最大似然估计与矩估计定义5

4(最大似然估计)

若对任意给定的样本值(x1

xn)

存在

*

*(x1

xn)

使则称

*(x1

xn)为

的最大似然估计值

称相应的统计量

*(X1

Xn)为

的最大似然估计量

它们统称为

的最大似然估计

可简记为MLE

maximumlikelihoodestimate5.2参数的最大似然估计与矩估计2

最大似然估计的一般求法

当似然函数关于未知参数可微时

一般可通过求导数得到MLE

其主要步骤是

(1)写出似然函数(

1

r)

(3)判断驻点为最大值点

(4)求得各参数的MLE

说明

按照本课程的要求

当似然函数的驻点惟一时

不必验证该驻点是否为最大值点

可直接把驻点作为所求参数的最大似然估计

5.2参数的最大似然估计与矩估计

例5

7

设总体X~N(

2)

与

2均未知

∞<

<

∞

2

0

(X1

Xn)为来自X的样本

(x1

xn)为样本值

试求

与

2的最大似然估计

解

X的密度为似然函数为5.2参数的最大似然估计与矩估计

例5

7

设总体X~N(

2)

与

2均未知

∞<

<

∞

2

0

(X1

Xn)为来自X的样本

(x1

xn)为样本值

试求

与

2的最大似然估计

解

似然函数为似然函数的驻点为别为

与

2的最大似然估计值

5.2参数的最大似然估计与矩估计最大似然估计的不变性

解5.2参数的最大似然估计与矩估计5.2参数的最大似然估计与矩估计

例5

8

设某种型号的电子元件的寿命X(以小时计)的密168

130

169

143

174

198

108

212

252

平均寿命以及概率P{X

180}的最大似然估计值

先求平均寿命EX即

的最大似然估计量

解

似然函数为5.2参数的最大似然估计与矩估计

例5

8

设某种型号的电子元件的寿命X(以小时计)的密168

130

169

143

174

198

108

212

252

平均寿命以及概率P{X

180}的最大似然估计值

先求平均寿命EX即

的最大似然估计量

解

似然函数为5.2参数的最大似然估计与矩估计

解

例5

8

设某种型号的电子元件的寿命X(以小时计)的密168

130

169

143

174

198

108

212

252

平均寿命以及概率P{X

180}的最大似然估计值

5.2参数的最大似然估计与矩估计解似然函数对数似然函数5.2参数的最大似然估计与矩估计5.2参数的最大似然估计与矩估计二、矩估计1

矩法的基本思想

用相应的样本矩去估计总体矩

用相应的样本矩的函数去估计总体矩的函数

例如5.2参数的最大似然估计与矩估计二、矩估计1

矩法的基本思想

一般地

若记则总体的k阶原点矩用相应的样本k阶原点矩来估计

而总体的k阶中心矩用相应的样本k阶中心矩来估计

即这种求点估计的方法叫做矩法

用矩法确定的估计量称为矩估计量

相应的估计值称为矩估计值

矩估计量与矩估计值统称为矩估计

可简记为ME

5.2参数的最大似然估计与矩估计2

矩估计的求法

按照矩法的基本思想求矩估计的一般步骤为

(1)从总体矩入手将待估参数

表示为总体矩的函数

即

g(

1

l

2

s)(2)用Ak

Bk分别替换g中的

k

k

5.2参数的最大似然估计与矩估计

例5

9

设总体X~N(

2)

(X1

Xn)为取自总体X的样本

试求

2的矩估计量

解

EX

2

DX

故分别为

与

2的矩估计量

由此可见

正态总体N(

2)中

与

2的最大似然估计和矩估计是完全一样的

5.2参数的最大似然估计与矩估计

例5.10

设总体X服从参数为m

p的二项分布

m已知

p未知

(X

Xn)为其样本

试求

(1)p的矩估计量

(2)p与q之比的矩估计量

其中q

1

p

解

矩估计量

5.2参数的最大似然估计与矩估计

例5

11

设总体X的密度函数为其中参数

均未知

0

(X1

Xn)为取自X的样本

试求

的矩估计量

解计算得到5.2参数的最大似然估计与