矩估计与极大似然估计

1、关于矩估计和极大似然估计第一张，PPT共五十三页，创作于2022年6月第七章第一节矩 法 估 计二、常用分布参数的矩法估计 一 、矩法估计 第二张，PPT共五十三页，创作于2022年6月矩估计步骤：连续型离散型第三张，PPT共五十三页，创作于2022年6月所以参数 p 的矩估计量为例：总体 X 的分布列为 ： 是来自总体X的样本，解：由于总体X 的分布为二项分布，第四张，PPT共五十三页，创作于2022年6月设某炸药厂一天中发生着火现象的次数X例1服从第五张，PPT共五十三页，创作于2022年6月下面我们通过几个例子说明利用矩估计法求未知参数的过程。二、常用分布常数的矩法估计第六张，PPT共五

2、十三页，创作于2022年6月例2解第七张，PPT共五十三页，创作于2022年6月注: 总体均值方差的矩估计量与总体分布无关。做矩估计时,也可用中心矩建立关于未知参数的方程组，因而矩估计不唯一。未知，求参数的矩估计。例3解：第八张，PPT共五十三页，创作于2022年6月解不合格品率 p 的矩法估计 分析 设总体X 为抽的不合格产品数，相当于抽取了一组样本X1，X2， ，Xn , 且因 p=EX, 故 p 的矩估计量为 设某车间生产一批产品，为估计该批产品不合格品(即出现不合格产品的频率).例4率，抽取了n 件产品进行检查.第九张，PPT共五十三页，创作于2022年6月例5解第十张，PPT共五十三

3、页，创作于2022年6月第十一张，PPT共五十三页，创作于2022年6月是未知参数，X1，X2，,Xn，是X 的一组样本，解设总体X的概率密度为解得例6求的矩估计量.第十二张，PPT共五十三页，创作于2022年6月其中0，与是未知参数，X1，X2，,Xn，是X 的一组样本，求与的矩估计量.解例7. 设总体X的概率密度为令第十三张，PPT共五十三页，创作于2022年6月令注意到 DX = E ( X2 )( EX )2=2=2+(+)2第十四张，PPT共五十三页，创作于2022年6月第七章第二节极大似然估计极大似然估计 第十五张，PPT共五十三页，创作于2022年6月极大似然估计法:设是的一个样

4、本值事件 发生的概率为为 的函数，形式已知(如离散型) X的分布列为的联合分布列为：为样本的似然函数。定义7.1第十六张，PPT共五十三页，创作于2022年6月即取使得：与有关, 记为称为参数的极大似然估计值。称为参数的极大似然估计量。达到最大的参数作为的估计值。现从中挑选使概率样本的似然函数第十七张，PPT共五十三页，创作于2022年6月若总体X属连续型, 其概率密度的形式已知，为待估参数；则的联合密度：一般，关于可微，故可由下式求得：因此的极大似然估计也可从下式解得：在同一点处取极值。第十八张，PPT共五十三页，创作于2022年6月第十九张，PPT共五十三页，创作于2022年6月故似然函数

5、为例1 设是来自总体X的一个样本，试求参数 p 的极大似然估计值.解：设是一个样本值。X的分布列为：而令第二十张，PPT共五十三页，创作于2022年6月它与矩估计量是相同的。解得p的极大似然估计值p的极大似然估计量令解得第二十一张，PPT共五十三页，创作于2022年6月设总体X的分布列为：是来自总体X的样本，求 p 的极大解：似然函数为似然估计值。例2第二十二张，PPT共五十三页，创作于2022年6月令即所以参数的极大似然估计量为第二十三张，PPT共五十三页，创作于2022年6月解例3设 X1, X2, , Xn 是取自总体X 的一个样本,，求参数的极大似然估计值。似然函数为:第二十四张，PP

6、T共五十三页，创作于2022年6月例4设未知，是一个样本值求的极大似然估计量.解 设的概率密度为：似然函数为第二十五张，PPT共五十三页，创作于2022年6月等价于因为对于满足的任意有即时,取最大值在似然函数为第二十六张，PPT共五十三页，创作于2022年6月故的极大似然估计值为:故的极大似然估计量为:即时,取最大值在似然函数为第二十七张，PPT共五十三页，创作于2022年6月今取得一组样本Xk数据如下，问如何估计？162950681001301402702803404104505206201902108001100 某电子管的使用寿命 X （单位：小时) 服从指数分布 例5 指数分布的点估计

7、 分析 可用两种方法：矩法估计 和极大似然估计.第二十八张，PPT共五十三页，创作于2022年6月1）矩法估计第二十九张，PPT共五十三页，创作于2022年6月2）极大似然估计构造似然函数 当xi0,（i=1,2, ,n) 时，似然函数为取对数建立似然方程第三十张，PPT共五十三页，创作于2022年6月5. 得极大似然估计量：求解得极大似然估计值第三十一张，PPT共五十三页，创作于2022年6月似然函数为：例6设为未知参数，是来自X的一个样本值，求的极大似然估计值。解：X的概率密度为：第三十二张，PPT共五十三页，创作于2022年6月解得：令即：它们与相应的矩估计量相同.第三十三张，PPT共五

8、十三页，创作于2022年6月 注：lnx 是 x 的严格单增函数，lnL 与L有相同的极大值，一般只需求lnL 的极大值.求极大似然估计的一般步骤：写出似然函数2. 对似然函数取对数 3. 对i (i =1, m)分别求偏导,建立似然方程(组)解得 分别为 的极大估计值.第三十四张，PPT共五十三页，创作于2022年6月例7 矩估计与似然估计不等的例子设总体概率密度为求参数的极大似然估计, 并用矩法估计.解 1) 极大似然估计法构造似然函数2. 取对数：当 0 xi1, (i=1,2, ,n) 时第三十五张，PPT共五十三页，创作于2022年6月2. 取对数：当 0 xi 1, (i=1,2,

9、 ,n) 时建立似然方程求解得极大似然估计值为5. 极大似然估计 量为第三十六张，PPT共五十三页，创作于2022年6月2) 矩估计法第三十七张，PPT共五十三页，创作于2022年6月1. 矩法估计量与极大似然估计量不一定相同；2. 用矩法估计参数比较简单,但有信息量损失；3. 极大似然估计法精度较高,但运算较复杂；4. 不是所有极大似然估计法都需要建立似然方程小 结求解.第三十八张，PPT共五十三页，创作于2022年6月解例6. 不合格品率的矩法估计 分析 设总体X 即抽一件产品的不合格产品数，相当于抽取了一组样本X1，X2， ，Xn , 且因 p=EX, 故 p 的矩估计量为 设某车间生产

10、一批产品，为估计该批产品不合格品率，抽取了n件产品进行检查.(即出现不合格产品的频率).第三十九张，PPT共五十三页，创作于2022年6月不合格品率p 的估计设 总体X是抽一件产品的不合格品数，记 p= PX=1=P产品不合格则 X的分布列可表示为 现得到X的一组样本X1，X2，,Xn的实际观察值为 x1, x2, ,xn , 则事件 X1=x1，X2=x2，,Xn=xn例7出现的可能性应最大, 其概率为第四十张，PPT共五十三页，创作于2022年6月 应选取使L(p) 达到最大的值作为参数 p 的估计.第四十一张，PPT共五十三页，创作于2022年6月令解得（频率值）注意到第四十二张，PPT

11、共五十三页，创作于2022年6月其中0，与是未知参数，X1，X2，,Xn，解设总体X的概率密度为是X 的一组样本，求与 的矩估计量.例8第四十三张，PPT共五十三页，创作于2022年6月令注意到 DX=E(X2)E(X)2=2=2+(+)2第四十四张，PPT共五十三页，创作于2022年6月例 9 均匀分布的极大似然估计 设样本X1，X2， ，Xn来自在区间 0 , 上均匀分布的总体X , 求 的极大似然估计.解 设x1, x2 , xn是X1, X2, , Xn的样本值，似然函数为第四十五张，PPT共五十三页，创作于2022年6月# 如图所示，似然函数L 在取到最大值，故的极大似然估计量为第四十六张，PPT共五十三页，创作于2022年6月注 意：该似然函数不能通过求导构造似然方程.尝试用其他方法求解！分析 的估计应满足： 2. 的值不能小于任何一个xi.1. 的值尽可能小；第四十七张，PPT共五十三页，创作于2022年6月第四十八张，PPT共五十三页，创作于2022年6月第七章 参数估计3 估计标准说明：退 出前一页后一页目 录第四十九张，PPT共五十三页，创作于2022年6月第七章 参数估计3 估计标准例2