5.2 参数的最大似然估计与矩估计（沐风学堂）

1、52 参数的最大似然估计与矩估计 一、最大似然估计 二、矩估计1听风学堂一、最大似然估计1 最大似然法的基本思想 在已经得到试验结果的情况下 我们应该寻找使这个结果出现的可能性最大的那个作为真的估计 2听风学堂一、最大似然估计1 最大似然法的基本思想 若X为离散型随机变量 其概率分布的形式为 PXxp(x) 则样本(X1 Xn)的概率分布 称为似然函数 设(X1 Xn)为来自总体X的样本 X的分布类型已知 但参数未知 似然函数L()的值表示(X1 Xn)取值(x1 xn)的可能性的大小 3听风学堂一、最大似然估计1 最大似然法的基本思想 设(X1 Xn)为来自总体X的样本 X的分布类型已知 但

2、参数未知 若已经得到了样本值(x1 xn) 那该样本值出现的可能性应该是大的 因而我们选择使L()达到最大值的那个作为真的估计 称为似然函数 若X为连续型随机变量 其密度函数为f(x) 则样本(X1 Xn)的密度函数 4听风学堂定义54(最大似然估计) 若对任意给定的样本值(x1 xn) 存在 * *(x1 xn) 使 则称*(x1 xn)为的最大似然估计值 称相应的统计量*(X1 Xn)为的最大似然估计量 它们统称为的最大似然估计 可简记为MLE maximum likelihood estimate5听风学堂2 最大似然估计的一般求法 当似然函数关于未知参数可微时 一般可通过求导数得到ML

3、E 其主要步骤是 (1)写出似然函数(1 r) (3)判断驻点为最大值点 (4)求得各参数的MLE 说明 按照本课程的要求 当似然函数的驻点惟一时 不必验证该驻点是否为最大值点 可直接把驻点作为所求参数的最大似然估计 6听风学堂 例57 设总体XN( 2) 与 2均未知 20 (X1 Xn)为来自X的样本 (x1 xn)为样本值 试求与 2的最大似然估计 解 X的密度为 似然函数为 7听风学堂 例57 设总体XN( 2) 与 2均未知 20 (X1 Xn)为来自X的样本 (x1 xn)为样本值 试求与 2的最大似然估计 解 似然函数为 似然函数的驻点为 别为与2的最大似然估计值 8听风学堂最大

4、似然估计的不变性 解9听风学堂10听风学堂 例58 设某种型号的电子元件的寿命X(以小时计)的密 168 130 169 143 174 198 108 212 252 平均寿命以及概率PX180的最大似然估计值 先求平均寿命EX即的最大似然估计量 解 似然函数为 11听风学堂 例58 设某种型号的电子元件的寿命X(以小时计)的密 168 130 169 143 174 198 108 212 252 平均寿命以及概率PX180的最大似然估计值 先求平均寿命EX即的最大似然估计量 解 似然函数为 12听风学堂 解 例58 设某种型号的电子元件的寿命X(以小时计)的密 168 130 169 1

5、43 174 198 108 212 252 平均寿命以及概率PX180的最大似然估计值 13听风学堂解似然函数对数似然函数14听风学堂15听风学堂二、矩估计1 矩法的基本思想 用相应的样本矩去估计总体矩 用相应的样本矩的函数去估计总体矩的函数例如 16听风学堂二、矩估计1 矩法的基本思想 一般地 若记 则总体的k阶原点矩用相应的样本k阶原点矩来估计 而总体的k阶中心矩用相应的样本k阶中心矩来估计 即 这种求点估计的方法叫做矩法 用矩法确定的估计量称为矩估计量 相应的估计值称为矩估计值 矩估计量与矩估计值统称为矩估计 可简记为ME 17听风学堂2 矩估计的求法 按照矩法的基本思想求矩估计的一般

6、步骤为 (1)从总体矩入手将待估参数表示为总体矩的函数 即 g(1 l 2 s) (2)用Ak Bk分别替换g中的k k 18听风学堂 例59 设总体XN( 2) (X1 Xn)为取自总体X的样本 试求 2的矩估计量 解 EX 2DX 故 分别为与 2的矩估计量 由此可见 正态总体N( 2)中与 2的最大似然估计和矩估计是完全一样的 19听风学堂 例5.10 设总体X服从参数为m p的二项分布 m已知 p未知 (X Xn)为其样本 试求 (1) p的矩估计量 (2) p与q之比的矩估计量 其中q1p 解 矩估计量 20听风学堂 例511 设总体X的密度函数为其中参数 均未知 0 (X1 Xn)为取自X的样本 试求