5.2参数的最大似然估计与矩估计

1、52 参数的最大似然估计与矩估计,一、最大似然估计,二、矩估计,一、最大似然估计,1 最大似然法的基本思想,在已经得到试验结果的情况下 我们应该寻找使这个结果出现的可能性最大的那个作为真的估计,一、最大似然估计,1 最大似然法的基本思想,若X为离散型随机变量 其概率分布的形式为 PXxp(x) 则样本(X1 Xn)的概率分布,称为似然函数,设(X1 Xn)为来自总体X的样本 X的分布类型已知 但参数未知,似然函数L()的值表示(X1 Xn)取值(x1 xn)的可能性的大小,一、最大似然估计,1 最大似然法的基本思想,设(X1 Xn)为来自总体X的样本 X的分布类型已知 但参数未知,若已经得到了

2、样本值(x1 xn) 那该样本值出现的可能性应该是大的 因而我们选择使L()达到最大值的那个作为真的估计,称为似然函数,若X为连续型随机变量 其密度函数为f(x) 则样本(X1 Xn)的密度函数,定义54(最大似然估计) 若对任意给定的样本值(x1 xn) 存在 * *(x1 xn) 使,则称*(x1 xn)为的最大似然估计值 称相应的统计量*(X1 Xn)为的最大似然估计量 它们统称为的最大似然估计 可简记为MLE,maximum likelihood estimate,2 最大似然估计的一般求法,当似然函数关于未知参数可微时 一般可通过求导数得到MLE 其主要步骤是,(1)写出似然函数(1

3、 r),(3)判断驻点为最大值点 (4)求得各参数的MLE,说明 按照本课程的要求 当似然函数的驻点惟一时 不必验证该驻点是否为最大值点 可直接把驻点作为所求参数的最大似然估计,例57 设总体XN( 2) 与 2均未知 20 (X1 Xn)为来自X的样本 (x1 xn)为样本值 试求与 2的最大似然估计,解,X的密度为,似然函数为,例57 设总体XN( 2) 与 2均未知 20 (X1 Xn)为来自X的样本 (x1 xn)为样本值 试求与 2的最大似然估计,解,似然函数为,似然函数的驻点为,别为与2的最大似然估计值,最大似然估计的不变性,解,先求平均寿命EX即的最大似然估计量,解,似然函数为,

4、先求平均寿命EX即的最大似然估计量,解,似然函数为,解,解,似然函数,对数似然函数,二、矩估计,1 矩法的基本思想,用相应的样本矩去估计总体矩 用相应的样本矩的函数去估计总体矩的函数,例如,二、矩估计,1 矩法的基本思想,一般地 若记,则总体的k阶原点矩用相应的样本k阶原点矩来估计 而总体的k阶中心矩用相应的样本k阶中心矩来估计 即,这种求点估计的方法叫做矩法,用矩法确定的估计量称为矩估计量 相应的估计值称为矩估计值 矩估计量与矩估计值统称为矩估计 可简记为ME,2 矩估计的求法,按照矩法的基本思想求矩估计的一般步骤为 (1)从总体矩入手将待估参数表示为总体矩的函数 即 g(1 l 2 s) (2)用Ak Bk分别替换g中的k k,例59 设总体XN( 2) (X1 Xn)为取自总体X的样本 试求 2的矩估计量,解,EX, 2DX,故,分别为与 2的矩估计量,由此可见 正态总体N( 2)中与 2的最大似然估计和矩估计是完全一样的,例5.10 设总体X服从参数为m p的二项分布 m已知 p未知 (X Xn)为其