参数的最大似然估计与矩估计 ppt课件

1、52 参数的最大似然估计与矩估计,一、最大似然估计,二、矩估计,一、最大似然估计,1 最大似然法的基本思想,在已经得到试验结果的情况下 我们应该寻找使这个结果出现的可能性最大的那个作为真的估计,一、最大似然估计,1 最大似然法的基本思想,若x为离散型随机变量 其概率分布的形式为 pxxp(x) 则样本(x1 xn)的概率分布,称为似然函数,设(x1 xn)为来自总体x的样本 x的分布类型已知 但参数未知,似然函数l()的值表示(x1 xn)取值(x1 xn)的可能性的大小,一、最大似然估计,1 最大似然法的基本思想,设(x1 xn)为来自总体x的样本 x的分布类型已知 但参数未知,若已经得到了

2、样本值(x1 xn) 那该样本值出现的可能性应该是大的 因而我们选择使l()达到最大值的那个作为真的估计,称为似然函数,若x为连续型随机变量 其密度函数为f(x) 则样本(x1 xn)的密度函数,定义54(最大似然估计) 若对任意给定的样本值(x1 xn) 存在 * *(x1 xn) 使,则称*(x1 xn)为的最大似然估计值 称相应的统计量*(x1 xn)为的最大似然估计量 它们统称为的最大似然估计 可简记为mle,maximum likelihood estimate,2 最大似然估计的一般求法,当似然函数关于未知参数可微时 一般可通过求导数得到mle 其主要步骤是,1)写出似然函数(1

3、r,3)判断驻点为最大值点 (4)求得各参数的mle,说明 按照本课程的要求 当似然函数的驻点惟一时 不必验证该驻点是否为最大值点 可直接把驻点作为所求参数的最大似然估计,例57 设总体xn( 2) 与 2均未知 20 (x1 xn)为来自x的样本 (x1 xn)为样本值 试求与 2的最大似然估计,解,x的密度为,似然函数为,例57 设总体xn( 2) 与 2均未知 20 (x1 xn)为来自x的样本 (x1 xn)为样本值 试求与 2的最大似然估计,解,似然函数为,似然函数的驻点为,别为与2的最大似然估计值,最大似然估计的不变性,解,先求平均寿命ex即的最大似然估计量,解,似然函数为,先求平

4、均寿命ex即的最大似然估计量,解,似然函数为,解,解,似然函数,对数似然函数,二、矩估计,1 矩法的基本思想,用相应的样本矩去估计总体矩 用相应的样本矩的函数去估计总体矩的函数,例如,二、矩估计,1 矩法的基本思想,一般地 若记,则总体的k阶原点矩用相应的样本k阶原点矩来估计 而总体的k阶中心矩用相应的样本k阶中心矩来估计 即,这种求点估计的方法叫做矩法,用矩法确定的估计量称为矩估计量 相应的估计值称为矩估计值 矩估计量与矩估计值统称为矩估计 可简记为me,2 矩估计的求法,按照矩法的基本思想求矩估计的一般步骤为 (1)从总体矩入手将待估参数表示为总体矩的函数 即 g(1 l 2 s) (2)用ak bk分别替换g中的k k,例59 设总体xn( 2) (x1 xn)为取自总体x的样本 试求 2的矩估计量,解,ex,2dx,故,分别为与 2的矩估计量,由此可见 正态总体n( 2)中与 2的最大似然估计和矩估计是完全一样的,例5.10 设总体x服从参数为m p的二项分布 m已知 p未知 (x xn)为