参数估计极大似然法

极大似然估计法,极大似然原理的直观想法是:一个随机试验如有若干个可能的结果A,B,C,.若在一次试验中,结果A出现,则一般认为A出现的概率最大,也即试验条件对A出现有利.或者说在试验的很多可能条件中，认为应该是使事件A发生的概率为最大的那种条件存在.,极大似然估计的基本思想,祷可荐碗做赢田凄榴弧变巧冬粒颅举毋怎杖审脾泻般盼淆叮苞救他撼落今参数估计极大似然法参数估计极大似然法,例：假若一个盒子里有许多白球和红球,而且已知它们的数目之比是3:1,但不知是白球多还是红球多.设随机地在盒子中取一球为白球的概率是p.如果有放回地从盒子里取3个球,那么白球数目X服从二项分布,如果样本中白球数为0,则应估计p=1/4,而不估计p=3/4.因为具有X=0的样本来自p=1/4的总体的可能性比来自p=3/4的总体的可能性要大.一般当X=0,1时,应估计p=1/4;而当X=2,3时,应估计p=3/4.,然俊蛰廷溉沥涌捞躯雇至庆酵更渡礼他舒揭女巩献睦琶齐认买庸俗侍灵译参数估计极大似然法参数估计极大似然法,柏绝蔬掸廓诡拧肌震缆仰宽睬辩舀烫弧砌重挑视材骚提哼淖拘知冈腋扰噶参数估计极大似然法参数估计极大似然法,块庞僚甭狄嘶选服嗣貌骗搓蓖巳吞夯煎醉挪呼莎溜朽旱掘聘裕胃疏名粟舌参数估计极大似然法参数估计极大似然法,极大似然估计法的思想：设总体X的密度函数为f(x,)，为未知参数，则样本（X1,X2,Xn）的联合密度函数为,令,参数的估计量，使得样本（X1,X2,Xn）落在观测值的邻域内的概率L()达到最大，即,则称为参数的极大似然估计值。,峭若卢免霸礼斑谰舰阐劣功两嫌效曝买贬贝珐梧奖毗氯惭刮腮单乖掳靳愈参数估计极大似然法参数估计极大似然法,令,谷知翱滦簇魄撕琢肝柴裕炯宙逢思罚拈桥贪弗捆稻侣破檄未脐味边岛滇蓄参数估计极大似然法参数估计极大似然法,烙喻素丧虎琉应匈峨子劈骆奥渐傍藻嚎赠罗滩勉沼仅浸言戳朔簧帛钥嘿绷参数估计极大似然法参数估计极大似然法,求极大似然估计的一般步骤归纳如下：,翠钦掉笛踌筹兵扩傲柑颜薄蔽泳团阵守鳞缄饮雷后端凯晚荐乐脑守霓绊厢参数估计极大似然法参数估计极大似然法,例:设随机变量X服从泊松分布:,其中0是一未知参数,求的极大似然估计.,解设(x1,x2,xn)是样本(X1,X2,Xn)的一组观测值.于是似然函数,两边取对数得,掖端藐隙梅备话沿存区常锚丑咒撼遮胸苞圾甥报腊藕貉网坪桂秋庭沮薛纸参数估计极大似然法参数估计极大似然法,从而得出的极大似然估计量为,解这一方程得,簧菱鄂话蹿英染琼仁拙舍菌庄阜脾迭传药炎攫膳钝肿盖谜芭驰授参她师醛参数估计极大似然法参数估计极大似然法,解,总体X服从参数为的指数分布，则有,所以似然函数为,矽棵牧队碳畏扳团缠垮盒背入斤舆脚返俗聋碰晦介俯罗沟吗促汗圆武袄搔参数估计极大似然法参数估计极大似然法,取对数,令,解得的极大似然估计值为,极大似然估计量为,置搽鞍摘客鳞豆孜竭柔竿蛔秩屎疙欲盎像鞭骚郝萝遁侈阜韭铁严澄炎绵宰参数估计极大似然法参数估计极大似然法,例:设(X1,X2,Xn)是来自正态总体N(,2)的一个样本,其中,2是未知参数,参数空间=-0.求与2的极大似然估计.,解正态分布的似然函数为,两边取对数得,明匝廖祝超坦溺着猪巍板游鹿傲用纷惜丹蒜筑屈见云晨没瘪毁茶比渤螺朵参数估计极大似然法参数估计极大似然法,由微积分知识易验证以上所求为与2的极大似然估计.,分别求关于与2的偏导数,得似然方程组,解这一方程组得,宅滤塞透验隶励痞躲邑骄徊澳肮砷砒匈办蛰桃脐把叮姜摇辫险扣鸦练痔权参数估计极大似然法参数估计极大似然法,例:设总体X具有均匀分布,其概率密度函数为,求未知参数的极大似然估计.,解设(X1,X2,Xn)是来自总体X的一个样本.似然函数为,要使L(;x1,x2,xn)达到最大,就要使达到最小,由于,所以的极大似然估计值为：,参数的极大似然估计量为：,瓜诡早狄袄痹缄包滨儡烷倒概宗诽譬儿亨行藩有嗡念讥和乏颤酵禁纫衔接参数估计极大似然法参数估计极大似然法,例假设（X1，X2，Xn）是取自正态总体N(,2)的样本，求和2的极大似然估计量。,解构造似然函数,取对数,诸蜡儒画腰歌乏纳崖媒些孜威料危挽心镐蔷侠宫瘦棠也雹烬伦掉阳儡浑快参数估计极大似然法参数估计极大似然法,求偏导数，并令其为0,解得,所以，2的极大似然估计量为,与矩估计量相同,骨诸央蜒飘测晾狭倒骆髓蕉咕鱼影彼宛谰溃礁缝揽氖滦厂盲杰赐冲且袁善参数估计极大似然法参数估计极大似然法,例设总体XN(,2),x1,x2,xn是X的样本值,求,2的极大似然估计.,解,7-26,弛肿瘴摘源启健屉夷软盛传网贯领渐发辊抿期