（概率论与数理统计专业论文）参数的e+bayes估计和多层bayes估计.pdf

硕士学位论文 m a s t e r st h e s i s 中文摘要 数理统计中有娜学派和经典学派，这两大学派的长期争论，构成了现代 数理统计中发展的一大特色。在蛳学派看来，获得样本石的目的是对被估计参 数兄的先验知识进行调整，在数学上也就是说在获得样本石后，可以标出兄在给定 x = x 时的条件分布日( d 旯l z ) 。在传统的b 缈嚣估计中，参数名的先验分布都是已 知的，但有时候我们不一定能得到a 的精确的先验分布，于是就产生了新的b 缈份估 计方法，比如eb 叫嚣估计和多层b 缈份估计。本文研究了指数分布的刻度参数兄 在平方损失下与熵损失函数下的脚劣估计，eb 缈嚣估计及多层b 缈嚣估计以及 它们之间的关系。 关键词：熵损失函数蜘估计eb 缈酷估计 多层曰缈田估计 a b s t r a c t t h e r ea r et w ol ( i n d so f 伊e a tt h o u 曲t si nm a t h e m a t i c a ls t a t i s t i c s - b a y e s i a na i l d c 1 a s s i c a lt 1 1 0 u 曲t s t h e 硼郡m e i l tb e 觚e e nt h e 觚。伊e a tt 1 1 0 u g u tc o n s t i t u t e dt h e i m p o r t a l l tc h a r a c t e r i s t i co ft h em o d 哪d e v e l o p m e n tm a t h e m a t i c a ls t a t i s t i c t h eb a y e s t h o u g u tc o n s i d e r e dt h a tw eo b t a i nt h es 锄p l ei s t oa d j u s tt h ep r i o rk n o w l e d g eo ft h e e s t i m a t e dp a r 锄e t e r h 1m a t h e m a t i c a l t h a ti st os a y ，a r e ro b t a i n i n gt h es a n l p l ex ， w e m a yo b t a i nt h ec o n d i t i o n a ld i s t r i b u t i o n日( ( ，旯lx ) w h e nx = 石i i lt i l et r a d i t i o n a l b a y e s i a ne s t i m a t i o n ，t h ep r i o rd i s t r i b u t i o ni sk n o w n ，b u ts o m e t i m e sw ec a n to b t a i nt h e p r e c i s ep r i o r id i s t r i b u t i o n ，t h e r e f o r em e r ea r es o m en e wm e t h o d s o fb a y e s i a ne s t i m a t i o n ， s u c ha st h eeb a y e s i a ne s t i m a t i o na 1 1 dh i e r a r c h i c a le s t i m a t i o n t h i sp a p e rh a ss t u d i e dt h e b a y e s i a ne s t i m a t i o n ，eeb a y e s i a ne s t i m a t i o na n dh i e r a r c h i c a le s t i m a t i o no ft h es c a l e p a r a m e t e r 名 u n d e rt h es q u 2 u r e1 0 s s 允n c t i o na n dt h ee n t r o p yl o s sm n c t i o n ，2 l sw e l la u sm e c o m p 撕s o nb e t w e e n m e m k e y w o r d s ： e n t r o p yl o s sm n c t i o nb a y e s i a ne s t i m a t i o n eb a y e s i a j le s t i m a t i o n h i e r a r c h i c a lb a y e s i a j le s t i m a t i o n 硕士学位论文 m a s t e r st h e s i s 华中师范大学学位论文原创性声明和使用授权说明 原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师指导下，独立进行研究工作 所取得的研究成果。除文中已经标明引用的内容外，本论文不包含任何其他个人或 集体已经发表或撰写过的研究成果。对本文的研究做出贡献的个人和集体，均已在 文中以明确方式标明。本声明的法律结果由本人承担。 作者签名：露井炙日期：期f 年r 月同日 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，即：学校有权 保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借 阅。本人授权华中师范大学可以将本学位论文的全部或部分内容编入有关数据库进 行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。同时授权 中国科学技术信息研究所将本学位论文收录到中国学位论文全文数据库，并通 过网络向社会公众提供信息服务。 作者签名：强力、炱 日期：弦8 年r 月即日 导师签名：咖嘲。 日期1c ，6 脾岁月2 驴日 本人已经认真阅读“c a l i s 高校学位论文全文数据库发布章程”，同意将本人的 学位论文提交“c a l i s 高校学位论文全文数据库 中全文发布，并可按“章程 中的 规定享受相关权益。园重途塞握交唇进卮；旦圭生；旦二生；旦三生筮查! 作者签名：弘旅支 日期：炒8 年g 月w 日 导师签名：二午仍 日期：易t ，dl f 年j 1 月? c ) 日 硕士学位论文 m a s t e r st h e s i s 1 1 研究背景 第一章引言 指数分布在可靠性研究中占有重要的地位，其分布在应用统计中是常用的， 关于它的统计方法已有深入的发展。对于密度函数为( 功= 如砒0 0 力 o ) 的指 数分布，我们要知道的是旯这个参数的估计值。关于参数估计，近年来的聊嚣方 法取得了一些进展。文献【1 讨论了熵损失函数下巴斯卡分布参数的b 缈酷估计，文 献 2 讨论了指数分布在平方损失下的e 蜘估计，文献 4 】讨论了多层先验分布 的构造。应用b 掣卵方法进行统计推断的过程是：根据先验分布，然后根据助船定 理算出后验分布，最后根据后验分布进行统计推断。所以应用蛳方法进行统计 推断的关键与困难之处在于先验分布的确定，有时候我们没有办法知道先验分布的 参数的精确值。用e 口口y p s 估计和多层b 缈嚣可以弥补这一缺陷。多层b 缈份估计得 到的结果一般都要涉及积分的计算( 有时甚至是复杂的积分计算) ，这在一定程度 上限制了多层娜估计方法的应用，e 口口y p s 估计方法的结果不用积分表示，容 易计算。本为讨论了指数分布中的参数a 在平方损失下与熵损失函数下的e 曰口y p s 及多层口口y p 了估计以及这四种估计之间的相互关系。其中多层口口y p j 估计的结果涉 及到了复杂的积分计算，但用数值计算还是可以得出结果。 1 2 基础知识 定义1 1 3 1 设样本五，五以来自于总体密度函数为厂( 允，石) 的分布，其中允为 参数，如果万( x ) 是兄的判决空间中的一个估计，则熵损失为 w 卿= 易伽箍蓑焉) 对于本为要研究的指数分布，其密度函数为厂( x ) = 兄p 以。0 0 ，旯 o ) ，其 易( 喜而) = 三，根据以上定义从而有熵损失函数： k ( 旯，万) = 易 扬； 捌 2 易加 旯“e x p ( 一a z f ) 6 “e x p ( 一万x f ) = 岛 刀砌吾+ 喜玉( 万一旯) 】= 以( 加害+ 妄一) 2 第二章a 的新曰口y p s 估计定义 2 1 先验分布的选取 下面我们要介绍的e 占口y p j 及多层b 口y p s 估计的定义，在e 口口y p s 及多层口口y p s 估计的定义中都要涉及到参数旯的先验分布万( 兄i 口，6 ) ，以下我们先对万( 旯l 口，6 ) 进行 研究。 设某产品的寿命服从指数分布，其密度函数为厂( x ) = 旯p 。1 ( x o ，允 o ) ，其中 a 为密度函数的参数。 若参数旯的先验分布为g 口聊肌口分布，其密度函数为 石( 力i 盘，6 ) = 6 4 力4 - 1e x p ( 一6 元) r ( 口) ( a o ，口 o ，6 0 ) 其中i ( 口) = r f 川p 一出，口和6 为超参数 若根据先验信息知道产品实效率小的可能性大或者实效率大的可能性小，按文 献 4 】应选择口和6 使万( 兄i 口，6 ) 为兄的减函数 厅( ai 口，6 ) = 6 4 允4 1e x p ( 一6 a ) r ( 口) ( o 0 ) ，求出万( 旯i 口，6 ) 对a 的 阶导数为鱼掣：6 口见a 一：e x p ( 一6 a ) r 似) ( 口一1 ) 一舰 ， 由于允 o ，口 o ，6 o ，当 o 口 o 时，堕掣 o ，即刀( 旯i 口，6 ) 为见的减函数，所以取口和6 的超 口 先验密度分别为万o ) = 1 ( o 口 1 ) ；万( 6 ) = ( 1 6 o ) ，则来自母体的刀个简单随机样 本x = ( 五，置以) 的联合密度为厂( 五，工：，一，旯) = 旯”e x p ( 一a 蕾) ( 允 o ) 。 3 1 熵损失函数下的肋脚估计 我们知道在平方损失下，对任一给定的先验分布，指数分布的参数兄有唯一 的b 掣嚣估计为e ( 兄lx ) ，同样在熵损失函数下也有类似的结论。 定理3 1在任意给定的先验分布和熵损失函数( 1 1 ) 下，指数分布参数允有唯 一的b q 炒估计露。( x ) = 一 e ( i x ) l 证明：由( 1 1 ) 式知k ( 兄，万) = 甩( 肠芸+ 车一1 ) ，令万( x ) 是任一的估计，对应的 dl b 缈酷风险为r ( 万) ：，2 e ( 觑冬+ 要一1 ) ，这里的期望是对a 和x ：( 五，置以) 的联合 d以 分布取得。欲使脚风险达到最小只须使后验风险，以 ( 砌 + 导一1 ) i x 】关于6 达到 d九 最小。 刀e ( 加冬+ 要一1 ) i 工】：啦e ( 加允l j ) 一腑艿+ 万e ( l x ) 一1 】对此式关于万求导，令导 o九九 数为。得一詈+ 玎e ( 去i x ) = o ，又因为( 1 1 ) 式的二阶导数望箬盟= 嘉 o ，故d力d d d 。 厶m ，万) 是关于万的严格凸函数。故解得以，( x ) = i 一是唯一的极小值点，进而 e ( i x ) 得到b 缈份估计是唯一的。 引理3 1 【9 1 在给定的曰口瑚决策问题中，假如对给定的先验分布万( 允) ，旯的b 乜1 ，船 硕士学位论文 m a s t e r st h e s i s 估计屯。( x ) 是唯一的，则它是容许估计。 姗估计屯，( x ) = 一是可容许估计。 e ( i z ) 3 2 参数允的e 曰掣酷估计与多层助酷估计 3 2 1 兄的e 姗估计 定理3 2 在刻度参数兄的先验分布为万( 允i 乜，6 ) 以及超参数( 口，6 ) 服从密度函数 为丌( 以，6 ) = ( o 口 1 ，1 6 c ) 的条件下，由定义2 1 得到： c l 瑚一一为篆砌老 槲一的e 啪裂砌老 证明：设刻度参数a 的先验分布为g 口聊所口分布，其密度函数 万( 兄i 口，6 ) = 扩旯州e x p ( 一舰) r ( 口) ，其中r ( 口) = 广f 川p 一出，口和6 为超参数。令 | j l ( 工，见) = 石( ai 口，6 ) 厂( 五，屯 。旯) ，则旯的后验密度为 m 2 等2 青勃 6 ( 1 ) 求熵损失函数下的e 曰缈份估计： ， 一1 r 元m 。2 e x p 一兄( 再+ 6 ) 再+ 6 咖硝却州肚茜云爰孟2 嘉( 3 1 ) 由定理3 1 知熵损失函数下的b 缈份估计名。( x ) ： 一：掣 e ( ix ) + 6 则由定义2 1 知熵损失下的e 脚嚣为 枷击惹兰加老 ( 2 ) 平方损失函数下的eb q 炒估计： 以加刚小m 伽一= 茹b 2 ， 由定义2 1 与上式3 2 得平方损失函数下的e 曰哆炉为 础击惹兰砌老 3 2 2 旯的多层b 缈船估计 定理3 3 在刻度参数旯的先验分布为万( ai 口，6 ) = 矿旯p 1e x p ( 一舰) r ( 口) 以及超参 数( 口，6 ) 服从密度函数为万( 口，6 ) = ( o 口 l ，1 6 c ) 的条件下，由定义( 2 2 ) 得： c l 7 ( 1 ) 允在熵损失下的多层b 缈俗估计。= fr 羔卷如如 fr 羔是茹舭 证明： 石( 旯i 口，6 ) = 6 。允”1e x p ( 一6 旯) r ( 口) ， 乃( 口，6 ) = 二了( o 口 l ，l 。；。= 。； 如：= ：，即在同一b 缈估计方法下，平方损失下的b 缈份估计值大于熵 损失函数下的b 缈嚣估计值；在同一损失函数下且不考虑精确度非常高的情况 下，多层b 掣估计值与eb 缈酷估计值相等，但当精确度精确到小数点后第 8 位时，则在损失函数与x 以及c 值相同条件下，eb 缈份估计值大于多层 b 口娜估计值。 1 2 在校期间发表的论文、科研成果等 在云南民族大学学报2 0 0 8 年1 月正刊上发表文章关于w 色i b u l l 分布的随机序 参考文献 1 王德辉，牛晓宁熵损失函数下巴斯卡分布参数的b 缈船估计吉林大学自然科学 学报，2 0 0 1 ，1 2 ( 1 ) ：1 9 - 2 2 2 韩明参数的e 曰毋炒估计方法及应用数学的实践与认识，2 0 0 4 ，9 ( 2 ) ：1 2 1 5 3 方开泰，许建伦统计分析 m 北京：科学出版社1 9 8 7 4 韩明多层先验分布的构造及应用 j 】运筹与管理1 9 9 7 ，6 ( 3 ) ：3 1 4 0 5 孔令军对称熵损失函数下指数分布的参数估计数学的实践与认 识，2 0 0 4 ，9 ( 2 ) ：1 3 - 1 8 6 陈希儒数理统计引论( 第一版) m 】北京：科学出版社 7 韩明可靠性中参数的一种估计方法中国工程科学，2 0 0 3 ，1 6 ( 3 ) ：3 2 3 9 8 王德辉，赖民熵损失函数下分布参数倒数的估计吉林大学自然科学学报， 2 0 0 0 ，1 0 ( 3 ) ：1 6 1 9 9 茆诗松，王静龙高等数理统计学 m 北京：高等教育出版社，1 9 9 8 3 6 7 3 7 2 10 m a o s t l i _ s o n g ，l ，u oc 缱b i nr e l i s b i l 时a i l a l y s i s o fz e r 0 _ f s i l u r e d a t a 【j m a t h 锄a t i c a l s t a t i s t i c sa n da p p l i e dp r o b a l i t y 1 9 9 5 ，l o ( 1 ) ：9 4 1 0 l 1 1 z h a n gz h i - h u a s t a t i s t i c a la i l a l y s i sa b o u tz e r o - f a i l u r ed a t a j m a t h e m a t i c a ls t a t i s t i c sa n da p p l