（概率论与数理统计专业论文）一类特殊混合分布的参数估计.pdf

武汉科技大学硕士学位论文第1 页 摘要 由于实际问题的复杂性和人们对实际问题理解的逐步深入，目前已经发现用混合分 布拟合实际数据的总体分布有很好的效果本论文主要研究混合分布中参数的估计问题 设互( x ) ，e ( x ) 9o e ( 石) 为分布函数，其混合分布为 ，( x ) = 只互( x ) 其中只表示互( x ) 对f ( x ) 贡献的比例 b o ，p 。+ 岛+ + 以= 1 相应的密度函数可表 示为： 厂( x ) = p , f i ( x ) 在制丝过程中，若将解舒丝长石看成是连续型随机变量，白伦等从理论上证明了解 舒长的分布是指数分布和正态分布的混合分布本论文研究模型( i ) f ( x ，p ，五，仃) = p 2 e 一触+ ( 1 一p ) 舌竺一p2 ，x o 、，z 7 0 和模型( i i ) ( x - _ f ) z 1 厂(五p，五，仃2p兄e一缸+。一p(_二丽e 2 0 2 z 。 中的参数估计问题 借助e m 算法和拟牛顿迭代法得到了模型( i ) 和模型( ii ) 中的参数估计并对含有位 置参数的混合模型和含有已知参数的混合模型的参数估计问题进行了讨论 关键词：混合分布，e m 算法，拟牛顿迭代法 第1 i 页武汉科技大学硕士学位论文 a b s t r a c t w eh a v ef o u n dt h e r ew a sag o o de f f e c t i o nw i t hu s et h em i x e dd i s t r i b u t i o nt of i tt h eo v e r a l l d i s t r i b u t i o no ft h ea c t u a ld a t a ，b e c a u s et h ea c t u a lc o m p l e x i t yo ft h ei s s u e sa n dp e o p l eo ft h e g r a d u a ld e e p e n i n go fu n d e r s t a n d i n go ft h ep r a c t i c a lp r o b l e m s i nt h i sp a p e r , w eh a v em a i n l y r e s e a r c h e dt h ep r o b l e mo ft h ep a r a m e t e r se s t i m a t i o no ft h em i x e dd i s t r i b u t i o n s e t f l ( x ) ，e ( x ) ，只( x ) 勰t h ed i s t r i b u t i o nf u n c t i o n ，t h ed i s t r i b u t i o no f i t sh y b r i di s k f ( x ) = p f , ( x ) i = i w h e r ep ii n d i c a t e st h ep r o p o r t i o no f t h ec o n t r i b u t i o no f 互( x ) p a i r so ff ( x ) a n db o , pl + 岛+ + 以= 1 t h ec o r r e s p o n d i n gd e n s i t yf u n c t i o nc a nb ee x p r e s s e da s ： i i lt h em a n u f a c t u r i n gp r o c e s so fs i l lw ec a nl e tzi st h en o n - b r o k e nf i l a m e n tl e n g c l lo f c a c o o na sac o n t i n u o u sr a n d o mv a r i a b l e ，b a i l u na n do t h e r sh a dp r o o f e dt h ed i s t r i b u t i o no ft h e n o n - b r o k e nf i l a m e n t1 e n 础o fc a c o o ni sam i x t u r ed i s t r i b u t i o nw i t h e x p o n e n t i a ld i s t r i b u t i o na n dn o r m a ld i s t r i b u t i o nf r o mt h et h e o r e t i c a l i nt h i sp a p e r , w es t u d yt h e p r o b l e mo ft h ep a r a m e t e re s t i m a t i o no fm o d e l ( i ) f ( x ，p ，五，o r ) = p 一缸+ ( 1 一p ) p2 一 石 0 2 死1 3 f a n dm o d e l ( 1 0 一鲤1 厂l p 名，盯2 p 五矿h + 。一p ( i 二：丽p 2 一x 。 u s i n ge ma l g o r i t h ma n dq u a s i n e w t o nt oe s t i m a t e dt h ep a r a m e t e ro ft h em o d e l ( i ) a n d m o d e l ( i i ) a n dd i s c u s s e ds o m ee x t e n d e dm o d e l s t h e nw ed i s c u s s e dt h ep r o b l e mo ft h em i x e d m o d e lw i t ht h ep o s i t i o n a lp a r a m e t e r sa n dt h em i x e dm o d e lw i t ht hk n o w np a r a m e t e r s k e y w o r d s ：m i x t u r ed i s t r i b u t i o n ，e ma l g o r i t h m ，q u a s i - n e w t o ni t e r a t i v em e t h o d 、l ， x ，f ：既 。m = 、i ， x ， ， 武汉科技大学 研究生学位论文创新性声明 本人郑重声明：所呈交的学位论文是本人在导师指导下，独立进行研 究所取得的成果。除了文中已经注明引用的内容或属合作研究共同完成的 工作外，本论文不包含任何其他个人或集体已经发表或撰写过的作品成果。 对本文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。 申请学位论文与资料若有不实之处，本人承担一切相关责任。 论文作者签名：捣建i 殳 日期： 伊t i 。| 1 譬 研究生学位论文版权使用授权声明 本论文的研究成果归武汉科技大学所有，其研究内容不得以其它单位 的名义发表。本人完全了解武汉科技大学有关保留、使用学位论文的规定， 同意学校保留并向有关部门( 按照武汉科技大学关于研究生学位论文收录 工作的规定执行) 送交论文的复印件和电子版本，允许论文被查阅和借阅， 同意学校将本论文的全部或部分内容编入学校认可的国家相关数据库进行 检索和对外服务。 论文作者签名：拉童曼衾 指导教师签名：氆：湓翌 日 武汉科技大学硕士学位论文第1 页 第一章绪论弟一早殖化 1 1 国内外的研究现状 1 9 5 2 年d a v i s 2 j 在进行寿命数据分析时，提出寿命数据服从混合分布，并将产品的 寿命数据的分布函数拟合为的两个指数分布函数的混合1 9 5 8 年m e n d a n h a l l p l 研究了混 合指数分布，给出了混合分布的参数参数估计1 9 6 4 年h u b e r 4 j 提出了受污染的正态分 布，即在标准正态分布上叠加一个关于原点对称的分布，并讨论了分布的合理性1 9 9 0 年m c l a c h i a n 等1 5 j 首先提出了拉普拉斯混合正态分布，并给出了具体的密度函数 对混合分布理论的应用研究，也在不断的发展中1 9 9 0 年英定文1 3 4 j 在研究石油天然 气评价时，利用对数正态分布、伽马分布、指数分布等来拟合油气模块的分布，并预测油 汽田的远景储量1 9 9 7 年吴为人等i ”j 在研究遗传基因对水稻株高等影响时，利用双正态 混合分布模型准确地估计和分析了主基因和微基因的效应大小2 0 0 4 年王承炜等【2 i j 结合 我国股票市场数据给出了流动性交易者的混合正态分布模型，并通过实证说明了混和正 态分布模型的重要作用2 0 0 6 年方彬等1 3 3 j 把混合分布应用在枯水流量频率的分析研究中， 指出用负二项和指数分布分别拟合低定量系列的年发生次数和量级构成混合分布2 0 0 8 年孙宪春1 3 2 j 在研究银川地下水对当地植被影响时，利用混合分布研究了地下水埋深与植 被生长的关系 1 2 混合模型的实际背景 在经典的统计推断中，通常假设数据来自某种单一分布的总体，如正态分布、指 数分布、w e i b u l l 分布等但在实际的情形中，数据的产生往往是十分复杂的，并不 是服从某个单一分布是在寿命数据分析中，由于元件的失效原因受诸多因素的影 响，不同原因发生的频率不同，导致对应不同参数的分布例如，有一批相同的产品， 有三种主要原因引起产品的失效第一种是由于装备的缺陷，在产品的使用初期就 发生失效，设这类失效能用一个简单分布函数互( t ) 来描述：第二种失效是由于零件内 部的固有缺陷所引起的，一般这种失效会比前一种失效来的稍微晚一点，设它可用一个 简单分布e ( f ) 来描述：最后一种失效是由于零件的正常损耗引起的，它出现最晚，设它 可用第三个简单分布只( t ) 来描述假定各种原因导致的失效产品数所占的比例分别为 a 、岛、马，并且a + 仍+ 见= 1 ，则这批产品的失效分布为 3 f ( t ) = e p i f i ( t ) ( 1 2 1 ) i = l 这个模型就是混合分布模型( m i x t u r em o d e l ) 更一般地设工为一随机变量，混合分布模 型形式为 第2 页武汉科技大学硕士学位论文 七 ，( x ) = 只e ( x ) ，= i ( 1 2 2 ) 其密度函数为 厂( 工) = 易z ( x ) ( 1 2 3 ) i = 1 其中只 o ，i = 1 ，2 ，k ，p s + p 2 + + 以= 1 ，z ( x ) o ，l z ( x ) = 1 ，q 为x 的取值空 间 1 3 几种混合分布 1 指数分布的混合 在式( 1 2 2 ) 中，当k = 2 ，巧( t ) 为单参数或双参数指数分布时，可产生下面两种常 用的混合指数分布模型： 厂( x ) = 以矿即+ ( 1 + p ) 如矿红o p 0 厂( x ) = p a , e 一 ( 7 ) + ( 1 + p ) 以e 一如( r o o ，f = 1 ，2 ) f 寿命随机变量： 形状参数，不同的形状参数，概率密度函数曲线以及累积失效分布函数的形 状也不同： 哆尺度参数，失效概率p = 卜e = 0 6 3 2 的特征寿命 s j i a n g 年i id k e c e c i o g l u 利用几何作图法【1 8 l 和极大似然函数法f 1 9 】分别研究了用两个 二参数w e i b u l l 分布混合去拟合带有折点试验数据曲线的情况m e n d e n h a l l 和m a d e r 【6 】提 武汉科技大学硕士学位论文第3 页 出了一个多重w e i b u l l 混合模型，在假定所有的形状参数是已知的情况下，他们推得了所 有尺度参数的极大似然估计j e n s e n 和p e t e r s e n 7 1 在研究老化问题时，讨论了一个二重 w e i b u l l 混合模型，他们论及了基于图形方法的参数估计他们根据尺度参数的大小来区 分子体，即具有较小尺度参数的子体被定义为子体1 ，另一个定义为子体2 ，其所使用的 近似仅适用于两尺度参数相差甚远以及子体l 的形状参数大于子体2 的情形 4 二项分布的混合 混合二项分布的定义如下： p ( x ；7 r ，o ) - - e ( x = x ) = 乃只( x ；包) ，x = 0 ，1 ，l 其中层( x ；q ) = i 二l 印( 1 2 ) ”j ，o q 幺 1 ，f = l ，2 ，聊 t e i c h e r 8 1 考虑了混合二项分布族的可识别性：c h e r o f f 9 1 以及l e i i l ( “【1 0 】等人应用混 合二项分布讨论了遗传学中的一些问题 5 p o i s s o n 分布的混合 混合p o i s s o n 分布的定义如下： p ( x ；万，力) = p ( x = x ) = z - , p , ( 石；乃) ，x = 0 ，l ，疗 其中p i ( x ；丑) = 鲁e 一五，0 以，0 _ o 所以为了将p 的估计值”修正为幺+ ，只 需找到9 胂1 使( 目肘1 ) 一( ”) o ，也就是只需找到口川使 q ( o ( n + l l o ( 月) q ( o ( h i z ”) ：o 成立即可于是我们得到如下e m 算法： i 发n n n o ( o ) ； ( e - 步) 对于万o ，计算l l o g f ( 9 ，x ，y ) 以甲0 , x l y ) a x ； ( m 一步) 取肿1 使q ( p 肿l l ”) = 呼q ( 妒i ”) 由于将”) 修正为。时，三( 秒( ) 不减，而且，r u b i n 证明了在一定条件下，“) 以概率收 敛于某个否 武汉科技大学硕士学位论文第7 页 f 石( 五，而，) = 0 j 六( 五，w ”，吒) _ 0 ( 2 2 1 ) l 【z ( x l ，x 2 ，吒) = 0 其中，z ( i = l ，2 ，z ) 为给定在以维欧氏空间r ”中的区域d 上的实值函数下面引进几个 f c x ，= 三葛 ，x = 量 ，。= 三 r ( x ) = o ( 2 2 2 ) x d 是方程组( 2 2 2 ) 的解，x o 为x 的初始近似，：c o d 由泰勒公式得 ，( x ) = f ( 五) + f ( x o ) ( x - x o ) + f f ”( x o + f ( x k ) ) ( y x o ) 2 ( 1 一f ) 出 f ( x ) = f ( 五) + f ( x o ) ( x - ：c o ) = 0 ( 2 2 3 ) 近似代替( 2 2 2 ) 设( 2 2 3 ) 的解为五，则 五= 五- i f ( k ) 叫f ( x o ) 一般地，五应较x o 更接近x 因而，又可以x 。为新的初始近似，导出类似( 2 2 3 ) 的线 f ( 五) + ，( x 1 ) ( x - 五) = o 设其解为五，则 五= 五- i f ( 五) 叫，( 五) 第8 页武汉科技大学硕士学位论文 一股地，我们有1 五+ = 五- i t ( 五) qf ( 五) 这就是解方程组( 2 2 1 ) 的牛顿迭代法，牛顿迭代法具有局部收敛性 牛顿迭代法的主要缺点之一是每步都要计算导数f ( x ) 的值，在计算时非常不方便， 特别当分量函数z ( f = l ，2 ，甩) 较复杂时更是如此拟牛顿法是针对这一缺点提出的算法， 其核心是用通过函数值代替导数一般来说，解非线性方程组( 2 2 2 ) 的线性化方程可写 为 厶( x ) = a x + b = 0 设已知在行+ 1 个互异点雹。( = 0 ，1 ，2 ，刀) 上的函数值f ( 雹1 ，且令 厶( 矗_ = 4 砖7 + b = f ( 矗_ ，= 0 ，l 1 一，万 ( 2 2 4 ) 设以求得方程( 2 2 2 ) 的七次近似解x 。，设x 。= x 又取以个辅助点x 2 ，x 譬) ，x ? ，由 插值条件( 2 2 3 ) 得 f 厶( 瓦) = 4 五+ 鼠= f ( 五) 1 一l 。i x 。( j ) ) = 4 雹力+ b = f ( 碰力) ，j = 1 2 一，刀 两式相减得 4 ( 爿门一五) = f ( 矗力) 一f ( ) ，= 0 1 一，刀 晟= f ( 五) 一4 五 这里向量组 爿力一五 ：= 。是线性无关的 通过对4 作修正( 修正量为地) 而得到a + ，是你牛顿法的基本出发点而 a a k = y ；，这里为f ( 五+ 。) 的若干倍，而与五一五巾，五哪：一五一肿。正交 下面给出拟牛顿迭代算法： f 五+ 。= 五一4 1 ，( x 。) ，k = o ，1 2 一， a + 。( 五+ 。一五) = f ( 五+ ，) 一f ( 鼍) 【 4 + 。= 4 + 皑 其中鲍是a 的一个秩为m 的修正矩阵，通常m = i 或2 由于在鼍+ 。连续，记 瓯= 五+ 。一五= 一4 1 f ( x ；) ，则对v 占 0 ，38 0 ，使得当慨0 万，( 1 k0 是& 的范数) 时，便有 陋( 五) 一f ( 五) - f ( 鼍+ ，) ( 五一五+ t ) l l s l l 五一五+ 。l l ( 2 2 5 ) 于是 ，( 五) f ( 五+ 。) + 尸( 五+ 。) ( 五一五+ 。) 武汉科技大学硕士学位论文 第9 页 记= 鼍+ 。一五，见= f ( 五+ 1 ) 一，( 五) 所以有4 + 。& = 儿，j j = o ，1 ，2 ， 又由( 2 4 5 ) 可知 。；m 蝗! 二擎型驯：o ” 慨0 所以，4 + 。可以看成f ( 五+ 。) 的近似，则有f ( 鼍) = f ( 五+ 。) + a + 。( 瓦一五+ 。) 可以得到的拟牛顿迭代法计算公式【射】为： l鼍+ 。= 五一4 1 f ( 五) t 4 + - = 4 + 咄，后= 。j ，2 循环使用此迭代方法，- 卣至1 m a x ( f ( x k + ) i ) 0 ( 3 1 1 ) v z 万。 的混合分布的样本通常要估计参数p ，a ，及仃，常用的方法是极大似然法关于混合分 布的极大似然估计，如果直接求导，是很难得到极大似然估计估计的，而e m 算法却能很 好的解决这一困难因此，e m 算法在混合分布的极大似然估计中得到了广泛的应用 对于混合总体( 3 1 1 ) ，记 9 一! 口= ( p ，五，仃) ，z ，= 五矿缸， 以，= 亡p 2 a 2 ， z = 旦，+ ( 1 一p ) a ， 对于服从混合分布z ，设为实行变量，五= 1 表示薯来自密度函数为z ，的分布总 体：= o 表示薯来自密度函数为五，的分布总体易知服从二项分布，尸( = 1 ) = p ， p ( ；0 ) = 1 一p 五和的联合分布为 g ( 薯，p ) = ( 矾) 0 - p ) a ，r 从而在毛给定的条件分 p ( ：1 i 护) = 等，p ( ：o 眇) ：坠磐 j i j i 给定初值9 ( ，e m 算法的步骤为： 武汉科技大学硕士学位论文第1 1 页 其中 ( i ) ( e 步) 求期望 q ( o ，0 忙1 ) = 扣i乓4 k h ，) 1 n g ( x ；，秒) 】 1 1 1 ( p f l ，) + ( 1 - _ p 丽k - i ) 矿) f = c i k - i ) ，f 罐叫l n ( p a ，) + 嗜1l n ( ( 1 - p ) f 2 ，) h ( ( 1 刊脚 _ i ) = ( p ( k - i ) 旯卜n ，( i - i ) ，仃( i 叫) ，z - l ，= z ( 9 t 女州) ，f , l 1 ，= 彳，( 9 t i 一”) ， 搿。1 ) - 五，( 秒似一) ， 罐q = 爷爿= 譬 这里彳，矗，五；分别表示z ( 薯l 口) ，丘( 五l 口) ，以，( 玉l 臼) 类似彳( p 一) ，彳f ( p 七- 1 ) ，正f ( p - 1 ) 分别表示 z ( 玉l p 卜i ) ，z ，( 薯l o ( k - o ) ，五如旷d ) ( i i ) ( m - 步) 极大化求，使得q ( 乡，秒h ) = m a x q ( o ，0 h ) ( i i i ) 以臼。作为秒的更新值，重复( i ) 步和( i i ) 步， j 1 0 k - 0 卜1 i i 小于某 个给定的阀值时停止迭代 m - - 步可通过求解 a o ( e e “q ) = 0 a p 来得到 ，得到：l n ( p y , ，) = h l ( p 庇一锄) = 1 1 1 p + l i l 允一饥 1 1 1 ( ( 1 一p ) 五沪l i l ( 1 - p ) 乩压乩仃一驴x 2 再关于对数的似然函数的期望q 求导可得： ( 型p + 罂1p 卜)i j 1 箸= 水叫( 圳 丫一) 厶。l n f = i i = l 羔甜叫五 f = l 哪一 筹 一 州。捌 。 = 万 第1 2 页武汉科技大学硕士学位论文 暑譬= 喜d ；一 一孑1 + 事 = 。j 。) = 3 2 模型的参数估计 设样本，毛是来1 4 节中的模型i i 八墨a 无从叫p 嘞“1 _ 力j 习高矿 胗0，o o ( 4 1 1 ) 其中0 0 对于混合总体( 4 1 1 ) ，记 秒= ( p ，名，0 9 ， 彳，= 2 e m - ，) ，左f = - 7 差一p 一五r ，彳= 西，+ ( 1 一p ) 五， 对于玉服从混合分布彳，设为实行变量，= 1 表示玉来自密度函数为兀的分布总 体：= 0 表示t 来自密度函数为五，的分布总体易知服从二项分布，p ( = 1 ) = p ， p ( = 0 ) = l p 和的联合分布为 g ( 玉，口) = ( 硝，) o - p ) l ，r 从而在玉给定的条件分 尸( i l = 1 啪：等心：o ：半 给定初值秒( 们，e m 算法的步骤为： ( i ) ( e 步) 求期望 q ( o ，) = 乓彬h ，) 【1 f l g ( 五，秒) 】 = 喜 爷h c 枷+ 学h ( ( 1 刊脚 第1 6 页武汉科技大学硕士学位论文 其中 窆 诺叫1 n ( 西，) + 1 嗜1l i l ( ( 1 一p ) a f ) 臼 叫= ( p t t 叫，五c 叫，c i 叫，仃( 女叫) 7 ，z c i - t ，= z ( 目c t 州) ，f 。l ，k - i ) = 石，( 秒t i 叫) ， ( i t - i ) 础) ，c i ( t - i ) _ _ 爷爿= 罕 这里z ，兀，石，分别表示 类似 分别表示 i ( x , l o ) ，兀( l 口) ，六，( 薯1 秒) z ( p 扣1 ) ，z f ( 秒卜1 ) ，五，( 臼扣1 ) z ( 薯1 秒i l ) ，z ，( 】。l 椤t i ) ，f 2 ，( 】弓1 秒t l ) ( i i ) ( m 步) 极大化求秒仆，使得 q ( 臼他，旷) = m a x q ( o ，旷。) ( i i i ) 以p 作为目的更新值，重复( i ) 步和( i i ) 步，当桫。一目h i l 小于某 个给定的阀值时停止迭代 卜步可通过求解 来得到，不难得到： ( 口他，矿。) a 9 = 0 h ( 肼垆i n ( p x e - ) = l n p + 1 n 旯一力( 玉一，) h ( o - p ) a 沪h l ( 1 - p ) 也瓜乩盯一嗲 再对对数的似然函数的期望q 求导可得： 警= 。甜) = 喜( 掣舻懈叫州 ) +哇p 玉 i = i 武汉科技大学硕士学位论文第1 7 页 塑一，：姜竺觑 窆露一( 薯一，( 扣l )厶。i f 、“f ， 塑：o j 仃( i ) ： 0 0 nq k ，叫( 玉一一) 2 i = l 争d 叫 2 在许多情况下，服从正态分布的数据的均值并不等于零所以，在考虑模型的时 候，对的估计是极其重要的，而0 也更接近数据的真实情况 当0 时，混合分布的密度函数为 m ，f ，如却肛烈p 。+ ( 1 刊一1 p 一一 0 ( 4 1 - 2 ) 其中0 0 ，o r 0 对于混合总体( 4 1 2 ) ，记 9 = ( p ，五，盯) 7 ， 彳f - - 2 e 一烈。”) ， 1 一 一垒一二生 五f2 ( _ 二二丽p2 ，z2 忍f + 。一p 厶f 对于玉服从混合分布z ，设为实行变量，= l 表示五来自密度函数为z ；的分布总 体：= 0 表示五来自密度函数为z ，的分布总体易知服从二项分布，以= 1 ) = p ， 尸( t = o ) = l p 五和的联合分布为 g ( 五，口) = ( 西，) ( 1 - p ) f ：，r 从而在薯给定的条件分 p ( z - 1 i 护) = 等以伽= 学 给定初值秒，e m 算法的步骤为： ( i ) ( e 步) 求期望 q ( 9 ，舻1 ) = 互h ，) 【h g ( 薯，p ) 】 = 喜 爷眠，+ 学h ( ( 1 一) 2 ) 第1 8 页武汉科技大学硕士学位论文 其中 兰 诺哪! n ( 颤一嗡11 n i ( 1 一p ) 五明 0 ( 卜i ，= ( p c 女- i ，见c t 叫，t 一”，盯t 女- l ，) ，z c i 叫= z ( 秒t 卜l ，) ，f , l 。叫= 彳，( 臼c 卜l ，) ， 叫叫) ，c l ( i k - 1 ) _ 爷爿= 罕 这里z ，兀，正，分别表示 类似 分别表示 彳( 五i 矽) ，无( 1 秒) ，正，( x il o ) z ( 秒一1 ) ，石f ( 口七- 1 ) ，六，( 乡_ 1 ) z ( 薯i 臼“t i ) ，z ，( 】；l 曰i i ) ，五，( 玉i 一i ) ( i i ) ( m 步) 极大化求0 他，使得 q ( 秒他，口他_ ) = m a xq ( o ，0 他。1 ) ( i i i ) 以臼。作为9 h 的更新值，重复( i ) 步和( i i ) 步，当渺一目h i i 小于某 个给定的阀值时停止迭代 卜步可通过求解 来得到0 他，不难得到： 勉( 9 他，扩d ) 0 0 = 0 l i l ( 西，) = l n ( p 2 e - z 畸) = l i l p + 1 1 1 名一五( 玉一，) h ( ( t 刊脚乩( 叫乩( 一( 一剀山瓜山盯一 再对对数的似然函数的期望q 求导可得： ，( ) ：y j i l = l 甜。1 ) 【n k - 1 ) + 蛮1 ) ( 嚣。1 ) ( 掣盯似- l ) +主i = 1 旁( 葺一一l ) 2 0 2 武汉科技大学硕士学位论文第1 9 页 ，、窆掣 五( t ) ： 鱼二! ! n k 叫( 薯一一) 同理对于1 t 和盯的估计用牛顿迭代法，由挈：o 和挈：o 得 d“00 卯一番一压卜( 一班吵，) - 。 厩筹一历卜( 一绷 ( x - - r ) 2 = 。 这里对，仃的估计同3 2 节应用拟牛顿迭代法求得同( ，盯( 川) 4 2 含有已知参数的混合模型 本节给出一些含有已知参数的混合模型，并对其他未知参数进行估计 1 g a m m a 分布与正态分布的混合分布模型受到模型的启发，两个寿命分布函数 混合得到一个新的混合分布设随机变量x 服从g a m m a 分布与正态分布的混合分布， 其混合密度函数的具体形式为： p ( x ) = p a 2 x e - 缸+ 掣e 丢 删( 4 2 1 ) v z 7 1 盯 这里g a m m a 分布密度函数 巾) 2 南x a - i _ - 2 x l 【o 一) ( x ) ，r ( 川) - - b ! ，疗， 其中( 4 2 1 ) 式中口= 2 设样本，是来自密度函数为( 4 2 1 ) 的混合分布的样本我们要估计参数p ，名， 及仃，同样可以应用e m 算法来解决问题 对于混合总体( 4 2 1 ) ，记 一 ， 口= ( p ，五，z ，仃) 7 ，彳f = 五2 r e 一知， 以j = _ 麦竺一e2 0 - 2 ， z = 忍名+ ( 1 一p ) 五j 、z ；t t 仃 对于薯服从混合分布z ，设为实行变量，= 1 表示玉来自密度函数为z ，的分布总 体：= o 表示玉来自密度函数为五，的分布总体易知服从二项分布，p ( = 1 ) = p ， p ( t = 0 ) = l - p 玉和的联合分布为 g ( 玉，p ) = ( 西，) ( 1 - p ) f ：，r 从而在墨给定的条件分 第2 0 页武汉科技大学硕士学位论文 p ( 纠蜘= 等，p ( 二 给定初值9 ( 叭，e m 算法的步骤为： ( i ) ( e 步) 求期望 其中 q ( o ，0 忙叫) = i = i ，= i i = i乓 i 畸h ，) 【l i l g ( 薯，秒) 】 l 攀衄硎+ lz 似q ”n 。 ( 1 - p ) f 2 ， ( 1 - p 似叫) 臂1 z 卜1 诺叫l n ( p f , ；) + 嗜1l n ( ( 1 - p ) f 2 ；) k ( ( 1 - p ) f 2 ，) o t k - , ) = ( p t 卜，名t i 叫，c 卜1 1 ，盯t 卜i ，) ，( k - 1 ) z ( e t 扣l ，) ，彳；卜i ，= f l l ( 9 t t 1 ，) ， f 2 ( i k - 1 ) = 球h ) ，c l i k - 1 ) _ 爷爿= 罕 这里z ，彳，厶，分别表示 类似 分别表示 彳( 蕾l 口) ，彳，( 五j 9 ) ，五，( 五1 秒) z ( 口( k - d ) ，石，( 目扣1 ) ，五，( 臼扣1 ) z ( 五i 卜l ) ，兀( 五i 卜l ) ，五，( 誓i 卜i ) ( i i ) ( m 一步) 极大化求乡“，使得q ( 9 ，秒h ) = m a x q ( o ，0 ) ( i i i ) 以秒“作为口的更新值，重复( i ) 步和( i i ) 步，当咿一p 卜1 i i 小于某 个给定的阀值时停止迭代 m 步可通过求解 型生竺蔓o 0 0 来得到秒 ，不难得到：l l l ( 硝，) = i n ( p 2 e - 如) = l n p + l n 兄# 一五五 l i l ( ( 1 一p ) 厶) 乩o - p ) 也压乩盯一寺2 再对对数的似然函数的期望q 求导可得： 武汉科技大学硕士学位论文 第2 l 页 矧等+ 舒纠k 磊 矧叫划一，= 鏊 纂= 黔。陪i 叫x ：l 一批 2 w e i b u l l 分布与正态分布的混合分布模型设随机变量彳服从w e i b u l l 分布与正 态分布的混合分布，其密度函数为： ， p ( 工) = 2 p 2 x e - a x 2 + ( ) 去口i 刚( 4 2 2 ) 其中w e i b u l l 分布密度函数为w ( a ，名) = 触”1 p 一， ( 4 2 2 ) 式中a = 2 设样本五，是来自密度函数为( 4 2 2 ) 的混合分布的样本我们要估计参数p ，兄， 及仃e m 算法同样适用 对于混合总体( 4 2 2 ) ，记 1 ， 秒= ( p ，五，仃) ，z f = 2 2 x e 一，五f = 丧p 2 r ， z = 忍名+ ( 1 一p ) a ， z 冗。 对于薯服从混合分布z ，设为实行变量，= 1 表示薯来自密度函数为石，的分布总 体；= o 表示而来自密度函数为正，的分布总体易知服从二项分布，以= 1 ) = p ， 尸( = 0 ) = 1 一p 五和的联合分布为 g ( 薯，p ) = ( 西，) ( 1 - p ) f 2 ，r 从而在五给定的条件分 眦；1 i x , ；o ) ：争心- - o l 护) ：坠竽 给定初值乡们，e m 算法的步骤为： ( i ) ( e 步) 求期望 q ( 卜1 ) = 臣彬) 【1 1 1 9 ( 玉，i ，功】 第2 2 页武汉科技大学硕士学位论文 其中 h ( 删+ 学 诺。1 ) l n ( 西f ) + 嗜1l n ( ( 1 - p ) 六，) h ( ( 1 刊脚 秒c 女叫= ( p t i 棚，z c t 州，c t 山，仃( 七叫) ，( k - i ) - - - - ，( 秒c i 叫) ，石叫= 彳，( 矽r i 叫) ， 吒( ，) ，驴：攀，谤：盟箬 j lj t 这里z ，石，以，分别表示 类似 分别表示 z ( t1 9 ) ，z ，( 薯i 乡) ，六，( 薯1 秒) 彳( p 卜1 ) ，彳f ( 9 卜1 ) ，正，( 护- 1 ) 彳( 葺i 扣l ) ，兀( 薯l 口七- i ) ，六，( 鼍i 卜l ) ( i i ) ( m 一步) 极大化求矽，使得q ( 秒 ，9 h ) = m a x q ( o ，0 ) ( i i i ) 以。作为秒的更新值，重复( i ) 步和( i i ) 步，当桫一p i i 小于某 个给定的阀值时停止迭代 m - - - 步可通过求解 翌里【! ! ：呈! ：! ：o 3 0 来得到，不难得到：l i l ( 硝，) = i n ( p a e 一钒) = l i l p + 1 1 1 五五一兄# l i l ( ( 1 一p ) 厶) = l i l ( 1 一p ) - h 瓜乩仃一方x 2 再对对数的似然函数的期望q 求导可得： ( 型p + 罂1p 卜 i j 。 守一i 1 ) z 乙k - - l i 喜( + 掣) 箸= 淞叫( 纠卜， d 一 笙 h z 一 。l 闽。州 。渊 = 勉万 武汉科技大学硕士学位论文第2 3 页 刚2 i 降1 芏o - 3 j = 0j 仃( 。) ： 3 指数分布与g a m m a 分布和对数正态分布的混合分布模型设以随机变量x 服从 w e i b u l l 分布与正态分布的混合分布，其密度函数为： p ( 力= p 1 2 e 一缸+ p 2 3 2 x e 一肚+ 岛 对于混合总体( 4 2 3 ) ，记 9 = ( f ，o r ) ， 石f = 2 e ，f 2 f = 2 x e 一肛，石，= z = a 兀+ 岛正，+ 昆石， 瓜口x x 0 ( 4 2 3 ) ( i n x 一) 2 e 2 0 - 2 对于毛服从混合分布彳，如果设为实行变量( = 1 ，2 ，3 ) ，当薯来自密度函数为矗 的分布总体，则= 1 ，厶= = o ；当玉来自密度函数为五，的分布总体，厶= l ， = 厶= o ：当玉来自密度函数为工，的分布总体，厶= 1 ，i i = 厶= o x 和的联合分布 以此可以得到 p ( 厶= l i ；口) = g ( ，目) = ( 局f l ，) 给定初值0 们，e m 算法的步骤为： ( i ) ( e 步) 求期望 q ( o ，o 仕叫) = 其中 l = 1 ( 昱z ，) 如( 只石，) 6 p ( 纠俐= 譬， 乓k ；，) 【l i l g ( 五，目) 】 p ( 纠= 等 h c 枷+ 爷l n ( 砒) + 爷h ( 刮 诺山1 n ( 只z ，) + 呀1i n ( p 2 f 2 ，) + 嗡11 1 1 ( 岛石明 0 ( k - 1 ) = ( 砖卜，名卜1 1 ，卜n ，一卜1 ) ) ，y = 1 ，2 ，3 ，i = i ，2 z 似_ = z ( 秒似1 ) ，名扣 = 彳，( 秒卜d ) ，背一= 正，( p 似。1 ) ， 。阍 l i 9 一盯a a ，r一 坠撕 一 p 监彳 等 硝一 渊。渊 第2 4 页武汉科技大学硕士学位论文 蹦f 3 ( - i ) 吒( ) 一= p ( k - 1 ) 争。- ( k - , ) ， 这里z ，兀，五，f 2 ，分别表示 类似 分别表示 孝。1 硝。1 ， 彳卜1 z ( 薯1 秒) ，f i t ( 五，i o ) ，正，( 恐，1 秒) ，正，( 艺，i o ) z ( 口卜1 ) ，兀( p 卜1 ) ，厶p 卜1 ) ，五f 矽( k