（概率论与数理统计专业论文）基于em算法的约束条件下参数的估计.pdf

摘要 由于给线性模型中的参数加上一定的约束条件会使模型的实际意义和应用价 值都得到提高，因此带有约束的参数估计问题出现在大量的统计问题中例如： 设巩代表某种药物在剂量 “= 1 ，2 ，膏) 时的毒性，则我们知道，随着剂量的 加大，药物的毒性也会随之增强，即认为：口ls 日2 s 钆是合理的又 如，设m 代表某种药物在剂量i 0 = l ，2 ，k ) 时的有效性，则我们知道，随着 剂量的增加。药物的有效性也会随之增加，然而，事实上，当剂量增加到一定程 度时，药物的毒性也会增大，而人体的抵抗力有限，所以此时药物的有效性会反 而减少，即认为p 1s m 脚是合理的再如，在人寿保险中， 令a 代表年龄为屯的人的真实死亡率，则由生存分析知，认为死亡率 p t ) 满足 o ；生二拿；羔二罢字i 二；譬sl 是合理的因此要想对协) 进行估 计，在上述约束条件下给出估计是令人信服的 本文考虑的是多元正态回归模型中参数在简单序约束口如，伞型序 约束口l 如2 如和递增的凸序约束os 碧玉辫s 4d “2 一“1 3 一“2 挚盟，这里 出) 是已知的，并且d 1 d 2 嘞条件下，用e m 算法对参 一。口一l 数给出估计。模型是： 虮= x 口+ e 2 ，日倒矗( o ，e ) ，z = 1 ，2 ，一，p 其中们对于每个f 是一个m 维反应向量，j 靠。是一个已知矩阵其中日为参数 向量，已知或未知均可 关键词：简单序约束，伞型序约束，递增的凸序约束，e m 算法，参数估计 a b s t r a c t b e c a u s ea c c o u n t i n gf o rt h ec o n s t r a i t so nm o d e lp a b a m e t e r s1 e a dt om o r e e m c i e n ta n di n t e r p r e t a b l ee s t i m a t o r s t h e r e f o r e ，c 0 1 1 s t r a i n e dp a r 锄e t e rp r o m e m s 盯i s ei nav 甜i e t yo fs t a t i s t i c a la p p l i c a t i o n s f o re x a m p l e ，i f 巩i st h et o x i co fa c e r t a i nm e d i c i n ea td o s ei ( i = 1 ，2 i - ，南) ，t h e ni t i 8w e l ik n o 啊。nt h a tt h et o x i ci 8 i n c r e a s i n ga st h ed o s ei n c r e a s i n g ，i ti sr e a s o n a b l et oa s 8 u m et h es i m p l eo r d e r i n 岛 t h a ti s 臼l 口2 如a n o t h e re x a m p l e ，i f 胁d e n o t et h ee m c i e n c yo fs o m e m e d i c i n ea td o s ei ( i = 1 ，2 ，南) ，w ek n o wt h a tt h ee 母c i e n c yi su s u a l l yi n c r e a s i n g u p t os o m ed o s em ，a n dt h e ni sd e c r e a s i n g t h u sa nu m b r e l l ao r d e r i n gw i t hc h a n g e - p o i n tms e e m sm o r er e a 8 0 n a b l e l e tp 1 p m 芝胀f u r t h e r m o r e ，i n l i f ei n s u r a n c e ，l e tp ld e n o t et h et r u em o r t a l i t yr a t ea ta g e 岛，i ti sr e a s o n a b l et o a s s u m et h a t a ) a r ei n c r e a s i gc o n v e x ，t h a ti sr e a s o n a b l et oa s s u m e a ) t ob e o 竺! 二翌! 旦! 二翌! ! ! 二翌里二! 1 一t 2 一t l t 3 一2t m 一亡m l t h i sp a p e rc o n c e r n st h em e t h o df o re s t i m a t i n gt h er e s t r i c t e dp a r a m e t e r si n m u l t i v a r i a t en o r m a lv i at h ee m t y p ea l g o r i t h m s t h em o d e ii s 玑= x 日+ 自，e f 臂 赢( 0 ，) ，f = 1 ，2 ，- 一，p w h e r e 玑i sa nm v e c t o ro fr e s p o n s e sf o ri n d i v i d u a if ， + 口i sa k n o w nm a t r i x ，r e g r e s s i o nc o e f h c i e n t s 口= ( 日l ，岛) a r er e s t r i c t e dt ot h e s i m p l eo r d e r i n g 曰1 岛，t h eu m b r e l l ao r d e r i n g 疗1 - 口 巩+ 1 t ”n a t n c r e 础鲫n v e x 。r a e r t n g 。糍s 拦9 等等， w h e r e 靠 a r ek n o w na n dd 1 如 k e y w o r d s ：t h es i m p l eo r d e r i n g ，t h eu m b r e l l ao r d e r i n g ，t h ei n c r e a s i n gc o n v e x o r d e r i n g ，e m a l g o r i t h m ，e s t i m a t i n gf o rp a r a m e t e r s i i 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研 究成果据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人 已经发表或撰写过的研究成果，也不包含为获得东北师范大学或其他教育机构的 学位或证书而使用过的材料与我一同工作的同志对本研究所做的任何贡献均已 在论文中作了明确的说明并表示谢意 哼一j 学位论文作者签名：盘幽纽日期：趁五2 z 学位论文版权使用授权书 本学位论文作者完全了解东北师范大学有关保留、使用学位论文的规定，即： 东北师范大学有权保留并向国家有关部门或机构送交学位论文的复印件和磁盘， 允许论文被查阅和借阅本人授权东北师范大学可以将学位论文的全部或部分内 容编入有关数据库进行检索，可以采用影印、缩印或其它复制手段保存、汇编学位 论文 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名 日期： 学位论文作者毕业后去向 工作单位： 通讯地址： 蓬函数 卯s o 王如 指导教师签名 日期： 电话： 邮编： 引言 当研究一些模型时，参数的一些约束条件会使研究的问题更具有实际意义 对于约束条件下参数估计问题进年来已有一些研究如保序回归方法中p a v a 算 法可以对简单序约束给出参数的极大似然估计，但是它依赖于协方差阵e ，不是对 于任何协方差阵e ，p v 算法均可以给出参数的极大似然估计，即有一定的局限 性对于参数的约束条件为任意区域时，丑曲a tn n d 日”o 唧( 1 9 9 6 ) 提出了一套所 谓的优先反馈技巧来计算参数的极大似然估计，但需要马氏链收敛到它的稳定分 布最近l 甜卿o ) 给出了怎样用e m 算法求离散分布时参数在单形约束如凸约 束，凹约束，单调性约束条件下的极大似然估计，然而，该方法要求变换矩阵的所 有元素均非负，因此该方法的使用范围受到限制t 。n 成。l ( 2 0 0 3 ) 进一步给出了 用e m 算法在多元正态线性回归模型中求约束条件下参数的极大似然估计，但是 仅考虑了乘积参数空间的情况 文章安排，第一部分介绍在协方差阵已知时，简单序约束条件下，伞型序约束 条件下，递增的凸序约束条件下，怎样用e m 算法求出参数的极大似然估计第 二部分介绍在协方差阵未知时，怎样甩e c m 算法求简单序约束条件下，伞型序约 束条件下，递增的凸序约束条件下参数的极大似然估计第三部分将参数向量由 三个分量推广到多个分量第四部分介绍二个具体例子，并应用m a t l a b 软件给 三个分量推广到多个分量第四部分介绍二个具体例子，并应用m a t l a b 软件给 出计算结果 1 在协方差阵已知情况下，约束条件下参数的估计 1 1 瑚旱序约束系忤卜雾致明估计 在这一部分，我们考虑简单序约束条件下利用e m 算法推导模型 们= x 日+ e l ，白掣矗( o ，e ) ，z = l ，2 ，一，札 中的参数日的极大似然估计其中们，e f 和日= ( 日l ，口2 ) t 是个二维向量 ( o 瑚，x = ( ：) ，约束条件是巩鲰已知 c ，- - ，”。- ，t = ( ：) c t ，如，t + c e t ，e 。- ，丁一- t = x 一+ e z ， c ，z ：，抛。，t = ( ：) c 一，如，t + c e ，。，e 。：，t 即驰= x 。+ e 。， ( g l 。，驰。) r = 令a l = 一= a - 卢= ( ：；) c 风，岛，t = c 卢- ，胁+ 尾，t = c e ，如，t 其中p rx r + ，因此可以计算得到 日l 口2 甘虎= 口2 一e 1 0 把口= 且l 卢代入肌= x 口+ e z 可得虮= x a l p + e f ，从而可以得到， 雪= x a l 卢+ 百号e 一 雪= 一；x a l 卢+ 一 百， 其中 e 一 2 e 1 1 e 2 l 1 ：f ，a o e ；1 o 醴 n e + 口x i | n 日p r 、j n 2 e nl e ，l + r ) 2 p l 口 ( 、 0 l o 1 l o l 1 ， 嚷脯 ， f = 眈 乱、 t l o一吒 l l 一q o 吕，一 | i = 把( 2 ) 式简记为：f = 卢+ e 一 i = ( 6 ，) t即； b 7 = 一；x a - = ( 薯1z ，) ( ： = ( 摹芸。) = ( 象2 ) 令b ( i ) 令； 鱼者鱼从而可得到，f t 一( p ，：) ，如。( p 。，：) 令： 矗= 五1 + 五2 令：y 赢= f l ，2 ) ， 则： 五( k 。) = z l k 掣( 如凤，去) ，i = 1 2 ：1 ，2 ( 2 ”) 一警( 去) 一警e 印 。一冬1 磊自 耻锖上j # = i 。z 女 盥啄 巡) 2 去 。 是像的无约束条件下的极大似然估计 因此，在口r 冗+ 的约束条件下，屈，角的极大似然估计分别为： 历。目t 一。 s - + o 。) = & ，庑= 岛如! s ： + o 。) + o t 岛 o ) 令z 7 = z 1 1 ，龟1 ) 为潜在变量，z l = z 1 1 ，邑：忍1 了面求条件预测分布，( z 7 l a ，卢) 即：，( 五1 ，忍1 z 1 1 + z l 2 ，历1 + 易2 ，卢) m z - 。( 6 ，。愚，去) ，疡一t 卢- ，去) ，疡。一( 6 2 2 屈，去) ( z 1 1 ，z 1 2 ，邑1 ，忍2 ) t ( p 7 ，) 圭 ( 6 1 l 岛，6 1 2 岛，6 2 1 屈，6 2 2 总) t ， 3 、 ， 0 1 一y - 2 l l ，=， f o l 岛一 啦眈风一吼 如 三 ， o 町 列 。 慌 排 哪 表 = 2 p 尻一吼 = m 即令 饬 + 玩 | | 卜 勉 勖叶 z h= 玩 【 f i f 趴 、， o o o一轨 o o一轨o o，一轨o o 1丽o o o 土轨 风h 盈橡 令 则 因此 其中 则 因此 其中 g = ( i gc蜀，蜀。，玩，历。，t=fi | ； ! ；| 】尚捣捣扩 y 圭( z 1 1 ，忍l ，蜀1 + 蜀2 ，z 2 1 + 锄) t 一( 脚，1 ) 脚圭研l = ( 6 1 1 尻，6 2 l 凤，6 1 l 风+ 6 1 2 愚，6 2 l 风+ 6 2 2 岛) t t 圭g g = 去( i ；1 再令日= ( ：) t 圭g g = 去f ：i 再令日= ( ：) 0 102 b c 蜀，z - z ，玩- ，忍z ，t = ( ：；) c 蜀，五。，玩z ，玩。，t = ( z 1 1 + z 1 2 ，而l + z 2 2 ) t z 圭( z l l + z 1 2 ，历l + 局2 ) t ( p 。，2 ) p ：圭b 肛= ( 6 1 1 傀+ 6 1 2 岛，幻1 凤+ 6 2 2 侥) t 。圭b b = ( ：；：) 去厶t ( ； = ：如。 又昭m 列孙如渤惕舻与罄畿篆芸斧= 锱 打( ) = ( 2 丌) _ j l i 一 e 印 一；( 一脚) i 1 ( 一托) 儿( z ) = ( 2 丌) _ | 。r ；e 印 一；( z 一心e 文z 一崩) 4 因为 所以 ，2 o 一1 0 、 ，y 妇，= 。神- 2 4 n 2 e 印t _ ；盈伊2 ”【三；罩j - c 历国1 = ( 2 7 r ) 一2 4 n 2 e j 节 一n 玩 如( 。) = ( 2 7 r ) - 1 n e 印 一妻历卢n 如。2 ( 历卢) t ) = ( 2 ) 一1 n e 印 一昙+ 2 ( z 1 1 6 1 1 向) ( z 1 2 6 1 2 岛) 其中 a ( g )( 2 7 r ) _ 1 轨2 e 印 一n 蜀 丽万2 磊研习孺再币瓦= 瓦酊医i 瓦两了鬲f 瓦葡磁再百荔丽 = 孚唧 一； ( 互l 一磊2 6 1 1 肪+ 6 1 2 岛) 2 + ( 局1 一面2 6 2 1 向+ 6 2 2 岛) 2 】) 兵中 面= ( 互l 一6 1 1 展) 2 + ( z 1 2 6 1 2 岛) 2 + ( 邑l 一幻l 历) 2 + ( 邑2 6 2 2 疡) 2 又知若令 e 。：垒型兰堑孚塑出，马：垒生壁生票坦世，盈：z 。，忍：z 2 ， d 12 i 一，d 22 = 一，o l24 1 1 6 226 2 1 则可得到正态密度( 磊i 马，去( 1 一i ) ) 函数为： 赤酬一等卜鲁e 计翔呐- 川。矾 5 一 l l e 上酣一l j | 陋 n ， =、，。 o o o 。 邑 o o。o，一 。 炉 o o o o _ 二 ，一地 轨 幔 i | = e 同理可得正态密度( 玩l 岛，去( 1 一i ) ) 函数为； 赤酬一蜡，= 鲁耐争嘞也。砒 所以由( 3 ) ，( 4 ) ，( 5 ) 式可知： 笔等一( 历j 毋，去( ，一；) ) ( 历场，去( - 一；) ) 即条件预测分布； ，( z l k 卢) 一( z 。l e z ，去( 1 一；) ) - ( 磊l 岛，去( 1 一；) ) 由e m 算法，给定卢的初始值卢( t ) = ( 卢扎鹰) 时，可得： s 。= 酗) = 篙高产等讹弛t - 奶- = 警。燕m _ ，( 铀胁t t 觑t + 孚彘材化m 鳓蛳锄- = j 声 ：；百霈( 6 t t f ，+ 6 - 硝“一6 - - 6 - 。鹾。+ 6 。，f 。+ 6 ；，硝“一6 2 t 6 。鹾”) 同理，可得 s 妒= e ( s 2 ) = 篙辜字，警，( 埘锄 = 孚彘卜- 咱小m m 艄咖锄， + 警彘几一) 讹t 砌t 如 = 孺 面( 6 1 2 卜嘞“卢f t ) + 堵。趔+ 啦_ 6 2 t 6 2 t + 磋。蚋 冥甲 m 鳓= e 印 一弘咱。“，- + 6 ，。) 2 + ( 蜘一砘。一6 2 t 印+ 6 2 。) 2 】) ，( z 1 1 ，卢( ”) = e 印卜；【( 2 2 1 1 一f 1 6 1 1 硝。+ 6 1 2 ) 2 + ( 2 砘l f 2 6 2 1 硝+ 幻2 越。) 2 】 即： 蹬= 鳄+ ( 2 ) 6 ( k ) ) 一1 ) 膳一日7 p ，k = l ，2 r 其中女) 为b 的第k 列 所以， 掣；鲫+ 2 ( 一，町1 ) ( 一，叮- ) t 】_ l ( ，f - ，) t 曙一f ，a 至 吒 刮力+ 稿咩+ 攀 蹬) ：属。) + 【2 ( o ，町) ( o ，町) t 】一- ( o ，。i - ) t 畦一f 。! t 乃 ：鼽毕 l = 磊1 + z 1 2 ，已= 忍1 + 面2 故可以从五自一 k 凤，去) 中抽样求出1 与如的值，代入( 6 ) 和( 7 ) 式，求出 碰”，鳄的值 m 步： 磷件1 = m i n m 8 。 一o 。，s i 。) ，+ o o ) ：s 。 趣件1 = m 讯 m a 。 o ，硝) ，+ 。) = m 。z o ，s l 。) 由于日= a 1 卢，所以 ，、 a = a p = ( i ：) ( 厨，庑) t = ( 盎，a + 应) t 即可求出口的极大似然估计 1 2 伞型序约束条件下参数的估计 在这一部分，我们考虑伞型序约束条件下利用e m 算法推导模型 虮= x 口+ e l ，e i 删m ( o ，e ) ，z = 1 ，2 ，nf 8 1 中的参数8 的极大掣然估计、其中盟，e ! 和口= ( 口1 ，如，如) r 是一个三维向量， 叼留c o ，一强x = ( j ； ) ，约誊条件是巩如如，已知 1 ( 灿，蛐册1 ) t ：io io 7 1 趣p 、 1 o 叮 7 t )廖 p ( 、 i 0 2 盯 2 口 l p 、 o o 1 0 l 0 c掣，。，可zz，掣bz，t=(i；)c日-，臼b，口s，t-cez：，e。，e。z，丁 即 令： l 疗= a 2 卢= i 1 1 其中卢r r + r + ，因此可以计算得到 如，如) t + ( e l n ，e 2 。，e 3 。) t 扫1 如如 = = 争( 一。，o ，o ) t ( 尻，岛，岛) t ( + 。，+ o 。，+ 。) t 把口= a 2 卢代入犰= x 口+ e l 可得们= x a 2 卢+ e l ，从而可以得到， 其中 雪= x a 2 卢十百= 亭一 雪嚣一j x a 2 卢+ e 一 百 = e ( e n ，e 2 1 ，e 3 1 ) r ( e 1 1 ，e 2 1 ，e 3 1 = e 蚕豢 强，；。) 8 纠 ( 9 ) 一、 0 0 1 0 1 0 1 0 o ，-ll_l、 = t 翮 可 n2 鲈 n + py 如风 陡 风) 偈 o 1 1 仇 = 风 如 包胁 0 砖0 程o 0 ，jii、 = b = 一；x a z = ( 专1 毒1 娄。) ( i ；) ( = ( 萎 萎：一曼。) = ( 耋；耋i 圣；) 仁雕觚肛e 学 肛= b 口= i 口i 1a f l o i ( 风，疡，岛) r = ( 尝，堕弓 叮1 百1 一百1 。 ( p l ，p 2 ， 由于g = ( 瓯l ，e i f ，巧) t 日( 目) y n r ( 百) = 辛y o r ( 一 百) = 一吾y o r ( 百) ( 一吾) t = 从而可得 令 则 f - 一( ；) ，。一 磊乎( 6 北风，去) j n 民十& 一8 3 盯3 3 ( 肛，砉b 3 ) 矗( 觚寺) ；七= 1 ，2 ，3 1 = z 1 1 + z 1 2 + z 1 3 ，= 历1 + 历2 + 历3 ，岛= 磊1 + 磊2 + 磊3 k b = f l ，如) ，k 。= 蜀1 ，蜀2 ，z 1 3 ，忍l ，z 2 2 ，玩3 ，忍l ，忍2 ，z 3 3 ) 啦。) = 陬一( 打警e 计直粤鬟f 生型) 瓯= y 、， 0 o o 0 1 1 r 2 3 0 0 盯 1 一n 2 2 o 盯o 1 一n 2 1 扣o o ，一 = 一舟一钮一咄。广一锄面一锄一铅紫翟晌 一铅 尸而咿狐碱 ， -：d一眈一铅 0 p，一 研 e | | f f 3k 1 一n 3 h 2 1 一n l | l “ 是凤的无约束条件下的极大似然估计 因此，在p r r + r + 的约束条件下，岛，忍，岛的极大似然估计分别为 风= s 1 t m s 1 + o 。) = 最， 屈= 岛& o ! + o 。) + o 厶s 2 o ) ， 岛= 岛丑o 昆 + 。) + o 丑黾 o ) 令 z ”= 磊l ，邑2 ，忍1 ，z 2 2 ，磊1 ，忍2 ) ，玩= 盈1 ，z 1 2 ，忍= 易l ，z 1 2 ) ，毛= 忍1 ，历2 ) 同1 1 部分可求条件预测分布为： ，( 】。脚= 盘2 ( 五i 最，击一堡争) ) 其中 置：( 6 n 岛，也2 卢2 ) t + ! ! 兰堕二莩i ；! 坠垒2 ，i ：1 ，2 ，3 因此由e m 算法，在给定卢的当前估计( t ) = ( 硝o ，属”，露) t 时，可得： e 步； 蹬= 硝+ ( 3 女) 6 ) ) 一1 女) 艟一b 卢( 。】，南= 1 ，2 ，3 m 步： 卢 件1 ) = m 舌扎 m 口。 一o o ，磷。 ，+ 。) = 西 趣件1 ) = m 讯 m n 。 o ，鳄 ，+ o 。) = m o z o ，建2 ) 鹾蚪1 ) = m 饥 m o ，鳄) ，+ o 。 = m 口。 o ，砖) 由于日= a 2 卢，所以 日= a 2 卢= 三) c 盎，庑，磊，r = c 盎，店+ 岛，反+ 庑一岛，t 即可求出目的极大似然估计a 1 3 递增凸序约束条件下参数的估计 这一部分我们考虑1 2 部分中的模型( 8 ) 式在递增的凸序约束os ：生二拿 ：生二拿条件下，求参数目的极大似然估计其中d 1 ，d 2 ，也是已知的，且d 。 d 2 0 把口= a 3 p 代入虮= x 口+ e j 可得们= x a 3 卢+ e l ，从而可以得到， 其中 雪= x a 3 p + 百茸一j 可= 一 x a 3 p + 一 百( 1 0 ) 1 1 0 o 1 l l 卢，一乱 、 0 0 砖 0砖o 砰0 0 ，一 孔 札 ， 哪螂黾 舳一嘞一。一 句 总电邪邪 1 e e ，、 e e o 町o l q 0 o b 7 = 一；x a a 。= ( 。i 1a ；1 ， 。) ( i ；) ( ；窆；奎d 31 。)o o 口f 1 o o 1 1 d 3 一d 1d 3 一d 2 = 攀卦 令仁巨辜卦概酽 ，尾风+ ( d 2 一d 1 ) 岛历+ ( 如一d 1 ) 侥+ ( d 3 一d 2 ) 风 2 i i 一丐r 一 由于e = ( 匹z ，西f ，西 ) t ，所以 = 仨翳竹蚓 y 。r ( 一；i ) = 一 y 。r ( i ) ( 一；) t = ：如。3 ，一j ( 芦，；毛。3 ) 从而可得： f t - ，：) ，已一似。，：) ，如一( 卢s ，：) f l l ，i ) ，已似2 ，i ) ，如( 卢3 ，i ) 爪 磊k 倒( 6 l k 仇，去) ，江1 ，2 j 3 1 = 1 ，2 ，3 l = 玩1 + 历2 + z 1 3 ，如= 易l + 易2 + 忍3 ，矗= 忍1 + z 3 2 + 磊3 k = 1 2 ，如) ，k 。= 历1 ，历2 ，历3 ，z 2 1 ，z 2 2 ，玩3 ，历1 ，历2 ，忍3 ) 则 工( k 。) = ( z ”) 一半( 去) 一半e 印 一g 量毯亭；雩二兰警芷) 号乳= 迄警 是凤的无约束条件下的极大似然估计 因此，在卢r r + r + 的约束条件下，卢1 ，岛，岛的极大似然估计分别为 p l = 研丑一o 。 s 1 + o 。) = 岛，侥= s 2 + t o ! 岛 + o o ) + o 。丑岛 o ) 风= 岛。丑o 昆 + o 。) + o 丑岛 o ，则对一切正定阵p p ，均 击酬一扣e 1 聊南( 2 6 ) p 6 e 印( 一6 p ) 当且仅当e = 去b 时，等号成立 因此，令( 1 1 ) 式中的p = 1 【( 虮一x 8 ) ( 扰一x 日) t 为结论中的b ，则可得在口给定的 情况下，的极大似然估计为： 宝：型 ( 1 2 ) p 1 4 其中d ( 日) = b 【( 虮一盖口) ( 们一x 目) 7 即：可以由e m 算法先求出( “，代入( 1 2 ) 式 中，求出宝( ”，再把金代入e m 算法中，求出( 蚌”，再代入( 1 2 ) 式中求出立( ”， 依此迭代，假设至第m 步时，有 i 旧一5 ( ”一1 ) 0 其中是预先给定的精度，则可以停止迭代，求得日的极大似然估计为d ( m 3 推广 当参数向量日含有多个分量钆，岛，简单序约束为：p ，茎，伞型序约 束为t 曲岛：递增的凸序约束为：。兰塞三鲁曼老三鲁三， 这里 以) 是已知的，并且d 1 = 0 0 0 5 b e t a l t = b e t a l s ： b e t a 2 t = b e t a 2 8 ： b e t a 3 t = b e t a 3 s ： s = z e r o s ( 3 ，3 ) ； t o ri = 1 ：9 s = s + ( y ( ：，i ) - ( x 4 a 2 + b e t a t ) ) + ( y ( ：，i ) - ( x + a 2 + b e t a t ) ) ； e n d s ； s i g m a = 1 9 + s ； a 1 = 【1 ，0 ，o 】； 8 i g m a l = s q r t ( a l + 8 1 9 m 扩a l ) ； b 1 = 0 ，1 ，0 ； 8 i g m a 2 = s q r t ( b 1 + 8 i g m a 乖b 1 ) ； c 1 = 0 ，0 ，1 ； s i g m a 3 = s q i t ( c 1 + 8 i g m a 木c 1 ) ； c = s i g m a l ( - 1 ) ，o ，o ；o ，s i g m a 2 ( 一1 ) ，o ；o ，o ，s i 弘l a 3 “( 1 ) 】； d = c + x 4 a 2 ： b 1 1 = a l + d 卓a 1 ： b 2 2 = b 1 + d + b l ： b 3 3 = c l + d + c 1 ： b 1 2 = a 1 + d 幸b l ： b 1 3 = a 1 + d + c 1 ： b 2 l = b l + d + a l ： b 2 3 = b 1 4 d + c l ： b 3 1 = c 1 + d 4 a 1 ： b 3 2 = c 1 + d + b l ： z 1 1 = s q r t ( 1 2 7 ) + r a n d n ( 1 ) + b 1 1 e t a l t ； z 1 2 = s q r t ( 1 2 7 ) 4 r a n d n ( 1 ) 十b 1 2 e t a 2 t ； z 1 3 = 8 q r t ( 1 2 7 ) 8 r a n d n ( 1 ) + b 1 3 e t a 3 t ； z 2 1 = s q r t ( 1 2 7 ) + r a n d n ( 1 ) + b 2 1 e t a l t ； z 2 2 = s q r t ( 1 2 7 ) + r a n d n ( 1 ) + b 2 2 掌b e t a 2 t ； z 2 3 = s q r t ( 1 2 7 ) + r a n d n ( 1 ) + b 2 3 e t a 3 t ； z 3 1 _ s q r t ( 1 2 7 ) + r a n d n ( 1 ) + b 3 1 牛b e t a l