(运筹学与控制论专业论文)异方差截尾线性回归模型参数极大似然估计的存在性.pdf_第1页
(运筹学与控制论专业论文)异方差截尾线性回归模型参数极大似然估计的存在性.pdf_第2页
(运筹学与控制论专业论文)异方差截尾线性回归模型参数极大似然估计的存在性.pdf_第3页
(运筹学与控制论专业论文)异方差截尾线性回归模型参数极大似然估计的存在性.pdf_第4页
(运筹学与控制论专业论文)异方差截尾线性回归模型参数极大似然估计的存在性.pdf_第5页
已阅读5页,还剩25页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

摘要 在试验设计中,如果观测值是完整数据,即试验中没有数据是截尾的, 则使用传统的方法如最小二乘法等就可以分析但是,对于有截尾观测数 据的线性回归模型,这种方法不适合似然方法能够容易地同时处理完整 数据和截尾数据对截尾数据用似然方法的一个问题是未知参数的极大似 然估计( m l e ) 可能是无穷大,即m l e 不存在因此研究m l e 的存在性问 题很有必要s i v a p u l l e 和b u r r i d g e ( 1 9 8 6 ) 给出了同方差下截尾线性回归模型 参数的m l e 存在的充分必要条件并可以转化为线性规划的问题h a m a d a 和t s e ( 1 9 8 8 ) 给出了方差为常数,截尾线性回归模型参数m l e 存在的充分 必要条件但对于异方差截尾线性回归模型参数m l e 是否存在和将方差作 为试验因子的函数建立散度模型后参数m l e 是否存在的问题,文献中都没 有研究尽管毕华( 2 0 0 4 ) 在前人的基础上提出了在异方差截尾线性回归模 型同时估计位置效应和散度效应的迭代算法,也还是没有讨论在这个模型 下参数m l e 是否存在的问题 本文在s i v a p u l l e 和b u r r i d g e ( 1 9 8 6 ) 的基础上,将同方差下截尾线性回归模 型参数m l e 存在的充分必要条件进行改进,提出异方差截尾线性回归模型 参数m l e 不存在的条件并证明,此条件可以转化为线性规划的问题,同时 给出几种特殊的情形判断参数m l e 不存在的更简单的条件;接着给出将方 差作为试验因子的函数建立散度模型后参数m l e 不存在的条件并证明 关键词:截尾数据;线性回归模型;极大似然估计;方差;散度模型; a b s t r a c t i ne x p e r i m e n to f d e s i g n i u g ,i f w ec a no b s e r v ea l l t h ec o m p l e t e d a t a s ,ie ,t h e r ea r en e e c e n s o r e dd a t a si ne x p e r i m e n t ,w ec a na n a l y z et h e mb yt r a d i t i o n a lm e a n sb u t ,i ti s n t s u i t b l ei nc e n s o r e dl i n e a rr e g r e s s i o nm o d e l sw i t hc e n s o r e do b s e r v a t i o nd a t a sl i k e l i h o o d m e t h o d sc a nt r e a tf a i l u r ed a t a sa n dc e n s o r e dd a t a se a s i l yb u ti t i s ap r o b l e mt h a t m l em a yb ei n f i n i t e n a m e l y , m l ei sn o te x i s t e d s oi t i si m p o r t a n tt oc o n s i d e rt h e e x i s t e n c eo fm l eo fu n k n o w np a r a m e t e r s f o rt h ee x i s t e n c eo fm a x i m u ml i k e l i h o o d e s t i m a t eo ft h ep a r a m e t e r s ,t h es u f f i c i e n ta n dn e c e s s a r yc o n d i t i o ni nl i n e a rm o d e l sw i t h c e n s o r e dd a t ai si n t r o d u c e db ys i v a p u l l ea n db u r r i d g e ( 1 9 8 6 ) ,a n dt h e s ec o n d i t i o n sc a n t r a n s f o r mt ol i n e a rp r o g r a m m i n gp r o b l e m h a m a d aa n dt e e ( 1 9 8 8 1g i v e sas u f f i c i e n t a n dn e c e s s a r yc o n d i t i o ni nc o n s t a n tv a r i a n c e st o o b u ti ti sn o tm e n t i o n e di nr e f e r e n c e s t ot h ee x i s t e n c eo fm l ei nc e n s o r e dl i n e a rr e g r e s s i o nm o d e l sw i t hu n e q u a lv a r i a n c e s a n di nd i s p e r s i o ne f f e c t sm o d e l s a l t h o u g hb i h u a ( 2 0 0 4 1d e c r i b eai t e r a t i v ea l g o r i t h m o fi d e n t i f i n ga n de s t i m a t i n gb o t hl o c a t i o na n dd i s p e r s i o ne f f e c t si nc e n s o r e dl i n e a r r e g r e s s i o nm o d e l sw i t hu n e q u a lv a r i a n c e s ,t h ee x i s t e n c eo fm l ei s n td i s c u s s e dt o o i nt h i sp a p e r ,w eg i v et h es u f f i c i e n tc o n d i t i o na n dp r o o fo fm l en o n e x i s t e n c eo n t h eb a s i so f s i v a p u l l ea n db u r r i d g e ( 1 9 8 6 ) ,i m p r o v i n gt h es u f f i c i e n ta n dn e c e s s a r yc o n d i t i o ni nc e n s o r e dl i n e a rr e g r e s s i o nm o d e l sw i t hs a m ev a r i e n e e a n dt h e s ec o n d i t i o n sc a n t r a n s f o r mt ol i n e a rp r o g r a m m i n gp r o b l e m ,t o ot h e nw eg i v et h ec o n d i t i o na n dp r o o f o fm l en o n e x i s t e n c ei nd i s p e r s i o nm o d e l k e y w o r d s :c e n s o r e dd a t a ;l i n e a rr e g r e s s i o nm o d e l ;m a x i m u ml i k e l i h o o de s t i m a t e ; v a r i e n c e :d i s p e r s i o nm o d e l 引言 引言 问题的背景 试验设计中,考虑如何通过使用设计的试验来改善产品和生产过程的可靠性在 这种试验中,每一个单元被一直检测,直至其失效或到试验终止时仍未失效若单元失 效,试验响应就是它的失效时间( f a i l u r et i m e ) 如果已知真实响应高于某个定值t o , 则说它是t o 右截尾的( r i g h tc e n s o r e d ) ,当试验单元在终止时间t o 仍未失效就是这种 情况;若已知真实响应低于某个定值t o ,即在区问 0 ,t o ) 或( 一o 。,t o ) 中,则说它在t o 左截尾( 1 e f tc e n s o r e d ) ;第三类是区间截尾( i n t e r v a lc e n s o r i n g ) ,是指已知真实响应位 于一个区间中区间截尾常常出现在如下的可靠性研究中:在指定的时间检测一个试 验单元直至其失效,这样其失效时间就介于相继的两个检测时间之间,即为一个区间 截尾响应 假设t 表示一个单元的失效时间,如果试验数据服从对数正态分布,又没有试验 数据是截尾的,则对数据f n 岛使用标准的回归技术是合适的而对于回归模型中有一 些数据截尾时,这种方法就不合适了一种分析方法是将右截尾时间处理为实际失效 时间,然后用标准方法但是,忽略截尾信息可能导致错误的判定,这依赖于特殊的 因子组合h a m a d a 和w u ( 1 9 9 1 ) 的一项模拟研究表明,该方法可能表现的相当糟 糕,会漏掉一些重要的效应,并且错误的识别出”假”效应似然方法能够容易地同 时处理失效数据和截尾数据 对截尾数据用似然方法的一个问题是m l e 可能是无穷大,使得不能通过比较 m l e 与它们的标准误差来检验重要的效应h a m a d a 和t s e ( 1 9 9 2 ) 得出结论t 对 2 kp 设计其中拟合模型的参数个数与观测的个数几乎相同,特别是只有一次重复时, 可估性问题常发生 由于截尾数据和失效时间数据之间的分离形态会强烈地提示潜在协变量的一个显 著效应和一个很大的改进机会,因此就必须表述m l e 的可估性问题p r a t t ( 1 9 8 1 ) 和b u r r i d g e ( 1 9 8 1 ) 分别提出了对数似然函数凹性的理论依据s i v a p u l l e 和b u r - r i d g e ( 1 9 8 6 ) 在此条件下,提出了同方差截尾线性回归模型下参数m l e 存在的充分 必要条件h a m a d a 和t s e ( 1 9 8 8 ) 提出已知方差截尾线性回归模型下参数m l e 存在 的充分必要条件但是没有文章中给出异方差截尾线性回归模型下参数m l e 存在的 条件 对质量改进技术,减小响应变量的方差是目的一个广泛使用的方法是研究高 2 异方差板尾线性回归模型参数极大似然估计的存在性 部分的两水平试验,识别出影响响应期望的因子,即位置效应( 1 0 c a t i o ne f f e c t ) 和影 响响应方差的因子,即散度效应( d i s p e r s i o ne f f e c t ) 一般地,散度效应因子用来得 到目标值附近的最小方差,位置效应因子产品或生产过程达到目标值,并且效应不显 著的因子选择它们最经济的水平一些作者提出在无重复试验中识别散度效应的方法 ( d a n i e l1 9 7 6 ,b o xa n dm e y e r1 9 8 6 a ,w a n g1 9 8 9 ) b r e m l e m a n 和n a i r ( 2 0 0 1 ) 给出了在 无重复试验中识别散度效应的各种方法并通过模拟研究表明m l e 方法的精度最高。 因此,我们有必要研究建立散度模型后参数m l e 的存在性问题 这篇文章的目的就是在s i v a p u l l e 和b u r r i d g e ( 1 9 8 6 ) 的基础上,给出异方差截尾 线性回归模型和散度模型中参数m l e 不存在的条件,并把它转化为线性规划求解的 问题 理论基础 引理1 :设x 是( b ;) 空间, ecx ,e 是闭凸子集,若z 。e ,。一x 0 ( 弱收 敛) ( n o 。) ,则有o 。e 引理2 :设x 是自反的( b ) 空间,e x 是闭凸子集,:e 一_ r ,足e 上的实泛 函,满足 ( 1 ) f 是下半连续的, ( 2 ) f 是凸函数, ( 3 ) f 在e 上有下界, ( 4 ) l l :d i o 。时,f ( x ) 一+ 。, 则r 在e 上达到最小值 证明:设m = i n f 。f ,( 。) ,由( 3 ) 知m 一o 。于是存在z 。e ,f ( z 。) 0 使l i 。l | 墨c = 1 ,2 ,由x 的自反性,则存在 z 。) c z 。 ,使z 。一轧( 弱收敛) ( 一o o ) ,z 口x 由条件( 1 ) ,( 2 ) 及e 的闭性可知乃是闭凸集,而由z 。一( 弱收敛) ( k o 。) , 蜘x 和f ( x 。) m + 二1 n 一1 ,2 ,- 又知f ( x 。) 一m ,( z 。,( z 。) ) 一( z o ,m ) ( 弱 收敛) ( 一。) 这里( z 。,f ( x 。) 乃,= 1 ,2 , 由引理知: ( 。o ;m ) d ,即2 5 0 e ,且 l ,( 。o ) :而由m 是最小值又有 f ( z o ) m ,所以有,( z o ) 一m 即f ( x ) 在e 上达到最小值证毕 同方差截尾线性回归模型 引言 z 。和吖是p 维向量,;是独立同分布且密度函数为,( ) 假设当r 十1 兰2 n 时,y 。为精确数据,当lsi r 时,a 。茎y 。茎b 。,其中a l ,阢为给定常数,并且 令0sr l5r 2 r ,当1 i r l 时,有一。= 盘 6 。 。;当n + 1si r 2 时,有一o 。 o ; 钆= o 。;当r 2 + lsisr 时,有一o 。 a , o ;( 3 ) = r = r 2 不成立;( 4 ) 设计矩阵( z , ,z :) 列 满秩,且存在日o = ( 卢o ,h o ) 使得l ( 0 0 ) 0 ,其中h o 0 令 毋= 日:对任意0 ,l ( 0 ) 兰l ( 口) ) ,那么如果 的闭集是目:h 0 的非空紧 子集,则m l e 存在记r 9 为p 维欧氏空间 定义t d = 0 ,对n + 1 isn + r r 2 ,并且 1i = 0 晚 1 z r l 0 2 i = 0 4 r l + 1 茎i r 玑r + 1 墨i 曼礼 b 州+ r 2 札+ 1si 他+ r r 2 令施= ( 一飘,u ;) ,o i n + r n 条件s :存在一个日0 ( i ) z o o 0 n ”2 ; ( i i ) z t 0 20 ,0 i 茎r l 且t t + l i 茎似+ r r 2 ; ( i i i ) z e 口茎0 ,r 1 + 1s isr ; ( i v ) z t o = 0 ,r 十1s i 茎n 引理3 :m l e 存在当且仅当条件s 不满足 证明t 由于一f o g ,( ) 是凸函数,一l o g l ( e ) 也是凸函数,( ) 的连续性保证了一1 0 9 f ( ) 是下半连续的因此,在h 0 上,定义一l o g l ( o ) = o 。在r 9 + 1 上,一l o g l 是 3 0矿n 0 一 e盯 + 7 z = 可 型 模陛线 虑 考 4 异方差截尾线性回归模型参数极大似然估计的存在性 完全闭凸函数对任意,口= ( 卢, ) ,令9 ( ) = 一l o g l ( o o + k o ) 因此 g ( ) = 一l 。g f ( 一。, z i o 。+ k z i o ) 一l o g f ( 锄0 + 口,。) 1 7 l + 1 l o g f ( z i 0 。+ k z ;0 ,* 州0 + 女札。口) 2 + 1 一( n r ) l o g ( h 。p 愚) 一l o g f ( z o 。+ k z i o ) 必要性:反证法:假设对0 ,条件s 满足显然当一。时,一l o g l ( o o + k o ) 一一 因此,0 是空集或无界集 m l e 不存在 充分性:条件s 不满足时,令0 = ( 口, ) ,只要证明0 不是l o g l 的回收方向并且在 r 川1 上 目 的闭集是 o ) 的子集,m l e 存在由条件s 不满足,有四种情 形: ( a ) h 0 两种情形对情形( b ) 证明 当k 一。时,g ( k ) 一。,其他情形的证明与此类似 情形l :九= o 一。时,g ( k ) 中的每一项都是下有界的如果存在一个7 ,z j o 0 如果= n 对情形( 6 ) 一一( d ) 的讨论同情形l 类似当a 一。时, 9 ( a ) 一。如果n r ,函数的凸性保证了一o 。时,对任意的“,h o ,v o 和 l 0 ,都 有 一a l o g ( h o 十k h ) 一l o g f ( v o + 1 ) ) 一。和一a l o g ( h o + k h ) 一l o g f ( 一o 。口。一l c v l ) 如果存在一个7 ,z f l 0 ) 中如果礼 r ,那么0 0 ,有 6 自) 包含在 口:h 兰6 ) 中如果n :r , l ( o )舰卢,h b :一舭卢) 引言 由于f 连续,l ( 目) 在r p “上也连续 毋= l - i l 。 是r p + 1 的闭子集对任 意的屈由于l ( e o ) l ( 卢,0 ) = o ,有五 o i 即 田c 口:h o ) 因此,在r p + 1 上 日) 的闭集包含在p :h o ) 中 当条件s 不满足时,m l e 存在 方差等于1 的截尾线性回归模型 考虑线性模型 叭= o l 口+ 日,( 1 isn )( 1 ) 其中轨和p 是p 维向量,妊d 是独立同分布且已知密度函数,( ) 和分布函数f ( - ) 假定对于0 r l 茎r 2 茎r n ,观测值y i 可以分为, ( o 。= a l 玑 b i 。,1 i 茎r l ( 左截尾) ; ( b ) 一。 吼 叭 跌= o 。,r l 十1 墨r 2 ( 右截尾) ; ( c ) 一。 吼 y i b i 0 r l r 2 妒+ 卢) = 一l o g f ( 一o 。,b ;一筑( 矿+ 一l o g f ( a 。一甄( 卢+ + 蛾。) 1 r l + l 5 6 墨于差截尾线性回归模型参敷极大似然估计的存在性 l o g f ( a 。 2 + 1 l o g f ( y 。 。;( 卢+ + k e ) ,b i 一。( 卢+ + e ) ) 霸( 口+ ik e ) ) l ( 9 4 ) 因此,当k 0 0 时,f ( + k e ) 是非增函数如果2 ( 卢+ + k e ) = f ( 矿) ,那么矿+ k e 口,b 是无界的如果f ( 矿+ k e ) 0 ,存在】i r 1 : ( b ) x e 0 。i 和卢是p 维向量, ,是独立同分布且密度函数为,( ) 令h i = 口f 1 ,日= ( p ,h 。,h 。,h m ) 为未知参数 不失一般性,对任一1 墨ism ,每组观测值包含如下四种情形。 ( a ) 一o 。= a i jsy i jsb i j o 。,1sj 皿l ( 左截尾) ; ( b ) 一。 a i j y i j b i j = o 。,忍l + 1 jsr 2 ( 右截尾) ; ( c ) 一o 。 o ) ;( 2 ) 设计矩阵列满秩,且存在驴= ( 伊,础,) 使得l ( e o ) 0 , 其中明 0 记钟为p 维欧氏空间 记f ( 口) = 一l o g l ( e ) ,参数口的m l e 为眠则其等价于日+ 使f ( 目) 最小化,即 b = 矿:f ( 矿) = m 饥f ( 9 ) ) 是非空有界集 定义矿条件:对所有1 t m ,存在卢0 ,使得 ( j ) z :,卢s0 ,1 j r l ; ( f ) 。:,卢0 ,r 1 + 1 j 砬2 ; ( f ) z :,厚= 0 ,r 2 + l j 茎眦 定理l :如果矿条件满足,则m l e 不存在 证明:假定对所有1 i m ,存在一个口0 ,1 8 t :t p 满足s + ,即: ( i ) z :,卢0 ,1 js 忍l ; ( i i ) z :,卢兰0 ,尼1 + 1 鼠2 ; ( i i i ) z :,卢= 0 ,r 2 + 1sj 腿; 7 6 卢 , 石一nh , f 盈赳 ,fl m 8 异方差截尾线性回归模型参数极大似然估计的存在性 用反证法:假设参数0 的m l e 存在,记为0 + = ( 矿,燃,鸠,h 勃) 则对任意的 0 ,由分布函数f 的性质有: ( i ) - l o g f ( 一0 ( 3 , ;( 6 q 一。;( 卢+ 十女卢) ) ) 茎一l o g f ( 一o 。,h ;( 一。i 卢+ ) ) ,l j5 只。1 ( i i ) 一l o g f ( h ;( a i j 一。0 ( 卢+ + 血卢) ) ,o 。) 一l o g f ( h ;( a j 一。毛卢+ ) ,。) ,兄。1 + lsjsr 2 ; ( 1 1 1 ) 一l o g f ( h ;( a i j z ;( 卢+ + 卢) ) ,埘( 机j z :j ( 卢+ + a 卢) ) ) 一z o g ( h ;) 一l o g f ( h ;( y q 一。j ( 卢4 + k 卢) ) ) = 一l o g f ( h r ( a i 一。;卢+ ) , :( 6 u z 0 卢+ ) ) 一f 。目( :) 一l o g f ( h * ( y i j 一。;肛+ ) ) , 1 2 + 1 j 兰腿; 从而 m 且1 l ( 卢+ 十k 卢啊,嘞) = 【_ l o g f ( 一o 。,埘( 一z 凇+ + 口) ) ) i = 1 ,= 1 只,2 + 【_ i o g f ( h * ( a 。一;( 矿+ 吼。) j j = 凡;l + l 且 + 芝二 一f 0 9 f ( h ;( o 。一z 。t ( 卢+ 一i - 卢) ) ,k ( 6 ;,一z i ( 卢4 + 口) ) ) j = r i | 2 + 1 肌 + 卜均( k ) 一忉,( 埘( g _ 【厂z ;( 卢+ + 叩) ) ) 】 ,k ( 6 。一。j 卢+ ) ) 十【- i o g f ( h ;( a u 一。0 卢+ ) ,。) 】 ,= r l + l r 。 + 卜忉f ( k ( o 。,一护) ,埘( 一。;口+ ) ) ,= 皿2 + 1 。 + _ i o g ( h ;) l o q f ( h t ( y 。一z ) ) 】 j = 且i - - i = z ( o + ) = f ( 矿,坛,h 南) 如果f ( 矿+ 彬,城,7 z :,一,h ) = f ( 矿, :,蝣, 越l 则说明b 是无界的;如果f ( 矿+ 卢,忍:, ;, ,h 新) r 。,存在p ,使得 ( 1 ) a n g 一甄t ,卢墨o ,当1 j 茎r l : ( 2 ) b t j 一:,卢兰0 ,当皿1 + l j 茎1 t 2 ; ( 3 ) a t jsz ;,卢茎6 坷,当r 2 + l 茎j 恳 p g 0一 轧一 rl y m 。 0 有: f ( 声,础,h 2 ,一, 巴,h ? + k h c ,h 0 1 ,一,h ) ,儿“r1 = 1 一l o g f ( 一o 。,( h ? + k h t ) ( 一。j 圳 丑e 2 一 + | _ t o g f ( ( h ? + k h c ) ( 一z 0 口) ,。) j = 只“+ 1 + 【一l o g f ( ( h ? + k h c ) ( o 旷z 锏,( 霹+ ) ( 6 旷。厕) i j = r , 2 + 1 + _ f 0 9 ( h ? + k h t ) 乩9 邶) ) + 妻 釜 - i o g f ( - o o , h i o g f (? ( 一+ ? ( 一z o 训 r 2 一 + j - l o g f ( h o ( a i j 一茁0 声) ,。) l j = r i i + 1 + l l o g f ( h o ( a 旷z 辆,瑶( 6 旷z 垧) l ,= 丑2 + 1 + 妻f 乩9 ( 砖) 山g f ( h ? ( y u 一。1 ) ,= r ,+ 1 考虑上式中第一部分花括号中的内容,因为对1 t m ,l j 茎丑,b 。一z i 口 0 ,一。0 声兰0 ,一l o g f ( o ) 为常数,而第二部分对给定的声,蝴,璃,醒,h 为 定值,所以,当一。,z ( 芦,丘2 ,明,h i 。,明+ k h t ,h _ ,h ) 一一。故b 为 空集或无界集,m l e 不存在 l o 墨空差截尾线性回归模型参数极大似然估计的存在性 第二章条件的验证办法 定理1 给出的s + 条件在实际中不容易验汪,本文将矿条件转化为线性规划求 解问题,从而线性规划解的存在性判别方法可用来判断参数m l e 的存在性 在s 4 条件中令z o = ( 。;) ,1 i 茎m 1 茎,r 1 为芒1r ,。p 维矩 阵, z 1 = ( 。:,) ,1si m :r l + l 茎j 曼r 2 为丝( r 2 一r ;1 ) p 维矩阵, 局= ( 蜀一蜀) 7 ,磊= ( 。孔i 一1 ism ,r 2 + 1 兰j 肌为兰。( m r 2 ) p 维矩阵,非零向量卢,则s + 条件可以表达如下; 存在卢0 ,使得易卢0 ,玩卢= o f 2 1 ) 于是化为线性规划求解问题,本文将简述如下:假设z = ( 蜀,蜀) 7 ,且秩r ( z ) = p , 如果r ( 毛) = p n 那么这个问题就可以简化为。 寻找 = ( w l ,w 2 , ,) 0 ,使得 c ws0 ( 2 2 ) 这里w 是卢的子集,c 为秩为r 的由扬,历简化后的矩阵,为将此问题转化为标准 线性规划形式: 首先引入一非零的松弛变量s 来代替无约束的向量 ,使这个问题变为: 寻找s 0 ,使得d s 0 ( 2 3 ) d 在下文中有交代 如果存在w 0 ,满足( 2 2 ) 式,则存在松弛变量s + 0 ,使得( c 州ws ) 7 = o ,其 中i 代表单位矩阵又因为c 是r 满秩的,则上式可以写为: ( 基: 北 其中c 1 为非奇异的rxr 矩阵,s * l 为rxi 向量,求解( 24 ) 式,有 = 一g i l s i ,s ;= g 2 g i l s j( 2 5 ) 在( 2 3 ) 式中,如果令d 一岛g i l ,s = s j ,则( 2 2 ) 式就转化为( 2 3 ) 式除了平凡的 情形,( 2 3 ) 式转化为的线性规划问题为; r a i n e s 。, s tc s - b s 0 这里b = ( 1 ,1 ) 。 p 条件的验证办法 则可用现成的线 生规划的求解方法来判断是否存在可行解故若缌i 生规划问题存在可 行解,则本文所考虑模型的参数m l e 不存在 定理2 中的条件同样可以转化为线性规划的求解问题 1 2 异方差截尾线性回归模型枣数极太似然估计的存在性 第三章散度模型中参数m l e 的存在性 考虑截尾散度效应线性模型玑= 。猡+ 0 ( 5 i ,口? = e 印( ) ,1 2sn ,其中p 维 向量x i 为设计矩阵x 的第i 行,q 维向量z 。为设计矩阵z 的第i 列,x ,z 均列 满秩,黾是ii d 密度函数为,( ) ,且l o g f ( o ) 为常数口= ( 卢7 ,) ,为p 十q 维未知 参数 不失一般性,假定观测值虮包含如下四种情形; ( 血) 一= 毗弘吼 。,1 茎i 曼r 1 ( 左截尾) ; ( b ) 一i x ) a is 玑晚= o o ,r t + l 。茎r 2 ( 右截尾) ; ( c ) 一。 a l y i j 良 。,r 2 + l i r ( 区间截尾) ; ( 回虮为精确值,r + l 曼i ( 完金数据) 其中o b 为常数 参数日= ( 卢7 ,声y 的似然函数为 硼,= 垂f ( 唧t 一洳瑚唧c 一拗删) 。重,唧t 一知,一扣咄瑚) 其中f ( 。,b ) = e f ( t ) d t 记f ( 印= - l o g l ( o ) ,记参数口的m l e 为”则其等价于矿使2 f 口) 最小化本文中所 说的p 的m l e 存在,是指b 一 矿:f ( 伊) = m m 2 ( 目) ) 是非空有界集 定义s :存在一个非零的向量口形,使得 ( ,) 口:卢0 ,1 茎i r 1 ; ( ,) z :卢20 , r l + 1 曼i r 2 ; ( j j j ) z :序= 0 ,r 2 兰i 墨n 定理3 :若s 条件满足,则m l e 不存在 证明:用反证法,假设存在极大似然估计,记+ ,+ 为声,的m l e 若条件p + 满 足,即存在一个非零的卢彤满足上述( n ( j 耽( ,) 则有 2 ( 矿,口+ + 印) = + + 一l o g f ( 一。,e z p 卜;桫一z 妒+ 卢) ) ) ) 一r 。妒( 唧 一影1 移+ 一z :汐+ 国) ,。) ) 一f 卵f ( e 哦一;桫一z 妒+ 卢) ) ,唧卜;桫,( 岛一z 妒+ 女删 r,l 、 ,+ 、 ,+ 皿引气董壹一 一 苎些垫型皇垒些丝里竺童垒些 1 3 + ;妻,像4 - l o g f ( 唧 虿1 矽t 叫( 队) 霎 - l o g f ( 一唧印( 7 1 枞乜叫叫) + ,薹。h ,f ( 唧吲1 叫,o 。) ) +。量_f09f(聊一拶1(gl-x1 巩酬一炉琊+ ) ) l = r 2 + “ 4 ,j + ;萎。谚1 扩i * 唧吖州一1 卅( 叫阳) ) 叫尤纠 如果f ( 西+ ,伊+ p ) = f ( 扩,矿) ,则说明b 是无界的;如果 ( 矿,矿+ 印) o ,q = ( z r 2 r + 2 ,z ) 行满秩,则9 条件满足时,m l e 不存在 证明,当q 行满秩时,存在后使得y ;= z ,i = r + 1 ,r + 2 ,且假定存在一个 非零的币满足雪的上述条件,则有 2 ( 扩+ 2 。萋 - l o e f ( 一唧茁p 与1 凇+ 州玩一蜘 + f l o g f ( e 印( 一;( 矿+ 女) ( n 。一。厕,。) 1 仁r 1 + 1 、 j + 摹 一l o g f ( 聊一w + 堋。;一搋e 印1 彬+ 吲) ( 既一) ,= r 2 + 1 。 “ j + 萎般) 一l o g f ( e 吲一拶1i ) ( 玑一圳 1 ,:只+ 。 j 因为在上式中l o g f ( e x p ;。:矿 ( 玑一z ;声) ) :l 。g ,( o ) 为常数,当- 。时, 1 4 异方差截尾线性回归模型参数极大似然估计的存在性 ( a ) 一l o g f ( 一。,e x p 一;( + + 毋) ) ( 6 。一。:卢) ) + 0 ,当l 兰isr 1 ; ( b ) - l o g f ( e x p 一i 1 i ( 矿+ ) ( m z :卢) ,。) 一- l o g p l ( o ,o 。) 为常数,当r 1 + l 玉i r 2 ; ( c ) 一l o g f l ( e z p i 。:( 咖+ + k 毋) ) ( 。,一:卢) ,e z p 一;。:( 母+ + k 咖) ) ( 6 。一:卢) ) 为常数,当r 2 + lsi r ; ( d ) 百1 矗t ( 矿+ 七曲) ,一o 。当r + 1si n 所以一o 。f ( 矿+ 晚卢) 一一o 。因此,b 为空集或无界集,m l e 不存在 定理5 :如果存在p ,使得 ( 1 ) 一z ;卢s0 ,当lsjs r l ; ( 2 ) b j 一肛0 ,当月l 十ls r 2 ; ( 3 ) 口j 茎z :肛墨,当r 2 + 1 j 茎r ( 4 ) y j = z :卢,当r + 1 曼j n 则m l e 不存在 证明:存在口满足巴述条件 亿一 1, f ( 扩+ ,序) = = 卜l o g f ( 一o o ,e 印 _ ;( + 一 咖) 一z i + | 一l o g f ( e 研, 一i l z :( 矿+ a ) ) ( 啦一p ) ,o 。) l 2 = “1 + 1 + l f 。9 f ( 唧卜i 1z 缈 妒) ) ( 。一z 执8 z p 一1 ( 西+ + ) 一z :声) ) 1 j = r ,+ 1 。 一一 + 翰卅) 一t o g ( o ) ) j = r i 1 一 因为在上式中一1 0 9 f ( o ) 为常数,当一。时, ( 。1 当r 1 曼i n 时 因为,存在p ,使得y 。= m :声,一i o g f ( o ) 为常数,则必存在一个非零的,使得庐 0 其中i 一2 ,n 1 5 ,飓= 2 ,x t j 和卢为二维向量,服从标准正态分布,具体的数据见下表: 似然函数为 表1 i = 1i = 2 j l234512 z u l 1o00 000 j 2 i j 2 0123456 y i j o041235 i i a i l 咖 ( 抛, 令 胛 为序= ( 历,岛) 中卢的一个序列 且口j l 口r 1 0 时,对i = l ,2 ,有j 卢 0 ,1 曼j 4 :易卢= 0 ,5 茎j 曼8 也就是说在单因子二水平试验中,在每个分组内,如果响应在这个因子的某一水 平上都是截尾数据,而另一水平上都是精确数据的话,由定理l 知,参数的m l e 不 存在 可rl一l 矿 。脚 、, 盯 o 例子1 7 类似的,在多因子试验中,在每个分组内,如果右截尾数据和实际失效时间数据 按照某个协变量被分离,那么参数的m l e 不存在下面我们以一个三因子主效应试 验来说明,见表2 的右半部分 表2 试验号 试验数据 试验类型 因子aabc 1 20r 1 l 1 1 220r1l11 32 0rl111 42 0 r 1l1 1 5o 5e1111 60 8e1111 7 0 9e1 111 8 1 0e1。1一l1 920rll11 1 0 20r 1l11 1 1 20r 1l11 1 22 0rll11 1 3 1 4el一111 1 4 1 5el 1l1 1 51 6el1一11 1 617e一1一l11 假设响应在因子a 的负水平上是右截尾数据,而在正水平上是精确数据,则显然 每个分组内的没计矩阵可以写为: 牡z z 、 一 一 一 一 ,。、,。、lll, 1 1 l l 一 : 1 8 则 异方差截尾线性回归模型参敷极大似然估计的存在性 x 。8 肌、 皇+ z t1 其中廖:i 肌i ,卢:f ,o1 一卢 + z 卢7 l2 j 、卢 因此,当施口一一饥 0 时。满足定理1 的条件,m l e 不存在 ,、 讨论 第五章讨论 1 9 由于在异方差截尾线陆回归模型和散度模型中,似然函数分别为: l 1 ( 日) = n fh i ( a q z ;口) ,h t ( b i j 一。;口) ) 1 - ih i ,( 亿( 。一茁;卢) ) ) t = 1 ,= 1 2 且+ l = 垂fe x p 一1 撕( 州, e x p 7 1 铆m 删) :爨n ,唧 专斟,( 唧 7 1 柳( 舭柳 其中f ( o ,b ) = rf ( t ) d t 要想说明参数m l e 存在,由引理2 ,必须说明一l o g l l ( 口) 和一l o g l 2 ( o ) 分别满足四个条件,但是,我们对一l o g l l ( 日) 和一l o g l 2 ( 口) 无法用b u r r i d g e ( 1 9 8 1 ) 的方法验证一l o g l l ( o ) 和- o g l 2 ( 对参数0 的凸性,因此,很难给出异 方差截尾线性回归模型和散度模型中参数似然估计存在的充分必要条件 在t i m om a k e l a i n e n ,k l a u ss c h m i d ta n dg e o r g ep h s w a n ( 1 9 8 1 ) 的文献定理21 中给出了参数极大似然估计存在的充分条件,这个条件不要求对数似然函数对参数的 凹性,但是,需要验证其他两个条件: 定理2 1 记l ( o ) 为连续二次可微的似然函数,0c0 ,0 是舻的一个紧的开集如 果满足 ( i ) l i m o 。o o l ( o ) = 0 ( i i ) 海赛矩阵日( 口) = 鬻) 在v l 一( o l a 仇) = 。的任意口c 。是负定的 则有: ( 1 ) 存在唯一的极大似然估计; ( 2 ) 似然函数满足( a ) 在0 中没有其它的极大值点;( b ) 也没有极小值点和其它稳定 点;( e ) l ( o ) 0 日ce 其中条件( i ) 保证了参数m l e 的存在性 目前,作者正在做这一工作,试图想应用这一定理给出异方差截尾线性回归模型 和散度模型参数极大似然估计存在的充分条件,进而希望能够给出它们极大似然估计 存在的充分必要条件 另

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论