（概率论与数理统计专业论文）多元logistic分布及其参数估计.pdf

摘要 摘要 本论文研究多元l o g i s t i c 分布的性质及其参数估计，主要内容分三部分。 第部分首先介绍蛐i c 分布的研究背景，并对一元l o g i 8 t i c 分布的定 义、性质等方面的内容做了简要介绍；然后介绍垂直密度表示方法及其应用 垂直密度表示方法是构造多元l o g i s t i c 分布的基础 第二部分讨论多元蛐i c 分布的构造问题首先利用垂直密度表示方 法构造多元l o g j g t i c 分布，由这种方式构造的多元l o g i g t i c 分布具有很好的性 质，如其任何边缘分布还是多元或一元s t i c 分布等然后对所构造的这种 多元l 喇i c 分布的性质进行研究，着重讨论二元蛐i c 分布的性质 第三部分讨论多元l 口g i b t i c 分布的参数估计问题有多种评价估计量优劣 的准则，如无偏性、相台性和渐近正态性等这一部分主要研究多元s 比 分布的参数估计是否具有这些好的性质 关键词t 垂直密度表示多元l o g i s t i c 分布协方差阵数字特征参数估计 北京工业大学理学硕士学位论文 a b s t r a c t i nt h i sp a p e r ir e s e a r c ho nt h ep r o b l e ma b o u tt h en a t u r ea n dp a r a m e t e r e s t i m a t i o nf o rt h em u l t i v a r i a b l el o g i s t i cd i s t r i b u t i o n i tc o n t a i n st h r e ep a r t s i nt h ef i r s tp a r t ，i ti n t r o d u c e st h er e s e a r c hb a c k g r o u do ft h el o g i s t i cd i s - t r i b u t i o na n di ti t i a l 【e bas i m p l ei n t r o d u c t i o no ft h ed e f i n i t i o na n dn a t u r eo f t h ed i s t r i b u t i o na n d8 00 1 1 t h e ni ti n t r o d u c e st h ev e r t i c a ld e n s i t yr e p r e s e n t s - t i o nm e t h o d 鲴w e l l t h ea p p l i c a t i o no fi t t h i sm e t h o di st h ef o u n d a t i o no f c o n s t r u c t i n gt h el o g i s t i cd i s t r i b u t i o n i nt h es e c o n dp a r t ，i td i s c 啪t h eq u e s t i o no fc o n s t r u c t i n gt h em u l t i - v a r i a b l el o g i s t i cd i s t r i b u t i o n f i r s ti tc o n s t r u c t e dt h em u i t i v a r i a b l el o g i s t i c d i s t r i b u t i o nb yu s i n gv e r t i e e jd e n s i t ye x p r e i o n t h em u l t i v a r i a b l el o g i s t i c d i s t r i b u t i o nw h i 曲w a sc o n s t m c t 烈lb yt h i 8w a yh a sm a n yg o o dn a t u r e ss u c h t h a ta n ym a r g i n a ld i s t r i b u t i o ni sa l s ot h el o g i s t i cd i s t r i b u t i o n a n dt h e nw e r e s e a r c h e d0 1 1t h ep r o p e r t yo ft h i sl o g i s t i cd i s t r i b u t i o n ，e s p e c i a l l yo i le m p h a s i s o l lt w o - d i m e n s i o n a ll o g i s t i cd i s t r i b u t i o n i nt h et h i r dp a r t i td i 8 c u 8 瞄t h eq u e s t i o na b o u tt h ep a r a m e t e re s t i m a t i o n o fm u l t i v a r i a b l el o g i s t i cd i s t r i b u t i o n i nt h ep a r to fe s t i m a t i o no fp a r a m e t e r s ， t h e r ea r em a n ys t a n d a r d ss u c ha sb e i n ga g o m c ，c o m p a t i b i l i t ya n dv a l i d i t ya n d s oo n i nt h i sp a r t i tm a i n l yr e 8 e a c ho ni ft h ep a r a m e t e re s t i m a t i o no fm u l t i - v a r i a b l el o g i s t i cd i s t r i b u t i o nh a st h e s e $ o o dp r o p e r t i e s 一 a b s t r a c t k e y w o r d s ：v e r t i c a ld e n 宜i t yr e p r e s e n t a t i o n ；t h em u l t i v a r i a b l el o g i 8 t i cd i s - t r i b u t i o n ；c o v a r i a n c em a t r i x ；d i g i t a lc h a r a c t e r i s t i c ；p a r a m e t e re s t i m a t i o n 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作 及取得的研究成果尽我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含其他人已经发表和撰写过的研究成果，也不包 含为获得北京工业大学或其他教育机构的学位或证书而使用过的材 料，与我一同工作的同志对本研究所做的任何贡献均已在论文中作 了明确的说明并表示了谢意 关于论文使用授权的说明 本人完全了解北京工业大学有关保留，使用学位论文的规定， 即：学校有权保留送交论文的复印件，允许论文被查阅和借阅；学 校可以公布论文的全部或部分内容，可以采用影印、缩印或其他复 制手段保存论文 ( 保密的论文在解密后应遵守此规定) 第1 章绪论 1 1 引言 1 研究背景 第1 章绪论 自v e t h u l s t ( 1 8 3 8 【1 1 ，1 8 4 5 【2 】) 提出用i | o g i 8 t i c 函数作增长曲线后，利用该曲 线进行人口统计学的研究直持续到十九世纪末进 = 十世纪，l o g i s t i c 函数 与l o g i s t i c 回归模型已经在生物、经济，农业、医疗等方面获得了广泛应用。取 得了丰硕的研究成果p e a r l 和删( 1 9 2 0 【3 】 1 9 2 4f 4 】) ，s c h u l t z ( 1 9 3 01 5 】) ，p e a r l ， r e a d 和k i s h ( 1 9 4 0 【6 1 ) 先后用l o g i s t i c 曲线建立生物机体增长模型s c h u l t z ( 1 9 3 0 5 】) ，0 1 1 w r ( 1 9 6 4 吲) 用l o g i g t i c 函数建立农产品数量增长模型许多学者，包 括p e a r l ( 1 9 4 0 【8 】) ，b e r k s o n ( 1 9 4 4 【9 】，1 9 5 1f 1 0 ，1 9 5 3f 1 1 1 ) ，f i n n e y ( 1 9 4 7 1 2 1 ，1 9 5 2 【1 3 】) 先后讨论了l o g i s t i c 函数在计量生物学上的应用在p l a c k e t t ( 1 9 5 9f 1 4 ) 将 l o g i s t i c 函数应用到生存分析后，f i s k ( 1 9 6 1 【1 5 1 ) 又将l o g i s t i c 函数应用到计 量经济学c o k ( 1 9 6 6 【1 6 】) ，d a y 和k e r r i d g e ( 1 9 6 7 【1 7 d ，a n d e r s o n ( 1 9 7 2 【l s ，1 9 7 3 【1 9 】，1 9 7 4f 2 0 】) 等先后又将l o g i s t i c 函数应用到医疗诊断 在l o g i s t i c 函数与l o g i s t i c 分布在各领域内应用研究的同时，关于l o g i s t i c 分布的参数估计及其分布的拟合优度检验等方面的理论研究也取得了一系列 重要成果，如g u m b e l ( 1 9 4 4 2 1 1 ) ，g u m b e la n dk e e n e y ( 1 9 5 01 2 2 ) 。g u m b e la n d p i c k a n d s ( 1 9 6 7 【2 3 】) ，d u b s ( 1 9 6 0 【2 4 1 ) 给出了l o g i s t i c 分布与极值分布的多种 关系。g e o r g ea n dm u d h o l k e r ( 1 9 8 1 【2 5 】，1 9 8 11 2 6 】，1 9 8 2 【2 7 】) 先后给出了l o g i s t i c 分布与指数分布的之间的关系这些理论研究成果的取得，对l o g i s t i c 分布的 参数估计及其分布的拟合优度检验等理论问题的研究起了极大的推动作用 例如。b a l a k 血h n a un 等人( 1 9 9 1 【2 8 】) 给出了t 基于完全数据和结尾数据给出 了两个参数的最优线性无偏估计，b a t a k r i s h n a nn 等人( 1 9 9 21 2 9 】) 考虑了基 于t y p e c e n t r i n g 的h a l fl o g i c 分布参数的估计问题p a t r i c kg o ( 2 0 0 l 【3 0 】) 给出了l o g i s t i c 分布参数的近似最优线性估计，等等 ，1 北京工业大学理学硕士学位论文 对于多元l o g i s t i c 分布的研究相对晚很多直到1 9 6 1 年，g u m b e l ( 1 9 6 1 【3 1 ) 提出了二元l o g i s t i c 分布1 2 年后，m a h k 和a b m h a m ( 1 9 7 3 【3 2 ) 才提出 多元l o g i s t i c 分布但随后，有关此方面的系统研究却一直没有太多的进展 2 国内外研究现状 目前有关多元l o g i s t i c 分布的研究成果很少，主要集中在以下两方面t ( i ) 多元l o g i s t i e 分布性质的研究 首先定义几类所谓的多元l o g i s t i c 分布，然后对这几类特定的多元l o 幽 t i c 分布的性质的某一方面进行研究( 例如，均值，方差，楣关系数，特征函数， 母函数。该分布与其它随机变量的关系，以及有关独立性方面的研究等) 令 人遗憾的是t 这种多元l o g i s t i c 分布性质的研究成果非常有限 ( 2 ) 多元l o g i s t i c 分布参数推断的研究 这一方面独立成文的相当少，多数都是在较为特殊的情况下对参数估计 的方法进行研究，而对估计性质方面的研究几乎没有讨论其主要原因是t 由 一些常见的参数估计( 如极大似然估计) 不能得到参数估计的解析表达方式， 这为估计性质的研究带来了一定的困难，从对一元l o g i s t i c 分布参数估计的研 究就能看到这一点 目前为止，有关多元l o g i s t i c 分布的定义同题还尚未统一。由不同方法所 定义的各种所谓的多元l o g i s t i c 分布各有其应用范围以下是几种定义多元 l o g i s t i c 分布的方法z ( 1 ) 由多元极值分布的差产生多元l o g i s t i c 分布 由文献【2 8 】可知t 两个独立的极值分布的差是一元l o s i g t i c 分布那么，具 有极值边缘分布的两个独立随机向量的差就可定义成类特殊的多元l o g i s t i c 第1 章绪论 分布这类分布的分布函数为t f 。- ，钆，= 1 + ( 妻e - 一) 。】一1 ，n 2 分布的特点是， 1 ) 相关系数p ( 五，玛) = l 一( 2 口2 ) ，t j = 1 ，k ，i 虫 2 ) 当口= 1 时，边缘分布是一维l o g i s t i c 分布 l i n d l e ya n ds i n g p u r w a l l a ( 1 9 8 61 3 3 ) 考虑了这一类分布，但没有见到后续 的研究工作 ( 2 ) 由多元几何分布产生多元l o g i s t i c 分布 设z 1 ，z 2 ，磊是独立的标准的一元l o g i s t i c 分布。与它们独立，且 有如下概率分布 p ( n = n = p ( 1 一p ) ”1 ，n = 1 ，2 ， 令t z l = m m 历，历，磊卜山0 ) ； z 2 ( p ) = m x ( 磊，忍，磊，+ l 则磊，历妇) 也服从标准的l o g i s t i c 分布由此，产生一类多元l o g i s t i c 分 布，其分布函数为 f ( z n ，z 1 2 ，$ u ) = 1 1 + e - 4 “+ 勺l 血e m 1 恬”) + 砌e _ 慨1 托”如) + + 幽e 一慨l 扣n t 托l i j 但此分布的分布函数的形式过于复杂这类分布的特点是， 1 ) 边缘分布是一维l o g i s t i c 分布； 2 ) 分量间相关程度较为灵活 3 北京工业大学理学硕士学位论文 a r n o l d ( 1 9 9 0 【叫) 讨论了这类分布。并且给出了系数勺的限制条件a h ， m i k h a i l ( t 9 7 8 【3 5 j ) 提出了这种形式的二维模型，简单地讨论了这类分布的特 性 在二维情况下，a m o l d ( 1 9 9 ：2 【3 6 1 ) 指出，分布函数具有如下更一般的形式t f c z ，z 。，= 1 + c e 叫拉1 + e a 钆+ e 口恤l + 研) ，吉 一1 但有关这分布的性质及其相关问题都没有涉及 ( 3 ) 条件分布为一维l o g i s t i c 分布的二维分布 有时我们可能对条件分布为一维l o g i s t i c 分布的多元随机变量感兴趣， a r n o l d ( 1 9 9 2 3 6 】) 提出了密度函数为s ，( 妨= 瓮子e 恤一m ) + 恤一m ) 1 + e ( m m + e c 2 一曲+ 口扣r + 慨一 旬 的二元分布但并未讨论该分布的其他问题这类分布的特点是一 1 ) 条件分布是l o g i 8 t i c 分布； 2 ) 当0 = 1 时。边缘分布是独立的l o g i g t i e 分布 3 研究内容与方法 为了使多元l o g i s t i c 分布的随机向量的任意分量所组成的随机向量服从 l o g i s t i c 分布，或者至少是各分量的边缘分布是一元l o g i b t i c 分布，本文利用 垂直密度表示方法( v d r ) 构造多元l o g i s t i c 分布，并对所构造的分布进行深 入地研究 1 2 预备知识 1 一元l 0 9 i 8 t i c 分布 定义1 2 1 ：设随机变量x 的分布函数为 f ( z ；p ，盯) = - ：- ；= 彳，一o o 霉 - t - c o ( 1 2 1 ) 1 + e - 彳 - 4 第1 章绪论 其中一 p 0 为未知参数则称x 为服从参数弘和口的l o g i s t i c 分布，记作x l 0 * ，一) 。p 和，分别称为分布的位置参数和尺度参数 若x 一工“口) ，由公式( 1 2 1 ) ，知x 有概率密度函数 ，( z ；“神= ( 1 ) 矩的计算 口【1 + c - 学】2 一 z + 由公式( 1 2 2 ) ，得 e ( 田= p x 的阶中心矩 t o ot o o e 一p ) = 0 一p ) f ( z ；t ，口) 出= 一 矿c - “( 1 + e u ) 一2 如，= l ，2 ， ，。，- - o o 由e _ “( 1 + e “) 一2 为u 的偶函数，得 r e ( x 一： 0 = 2 ”一1 ( 1 2 3 ) i2 秒。铲细e “( 1 + e “) 。2 d u , i = 2 m 其中m = 1 ，2 ， 。通过计算可得， e ( x - “= 2 ( 2 m ) ! 口“( 一1 ) “击，m = 1 ，2 ， ( 详细计算过程参见文献【3 7 j ) 利用贝努利级数( 参见文献f 3 8 ) 争r 1 击= 竺高芦m = 1 , 2 , - - 得 e ( x p ) 加= ( 2 “一2 ) ( ”) 凯岛，m = 1 ，2 ( 1 2 4 ) - 5 一 北京工业大学理学硕士学位论文 其中岛；为贝努利数 特别地，当m = 1 时。b 1 = 妻从而，可得到 v a t ( x ) ：e ( x p ) 2 ：竿 ( 1 2 5 ) ( 2 ) 样本均值与样本方差 若轧x 2 ，z n ( n 2 ) 为l o g i s t i c 分布工，口) 的简单样本，记霸和磅分 别为样本均值和样本方差，即 磊2 ；而，s ：= 刍萎( 一) 2 ”k 1 ” k l 则l o g i s t i c 分布l ( p ，口) 简单样本z l ，a 9 2 ，z n ( n 2 ) 的样本均值矗，样本方 差s ：的期望与方差分别为 e ( 瓦) = p( 1 2 6 ) 讹r ) = 鲁 ( 1 _ 2 e ( 砖) ：华( 1 2 8 ) y 州) = 却卅一焉高m 驯：= 等 1 6 + 当】( 1 z 9 ) ( 3 ) 与其它分布的关系 l o g i s t i c 分布与贝塔分布，指数分布、双侧指数分布( l a p l a c e 分布) 和极 值分布等有如下关系t 定理1 2 1 设x 和l ，是随机变量，f 和n 为自然数，i n ，记y = l n r 妥，o x 1 ，则x 服从参数t 与n + l l 的第一型贝塔分布，即x 有 概率密度函数 i x ( x ) = 而击可产1 ( 1 叫一，o z l 一6 一 第1 章绪论 的充分必要条件是sy 与样本大小为t l 的，标准l o g i s t i c 分布l ( 0 ，1 ) 简单样 本的第i 个次序样本同分布 推论1 2 l 设x 和y 是随机变量，且y = 1 n i 专，0 x 1 ，则 y l ( 0 ，1 ) 的分必要条件是tx u ( o ，1 ) ，即x 为( 0 , 1 ) 区间上的均匀分布 注在定理1 2 1 中，取i = 1 ，n = 1 ，即可得上述推论 定理1 2 2 设e b 为独立随机变量序列，且对i = 1 , 2 ，昱b 有概率密度 函数 ，缸) = j e - j 。，0 s 霉 o o y 为随机变量，且y = ( e l i 一场) ，则y l ( 0 ，1 ) j = l 定理1 2 3 设是独立随机变量序列，且对j = l ，2 ，有概率密度 函数 w a ) = ；e 叫l 叫，一0 0 t ， + y 为随机变量，且y = ，则y l ( 0 ，1 ) j = 1 定理1 2 4 设墨和恐是独立同分布的随机变量，它们有相同的概率密 度函数 ( z ) ：= e - - z 唧( e 一。) ， 一o o o 为某一常数若随机变量y = 固定时，x 的条件分布函数为 p 伍 0 即条件分布服从极值分布，其中p 为某一常数，则x 一工， 一7 一 北京工业大学理学硕士学位论文 证明过程参见文献【37 】 2 垂直密度表示方法 ( 1 ) 垂直密度表示 垂直密度表示( v e r t i c a ld e n s i t yr e p r e s e n t a t i o n 。简记成v d r ) 是1 9 9 1 年 由t r o u t t 首先提出的设x d 是d 维随机变量，它的密度函数和分布函数分 别是，( ) 和f ( ) 众所周知，当d = 1 时，u = f ( x d ) 的分布是( 0 ，1 ) 上的均 匀分布，那末，v = ( x d ) 的密度函数是什么? 要求得矿的分布就不再那么 简单了 t r o u t t ( 1 9 9 1 ) 给出了y 的密度函数9 ( ) ： 鲋) 些毪趔 ( 1 2 1 0 ) 其中 d i s c , , ) = 】【d ：，( ) 口) 给定v = 的条件下，x d 的条件概率密度记作，+ ( 】【d i ”) ，那么， r h ，( ，c d ) = ，( x d l v ) g ( v ) d v ( 1 2 1 1 ) 其中 ，0 = 8 u p ，) ：砘) 表达式( 1 2 1 1 ) 称作i - 型垂直密度表示( t y p e iv d r ) t r o u t t ( 1 9 9 1 ) 没有给 出，( i ) 的表示f a n g k t ，y a n gz h 和k a t zs ( 2 0 0 1 ) 提出了i i 型垂直 密度表示( t y p ei iv d r ) ，p a n gw k 和y a u gz h ( 2 0 0 2 ) 基于m 型垂直密度 表示的结果，给出了广( l ”) 的表达式 - 8 一 第1 章绪论 ( 2 ) i i - 型垂直密度表示 l - 型垂直密度表示的条件密度广( l ”) 是退化的，概率为1 地取值于超曲 面f c x d ) = 上，处理起来不方便i i - 型垂直密度表示就没有这一不足令 d 【珂盘 ，抖1 = ( x d ，z “1 ) ：，( x o ) 茹d + 1 o ) d 【，】的几何意义是明显的，只要，是非负的，d 们就有定义，不必要求，( ) 是密度函数 设x 抖1 = ( 】【d ，】，“1 ) 是随机向量，若x “l 均匀分布在d 【，】上，则的 密度函数是，( ) 这一结论可以由下面的引理得出。 引理1 2 1 设a 狞“1 是l e b e s g u e 可测集，x “l = ( x d ，j 坼1 ) 均匀分 布于a 上的充要条件是 1 ) x - 的密度函数是，扣) = 专等警宇。其中 也( 口) = ：( 】【d ，u ) a ，匈舻 ， ( ) 是铲上的l e b e s g u e 测度 2 ) 给定施+ l = ”的条件下，) 匕的条件分布是山( u ) 上的均匀分布 证明过程见参考文献 3 9 】 该引理对表示x 斟l = ( x ，x 扣t ) ，x 扣t = ( 噩+ l ，拖) 也是正确的 在引理中交换拖+ 1 和的位置，就得到x d 的概率密度函数 舶，= 锷错= 锷器= 老南 当f ( ) 是密度函数时，厶蚪1 ( d 们) = 1 由引理1 2 1 可以直接得到以下型v d r 引理 引理1 2 2 ，( ) 是随机向量x d 的概率密度函数的充要条件是，随机 向量x “l = ( x d ，j ( “1 ) 的分布为d 【，】上的均匀分布，等价于 ，g 北京工业大学理学硕士学位论文 1 ) 五抖l 的概率分布密度是k ( d ( t ，) ) i 2 ) 给定磁+ l = ”的条件下，x d 的条停分布是d ( ”) 上的均匀分布 即随机向量x d 可表示为， x d u ( d 1 月( y ) ) ，v 工d ( d ( y ) ) ， 这里d l 门( 口) = ( 粕：，( 釉) 口 u ( a ) 表示可测集a 上的均匀分布我们称 引理1 2 2 为i f - 型密度垂直表示。 由引理1 2 2 很容易可以推出t r o u t t 的结果，事实上因为 】c d ：，( x ) s 口 = f ( 轴，霉“1 ) ：z 1 s 移卜一 ( 翔，z “1 ) ：，( 翔) 口 所以 p ( f ( x ) s 町) = 工件1 ( 霉抖l s 口) 一l 抖i ( 扛抖1 s 口) n ，( 瑚) 口，) = 眉l d ( d f ( s ) ) d b 一如( d ( 口) ) 两边同时对”求导，得到v = ，( x d ) 的密度函数 g 扣) = 工d ( d 们扣) ) - l d ( d ( ) ) 一 l d ( d 1 t 石f 一 ( v ) ) = 一口l d ( d i i 孑1 一( v ) ) 上式正是 i y o u t t 的结果 引入如下记号，r 们( ) = 】【d ：，( 拗) = 口 从而由- 型密度垂直表示可 以导出给定v = i ( x d ) = 口的条件下，x d 的条件密度，i y = 口) ，定理如 下， 定理1 2 6 设随机向量确的密度密度函数，( 酗) ，粕剌假设 1 ) v f ( x d ) 是连续的，且在r ，i ( ) 上不为0 ； 2 ) 对任意固定的单位向量d 舻，( ) 是r 的减函效则在给定 ，( x d ) = ”的条件下，x d 条件概率密度函数为，( i 。) ： 瓶舻每矧( b 厕1 潲) 。 1 0 第l 章绪论 其中。 i l v f ( x d ) l l = 垂( 差) 2 ，毛是曲面r 阴( 上的k b a g m 测度，s 是嗑面 元素 1 3 本章小结 本章首先介绍l o g i s t i c 分布的研究背景，并对一元蛐i c 分布的定义、 性质等方面的内容做了简要介绍；然后介绍垂直密度表示方法及其应用垂直 密度表示方法是构造多元l o g i s t i c 分布的基础 1 1 北京工业大学理学硕士学位论文 第2 章多元l