（概率论与数理统计专业论文）相依误差下线性模型的经验似然推断.pdf

摘要 摘要 在一些近代科学研究中，如生命科学和信息科学的研究，人们获得的数据 往往其有量犬、离维和相依的特点，它麓磊前统计学应用和理论中面临最多、 撬蔑躐严竣，也怒最有可麓袋得突破的研究领域之一予是，荧于楣依隧视交 塞的磷宠毫萼；超人稍懿重视，然蔼，对务稀爨俸翡褪蔽数据懿绕诗穰鍪静稀究 还不够充分弱重粳。本文硬突了基予秀秘具嚣豹程茯误豢静线性摸黧，穗是 鞅差廖刭，另一釉盈4 罴弱乎糕线髅过程 对于参数分避筘，文献中一般爝最小二乘法寒馈诗，得到该信计麴濒i 廷性 质本文则采用了新的推断方法经验似然推断由于经验似然方法的渚多 优点，例如，构造的置信区间具有变换不变性，置信域的形状囱! 数据自行决定 以及b a r t l e t t 纠偏性等等因此这方法无论在理论上还是实际应用中都j 常 有意义 本文酋先针对误藏为鞅差序列的线性模氆采用了经验似然方法，构遣了 参数的对数经验傲然精：统计蟹，弗在给定的基本条件下证明了该统计萤舆有 渐近卡方分布接下来，本文又针对误差为弱平稳线性过程静线往模螫采用 了经验骰然方法闰榉速，我髓氆祷造了参数的慰羧经验钕然滗统计量，撼然 蒌硬褥出了在一定翡啜设条 孛下泼绽诗量具麓潺遗正态分毒，程虫子灏避方 差的米知投，因此本文进一步采援了分组经验议然魑方法。，撼造了参数的分 组对数经骏似然比统计量，疑证明了该统计燕在一定条件下服从澎近卡方分 布，这正是我们所期觐得到的结果这就是本文所得到的三个主要继论逡就 北京工业大学理学硕士学位论文 为进行大榉本参数假设检验和构避参数的置信域奠定了基础+ 最后，本文还对 鞅差序列误差情行进行了数据模拟，分为几种不同情况分别进行了模拟，并对 模拟结果做了解释，从而说明了芾j 用经验似然方法构造的置信区间与最小二 乘方法构遗的置信区间相比，具有较高的覆盖概率以及较短的区间长度，并且 福对于最小二乘方法其有较高翡稳定佼 关于稳依薅铙交爨静磷究已戚为一个羔耍薛祈究方向，将疑燕具有糯依 数据浆统诗模蛩瑟将极其有钱势戆缀验镁然方法应蔫予具奋穗嵌误差戆线 性摸毽，这在实际中鸯羞更为广麟豹应愿背景深僖睫饕二者在理论秘方法上 的不断完羲和发展，它们对经济、通信、生物镎各令领域郯将起着积极螅捉遴 作用+ 关键词：线性模毅鞅差序列弱平檬线性过程经验似然分组经验似 然渐近卡方分布 c a l l yc h i - s q u a r e dd i s t r i b u t e d a b s t r a c t l 独创性声明 本人声麓所至交的论文是我个人在强j ；幂指芬下遂行静研究工俸 及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地 方外，论文中不包含冀德入已经发表稚撰写过酶研究戚祭，也不包 含为获得北京工业大学或其他教育机构的学位戏证书而使用过的材 料，与我一同工作的蔺志对本研究所傲懿任俺黉献均己程论文中作 了明确的说明并表示了谢意。 签名：墨盘垄日期：麴! 釜g 堡 关于论文使用授权的说明 本人完全了解北京工业大学有关像罄、使用学位论文的规定， 即；学校有权保留邀交论文的复印件，允许论文被查阅和借阅；学 校可以公布论文鲍全部或部分痰容，可以采用影印、缭秘或其毽复 制手段保存论文。 镖密鹣论文在躺蜜后应遵守魏魏定) 签名：整蓝垄导嚣签名：落量盘鏊朝：迦至 第1 章绪论 第1 章绪论 1 1 引言 现代科学技术和社会经济的许多领域都遇到高维、相依和不完全数据的 统计分析问题，它是目前统计学应用和理论中面临最多、挑战最严峻，也是最 有可能取得突破的研究领域之一 在当今的信息和知识经济时代，人类研究的科学和社会问题更加高深、 更加复杂、更加庞大，有效地收集和分析数据以提取信息和获得知识变得更加 须臾不可离而且发达的信息技术和高性能的计算机使收集、储存、传输数据 和进行科学计算更加便捷，这就给统计学提出了许多更大、更难，更复杂的问 题例如，复杂系统建模，经济金融中的预测和决策，高维、定性和不完全数 据的统计分析，数据库等巨型复杂数据的信息提取和知识发现，相依变量和动 态系统的统计规律，小样本和相关信息的统计推断，信号和图像的统计处理等 等因此，统计学正面临着前所未有的巨大挑战和机遇，其中高维、相依和不 完全等复杂数据的统计分析使个带有普遍性的突出难题例如，雷达网、信 息网等接受和传输的信号数据，卫星遥感观测的图像数据，文字语言的记录 数据，d n a 和蛋白质结果的测试数据，全国乃至全球的气象和环境数据， 人口、企业、教育、科技、医疗卫生等社会调查数据，以及殷市、保险、信用 卡、房地产等经济金融数据，都是维数很高( 数十，数百乃至上千维) 、结构 十分复杂的数据，许多数据还是前后相依( 不独立) 的；在工业、国防、天文 和医学等领域存在大量的不完全数据，即人们不能得到所关心的某些变量的 数值，而制止到它们所在的区域，甚至完全不知道某些变量在部分场合的数 值( 即缺失数据) 而且在实际问题中，往往同时遇到多种情况例如，来自复 杂现象的数据一般是高维的，许多时候还是相依的，动态的，有时还含有不完 全数据；图像和信号可以转化为高维数据处理，而信号一般是前后相依的动态 数据；许多高维数据( 例如d n a 和基因数据) 相对其维数而言，样本量相当 数据；许多高维数据( 例如d n a 和基因数据) 相对其维数而言，样本量相当 北京工业大学理学硕士学位论文 小；许多小样本问题中经常含有不糍全数据等等。对于逸些问题，统计学工作 者葶嚣凑嚣领域孛静数据分糖工毒筝豢爨遂行了译多磷究，骞些方巍毫经影戚了 一些比较有效的方法，但很多方面还处在探綮阶段，缺麓系统有效的方法，更 缺乏宠整系统鲍理论。避垫年，特舅l 是在发达国家中，餐许多统毒 学家深入到 实际领域，或与实际领域的专家合作，探索解决这些挑战性问题的途径 荧于相依随机变量的研究，已取得一些研究成果然而，对铬种具体的相 依数据的统计穰垄的辑究逐不够充分帮不够完备，本文秘霜经验依然和努块 经验似然的方法，研究了分别具有两种特定糊依误差的线性模型我们先来了 蘩穗浓数据戆磷究褒装秘瘦曩馕滗， 1 2 相依数据简介 在些近代科学研究中，如生命科学和信息科学的研究，人们获得的数据 往往具有量大，高维和棚嵌等特点于是，关于襁依随机变量的璐究，已号| 邋 人们的重视，取得一些研究成果，拜提出了一些研究稍加工裙依变量的有效 方法，如b o o t 8 t r a p 、分块b o o t s t r a p 、j a c k k n i f e 和分块j a c k k i l i f e ( b 1 0 c k so f b l o ；湛j a e k 】( 珏i f e ) 等方法 1 、与相依数据的统计分析关系密切的照时间序列分析在m 农业生产、 科学技术鞠社会经济生活盼沣多镁壤，普遍存在着获辩阕溪枣发生戆其稳壤 率特征的各种随机现象人们通过观测把邋照现象记泶下来成为可供分析的 随机数据通常有两种类型：一种是时间上述续的，即按时间顺序连续地、不 闻断魄发生羁记录下来；舅一种麓离散静，卵每隔一毅时阉观溺记录一次 这后一种离散溅数据人们就成为时间序列或随机序列工厂逐图记录的废品 奉；农整逑嚣逐年记录懿小麦产量；气象工幸筝者记录懿莱一遣送繇婆最毫稀避 低气温；雷达跟踪目标时不同时刻的测距误麓；某种商晶逐月的销售数量；等 等这些都是髓闻序列的实例出予时惩亭刭的随机性，人粕必须利用概率秘 统计学中的一媳概念和方法来分析这些数据这就是时间序列分析其目的魑 。 第l 章绪论 为了在一列离散型随机数据中提取有用的信息一找出客观事物发展的规律， 预测其发展趋势并进行必要的控制这些工作无疑在经济上、国防上和科学上 具有重要的意义， 时间序列最早是应用在经济学上的像：全国每月销售总额，政府财政的 顺差和赤字，个人消费总额等等对于这类数据的分析和预报是时间序列分析 的专长时间序列还可用于市场预报，价格预报，产量预报等等近年来经济 学中一门新兴的学科叫做计量经济学，其中最主要的数学方法之一就是时间 序列分析在自然现象的研究中，时间序列分析被广泛应用到天气预报当中， 并且可以用来预报河流流量，预报洪水等自然灾害，还可用于海洋波的分析 工业自动化中也大量用到时间序列分析方法：可以把测试仪器测到的数据用 时间序列分析方法处理并预报下一时刻值，把这预报值和标准值进行比较， 将差值输给控制器对系统进行控制，使下一时刻的值接近标准值在自动控 制中，时间序列分析用于系统识别，用于建立卡尔曼( k a l m a n ) 滤波器的噪声 模型，用于建立陀螺漂移模型，建立雷达测量误差模型等等在医学、生物、 生态研究中，用尖利时间序列模型的方法可描述人体或其它生物体对外界刺 激反应的情况这种方法在挑选宇航员和飞行员时是很有用的用时间序列分 析还可进行疫情的预测，以表彰我传染病率的变化情况还可以预报生物群 体的中枢，预报渔汛用多维序列还可以研究几种有关生物群体所构成生态系 统的繁衍规律 半个多世纪以来，时间序列分析已逐步发展成为概率统计学中的一个重 要分支如果我们简单回顾一下这一学科的历史发展过程，大体上可以把它分 成两个阶段，早期阶段和以现代谱分析为特征的成熟阶段早期阶段的工作主 要使用一种比较简单的有限参数模型，包括“滑动和”以及由差分方程所定义 的自回归模型等用这些模型可近似地代替一类相当广泛的平稳随机序列， 能解决许多实际问题，其主要缺点是精确度不高从五十年代后期开始，时间 序列分析进入了一个较高的领域这一发展阶段的特点是，一方面它与近代“ 第1 章绪论 究；z h a n g 1 2 将经验似然应用于分位回归及m 泛函的统计推断； c h a n g 和c h a n 【1 3 】发展了自回归模型的经验似然方法； z h o n g 和r a o 14 将经验似 然应用于抽样调查问题的研究；k i t a m u r a 等将经验似然应用到经济模型 的研究等更值得注意的是，近年来一些统计学家又将经验似然方法应用到 不完全数据的统计分析，发展了所谓的被估计的经验似然、调整经验似然及 b o o t s t r a p 经验似然应该指出，经验似然的思想至少可以追溯到t h o m a s 和 g u n k e m e i e r ( 1 9 7 5 ) 用k a p l a n m e i e r 曲线估计生存概率，他们直观地推测生存 概率的经验似然比置信区间有近似正确的覆盖程度注意到这一方法的本质 是在约束条件下极大化非参数似然比，感兴趣的参数由约束条件带入这一极 大化似然比中0 w e n 将这一思想方法应用到完全独立同分布样本下总体均 值这一简单而重要情形的统计推断由于o w e n 使用线性约束条件，从而表 明了这一方法有非常一般的应用，这是因为统计中许多估计方程关于感兴趣 的参数或参数的某已知函数是线性的或许多统计模型的参数可由关于该参数 或它的某已知函数的线性方程决定注意到这一特点，许多统计学家将o w e n 在完全样本下的经验似然方法推广到了不完全数据类型的统计推断 那么什么是经验似然呢? 设 x 北京工业大学理学硕士学位论文 也可以用于统计推断不象参数似然比，非参数似然比中不包含未知参数一 个自然的问题是如何使用它对参数作统计推断注意到一些参数p 是总体分 布的泛函，即p = t ( f ) 彤，其中t ( ) 是分布f 的某泛函，f 属于某分 布类z ，如总体均值及分位点等就是有上述形式泛函的例子为了对t ( f ) = 口 作检验，o w e n 2 q 定义如下经验似然比统计量 跎( 日) = s u p r ( f ) 1 t ( f ) = 口，f ) j 1 很显然，经验似然比实际上是一种截面非参数似然比函数，它要求f 在 满足约束条件t ( f ) = 日下使非参数似然比达到极大( 在无约束条件时，极大 非参数似然比为1 ) ，而参数目由这一约束条件引入这一极大似然比中，从而 得到关于参数口的极大截面非参数似然比函数，用这一非参数似然比作假设 检验、区间估计或进行其他统计推断，这一方法就是所谓的经验似然方法如 果虢 0 以及e ( 勺) 2 = 1 所以对任意的6 o ，有 e ( 醒s 2 ，al 氕一t ) 三( e m t ) 2 盯2苎( 妻。酬：，； 2 善意i 蕊徊忙弘忙6 篙) | 气1 ) 归i 女= l ( 啦。鲋) 2 口；( 置“) b l 苎( 壹“) 。，? 8 u p e ( 黼 6 著) l 矾) 1 蝉 k ( o 。 ) 2 。 n p ( 锄锄) 2 田 j = 1 扛l d ( a 净“) 2 z = 1 篇 t 一0 x 芦 警擎 口一 第2 章主要结果及其证明 p ( 蚓1 n ) 嘉阻； 由条件( i v ) 式知：上式o ( n _ o 。) 所以碥= 唧( n j ) 证毕 引理2 2 3 对于本节中的模型( 2 1 ) ，令晶= ：五霉，若条件( i ) 一( i v ) 成立，则有 当卢等于真参数风时，品一e & 与o ，( n _ o o ) 证明：因为当p 等于真参数风时，历= 矗，i = 1 ，2 ， 且由 岛，兀，n 1 ) 为上2 中的鞅差序列，则可知当卢等于真参数风 时， e & = 叩鬻 n 一 。 因为 & = ：喜五霉= ：静鬻， 所以只需证 去叩粥一盯；) 与o ( n 一+ o o ) 即可取j z t z ( s ；一a ；) 的第k 行第1 个元素，即 则对w 0 ，有 p ( 去i 孤( s ；一盯；) i t = l 西) o 又由引理2 2 2 ：此时，碥= 唧( n ) ，则可类似于o w e n 2 】中定理1 的证 明得到l la1 | = d p m 一) 继而有： a = 嚣1 ( 言五) + n ， ( 2 2 8 ) 。# 1 其中l l l | = 0 p ( n 一 ) 又因为同o w e n 2 】中定理1 有： 毛( 风) = 2 l o g ( 1 + 妒五) ：z 山r 磊一掣 + 2 壹吼 第2 章主要结果及其证明 其中1 2 刊= 0 p ( 1 ) 所以将( 2 ，2 8 ) 式带入即得 ( 风) = 2 l o g ( 1 + a t 磊) = c 击喜五，t 靠1c 去喜五，+ 唧 所以由( 2 2 6 ) 式，( 22 7 ) 式及引理2 2 3 即可得到 z 叠( 风) 与x ：- ) 证毕 2 3 误差为弱平稳线过程 2 3 1 方法和结果 考虑线性模型： 玑= z 卢+ 矗，i = 1 ，2 ，( ( 2 1 ) 其中鼠= ( 甄1 ，z 2 ，z 妇) t 为p 维的已知固定设计点列，卢为p 维未知 回归系数，玑碾为响应变量，矗r 为随机误差，对任意的n 1 ，有 x 。= 扛l 勋z 。) 满足x 。x ：= 鼢z ，满秩 这里假设旬是一个弱平稳线性过程： 0 0 矗= 奶k 而 江1 ，2 ，( 2 矗1 ) 其中 m ，五，i 1 ) 是一个l 2 中的鞅差序列，且存在盯 o ，使 e ( k 2l 五一1 ) = 口2 ， o 5 i = 1 2 旧f c ) i 乃一) = o ，。s ( 2 3 5 ) ( v i ) v n 1 ，有a n 垒e ( ) 。毛。正定，且有 n 1 m 碜( 1 l z 。 熙j 筹扎 ( 2 3 6 ) n _ p 【a n j 、7 这里， ( a n ) o 为a 。的最小特征根，g ( ) = g o ( 旬，毛+ ) ( v i i ) 刍正定阵a 1 和a 2 ，使得n _ 时，有 1 三c | o u ( e ) = a 1 + o ( 1 ) ， 礼 、 一 n 、g ( o ) 叩 = 4 z + 。( 1 ) ， ( v i i i ) 岛存在4 阶矩，i = 1 ，2 ，且有 熙嘉恻慨 o n 。n ( 2 3 7 ) ( 2 38 ) ( 239 ) 第2 章主要结果及其证明 根据以上的条件就可以得出下面的定理2 2 ， 定理2 2 ：假设条件( v ) 一( v i i i ) 成立，则可以得到结论：当卢等于真参数 风时， z 音( 风) 与z t a i l z ，( n - 。) 其中z 一p ( 0 ，a 1 ) 可以看出虽然该定理得到了z 音( 风) 的渐近分布，但这里若a 。与a 2 未 知，从而就无法构造p 的置信区域，也无法进行假设检验因此在下面的讨 论中我采用了局部经验似然的方法来解决这个问题 令 = 【n 。 ，o a ；，9 = 嘲为表达方便，取；为整数记 & = 堑坐半，2 ，m 显然有 害矗= ；喜五= 知 矗= i 五= ；x 而 女= li = 1 g 州锥喜妒c 州击x 捌 分组后的局部经验似然比函数为 同样，利用l a g r a n g e 乘子法可以得到 剐舻鱼志k = 1 v 。 从而得到局部对数似然比函数 9 岛，( 卢) = 一2 l o g 冗l ( 卢) = 2 l o g ( 1 + t 7 ) = 1 d = 矗 p 。腻 0 k p | | p ，吼 pg ， p 云 砧 | | p 陀 北京工业大学理学硕士学位论文 由s t o u t ，w f 【7 j 及h 6 l d e r 不等式则有， e 【( & ：一e & ：) 剐 2 。n = e 咭黝( ；一e 卵 。i = 1 ， n n = 嘉e 匹z 勰( s i e e 2 ) 2 + 2 。脚孤黝( s ；一e e 弛；一e e i ) “ l j t “ 一n 去 如；e ( s ；一e e ；) 2 + 4 i 吼一j i z ，t z 州z 塘。“【e ( s ；一e ；) 2 】 e ( ；一e e ；) 。 l l j t n 7 嘉 z 编e ( s ；一e e i ) 2 n 一1n j + 2 l 咖黝z ( 娜z ( 删啡；一e ；) 2 + e ( 卦，一e e 搿n 蚓 j = 1 蚓 ，= l = l 。毳舀e ( e ? 一e e ；) 2 i = 1 n z 氛。；e t = 1 n 蚓f 4 e s i = 1 + o 。 又因为l 奶l o 。，所以由( 2 39 ) 式即可得卢= 风时， j = o 。 e ( 晶。一曰品，) k l 】2 = d ( 1 ) 从而得到卢= 风时： s n 。一目& ，与。伽_ o 。) 同样，卢= 岛时， e ( 晶。一e s n 。) 女斤 第2 章主要结果及其证明 ：笔e 【壹( 泓。一玩白) z 譬壹聪忐。一玩z 譬壹聪岛) 警圭屈藏 一；啦啪琊眈+ 荟雕叫州 一 9，n 羞喜 蔷。州庐靠m + ，+ 蔷z 删e 啦啪+ 爿 ，19 n 2 蒿( z 毳+ 瑶皿； 蠡如酽蹦， 其中g 为一常数则由( 2 3 1 1 ) 式即得卢= 风时 从而得到卢= 风时 证毕 e ( 晶。一e 岛。) 削1 2 = o ( 1 ) 品：一e & 。与o ，_ o 。) 2 3 2 定理2 2 和2 3 的证明 定理2 2 的证明；因为 n 毛( 卢) = 一2 l o g 佗( p ) = 2 l o g ( 1 + a t 五) j = 1 ，汹 旦栉 北永工业大学理学硕士学位论文 性模型，得到了参数筘的对数经验似然比统计量的渐近正态性，然后采用了 分组经验似然的方法，进一步得到参数卢的分组对数经验似然比统计量的渐 近) ( 2 性 第3 章数值模拟 第3 章数值模拟 本章将通过抽取随机数，给出数值模拟的结果，说明本文提出的推断方法 的优良性本文仅对该模型给出数值模拟的结果 玑= 。 p + 矗i = 1 ，2 ，一，( 1 ) 其中黾= ( 如，z 涵z ，) t 为p 维的已知固定设计点列，卢为p 维未知回归系 数，玑r 为响应变量，岛r 为随机误差，这里假设 ，兀，竹1 ) 为l 2 n 中的鞅差序列，对任意的n 1 ，有x 。= ( z z 2 z 。) 满足x 。x ：= 瓤。 i = 1 满秩 3 1 经验似然与最小二乘法之间的比较 3 1 1 一些假定和计算 所要做的工作是对该模型的一维情况进行模拟，给定样本容量n ，取 孔= 1 ，i = 1 ，2 ，- 一， ( 3 1 1 ) 由于 矗，五，i 1 ) 为l z 中鞅差序列，因此在抽取随机数时可以先抽取 上2 中的鞅序列 毫，口( f ) ，i 1 ) ，再得到i = 6 + l 一毫，i = 1 ，2 ，一， 取乐一( d ，孵) ，慨，6 + 1 ) 一( o ，o ，臂，叼l ，a ) ，i = 1 ，2 ，一，因此， 给定& 时， 洲& 一( 风等矗，( 1 一p ；) ”m 江l ，2 ， ( 3 1 2 ) 由鞅性可知， p = 嚣，i = 1 ，2 ，又因为矗= 已+ 1 一矗，肌= 景，i = 1 ，2 ，所以e e i = 砰= 识l 一砰，i = 1 ，2 ，代入到 ( 3 12 ) 式即得到，给定6 时， 矗+ ，l ，一( f ，口；) 2 = 1 2 ( 313 ) 并且 假设 北京工业大学理学硕士学位论文 e e ；= 2 盯； 7 7 ；= 1 ，口? = 1 ，i = 1 ，2 ， ( 3 1 - 4 ) 则由( 3 1 1 ) 一( 3 1 4 ) 可知，定理条件( i ) 一( i v ) 成立由此，我们可以比较以下两 种方法的置信区间 ( a ) ：根据胡舒合【6 】，由最小二乘法可得真参数风的估计声：登q 玑量。； 并且有 ( 声一阮) 、v n r ( 声) 与( o ，1 ) 因此风的置信度为1 一a 的置信区间为 池一，。( 厕) ( 3 ) 其中y n r ( 卢) = z ；盯? ( z ? ) 2 ( b ) ：由定理2 1 可构造真参数风的置信度为1 一“的置信区域为 厶= 卢：z 0 ( 卢) c 0 ) ，( 3 1 6 ) 其中g 满足尸( 瑶s 既) = 1 一并且由o w e n ，3 可知该置信域可近似地 为一置信区间 下面要比较两种方法所得覆盖概率和平均区间长度 3 1 2 覆盖概率的比较 取样本容量n = 2 0 、5 0 和1 0 0 ，对样本量的每种选择模拟重复m 次模 拟过程如下： 北京工业大学理学硕士学位论文 改为求出区间长度，重复m 次得区间的平均长度 具体结果见表3 12 表3 1 2 q = 0 0 5a = 0 1 n方法a方法b方法a方法b 2 00 8 7 6 50 6 8 1 30 7 3 3 40 5 4 8 8 5 0o 5 5 4 40 2 6 0 30 4 6 3 90 1 5 0 1 1 0 00 3 9 2 00 1 2 5 70 3 2 8 00 0 8 1 4 从模型的模拟结果可以得出下列结论： ( 1 ) 在相同的置信水平下，由经验似然方法构造的置信区间平均长度要小 于由最小二乘法得到的置信区间 ( 2 ) 置信度越高平均区间长度越长 ( 3 ) 随样本容量的增加，区间的平均长度也相应地减小了 3 2误差方差不同的情况 3 2 1 些假定和计算 在本节中，我们仍对该模型的一维情况进行模拟如同3 1 1 ，我们仍做类 似的假设， 巍= 1 ，o = 1 ，2 ， 矗一( 。，臂) ，( 毫，已+ 1 ) 一( o ，o ，霄，识1 ，胁) ，i = 1 ，2 ，一， 以及5 i = 已+ l 一6 ，2 = 1 ，2 ，一， 同样通过计算可得，给定矗时， 6 + 1 b n ( 6 口；) i = 1 2 一 北京工业大学理学硕士学位论文 寝3 。2 3b 3 ，蠢援藏概率的比较 a = 0 0 5“= 0 1 n a b 3b b aa 8 b b 4a b 3b b 3a b &b b l 2 go 。g 王3 00 ，9 2 1 8e ，8 8 3 00 8 9 9 70 8 7 王50 8 5 7o 。8 王7o ，8 6 4 l 5 00 9 5 1 lo 9 6 3 9o 9 0 0 l0 9 1 7 3o 9 1 2 7 0 9 2 3 9 o 8 9 1 40 9 0 3 5 1 0 口0 9 7 2 30 9 8 1 40 9 1 3 20 9 3 0 10 9 4 3 1o 9 5 1 3o 9 0 0 10 9 1 9 7 表3 + 2 4岛，b 4 平均隈闻长度的比较 = o 国5 a = o j l n a 县3b b 3a b 4b b 4a u b 3b b 3a 露4b b 4 2 08 7 6 5 4 6 1 3 7 4 o 0 8 7 7o 0 7 3 77 3 3 4 35 1 1 0 70 0 7 3 3o 0 6 9 4 5 转5 + 5 4 3 74 ，0 1 3 9 0 0 5 5 40 ，0 4 王36 3 8 63 。9 7 圭40 ，o 哇6 硅e 0 3 7 l 1 0 03 9 2 0 02 。5 7 5 0o ，0 3 9 20 0 2 7 l3 。2 8 0 02 4 7 王3o 。i 。3 2 8o 。0 2 1 9 ( 1 ) 从表3 2 1 3 2 2 可以看出，同样的经验似然方法构造的置信区间比最小 二乘方法构造的置信迸闭相比，仍然覆盖概率较大，平均区间长发较短，同时 曰l 比召。的覆盖概率癸大，枢应的区间长度瞧较短，特别是程榉零容量较小 睡，藏蒡l 宽较臻显，嚣捌麓在于瑶蔽撵3 j l 。3 ) 式哥淡藿到，纛飨定& 薅， 执与b l 中毫+ l 的条盼分布是一致酌，但对于黾来说，b 1 中的方釜要比口2 中的方差小，从而造成了裘3 2 1 3 2 2 中的结果 ( 2 ) 从表3 2 3 3 2 4 可以肴出，b 4 比口3 的覆盖概率要小很多，但同时平均 送阍长发也要下这是凌予在甄中，簧远远小予在b 3 申懿露，簌丽使褥 袭缓熬中慈致赘蘧撬数过爱寝羧t ，遭藏表中鹃挨援结果， ( 3 ) ，同时我们还可以看出，在b 3 情况下，缀验似然方法得到的覆盏概率不仅 大于最小二乘方法的覆滚概率，平均区间长度也远远小于最小二乘方法的，充 北求工业大学理学硕士学位论文 后记 本文异于一般的参数估计方法，在面对误差为鞅差序列的线性模型时， 首先给如了对数经验似然比统计量，在给定的假设条件下，证明了这个统计量 熬澎潍分蠢。其凌，镑辩谈差势弱乎稳缓戆避獠麓线洼模壅，不仅绘逡了对数 经验儆然比统计量，逐给掇了分组对数经验钕然比统诗量，并农缭定的假设条 件下，分别得出了它们的渐近分布由此可以构造参数卢的鬣信域主要结 论为： 定理2 。l ：假设条件( i ) 一( i v ) 成立，则有当厣等于真参数岛时， 知 岛) 与 ( 抟- 。) 定理2 2 ：假设条件( v ) 一( v i i i ) 成立，则可以得到结论：当卢等于真参数 阮时， 翰汹) 与z t 茑1 z汹- 。) 其孛z 一玛p ，a 1 ) 定理2 3 ：假设条件( v ) 一( v 氓( 1 ) 成鼗，则有：当p 等于真参数风时， 岛。) 与x ：( n _ o 。) 。 最磊，嚣熏鹾。撼争a r l o 模羧，夔黎蕤橇数懿方法，嚣襻蠢发褒了我褒秘 结论的良好性质鄂：用经验似然方法构造的跫信区间北用最小二乘法构造的 置信区间有更高的区间粳盖率和更短的平均区间长度 照然我们在一定程度上说明了经验似然方法的优越性质假仍有很多问 题畿褥避一步愚考主癸蠢以下几方蘑翡阉怒： 阉麟l 本文在考瘩壤瀵静误差矮i 李是嚣炎特定翡稳簌过程，摄然褥蘩秘结 果比较理想，但毕竟过于具体，不具有很大的营遍性因此我们可以进一步考 虑比较一般的相依误差 后记 问题2本文考虑的模型是固定设计的线性模型，我们还可以进一步考虑其 它类型的模型，比方说非参数模型和半参数模型等 可见，本文仅仅是这方面研究中的一个基本情形，仍旧有许多问题值得我 们去思考解决。 问题3在进行模拟计算时，还可以考虑给出对数经验似然比统计量的若干 分位点并和极限分布x 2 分布的分位点进行比较，观察对数经验似然比统计量 与) ( 2 分布的拟合程度 北京工业大学理学礤士学位论文 t i o n sa n dt h ee f r e c t 溉u s a g e a u x i l i a r yi i l f o r m a t i o n b i o m e t r i k a 。8 0 ( 1 9 9 3 ) ， 1 0 7 _ 一1 1 6 2 3b w s i l v e r m a n ，d e n s i t yr a t i 0 8 。e m p i r i e a ll i k e l i h o o da n dg o td e a t h a p p l i e ds t a t i s t i c s 2 7 ( 1 9 7 8 ) ，2 6 3 3 2 4t h o m a 8j d i c i c c i o ，p e t e rh a l l ，j o s e p hp r o m a n o c o m p a r i s o no fp a r 扣 m e 乇r i ca n de m p i r i e 越l i 沁i i h o o df u n e t i o n s b i o m e t r i h ，7 6 ( 1 9 8 9 ) ，4 8 5 4 7 6 2 0 i n 龟泌，j e f r y 毛a _ w e s s ，鬟搬p i r i c 蕊l i k e l 呈h 。o da 珏dg e h e r 越e s t i m a t i n g e q u a t i o n s a n n s t a t i s t ，2 2 ( 1 9 9 4 ) ，3 0 0 3 2 5 2 6a 珏珏aa | a r a o 嫩i 嚣m p 主虹e 霜l 8 秦为c 松，e m p i r i e a l l i k e l i h o o dr ，a t i o e o n 蠡d e n c e 董融g i o n s i nap a r t 】y liilear 戳。del，应霜概率镜许，15(19鹦)，36争369 j i 自 谶碌蠹差。誊鐾薹t ；f 曼薹! 簪| | i 捌萋圳r 萎霉i i 饕塞0 e 蠢；，# i n g l ；j 5ie； 薛建韵嚣泞妻三旧；鲥戮。冀黼蕉x￥籍蕉；98)，967-0723 1n i c o l el a z a r ，p e ra s l a km y k l a n da ne v a l u a t i o no ft h ep o w e r andc o n -d i t i 。n a l h yproperties ofx 参考文献 3 2s a m u r p h y l i k e l i h o o dr a t i o b a e s dc o n 矗d e n c ei n t e r v a l si ns u r 弋r i v a la n a l y s i s j o u r n a lo ft h ea m e r i c a ns t a t i s t i c a la s s o c i a t i o n 9 0 ( 1 9 9 5 ) ，1 3 9 9 1 4 0 5 3 3d a v i de m a t t h e w s l i k e l i h o o d b a s e dc o n 矗d e n c ei n t e r v a l sf o rf u n c “o n 8o f m a n yp a r a m e t e r s b i o m e t r i k a 7 5 ( 1 9 8 8 ) ，1 3 9 1 4 4 3 4g a 肌gl i ，m y l e sh o l l a n d e r ，j a nw m e k e a g u e ，j i e y a n g n o n p a r a m e t r i cl i k e 一 1 i h o o dr a t i oc o n 丘d e n c eb a n d sf o rq u a n t i l ef u n c t i o n sf r o mi n c o m p l e t e s u r v i v a ld a t a t h ea n n a l so fs t a t i s t i c 8 2 4 ( 1 9 9 6 ) ，6 2 8 6 4 0 3 5g a n g “n o n p a r a m e t r i cl i k e l m o o dr a t i oe s t i m a t i o no fp r o b a b i l i t i e sf o r n u n c a t e dd a t a j o u r n a lo ft h ea m e r i c a ns t a t i s t i c a la s s o c i a t i o n 9 0 ( 1 9 9 5 ) ， 9 9 7 1 0 0 3 ， 3 6x u e l i u g e n ，z h ul i x i n