（概率论与数理统计专业论文）半参数回归模型的bayes估计.pdf

摘要 本文导出了半参数回归模型中参数的b a y e s 最小风险线性无偏估计和相 应的非参数部分的估计量，并研究了这些估计量的小样本和大样本性质。 第一章将半参数回归模型与线性回归模型和非参数回归模型进行了比较， 介绍了这一模型中加权最b - 乘估计( w l s e ) 估计的方法导出了模型中参 数的b a y e s 最小风险线性无偏估计( b m r l u e ) 和与之相对应的非参数部分的 估计量 第二章在均方误差矩阵( m s e m ) 准则、p r e d i c t i v ep i t m a nc l o s e n e s s ( p r p c ) 准则和p o s t e r i o rp i t m a nc l o s e n e s s ( p p c ) 准则下分别研究了b m r l u e 相对于 w l s e 的优良性；还讨论了当设计阵x 非列满秩时，模型中参数的可估函数 的b m r l u e 相对于w l s e 的优良性 最后一章，我们引进了一些合理的假设条件( 主要是针对非参数部分) 在 这些假设下，对半参数回归模型中参数的b a y e s 估计量和非参数部分的估计量 分别讨论它们的强相合性 关键词：半参数回归模型；b a y e s 最小风险线性无偏估计；加权最小二乘估 计；m s e m 准则；p r p c 准则；p p c 准则；强相合性 a b s tr a c t i nt h i st h e s i s ，t h eb a y e sm i n i m u mr i s kl i n e a ru n b i a s e de s t i m a t o ro fp a r a m e t e r s a n dt h er e l a t i v ee s t i m a t o ro fn o n p a r a m e t r i cp a r ta r ed e r i v e di ns e m i p a r a m e t r i c r e g r e s s i o nm o d e l t h e i rs m a l ls a m p l ep r o p e r t i e sa n dl a r g es a m p l ep r o p e r t i e sa r e s t u d i e d i nc h a p t e r1 ，t h es e m i p a r a m e t r i cr e g r e s s i o nm o d e li s c o m p a r e dw i t hl i n e a r r e g r e s s i o nm o d e la n dn o n p a r a m e t r i cr e g r e s s i o nm o d e l t h ew e i g h t e dl e a s ts q u a r e e s t i m a t o r ( w l s e ) a n dt h eb a y e sm i n i m u mr i s kl i n e a ru n b i a s e de s t i m a t o r ( b m r l u e ) o fp a r a m e t e r sa n dt h er e l a t e de s t i m a t o ro fn o n p a r a m e t r i cp a r ta r ed e r i v e d i nc h a p t e r2 ，t h es u p e r i o r i t i e so ft h eb m r l u eo v e r i nt e r m so ft h em e a ns q u a r ee r r o rm a t r i x ( m s e m ) w i 。s ea r ed i s c u s s e d 陬出靠沌， c e r i t i o n ，定i t m a nc l o s e n e s s ( p r p c ) c r i t e r i o na n dp o s t e r i o rp i t m a nc l o s e n e s s ( p p c ) c r i t e r i o n w h e nt h ed e s i g n m a t r i xxi sn o tf u l lc o l u m nr a n k t h es u p e r i o r i t i e so ft h eb m r l u ef o rt h ee s t i m a b l e f u n c t i o no v e rw l s ei ss t u d i e d t h ef i n a lc h a p t e r ，s o m er e a s o n a b l ea s s u m p t i o n sf o rn o n p a r a m e t r i cp a r to ft h e m o d e la r ei n t r o d u c e d 。t h es t r o n gc o n s i s t e n c yo fb m r l u eo fp a r a m e t e r sa n dt h e r e l a t i v ee s t i m a t o ro fn o n p a r a m e t r i cp a r ta r es h o w e du n d e rt h ea s s u m p t i o n s k e yw o r d s ：s e m i - p a r a m e t r i cr e g r e s s i o nm o d e l ，b a y e sm i n i m u mr i s kl i n e a ru n b i - a s e de s t i m a t o r ，w e i g h t e dl e a s ts q u a r ee s t i m a t o r ，m s e mc r i t e r i o n ，p r p cc r i t e r i o n ， p p c c r i t e r i o n ，s t r o n gc o n s i s t e n c y 工i 中国科学技术大学学位论文相关声明 本人声明所呈交的学位论文，是本人在导师指导下进行研究工作 所取得的成果。除已特别加以标注和致谢的地方外，论文中不包含任 何他人已经发表或撰写过的研究成果。与我一同工作的同志对本研究 所做的贡献均已在论文中作了明确的说明。 本人授权中国科学技术大学拥有学位论文的部分使用权，即：学 校有权按有关规定向国家有关部门或机构送交论文的复印件和电子 版，允许论文被查阅和借阅，可以将学位论文编入有关数据库进行检 索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。 保密的学位论文在解密后也遵守此规定。 作者签名：盔邀理 加d 7 年月日 第一章引言 考虑如下模型 芗i 。i 卢l + + 唧t + 夕卅e = 。7 p + 9 ( 。) + e i ( 1 0 1 ) le ( e ) = 0 ，c o v ( e ) = 盯2 ， 、 。 其中z 7 = ( z l i ，z 札) ，y 是随机变量，卢l ，纬是待估参数，9 ( t ) 是定义在 置1 上的未知实函数我们称( 1 0 1 ) 为半参数回归模型，z 7 多为模型的参数部 分，9 ( t ) 是模型的非参数部分 半参数回归模型是近几十年来兴起的，受到了许多统计学者关注的一种 统计模型在一些实际问题中，使用线性回归模型拟合数据效果较差，如果用 非参数回归模型，则会失去较多的信息比较自然的想法就是使用二者的“混 合”，因此人们引进了这种参数部分和非参数部分相结合的半参数回归模型 本文将在夕( ) 为非随机的假定下，讨论半参数回归模型中回归参数的b a y e s 估 计及非参数部分的相应估计量的小样本和大样本性质 假设我们得到一组形如 y i ，x i l ，z 印，i ) 翟l 的样本，将其带入( 1 2 1 ) 得到如下形式的数据模型 犰= x i l 卢l + + z 伽岛+ 夕( 如) + 吃， i = 1 ，2 ，n ，( 1 0 2 ) 其中c i 相互独立，满足条件 e ( e i ) = 0 ，盯2 = v a r ( e i ) 0 都是已知常数 在模型( t o 9 ) 中，求回归参数的b a y e s 估计主要有下列两种方法：一是在 正态线性模型下假定p 的先验分布为共轭先验，如为正态分布，或者为无信息 先验，则在二次损失下b a y e s 估计由后验均值给出( 见w a n ga n dc h o w 引，b o x a n dt i a o 【3 】和b e r g e l 4 】) ；另一种方法是在g a u s s 。m a r a n k o v 模型下，假定p 的 先验分布的二阶矩存在，利用最优化方法使线性估计的b a y e s 风险达到最小时 确定b a y e s 估计，此估计通常称为线性b a y e s 估计这一方法最早是由r a d 【5 】 提出，t r e n k l e ra n dw e i 6 1 ，w e ia n dz h a n g 7 】及文献i s 】等都曾讨论过这类估计 及其优良性问题本文将采用后一种方法，这种方法的优点是对样本分布和先 验分布所加的条件较少，适用范围较广 令6 = 6 ( z ) 为参数向量卢的一个估计，定义损失函数为 三( 最多) = ( 6 一声) d ( j p ) ， 其中d 为已知正定矩阵，咒( 石，卢) = e l ( 5 , f 1 ) 为6 的风险函数，这儿e 表示 对y 和卢的联合分布求期望 令卢的线性估计类为下列形式 厂= 声+ = a 矿+ b ：a 和b 分别为p n 和p 1 矩阵) ，( 1 0 1 3 ) 记危e 为声的b a y e s i a n 最小风险线性无偏估计( b m r l u e ) ，按定义良e 满足 r ( 口e f ，卢) = m a ，i n 。r ( f l * , 卢) = m ，i n 。e ( # 4 一芦) d ( 声4 一卢) 】， ( 1 o 1 4 ) 且满足约束条件e 0 一芦) = 0 由约束条件可以得到： b = ( k a 又) 弘，( 1 0 1 5 ) 3 第一章引言 为了求a ，先计算b a y e s 风险 冗( 声+ ，卢) = e 【a ( 矿一戈p ) 一( p p ) 】7 d a ( 驴一贾p ) 一( 卢一p ) 】 = e t r d 陋( y x p ) 一( 卢一p ) 】阻( y x p ) ( 卢一“) j 7 = a 2 t r d a ( i n + p 一1 戈戈7 ) a 7 + p 一1 d p 一1 d a 戈一p 一1 d 2 7 a 7 ， 其中p = 盯2 丁2 为了求a ，使得r ( 矽，p ) 最小，令掣= 0 ，利用矩阵微商法 则，得到d a ( i n + p l j 戈) 一p 一1 d 戈，= 0 ，由此得到a = p l 豆( 厶+ p 一1 戈戈7 ) 一， 利用事实( p + b c b 7 ) 一1 = p 一p 一1 b ( b p 一1 b + c 。) 一1 b p ，将a 的表达 式改写为 a = ( 戈7 戈+ p 易) 一1 元7 ( 1 ，0 1 6 ) 因此声的b m r l u e 为 矽b e = ( 戈7 戈+ 鸠) 一1 ( 戈矿+ 肚) = ( 戈7 爻+ | p 易) 一1 ( 戈7 贾反+ ) = 反一( p 一1 戈7 更+ 昂) 一1 ( 反一p ) ( 1 o 1 7 ) 将免e 代替( 1 0 7 ) 中的卢，可以得到室( t ) 的估计豇e ( t ) 即 复b e ( ) 全室( t ，声b e ) = s ( y x 声b f ) = s i r x ( 2 贾+ 鹏) 一1 ( 元矿+ p p ) ( 1 o i 8 ) 关于如e ( t ) 的大样本性质将在第三章研究 论文的结构如下；第二章分三节，主要研究鼠e 的小样本性质第一节讨 论在均方误差矩阵( m s e m ) 准则下良e 相对于风的优良性；第二节在p r p c 和p p c 准则下讨论尾f 相对于反的优良性，第三节讨论x 非满秩情形下， 讨论可估函数c ，p 的b a y e s 估计量c ，忽e 相对于c ，厶的优良性最后，第三章 我们将引进一些合理的假设条件( 主要是针对非参数部分) ，在这些合理的假设 下分别对半参数回归模型中参数的b a y e s 估计量免e 和非参数部分的估计量 g a ，b e ( t ) 分别讨论它们的强相合性 4 第二章b m r l u e 的小样本性质 2 1 均方误差矩阵准则下b m r l u e 的优良性 为了获得如e 的优良性，首先引入如下定义： 定义2 1 1 假设舀是参数向量0 的一个估计，舀的均方误差( m s e ) 的定 义为m s e ( o ) = e 【( 痧一移) 穆一9 ) 】痧的均方误差矩阵( m s e m ) 定义为m = e ( 9 一目) ( 口一口) 7 】 记舀l ，晚为参数0 的两个不同的估计若m ( 0 2 ) 一m ( 0 1 ) 0 ，即m ( 0 2 ) 一 m ( 0 1 ) 非负定( 或m s e ( 0 2 ) 一m s e ( 0 1 ) o ) ，我们就说在m s e m ( 或m s e ) 准 。则下，百l 优于百2 模型( 1 0 4 ) 中回归参数的b m r l u e 在m s e m 准则下相对于w l s e 的优 良陛有以下结果 定理2 1 1 设模型( 1 0 4 ) 中卢的w l s e 和b m r l u e 分别由( 1 0 1 0 ) 和 ( 1 0 1 7 ) 式给出则 m ( f l a ) 一m ( 艮e ) 0 证明：由( 1 0 1 0 ) 和定义2 1 可知 m ( 反) = 驯( 良一卢) ( 反一卢) 】= e 驯( 反一卢) ( 反一3 ) 捌) = 盯2 ( 爻7 贾) ，( 2 1 1 ) 由( 1 0 t 7 ) 和定义2 。1 1 我们可以得到 m ( 口b e ) = e 【( 口b f 一卢) ( 矽b e 一卢) 】= c 伽( 良f p ) = e 【c 们，( 声b e z l z ) + g o u 【e ( 卢b 层一j 卢) 】 = 仃2 ( 爻7 又+ p ) 一1 爻2 ( 2 贾+ p 易) 一1 + - r 2 p 2 ( 文7 戈+ p 易) 一2 = 盯2 ( 戈7 贾+ p 易) 一 5 ( 2 1 2 ) 第二章b m r l u e 的小样本性质 注意到事实：若矩阵a b 0 ，则b 一1 a 一1 0 ( 见文献c 9 】) 因此有 m ( 反) 一m ( 口b f ) = 仃2f ( 贾7 戈) 一( 戈7 贾+ l p 易) - 1 i 0 ， 定理得证 注意到事实m s e ( o ) = t r m ( o ) ，结合定理2 1 1 ，我们可以得到如下结论 推论2 1 1 设模型( 1 0 4 ) 中卢的w l s e 和b m r l u e 分别由( 1 0 1 0 ) 和 ( 1 0 1 7 ) 式给出，则 m s e ( f 1 ) 。) 一m s e ( f l b e ) 0 2 2 p c 准则下b m r l u e 的优良性 p i t e r m a nc l o s e n e s s ( p c ) 准则是由p i t e r m a n 1 0 】于1 9 3 7 年提出的，这一准 则被人们忽略了几十年后，r 肋【1 1 】 【1 2 】和k e a t i n ga n dm a r s o n 1 3 】有关p c 准则 的论文将其复活，在国际统计学界引起重视和争论，在这方面做出贡献的有 g h o s ha n ds e n 1 4 ，k e a t i n ga n dm a r s o n 1 引，s e n ，k u b o k a w a ，a n ds a l e h 16 1 ，k e a t i n g a n dc z i t r o m 【硎，k e a t i n g ，m a r s o na n ds e n 1 8 和g h o s h ，k e a t i n ga n ds e n 1 9 】等下 面首先给出p c 准则的定义 定义2 2 1 记蚕l ，百2 为参数向量0 的两个不同的估计，l ( o ，0 ) 为损失函 数，若 p ( l ( 0 1 ，口) l ( 0 2 ，口) ) 0 5 ，对一切0 e 成立， 且严格不等号“ ”至少对某个0 0 成立，则称舀1 在p c 准则下优于舀2 g h o s h 和s e n 1 4 】在b a y e s 的意义下引入了p c 准则的两个替代概念，称为 p r e d i c t i v ep i t m a nc l o s e n e s sc r i t e r i o n ( p r p c ) 准则和p o s t e r i o rp i t m a nc l o s e n e s s c r i t e r i o n ( p p c ) 准则，定义如下： 定义2 2 2 设r 表示参数为0 的先验分布类，舀1 和舀2 为0 的两个不同 估计量，称蚕l 在p r p c 准则下优于百2 ，如果 b ( 参l ，0 ) 三( 如，p ) ) 0 5 ，对一切丌f 成立， f ； 第二章b m r l u e 的小样本性质 这儿b 表示对任一丌r 关于y 和8 的联合分布计算概率 定义2 2 3 设丌是0 的先验分布，舀1 ( 可) 和百2 ( ) 为p 的两个不同估计 量，称痧1 ( ) 在p p c 准则下优于0 2 ( y ) ，如果 b 仁( 舀1 ( 可) ，口) l ( 0 2 ( y ) ，o ) l y ) 之0 5 ，对所有y y ， 且严格不等号“ ”至少对某个y y 成立，此处y 是样本空间 下面我们分别在p r p c 和p p c 准则下讨论b m r l u e 的优良性，为此需 进一步假设模型( 1 0 4 ) 中误差e 服从正态分布，即 e l p 一( 0 ，0 - 2 厶) ( 2 2 1 ) 本节中考虑如下损失函数：l ( d ，口) = ( d 一口) 7 ( d 一0 ) = i id 一01 1 2 在p r p c 准则 下我们有如下结果 定理2 2 1 设模型( 1 0 4 ) 中芦的w l s e 和b l u m r e 分别由( 1 0 ，1 0 ) 和 ( 1 0 1 7 ) 式给出，且条件( 2 2 1 ) 成立若 妄帮， 仁2 埘 则 p 丌( l ( 良e ，p ) l ( 良，卢) ) o 5 ，v 丌r 卢， 其中d = 丌( p ) ：e z = p ，c 伽( p ) = 丁2 昂) ，a l ，是矩阵贾7 文的最大和最小特 、征根 注2 2 1 条件( 2 2 2 ) 表明p 喊方差丁2 和e 的方差仃2 之比要控制在 一定范围内，才能得到p r p c 准则下b m r l u e 相对于w l s e 的优良性质 证明g 令 w 0 b e ，以；p ) = l ( 尾e ，p ) 一三( 反，卢) = 1 1 彪e 一卢1 1 2 一i i 反一卢ij 2 ( 2 2 3 ) 记a = 一1 支戈+ 易) ，由( 1 0 1 7 ) 可得 三( 声口e ，卢) = ( 风一卢) 一a ( 以一p ) 7 ( 良一卢) 一a ( 反一p ) 】 第二章b m r l u e 的小样本性质 = 三( 反，p ) 一2 ( a p ) 7 a ( a 1 3 ) + ( 反一p ) a 2 ( 反一p ) ( 2 2 4 ) 由( 2 2 4 ) 可知彬( 良e ，以；卢) 0 等价于 ( 良一p ) a 2 ( 反一肛) 2 ( 良一肛) a ( 良一卢) ( 2 2 5 ) 由于a 2 a ，故( 2 2 4 ) 式蕴含于下式 ( 反一p ) 7 a ( 反一p ) 2 ( a p ) 7 a ( 以一卢) ( 2 ，2 6 ) 将反一芦= ( 反一声) 一( p 一卢) 代入( 2 2 6 ) 式，整理得到等价不等式 ( p 一肛) 7 a ( f l p ) ( 反一) 7 a ( 反一p ) ( 2 2 】7 ) 由r a n k ( x ) = p ，可知r a n k ( x ) = p ，则存在p p 正交方阵q 使得 戈j = q a q 7 ，( p 1 贾贾+ 易) 一1 = q ( p 一1 a + 易) 一1 ， ( 2 2 8 ) 这儿a = d i a g x 1 ，b ) ，且有入1 a 2 0 是贾7 贾的特征根由 ( 2 2 8 ) 我们知道( j d 一1 入l + 1 ) - i i p a = ( j d 一1 爻贾+ 如) 一1 ( ( p 一1 + i ) - 1 ) 厶易 见( 2 2 7 ) 蕴含于 ( j d 一1 a p + 1 ) 一1 ( 卢一p ) 7 ( 卢一p ) ( p - l h i 十1 ) 一1 ( 以一p ) ( 以一p ) ( 2 2 9 ) 利用0 笋瓮等畚，可知( 2 2 9 ) 蕴含于 等一p ) 一p ) ( 良一p ) 7 ( 反一卢) ( 2 2 1 。) 由( ；2 1 ) 可知( 良卢) i 卢一n ( 0 ，盯2 ( 戈7 戈) 一1 ) 令z = ( 戈，贾) ( 良一p ) 盯，则 有z | p 一( o ，易) 因此( 2 2 。l o ) 等价于 鲁( p p ) ，( p p ) 仃2 z ，( 戈，戈) 一1 互( 2 2 1 1 ) 口 ，由( 2 2 8 ) 可知( 戈j ) 一1 a f l 易，故( 2 2 1 1 ) 蕴含于 杀怕刊1 2 0 是a s 成立的，定理得证 2 3x 非满秩情况下b m r l u e 的优良性 如果模型( 1 0 4 ) 中x 是非满秩的，即r a n k ( x ) = r p ，则模型( 1 0 9 ) 中 文也是非满秩的，即有r o 礼七( 戈) = r 0 ，i = 1 ，2 ，r ，由( 4 6 ) 可以得到m s e ( ，反) 一 m s e ( c 7 良f ) 0 定理征毕 1 1 3 1 引言 第三章估计量的大样本性质 在第一章中，我们用两步估计的方法得到了模型( 1 0 4 ) 的参数部分芦和 非参数部分9 ( t ) 的w l s e 和b m r l u e ，并在第二章中分别在m s e m 准则和 b a y e sp c 准则下比较声的b m r l u e 相对于w l s e 的优良性。本章我们将讨 论参数p 的b m r l u e 良f 和非参数部分旦( t ) 的估计如f ( ) 的一些大样本性 质 为了方便讨论，在下边的讨论中，我们将记核权函数硪。( z ) 为w 么( ) ，同 时窗宽函数a 记为h n 为讨论它们的大样本性质，本文需做如下假定条件： o ：l i mr t - 1 戈7 戈= ，为正定阵 b ：g ( ) 为闭区间d 上连续函数，且满足l i p s c h t z 条件 c ：对一切t d ，权函数满足自然条件： w n i ( t ) 0 ，眠 ( t ) = 1 。 扛= l d ：对t j d ，当n 充分大时有； ( 1 ) o 骤n i w n i ( t j ) l 二o ( n 一( 1 0 9 n ) 一1 ) ( 2 ) v 5 o ，。m s l a s x n i e ：1w n i ( j ) j ( i t j 一如i j ) = 。( 1 ) ( 3 ) 蕊崾t ( 捌恪乜 。o ， 下边我们来说明满足c 的非参数核权函数是存在的取一类核权函数； 吲归掣，( 3 1 1 ) 1i ( ) = 百虬，( 3 1 ) eg ( 锫) 其中h n 是窗宽函数，满足条件； h n _ 0 ，n h n _ 。， 1 2 ( 3 1 2 ) 第三章估计量的大样本性质 进一步我们对g ( ) 做如下假设： i o 若g ( ) 为定义在( 一0 0 ，+ o 。) 上概率密度函数，且对一切t ( 一。，+ 。c ) 均有g ( ) 冬日其中日( ) 为控制函数，它在( 一o o ，+ 。) 上对称，且有 s u p h ( t ) o o ，日( t ) 。o ，日( t ) 在【q ，+ 。o ) 上非增。 2 0 存在正常数m l ，m 2 ，使得：m 1 i ( i t i m 2 ) g ( t ) 3 0 存在绝对正常数m 3 ，使得 旷址l i m a x ni t l t i - i l = = 等 ( 3 1 3 ) 4 0 存在绝对正常数m 4 ，m 5 ，使得： 粥，4 s 危髂钝i 1 ( i 0 9 讫) 一1sm 5 ( 3 1 4 ) 下边我们依次验证在0 d 时，核权函数w 厕( t j ) 满足条件d 中( 1 ) 一( 3 ) 首先对( 1 ) 当n 充分大时，由3 0 和4 0 可知： m 4 r t 一f 0 9 n h n m 5 n i l f 叼n 而= m 3 n 可以知道m 2 h n 易见 离z i 的距离为d 的范围内，( t h ，k ) 的个数最少为2 d 。m 。a x n i t i h - l l ，则有 娄g ( 等) 二t 扣一矗 0 及礼 1 有 p 嬷i = 1 磊蚴印h 睡陆c 讲州 证明：参见文献f 2 3 j 引理3 2 2 若条件d ( 1 ) 成立，对任意t d ，有 f 踹i ( 巧) 龟f = 。( 1 ) 1 娜p 成立 后边我们把在y 的分布下的a s 收敛记为a s 或者a s p ( 不做特殊说明 即为a 8 lp ) 。其中幺由模型( 1 0 2 ) 给出 证明：记e ：= e t 川e i i 0 为常 数我们有e i = ( e ：一刀e ：) + ( e i 一) + e e ：= 扎i + 岛i i + e e ：，于是有： o m j a x c ) = p ( 蚓州吃l 之彬) c ) i = 1t = 1 p ( 吲 删；) + c 。尸( 嘉 i ) + c 。 i = c 2t = 。2 嘉e e ；+ c ，( 7 2 十c ， o 。， ( 3 2 2 ) 1 4 第三章估计量的大样本性质 其中c 。：c 2 - 1p ( e i l c 另外这儿 = l 。 还用到一个极限理论中的结论：“z 为随机变量，e i z i 存在，则p ( i z i n ) n = l e i z i 成立” i i ) 记j e ，r = k i t i - i l e i i ij c ) ，有 0 0 0 0 e l e i 。全e l e l 川e i c ) ) i = l= l o o = e 他1 i ( 1 e i e l 咖 ) - 川e “c ) ) c ，这就会使得川e 副喇考) i ( 1 e i i c ) = o ， 因此上述无限求和中只有有限项非零，故该顼的求和有限 i i i ) 最后一条针对截尾方差有 此式成立的原因和和i i ) 中( 3 2 3 ) 是一个道理 o o 由i ) , i i ) 和i i i ) 我们可以得到峭i ，o s 成立 i = l 由d ( 1 ) 和上边的结论可知： 五2 o m j a ( 3 2 4 ) ( 3 2 5 ) 2 、“ c 一 ， p h v 0 彬 一 h l l 龟 u 川u r j ， 铌 i = e e 兽汹 er f 位i一i h 一啦 e 掩p 垮 n 汹 一 叼 1 2 一 nc 一 第三章估计量的大样本性质 s ( 咖广娄脚蚓2 州e 柳) c 4 佗一 ( 1 0 9 n ) 一1 犯；= d ( ( 正。9 佗) 一1 ) ，o s ，( 3 2 ，6 ) 在此式的证明中我们用到了壹i 一；：o ( n ) 的结论 i = l 下边利用引理3 2 1 和b o r e l - c a n t e l l i 引理证明以- 0 ，o s 成立为用引 理3 2 1 ，首先求出翟1y o r ( i ( ) e n i ) 和帆i ( 0 ) e n i 的上界 易见眈乞= e ( 4 一劂) 2 = y g r ( ) e l e ：1 2 d r 2 ，所以有； 而 。矍n m 洲吲) c 5 n 一；l o g n 一， ( 3 2 7 ) 。臻ni i 呲砸1 蜘m a x s nj w i ( 铋。m 她a x ni e ：一硼 佗一i 1 ( z 凹佗) 2 m a 0 有： p ( f 喜如k f 芝) 2 泖 取0 ，7 鸯，则有： 另有； 2 c s n 一；( f 0 9 n ) 一1 + 7 1 e ( 1 0 9 n ) 一1 i 瓦 ， ( 3 2 ) ) c o ( 1 0 9 n ) 一17 7j 、“。 ( 3 2 1 0 ) ， nn n p ( 臃i 眠i ( 挑i i ) ep ( izw o 矧i ) ，( 3 2 i i ) 1 6 目 0忍m w n 试 一 2 司 白0 目 n 汹 一 n m c 一 凡 e 如 n 汹 ，、 p 第三章估计量的大样本性质 记8 n 3 。m s j a 三x n iz i i i ( 0 ) e n l l ，利用事实( b 。r e l 一c a n t e l l l 引理) ； 由( 3 2 1 0 ) 和( 3 2 1 i ) 就可以得到： p f ，o m j a x ni 声i = 1 眠i c 巧，e n t l e ) 姜尸( 1 娄t c 勺，e 戚l ) n c l o 犯一3 c l o 一2 ， ( 3 2 1 3 ) 故有 薹p ( 躜匡酬如。争 。o 因此由b o r e l c a n t e l l i 引理可知 = 哟m a s x n 瞎w n 舭十舢” 2 “， 综上所述，我们得到： o m j a x v 对铸 0o r a 第三章估计量的大样本性质 i j j ) 设，为( 0 ，0 0 ) 上正值函数，使得： ，( z ) z 2t0 0 ，当zj ，0 ， 且对某个a o ，有 l ：斋如 0 ，有： n n w n i ( t j ) ( g ( t o - g ( t j ) ) s w n i ( t 3 ) lc g ( t d - g ( t j ) ) l x ( i t 一t j l 6 ) i = 1i = 1 + w n i ( t j ) l ( g ( t i ) 一g ( t i ) ) l z ( i t i t j l 6 ) i = 1 全日1 + h 2 ( 3 2 2 0 ) 由条件b ，9 ( t ) 在t d 上有界，记： i g ( t i ) 一9 ( 幻) l m 结合条件d ( 2 ) ，对 j = l ，2 ，佗，我们有： n h i m l ( 屯) z ( 1 t i 一如i 巧) _ 0 ( 3 2 2 1 ) i = 1 对奶，由9 ( ) 满足一阶l i p s c h t z 条件可得： 纷 日2 i ( 如) l h t j l z ( i t i t j l 6 ) i - - - - 1 l c f ， ( 3 2 2 2 ) 由占的任意性令其趋向子零即有玩_ 0 综合( 3 2 2 1 ) 和( 3 2 2 2 ) 该引理得证 1 9 第三章估计量的大样本性质 3 3主要结论及其证明 定理3 8 1 在假设条件o ，b ，c ，d o ) 一( 3 ) 成立的条件下，我们有如下结论： ( 1 )声b e 一卢斗0 ， q s p ( 2 ) 重e f ( ) 一( t ) 一0 ，o ，s p + 这儿的概率p 是关于y 和联合分布计算的 ， ( 3 3 1 ) ( 3 3 2 ) 注3 3 1 记= 矗一专，它是与y 和卢有关的随机向量，即每个分量为y 和p 的函数，由n s 收敛的定义可知1 1 7 7 n l i 0 ，n s p + 的充要条件是： 恕p “u ， l l n n l l ) ) 2m l i m e p fu 、。 b 4 1 纠酬= o ， ( 3 3 3 ) n 缸n ，总 对v 0 成立此处概率p 是在给定卢时关于y 的条件概率计算的，概率 p 是关于y 和p 联合分布计算的 由于p ( u i b n l l e ) 1 ，显然可由控制收敛定理得到： n k 恕p + ( 缈删 ) 2 l i me p ( 缈训l e 川 = e 熙引u l l n , , l l ， ( 3 删 因此只需证明l i ep ( u i l n 他j j 垆) ) = 0 ，即给定p 时 l e - - r o o n k l f 一0 ，n s p ，就有f f 卵n i f - 0 ，n s p 成立 证明：( 1 ) 将矿= ( ，一s ) y 带入到良e 表达式( 1 0 1 7 ) 可知， 声日e p = ( 爻7 爻+ p 易) 一1 又( j s ) ( t ) +( 贾7 贾+ p 易) 一1 戈( ，一s ) e + p ( 2 7 爻+ 碑) 一1 e + 垒b l + 历一b 3 ， 其中e = l | b p ，p 由( 1 0 1 ) 给出 2 n 一一墨三兰竺堡重箜查堂查竺堕 先来证明b t o 记垂( 巧) = 銎1w n i ( t 歹) ( y 。妒) ，童( ) = ( ( t 1 ) ，垂( 如) ) 7 。 则有向量( t ) 一啦( t ) = ( j s ) 旦( ) 的分量： i g ( t d ) 一e t ( t j ) l = i jr , i ( t j ) ( 9 ( 如) 一g ( t j ) ) i ， ( 3 3 5 ) 由引理3 2 5 可得： 腮1 9 ( 如) 一e 鸯( 如) l - 0 ， ( 3 3 6 ) 又易见x ( x 7 戈) 一1 戈为对称幂等阵故有x ( x ，戈) 一l 戈，厶，从而有： i i ( 贾7 戈+ p 昂) 一；戈7 ( 2 ( t ) 一雹