（应用数学专业论文）相依样本下回归函数基于分割估计及其改良估计的统计推断理论.pdf

相依样本下回归函数基于分割估计及其改良估计的 统计推断理论 摘要 设( x ，k ) ，( x 2 ，k ) ，( 以，k ) 为从取值于尺。月1 的总体( x ，】，) 中抽出 的个随枫样本。若e y l ，鲻称，r x ) = e 列x = x 1 x 1 为y 关于x 的回 归函数。如何由上述样本对卅( x 1 进行估计，一直是概率、统计界研究的熟点之 一。美国学者p a u la l g o e t 和l d s z l 6g y 6 r t i ( 1 9 9 9 ) 提出了回归函数m ( x 1 基 于分割的估计m n ( x ) ；而后，我国著名统计学家赵林城教授( 2 0 0 2 1 对棚。( x 1 进行 改良，并证明了在i j r d 样本下，改良基于分割估计的强相合性；在此基础上， 凌能祥教授( 2 0 0 4 ) 证明了在样本为同分布的尹混合序列时，回归函数改良基于 分割估计的强相合性及收敛速度，( 2 0 0 5 ) 证明了在样本为同分布的p 混合序列 时，回归函数基于分裁估计的强掘舍性。经研究我 f 3 发现，回归函数基于分割 估计及其改良估计的其他大样本性质，国内外均无文献涉及，如混合相依较弱 条件的口混合样本下估计量的强相台性及收敛速度；截尾数据下回归函数基于 分割估计及其改良估计的渐近正态性等等，而这些性质在非参数回归估计理论 中均占有重要的地位。 因此，本文主要对以下三个方面进行了研究f 1 ) 利用d 混合序列的基本不等 式，证明了同分布的口混合样本下回归函数基于分割估计的强相合性，积分绝 对误差的强相合性与平均相合性； ( 2 1 利用口摁合序列的b e m s t e i a 不等式，证 明了同分布的口混合样本下回归函数改良基于分割估计的强相合性及收敛速 度，积分绝对误差的强相合性与平均相合性；( 3 1 利用截尾数据的一些性质和鞅 的有关理论，在简洁合理的的条件下。证明了截尾样本下回归函数基于分割估 计及其改良估计的渐近正态性。 关键词：回归函数，基于分割估计，改良基于分割估计，口馄合强相合性 收敛速度，截尾样本，渐近正态性。 s t a t i s t i c a li n f e r e n c et h e o r yo fp a r t i t i o n i n ge s t i m a t ea n di t s m o d i f i e de s t i m a t ef o rn o n p a r a m e t r i cr e g r e s s i o nf u n c t i o n u n d e rd e p e n d e n ts a m p l e a b s t r a c t l e t ( x ，y ) b ea r 。x 五1v a l u e dr a n d o mv e c t o ra n d ( x i ，巧) 。( 五，k ) ，- ( 置，k ) b ear a n d o ms a m p l ed r a w nf r o m ( z ，y ) i fe l r l i sf i n i t e ，t h er e g r e s s i o n f u n c t i o no fyg i v e nxi sd e f i n e da sm ( x ) = e ( r l x = x ) ，工兄4 h o wt o e s t i m a t em ( x ) f r o mt h es a m p l e ( 置，耳) ，l f 厅) h a sb e e no n eo ft h em o s t s i g n i f i c a n tt h i n g si np r o b a b i l i t ) ，a n ds t a t i s t i c s p r o f e s s o rp a u la l g o e ta n dp r o f e s s o r l a s z l 6g y s r f i ( 1 9 9 9 ) i nt h eu ，s ，ap r o p o s e dp a r t i t i o n i n ge s t i m a t ef o rr e g r e s s i o n f u n c t i o nm ( x ) ；t h e nt h ef a m o u ss t a t i s t i c i a nz h a ol i n gc h e n g ( 2 0 0 2 ) i nc h i n a p r o p o s e dt h em o d i f i e dp a r t i t i o n i n ge s t i m a t ef o rr e g r e s s i o nf u n c t i o nm ( x ) a n d p r o v e di t ss t r o n gc o n s i s t e n c yu n d e ri i ds a m p l e ；b a s e do nt h i s ，p r o f e s s o rl i n gn e n g x i a n g ( 2 0 0 4 ) p r o v e dt h es t r o n gc o n s i s t e n c ya n dc o n v e r g e n c er a t e o fm o d i f i e d p a r t i t i o n i n g e s t i m a t ef o r r e g r e s s i o nf u n c t i o n u n d e rs a m p l et h a ti s i d e n t i c a l l y d i s t r i b u t e d - m i x i n gs e q u e n c e ；h e ( 2 0 0 5 ) p r o v e d t h e s t r o n gc o n s i s t e n c y o f p a r t i t i o n f i a g e s t i m a t ef o rr e g r e s s i o nf u n c t i o nu n d e rs a m p l et h a ti s i d e n t i c a l l y d i s t r i b u t e dc p - m i x i n gs e q u e n c e b yr e s e a r c h ，w ek n o wt h a tt h e r ea r em a n yo t h e rl a r g e s a m p l ep r o p e r t i e ss u c h a st h es t r o n gc o n s i s t e n c yo fp a r t i t i o n i n ge s t i m a t ea n d m o d i f i e dp a r t i t i o n i n ge s t i m a t eu n d e r 口- m i x i n g s a m p l ew i t l lt h eb e t t e rw e a k l y m i x i n gd e p e n d e n tc o n d i t i o n s ；t h ea s y m p t o t i cn o r m a l i t yu n d e rc e n s o r e dd a t a ，e t c ，w h i c h h a v e n tb e e nr e s e a r c h e df o r ey e a r s b u tt h e s el a r g es a m p l ep r o p e r t i e sp l a ya n i m p o r t a n tr o l ei nt h et h e o r i e so f n o n p a r a m e t r i cr e g r e s s i o ne s t i m a t i o n i nt h i sp a p e r w em a i n l ys t u d yt l r e ea s p e c t sa sf o l l o w s ： o ) w eo b t a i nt h es t r o n gc o n s i s t e n c y , m e a na n ds t r o n go f t h ei n t e g r a t e da b s o l u t e e r r o rc o n s i s t e n c yf o rp a r t i t i o n i n ge s t i m a t eu n d e r a - m i x i n gs a m p l ew i t hi d e n t i c a l l y d i s t r i b u t e db ym e a n so f t h eb a s i ci n e q u a l i t yf o r 口- m i x i n gs e q u e n c e ( 2 ) w eo b t a i nt h es t r o n gc o n s i s t e n c ya n dc o n v e r g e n c er a t e ，m e a na n ds t r o n go f t h ei n t e g r a t e da b s o l u t ee r r o rc o n s i s t e n c yf o rm o d i f i e dp a r t i t i o n i n ge s t i m a t eu n d e r 口一m i x i n gs a m p l ew i t hi d e n t i c a l l yd i s t r i b u t e db ym e a n so fb e m s t e i ni n e q u a l i t yf o r 搿一m i x i n gs e q u e n c e ， ( 3 ) b a s e d o nc e n s o r e d s a m p l e ，w ep r o v et h ea s y m p t o t i cn o r m a l i t yf o r p a r t i t i o n i n ge s t i m a t ea n d m o d i f i e di t se s t i m a t eu n d e rs u i t a b l ec o n d i t i o n sb ym e a n so f s o m ep r o p e r t i e so fc e n s o r e dd a t aa n dm a r t i n g a l et h e o r y k e yw o r d s ：r e g r e s s i o nf u n c t i o n ，p a r t i t i o n i n ge s t i m a t e ，m o d i f i e dp a r t i t i o n i n ge s t i m a t e ， 口一m i x i n g ，s t r o n gc o n s i s t e n c y , c o n v e r g e n c er a t e ，c e n s o r e ds a m p l e ， a s y m p t o t i cn o r m a l i t y 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果。 据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写 过的研究成果，也不包含为获得 金避王、业厶堂 或其他教育机构的学位或证：1 5 而使 用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明 并表示谢意。 学位论文作者签名；刿i 栖 签字日期i 。年月岁f 日 学位论文版权使用授权书 本学位论文作者完全了解金目b 王些太堂有关保留、使用学位论文的规定，有权保留 并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。本人授权佥 胆王些盔堂可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、 缩印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名 娃梅 签字日期：卫年5 月? f 日 学位论文作者毕业后去向 工作单位： 通讯地址： 一名：诳 签字日期：夕衫钳7 为；日 电话： 邮编： 致谢 本论文的工作是在我的导师杜雪樵教授的鼓励和悉心指导下完成的。从论 文的选题、收集资料和研究、到撰写和完善，自始至终都得到杜老师的指点和 帮助。在整个研究生的学习和论文写作期间，杜老师渊博的专业知识、严谨的 治学态度和诲入不倦的教学态度让我受益终生，并将成为我今后学习和工作中 的宝贵财富。在此，向导师致以深深的敬意和感激l 我在硕士学习期间，得到凌能祥教授和惠军副教授的教导、帮助与启发； 在他们孜孜不倦、细致入微的教诲下。我完成了专业课程并得以步入概率统计 的广阔天地；同时与两位老师的多次探讨与交流，使我受益匪浅，借此机会， 向他们表示最衷心的感谢! 感谢理学院2 0 0 3 级应用数学专业的研究生同学们，三的时间里与你们在一 起学习、生活，互相交流学术思想，共同度过宝贵而又愉快的硕士生活： 最后，感谢我的父母和妹妹和我的朋友王宇新，正是在他们一如继往的鼓 励下，我得以顺利地完成学业! 再次，向所有帮助过我的老师、同学和亲人表示感谢! 作者：姚梅 2 0 0 6 年5 月 1 1 引言 第一章综述 设( 墨，誓) ，( 置，艺) ，( 以，k ) 为从取值于r 。x r l 的总体( z ，y ) 中抽出 的一个随机样本。若e | y l t o ，则称玳( x ) = e ( y l x = x ) x r 4 ) 为y 关于x 的回 归函数。如何由上述样本对州( x ) 进行估计，一直是概率、统计界研究的热点之 一，称之为非参数回归函数估计问题。n a d a r a y a w a s t o n 1 ，2 】首次建议用核估计 州垆喜耻( 半 属足( 半) ， m 。( x ) = 耻i 竿l 足i 竿i ， i l ， t 1 ， 此处，k ( x ) 是上可铡函数，称之为核函数，h 为窗宽，0 h = ( 竹1 寸0 ， 此估计的点收敛已被众多学者研究过，见f 1 1 i f 3 1 ，在k 的支撑集有界时， d e v r o y e 和w a g n e r f 4 1 研究了它的l 。收敛问题；在独立及相依样本下，许多学者 研究了m 。o ) 的相合性及收敛速度，见【5 】一【8 】；林正炎教授【9 】对妒混合样本 在r xr 上讨论了m 。( x ) 的渐近正态性，胡舒合教授1 0 1 利用鞅的有关理论，在 简洁合理的条件下，证明了独立及相依样本时确。( z ) 的渐近正态性。我国统计 学家成平教授【1 1 】对回归函数的上述核估计作了改良，其优点在于对y 的矩不做 其它要求，因此提出了回归函数的改良核估计 孤，2 缸川k 【箭j 斟箭j 其中0 l 独立，有共同的已知分布g ，这样我们观察到的不是诸r 本身，而是 z f = m i n ( r , ，霉) 及谚= ，( z 7 ：) ，( i = 1 ，2 ，以) ，为此，郑祖康教授【1 5 】首次提出 利用k 类函数来构造所f x ) 基于截尾数据的核估计。设 _ 。= 4 仍( z f ) + ( 1 点) 吼( 五) ， i = 1 ，2 - 一 ( 1 1 ) 其中仍，仍连续，与( 工，y ) 分布无关，且满足对任意y ，有： ( 1 - g ( _ y ) ) 馈( y ) + 仍( ，) g ( 出) = y ( 1 2 ) 从而基于( z ，+ ) ，( i = 1 ，2 ，打) ，构造m ) 的核估计及改良核估计 聊：小，= 秘( 箭 斟莆 孙) = 鲫弦i 瓦) 文莆 斟箭 ， 其中0 瓦专0 0 ，( 胛0 0 ) ，文献【1 6 】在x 为连续型分布，核函数k 非负有界， 且核函数k 满足：l 足o ) 出 。o ，l 声( 石) 出 其中矿 ) 2 龆晶k ( y ) ) 的 条件下，证明了m 2 。( x ) ，瓦x ) 的强相合性。 文献【1 7 】从应用的角度考虑，将文献1 1 6 】中的结果在两个方面进行推广：( 1 ) 不要求x 具有密度函数厂( x ) ，( 2 ) 不要求核函数k 可积的，研究了m ：。( x ) ， m ：。( x ) 的强相合性。 回归函数的另一种估计方法为最近邻估计【3 】，基于样本( 置，x ) ( i = 1 ，2 玎) ，对固定的x r 4 ，将( x i ，r 1 ) ，( x 2 ，e ) ，( 以，k ) 按照 慨一x i i - l l x 如一x p - k x 0 的次序重新排列，约定当8 置一x 0 = 8 e x l i ，而f 歹时，i i x , 一z l i 在上式中排在 0 一算0 之前。x = ( x ”，x ”，0 4 ) 的模可取成通常的欧氏模。 设 k ，1 f h 为一给定权，k ，o ，k ，= l ，令 k ，( x ) = k 。 i = l ，2 n 定义： m 3 。( x ) = r v ，( z e 为棚( z ) 的最近邻估计。文献【1 8 】和文献 1 9 1 在i i d 样本下，分别证明了打( x ) 的 强相合性和鸭。( x ) 的渐近正态性。 文献【2 0 对鸭。( x ) 作出了改良，提出了改良最近邻估计 m 3 n ( x ) ：e w o ；o 皿z ( i e l - b ) 其中o o o ) ，并证明了在i i d 样本下，m 3 n ( z ) 的强相合性。3 礅 2 1 】 对上述改良估计m a , x ) ，瓦( x ) 作出了推广，在相依样本下，获得了改良估计 的强相合性及收敛速度。 特别地：设 k ，1 f ” 为一近邻权，即 驴怯 k 1 ，2 ，t l0 ，i = k + 1 ，k + 2 ，h 其中k = k ( n l s 以为整数，使得：k 寸o o ( 当r l 斗o o ) ，则 m 4 n ( x ) = 呒。( 班= 鲁 t = 1j l “ 为m ( x 1 的一近邻估计- p a u la l g o e t 和l d s z l 6 g y s r f i ( 1 9 9 9 ) 【2 2 】提出了回归函数基于分割的估 计。对珂1 ，记。蟛= 4 ，4 ：，) 为r 4 中一列有限或可数个b o r e l ：子集构成的一 个分割，对x r 4 ，a 。( x ) 表示包含点x 的分割捌：的原子，鄂 4 ( x ) = a若x 4 ， 由样本( 五，i ) ，( x 2 ，e ) ，( 以，k ) ，基于分割的回归函数肌0 ) 的 估计定义为： ( ，) ( 蜀) 巧 m n ( x ) = 艺( 1 3 ) ，1 ) r = l 其中1 , t ( x ) 为集一的示性函数，记“吾”为0 ；文献【2 3 】在相依样本( 伊混合) 下，证明了) 的强相台性；文献 2 4 利用截尾的方法构造改良基于分割的估 计： ( 。) ( ) i 硐l ：i 丸) m n ( x ) = 旦1 一 ( 1 4 ) ( 一) 其中o ( 一m ( ，z c o ) ，并证明了在i i d 样本下，瓦x ) 的强相合性；而后， 文献【2 5 】在相依样本( 妒混合) 下，证明了焉( x ) 的强相合性及收敛速度。文献 2 6 】对上述文献中的结果作了进一步的推广，在截尾样本下，研究了回归函数 基于分割估计及其改良估计的强相合性。 受上述文献研究思想的启发，本论文主要研究了实际适用面较广，混合相 依较弱条件的口混合样本下，回归函数肼( x ) 基于分割估计( x ) 的强相合性和 改良基于分割估计元( 工) 的强相合性及收敛速度；在截尾样本下，回归函数m ( x ) 基于分割估计及其改良估计的渐近正态性。 1 2 本文研究的主要内容 本文第二章，研究了当( 五，y ) ，( 五，e ) ，( 以，k ) 为同分布的口混合样本 时，估计量m n ( x ) 的强相合性，积分绝对误差的强相合性与平均相合性。 本文第三章，研究了当( x i ，y ) ，( 五，e ) ，( 以，k ) 为同分布的口混合样本 时，估计量m n ( 曲的强相合性和收敛速度，以及积分绝对误差的强相合性与平 均相合性。 本文第四章，构造截尾数据下，回归函数m ( x ) 基于分割估计 ， ( ，) 似) ( x ) = 弋_ ( 1 5 ) ( ，) ( ) 一 及回归函数m o ) 改良基于分割估计 确：竺坐型( “) ( ，) ) 其中i 由( 1 1 ) 式确定，文献 2 6 】证明了m n ( x ) ，m n o ) 的强相合性，在此基础 上，我们研究了回归函数卅( x ) 基于分割估计( x ) 及其改良估计+ ( x ) 的渐近 乖杰性。 4 第二章口混合下非参数回归函数基于分割估计的强相合性 2 1 引言及若干引理 设( 蜀，k ) ，( 五，匕) ，( 以，k ) 为从取值于尺4 r 1 的总体( x ，y ) 中抽取 的同分布的口混合样本序列。若e l f i 。o )( 2 2 ) 其中8 ( n ) 称为混合系数， 中：= 盯( 置；口i 6 ) ( 口，b n )( 2 3 ) 设 咒；h 1 为随机变量序列，称 五；n 1 为妒混合的或致强混合的， 若伊( 珂) = s 。u p 。耐，蠹芝彤o lp ( 丑l 爿) - p ( 占) i 寸o ，( h 哼o 。) ( 2 4 ) 其中：的定义同( 2 3 ) 式。 由定义可得：口混合相依的条件比妒混合相依的条件弱。 x c n 2 1 。记j 巧= 以。，4 ：， 为r 。中一列有限个或可数个b o r e l 集构成的 一个分割。对于x r 4 ，当x 如时，记4 ( x ) = 4 。，文献【2 2 】中绘出了m ( x ) 基 于分割j 嘭的估计定义为： ( ，) ) + 1 ( x ) = 7 一 ( 旬( 置) ( 2 5 ) 其中，l ( x ) 为集a 的示性函数，为了方便起见，记“罟”为。 为了叙述方便，我们同样给出若干符号：f 表示x 的分布，s ( f ) 表示f 的 支撑集，c 表示仅与n 无关的正常数，c ( x ) 表不仅与x 有关的正常数，这些常 数每次出现，即使同一个式中，也可能不同值。 引理2 1 1 ：假设： ( i ) 分割。嘭= 4 ，；f 1 ) 是单调递增的，且满足：对每个以原点为中心的球s ， 有： 以= ? u p 。d i a m a 。_ 0 ( 玎斗。) ( 2 6 ) ，： f n s o ( i i ) 若j l g ( x ) p ( 出) o o ， 贝o ：。l i + m 。地 ( 。) i g ( x ) 一g ( f ) 1 1 揣= 。，口e 【f 】 ( 2 7 ) 或l i m f , , ，g ( r ) 看- g ( x ) 础p 】( 2 t 8 ) 证明：见【2 4 】中引理1 。 引理2 1 2 ：设= v n ( x ) 为集4 t ( x ) 的体积，且引理2 1 1 的( 1 ) 满足，则存 在一个非负函数上( x ) c o ，使得： i i 两寸三( x ) ，( - - o o ) 伽【f 】( 2 9 ) 证明；参考【3 】中引理2 2 的证明。 引理2 1 3 ：设 以：玎1 ) 为a 混合序列，x e 西：，y e a , l 。，其中m ：，西乏。 的定义同( 2 3 ) 式 ( 1 ) 若= l x b q ，i y i c j ，贝o i e ( x y ) - e x e y i 4 c , c ( n ) ( 2 1 0 ) ( 2 ) 制计 o 。，e i r l 9 叭l p + l q 。，使v 。m m h ，有：e ( ，羹，1 x i ：2 - 0 ，使得： e i 喜去置1 7 c 力扯i ( 娄e b 置l + ( 喜吉口 兄 + 矿9 ( 喜b 碣d 口( 矿 ) 证明：见【2 8 】中引理2 ，其中令= 吉即可。 本章中我们多次用到引理2 1 i 和引理2 1 2 ，且使( 2 7 ) ，( 2 8 ) ，( 2 9 ) 不成 6 立的例外集之并仍为f 零集，故不妨设此并集为空集。 2 2 基于分割估计的强相合性 定理2 2 1 ：设 ( 置r ) ) 为口混合序列，( z ，r ) 壑( x ，y ) ，i = 1 ，2 ， ，3 r 2 ， 使得e m 7 n ) i x ) ! 令 吃= 玎，l o g n ， e ( k ( ) ) 1 丽 县。= ! y 妻t = l ( 磊。一甄) ， 础【f 】 伽【f 】 t l , e p 】 z ( x ) = e ( 刚x = x ) ， f = 蔓，( i i i s 岛) ，l ：k 誓一f = l ：j ( 1 i i 龟) ， “= 丢喜( 嘣也。) ，b i n 。n 1 ，* 1 * k ，一压训， 7 ( 2 1 5 ) ( 2 1 6 ) ( 2 1 7 ) ( 2 1 8 ) f ( 4 ，( x ) ) = 岛， 舯“：丛蝉峨一：塑趔 p np 。 则 日。= 骂。+ 曩。1 固定 o ，存在毛，当f 乇时，令岛 n ，有： i e k ，一l 呈巴尘三史尘! 堕剑：立盟兰! 尘! ! ! 竺! ， 1 p h p n 当f 乇时，有： 帔卜韭地丝啦坚匙k 型塑 、t p n p h 故： 去喜e i k t ”i 2 去【喜e l k 。”l + ，砉，e i k ，ll 量垃蔓坐丝+ 旦玉垃坐! ! 丝 - p h n p 。 云( f ) 和( f ) 是绝对可积的， ：由引理2 - 1 - 1 ，当仃_ m ，斗o 。时，类似【2 9 】中【2 1 2 】式的证明，有 - i i m 吉e e v 1 ，。= o a 正【f 】 一 1 。l 1j 另一方面，由4 的定义，可得： 萎删 6 f ) e i r f 艺i = 2 南 o 。 l ；2 l i u 卫l 由b o r e l c a n t e l l i s 引理和k f 。的定义得； 当f 充分大时，有；k 。= o ， g t , s 因比 憋去盯- - 0 ， 黜 1n ”。玎百 从而由( 2 。2 3 ) 式和( 2 2 4 ) 式，得： 墨。”兰叶o ， 北h ， 下证：骂。j 竖斗。 伽吲， 记珞= 王：，2 4 ( ，) ( 墨) 一e f ( ，) ( 墨) 显然， 抚：f 1 为同分布的口混合序列，且满足 e 巩= 0 ， s u p e 蚶2 s u p e 1 ：r l 删，1 包) ( x ) s 2 l e ( f r i i x = r p ( 西) c 。 ( 2 1 9 ) ( 2 2 0 ) ( 2 2 1 ) ( 2 2 2 ) ( 2 , 2 3 ) ( 2 2 4 ) ( 2 2 5 ) ( 2 2 6 ) 。 e i y m ，。e ( i y i x = 】 。， 8 u p e l , 7 , 1 。 故： h 口s 有限，从而：h l s 2 包皿s m 。 则由引理2 1 3 ( 1 ) 易得：对于v o 晰 o 和v o 8 3 _ 【r ，- 一2 l j , ，有 p ( i 且。i s ) = p ( i 喜去仇i 占n s 赤e 降吼1 1 s 南p 叫嘛咖卜“( 剥锄 专卜川( n 七叫斯即却卜g ”川) 暑 n ( 日- l x r - i ) + n - 0 - 2 。哇- 8 + n 2 _ 8 ( 1 哪) 口( p 1 p 。7 【 、 “j , j 啦7 串p 肛1 ) + n 邓。2 印“弋l o g 舻 ) s 詈蔷r + qp 肛1 ) + 一- - r _ o1 1 0 9 咿 ) ( 2 ：s ) 由已删慨掀 o ，褊 ，使得扩争a ( ， 又? 8 1 1 0 ，3 r ( ，- 一2 1 ) j 0 - 2 0 ) 三+ 口一t r - 2 l ，0 - o ) ( r 一1 ) 一i r - 2 l ， 胝薹再南面锄，薹万拓锄 对于( 2 2 8 ) 式即有： 薹p ( i 马。1 占) o 。 从而由b o r e l c a n t e l l i s 引理得：( 2 2 6 ) 式成立 f hf 2 1 9 1 。f 2 2 5 1 ，( 2 2 6 ) 得：( 2 1 7 ) 式成立 9 最后证明：( 2 1 8 ) 式成立 记缶= l a ：) ( 置) 一e ( j ) ( 置) ，( i = 1 ，2 ，1 ) 则： 缶：，1 也为同分布的口混合序列，且满足： e 夤= o ， l q , l - 2 ，船 则由引理2 1 3 ( 1 ) 易得：x c 于v o _ m m ，有： e 巨缶) 2 “，羹，1 则类似( 2 2 6 ) 式的推导，有：p ( i 岛。i 占) o 。 o l i 由b o r e l c a n t e l l i s 引理得： ( 2 1 8 ) 式成立 当x s ( f ) 时，有：( x ) ! ：岛m ( x )0 斗m ) 又s ( f ) 的f 一测度为1 ，故由f u b i n i 定理即证得：( 2 1 4 ) 式成立。 定理2 2 2 ：设存在p 1 及随机变量孝，m 六口置，e f 9 ，则当定理 2 1 1 的条件满足时，有：l i m j i m ( x ) 一m ( x ) i f ( 出) = o ，们， 1o 憋e ( j 1 ( x ) 一朋( z ) r f ( 出) ) o ， ( 2 2 9 ) 。l i m e l m ( x ) 一m ( x ) 1 9 = o ， 口p 艇r 4 ( 2 3 0 ) 证明：由( 2 1 4 ) 式知，存在b r 。，( 露) = o ， 有：憋( x ) = 掰( x ) ， x 芒b 。 i r l s f ，a s ， 。由4 不等式知：i m n ( x ) - m ( x ) | p q r + i r a ( x ) n ，黜， 5 l q 芋+ l m ( x ) t 9 ) 是可积的， 。由l e b e s g u e 控制收敛定理知 l i m e l m ( x ) 一埘( x ) 1 9 = o ， x c b i z hj e n s e n 不等式知 j | m ( 刮9 f ( 出) 卢( 9 i x = x 妒( 出) 蔓e f 9 。 故 e 善9 + i 聊( 划9 为f - 1 8 0 0 ， 且e l m ( x ) 一m ( x ) 1 9 0 ( e 善+ i n ( x ) n 由l e b e s g u e 控制收敛定理及f u b i n i 定理知： e 嘶l i r aj m n ( x ) 一肌( x ) 1 9 f ( 出) ) = 擞e ( j 1 ( x ) 一肌( z ) 1 9 f ( d x ) ) = 擞j e k ( x ) 一拼( 工) p ( 威) = 忡h ( x ) 一m ( x ) 1 9v ( a x ) l o 定理得证 = 0 第三章口混合下非参数回归函数改良基于分割估计的 强相合性及收敛速度 3 1 引言及若干引理 设( ，x ) ，( 五，艺) ，( 以，k ) 为从取值于r 4 x r 的总体( x ，y ) 中抽取 的同分布的口混合样本序列，e l f i 。a 回归函数脚( x ) = e ( r l x = 工) 工e 月。 由文献【2 2 】知，当通过样本( 墨，k ) ，( 五，e ) ，( 以，e ) 来对回归函数m ( x ) 进行估计时，通常采用的方法有；核估计，最近邻估计和和基于分割估计等。 在独立样本及某些相依样本( 如口混合，p 混合) 情况下，许多文献讨论了回 归函数改良核估计和改良最近邻估计的大样本性质，见文献1 1 卜1 7 1 和 【2 0 一【2 1 】。但是，对于回归函数改良基于分割估计的大样本性质，文献【2 4 】和 f 2 5 1 仅讨论了在i i d 样本下和同分布的p 混合样本下，回归函数改良基于分割估 计的强相合性，而对于混合相依较弱条件的口混合情形下，回归函数改良基于 分割估计的强相合性，还未见文献涉及。本章的目的是在样本序列 ( 置，y ) ；i 1 为同分布的口混合情形下，研究回归函数改良基于分割估计的强相合性和收敛 速度，结果表明，对于回归函数改良基于分割估计，口混合有与舻混合类似的 的收敛速度。 对珂1 ，记。蟛= 4 ，4 ：， 为r 4 中一列有限个或可数个b o r e l 子集构成的 一个分割。对于z r 。，当x 4 ，时，记4 ( x ) = a ，回归函数改良基于分割 的估计定义为： ；：( x ) ：薹兰竺：兰! ：! 竖竖垒! ( 对( 五) 其中，l ( x ) 为集a 的示性函数，巩斗m ( 3 1 ) ( _ m ) ，为了方便起见，记“罟” 为0 为了叙述方便，我们同样给出若干符号：f 表示x 的分布，s ( f 1 表示f 的 支撑集，c 表示仅与n 无关的正常数，c ( x 1 表示仅与x 有关的正常数，这些常 数每次出现，即使同一个式中，也可能不同值。 引理3 1 1 ( t 2 混合序y i j i 拘b e r n s t e i n 不等式) ：设 置，i 1 ) 为口混合的， e ( 蜀) = o ， 口( 一) = 。( ) ( o p 0 ，0 0 占 c 一口。e x p ( 一c ：；) ( 3 2 ) 证明：见1 3 0 】中引理3 2 。 下文中我们多次用到引理2 1 1 和引理2 1 2 ，且对某些m z ( e i z l o 。) ，用 到： ：i m e ( z i ( i z ，a j ) l x = z j 2 0 龇【f 】 ( 3 3 ) 且使( 2 7 ) ，( 2 8 ) ，( 2 9 ) ，( 3 3 ) 不成立的例外集之并仍为f 零集，故不妨设此 并集为空集。 3 2 改良基于分割估计的强相合性 定理3 2 1 ：设 ( 置，z ) 为口混合序列，( 置，i ) 垡( ，j ，) ，i = l ，2 ， ，e l y o o ； 且引理2 1 1 的条件( i ) 成立，又混合系数口( - ) 及吒= 吒( x ) 满足如下的条件： ( i ) a ( n ) = d ( ) ，( o 0 ，从而： 叽h = 器， 其中：最( x ) = l ( x ) = 乙，( z ) 腰( 4 t ( 工) ) “) ( 五) 舻( 4 0 ) ) 乙，( z ) = ( ，) ( 墨) ( v ( 蚓兰吨) 一所( z ) ) 。 往证：最( x ) ! 生_ o ( n - - yo o ) ， 删【f 】 ( x ) j 兰斗l ( n - - - y m ) ，觚 。( 置。1 ) 垡( x ，y ) ，i = 1 ，2 ，九， 1 3 ( 3 5 ) ( 3 6 ) ( 3 7 ) ( 3 8 ) 矗 倒班帮， 雨： 乙。( x ) = ( ，) ( 葺) ( 誓啁x s 玩) 一掰( 工) ) = ( _ ) ( 巧一m ( x ) 一，i 删巧1 “) ) ， 因此：i 嘁( 圳s = k ( x ) + 1 2 。( x ) 黼她舭小k f ) - 吣) ) 删 卯) 揣专。( ) ， 即： 1 1 ( x ) 斗o( 月一。o ) 船【，】。 又 1 2 ( x ) ( f ) 1 ( 3 9 ) 舢【f 】， ( 3 1 0 ) 取定6 0 ，利用吒- - o o ( n 斗o 。) 及引理2 1 1 的( 2 8 ) 式，类似于【2 l 】中( 3 8 ) 式 的证明，有： l i m s u pu ( f ) i 从而： 1 2 。( x ) _ 0 故： e 鼠( x ) 寸0 。l i r a l i r a 嘶 揣 = i m g e ：x ) = 0 ， o e 。i t ， ( r 寸o o ) ( h _ ) 又吲小啡) = 喜错 记： 点= 乙，( x ) - e z 。( x ) 吒+ i r a ( x ) 船旧。 伽i f 】。 则： 点，f 1 ) 为同分布的口混合序列，且有： e 毒= 。，i 毒l = 觜t ； 当， z 时，盯= s u p ( e i 专1 7 ) - 1 ：r = - ，一盯， 由引理3 1 1 得：当, 充分大时，对于v s 0 。有： 1 4 ( 3 1 1 ) ( 3 1 2 ) 一n 盟 一f n 盟 一f p ( m 小砜i s ) = p 惜f 占胪( 4 | ( 工) ) 1 百下两j ，i q o “e x p f _ c 2巫壁( 4 ( x ) ) 1 嗣j 记 以= f ( 4 0 ) ) 由引理2 i 2 得：j c ( x ) o ，使得：p n ( x ) c ( x ) ， a 矗i f 】 又i r e ( x ) 1 o o ) 结合( 3 4 ) 式可知：当疗充分大时，对于v 占 o ，有： p 0 嘶心卜) f ) 砉c 茅1 1 ) 也为同分布的a 混合序列，且： e = o ，川1 ，们， 当， 2 时，出s u p 1 7 ：i e n = 1 ，如， 1 所以由引理3 1 1 得，当珂充分大时，对于v s 0 ，有： p ( i 嘶) 彤i s ) = p ( 酬 孚 卸- - e 印f 巳辱 - 占 口) 荟”c 。1 i o 及o o ，当= ( x ) 1 ，e l r l 7 0 0 ；引理2 1 1 的条件( i ) 及定理3 2 1 的条件( i ) 均满足，且回 归函数m o ) 满足( 3 1 7 ) 式， 3 ( r - 1 ) 取_ ( 击1 0 9 2 行厂嘎” 妣 f i 一里生 玩= 心1 则有： 瓦( x ) 一m ( x ) = d ( ) 皿s 伽x er 4 ( 3 1 8 ) 证明：即要证明：对于任意正数序列 厶，凡1 ) ，满足l i m 以= ，l i n l v n 9 a t = 0 n h 时有：憋h 叫a t 。( 瓦( x ) 一m ( x ) ) = 0 ，黜， 伽【f 】 ( 3 1 9 ) n n n 定n 3 2 1 中的记号，i r f g x e s ( f ) ，由( 2 8 ) ，( 3 6 ) ，( 3 8 ) ，( 3 1 7 ) 式 有： l v n - q m n 。e s ( x ) i b o ) l x = ， b 。) l x = 1 i ! f 堕) 1 i f ( 4 | ( z ) ) 门! f 堕! j f ( 4 ，( x ) ) 听 1 e m ii = 刁揣 2 一心一e 0 y r ii 胸 硼r ( d t ) 鸠一e i x = r j l f r ( 4 ( d ( t 两) ， ( 当h 充分大时，k s 9 蝇) = 怡l 锴 邓_