（应用数学专业论文）基于ρ混合误差下非参数回归模型局部多项式估计的渐近性质.pdf

基于声混合误差下非参数回归模型局部多项式估计的渐近性质 摘要 回归模型广泛的应用于工农业、气象、经济管理以及医药卫生等领域。同 时由于实际应用的需要，回归模型也在不断发展，其模型从最初的参数回归模 型发展到非参数回归模型，又发展到半参数回归模型。而非参数回归模型是基 于数据本身，其回归函数的形式可以任意，因而有较大适应性。半参数回归模： 型是介于参数模型和非参数模型之间的一种统计模型，兼顾了参数回归模型和 非参数回归模型的优点，较单纯的参数回归模型或非参数回归模型有更大的适 应性，并且具有更强的解释能力。 本文在万混合这一类较为广泛的相依混合序列下，研究了固定设计下非参 数回归模型中的未知函数和半参数回归模型中未知参数及未知函数的局部多项 式估计。给出非参数回归模型中估计量的渐近偏差和渐近方差，并在适当条件 下利用大小分块的思想获得了该估计量的渐近正态性。在半参数回归模型中采 用最小二乘估计方法结合局部多项式方法来估计未知量，在一定条件下得到了 估计量的相合性。 关键词：非参数回归半参数回归最小二乘估计局部多项式估计万混合误差 渐近正态性相合性 t h e a s y m p t o t i cp r o p e r t y o nl o c a lp o l y n o m i a le s t i m a t i o no f n o n p a r a m e t r i cr e g r e s s i o nf u n c t i o nf o r 声- m i x i n g e r r o r s a b s t r a c t r e g r e s s i o nm o d e l sa r ew i d e l ya p p l i e dt oi n d u s t r ya n da g r i c u l t u r e ，m e t e o r o l o g y ， e c o n o m i cm a n a g e m e n t ，a sw e l la sm e d i c i n eh y g i e n ea n ds oo n m e a n w h i l eb e c a u s e o ft h en e e d so fp r a c t i c a la p p l i c a t i o n ，t h er e g r e s s i o nm o d e l sa r ed e v e l o p e d t h e m o d e ld e v e l o p sf r o mi n i t i a lp a r a m e t r i cr e g r e s s i o nm o d e l st on o n p a r a m e t r i cm o d e l s ， a l s od e v e l o p st ot h es e m i p a r a m e t r i er e g r e s s i o nm o d e l s a n dt h en o n p a r a m e t r i c m o d e l si sb a s e do nd a t a ，t h ef o r mo fi t sr e g r e s s i o nf u n c t i o ni sd i s c r e t i o n a r y ，s oi t h a sag r e a ta d a p t a b i l i t y s e m i p a r a m e t r i er e g r e s s i o nm o d e l sa r eas t a t i s t i c a lm o d e l b e t w e e np a r a m e t r i cm o d e l sa n dn o n p a r a m e t r i cm o d e l s ，h a s s o m em e r i t so f p a r a m e t r i cr e g r e s s i o nm o d e l sa n dn o n p a r a m e t r i er e g r e s s i o nm o d e l s i th a sg r e a t e r a d a p t a b i l i t ya n ds t r o n g e re x p l a n a t o r ya b i l i t yt h a nt h e o t h e rt w or e g r e s s i o nm o d e l s t h i sd i s s e r t a t i o ni sb a s e do n 万m i x i n gs a m p l e sw h i c hi s ak i n do fb r o a d d e p e n d e n tm i x i n gs a m p l e s ，i ts t u d i e st h el o c a lp o l y n o m i a le s t i m a t i o no fu n k n o w n f u n c t i o ni nf i x e dd e s i g nn o n p a r a m e t r i er e g r e s s i o nm o d e la n du n k n o w np a r a m e t r i c a n du n k n o w nf u n c t i o ni ns e m i p a r a m e t r i er e g r e s s i o nm o d e l g i v e nt h ea s y m p t o t i c b i a sa n dt h ea s y m p t o t i cv a r i a n c eo fe s t i m a t i o n ，m o r e o v e ro b t a i n e dt h ea s y m p t o t i c n o m a l i t yo ft h ee s t i m a t i o n u n d e rc e r t a i nc o n d i t i o nu s i n gs m a l l - b l o c ka n d l a r g e b l o c ka r g u m e n t s a n de s t i m a t e dt h eu n k n o w nq u a n t i t yu s i n gt h em e t h o d so f l e a s ts q u a r ee s t i m a t i o na n dl o c a lp o l y n o m i a le s t i m a t i o n ，o b t a i n e dt h ec o n s i s t e n c y o fe s t i m a t i o nu n d e rc e r t a i nc o n d i t i o n k e y w o r d s ：n o n p a r a m e t r i er e g r e s s i o n ；s e m i p a r a m e t r i e r e g r e s s i o n ；l e a s ts q u a r e e s t i m a t i o n ；l o c a lp o l y n o m i a le s t i m a t i o n ；p 一m i x i n g e r r o r s ； a s y m p t o t i cn o r m a l i t y ；c o n s i s t e n c y 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果。据我所 知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果， 也不包含为获得 盒胆王些态堂 或其他教育机构的学位或证书而使用过的材料。与我一同 工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示谢意。 学位论文作者签名：衙盈签字日期。7 年伽 学位论文版权使用授权书 本学位论文作者完全了解金胆王些太堂有关保留、使用学位论文的规定，有权保留并向国 家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。本人授权金胆王些盍堂可 以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手 段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名： 鼢擅 签字日期胡年丫月f 日 学位论文作者毕业后去向： 工作单位： 通讯地址： 导师签名： 签字日期。弋年1 月f 1 日 致谢 本研究及学位论文是在我的导师凌能祥教授的亲切关怀和悉心指导下完成 的。他严肃的科学态度，严谨的治学精神，精益求精的工作作风，深深地感染 和激励着我。从课题的选择到项目的最终完成，凌老师都始终给予我细心的指 导和不懈的支持。两年多来，凌老师不仅在学业上给我以精心指导，同时还在 思想、生活上给我以无微不至的关怀，在此谨向凌老师致以诚挚的谢意和崇高 的敬意。 真诚的感谢杜雪樵教授和惠军副教授等老师对我的辛勤培养和教诲，没有 他们的悉心教导，我也不可能顺利地完成硕士期间的学业。此外，非常感谢我 的同学和室友两年多来对我学习、生活的关心和帮助。 衷心感谢所有关心和帮助我的老师、同学和朋友们! 最后，特别感谢我的家人给予我的关心、鼓励和支持。他们无微不至的照 顾使我能够顺利完成学业，实现自己的理想。 作者：范育超 2 0 0 9 年3 月 1 1 综述 1 1 1 模型背景介绍 第一章绪论 在数理统计实际问题中，往往考察对象y ( 响应变量) 与若干因素 x = ( z ，x 。) ( 解释变量) 有关，但给定的x 尚不足以完全确定】，实际上y 与x 服从如下关系： 】，= m ( x ) + s ( 1 1 ) 其中m ( ) 是一个未知的七元函数，占为随机误差，称满足( 1 1 ) 的y 与x 有回 归关系。肌( ) 为y 关于x 的回归函数。对伍，】，) 作疗次观察得g ，y ，) ，f 1 , 2 ，刀， g l ，y ，) r d r 1 ，则k ，y ，) 满足 y j = 聊( x ，) + q i = 1 ，2 ，万 ( 1 2 ) 通常假定误差序列扛。) 满足e 0 ，) = 0 ，盯2 = e g ) 2 2 吒阮) j ，。一岛 一x 。y 吒阮) f 暑1 【j ( 1 3 ) 其中i 厅是一个控制局部邻域大小的带宽，k g ) = i 1k ( 互亏立) ， 屏j 依赖于， ， 、 显然乃= m o ) ( x ) f i 用万，j = o ，p ，表示最小二乘问题( 1 3 ) 的解。聊( ) k ) 的 局部多项式估计是历，g 。) = v ! 厦o = o ，1 ，p ) 这里，我们不用记号而( v ) g 。) 是为了 避免由估计回归而 ) 的1 ，阶导函数所带来的混淆。 为了实现局部多项式估计，需要选择阶p ，带宽h 和核k ，这些参数相互 关联。与参数模型不同，局部多项式估计的复杂性主要是由带宽来控制。因此， p 的问题就变得不重要了，带宽h 的选择起着重要的作用。太大的带宽引起过 度平滑，产生过大的建模偏倚，而太小的带宽会导致不足平滑，获得受干扰的 估计。理论上带宽的选择是易于获得的，然而这在实践中却无法直接运用，因 为它依赖于未知变量。为选择带宽参数寻找一个实践上的程序是一项最重要的 工作，这些由s h e a t h e r 和j o h n ( 1 9 9 1 ) 给出。由于估计基于局部回归我们有理 由要求一个非负核函数k 。f a n ，g a s s e r ，g i j b e l s ，b r o c k m a n n 和e n g e l ( 1 9 9 6 ) 已证 明，对所有p 的选择和v ，最优核函数是k ( z ) = 丢( 1 一z 2 ) + ，它被称为e p a n e c h n i k o v 核。它是一个万能的加权方式，并对比较其他核提供了一个有用的基准。因此，核函 数的选择并不是至关重要的。 局部多项式估计方法适合于诸如随机设计点模型，固定设计点模型。而且，在无 需运用另外的具体边界核的情况下可避免边界效应。这一点是完全不同于其它方法 的。正因为局部多项式方法具有上述边界核无需修改性，所以它在处理所涉及数据点 数边界巨大时的多维情形时显得尤为得心应手，详见s i l v e r m a n ( 1 9 8 6 ) 和f a n & m a r r o n ( 1 9 9 3 ) 。 1 1 3 国内外文献综述 自从f a n 和g i j b e l s 于1 9 9 6 年将局部多项式估计应用到非参数回归后， b e r a n ，! j 和f e n g ，y 于2 0 0 2 年研究了长程相依误差下局部多项式估计问题。 何其祥和郑明于2 0 0 3 年将局部多项式回归的非参数方法应用到线形模型中异 方差自勺j 估计，得到估计的一致性和渐近正态性。f r a n c is c o f e r n a n d e m 和 v il a r f e r n a n d e z j m 于2 0 0 1 年和2 0 0 6 年研究了口混合误差下固定设计点模 型回归函数及波动函数的局部多项式估计，得到了该估计的渐近偏差，渐近方 差和渐近正态性。邢国东和杨善朝于2 0 0 6 年研究了固定设计点非参数回归模型 在乃混合误差下回归权函数估计，得到了它的一致渐近正态性及其收敛速度。 丁建华于2 0 0 8 年研究了半变系数模型中的常数系数和函数系数的局部多项式 估计，得到了该估计的渐近正态性。胡舒合在1 9 9 4 年研究了固定设计下半参数 回归模型估计的强相合性。李军在1 9 9 9 年研究了n a 样本下半参数回归模型估 计的相合性。柴根象，施云驰于2 0 0 0 年和2 0 0 1 年分别研究了固定设计半参数 回归模型在独立误差和口混合误差下局部多项式估计的渐近性质。 1 2 本文的组织结构 本文考虑固定设计的非参数回归模型及半参数回归模型局部多项式估计的 渐近性质。具体结构安排如下： 第一章为本文绪论部分，介绍本文研究相关的背景知识及基本概念思想，这有助 于对本文思路的理解。 第二章着重讨论了非参数回归模型中，在卢混合误差分别满足一定条件下，讨论 回归函数和波动函数及其导数的局部多项式估计的渐近性质。 第三章研究半参数回归模型中，误差为p 混合序列下的半参数回归模型中未知参 数的最小二乘估计及未知函数的局部多项式估计，讨论了估计量的渐近性质。 最后一章总结本文的相关结果。 4 第二章万混合误差下非参数回归模型的局部多项式估计 多年来，人们在研究独立随机变量的同时，也一直致力于削弱独立的限制。 b r a d l e y ( 19 9 0 ) 年首次在文献 9 】中引入p 混合的概念，其定义如下： z ，ien 是概率空间( q ，a ，尸) 上的随机变量序列，f s = 盯( z ，ie sc n ) ，n 为 自然数集。记厶( a ) 为所有a 可测且二阶矩有限的随机变量全体，在a 中给定盯 域b ，f t ，令 p ( b ，f t ) = s u p l c o r r ( x ，r ) l ，x z , ( f 0 ，r “2 ( f t ) ) ， 卢( 玎) = s u p ( f s ，b x 有限子集s ，tcn ，j t d i s t ( s ，丁) 刀) ， d i s t ( s ，t ) 表示s ，t 距离。如果存在n o 1 ，使乃( ) 1 ，则称 五，ien 是声混合 序列。 p 混合序列的定义如下：定义p ( o = s u p c o ( x ，】，) l ，x 三：他l 】，口噼) ) ， 其中彰表示由留。，i r _ ) 生成的盯代数。如果当疗一时，p 0 ) 哼0 ，这时称 口，) 是p 混合序列。 由p 混合定义可知，多混合与通常的p 混合有一定的类似，但并不相同， 它们互不包含。p 混合只要求存在n o 1 ，使p ( ) 1 ，在这一点上要比户混合 的要求p ( n ) 专o ，n 寸弱得多，所以乃混合序列是一类极为广泛的相依混合序 列，对其进行研究是很有价值的。如对于乃混合序列的概率极限性质的研究， 文献 1 0 ，2 3 1 研究了它的强收敛性，文献 2 2 1 研究了它的完全收敛性质等。但把 其应用到统计模型中并研究相关估计量的性质，据我们所知，还很少文献有涉 及。最近文献 2 4 】在卢混合样本下，研究了固定设计模型下回归权函数估计的 渐近正态性。受上述研究思想的启发，本章基于误差为卢混合序列，研究了固 定设计下的非参数回归模型的局部多项式估计，在一定条件下，得到了回归函 数和波动函数局部多项式估计的渐近正态性。 2 1 局部多项式回归估计的渐近正态性 2 1 1 引言 考虑固定设计的非参数回归模型： z ，；1 7 1 ( x t ，。) + 毛，。，1 f 刀 ( 2 1 ) 这里薯。为设计点，由f ，( x = i t - i 1 ，1 f 以来决定，厂( x ) 为定义在【o ，1 】， 具有一阶连续导数的正函数；m ( x ) 为定义在 o ，1 】上的回归函数。误差 q ，1 f 甩 满足e ( q 。) - - o ，e ( 蠢。) = 盯2 。对协1 ， q 乞一巳，。) 与e l , e 2 e 。有 相同的联合分布， q ，f l 是一个严平稳过程。为简化记号，以下都记为z ，薯， 关于回归函数m ( x ) 的估计，主要有核估计法，最近邻估计法，样条估计法， 小波估计法等。核估计是出现得较早且比较成熟的方法，但它有边界效应，e p 在【0 , i 】的边界点处估计的性能并不好。而f a n 和g i j b e l s 7 】在处理非参数回归 时采用的局部多项式估计，则能很好地弥补这一不足，且保留了核估计的其它 优点。本节在误差为万混合序列下，讨论了肌( 工) 局部多项式估计的渐近正态性。 假设模型( 2 1 ) 中回归函数m ( x ) 在x 点有( p + 1 ) 阶连续可导，参数向量 确= ( 屁( 吵岛( f ) ) r ，这里岛( x ) = 学小o 1 p ，假设碥k 可逆， 解加权最小二乘估计问题y ( 万( 工) ) = 喜( r 一喜历( x ) ( 墨一x ) 7 2 ，则力( x ) 的估 计为反。) ( x ) = ( 砟) _ 。) t 。) ) - 1s 、t 。) 磁。成。) = 蹁罐) k 。苡。) ， 州圹 = 1 ( 五一x ) ( 五- x ) p ； i； 1 ( 一x ) ( 吒- x ) 户 6 & 。) = 碌) _ 。) 五。) 。) = 诫曙( k i 。) ，而，= 面1 七l x t 吃- x 1 ，七( ) 和分别为核函数和窗宽。所 以聊1 x ) 的局部多项式估计为吼( x ) = 房( x ) 歹! 为方便叙述，我们引* 11 0 0 的相关记号：为( p + 1 1 ) ( p + 1 ) 阶矩阵，第 g 胛元素为捌= 粥这里= 去喜( 心( 等) ，o j o ，吃上0 ，刀吃个； ( a 3 ) 砀 ) o ，使e l q l 2 ” ； ( a 5 ) 严平稳过程 q 是p 混合序列，存在正整数序列 s n ) ，刀一o 。时晶专， 满足一( ( 以吃) ；) 使得嘉反札刀一。 注：( a 5 ) 中的条件是可以满足的，如取声( & ) p ，s = 。( ( 帆) ) ，丸= o ( n - y ) ， 7 定理2 1若假设a 1 a 5 成立，则 厩m 似) - _ ) 一帮吃p + i s - i 互z 卜( o ，) ， 厩h ( 棘工) 一酣) 一等署吃i 山( o ，) ， 这里= 器妒“小2 ( m 喜刊。 由定理2 1 直接得到如下的推论： 推论2 1若假设a 1 - a 59 2 - 0 _ ，x , jj = 0 ，1 p ，则 厣圳帮妈卜( 0 矧， 其中巧= 器) 2 巧，色、巧分另i j 船1 互私惚。1 中的第歹个元素。 2 1 3 预备引理 为证明定理，首先给出以下若干引理： 引理2 1 若假设a 1 - a 3 成立，对比( ，卜) ，有 l i m 玎e ( 日：= ：雨于a ? 日= ；) = 秒( x ) c ( 盯) 。玎e 1 日：= ：丁r o ) 日二；j = 可( x ) c ( 盯) 。 引理2 2 若假设a i a 3 成立，对比( ，1 - h ) ，估计量反。) ( x ) 的渐近偏差为 l i mh t 矿( 删硼) = 帮忡呀 渐近方差为熙叫讪) ) = 壶器妒 引理2 1 和引理2 2 的证明参见文献 11 】。 ( 2 2 ) ( 2 3 ) 引理2 3 若 ，j 1 ) 是p 混合随机变量序列，存在1 1 。 ii f f i ii f - l 8 引理2 3 的证明参见文献 2 3 】。 引理2 4 若 一，l 是p 。混合随机变量序列，p 、q 是两个正整数，记 ( i - t x p + q ) + p 砀= t ( 1 ，七) ，则有i j - ( 1 一l x p + q ) + l e ( p 即喜功 一血1 = 1e ( e 咖) l s c ；( g ) 喜( e l 协1 2 ) ； 引理2 4 的证明参见文献 2 4 】。 引理2 5 ( p 混合序列的遗传性) ： 若 x ，_ ，1 ) 是概率空间( q ，a d 上的卢混合序列，那么对于b o r e l 可测函数 g ( 力有 g 僻，) ，歹1 也是多混合序列。 证明：由p 混合序列的定义，现在考虑 茸兰盯g ，l scn ) 匕b ，良r 兰盯( g l 丁cn ) cr r 记p ( f 。s ，r 。t ) = s u p l c o r r ( x ，y ) l ；x 厶( 匙) ，y 厶正r ) ) ， ( 2 4 ) ( 2 5 ) 蒇o ) = s u p 易鼠，莨r ) 有限子集s ，tcn ，j l d i s t ( s ，r ) 刀) ， 因为存在行o 1 ，使得h ( n o ) m ) ，则毋- - g , + 巨 ， 将q 中的毫分别用s t , m 和巨朋替换得到q 和磊 由假设a 1 和( 2 11 ) ，则对某个常数d ，有 霹 、j t _ 仁 硒 删扣 钔 挖 一i 石上石 哳 哳 忑1 阿卜击f ，= o 几- 笠i x l + 1 ：。卜击，0 纛。i 互i = 去，篡，接c l x 甜- x 朋际篡帆 - - d ；击 1 7 7 1 此，当力很大时， i 缶l ) 石 是一个空集，所以( 2 1 0 ) 式成立， 因此，风埘三( o ，盯口2 g ) ) ，刀一 由控制收敛定理知道， 当刀- - - ) o o ，m - - ) o o 时，以死惭( 磊朋) 一。 又p 氘一已掣卜i p 丽一( e ，丽u ) + 卜风掣l + l p 掣一p 掣i = a l + 2 + 吣 ( 2 1 2 ) ( 2 1 3 ) ( 2 1 4 ) 因为e p 厨磊j 一1 1 = d ( 脚( 戚。) ) ，所以由( 2 1 3 ) 式得到拧。时，。_ o ； 由( 2 1 2 ) 式知以专时有a 2j 0 。 由控制收敛定理知m 专时：a 3 _ o ：所以( 2 1 4 ) 式寸0 。 由l e v y c r a m e r 定理得到：动。三( o ，( 工) ) ，刀专 最后由c r a m e r w 6 1 d 定理知，引理2 6 成立。 2 1 4 定理的证明 在x 的某邻域内， 丽( 。) = ( m ( _ ) 朋( 毛。) ) r 的( p + 1 ) 阶泰勒展式为： 矾嘲+ 帮+ 僻 1 2 e 反。，( x ) = e ( 砟，颤。，五。，) x rk 。，盂。) = ( 瑶，骸。，五。，) 一碌，噘。，m 。c 。， 吲圹砸嘲降+ 。 因此 届。) ( x ) 一万( x ) 咆小m 嘲，牌 蹦雨+ 又厕魂) ( 反。) ( x ) 一万( z ) ) x ，- x ) p + 1 、 ；l + d i x - x ) 川j 褂侧 地丽一蹦牌褂倒 慨牺宇 再由引理2 2 及引理2 6 即得到定理2 i 。 2 2 波动函数的局部多项式估计渐近正态性 2 2 1 引言 考虑固定设计的非参数回归模型： ? 肚1 1 1 一x ) p 1 川 + d 善1 z 。 - m ( x t ，。) + j ( 一) e t 。l t 0 。误差 乞一，1 f 拧) 满足 ， e ( b ，。) = e ( t ) = 0 ，e ( 蠢。) = 1 。v n l ， q ，乞晶，。) 与q ，吃p 。有相同的 ： 联合分布， q ，f 1 ) 是一个严平稳过程。本文基于样本 ( 薯，r ) ，1 r ，z 研究了波 动函数v ( x ) = z a r ( r l x ) - - , 2o ) 的估计问题。为简化记号，以下都记为z ，毛，岛。 因为v ( x ) = e ( y 2 卜- m 2 ( x ) ，据文献【1 2 】的思想，若色( x ) 是g ( 工) = e ( 】，2i x ) 的 局部多项式估计，则v ( z ) 的局部多项式估计也( x ) = 磊( x ) 一 九( x ) ) 2 ，九( x ) 是 m ( x ) 的局部多项式估计。 假设模型( 2 1 5 ) 中，函数埘( 工) 和g ( z ) 在x g 氡：f i ( p + 1 ) 阶连续的导数，参数 向量确= ( 属( 砂，纬( x ) ) r ，罗( x ) = ( ( 加( x ) ) r ，这里岛( x ) = 学， 忡) = 掣吩o ，1 ：叩。若确可逆，肭橼忙乘估计问题 y ( 矽j ( x ) ) = 喜( r 一姜色( x ) ( 一x ) 7 2 ， y ( ( 工) ) = 窆t = l ( z 2 一壹j - o 乃( x ) ( 一x ) 。 2 ，一， 得( x ) 和尹( 石) 的估计为： 反。) ( 二) = ( 昂) k 。) 五。) ) 。1 碌) 噘。) 或。) = s ( - 2 ) x r ) 噘。成矿 反。) ( 主) = ( 。) 张。) t 。) ) 。砟) 张。) 2 = - 。! 严( t 。) 磁。) 2 ， 1 4 州，甜露= 】，2 ： ： 砰 五。) = 1 ( 而一x ) 1 ( 吒一x ) ( 而- x ) ， k - x ) ， ) 2 义0 ) ) x ( 。，) _ d i a g ( w 。j 一) ， 其中，= 面1 后l x t - x j ，七( ) 和吃分别为核函数和窗宽。所以v ( x ) 望估计吃( x ) 定 义为：成( x ) = 反。) ( x ) r q 一 展。) ( x ) r 巳) 2 ，e l = ( 1 ，o o ) 乙+ i ) 。 众所周知，局部多项式估计是众多非参数回归估计方法中的一种，它具有 良好的理论基础和实用价值，文献【7 ，8 】对此做出了详细的介绍。对于非参数回 归模型中的条件方差函数( 即波动函数) 的估计问题，在独立误差和某些相依 误差的情况下，也有文献研究过，如文献 1 2 ，1 3 】。本节讨论了具有异方差的非 参数回归模型( 2 1 5 ) 中波动函数的局部多项式估计问题。在误差为声混合序 列的情况下，获得了波动函数局部多项式估计的渐近性质。 为方便叙述，我们引入类似【13 】中的相关记号：) 为( p + 1 ) ( p + 1 ) 阶矩阵， ， ， 第( u ) 个元素为捌= s 2 这里矽= 去喜( 薯一x ) 7 忌c 专亍 ，。2 p ， 一= p 七( “) 出，互= ( 作小，鸬川) r ，q 。) = d i a g ( 1 ，吃，碍醪) ，s 、蜃都为 ( p + 1 ) ( p + 1 ) 阶矩阵，其第( f ，) 个元素分别为q = “小：，互。_ ，= p 7 + 产2 k 2 ( “) 如， 甄。) = ( m ( 一) ，历( 乙) ) r ，q 。) = ( g ( _ ) ，g ( _ ) ) ， 于孙= x 、r 。) k 。) ( 致一) 一砺( n ) ) = ( ( ) ，f ；删y ， = 去喜( 儿c 等弦聊( 训一却， 乞乙) = 碌) 张。) ( 矿2 ( 。) 一否( 。) ) = ( 毛o ) 卅) 7 ， = 去喜( 儿( 等胪酬朋却 2 2 2 主要结果 首先做如下假设： ( a i ) 核函数七( ) 是对称的，有有界支撑，满足l i p s c h i t z 连续性： ( i a 2 ) 窗宽序列 满足 o ，上o ，帆个； ( a 3 ) - 肇 ) ，d ( s ) = c 钾( 彳，g m 2 ) 0 ，e l q l 2 2 + j 定理2 2 若假设a 1 一a 3 成立，对垤( ，1 一吃) ，估计量反。) ( x ) 的渐近偏差为 渐近方差为： 舰州枇一) = 锶忡呀 舰砌，( q 。) 反。) ( x ) ) = 去端( d ( 占) v ( x ) + 4 m 2 ( x ) c ( 卢) ) 鼬一。 这里c ( p ) = 卢( 七) o o 。 七= l 一燃1 1 龆瓣 山 卜 料坼，= ( 锶秘记帮归1 互 r ， = 端p 1 2 ( x 肌) + 4 m 咖2 ( x ) 弘p 卜m 搿功p 妒。 1 6 岭疗0专 _ p 囊丙 得使 。户 聍 ，k、 d = 足满 这里么固艿表示矩阵么和矩阵丑的k r o n e c k e r 积：彳= ( q l 。p ，b 为聊g 阶矩阵， 则彳ob = q l 召 l b q ；b b l 用 推论2 2 ：假设a 卜a 5 成立，则 面( 屯( x ) 一v ( x ) 一巩( x ) ) 三专( o ，谚( 工) ) ，刀专。 舯吣) = 南( 少“ 饰) = 帮 2 2 3 相关引理 ( x ) + ( 聊2 ( x ) ) 川一2 加( x ) 肌l ( x ) ) 郎一1 嘲巳 e r h ( - 3 l s 。1 豇一嘲巳 为证明定理，首先给出以下若干引理： 引理2 7 由假设a 1 一a 2 ，对溉( 死，1 一魂) ，有煅嘲& 。) 嘲2 厂( x ) s 。 引理2 8 由假设a 1 一a 3 ，对v x ( 吃，1 一吃 舰玎e ( 琵，亍日：) = 。l i m 。甩e ( 日= ；乞乙) 艺乙) r h 。- 。，i ) = 舰珂吃e ( 日再，亍) = ) ，有 ( x ) 西( x ) c ( 卢) ( x ) 前( x ) ( d ( 占) v ( x ) 2 厂( x ) 蜘( x ) m ( x ) c ( p 引理2 7 和引理2 8 的证明参见【1 3 】。 引理2 9 由假设a 卜a 5 ，对觇( 吃，1 一吃) ，有 瓜隰卜川舻五h ( 2 1 6 ) + 4 m 2 ( x ) c ( 声) ) ) 舯如 v ( 彬 p v 蒙茜辨p h 肌辫) p 季 1 7 ( 2 1 7 ) 矾协口r 嘲= 乃r ，j = 0 ，1 p 。 一一o ，( 三 由引 乃何。( 巧如) + c 如) ) ，口= ( ，唧) r ， 蟊蟊r 扣- - ； 日：蟊雨t ( x ) c ( p ) ) 卢) 雨耕h - 1 日：= ；雨亍日= ；口 利用小分块和大分块的思想，类似于文献【8 1 中定理3 的证明，证得 扣翘 ( o ，q ( x ) ) ，门j 。 再由t r a i n e r 一) v o i d 定理易得( 2 1 7 ) 式成立。 引理2 1 0 ：若假设a 卜a 4 成立，则厦。) ( x ) rq 与万( 石) 7 岛，力专o o 。 2 2 4 定理的证明 定理2 2 的证明： 在x 的某邻域内，将否( 。) = ( g ( 五) g ( 乇) ) 7 展开为( p + 1 ) 阶泰勒展式： 晰( x ) + 丽g ( - o ( x ) r ( 五一x ) 硝、1 + d i ； l il l ( x n - - x ) 川j e ( 洲工) 一罗( x ) ) = e ( ( ，暇。，训。1 磁。，髦) 一尹( x ) = 蹁碌) 骸。) q 圹尹( x ) 1 8 妻p e e n l _ p h 力 “ m d坼归 厂 q 锄弘 r _ x 嘲 忡蚋 ” 0 加 m 曲h 妇 p 西 a i | d 哆a净p 力八 q 、：弋2 - 函j 歇 0 互 、 理 ， 、j i l + + p ， 、l，、l， x ； x 一 一 五 靠 ，l，_， ，。l 吲小一，胤豺。 g ( 川( x ) ( p + 1 ) ! + d 割 一吲 一x ) 胪1 川 尹( z ) w 哆心h 慨踹崩卦 ：幽 ( p + 1 ) 2 = 钳( 归驴错妙1 蜃 v a r ( h ( 。) 反。) ( x ) ) = 。) 助( 反。) ( x ) ) 。) = q 。，e ( 反。，( x ) 一e ( 反。，( 戈) ) ) ( 冗，( z ) 一e ( 反。，g ) ) ) r 曩。， = ( 蹦训蹁引h 2 q 。) 蹁q 。) e ( ：艺乙) 艺乙) r 日= ；) q 一) 蹁敛一) 。 由引理2 7 和引理2 8 知： 舰哳( _ 。，反。，( x ) ) 2 丹吃1 _ ! _ l i m ( h - l s , n h - ，1 ) 刀吃e ( 艺函磊，7 日烈& 一，f 2 r - 1 ) _ = 面1 雨1s 一刚( d ( 占) v ( x ) 砌2 ( x ) 俐雨1 s 一1 = 去龋( 球) v ( 小4 聊2 c ( 妒雷1 1 9 五 矗 ， u ，：叩 1 科。 避 ，。：_=_ 、一、 “ 肿 r 作；乜 “ “ 鲜 舻 ，l o 、， p 印 ；弘 群 舻 p 岛； 卢 研 ，。l 定理2 3 的证明： y ( t 1 ) ( x ) 一尹( x ) 咆心小小一胤鬻僻 蹦毒，+ 蹁 ( 1 ( x ) p + 1 ) !针唰 蹦锶 蹋帮 静 褂 再由引理2 7 ，引理2 8 和引理2 9 即得到定理2 3 。 推论2 2 的证明：由引理2 1 0 ： 屯( z ) 一v ( x ) = ( 反。，( x ) 一尹( x ) 厂巳一 ( a 。，( 工re 1 ) 一( 万( x1 e 1 ) 2 = ( ( x ) 一尹( z ) ) 7 气一陋x ) 7 巳( 露，( z ) 一酗) r ， = ( 反。，( x ) 一尹( x ) te l 2 删( x ) 巳( 反，( x ) 一万( z ) ) rq 靛鹦批2 氛 愧) ( x ) 一万( x ) jl 之搬( z ) 8 t j 由定理2 3 ，易得( 2 1 6 ) 成立。 、l、=、“吖心w 、x， xc ( f|川一 苁 & 协 町 时 + 、， o 。加 一z 一 一 o h h 月 n 气 q d d蹁蹁 帕 町敛q ，。_ = 第三章万混合误差下半参数回归模型的局部多项式估计 3 1 引言 考虑固定设计下的半参数回归模型： z = x ，f 1 + g ( t i ) + 6 e ， o f 刀( 3 1 ) 其中( 五，) r 【o ，1 】是固定设计点列，t ier 是未知的待估参数，g ( t ) 是定义在 【o ，1 】上的未知函数。随机误差 q ，0 f 刀 是具有零均值和有限方差盯2 且同分布 的万混合序列。 对于模型( 3 1 ) 已有很多文献研究过。在误差是独立的情况下，高集体和 赵林城 2 7 分别采用核和近邻方法建立了的自适应估计并得到了它们的最优 收敛速度；施云驰，柴根象 2 9 研究了半参数回归模型局部多项式估计的渐近 性质，得到了估计的渐近正态性和最有收敛速度。由于在许多实际应用中假设 误差独立是不太合适的，因而考虑误差为相依情况下的模型( 3 1 ) 是很有意 义的。胡舒合【3 0 在误差是局部广义g a u s s 序列和混合序列时，得到了估计量 的强相合性：柴根象，施云驰和钱志坚 3l 】考查了误差为a 混合的半参数模型， 采用局部多项式光滑的方法得到了估计量的渐近性质。受上述文献的启发，本 章利用一般的最小二乘法来估计模型中的参数，用局部多项式估计方法来估计 模型中的非参数部分，在适当的条件下得到了估计量的相合性。 设p 是一个正整数，g ( f ) 有( p + 1 ) 阶导数，由t a y l o r 展开可知，当f 在s 的 某个领域内可以用下式来近似g ( f ) ： g g ) + g g - s ) + + 掣。一s ) p p ： 首先假设己知，考虑下面的最小二乘问题，即给定，核函数k ( ) 和窗宽 矗f k ho ) ：k ，关于g ( ( f ) ( o ，p ) ，最小化 y , - x , p - 姜学r y - f ) 萎铲叫瓦) 它给出了g u ( ，) 的初始估计 童，( f ，) = 阡7 ：( ，x l ，一j ) ，0 5 ，g p 2 1 其中 】，= ( t o ，匕y ，x = g 。，矗尸， 蝶o ) = 慨加一，职。鳓= p k + ( f 掰( f 减o ) 这里e p + l , t 是+ 1 ) 维单盘向量， 其第i 个元素为 1 ( 1 f p + 1 ) ， 4 0 ) = 巧归。o 沈o ) ，瓦o ) = 级。o 卜，乙妒，瓦o ) = ( 1 一。一，纯叫) r ， d 。( t ) = d i a g ( k h ( t o f ) l ，以一f ) ) 然后，关于最小化化一x , l l - 雪, 。，f ) ) 2 ，从而可得f l , g v ( f ) 的最终估计分别为： 房= 爵2 葛霉，g v o ) = 呒w o 她一一众) i = 0i - 0 其中哥= # ，葛= x ，一既。，o ，b ，霉= 一，烤，0 f 拧 3 2 假设和结论 为以下讨论