（应用数学专业论文）不同光滑度半变系数模型的估计.pdf

太原理工大学硕土研究生学位论文 不周光滑度半变系数模型的估计 摘要 变系数模型在现代统计学中具有重要的地位，它是经典线性回归模型 的推广。该模型是由h a s t i e 和t i b s h i r a n i 1 】1 提出的，其一般形式为 p 十m y = q ( f ) 玛+ j = l 其中y 为响应变量，x = ( x 1 ，x 2 ，砷。) t 和u = ( v l ，巩，) t 为回归变量，q ( 叨p = l ，2 ，p + m ) 为未知的函数系数，g 为随机 误差，且e ( e l 玩x 1 ，x 2 ，叶。) = 0 ，v a r ( e x 1 ，x 2 ，砩。) = 0 2 ( 矿) 。变系数回归模型在很多领域内得到了应用，例如：h o o v e re ta l 【2 】 的纵向数据的应用；f a n 、y a o 和c a i 【3 1 3 的生态数据分析的应用；c h e n 和t s a y 4 】及c a i 、f a n 和y a o 【5 】在非线性时间序列方面的应用。 在实际运用中，我们经常想知道是否回归变量影响响应变量或者是系 数是否真的在变化，详见f a n 和z h a n g ( 6 1 。于是我们就想检验函数系数是 否为0 或常数，即：提出检验h 0 ：- j ( u ) = ( 对于一部分函数哟( u ) ) 我们称在这个假设下得到的模型为半变系数模型： p p + m y = ( u ) 玛+ 鼍+ j = l j = p + l 其中y 为响应变量，x = ( x 1 ，x 2 ，墨，l ，- 一，。) r 和u = ( 巩，观，) t 为回归变量，( u ) 0 = 1 ，2 ，p ) 为未知函数 系数，哟0 = p + 1 ，p + m ) 为未知常数系数。为随机误 太原理工大学硕士研究生学位论文 差，f ( u ) 为u 的边际分布密度函数，且e ( i u ，x 1 ，x p ，x 升m ) = 0 ，v a ， ( e l v , x 1 ，礴，曷+ 。) = 0 2 ( u ) 。这个模型由非参数部分 ( 包括函数系数( u ) ，j = 1 ，2 ，p ) 和线性部分( 包括常数系数 a j ，j = p + 1 ，p + m ) 构成。若把常数系数, c j = p + 1 ，p + m ) 看 作常函数，则半变系数模型就成为变系数模型，所以我们可以把半变系数 模型看作是变系数模型的特例。 在半变系数模型中，若函数系数q j ( u ) ( 歹= 1 ，2 ，p ) 具有同等光滑 度，z h a n gw e n y a n g 、l e es i k y u m 和s o n gx i n y u a n 7 1 已经做出了该模 型的线性部分及非参数部分的两步估计及其模拟。在本文中，我们将在函 数系数具有不同光滑度的情况下提出半变系数模型的一种两步估计方法， 同时证明在函数系数具有不同光滑度的情况下，两步估计方法能够克服一 步估计方法不能达到最优收敛速度的缺陷。 关键词：一步估计，两步估计，局部多项式，半变系数模型，最优收 敛速度 - 1 1 太原理工大学硕二l 研究生学位论文 e s t i m a t i o n0 ns e m i v a r y l n gc o e f f i c i e n tm o d e l s 、1 t hd i f f e r e n td e g r e e so fs m o o t h n e s s a b s t r a c t v a r y i n gc o e f f i c i e n tm o d e l sh a si m p o r t a n tp o s i t i o ni nm o d e r ns t a t i s t i c s i ti sp r o m o t i o no fc l a s s i c a ll i n e a rr e g r e s s i o nm o d e l ，p r o p o s e db yh a s t i ea n d t i b s h i r a n i 1 】a n dd e f i n e db yt h ef o l l o w i n gl i n e a rm o d e l ： y = q a u ) x j + e ， j = 1 f o rg i v e nc o v a r i a t e sx = ( x 1 ，恐，) ta n du = ( 巩，巩，) t ， yi s r e s p o n s ev a r i a b l e ，( u ) 0 = 1 ，2 ，p + m ) i su n k n o w n f u n c t i o n ，s i sr a n d o me r r o r ，e ( l 墨，x 2 ，研m ) = 0a n d v a r ( e l v , 五，x 2 ，m ) = 0 - 2 ( 【，) m o r e o v e r ，i ti sw e l l - r e c o g n i z e dt h a t t h em o d e lh a se x t r e m e l yw i d ea p p l i c a t i o n s f o re x a m p l e ，s e eh o o v e re ta l 2 】f o rn o v e la p p l i c a t i o n so ft h em o d e lt ol o n g i t u d i n a ld a t a ；f a n ，y a oa n d c a i 【3 】f o ra p p l i c a t i o ni ne c o l o g i cd a t aa n a l y s i s ；c h e na n dt s a y 4 1 ，a n d c a i ，f a na n dy a o 【5 】f o rn o n l i n e a rt i m es e r i e sa p p l i c a t i o n s i np r a c t i s e ，w eo f t e nw a n tt ok n o wi fac o v a x i a t ea f f e c t st h er e s p o n s eo r i ft h ec o e f f i c i e n t sa r er e a l l yv a 唧n g ，s e ef a n a n dz h a n g 【6 】t h i sa m o u n t s i i i 太原理工大学硕士研究生学位论文 t ot e s ti ft h ew h o i ec o e f f i c i e n ti sz e r oo rc o n s t a n t ，n a m e l y ，t e s t i n gt h en u l l h y p o t h e s i sh 0t h a t ( u ) = 哟，f o rs o m ef u n c t i o n s t h em o d e lu n d e r 凰 w i l lb ec a l l e das e m i - v a r y i n gc o e f f i c i e n tm o d e l ： pp + m y = 哟( ) 玛+ 哟玛+ e j = l i = p + 1 f o rg i v e nc o v a r i a t e sx = ( x 1 ，砗，1 ，) 丁，u = ( 巩， ，) ta n dy i sr e s p o n s ev a r i a b l e ，( u ) = 1 ，2 ，p ) i su n k n o w n f u n c t i o n ，o q ( j = p + 1 ，p + m ) i sc o n s t a n t ，i sr a n d o me r r o r ，f ( u ) b et h em a r g i n a ld e n s i t yo fu ，e ( g l 以x 1 ，玛，b 。) = 0a n d v a r ( e l u , x 1 ，机) = 0 - 2 ( u ) t h i sm o d e lc o n s i s t so fa n o n - p a r a m e t r i cp a r tt h a ti n v o l v e sc o e f f i c i e n tf u n c t i o n sa u ) ( j = 1 ，2 ，p ) a n dal i n e a rp a r tt h a ti n v o l v e sc o n s t a n tc o e f f i c i e n ta j ( j = p + l ，一，p + m ) i ft h ec o n s t a n tc o e f f i c i e n ta j ( j = p + 1 ，p + m ) i sv i e w e da saf u n c t i o n ， t h es e m i v a r y i n gc o e f f i c i e n tm o d e lc a nb er e g a r d e da sas p e c i a lc a s eo ft h e v a r y i n gc o e 伍c i e n tm o d e l w e n y a n gz h a n g ，s i k - y u ml e ea n dx i n y u a ns o n g 【7 】h a v ed i s c u s s e d t h ee s t i m a t i o na n ds i m u l a t i o nu n d e rt h es o m ed e g r e eo fs m o o t h n e s so f c o e f f i c i e n tf u n c t i o n si nt h es e m i v a r y i n gc o e f f i c i e n tm o d e l ，f o l l o w i n g ，u n - d e rt h ec o n d i t i o nt h a tt h ec o e f f i c i e n tf u n c t i o n sp o s s e s sd i f f e r e n td e g r e e so f s m o o t h n e s s ，at w o - s t e pm e t h o di sp r o p o s e d i na d d i t i o n ，w es h o wt h a t o n e s t e pm e t h o dc a nn o tb eo p t i m a lw h e nd i f f e r e n tc o e f f i c i e n tf u n c t i o n s a d m i td i f f e r e n td e g r e e so fs m o o t h n e s s t h i sd r a w b a c kc a nb er e p a i r e db y u s i n go u rp r o p o s e dt w o - s t e pe s t i m a t i o np r o c e d u r e 太原理工大学硕上研究生学位论文 k e y w o r d s ：o n e s t e pe s t i m a t i o n ，t w o - s t e pe s t i m a t i o n ，l o c a lp o l y n o m i m ，s e m i v a r y i n gc o e f f i c i e n tm o d e l ，o p t i m a lr a t eo fc o n v e r g e n c e v 太原理工大学硕士研究生学位论文 主要符号对照表 y = ( m ，m ，k ) t ， h ；( ) = 七( h i ) h i ， r | i j ( u ) = e ( 五曷i u = “) ， 地= t i k ( t ) d t ， 地= t i k 2 ( t ) d t ， 口= ( 巩，觇，巩，x n ，l ，x 1 。) ，( p + 。) ) ， 第t 个 = 螋：! ：2 生：虫 - v 1 - 声明 本人郑重声明：所呈交的学位论文。是本人在指导教师的指导下， 独立进行研究所取得的成果。除文中已经注明引用的内容外，本论文 不包含其他个人或集体已经发表或撰写过的科研成果。对本文的研究 做出重要贡献的个人和集体。均已在文中以明确方式标明。本声明的 法律责任由本人承担。 论文作者签名：鲻一一 日期2 4 垒三至 关于学位论文使用权的说明 本人完全了解太原理工大学有关保管、使用学位论文的规定。其 中包括：学校有权保管、并向有关部门送交学位论文的原件与复印 件；学校可以采用影印、缩印或其它复制手段复制并保存学位论文； 学校可允许学位论文被查阅或借阅；学校可以学术交流为目的。 复制赠送和交换学位论文；学校可以公布学位论文的全部或部分内 容( 保密学位论文在勰密后遵守此规定) o 日期： 凄! 堑 日期：兰旦：! ：! ! 太原理丁大学硕上研究生学位论文 第一章引言 线性统计模型是现代统计学中应用最为广泛的模型之一，而且也是其它统计 模型研究或应用的基础。它之所以如此，主要是由以下原因造成的： 1 在现实世界中，许多量之间具有线性或近似的线性依赖关系。 2 在现实世界中，虽然许多量之间的关系是非线性的，但是经过适当的变 换，变换后的新变量之间具有近似的线性关系。 3 线性关系是数学中最基本的关系，因而比较容易处理。在数学中已经积累 了处理线性关系的丰富的理论与方法，为实际应用提供了坚实的理论依据和有效 算法。 多项式回归模型、变系数回归模型以及本文讨论的半变系数回归模型都是线 性统计模型的推广。 1 1 模型简介 1 1 1 线性回归模型 在现实世界中，存在着大量这样的情况：两个变量例如x 和y 有一些依赖 关系。由x 可以部分地决定y 的值，但这种决定往往不很确切。常常用来说明 这种依赖关系的最简单、直观的例子是体重与身高。若用x 表示某人的身高， 用y 表示他的体重。众所周知，一般说来，当x 大时，y 也倾向于大，但由x 不能严格地决定y 。 在上面的例子中，y 通常称为因变量或响应变量，x 称为自变量或协变量。 我们可以设想，y 的值由两部分组成：一部分是由x 能够决定的部分，它是 x 的函数，记为f ( x ) 。而另一部分则由其它众多未加考虑的因素( 包括随机因 1 太原理工大学硕士研究生学位论文 素) 所产生的影响，它被看作随机误差，记为e 。于是我们得到如下模型： y = f ( x ) + ( i i ) 这里e 作为随机误差，我们要求它的均值e ( e 1 = 0 。 特别，当f ( x ) 是线性函数l ( x ) = o o + a l x 时，我们得到 y = c l o + a i x + ( 1 2 ) 在这个模型中，若忽略掉e ，它就是一个通常的直线方程。因此，我们称( 1 2 ) 为 线性回归模型或线性回归方程。常系数咖是直线的截距，n 1 是直线的斜率，也 称为回归系数。在实际的应用中，o o 和口1 皆是未知的，需要通过观测数据来估 计。 假设自变量x 分别取值为x l , z 2 ，时，因变量y 对应的观测值分别为 y t ，抛，弧。于是我们有死组观察值( 戤，y i ) ，t = 1 ，2 ，礼。如果y 与x 有回归 关系( 1 2 ) ，则这些( x i , 歇) 应满足 y i = r i o + n l 她+ 目，t = i ，2 ，n ，( 1 3 ) 这里矗为对应的随机误差。基于( 1 3 ) ，应用l i + - - - 乘法可以得到a o 和a 1 的估 计值a o ，a l ，将它们代入( 1 2 ) ，再略去误差项得到 y = a o + a l x ( 1 4 ) 称之为经验回归模型，也称为经验回归方程。再经过适当的统计检验( 不是本文 重点不做详述) 后。我们可以认为( 1 4 ) 描述了因变量y 与自变量x 之闯的相关 关系。 在实际问题中，影响因变量的主要因素往往很多，这就需要考虑含多个自变 量的回归问题。假设因变量y 和p 一1 个自变量x l ，砀，k l 之间有如下关 系： y = o l 0 + ( 1 i x i + + 一i x p i + e 这是多元线性回归模型，其中伽为常数项，口l ，o 2 ，铴l 为回归系数，为随 机误差。 假设我们对y , x x ，一1 进行了n 次观测，得到钆组观测值 ( x i l ，一，峨p l ，耽) ，i = l ，2 ，- ，n ， 2 太原理工大学硕十研究生学竹论文 x 仨 太原理工大学硕士研究生学位论文 这是三次多项式回归模型。若令x l = x ，x 2 = x 2 ，x 3 = x 3 ，则有 y = o r 0 + o l x a + a 2 x 2 + 0 3 拖+ s 这就是化为一个线性模型。 1 l 2 变系数模型 变系数模型是经典线性模型的推广，它是由h a s t i e 和t i b s h i r a n i 【1 】1 提出的， 其一般形式为 p 押l y = , 1 a v ) x j + sj 二j j = x 其中y 为响应变量，x = ( x 1 ，x 2 ，轴。) t 和u = ( 巩，u z ，) r 为回 归变量，( 矿) u = 1 ，2 ，p + m ) 为未知的函数系数，为随机误差，且 e ( i 弘x i ，x 2 ，一，义“。) = 0 ，v a t ( e l y , x 1 ，施，o 。) = g 2 ( ( 厂) 。 这个回归模型在很多领域内得到了应用：h o o v e re ta l 2 】在纵向数据上的应 用；f a n 、y a o 和c a i 【3 】在生态数据分析方面的应用；c h e n 和t s a y 4 1 及c a i 、f a n 和y a o 【5 j 在非线性时问序列方面的应用都是很好的例子。 1 1 3 半变系数模型 在实际运用中，我们经常想知道是否回归变量影响响应变量或者是系数是否 真的在变化，详见f a n 和z h a n g 6 1 。于是我们就想检验系数是否为0 或常数， 即：提出检验h 0 ：q j ( 【，) = ( 对于一部分函数q j ( u ) ) 。我们称在这个假设下得 到的模型为半变系数模型： p p + m y = , 1 a u ) z j 十, 1 j z j + j = lj = p 十l 其中y 为响应变量，x = ( x 1 ，局，研h ，局+ 。严和u = ( g l ，u 2 ，u q ) t 为回归变量，叼( c ，) = 1 ，2 ，p ) 为未知函数系数，哟u = p + 1 ，p + m ) 为未知常数系数，e 为随机误差，( u ) 为u 的边际分布密度函数，且 e ( j 以x 1 ，磁，五时m ) = 0 ，v a r ( e l 阢x 1 ，一，砀，叉舛。) = d r 2 ( 4 太原理工大学硕士研究生学位论文 我们可以看到，这个模型由非参数部分( 包括函数系数n ，( 己，) ，j = 1 ，2 ，p ) 和线性部分( 包括常数系数a j , j = p + 1 ，p + 2 ，p + m ) 构成。若把常数系数 q 0 = p + 1 ，p + m ) 看作常函数，则半变系数模型就成为变系数模型，所以我 们可以把半变系数模型看作是变系数模型的特例。 z h a n gw e n y a n g 、l e es i k - y u m 和s o n gx i n y u a n 7 1 ，f a nj i a n q i n g 和h u a n g t a o 8 】等已经在他们的文章中讨论了半变系数模型一些问题：假设系数函数q ( 具 有同等的光滑度，z h a n gw e n y a n g 、l e es i k - y u m 和s o n gx i n y u a n 7 1 利用两步估计 的方法，做出了线性部分和非参数部分的估计及其模拟；f a nj i a n q i n g 和h u a n g t a o 8 1 则利用p r o f i l el e a s ts q u a r e s 的估计方法做出了参数部分的估计，并讨论了 该估计的渐近正态性。 在这篇文章中，半变系数模型将会是我们研究的重点。我们将在函数系数具 有不同光滑度的情况下提出一种两步估计方法，同时将会证明在这种情况下，两 步估计方法能够克服一步估计方法不能达到最优收敛速度的缺陷。 1 2 半变系数模型研究现状 金丽宏【9 ，1 0 l 讨论半参数回归模型 y = x p + g ( 力+ ， 她利用近邻权函数并综合最小二乘法，建立了半参数回归模型中非参数g ( d 和 参数卢的估计量9 0 ) 和p ，在适当条件下，研究了它们的渐近性质；她又利用偏 残差法并综合最d , - 乘法，给出了半参数回归模型中参数p 和非参数9 ( 力的估 计，在误差为鞅差序列时，得到了估计的r ( r22 ) 阶矩相合性。 樊明智和王芬玲【1 1 ，12 】考虑纵向数据半参数回归模型 y = x 口+ g ( 功+ s ， 他们采用二阶段估计方法给出了参数分量芦和非参数分量g ( t ) 的估计量p 和 9 p ) ，并在适当条件下研究了这些估计量的渐近正态性；他们又在这个模型中基 于最d , - - 乘法和局部线性拟合的方法建立了模型中参数分量p 、回归函数g ( 刃 和误差方差0 2 的估计量，并在适当条件下得到了它们的渐近正态性和最优收敛 5 太原理工大学硕士研究生学位论文 速度。 樊明智、王芬玲和孔德顺【1 3 】考虑纵向数据半参数回归模型 = 硝t p + 9 ( ) ， 他们基于最小二乘法和局部线性拟合的方法建立了模型中参数分量p 、回归函数 g ( t ) 和误差方差矿的估计量，并在适当条件下证明了估计量的相合性。 田萍和薛留根 1 4 】考虑模型 y i = 毋卢+ g ( $ t ) + 目， 他们基于最小二乘法和一般的非参数权函数方法给出了模型中参数p ，回归函数 g ( ) 和误差方差矿的估计，并在适当条件下证明了估计量的强相合性。 胡玉琴和薛留根【1 5 】讨论的是固定设计下的一类半参数回归模型 鼽= 雹p + 9 ( 磁) + 矗，t = 1 ，2 ，n ， 他们综合最小二乘和非参数权函数估计方法，定义了p ，g 的估计量p ，及误 差方差盯2 的估计量扣。在适当条件下，证明它们具有强相合性和p ( 2 ) 阶平均 相合性。模拟的结果表明所得结果具有优良的性质。在这个模型中，薛留根和田 萍【1 6 1 为了模拟参数估计的误差分布，研究了固定设计下半参数回归模型中参数 估计的误差分布的随机加权逼近问题，构造了参数估计的随机加权统计量，在适 当的条件下，证明了用随机加权统计量的分布去逼近原估计量的误差分布的精度 可达到o ( n 一1 2 1 。 吕士钦( 17 】讨论的模型如下 y = 嘶( u ) + 岛乃+ e i = l j = t 他在a 口= b 的约束条件下( 其中a 为mxp 矩阵，且秩为m ，b 为m 1 向量) ， 介绍了半变系数模型的p l s 估计，给出该估计函数系数的一致收敛速度。丁建 华f 1 8 】( 模型与本文相同) 则采用局部多项式估计方法和平均方法，给出了模型的 常数系数的估计，对于函数系数通过应用常数系数的估计，采用局部多项式估计 方法给出其估计，并给出估计的渐近正态性和证明。 魏传华和梅长林【1 9 】在文章提出了关于半参数空间变系数回归模型的两步估 6 太原理工大学硕士研究生学位论文 计方法，该方法可得到模型中常值系数估计量的精确解析表达式，广泛的数值模 拟表明所提出的估计方法对估计常值系数具有满意的精度和稳定性。在文献【2 0 】 中，他们针对半参数空间变系数回归模型给出了一种估计方法一后向拟合估计， 该方法可得到模型中常值系数估计量的精确解析表达式，广泛的数值模拟表明所 提出的估计方法对估计常值系数具有满意的精度和稳定性，最后，利用该方法分 析了一个实际的例子。 施云驰 2 1 1 利用最小二乘局部多项式方法建立了半参数回归模型参数分量和 非参数分量的局部多项式估计，在适当条件下，得到了它们的渐近正态性和最优 弱收敛速度。在文献f 2 2 1 中，柴根象和施云驰利用最d , - - 乘局部多项式方法建立 了半参数回归模型参数分量、非参数分量和误差方差的局部多项式估计，并在适 当的条件下，得到它们的渐近正态性和最优收敛速度。 7 太原理工大学硕士研究生学位论文 第二章不同光滑度半变系数模型的估计 2 1 估计步骤 蜀1x n ( u 1 一蜀p 噩p 帆一u ) 而p 一t ) 2 蜀p 吼一u ) 3 x 。：i 聋1 硒? 一小：? 硒譬渤鼍“p 岛“户1 j 0 1 溉1 ( 巩一五p 五l p ( 巩一) p ( 巩一”) 2 五毕( 一u ) 3 太原理工大学硕士研究生学位论文 x ：f 笔：；羔：；：x 墨2 0 ，+ m ) m ) 1 x 2 ：l 恐”2 ) 。i 1 二+ ，二。，：二。，j 贾：f 霉：釜： 车：i ：莩乏薹i i ：霉：! ：羔莩：1 ， 墨1 l 慨一t ) 甄二“) 1 ) ( p 州 其中p = k 二i 奶慨) 砀一鐾薄。白硒) ，极小化上式可以得到吻( u ) 的 太原理工大学硕士研究生学位论文 其中 xa=ixlpx,p(u,-刊u)xtp(u,-叫u)2。x,p(。u1-叫u)3。 由计算我们可以看到两步估计知，2 ( u ) 的偏差为o ( 碍) ，方差为o ( n h 3 ) 一1 ， 这样就达到了最优收敛速率d ( n 一8 9 ) 。 1 0 太原理工大学硕士研究生学位论文 2 2 条件和结论 2 2 1 条件 ( 1 ) e x 2 8 2 ，j = 1 ，p ： ， ( 2 ) 对于j = 1 ，2 ，p 一1 ，( t ) 在让的邻域内连续；当j = l ，p 时，( “) o ；唧( t ) 在“的邻域内连续且有四阶导数： ( 3 ) 对于任意l ，j ，啊( t ) 在u 的邻域内连续； ( 4 ) 在u 的邻域内，u 的边际分布密度连续有二阶导数且，缸) o ； ( 5 ) k ( t ) 是在紧支撑内对称的密度函数； ( 6 ) h 2 h 3 0 ，h 3 0 ，n 碹l o g h 2 一o o ，其中，y 8 ( s 一2 ) ，8 2 。 2 2 2 结论 定理1 当满足条件( 1 ) 到( 5 ) 且九1 0 ，n h l 一一o o ) 时，我们可得 ，p 一1 统。s ( a p ，1 ( 乱) i 口) = ； i ( u ) e 0 1 ，纠- 2 + 。s 一1 ) “) c i + d p ( 1 ) ) ； 口= 1 跏侮“训移) = 磊；孙磊- l 计。+ m 8 - 1 ( u 泓u ) s 一1 ( e 2 p _ l ，2 卅。+ 。( 1 + d p ( 1 ) ) 注1 ：在酃，1 ( u ) 这个估计下，达不到最优收敛速率0 ( n 一8 9 ) 鼬，= ( 篙兰黔t = ( 黧 ( 让) = ( n a u ) 9 2 ，0 ，嘞舰，0 ， 扬。池，o ，r 1 珏( ，r ( 帅枷( ) ， ，、 1 1 太原理工大学硕士研究生学位论文 s l l ( u 1 = r l l ( u ) p q ) 0r l p ( 钆) 脚0 ：r l p ( u ) p 2 0 0 i r l l ( u ) 0_ l i r l p ( ) 上2 0 r l p ( u ) 矗4 ；i：；j ”扣 ) 0r p p ( u ) 0 碹r 弘2 0 0 九；r l p ( u ) 舰0墙f 如( u ) 舰0 研r w ( ) 以 砰r l ，( # 圾0 务妇( 抛0 r ”0 ) 出0 0 蜡r l ，( 由m 0增7 碲【纵0碡嘞脚 s , 2 ( u ) = 强( 缸) 一 r l ( p + 1 ) ( u ) p o ”1 ( 舛2 ) ( u ) 脚r l ( 舛m ) m ) 瑚 o0 o ii； 似升1 ) ( ) 肋r p ( 舛2 ) ( u ) 伽r p 。) ( u ) 伽 oo ， o 磅7 衩p + 1 ) ( u ) 肛2 碍r p ( 叶2 ) 0 ) p 2 i 勺( 升m ) ( u ) p 2 00 o 岛2 ( 乱) = 卜( p + i ) 歹) ( 乱) j 嚣= 1 ，w h e r er ( 舛i ) ( 舛j ) ( “) = r o q ) p “) ( 钍) 兢n s ( 如，2 ( l d ) = 去碡毋( 札) 西4 旷1 ( “) q ( 一互1 心2 舰已r 一1 ( ( 1 ，o ，碡舰，o ) t y ”( a p “仳) l 口) = 元笔e t l ，。n - 1 ( u ) 瞄( ) + 互( u ) + 历( u ) 】r 。( n ) 钆t ( 1 + o p ( 1 ) ) 咒c 钍，= l h ；0 舰h ；。# 2n；0p。h34。p41 00 i 锄c n l 啦、 0 3 纵0 遐娜， 一 奎堕堡三查兰婴：! ：堡塑竺兰堡笙兰 z 。“，：f 三 ：薹h 1 圆嘞。吐 l 警意 挈九羔j b 憾 a ( u ) = q ( u ) = ( p 4 ，0 ，船，o ) ro r 却( t ) n 1 ( u ) 脚0 l p ( u ) 邶 d q ( 时1 ( 由邮 。 碜i l 扛妇 o 嚏，i f ( 田内 o 【p + 竹 ( t o p b 8 ： ： ： f l y ( “) 加0 拌( “) 瑚0 r p ( 升1 ) ( 砷加p 【m ，扣m o o ；7 l p ( 由m 0 峰r 即砷加 o0 7 1 f p + t ) 【u ) 卯0 ( 升1 ( 町邶 o ( p + 1 ) ( h 1 ) ( u ) - m + 1 ) 帅) 邶 l ( p + m ) ( u 】瑚0 r p 神似) 0 7 ( 升1 ) ( 卧m ) ( u ) 舢协m ) r p + m ) ( “) 加 注2 ：在a p ，2 ( “) 这个估计下，窗宽为h 3 一n - - 1 9 ，可以达到最优收敛速率 d 幻一8 9 ) 。 一1 3 太原理工大学硕士研究生学位论文 2 3 结论的证明 在定理证明之前，我们先给出两个引理： 引理1 ：( x 1 ，m ) ，( x 2 ，硷) ，( ，) 是独立同分布的随机变量，其中 m “= 1 ，2 ，n ) 为标量。我们假设，为( x ，y ) 的联合密度分布函数，e l y l ， o 。，s u p 。fi y l 8 f ( x ，可) d y o o 。令耳为一个有界支集上的有界正值函数。并满足 利普希茨条件，于是可得以下结论 器旷i 玩涵一。) m 一 ) 删= o p 盼 =l e k h ( x - - xh l o g ( 1 h ) 其中，当g 1 8 - - 1 时，萨一1 _ 。 证明：见参考文献 2 3 卜 引理2 ；当, z h 2 l o g h 2 一0 0 且一0 时，我们可以得到如下结论。 断o s ( 扣) i 口) = ；碣p 2 ( u ) ( 1 + 0 p ( 1 ) ) ，j = 1 ，2 ，p 一1 b i a s ( h j l d ) = o p ( 1 ) ，j = p + 1 ，p + m 证明：见参考文献吲中的定理1 和定理2 。 2 3 1定理1 的证明 则由泰勒展式我们可得 y = x ( a l ，b l ，a 2 ，b 2 ，一，唧，勺，南，o p + l ，一，a n + m ) t f 也吼l + 刍喜l 酶 产1i 讯 巩 沈 ! 其中e = ( l ，2 ，岛) z ，r a i n u , ，”， 如，锄 m a x u i ，“) ，i = 17 2 ，n 。 1 4 ( 4 1 ) + 巧吁 帅m + 砀 叼 ，硝 = y 知 已 明 证 + 、 肺砌 肪 酊彩 一 一 一 仉如； 棚 枷 咖 咖娩 护矽 妒 ，。一 l 一创 十 、- 砌砌 知 妒妒 舻 太原理工大学硕七研究生学位论文 将( 4 1 ) 式两边同时左乘e 易 2 p + 2 + 。( x r ，l x ) 一1 x r ”，l 可以得到 小，= 唧+ 薹e 易 计。+ m c 妒们x 广x t 肌( 茎兰 +砉e品一-，聃。+。cxrx，-1xt仉( 毋( 叼功) 毋( 饰) n ；4 ( 帅) x ? m x = ( 萎：羔妻嚣羔) 通过对其期望和方差的计算，可得如下结论 x 1 t u ，l x l = n ，( “) s 1 1 ( u ) ( 14 - o p o d ； x 1 t 1 x 2 = n f ( u ) s l ：2 ( u ) ( 14 - o p ( 1 ) ) ； x 2 t w l x l = 吖( ) 既( ) ( 14 - d p ( 1 ) ) ； x 2 t w l x ； = n f ( u ) s 2 ：2 ( ) ( 14 - d p ( 1 ) ) ； 所以 。 x 1m x = n ，( 让) s ( 1 4 - 吻( 1 ) ) i 婶j x r mi i ( n h 缮( u ) f ( u ) n j ( u ) ( 1 + 唧( 1 ) ) 通过类似的计算可得 x t m w i x = n h 一1 ，( 牡) t ( “) ( 14 - 码( 1 ) ) 1 5 舫勋 肋 2 2 p 蚺垆 妒 以观：“ 、lilllll， 扣 印 砷 托恐 咿妒 咿 一 一 一 巩沈； 、llllllij， u 巧 ” x x x p p p u u 一 一 一巩沈； 太原理工大学硕士研究生学位论文 1 ( t ) e 2 p 1 ，2 p + 2 + m ( 1 - i - 唧( 1 ) ) 2 3 2 定理2 的证明 证明：由已知y = 唧( ) + e ，则由泰勒展式可得 y + = x 3 ( 唧，6 p ，勺，由) r + 可1 + 其中，m 饥 阢，u ) 饰 m a x ( 以，u ) ，i = 1 ，2 ，n 。 将( 4 2 ) 式两端左乘e 4 ( x s ? w 3 x 3 ) 一1 x 3 t w 3 得到如下结果 a p , 2 ( 钍) = 唧+ 五1c t l ，4 ( x s t w z x 3 ) 一1 x 3 t w 3 + e t 4 l 。3 t w 3 x 3 ) 一l x 3 t w jl p 譬- i l b ( 观) 一 毯；，胁( 巩) 一 鬈p ：- 1 1 b ( ) 一 - 1 6 一 + e ( 4 2 ) 差 p 妒 差 纠 m 能 邶 卅 叻 州 巾拍 西 一摇蒜 胁砌 勋 由 妨 一 一 一 巩觇；玩 椰 枷 御 护妒 妒 肋砌 硒 町町 町 叼町； 叼 鬻鬻 鬻 噶辫 辫 砌砌 砌 以阮 町町 叼 一 一 ； 一 吼慨 b b 唧 鸳譬 触 野骂 骂 硒砌 加 妙 一 一 一 巩沈； 帅铷 忡 吼仇 妒妒 妒 硒砌 砌 巩沈 叼叼 呵 太原理工大学硕上研究生学位论文 硼x 3 t w 3 x 。) - 1 x 3 丁w 3l 噶1 ( a j ( a j 一幻 芏暑- 一毛 、鬻t ( 叼一a j + e t 4 ( x 3 r w 3 x 3 ) 一1 x 3 t e 刍唧十j 1 + 五+ , 1 3 + 五 同定理1 中证明x i t w l x j ( i ，j = 1 ，2 ) 的计算一样，我们可以得到 x 3 t 强= n f ( u ) r ( u ) ( 1 + 吻( 1 ) ) ； 所以有 f x 3 t w 3j l 毋l p ) 毋( 协) 毋( 脚) = n 磋毋( ，( u ) q ( t ) ( 1 + ( 1 ) ) e ( 以l 口) = 去4 九2 似) 4 r 一1 ( t ) q m ) ( 1 + 唧( 1 ) ) e ( 也：。z 4 ( x 3 t x 3 ) 一1 x 3 r l 二：e e b 9 二ib ( 仉 二：e 胁( 玩 扣脚t 1 4 ( x 3 r w 3 x 3 ) 一l x 3 t = 一；碍脚_ f ：4 r 一1 ( 札) ( 1 ，o ，h 池o ) t 。 1 7 、 玎 巧 x x x 、lllli 咖 印 唧 加砌 跏 咿咿 咿 一 一 一 巩巩； l u 灯 x x x 网 巩观 玩 町叼 叼 u 玎 叩 砌砌 砌 巩觇 。；。 p 尸p 严 p 尸 毕跖 距 ，。一 0 吻 + 0 。 哳 e 簿 太原理工大学硕士研究生学位论文 e ：( 1 ，0 o ，o ) ( x a t w 3 x 3 ) _ l x 3 r l 蜀嚣一? 一a 蚓j l 功：p ) x 杨1 ji 嚣1 e ( 町一 l ： l 嚣。e ( a j a j l d ) 粕 于是可得知，2 ( u ) 的偏差 兢n s ( a ，2 ( 钍) l _ d ) = - i - 。) 】) ( 1 + d p ( 1 ) ) ) ( 。k ) “。4 ) 。= 1 = n 1 2 ( h ) b 。 e 锄( 札) r p 。( u ) i e 毛，2 舛。g 以( u i ) a ( u t ) g - 1 ( 矾) 钳s ，2 舛m 】) ( 1 + d p ( 1 ) ) j = 】m - is = p + l 。i = i ( 如，入2 = 0 ，1 ，2 ，3 ) 2 4 太原理工大学硕上研究生学位论文 所以 p 6 = e 五4 ( n ，( u ) r ( u ) ) 一1 n f 2 ( u ) b 。 r 力( u ) r p s ( t ) i = p + ls = p + l j ： e 毛，2 p + 。g q ( 矾) a ( 啦) g _ 1 ( 阢) e p 十。，2 舛m 】) ) ( n ，( u ) r ( u ) ) 1 e l ，4 ( 1 + d p ( 1 ) ) 。1 = i = e & r - 1 ) 口 ，w ) ，如 ) j = p - f i 口= 升l i 口弓0 ，2 p + m g _ 1 ( 巩) a ( 聃) g - 1 ( 矾) e 舛。，2 舛m h 旷1 ( u ) e 1 4 ) ( 1 + o p ( 1 ) ) i = 1 综上可得的知2 ( “) 方差 v a r ( a p , 2 ( “) i d ) 2 叮2 ( ) 元元；7 1 石万e t l ，4 r 一1 ( 让) z ( u ) r 一1 ( ) e 1 ，4 一而 而2 e t 1 ( 历0 ) r - 1 ( ) e l t 4 一i 西4 r _ 1 0 ) ( 1 ，o ， 轧，o ) r 。【啊( u ) 螽j 甜。g - 1 ( u ) f ( u ) l r - 1 ( e 1 4 j = p + i p-1p + m + i e t l ，4 r 一1 ( “) 日。【印。( ) 惭( u ) e 易一l ，2 叶。g 一1 ( u ) a ( 让) g 一1 ( “) e p 抽，2 计一1 兄一1 ( ) e l 4 j = 18 = m f i + 而斋矗4 一( u ) z 2 ( “) 一( 咖 + ：西4 r 1 ( “) b 。 铴( “) 锄( ) j = p + l8 = 舛1 i 【e 毛，卜卜。g - 1 ( 巩) a ( 矾) g - 1 ( ) e 舛啦p + m 1 ) r ( u ) e l ，4 ) ( 1 + 吻( 1 ) ) = 纛煞e t 。r - l ( 帼u ) + z l ( 卅孙) 炉( 咖- 4 ( 1 + 0 p ( 1