(概率论与数理统计专业论文)函数系数和部分线性模型中的估计问题.pdf_第1页
(概率论与数理统计专业论文)函数系数和部分线性模型中的估计问题.pdf_第2页
(概率论与数理统计专业论文)函数系数和部分线性模型中的估计问题.pdf_第3页
(概率论与数理统计专业论文)函数系数和部分线性模型中的估计问题.pdf_第4页
(概率论与数理统计专业论文)函数系数和部分线性模型中的估计问题.pdf_第5页
已阅读5页,还剩150页未读, 继续免费阅读

(概率论与数理统计专业论文)函数系数和部分线性模型中的估计问题.pdf.pdf 免费下载

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

华东师范大学博士学位论_ 文r 2 塑型 摘要 部分线性模型和函数系数线性模型的理论、方法和应用近一、二十年来有了迅 速的发展由于它们有着丰富的研究内容和广泛的实际应用范围,因而受到人们的 极大重视。本论文主要研究函数系数部分线性模型、比例函数系数线性模型,给出 了模型中的参数与未知函数的估计方法,并讨论了这些估计的渐近性质本论文还 讨论了部分线性模型的稳健m - 估计。以下是各章内容的简要介绍 第一章简单地叙述了一元非参数回归模型的三类估计方法:局部光滑方法( l o - c a lm o d e l l i n ga p p r o a c h ) ,正交级数方法( o r t h o g o n a ls e r i e sa p p r o a c h ) 和样条方法 ( s p l i n ea p p r o a c h ) 本论文使用局部光滑方法中的局部多项式方法给出未知函数 的估计第一章还讨论了多元回归模型这里有一个很困难的问题即维数问题由 于维数的增加使得收敛速度相当慢,且估计极不稳定。在统计上将这一现象叫作“维 数祸根”( c u r s eo f d i m e n s i o n a l i t y ) 为了克服维数祸根,人们已提出各种不同模型 来降低维数本论文为克服维数祸根问题,给出了两个变系数模型t 函数系数部分 线性模型和比例函数系数线性模型第一章还回顾了稳健m 估计最近的一些发展 情况本论文讨论了部分线性模型的稳健m 估计。样本的独立假设,为数学和统 计处理带来了很多方便,有些时候也是合理的但是在某些实际问题中,特别在经 济数据方面,样本并非是独立的观察值,而是相互依赖的第一章简单地总结了现 有的数据混合相依类型。n 一混合相依是混合相依中较弱的一种。很多随机过程, 包括很多时间序列都能够满足它的要求本论文除了讨论样本是独立的情况。还讨 论了样本是o t 一混合相依的情况 本论文的第二章讨论函数系数部分线性模型h a s t i e 和t i b s h i r a n i ( 1 9 9 3 ) 提 出了变系数模型或称函数系数模型( v a r y i n g - c o e f f i c i e n tm o d e l s o rf u n c t i o n a l c o e f f i c i e n t m o d e l s ) , y = 风( x ) + 卢l ( x ) z l + + 岛( x ) 名+ e , 其中似( ) ,0si p 是一些未知函数;y 是回归变量;x 是q 维协变量, z = ( z j ,磊) t 是p 维协变量,e 是期望为0 的随机误差它们提出的变系数模 型是一个很一般的模型由于“维数祸根”问题,在q 1 时。这个模型在处理实 际问题时不太可行为此人们往往取q = 1 ,即常数项函数卢0 ( ) 、系数函数岛( ) ( j = 1 ,p ) 均为一元函数,且这些一元函数有相同的自变量。本论文与此不同 华东师范大学博士学位论文( 2 0 0 3 ) 2 给出了常数项函数和系数函数具有不同自变量的变系数模型: p y = 9 ( x ) + 3 j ( u ) 乃+ e , j = 1 其中y r 是响应变量,x r ,u r ,z = ( z - ,磊) t r p 是协变量;常 数项函数目( ) 和系数函数岛( ) ( j ;1 ,p ) 都是从兄到r 的未知可测函数假 设z ,u 独立于x 为了识别模型,不妨假设ei 岛( 【,) z jl = 0 。我们称这个 u 2 1 模型为函数系数部分线性模型( f u n c t i o n a l c o e f f i c i e n tp a r t i a ll i n e a rm o d e l s ) 函数系数部分线性模型是一个比较一般的模型。若对所有的j = 1 ,p , 岛( ) = 岛,岛是常数,它就是部分线性模型。当g ( ) = 0 时,它就是c a i ,f a n 和 y a o ( 2 0 0 0 ) 提出的变系数回归模型当对所有的j = 1 ,p ,岛( ) = 0 时。它变 成了非参数模型 在这个函数系数部分线性模型中,g ( ) 和 岛( ) ,l j p ) 有着不同的自变 量,这给它们的估计增加了难度我们首先对常数项函数9 ( ) 使用局部线性估计方 法。给出了它的估计;然后对系数函数岛( ) ( j = 1 ,p ) ,通过应用常数项函数 的估计,使用局部线性估计方法给出其估计我们称系数函数的这种估计方法为两 阶段估计方法在数据是独立同分布的情况下,与数据是n 一混合相依的情况下, 给出了常数项函数9 ( ) 的估计的弱一致性、一致强相合性和渐近正态性,以及系数 函数岛( ) ( j = 1 ,p ) 的估计的弱一致性与渐近正态性模拟研究显示,这些估 计方法是较为理想的 本论文的第三章讨论比例函数系数线性模型为克服维数祸根问题,本论文的 第三章给出了所有系数涵数是同一个函数,但具有不同的自变量的变系数模型; 略y = r e ( x ;, z 羔) + a ( x , z ) 剐e 磊, 其中y 是相应变量;x = ( x 1 ,弛) t 和z = ( z 1 ,扬) t 是两个解释变量,x 可 能依赖于z ,也可能不依赖于z ;e 独立于x 和z ,且醪( e ) = 0 ,v a r ( e ) = 1 ;口( ,) 是从_ r 2 4 到r 的一个可测函数;9 ( ) 是从r 到r 的一个可测函数;吼,a = 1 ,d 是参数为7 的已知函数,7 = ( ,y 一,竹) t 可能已知也可能未知为识别模型,不妨 假设c 1 ( ,y ) i1 我们称这个模型为比例函数系数线性模型( p r o p o r t i o n a lf u n c t i o n 止 华东师范大学博士学位论文俾0 0 3 j 3 比例函数系数线性模型可以看成是比例可加模型( p r o p o r t i o n a l a d d i t i v em o d e l ) 的一个推广,即当x = z 时,它就变成了比例可加模型: d y = 芝:( 了0 n ) 9 ( x 。) + d ( x ) n = l 进一步,如果d = 1 ,它就变成了非参数模型 对于比例函数系数线性模型,我们利用两步估计法估计系数函数及其导数在 参数已知的时候,第一步,用局部多项式估计方法,估计系数函数及其导数,并证 明了这些估计的弱相合性和渐近正态性,给出了这些估计的收敛速度第二步,在 第一步给出的估计的基础上,使用回切法( b a c k f i t t i n g ) 给出系数函数新的估计,并 且证明了这些新的估计的弱相合性和渐近正态性这些新的估计的收敛速度较第一 步中给出的估计有很大的改进在参数未知的时候,提出了参数的一种估计方法, 并且证明这个参数估计是弱相合的,其收敛速度为n - 1 ,2 模拟研究显示,这些估 计方法是较为理想的 本论文的第四章讨论部分线性模型的稳健m - 估计部分线性模型为 y = g ( z ) + 卢r x + e 其中响应变量y r ;协变量x = ( 蜀,x d ) ? 1 r 8 ;协变量z r ,9 ( ) 是一 元未知函数;卢是d 维未知参数向量;e 是期望为0 随机误差项我们知道建立在 最小二乘方法的估计不太稳健,为了克服这一缺点,人们提出了许多替代方法供选 择使用,m 一估计是其中之一我们讨论部分线性模型的稳健m - 估计问题用局 部线性方法给出未知函数9 ( ) 的稳健m 一估计,用两步估计方法给出参数卢的稳健 m 一估计在数据是独立同分布的情况下,与数据是a 一混合相依的情况下,我们证 明了未知函数的稳健m 一估计的弱一致性和渐近正态性;也证明了参数的稳健m - 估计的弱一致性模拟结果显示,这些估计方法是较为理想的 关键词:变系数模型,函数系数部分线性模型。比例函数系数线性模型,部分 线性模型,局部多项式方法,稳健估计,m 估计,a 混合相依,强一致收敛。弱 收敛,一致收敛,渐近正态性 华东师范大学博士学位论文( 2 0 0 3 ) a b s t r a c t 4 a tt h er e c e n td e c a d e st h et h e o r i e s ,m e t h o d sa n da p p l i c a t i o n so ft h ep a r t i a ll i n e a r m o d e l sa n dt h ef u n c t i o n a l c o e f f i c i e n tp a r t i a ll i n e a rm o d e l s ,w h i c hh a v eb e e nf o c u s e do n , h a v eb e e nd e v e l o p e dr a p i d l yd u et ot h e i ra b u n d a n tr e s e a r c hc o n t e n t sa n dw i d ea p p l i c a - t i o n si nt h ep a p e rt h ef u n c t i o n a l c o e f f i c i e n tp a r t i a ll i n e a rm o d e l sa n dt h ep r o p o r t i o n a l f u n c t i o n a l - c o e f f i c i e n tl i n e a rm o d e l sa r ed i s c u s s e d ,a n dt h ea s y m p t o t i c a lp r o p e r t i e so ft h e e s t i m a t e so ft h ep a r a m e t e r sa i r lt h eu n k n o w nf u n c t i o n si nt h e s em o d e l sa r ee s t a b l i s h e d a l s o ,t h er o b u s tm e s t i m a t ef o rt h ep a r t i a ll i n e a rm o d e l si se s t a b l i s h e d t h ef o l l o w i n gi s ab r i e fi n t r o d u c t i o no fe a c hc h a p t e r i nt h ef i r s tc h a p t e rw e g i v eab r i e fd e s c r i p t i o no ft h ee s t i m a t i n gm e t h o do fu n i v a r i a t e n o n - p a r a m e t r i cr e g r e s s i n gm o d e l s i ti n c l u d e st h r e et y p e s :t h el o c a lm o d e l l i n ga p p r o a c h , t h eo r t h o g o n a ls e r i e sa p p r o a c ha n dt h e s p l i n ea p p r o a c h i nt h e p a p e rt h el o c a lp o l y n o m i a l m e t h o dw h i c hi sc o n t a i n e dt h el o c a l m o d e l l i n ga p p r o a c hi se m p l o y e dt oe s t i m a t et h e u n k n o w nf u n c t i o n s a l s o ,w em a k ead i s c u s so nm u l t i v a r i a t er e g r e s s i n gm o d e l s s i n c e t h e r ee x i s t sas e r i o u sp r o b l e m ,w h i c hi sa b o u td i m e n s i o n w h e nt h ed i m e n s i o n i n c r e a s e s , t h es p e e do fc o n v e r g e n c es l o w sa n dt i me s t i m a t o ri sn o ts t e a d y i ns t a t i s t i c st h i si sc a l l e d c u r s eo fd i m e n s i o n a l i t y i no r d e rt os o l v et h i sp r o b l e m ,a l lk i n d so fm o d e l sa r ep r o p o s e d t or e d u c et h ed i m e n s i o n w ep r o p o s et w of u n c t i o n a l - c o e f f i c i e n tm o d e l s :t h ef u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e l sa n dt h ep r o p o r t i o n a lf u n c t i o n a l - c o e f f i c i e n tl i n e a rm o d e l s w em a k ear e t r o s p e c t i o no ft h er o b u s tm e s t i m a t ea n dc o n t i n u et od i s c u s st h er o b u s t m e s t i m a t eu s e di nl o c a ll i n e a rm o d e l t h eh y p o t h e s i so ft h ei n d e p e n d e n c eo f s a m p l ei s c o n v e n i e n tt om a k er e s e a r c h ,b u ti ns o m ec a s e si ti sn o tr e a s o n a b l e w h i l ed e a l i n gw i t h e c o n o m i c a ld a t a ,t h es a m p l eo b s e r v e di sd e p e n d e n to ne a c ho t h e r w es u m u p t h et y p e so f t h ee x t a n tm i x i n g d e p e n d e n t o m i x i n gd e p e n d e n ti sw e a k e rt h a no t h e rm i x i n gd e p e n d e n t m a n ys t o c h a s t i cp r o c e s s e sw h i c hi n c l u d em a n yt i m es e r i e sc a ns a t i s f yt h ec o n d i t i o n so f o t - m i x i n gd e p e n d e n t i nt h ep a p e rw em a k eas t u d yo ft h ed a t aw h i c hi si n d e p e n d e n ta n d a l s ot h ed a t aw l f i c hi so - m i x i n gd e p e n d e n t i nt h es e c o n dc h a p t e r ,t h ef u n c t i o n a l c o e f f i c i e n t p a r t i a ll i n e a rm o d e li sd i s c u s s e d 华东师范大学博士学位论文( 2 0 0 3 ) h a s t i ea n dt i b s h i r a n i ( 1 9 9 3 ) p r o p o s e dt h ef u n c t i o n a l - c o e f f i c i e n tm o d e l y = 风( x ) + 口1 ( x ) z 1 + + 伟( x ) 磊+ e 5 w h e r e 展( ) ( i = 0 ,p ) a r es o l n eu n k n o w nf l m c t i o n s ;yi sr e s p o n s ev a r i a b l e ;x r q a n dz r pa r ec o v a r i a b l e s ;ei sar a n d o me r r o rw i t he ( e ) = 0 t h em o d e li sag e n e r a lm o d e l b u ti th a sn op r a c t i c a b l em e a n i n gw h e nq 1 t 0 s o l v et h i sp r o b l e m ,s t a t i s t i c i a ng a v eo u t - m a n yp r a c t i c a b l em o d e l s w h e nt a k eq = 1 ,e t c xi so n ed i m e n s i o n a lv a r i a b l e ,a n dl e tt h ec o n s t a n tp a r t f u n c t i o n 廓( ) a n dc o e f f i c i e n t f u n c t i o n s 岛( - ) ( ,= l ,p ) h a v et h es a m ea r g u m e n t s ,t h em o d e lw i l lb et h eo n et h a tw e o f t e nu s e i no r d e rt os o l v et h i sp r o b l e m ,w ep r o p o s et h ef o l l o w i n gm o d e l si nw h i c ht h e c o n s t a n tp a r tf u n c t i o na n dc o e f f i c i e n tf u n c t i o n sh a v ed i f f e r e n ta r g u m e n t s : y = 口( x ) + 岛( u ) 乙+ e , 、 j = 1 w h e r e y r i s r e s p o n s ev a r i a b l e ,x r ,u r ,z = ( z 1 ,- 一,磊) t r pa r ec o v a r i e b l e s 9 ( ) a n d 岛( ) 0 = 1 ,- ,p ) a x es o m eu n k n o w nm e a s u r a b l ef u n c t i o nf r o mrt or w e ”“m e t n a t za n d u a r e i n d e p e n d e n t o r x ,a n d e ( 砉岛c u ,z j ) = 。m o r a e r t 。t a e n “每 t h em o d e l s t h em o d e l sa r ec a l l e dt h ef u n c t i o n a l - c 品f f i c i e n tp a r t i a ll i n e a rm o d e l s t h ef u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e li sa g e n e r a lm o d e l w h e nf o ra l lj = 1 ,p ,岛( 。) = 岛,w h e r e 岛i sac o n s t a n t ,i tb e c o m e st h ep a r t i a ll i n e a rm o d e l w h e n 9 ( ) = 0 ,i tb e c o m e sf u n c t i o n a l c o e f f i c i e n tr e g r e s s i o nm o d e lp r o p o s e db yc a i f a na n d y a o ( 2 0 0 0 ) w h e n 岛( ) = 0 ,f o ra l lj = 1 ,p ,i tb e c o m e sn o n p a r a m e t r i cm o d e l i nt h ef u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e l 9 ( ) a n d 岛( ) h a v ed i f f e r e n ta r - g u m e n t ,w h i c hm a k e su st oe s t i m a t e9 ( - ) a n d 岛( ) ) e v e nh a r d e r i nt h i sc h a p t e r ,w e m a k ed e e p e rs t u d i e so ft h ef u n c t i o n a l - c o e f f i c i e n t p a r t i a ll i n e a rm o d e l s w eg i v eo u tt h e e s t i m a t o ro ft h ec o n s t a n tp a r tf u n c t i o n 9 ( ,) b yl o c a ll i n e a rm e t h o d u s i n gt h ee s t i m a t o ro f t h ec o n s t a n tp a r tf u n c t i o n9 ( ) ,w ee m p l o yt h el o c a ll i n e a rm e t h o dt oe s t i m a t ec o e f f i c i e n t f u n c t i o n 岛( ) 0 = l ,p ) t h em e t h o d i sc a l l e dt w o - s t a g e e s t i m a t i n gm e t h o d t h e w e a k c o n s i s t e n c e ,t h eu n i f o r ms t r o n gc o n s i s t e n c ea n dt h ea s y m p t o t i cn o r m a l i t yo ft h ee s t i m a t o r o ft h ec o n s t a n tp a r tf u n c t i o na r ed i s c u s s e du n d e rt h ec a s e so b s e r v a t i o n sa r ei i d a n d m i x i n gd e p e n d e n tr e s p e c t i v e l y , a n dt h ew e a kc o n s i s t e n c e sa n dt h ea s y m p t o t i cn o r m a l i t i e s 华东师范大学博士学位论文( 2 0 0 3 j o ft h ee s t i m a t o r so ft h ec o e f f i c i e n tf u n c t i o n sa r ed i s c u s s e dt o o t h r o u g hs i m u l a t i o n sw e c a ns h o wt h a tt h ee s t i m a t em e t h o d sw o r kw e l l i nt h et h i r dc h a p t e r ,t h ep r o p o r t i o n a lf u n c t i o n a l c o e f f i c i e n tm o d e li sd i s c u s s e d i n o r d e rt os o l v et h ec u r s eo fd i m e n s i o n a l i t yp r o b l e m ,w ep r o p o s et h ef o l l o w i n gm o d e l si n w h i c ht h ec o e f f i c i e n tf u n c t i o n sa r et h es a m ef u n c t i o na n dh a v ed i f f e r e n ta r g u m e n t s : , ly = m ( x ,z ) - - a ( x ,z ) e lr n ( x ,z ) = 瓯( 7 ) 9 ( x n ) 乙, l 口= 1 w h e r eyi sr e s p o n s ev a r i a b l e ;x = ( x 1 ,x d ) ra n dz = ( z 1 ,z d ) ? a r ec o v a r i a b l e s xa n dzc a nd e p e n d e n to ne a c ho t h e ro rn o t ;ei si n d e p e n d e n to fxa n dz m o r e o v e r e ( e ) = 0 a n dv a r ( e ) = l ;口( ,) i sam e a s u r a b l ef u n c t i o nf r o mr 2 4t or ;9 ( ) am e a s u r a b l e f u n c t i o nf r o mrt or ;( 一r ) ,a = 1 ,da r ek n o w nf u n c t i o n su pt o r ;7 = ( y l ,竹) t m a yb ek n o w no rn o t f o rc o n v e n i e n tt oi d e n t i f y , w ea s s u m ec 1 ( 7 ) ;1 t h em o d e l sa r e c a l l e dt h ep r o p o r t i o n a lf u n c t i o n a l - c o e f f i c i e n tl i n e a rm o d e l s t h ep r o p o r t i o n a lf u n c t i o n a l - c o e f f i c i e n tl i n e a rm o d e li sa s p e c i a l c a s eo ft h ef u n c t i o n a l c o e f f i c e n tm o d e l p r o p o s e db yh a s t i ea n dt i b s h i r a n i ( 1 9 9 3 ) i fx = z ,i tb e c o m e sp r o p o r t i o n a la d d i t i v em o d e l d y = g ( 7 ) 9 ( ) - - 口( x ) e a = l f u r t h e r m o r e ,i fd 1 ,i tb e c o m e sn o n p a r a m e t r i cm o d e l i nt h i sc h a p t e r ,w eu s et h et w o - s t e pe s t i m a t i o nm e t h o dt oe s t i m a t et h eu n k n o w n f u n c t i o na n di t sd e r i v a t i o n so ft h ep r o p o r t i o n a lf u n c t i o n a l c o e f f i c i e n tl i n e a rm o d e l s w h e n t h ep a r a m e t e ri sk n o w n ,f i r s t l yt h ee s t i m a t o ro ft h et l i l k n o w nf u n c t i o na n dt h ee s t i m a t o r s o ft h ed e r i v a t i o n so ft h eu n k n o w nf u n c t i o na r eg i v e no u tb yl o c a lp o l y n o m i a lm e t h o d s t h ec o n s i s t e n c ea n dt h ea s y m p t o t i cn o r m a l i t yo ft h e s ee s t i m a t o r sa r es t u d i e d s e c o n d l y t h ei m p r o v e de s t i m a t eo fu n k n o w nf u n c t i o n9 ( ) i sp r o p o s e db yt h eb a c k - f i t t i n gm e t h o d s b a s i n go nt h ee s t i m a t o ro ft h eu n k n o w nf u n c t i o n9 ( - ) ,w h i c hi so b t a i n e di nt h ef i r s ts t e p t h ec o n s i s t e n c ea n dt h ea s y m p t o t i c n o r m a l i t yo f t h ei m p r o v e de s t i m a t o ri sd i s c u s s e d t h e c o n v e r g e n c es p e e do ft h ei m p r o v e de s t i m a t o ri sb e t t e rt h a nt h ef o r m e ro n e w h e nt h e p a r a m e t e ri sn n k n o w n ,t h em e t h o do fe s t i m a t i n gu n k n o w np a r a m e t e ri sg i v e no u t w e s h o wt h a tt h ee s t i m a t o ro fu n k n o w u p a r a m e t e ri s 何一c o n s i s t e n t t h r o u g hs i m u l a t i o n s , 生壅竖堇盔堂量主堂垡丝塞趔 w ec a r ls h o wt h a tt h ee s t i m a t em e t h o d sw o r kw e l l 7 i nt h ef o r t h c h a p t e rt h er o b u s tm e s t i m a t o r so ft h ep a r t i a ll i n e a rm o d e l a r ed i s c u s s e d t h e p a r t i a ll i n e a rm o d e l i s y = g ( z ) + x + e , w h e r et h er e s p o n s ev a r i a b l ey r ;c o v a r i a b l ex = ( x 1 ,一,x d ) r r 8a n dz r ;g ( _ ) i sau n i v a r i a t eu n k n o w nf u n c t i o n ;口i sd - d i m e n s i o n a lu n k n o w n v e c t o r ;ei sar a n d o me r r o r w i t hb ( e ) = 0 s i n c et h ee s t i m a t o ro b t a i n e db yt h el e a s ts q u a r em e t h o d si s u n s t a b l e ,t o s o l v et h i sp r o b l e m ,w e e m p l o y e t h el o c a ll i n e a rm e t h o dt og i v eo u tt h er o b u s tm e s t i m a t o r o fu n k n o w nf u n c t i o n9 ( ) a n dw ea l s ou s et h e t w o - s t e pm e t h o dt og i v et h er o b u s tm e s t i m a t o ro fu n k n o w n p a r a m e t e r 卢t h e nt h ec o n s i s t e n c ea n dt h ea s y m p t o t i c a ln o r m a l i t y o ft h ee s t i m a t o ro ft h er o b u s tm e s t i m a t o ro fu n k n o w nf u n c t i o n9 ( ) i sg i v e nu n d e rt h e c a s e so b s e r v a t i o n sa r ei i d a n da - m i x i n g d e p e n d e n tr e s p e c t i v e l y a n dw ea l s od i s c u s st h e c o n s i s t e n c eo ft h er o b u s tm - e s t i m a t o ro fu n k n o w n p a r a m e t e r 卢t h r o u g hs i m u l a t i o n s ,w e c a ns h o wt h a tt h ee s t i m a t em e t h o d sw o r kw e l l k e y w o r d s :f u n c t i o n a l - c o e f f i c i e n tm o d d s ,f u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e l s ,p r o p o r t i o n a lf u n c t i o n a l - c o e f f i c i e n tl i n e a rm o d e l s ,p a r t i a ll i n e a rm o d e l s ,l o c a lp o l y n o m i a lm e t h o d s ,r o b u s te s t i m a t e ,m - e s t i m a t e ,a - m i x i n gd e p e n d e n t ,s t r o n gc o n s i s t e n c e c o n v e r g e n c e ,w e a kc o n v e r g e n c e ,c o n s i s t e n c ec o n v e r g e n c e ,a p p r o x i m a t en o r m a l i t y 第一章引言 来自实践的一组数据,为了分析它们首先要对它们的物理意义和属性进行研 究,然后在此基础上,建立用于分析数据的统计模型。然而,统计模型只是对总体的 一个近似,一个好的模型能够比较好地解释数据,预测未来如何建立一个更加接 近现实的模型是统计工作者不断追求的目标。回归模型一直受到人们的重视。从参 数回归模型、半参数回归模型到非参数回归模型等等一般来说模型之中包含未知 参数或未知函数,那么首先就要寻找合理的估计方法去估计未知参数和未知函数。 本章的第一节综述了一元非参数回归模型及其估计方法,第二节介绍了一些多元非 参数回归模型,第三节回顾了稳健m 估计的最近发展情况,第四节讨论了相依数 据的一些类型,第五节阐述了本论文的研究内容 1 1一元非参数回归模型及其估计方法 假定随机变量x 和y 都是一维的, ( 如,玑) ,i = 1 ,n ) 是它们的样本目的 是研究随机变量x 和y 的关系,它们之间的相互影响以及它们的概率分布。由于 计算能力的限制,最初统计学家使用的是线性回归模型 y = 岛+ 卢1 x + e 其中e 期望值为0 但是在很多情况下随机变量x 和y 之间不具有线性关系。如 果用如上的模型解释随机变量x 和y 的关系,将带来很大的模型误差,不能很好 地认识客观世界为了克服这一缺点,人们提出了增加参数的方法,用多项武拟合 它们之间的关系,即考虑如下模型 y = 岛+ 卢l x + 岛x 2 + + 岛x p + e 但是这一模型有几个缺点: 1 ) 多项式具有任意阶导数,如果要拟合的曲线不具有 这一性质,显然这一模型是不合理的;2 ) 对异常点的敏感性,一个异常点会对多 项式的形式有很大的影响,导致模型的不稳定性;3 ) 多项式阶数p 的取值问题, 大的p 带来的是参数的增加和模型的不稳定性,小的p 带来的是模型误差的增加 随着计算机的不断发展,计算能力的增强人们提出了关于随机变量x 和y 的关系最自然的假设给出了如下模型 y = m ( x ) + e , 8 华东师范大学博士学位论文( 2 0 0 3 ) 9 其中m ( ) 是一未知函数,假定它具有一定的光滑性;e ( e ) = 0 。这一模型称为一元 非参数回归模型为了估计m ( - ) ,人们提出了很多估计方法这些方法大致可以分 三类。第一类称局部光滑方法( 1 0 c a lm o d e l l i n ga p p r o a c h ) ,它主要包含n a d a r a y a w a t s o n 核估计方法,g a s s e r ,m u l l e r 估计方法,局部多项式估计方法;第二类称正 交级数方法( o r t h o g o n a l s e r i e sa p p r o a c h ) ,它主要包含f o u r i e r 方法,小波方法;第 三类称样条方法( s p l i n ea p p r o a c h ) ,它主要包含多项式样条方法,光滑样条方法 下面介绍一下这些估计方法 1 1 1 样条方法 用多项式回归有一个大的缺点,多项式处处可导,而在大多数情况下真实曲线 m ( ) 不能满足这样高的光滑条件为了克服多项式拟合的这一缺点,有两个途径, 一是在某一点的附近用低阶多项式拟合,这就是后面要谈到的局部光滑方法;另一 途径是允许拟合函数在一些点处有不连续的低阶导数,用分片多项式( 样条) 可以 满足这一条件,称这一方法为样条方法低阶导数不连续的点称为结点( k n o t ) 有 关这方面的文献有e u b a n k ( 1 9 8 8 ) ,w a h b a ( 1 9 9 0 ) ,g r e e n 和s i l v e r m a n ( 1 9 9 4 ) 。 用样条光滑一个函数的关键点是结点的选取。结点的选取有两种方法,一是固定结 点方法,多项式样条讨论这一方法;另一方法是自动选取结点,光滑样条给出了解 决这一问题的一个途径 1 ) 多项式样条方法( p o l y n o m i a ls p l i n em e t h o d ) 设t l ,t j 是固定结点,它们将实直线分成如下区间( - o o ,t 1 , t 1 ) t 2 , t j - 1 t j , b ,+ o 。) 立方样条函数s ( 。) 在每一个区间是一个三次多项式( 这里仅以

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论