（概率论与数理统计专业论文）利用光滑样条构造的函数数据的性质.pdf

摘要 摘要 利用光滑样条的方法对函数型数据进行处理最早由r i c ea n ds i l v e r m a n ( 1 9 9 1 ) 年 提出。但是当时并没有对这种光滑方法的替代效果进行量化分析。随着现代计算 机技术的发展，函数型数据分析被越来越多地应用于科学领域。在实际应用中， 函数型数据一般都是离散地观测到的，在进行统计推断之前，需要先对数据进行 光滑化，然后利用光滑后的函数数据来代替原始的数据进行分析。由于对光滑样 条方法的替代效果知之甚少，所以关于它的研究工作就显得越来越重要。 本文首先简单介绍了一下函数数据分析和光滑样条的方法；然后给出如何利 用光滑样条方法对函数数据进行光滑化，并且得出光滑后的函数数据和原始数据 的平均条件误差平方和以及渐近的偏差，从而得知在一定的条件下，利用光滑样 条得到的函数数据来代替原始的观测数据，其影响是可以忽略的；最后，基于这 种光滑化方法得到了关于均值函数和协方差函数的估计，均值函数的渐近条件偏 差和协方差，以及均值函数和协方差函数的渐近性质，即在一定条件下，均值函 数和协方差函数服从渐近高斯过程。 关键词：函数数据分析，光滑样条，n a d a r a y a w a t s o n 核估计，渐近高斯过程。 a b s t r a c t a b s t r a c t t r e a t m e n to ff u n c t i o n a ld a t au s i n gs m o o t h i n gs p l i n em e t h o dw a sf i r s tm e n t i o n e d b yr i c ea n ds i l v e r m a n ( 1 9 9 1 ) b u tt h e yd i d n tg i v et h es u b s t i t u t i o ne f f e c t w i t hm o d e mt e c h n o l o g yd e v e l o p m e n t ，f u n c t i o n a ld a t aa l eb e i n go b s e r v e df r e q u e n t l yi nm a n y s c i e n t i f i cf i e l d s b u tn o ta l ld a t as u b j e c tt oaf u n c t i o n a ld a t aa n a l y s i sa l et h e m s e l v e s f u n c t i o n a l s o m ed a t aa l eo b s e r v e do ns o m ed i s c r e t ep o i n t s b e f o r ed o i n gs t a t i s t i c a l i n f e r e n c ea b o u tt h e s ef u n c t i o n a ld a t a ，w eu s u a l l ys m o o t ht h e mf i r s t ，i e ，w ec o n d u c t s t a - t i s t i c a li n f e r e n c eb yt h es u b s t i t u t i o no ft h ei n d i v i d u a lf u n c t i o nb yt h e i rc o n s t r u c t i o nb y o n es m o o t h i n gt e c h n i q u eo ra n o t h e r i nt h i sp a p e r , f i r s tig i v eas i m p l ei n t r o d u c t i o nt ot h ef u n c t i o n a ld a t aa n dt h e s m o o t h i n gs p l i n em e t h o d t h e n it a l ka b o u th o wt ou s et h es m o o t h i n gs p l i n e ( s s ) m e t h o dt og e tt h es m o o t h e dd a t a ，a n dd e r i v et h em s e o ft h es u b s t i t u t i o nd a t a ，t h r o u g h w h i c hw ec o n c l u d et h a tt h es u b s t i t u t i o ne f f e c tc a nb ei g n o r e da s y m p t o t i c a l l yu n d e r s o m em i l dc o n d i t i o n s b a s e do nt h i s ，ic o n s t r u c ts m o o t h i n gs p i n er e c o n s t r u c t i o n b a s e de s t i m a t i o no ft h em e a n ，c o v a l i a n c ea n dn o i s ev a r i a n c ef u n c t i o n so faf u n c t i o n a l d a t as e ta n dd e r i v et h e i ra s y m p t o t i c s k e y w o r d s ：f u n c t i o n a ld a t a ，s m o o t h i n gs p l i n e ，n a d a l a y a - w a t s o nk e r n e le s t i m a t o r , a s y m p t o t i cg a u s s i a np r o c e s s 南开大学学位论文版权使用授权书 本人完全了解南开大学关于收集、保存、使用学位论文的规定， 同意如下各项内容：按照学校要求提交学位论文的印刷本和电子版 本；学校有权保存学位论文的印刷本和电子版，并采用影印、缩印、 扫描、数字化或其它手段保存论文；学校有权提供目录检索以及提供 本学位论文全文或者部分的阅览服务；学校有权按有关规定向国家有 关部门或者机构送交论文的复印件和电子版；在不以赢利为目的的前 提下，学校可以适当复制论文的部分或全部内容用于学术活动。 学位论文作者签名：薛晓漱 o7 年j 月落日 经指导教师同意，本学位论文属于保密，在年解密后适用 本授权书。 指导教师签名：学位论文作者签名： 解密时间：年月日 各密级的最长保密年限及书写格式规定如下： 南开大学学位论文原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师指导下，进行 研究工作所取得的成果。除文中已经注明引用的内容外，本学位论文 的研究成果不包含任何他人创作的、已公开发表或者没有公开发表的 作品的内容。对本论文所涉及的研究工作做出贡献的其他个人和集 体，均已在文中以明确方式标明。本学位论文原创性声明的法律责任 由本人承担。 学位论文作者签名：菌晓琳 v o 7 年j - 月坫日 c h a p t e r1 i n t r o d u c t i o n c h a p t e r 1i n t r o d u c t i o n 1 1w h a ta r ef u n c t i o n a ld a t a f i g u r e1 1p r o v i d e sap r o t o t y p ef o rt h ef u n c t i o n a ld a t a i ti sa b o u tas a m p l eo f t w e n t yt r a c e so ft h ew r i t i n go f f d a t h e yw e r er e c o r d e db ya no p t o t r a ks y s t e mt h a t g i v e st h ep o s i t i o no fa ni n f r a r e de m i t t i n gd i o d ei nt h r e e - d i m e n s i o n a ls p a c e6 0 0t i m e s p e rs e c o n dw i t ha ne r r o rl e v e lo fa b o u t0 5m i l l i m e t e r s e a c hc u r v ei sas a m p l eo f f u n c t i o n a ld a t a t h e s ec u r v e sc a nb es e e ni nt w o w a y s ：f i r s t ，a ss t a t i ct r a c e so nt h ep a g e t l l a ty o us e ea f t e rt h ew r i t i n gi sf i n i s h e d , a n ds e c o n d ，a st w os e t sf u n c t i o n so ft i m e ，o n e f o r t h eh o r i z o n t a l x ”c o o r d i n a t e a n dt h eo t h e rf o rt h ev e r t i c a l y ”c o o r d i n a t e f u n c t i o n a ld a t aa n a l y s i s ，w h i c hl o t so fu sl i k et oc a l l ”f d a ，i sa b o u tt h ea n a l y s i s o fi n f o r m a t i o no nc u r v e so rf u n c t i o n s f d ai sac o l l e c t i o no fs t a t i s t i c a lt e c h n i q u e sf o r a n s w e r i n gq u e s t i o n sl i k e ，w h a ta r et h em a i nw a y si nw h i c h t h ec u r v e sv a r yf r o mo n e w r i t i n gt oa n o t h e r ? w h a ti su n i q u ea b o u tf u n c t i o n a ld a t ai st h ep o s s i b i l i t yo fa l s ou s i n g i n f o r m a t i o no nt h er a t e so fc h a n g eo rd e r i v a t i v e so ft h ec u r v e s f i g u r e1 2i sa b o u tt h e a c c e l e r a t i o no ft h et w e n t yt r a c e s t h ed a t ae x a m p l e sa b o v es e e mt od e s e r v et h el a b e l f u n c t i o n a l s i n c et h e ys o c l e a r l yr e f l e c tt h es m o o t hc u r v e sm a tw ea s s u m e b u tn o ta l ld a t as u b j e c t t oaf u n c t i o n a l d a t aa n a l y s i sa r et h e m s e l v e sf u n c t i o n a l h e r ew es e et h ec h a n g ei nt e m p e r a t u r eo v e rt h e c o u r s eo fa y e a r , t a k e nf r o mt h i r t y f i v ew e a t h e rs t a t i o n sa c r o s sc a n a d a e a c hd a t ap o i n t ， m a r k e dw i t ha n x r e p r e s e n t st h em e a nt e m p e r a t u r er e c o r d e db yaw e a t h e rs t a t i o nf o r t h ee n t i r em o n t h ，c o l l e c t e do v e r3 0y e a r s t h ec o l o r sc o r r e s p o n dt ot h eg e o g r a p h i c c l i m a t e so ft h es t a t i o n s i nt h i ss i t u a t i o n ，y o uh a v et os m o o t h t h e mf i r s t ，a n dt h e nd ot h ea n a l y s i sf o l l o w - i n g t h ef u n c t i o n a ld a t aa r ea l w a y sm o d e l e da st h ef o l l o w i n gi n d e p e n d e n tr e a l i z a t i o n s o fa l lu n d e r l y i n gs t o c h a s t i cp r o c e s s ， y i ( t ) = ，7 ( f ) + v i ( t ) + 岛( 力i = 1 ，2 ，n ，( 1 1 ) c h a p t e r1i n t r o d u c t i o n f i g u r e1 1t w e n t yt r a c e so fh a n d w r i t i n go f ”f d a ” f i g u r e1 2 t h ea c c e l e r a t i o no ft h et w e n t y 仃a c e s 2 笙鬣鬣落篷露_霉爱纛 c h a p t e r1 i n t r o d u c t i o n r a w t e m p e r a t u r ed a m f i g u r e1 3 r a wd a t af o rm e a nm o n t h l yt e m p e r a t u r e sa tt h i r t y - f i v ec a n a d i a nw e a t h e rs t a t i o n s d a t a f o ra t l a n t i cs t a t i o n sa r ep l o t t e di nr e d ，c o n t i n e n t a li nb l u e ，p a c i f i ci ng r e e n ，a n da r c t i ci nb l a c k 3 c h a p t e r1 i n t r o d u c t i o n w h e r ey i ( t ) i st h e t hr e s p o n s ep r o c e s s ，r ( t ) a r et h em e a nf u n c t i o no ft h es t o c h a s t i cp r o c e s s ，v i ( t ) i st h ei t hi n d i v i d u a lv a r i a t i o n s ( s u b j e c t - e f f e c t ) f r o mr ( t ) a n de i ( t ) i st h ei t h m e a s u r e m e n te r r o rp r o c e s s w i t h o u tl o s so fg e n e r a l i t y , t h r o u g h o u tt h i sp a p e r , w ea s s u m et h es u p p o r to ft h es t o c h a s t i cp r o c e s si s 【0 ，1 】m o r e o v e r , w ea s s u m e 仇( da n d e i ( t ) a r ei n d e p e n d e n t ，a n da r ei n d e p e n d e n t l yf r o mv ( t ) sp ( o ，们a n ds ( 力sp ( o ，) r e s p e c t i v e l y , w h e r e ( s ，f ) = o - 2 ( t ) ll 删1 l e t 五( f ) = e y i ( t ) l v i ( t ) ) = r l ( t ) + v i ( t ) t h e n a ( t ) a r ei i d c o p i e so ft h eu n d e r l y i n gs t o c h a s t i cp r o c e s s ，f ( t ) = r l ( t ) + u ( t ) sp ( r l ，们 e s t i m a t i o no ft h ep o p u l a t i o nc h a r a c t e r i s t i c sr ( t ) ，7 ( s ，力a n dc r z ( 力a r eo fs p e c i a li n t e r e s t i nt h ef d al i t e r a t u r e i np r a c t i c e ，f u n c t i o n a ld a t aa r eo b s e r v e dd i s c r e t e l y l e tt ( i ，j = 1 ，2 ，l fb et h e d e s i g np o i n t so ft h ei t hs u b j e c t , a n dl e ty i j = y i ( t i j ) a n d8 玎= e i ( t i j ) t h e nb y ( 1 1 ) w e h a v e y o = 1 1 ( t i j ) + v i ( t u ) 十q ， j = 1 ，2 ，l f ；f = 1 ，2 ，i w eh a v et w om e t h o d st od e a lw i t ht h i ss i t u a t i o n o n ei se s t i m a t i o nf i r s ta n dt h e n s m o o t h i n g ，t h eo t h e ri ss m o o t h i n gf i r s ta n dt h e ne s t i m a t i o n t h el a t t e ri sm o r ep o p u l a ra n di su s e di nt h i sp a p e r t h e r ea r em a n ys m o o t h i n gm e t h o d s f o re x a m p l e ，l o c a l p o l y n o m i a lk e r n e lm e t h o d s ，k e r n e ls m o o t h i n g ，r e g r e s s i o ns p l i n e sa n do r t h o g o n a ls e r i e s ，a m o n go t h e r s i nt h i sp a p e r , w eu s et h es sm e t h o dt or e c o n s t r u c tt h ed a t aa n d s t u d yt h ee f f e c to nt h ef u n c t i o n a ld a t a f o rm o r ed e t a i l s ，y o uc a l lr e f e rt or a m s a ya n d s i l v e r m a n ( 2 0 0 5 ) i nz h a n ga n dc h e n ( 2 0 0 7 ) ，t h es u b s t i t u t i o ne f f e c tu s i n gl o c a lp o l y n o m i a lk e r n e l ( l p k ) s m o o t h i n gt e c h n i q u eo nt h ef u n c t i o n a ld a t aw a si n v e s t i g a t e d i nt h i sp a p e r , w eu s et h es m o o t h i n gs p l i n e ( s s ) m e t h o da n dd e r i v e dt h er e s u l t ss i m i l a rt ot h ep a p e r m e n t i o n e da b o v e t h en e x ts e c t i o nw ew i l lt a l ka b o u ts m o o t h i n gs p l i n em e t h o d f i r s t ， l e t sl o o ka tw h a ti sas p l i n ef u n c t i o n 1 2w h a ti sas p l i n ef u n c t i o n l e t ss e ew h a tt h ee s s e n t i a lc h a r a c t e r i s t i c so fs p l i n e sa r eb e f o r ec o n s i d e r i n gh o w t oc o n s t r u c tas m o o t h i n gs p l i n ef u n c t i o n s p l i n ef u n c t i o n sa r ef o r m e db yj o i n i n gp o l y n o m i a l st o g e t h e ra tf i x e dp o i n t sc a l l e d k n o t s t h a ti s ，d i v i d et h ei n t e r v a le x t e n d i n gf r o ml o w e rl i m i tt lt ou p p e rl i m i tt vo v e r 4 c h a p t e r1 i n t r o d u c t i o n w h i c h y o u w i s ht oa p p r o x i m a t eac u r v ei n t ol + 1s u b - i n t e r v a l ss e p a r a t e db yli n t e r i o r b o u n d a r i e s 毒c a l l e dk n o t s ，o rs o m e t i m e sb r e a k p o i n t s c o n s i d e rt h es i m p l e s tc a s ei nw h i c has i n g l eb r e a k p o i n td i v i d e si n t e r v a l t l ；t v 】 i n t ot w os u b i n t e r v a l s t h es p l i n ef u n c t i o ni s ，w i t h i ne a c hi n t e r v a l ，ap o l y n o m i a lo f s p e c i f i e dd e g r e e ( t h eh i g h e s tp o w e rd e f i n i n gt h ep o l y n o m i a l ) o ro r d e r ( t h en u m b e ro f c o e f f i c i e n t sd e f i n i n gt h ep o l y n o m i a l ，w h i c hi so n em o r et h a ni t sd e g r e e ) l e t su s emt o d e s i g n a t e t h eo r d e ro ft h ep o l y n o m i a l ，s ot h a tt h ed e g r e ei sm 一1 a tt h ei n t e r i o rb r e a k p o i n t 手l ，t h et w op o l y n o m i a l sa r er e q u i r e dt oj o i ns m o o t h l y i nt h em o s tc o m m o nc a s e ，t h i sm e a n st h a tt h ed e r i v a t i v e sm a t c hu pt ot h eo r d e ro n el e s s t h a nt h ed e g r e e i nf a c t ，i ft 1 1 e ym a t c h e du pt ot h ed e r i v a t i v ew h o s eo r d e re q u a l e dt h e d e g r e e ，n l e yw o u l db et h es a m ep o l y n o m i a l t h u s ，as p l i n ef u n c t i o nd e f i n e dh e r eh a s o n ee x t r ad e g r e eo ff r e e d o mt h a nap o l y n o m i a le x t e n d i n go v e rt h ee n t i r ei n t e r v a l f o re x a m p l e ，l e te a c hp o l y n o m i a lb eas t r a i g h tl i n es e g m e n t ，a n dt h e r e f o r eo fd e g r e eo n e i nt h i s ，t h e yj o i na tt h eb r e a k p o i n tw i t hm a t c h i n gd e r i v a t i v e su pt od e g r e eo ； i ns h o r t ，l e ys i m p l yj o i na n dh a v i n gi d e n t i c a lv a l u e sa tt h eb r e a kp o i n t s i n c et h ef i r s t p o l y n o m i a lh a st w od e g r e eo ff r e e d o m ( s l o p ea n di n t e r c e p t ) ，a n dt h es e c o n d ，h a v i n gi t s v a l u ea l r e a d yd e f i n e da tt h eb r e a kp o i n t ，i sl e f tw i t ho n l yo n ed e g r e eo ff r e e d o m ( s l o p e ) ， t h et o t a lp o l y g o n a ll i n eh a st h r e ed e g r e e so ff r e e d o m c o r r e s p o n d i n g l y , i fb o t hp o l y n o m i a l sa r eq u a d r a t i c s ，t h e nt h em a t c hb o t hi nt e r m s o fv a l u e sa n di nt e r m so fs l o p eo ff i r s td e r i v a t i v ea t 矗t h ef i r s tp o l y n o m i a lh a st h r e e d e g r e e so ff r e e d o m ，b u tt h es e c o n dl o s e st w ob e c a u s ei ft h ec o n s t r a i n to ni t sv a l u ea n d s l o p ea t 毒，a n dt h u sr e t a i n so n l yo n e t h i sl e a v e sat o t a lo ff o u rd e g r e e so ff r e e d o mf o r t h es p l i n ef u n c t i o nf o r m e di nt h i sw a y , a so p p o s e dt ot h r e ef o raq u a d r a t i cp o l y n o m i a l o v e rt h ee n t i r ei n t e r v a l 【t l ；t v f i g u r e1 4s h o w st h e s el i n e a ra n dq u a d r a t i cc a s e sw i t h as i n g l eb r e a k p o i n t n o ww eg e n e r a l i z et h es i t u a t i o nt oli n t e r i o rb r e a k p o i n t s ，a n das p l i n ef u n c t i o n b e i n go fo r d e rm o rd e g r e em 一1o v e re a c hs u b i n t e r v a l t h ef i r s tp o l y n o m i a ls e g m e n t h a saf u l lc o m p l e m e n to fm d e g r e e so ff r e e d o m ，b u te a c hs u b s e q u e n ts e g m e n th a so n l y o n ed e g r e eo ff r e e d o mb e c a u s eo ft h em 1c o n s t r a i n t so ni t sb e h a v i o r t h i sg i v e sa t o t a lo fl + m d e g r e e so ff r e e d o m ，o rn u m b e ro fi n t e r i o rb r e a k p o i n t sp l u st h eo r d e ro f t h ep o l y n o m i a ls e g m e n t s 5 o r d e r2s p l i n e o r d e r3s p ! i n e f i g u r e1 4s p l i n ef u n c t i o n so fl i n e a ra n dq u a d r a t i cc a s e sw i t ho n eb r e a k p o i n t t h u s ，s p l i n ef u n c t i o n sa r ee s s e n t i a l l yg e n e r a l i z a t i o n so ft h en o t i o no fp o l y g o n a l l i n e s t h e yg a i nt h e i rf l e x i b i l i t yi nt w ow a y s ：f i r s t ，b y t h eo r d e ro ft h ep o l y n o m i a l sf r o m w h i c h t h e ya r eb u i l t ，a n ds e c o n d ，b yt h en u m b e ro fb r e a k p o i n t s u s e d y o uu s u a l l ye l e c t t ok e e pt h eo r d e rf i x e d , a n da d db r e a k p o i n t sa sn e e d e dt og e tt h er e q u i r e df l e x i b i l i t y t h e nc o m et h en e x tq u e s t i o n h o wd oic h o o s et h eo r d e rm o fas p l i n e ? ”t h em o s t c o l n n l o nt y p eo fs p l i n ei st h ec u b i cs p l i n ei nw h i c he a c hp o l y n o m i a li sac u b i c ，o ro f o r d e r4 b e c a u s et h es e g m e n t sj o i nw i t hm a t c h i n gd e r i v a t i v e su p t oo r d e r2 ，t h e ya p p e a r t ot h ee y et ob eb e a u t i f u l l ys m o o t h t h i si sb e c a u s et h es e c o n dd e r i v a t i v em e a s u r et h e c u r v a t u r eo fac u r v e ，a n dt h ec u r v a t u r e sm a t c ha tt h eb r e a k p o i n t s ，s ot h a tt h ec u r v a t u r e a p p e a r st oc h a n g es m o o t h l y h o w e v e r , t h eo r d e rm t h a ty o uu s ed e p e n d so nh o wm a n yd e r i v a t i v e sy o uw i l l n e e dt oc o m p u t ef r o mt h es p l i n ef u n c t i o n ac u b i cs p l i n ei ss m o o t hi ni t s e l f , b u ti t s f i r s td e r i v a t i v ew i l la p p e a rt oc h a n g ew i t hn o t i c e a b l ea b r u p t n e s sa tt h eb r e a k p o i n t s ，a n d i t ss e c o n dd e r i v a t i v ew i ub eap o l y g o n a ll i n e w h a tt h i sm e a n si st h a ti fy o uw a n ta s m o o t hs e c o n dd e r i v a t i v e ，y o uh a db e t t e ru s eas p l i n eo fo r d e ra tl e a s ts i x ，s ot h a ti t s s e c o n dd e r i v a t i v ew i l lb ea tl e a s ts m o o t h a sac u b i cs p l i n e a f t e rt h eo r d e r , h o wd ow ec h o o s et h eb r e a k p o i n t s 参? t h em o r eb r e a k p o i n t s ，t h e m o r ef l e x i b l et h es p l i n e m o r e o v e r , t h i sp r i n c i p l ea p p l i e sl o c a l l y ；i fw en e e dal o to f f l e x i b i l i t yi nap a r t i c u l a rr e g i o no ft ，w eu s e m o r eb r e a k p o i n t si nt h i sr e g i o n a n d ，o f 6 c h a p t e r1 i n t r o d u c t i o n c o u r s e ，l e s sw h e r ew ed o n tn e e dm u c hc u r v a t u r e h o w e v e r , i ti sm e a n i n g l e s st oh a v eb r e a k p o i n t sw i t h o u td a t a t h e r es h o u l di nm o s t s i t u a t i o n sb ea tl e a s to n eo b s e r v e dv a l u ew i t h i ne a c hs u b i n t e r v a l i fo n e s u s p e c t st h a t t h e r ei sas h a r pf e a t u r ei nap a r t i c u l a rr e g i o n ，o n l yo n eo rt w od a t av a l u e si ni t sv i c i n i t y w i l lp r e t t ym u c he l i m i n a t ea n yh o p eo fa d e q u a t e l yd e s c r i b i n gi t , a n dt h ef i t t e dc u r v e m a ya sw e l lb es m o o t h t h ep r o b l e mo fd e c i d i n ge x a c t l yw h e r et op o s i t i o nb r e a k p o i n t si so f t e nf i n e s s e di n o n eo ft w o w a y s f i r s t ，w eo f t e nj u s tm a k et h e me q u a l l ys p a c e d ，b u to fc o u r s ep a y i n g a t t e n t i o nt ot h er e q u i r e m e n to f h a v i n ga tl e a s to n eo b s e r v a t i o ni ne v e r ys u b i n t e r v a l t h e s e c o n ds t r a t e g yi st op l a c ea b r e a k p o i n ta te v e r yf i x e dn u m b e ro fo b s e r v e dv a l u e so ft ， s o m e t i m e sc a l l e dq u a n t i l ep l a c e m e n t t h i sh a st h ea d v a n t a g eo fe n s u r i n gt h a tt h e r ei s ar e a s o n a b l ea m o u n to fd a t aa s s o c i a t e dw i t he a c hs u b i n t e r v a l f i g u r e1 5s h o w s at y p i c a ls i t u a t i o ni nw h i c hs o m ed i s c r e t en o i s yd a t aa r ef i tb ya c u b i cs p l i n ef u n c t i o n t h e b r e a k p o i n t sa r ea ss h o w n ，a n dt t l e ya r es p a c e dc l o s e rt o g e t h e r i nt h em i d d l ew h e r et h e r ei so b v i o u sm o