（概率论与数理统计专业论文）函数系数部分线性模型的小波估计.pdf

研刍y e l e te s t i m a t i o nf o r t h ef u n c t i o n a l - c o e f f i c i e n t ten c t l o n ae t r i c l e n t堂u p a r t i a ll i n e a rm o d e l s ad i s s e r t a t i o nsu b m i t t e df o rt h ed e g r e eo fm a s t e r c a n d i d a t e ： z h a n gj i n g s u p e ：a s s o c i a t e dp r o f l i ll idudervisora s s o c i a t e r o i u i：l h u b e iu n i v e r s i t y w u h a n ，c h i n a 湖北大学学位论文原创性声明和使用授权说明 原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独立进行研究工作所取 得的成果除文中已经注明引用的内容外，本论文不含任何其他个人或集体已经发表或 撰写过的作品或成果对本文的研究做出重要贡献的个人和集体，均已在文中以明确方 式标明本声明的法律后果由本人承担 学位论文使用授权说明 论文作者签名言辰疡 签名日期：弘p 年f 月孑日 本人完全了解湖北大学关于收集、保存、使用学位论文的规定，即：按照学校要求提 交学位论文的印刷本和电子版本；学校有权保存学位论文的印刷本和电子版，并提供目 录检索与阅览服务；学校可以采用影印、缩印、数字化或其它复制手段保存论文；在不 以赢利为目的前提下，学校可以公布论文的部分或全部内容( 保密论文在解密后遵守 此规定) 论文作者签名：弓去i 为 签名日期：_ p 年f 月2 日 ， 导师签名。 签名日期； 鲥沩 刎一年易月多日 摘要 在统计学的研究中，解决问题的关键往往是建立合适的统计模型为了对一些较复杂 的数据进行统计分析，统计学者提出了许多实用的统计模型，例如：可加模型、投影追踪 模型、单指标模型、多指标模型等等其中h a s t i e 和t i b s h i r a n i ( 1 9 9 3 ) 提出了函数系数模 型( 也称为变系数模型) ，它是一般线性模型的有用推广，能够涵盖一些常见的模型，受到 了许多学者的极大关注该模型要求常数项函数与系数函数是同一个变量的函数，在现 实生活中，它们所含的变量可能不同对此，张日权( 2 0 0 3 ) 提出了常数项函数和系数函 数具有不同变量的函数系数模型，称之为函数系数部分线性模型函数系数部分线性模 型是一个比较广泛的模型t 当系数函数为零时，它就是一般的非参数模型，当系数函数 为常数时，它就是部分线性模型；当常数项函数为零时，它就是函数系数回归模型该 模型不仅有部分保留非参数回归的特点，还具有结构较简单、模型易于解释等优点，因 此具有广泛的实际应用背景，涉及到生物医学、经济金融、地质测量学、社会学、农业等 许多领域这个模型值得做进一步广泛而深入的讨论 本文采用小波方法研究函数系数部分线性模型不仅给出了常数项函数、系数函数和 误差方差的估计量的显式表示，并且在较弱的条件下得到了估计量的大样本性质，在一 定程度上有了较好的结果 第一章叙述了函数系数模型的发展历史和国内外统计学者在该领域已经取得的研究 成果，介绍了小波的相关理论与方法，并对本文所研究的内容进行了简单的介绍 第二章研究了函数系数部分线性模型的估计问题首先，采用小波估计方法，给出该 模型常数项函数的估计量，然后应用常数项函数的估计，由两阶段估计的思想再用小波 估计方法给出系数函数的估计量，并且在较弱的条件下分别证明了常数项函数和系数函 数估计的强相合性，探讨了系数函数估计的渐近正态性 第三章讨论了函数系数部分线性模型误差方差的估计问题采用小波估计方法给出了 误差方差的小波估计，证明了估计量的渐近正态性 关键词：函数系数部分线性模型；小波估计；函数系数模型；强相合性；渐近正态性 a b s t r a c t i nt h es t u d yo ft h es t a t i s t i c s ，t h ek e yt os o l v i n gt h ep r o b l e mi st oe s t a b l i s ht h ea p p r o p r i a t e s t a t i s t i c a lm o d e l i no r d e rt oa n a l y s i ss o m ec o m p l e xd a t a ，s t a t i s t i c a ls c h o l a r sp r o p o s e dm a n y u s e f u ls t a t i s t i c a lm o d e l s ，f o re x a m p l e ，a d d i t i v er e g r e s s i o nm o d e l ，p r o j e c tp u r s u i tm o d e l ，s i n g l e i n d e xm o d e l ，m u l t i - i n d e xm o d e l ，a n ds oo n h a s t i ea n dt i b s h i r a n i ( 1 9 9 3 ) c o n s i d e r e df u n c t i o n c o e f f i c i e n tm o d e l ( k n o w na sv a r i a b l ec o e f f i c i e n tm o d e l ) ，i ti sau s e f u le x t e n s i o no ft h eg e n e r a l l i n e a rm o d e la n dc a nc o v e rs o m eo ft h ec o m m o nm o d e l ，g r e a tc o n c e r n e db ym a n ys c h o l a r s h o w e v e r ，t h i sm o d e lr e q u i r e st h ec o n s t a n tf u n c t i o na n dt h ec o e f f i c i e n tf u n c t i o nw i t ht h es a n l e v a r i a b l ea n dt h e ym a yc o n t a i nt h ed i f f e r e n tv a r i a b l e si nt h er e a l i t yl i f e z h a n gr i q u a n ( 2 0 0 3 ) p r o p o s e daf u n c t i o nc o e f f i c i e n tm o d e lo ft h ec o n s t a n tf u n c t i o na n dt h ec o e f f i c i e n tf u n c t i o n sw i t h t h ed i f f e r e n tv a r i a b l e s ，w h i c hi sc a l l e dt h ef u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e l t h em o d e l n o to n l yr e t a i n st h ec h a r a c t e r i s t i c so fn o n - p a r a m e t r i cr e g r e s s i o n ，a l s oh a st h ea d v a n t a g e so fa s i m p l es t r u c t u r ea n de a s yt oe x p l a i n ，s oi th a saw i d eb a c k g r o u n do fp r a c t i c a la p p l i c a t i o n s ， r e l a t e dt ob i o - m e d i c a l ，e c o n o m i ca n df i n a n c i a l ，g e o l o g i c a ls u r v e y i n g ，s o c i o l o g y , a g r i c u l t u r ea n d m a n yo t h e rf i e l d s t l l i sm o d e ld e s e r v e st om a k ef u r t h e re x t e n s i v ea n di n - d e p t hd i s c u s s i o n t h i sa r t i c l eu s e saw a v e l e tm e t h o dt os t u d yt h ef u n c t i o n a lc o e f f i c i e n tp a r t i a ll i n e a rm o d e l w eo b t a i nl a r g es a m p l ep r o p e r t i e so ft h ee s t i m a t o r so ft h ec o n s t a n tf u n c t i o n ，t h ec o e f f i c i e n t f u n c t i o n sa n dt h ee r r o rv a r i a n c eu n d e rw e a kc o n d i t i o n s t os o m ee x t e n t ，t h e s ea r eg o o dr e s u l t s i np a r t1 ，w ed e s c r i b et h ed e v e l o p i n gh i s t o r yo ft h ef u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e l a n dt h er e s e a r c hr e s u l t so fd o m e s t i ca n df o r e i g ns c h o l a r si nt h i sf i e l d w ei n t r o d u c et h ew a v e l e t t h e o r i e sa n dm e t h o d s ，a n dm a k eab r i e fi n t r o d u c t i o nf o rt h es t u d yi nt h i sp a p e r p a r t2c o n s i d e r st h ee s t i m a t e dp r o b l o m sf o rt h ef u n c t i o n a l - c o e f f i c i e n tp a r t i a ll i n e a rm o d e l f i r s t ，w eg i v et h ec o n s t a n tf u n c t i o ne s t i m a t i o nu s i n gw a v e l e tm e t h o d a n dt h e nu s i n gt h i s e s t i m a t i o n ，w eg i v ec o e f f i c i e n tf u n c t i o ne s t i m a t i o n sb yt h et w o - p h a s ee s t i m a t e dm e t h o d s ，a n d p r o v et h es t r o n gc o n s i s t e n c yo ft h ee s t i m a t i o no fc o n s t a n tf u n c t i o na n dt h ec o e f f i c i e n tf u n c t i o n s u n d e rw e a kc o n d i t i o n s ，a n di n v e s t i g a t ea s y m p t o t i cn o r m a l i t yo ft h ec o e f f i c i e n te s t i m a t i o n s i np a r t3 ，w ed i s c u s st h ee s t i m a t e dp r o b l o m sf o rt h ee r r o rv a r i a n c eo ft h ef u n c t i o n a lc o e f f i - c i e n tp a r t i a ll i n e a rm o d e l w r eg i v et h ew a v e l e te s t i m a t i o no ft h ee r r o rv a r i a n c e a n dp r o v et h e a s y m p t o t i cn o r m a l i t yo ft h ee s t i m a t i o n k e yw o r d s ：p a r t i a ll i n e a rm o d e l ；w a v e l e te s t i m a t i o n ；f u n c t i o n - c o e f f i c i e n tm o d e l ；s t r o n g c o n s i s t e n c y ；a s y m p t o t i cn o r m a l i t y 口罩 日豕 一绪论1 1 1 函数系数模型及国内外研究成果1 1 2 小波介绍3 1 3 本文主要内容5 二函数系数部分线性模型的小波估计6 2 1 问题与估计方法6 2 2 基本假定和主要结果8 2 3 定理的证明8 三函数系数部分线性模型误差方差的小波估计2 6 3 1 问题与估计方法2 6 3 2 基本假定与主要结果2 7 3 3 定理的证明2 8 参考文献3 7 致谢3 9 一绪论 一绪论，口，u 1 1 函数系数模型及国内外研究成果 在统计学的研究中，解决实际问题需要建立恰当的统计模型一般情况，统计模型只 是对客观现象的一个近似，是否能较好的解释实践数据和预测未来成为评价统计模型的 一个基本标准，因此如何建立一个更加接近实际的模型成为统计学者不断追求的目标 从最初诞生的参数回归模型发展到非参数回归模型，再演变为半参数回归模型，各类模 型在实际运用中起到了很好的作用从理论上来说，一元非参数回归的估计方法能够直 接的推广到多元非参数回归中但事实上，这样得到的估计效果较差由于解释变量的 个数增加，使得估计的收敛速度变得缓慢，而且估计也变得相当不稳定在统计学中， 这种现象被人们称为”维数祸根”( c u r s eo fd i m e n s i o n a l i t y ) ，有关这方面的研究可以参见文 【1 卜【4 】为了克服维数祸根的问题，许多统计学者努力探索，提出了各种多元模型来降低 其维数，比如：单指标模型、可加模型、部分线性模型、投影追踪模型、函数系数模型 等其中，函数系数模型引起了统计学者的广泛关注 h a s t i e 和t i b s h i r a n i 5 ( 1 9 9 3 ) 提出了函数系数模型( 也称为变系数模型) ： y = 风( x ) + 历( x 1 ) 历+ + 纬( 砗) 磊+ ， ( 1 1 ) 其中y r 为响应变量，x = ( x i ，玛) 7 舻为q 维协变量，z = ( z 1 ，名) 7 舻 为p 维协变量，可以相同，也可以不同e 为随机误差，满足e ( e ) = 0 ，e ( e 2 ) = 盯2 ，且独立 于z 和x ；系数函数岛( ) o = 1 ，p ) 为未知函数，通过这些未知函数而改变历，磊 的系数 c h e n 和t s a y 6 ( 1 9 9 3 ) 在时间序列方面也给出了函数系数模型t t t = 风( x l l ) k 一1 + + 岛( x l l ) y t p + e t ，( 1 2 ) 其中m 为时间序列，x l l = m i 1 ，- ，k i 。) ，0 i i i 2 和 t d 是固定设计， k ，z t ) 翟l 是来自模型( 2 1 ) 的随 机样本，即样本满足 k = g c t ；) + z i l p l ( t i ) + z i 2 p 2 ( t i ) + + z 舀纬( 如) + e 4 ，i = 1 ，竹， ( 2 2 ) 其中e ”一，独立同分布，且e ( e i ) = 0 ，e ( e ) = 盯2 ，t = 1 ，竹对任意t 【0 ，1 】，t 【0 ，1 】， 记z c t ) = 慨( t ) ，岛( t ) ) 7 ，模型表示成矩阵形式为 其中y = ( y 1 ，碥) ，g c t ) = ( g c q ) ，9 ( 蠕) ) 7 ，e = ( e l ，e n ) ，记z = ( z l ，磊) 本文采用s p e c k m a n 2 4 1 的假定 z b = f j ( t l i ) + 舫，1 t 7 , ，1 j p ， 6 ( 2 4 ) 二函数系数部分线性模型的小波估计 其中f j ( t ) 为定义在【0 ，1 】上的未知函数，记，7 t = ( 仇1 ，) ，7 7 l ，叼h 独立同分布，且 ) 和 e i ) ( i = 1 ，他) 相互独立， e ( 仇) = 0 ，c d u ( 哺) = k ( 2 5 ) 这里v = ( ) 为p 阶正定矩阵 设有某个给定的刻度函数咖( ) 函，相伴l 2 ( r ) 的多尺度分析为 1 2 ，1 歹p ； ( a 2 ) 夕( ) ，岛( ) ，乃( ) 满足，y 阶l i p s c h i t z 条件，7 0 ，1 j p ； ( a 3 ) 岛，z a ，妒满足1 阶l i p s c h i t z 条件且具有紧支撑，当荨一0 时，i $ ( ) 一1 i = o ( 0 ， 其中$ 是西的f o u r i e r 变换； ( a 4 ) l 乏i a x ( s i 一8 i - - 1 ) = 0 。1 ) 此外用c 表示一个不依赖于礼的正常数，在不同的地方出现可取不同的值 在模型和基本假定下，我们有以下结论t 定理2 1 设e e ； 0 0 ，对任意j = 1 ，p ，有而危 o o ，且2 仇= o ( n 1 3 ) ，则在基本假 定( a 1 ) 一( a 4 ) 下，有 s u pi p ) 一p ( z ) i = o ( 1 ) ，口8 c 定理2 2 设对任意j = 1 ，p ，有e 7 乞 0 ，有e i 1 2 + 6 ( 2 一) ( 2 ( 1 一z e ) ) 时，有 礼1 2 ( 声0 ) 一卢( t ) ) 三n ( 0 ，盯2 v 一1 ) 2 3 定理的证明 引理2 1 在基本假定( a 1 ) 一( a 4 ) 下，有 ( 1 ) i e o ( 8 ，t ) o k ( 1 + i s t 1 ) k i ，i e ( s ，t ) i 2 - c k ( 1 + 2 m l s t i ) 七，这里七z + ，仇z + 且只与k 有关； ( 2 ) s u pl 五k ( z ，秒) i = 0 ( 2 m ) ； ( 3 ( 4 ( 5 1 i e m ( z ，妙) n y 。； l e m ，y ) l d y _ 1 ； l e m ( z ，耖) h 2 一，i x ) d y _ 0 ，对任意 o ； 8 二函数系数部分线性模型的小波估计 ( 6 ) e m ( t ，s ) d s = e m ( t ，s ) i c i t 一。i 0 2 - , n ) d s 证明( 1 ) 的证明见文【2 5 】，( 2 ) 一( 5 ) 的证明见文【17 】中的定理3 1 ( 6 ) 的证明见文【2 6 】 中的引理2 。1 引理2 2 在基本假定( a 1 ) - ( a 4 ) 下，则 唧s u p 。f a 旷蚤上。蹦抽) 如f a “) l = 0 m 1 ) + d ( 训， 唧s u 蜘p 旷荟以。黜一蚓如) | 却叫) + o ( r m ) 其中 l ( 2 m ) 一+ 1 2 ，1 2 q 3 2 证明见文1 2 3 】中的引理4 2 的证明 引理2 3 在基本假定( a 1 ) - ( a 4 ) 下，有 ( 1 ) 当e 4 o o 时，有 s u p 喀龟上。础s ) 如l - d ( 佗叫6 ( f 酬1 2 ) ，o 钆 ( 2 ) 当e 磅 o o ( j = 1 ，p ) 时，有 s u p 喀上；础s ) 幽i 刊n _ l 6 ( 坳) 1 2 ) ，n 矗 证明见文【2 2 】中的引理4 的证明 引理2 4 设条件e 刀玉 c ) n口n + ( 五( ) 一瓯 ( “) ) ( 厶( t 七) 一 k = l j = l h = l x ( 一岛珑。s ) d s 铲岖e ) , v o ) 1 个( 1 ) - 1十_ 工2 n 瓯 办( “) ) h = l ( 2 2 7 ) 注意到t k a k ，s a k ，且钆一8 k 一1 = o ( n 一1 ) ，故当n 充分大时，有l t k s i c n 一1 时， t 一8 l = i t 一“+ t 七一s i = i t 一“一0 一“) l t 一“l i 坟一s l e 一2 = e 2 1 5 如 砖 已 厶 吼 c ；芋 n 。脯 ， 0 p 湖北大学硕士学位论文 因此，由引理2 1 ，引理2 2 知 1 4 i ) i 们) 幽 k = l 。a k = c i e m ( t ，8 ) i m 一。i 。2 ) d s ( o ( n - 2 r ) + d ( 兹) ) 一0 ( 2 2 s ) j o 而 i 巧”i s u 。p l f i ( t k ) 一瓯) l 一。i j c f ( 坟) 一鼠 ) i “ ，l ；- - - t y c t h u “p f s ( t h h = l k = l j = l 胁) 一删以。酬如) | d s 坼坯c ) w i r k t 1 7 i ( ，8 ) | d s 地- t i 鲥( o ( n - 2 7 ) + d ( 镌) ) k = l5 = 1 。4 0 e 7s u p i e m ( t ，s ) l d s ( o c n 一2 7 ) + d ( 镌) ) c 7 ( d m 一2 7 ) + d ( 最) ) 由的任意性知 因此由( 2 2 7 ) 一( 2 2 9 ) 式知 1 ) = d ( 1 ) ，n a ， 以) = d ( 1 ) ，o s ( 2 2 9 ) ( 2 3 0 ) 接下来看0 ；： 璎2 三暑( 眦t ) 一h = l 瓯 腓 ) ) ( 钧一善鼠) ( 纠一岛 ) 上。( t s ) 出= lj = l_ i = l 。 七 = ( ，i ( “) 一鼠 ( ) ) ( 一鼠 ) ( 岛( “) 一岛( ) ) 厂( t ，s ) d s 厶一t l 。) + ( ( “) 一鼠如( “) ) ( 一鼠 呖) 二函数系数部分线性模型的小波估计 ( 岛( “) 一o a t ) ) 点t m ( t ，s ) d s i ( i t 。一t 陋) j a k 全矗2 + ( 2 3 1 ) 类似于j l ( 1 ) 的证明，由引理2 2 ，引理2 3 知0 ；= o ( 1 ) ，o s ，同理可证0 ；= d ( 1 ) ，口8 由引理2 3 知矗；= 0 0 ) ，a s 因此，综上可推得 以= d ( 1 ) ，口s ( 2 3 2 ) ( 2 )z 7 h ( t d c t + ) 的第i 个兀素为 磊i 粥) ，e m ( t ，s ) 幽，江1 ，p k = l o 由反i = i c t k ) + 饥i ，z h i = i ( t h ) + 仉 ，则 n礼nn， 三磊别国上。em(ts)ds=k-11( 磊t 一三1 瓯 磊t ) ( 夕( 铀一r = l & r 9 ( 国) 上。( t ，s ) d s七= 。 七 l i = 。 k = ( ( “) 一s k _ i l ( 轨) + 班t 一鼠，l r h t ) ( 鲍护三i 阳) ) 上。础 8 ) 如 r = = 0 ( “) 一瓯 ( “) ) ( 9 ( 皖) 一瓯，9 ( ) 铷( t ，s ) d s k - - lh = lr = l 。“ + k - - - - i ( 一三瓯帆) 一r = 1 ) 蜘s ) d s，l = l 。 七 全巩+ 巩( 2 3 3 ) 先考察 。 巩2 k = l ( ( 一蚤鼠 i i ( 。- - - - -) ( 鲋：) 一萎瓯r 9 ( 国) 上。他s ) d 8 lr 2 i 一 由引理2 1 ，引理2 2 知 l 巩i s u 七p i 熊七) 一荟鼠以( f u 七p i 卵：) 一三踮9 ( t ；) i 蚤l 上。晶化s ) 如i s u pi 肌七) 一熹瓯 肌 ) l s 即kk z ) 一耋站如；) i 8 u p 0 1i s ) i 如 c ( d ( n 一2 7 ) + d ( 磅) ) ， 湖北大学硕士学位论文 于是，有 仉= o ( n 一2 - r ) + d ( 2 ) = o o ) ，n 8 ( 2 3 4 ) 观=(懈一&)0(：)一瓯r9(哟)上。(，s)ds。k= lh = l r = l 。 由引理2 1 ，引理2 2 ，引理2 3 知 i 觇l 8 u p1 卵；) 一耋瓯颓刮礼( 丢ik 壹= i i + s u 膏pi 耋鼠 吼t i ) s u pl 上。翰( 如) d 8 ： ( d ( 佗一7 1 + d ( 7 i m l l ( d ( 1 ) + o ( n 一1 6 ( 1 0 9n ) 1 2 ) ) d ( 几) d ( 2 仇n 一1 ) = d 一1 + 1 6 ( 1 0 9n ) 1 2 ) + o ( r m n l 6 ( 1 0 9n ) 1 2 ) ， 于是，有 = 0 一，y + 1 6 ( 1 0 9n ) 1 2 ) + o ( r m n l 6 ( 1 0 9n ) 1 2 ) = d ( 1 ) ，口8 一 ( 2 3 5 ) 故