（概率论与数理统计专业论文）自适应变系数ev模型的估计及性质.pdf

摘要 变系数模型( v a r y i n g c o e f f i c i e n tm o d e l s ) 由c l e v e l a n dg r o s s ea n d s h y u ( 19 9 1 ) 在将局部回归方法从一元推广到多元的情形时提出。 j i a n q i n gf a n ，q l w e i y a o 和z o n g w uc a i ( 2 0 0 0 ) 提出了自适应变系数模型 并对其性质进行了研究在实践中，该模型已被广泛地应用于生物、 医学、经济学、金融保险等方面 e v ( e r r o r s i n v a r i a b l e s ) 模型，也称测量误差( m e a s u r e m e n te r r o r ) 模 型，是自变量和因变量都带有误差的回归模型e v 模型的研究有很长 的一段历史早在19 世纪末期，学者们就已经开始关注此模型 ( a d c o c k ，1 8 7 7 ，1 8 7 8 ；k u m m e l ，1 8 7 9 ) f u l l e r ( 1 9 8 7 ) 在专著测量误差模型 中讨论了线性e v 模型由于e v 模型的结构特殊，计算时需要考虑测 量误差，因此对它的研究要比经典的回归模型困难，例如e v 模型中 参数估计的存在性及其相合性问题比经典回归模型要复杂得多( c h e n g & v a nn a s s ，1 9 9 9 ) 在实际问题中自变量与因变量的观测不可避免的存在误差( 如测 量工具等引起的误差等) ，而在建立模型的时候有的误差我们也是不能 忽略的，因此我们提出了一利，新的统计模型一自适应变系数e v 模型： i y f = x t g f ，p ，x f j + 4 e = y f + 毛( 扛1 ，z ) 1x j = x j + p i 其中： t = ( x 。，薯。，) 7 1 ，g ( p r t ) = ( g 。( 7 _ ) ，g 。( r 玉) ，g p ( r 蕾) ) r ， e i = ( 乞。，呼i 一，) 。，正= ( z 。，鼍l ，一，) 7 ， ( 一， ) 是r 川x r l 上的随机变量，( _ ，m ) 的值不能精确观测，其观测值 为( 墨，z ) g j ( ) ( = o ，1 ，p ) 足有界连续函数，- 且g j ( ) o ( j = o ，1 ，p ) 令“= 7 x 设( ，衫) 7 1 足p + 2 维独立同分斫伯勺随机误差向量，满足 e ( e i ，巧) 7 = 0 ，c o v ( e i ，e t ) ，= 盯2 l 彤仃2 o ，f 1 x , 与e i ，y i 与毛，x i 与q 分别 不相关，各次观测之问相互独立 关于白适应变系数模型的讨论还处在起步阶段2 0 0 3 年，j i a n q i n g f a n 1 】等研究了这类模型，其中主要研究了该模型中的系数函数和参数 估计，窗宽选择及模型的应用关于白适应变系数e v 模型的研究成果 的文章还很少 本文的创新之处就是在已有的自适应变系数模型的基础上加入了 观测误差 本文利用核光滑方法和广义最小二乘法讨论了自适应变系数e v 模型的系数函数估计，其主要步骤如下：首先，假定系数参数取它们的 数学期望，把模型变成标准的线性模型，用最d , - - 乘法得到系数的第 一步估计，然后，将得到的第一步估计值代入模型中，重新变换模型， 用广义最小二乘法得到系数的第二步估计； 用一步迭代估计法讨论的估计； 在一些正则条件下，得到了系数函数和估计的强相合性和一致 强相合性； 最后利用m a t l a b 对估计进行了模拟研究通过模拟发现，我们的估 计是比较好的 关键词：自适应变系数e v 模型，核估计，最小二乘法，渐近正态性， 一步迭代估计 a b s t r a c t t h ev a r y i n gc o e f f i c i e n tm o d e l sa r ei n t r o d u c e db yc l e v e l a n d ，g r o s s e a n ds h y u ( 19 91 ) t oe x t e n dt h ea p p l i c a t i o no fl o c a lr e g r e s s i o nt e c h n i q u e s f r o mo n e d i m e n s i o n a lt om u l t i d i m e n s i o n a ls e t t i n g f a n ，j ，y a o ，q w ：a n d c a i ，z w ( 2 0 0 0 ) 1 h a v ep r o p o s e dt h ea d a p t i v ev a r y i n g - c o e f f i c i e n tm o d e l s a n dd i s c u s s e di t sp r o p e r t i e s i np r a c t i c e ，t h em o d e l sh a v ea l r e a d yb e e n w i d e l yu s e di na r e a ss u c h a sb i o l o g y , m e d i c a ls c i e n c e ，e c o n o m i c s ，f i n a n c e ， a n ds oo n t h ee r r o r s i n v a r i a b l e s ( e v ) m o d e l s ，a l s oc a l l e dm e a s u r e m e n te r r o r ( m e ) m o d e l s ，a r et h er e g r e s s i o nm o d e li nw h i c hb o t hd e p e n d e n ta n d i n d e p e n d e n tv a r i a b l e sc a r r ye r r o r s p e o p l eh a v es t u d i e dt h ee vm o d e l sf o r al o n gt i m e a se a r l ya st h el a t e19 0 0 s ，p e o p l eh a ds t u d i e dt h e s em o d e l s ( a d c o c k ，18 7 7 ，18 7 8 ；k u m m e l ，18 7 9 ) f u l l e r ( 19 8 7 ) h a dd i s c u s s e dl i n e a r e vm o d e l si nh i sm o n o g r a p h m e a s u r e m e n te r r o rm o d e l d u et oi t s s p e c i a ls t r u c t u r e ，w en e e dt oc o n s i d e rm e a s u r e m e n te r r o rw h e nd e a l i n g w i t he vm o d e l sa n dt h u si ti sm o r ed i f f i c u l tt or e s e a r c ht h a nc l a s s i c a l r e g r e s s i o nm o d e l s f o re x a m p l e ，i ti sh a r dt oe x p l o r et h ee x i s t e n c ea n dt h e c o n s i s t e n c eo f p a r a m e t e r se s t i m a t o r s i np r a c t i c e ，i ti si n e v i t a b l et h a te r r o r sm i g h to c c u ri nt h eo b s e r v a t i o no f i n d e p e n d e n t a n d d e p e n d e n tv a r i a b l e s ( e g e r r o r s t h a ti sc a u s e d b y m e a s u r e m e n td e v i c e ) s o m e t i m e s ，w ec a n n o tig n o r es u c he r r o r sa n dt h u s w ep r o p o s ean e wm o d e l - - a d a p t i v ev a r i a b l ec o e f f i c i e n te r r o r s i n - v - a n a b l e sm o d e l ： i y f = x g ( f l r z f ) + 占f r e = y f + 4 ( i = 1 ，刀) ix f = x f + e f w h e r e 薯= ( t 。，鼍。，) r ，g ( p7 薯) = ( g 。( r 薯) ，g ，( 7 1 t ) ，g p ( 7 _ ) ) r 呼= ( q 。，) r置= ( 置。，置l ，一，) 7 ( _ ，m ) a r er a n d o m v a r i a b l e si nr 川xr 1w h i c ha r ec a n n o to b s e r v e d a c c u r a t e l ya n dt h e i ro b s e r v a t i o n sa r e ( x i ，功，o = o ，1 ， ，z ) g ，( 。) ( = o ，1 ，p ) a r eb o u n d e dc o n t i n u o u sf u n c t i o n sw i t h g j ( ) 0 ( = o ，1 ，p ) l e t u = 7 x ，a n d ( 毛，衫) ra r ep + 2 d i m e n s i o n a l i n d e p e n d e n t a n d i d e n t i c a ld i s t r i b u t e dr a n d o mv e c t o r sw i t h ： e ( t ，巧) 7 = o ，c o v ( c , ，巧) 7 = 仃2 + 2 ，仃2 0 ， x i a n d e i ，y i a n ds i ，x i a n d e i a r eu n r e l a t e da n da l lo b s e r v a t i o n sa r e i n d e p e n d e n t t h es t u d yo fa d a p t i v ev a r y i n gc o e f f i c i e n tm o d e l si sju s tt h eb e g i n n i n g t h o u g hf a n ，j d i s c u s s e dh o wt oe s t i m a t ei t su n k n o w nc o e f f i c i e n t sa n d p a r a m e t e r s ，h o wt oc h o o s et h eb a n d w i d t ha sw e l la si t sa p p l i c a t i o n s 1 ，t h e t h e o r e t i c a lr e s u l t sa b o u tt h i sm o d e l sa r er a r e t h ei n n o v a t i o no ft h i sp a p e ri st h a th a sjo i n e dt h eo b s e r v a t i o ne r r o ri n t h ee x i s t i n ga d a p t i v ev a r i a b l ec o e f f i c i e n tm o d e l i nt h i sp a p e r , w ea p p l i e dk e r n e ls m o o t h i n gm e t h o da n dg e n e r a l i z e dl e a s ts q u a r e st ot h ee s t i m a t i o no fc o e f f i c i e n t so fa d a p t i v ev a r y i n g c o e f f i i e n t e vm o d e l s f i r s t ，w ea s s u m et h a tt h ec o e f f i c i e n t st a k et h e i rm a t h e m a t i c a l e x p e c t a t i o n s ，a n dt h u st h em o d e li st u r n e di n t on o r m a ll i n e a rm o d e l s w e u s et h el e a s ts q u a r e st og e tt h eo n e s t e pe s t im a t i o no ft h ec o e f f i c i e n t s s e c o n d ，s u b s t i t u t i n gt h ek e r n e le s t i m a t o r sf o rt h ec o e f f i c i e n t sa n du s i n gt h e g e n e r a l i z e dl e a s ts q u a r e s w eg e tt h et w os t e pe s t i m a t o r so f t h ec o e f f i e n t s w eu s et h eo n e s t e pi t e r a t i v ee s t i m a t i o nm e t h o dt og e tt h ee s t i m a t i o n o f f l i v u n d e rs o m er e g u l a r i t yc o n d i t i o n s ，w eg e tt h es t r o n gc o n s i s t e n c ya n d u n i f o r ms t r o n gc o n s i s t e n c yo fe s t i m a t o r so fc o e f f i c i e n tf u n c t i o n s f i n a l l y , w eu s em a t l a bt os i m u l a t et h ee s t i m a t i o n sw h i c hw eh a v e g o t a c c o r d i n g t ot h er e s u l t s ，w ec o n c l u d et h a to u rm e t h o d sa r eg o o d k e yw o r d s ：a d a p t i v ev a r y i n g - c o e f f i c i e n te vm o d e l s ，k e m e le s t i m a t e o n ， l e a s t s q u a r e m e t h o d ，a s y m p t o t i c p r o p e r t i e s ，o n e - s t e p i t e r a t i v e e s t i m a t i o n ? v 湖南师范大学学位论文原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独 立进行研究工作所取得的成果。除文中已经注明引用的内容外，本论 文不含任何其他个人或集体已经发表或撰写过的作品成果。对本文的 研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本人 完全意识到本声明的法律结果由本人承担。 学位论文作者鼢眵丽乃0 7 年6 月肜日 湖南师范大学学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定， 研究生在校攻读学位期间论文工作的知识产权单位属湖南师范大学。 同意学校保留并向国家有关部门或机构送交论文的复印件和电子版， 允许论文被查阅和借阅。本人授权湖南师范大学可以将本学位论文的 全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫 描等复制手段保存和汇编本学位论文。 本学位论文属于 1 、保密口，在年解密后适用本授权书。 2 、不保密叼。 作者签名： 导师签名： 日 日 朋r尹 v 扒 ， 。 月月 白适应变系数e v 模型的估汁及性质 1 绪论 1 1 自适应变系数模型 变系数模型( v a r y i n g c o e f f i c i e n tm o d e l s ) 由c l e v e l a n dg r o s s ea n d s h y u ( 1 9 9 1 ) 在将局部回归方法从一元推广到多元的情形时提出。 j i a n q i n gf a n ，q l w e i y a o 和z o n g w uc a i ( 2 0 0 0 ) 提出了白适应变系数模型 并对其性质进行了研究在实践中，该模型已被广泛地应用于生物、 医学、经济学、金融保险等方面 变系数模型( v a r y i n g c o e f f i c i e n tm o d e l ) - - 般形式为： y = _ 届( ) + + x p 屏( f p ) + s ( 1 1 ) 该模型中的系数均为函数，其他许多模型如：线性模型、部分线 性模型、可加模型以及动态广义线性模型等都可以看成变系数模型特 殊形式例如： ( 1 ) 当所有的系数岛( 0 ) ，l o ，誓与岛，y i 与t ，x i 与t 分别不相关，每次观测 之间相互独立 显然，在模型( 2 1 ) 巾，若记“= 7 x ，固定，则该模型就是变系 数e v 模型；如果令g j ( 7 1 誓) = g j , ( = o ，1 ，p ) ，则该模型就是一般的 线性e v 模型；如果令毋( 7 ) = 彰，( = o ，l ，p 一1 ) 氓= 1 ，则该模型就 是半参数e v 模型另外，如果我们不考虑，y ，的测量误差，则该模型 又分别是线性模型和半参数回归模型因而，模型( 2 1 ) 可以看成是对这 些模型的推广关于自适应变系数e v 模型的研究还处于初步阶段， 2 0 0 3 年，j i a n q i n gf a n 等在文 1 巾初步研究了自适应变系数模型，他 1t 硕十学位论文 们主要研究了自适应变系数模型的参数估计，窗宽的选择但关于自 适应变系数e v 模型研究的文章目前还少见本文在假定x 为随机变量 的情况下，利用核函数法和广义最小二乘法讨论了该模型的一般形式 下的系数函数及参数的估计问题在一些较基本的正则条件下，我们 得到了系数函数估计的强相合性和一致强相合性及的强相合性 2 2 系数参数的核估计 2 2 1 当给定时，系数参数g j ( ) 的第一步估计方法1 3 】 由于我们所采用的方法是分别对每一个系数g j ( ) ( = o ，1 ，p ) 采 用核估计方法进行的，因而我们不妨以对g ( ) 的第一个分量g 。( ) 的估 计为例进行讨论说明 假定五，吒是正态分布的刀个随机点，在每个点鼍处作观测，获 得样本观测值( 墨。，墨= ( 墨。，瓦) r ，r ) ( i = 1 ，2 ，z ) 为方便讨论，我们将模型( 2 1 ) 改写成： f z = t 。g o ( 坼) + 彳g ( u f ) + 乞 五= _ + q ，( f = l ，珂) ( 2 2 ) l 互。= 玉。+ q 。 其中： t = ( 誓。，) r ，g ( 甜，) = ( g ，( “，) ，g p ( “，) ) r ，峨= ( “舯，“咖) 7 ， 五= ( l 一，瓦) r ，如，弓。，彳厂为i i d 误差向量， 且e ( s i ，e i 。，巧) r = o ，c o y ( e ，q 。，巧) 7 = 0 - 2 l + ：，c r 2 0 ，( 。，f ，t ，) r 与( 乞，q o ，彳) r 相 互独立 对模型( 2 1 ) ，我们令b o = e ( g 。( “) ) ，a o = e ( x i 。) = e ( 一。) ( 假定期望存 在且不等于o 如果期望值为0 ，只要对数据作一平移即可) ；口= o b o ； 自适应变系数e v 模型的估计及性质 ( 6 = 研g ( “) ，即b 7 = ( 6 l ，) r = ( 研g 。( “) 】，e g p ( 甜) 】) r ；则( 2 1 ) 变成标准 的线性模型： r = 口+ x t b + v，( i = 1 ，z ) 其中u = 乞+ t 。g o ( u f ) 一口+ ( 注：由e= 蕾。g i 。( “，) + x t g ( u ，) + 乞 = 口+ x t g ( u f ) + 毛一口+ t o g f o ( “f ) = a + 6 + q 一口+ 而o g f o ( 甜f ) 一6 + x t g ( u f ) 】 = 口+ 置t 6 + o 一口+ t o g f o ( “f ) 一6 + x t g ( u f ) 一巧6 】 ：口+ f 6 + c i + x i o g o ( “，) 一a + 圭嘞( g ( “，) 一吃) 一彳6 】 j = l 知v f ：乞+ x i o g o ( 甜户口+ p 嘞( g 知，) 一1 ) 一4 b ) j = l 易知误差k ( 扛1 ，z ) 有如下性质： ( 1 ) u 为f i d ； ( 2 ) e v i = o ( i = 1 ，n ) ( 3 ) 设e ( 而) ，e ( x u 2 ) 都存在，- 且d ( x i j ) = c r ( j = o ，1 ，p ) ，则 如果o v a r ( x u g ，( “，) ) ，( = o ，1 ，胛) 则有：0 d ( v f ) = e ( 口) o ) 为窗宽，满足w ( “) o ，w ( “) = 1 对任意的 i = 1 “r 1 成立。 将u = 7 z 代入( 2 1 2 ) 得g 。( 7 x ) 的第一步估计为 献肚) 2 去喜w ( 肭( r 一言m ) 2 去喜w ( 肚肥一f 轨 注：常见的核函数有： 印) = 丽1 e x p ( 一百t 2 ) ( - - m t o o )印) 2 丽e x p ( 一百) ( 一k 户裙 恐( f ) = 一1 f | ( - o o t p ，即x 是列满秩的； ( 6 ) o l e a r ( x g j g ( “，) ) ，( = o ，l ，p ) ，因而o d ( v ) = e ( 谚) ； ( 7 ) 假定( o p ) 的期望存在且不为0 ，令风= e ( x i 。) = e ( 置。) ； ( 8 ) 0 i n ff ( u ) s u p f ( u ) ，其中厂为“的密度函数； ( 9 ) o i n f f ( “) s u p f ( 甜) o o ，为尺1 的有界区间； ( 1o ) f ( ) ，g 疋) ( = o ，1 ，p ) 在r 1 上有界，且在含的一个开区间上连续； ( 11 ) ey i 五 o o ，2 兄 o ，使得c h 一1 o 定理3 ：在上述条件( 1 ) 一( 1 1 ) 成立下，用条件：s u p l r p l 。- 0 ( 1 ) 代替条件 ( 5 ) ，且g ( ) 在r 1 上有界，则当1 专。时，有： 61 ：! 6 定理4 ：若对任意实变量核权函数 ，( “) 如，存在正数a ，使得 懋知) 等署，且随机变量序列 y ，i l i i d ，e y 存在， 且有正数d ，使得v a r ( y ) d ，则： 当当- o o ( 刀专) ， l o g n 有w n 姒) x q e y f = l 注：若e y = o ，则舡) _ 山。 定理5 ： s u 、p ( q p l 。) = o ( 1 ) ，且! 受燃霹1 x k = o ，则： 1 1 ) 1 3 一一 r j l ( 6 6 ) 与( 0 ，) 自适府变系数e v 模犁的估计及性质 l 其中盯= i 定理6 ：在条件( 1 ) ( 6 ) 下，6 和6 均为b 的无偏估计，且6 的方差小于6 的方差。 3 2 定理的证明 在定理得证明之前先引入相关引理： 引理1 ：t o c z ，f ( t 。) o ， e i j 寸i i d ，e e 。= o ，o e 彳 o ，对某个，( 互1 ，1 ) 成立，则 ： 云。( f ) = ( ，z 吃) 一k ( ( t - t ，池。1 ) 口? 与。 证明参见文献 1 7 1 。 引理2 ：对线性模型乃= f + q ，( 1 i ”) ，若误差序列溉) 俩、- 1 4 - 足：缱) 为 独立同分布序列，且e t = o ，0 o ) ，则最小二乘估计 矽= ( 7 x ) 。1 x7 y 的弱相合性与其均方相合性等价，并且对任意，( o ，2 ， 硕+ 学位论文 最小二乘估计的r 阶平均相合性彼此等价且都与弱相合性等价。 证明见文献 18 1 。 下面我们来证明这些定理： 定理1 的证明【2 0 2 1 1 ： ( i ) 西一口= 1 【l ：( 厶一) 圪】= ( ! 笋) _ 】，其中4 ，= 以夕， i = 1 “hj = l l i ，z ，= ( 以扩) ，因为只是对称幂等阵，由条件( 5 ) 及加权 收敛定理( 11 ，2 3 1 页 ) 知( i ) 成立。 ( i i ) 由线性模型的经典理论知，要证( i i ) ，只须证： 爵1 = ( 兰娄1 + 酊1 ( 一，r 。；军二。- - + 。当且仅当s ：1 专。 注意到条件( 5 ) 即有( i i ) 成立。 ( i i i ) 由引理4 显然。 定理2 的证明类似于文献定理3 4 4 的证明。 定理3 的证明【1 3 】【2 0 】： b m b = 断1 x r ( y 一五( u ) 一g ( “) = 断1 x r s 一爵1 x7 ( 季o ( “) - g o ( “) ) v a r ”，2 = 口r 口 设雪。( “) 一g 。( 甜) = ( q ，c 2 c n ) r 则l l ；x c 季。c “，一甄c 甜，1 1 2 = c q ，二：已，p c q ，q 巳，7 2 善i ( 否t 岛c 2 _ p ( s 脚u p i 。( 甜) 一g 。( “) 1 ) 2 与。( 由定理3 得) 。1 x ( 雪。( “) - g o ( “) ) 坚专。 自适应变系数e v 模型的估计及性质 又s 2 1 胎一0 由( 1 ) ，( 2 ) ，( 3 ) 可知：6 6 与。 即命题得证。 定理4 的证明 2 2 】： 要证以) i 山e l ， 即证，( “) ( 1 一e z ) b o nh 又e ，( z f ) ( 1 一e 1 ) = w n ，( u ) e ( y i e y e ) = o 要证( 群) 式只须n l i - m + c o 玩厂( 荟知) ( z e ) = o 又玩， ( ，( “) ( i e z ) _ ( ，( “) ) 2v a r ( y ，一e d 鲫 m 心a xw , , ) 2 。( 等卜。 命题成立 若e y = o ，则以) l q o 定理5 的证明： 啊1 ( 占一6 ) = r n 1 s - 。 x r s 一群1 西1 x r ( 雪。( “) 一9 0 ( “) ) 由于硝剐托b ( o ，尸) v a r ”a2 = 以7 口 设雪。 ) 一g 。 ) = ( c 1 ，c 2 巳) r 贝i ji i 爵；x c 营o ( u ) - g o ( u ) = c q ，乞巳，尸c q ，q 巳，7 ( 3 ) ( 4 ) ( 1 ) ( 2 ) 硕十学位论文 2 喜( 喜既钏2 - 1 ) ( t ( r ) - 1 ) & ( t ( r ) 一1 ) & ( t ( r ) 一1 ) ( t 1 ( r 1 ) 1 ) k l ( r 1 ) = ( 3 4 ) 木( 1 一( t 1 ( r 1 ) ) 2 ) ； e l s e k l ( r 1 ) = 0 ； e n d ；