（概率论与数理统计专业论文）一类半参数回归模型的经验似然推断.pdf

摘要 摘要 半参数回归模型是二十世纪八十年代发展起来的一种重要的统计模型这种 模型既含有参数分量，又含有非参数分量，可以概括和描述众多的实际问题它 比单纯的参数回归模型或非参数回归模型有更大的适应性，并具有很强的解释能 力在实践中，我们经常会遇到测量误差数据和纵向数据因此，研究半参数e v 回归模型和纵向数据下的半参数回归模型已成为统计学的热点课题文献中对这 两类模型的研究已经取得了可喜的成果，但是大部分文献集中在参数部分和非参 数部分的估计及其渐近性质方面为了提高参数估计的精度，往往需要构造参数 的置信域 基于经验似然方法，本文研究了一类半参数回归模型，其中包括部分线性e v 模型、删失线性e v 模型、固定设计情形下的纵向数据部分线性模型和具有随 机设计点列的纵向数据部分线性单指标模型并且利用经验c r e s s i e - r e a d 似然方 法结合广义矩方法研究了独立同分布数据和弱相依数据本文研究内容主要有以 下几方面： 首先对于部分线性e v 模型，利用经验似然方法提出了模型中未知参数的极 大经验似然估计，并结合局部线性光滑方法构造了非参数分量的估计在适当条 件下，证明了极大经验似然估计具有渐近正态性，非参数分量估计达到了渐近最 优收敛速度0 ( n _ 1 ，3 ) 此外，当假设模型误差是同方差时，构造了误差方差的估 计并证明了该估计的渐近正态性在适当条件下，还证明了所构造的模型中未知 一i 一 北京工业大学理学博士学位论文 参数的经验对数似然比函数依分布渐近到x 2 分布，所得结果可以构造未知参数 的置信域其次还考虑了协变量带有误差的删失线性模型，借助于核实数据，对回 归系数构造了两种经验对数似然比，证明了所提出的估计的经验对数似然比渐近 收敛到一个自由度为1 的独立p 变量的加权和；而经调整后的调整的经验对数 似然比具有渐近瑶分布，所得结果都可以用来构造未知参数的置信域通过模拟 研究对所提方法和最小二乘方法在置信域的精度及其平均区间长度大小方面进 行了比较 对于固定设计情形下纵向数据的部分线性模型，考虑到纵向数据组内相关性 的特点，通过引入作业协方差矩阵，构造了模型中未知参数的广义经验对数似然 比函数，在适当条件下，证明了所提出的比依分布收敛于x 2 分布所得结果可以 构造未知参数的置信域模拟比较了作业协方差矩阵取不同情况时置信域的精 度，并把广义经验似然方法和广义最小二乘方法进行了比较研究表明，我们的 广义经验似然方法在置信域的构造方面优于广义最小二乘方法，并且当作业协方 差矩阵取真实协方差阵时，两种方法模拟效果都优于取其它两种作业协方差矩阵 的情况 ， 首次把经验似然方法应用于纵向数据部分线性单指标模型的研究，提出了模 型中未知参数的纠偏的经验对数似然比函数，在适当条件下，证明了所提出的比 依分布收敛于p 分布，所得结果可以构造未知参数的置信域所提方法也可用于 纵向数据下单指标模型和部分线性模型的研究我们所提方法具有许多优良的性 质：首先无需对参数进行估计；在估计模型中非参数分量时避免欠光滑来保证参 数估计的、，佤相合性，放宽了窗宽的选取范围；此外还避免了渐近方差的相合估 一i i 摘要 计，因为在纵向数据部分线性单指标模型情形，渐近方差的相合估计是很难得到 的研究中我们使用了局部线性光滑方法，使得能够把非参数9 ( ) 和其导数，( ) 同时估计出来由于指标参数向量的范数等于1 ，我们使用了“去一分量”方法 提高参数置信域的精度通过模拟研究对所提方法进行了说明 最后一章我们利用经验c r e s s i e - r e a d 统计量和广义矩方法( g m m ) 分别对 独立同分布的数据和一般的弱相依数据( 如q 一混合、妒一混合和p 一混合等 混合相依数据) 进行了研究首先在独立同分布数据情形下，获得了参数p ，分 布函数f ( z ) 和l a g r a n g e 乘子t 的有效估计，并证明了这些估计量的渐近正态 性，此外还证明了经验c r e s s i e - r e a d 统计量依分布收敛到x 2 分布其次对一般 的弱相依数据，我们提出了分组经验c r e s s i e - r e a d 似然方法，获得了分组经验 c r e s s i e - r e a d 似然参数估计，并证明了该估计量的强收敛性和渐近正态性，以及 分组经验c r e s s i e - r e a d 统计量的渐近妒性 最后，给出了结论与展望，概述了本文所获得的主要研究成果和创新点，并指 出进一步研究的方向 关键词经验似然半参数回归模型；e v 模型；纵向数据；置信域；经验 c r e s s i e - r e a d 统计量：广义矩方法 i i i 北京工业大学理学博士学位论文 a b s t r a c t t h es e m i p a r a m e t r i cr e g r e s s i o nm o d e l sh a v eb e e nd e v e l o p e di m p o r t a n ts t a t l s - t i c sm o d e l ss i n c e1 9 8 0 s t h i sk i n do fm o d e l sc o n t a i nb o t hp a r a m e t r i ca n d n o n p a r a - m e t r i cc o m p o n e n t s s oal o to fa c t u a lp r o b l e m sc a nb ed e s c r i b e db yt h e s em o d e l s t h e yh a v em o r ei m p l e m e n t sa n ds t r o n g e re x p l a n a t i o n st h a np u r ep a r a m e t r i co r n o n p a r a m e t r i cr e g r e s s i o nm o d e l s i np r a c t i c e ，t h e r ea r em a n ym e a s u r e m e n te r r o r d a t aa n dl o n g i t u d i n a ld a t a h e n c em o r ea n dm o r es t a t i s t i c i a n sh a v ef o c u s e do n t h es t u d i e so ft h es e m i p a r a m e t r i ce vr e g r e s s i o nm o d e la n dt h es e m i p a r a m e t r i cr e - g r e e s i o nm o d e lf o rl o n g i t u d i n a ld a t a a l t h o u g hp l e n t i f u lr e s u l t so nt h et w ok i n d s o fm o d e l sh a v eb e e no b t a i n e di nt h el i t e r a t u r e ，m o s tr e s u l t sm a i n l yc o n c e n t r a t e o nt h ee s t i m a t o r so fp a r a m e t r i ca n dn o n p a r a m e t n cc o m p o n e n t sa n dt h e i ru s y m p - t o t i cp r o p e r t i e s i no r d e rt oi n c r e a s et h ea c c u r a c yo fe s t i m a t o r so fp a r a m e t r i c c o m p o n e n t s ，t h ec o n f i d e n c er e g i o n so fp a r a m e t e r so f t e nn e e dt ob ec o n s t r u c t e d b a s e do nt h em e t h o do fe m p i r i c a ll f l e l i h o o d ，t h i st h e s i ss t u d i e sac l a s so f s e m i p a r a m e t r i cr e g r e s s i o nm o d e l s ，i n c l u d i n gt h ep a r t i a l l yl i n e a re r r o r s - i n - v a r i a b l e s m o d e l ，t h ec e n s o r e dl i n e a re r r o r s - i n - v a r i a b l e sm o d e l ，t h ep a r t i a l l yl i n e a rm o d e lf o r l o n g i t u d i n a ld a t au n d e rf i x e dd e s i g na n dt h ep a r t i a l l yl i n e a rs i n g l e - i n d e xm o d e l f o rl o n g i t u d i n a ld a t aw i t hr a n d o md e s i g n i n d e p e n d e n ta n di d e n t i c a l l yd i s t r i b - u t e dd a t aa n dw e a k l yd e p e n d e n td a t aa r ea l s oi n v e s t i g a t e db yu s i n gt h ee m p i r i c a l c r e e s i e - r e a dl i k e l i h o o dm e t h o da n dt h eg e n e r a l i z e dm e t h o do fm o m e n t s t h e i v a b 8 t r a c t m a i nw o r k so ft h i sd i s s e r t a t i o na r e 鹪f o l l o w s ： f i r s t l y , f o rt h ep a r t i a l l yl i n e a re r r o r s - i n - v a r i a b l e sm o d e l ，t h em a x i m u n le m - p i r i c a ll i k e l i h o o de s t i m a t o r so fu n k n o w np a r a m e t e r sa r ep r o p o s e db y 瑚i gt h e m e t h o do fe m p i r i c a ll i k e l i h o o d ，t o g e t h e rw i t ht h em e t h o do fl o c a ll i n e a rs m o o t h e r a n dt h ee s t i m a t o ro fn o n p a r a m e t r i cc o m p o n e n ti sc o n s t r u c t e d t h ea s y m p t o t i c n o r m a l i t yo fp a r a m e t r i ce s t i m a t o r sa n dt h eo p t i m a lc o n v e r g e n c er a t eo e ( n 一1 s ) o ft h en o n p a r a m e t r i ce s t i m a t o ra r eo b t a i n e du n d e rs u i t a b l ec o n d i t i o n s w ea l s o c o n s t m c tt h ee s t i m a t o ro fc o m m o nv a r i a n c ea n dp r o v ei t sa s y m p t o t i cn o r m a l i t y w h e nt h em o d e le r r o ri sh o m o s c e d a s t i c f u r t h e r m o r e ，t h ep r o p o s e de m p i r i c a ll o g - l i k e l i h o o dr a t i of u n c t i o nf o rt h eu n k n o w np a r a m e t e r si nt h em o d e li ss h o w nt o 簟 b ea s y m p t o t i c a l l yc h i - s q u a r e dd i s t r i b u t i o nu n d e rs u i t a b l ec o n d i t i o n s ，a n dh e n c ei t c 眦b eu s e dt oc e n s t m c tt h ec o n f i d e n c er e g i o n so ft h eu n k n o w np a r a m e t e r s s e e - o n d l y , w ec o n s i d e rt h ec e n s o r e dl i n e a re r r o r s - i n - c o v a r i a b l e sm o d e l ，a n dc o n s t m c t t w oe m p i r i c a ll o g - l i k e l i h o o dr a t i 0 6f o rt h ei m k i l o w nr e g r e s s i o nc o e f f i c i e n t sw i t ht h e h e l po f v a l i d a t i o nd a a kt h ee s t i m a t e de m p i r i c a ll o g - l i k e l i h o o dr a t i oi sp r o v e dt o b ea s y m p t o t i c a l l yd i s t r i b u t e da sw e i g h t e ds u m so fi n d e p e n d e n tc h i - s q u a r er v 8 w i t h1d e g r e eo ff r e e d o ma n dt h ea d j u s t e de m p i r i c a ll o g - l i k e l i h o o dr a t i oi ss h o w n t ob ea s y m p t o t i c a l l yd i s t r i b u t e da ss t a n d a r dc h i - s q u a r e a n dh e n c et h e yc a nb e u s e dt oc o n s t r u c tt h ec o n f i d e n c er e g i o n so ft h ep a r a m e t e r s as i m u l a t i o ns t u d y i sc o n d u c t e dt oc e m p a r et h ep r o p o s e dm e t h o d sw i t ht h el e a s ts q u a r e sm e t h o di n t e r m so fc o v e r a g ea c c u r a c i e sa n da v e r a g el e n g t h so ft h ec o n f i d e n c ei n t e r v a l s 一v 一 北京工业大学理学博士学位论文 f o r t h ep a r t i a l l yl i n e a rm o d e lf o rl o n g i t u d i n a ld a t au n d e rf i x e dd e s i g n d u et o t h ec o r r e l a t i o nw i t h i ng r o u p s ，ag e n e r a l i z e de m p i r i c a ll o g - l i k e l i h o o dr a t i of u n c t i o n f o rt h eu n k n o w np a r a m e t e r si nt h em o d e li ss u g g e s t e db yi n t r o d u c i n gt h ew o r k i n g c o v a r i u n c em a t r i x i ti sp r o v e dt h a tt h ep r o p o s e dr a t i oi sa 团y m p t o t i c a l l yc h i - s q u a r e dd i s t r i b u t i o nu n d e r8 0 m es u i t a b l ec o n d i t i o n s ，a n dh e n c ei tc a nb eu s e dt o c o n s t r u c tt h ec o n f i d e n c er e g i o n so ft h eu n k n o w np a r a m e t e r s t h ea c c u r a c i e so f c o n f i d e n c er e g i o n sa r ec o m p a r e du n d e rt h r e ec o v e f i a n c es t r u c t u r e sb ym e a n so f t h es i m u l a t i o ns t u d y w ea l s oc o m p a r et h ep r o p o s e dm e t h o dw i t hag e n e r a l i z e d l e a s ts q u a r e 8m e t h o di nt e r m so fc o v e r a g ea c c u r a c i e sa n da v e r a g el e n g t h so ft h e c o n f i d e n c ei n t e r v a l s s i m u l a t i o nr e s u l t si n d i c a t et h a to u rm e t h o dp e r f o r m sm u c h b e t t e rt h a nt h eg e n e r a l i z e dl e a s ts q u a r e sm e t h o da n dt h et w om e t h o d sp e r f o r m b e s tw h e nt h ew o r k i n gc o v a r i a n c em a t r i xi st h et r u ec o r r e l a t i o nm a t r i x e m p i r i c a ll i k e l i h o o di sa p p l i e dt ot h ep a r t i a l l yl i n e a rs i n g i e - i n d e xm o d e lf o r l o n g i t u d i n a ld a t af o rt h ef i r s tt i m e t h eb i a sc o r r e c t e de m p i r i c a ll o g - l i k e l i h o o d r a t i of u n c t i o n sf o rt h eu n k n o w np a r a m e t e r si nt h em o d e la r ep r o p o s e dt oa c c o m - m o d a t et h ew i t h i n - g r o u pc o r r e l a t i o nf o rl o n g i t u d i n a ld a t a i ti sp r o v e dt h 8 ta n yo f t h ep r o p o s e dr a t i o si sa s y m p t o t i c a l l yc h i - s q u a r e dd i s t r i b u t i o nu n d e rb o r n es u i t a b l e c o n d i t i o n s ，a n di tc a nh eu s e dt oc o n s t r u c tt h ec o n f i d e n c er e g i o n so ft h eu n k n o w n p a r a m e t e r s t h ep r o p o s e dm e t h o dc a na l s od e a lw i t ht h ep u r es i n g l e - i n d e xm o d e l a n dt h ep a r t i a l l yl i n e a rm o d e lf o rl o n g i t u d i n a ld a t a t h eb i a sc o r r e c t e de m p i r i c a l l i k e l i h o o dr a t i oh a ss o m ed e s i r e df e a t u r e s ：t h ee s t i m a t i o no ft h ep a r a m e t e ri sn o t 一一 a b s t r a c t n e e d e d ；w h e ne s t i m a t i n gn o n p a r a m e t r i cf u n c t i o n si nt h em o d e l ，u n d e r s m o o t h i n g f o re n s u r i n gr o o tnc o n s i s t e n c yo ft h ee s t i m a t o ro ft h ep a r a m e t e ri 8a v o i d e d a n d s u c hab i a sc o r r e c t i o nr e l a x e st h er a n g eo fb a a d w i d t h sf o rs e l e c t i o n ；t h ec o n s i s t e n t e s t i m a t o ro ft h el i m i t i n gv a r i d 血c ei sa v o i d e d s i n c ev a r i a n c ee s t i m a t i o nj 8d i f l i e u l t l y a t t a i n e d ，s p e c i a l l yf o rl o n g i t u d i n a lp a r t i a l l yl i n e a rs i n g l e - i n d e xm o d e l t h en o n - p a r a m e t r i cc o m p o n e n tg ( ) a n di t sd e r i v a t i v e 矿( ) 啪b ee s t i m a t e ds i m u l t a n e o u s l y b yt h em e t h o do fl o c a ll i n e a rs m o o t h e r s i n c et h ei n d e xp a r a m e t e rv e c t o ri so f n o r m1 ，t h e “d e l e t e - o n e - c o m p o n e n t ”m e t h o di sa d o p t e dt oi n c r e a s et h ea c c i l r a r c i e so ft h ec o n f i d e n c er e g i o 璐as i m u l a t i o ns t u d yi sc o n d u c t e dt oi l l u s t r a t et h e t h el a s tc h a p t e rf o c u s e so nt h es t u d i e so fi n d e p e n d e n ta n di d e n t i c a l l yd i s - t r i b u t e dd a t aa n dw e a k l yd e p e n d e n td a t a ( s u c ha sn m i x i n g q o - m i x i n ga n d p - m i x i n ge ta 1 ) b yc o m b i n i n gt h ee m p i r i c a lc r e e s i e - r e a dl i k e l i h o o dm e t h o dw i t h t h eg e n e r a l i z e dm e t h o do fm o m e n t s f i r s t l y , u n d e rt h ei n d e p e n d e n ta n di d e n t i - c a l l yd i s t r i b u t e dd a t as e t t i n g ，t h ee f f i c i e n te s t i m a t o r so fp a r a m e t e r 日，t h ed i s t r i b - u t i o nf u n c t i o nf ( z ) a n dl a g r a n g em u l t i p l i e rta r ea t t a i n e d ，a n dt h ea s y m p t o t i c n o r m a l i t yo ft h o s ee s t i m a t o r sa r ep r o v i d e d i ti sa l s os h o w nt h a tt h ee m p i r i c a l c r e s s i e - r e a ds t a t i s t i c sa r ea s y m p t o t i c a l l yc h i - s q u a r e dd i s t r i b u t i o n s e c o n d l y , a m e t h o do fb l o c k w i s ee m p i r i c a lc r e s s i e - r e a dl i k e l i h o o di sp r o p o s e df o rw e a k l yd e - p e n d e n td a t a t h es t r o n gc o n s i s t e n c ya n da s y m p t o t i cn o r m a l i t yo ft h eb l o c k w i s e e m p i r i c a lc r e s s i e - r e a dl i k e l i h o o de s t i m a t o r so ft h ep a r a m e t e r sa r eo b t a i n e d i ti 8 一i 一 北京工业大学理学博士学位论文 a l s od e m o n s t r a t e dt h a tt h eb l o c k - w i s ee m p i r i c a lc r e s s i e - r e a dl i k e l i h o o ds t a t i s t i c s c 眦b ea s y m p t o t i c a l l yc h i - s q u a r e dd i s t r i b u t i o n f i n a l l y , i nc o n c l u s i o na n dp r 0 6 p e c t ，w es u m m a r i z et h em a i nr e s e a r c ha c h e v e - m e r i t sa n di n n o v a t i o na c q u i r e di nt h i sd i s s e r t a t i o na n dp o i n to u tt h ef u r t h e rr e - s e a r c hd i r e c t i o n k e yw o r d se m p i r i c a ll i k e l i h o o d ；s e m i p a r a m e t r i cr e g r e s s i o nm o d e l 8 ；e vm o d e l ； l o n g i t u d i n a ld a t a ；c o n f i d e n c er e g i o n ；e m p i r i c a lc r c s s i e - r e a ds t a t i s t i c s ；g e n e r a l i z e d 一i i 符号表 t 上 三 n s y = o ( 1 ) y = o ( 1 ) 厶= d p ( ) 靠= o e ( 1 ) o e ( t ) k ( ) 或t n ( u 瑶 i i d ”i l a 0 2 t r ( a ) m i n e i g ( a 、 d i a g ( a l ，a 。) 符号表 。定义为”或“记为” 向量或矩阵的转置 依分布收敛 依概率收敛 强收敛( 依概率1 ) y 是有界变量 y 是无穷小量 对任一e 0 ，有p 矗0 0 盼一。 厶依概率收敛到0 随机有界 核函数 窗宽 均值为“协方差阵为的正态分布 自由度为p 的卡方分布 独立同分布 e u c l i d e a n 范数 九聱 方阵a 的迹 矩阵a 的最小特征值 由元素o l ，组成的对角阵 一一 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研 究成果尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含为获得北京工业大学或其它教育 机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何 贡献均已在论文中作了明确的说明并表示了谢意 始嫩魄舭 关于论文使用授权的说明 本人完全了解北京工业大学有关保留、使用学位论文的规定，即：学校有 权保留送交论文的复印件，允许论文被查阅和借阅；学校可以公布论文的全部 或部分内容，可以某用影印、缩印或其他复制手段保存论文 ( 保密的论文在解密后应遵守此规定) 第1 章绪论 第1 章绪论 半参数回归模型自e n g l e 等l l j 在研究气象条件对电力需求这一实际问题提 出以来，对它的研究已经成为统计学的一个热点问题因为该模型有线性主部分， 把握被解释变量的大势走向，适于外延预测；还有非参数部分，可以对解释变量作 局部调整，使模型更好地拟合样本观测值在解决实际问题中，实际工作者和学者 又提出了许多类型的半参数回归模型例如，部分线性模型，部分线性单指标模 型以及半参数变系数模型等这些模型在处理实际问题时，又会遇到各种各样的 数据如，测量误差数据，纵向数据，缺失数据，删失数据以及时间序列等数据在 不同数据情形下，针对各种半参数回归模型的特点，已经出现了一系列丰富的研 究成果这些结果主要表现在构造参数和非参数分量的估计量，以及这些估计量 的相合性、稳健性、渐近正态性和收敛速度等 然而，为了进一步获得参数的估计精度，往往需要构造参数的置信域而构造 置信域的一个有效方法是由o w e n n 在完全样本下提出的一种非参数统计推断方 法一经验似然经验似然有类似于b o o t s t r a p 的抽样特性，并有很多突出的优 点，例如用经验似然方法构造置信域有域保持性、变换不变性、置信域的形状由 数据自行决定、b a r t l e t t 纠偏性及无需构造枢轴统计量等优点 本文利用经验似然方法分别研究了e v 模型，固定设计情形下的纵向数据 部分线性模型和随机设计情形下的纵向数据部分线性单指标模型最后用经验 c r e s s i e - r e a d 似然代替经验似然研究了独立同分布数据和弱相依数据 下面分别对半参数回归模型，测量误差模型，纵向数据和经验似然进行介绍 并回顾一下它们的研究现状 一】一 北京工业大学理学博士学位论文 1 1 半参数回归模型 半参数回归模型是二十世纪八十年代发展起来的一种重要统计模型，此模型 介于参数回归模型和非参数回归模型之间在不少实际问题中，要考察对象y ( 响 应变量) 同影响y 的因素x ( 解释变量) 之间的关系我们知道传统的线性模型 当假设模型成立时，其推断有较高的精度，但当参数假定与实际背离时，其拟合情 况就很差若用非参数模型去处理，则有可能会丢失有经验或历史资料得到的信 息，因而采用两者的混合，即采用半参数回归模型这种模型既有参数分量，又含 有非参数分量在理论上，处理这种模型的方法融合了参数回归模型中习用的方 法和较近发展起来的非参数方法，但也并非这两类方法的简单叠加总之，可以 认为其复杂性和难度，都超过了单一性质的回归模型在应用上，这种模型可描 述许多实际问题，比单纯的参数模型和非参数模型有更大的适应性例如在生物 学、传染病学、森林、经济学和遥感等领域有着广泛的应用而这种模型的优点 是集中了主要部分( 即参数部分) 的信息，因此有较强的解释能力 半参数回归模型发展至今，在解决实际问题中，实际工作者和学者们提出了 许多类型的半参数回归模型下面主要介绍两类重要的半参数回归模型一部分 线性模型和部分线性单指标模型，这两类模型都有其实际的意义 q p , 1 1 1 部分线性模型 部分线性模型假设响应变量y 依赖于p 维协变量x 和一维协变量t ，且y 与x 之间呈线性关系y 与t 之间呈非线性关系，其模型形式为 m = 珂卢+ 9 ( 正) + e ，i ；1 ，2 ，m ( 1 1 ) 其中 ( 研，正) ，i = 1 ，n ) 可以是随机设计也可以是固定设计卢= ( 历，岛) 下是未知参数向量，9 ( ) 是一元未知函数，岛是期望为0 的随机 误差 一2 一 第1 章绪论 自e n g l e 等【q 在研究气象条件对电力需求影响这一实际问题时首次提出部 分线性模型以来，该模型已出现了一系列丰富的研究成果由于部分线性模型结 合了线性模型和非参数模型，因此文献中对这种模型的处理方法一般都是融合了 线性回归中常用的方法和近年来发展起来的非参数方法 r o b i n s o n a 1 在非参数分量9 ( ) 取n a d a r a g a - w a s t o n 核估计时，构造了参数 分量卢的加权最t b - - 乘估计p 和非参数分量g ( ) 的估计鸯( ) ，在一些正则条件 下，研究了估计口的渐近正态性及矽和雪( ) 的弱收敛速度 s p e c k m a n 4 l 采用了参数化形式w r 逼近非参数分量9 ( - ) ，其中w 为某个给 定的n g 的满秩矩阵，r 是附加的q 1 的未知参数向量，部分线性模型( 1 ：1 ) 可以用矩阵形式表示为 考虑同时极小 可得口的估计 y = x f 8 + w r + e ， i i y x 7 p 一r i l 2 = r a i n ，卢俨， r 彤 ( 1 2 ) p = ( x 7 ( ，一e w ) x ) 一1 f ( j r p w ) y ,( 1 3 ) 其中p w = ( 7 ) 一1 w 为投影阵在适当的条件下，s p e c k m a n 研究了该估 计的渐近性质由于在p 估计的构造上已经消除了t 对x 和y 的影响，因此p 的估计是渐近无偏的 g r e e n 等1 5 l 提出可以用任一光滑矩阵s ( 不必为投影阵) 替代( 1 3 ) 式中的 只y ，由此可得卢的估计 万= ( ( ，一研x ) 一1 x 7 ( ，一s ) k ( 1 4 ) 由于这种估计是由g r e e n ，j e n n i s o n 和s e h e u l t 提出的，因此也称之为g j s 估 计。 一3 一 北京工业大学理学博士学位论文 e n 百e 等【1 】使用光滑样条方法定义了卢和9 ( ) 的惩罚估计量为极小化 三章一珂p - 9 ( 跏2 + 入秽2 执 的解，其中a 是一个惩罚参数，它起到在拟合程度与光滑程度之间的平衡作用 这种方法既考虑到估计量同数据的拟合，又顾及到非参数分量估计的光滑性 i - l e c k m a n 0 在置和正独立的情况下研究了p 的惩罚最4 , - - 乘估计的相合性和 渐近正态性r i c e z ，w h a b a s ，g r e e n 等【口j 和e u b a n k 等【1 0 】也分别在不同的条 件下对估计的大样本性质进行了研究 h a m i l t o n 和t r u o n g 1 1 l 采用局部线性回归构造了参数和非参数分量的估计， 并证明了估计量的渐近正态性m a m m e n 和v a nd eg e e r p q 应用经验过程理论 构造了惩罚拟似然估计，并给出了该估计的渐近性质 m a ，c h i o u 和w a n g 1 3 1 研究了异方差的部分线性回归模型，通过对加权估计 方程进行修正。即 。= ：喜c 恐，劭能一霹卢一争僻厕，卜一卷篇 ，c 一s ， 其中u ( 五，正) 表示权函数，通常使用方差的逆( i n v e r s e - t o - v a r i a t i o n ) 权，即 u ( 五，丑) = v 缸慨i 五，正) ，( 噩，p ) 表示g ( ) 的非参数估计，亩如( x ，t ) x l t , 和亩扣( x ，砷陬 分别表示e w ( x ，t ) x i 五) 和e ( w ( x ，t ) i z 的非参数相合估 计研究发现：当矿被错误指定时，( 1 - 5 ) 式的右边仍可收敛到0 ，甚至错误地取 参三0 ，解方程( 1 - 5 ) 仍可得到相合估计声，该估计具有渐近正态性，并且是半参数 有效估计 s e v e r i n i 等1 1 4 | 和h i i r d l e 等【1 5 】研究了模型( 1 - 1 ) 的推广形式，即广义部分线 性模型 e ( m i 玉，正) = h ( z j f l + 9 ( 正) ，i = 1 ，n ， ( 1 6 ) 其中日为一个已知函数，称为联系函数为了估计p 和9 ( ) ，s e v e r i n i 等1 1 4 j 引进 了拟似然估计方法，该方法有类似于似然函数的性质，但仅需指定y 的二阶矩而 第1 章绪论 不是完全分布基于s e v e r i n i 等人的方法，h i r d l e 等f 1 司考虑了g ( ) 的线性检验 问题，他们对检验问题的研究补充了s e v e r i n i 等人的工作 我国统计学者在部分线性模型的研究上也作了大量相当深刻的工作 l i a n g _ 1 1 6 | 系统地研究了多种场合下口的渐近有效估计的构造s h i 1 7 】利用分块多 项式逼近方法得到了卢和g ( ) 的稳健m 估计口和垂( ) ，在一定条件下证明了口 具有渐近正态性，并得到了p 和( ) 的弱收敛速度柴根象等1 1 蝴o l 应用小波方 法研究部分线性模型，建立了回归系数p 和未知函数g ( ) 的小波估计，证明了它 们具有优良的大样本性质，讨论了误差方差的小波估计及其渐近性质 以上研究大都是在( 碍，正) 是随机设计点列的情况下进行讨论的，当 ( 嚣，正) 是固定设计时的研究成果相对较少而非随机设计情形并不是随机设计 情形的特例，随机设计情况下的结果往往也不能简单地推广到非随机设计情形， 因此二者的处理方法和假设条件也有区别胡舒合1 2 l i 和高集体等吨4 1 分别研 究了当g ( ) 的估计取一类非参数权函数估计时，卢的最小二乘估计和加权最小二 乘估计的强相合性，渐近正态性，收敛速度，b e r r y - e s s e e n 界限以及重对数律等方 面的大样本性质王肩华 2 s , 2 8 1 在截断样本下研究