（基础数学专业论文）线性与广义线性模型逆回归的统计分析.pdf

施政线件。j 广义线性模型逆l 口j 归统计分析 线性与广义线性模型逆回归的统计分析 中文摘要 校准是指通过由实验得到的数据去寻找相关的信息。具体的就是通过数学模型出测量 获得的y 去估计未知的兄测量方法是迅速和廉价的，但结果不太精确。由因变量】，的观 测值校验独立同分布估计量x o 船组自变量x 和因变量y 之问简单的回归模型如下： 只= f ( f l ，) + 乞( f = l ，z ) ， 其中是未知参数变量，占，是均值为o ，方差为口2 的随机误差。这罩统计校准过程分为两 步： 1 ) 通过测量方法能够获得准确的值，但是过程缓慢且代价高。但是同样的测量用第 二：种方法或者其它某种方法也许过程快捷且代价低，但是得到的结果可能不如第一种方 法。第二种是由测量值】，然后校验上式中的x 和】，之间的关系。 2 ) 通过第：二种方法由未知量x 得到一个或者更多】，。由估计校验关系来预测x 的值。 第一阶段是校验实验得到校验数据。第二阶段得到的数据是预测数据。换句话说，在测量 过程中有两种情况：变量x 相互独立且能准确给出，这样的模型称为“经典模型”；变量x 术知的，这样的模型称为“逆回归模型”。 w i l l i a m ( 1 9 6 9 ) 矛1 b e r k s o n ( 1 9 6 9 ) 已经给出了有限 制条件校验的理论分析。k n i t c h k o f f ( 1 9 6 7 ) 给出了无约束校验，在简单回归模型上有很多讨 论。本文目的是为了对应于一个以上的变量】，观察值，如何得到一个或多个x 的预测问题 的应用研究。 本文主要讨论了线性、广义线性有无约束条件下逆回归的统计分析。 第二章讨论了有无约束条件下线性模型逆回归的参数进行估计，研究了若干与其相关 的性质，并例证了文中的分析。 第一二章首先讨论了无约束条件下广义线性模型逆回归的估计问题，给出了模趔估计的 改进，然后讨论了有约束条件下模型的估计问题，最后例证了文中的分析。 关键词：线性模型、广义线性模型、参数估计、逆回归 扬州人学顾。i ：学位论文 s t a t i s t i c a la n a l y s i s o nl i n e a ra n dg e n e r a l i z e dl i n e a rr e v e r s er e g r e s s i o nm o d e l 2 一 a b s t r a c t c a l i b r a t i o ni st h eu s eo fd a t aa v a i l a b l et h r o u g ht h ee x p e r i m e n t a lm e t h o dt of i n di n f o r m a t i o n a b o u tt h eu n k n o w nxf r o mm e a s u r e m e n t so fy u s i n gm a t h e m a t i c a lt r a n s f o r m a t i o nm e t h o d s c a l i b r a t i o ni sd e f i n e da st h er e p l a c e m e n to fe x p e n s i v em e a s u r e m e n tm e t h o d st h a tr e q u i r em u c h e f f o r ta n dt i m eb u tg i v ea c c u r a t er e s u l t s ，b ym e a s u r e m e n tm e t h o d sw h i c ha r es w i f ta n dc h e a pb u t g i v el e s sa c c u r a t er e s u l t s s t a t i s t i c a l l y , c a l i b r a t i o ni st h ee s t i m a t i o no fx ，t h ei n d e p e n d e n tv a r i a b l e c o r r e s p o n d i n gt ot h eo b s e r v e dv a l u eo ft h ed e p e n d e n tv a r i a b l eft h es i m p l er e g r e s s i o nm o d e l b e t w e e nt h e i n d e p e n d e n tv a r i a b l exa n dt h ed e p e n d e n tv a r i a b l eyw i t hno b s e r v a t i o n si sd e f i n e d a sf o l l o w s ： y i = f ( f l ，x i 、) + s i w h e r e8i st h ev e c t o ro fu n k n o w np a r a m e t e r sa n d ii sa ne r r o rt e r mw i t hm e a n0a n d v a r i a n c e 仃2 t h e r ea r et w os t a g e si nt h es t a t i s t i c a lc a l i b r a t i o np r o c e s s ： 1 ) t h ev a l u e so f x a r eo b t a i n e du s i n gas t a n d a r dm e t h o dw h i c hg i v e sa c c u r a t eb u tg e n e r a l l y s l o wa n de x p e n s i v er e s u l t s t h es a m em e a s u r e m e n t sa r et h e nm a d eu s i n gas e c o n dm e t h o do ra l l i n s t r u m e n tw h i c hg i v e sf a s t e r , c h e a p e rb u tg e n e r a l l yl e s sa c c u r a t er e s u l t st h a nt h ef i r s tm e t h o d ，l 、h es e c o n dm e a s u r e m e n t sa r et h ev a l u e so fy t h e nt h e ”c a l i b r a t i o nr e l a t i o n s h i p ”b e t w e e nx a n d y i se s t i m a t e df r o m y ，= f ( f l ，x ，) + 占f 2 ) o n eo rm o r em e a s u r e m e n t so fy a r eo b t a i n e du s i n gt h es e c o n dm e t h o df o ru n k n o w n v a l u e so tx ，t h e s ev a l u e so f xa r ep r e d i c t e df r o mt h ee s t i m a t e dc a l i b r a t i o nr e l a t i o n s h i p t h ef i r s t s t a g ei sk n o w na sac a l i b r a t i o ne x p e r i m e n t ，a n dt h ed a t aa sc a l i b r a t i o nd a t a t h ed a t as e ti nt h e s e c o n ds t a g ei st h ep r e d i c t i o nd a t a o nt h eo t h e rh a n d ，t h e r ea r et w oc a s e so ft h ea b o v e c a l i b r a t i o np r o c e s s ：ac o n t r o l l e dc a l i b r a t i o nw h e r et h ei n d e p e n d e n tv a r i a b l exi sf i x e da n dt h e m o d e li sc a l l e d ”c l a s s i c l f ：a n dar a n d o mo rn a t u r a lc a l i b r a t i o n ，w h e r ex i sr a n d o ma n dt h em o d e l i sc a l l e d ”i n v e r s e ”w i l l i a m s ( 1 9 6 9 ) a n db e r k s o n ( 1 9 6 9 ) g a v et h et h e o r e t i c a lp r o p e r t i e so fa c o n t r o l l e dc a l i b r a t i o n h o w e v e rk r u t c h k o f f ( 19 6 7 ) s u g g e s t st h eu s eo far a n d o mc a l i b r a t i o n ， e v e ni ft h exv a r i a b l e sa r ef i x e d t h e r eh a v eb e e nm a n ys t u d i e sa n dd i s c u s s i o n so nt h e s e c a l i b r a t i o n su s i n gs i m p l er e g r e s s i o n i nt h i ss t u d y , t h ep u r p o s ei st oo b t a i nt h eb e s tp r e d i c t i o no f o n eo rm o r exw h i c hc o r r e s p o n dt om o r et h a no n ed e p e n d e n tv a r i a b l eyo b s e r v e dw i t hf i x e dx v a r i a b l e so v e ra p p l i c a t i o nd a t ab ys t u d y i n gc l a s s i c a la n di n v e r s er e g r e s s i o nt e c h n i q u e si n c a l i b r a t i o np r o b l e m s w es t u d yb r i e f l yt h ee f f e c to fc o l l i n e a r i t yo nc a l i b r a t i o ne s t i m a t o r su s i n g a r t i f i c i a ld a t a ，a n da l s os t r e s st h ee f f e c to fo u t l i e r so nt h ec a l i b r a t i o na n dt h ep r e d i c t i o n sf o r 施政线件j 广义线性模型逆i 口l 归统计分析 m u l t i v a r i a t em o d e l s ，i nc o n t r a s tt ot h es t u d i e so f f o x ( 1 9 8 9 ) a n db r o w n ( 1 9 8 4 ) 3 t h i sp a p e rd i s c u s s e st h ei n v e r s el i n e a rr e g r e s s i o nm o d e la n dn o n l i n e a rr e g r e s s i o nm o d e l a g a i n s tt h ec o n d i t i o n sw i t ho rw i t h o u tc o n s t r a i n t sa n dt h ee x p l a n a t o r yv a r i a b l e sc a l lb eo b t a i n e d b yt h eb e a u t i f u lc l o s e df o r m c h a p t e ri ip r e s e n t s t h ei n v e r s ep r o b l e mo fl i n e a rr e g r e s s i o nm o d e l ；m e a n w h i l e ，t h e e x p l a n a t o r yi se s t i m a t e d si m u l a t i o nr e s u l t si l l u s t r a t et h a to u rr e s u l t sa r ea v a i l a b l e c h a p t e ri i ic o v e r st h ei n v e r s ep r o b l e m so ft h eg e n e r a l i z e dl i n e a ri n v e r s er e g r e s s i o nm o d e l t oe s t i m a t et h ep a r a m e t e r s ，a n dan u m b e ro fr e l a t e dp r o p e r t i e sa r ed i s c u s s e d k e y w o r d s ：l i n e a rm o d e l ；g e n e r a l i z e dl i n e a rm o d e l ；p a r a m e t e re s t i m a t e ；i n v e r s er e g r e s s i o n 施政 线性0 广义线性模型逆i 口i 归统计分析 扬州大学学位论文原创性声明和版权使用授权书 学位论文原创性声明 本人户明：所呈父即学位论又是征导帅猎导卜独豆迸仃计冗工作所取得的研冗成果。 除文中已经标明引用的内容外，本论文不包含其他个人或集体已经发表的研究成果。对本 文的研究做出贡献的个人和集体，均已在文中以明确方式标明。本声明的法律结果由本人 承担。 学位论文作者签名：豸匆矿上 签字日期沙p 7 年蝴易日 学位论文版权使用授权书 本人完全了解学校有关保留、使用学位论文的规定，即：学校有权保留并向国家有关 部门或机构送交学位论文的复印件和电子文档，允许论文被查阅和借阅。本人授权扬州大 学可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫 描等复制手段保存、汇编学位论文。同时授权中国科学技术信息研究所将本学位论文收录 到中国学位论文全文数据库，并通过网络向社会公众提供信息服务。 学位论文作者签名：旅次 签字日期：矽7 年瑚占日 导师签名：辱序罩 _ ，、 签字日期如7 年月6 日 ( 本页为学位论文末页。如论文为密件可不授权，但论文原创必须声明。) 扬州人学硕十学位论文 1 绪论 线性回归模型是一类很重要的统计模型，它包括回归模型、方差分析模型、协方差分 析模型以及混合模型等。这一模型在许多领域如生物、医学、工业、农业、工程学、经济、 管理等方面都有广泛而重要的应用。同时，线性模型的基本理论与方法也为其它统计理论 j 方法提供了基本的工具。特别地，多元线性模型和广义线性模型是线性模型中两类重要 的模型。 模型的预测问题就是利用己知观察值去预测未知观察值。本文研究了有无约束条件下 的线性, f u p 。义线性模型逆回归中可预测变量的最优预测，并给出数值模拟和相关的定理证 明。 1 1问题的提出 回归分析是处理具有自变量x 和因变量】，之分的试验资料的统计方法，通常要求x 固 定，y 随机。所以回归分析的基本目的是由彳估计来预测y ，其回归模型一般形式表示为 y = 厂( ，x ) - i - s ，其中】，为观测向量，x 为设计阵，为未知参数向量，s 为随机误差向量。 但是，在有些情况下，研究者需要了解的却是】，在某一时的值及其置信区f b j 。例如： 在农用药物的毒力测定中，药品浓度是x 变数，昆虫死亡率是】，变数如欲得到半致死浓 度( y = 5 0 时的药品浓度) ，就必须从】，反推托在树龄测定中，年轮数是x 变数，“碳记 年”是l ，变数，由碳记年估计树木年龄也是由】，反推丘很多仪表的校准亦属于】，( 仪表读 数) 预测x ( 标的物状况) 。在近代遗传学研究中，q 儿的定位也是要从】，( 表型值) 估计x ( 基 劂座位位置) 。这类从y 反推、估计或预测x 的分析，统称为逆回归或逆预测，其统计原 理和方法国内研究的并不多见。本文将阐述逆回归的意义，推导其在线性模型、广义线性 模型中的些性质，并以实例说明演算过程，以供应用和深入理解某些涉及逆回归的问题。 1 2 国内外研究现状 b r o w n 4 】文中详细讨论了在有无限制条件下多元校准等相关问题，给出了变量的估计和 胃信区| 日j 。h i s a y u k it s u k u m a 1 0 1 文中详细讨论了椭圆误差下多元线性校准问题。o z l e m o z y u r t 和a y d m e r a r 15 】文中详细讨论多元线性模型的逆回归问题及其应用。宗序平【4 l 】对线 性模型的逆回归问题进行了详细的讨论。 1 3 本文的主要工作 本文主要讨论了线性、广义线性在有无约束条件下逆回归的统计分析。 第二章讨论了有无约束条件下线性模型逆回归的参数进行估计，研究了若t 与其相关 的性质，并例证了文中的分析。 施政线性l j 广义线性模型逆i 口| 归统计分析 第三章首先讨论了无约束条件下广义线性模型逆回归的估计问题，给出了模型估计的 改进，然后讨论了有约束条件下模型的估计问题，最后例证了文中的分析。 2 线性模型的逆回归统计分析 本章主要讨论在有无约束条件下线性模型逆回归的统计问题。 对于给定的一组数据( 一，y 。) ，( ，虬) 满足下列一元线性回归模型 y ，= 风+ 届z j + g i ，f = 1 , 2 ，咒，( 2 1 ) 其中g l ( 待1 ，2 ，刀) 是服从n ( 0 ，仃2 ) 的独立同分布的随机误差。对于给定的输出值，确 定一个未知的输入，这就是逆预测或者逆回归问题。 y o = z o + p , x o + s + ， ( 2 2 ) 其中占是服从n ( 0 ，盯2 ) 且独立于f ，。如果反和局是参数z o ，。的最小二乘估t - - ( l s e ) ，假设 矽，o ，将反和矽it 弋x ( 2 2 ) 中便得到的极大似然估计( m l e ) 如= ( 少。屁) 届， ( 2 3 ) 然f 而，实际问题中经常需要考虑是多维变量的情形。 给定多元线性回归模型 y = 即+ f ，占n ( o ，仃2 l ) ， ( 2 4 ) 其中y 为观测数据的随机向量，x 为n xp 阶回归变量矩阵，为未知参数，l 为，z 阶单位 矩阵，o - 2 为方差，占为服从n ( 0 ，仃2 ) 的独立同分布的随机误差。 逆l u j 归问题中的由下式给定： y o = x j + s ， ( 2 5 ) 其中s + 服从n ( 0 ，盯2 ) 且独立于s 。 下面将引进极大似然估计( m l e ) 进行分析，在置信区间内求出，然后将在限制条件 下讨论，最后将用实例验证本章的分析结论。 2 1 无约束线性模型的参数估计和性质 给出( 2 4 ) 中关于】，的似然方程 w ，盯2 ) = 一罢l o g ( 2 艚2 ) 一专肛即| | 2 ， “i 此可以得到的极大似然估计 _ | b = ( x ix 、) 一x iy ， 拟合值为p ：h y ，其中h = x ( x7 x ) 。1 x7 ，且h 为组成元素是一，的矩阵。 方差盯2 的无偏估计为 ( 2 6 ) ( 2 7 ) 扬州人学硕i j 学位论文 彦2 = 1 1 吾1 2 ( n p ) ， 6 ( 2 8 ) 其中昼：y 一矿为随机误差。 参数置信区- l s j 为 ：愀一铘彦2 f ( p , n - p ；a ) ， ( 2 9 ) 其中f ( p ，朋一p ；口) 表示自由度为p 和，2 一p 的中心f 分布。 因为矽n ( p ，仃2 ( x 7 x ) 一) ，为了得到( 2 5 ) 中x 。的估计，假定服从先验分布 ，f ( 彳7 彳) 。| x 。y ，彦2 ( x7 x ) i 】。逆回归问题是为了取得更好的= x o ( 1 ，y o ，x ) ，所以还需要 考虑风险函数r 。( ，x 。) r 。( ，x o ) = e 口( y o 一磊夕) 2 ， ( 2 1 0 ) 事实上，如果存在x ；使得r 。( ，x 0 ) r ( ，x o ) 对一些来说是不成立的，则x o 是不容 许的。否则，是容许的。 r 。( ，) = e 口( y o 一7 ) 2 = y o 一2 y o x j ( x r x ) 一x r l ，+ 2 = y o 一2 y 。x ；( x r x ) 一x 7 】，+ + x j ) 2 = y ；一2 y o x ；( x7 ) 一1x7 y + x j 子2 ( 7 x ) - ix o + 磊( x7 x ) - 1x 7 。y 2 r ( ，x 0 ) 佩0 = 一2 y o ( 7 x ) 一1x7 y + 2 d 2 ( x 7 x ) 一1 + 2 x ；( x 7 x ) 一x r v ( x7 x ) 一x 7 1 y = 一2 ( x 7 ) 一1 x7 1 y + 2 d - 2 ( 7 x ) 一1 + 2 ( x7 x ) 一1 x 7 y y 7 y ( x7 x ) x o 。0 ， 得到 有 得 冈此 矗：p ：( x ，x ) 一l + ( x 7 x ) 一1x7 7 x ( x 7 。x ) 一1 】- 1 ( x 7 x ) 一1x 7 y y o = ( x7 x ) ( 子2 x 7 x + x 7 。7 x ) 一1 x7 y y o ， ( 2 1 1 ) ( 么+ m n ) = a 一一a 一1 m u + n a 一1 m ) 一1 n a ， x “0 - - 磬器， ( 2 1 2 ) 施政线性与广义线性模型逆【口j 归统计分析 一7 n ( o ，仃2 ) ， ( n p ) 子2 e r 2 z 2 ( 玎一p ) ( y o - - x j ) 彦t ( n p ) ， 得到x 。置信区i b j 为 ：( 儿一磊矽) 2 彦2 f ( ，2 一p ；口) ， 此处t ( n - p ，o c ) 为服从自由度为n - p 的学生分布。 2 2 有约束条件线性模型的参数估计和性质 如果对加以限制条件，如下 a x o = 口， 其中a 为m xp 维矩阵，且r ( a ) = m 。 运用l a g r a n g e 乘子法，构造辅助函数 l = r 。( ，) + 2 2 7 ( a x o 一口) ， 求偏导 ：o l 一：一2 y o ( x7 1 x ) 一1x 7 y + 2 d 2 ( x7 x ) 一 u x 0 + 2 x ；( x x ) _ 1x7 r ( x r x ) - ix 7 】，+ 2 a r 五 i o l ：2 ( a x o - a ) ， a 五 张 到限制条件下的x 。估计 刮。= 毋2 ( z 7 x ) - i + ( 爿7 1 x ) 一1x 7 y y 7 x ( x 7 彳) 一 - 1 y o ( x 7x ) 一1 x7 y - a 7 互 = 毛 子2 ( x 7 x ) - i + ( x 7 x ) 一x r y y7 x ( x r x ) 一 彳r 互 又因 a x o = 口， 得 a = a y e 。一彳 彦2 ( 彳7 x ) 一l + ( x 7 。z ) 一1 x 7 盯7 x ( x 7 x ) 一1 彳7 互 互= m 子2 ( 研1 + ( 酊x ( x 7 计1 - 1 ) - | ( 爿或一口) 鬈= 岛一 彦2 ( x 7 x ) - i + ( x 7 x ) 一x 7 盯7 x ( x 7 x ) 一 彳7 彳 彦2 ( x 7 x ) 一l + ( x 7 x ) 一1x 7 y y 7 x ( x 7 1 x ) 一1 - ia t ( 4 毛一口) ， 得剑置信区f 日j 为 ( y 。一x ；夕) 2 彦2 f ( 耽一p ；口) ， 7 一 ( 2 1 3 ) ( 2 1 4 ) ( 2 1 5 ) ( 2 1 6 ) ( 2 1 7 ) 扬州人学倾f j 学位论义 其中t ( n - p ，为服从自由度为n p 的学生分布。 2 3 数值模拟 下面将用实例验证上面的结论。假设而，x ：n ( o ，1 ) ，n = 1 0 0 ，= ( 1 ，1 ) r ， 表1 显示了重复实验1 0 0 0 次，分别从两个不同的标准差得到x 。的均值和标准误差的 值。 表i 重复实验1 0 0 0 次，得到x o 的均值和标准误差 x o ( 1 ) x o ( 2 )x o ( 1 )x 0 ( 2 ) 均值 0 9 9 6 60 9 9 5 6 均值 】0 1 0 21 0 0 8 5 = 1仃= 2 标准误差0 5 0 8 40 5 0 8 8标准误差0 7 0 7 30 7 0 4 4 表2 显示了重复实验1 0 0 0 次，在限制条件( 1 ，1 ) 7 x 0 = 2 下分别从两个不同的标准差得到 的均值和标准误差的值。 表2 重复实验1 0 0 0 次，在限制条件卜得剑的均值和标准误著 x o ( 1 ) ( 2 )x o ( 1 )( 2 ) 均值0 9 8 2 41 0 1 7 6 均 值o 9 8 1 11 0 1 8 9 仃= 1仃= 2 标准误差1 8 2 2 41 8 2 2 4标准误差2 1 9 4 42 1 9 4 4 + f ? 面的数据显示均值是非常接近真实值，但是标准误差偏离稍大，可以说明本文的方 法是有效的。 3 广义线性模型的逆回归统计分析 本章主要讨论了有无约束条件下广义线性模型逆回归的统计问题。 给定广义线性回归模型 】，：1 口7 + x b + e 其中y ，b 和e 分别为船p ，q ps t 挖p 矩阵， 设e n ( o ，) 。 伊i 汁 ，( 3 1 ) 口和1 分别为px l 和门l 维向量，且假 多元变量x 由下面条件限制，l x 。= o 和x ：n = 1 ，= l ，z 4 1 。由经典估计得到b = ( x 1 x 、) 一1 x t y 和& = 歹o( 3 2 ) 施政线性j 广义线性模型逆i 口l 归统计分析 9 3 1 无约束广义线性模型的参数估计和性质 3 1 1 广义线性模型逆回归估计的常用方法 对于给定的广义线性回归模型( 3 1 ) 和( 3 2 ) ，希望由观测值组成的l x p 维向量y 。得到 q 1 维未知量， y o = l e t r + 1 瑶b + s + ，( 3 3 ) 其中占是随机误差。若s = 应7 。雪= ( 】，一妨) 7 ( 】，一妇) ，受= l n + x j ( x7 x ) x o ，自由度为 v = ，2 一p q ，则( 1 一口) 置信区间为 ( y o 一歹一雪7 ) 7s ( y o 一歹一杏7 x o ) s ：( p v ) c ，( 3 4 ) x j 町以写成y o = 歹+ b 7 x o ，其中是q x l 维未知向量，y 。是己知向量。如果在( 3 4 ) 左边是 未知量的最小均方误差估计，它可以用下面的形式表示 m = ( y o 一歹一台7 x o ) 7 s ( y o 一歹一雪r x o ) = ( y o 一歹) ，s ( y o 一刃一( y o 一刃7 。s 。1 台r x o x o r 台s ( y o y ) + x 0 7 台s 一台7 x o 尝：一2 s 一，( 一歹) + 2 a s 憎铲0 0 螽s 一1a f x o = 螽s ( y o 一了、) 别此由上面的式子可以得到未知量x 。的估计 x o = ( a s 一1 ) 一b s ( y o 一歹) ， ( 3 5 ) 容易证明：磊是无偏的【引。 另一一种获得x 。估计的方法是通过逆回归估计模型。如下模型膏= y b ! ，( x 一碧) 7 ( x 一力) 服从最小二乘估计。这里岩，y 和宣分别为，2 q ，n xp 和p xq 矩阵，毒为最小二乘估计。 毒= ( 】，7 】，) 一m yx ，( 3 6 ) 如果是1 p 维向量，则；c o ，如下给出 南，= x r r ( r7 y ) 一盛， ( 3 7 ) 两个估计相互关系也已经在b r o w n ( 1 9 8 9 ) 给出 x “0 ，= z 7 ( ，+ 凰一1 雪7 x 7 彳) 一1 ( 凰一1 雪7 ) 岛 ， ( 3 ，8 ) 这罩，x o ，可以看着为翕加权值，当x 和】，高度相关时，b r o w n 【4 】中已经显示经典估计和 逆旧归估计是非常接近的。 当e 为f 态分布，有肌个观测值得到通常的置信区间可以写为如下形式1 4 】： x 0 7 ( b s 一1 台r k ( x x ) 。1 ) x o 一2 ( y o 一& ) r s 一台7 x o + ( 死一) ，s 一，( 一& ) 一k ( ! + ! ) 0 ( 3 9 ) 这罩七：pf ( p , 1 ，口) 和1 ，：，? 一p q 。如果p = q ，矩阵厨一1 雪7 一k ( x 7 x ) 一1 和椭球置信区l 日j v 足i ：叮以确定的。当p s l z i ( 3 2 8 ) ( 3 2 9 ) 扬州人学坝：l 学位论文 最后，结畲( 3 2 6 ) ，( 3 2 7 ) 羊1 3 ( 3 2 8 ) ，得到等式( i i i ) 。 引理3 假设矽，f 牙f j g 如引理2 中所定义，乎( 矽，g ) = o g b s z ，得到 t rv d s ( b 7 善( 9 ，g ) 一z ) ( b 7 善( 妒，g ) 一z ) ， = 2 ( 0 ，s 一b 7 g b s 一z ( z 7 s 一1 z 一7 s 一1 8 7 g b s 一1 z ) + 2 c , o z 7 s - 1 b r ( 一( o g f ) ( f d f ) 7 1 g b s 叫z + 妒 护( f g ) 】( z r s z 一妒z 7 s b r g b s z ) + c p ( z 7 s 一1 8 7g b s z q o z 7 s 一1 8 7 。g f g b s z 、 1 6 证明：t r d s ( b 7 善( 矽，g ) 一z ) ( 曰7 善( 矽，g ) 一z ) 7 = 2 b ( b r 鼽g ) 一z ) p 鼽g ) 一z ) 。 ( 3 3 0 ) ， ， = 2 - ( d s c p ) b 7 1 g b s - z + c p d s b r g b s z ) c o b7 。g b s - 1 z z ) ， b i 此，在( 3 3 0 ) 最后式子的右边的第一个括号内，应用引t 里2 ( i i ) 第1 个条件和引理2 ( i i i ) 为第2 个条件去获得希望的结果。 接下来分析多元正态分布的s t e i n 等式和w i s h a r t 分布的s t e i n h a f t 等式。由这些等式 - n j 以得到估计善( 矽，g ) 的风险函数的无偏估计。 引理4 【1 9 j 假设z 。( 7 1 孝，) ，并设“是一个p x l 维的向量，其中元素是z 的可微函 数，呵得e ( z 一7 f ) 7 一“ = e e t r ( v ：u r ) 存在。 引理5 【2 0 】设s w p ( z ，z ) ，且设h 是一个p p 维矩阵，其中元素为s 的可微函数，可 得 e e t r ( z m l = e ( 一p 一1 ) t r ( s h ) + 2 t r ( d s h ) 。 定理3 1 的证明从引理4 和5 ，善( ，g ) 在损失函数l 下的风险函数可以表述为 尺( 善( 妒，g ) ，善) = e 三( 善( 缈，g ) ，孝) ：e - ( z 7 f ) 7 1 一1 ( z 一7 f ) + 2 ( z 一7 f ) 7 一1 ( b 7 乡( 伊，g ) 一z ) + 驴f 一( b ，善( 够，g ) 一z ) ( 艿7 芋( 伊，g ) 一z ) 7 】 = e ip + 2 , r v ：( b 占( 妒，g ) 一z ) r ) + ( 1 - p 1 ) t r s 一手( 妒，g ) 一z ) ( b 7 善( 妒，g ) 一z ) 7 1 + 2 t r d s ( b 7 。善( 9 ，g ) 一z ) ( b r 善( 妒，g ) 一z ) 7 1 因此，期望的结果能够由引理2 ( i ) 并1 1 3 得到，分别为第2 和最后个条件为上述等式最后 施政线性j 广义线抖模型逆i 口i 归统计分析 右边括号内。 接下来，评价经典和逆回归估计的风险，给出下面的引理。 引理6 假设f 是一个g 日维对称正交矩阵。然后有 ( i ) ( f d i ) 7 。f = 一( g + 1 ) f 2 ， ( i i ) ( f d i ) 7 ( l + f ) = - ( 1 2 ) 0 广f ) 一 ( g + 1 ) 一( + ，) 一( 护【( + f ) 一1j ) ，。) ， 证明：( i ) 从引理l ( i ) 和( i i ) ，可以看到 0 = 砩( 胛- 1 ) = ( d i f ) f - 1 + ( f d i ) 7 f 一 = ( g + 1 ) f 一2 + ( 肋f ) ，f - 1 山此得等式( i ) 。 ( i i ) 类似的，从引理l ( i ) 和( i i ) 得到 0 = d ， ( ，q + f ) ( ，q + f ) 。1 = ( g + 1 ) ( + f ) 一1 2 + ( + f ) d f 7 ( i q + f ) 叫 从引理l ( i ) 和( i i i ) 得到 o = d ，( i q + f ) 一1 ( 1 q + f ) = d ，? ( + f ) 一1k ，。+ f ) + ( 护 ( l + f ) b i 。2 + ( i q + f ) 一1 2 队l 此， 可以写出上面的等式如下，分别为， ( i q + f ) d ，) 7 ( i q + f ) = 一( g + 1 ) ( + f ) 2 ， d 1 ( + f ) 。i = - ( t r ( i q + f ) 。i ) ( + f ) 2 一( l + f ) 2 ， ( 3 3 1 ) ( 3 3 2 ) 得到 ( + f ) d 1 7 ) 7 ( i q + f ) = d f ( i q + f ) _ 1 + ( f d f ) 7 ( i q + f ) ， ( 3 3 3 ) 队l 此，综合( 3 3 1 ) 一( 3 3 2 ) ，得到等式( i i ) 。 推论1 的证明从定理3 1 和引理6 ( i ) 可以很容易得证。 定理3 2 的证明在损失函数l 下，估计( 3 1 8 ) 的风险可以表示为 尺( 孝( ) ，孝) = e l ( 善( 1 y ) ，孝) i = e f p 一4 ( t 一t 2 ) z r s - 1 b r f - 1 b i s r z + 2 q ( 1 - g t ) + ( ，一p 一1 ) ( z 7 s 1 z 一( 1 一2 t 2 ) z 7 1 s 一b 7f 一1 b s z ) 一4 ( 妙7 f 一t 2 ) z 7 s 一b 7 f 一b s 一z ( z 7 s z 一( 1 一y t ) z 7 s 一1 8 7 f 一b s z ) + 2 q ( 1 一妙t ) ( z r s z z r s b r f b s z ) 】 扬州人学硕i ：学位论义 其中f = z r s z 。这罩，假设气= z r s 一留7 f 一1 b s 1 z ，因此，麝口孚) 风险误差可以写成如一f 形式 r ( 芋( 矽) ，亭) 一尺( 善，孝) = e 卜4 ( 矽f 一矽f 2 ) t o 一2 q o f + ( ，一p 一1 ) 0 2 t o f 2 ( 3 3 4 ) - 4 ( 矽t 一矽f 2 ) f o 卜( 1 一c l o t 。) 一2 q b ( t - t o ) t 】 。 由于假定了缈0 ，c , o 是非减的，t t o 0 ，在式子( 3 3 4 ) 右边的在括号中的第4 个条件 可以如下分析 一4 ( t - 痧i t 2 ) t - ( 1 - 矽t ) t o ) = - 4 矽t o ( t - t o + 口k t o t + 4 q k t o o - t o ) t 2 + 4 2 吒2 t 3 ( 3 3 5 ) o + 4 b ( t t o ) t + 4 2 f ：f 2 类似地，得到 一4 ( 够7 t ( o t 2 ) t o 4 乎o t o t 2 和一2 q ( o t 一2 q ( a t o t 2( 3 3 6 ) 由此，结合( 3 3 4 ) 一( 3 3 6 ) ，得 r ( 善( ) ，孝) 一r ( 善，孝) e 1 4 0 t o t 2 2 q q k t o t 2 + ( z p 一1 ) 矽2 t o t 2 4 矽o t o ) t + 4 0 2 t o t 2 2 q o ( t t o ) t 】 = e ( z p + 3 ) 0 2 2 ( q 一2 ) o t o t 2 - 2 ( q 一2 ) 矽( t - t o ) t e l ( - p + 3 ) 0 2 - 2 ( q 一2 ) 矽) 气，2l 由此，完成了证明。 推沦2 的证明在定理3 1 中用v 代替s ，再使用引理6 ( i i ) ，立即得到要证的结果。 ( 2 ) 定理4 1 矛i 4 2 的证明 在这一节，将给出第3 节中定理和推论的证明。统计量( y b ，v ，v 。，) 是如3 1 4 中所定义 的。首先，定义一些符号。 设甜= ( 甜，“。) 7 是一个p x l 维向量，它的元素是y = ( m ，y p ) r 的函数， 且 y 。，= ( ，y o p ) 7 1 。并设v ，和v ，o 是y 和的p xl 维的微分算子，分别定义 ( v y u r 驴善秕v 。口2 番 ( 3 3 7 ) 其中i = l ，p ，j = 1 ，p 。 进一步，设w 三w ( s ) = ( ) 是一个g q 维矩阵，w ，表示( f ，j ) 元是s = ( 瓯) 的函数。设 这单 其中i = a 时p 。= 1 ， i a d s w 。：pd 。 ( 3 3 8 ) 口= l 丸= 扣去 时巧。= 0 。设v = ( v k ，v ：j 州) r 和v 。= ( v 。t 一，v ? ) r 其中 施政 线性与广义线性模型逆回归统计分析1 9 _ 一 7 = r l + m q 一2 ，v2 ( v i 一) 其中i = 1 ，z 。因此，得到s = v r v + v 0 7 v o = ：；y7 v ，。 改进关于在k u b o k a w