（应用数学专业论文）回归系数的混合估计和最小二乘估计的相对效率.pdf

独创声明 y1 0 1 2 4 8 1 本人声明所呈交的学位沦文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含为获得 ( 注：如 没有其他需要特别声明的，本栏可空) 或其他教育机构的学位或证书使用过的材 料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明 并表示谢意。 学位论文作者签名：j 小高 刀 导师签字：乓欠 学位论文版权使用授权书 本学位论文作者完全了解堂撞有关保留、使用学位论文的规定，有权保 留并向国家有关部门或机构送交沦文的复印件和磁盘，允许论文被查阅和借阅。 本人授权堂撞可以将学位论文的全部或部分内容编入有关数据库进行检索，可 以采用影印、缩印或扫描等复制手段保存、汇编学何论文。( 保密的学位论文在 解密后适用本授权书) 学位论文作者始j 小为 导师粹姜k 签字闩期：2 0 06 年h 月j l i _ 1签字门期：2 0 0f 年，。月fj 门 山东师范大学硕士学位论文 回归系数的混合估计 和最小二乘估计的相对效率 于家富 ( 山东师范大学数学科学学院，济南，山东，2 5 0 0 1 4 ) 中文摘要 线性模型中参数估计的相对效率是近年来讨论较多的一个问题，在线性模型 的参数估计类中，比较常见的有两种，一种是参数的最佳线性无偏估计( b l u e ) ， 另一种是参数的最小二乘估计( l s e ) 首先，我们考察以下两个线性模型： y = x p + p ，e ( e ) = 0 ，c o v ( e ) = 盯2 i ，( 1 ) y = x f l + e ，e ( e ) = o ，c o y ( e ) = 仃2 v ( 2 ) 在模型( 1 1 1 ) 下可估函数c p 的b l u 估计就等于s 估计，但是在许多 实际问题中，经过残差分析后我们不能认为对误差向量的假设是合适的它们的 误差方差可能不相等，也可能彼此相关，此时协方差阵为c o y ( e ) = e r 2 v ，那么此 时真正的模型就是模型( 1 1 2 ) 在此模型中，当矩阵x 列满秩时，口是可估的， 英最小二乘估计是p = ( x x ) 。x 甲，而b l u 估计是+ = ( x t z 一1 ) 一1 x 矿y 但是 在一些理论和实际应用问题中，v 往往包含一些未知参数若记这些未知参数为 口，对于这种情况，我们需要用口的某种估计来代替卢+ 中的0 ，这就导致了所谓 的两步估汁遗憾的是，目前我们对两步估计的统计性质，特别是小样本性质所 知甚少另一方面，在某些情况下，我们根本无法得到的0 的任何估计正是由于 这些原因，人们往往不得不回过头来使用最小二乘估计岔，用l s 估计替代曰三u 估计就要蒙受一些损失，有时这种损失可以是很大的，因而研究这种损失的大小 显得尤为重要鉴于此，人们提出s 估计相对效率的概念 从不同的准则出发，可以定义不同的相对效率在模型( 2 ) 中当矩阵x 满秩 ，。 。些堡塑丝查兰塑! ：兰篁笙兰 时，是可估的，其最小二乘估计为分= ( 石：r ) 1 x y ，其b l u 估计为 + = ( x 矿一1 x ) 1 x v y ，矽对卢+ 的一种相对效率定义为二者的广义方差之比，即 e ( ) = 易见o 弓( 声) 1 ，q ( 卢) 愈接近于1 ，用l s 估计替代肛u 估计在估计精度 上所蒙受的损失就越小；n kq ( 卢) 愈接近于零，这种替代在估计精度上的损失 就越大但这种定义方式存在一个明显的缺陷，即q ( 声) 对设计矩阵的依赖性较 弱，为了弥补这种不足，1 9 8 9 年刘爱义、王松桂提出了一种新的相对效率： 岛( ) = t r ( c o v ( f l + ) ) t r ( c o v ：) ) 黄元亮、陈桂景在1 9 9 8 年引入另一种相对效率： 椰，= 跚 陈孝新在2 0 0 4 年引入了另外一种新的相对效率： 椰，= 跚 之后，许多学者又对几种相对效率之间的关系以及它们的上下界进行了研究，得 出厂相庵的结果 本文主要讨论了在具有附加信息的线性回归模型中，回归系数的混合估计和 最d , - 乘估计的相对效率问题，在误差矩阵为正定的数量矩阵时，定义了一种新 的相对效率，讨论了新的相对效率与其它相对效率的关系，并导出了它的上下界 在误差矩阵为般的证定矩阵时，提出了一种新的相对效率，给出了它的下界 我们主要得到如下结果 篇 山东帅范人学顺l 学位论文 定理2 2 1 e 5 = 1 咎岛= 1 铮e 2 = 1 铮= 1 定理2 2 2 在模型( 2 ，1 3 ) 下，对于卢的任意两个无偏估计层，属，若 c o y ( p , ) c t d v ( 屈) ，n e a p , ，卢( 口2 ) ) q ( 夕，卢( c r 2 ) ) 定理2 2 4 若x x 与h 矽。1 日乘积可交换，则有 ( ，( 仃2 ) ) = ( + d 2 t ) 一9 p y f 其中 ，九为x x 的特征根， g p 为h w 。h 的特征根 定理2 3 1 - 设p ( o - 2 ) 与声分别由( 2 1 4 ) 和( 2 1 5 ) 给出，e s 由( 2 1 1 4 ) 定义， 则我们有： 其中丑= 4 ( x x ) ，4 = 丑( 石) ，b 1 ，p ，分别为x x 和百的特征根，从大剑小排列 g = ( x x ) 2 g ( x x ) ! ，g = h 矿1 h 0 定理3 2 1 假设q 0 2 巴 0 为x x 的特征根，点疋吒 0 为 h w1 h 的特征根，y 。托k o 为v 的特征根，则有 罂跗学 山东师范天学硕l t 学位论文 ! ( q y i l + 盯! 瓯) “ e 5 p4 上l _ 2 5 一，+ ；o - 1 - p 一r + l 关键词：线性回归模型，混合估计，最小二乘估计，相对效率 协方差矩阵，上界，下界 分类号：0 2 1 2 1 山东师范人学坝l 学位论文 t h er e l a t i m ee l f i c i e n c i e so fm ix e de s t i m a t o rw i t hr e s p e c t t ol e a s ts q u a r ee s t i m a t o ri nl i n e a rr e g r e s s i o nm o d e j i a f uy u s h a n d o n gn o r m a lu n i v e r s i t y ，j i n a n ，s h a n d o n g ， 2 5 0 0 1 4 p e o p l e sr e p u b l i co fc h i n a a b s t r a c t t h er e l a t i v ee f f i c i e n c i e so fp a r a m e t e re s t i m a t o r si nl i n e a rm o d e l a r et h ep r o b l e m sw h i c hw et a l ka b o u to f t e n u s u a l l yt h ep a r a m e t e r e s t i m a t o r sh a v et w ok i n d s ，o n ei st h eb e s t 】i n e a ru n b i a s e de s t i m a t o ro f t h eu n k n o w np a r a m e t e r ( b l u e ) ，a n dt h eo t h e ri st h el i n e a rs q u a r e e s ti m a t o ro ft h eu n k n o w np a r a m e t e r ( l s e ) f i r s tw ec o n s i d e rt h ef o l l o w i n gm o d e l s ： y = x f l + e ，e ( 0 = o ，c o v ( e ) = 盯2 i ，( 1 ) y = x f l + e ，e ( e ) = o ，c o v ( e ) = 盯2 v ( 2 ) 莲n m o d e l ( 1 ) ，w ek n o wt h a tt h eb e s tl i n e a ru n b i a s e de s t i m a t o ro f f u n c t i o n c 口i se q u a lt oi t sl i n e a rs q u a r ee s t i m a t o r ，h u ti nm a n yq u e s t i o n s ，w e c a 3 tt h i n kt h a tt h eh y p o t h e s i so ft h ee r r o rv e c t o r sisr i g h t b e c a u s e t h e i rerrofd e v i a t i o nm a yb en o te q u a lt oe a c ho t h e r ，a n dm a y b ec o 、f e f a t iv e t oe a c ho t h e r ，a tt h i st i m e ，i t sc o v a r i a n c ei s c o v ( e ) = 盯2 v ，a n dt h em o d e l b e c o m e sm o d e l ( 2 ) ，i nt h i sm o d e l ，w h e nt h em a t r i xh a sc o m p l e t er a n k ， i se s t i m a t i n g ，a n di t sl e a s ts q u a r ee s t i m a t o ri s 口= ( x x ) x t ，i t sb e s t l i n e a ru n b i a s e de s t i m a t o ri s 声+ = ( v “x ) “z 矿一y ，b u ti nm a n yt h e o r ya n d u t i l i t yp r o b e m s ，vo f t e ni n c l u d e su n k n o w np a r a m e t e r s i fw ew r f t et h e 6 坐查壁婆盔兰竺! 兰些堕苎 u n k n o w n p a r a m e t e r s0 ，w es h o u l du s et h ee s t i m a t o ro f 口t ot a k ep l a c e 0jn 口+ ，a n dt h i sl e a dt , ot w os t e p se s t i m a t o r b u ti ti sap i t yt h a tw e a t en o tf a m i1i l rw it ht h es t u d yo ft w o s t e p se s t i m a t o r s s t a t i s t i c a l p r o p e r t i e s ，a n ds o m e t i m e sw ec a n to b t a i na n ye s t i m a t o ro f 咿，s ow et u r n t ou s el e a s ts q u a r ee s t i m a t o r 彦，w h e nw eu s el e a s ts q u a r ee s t i m a t o rt o t a k ep l a c eb e s t 1 i n e a ru n b i a s e de s t i m a t o r ，w em a ys u s t a i ns o m el o s s a n d s o m e t i m e st h el o s sc a nb e c o m ev e r yl a r g e ilisv e r yi m p o r t a n tt os t u d y t h i s k i n d o fl o s s s o p e o p l ep r o l j o s g + t h e ! d e i b i t i o no fr e l a t i v e e f f i c i e r i c i e s f r o md i f f e r e n t p r i n c i p l e s ，i t c a nd e f i n e d i f f e r e n tr e l a t i r e e f f i c i e n c i e s i nm o d e l ( 2 ) ，w h e nt h em a t r i x x h a sc o m p l e t er a n k ，口i s e s t i m a b l e ，i t sl e a s ts q u a r ee s t i m a t o ri s 矽= ( x x ) 一x t ，a n dit sb e s t 1i n e a ru n b i a s e de s t i m a t o ri s + = ( x v 。盖) 。1 j 矿y ，o n ek i n d o fr e l a t i v e e f f i c i e n c i e sa b o u tj a n d + i st h ep r o p o r t i o no ft h e i rg e n e r a lv a r i a n c e q ( 卢) i t i sc l e a rt h a t 0 6 1 ( 方) 1 ，b u ti t ss h o r t c o m i n gi sl e s s ( 1 e p e n d i n g 。) n t h ed e s i g nm a t r i x 。oi m p r o v et h i sp o i n t ，i n1 9 8 9i ，1 u a i y ia n d w a n g s o n g g u i p r o p o s ean e wk i n d o ft e l a t i r ee f f i c i e n c y ，i ti s 砸，= 篙t r o 瓣v i 【i l l l a t e ri u a n g y u a n li a n ga n dc h e ng u ij i n gg i v ea n o t h e rk i n d0 f 、e l a t i v e 7 篇 “东师范大学坝l 学位论文 e f f i c i e n c y ，岛( 声) a n dc h e nx i a o x i ng i v e se 4 ( f 1 ) t h e ya l s os t u d yt h et e l a t i o n so ft h e s er e l a t i v ee f f i e i e n c i e sa n dt h e i r l o w e rb o u n d sa n du p p e rb o u n d s i nt h i sp a p e r ，w ed i s c u s st h e r e l a t i v ee f f i e i e n c i e so fm i x e de s t i m a t o r w i t hr e s p e c tt ol s e ( l e a s ts q u a r ee s t i m a t o r ) i na1 i n e a rr e g r e s s i o nm o d e l w h i c hh a sa d d i t i o n a li n f o r m a t i o n ，w h e nc o v ( e ) i sap o s i t i v ed e f i n i t e q u a n t i t a t i v em a t r i x ，w ed e f i n ean e wr e l a t i v ee f f i c i e n c y ，d i s c u s st h e r e l a t i o n so ft h en e wo n ea n do t h e r s ，o b t a i ni t su p p e rb o u n da n dl o w e rb o u n d w h e n c o v ( e ) i sac o m m o np o s i t i v e d e f i n i t em a t r i x ，w ea l s og i v ean e w e f f i c i e n c ya n do b t a i ni t sl o w e rb o u n d i nt h i st h e s i sw eo b t a i nt h ef o l l o w i n gr e s u l t s t h e o r e m2 2 1 e s = 1 舒e 3 = 1 e 2 = 1 e l = 1 t h e o r e m2 2 2u n d e rm o d e l ( 2 1 3 ) ，vu n b i a s e de s t i m a t i o n 届，展 翅夕- ，i f c o v ( f 1 1 ) c o y ( p 2 ) ，t h e n 岛( 届，( 盯2 ) ) q ( p ，卢( 矿2 ) ) t h e o r e m2 2 4i fx xm u l t i p l yh w hi sc o n v e r t a b l e ，t h e n 岛( 屈俄矿) ) ，一a r e c h a r a c t e r i s t i cr o o t so f x x ，7 l 一，r p a r ec h a r a c t e r is t i c r o o t so fh 僻7 “h t h e o r e m2 3 1 i f ( 盯二) a n dpc o m ef r o m ( 2 14 ) a n d ( 2 15 ) ，吃i s 山东滞范人学硕 。学位论文 d e f in e d b y ( 21t 4 ) ，t h e n 硝一1 十盯2 刚1 i _ 簪， ! 五 ( 1 + 盯二戌) 丑 i = 1 丑= 矗( x x ) ，4 = 五( 召) ，i = l ，p ，a r ec h a r a c t e r i s t i c r o o t so f 爿xa n d 召， 召= ( x x ) 一j g ( x x ) ，g = h w1 h 0 t h e o r e m3 2 1 i f q 吼2 吼 0 a r ec h a r a c t e r i s t i cr o o t so f x 7 2 点嘎吒 0 a r ec h a r a c t e r i s t i cr o o t so fh 阿h ，7 l 以， 0 a r ec h a r a c t e r i s t i cr o o t so fv ，t h e n z ( o x 。+ 盯2 4 ) 一1 啦专忑p - c + l r f 1n i 二一 f k e y w o r d s ：1 i n e a rr e g r e s s i o nm o d e l ，m i x e de s t i m a t o r ，l e a s ts q u a r e e s t i m a t o r ，r e l a t i v ee f f i c i e n c i e s ，c o v a r i a n c em a t r i c e s ，l o w e rb o u n d u p p e ￥b o u n d c l a s s i f i c a t i o n ：0 2 1 2 1 9 山东帅范大学硕卜学位论史 第一章预备知识 线性模型中参数估计的相对效率是近年来讨论较多的一个问题，在线性模型 的参数估计类中，比较常见的有两种，一种是参数的最佳线性无偏估计( b l u e ) 另一种是参数的最小二乘估计( l s e ) 首先，我们考察以下两个线性模型： y = x 口+ p ，e ( e ) = o ，c o v ( e ) = 盯2 i ， y = x p + p ，e ( e ) = o ，c o v ( e ) = 仃2 v ( 1 1 1 ) ( 1 1 2 ) 在模型( 1 1 1 ) 下可估函数c p 的b l u 估计就等于三s 估计，但是在许多实 际问题中，经过残差分析后我们不能认为对误差向量的假设是合适盼它们的误 差方差可能不相等，也可能彼此相关，此时协方差阵为c o v ( e 1 = 盯2 v ，那么此时 真正的模型就是模型( 1 1 2 ) 在此模型中，当矩阵x 列满秩时，是可估的，其 最小二乘估计是p = ( 棚) 一1 盖7 ，而舭u 估计是+ = ( 石矿一1 x ) 一x v y 但是在 一些理论和实际应用问题中，v 往往包含一些未知参数若记这些未知参数为目， 对于这种情况，我们需要用目的某种估计来代替口中的0 ，这就导致了所谓的两 转估计遗憾的是，目前我们对两步估计的统计性质，特别是小样本性质所知甚 少另一方面，在某些情况下，我们根本无法得到的0 的任何估计正是由于这些 原因，人们往往一i 得不回过头来使用最小二乘估计西，而由文献 1 2 可知，只有 当下列两组条件中的某组条件成立时模型( 1 _ l ，2 ) 中的l s 估计才等了其脱， 估计 第一组： ( 1 ) 爿陀= 0 ： ( 2 ) v = x a l x + z a 2 z 7 ： ( 3 ) v = x d , x7 + z d 2 z + 仃2 ， 其中，z = x 1 ，并且a 。，a ! ，d 1 ，d 2 为对称矩阵 第二组： 山东帅范人学顺i 。学位论文 v x = x b ，对某个矩阵b l ( x ) 由矿的r = r ( x ) 个特征向量张成 b y 为对称阵，其中r = x ( x x ) 一x 如果这些条件不被满足，用s 估计替代b l u 估计就要蒙受些损失，有 时这种损失可以是很大的，因而研究这种损失的大小显得尤为重要鉴于此， 人们提出l s 估计相对效率的概念 从不同的准则出发，可以定义不同的相对效率在模型( 1 1 2 ) 中当矩阵工 列满秩时，是可估的，其最小二乘估计为声= ( x x ) 。1 j l y ，其b l u 估计为 卢+ = ( j v 一1 z ) 一1 矿一y ，p 对+ 的一种相对效率定义为二者的广义方差之比，即 q ( 卢) 易见o q ( p ) l ，q ( p ) 愈接近于1 ，用l s 估计替代彪【，估计在估计精度 上所蒙受的损失就越小：相反岛( ) 愈接近于零，这种替代在估计精度上的损失 就越大但这种定义方式存在一个明显的缺陷，即q ( 矽) 对设计矩阵x 的依赖性较 弱fx 用可逆矩阵相乘后，q ( 夕) 仍保持不变，并且对于广义g m 模型没有意 义为了弥补这种不足，1 9 8 9 年刘爱义、王松桂提出了- * 十g i 0 0 相对效率： 彬，= 篙裟 然两乞( 矽) 的大小仅取决于c o y ( # + ) 和o v ( 矽) 的对角线元素，与其它的元素 无关，也就是说与+ 和声的各分量是否相关没有关系于是，黄元亮、陈桂景在 1 9 9 8 年引入另一种相对效率： 棚，= 鼢 在这样一种定义中，c o v ( p + ) 和c o y ( 3 ) 的每个元素都对巳( 声) 产生了影响， 同时克服了对设讨阵的依赖不足和应用的局限性 山东师范人学坝卜学位论文 巳( ) = 之后，许多学者又对几种相对效率之间的关系以及它们的上下界进行了研究，得 出了相应的结果 符号说明表 a 0a 为对称半正定矩阵 a 0a 为对称正定矩阵 a ba b 0 f a 矩阵一的行列式 一一 矩阵a 的广义逆 阳肚 矩阵爿的欧氏范数 彳j l ： 矩阵a 的谱范数 护( 一)矩阵a 的迹 r ( a 1矩阵4 的秩 ( 一)矩阵a 的第i 大特征根 e ( x )随机变量工的均值 v a r ( x 1随机变量z 的方差 c o v ( x ，)随机变量x ，y 的协方差 l s e最小_ - 乘估计 b l u e最佳线性无偏估计 本文按章节顺序编号，例如定理2 1 1 表示第二章第一节第一个定理 ( 2 1 1 ) 表示第二二章第一节第二个式子 l u 东师范入学砸i 学位论文 定义1 1 1 于等于口，若a 一 定义1 。1 2 ，= 1 1 矩阵不等式 设a b s ，如果a b 是非负定阵，则记为a b ，称作a 大 b 正定，则记为a b ，称作爿大于b 洲，：分别表示矩阵的f 范数和谱范数，即 瓜丽，：2 ( k 。( 爿瞬2 删血i ： 这里a 。表示矩阵的最大特征根 定义1 1 3 如果n 阶矩阵爿满足 a 7 = a 则称4 为h 阶h e r m i t e 矩阵其中j 表示以a 的元素的共轭复数作元素的矩阵 定义i 1 4 设d = ( 略) 。，呜o ，f ，j = 1 ，若d 1 。一。，d l 。= 1 。，则称一 为双随机阵，其中1 。= ( 1 ，n ) 7 引理1 1 1 设a ，b s ，则有： 一b 铮一a 一b ，a b - a 4 + b 0 ，a 0 ，b 0 j 4 + b 0 证明以上性质由定义即可得出 弓i 理1 i 2 。1 最a ，b s ，m 0 有 a b 土( 爿) 2 ( b ) ，i = 1 ，r ，“ a b j ( 一) ( 口) ，i = 1 ，一，n 证明见文献 8 3 8 页 弓l 理1 1 3 若b a 0 ，厥u 有： t r ( a ) t r ( b ) ，d e t ( a ) d e t ( b ) ， i a i t ， 0 ，则b 一1 a 一1 0 若 a b 0 则b 一1 a 一1 0 证明见文献 6 2 0 6 页 引理1 1 6 。1 设一为n 阶正定阵，则有一一- ( t r a ) 一 - 0 证明见文献 3 引理1 1 7 6 设工和y 均为n l 向量，它们的元素都按降序排列，d 是任 意双随机阵，则z 萝x o y x y ，其中y = ( m ，儿) ，y l 儿，歹= ( 只，一，m ) 证明见文献 6 4 b 东帅范人学碳i 学位论文 1 2 关于特征值的不等式 对任一”阶对称矩阵a ，我们用丑( 爿) 表示爿的第i 大特征根，即 ( 爿) 丑( 一) 2 一2 ( a ) ， 引理1 2 1 川 设爿，b 为确r h e r m i t e，且a 0 ，b 0 ， ( 曰) 是b 的最大 特征根，则有： 0 t r ( a b ) ( b ) t r ( a ) t r ( b ) t r ( a ) 证明见文献 7 1 7 0 页 弓i 理1 , 2 2 ”1 设4 。0 ，e 。0 ，贝0 ： 以( 爿) ( b ) ( 彳曰) a ( 4 ) ( b ) i = 1 ，z 证明见文献 7 引理1 2 3 ”1 设a ，b 为阶h e r m i t e 阵，则： ( 1 ) ( 4 + 口) 丑( 4 ) + 五( 曰) ，f 2 j + k 一1 ( 2 ) t ( 一) + 五( 口) 屯+ k - n ( 一+ 曰) j + k h 证明见文献 7 “4 页 引理1 2 4 嘲( p d f h 棚地分割定理) 设一为h 阶对称阵，b 是n x k 列正交阵 即b b = 则有： 则有 r 1 ) 屯一。( 爿) a j ( b a b ) 五( 4 ) ，i = l ，2 ，k ( 2 ) i b a b f 丌五( 4 ) i = 1 证明见文献 6 1 2 9 页 引理1 , 2 5 。1 设一为阶对阵矩阵，记= d i a g ( 4 ，暖，吒) ，点嘎 o ( 1 ) 燃护( r a y ) 2 ( 爿) 点， ( 2 ) r a i n t r ( v a v ) 2 五。+ ，( 爿) j 山东师范火学顺l 学位论文 证明见文献 9 引理1 2 6 【1 设 j = d i a g ( r 一，l p ) ，r 1 r p 0 a 2 = d i a g ( u ，u p ) ，u l2 u 口 0 a 为p 阶正交阵，则有： pp u i t p + ， 0 ，又比如p 满足随机非线性约束p = d ， 而更一般的情况为“= h p + s ，e ( s ) = o ，c o y ( c ) = w 0 这里“为可观测的随机向 量，为已知矩阵，占为误差向量，w 已知 为此，我们需要考虑具有附加信息的线性回归模型： y = x f l + e ，e ( 8 ) = o ；c o y ( e ) = 盯2 ， ( 2 1 1 ) u = 日+ 占，层( 占) = o ，c o v ( s ) = w ( 2 1 2 ) 其中：y = y 。为观测向量，z = 。，为设计阵并且尺( x ) = p ，= 岛。为未知参 数向量，e = 巳。为随机误差向量，仃2 为已知常数；u = “。也为观测向量，h = q 。， 为己知矩阵( 不为抽样所得) 并且秩月( 日) = l ，占= 气。为误差向量，p 和s 不相关 ( 即e 的每个分量和的每个分量不相关) ，w = 彬。，为已知矩阵且秩足( 矿) = ， 将( 2 ，11 ) 和( 2 ：1 2 ) 合并，得到下列线性模型： ( 。y = ( h x ) + ； ，e ； = 。，c 。y ； = 7o i c z ，3 ， 关于上述具有附加信息的线性模型，已有不少文献对其进行研究，其中 2 给出 了模型的基本性质， i 和 5 分别研究了这种模型的几种相对效率用广义最小 二乘法易知模型( 2 1 - 3 ) 中的最佳线性无偏估计( 简 b l u e ) 为( 见文献【2 ) ： 艄( 等倒日九警删叫， 皿， 山东帅范人学顺i 学位论文 我们称( 口! ) 为的混合估计+ 模型( 21 1 ) 中卢的最小二乘估计( 简称l s e ) 为 矽= ( ) 1 x ( 2 ，l ，5 ) 易知声与卢( 仃2 ) 分别为模型( 2 1 1 ) 和模型( 2 1 3 ) 中未知参数的线性无偏估计， 其协方差分别为： c o v ( p f a 2 ) ) = 口2 ( x x + c r 2 h 何。日) ，( 2 1 6 ) c 白v ( 声) = 盯2 ( x ) ( 2 1 7 ) 由引理( 1 1 4 ) 可知 c b v ( 卢( 盯2 ) ) = d 2 ( x x + 盯2 日叫日) _ 1 = 盯2 ( j x ) 一盯4 ( x x ) - 1 h ( c r 2 日( z x ) _ 1 h + 矿) 。h ( x x ) 仃2 ( x x ) = c d v ( 西) ，( 2 1 8 ) 即知在上占w 盯偏序的意义下，混合估计( 盯2 ) 比最小二乘估计分有较小的协方 差阵，这样的结果很容易理解，因为混合估计是综合更多的信息得到的，它比最 小二乘估计更能反映真实情况我们知道在，很大时，矽。不易计算，或驴未知时， 人们常用最小一i 乘估计p 来代替混合估计( 盯2 ) ，这样就产生了误差为了度量 以p 代替卢佃2 ) 所产生的损失，人们引入了l s e 与b l u e 的相对效率，其中文献 1 定义了( 盯2 ) 与p 的两种相对效率： e l = e l ( 卢，卢( j ! ) ) e 2 = 乞( p ，( 口2 ) c o v ( 7 ( a 2 ) ) | 一l c o v ( 矽) i 、t r ic o v ( p 2 ) ) i ) = l r 二 t r i c o v ( p ) i ( 219 ) ( 2 1 1 0 ) 由文献【9 m l o 】的讨论知这两种相对效率的定义都存在不同程度的缺陷，e l 对设 计矩阵x 的依赖性较弱用可逆矩阵相乘后，e i 仍保持不变，并且对于广义 g m 模型它没有意义，e 2 的大小仅取决于c o v ( ? ( c r ! ) ) 和( 1 。v ( 声) 的对角线元 山东师范人学硼i ：q - 位论义 素，与其它的元素无关，也就是说与f l ( c r2 ) 和夕的各分量是否相关没有关系为 了更好的度量替代给估计精度带来的损失，文献 5 定义了两种新的相对效率： 巳= e 3 ( ，? ( o - ：) ) e 4 = 巳( 夕，( 仃2 ) ) 崆堂鲨业 l c 。够) 乳 9 竺堂堕迪 胁( 铣 ( 2 11 1 ) ( 2 1 1 2 ) 本文沿用文献 3 的作法，给出模型( 2 1 3 ) 中线性无偏估计与b l u e 的一个 新的相对效率的定义 定义2 1 1 设口为模型( 2 1 3 ) 中的任一线性无偏估计，令 岛c 矽，c 盯2 ，= 皇专鬻 i c a - ， 岛= ( 夕，( 口2 ) ) ， 其中t y a q 表示a q 的迹 ( 2 1 1 3 ) ( 2 1 ，1 4 ) 设a 为阶实对称矩阵，蒯9 = 彤，4 为a 的特征值，i = l ，2 ，n 我们可 i = 1 以看到当q = 1 时= e 2 ，当q = 2 时e 5 = e 3 ，因此对进行讨论是非常有必要的 显然相对效率岛在。和一1 之间，它越接近i ，用最小二乘估计夕替代混合估 计( 仃2 ) 在估计精度上所蒙受的损失就越小；相反若相对效率e 5 越小( 接近于o ) 则表明用矽代替崩p ! ) 在估计精度上的损失就越大，此时即使后者的表达式比较 复杂，仍以用它为好 山东师范人学硕i ：学位论史 2 2 几种相对效率的关系 定理2 2 1 e 5 = 1 兮e 3 = 1 c 2 = 1 铮b = 1 证明 设c o v ( p ( a ! ) ) = a ，c d v ( 夕) = b ，则有b 兰a 0 ， 从而 丑( b ) 2 ( 4 ) 0 ， i = 1 ，p ，进而有 t r ( a - ) ：t r ( b - ) 营兰邓( 爿) ：窆刀( 占) 五( 4 ) ： ( b v ：1 ，p 护( 爿) ：t r ( b ) 圭丑( ) ：圭乃( 占) 铮五( 4 ) ： ( 口) f ：1 ，一，p pp a i = i bj 营n 五( 4 ) = r 1 五( 占) 营五( 爿) = 丑( 曰) f = 1 ，一，p i i 爿肚：i i 曰肚铮杰智( 一) ：兰霄( 曰) 营丑( 爿) ：丑( b ) f ：1 ，p 故由e 5 ，岛，岛，e l 的定义可知上述结论成立 定理2 2 2 在模型( 2 1 3 ) 下，对于卢的任意两个无偏估计层，压，若 j 嘲属) c b v ( 屈) ，贝a j e s ( i l l ，卢( 盯2 ) ) o ，c d ，从而 丑( c ) ( d ) ，i = 1 ，p ，所以群( c ) 口( d ) o ，i = 1 ，p 由的定义有 篓! 垒：生! ! ：1 2 ：丝t r d q ：t r d q 霹( 晟，p ( a 2 ) ) t r c 9 t r a 9 t r c 9 所以有e a p , ，p 2 ) ) q ( 矽，p 2 ) ) ， 证明设 丑 ， 0 为c o v ( f l ( a 2 ) ) 的特征值，“，“：“， o 为 c o v ( 声) 的特征值，则由( 1 0 y ( 矽) c o v ( p ( a2 ) ) 0 和引理( 1 1 2 ) 可推得 “， 枷1 ，p 令 c = 。m i 叫n ( 2 + ) ， 则 “去 q ( 矽，( 盯2 ) ) ，故上述结论得证 定理2 2 4 若x 与h 何。仃乘积可交换，则有： 岛( ，l ，( c r 2 ) ) = 其中 ，以为x x 的特征根，7 i ，- - ，f ，为h w 。1 日的特征根 证明因为x z 与h 矽。日乘积可交换，所以存在正交矩阵p 使x x 与 日矿。日同时对角化，从而有 p x f x p = d i a g ( ， ，1 = f ，x 翼= p a p p ( 日w h ) p = d i a g ( r ”一， t i p ) = t ，h 7 wt i = p t p 于是 ( x + c r 2 h w 一1 h ) _ = ( 尸( a + 盯2 t ) p ) = p ( a + 盯2 t ) - 1 尸 驴e ( x x + a 2 日1 h ) 。 9 = 护 p f a + 盯! t ) 9 p = t r ( a + o - ! t 、。 ：f ! 智( 丑+ 仃二0 ) 。 山东师范人学顺f 学位论文 t r ( x x ) 一9 = 盯( j d a l p ) = t r ( a 1 ) = 从而我们有c 参，玖d 锄= 所以上述结论得证 t r ( c o v ( p ( 一) ) y t r ( c o v ( f 1 ) ) q 山东师范人学倾 学位论文 2 3 新的相对效率的上下界 由于x 0 ，故存在正交阵1 1 ，使得 x x = r ： r 1 。， = d i a g ( a p ， ) ， ( 2 3 1 ) 其中五屯为x x 的特征根于是有 ( 石x ) = r ；o _ 。f ，垒r ：西r ，舀= 西g ( 巧，百1 ) ( 2 3 2 ) 显鼎 ，2 7 ， - 1 为( x x ) 一1 的特征根记百= ( 脚) 一7 g ( x x ) ，g = h w 一1 日0 ， 则召0 ，故存在正交阵r ：使得 舀= r ：1 1 2 ，a = d i a g ( s p ， 4 ) ， ( 2 ，3 3 ) 其中d2 民为舀的特征根，由( 2 3 2 ) 可知 f r ( 。v 巾) ) = 盯2 f r ( 并翰：仃2 囊专t ， ( 2 3 4 ) 由( 2 1 1 5 ) 和( 2 1 1 6 ) 可知 t r c o v ( 1 3 ( c r z ) ) 】= 盯2 t r ( x x + 盯2 g ) 一1 扩卜气m 询飞研1 = 盯2 t r ( i + c r2 列( x 纠 = 仃二t r u 2 ( i + c r 二) “f 二r ：百r i = 盯2 一 ( ，+ 盯2 ) “r ：r ：西r ，f 2 垒盯! t r ( 0 一f 一a f ) ( 2 3 5 ) 这早有五= ( ，+ 一) “= d i a g ( ( 1 + c r ! 吒) ，( 1 + c r2 a ) 一) ，其中r = r ! r f 为征交阵 下面的定理给出了新的相对效率丘的 if 界 定理2 3 1 设( 盯2 ) 与矽分别由( 2 14 ) 和( 2 1 5 ) 给出，b 由( 2l1 4 ) 定义， 1 u 东师范大学顿i 学位论文 则我们有