（概率论与数理统计专业论文）线性模型中有限总体的有偏预测.pdf

中文摘要 摘要：线性模型理论中，一个重要的研究问题就是预测问题。所谓预测，就 是对给定的自变量值，预测对应的因变量所可能的取值。在各种线性模型( 如一 般g a u s s m a r k o v 模型、多元线性模型、增长曲线模型等) 下，对b u ，、= 1 ：z 屈、 靠。伊= ，少等预测向量的最佳无偏线性预测的研究已经比较成熟，有了系统和完整 的理论结果。王松桂在1 9 9 0 年发表于科学通报上的论文有限总体的自适应 岭型预测中对臼= ，提出了有限总体的自适应岭型预测，这是国内有偏预测研究 的开端，本文对有限总体的有偏预测做了进一步的研究。 本文首先概述了有限总体中的预测问题以及研究现状。第二章给出了矩阵、 线性模型以及预测等的一些相关知识与结论。第三章讨论了0 = z 的预测问题，将 自适应岭型预测给予推广，提出了广义岭型预测，给出了它的一些基本性质，证 明了广义岭型预测在一定条件下具有在预测均方误差( p m s e ) 意义下优于最佳线 性无偏预测的优良性、矩阵损失下在广义岭型预测类中的可容许性并在二次损失 函数下给出了它的m i n i m a x 预测。最后以实际数据为例，验证了广义岭型预测具 有局部优于最佳线性无偏预测的优良性。第四章分别讨论了由参数的广义岭型主 成分估计和l i u 估计推广而得到的广义岭型主成分预测和l i u 型预测，给出了它 们的一些基本性质，证明了它们在一定条件下也具有在预测均方误差( p m s e ) 意 义下优于最佳线性无偏预测的优良性、矩阵损失下在广义岭型预测类中的可容许 性并在二次损失函数下给出了它的m i n i m a x 预测。 关键词：线性模型、有限总体、预测均方误差、最佳线性无偏预测、广义岭型预 测、广义岭型主成分预测、l i u 型预测、可容许性、m i n i m a x 预测 分类号：0 2 1 2 4 a bs t r a c t a b s t r a c t ：i nt h el i n e a rm o d e l ，o n eo ft h em o s ti m p o r t a n tr e s e a r c hf i e l d si s p r e d i c t i o n t h ep r e d i c t i o ni st ou s ep r e s e n td a t at op r e d i c tt h ef u t u r ev a l u e r e s e a r c h e r s o b t a i nt h eb e s tu n b i a s e dl i n e a rp r e d i c t o r so f p 哪a sw e l la s 量s 叩= l ；x f l ，a n d 靠u p = ，夕o ne a c hk i n do fl i n e a rm o d e ls u c ha sg e n e r a lg a u s s m a r k o vm o d e l m u l t i v a r i a t el i n e a rm o d e l s ，g r o w t hc u r v em o d e la n ds oo n f u r t h e r m o r e ，t h es y s t e m a t i c a n dc o m p l e t et h e o r yr e s u l t sh a v eb e e no b t a i n e d a l s o ，w a n gs o n g g u ip r o p o s e sa n a u t o a d a p t e dr i d g ep r e d i c t i o n o f 0 = ， i nt h ef i n i t ep o p u l a t i o n sw h i c hi st h e b e g i n n i n go fd o m e s t i cb i a sp r e d i c t i o nr e s e a r c h i n g i n t h i sp a p e r , w ef i r s td e s c r i b et h er e s e a r c ho fp r e d i c t i o ni nt h ef i n i t ep o p u l a t i o n i n t h ec h a p t e r2 ，w es t a t es o m eb a s i ct h e o r yo f m a t r i x ，l i n e a rm o d e la n dp r e d i c t i o n a n d t h e n ，i nt h ec h a p t e r3 ，w ei n t r o d u c es o m ec o n c l u s i o n sa b o u tt h ea u t o a d a p t e dr i d g e p r e d i c t o rw h i c hc a nb eu s e dt oo b t a i nt h eg e n e r a l i z e dr i d g ep r e d i c t o rw h i c hi sp r o v e d d o m i n a t et h eb e s tl i n e a ru n b i a s e dp r e d i c t i o nu n d e rp m s e m o r e o v e r , t h eg e n e r a l i z e d r i d g ep r e d i c t i o ni st h ea d m i s s i b l ep r e d i c t i o nu n d e rt h em a t r i xl o s sa n di st h em i n i m a x p r e d i c t i o nu n d e rt h es q u a r el o s s a tt h ee n do ft h i sc h a p t e r , w eu s et h er e a ld a t aa st h e e x a m p l et op r o v et h eg e n e r a l i z e dr i d g ep r e d i c t i o ns u p e r i o r st ot h eb e s tl i n e a ru n b i a s e d p r e d i c t i o n i nt h ec h a p t e r4 ，w er e s p e c td i s c u s st h eg e n e r a l i z e dr i d g ep r i n c i p a l c o m p o n e n t se s t i m a t o ra n dl i u - e s t i m a t o r , o b t a i nt h e g e n e r a l i z e dr i d g ep r i n c i p a l c o m p o n e n tp r e d i c t i o na n dl i u - p r e d i c t i o n ，a n dp r o v es o m eo ft h e i r sp r o p e r t i e ss u c ha s t h ea d m i s s i b i l i t ya n dt h em i n i m a xp r e d i c t i o n s k e y w o r d s ：l i n e a rm o d e l ，f i n i t ep o p u l a t i o n s ，p r e d i c t i o nm e a ns q u a r e de r r o r , b e s t l i n e a ru n b i a s e dp r e d i c t o r , g e n e r a l i z e d r i d g ep r e d i c t o r , g e n e r a l i z e dr i d g ep r i n c i p a l c o m p o n e n tp r e d i c t o r , l i u p r e d i c t o r , a d m i s s i b i l i t y , m i n i m a xp r e d i c t o r c i 。a s s n o ：0 2 12 4 学位论文版权使用授权书 本学位论文作者完全了解北京交通大学有关保留、使用学位论文的规定。特 授权北京交通大学可以将学位论文的全部或部分内容编入有关数据库进行检索， 并采用影印、缩印或扫描等复制手段保存、汇编以供查阅和借阅。同意学校向国 家有关部门或机构送交论文的复印件和磁盘。 ( 保密的学位论文在解密后适用本授权说明) 学位论文作者签名：旃残f 聊签名：弓诵互 签字同期：2 0 0 8 年5 月9 日签字同期：2 0 0 8 年5 月9 同 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作和取得的研 究成果，除了文中特别加以标注和致谢之处外，论文中不包含其他人已经发表或 撰写过的研究成果，也不包含为获得北京交通大学或其他教育机构的学位或证书 而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作 了明确的说明并表示了谢意。 靴敝储獬：芬盹卞替嗍一0 8 致谢 本论文的工作是在我的导师张尚立老师的悉心指导下完成的。研究生阶段的 学习即将结束，回想在北京交通大学的求学过程，首先要感谢我的导师张尚立老 师，他在学习上给予我不倦的教诲，悉心的指导和深切的关怀。张尚立老师严谨 求实的治学态度、精益求精的科研作风和精深渊博的领域知识给了我极大的帮助 和影响。他不仅为指导我的学习和科研工作倾注了大量的心血，在生活上也给予 了我很大的关心和帮助，在此，谨向张老师表示深深的敬意和衷心的感谢! 其次，我要感谢理学院的各位老师对我的大力支持与鼓励。在校期间，我得 到了理学院诸位老师给予的指导与帮助。许多老师都曾给我上过课，他们兢兢业 业，勤勤恳恳，值得我永远学习。他们高尚的道德情操和对数学独到的见解深深 地影响了我，使我不断进步。在此，向他们表示我最衷心的祝福和谢意! 最后我要借此机会向我的父母表达我最深切的感激之情。家人多年来默默无 闻的在背后支持我，给了我一个舒适安定的学习环境，j 下是他们无私的支持和不 断的的鼓励使我得以顺利完成学业，衷心地感谢他们! i前言 y i ，磁l ，k = 1 , 2 刀，这里除了y i 外都是已知的，记y = l y ，j ， x = b l x ，) ，其中以= k l j ，k = 1 , 2 刀 l y = 即+ e e g ) = 0 ( 1 1 1 ) 【o 七) = 仃2 v 这里e 为甩维随机误差向量，是p 维未知参数向量，v 0 是已知的对称正 定阵，仃2 0 是未知参数，e ( ) 和白v ( ) 分别表示随机向量的期望与方差。形式 上，这个模型与一般线性模型并无两样，但两者有本质不同。这罩的总体是有限 的，且向量y 是部分被观测的，因而在抽样调查的文献中称为其超总体 ( s u p e r - p o p u l a t i o n ) 模型。 在应用上通常要对y 的函数o ( y ) 进行预测。例如要预测总体总量 r = l ：y = 咒，有限总体回归系数= 伍矿_ 1 x 厂x 矿一y 和总体方差 i = 1 月，、21 s ；= ，一y ) ，z 等，这里j ，= 圭丁是总体均值。已有文献中所研究的秒) 可归为 i = 1 ，i 两类：线性可预测变量, 4 y 和二次型可预测变量y 砂，佃0 ) 。以上提到的丁与是 ，1、 线性可预测变量，而s ；= y ii 一二1 1 l y 是二次型可预测变量。 。 刀 目前，人们把更多的目光集中到有限总体的无偏预测中，在多种类型线性模 型下，对y 的各种预测函数得到了比较好的无偏预测，并证明了这些无偏预测具有 许多优良性质。如r o y a l l 、h e r s o n 、p e r e i r a 、r o d r i g u e z 、b o l f a r i n e 等人对矽b u p 、 = l ：x 屈、0 b u p = ，夕做了比较透彻的研究；国内许多学者通过扩展模型对 毛u p = 9 ，( q 为给定矩阵或矩阵函数) 等作了比较深入的研究，得到了许多有意 义的结果。 但是，对有偏预测的研究成果不是很多，王松桂对口= ，提出了有限总体的自 适应岭型预测，是国内有偏预测研究的开端。随着现代科技的飞速发展，人们更 多的需要处理包含较多自变量的大型回归问题。这时，因为自变量很多，有时难 免自变量之间存在近似的线性关系，从而导致设计阵x 的列向量近似的线性相关， 称这样的设计阵为病态的，即当矩阵x 的列之问存在复共线性关系时，即x 呈病 态而x 7 f 接近奇异，这时虽然未知参数的最佳线性无偏估计( b l u p ) 的方差在 无偏估计类中最小，但其值却很大，使得估计精度比较差，表现出相当的不稳定， 在均方误差意义下未必是好的估计。因此，有理由认为，基于它的最优线性无偏 预测不必是最优的。所谓有偏预测，就是我们需要局部的改进最佳线性无偏预测 ( b l u p ) ，使得得出的新预测的期望不必等于被预测向量，而使其预测均方误差 ( p m s e ) 比较小，比较好的改善预测的结果对模型得到比较理想的预测。 本文在已有的研究结果基础上，提出了0 = ，的广义岭型预测、广义岭型主成 分预测、l i u 型预测等有偏预测，给出了这些有偏预测的一些基本性质，证明了有 偏预测具有在一定条件和预测均方误差( p m s e ) 意义下优于最佳线性无偏预测的 优良性、在矩阵损失下相应的有偏预测类中的可容许性并在二次损失函数下给出 了它们的m i n i m a x 预测。 2 2预备知识 2 1 矩阵的相关预备知识 矩阵是研究线性模型最基本的工具之一，为此，我们介绍一些后文需要用到 的一些结论。首先介绍本文中的常用的一些符号： a 7 矩阵a 的转置矩阵 a 0 矩阵a 是正定矩阵 a 0 矩阵彳是非负定矩阵 a b即么一b 0 t r ( a ) 矩阵a 的迹 ( 么) 矩阵a 的列向量生成的子空间 ，( 彳) 矩阵a 的秩 允( 彳)矩阵a 的最大特征值 本文所讨论的矩阵皆为实矩阵。无特别说明时，本文中所用向量x 均为列向量。 定义2 1 1 对矩阵4 川一切满足方程组a x a = a 的矩阵x ，称为矩阵a 的广 义逆，记为a 一。 定理2 1 1 设彳为历x 甩矩阵，设r ( a ) = ，若彳= p ( 孑三) q ，这里p 和q 分别 为，l m ，刀刀的可逆矩阵，则 彳一= q - 1 ( ：三) p ， c 2 - ， 这里的b 、c 和d 为适当阶数的任意矩阵。 定义2 1 2 设彳为任一矩阵，若x 满足下述四个条件 1 ) a x a = a ， 2 ) x a x = x ， 3 ) ( a x ) = a x ， 4 ) ( 尉) = 觑， 则称矩阵x 为a 的m o o r e p e n r o s e 广义逆，记为彳+ 。 定理2 1 2 ( 奇异值分解) 设4 。满足尺( 彳) = ，则存在两个正交方阵艺。，q 。， 使 彳= p ( 含三 q ， c 2 2 ， 其中a ，= d i a g ( , t ，乃) ，磊 0 ，i = 1 ，2 ，r ，砰，霹，为么a 的非零特征根。 通常称a ，以为a 的奇异值。利用这个引理，可以构造性地给出a + 。 定理2 1 3 1 ) 设么有分解式( 2 1 2 ) ，则彳+ = q f 1 三 p ， 2 ) 对任何矩阵a ，a + 唯一。 因为么+ 是一个特殊的彳一，因此，它除了具有彳一的全部性质外，还有下列性质： 1 ) ( a + ) + = 彳， 2 ) ( a + ) = ( a7 ) + ， 3 ) i a + a ， 4 ) r ( a + ) = 月( 彳) ， 5 ) a + = ( a a + ) 彳= a ( a a ) + ， 6 ) ( a 彳) + = a + ( 彳) + ， 7 ) 设口为对称方阵，它可以表示为彳= 尸( 含三 p ，这里p 为j 下交矩阵， 人，= 讲口g c 丑，4 ，= 月c 彳，彳+ = 尸( 乞1 三) ，。 定理2 1 4 设矩阵a 0 ，d 0 为实数，工为列向量，则d a 一材 0 的充要条件 为：】c 么一x o ，d 0 ，d a 掰，两边都左乘j ，右乘a - 1 石，即 得x 么j x d 。 必要性 由c a u c h y - s c h w a r z 不等式：( x “) 2 石么x u a u ，v u r ”及假设 x a 。1 x 0 ， ( 2 2 1 ) 4 l ( p ，) = ( p - p ) ( p - 历。 对于二次损失( 2 2 1 ) ，其风险函数为 r i p ，) = e ( p - p ) d ( f l - f 1 ) 称为广义均方误差，简记为g m s e ( f 1 ) 。特别地，当d = ，时，风险函数为 r ( 矽，) = e ( 矽一) 7 ( 矽一) 垒| l 矽一1 1 2 称为的均方误差，常记为m s z ( p ) 。 对于矩阵损失( 2 2 2 ) ，其风险函数为 r i b ，) = e ( z z ) ( p - ) 7 ( 2 2 2 ) ( 2 2 3 ) ( 2 2 4 ) ( 2 2 5 ) 称为方的均方误差矩阵，常记为m m s e ( f 1 ) 。 定义2 2 1 - 设局和屐为的两个估计，如果对于风险函数月( ，) ，有 ( 1 ) r i p , ，) 尺( 殷，) ，对一切成立； ( 2 ) 至少存在一个屁，使得以上不等式的严格不等号成立， 则称矗关于风险r ( ，) ( 或者说，关于尺( ，) 所对应的损失函数) 一致优于反。 若在某个估计类中，不存在一致优于矽的估计，则称矽在该估计类中关于风险函 数r ( ，) 为的可容许估计，简称矽为的可容许估计，常记为夕一；如果风险 函数为( 2 2 3 ) ，此时，矽为的可容许估计，简记为矽二；如果风险函数为( 2 2 5 ) ， 为的可容许估计则，简记为。 对于一元g a u s s m a r k o v 模型 y ：x8 + e 仁f o ，o - 2 矿) ( 2 2 石) 此处，y 为刀阶观测向量，x 为y i xp 阶己知设计阵，矿 0 为，z 阶已知矩阵， 而盯2 0 未知，设为p 阶未知参数矩阵，k 为一尼p 矩阵，使k 可估。k 的 形如印的估计( 三为矩阵k x n ) 组成齐次线性估计类。 由线性模型相关理论，我们知道回归系数的最小二乘估计( l s 估计) 具有许 多良好的性质，其中最重要的是g a u s s m a r k o v 定理。它表明在一切线性无偏估计 中，l s 估计具有最小方差。但是，当设计阵存在复共线性关系时，l s 估计的性质 不够理想，有时甚至很坏，为了改进最d , - 乘估计，统计学家们提出了些在均 方误差( m s e ) 下局部优于最小二乘估计( l s 估计) 新的估计，由于它们的均值 不等于待估参数，称之为有偏估计。目前，研究的比较多的有偏估计有以下几种： h o e r l 和k e n n a r d 与1 9 7 0 年提出岭估计，也是目前使用最广泛的一种非最小二 乘估计： 定义2 2 2 ：回归系数的岭估计为 厦：( x 7 v 一1 x + k 1 ) 一1 x y 一j ， 这里k 0 为岭参数。 将岭估计加以推广，可以得到广义岭估计： 定义2 2 3 ：回归系数的广义岭估计为 反= ( 石v 一1 x + k ) 一1 x 7 v 一1 y 这旱k = d i a g ( k 。，k 2 吒) ，岛0 ，f = 1 ，2 n 为广义岭参数。 文献 3 3 结合主成分估计和广义岭型估计的优良性，提出了广义岭型主成分估 计： 定义2 2 4 - 回归系数的广义岭型主成分估计为 以= q i ( 人，+ k ) 叫q l xg _ y 其中k 为广义岭参数，k = d i a g ( k 。，k 2 砖) ，向o ，f = l ，2 t ，t j ，人的前f 个特征 值为主成分，g 为对应于人的q 的前t 列向量组成的门x t 矩阵。 由于岭参数或广义岭参数的位置在分母上计算时比较复杂，l i u ，k j 在文献 4 7 】 中提出了一种新的有偏估计简称为l i u 型估计： 定义2 2 5 ：回归系数的l i u 型估计 历：( x 7 v 一1 x + ，) 一1 ( x7 v 一1 x + d ) x v 一y 其中d 为l i u 型参数，0 dsl 。 2 2 2 、主要结论 关于估计的n - i 容许性有以下一些基本结论： 定理2 2 1 若矽，则 ( 1 ) ：； ( 2 ) 对于一切d 0 ，矽二。 证明：( 1 ) 设一，但= = 并不成立。则存在另外一个估计，使得对一 切，有 e ( p - p x p - p ) e ( f l - f 1 ) ( f l - f 1 ) ， 且对某个屁不等号成立。因为a b 可推出t r ( a ) t r ( b ) ，且彳 b 可推出 t r ( a ) t r ( b ) ，在上式两边取迹，得到 e 忪一硎2 e 忪一硎2 ，且在某个属不等号成立， 即一致优于，与假设矽一相矛盾。( 1 ) 得证。 ( 2 ) 假设对某个d20 ，, a 。- p 不成立。则存在一个估计，使得对一切， 有 | | 一旺e | l 矽一眩， 6 且在某个屁不等号成立，设五为d 的最大特征根，记f = 名d ，则有 e 妙一胪e 肾砘，对一 o j f l ：z 立 做新的估计”= f ( f l 一矽) + 矽，其风险函数为 e | | ”一旷= e i l 矽一2 + e0 一矽旺： + e ( f l - f 1 ) f ( f l 一) + e ( f l 。- f 1 ) 7 f ( f l - f 1 ) 因为f i ，f 2 f ，所以， e l l 。一矽旺： 0 ，= 0 ，_ r e ( o ，v ) 时，线性模型( 2 3 1 ) 中屈 的最佳线性无偏预测为 尾卯= q 只+ qlt 屈+ 圪k 。1 ( 只一以孱) i 其中：q = 日一b c ，q = 日一d e ，b = 五一只形一吆一，c = 圪一巧q 圪， b = 墨一墨。圪一吃一，e = 杉一圪圪v s r ，q = b c 卅墨+ 脚一墨： 且虏咿的广义均方误差为 g m s e ( f l a 咿) = e i ( 夕b u p - - 展) ( 众卯一尼) 五l d 7 ( 墨圪一1 t ) d o , 力 1 。胁。 的知已是 。都 外 儿l | 后 除卜 里 这 ，l f 力 = 参 x l 中拈其 ，i， 砌嘞 一 一 ，f i | 儿x r o y a l l 和h e r s o n 等利用线性模型理论给出了0 = ，夕的最佳线性无偏预测： 定义2 3 4 ： 当v 0 ，吃= 巧= 0 时，线性模型( 2 3 1 ) 中0 = r y 的最佳线 性无偏预测为 0 。= l s t r xr s 这里是的最佳线性无偏估计b l u e ：= ( 墨圪一五) 一置圪y s 。 王松桂在5 c 献【9 】中提出了岭型预测： 定义2 3 5 - 当v 0 ，圪= = 0 时，线性模型( 2 3 1 ) 中9 = ，少的岭型预测 为 6 k = 轨+ l t r xr 鑫k 这罩度是的岭估计：众= ( 墨v 一鼍+ 材) 一1 x s 圪一1 只，其中k o 为岭参数。 为了比较预测的优良性，以下给出预测均方误差等概念： 定义2 3 6 ：设痧为线性模型( 2 3 1 ) 中0n f l ! - n n ，有 预测均方误差脚( 否) ：p m s e ( o ) = ( 痧一口) 2 = e ( 舀一秒) ( 百一目) ， ( 2 3 2 ) 预测的矩阵损失：厶= ( 务一秒) ( 占一0 ) j ， ( 2 3 3 ) 预测的二次损失：厶：嬲。 c 2 3 4 ， 定义2 3 7 ：称目的一个预测a 优于龟，如果 e ( 皖一目) ( 幺一口) 7 一e ( 巨一口) ( 巨一9 ) ， 。 对一切r p = p 维列向量空间) 成立，且存在属r ，使得上式左边不为零矩阵。 预测皖称为口的预测函数类粤中是可容许的，如果反粤，且在粤中不存在优于晓的 预测。 由式( 2 3 2 ) 和式( 2 2 5 ) 经过推导可以得出p m s e 与m m s e 具有以下关系 ( 文献 9 中的引理) ： 定理2 3 1 ：p m s e ( o ) = z ，x ，m m s e ( f 1 ) x ，z ，+ 盯2 ，v r ，。 为了以下讨论方便，我们给出一些预测类记号： 记 粤= ( k ) 兄，( k ) 是与k 有关的七s 矩阵) 为广义岭型预测类， 当 k = 咐z 。= 地，三是尼s l i g i 。 记 z d = 上( d ) 儿，三( d ) 是与d 有关的七s 矩阵 为l i u 型预测类。 9 3 1 基本概念 3广义岭型预测 关于线性模型中有限总体的预测问题，目前，在各种类型的线性模型中对于 最佳线性无偏预测有比较深入的研究，得到了比较丰富的结论。如在一般 g a u s s m a r k o v 模型、增长曲线模型等模型下，对麂u ，、= l ：厦、莎b u ，= ，夕等 有全面的研究，并得到了可容许预测、m i n i m a x 预测、稳健性预测等结论。 王松桂对秒= ，y 提出了有限总体的白适应岭型预测，是国内有偏预测研究的丌 端。本文研究0 = ，夕在线性模型( 2 3 1 ) 下，v 0 ，吃= 圪= 0 的预测问题，对 自适应岭型预测加以推广，提出了广义岭型预测，证明了广义岭型预测在预测均 方误差意义下优于最佳线性无偏预测的优良性，在矩阵损失下的可容许性并得到 二次损失下它的m i n i m a x 预测。 广义岭型预测定义如下： 定义3 1 1 ：线性模型( 2 3 1 ) 中，当矿 0 ，k 。= k ，= 0 时，秒的广义岭型预 测为 吼= l ；y ，+ r x ，成 ( 3 1 1 ) 这里皮是的广义岭估计：皮= ( x ，l 叫置+ k ) 一1 x ，圪一y ，其中k 为广义岭参 数，k = d i a g ( k , ，屯恕) ，勺 o ，扛1 ，2 s 。 3 2主要结论 j 。义岭型坝测具有以卜性质： 性质3 2 i ：文是p 的有偏预测。 证明：由于护是目的最佳无偏预测，即e ( 矿) - - o ，所以有 慨鼠) 一口| | ：i | e ( 反) 一e ( o ) | i = 忙( 虬+ 彤z 皮) 一e ( e 儿+ 髟墨) l i = 牝儿+ c 墨e 厦一e 咒一t ；x ，e p 0 = 肛墨( e 皮一邵) 0 = i i 髟x r l l l i 硫一印+ l l = 恽置叫陋以圪一1 置+ k ) 一1 以圪一1 置一e 0 ( 3 2 1 ) l o 设q ( 墨圪一1 置) q 7 = 人，：d i a g ( 丑五) ，q 为正交矩阵，以后使用的q 均为此假设。 上式右边= l l 彤x rl l x i 睁以t v 一1 鼍+ k ) 一1 以7 圪一1 x , p 一e ) q 7 0 = l l 彤x l l i l p l t l i ( ( 人，+ k ) 。1 人，一驯i 2“c五，“”f艇j_晕；一lj妻一。 由于p 0 ，所以去- 1 o 1 ，2 j ， 偏预测。 于是忙( 反) 一目i l o ，即良是目的有 性质3 2 2 ：良o n e , - n n n ，即j | 或| 0 0 证明：因为l l 反0 = j l q 良q 0 。忙( 置只+ c x ( x ：7 k 。1 鼍+ k ) 。1 以k 叫q x x f l 0 = | i q i 置只+ ：k 。1 鼍+ k ) 。1 以k 叫 0 = l l q i ， x ，儿q + q i x ，0 ( 鼍7 k 叫t + k ) 叫a q f l q 0 = ( q e xy , q + q 1 x 0 ( 人，+ k ) 一1 人，q 9 ) x ( 烈t 只q 7 + q t ：x q ( 人，+ k ) 一1 八，q f l q 7 ) = 缈；l , l y ，q + 缈，u x ，q ( a ，+ k ) 一1 人。q q + q f l q 7 a ( a ，+ k ) 一1 q x f l f l ：xy , q + q f l q ( a ，+ k ) - 1 2 形t q ( 人，+ k ) 1 人，卯q 7 ( 3 2 2 ) 而川i = 忉一q0 = 忙( i ，f 墨只+ 彤z x k 叫鼍+ ) q 0 = f f q i ，墨只+ 彤zk 叫鼍+ l q 0 = | i q 以q + q l ；xf l q i i = ( q i 。f 儿q + q c x ，f l q ) ( 纠儿q + 纠一q ) = q y ：u ys q + q y ：u ；xr p q t + q f l y y f r t j ：xs y q + q f l x ：u ；x , f l “q 4 所以，一0 ( 3 2 3 ) = 必：l s t y q + 卿：l s l ：x 型心s + k 丫1 入s o f f “q i + q p “q a ( as + k 丫1 q x ：r i t s x s ，sq + q f l q ，( 人。+ k ) o x ，ll ；x ，q 7 ( 人，+ k ) - 1 人；q f l q 7 一q y ：ls 1 s ys q t q y ：t , t ；xr p q t q f l “x ：lr l ：xs y 5 q t - q f l x ，t r l ；x ，q = o y s u r x ，( q ( 人，+ k ) - 1 人，o 一，) f t q + q f l 一( q a ( a ，+ k ) 叫q 一，) x ；t ，g x ，y ，o + q f l iq 7 ( 人，+ k ) - 1 q x ，u ；x ，p ( 人，+ k ) 叫人，o x ，7 lg x ，) f l p 7 = o y ：l s l ：xr + q f l + 去一l 0k 丑十1 0 l l 九s - i - k s 1 一一l + k l o 去一l 0k 五+ l o j 一一1 以+ k ， p q p x t r lr t ：xs ys q t ；xr p q ( 3 2 4 ) 因为，去_ 1 - 乃- + k i 岛 k 2 筇， 由定理2 1 3 知，上式等价于 ( 昙+ ( 置屹。1 工) 一) 1 0 , i = 1 ，2 j ，有 m m s e ( f l , ) 一m m s e ( f l ) 0 ， 由于p m s e ( o k ) 一p m s e ( o ) ：是m m s e ( f l x ) 一m m s e ( f l + ) 的二次型， 所以有 m m s e ( , ) - m m s e ( f l ) 0 成立， 于是p m s e ( r 石) 一p m s e ( o ) 0 。定理3 2 1 得证。 ( 3 2 7 ) ( 3 2 8 ) 引理3 2 1 ：对十线性模型( 2 3 1 ) ，设砂是，夕的任一线性预测，记 三= ( 以7 k 一1 鼍) k k i + e ( ，一鼍( 墨k 一1 五) 一1 以圪一) ， ( 3 2 9 ) 则e ( 饥一z 钆) ( 饥一j 九) ，e ( 轨-一j 允) j 对一切r ”成立，且等号对 一切参数值成立的充要条件是：l v = 三k 。 证明：首先，e ( 儿只7 ) e ( x ；p + 巳) ( 一+ e r ) 7 = c o v ( e s e ，) + xs 8 b x r t = xs p 8 x r j e bs y 弋= a 2 v s + x s 8 8 t x ： 因为 e ( 饥一玩) ( 饥一魂) 1 3 ( 儿儿) ( 三一c ) ，一ey s y , ) 一k ( 墨k 一鼍) 以圪。1 ( k 一五鼍+ t 筇7 t 7 ) 圪叫置( 墨k 叫t ) 一一墨筇t7 ( 三一) = ( l = ( = 0 ( ) ( 三一t ) ，一e ( 只只) 叫( 鼍7 鼍) xv 。 于是有e ( 魂一，九) ( 饥一鼠) = o 从而 e ( l y 。一，允) ( 饥一，允) 7 = e ( 饥一魂) ( 饥一或y + e ( 或一，九) ( 魂一，允) e ( 玩一，钆) ( 玩一饥) 。 对一切r ”成立且等号成立的充要条件是 o = e ( l y , 一仇) ( 砚一魂) = ( l 一) ( j 一置( 以圪。1 五) - 1 以屹1 ) ( k + t 筇k ) ( ，一五( 鼍圪。1 t ) 一以7 k 叫 ( 一) = ( 一) ( ，一以( 墨圪叫墨) 以圪叫】 k ( ，一k ( t k 叫t ) 一t k 1 。( - ) 7 上式等价于( 三一乞) ( ，一鼍( 墨7 屹叫k ) 鼍圪叫) = o 成立，即l v , = 三屹。 引理3 2 1 证毕。 引理3 2 2 m 1 ：对线性模型( 2 3 1 ) ，设地和饥都是，夕的线性预测，若 娥r y ，且地一咖c ( 一，w ) ，( c 为常数，- 1 c 0 不成立。 证明：必要性：设饥是，夕在无偏预测类中可容许预测，而且 满她l x ，且j c ( o ，1 ) ，够( c 0 ，l ) 0 成立，设 日= c o l 一( 1 一c o ) t , ) 以( 墨7 k 一1 墨) 一置圪一。 + ( 1 一c 0 ) 一( 鼍圪一1 t ) 一鼍屹一1 廿一鼍( 以7 x s ) t ) 7 则 甄= ( - i x ) + 1 7 x ， 同时，地的风险函数为 ( 3 2 1 0 ) r ( ，) = 仃2 c 。( 一乞) 以+ ( 1 - ) 7 墨 c c o ( 三一c 7 ) 鼍+ ( 1 一c j ) z + 盯2 f ，+ c o ( l x ，- r x ) p 掺7 ( l e 一，x y 因此，r ( p ，三) 一r ( p ，) = 仃2 ( 1 一c o ) f ( c o ，上) + ( 1 - c o ) 2 ( 地- t x ) p p 7 ( l x 一，x ) 之0 对一切r ”成立，且由弛，x 知，必存在p o r “，使得 尺( 屁，) 一尺( 属，h ) 0 ， 这表明，地优于l y s 与饥是z 少在无偏预测类中可容许预测矛盾，必要性得证。 充分性：根据引理3 2 1 ，只须证h y , 不可能优于饥， l 、当强= ，x 时，若h x = l x ，则由r ( p ，l ) 的表达式，有r ( p ，l ) = r ( p ，h ) ， 若i v ：l x ，则缈，显然不能优于饥。 现考虑l x 的情形，由f ( c ，l ) 的表达式知 厂( c ，) = 盯2l 一) t 斛( 一c 7 ) + x r c x , 7 o 不成立， 故当h x = ，x 时，r ( o ，) 一r ( 0 ，h ) = f ( o ，l ) o 不成立，断i h y s 不可能优于饥， 2 、当h x ，x 时，由引理3 2 1 ，只须证明： 若甄一，x = c ( l x s 一，x ) ，ce - i ，1 】，则地不能优于饥， 由于 r ( o ，l ) - r ( o ，h ) = ( 1 一c ) f ( c ，) ， 1 ) 当一1 c 0 时，有( 1 - c ) f ( c ，) 0 不成立，因而h y 5 不可能优于饥，