（概率论与数理统计专业论文）方差分析模型中参数的bayes估计及其优良性.pdf

摘要 本文讨论了方差分析模登中参数的b a y e s 最小风险线性无偏估计( b a y e s 璇i n i 糯醢mr i s kl i l l e 越u 数b 泌e de s t i l 矬醣o r s ，篱称b m 雉，u 嚣) 及其优良性阉题。 本文第一章对b 盼e s 方法的原理以及线性模型参数的b a 弦s 估计方法进行 了一般性的介绍在此基础上，引入了估计量的优良性准则，比如均方误差矩 阵( m s e m ) 准则、p r e d i c t i v ep 钝m a nc l o s e n e s s ( p r p c ) 准员l 和p ( ) s t e r i o rp i t m a n e l o 鼬矬e s s p p c ) 准则 本文第二章对平衡的单向分类方差分析( a n o v a ) 模型导出了效应参数向 量的可估函数的b m r l u e ，并在m s e m 准则、p r p c 准则和p p c 准则下分别 讨论了它裙对于l s 估计的优良性 本文第三章对平衡的双向分类a n o 讼模璀导毒了效应参数向量的可估 函数的b m r l u e ，并在m s e m 准则、p r p c 准则和p p c 准则下分别讨论了它 相对于l 8 估计的优良性 关键词：平衡单向分类a n o v a 模型；平衡双向分类a n o v a 模烈；b a y e s 最小 风险线性无偏估计；最小二乘估计；m s e m 准则；p r p c 准则；p p c 准则 a b s t r a e t i nt h i st l l e s i s ，t h eb a y e sm i n i m u mr i s kl i n e a ru n b i a s e de s t i 黼a t o r s ( b m r l u e ) o fp 黻a 嫩e t e r s 强d 专艇至rs t | p 舔。蠢斌瓣s 硅鑫融主na n 0 叛m o d e 至s 。 i nt h e 蠡r s tc 量l a p t e r ，w eg e n e r a l l yi 1 1 乇r i ) d u c et 董l et h e o r yo fb 圆孵8m e t h o ( 1a i l dt h e m e t l m d so fb a y e se 8 恤n a t o r a n db a s e do nt h 0 8 e ，s o m es u p e r i o rc r i t e r i o n ，8 u c ha s km e 黼鞫u a 糟8 r r 黻戤r 玟 m s e 鹾) c r i t e r i o 羔l ，糙p r e d i 专i v ep i m a nc l o s e n e ! s s ( p r p g ) c r i t e r i o 鞋瓣dp o s t e r i o rp i t m 馘c l o s e 娃e s sf p p c ) e r i t e r i o na r e d e l i v e 莲 i nt h es e c o n dc h a p t e r ，t h eb m r l u eo fe s t i m 曲l ef u n c t i o l lo fe f k c tp a r a m e t e r s i s ( 1 e r i w d 遗b a l a i l c e do n e - w a ya n o v am o d e l 。t h es u p e f i o r i t i e so ft h eb m r l u e o v 释h ek a s 砉阉h a 瓣s e s t m a t o ra r es 毫筏莲i 醴汰e r 珏塔o f 麓s 嚣麓e 巍e r i o 鞋，p 薹潆e c r i t e r i o na n dp p cc r i t e r i o n i nt h et h i r dc h a p t e r ，t h eb m r l u eo fe s t i 联l a b l ef u n c t i o no fe f 嚣蛇tp a r a i n e t e r 弓 螽d e f i ￥藤遗b 毳 a 鞋c e d w ) - w 帮焱n 0 、浚瓒稿e l 。锄瓣s 毪p 秘i o i t i e s 菇t 巍b 粥r l u e o v e rb se s t i l l l a o ra r es t u d i e di i lt e r m so ft l l em s e mc r i t e r i o 蟪，p r p ee r i t e r i o na i l d p p cc r i t e r i o n k e y 强沁r d sb 曩a n c e do 潞w 醪a n 臻蠹瞪翔拦定阵特剐，擞a = 善畦，掇失随羧姜池哪篇辩一截2 程 实黪孛爨麓更多一些，记霆纸毒 鬈；势幕酸符凄氍妨戆嚣夔，慰 露( 崴艿( 搿) 篇露f 磊f 孝，拶f 茹) ) 】；f 去哦矗嚣) 知确f 茗， j 蔓 孬稼 ( = 正r ( 统6 ) 新( 秽) 黼互正二( 哦方( 搿) ) 铲( 嚣新( 移) 为行动艿程先夔努帮嚣之下鲢飘羚8 鼹陵t 若行凌扩满足琢扩) = 囊琢艿， 则称扩瀚b a 潍决策溺数或者8 剐辩解 在b 黼s 决策问题中常使用詹验风险最小原则：设三( 铂移) 为损失函数，贸i j 黎 脚黼一点谁，鸯棚阱滞 为当褥蓟样本喾时稽凌堪酶后验风险。对经傅样本蘧霪，著存槎稽囊钕，使蔚 羞疑蹬最夺，簿 嚣堪| 鬈然褰霞嚣| 澎， 燕稼钕势一个譬戳察凑繁丞魏斑与器举最簸瓣夺篆嚣下获褥赫器磷藤爨 一撵鳇，荧于瑟姆方法鹣分缀哥参嚣器o x 勰d 攀l | 露，l 蛰2 ，b 彀g 酸 量雾黼 和茆诗松1 9 9 9 ) 等。 第一章引言 1 2线性模型中参数的b a y e s 估计 在线性模型中，求参数向量的8 瓣估计除了多层先验方法外，还有下 列两种方法：一是在正态线性模型下假定先验分布为共轭先验分布或无信息 先验，其后验分布也为正态分布，故在二次损失下b a y e s 估计由后验均值给出 ( 见w a n ga n dc h o w ( 1 9 9 4 ) ，b o xa 稍弱淞( 1 9 7 3 ) ) ；勇一种方法是在g a u s 争鹾a r k o v 模型下，霰定先验分帮满足一定矩的条俘，在二次损失下最小诧b a 弦s 最险获 褥线性b 鑫拶估计这一方法最早是融r 鼬王9 7 3 提出，g r u b e r ( 1 9 9 0 ) ，赴e 致k k a n dw b i 1 9 9 6 ) 和w e ia n dz h a n g ( 2 0 0 7 ) 等曾讨论过这类估计及其优良性问题 本文将采用后一种方法，获得的估计称为8 a y e s 最小风险线性无偏估计( b a y e s m i n i m u mr i s kl i n e 舂rt l n b i a 8 醯e s t i m a t o r s ，简称b m r l u e ) ，其优点是对样本分布 襄先验分布所趣翡条箨较步，适焉范匿较广 1 3 估计量的优良性准燹l j 设玩和碗为参数向量秽的两个不同的估计，比较它们的优劣性有一些不 同的准则下述的定义1 1 是统计决策问题中常用的敞铰估计量优良性的准猁 定义1 1 设参数向量p 的估计量为玩则m 两= 嚣( 萨一p ) ( 爹一称为 手酶均方误差矩阵强删；而掰s 嚣( 易一矧万一鳓，萝一毋；称为爹爵均方误差 醚s e ， 设凌，箍分嬲为参数惫量黟鳞两个不鼹估计量，凌称劳在拢髭掰或掰s 固 准则下优于碗，如果m ( 绞) 一m ( 玩) 芝o ( 或m s e ( 反) 一m s 曰巩) o ) 圭上述定义可知嬲黜) 搿勿f 削晷) ! ，很魏显m s e m 准贝4 强于m s e 准则。 一个估计量可以在m s e 准则下优于另一个估计量，而在m s e m 准则下未必具 有这一优良性 p i t m 毡nc l o s e n e s s ( p g ) 准剃是p i t m a n ( 1 9 3 7 ) 提出的，这一方法被忽略了 裰当长时闻，直到r 鼬f 1 9 8 l ，1 9 8 6 ) ，k e 躐i 稳g 繇d 麓黼o n l 参8 5 ) 等有关p e 准剃 懿论文发表后，p c 准则终为比较不怒诂计量优劣的又一准剿，受到了统计学 3 中国科技大学硕如论文 者的广泛关注。荨。的( 1 9 8 王 指患，传统的比较估计量优劣的m s 嚣准受| l 在二次 损失下把大偏差小概率情形强调到不适当的程度，丽不是考虑估计量在真值 附近集中的程度考虑如下的例子： 铡设参的真煎为o ，燕霉秘岛。) 鸯移的两个话计量，它懿黪分布如 下：夕( 吞l ( 鬈) = 1 ) * 0 。9 ，p 慨嚣) = l o ) = o 。l ；夕如) 一3 ) 嫦羔问估计量艿l ( 善) 和如( 鬈) 更优? 按m s e 定义，掰s e f 葶l 茹) 一l o 9 艇s 嚣南善) = 9 所以在m s 嚣雄则 下6 2 ( 譬) 优于6 1 ( 茹) ，但实际上d 1 ( z ) 在真值附近的集中程度远远大于如和) 在 这种情况下，m s e 准则在判断不阍的估计量优良性时产生了较大的偏差，p e 准员| l 就是针对这一闻题瑟提出的关予p c 准鲻更详缎介绍参看k e 鑫i n ge t 采 1 9 9 3 ) ，m 8 s o l le t 献1 9 9 0 ) 和玉( e a t i n ga n dc 茹i t r o l l 1 9 8 9 ) p e 准则鲍定义如下： 定义l 。2 。设有分布族 最茹) ，雾o ，傍搀参数空阅，玉浅学) 为损失函数 反，蕊为p 的两个幂同估计量，称反在p e 准则下优于碗，如果 p 疹l ，孝s 玉如，参0 ，菊争切荸 严格不等号“竹至少对某个秽0 成立 g h o 妇鑫n ds e 魏l 鲫l ；跌b 秽e s 角度弓| 入p e 准则的两个替代概念，称为 p r e d i c t i v ep i t m a nc l o s e n e 8 s ( p r p c ) 和p 0 8 t e r i o rp i t m a ng 1 0 8 e n e 8 s ( p p c ) 准则 p r p c 和p p c 准则定义如下： 定义1 3 令r 是参的先验分布类，颤= 艿2 ) ，如= 岛国) 为痧的蹲个幂辟 估计量，称6 l 在撇户e 准则下优于如，如果 臻( 五( 善l ，移；冬毛如，势) ) 8 。5 ， 对一 露霄r 此处魏表示对每一个万毯r 美母义和9 的联合分布计算概率 4 第一章引言 定义1 4 设丌为p 的一个先验分布，6 l = 6 l ( z ) ，如= 6 2 ( z ) 为口的两个不 同估计量，称估计量魂在p p g 准则下优于估计量如，如果 只( l ( 文，p ) 工( 6 2 ，口) l 茹) 0 5 ， 对一切z 影。 严格不等号“ ”至少对某个茹形成立。此处影表示样本空间 显然，若疹的估计量魏对每一个耳f 在p p c 准则下优于估计量是，剡 它在p r p c 准则下也优于估计量如，反之不必对，因此p p c 是比p r p c 更强 的准则g h o s ha n ds e n ( 1 9 9 1 ) 给出一个反例说明传统的j a m e s s t e i n 估计对一 切先验分布在p r p c 准则下优于样本均值，而对p p c 准则这一断言不对 1 4 论文结构 本文第二章针对平衡的单向分类a n 0 v a 模型导出了效应参数向量的可 估函数的b m r l u e ，然后在m s e m 准则、p r p c 准则和p p c 准则下分别讨论 了它相对于l s 估计的优良性 本文第三章针对平衡的双向分类a n o v a 模型导出了效应参数向量的可 估函数的b m r l u e ，然后在m s e m 准则、p r p c 准则和p p e 准则下分别讨论 了它相对于l s 估计的优良性。 5 第二章单向分类a n o v a 模型中参数的b a 妒s 估计及 其优良性 2 1 引言 考虑下列平衡的单向分类a n o v a 模型 蚴= 弘+ 牡l + e 巧，i = l ，8 ；歹= l ，6 2 。l 。1 ) 其矩阵形式为 1 一( 1 8 圆l 矗) p + ( 毛圆l ) a + 律1 ，( 2 。1 2 ) 这里虹= 幻，k l = l ，爹l 矗，钝l ，蛐) 为珏维观察向量；参数 p 为总平均，q = ( q ，n 口) 7 为效应参数向量，其中q i 表示第i 个水平的 主效应，i = 1 ，n ，且满足边界条件整1 毗= o ；o 表示k r 鲫e c 后e r 乘 积；s = ( e l l ，e l ”，e m ，e n 6 ) 7 为绍维误差向量，l 。一( 1 ，王) 7 为元素 皆为l 的s 维向量，蠢为8 维单位阵，且假定 露( l a ) 一o ，e 鲫( | q ) = 拶2 磊。 ( 2 1 3 ) 田土松往( 2 0 0 4 ) 7 1 易知肛和鳓的l s 解为 o = 玑垒熹如= 嘉1 ：r 1 8o ， 移 1 谯务 国= 玩吨垒言物一寺物，江1 ，。， ，= i i li = l & 玉s = ( a h 一，魏) = f 吾( 厶。l ：) 一三 五圆l ：) 】y 会a t 此处墨表示元素全为l 的exe 方阵。 在模型( 2 1 + 2 ) 中假设a 有先验分布，且满足条传 意8 ) = o ，g 删( 穗) = 程五。 ( 2 1 4 ) ( 2 。1 。5 ) 2 。l ，6 ) 第二章单向分类a 0 w 模型中参数的嚣螂话计及冀优良性 本章第一节在模墅( 2 1 2 ) 栩先验分布2 。1 s ) 下导出& 的可赁函数的转m r l u e ，第二节在m s e m 准则下讨论b m r l u e 相对予l s 估计的优良性，第 三节在p r p c 准爱| j 和p p c 准则下讨论b m 融u 嚣裙对于l s 估计的优良性 2 2 效应参数向量可估函数的线性b a 姆s 秃偏估计 众所周知，a n o v a 模型效应参数本身是不可估的，因此在a n o v a 模型 中我们关心的参数涵数都是可估函数。关予其可估函数的性质有下剜定瑷 定理2 2 1 对平衡的单向分类a n o v a 模型( 2 1 2 ) 有 ( i ) 塾i 瑶啦可估斟冬l 锯啦为一对照，即整lq o 。 ( i i ) 记= 气一；五，赋为对称幂等阵，记露= 融，剿蟹为可倦 i i i ) 设p 为弦鑫的常数阵，若融可估，则必有p 8 一尹霉。 证甥 番觅王松捷f 2 鹊4 ) 定理? 。量。圭， i i ) 易觅r 对称，? 2 一? 。又蠢? 羔8 = o ，此处。势分薰皆为。的堪王的 向量，由( 知吩一t a 的每一个分量都是可估函数，故叼可估 ( i i i ) 若玩可估，虫i ) 易知p 1 8 = o ，故有p ? 一p 一：五) = p 因此 段￥一夕乳 = 嘲，定理证毕， 由( 2 1 5 ) 可知叩的l s 估计为 鸯i f s 一望鑫s = 爹蠢2 2 。l ； 幽定理2 2 1 ( i i i ) 可知，本文中我们只要讨论可估函数肾= t 穰的b a y e s 估 计及其性质即可，缀为q 的任一可估函数段t 皆可表示为露的线性组合。 为了讨论露= z 娌的l j i m r l u e ，辱f 入如下的损失蘧数 二( 6 ，叩) = ( d 婶) ( 6 一，7 ) ml l 杏一叼1 1 2 + 记= y l 鞲王矗；笋，受l 有 毪= 磊1 6 ) 搜= z 搜+ ， 2 ，2 。2 ) ? 中国科技大学硕士论文 魏麦釜z 一屯羔矗， 设叼的b m r l u 戡为矸8 ，它爝予下列的线性估计类 芦= 疼嚣毛逐鑫：五麓罐照妫奄圭彝量 2 定3 ) 旦满懋 嚣秘口嚣，啦端鬻警嚣辑，露燃鬻孥墓嚣五毪串越一霉y 瞄珐纛一帮】 和无偏性条件露( 玉确十d 一卵) = o 。此处e 表示关于y 和口的联合分布求均值 由无偏性条件易得d 端o 故式2 2 3 ) 中b m r l u 轻为齐次，郯静一三由于 嚣f 三确) = 嚣【嚣三殇| 醴；j = 霪 露f ( 互善疆手五芒；| 穰l = 露玉塞馥) 眷g ， g 删( 五) = 露 秽舢( 翰l q ) 】十( 舢 e ( 厶l n ) 】= 拶2 工l 7 + 以g z 己， 教有 妒( ) 一煎垮，弩) = 转 曰【( 五确一霹) 一雒) 7 】 一势 a 滞埯；+ r 蓉耐? 一e 篁强瑶一耍f 羔鹣穗守麓 一打( 拶盒五五十程五z 髫纛7 + 畦? 一妒五7 二五髫) 一2 t r ( 厶五) + 砖缈( 五z 男三) 十畦t r ( 穿) 一2 程t r ( 二嚣t ) ( 2 2 。4 ) 蠹鞋簿徽商法裂翔掣= 瑟2 三域玉z 一峨z ，鸯求嫠式涵2 。毒达刘最 小的矩阵乞，解笃字燃。得 妻= 多一1 望z 磊尹一1 2 2 0 1 ， 此处舻= 秽2 7 移：。剩咫a 艿g 露1 器a 一1 一冀一1 弦g 一1 + 嚣硅一1 嚣7 ) 一1 露建一1 歉 z 。z b k 亳 蠢= p 一爹2 厶一z 扇2 鬈一1 雾7 】 一妒一1 7 【勘嚣z 政z 7 髫一1 l z 8 。 第二章单向分爽aj 7 ，d 溯模燮中参数的廖n 封群s 怡计及英优良性 于是叼的b m r l u e 为 = ? ( 尹磊+ z z 一1 2 7 = 专琊一2 爹z 7 ， 2 。2 5 ) 霉器嚣= 确= 尹专鳞一1 爹多妫一妒+ 醵一1 7 z y 一王8 羔蠢) 弘l ，f 2 2 + 国 此处多余参数弘未知，将式2 。2 巷中鹣弘餍式2 1 4 ) 中的毛8 估计蠡代入，褥 鼙的b 姆鹊两步估计势 籼嚣= 妒辩。r r 一王鑫圆薹s 翘= 6 j _ z 多i 一曼五磊】y = 寿磁萨( t 一南) 札， 泣2 这受记彘s = 黜。s ，葵中瓯s 毒式( 2 羔。5 给凄 2 3 m s e m 准则下f 相对于吼s 的优良性 本节申损失匾羧均取为二次擐失，鄂浪鳓一晷一秽彩= 一钏2 。 定理2 3 1 在模烈( 2 ，1 2 ) 和。的先验分布( 2 1 6 ) 下，叼的l s 估计栩 b m r l u 嚣分舅g 出式( 2 2 。1 ) 和式( 2 2 7 j 给磁，则 m ( 西。s ) 一掰( 如e ) o 。 证明由式2 。2 ，1 ) 知既s = 掣a y ，其中a f ；矗ql ：) 去( 以l ：) 】，注意 。劐鲡下事实 a ( 1 np1 6 ) 等o ，瓜( 厶 1 6 ) 一扫a a = 瓦 于是鑫五s a y = a l 撞1 6 ) 舻+ a ( 疋1 6 ) + a 一t 积+ a = 蟹十a ，进丽有 以及 嚣( a l s | a ) ；e ( a y n ) 一卵， c 删西s | n ) = 伽y = 2 a 一譬t l w 鸯8 ) = e f ( 眷嚣s 一国孬嚣一霉】 ( 2 3 。1 ) 2 。3 2 ) 中国科技大学硕士论文 一e 卜一叩一南机一刁一南瓤 一m ( 磅l s ) 一南四一叩) 睨s 卜南e ( 乱s 一7 7 ) 】 十( 寿) 2 翰棚：s ) 垒蝴d 一南n 一南j r i + ( 南) 2 如 ( 2 3 3 ) 由式2 3 。1 ) 一2 。3 。2 ) 可得 如= 露彘s 税s 一s 。嚣( 彘s ) 一露眵p 移( 彘s | & 】+ e 铡【雹( 彘s | 盛) l ：r e 【c 俄，鑫玉s | a ) 】e 辨p e ( & 暑s | 玟) 】= 譬t + g 锄( z 霉) = ( 拶三+ 譬) 鬈 她3 4 ) j 1 = e 【( 而l s 一叼) 1 ； ：s 】= 露( 而l s 毋：。) 一层( 叩而：s ) = ( 盯差+ 譬) t t 即( 碱删t = ( 咿：+ 譬) t 一删叫) z ：( 盯：+ 譬) t t g 删( n ) t ：譬r ( 2 3 - 5 ) 将式( 2 。3 4 ) 和式( 2 3 5 ) 代入式( 2 3 3 ) ，利用事实南一惫得 蜘d 一蝴崩一南m 础一( 赤) 2 如 一寿t 莩z 一( 南) 2 ( + 譬) t 一高? 。 定理得证 推论2 3 王在定理2 ，3 王网襻条件下，若8 l ，有 证明利用下列事实 a z s e ( 舜l s ) 一磊彳s e ( 本b f ) o m s e ( 乱s ) 一m s e 嚣) 一圳m 魄s ) 一m ( 如) 3 一焉z r ( 丁) ， 此处扫? ) = 8 一l o 。推论2 。3 。l 得证。 第二章单向分类a d 似模型中参数的器吐! e s 话计及其优良性 2 4 p r p c 和p p c 准则下礼e 相对于乱s 的优良性 本节中损失丞数均取为二次损失，鄢己垂，p ) = 垂一9 ) 穆一毋) = 归一到2 定理2 4 。l 设在模型( 2 1 。2 ) 中 仅一( o ，巧2 厶) ，露的l s 估计和b m r l u e 分别由式( 2 2 1 ) 和式( 2 2 7 ) 给出 ( i ) 令x ：一l ( o 5 ) 表示自由度为n 一1 的x 2 分布的中位数若 喜戏，t a 曼x ：一l ( o 5 ) ， ( 2 4 1 ) 萨 剃有 臻【孬嚣，蛩) 三( 毋纛s ，零) 】o 5 ，b 债r ( i i j 著进一步假定8 3 ，虽 薯s 去等， 江4 翻 则有 玮f 三( 稻茁，7 ) s 三( 玩s ，7 ) 】o ，5 ，v 丌r ， 此处r = 竹( a ) ：e ( a ) = o ，c 伽( n ) = 盯：j ) 注2 4 1 定理2 4 1 ( i ) 表明存在n 的参数空间的一个椭球子集：嘉n 7 t o x ：一l ( o 5 ) ，则在参数空间这一子集范围内，稻e 优于纯s ，定理2 4 1f i i ) 中条件 f 2 4 。2 ) 对先验分布的精度提出了要求，即要求先验方差与样本方差之毖适合式 ( 2 。4 。2 ) 时，则毋嚣优于乱s 比较条件( 2 4 。1 ) 和( 2 4 2 ) 可见条件( 2 4 1 ) 不易验 证，面条件( 2 4 2 ) 不但易于验证而且直观意义比较明显，因而更有实用价值 证明记彤全l ( 疗b e ，叩) 一上，( 吼s ，7 7 ) ，其中 确鼢沪刊一南札淞s 刊一南缸】 = 嘶确叼) 一寿( 礼刊钪s 一寿礼( 机刊 + ( 赤) 2 龇s ， 中国科技太学硕毒论文 测 彬o 甾南髓s 机2 ( 机一叼) 机 由于南l ，故式( 2 4 。3 蕴含了下贰 蔬s 本上ss2 ( 孬三s 霉y 既s ， 将乱s 一( 吼s 一叼) 十叩代入上式整理得 饕露番姜s 一霉) 7 7 彘s 一弩) 汪4 ，3 ) ( 2 。毒碡) ( 2 莲。5 由式( 2 3 2 ) 可知( 纯s 一训叩一( o ，譬t ) ，由于方阵t 是幂等的，柏( r ) * 窿一l ，则它的特征根只畿为。或1 豳矩阵标准墅理论可得，存在正交阵q ，使 得蚓一令移垒黝祉刊陬淞一甄1 势于 是有移l 叩一x ：一l 巍矿分布与叩无关，于是式( 2 。4 5 ) 变为 嘲譬馥 泣莲妨 ( i ) 由( 2 ，4 1 ) - ( 2 4 ，6 ) 可知 臻( 舻o ) 岛( u 酗刍露霉) r 【玎u x ：一l ( 瞄) 净。矗 ( 2 矗? ) 结论( i ) 得证 ( i i ) 由( 2 4 2 ) 一( 2 哇6 ) 和m a r k o v 不等式可知 臻( 渺o ) r ( 刍霹7 露汐留) = 嚣【最( 刍露7 涉| 秽) 】 一妇【- r ( 刍矿叩u l u ) 】l 一刍器琶吒渺 = t 一刍暑畦揖5 ， 这里烈叩7 ，7 ) = i r e ( 婶) = r e 铡( ，7 ) 一静( 口言丁) = 畦( 8 一1 ) 定理得证。 定理2 4 2 设在模型( 2 1 2 ) 中l n 一( o ，2 ) 且n 的先验分布( 2 1 6 ) 加 强为( o ，是太饕的l s 佑计积b m r t u e 分别蠹式2 ，2 。1 ) 穰式f 2 。2 。乃给盛， 剜 尹鼻f 点( 西嚣嚣，露) 曼五诤s ，印) | 秽】 o 5 ，v 寥纱， 第二章单向分类a d 谢模燮中参数的嚣n 可e s 佑计及其优良性 此处纱为样本空间，即如拦在p p c 准则下优于而盼 证明令w = i 诏e 一圳2 一i l 碲工s 一叩1 1 2 ，则 v 矿= 【( 而嚣一磅l s ) + ( 磅l s 一印) 】【( 睁b f 一磅。s ) 十( 而l s 一 7 ) 】一 i 疗l s 一叩1 1 2 一i l 面嚣拦一西l s l l 2 + 2 ( 而b 屏一而l s ) 7 ( 而l s 一叩) ， 将躐s 一霹= ( 散s 一嚣) 一( 露一蚀e ) 代入上式得 y 矿8 号2 ( 毒s 一毒暑s ) 琴一蓐巷) 冬| l 鸯f 露一磅五s | | 2 因为叶的先验分布为( o ，：? ) ，且l 氆一( o ，盯2 厶) ，所以叩的后验分布 仍为正态分布，因而在二次损失下，帮的b a y e s 估计即为后验均值，也就是说 钰g e ( 雄，它的表达式与式( 2 。2 7 中如莒相同，进而露一如露= 露一e ( 蟹| 掣) 在给定萝时为貔维正态向量，均值为o 故2 ( 乱s 嚣) ( 7 一磅8 ) i ”为一维正态 向量，均值为o 于是，由悯b f 钆s l | 2 o ，n s 知 f ( h 厂o | 秽) = f 备【2 ( 吩厶s 一磅嚣e ) ( 叩一西8 f ) l i 磅骞e 一本s i l 2 l 坍 f 备【2 ( 啼l s 一吩拧苫) ( 7 而曰8 ) o l 剪】= o 5 定理得证 王3 第三章双向分类a n o v a 模型中参数的b a y e s 估计及 其优良性 3 1引言 考虑下列无交互效应的平衡双向分类a n o v a 模型 耖巧= p + o i + 易十e 巧，i = 1 ，n ；歹一1 ，6 ， ( 3 1 1 ) 其中珏= 8 6 ，且满足边界条件墨l 啦= o ，；：l 岛= o 。模型( 3 。l 。1 ) 的矩阵形 式为 k l 一( 1 nol 矗) 弘+ z 1 a + z 毫声+ s n x l 一( 1 n01 6 ) 肛+ 磊q ，y + l ，( 3 1 ，2 ) 这里k x l 一( 秽l l ，掣1 6 ，驰l ，鼬) 为托维观察向量；= ( e l l ，e 1 旷一， e 幽，e 曲) 为忱维误差向量，参数肛为总平均，7 = ( ，p ，) ，= ( n l 一，q n ，l ， ，脘) 为效应参数向量，表示k r o 纯c 奄e r 乘积；l 。= ( 1 ，1 ) 为元素皆为 l 的8 维商量，磊譬一( 磊，历，其中磊= 厶圆l 务，磊一王8 矗，磊为8 维单位 阵，譬= 8 5 ，且假定 嚣| 乍) 一o ，秽嘭l 乍) = 秽2 毛，f 3 。1 3 ) j | ：处伊2 为已知常数 由壬松桂( 2 4 ) 7 。2 易知舻和7 的l s 估计为 1 n扫 1 7 瓠2 去萋萎物2 寺l ： ( 3 m ) & t = 曩一雪。一丢妾鳓一三砉骞黝，；= l ，8 ， 岛。勤一玑2 三熹萎善蛳歹“， ，8。牡挣 第三章双向分类a d 张模整中参数的学口秒p s 稔计及英优良幢 s 一( a 7 ，矽) 一a 口x n ( 3 1 5 ) 其中a = ( a ：，a 3 ) ，a 1 = ( 屯ol ；) 一矗五n ，a 2 一：( 1 ：qj 6 ) 一寺以n 在模狴( 3 1 2 ) 中假设7 有先验分布，且满足条件 e t ? ，= 。，e 鲫t 7 ，念，= ( 口亳k 拶暑矗) ， t 3 。l 。6 ， 此处仃三和仃；为给定的常数 3 2效应参数向量可估函数的线性b a y e s 无偏估计 定义3 5 。若存在犯l 向量8 ，使得e ( 8 y ) = c ，多舛一切多成立，则稚多 是可估的 国记? = ( 厶i ：厶而! ；矗) 垒( ：芝) ，剜t 为对称幂等阵记 霹= 研，爨| j 霉可估。 i i ) 设尹一( 鼍1 兰) 为p 鼋的常数阵，其中q t 为p t 8 常数阵，q 2 为搬常数阵，且秽l 舰= 爹若研可估，则嘲一。 证明( i ) 易见丁对称幂等由定理2 2 。l 可知蟹l 垒是q 可估，匏念乃夕i 可 估由叼= ( ：) = ( ：芝) 7 = ( 菱；) 及叩的每个分量都可估知可可 估 ( i i ) 若p 1 一( 罢荔) 可估，则q ，q 和q 2 均可估由定理2 2 1 ( i i i ) 的 ( q q 羔) = ( 号1 乏) = p ，故砌= p 研一p 7 定理得证 靠s = z 钆s = r a y 1 5 3 2 1 ) 中国科技大学硕士论文 由定理3 2 1 ( i i ) 可知，本文中我们只要讨论可估函数叩= t 7 的b a y e s 估 计及其性质即可，因为q 和声的可估函数皆可耀研表示为印的线性组合+ p 的形式由定理3 2 。l 给出。 为了讨论，? = t 7 的b m r l u e ，引入如下的损失聪数 二( 文露) = ( 6 一叼) ( 6 一叩) = 1 1 6 一，7 1 1 2 记确= y 一( 1 8 1 6 ) ，则有 殇一z ，y + ， ( 3 2 2 ) 此处z = ( 厶9l 矗，1 8 圆厶) 设，7 的b m r l u e 为e ，它属于下列的线性估计类 ，= _ f = 厶碥+ d ：l 为g 他矩阵，d 为q l 向量 且满足 ( 3 2 3 ) r ( 而b 露，叼) 。等孥r ( 1 = ，叩) 2 鼍孥e f ( + d 一叩) ( 三殇十在一叩) 】 和无偏性条件e ( 上确+ d 一叩) = o 此处e 表示关于y 和，y 的联合分布求均值 由无偏性条件易得蠢= o 。故式( 3 2 3 ) 中b m r l u e 为齐次，即番一酶由予 露( 三确) = 露陋互| 7 ) 】= 譬 露f ( 主巧手五) | 嘲 = 昱( 毛z ；= 9 ， g 鲫( 毛确) = 露【g 五b | 7 ) 】+ g 铡f e ( 乞玛1 7 ) l = 拶2 f z 罗z 7 三， 故有 妒互) = 置( 母，霉) 一r e 殇妨艺翰一移) 7 】 = 打眵( 己碥) 一e ( 三碥7 t ) 一昱( z ，y 琚上，) + t 层( ，y 7 ) 卅 = 打( 盯2 l l + 三z f z l 一l z f t r f z 五+ ? f t ) = 盯2 z r ( l 三) + 订( l z f z 三) 一2 t r ( 己z f t ) + t r ( ? f 丁) ( 3 2 4 ) 由矩阵微商法则知字一2 盯2 厶+ 2 己孙一2 卯z 为求使式( 3 ，2 4 ) 达到最小 的矩阵己，解笃字一o ，并利尉事实( a + 君p 秽) 一1 。a 一叠一1 君f 雪7 a 一1 露+ d 一1 ) 一1 b a 1 得 五= z f z 7 ( 拶2 ，+ z f z 7 ) 一一? ( z 7 z + 2 f 一1 ) 一1 2 7 1 6 第三章双向分类a d 谢模型中参数的嚣n e s 倦计及英优良性 = ? ( 3 2 5 ) 其中六一 ( 1 一惫) ，壶= ：( 1 一军匆) ，6 l = 石南，赴= 赤，6 3 = 石琢i 丽 于是饕的1 3 i m r l u e 为 番8 露= 己砺 = ( 击毛l ：) + ( 6 l + 6 2 ) 五n 击( 1 ： 厶) 十( 6 2 十6 3 ) 以n y 一弘l 扎) ，f 3 2 。6 ) 此处多余参数肛未知，将式( 3 2 6 ) 中的p 用式( 3 1 4 ) 中的l s 估计口代入，得 叮的b a y e s 两步估计为 而b f = t a y + z ( 妻二耋；：乏暑麓；：耋：芝：乏；皇二：) y 一? a ( 三羔：y ) l 懿一( ：室二| ； 乏鼍麓 = = 喜之二：) 丢l ：y l 搏 = ? 么y + 2 一3 一4 。 3 。2 ；7 ) 鸯蠢l 牡= 0 可知 下面计算 由于 3 = 鳓( 丢l ：l y ) l n = ( 叠l ，l y ) z a 罩n = o ( 3 2 ：8 ) r ( ：妻二l j ；乏三麓；：粪：2 ：芝；2 ：)弋( 去一：f 王：磊) ( 嘉专6 2 + 如) 磊稚夕 i ( 毛j ：五厶! ；如) ( 妻二i ； 乏三麓；： 粪：乏：乏；幺：) e 3 2 9 ， ( 厶一三以) ( 去一丢) ( 厶 瑚十( 三帕+ 如) = ( 砉一丢) ( 厶。1 ：) + ( 三+ 6 ，一卜6 2 ) 以咒一三( 去一丢) 厶飘 一三8 ( 三+ 6 ，+ 6 2 ) 五n 、l ，昨 ，工 黟 一 y 、17 竹 件 x厶矗 、l，、t， 抛游 十 + n 阮，rl，f + + 、i，tl，巧矗 p l t ，t ，蛾；一毗 中国科技太学硕主论墨，一 _ _ _ 。_ _ - _ _ _ _ _ _ _ _ _ _ m - _ 。_ _ _ _ _ _ _ _ _ h h - - _ 一一一 一 = ( 去一挑磊峨一知靠 ( 3 2 。王o ) 类似有 ( 磊一丢蠢) 【( 丢一三) e 羔：。磊) + ( 三阮玩) 五x n 】一( 恚一三) 【( 1 ：矗一丢磊n 】， f 3 2 。羔量 将式( 3 霉。l 和式3 。2 。王1 ) 代入式f 3 。2 。9 ) 得 由上式可知 进薅 f ( 妻二耋：乏三麓：粪：乏：芝j 之：二) 重二4 、去一：) ( 1 ：如) + 嘉+ 阮如) 磊竹夕” 一二骶裂二喜捌卜。，( 击一丢) 【( 1 ：矗) 一 如x 杵】“ 4 = r ( ：妻二耋j ：乏三袈：耋之：二) 熹l 幺y l n = ( 叠王二y ) ( 套二 | ；怠三甍；：砉囊：二) 薹魏一8 ， t 3 2 t 3 ， 由式( 3 2 1 2 ) 和下列事实者一 = 焉，去鲁= 焉可知 2 = 望( 耋二耋j 乏暑： 粪：乏：笔j 之：二) y = 二激铡二黜) y击一去斑王：磊) 一 磊摊】夕 = ( 耄粉邕二黝) y = ( 耋抄拇2 烈，一焉睁：霸揪州r 弋焉a 2 夕一p 一 将式( 3 。2 固，涵2 1 3 秘涵2 1 莲代入3 。2 7 并注意到蔗l = 霉蔗l ，盘= 憝羹2 得 一y 弋耄：) y 一)您 器 一 螺嚣 裟 ，|觚，一觏 磊磊 泐酗 专 +融匆 争 + 夺 + 矗 毛芝 如黔 ，一戢；一始 第三章双向分类直张模受中参数的秽叼e s 估计及英优良性 砘s - ( 蠢剖y = 疗l s 一( 厶善矗) ( ： = 乱s 一( 口毛厶善磊) r a y 。、f 冠抄 = 舐s r 缸s ，( 3 2 1 5 ) 此处冀= ( 嚆矗；厶) ，其中曙= 禹，带= 南 3 3 m s e m 准则下f 相对于矾s 的优良性 本节中损失函数均取为二次损失，即五( 晷，拶) = ( 晷一毋) 啊一9 ) = 旧一刚2 。 定理3 3 1 在模型( 3 。1 2 ) 和，y 的先验分布( 3 1 6 ) 下， 7 的l s 估计和 b m r l u e 分别由式( 3 2 1 ) 和式( 3 2 1 5 ) 给出，则 m ( 啼c s ) 一m ( 碲詹e ) o 证明出却2 嘲吨墒其中霆一( 繁善厶) 。于是 m ( 啐b 嚣) = e 【( 母s 一叩) 一冗本e s 】【( 啐工s 一叩) 一露盹s j = 掰缔s ) + 露露( 旌- s 甏s ) 霆，一显露除s 辑五s 一霉) 】一蹦( 彘s 箨) 域s 】影 = 掰( 乱s ) + q l q 2 一q ：。 国。3 1 ) 由露( 统s ) = o 以及z a = a ，a z = r 稀a = 蕊锣( 笔，：为) 可知 曰( 跣s 钆s ) = g 鲫本s ) = 雾 e 鲫f 躐s | 7 ) 】+ e 鲫f e ( 褫s | 7 ) 】 = e 拶2 7 蠢a z 0 ? a 互巧) = 拶2 7 a 么r a z z 7 a = ? ( 皆乏卜脚嬲7 = 丁( 誓丧) z 7 + r 中国科技查璺丝查笙墨 _ _ - _ _ * m h _ - w _ _ w _ _ m _ _ h m - _ - _ _ _ _ _ _ _ _ _ h * m _ _ _ _ h _ 一一一 进而 计算 可知 警去) 十( 警袅) 潆警涵；譬0 邋) ， g 譬+ 嵋憝夕4 f 3 3 2 拈露r 警璐；譬岛，是卜 协鹕， 露陬s 彘掌一枯) 7 = 锄f 魂s ) 一霞彘s = 掺2 爹建f 雾f f 一霪霉蠡s 秽l 簟嚣禳摇式3 ，3 。薹； ：拶2 掣a r 7 + 罗掣一e 譬) = 拶2 7 a a 7 一 = ( 絷去) 馈姒， 酝掣蹩f ，擘 i 醪 将式3 3 3 ) 和式溆3 5 ) 代入式( 3 3 。1 ) 得 刺吼s ) 一膨( 璐譬) q 2 一露 重， 量，霄 j l s e 睁玉s ) 一冉厦s e 露拱岔) o 。 2 ( 3 3 嚣) f 3 3 。艿 ，i，ll 、l l ， 。锄 一、17趁 2 声 。 旧 吐球 n竣 掣百 2 ， 一一、，l一 蒡盖章双繇分獒奔船争麓摸登审参薮霹童沲擎醛筵登宴垦墨煎叁壁 证明利用下列事实 m s 麟( 诤二s ) 一m s 层( 而嚣掌) = t r 【 彳( 诤厶s ) 一