（概率论与数理统计专业论文）半相依回归模型参数的bayes估计.pdf

摘要 本文讨论了半相依回归模型中参数的b a y e s 线性无偏估计及其优良性问 题。半相依回归模型在计量经济学中有广泛的应用背景。 本文第一章引言中对半相依回归模型及其假设条件作了具体的介绍。导 出了回归系数的广义最小二乘估计( g l s e ) 和b a y e s 线性无偏估计( b l u e ) 。 利用分块矩阵运算法则求出了g l s e 和b l u e 分量的表达式。 本文第二章假设设计阵x 列满秩，在均方误差矩阵( m s e m ) 准则下获 得了b l u e 相对于g l s e 的优良性，基于p i t m a nc l o s e n e s s ( p c ) 准则在b a y e s 意义下的两个替代准则p r e d i c t i v ep i t m a nc l o s e n e s s ( p r p c ) 和p o s t e r i o rp i t m a n c l o s e n e s s ( p p c ) 准则，研究了b l u e 相对于g l s e 的优良性。 本文第三章，假设设计阵x 非列满秩，讨论了回归系数的可估函数的 b l u e 在m s e m 准则、p r p c 准则和p p c 准则下的优良性。 关键词：半相依回归模型，广义最小二乘估计，b a y e s 线性无偏估计，m s e m 准则，p r p c 准则，p p c 准则 a b s t r a c t i nt h i st h e s i s ，t h eb a y e se s t i m a t o r so fp a r a m e t e r sa n dt h e i rs u p e r i o r i t i e sa r e s t u d i e di ns e e m i n g l yu n r e l a t e dr e g r e s s i o nm o d e l t h i sm o d e lh a sw i d e l ya p p l i c a t i o n i ne e o n o m e t r i c s i n t h ef i r s tc h a p t e r ，w ei n t r o d u c et h es e e m i n g l yu n r e l a t e dr e g r e s s i o nm o d e l a n ds o m ea s s u m p t i o n so fi t t h eg e n e r a l i z e dl e a s ts q u a r ee s t i m a t o r ( g l s e ) a n d b a y e sl i n e a ru n b i a s e de s t i m a t o r ( b l u e ) o fr e g r e s s i o nc o e f f i c i e n t sa r ed e r i v e d b y t h eo p e r a t i o nr u l e so fp a r t i t i o n a lm a t r i c e s ，t h ec o m p o n e n t so ft h eg l s ea n db l u e a r eo b t a i n e d i nt h es e c o n dc h a p t e r ，s u p p o s et h a tt h ed e s i g nm a t r i xxi sf u l lr a n k s u n d e rt h e l n e a ns q u a r ee r r o rm a t r i x ( m s e m ) c r i t e r i o nt h es u p e r i o r i t yo fb l u eo v e rg l s ei s o b t m n e db yt h er e p l a c e dc r i t e r i o no fp i t m a nc l o s e n e s s ( p c ) i nb a y e s i a nm e a n i n g ， t h ep r e d i c t i v ep i t m a nc l o s e n e s s ( p r p c ) c r i t e r i o na n dp o s t e r i o rp i t m a nc l o s e n e s s ( p p c ) c r i t e r i o n jw ed i s c u s st h es u p e r i o r i t i e so fb l u e o v e rg l s e i nt h et h i r dc h a p t e r ，a s s u m et h a tt h ed e s i g nm a t r i xxi sn o n f u l lr a n ku n d e r m s e mc r i t e r i o n ，p r p cc r i t e r i o na a dp p cc r i t e r i o n ，t h es u p e r i o r i t i e so fb l u eo v e r g l s ef o rt h ee s t i m a b l ef u n c t i o no fr e g r e s s i o nt o e m c i e n t sa r es t u d i e d k e yw o r d s ：s e e m i n g l yu n r e l a t e dr e g r e s s i o nm o d e l ，g e n e r a l i z e dl e a s ts q u a r e e s t i m a t o r ，b a y e sl i n e a ru n b i a s e de s t i m a t o r ，m s e mc r i t e r i o n ，p r p cc r i t e r i o n p p c c r i t e r i o n i i 第一章引言 在计量经济学中，常常需要讨论多个方程模型的参数估计问题( 见张 比如许多种商品的需求函数，许多厂商的投资函数和许多个家庭的消费函数 等。对于时间序列数据而言，在一个给定的时间里，不同方程的扰动可能都反 映了某个共同的不可观测的或不可忽略的因素，因而它们是相关的。这种现象 被称为同时期相关，它与自相关是不同的。自相关是指在同一个方程里扰动 之间的相关性。当同时期相关存在时，联合估计所有的方程比单独估计每个方 程更有效。这种统计模型被称半相依回归模型( s e e m i n g l yu n r e l a t e dr e g r e s s i o n m o d e l ) ，关于这一模型的详细介绍参见文献王松桂引、林春土 3 l 和王松桂 4 1 1 1 半相依回归方程组及回归系数的广义l s 估计 考虑下面的由两个对数线性需求方程组成的方程组： j 1 珊t2 卢- 。十川n p l t 十f 1 1 2 1 n 玑托e ( 111 ) il n q 2 = 卢2 0 + 卢2 1 l n p 2 + 卢2 2 l n y + e 2 ，t = l ，2 t ， 、 这里假设第i 个商品的需求量q ：。依赖于自身的价格p 。和收入轨。 关于随机扰动0 = 1 ，2 ) 的假设是： ( 1 ) 所有的随机扰动的均值为0 ，即 e ( e ；c ) = 0 ，z = 1 ，2 ；t = 1 ，2 ，一，t ； ( 2 ) 在一个给定的方程里随机扰动是同方差的，不同的方程的随机扰动 的方差是不同的，即 矧薹篡t 吐2 ，t ； m ， 【 o r ( ) = 口；= ，= l ，t ； 、7 ( 3 ) 不同方程但同时期的两个扰动是相关的( 同时期相关) ，即 21 = j 玎 口 1 = ee口dc 璺苎垫叁堂璺主丝墨 ( 4 ) 不同时期的扰动不相关( 不管它们是同一方程的还是不同方程的) ， 即 c o v ( e e ，。) = 0 ，t s ，i ，= 1 ，2 用矩阵的记号来表示这些假设就是 e ( 岛) = 0 ，c o y ( ；，) = e ( e 。) = 盯”厶， i ，j = 1 ，2 注意到，由于e ( 印：) = a 。厶，所以单独考虑每个方程，参数的最小二乘估计 量是最好的线性无偏估计量。但是由于同时期相关的存在，我们有可能得到一 个更好的线性无偏估计，它是y l , y 。的线性函数 将( 11 1 ) 推广，本文考虑由两个方程组构成的一般的半相依回归模型： g - z = 卢- - 。l 啦+ + 卢- p 1 。l z m + 5 t -( 1 13 ) iy “= 侥1 x 2 i ，l + p 2 p 2 3 7 2 1 m + e 2 i = 1 ，扎， 写成矩阵形式为： j g 2 x l 卢- 怕 ( 1 14 ) 1 驴聊。怕， “叫 这里 ，蛐蛐，1 础，2 舻h ，耻一2 , 1 2 7 i # 矾n x i n ，1z m 2 肛胁z = i = 12 此处。和v 。皆为n 1 的随机观察向量；x - 和x 2 分别为n p l0 = 1 ，2 ) 的设计阵，根据需要其第一列可以都取为1 ( 当第一列取为1 的时候， 3 i i 2 、1_= e 、 巩 m 鼽 舢蔷| j j m 第一章引言 为模型的常数项) ；风为p 。1 的参数向量；e 1 ，e 2 皆为n 1 的随机误差向 量本文记n = 2 n ，p = p l + p 2 我们把上面的两个方程合并在一起写成一个超模型 或 其中 e 的协方差阵为 ( 小x 1 芝) ( 盼( ) x 1 = x p 岛1 + e e ( e 1 = 0 ( 1 15 ) ( 1 i6 ) ( 1 17 ) 西= c 。c e ，= e ( ( ；：) c e ：，) = 0 1 1 1 , a 口2 1 2 2 i 厶n ，) = 圆k ，c s ， 其中 = ( 2 蚴0 - 1 2 ) 推而广之我们可以考虑更一般的半相依回归模型见王松桂 2 1 本文将从以上模型( 1 16 ) 出发，估计出卢的广义最小二乘( g l s e ) 和b a y e s 线性无偏估计( b l u e ) ，并分别求出其分量卢和岛的广义最：j 、- - 乘估计( g l s e ) 和b a y e s 线性无偏估计( b l u e ) 然后就设计阵x 列满秩与非列满秩情况，在 m s e m ，p r p c ，p p c 等准则下讨论b a y e s 估计的优良性。 由模型( 1 1 6 ) 回归系数的广义最小二乘估计为 声l s = ( x 中一1 x ) 一1 x7 垂一1 可( 1 19 ) 为求单个回归方程组的系数成( 江l ，2 ) 的g l s e 需要计算 一= c 。厶) - 1 = 2 - 1 。n = ( 暑垒差譬) ， 。， 中国科技大学硕士论文 其中 。，。：0 - 1 1 一。，2 z 。z - 。i ，a 。- 2 。：一a z a 1 ，p 。2 孑而( 7 1 2 本文中假定x x 2 = o ，即x l 的列向量和恐的列向量正交，故有 因此有 x ，( 一。厶) x ：f i 口矗2 x i x l o o 一菱。爱恐 ( x7 西- 1 x ) = f 类似方法可得 x 圣一1 y 1 0 0 2 2l ( 砭凰) x i0 卜矗2 k o 蔓一肌矗 口矗2 x i 玑一p 1 2 x 1 _ y ： 一p 1 2 x 2 y 。+ 口主1 x i f 2 将( 111 2 ) ，( 1 1 1 3 ) 代入到( 1 19 ) 可得 因此有 鬟) 可i 9 2 声c s = ( ；) = ( x 圣- i x ，一1 x 垂一l ， 口1 12 ( x i x l ) 。1 0 口矗2 x i 。一p 1 2 x i 。 0 口2 2l ( x ：x 2 ) 一1 一p 1 2 x 2 1 l 、+ 口蠢l x ：g 。 ( x i x l ) - 1 x i 。一口1 12 p 1 2 ( x i x l ) _ 1 x i g 。 、( 蔓弱) _ 1 砭玑一a 2 2 1 p 1 2 ( x ；x 2 ) 。蜀9 。 = ( 爱：糍( x 2 x 裂剖声2 一箸2 ) _ 1 x 籼 声l 一丝( 7 2 2 ( x i x l ) x ；y 。 4 、， 0 砭 y o ， 、 l km 谚 k k 2 2吒叩 ，、，0 ， x 砭0 2l6 l 、 第一章引 言 其中 犀= 岛一署( x ；拖) 一1 爱 ( 6 ) 卢l = ( x i x l ) - 1 x i 。，卢2 = ( x 2 x 2 ) 一1 砭g ： 1 2 回归系数的b a y e s 线性无偏估计 在线性模型中，求回归系数的b a y e s 估计除了多层先验方法外，还有下列 两种方法：一是在正态线性模型下假定卢的先验分布仍为正态分布，或者为 无信息先验，则在二次损失下b a y e s 估计由后验均值给出( 见b o xa n dt i a o 5 j ， b e r g e r ，王 7 】等) ；另一种方法是在g a u s s m a r k o v 模型下，假定卢的先验 分布的二阶矩存在，利用最优化方法使线性估计的b a y e s 风险达到最小时确 定b a y e s 估计，此估计通常称为线性b a y e s 估计。这一方法最早是由r a o ( 8 】提 出，g r u b e r 9 ，t r e n k l e ra n dw e i 1 ，张 1 1 】等都曾讨论过这类估计及其优良| 生 问题。本文将采用后一种方法。这种方法的优点是对样本分布和先验分布所加 的条件较少，适用范围较广。 为求b a y e s 估计，我们假设卢的先验分布为w ( 卢) ，满足条件： 耶h = ( 跨一= ( 开孑1 。) 垒k 。t ， 其中肛，砰，均为已知。 为了得到卢的b a y e s 估计，我们引入如下的损失函数： l ( 5 ，卢) = ( 6 一卢) 7 ( d 一_ 臼) ，( 1 22 ) 以及相应的风险函数r ( d ，卢) = e l ( 5 ，卢) ，并且期望e 是关于( ，卢) 的联合分 布来计算的。 设参数卢的线性估计属于下列的类： ，= ( 声= a y + b ：a 为p 矩阵，b 为p 1 向量) ( 123 ) 5 中国科技大学硕士论文 设卢的b a y e s 线性无偏估计为如，即如满足 r ( 卢b ，卢) = r a a i 6 n r ，卢) = r a a i 6 n e ( 卢一卢) 一卢) 】 ( 12 4 ) 和无偏性条件e ( a b 一卢) = 0 为了确定a 和b ，由无偏性条件可以解得 b = f j a x b 为了得到最优的矩阵a ，首先计算声的b a y e s 风险 r ( 声，卢) = e a 9 + ( ，一a x b 一例7 a g + ( j a x ) p 一例) = e ( f a ( y x u ) 一( 9 - “) m ( y x u ) 一( 9 - 肛) ) = e 打 t a ( y x u ) 一( 9 - p ) a ( y x “) 一( 卢一p ) l = 打a ( x v x + 圣) a7 + 矿一a x v - v x7 a 1 令掣：0 ，利用矩阵微商法则得： 由矩阵求逆公式 得 从而 2 a ( x v x + 面1 2 v x = 0 a = v x ( x v x + 中1 1( 125 ) ( p + b c b 7 ) 一1 = p 一1 一p1 b ( c 一1 + b p 一1 b ) 一1 b p 一1 ( 1 26 ) ( x v x 7 + 亚) 一1 = c a 一1 一c a 一1 x ( v 一1 + x 西一1 x ) 1 x7 西一1 a = v x 7 ( x v x 7 + 垂) 一1 = v x 垂一1 一v x 垂一1 x ( x c a 一1 x + v 一1 1 1 x 西一1 = v x 垂一1 一y ( x 西一1 x + v 一1 一v 一1 ) ( x 西一1 x + v 一1 ) 一1 x 7 c a 一1 = v x 垂一1 一v x 7 圣一1 十y 矿一1 ( x 圣一1 x + v 一1 ) 一1 x 币一1 = ( x 垂一1 x + v 一1 ) 一1 x 中一1 ( 1 2 7 ) 6 第一章引言 所以如= a y + b = a y + ( j a x ) p ，其中a 如( 1 27 ) 所示，而 一a x = j 一( x 圣一1 x + v 一1 ) 一1 x 7 西1 x = ，一( x 垂一1 x + v 一1 ) 一1 ( x 西一1 x + v 一1 一v 一1 ) = 西一1 x 十v 一1 ) 一1 v 故由上式和( 1 2 7 ) 可得 卢b = a y + b = a 可+ ( i a x ) p = ( x 7 西一1 x + v 一1 ) 一1 x7 壬一1 y + ( x 7 壬一1 x + v 一1 ) 一1 v 一1 肛 = ( x 7 西一1 x + v 一1 ) 一1 ( x 币一1 可+ v 一1 p ) = ( x 7 西1 x + v 一1 ) 一1 ( x 垂一1 x 声l s + v 一1 p ) = ( x 7 壬一1 x + v 一1 ) 一1 ( ( x 垂一1 x + y 一1 ) 氏s y 一1 声l s + v - 1 肛) = p l s 一( x 垂一1 x + v 一1 ) 一1 v 一1 ( 卢l ，一p )( 1 28 ) 下面求卢的分量卢- ，卢2 的b a y e s 线性无偏估计：由( 1 11 1 ) 可得 x 垂一1 x + v ：f 口矗2 x i x l + r f 2 。0 0 口差1 x 2 x 2 + 吒 2 ，1 ， ( 1 2 9 ) 1 p 2 所以 一1 一= ( 岛( 瓤一，) 故由( 1 28 ) 和( 1 2 i 0 ) 可得 阢 ( 笼) 声l s 一( x 垂一1 x + v 一1 ) 一1 v 一1 ( 声l s p ) ( 洲私瓷砭羔嘲，) 7 ( 12 1 0 ) 、 肛灿 一 一 十； opp ，、p 0 2 h 一吃 一o r ly， 中国科技大学硕士论文 = ( = ( 所以 黜糍麓窿髦：；)虞一( a 蛊l x ：x 2 + 可2 。) 1 百2 ( 彪一p 2 ) 塞： 喜；妻- 1 ：妻! 妻：乏! ： 塞：；) c - z - - ， 廖一( 雷口2 2 。x ；x 2 + 昂。) ( 詹一p 2 ) 矽- 日= 声：一( t 2 0 - ：x i 。r - + 。) 一1 ( 卢：一卢- ) 岛e = 虞一( 一菱。x ：x z 十昂。) ( 虞一p 。) ( 1 2 1 2 ) ( 1 2 1 3 ) 本文第二章将在均方误差矩阵( m s e m ) 准则下讨论b l u e 反日( i = 1 ，2 ) 相 对于g l s e 的优良性，以及在b a y e sp c 准则下讨论了b l u e 反口( i = 1 ，2 ) 相 对于g l s e 的优良性。本文第三章讨论当设计阵x 1 和x 2 至少有一个不是列 满秩时觑( i = 1 ，2 ) 的可估函数b l u e 的优良性。 8 第二章设计阵列满秩时b l u e 的优良性 2 1 m s e m 准则下b l u e 的优良性 本章将假定r ( x ) = p ，即设计阵x 为列满秩情形。为了得到如的优良 性，我们首先引入如下定义 定义2 1 设为参数向量口的一个估计，则目的均方误差定义为m s e ( o ) = 研( 自一p ) ( 目一口) ，的均方误差矩阵定义为m ( o ) = e l ( 0 一口) ( 一日) ， 设目1 和a 2 为参数向量口的两个不同的估计，如果m ( 0 2 ) 一m ( 8 1 ) 0 ( 或 者m s e ( 0 2 ) 一m s e ( 0 1 ) 0 ) ，则称自l 在m s e m ( 或m s e 准则) 下优于d 2 显然m s e m 是比m s e 更强的准则，一个估计量在m s e 准则下优于另一 个估计，但在m s e m 准则下未必具有这一优良性。 定理2 1 设觑的g l s e 和b l u e 分别由( 1l _ 1 5 ) ，( 111 6 ) 以及( 1 21 2 ) ，( 12 1 3 ) 给出，则有 m ( 禽) 一m ( 反b ) 0 ， i = l ，2 证明：此处仅对i = 1 的情况证明，i = 2 可以类似证明。令 故有 耻( 立o - 1 1 2 酗t - “) 。1 m ( h b ) = e ( 卢1 b 卢1 ) ( 卢1 日一卢1 ) 4 】 = e ( 声：一声) 一b i ( 声j 一“z ) ( 声i 一卢t ) 一b ( 卢：一肛- ) ) = m ( 声：) 一e l ( 3 ；卢1 ) ( 声：一肛t ) - i 一e b ( 声j 一肛- ) ( 卢：一卢1 ) 】+ b e ( ( 厨一肛) ( 声：一p - ) 7 ) b i = f ( 钟) 一j i b i b l 五b 1 也口i ，( 211 ) 0 中国科技大学硕士论文 而 其中 = f ( 厨一肛。) ( 良一卢。) 7 c w ( 厨) = e b ( 郇) ) + c o y ( e ( 伽) ) = e c 。”( 矧卢) ) + 一( 历) = e b ( 郇) ) + 札， e c 。 ( 声i l 口t ) ) = e ( e ( 声i 一卢，) ( 声：一卢) l 口- ) e 川 ll ( 声t 一芦，) 卢- ) 一丝( 7 2 2 ( x ) 一1 丝0 2 2 ( x ：x t ) - 1 x & 1 ( 2 1 2 ) = e m ) 佃”( 老( 凇1 ) - 1 蹦_ 8 - ) 也。”( 氏老( t1 ) - 1 如z ) ) 讪( x 。+ ( 丝0 2 2 ) ( x 。1 x k ) 剐x 。1 2 y 1 2 ( x i x l ) 一1 x ：c 舢( 可1 ，掣2 ) x l ( x i x l ) 1 0 2 2 一雕。+ 篆( x i 剐一2 恶( x 。1 = ( 一毫) ( 礅1 ) - t = 0 1 1 2 ( 凇扩1 ， ( 2 1 3 ) 把( 213 ) 代入到( 2 12 ) 得 下面计算 如=e ( 郇- ) ) + r ， = 口1 12 ( x i x l ) _ 1 + t ；j( 2 14 ) = e 陋一a ) ( 3 t 叫) 1 1 0 、，j 抛、ij 咿 第二章设计阵列满秩时b l u e 的优良性 = e 陋肛，+ “t 一刚虞一p z ) = e ( 声；p - ) ( 声：一p ) + e ( 肛，一卢t ) ( 卢；一卢t ) 7 = ( 鲫+ e e 阻刚反一卢- ) 州) = 也一c o y ( a ) = 口1 12 ( 。互1 ) ( 2 1 5 ) 所以将( 2l4 ) 和( 215 ) 代入到( 2l1 ) 得 m ( f l l b ) 一m ( 矽：) = 口i + 曰1 z 一口l 也b i = b lf b f l 盯1 12 ( x ；x 1 ) 一lq - 叮1 1 2 ( x ；x 1 ) 一1 b f l 一r ，- - 0 1 1 2 ( x l x - ) 一1 1b i = 口l ( r ，+ 。1 12 ( x i x l ) 一1 ) 日i 0 ( 2 16 ) 推论2 1 设卢z 的g l s e 币nb l u e 分另i ( 1i 1 5 ) ，( 1l1 6 ) 和( 12i 2 ) ，( 121 3 ) 给出，则有 m s e ( f l ；) 一m s e ( f l i 日) 0 ，i = 1 ，2 证明：利用事实m s e ( ) = 打( m ( 自) ) 即可。 2 2 p r p c 准则和p p c 准则下b l u e 的优良性 p i t m a nc l o s e n e s s ( p c ) 准则是p i t m a n i l 2 提出来的，这一方法被忽略了相 当长时间，直到r a o 1 3 m4 有关p c 准则的论文发表后，p c 准则作为比较不 同估计量优劣的又准则才受到统计学者关注。有关p c 准则的参考文献参见 ( 1 5 j 一 19 。p c 准则定义如下： 定义2 2 设自1 和自2 分别为参数或参数向量口的两个不同估计，上限自) 为损失函数，如果 p ( u 0 l ，目) sl ( 0 2 ，目) ) 0 5 ，v 日0 ， 并且严格不等号“ ”至少对某个口0 成立，此处0 为参数空间，则称l 在p c 准则下优于d 2 。 1 1 中国科技大学硕士论文 g h o s h 和s e n 2 0 】从b a y e s 角度引入p c 准则的两个替代概念，称为p r e d i c t i v ep i t m a nc l o s e n e s s ( p r p c ) 和p o s t e r i o rp i t m a nc l o s e n e s s ( p p c ) 准则，其定 义如下： 定义2 3 设r 为0 的一个先验分布类，自1 和6 2 分别为目的估计，如果 p 丌( l ( l ，t ( 8 2 ，) 0 5 ，v7 r f ， 则称吼在p r p c 准则下优于d 2 此处”为一个先验分布，p 丌表示对每一个 ”r 关于( 口) 的联合分布计算概率。 定义2 4 设”为目的一个先验分布，巩和2 分别为目的两个不同估计 量，如果 异( l ( 自l ，目) 茎l ( 0 2 ，o ) r y ) 0 5 ，vy y ， 并且至少对某个y y 严格不等号“ ”成立，此处y 为样本空间，”为一 个给定的先验分布，则称自l 在p p c 准则下优于目2 显然，若口的估计量自l 对每一个”f 在p p c 准则下优于自2 ，则它在 p r p c 准则下也优于6 2 ，反之不必对，因此p p c 是比p r p c 更强的准则 g h o s h 和s e n 2 0 】给出一个反例说明传统的j a j n e s s t e i n 估计对一切先验分布在 p r p c 准则下优于样本均值，而对p p c 准则这一断言不对。 为讨论如在p r p c 和p p c 准则下相对于声l s 的优良性，我们需要将 ( 11 7 ) 和( 1l8 ) 中条件加强为 e i 卢n ( o ，e 厶)( 2 2 1 ) 记损失函数l ( 0 ，目) = ( 自一日) ( d p ) = 旧一钊2 ，记x ；( o 5 ) 为自由度为p 的开 方分布的中位数。对于口。b ，我们有如下结果： 定理2 2 设卢l 的g l s e 和b l u e 分别由( 111 5 ) 以及( 1 2 1 2 ) 给出，若 条件( 221 ) 成立，且 羔2 独2 p 铲， ( 2 zz ) 叽l 一1 刈 、1 第= 章设计阵列满秩时b l u e 的优良性 则有 p 丌( l ( 声1 口，风) ) l ( 声1 + ，卢1 ) ) 0 5 ， 对任意的”r ( 8 1 ) 其中g i i2 = a l l 一口扎口爿，a 1 ，。分别为x i x 的极大、极小特征值，r ( 8 1 ) = ( 7 r ( 卢1 ) ：e ( 5 1 ) = p l ，c o u ( 8 1 ) = 砰如。) 注：条件( 2 22 ) 表明先验方差与样本条件方差相比不能太大，这一条件对先 验分布的精度提出了要求。 证明：仍记b = ( 蔫x i x - + 。) ，令 w ( 觚臆卢t ) = l ( 口且，卢) 一l ( n 剐 则 l ( 声l b ，卢，) = ( 卢：一8 1 ) 一b t ( 声：一肛t ) 7 ( 声：一卢。) 一b 。( 声：一p ，) 】 = 工( 卢；，8 1 ) 一2 ( 卢；一p t ) b i ( 声：一芦。) + ( 声；一肛1 ) b ；( 卢；一弘1 ) ( 223 ) 由上式知，w 乓( 2 ( 厨一声- 日) ( 卢一声1 b ) o iy ) = o 5 最后一个不等式成立是因为旧：一声t b i l 2 0 。s 成立。 第三章回归系数可估函数的b l u e 及其优良性 3 1 0 3 系数可估函数的g l s e 和b l u e 本章讨论当( 1 16 ) 中r ( x ) p ，即r ( x ；) p 。( i = l ，2 ) 中至少有一个成 立时，可估函数q = 盖卢的估计问题。因为任一卢的可估函数必可通过q 的线 性函数表出，因此讨论卢的可估函数就足够了 此时，我们假设r ( x 1 ) = t l p 1 ，r ( x 2 ) = t 2 p 2 至少有一个成立这 时，卢的可估函数r = x 犀的g l s e 为 叽。= x ( x7 圣一1 x ) 一x 垂y 由于上述表达式与广义逆的选取无关，故可将“一”号逆改为“+ ”号逆即 钆s = x ( x 圣一1 x ) + x 中y = ( 口! ，髓) ，( 31 1 ) 其中 坑= x 1 ( x l x ) + x i 9 l a 。2 i 塑2 _ 2 x - ( x i x ，) + x ；y 2 = 老x ( 礅) + x ；y 。， 链= 拖( 丘确) + x ；2 一；0 i 1 2 2 l 2 x 2 ) + x ：1 = 啦叫o - 1 2 x 2 ( x 2 x 2 ) + 勘1 ( 3 12 ) ( 3 1 3 ) 此处日1 = x l ( x i x l ) + x i 9 l ，日2 = 恐( 砭局) + x 2 y 2 用类似第一章的方法考虑q = x 卢的b a y e s 线性无偏估计。记q o = x p = ( ”抽：。) ，则有 斤且= x v x ( x v x + 西) 一1 可+ 【，一x v x ( x v x + 西) 一1 x 舢( 31 4 ) 利用公式( 1 2 6 ) 可知 x v x ( x v x + 虫1 1 1 7 中国科技大学硕士论文 一 = x v x 壬一1 一圣一1 x ( v 一1 + x 圣一1 x 1 一i x 圣一x j = x 矿( f x 。西一1 x ( v 一2 + x 圣1 x 1 1 1 x 7 圣一l = x v v 一1 ( y 一1 + x7 西一1 x ) 一1 x 圣一1 = x ( v 1 + z7 垂一1 x ) 一1 x 圣一1 皇h f 3 15 1 = x ( v 1 + x 7 圣一1 x ) 一1 ( 垂一 x ) ( 圣一 x ) f ( 圣一 r ) ( 中一x ) j + ( 西一i l x ) 圣一 = x ( v 1 + x 7 垂1 x ) 一1 x 圣1 x ( x7 蛋一1 x ) 十彳垂一1 f 3 ，1 6 ) = l r x ( x 正一1 x ) + x 垂一 所以由( 314 ) ，( 31 5 ) 和( 31 6 ) 可知 卵8 矿x ( x v x7 + 垂) 一1 9 + s 4 x ( x 垂1 x ) + x 圣一1 9 h , k s + ( ，一i t ) n o = 日。 0 c s 一( j h ) x ( 声。，一_ 【工) ，一x v x7 ( x v x 7 + 圣) 一1 x 卢 + t i h 1 q o 。( ，一h ) ( 乱s 一叩0 ) 2 日。s 一 鼻一h x ( x x ) + 五x ( 声。一p ) = 日c s ，一e x ( x7 x ) + x 7 j x ( a 。一“) 2 日。s 一口一h x ( x x ) + x 7 】( 口。”o ) f 3 1 7 1 现将籼分块，求出其分量确。和口。e 的表达式。由假定x i 托：0 以及( 1 2 9 ) 可知 x ( v 1 + x 圣 由( 1 11 0 ) 可知 ( 3 18 ) 、j，y 0 。刁 + 0 碣 砭。击 0 孑。 + 寥o x p 、 0 也 x 0 ，0 = r x 第三章回归系数可估函数的b l 阳及其优良性 x , b - 1 x ( x 。x 1 + x 。 x i0 fa 矗。厶 0 蔓八_ p 1 2 厶 x 。( x i x l ) + x i 1 0 o x 2 ( x i x 2 ) 砭 ( 硪2 墨蜀忧0 扛。+ 岛。m ( + 蜀) = ( 矗0 2 麓墨) ( 3 蛐) 、咳 。墨x 。( 墨x ：) + 蜀 a 差。墨7 由( 3 18 ) 和( 3 19 ) 可知 h x ( x7 x ) + x7 = x v 一1 + x 西一1 x 一1 x 壬一1 x ( x x ) + x 7 = ( p x 昂x ；羔嘲心五。2 x “0 ) = ( x 1 x i x l + 叽0 12 r f 2 l 1 己( x ；尥+ 0 - 2 。2 1 可。) 一墨) 恐( 互尥+可。) 五 = x 1 ( x l x l 乞以l x x i ，( x ；x ：? 如。) x ：) c s - 。， o 2 ( x ；x 2 + d 2 。) 一1 x ： 一 此处6 l = ( y 1 1 2 t 1 ，6 2 = 0 2 2 , 1 百2 所以 将( 3l1 0 ) 代入到( 3 17 ) 得 叩b ( = 。l s - - t i - h x ( x x ) + x ， ( 篡) ( 篡： i n - x l ( x i x l 十6 1 易，) 一1 x i o 0厶一x 2 ( 五x 2 + j 2 。) ( 矗一x 1 ( x i 膏1 + d 1 昂) _ 1 x i ( 日：一舶1 ) 厶一x 2 ( x ：x 2 + 如：) _ 1 砭 ( 弼一 r 0 2 ) 、钟一r o l 、 - 墨八旌一彻| 日l b = 瞄一( 厶一x l ( x i x l + d l 。) 一1 x i ( 优一q 0 1 ) 日2 b = 磁一 k x 2 ( x ；x 2 + 6 2 。) 一1 x ； ( 档一_ 0 2 ) ( 3 1 1 2 ) ( 3 ，1 1 3 ) m 瓤 一 盯 里苎垫叁堂堡主堡圭 3 2m s e m 准则下回归系数可估函数b l u e 的优良性 定理3 1 设可估函数啦= x i f l i 的g l s e 和b l u e 分别由( 3 12 ) ，( 3 13 ) 和( 31 1 2 ) ，( 3l1 3 ) 给出，则有 m ( 臂) 一m ( 讯b ) 0 ， i = 1 ，2 证明：仅对4 = 1 的情形加以证明，口2 可以类似证明。记 g 。= k x ( x ：x + 6 t 、) x ：， 则有 m l b ) ：e f 哺i g 1 ( 日：一q 。1 ) 一q 1 哺；一g l ( 目：一啪1 ) 一q 1 7 = e f ( 日：一q 。) 一g 1 ( 日i 一1 0 1 ) 】【( 口：一q 1 ) 一g 1 ( 日：一q 0 1 ) ) ：e ( 日j q 1 ) ( 日；一q ，) 一( 日j q 。) ；一q o ) 萌 一g t ( 舜i q 札) ( 本i m ) 7 一g 1 ( 而i 一叼虬) ( 而i 一叮札) g ：1 ：m ( 日：) 一噩g j g t k i + g l 尬g i ， ( 32