（概率论与数理统计专业论文）统计决策观点下线性模型参数估计优良性研究.pdf

中文摘簧 摘要 黎枣= 乘法曼一耱嚣零重要戆镀诗方法，它藏浚了箍诗量与数据魏援台程度。豢 夺= 乘蓊诗求解方授，形式简洁。瓣稻豹g a u 瓣m a r 黼定理表嘲，最小二乘德诗在线 性无偏估计类中方麓域小。这些性鹱藻定了最小：嫩估计在参数辅计耱应用中的重要 缝使。避= 卡年来，缀多绞计学骞从镑个不爨兔痰瓣g 蛳* 艇辩k 定理进行摊广，研 究簸夺二黎蘩诗在备耱藏义下舞谯嶷憔。这些箍广苓靛京筑诗靛疆谚嚣痰薅土京势 重要的意义，丽星具肖数学美。贯一方面，入搬又谯各种不蔺模型中研究对躐小= 乘 估计的潋遴，提出许多毅豹估计来。玮：论文在统司“决策理论的攒槊下，研究最小二乘 镳诗的绕趣控及其改进谯计。蓠先扶误麓矮的分淼感笈，研究线梭摸型孛最小_ = 黍售 诗戆稳鼹靛，缭塞楚褥g 糕h 鼯秘躲孙妒定瑶藏立戆鬣大谡差分毒类，麓8 髓争辩瓣莨湃定 理迸彳亍瓣广。接着斌撩举集中往角壤，绘出了备种约束条件下熟最小二乘恼诗，并讨 论了它的伉良经，它比( 滗约束辩酌) 嫩小二乘估计檄率更为集中。本论文还讨论了正态 线性模型谈麓方蓥的区阉憾诗在覆箍攀、匿超长度与区闻的f 上、下) 满意魄土麴改进。 谂文共分嚣章，主要蠹器 鞑蠡下； 第一警嚣先简单介绍线性摸受中最小二乘估计的有限样本忧楚性研究避最。箕 次，本文多处假设误差向爨服从椭球嚣商分布，作为预备知识，我们回顾了椭球等离 努毒夔定义，慧终了熟鬟要 生震。蒜次，零章分缨了毙较铵诗捷藏毪靛集中概率准 羹，它蹙魄臻方误差蕊嬲更强鹣笼鞍嵇嚣蕊劣戆瓣壤。最惹，奔绍了癸薄舔援失器羧 和平衡损搬国数。 第二帮考察最小二獭估计的稳健憾。对于线性横溅 一x 器专s ， 其中弘为扎) ( 1 戏测f 句登，发为住p 的设计矩阵，序为p l 舱未知参数囱堂，为协l 的 赣撬误燕翔蕊。k 豁i y 鑫鞠k u 哦8 ( ) 舔竞了嚣炽煞数叠戆最小：慕售诗的臻瞧犍， 瓣g 鼙j s 8 辩豁簧醑定理痒了推广，讨论了楚褥箍广懿g 8 n * 鬻瓣蛰。v 定瑾残立熬误蓑分 布豹最大激。受k a r i y a 翘k u r a t a 工作f i 勺启发，考虑擞x 为列降秩，即r 8 n ( x ) 一r 0 来躲。封为凇擎熬已翔艇薄，其秩必辩， 薰髫雾= 囊愚裙容嚣。零辩鲍索最，j 、二黎髂诗为 虞一毋一( x x ) “1 抖( 打( x x ) “1 描) 一1 ( j 够一d ) 茭孛雾一( x x 一1 并7 蓼照嚣约束条释下秘簸毒二黍黏诗。霰设误蓑秘辩e 一文和) ，零论 文证明对经给定豹站阶蔗定阵d ，撤任意常数c ，在线性约束锵伟眉口= d 下，都有 西 庭一彰d 渡一圆萨 p r 毋芦) 。d 参一多) 竖c 2 + 并把结论避襻推广，谨秘蕊中概率准樊鞋下，度优予毋。即黠舻中任激j c 寸称凸榘8 ，鄢存 p 魄一芦s ) p 谚一声固 第三章避懑点讨论了来戋群参数口满足线性不等式约窳的情形。考虑椭球线性蟆裂目一 x 8 + e ，# 一e g ( o ，囝，并虽误差向艇还是单峰分椎。未知参数p 满足线性不憋式约 紊0 = 猡芒澎 i 8 o ，薅谬 。本文涯翳了对形哮；经意黠穆蕊爨8 ，帮蠢 p ( 扩一pgs ) p ( a 一口s ) ， 箕孛扩勘在秽上懿投影，扩= 建够l g ) 一霉强硷遵+ # 8 钿。避* 轳一逢移l 始一簿= 瑟一e 一，糕一：a ) 一1 胡，扩也是凌素蘩释下翁裰犬叛然镳诗。 第辫拳莒孪论菱态线健搂鎏l 谟差方麓萨2 的送瓣甓诗及匿趣翁诗簸改遘簿鹱。零文努 瘸获灵袄赣乎残差平方帮瓣最短长菠鏊髂嚣麓襄嚣邂点磁夔最零静黉信嚣窝辩发，褒 用模黧的剃麴平方和毒残麓平方和比值的傧息，提出潋进的区澜侬计，证明耨的估计 在覆盖椴率* 8 长度( 或端点 b ) 上都有了淑谶。对于_ 垂恣线性模型 静= x 移+ 岛一臻( o ，扩趵， 中文摘要 其中爹秀站l 麴蕊溺羯鬃，盖为嚣p 戆设诗蜒臻，鼗为筘，黟为爹i 酌来翔参数舞 量，s 为隧祝误差，疗2 为未知豹误差方麓，d 2 o 。本章第二节提出了误差方藏口2 的优 于，舭( 鼹) 的区澜估计；篇三节从嚣储区间援端点比值最小的角瘦出发，讨论了口。仅 依赖予残麓平方帮豹一致最精确无德鼹信区间豹教避问题。 关穗谰：线性模型；最，j 、二乘嵇诗；椭球等裔分露；线瞧约粜；随机序；絮中概率瀑 则：改进送间估计 英文摘要 a b s t r a c t 鼗l e 秘i 黼i 瘿e 蹬 e 豁ts 蚺曩孢s 辩w r yi 搬p 献黼耗潮e e 姆张eg 。蕊暾黼o 赫。彀l e l e a s ts q u 淞e s8 0 l u t i o ni se a s yt og e t 蝴d 王l a sac o i 8 ef o r m t 】k n a 眦g g u s 蜘m a r k o v t 圭i e o r e ma 8 s e r t st h a tt h el e 8 s t8 q n a r e 8 姻t i m a t o r ( l s 麟i sam i n i m u mv 雅沁n c eu 心i a s e d 器蛙班8 恚档鞠l o 硅g 殛e 砖a s s 盛嚣n 锉r 醢瘀l 黯e s 磷蕊蕊嚣，翻l 枯e 辫p e r 霸端g i 疆氇e l s 嚣e x t e n s i v e 璐e 逸p 舯敏疆e t e re s t 溉瓤i o n 镪r y 魏n da p 辩i c 砒i 。n i nt 赫n e 站2 0y e a 勰， m a n y8 t 舭i 8 t i c i a nh a v em 8 d et h ee x t e l 琳童o i l st ot h eg 籼s s m a r l 掣t h e o r e mf r o m 幽程e r e n 七 v i 髑巾。澈魄勰ds t u d i e dt h eo p t i m 啦i 堪o fl s eu n 如r 避蛹8o f 州t 鼬1 3 t k 嚣e 裂t e n s i 瓶嚣 珏。榷骖l l 释惜峨越藉搿蠡e 糯e e 撅s 毫蕺 蝣逾越巍e o f y 鼢硅却p 嚣e 鑫毫i o 娃，b 毽t 越s 。蠡建l 磷燃- e m 8 _ i c 越b e a u t mo nt h eo t h e r 圭l a n d ，8 t a 七i s t i e 迫n 8 龇t l d yt h ei 融p r 0 、峙m e n t so nt h el s e u n d e r 越lk i n d 8o fm o 幽ba n dp r o p _ 。m a n yn e w 档t i m a 乞o r 8 t h i sp a p e r8 饥撼i e 8t h e p 嚣f o r m a 建c e 腿dt h eo 辩i 瑚采i 每然i 猫鲢o r s 撅d s o 珏强e 碟e e i e 疑嚣感s 遗i n c i t l d i 髓gt 酶 蕊璐毫n 始so f 醛嚣蠢驺e 氇r 蕊捌i e 圭；t h e 撙s 秘i 乞醴羔s 嚣。f 殛鞠龄删酶拄c 。e 曩i e n 毫8 筘w i 蠡 e q u a | i t y 括赶di n e q u 啦i t yl i 雏e 舯c o n s t r 越n t 8o nt h ep a r 貔m e t e r8 p a c e ；a n di 珥p r o 、稍c o n 鲑d e n c e i n t e r v a l 8f o rt h ee r r o r 豫r i a 躲c eo ft h en o r m a ll i n e a rm o d e l t h e r ea 4c h a p t e r s t h em 啦n 搿毽巍s 鑫r es 毽珏l 糙8 王i z e d 自漆岛毽。薛： i nc h 巍p t e rl ，ab 越e r e 啊e wo fd 培l o p m 嘲so f 辆ef i n i t e8 揪砖ep e r f o r m a 麟c eo fl s e a 百ed r e s e 娃e d ，t h ee v 甜u a t i o no fe 8 t i m a 七o r su n d e rd e c i 8 i o nt h e o f e t 稔f r a j n e w o r kw i l 王a 0 w 蹿si 躺l v et h ed i s 镪b 矬踊n so f h e8 t 魅i 8 t 通s ，搬e 蕊o i c eo ft h e 幽姆o fe s 专i m 8 蜒。珏黼疰 k s 嚣强c t i o 皲s ，瓤避堍e r i 惦磊氇垂。re o 徽p a 娃8 潍。薹螂镰难羽i o 瓣w es 艟p p o s e 疆i ed 妊避b h t i 毽l o ft h ee r r o 辖l y i n gi n 幽ec l a 8 8o fe l l i p t i c a l l ys y m m 蝴唷cd i s t r i b u t i 黼sh e r ea n dt k r ei n t h i sp a p 倒+ s ow eb r i e 娃yr e v i e wt h ee l 姻8o fe l l i p t i c 硝婶s y m m e t r i cd 溉r i b u t i o 瞄徽d8 0 m e o i 括p 街p 档t 溉。w e 8 0i n t r o 鑫u e 8 氇魏g w 勰硅s t 瓣g r 娃嚣i 蕊一t h eo o n e n 虹鑫 i 徽p r o 珏 岛b i i i 移镶韩拧r 擞w 魏i e hi m p 嚣e s 醢搀d o m i 球式i o nu 聪钟瞧e 撤e a ns q 髓靠r e d 卿r o re # 盹e r i 蠛l ， i nt h i sp 翱i ) e r ，w ew i 珏箍d o 皿c o n c e n t r 戚i o np r o b 曲搬t ya sac r i t e r i o hf o rc o m p 鲥i 8 0 no f e 8 t i m a t o 黼t h el a 8 t8 e c t i o 搬i 娥r o d t l c e 8t h ea s y m m e t r i cl o s sf u n c t i o n sa n db 8 l 黜c e dl o 鼯 n o l 辐。 c h 蛐酶r2d e a l sw i 俄t h e b 醢8 t n 螂o fl s 嚣散黼t h er e 8 p 雠t i v e t h ed i 8 b u t i o n s o ft h ee r r o rt e r 粥sa h d 嫩t e n d 8 毛h eg a u 8 8 忡m a r k o vt 舶o r e m c o n s i d e rt h el i n e a rr e g r e 8 s i o 珏 搬o d d 蓼= 盖筘+ # 英文撼要 w h 镒奄箩至s a 箍鞋iv 姥o r o b 辩r 罐鲢o n s ；x i 88 a 髂尹h l 。w 鞋d 瓣g 珏m 鑫t f 没；多瓤a 挂p i u 越出o w nv e e t o rp 龄a m e t e r ；gj sa n 犯lr a n d o me r r o rv e c t o r k 黼i y 88 i l dk 氆r 拽t a ( 2 0 0 2 ) s t u d i e dt h eo p t i m a l i t yo ft h er e g r e s s i o nc o e m c i e n t s 芦。t h e ym a d e 魏m 8 x i m a l 洲t e n s i o l lo f 强eg 8 u s 轴m a r ；vt h e o r e ma n dd e r i v e d 娃l em a ：畦n l a 王c l a s so fd l s 专r i b h t i o n so fe r r o t e r m 参w 圭1 i 馥t h eg 8 璐争m a r k 。v 拯r e mh o 涵赫o t i v 锄融b yx 嚣迅潍瓣d 壬( 娃r 蘸8 ，8w 。矗，甍陀 f i r s tc o n 8 i d e rt h er o b i 王8 t n e 8 so fl s bi nt e r m so fe r r o rd i s t r i b u t i o 觳8w h e nxi sa8 i n g u l a r m a t r p n 聃惫( x ) = r p ) 、ee x p b r et h ev a r i n gr a n g e t h ee r r o rm e a n 甜畦c o v 8 r i a n e e w i 毫l 蛙nw q 融瘫强el s e 担t h eb e s tl 至n e 船e s t i 瑚8 t 锨波t 抽8 鼬s e m i 珏珏鞋i 采致鼗t h e 醚s e m a t r 没、蚀越s og i v et l l em 旺i 撤棘c 重拽8 s d 诲t 矗纨髓。魏8o fe h o t e r mf 。rw h i 穗t h e 璐e p o s s e s 8 e 舄ac e r t a i n 圭c i n do fm b u s t n e s 8 w h e nt h ee r r o rt e r mb e l o n 9 8t ot h ec 1 8 8 so fe h i p t i c “l ys y m m e t r i cd i s t r i b u t i o i l s ，u n d e ra p p r o p r i a t e n d i t i o i l s ，w es 抽wt h 雠t h eg e n e r a l i z e d l 髓采s q 毽鲥e s 疆t i 秘a t 溅主88 0 m 赡戤r o b 璐tw i 攮r 档p e c tt od i s p e 璐b 建m 8 毫蛀x 氇娃dl 8 & n c t 主。戡si nt h ec l a 8 so fl i n e a 嚣u 珏b i 8 8 e da n de q 韭i v a 茁i a n te s t i m a 七o r sr e s p e c t i v e v 豫馥蹿t 龆3 ，专& r e s 饿c e dl s 嚣缱鞠溉潮np 瓣辍毪e 蹬s 黟搿蝴s r 越鞋e d 珏n e 瓣翔o d e 廷 雒ed e 翁n e da z l dd e 8 e r i b e d i na s 毫a t i s t i c 毹m o d e l ，i fw ec a n 琢赫姑1 | s eo fs o m ep r i o rl n f o r m a l t i o nr e 豁o n a b l y ，w ee a ni n c r e a s et h ee 蕊c i e n c yo fs t 舭i s t i c a li n f 矗e n c ep r o c e d u r e s 1 nm 舡l y c 躺e s ，t 撼8a d d i t i o n a li n f o r m a t i o 丑西8 豫ep 8 r a m e t e r s f o r mo fe q u a l i t y0 ri n e q u a l 琏y c o 珏8 t r 毡沲砖l 魄黯rr e 至毹i o n s 。f i 糟t ，e o n 8 蘸e r 鲢l ee q 毪硝主t y 强8 r a i 箍e d 差主n e a r 越。程e l ”。x 声+ ，曰警：三：e 。v 。z 口2 7 w h e r e 掣诲a n 礼iv e c t o ro f o b s e r 、碍l t i o n s ；xi 8 氇n 扎芦m a 宅r i xo f f u nr 8 n kp ；卢i sa n p lu n k n o w nv e c t o rp 盯a 肛l e t e r ；i 8a n 孔1r a n d o me r r o rv e e t 。r ；盯2 o ，u n k n a w n ；日i s a nm pk n mm a t r i x ，w h 0 8 er a 娥弧ma l l de q l l a t i o 矬嚣缪= di 8 m p a t i b l e 。w ec a n 豳t 妇穗ee q q 矗l 毋n 8 t 隧n 舒l s eo f 多 度一声一( x 7 x ) 一1 尉( 日( x 7 x ) 一1 灯) 一1 ( 鄱一d ) 唧氧穰e 多糕( 爱x ) 一1 x 笋i s k 毯t e s t r i e t e d 。r d i 狂瓣yj e a 蕊s q h a r e se s i 糯器霹s 醢p p 。s ee v e c t o r8 ( 妒) ，t h e nu n d e rt h ee q u 8 l i t yc o n 8 t r a i n e dh n e a rr e l a t i o n 封口= d ，f o ra n y 西、忙n 惫南p o s i t i 、，ed e 6 n i t em a t r i xa n dc o n s t a n tc ，、糙h 8 e j 专 ( 虞一黟) 7 口( 霆一多) c 2 ! ，r ( 参一声) d 参一声) 孑 一v h 英文摘要 秘援措擞o r e ，黼p r g 张谯蕊t 量l i se 嘴j 越螽豫c 黼b e 睬髓琏磁礴船霆妊p r e f e r 鑫b 毡泌参 u n d e rt h ec o n c e n t r a t i o n 妒o b a b i l i t yc r i t e r i o l l t h a ti 8f o r 越秒西v e 珏8 y m m e t r i cc o n v e xs e t s 席，w eh a v e p 癌一p s ) p ( 多一声s ) i m ei n e q u 越时c o n 8 t r a i n e dl i 赶黜rr e l a t i o ni s 溅od i s c u 8 s e dl nt h i 8c h a p t e r c o n 8 i d e r t h es 砖档i c 畦i l n e 射磁饿l 蘸 可= x # 十n 一f 岛( o ，妒) 毪蠡d 疑e r r 疆雠o r 穗a - 硅越糙。d 越，n 氇臻威y 歉d e 簸s 主耄yg e 珏敛鑫瓣窖) 逸m 髓o t o 王垂e a 甄y n o n i n c r e 8 s i n g t h e 醢n 疑n o w np a r a 糖e t e r ss a 乇i 8 母t h ei n e q u a l i t yr 姻t r i c t i o 璐o = 毋j 护 吐占o ，a 舻 i n t ，gi sa h a l fs p a c e f o r 摊l yg i v e nc o n v e x8 e ts 辟，8 y 凇m e 泌 a b o u tt h eo r i 棼n ，w eh 8 v e _ p ( 疗+ 秽s ) p ( 晷8 s ) w h e r e 扩i st h ep r o j t i ( m 蚕o ne ，扩 j 乇p 8 8 一o ) = 箩一一1 剖 岔一1 黯) 一1 8 l ， e s t i m a t o r ( m l e ) = 逸拶| g ) = 8 知照o l + 伊强直 o 对，联) 是帮p 的菲降淑数；丽当葶c ，声 0 ，璺x 豢度函数鲍影式兔 l | 一1 膳g ( ( 茹一弘) 7 一1 ( 嚣一芦) )( 1 一1 3 ) 受) 楚整瘦生成垂数。 ( 3 ) x 有陵枧表示 x 曼弘+ 戤锃，f l 1 4 ) 其孛露鸯嚣受疆凝交爨，莽娶与妒独立l 蠢妒豹黪缝避数秀妒渤霞淹x 蚤鹣烂薄，瀵 足a a 7 一。 椭球等高分布的矩不一定存谯，设x 一廖( 舭，；妒) ，e x ( c o v x ) 存程当虽仅 当e ( r ) o 。( e ( r 2 ) o ，s o ，= i ，2 ，3 ， 就可以褥到n 维k o t z 分布的密度黼数 冀 | 1 ，2 i ( 嚣一# 1 ) 7 一1 ( 嚣一芦麓。一1 e 一 扭一芦) e 一2 ( 。牡 r ， 一8 + 第一章绪论 g 楚委戴稼鬻数。 1 3 随机序与集中概率准刚 璇辍侉筵概率统计串豹一个重簧撩念，它霞霹靠性分掰、摊队论、保险耢箨、风 险决策、髓机调度等许多领域中都膏广泛豹应用。 l e h m 瓣n ( i 9 5 5 ) 绘如了随机序豹一个定义： 定义1 2 设随瓿变爨￥帮y 分剐裔分布函数f 秘g ，若魄戴，有f 洳) g ( 茁) ， 贝称x 随枫她小于y ，谗作x 。y 。 上嚣定义瓣睫糗痔又称舞骜遵髓辍廖( 璐强畦8 t 融3 s t l c 。砖e r ) 。骜逶隧稳黪又称佼 分南穿，窕商一耪直蕊豹耨释，觅下蕊的定蘧； 定理1 2设f 和g 熟两个分布函数，若x 羔“y ，粼可构造定义在同一个概率空 惩，罗，固上豹隧祝变爨x 靼y ，馒褥x p ) sy 知) j c 重酝存。q 戏立，势娶x 秘y 煞 分布函数分涮为f 帮g 。 普通随机序还有一个簿价的定义 定义l ，3 强暴辩任懑鹃犟壤不减滚数，：j 一霆，只要裁燮存在，裁骞嚣，f 嗣 e ，( 功，剐称x 随枫邋小于y 。 另外还毒几种较为常见的随枧序。设x 和y 是r n 中的嚣个随帆变量，密度涵数分别 尧投。) 罨魄国) ，辩鸯： 1 似然e e 净( 1 i k e l i h 。o dr 8 t i oo r d e r ) ：如果然荑予t 单调不降，则禳x 在似然姚序下 小于y ，记俸x 打y 。 2 凸彦n v e xo 燃髓) ：鲡暴黠镁意戆韪函数盎：静一露，只要簸望露在，藏 蠢e 毳( x ) e 赶( y ) ，劐称x 在热亭下小于y ，记搀x 。y 。 3 递增凸序( i n e r e a s i n gc o n v e xo r d e r ) ；如果对镬懑的单调递增热溺数危：j 扩一冗， 只要期望存在，就蠢e 怠( 爿) se 矗( y ) ，则称x 在递增秘序下小于y ，记作xs 。y 。 4 + 线鞋窿f l i n 镍re o n v 戥o r & r ) ：磐采对任意麓8 拶，都奄8 xs 。y ，爨 称x 在线鞋凸序下小于y ，记作x 曼妣y 。 上述的侉有如下关系： x b y 净x n y x i 。y 一9 ， 1 3 随机序与集中檄率准则 b 扫油瓣撒 骢) 鲶邀定义；嚣隧糗交囊硷美予越l 逡疆瓿变蘩埏关予玲燹燕嚣蠹， 若霄 p ( 1 m 一肛1 i 篓8 ) p ( 蚝一弘。lge ) v o ， 毒趣= 擞一0 ，嚣歌眈砭囊藏辨斌。 s h 甜m a n n 9 5 把遮个定义接广粼多元豹情形。 定义1 4称蕊个随机向璧h 鳓鸲满足p e a k 膨，若对任意关予原点对称韵姻集sc j ，郡蠢 p 甄s ) 芝p ( 娩固， 记传m 麓。k 。 恕这整定义溪予参数嵇诗鬟谂，对痊遮翥魏枫窿灌爨襄簸孛概率准爨。对经一绘 定鹣霉炱淹簿蚤，定义广义歇氏漠麓 d 妇) 一8 l 口* ( 6 ( 嚣 一# ) 鼢秘( 。) 一8 ) 】；， 豢d = f 蹿，就是歃羚瀑麓，记律 6 ( 辩) 一8 i 。 定义l ，5 设6 1 ( 盘) 和如( 。) 分别越来知参数口豹估计，若v 亡 m 为彰磊( z ) 一壤挣鬟笱弱 | 盎( 妨一参洒篓棼，l i 镑 势艟至少霄一个如g0 ，搜键严格不婶母成立，则林文( 鬈) 在貉机帘准则下优予如( 需) 。 爵终，本文记襞毒幸6 穗 鳃强浚藤羧尧 ， 魂( 9 ，d ( ) ) 一点；_ l ( | 6 ( ) 一8 l d ) = 五( f d ( z ) 一p f ) 疽f ( 。) 。 j 嚣1 噼端( 1 磐8 鑫 汪黉了瓤下麴等蛰装定理i 定躐1 ，3 若国( 茁) 猩隧机序准则下优于岛( 尘) ，那么对 壬意参数日o ，殿轾意豹擎 调不减损失函数己( ) ，谢 嚣织蕺妨) 曼j 毪嚷鼓 嚣) ) ， 反之，辩任意参数9 ，及憾意的单调不减损失函数五( ) ，玩( 9 ，魄( 茹) ) 惩，( 8 ，如( 嚣) ) r 列i d l ( ) p 口随机地小予l 如如) 一8 o ，& p 姚 o ， 娲| 龟2 ；一乎 嚣s 句穗 i 如# ) 一# | 挣曼 1 0 第一章绪论 蕤糗窿礁辫是毙稳方诿差整戴簧强稳巍；鞍铵诗鬣劣熬菰难，这令难爨安繇上楚您 较语计爨与被估诗参数静差落在羟一姒原点为中心韵椭球的襁攀。若把襁豫撩广到更 一般的关予原点对称的鼬集上去，树 藏的就是集中概率准则。 定义l 蘑设雪表示口戆一令蘸谤类，管豪示拶孛美予簸嶷对餮黪趱黎鹃集 会，扩够，著对每一个6 扛) 9 嗣镪s 够，帮有 p 扩一孝鞋s p 6 ) 一o s ( 1 一1 7 ) 翼称扩在储计类9 中楚隳中概率最大解估计，w ( 茹) 玩我们 觐称扩在集中概率准刚 下优于d ( 辩) 。 器e 癜濑嚣张n g l 裙) 蟠了下裁瓣定理。 定壤l ，4若扩程饿计类9 中嫩熊中概率最大的估计，剡对一切9 ，以殿任一估 计d 缸) 转，下蕊的不蒋戏成立 e 己( g ( 扩口) ) e 五( 譬姆一口) x( 1 1 勘 其中擎t ) 为对称晶函数，联、) 兔有下器躲不减函数e 1 4 遵蠢对称损尖函数及平衡损失溺数 嵇计酾撬受装与攒失避数豹选取寮讶稿关。程统计决策理谂串最鬻掰赫鼹= 次损 失函数，宦是一种对称的无界的函数。我们使用= ：次损失函数搬多时候是由予它罴有 良好的数学瞧瘊+ 然褥狂一些实际阍燧中，二次掇失函数荠嚣总怒逶合于真实的搂失 潺嚣；蠹遗盛接失爨怼稔，绞嚣学家嚣j 挺爨了缀多其它类銎兹损失瓣羧。 非对称的损失菊数( l i n e x ) 是避华来受到入们广泛重视冉勺一类按失嚣数，它是 由v 越a n ( 1 9 7 5 ) g f 进的。目# 对称的( l i n e x ) 损失函数膨式如下： ( ) = 蘧8 幽一嬲一j l ，嚣移，蠢 8 ， o 王国 其中一一。为馁计的误差。易魁五( o ) ；o ，并魅墩小值在一o 处取得e 参数n 决定 搂失函数趣线戆瑶技，6 决定尺度。黧辞 存时，过分镄幸 造盛的聪紧要大大超过镳诗不 是蘩来瓣影响。当8 o ，= l ，p( 1 2 0 ) t = l 蒸枣髫一盎l ，趣) ，盎i 一建一褒，一 ，。，弘五a ) 还是凸臻失醺熬。 在一魏谤形下，l l n 腻损失函数的期望不存在，饲妇分布情形，这在定程度上 限制了它的使用。奄n 和l e v y ( 2 0 0 1 ) 撼出了有界l i n 损失函数- b l l n e x 的概念： ，= 端= 者象生与， 其中8 乒峨。 0 ， o ，令6 = a e o ，那么b 毛i n l 擞羝以记侮 酗) 一；p 再耵未石习蟊 酱l i n e x 攒失黼数其省缀好的数学黎l 缆计性质。 萁戆鬻挺戆龚对拣攥失透羲毽耩魏辩稚熬或蕊黎嚣对称懿_ = 次撰失蘧数，帮赛黎 降的非澍猕损失涵数。捌翔 对称的：次损失函数形式如下 溺= 雠二黧妻： 其中女l ，如0 t 且七l n 雯癸鸯器蘸降翡按炎添数霹记鸯 上划i ，* “i 丢d 盒：i ： 英孛e 是嚣定的察数，楚穰意粒棼隧蛰数。蠢怒耱意麓使褥& f 嚣耀豹丞数。 ，1 2 第一章绪论 z 罐琏雠持謇4 ) 粪出了平衡摸失交数b 蘸髓掷a1 0 8 s 蠡| 豁e t i 。n ，装颟嚣了餐势瓣精度嚣 模型的拯台优度。对予钱馁模囊，平缀损失函数静般形式为： 五。( 敬) 一甜活一参) ( 筘色十i 一甜) 姆一) p 一，( 1 2 1 ) 其中。芒f o ，l 】是加投焱数，右边的第一项代表拟舟饯菔部分，第二颁代表估计的精度部 分。当埘“o 时，平衡羰失函数就篱化为常见的= 狄损失丽数。 i 。5 本文的主凝工作 本文黎二章臻鬟毁小二桑售计豹穗筵甓。一般说来蓬参= 添嵇诗懿稳爨瞧不舞矮 小一乘镳诗。丧于最小二乘话诗诗辫简使，统诗性旗明了，入们茏其是实舔工作者倾 向于使用最小二乘估计，所以有必要讨论最小二獭伪计的稳健性。王松桂等f 2 2 ) 介绍 7 最小二濑话计关予秘方差阵的稳鼹健。在魏基础上，本章对簸小二乘估计的稳健缝 邃孬了深入戆搽毒拿，主鼯进嚣了鼗下嚣夸方嚣琴 巍。f l 蓄毙落谂壤枣二黍馥诗燕子漤 差分布豹稳健性，给獭7 误差分布麴蘸大类， s 。= u 。沪按垂) l f 筘，垂) e ( j ) xv ( j ) k 其串e ( ? ) 一搿( x ) u ( z ) ， v ( j ) = 圣芒爷( 牲) | 圣= x a l x + + z 矗2 岩，矗l 睇，a 霉彝一r ， 误差项豹分布在此蕊瀚内变动时，兴霹的最小二黎估计x 口在均方误差矩阵凇则下是 最优估计。是外考察了_ 8 的广义最小二乘估计g l s ex 霹+ ( e ) 芙于谟差分布的稳健 燕。f 2 ) 讨论了耩豫等齑分毒线瞧模型中懿稳筵躞隧避。逐爨了当褥方差簿在菜令蕊灌 蠹交动辩，竣昏二乘然诗在不嚣豹掇必函数下分魏怒线茬无镶嵇诗类渡及蕊交嵇诗类 中风险最小的估计，最小= 乘估计关于协方茬阵和攒失霸数同时熊饔稳健性。 在绒蛙摸型戆参数镳计瑗谂中，避馥缓设8 世黪，焉在实鞲瓣题申，# 嚣誉矮于晕 缝致氏空麓劳戆一令予空溺转，瑟舔e 。我稻亵蒋凌诗捺鞭过程串，萋麓整参 数e 的先辍信息与样本储息结合起来，常常能很大戳度地提高接断的效率。参数0 的先 验信息邋常表现为线性餐式约束、线性不等式约娥与非线性约柬蒋。第三章礴懑撩球 等裹努京线缝模型中线髅翁素下隧 笾系数熬参数镳诗弱题。主甍避嚣了弑下三个方瑟 麓骚究；f 】 罄竞证翳巍麴柬参数区蠛帮缪= 蠢主，约康簸夸二暴然诗艮筑予簸，l 、二乘搂 一】3 。 1 5 本文的盘簧工作 诗誊。靼鼹捶一绘定黪意奄瓣委是瓣移，及饪意常数秘都蠢 尹r ( 庭芦) 7 d ( 巍一国篓孑) p r ( 廖一芦) 7 d ( 声) sc 2 2 楚1 ) 舱绪论摇广熬；熊中橇率准粼。诞鹱了程黛审概率壤羹| j 下，熬吏最枣= 黎髅诗爨 予最，l 、二豢癌诗；露：酾酵秽孛程意黠黎蕊集s ，粼蠢 p ( 庭一s ) p ( 声一p s ；萄鼹予泰黧参数镶怒个线毪不等蔑终泰瑚o 对靛馕澎，诞臻了在集中獠率准囊 下，当误麓分布为单蟪分布时，僳游图归估计矿傥予蠼小二桊估计自。即对舻中任意对 称凸集s ，都鸯 p 一# s ) p 妒一转s ) ， 其中憩$ 程g 上的投辫，扩= 段( 0 | 秽) = 秽如，鼬埘十铲知觳。 ，驴= 趣( 毋| 8 口一o ) = f 一一1 堪( 8 一1 8 ) 一1 】毋。 在第= 、三章篓畿爨谤淹了线链模塑孛稳毽懿照x 多匏蠢镄诗涎穗毽链瓣藤，我襄 矮嵇计鬣与被蘩诗参数之羞落在锤爨一个绘定翡对称凸集酌壤攀米粥莉话计嬲精度， 从箍比较储计量豹优爨雠。此外，入们通常使耀隧阚估计楚表淤髅计精度。髑区间镳 诗表示旗计熬精度怒耱残簿攀又惑瀛鲶方法。栽搬知道，译徐个嚣阗镭计好葵豹 豢矮魏轹龌蠢嚣类。一蕊霹纛度，嚣越萋萤水译淡示。要一是壤礁度，鬻鼹嚣瓣靛长 度来表幂。通常人们积谈整方差蕾成尺度交换参数，为筵误麓方藻麓区间估计的精确 度也可掰隧润售计的上糍点与下端点的比僮( 简称端点魄) 寒淡示。第图章，我们讨 论歪态线技模整误差蹇麓口2 翡区黼镳诗及送籁箔诗黪竣遥瓣题，秘臻摸鬻的滔辩平方 窝与羧蓑警方帮昆餐豹穰惑，棱造了鬻瘸镳舌 豹敬逡 轰诗。第溱豢楚第二节赣鞠造戆 误差方麓鬻角估诗的澈避估计在覆蕊搬率和区间长艘上都有了改进；第三三节憋第四牵 靛熏点，凝镪矮端点嫩来簿鬃区瓣铸计鲍优劣，构逡了误差方麓霉爆豹端患魄最，l 、 魏i 一盘慧蘩嚣阋戆羧邀德计。误差方莲霉掰憝鬻点 & 鬟夺豹髅计奶暖遐) 叙袋赣予残 蓑乎方黎l 墨死，它的形式辩下： e ，西满楚 ! 西( 羁) 一i 弱，i 曩弱) t ，8 厶叩( 。) 如。i 一班 j e ( 磊一，e = & ，蠢) + 一1 4 一 我霰稳逵了宅鼹改逶嵇计奴，是，霉菇) ，宅戆形式粥下：怼绘定懿零数踅 o ， 州聪耻乞襄嬲蚴篙i 0 2 j 2 ，；12 2 ， ，n 其中妒l ( 辩) 和也( 并) 出下蕊两个等式勰寝： 蔗厶一e 知一 o 。 本章蓠灸磺究最，j 、= 莱穗诗关于误差分枣鹣稳健挂，不考虑懿髂翡分毒，露鼓误 差分布鹩均值和协方蓑阵入手，给嬲了误蒸分布的均僚和协方差阵的变动范围，使得 在均方误麓矩阵最小的意义下，x 声仍跫x 芦鼹最优储计。接下采我们假定误茇服从椭 球等嵩分套，证明了当协方差阵在菜个范豳内变动辩，最小二黍髅诗在一类的损失醋 数下部整风滁镶，j 、靛稳计。 2 2 最小二乘估计关于误差分布的稳健性 2 。2 1 丐l 言 考虑线鼗搂型 ! j x 8 + ，1 8 一 ( 2 3 ) 第二章最小二象估计的稳健性 其孛蓼隽辩l 褒溅嶷爨，x 兔褥p 豹设诗矩薄，舞p i 戆来翔参数离塞，为托i 翡 随机误嫠向量，r o 扎膏( x ) 一r p 。 我们1 2 上p = 彤( s ) 记误差顼e 的分布，护( 地铆寝瀑期望为肛，协方差降为拶2 辔的分稚 族，箕孛弘舻，盯2 0 ，零妒f 犯) ，妒站) 表示露露浍歪定阵蘩合，妒( 魏) 表示珏髓跨 菲受定阵焦台。 当x 为列满秩，郯m 舶( x ) = p 时，k a r i y a 翻k u r 8 t a ( 2 0 0 2 ) 研究了娜归系数p 的最 小二霜悠计( l s e ) 的臻良髓，瓣g 勰蜘m 对k o v 定理体了擦广，讨论了使褥攘广的g 辅s s l 醒瑟脚定理成立熬谈蒺分森的最大类。在k a r i 辨帮差( 破a 恚8 磅究瀚基疆土，我稍考虑 当x 为列降秩，即r 8 馆舟( x ) 一r o 懈一萨x4 釜z 瑞x 睁菩z ，萨 镪 上式的右边与寸2 0 光燕，溺此上式又等价于 x f 圣z = 毽盟x | 镕杠z q 由于x 芦p z = o = 辛x 7 弘；0 或舢一0 ，飚 e d 一x 0 澎z ) 鞠为x 和z 的捌蠢量相甄难交，r d 碱( x ) = r ，r n 触( z ) = n r ，则( x ) + 。( 孑) 一 j p ，又圣 o ，刚圣一q 国，瑶。强魏满秩艇辫，刚蠢q 一( xz ) z 孙切一，) 。 记，= ( 羧) ，其中矾为p 砖s 薜，为枷一r ，n 矩阵，捌霄 一2 2 、；， 篷暖 魄魄 瑗 汲沈 f；、 | i v 再 第二牵最小二乘估计的稳健性 教 于是 盯一( 鬈) 狐其帕蝴址砸叫 量一e 蔗g ，( 鬈) e x z ，+ 一x k x | + z 如z9 + x 搬z 七z m 。x 1 出x 7 垂z o 显x z o ，贝霄 于是定璞褥涯。 x 奄z ；x x 酣z f z 一毽。 = 号x ( x 7 x ) 一x x a f z 牙( z 7 刃_ 1 z 一o ， 惜x m z = 毽 锄零端x a l 戈+ z a 2 ，a l ，矗2 牲r ) 因为蚤和弘鬻常是来知参数或朱知参数豹函数，由定理2 3 可见，当误差项豹分布 参数( 芦，蛋) e ( ) v ( 力时，在均方误差矩阵最小的意义下，x 声仍是x 的最优戗 诗。我们称最小二象髅计x 雳关于分蠢族谚。具有稳健犍。 推论2 1假设c d ( s ) = 口2 垂，垂一x a l + z 加z 7 ，当x 多怒( 编，汐( 弘，蚤) ) 最优 时，最小风狳矩阵r ，( x p ，x p ) 为 酬赡硝= 篡，袱赴疋 当弘。x c 对菜个e 帮成立， f 2 _ 5 j 当辨一z d 对某个d 帮一r 成立 、 7 铡2 2 令# 一岩d ，蛋= x a i f + z 趣，其审蠢帮，a l 9 妇) ，a 2 妒( 珏一r ) 。假定p = 碧( s ) 汐融奶，e a ( ) = 秽2 蚤，鲻 e ( x p ) 一x ( x x ) 一x ( x 芦+ 1 ) 一x p + x ( x ) 一x 7 删一x 反 褥x 方是x 口熬无编绩诗。 2 3 52 2 最小二苯估计关于误差分布曲稳健性 x 爹瓣暴验繇簿兔 r p ( x 反x p ) = 拱p ( x ( x 7 x ) x 7 s ) ( x ( x x ) x q j = x ( 翼x 一x 函+ 口2 零l x ( x x ) 一f = x x 差) 一j y l 氨醚f 2 x a i x + 扩三矗2 掣l x