（基础数学专业论文）关于拟贝叶斯理论的研究.pdf

西南交通大学硕士研究生学位论文第1 页 摘要 g i r o n 和硒o s 在贝叶斯理论的基础上，于1 9 8 0 年提出了拟贝叶斯理论，以 偏好为出发点，讨论了一族先验分布下的决策问题，但也有其不足之处，它没 有讨论条件性和独立性，对决策准则没有过多谈论。c o z m a l l 在g i r o n 和r i o s 提出的拟贝叶斯理论的基础上，采用w a l l c y 的相关性和独立性定义，讨论了拟 贝叶斯理论中的条件性和独立性，在偏好的基础上进行了研究，发展了拟贝叶 斯理论。本文是在c o z m a n 工作的基础上，对拟贝叶斯理论的相关内容进行的 讨论研究。 本文首先简单介绍了贝叶斯理论的发展简史，国内外的研究现状以及g 曲n 和r i o s 所提出的拟贝叶斯理论，并在偏好的基础上，研究了g i r o n 一砌o s 公理 和w a l l e y 的几乎偏好公理的等价性。然后讨论了g i r o n 一鼬o s 公理的应用，从 偏好出发，按照w “l e y 给出的期望下限定义和性质，基于偏好的角度，提出偏 好算子的定义，给出了一种偏好模型，探讨了相关的性质，并从期望下限导出 概率分布的凸集，讨论了期望下限和优先分布集的关系以及条件偏好的相关性 质。最后在贝叶斯区间估计的基础上，给出拟贝叶斯可信集的定义，讨论了方 差已知情况下的正态分布均值的拟贝叶斯区间估计，并与贝叶斯区间估计做出 比较。 关键词：先验分布：偏好；效用函数；拟贝叶斯理论 西南交通大学硕士研究生学位论文第1 | 页 a b s t r a c t b a s e do nb a y e s i a l lt h e or y ，q u a s i - b a y e s i a l l _ 1 1 e o r yi sp r o s e n l e db yg i r o na n d r i o si n1 9 8 0 g i r o na 1 1 dr i o sd i s c u s sd e c i s i o n m a k i n gp r o b l e m s1 1 1 1 d e ra 孕o u po f p r i o rd i s m b m i o n s ，w h j c hs t a n 曲mp r e f 甜e n c e b u tt h em e o r ya l s oh a si t s s h o r t c o m i n g s ，i td i dn o td i s c u s st h ec o n d i t i o n a l i z a t i o na n dt h ei n d 印e n d e l l c e ，a n dt h e d e c i s i o n m a 虹n g m l e sd i d l l tb e c nd i s c u s s e dt o om u c h o nt h eb a s i so f q u a s i - b a y e s i a nt h e 0 c o z i n a nd i s c u s s e sc o n d i t i o n a l i z a t i o na i l dt h ei n d e p e n d e i l c ei n q u a s i b a y e s i a nm e o r yb ya d o p t i n gw a l l e y t si h l e v a l l c ea 1 1 di n d 印e i l d e n c ec o n c 印t s ， 卸du p d a t e sm eq u a s i _ b a y c s i a i lt h e o r y 1 d c r 血eb 勰i cr e s e a r c ho np r e 妇。e n c e t h i s t h e s i s 百v e saf h r ( h e rd i s c u s s i o no fr e l e v 趾tc o m e n t so fq l i a s i - b a y e s i a nm e o r yo nt l l e b a s i s0 f c o z m a n sw o r k a lf i r s t ，t h i st h e s i sb r i e n yi n t r o d u c e st h eb a c k g r o 吼da i l dt l er e c e n tw o r k so f b a y e s i a nm e o r ya th o m e 趾da b o r a d ，a n dm eq u 勰i - b a y e s i a l lt 1 1 e o r yp r e s e n t e db y g i r o na 1 1 d 砌o s o nm eb 嬲i so fp r e f c r e n c e ，t h ee q u i v a l 吼c eb e 觚e e ng 曲n 埘o s a ) 【i o m s 甜l dw a l l e y sa l m o s tp r e 矗釉c e sa x i o m si sd i s c u s s e d t h e nm i st l l e s i s r e s e a r c h e s 也ea p p l i c a t i o 璐o fg i r 0 - 础o sa ) 【i o m s a c c o r d i n gt ot 圭1 ed e f i i l i t i o na n d p r 叩e n i e so f1 0 w e re x p e c t a t i o r l sp r c s e n t e db yw a l l e y t h i st 1 1 e s i ss t a r t s 丘d m p r e f b r c n c e s ，蛆dg i v e st h ed e f i n i t i o no ft h ep r e f b r e n c eo p e r a t o ra n dak i n do f p r e f b r c n c ep a t t e m t h er e l e v 姐tp r o p e m e so f p r e f e r e n c eo p e r 曲 a r ed i s c u s s e d t h i s t h e s i sd 谢v e st h ec o n v e xs e t so f p r o b a b i l i t yd i s m b 砸o n 丘d m1 0 w e re x p e c t a t i o na i l d 西南交通大学硕士研究生学位论文第| il 页 d i s c u s s e st h er e l a t i o nb e t w e e nl o w e re x p e c t a t i o na i l dd o m i n a t i n gd i s t r i b u t i o n s i n c l u d i n gs o m ep r o p e r t i e so fc o n d i t i o n a lp r e f e r e n c e a tl a s t ，b a s e do nb a y e s i a n i n t e a 1e s t i m a t i o n ，t h i sm e s i sg i v e st h ed e f i n i t i o no fq u a s i - b a y e s i a i lc o n f i d e n c es e t ， a i l dm e nd i s c u s s e st h eq u a s i b a y c s i 肌i m e n r a le s t i m a t i o ni nt h en o r i n a lc a s ei n w h i c ht h em e a ni su r l l m o w nw 1 1 i l et h ev 耐a 1 1 c ei sk n o w na 1 1 dm a k e sc o m p 撕s o n s w i t ht h eb a y e s i a l li n t e r v a le s t i m a t i o n 。 k 帮w o r d s ：p d rd i s 啊b m i o n ；p r e f e r c n c e ；u t i l i t y 铀c t i o n ；q u a s i - b a y e s i a i lm e o r y 西南交通大学硕士研究生学位论文第1 页 第1 章绪论 1 1 贝叶斯理论的发展简述 约三百年以前，人们开始去考虑当存在不确定性时如何进行推理。j a m e s b e m o u l l i 【l 】是第一个构造该问题的人，他意识到在可应用与机会游戏的演绎逻 辑和每日生活中的归纳逻辑之间的区别。对于他来说，这个未回答的问题在于 前者的机理如何能帮助处理后者的推断问题。 b a ”s 理论起源于英国学者托马斯贝叶斯( 1 1 1 0 m a sb a ”s ，1 7 0 2 - 1 7 6 1 ) 去 世后于1 7 6 3 年发表的一篇论文：a ne s s a yt o w a r d ss o l v i n gap r o b l e mi nt h e d o c t r i n eo f c h a n c e ( 论有关机遇问题的求解) 。这篇论文对b e m o u l l i 的问题 提供了回答，并提出了著名的b a y e s 公式和一种归纳推理方法，随后l 印l a c e 【3 】 等人用b a y e s 提出的方法导出一些有意义的结果。之后，虽有一些理论研究和 应用，但由于其理论尚不完整，应用中又出现一些问题，致使b a y e s 方法长期 未被普遍接受。直到二次大战后，w 矾d 【4 1 提出统计决策函数论后又引起很多人 对b a y e s 方法研究的兴趣。因为在这个理论中，b a y e s 解被认为是一种最优决 策函数。在s a v a g e 、j e 缶e y s 、g o o d 和b e 唱e r 等b a y e s 学者的努力下，b a y e s 方法在理论上有了不断的完善，逐步形成一种系统的统计推断方法。到上世纪 3 0 年代已形成b a ”s 学派，5 0 6 0 年代已发展成个有影响的统计学派，彻底 打破了经典统计学一统天下的局面，顶起了统计学的半边天。时至今日，贝叶 斯学派已经与经典学派共同成为统计学的两大主体学派。 西南交通大学硕士研究生学位论文第2 页 贝叶斯理论系统中的一个重要分支就是贝叶斯决策理论。贝叶斯决策理论 是贝叶斯理论和统计决策理论相结合所形成的。 统计决策理论是著名统计学家a w “d ( 1 9 0 2 1 9 5 0 ) 在上世纪四十年代建立 起来的，他在其文章统计决策函数中系统的阐述了统计决策理论，统计决 策理论与经典统计学的差别在于是否涉及后果，经典统计学着重于推断，而不 考虑用在何处和效益如何，而统计决策理论引入损失函数，用来度量效益大小， 评价统计推断结果的优劣。 贝叶斯统计推断是统计决策方法的基础之一，通过采样，修改先验的概率 分布，从而减少事物的不确定性，在此基础上制定统计最优决策，因此称这类 决策为贝叶斯决策。 统计学家们将统计决策理论和贝叶斯理论相结合形成了系统的贝叶斯决策 理论。在对贝叶斯决策理论研究方面，d e f i n e 眠r a i 髓和l i n d l y 曾作过大量有 意义的工作，取得了巨大的成就，堪称现代贝叶斯决策分析之父；而在当今， s m i m 和b e 培e r 是贝叶斯决策理论的领军人物，对贝叶斯决策理论的完善与发 展做出了巨大贡献。 1 2 所选课题的国内外研究动态 贝叶斯理论是概率统计中的重要内容，经过l a p l a c e 和s a v a g e 等人的努力， 贝叶斯理论得到迅速的发展，如今已成为了统计学中的两个重要学派之一 贝叶斯学派。与国外相比，贝叶斯理论在我国的发展与应用尚属于起步阶段， 但近年来我国学者逐步认识到该理论的重要性，并对此展开了一系列的研究。 西南交通大学硕士研究生学位论文第3 页 贝叶斯学派最基本的观点是：任一未知参数曰都可以看作随机变量，可用一个 概率分布去描述，这个分布称为未知参数目的先验概率分布。因为任一未知参 数都有不确定性，而在表达不确定性时，概率和概率分布是最好的语言。通过 试验获得样本观察值，对先验分布进行修订，获得后验分布，所有有关参数的 推断都必须基于后验分布。这一观点自从1 8 世纪被提出后，一直成为学术界争 论的焦点之一。虽然经过数百年的发展，但贝叶斯理论也有不完善的地方，其 中最主要的是先验分布的选择，这是贝叶斯方法争论最多的问题，这些问题一 直影响着当代贝叶斯理论的应用及理论发展。由于自然状态的不确定性，人们 对不确定的决策对象不可能有全面的了解，因此获得的信息量是有限的，仅仅 要求设定一个先验概率分布来描述不确定事件是不现实的，而利用多先验分布 可以较好的解决状态的不确定表示问题。在多个先验分布的情况下，如何做出 最优决策，如何进行统计推断，是一直以来研究的主要内容。g i 埘1 和r i o s f 5 】 在贝叶斯理论的基础上，于1 9 8 0 年提出了拟贝叶斯理论，以偏好为出发点，讨 论了一族先验分布下的决策问题，但也有其不足之处，它没有讨论条件性和独 立性，对决策准则没有过多谈论。这引起了许多学者的批评和反对。近年来， 一些学者进行各方面的研究，企图弥补拟贝叶斯理论的不足。c o z m a n 在g i r o n 和r i o s 提出的拟贝叶斯理论基础上，采用w a l l e y 的相关性和独立性定义，讨 论了拟贝叶斯理论中的条件性和独立性【6 】，在偏好的基础上进行研究，发展了 拟贝叶斯理论【6 8 匕 1 3 论文内容安排 本文以贝叶斯理论为基础，对拟贝叶斯理论的相关内容进行了讨论，介绍 西南交通大学硕士研究生学位论文第4 页 g i m n 和r i o s 提出的拟贝叶斯理论，在偏好的基础上，研究了g i m n m o s 公 理和w a l l e y 的几乎偏好公理的等价性，并给出了一种偏好模型，最后研究了拟 贝叶斯理论在区间估计方面的应用。具体内容如下： 第1 章是绪论，主要介绍了贝叶斯理论的发展简史和国内外的研究现状。 第2 章是拟贝叶斯理论基础，简单介绍了g i r o n 和r i o s 提出的拟贝叶斯理 论，并在偏好的基础上，研究了g i r o n r i o s 公理和w a l l e v 的几乎偏好公理的 等价性。 笫3 章是g i r o n r i o s 公理的应用，从偏好出发，按照w a l l e y 给出的期望 下限定义和相关性质，基于偏好的角度，提出偏好算子的定义，给出了一种偏 好模型，探讨了相关的性质，并从期望下限导出概率分布的凸集，讨论了期望 下限和优先分布集的关系。最后讨论了条件偏好的一些性质。 第4 章是拟贝时斯可信集，在贝叶斯区间估计的基础上，给出拟贝叶斯可 信集的定义，讨论了方差己知情况下的正态分布均值的区间估计，并与贝叶斯 区间估计做出比较。 西南交通大学硕士研究生学位论文第5 页 第2 章拟贝叶斯理论基础 g i r o n 和r 1 0 s 在贝叶斯理论的基础r ，于1 9 8 0 年提出了拟贝叶斯理论，以 偏好为出发点，讨论了一族先验分布下的决策问题。本章主要介绍g i r o n r i o s 公理，并研究它和w a l l e y 的几乎偏好公理的等价性，为下面章节的研究提供理 论基础。 2 。1 决策问题 2 1 1 符号约定【5 】 = b ，岛，- ：状态空间或参数空间 d = d ，d 2 ， ：决策空阔 c ( ) = 缸， ， ：定义在。上的实连续函数集 ( 口，d ) ：效用函数“： x d 斗r f ( 口，d ) ：损失函数，j ( 8 ，d ) = 一”( 目，d ) n + = 仁p ：，枷喜 t 艘巩渊2 士 n ，足妒 j = 扛= g 。，x ：，l ) f j d n “口，d ) = t j 集合或事件记为j 4 ，曰，c ，也可以用带下标的字母表示如一。随机变量记 为z ，y ，z ，也可以用带下标的字母表示如爿。 事件一的指标函数记为以( z ) ，当z 时，d 。( z ) = l ：否则j 。( 工) = 0 ，即 事件一的指标函数记为以( z ) ，当z 4 时，d 。( z ) = l ：否则j 。( 工) = 0 即 西南交通大学硕士研究生学位论文第6 页 f 1x 4 以( x ) 2 1 0 x 程4 本文中的函数都是定义在一个有限集o 上的实值函数，并构成一个线形空 间。常量函数、指标函数和这些函数的凸组合都属于这个空间。函数可记为 厂g ， ，也可以用带下标的字母表示如 。， g 表示对所有的臼0 ，都有 ，p ) g p ) 。 定义2 1 州偏好关系 - 是定义在集合f 上的二元关系，满足自反性和传 递性。v ，g f ，留意味着，不劣于g ，即，优于或者无差异于g 。严格偏 好关系用“ - ”表示，卜g 当且仅当厂錾且无g j 。 2 1 2 基本概念及思想 决策问题的三个要素： ( 1 ) 非空自然状态集 = q ，岛，) ，它是未知的，包含所有可能的自然状 态； ( 2 ) 非空行为集d = d 。，d ：，) ，它包含了决策人所有可能采取的行动。 ( 3 ) 效用函数“( 口，d ) ，它是定义在 d 上的实值函数，包含了各种后果 对决策所产生的效用。效用函数的值可以为正也可以为负。对于某个效用函数， 当我们认为对应正值的后果使决策人受益，则对应负值的后果使决策人遭受损 失。损失函数，( 口，d ) 与效用函数的关系为 z ( 口，d )= 一( 臼，d ) 。 决策问题的基本分析方法：根据v o nn c u m 黜一m o r g e n s t e m 的期望效用理 论，如果决策人对决策问题的各种后果的偏好模式是合乎理性的，即满足一定 的理性行为公理，则他对后果的偏好模式能用效用函数去表示，而且他采取某 西南交通大学硕士研究生学位论文第7 页 一个决策c f ，时的效用，就是以下的期望效用 ” “( d 。) = p f “( d ，巳) ，f _ 1 ，2 ，m ，其中“( d 。，臼，) 是状态为哆是采取行动d 。的 扣l 效用，而p f 为后果( d 。，巳) 发生的概率。在计算了每种决策的效用以后，按照 理性行为公理决策人应当选择期望效用最大的那个决策作为最优的决策。 在贝叶斯决策论中，总是假设存在一个效用函数。贝叶斯模型的一个假设 就是决策，通过一个单一的概率分布p p ) 表示参数的不确定性，并由其期望效一 用e 。【厂】评价决策的优劣。计算出每一决策下的期望效用，决策人根据期望效用 值建立一个优先顾序，具有较大期望效用的决策要优于具有较低期望效用的决 策。 2 2 拟贝叶斯理论基础 在现实生活中，我们很少得到完全符合贝叶斯模型的情况。如在给定的状 态臼和期望效用e ( ) 下，考虑两个决策z 和 的优劣，这两个决策都是可容许 的。在先验概率分布p 。下，能够得到期望效用值e 】和局阢】：在先验概率 分布p ：下，能够得到期望效用值e ：阢】和e ：院】。假设毛阢) e ：眈】，这时就无法根据期望效用比较 和，2 。对于一族分布，关于决 策就无法建立完全的优先顺序，就要建立一个偏好关系。g i m n 和黜o s 在贝叶 斯理论的基础上，于1 9 8 0 年提出了拟贝叶斯理论，它与贝叶斯理论一样，都假 设存在一个效用函数，但它以偏好为出发点，利用概率分布的凸集来表达决策 者的信念。 西南交通大学硕士研究生学位论文 第8 页 定义2 2 1 【5 1 不完全信息下的决策模型是一个四元组( 。，d ，f _ k + ) ，其中 足是q 的非空闭凸集，称k + 为不确定集或先验分布集。当足= p ) 时，这个 决策模型就是一个贝叶斯模型。 定义2 2 2 【5 1 设( ，s ，k ) 是不确定情况下的一个决策问题。我们称二元 关系三为s 上的拟贝叶斯偏好关系，如果蜥，y s ，则有 蔓型营x p y p ，v p 世 其中x p 表示点积。 偏好关系“三”可理解为“不劣于”关系。对于两个备选方案x 和y ，x 砂 意味着决策人认为y 不比x 更好，或者说y 至多与x 同样令人满意。有诱导出的 二元关系“ i ”和“”可分别理解为“优于”关系和“无差异于”关系。 令。f = 驴( p ) c ( ) i j d d ，( 目) = “( 口，d ) 则f 是由定义在0 上的满足上述条件的所有实连续函数构成的空间，这时决策 空间d 就和f 等同了，这样不确定情况下的一个决策问题( o ，s ，置) 可记为 ( 。，) ，其解就是在一定准则下寻找行为d 。 在参考文献 5 中，g i r o n 和r i o s 提出了一系列定理来保证偏好对于一个拟 贝叶斯决策者进行决策的可行性。下面介绍g i r o n r i o s 公理 7 】0 2 2 1g ir o n r io s 公理 设( 。，) 是不确定情况下的一个决策问题，v ，眉， f ，有 ( 1 ) 传递性：若，錾，g 出，则厂劫。 ( 2 ) 优势性：若， g ，则厂 _ g 。 ( 3 ) 凸级合性：v 丑( o ，1 ) ，厂鹭当且仅当+ ( 1 一 净至饴+ ( 1 一 扭。 ( 4 ) 收敛性：若对仉) ，f _ l ，2 ，h ，正， j ，f ，g 西画，v f 都 西南交通大学硕士研究生学位论文 第9 页 成立，则g j 劫。 下面给出由g i r o n i 己i o s 公理推出的几个定理 定理1 7 1 若兰o ，则，三；，噬一丢，。 从这个定理，我们可以推出更一般的情形： 推论v ” 1 ，三。铮，三三，厂o 铮三厂兰o ， 证明： 取2 ：l 一! ，则丑( o ，1 ) ，对三。和厂应用凸组合性有 ，兰。车( 一言) ，+ 吉，三( 一言) 。+ 厂， 即厂三o 厂兰三厂； 取亢：土，则五( o ，1 ) ，对j r 三。和。应用凸组合性有 ，三。 争去+ ( 一言 赃去。+ ( 1 一去 。， nnj押拜， 即，三o 三危o 。 定理2 【7 1 若，三g ，贝0 ，一g 三o 。 对于这个定理，我们给出另外一种证明方法。 证明： 令 3 厂一g ，取兄2 吉，对，蛩和一g 应用凸组合性有 三，+ 圭( _ g k 三g + 三( _ g ) 即昙卸； 西南交通大学硕士研究生学位论文第1o 页 取a = 三，对尝三。和 应用凸组合性有 三三矗+ 三矗 - 三o + 土向 2 22 22 即三 _ 三 ，又由喜 _ o 和传递性得三 _ o 4 22 4 一 取五2 方，对兰卸和 应用凸组合性有 害i - 丢 + ( t 一古 一三主 。+ ( t 一古) 一 即又由扣和传递性得吾峨 取兄= 砉，对鲁卸和 应用凸组合性有 拱n + ( 一爿绝扣( 一卦 即蒹 兰吾 ，又由j 卸和传递性得鬟 三o ；即羔6 兰言“，又由i 6 卸和传递性得嚣6 三o 。 类似可得三 卸，又”_ 时，三 一 ，由三 卸和收敛性类似可得 三o ，又”_ 时，乇 一 ，由 三。和收敛性 可得 兰o ，即，一g 兰0 。 定理3 川若，三o ，g 至o ，则厂+ g 至o 。 定理4 7 1 ，鹜当且仅当，一g 芝o 。 定理5 若五臻，f = 1 ，2 ，n ，则工兰毋。 b ll z i 证明：由定理2 得正一昏三o ，又由定理3 得 一g ，k o ， i l l d* 即工一g ；兰o ，故由定理4 得，兰g ；。 f = lf ，1- l括i 西南交通大学硕士研究生学位论文第11 页 w a l l e y 在他的著作( 见参考文献 9 ) 中，从期望下限出发，利用期望下限来 研究不精密概率。下面介绍w a l l e y 的几乎偏好公理 9 o 2 2 2w a | ie y 的几乎偏好公理 ( 1 ) 必然性：厂= 一1 ，g = o ，则厂丛不成立。 ( 2 ) 传递性：若，錾，g 曲，则厂些。 ( 3 ) 单调性：若，g ，则厂独。 ( 4 ) 正齐次性：若a o ，厂! 苫，则矽! 抛。 ( 5 ) 连续性：若兄 o ，+ 丑三g ，贝0 ，三g 。 ( 6 ) 消去性：，独当且仅当，一g 兰0 。 我们证明g i r o n _ m o s 公理和w a l l e y 的几乎偏好公理的等价性。 证明： 若已知g i r o n 斑o s 公理，必然性和传递性是显然成立的。由上面的定理4 可知，消去性也成立。下证正齐次性。若a = 1 ，结论显然成立。 v 五( o ，1 ) ，对，兰暑和0 由凸组合性可得 可+ ( 1 一五) o 三饽+ ( 1 一旯) 0 ， 即妇； v 旯 1 ，则 可表示为旯= 七+ 旯，其中_ j 为正整数，五( o ，1 ) ，则 碍= v + 了，褪= 堍+ g 由定理5 得矿出。 又a ( o ，1 ) 时有兄，日宫，由定理5 得 矿+ 兄，兰蟾+ 旯台， 即可兰豫。 西南交通大学硕士研究生学位论文 第12 页 _ _ _ _ 一 故对 o ，若厂錾，则耖拢。 再证连续性。若v o ，有+ 旯龉，令工= ，十等，其中厶 o ， f ；l ，2 ，3 ，由假设知五罄。 又当f 斗时，五斗厂，由收敛性得厂驾。 最后证单调性。v 旯 o ，g 有厂+ 丑 g 。由优势性得厂+ 兄 - g ， 当然有，+ 丛，由连续性得厂扭。 下面证明w a l l e y 的几乎偏好公理能推出g i r o n r i o s 公理。传递性直接可得。 首先证明凸组合性。若，錾，则矽出，其中丑( o ，1 ) ，又 可= 矽+ ( 1 一 ) 一( 1 一a ) ， 贝0 矽+ ( 1 一五) 一( 1 一z ) 矗芝饽， 由消去性得矽+ ( 1 一a k 三幻+ ( 1 一a m a 这表明旯( o ，1 ) ，留兮+ ( 1 一丑如兰饽+ ( 1 一兄m ； 若a ( o ，1 ) ，耖+ ( 1 2 妊芝裾+ ( 1 一a 扭，由消去性得 矽搋， 取a = ，由正齐次性得名( 矽) 国7 ( 豫) ，即厂錾。 这表明了a ( o ，1 ) ，可+ ( 1 一丑m 至幻+ ( 1 一a 垮厂丛； 故a ( o ，1 ) ，厂己g 铮矽十( 1 一 m 三俺+ ( 1 一兄p 。 其次证明优势性。若， g ，则，g ，故由单调性有，錾； 令r = i i l f l ，一g i ，贝0 ，g + r ，故，艺g + y ； 假设g 三，由传递性得g 兰岩+ y ； 由消去性可得o 寥，再由正齐次性得0 基， 西南交通大学硕士研究生学位论文第1 3 页 这与必然性矛盾。故g j 不成立。因而有， g j ， - g 。 最后证明收敛性。若) ，工寸厂，g 战劫，v f 都成立，则对斗， 能找到一个足够大的n 使得对于v f n ，丑 o ，有1 ，一厂l o ，由单调性得 一1 工一州三o ： 又工劫，则工一 三o ，故( 一 ) + 五一 一厂睦o ， 即，一( ，一工) 一 + 一一，i 三o ， 由消去性得 厂一 + a 三( ，一z ) + l ，一z l 又( ，一工) + i ，一，i o ，由单调性有( ，一z ) + i ，一工睦o ， 又由传递性可得，一 + 旯三o ，其中兄 0 ， 再由连续性得，一 至0 ，故，曲； 同理可证g 兰厂。 故对饶 ，一斗，g h 曲，v f ，有g y 劫。 西南交通大学硕士研究生学位论文第1 4 页 第3 章g ir o n rio s 公理的应用 我们由g i r o n r i o s 公理和上回程勺定理，日】以用偏好关系定义一个幽数的期 望下限，由此研究这个期望下限的性质。 3 1 函数的期望下限 定义3 1 1 【7 3 设f 是由实值酌数厂构成的线性空间，如果定义 星【厂】= 峄陟掣】，卢为常量，则称星【厂】为函数厂的期望下限。 注：由定义可得，兰墨l 厂】。 定理3 1 1 川函数，的期望下限墨驴】具有下面的性质： ( 1 ) 星l 厂】i n f 厂： ( 2 ) v 兄 o ，星阿】- a 星； ( 3 ) 星【厂】满足超可加性：即曼矿+ g 】星陟卜量k 】。 在文献 7 中，c o z m a i l 没给出详细的证明，我们在这里给出完整的证明。 证明： ( 1 ) 因为厂i n f ，由单调性得，三i i l f 厂，故i i l f ，缸l 厂斗) ， 又星l 厂】= r m x 驴掣】，由定义知道鼍l 厂掣】是满足厂掣的讧l ，掣) 中最大的 ，故i “驴斗】i n f ，即星l 厂】i n f ，； ( 2 ) va o ，星阿】- m a x 阿掣】 令= 缸。，则 量阿】= m a x 阿掣】= 珥a x 阿苎缸。】 西南交通大学硕士研究生学位论文第15 页 = a m a x ，掣。】_ 旯量陟】； ( 3 ) 由期望下限的定义知，厂兰宣陟】，g 兰星k 】，则，+ g 三星l 厂 + 互k ， 同( 1 ) 的证明知r ”u + 占幽) 查l 厂】+ 星k 】，即 量l 厂+ g 量l 厂】+ 星k 】。 函数，的期望下限量驴】和偏好关系兰有一个对应，我们从下面的定理就可 以看出： 定理3 1 2 7 1 ，銎量扩一占】o 。 从这个定理可知，偏好模型厂翟可由期望下限获得，即 当墨【厂一g o 时，有厂磐。 根据匕面的定义和定理，我们可以给出下面一个更一般的宗义。 3 2 偏好算子 定义3 2 1 设，是由实值函数，构成的线性空间，毋是f 上的算子，满 足下列性质： ( i ) o ( 力i 1 1 f ，； ( 2 ) 西( 矽) = m ( ，) ，兄为实数，a 0 且a 1 ； ( 3 ) 中是超可加的，即o ( ，+ g ) 中( 厂) + ( g ) ； ( 4 ) 中( 厂一g ) 0 铮，三g ； 则称是f 上的偏好算子。 注：定义中的性质( 4 ) 表明通过中可以产生偏好兰。此外，由上面的定义可 知星【厂】是一个偏好算子。 西南交通大学硕士研究生学位论文第16 页 定理3 2 1 设中是f 上的偏好算予，g f ， ( 1 ) 若，= a ( a 为常量) ，则o ( 厂) = z ； ( 2 ) 若，= g + ( a 为常量) ，则o ( ，) = m ( g ) + a 。 证明： ( 1 ) 首先说明( 0 ) = o 。因为o f ，则由定义3 2 1 ( 2 ) 有 中( o ) = o ( 兄o ) = 2 0 ( 0 ) ，兄 0 且a 1 ， 贝0 ( 1 一旯) ( o ) = o ，从而中( o ) = o ； 又由定义3 ，2 2 ( 3 ) 得 o = 西( 0 ) = 【，+ ( 一厂) ( ，) + o ( 一厂) ， 则中( 厂) 一o ( 一，) ， 又由3 2 1 ( 1 ) 得m ( 厂) i n f ，则上式有 中( 厂) 一i n 取一，) = g u p 厂= 旯， 又m ( 厂) i n f 厂= 旯，则中( 厂) = 五； ( 2 ) 当厂= g 十a 时，由定义3 2 1 ( 3 ) 有 西( 厂) = 西( 占+ a ) 西( g ) + o ( 丑) = 中( g ) + a ； 又审( g ) = 中( ，一旯) m ( 厂) + 中( 一兄) = o ( 厂) 一五，故 中( 厂) 中( g ) + a a 这表明中( g + a ) = 中( g ) + ，即o ( 厂) = 巾( g ) + 五。 定理3 2 。2 由偏好算孑巾产生的偏好满足g i r o n 一砒o s 公理。 证明： 由于g i r o n 一黜o s 公理和w 甜l e y 的几乎偏好公理是等价的，因此只需证明由 偏好算子m 产生的偏好兰满足w j l l e y 的几乎偏好公理。 西南交通大学硕士研究生学位论文第17 页 ( 1 ) 若厂= 一l ，g = o ，贝4 中( ，一g ) = o ( 一l o ) = m ( 一1 ) 一1 o ，厂三g ，贝0 中( ，一g ) 0 ， 又o ( 一堙) = 中 丑( ，一g ) = 旯m ( ，一g ) ，则 m ( 可一船) o ， 故由定义3 2 1 ( 4 ) 得矽兰五g ： ( 5 ) 若旯 o ，厂+ 五三g ，贝0 中( ，+ 五一曲o ， 由定理3 2 1 知 中( 厂+ a g ) = o ( ，一g ) + 旯， 假设。( 厂一g ) o ，则 西南交通大学硕士研究生学位论文 第18 页 西( ，+ 刁一g ) o ， 又o ( 厂+ q g ) = ( 厂一g ) + 7 7 = 去中( 厂一g ) o ，与o ( 厂+ 叩一g ) 2o 矛盾， 故中( 厂一g ) 0 ，即厂三g ： ( 6 ) 若，艺g ，则中( ，一占) o ，令，。= ，一g ，g7 = o ，则 中( 厂一g ) = 中 ( 厂一g ) 一0 】巾( 厂一g ) + o ( o ) o ， 故由定义3 2 1 ( 4 ) 得，一g7 三o ，即，一g 兰o ； 反之，若，一g 三o ，令厂= ，一g ，g = o ，贝4 ，鹜，故中( ，一占) o ， 中( ，一g ) = 中 ( ，一g ) 一o = o ( ，一g ) o ，即o ( ，一g ) o ， 故由定义3 2 1 ( 4 ) 得厂等。 这表明厂酱，一g 兰o 。 推论由墨驴】能产生一个偏好模型，独，它满足g i r o n 一硒o s 公理。 证明：由于星l 厂】是一个偏好算子，由定理3 2 2 知结论成立a 3 3 概率分布的凸集 定义3 。3 1 m 称f ，【厂】- p ( 曰) 囱( 曰) 为函数，关于概率分布p 的期望a 定义3 3 2 川称期望e ，l 厂】优于期望下限量l 厂 ，如果对所有的，都有 墨s e ，。 下面我们考虑： ( 1 ) 对一个期望下限曼l 厂1 ，定义 k = 扫p ) i 旦扩】e ，l 厂 对所有撇立j ， 西南交通大学硕士研究生学位论文第19 页 称k 为关于星驴】的优先分布集。 注：k 是一个凸分布集。 证明： 印。，p 。k ，则星【厂】层。l 厂】，星l 厂】兰e ，： 厂】。 v 旯( o ，1 ) ，有e 讥+ ( ，一。) ，：l 厂】= ae 。【厂卜( 1 一兄) e ，：l 厂 a 星扪+ ( 1 一 ) 点 = 星 故劫，+ ( 1 一a ) p ：k 。 ( 2 ) 对一个凸分布集足，定义 e k 曾e ， 参考文献 7 中有这样一个结论，假设我们从期望下限星出发，计算关于查 的优先分布集k ，然后对茁计算e ，这时可以得出e 和星是相等的，即 星2 粤n ， 在参考文献 3 0 中，已经说明了期望下限互可由优先分布集世表示。 定理3 3 1 翻 曼驴】是个期望下限当且仅当对所有的非负整数m ，”和所有 函数工，g ，有 s u d 一星k d m ( g 一量k d i o 。 e - l 定理3 3 2 7 1 星l 厂 是个期望下限当且仅当星l 厂】可由它的优先分布集置表 示。 定理3 3 2 表明了期望下限和它的优先分布集的关系。在定理3 3 2 的证 西南交通大学硕士研究生学位论文第2 0 页 明过程中，会用到定理3 3 1 。 定理3 3 3 【7 1 对满足g i r o n 一砥o s 公理的偏好模型厂錾，存在概率分布的 凸集k ，使得 ，营e ，驴】巳k 】，坳k 。 这个定理表明在多个先验分布的情况下，决策可以通过比较它们的期望效 用来建立优先关系，但前提条件是对先验分布集中的所有分布都有 e ， 厂】e ，纠。如果存在一个p e 足，使得e ，l 厂】 e ，陪】，而其他坳k 有 e ，【厂】q k 】，这时候就不能得出厂丛。若概率分布的凸集足只含有一个元素， 即k = 扫 ，这时就是贝叶斯的情形了。贝叶斯决策是在单个先验分布下决策， 而拟贝叶斯决策是在多个先验分布下决策，因而可以说贝叶斯决策是拟贝叶斯 决策的一个特殊情况。 因为拟贝叶斯中的偏好不是一个全序，所以在拟贝叶斯决策中，并不是所 有的决策都能通过期望效用进行比较。而在贝叶斯决策中，在单一的先验分布 下，每一对决策都可以通过期望效用建立偏好关系，具有较大期望效用的决策 要优于具有较低期望效用的决策。因而每一对决策行为都是可比较的。下面给 出一个例子进行说明。 例3 ，3 1 假设一个决策者有三个决策可以选择：破为去公园，d ：为去市 场，以为呆在家里哪儿也不去。设只有两种自然状态：q 为下雨，岛为不下雨。 决策者获得的先验分布集定义为p ) = o 3 口+ o 7 ( 1 一口) ，o e p ：】； 当口= 1 时，可求出e p 】= 一4 ，e k ：】= 1 _ 3 ，有e p 。】 o ，这说明。 ：时， 星眇一：p 。】 点眇一p 。】 即函数星u 一p 。】关于是严格递减的。下面证明方程曼眇一弦。】- o 有解。 当 s u p ( ，) 厂时，亘【c 厂一弦。】 o ；当i i l f ( ，) ，时， 点眇一卢弦。】o ，又函数亘妙一弦。】关于是严格递减的，这说明方程 亘眇一弦。】= o 有唯一解，且值a r g m a x 匡【( 厂一p 。 o 】是方程的唯一解。 西南交通大学硕士研究生学位论文第2 4 页 第4 章拟贝叶斯可信集 对于区间估计i 司题，贝叶斯方珐具有处理方便和含义清晰的优点。 若参数目的先验分布为万p ) ，在后验分布万( p i x ) 获得以后，立即可计算 臼落入某区间k ，6 】内的后验概率，比如l 一口( o 口 1 ) ，即 p q 兰a 6 ) = l 一口 反之，若给定概率1 一口( o a 1 ) ，要找一个区间 口，6 】，使得上式成立，这样 求得的区间就是口的贝叶斯可信区间，这是在目为连续型随机变量的情形；若目 为离散型随机变量，对给定的概率1 一口( o a 1 一口 这样求得的区间k ，6 】也是口的贝叶斯可信区间。 用类似的方法可给出拟贝叶斯可信集的定义。 定义4 1 设参数口的先验分布为 厅，p ) 1f 丁 ，在后验分布族 协，( 1 9 l 工) ir r 获得以后，对给定的样本g ，工：，x 。) 和概率l 一口( o 口 1 ) ， 若存在这样两个统计量旦与否，使得 p 目否) 1 一口 这时对每个后验分布一p | 力都可求出一个区间b 纠，这些区间的并记为a ， 则称人为参数口的可信水平为1 一a 的拟贝叶斯可信集。 下面讨论方差已知时的正态分布均值的拟贝叶颠区间估计。 西南交通大学硕士研究生学位论文第2 5 页 例4 1 设x = ( x ，x ：，l ) 是来自正态分布 的观察值，其中，己知，若正态均值口的先验分布 r 已知，即 荆= ( 云 ；斗一学卜删 佃。 此样本的似然函数为 m = ( 笥e x p 托静卅2 由此可以写出样本与参数p 的联合密度函数 ( 工， = p ( z i 万p ) = ( 去 ；唧 一考喜“一咿) ( 去 ；唧 一垒) = ( 去) 萼，；r ；e x p 一言 喜g ，一口) 2 ，+ c 口卢r r = ( 孚房；唧m 缈一：( 毒叫帅( 喜砰) 叫 = 膏，e x p f 一圭 。，+ r p 2 一z o y j + r ) 9 靴。= ( 去) 了矗；，；= 。再记 勾| 0 量 盹 懈 毗 叫， 的 n 刊k r 小黼 、，l，ij 1j f 2 + ， # 。m ， y + 西南交通大学硕士研究生学位论文第2 6 页 4 ：。y + 。，占：。后+ 肌c ：，f 窆。j 2 + 卢z 。 l f = l 知4 是个常量，b 和c 与样本有关， 贝u c z ，臼，= t ，e x 一 一丢- 曰2 一z b 日+ c 斗 = t - e x ， 一丢 c 一等 e x p 一罢( 日一号) 2 )