（概率论与数理统计专业论文）mcmc方法及在贝叶斯统计中的应用.pdf

lh _ j i ， 、 m c m cm e t h o d a n dt h ea p p l i c a t i o ni nt h eb a y e ss t a t i s t i c a l at h e s i ss u b m i t t e df o rt h ed e g r e eo fm a s t e r c a n d i d a t e ：z h o ux i a ok a i s u p e r v i s o r ：p r o f z h a n g s h a o y i h u b e iu n i v e r s i t y w u h a n ，c h i n a 一 一 湖北大学学位论文原创性声明和使用授权说明 原创性声明 本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所 取得的研究成果。除了文中特别加以标注引用的内容外，本论文不包含任 何其他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡 献的个人和集体，均已在文中以明确方式标明。本人完全意识到本声明的 法律后果由本人承担。 论文作者签名： 日期：df 沙年 1 虱_ 、7 i r 月7 日 学位论文使用授权说明 本学位论文作者完全了解学校有关保留、使用学位论文的规定，即： 按照学校要求提交学位论文的印刷本和电子版本；学校有权保存学位 论文的印刷本和电子版，并提供目录检索与阅览服务；学校可以允许采用 影印、缩印、数字化或其它复制手段保存学位论文；在不以赢利为目的的 前提下，学校可以公开学位论文的部分或全部内容。 作者签名：阚州 指导教师签名：芗丧卵r 日期：抄，f 7 日期：矽c 。广l u 一 k 摘要 摘要 在统计应用中，通常会遇到计算积分的情形，尤其在计算高维积分的情况 下，应用传统的方法是难以解决高维积分。随着计算机的应用越来越广泛，可 以利用计算机产生一系列随机数的方法解决一些高维积分的难题。 本文重点介绍了马氏链的概念和用马氏链蒙特卡洛方法对贝叶斯估计中的 条件分布进行近似抽样，这一结果实际上使得贝叶斯方法从一种理论方法变成 啦实用的方法。主要从以下几个方面描述，首先介绍一般的贝叶斯方法，利用 贝叶斯统计思想对本文进行展歼，得出一系列有用的结果。第二章主要介绍了 几种随机变量的计算机模拟，由此产生的随机数将会给第三章的随机数的选取 一定程度上提供方便，很容易产生一组满足条件的随机数。第三章首先通过构 j 造独立同分布的静态的蒙特卡洛方法来解决一般的积分形式，= r f ( x ) d x ，然 瑚 而我们会经常遇到用分析的方法难以解决的积分，尤其在高维情况下的积分问 题，用一般的贝叶斯方法难以解决，由此引入了m c m c 方法，也即动态的蒙特 卡洛方法，用马氏链的方法来解决高维积分问题，此方法的关键是寻找一个平 稳分布刀( ) ，有了平稳分布万( ) 后就可以通过随机模拟产生收敛的马氏链，也 就是此马氏链达到了稳定的结构。 关键词：b a y e s 估计；随机数；随机模拟；蒙特卡洛方法：不可约；g i b b s 抽样； 平稳分布；m e t r o p o l i s - h a s t i n g s 算法； 湖北人学硕十学传论文 a b s t r a c t i ns t a t i s t i c s ，w eo f t e nm e e tt h e p r o b l e m s o fi n t e g r a l c a l c u l a t i o n ，p a r t i c u l a r l yt h e h i g h d i m e n s i o n a li n t e g r a lc a l c u l a t i o n u s i n gt h et r a d i t i o n a lm e t h o di sd i f f i c u l tt od e a lw i t h h i g h d i m e n s i o n a li n t e g r a lc a l c u l a t i o n a l o n gw i t ht h ee m p l o yo fc o m p u t e rm o r ea n dm o r e a b r o a d ，w ec a nu s ec o m p u t e rt op r o d u c eas e r i e so fs t o c h a s t i ct od e a lw i t ht h ed i f f i c u l tp r o b l e m o fs o m eh i g h d i m e n s i o n a li n t e g r a lc a l c u l a t i o n t h i sp a p e ri n t r o d u c em a r k o vc h a i n sc o n c e p ta n dt h em a r k o vc h a i n sm o n t e c a r l om e t h o da n s w e rt h ec o n d i t i o nd i s t r i b u t i o ni nb a y e se s t i m a t ep l a y i n gs a m p l e t h er e s u l ti nn a t u r ec a u s eb a y e sm e t h o df r o mat h e o r ym e t h o dt oaa p p l i e d m e t h o d w ew i l lc o m ef r o ms o m ea s p e c t st o p i c t u r e i nt h ef i s tc h a p t e r , w e i n t r o d u c et h em o s tb a s i cb a y e sm e t h o d ，a n du s i n gt h eb a y e ss t a t i s t i c a li d e as p r e a d t h i sp a p e r w ec a ng a i ns o m eu s e f u lr e s u l t t h es e c o n dc h a p t e rm a i n l yi n t r o d u c ea f e ws t o c h a s t i cv a r i a b l ec o m p u t e rs i m u l a t i o n ，b yt h i sm e t h o dt oc r e a t es t o c h a s t i cw i l l a f f o r ds o m ec o n v e n i e n c ei ns o m ed e g r e ei nt h i r d c h a p t e r w ec a ne a s i l yg a i n a p p r o p r i a t e s t o c h a s t i c t h et h i r dc h a p t e ra tt h ev e r ys t a r tt h r e a dt oc o n s t r u c t i n d e p e n d e n c ei d e n t i c a ld i s t r i b u t i n go fs t a t i cm o n t ec a r l om e t h o dt os o l v eag e n e r i c m i n t e g r a lf o r mi = if ( x ) d x w h i l ew eo f t e nm e e t t ou s ea n a l y t i cm e t h o dd i f f i c u l tt o 由 d e a li n t e g r a l ，e s p e c i a l l yi nt h eh i g h d i m e n s i o n a li n t e g r a lc a l c u l a t i o n u s i n gt h eg e n e r i c b a y e sm e t h o di sd i f f i c u l tt od e a l ，t h e r e o u tw ei n t r o d u c em c m cm e t h o d ，a sw e l la s d y n a m i cm o n t ec a r l om e t h o d ，u s i n gm a r k o vc h a i n sr e s o l v eh i g h d i m e n s i o n a l i n t e g r a lc a l c u l a t i o n t h ek e yi s t oc o n s t r u c tas t a t i o n a r i t y d i s t r i b u t i o n 万( ) w ec a nv i a s t o c h a s t i cs i m u l a t i o nt oc o n s t r u c tc o n v e r g e n tm a r k o vc h a i n s ，t h i sm a r k o vc h a i n s a t t a i nas t e a d ys t r u c t u r e k e yw o rd s ：b a y e se s t i m a t e ；s t o c h a s t i c ；s t o c h a s t i cs i m u l a t i o n ：m o n t ec a r l o m e t h o d ；i r r e d u c i b l e ；g i b b ss a m p l i n g ；s t a t i o n a r yd i s t r i b u t i o n ；m e t r o p o l i s h a s t i n g s a l g o r i t h m 一 一 _ 摘要 目录 摘要i a b s t r a c t 1 i 第一章贝叶斯估计l 1 1 贝叶斯统计思想1 1 2 贝叶斯统计方法2 1 2 1 先验分布与后验分布2 1 2 2 贝叶斯风险5 1 2 3 贝叫斯估计一7 1 3 贝叶斯统计在实际问题中的应用1 l 1 3 1 住经济研究中的应用1 1 1 3 2 在精算保险研究中的应用1 1 1 3 3 在可靠技术研究中的应h j 1 2 1 4 贝叶斯方法的优点12 第二章随机样本生成法。l3 2 1 均匀随机变鼙的计算机模拟一13 2 2 分布函数f ( x ) 的随机数15 2 3 正态随机数16 2 4 混合分布随机数17 第三章m c m c 在贝叶斯统计中应h 18 3 1 蒙特卡洛方法。l9 3 1 1 用频率估计概率的蒙特异洛方法1 9 3 1 2h 样本函数的平均值估计的期望米计算积分的蒙特膏洛方法一期望法2 0 3 2 马尔可夫( m a r k o v ) 链。2 3 3 2 1 马氏链的定义及其转移概率2 3 3 2 2 马氏链的状态分类2 4 3 2 3 平稳m a r k o v 链2 6 3 3m a r k o v 链m o n t ec a r l o 方法一2 7 3 3 ig i b b s 采样法2 8 3 3 2m e t r o p o l i s - h a s t i n g s ( m - h ) 采样法3l 参考文献3 5 致谢3 7 第一章贝叶斯估计 第一章贝叶斯估计 1 1 贝叶斯统计思想 b a y e s ( 贝叶斯) 方法的基本思想是：把概率函数( 包括分布密度和离散的分布概率) 中的未知参数目当作随机变鼙( 随机向鼙) 。 在贝n 1 斯方法中我们不需要区分参数与随机变量，因此朱知参数的分布的确认是1 f 常 重要的，在抽取样本以前，就只能根据先验知识确定朱知参数的分布，称为先验分布。在 抽取样本以后，根据对于抽取剑的样本的规律，就可川贝叶斯公式把参数先验分布改进为 后验分布。 统计学中由f 观点的不同，形成了各种学派，其中主要学派是早在十九世纪就存在的 频率学派( 即经典学派) 和贝叶斯学派。冈贝叶斯学派的观点受剑1 贝叶斯学派的猛烈攻 击而处丁劣势，致使研究f ：作降至冰点。随着统计学j “泛应川于自然科学、经济研究、心 理学、市场研究等领域，人们开始发现贝叶斯方法中的合理部分，终丁在_ 二十t t c 纪人十年 代，这一古老理论得以复苏。史密斯教授在1 9 8 4 年曾预言：“剑本世纪末。贝n t 斯理论加 上计算机的图示，将成为现代统计实践中最受欢迎的形式”。事实证明，近年来贝叶斯统计 学的发展确实很快。 贝叶斯学派的第一个基本假定是：把待估参数口看作随机变量，然而经典学派则视护为 未知常数。 贝叶斯学派的人认为：在很多实际的闷题中，假定样本分布中的参数是同定常数往往 并不可行。例如，某l ：厂每日生产的产品的次品率并不是i 捌定的数字，而是逐日不同的。 ( 可能同绕着某个平均值上卜浮动。) 因此，我们可以假定该l ：厂每日生产的产品的次晶率 是一个随机变量。若在某日生产的产品中进行随机抽样，并根据所抽样的结果来估计次品 率，则这一估计针对的是当日的次品率作为随机变量的次晶率在当目的实现值。又如， 在一片森林害虫的调查中，如果将一大片森林分解为许多小片，则每一小片中某种害虫的 平均单位面积数量是不同的。因而若从这些许多小片数量中指定一片，它的单位面积害虫 数量可以看成是随机变量。如果从这一小片森林中随机地选取若干单位面积进行害虫数量 的调查，以此来估计该小片森林中的平均单位面积害虫的数簧，则估计的不是一个常数， 而是一个随机变苗的实现值。 贝叶斯学派的第二个基本假定是：目的分布( 称为先验分布) 已知。 我们用万( 9 ) 来记口的先验分布的概率函数。但先验分布万( p ) 只能提供关于目的一般 信息，并不能具体地提供关丁秒的当前的信息。这里，“当前”的含义可以是时间、空间、 或某个抽象空间中的一个点，譬如，一人片森林中的某一小片，等等。为此，我们仍需在目 的某个朱知的实现值下进行抽样。 长期以来，非贝叶斯学派的批评也集中丁这两点。但随着统计学的应心领域越加宽广， 如果逐日观察一个工厂的次品率秒，可以看剑确有波动，故从较长一段时间看，是可把臼视 为一随机变量，那么秒拥有某个概率分布就不足为奇了。由此认为先验分布7 r ( e ) 反映了抽 样前人们对p 所掌握的信息和经验。 贝叶斯学派是以给出概率论中菥名的贝叶斯公式的英国数学家的名字命名的。同顾贝 湖北人学硕十学位论文 叶斯公式的含义，它是从结果推断原冈的一个概率公式。贝叶斯学派中就贯穿了这一思想。 把参数看成是原冈，样本看成是结果，从样本去推断参数，就是由结果米推断原冈。而由 先验分布和样本分布来推出后验分布的贯穿就是贝叶斯公式在稍微复杂一点的情形下的翻 版。 1 2 贝叶斯统计方法 贝叶斯学派认为：先验分布反映了试验前对总体参数分布的认识，在获得样本信息后， 人们对这个认识有了改变，其结果就反映在后验分布中，即后验分布综合了参数后验分布 和样本信息。由此可以看出。频率学派统计推断是“从无剑有”的过程：在试验前。关于 未知参数的情况是一无所知，而试验后则有些了解，但对了解多少并无普遍的表述方法， 在实践中有赖于所使用的统计昔的针对性。然而贝1 1 l 斯推断则不然，它是一个“从有剑有” 的过程，且结果清楚白然，符合人们的思维习惯。根据所获得的信息修j e 以前的看法，不 一定从零开始。从本质上说，贝叶斯推断方法概括了一般人的学习过程。 贝叶斯方法只能在先知道后验分布后，才米分析问题。也就是说，在获得后验分布后， 如果把样本、原米的统计模型( 包括总体分布和先验分布) 都丢掉，一点也不会影响将来 的统计推断问题，凡是符合这个准则的推断就是贝叶斯推断。据此，频率学派中的矩估计、 显著性统计检验和置信区间估计都不属丁贝叶斯推断的范畴，但m l e 估计则可视为均匀 先验分布之卜的贝叶斯估计而己。 1 2 1 先验分布与后验分布 定义1 1 参数空间o 上的任一分布密度( 或概率分布) 为万( 口) ，称为口的先验分布。 定义1 2 在得剑样本值x = ( x l ，x 2 ，毛) 后，0 的后验分布就是在给定x 条什t o 的 条件分布，也称b a y e s 分布。 贝叶斯公式的随机事件形式 设b ，垦，是一列互不相容的事件，且有u 二e = q ，尸( e ) o ，i = 1 ，2 ，则对任 一事件a 都有p ( 爿) = 尸( e ) 尸( 彳i 尽) 。并称尸( e ) 为先验概率，尸( el 爿) 为后验概率。 i = 1 已知总体x 的分布和参数目的先验分布时，如何求出秒的后验分布呢? f 面就x ，目 均为连续型随机变鼍的情形推导后验分布的计算公式。 设总体分布的密度函数为f ( x ；o ) ，0 0 ，秒的先验分布为j r ( o ) 。冈为p 为随机变 量，所以o ；目) 虑看做是给定口时x 的条件密度，厂( x ；目) 需改为厂( x i 护) 米表示，冈此 ( x ，秒) 的联合密度为万( 秒) 厂( x l 曰) 。记样本空间为h ，设置，x 2 ，以为取臼总体x 的 2 第一章贝叶斯估汁 一个样本，那么墨，x 2 ，以，0 的联合密度为h 厂( 一i p ) 万( p ) a 由概率论知，样本 ，= l 置，x 2 ，以的边沿密度为 如，矿= 冉m 枷( 州( 曰) 在给定样本值( 五，x 2 ，) 时p 的条什密度为 兀( 引护) 刀( 口) 办( 口l x t ，屯，k ) 2 ；乏i 了而口o 这里的厅( 臼i 五，x 2 ，矗) 就是给定样本值( 五，恐，而) 时口的后验分布。 当x 或口为离散璎随机变龄时，只需将密度函数换为概率函数，条件密度函数换为条 件概率函数即可。 例1 1 设xn 侵9 0 1 分布，即p ( x = 1 ) = p ，p ( x = 0 ) = 1 一p ，p 0 = ( o ，1 ) ， x l ，t ，以为样本，未知参数p 的先验分布为均匀分布，即 万( p ) = 1 ，0 p 1 。 则由式( 1 1 ) 得p 的后验分布为 兀p ( 1 - p ) 卜t 1 纵引而 ， 卜蓐丽而 z x ,一一 p ( 1 一p ) “ c t p ，” p “( 1 一p ) ” ep ”；( 1 p ) ”一n i a p =f(n=xr：?：11)r(n p ”；( 1 一p ) ”一”； = _ = = = _ 一口一， +一，? x + l 、 4。 即p 的后验分布为分布b e ( n x + l ，玎一f i x + 1 ) 。 2设x n ( a ，o r 2 ) ，口朱知而盯已知。给定a 的亢验分布为日( ，f 2 ) 。 3 湖北人学硕十学位论文 在有了样本置，置，t 后，a 的先验分布为 h ( ax i ，) = e ( 志丁 唧怯叫2 去唧 唧陆打 去唧 ( - ( ( 口一) 2 2 f 2 ( 口一) 2 2 f 2 卜 注意剑上式分母只与五，x 2 ，矗有关而与a 无关，因此分母之值没必要计算出来。又 其中 于是 1 2 0 2- 口) 2 一专( 口一 = 一譬也西菥b 2 州们 = 一圭( ：喜薯2 + 等 一三 ( 三+专)口2 2 口( 亨+ = 一黔喜冉等一矿t 2 _ 专旷矿 以1 玎f 2 + 仃2 7 + 7 制 地k ”巾= c e x p b ”，) 2 ( 1 2 ) 这里c 只与x 、o r 、f 有关而与朱知参数a 无关的数。因此办( 口k ) 作为口的函数 是正态分布n ( t ，7 7 2 ) 的密度函数，即a 的后验分布仍为止态分布，其均值、方差由式( 1 2 ) 桃蝴x p b 称为办( 口l 五，而，吒) 的核， 蜘h 矿荆p 恃旷，) 2 。 4 记为 ，l 。川 薯 ，- 、 。硝 群力 = ， 2 弓仃 f f 矿 第一章贝叶斯估计 1 2 2 贝叶斯风险 为了用决策论的方法研究估计问题，首先介绍有关决策论的一些名词和概念。 1 决策空间和决策函数 设总体x 的分布函数为f ( x ；o ) ，用样本空间一个点x = ( 五，x 2 ，矗) 对未知参数伊作 的一个估计，亦即作一个决定，在统计决策中称这一决定为决策，并称可能采取的全部决策 所成的集合为决策空间，记为a 。 统计决策问题，实质上是对样本空间h 的每一个样本点x ，在决策空间a 上指明一个 点与之对应。这样一个对应规则可以看做定义在样本空间h 上而取值丁决策空间a 的一个 函数，称这个函数为决策函数，记为d ( x l ，毛) 。在不至r 引起误解的情形下，也称 d ( x l 一，k ) 为决策函数，这时，表示在得到样本观察值，而，屯时，采取决策 d ( x l ，叠，) 。冈此d ( x i ，以) 本质上是一个统计量。 例1 3 设总体x 服从。一1 分布，p ( x = 1 ) = p ，p ( x = 0 ) = 1 一p ，p 为未知参数， 参数空间o = 【0 ，1 】。_ ，以为取臼总体x 的样本。则样本空间为由2 ”个元素组成的数 集h = ( ，而，) i = o ，1 ，i = 1 ，2 ，聆) 。在点估计问题中，若采川样本均值作为p 的 估懈估计值为；2 吉善薯，则；为对p 的一个黼决策空间a _ 0 ，1 即a = o 决策函数 d ( z ，) = ；2 i 荟n 薯。 2 榀失甬麴与风险甬教 由丁每个具体估计问题，总有许多不同的决策函数可供选择，冈此必然会提出“选择的 标准是什么? ”这样的问题。在点估计中，估计量的选择标准较多，根据不同的要求可以采 用不同的标准，一股采用无偏性与最小方差等标准。在决策论中，决策函数的选择标准是用 损失函数与风险函数米描述的。 定义1 3 设o 为参数秒的参数空间，h ( o ，d ) 为定义于o 和a 上的一个1 i 负二元实值 函数，则称l ( o ，d ) 为一个损火函数。 损火函数l ( o ，d ) 表示对参数目采取决策d 所带来的损失。由丁损火总是1 e 负的，所以 要求l ( o ，d ) 0 。对于不同的实际问题可以选择不同的损欠函数。常j j 的损火函数有： 5 湖北人学硕十学位论文 l ( o ，d ) = i o - d i ，绝对值损火函数； l ( o ，d ) = ( 护一d ) 2 ，平方损失函数，也称二次损火函数； t i a ，d ) = 名( 护) ( 秒一d ) 2 ，0 名( 秒) 0 8 丝产丁一产 + 一 + 矗z 旦， n 舻一州。兀川 第一章贝叶斯估计 对上式矗端取对数住对五求导数，司得止规万程 n x + i a 一- 1 一( 聆+ f 1 ) ：0 、 解之得 毛= 掣j 。 玎+ 本：1 了开头的实例中估计值0 的取法就是依据最人后验准则的。 2 期望型估计 对后验分布的期望值作为参数的估计值，称为贝叶斯期望型估计。 3 最小风险估计 定义1 , 6 没总体x 的密度函数( 或概率函数) 为厂( x ；9 ) ，0 o ，秒是随机变量， 其先验分布为万( 9 ) ，x = ( x i ，x 2 ，以) 是样本。若存在一个决策函数d ( x ) ，使得对 任意的决策函数d ( x ) ，总有 b ( d ) b ( d ) 则称d ( x ) 为给定先验分布卜秒的贝叶斯最小风险估计。简称贝 r 斯估计，记做磙。 也就是说贝叶斯估计d ( x ) 是使得贝叶斯风险b ( d ) 达剑最小的决策函数。 定理1 1 在平方损失函数 l ( o ，d ) = 【口一d ( j f ) 】2 下，参数0 的贝叶斯估计为后验分布的数学期望，即 d ( x ) = l 秒h ( o l x ) d o 。 证 由式( 1 3 ) 知贝叶斯风险在平方损火函数卜取最小值，即 巳【秒一d ( x ) 】2 ( 秒i x ) d o ( 1 4 ) 对于d a 中取最小值。冈 l 【臼一d ( x ) 】2 h ( o l x ) d 8 = l 口2 2 0 d ( x ) + d 2 ( x ) 办( 口i x ) d o = d 2 ( x ) 一2 d ( z ) 己9 i ( o i x ) d o + 0 2 厶( 目l x ) d 目 右端是关于d ( x ) 的二次三项式，因此当 9 湖北人学硕十学位论文 d ( x ) = l p h ( ox ) d b 。- d a + ( x ) 时，对式( 1 4 ) 取最小值，故d ( x ) 即为参数护f 筝j g lr t t 斯估计。 t ( o ，d ) = o - d i 证设朋, h w l x ) 的中位数，义设d = d ( x ) 为护的令一估计。为确定起见， i m - d ， 口m l ( o ，m ) - l ( o ，d ) = 2 0 一( ，竹+ d ) ， m 0 胂【上( 秒，朋) 一l ( e ，d ) h w l x ) d o ( 小一d ) ；。h ( o i x ) d 秒+ ( d 一所) l 。h ( o i x ) d e 三( ，竹一d ) + 圭( d 一，竹) = o i o 第一章贝叶斯估计 1 3 贝叶斯统计在实际问题中的应用 1 3 1 在经济研究中的应用 贝叶斯方法在经济中的应j h j 主要集中在三个方面：经济计鼍方面、商业经济和宏观经 济的预测方法、经济博弈论。在经济分析中，通常采用结构模刑对经济变鹫之间的数避关 系进行定量研究，这类模型的特点之一是规模人，它们一般由数十个，甚至一两百个方程 组成，模型参数多，样本容量相对不足，因此参数估计的有效性不强，贝叶斯方法是解决 这类问题的一种有效方法。芝加哥人学的z e l l n e r 研究了经济计鼙学中的贝叶斯理论，包 括同! j 1 模魁、完全递 模型和分布滞后模型的贝叶斯方法研究；b a n e r g e e ( 1 9 9 3 ) 、 b a u w e n s ( 1 9 9 4 ，1 9 9 8 ，1 9 9 9 ) $ 1 1w e s ( 1 9 9 7 ) 研究了动态经济计鼍模型的贝叶斯理论；d r e z e ( 1 9 7 6 ) 研究了联立方程模删的有限信息和完全信息的贝叶斯分析；v a nd u k ( 1 9 9 1 ) 、 b i e r e n s ( 1 9 9 3 ) 、b e r g e r ( 1 9 9 4 ) 、h o e k ( 1 9 9 5 ) 和f r a n s e s ( 1 9 9 7 ) 等人研究了单位根问题 的贝叶斯理论。 同时，贝叶斯方法在经济预测中应h jj “泛，这土要得益丁l i n e r m a n ( 1 9 8 6 ) 在m i n n e s o t a 储备银彳j ：所做的开创性的研究i ：作。他利川贝叶斯多元自同| j 模型，对国民生产总值等七 个指标进行预测，取得了很好的效果。此后贝叶斯方法在商业经济预洲和政府宏观经济预 测中获得了j “泛应用，相关的研究成果逐年增多，如k e n n y 、m e y l e r 和q u i n n ( 1 9 9 8 ) 利 用贝叶斯方法研究了爱尔兰中央银行的预测结果比较，结果表明：前者的预测效果更好； k a s u y a 和t a n e m u r a ( 2 0 0 0 ) 利刖后验信息准则和m o n t ec a r l o 方法研制了一个小型的贝叶 斯日本经济预测模硝，该模删包括居比消费价格指数等8 个经济指标；b e w l e y 和g r i f f i t h s ( 2 0 0 2 ) 研究了对数扩散模硝的贝叶斯预测方法；类似的文献还有s p e n c e r ( 1 9 9 3 ) 、 m c c u l l o c h ( 1 9 9 3 ) 和a m i s a n o ( 1 9 9 9 ) d 研究成果。 此外，贝叶斯方法在经济博弈理论中也获得了应用，这一经济学问题可抽象成贝叶斯 博弈结构。一股博弈结构由三个部分组成，即局中人、策略空间和支付；但贝叶斯博弈结 构还需要增加两个部分：特征和概率。贝叶斯博弈论不但具有深刻的理论意义，而且有广 泛的实刖价值。在市场分析研究中，一般是把研究问题转化为一个贝叶斯博弈模型，然后 进行模拟，求出最优策略：在r 业组织中贝叶斯博弈被人量运用，在经济发展战略决策、 保险业务、金融投资方面也有重要应川价值。 1 3 2 在精算保险研究中的应用 贝叶斯思想和方法被引入到保险精算学中，在很人程度上归功tb u h l m a n n ( 1 9 6 7 ) 在 a s t i nb u l l e t i n 上发表的论文经验费率与概率( e x p e r i e n c er a t i n ga n dp r o b a b i l i t y ) ，它为 贝叶斯方法在保险精笄领域的戍刚奠定了坚实的理论基础。根据m a r k o v ( 1 9 9 6 ) 和 r o s e n b e r g ( 1 9 9 9 ) 的观点，贝叶斯方法在精算学中的应川主要集中在三个方面：经验费率 ( e x p e r i e n c er a t i n g ) 的估计，损失储备与复合损火模型( j o s sr e s e r v i n ga n dc o m p o u n dl o s s m o d e l ) 的研究，以及健康保险与生命表的编制。 从某种意义上讲，传统经验费率估计模型是与参数的先验分布无关的，至丁经验费率 估计中参数先验分布选择问题，l a n d s m a n 和m a r k o v ( 1 9 9 8 ，1 9 9 9 ) 研究了先验分布的最 火熵和f i s h e r 最小化方法，y o u n g 建议利川核密度估计方法确定参数先验分布。 对于损火储备与复合损火模型的贝叶斯理论，h a z a n ( 2 0 0 0 ) 研究了链梯模型( c h a i n 湖北人学硕十学位论文 l a d d e rm o d e l ) 的完全多层贝叶斯方法，f e r r i r a ( 1 9 7 5 ) 、l u b r a n o ( 1 9 8 5 ) , hp o l e ( 1 9 8 5 ) 研究 了变点刚! j 1 模型( s w i t c h i n gr e g r e s s i o nm o d e l ) 贝叶斯方法，h a s s t r u p ( 1 9 9 6 ) 研究了索赔 次数的贝叶斯估计方法，j o n g 和z e h n w i r t h ( 1 9 8 3 ) 研究了损火储备中状态空间模型( s t a t e s p a c em o d e l ) 的贝叶斯建模问题。这些贝叶斯方法的优点在于，它可以通过参数后验预测 分布。为流量三角形卜三角部分的每一个值进行推断，据此确定最优储备基金规模。 另外，d e i l a p o r t a s ( 1 9 8 0 ) 用贝叶斯方法讨论了h e l i g m a n 和p o l l a r d 提出的模型，这个 模型给出了按年龄分类的夕匕亡率，对意外事故突峰( a c c i d e n th u m p ) 作了完整的描述。 g e i f a n d 和w a n g ( 2 0 0 0 ) 从医院医疗条件的整体水平和个体水平两个方面，对重复检查过 程的假刚性( f a i s ep o s i t i v e ) 与累计风险的关系进行定量研究，改进了关丁生命表数据的精 算模型。o h a g a n e t a l ( 2 0 0 1 ) 从健康经济学角度，利川贝叶斯方法模拟了可接受成本效率 的上升曲线，依此确定两种治疗方法的相对成本效率。 值得注意的是，在精算实践中人们感兴趣的研究主要集中r 对真实夕e 亡率的估计。所 以，大多数贝叶斯修匀方法的应刚都是得出真实死亡率的估计值，从而川来编制生命表。 与此相反，m e n d o z a ( 2 0 0 0 ) 针对一特定的被保险人总体，得出了朱来可被观察夕匕亡率的 联合预测后验分布，在此基础上，提出了一个编制生命表的有效方法。 1 3 3 在可靠技术研究中的应用 贝叶斯方法系统地州丁可靠性技术，在2 0 世纪8 0 年代就有了专蔫贝叶斯可靠性分 析，可靠性技术处理的对象一般能做的试验少，试验所获得的往往不是完全样本，数据来 之不易，如何利川经验知识来减少试验次数就变得极为关键，这推动了贝叶斯方法在可靠 性领域中的应用。尤其是在国防i ：业中，对武器准备系统可靠性进行评估时多采用贝叶斯 小样本推断方法，冈为经典统计方法是以人样本为分析基础的，在小样本条件下，其有效 性人为降低，雉以对系统的可靠性进行合理评估，并且产品研制周期& ，试验费川昂贵。 而贝叶斯方法能充分利川各种信源t 考虑验前信息，利用现场试验信息对验前信息进行修 止，在不降低置信水平的前提卜，通过小样本对系统进行可靠性评估，能减少试验次数， 肖省试验费川和缩短试验时间，从而加速产品定型进程。据资料记载：美国在研制m x 导 弹的过科中，应h j 贝叶斯方法把发射试验从原来的3 6 次减少为2 5 次，可靠性却从o 7 2 提 高到0 9 3 ，。1 了省费州2 亿5 千万。从可靠性的各领域米看，c a l a b r i a 和p u l c i n i ( 1 9 9 4 ) 研 究了系统单元可靠性的贝叶斯评估方法，e r t o ( 1 9 8 2 ) 研究了简单典型系统可靠性的贝叶 斯评估方法，m a r t z ( j 9 8 8 ) 研究了复杂典型系统可靠性的评估方法及其m o n t ec a r l o 。 1 4 贝叶斯方法的优点 贝叶斯理论的哲理有相当人的吸引力，而且方法简单，它在统计推断模式上与频率学 派的不同之处在于：频率学派认为，似然函数概括了有关参数的全部信息，冈此关于参数目 的统计推断只要利刚似然函数就够了；而贝叶斯方法既利h j 了似然函数，又利j j 了参数先 验信息，这时贝叶斯推断方法所得剑的结论与频率方法的基本相同。 与频率方法比较，贝叶斯方法具有以l - ) t , 个方面优点：( 1 ) 贝叶斯方法充分利川了样 本信息和参数的先验信息，在进行参数估计时，通常贝叶斯估计量具有更小的方差或平方 误筹，能得剑更精确的预测结果；( 2 ) 贝叶斯h p d 置信区间比不考虑参数先验信息的频率 置信区间短；( 3 ) 能对假设检验或估计问题所作出的判断结果进j ，量化评价，而不是频率 统计理论中的接受、拒绝的简单判断。 1 2 第一：章随机样本生成法 第二章随机样本生成法 在介绍m c m c 方法前，先介绍几种常见的随机变鼙生成法，主要以计算机生成所需 的样本。随机变量( 或随机向量) 的样本简称为随机数。由于在统计中常用的是独立样本 列，不妨假设随机数之间都是独立的。生成随机数的方法，也称为随机数的取样法 ( s a m p l i n g ) 。 2 1 均匀随机变量的计算机模拟 定义2 1在【0 ，1 】上均匀分布的随机变量的独立样本称为均匀随机数( u o ，1 】随机 数) 。 在计算机上产生的称之为“伪随机数”的数列，是一种具有1 卜常长周期的，且能通过 数理统计中的独立性与均匀性假设检验的数列。实践证明，伪随机数是均匀随机数的一种 可行的近似。这种伪随机数虽然不是独立同分布的u o ，1 】随机变鼍的样本，而是在【0 ，1 】中 取值的周期数列，但是由于它可以像均匀随机数一样地通过数理统计中的独立性与均匀性 假设检验，而且它的周期非常长，以至在计算机实际运算过科中不会出现重复，所以住实 际计算中它能很女：地替代均匀随机数。 伪随机数通常是利川递推公式产生，方法是定出一个递推公式 六= ( 磊书磊一2 ，磊一。) ( 2 i ) 给定忌个初始值当，彘，磊，我们就可以按上式算出第k + 1 个数 彘+ 。= 厂( 磊，彘一。，点) 。 一股地，当前面七个数己- l ，六一2 ，磊一i 已算出，下一数即可按递推公式( 2 1 ) 算 出。递推公式有各种各样的具体形式，下面介绍其中有代表性的两种。 l 。平方取中法 这是最早产生随机数的一种方法。一个b 进制m 位数亭，自乘后一股得剑一个2 m 位 数孝2 。( 若不是2 聊位则在前面添加0 补够2 m 位) 磊= q 乞一i p ， 菇5 蜀乞岛。一i 岛， 取爵中间的聊位数( 即中间的朋个数号1 + l 詈】+ 2 詈j + ，) 作出如f 的6 进制所位 数数列岛，点，受，。令= 己6 ，则 磊) 就是所要求的伪随机数序列。 1 3 湖北人学硕斗= 学位论文 例2 1 1 考虑1 0 进制4 位数，设彘= 4 3 6 1 ，则 氛= 4 3 6 1x 1 0 。= 0 4 3 6 1 ，等= 1 9 0 1 8 3 2 1 。 取中间的4 位数作点= 0 1 8 3 ，则 = 0 1 8 3 x 1 0 。= 0 0 1 8 3 ，舁= 0 0 0 3 3 4 8 9 。 取中间的4 位数作彘= 0 3 3 4 ，则 岛= 0 3 3 4 x 1 0 q = 0 0 3 3 4 。 于是伪得随机数序列为0 4 3 61 ，0 0 1 8 3 ，0 0 3 3 4 例2 1 2 考虑_ 二进制5 位数，没彘= 1 0 11 0 ，则 厶：1 0 11 0 2 ：一1 + o + 一1 + 上+ o ：0 6 8 7 5 ， 。” 2 481 63 2 彰= 0 1 111 0 0 1 0 0 。 冈为本例中肌= 5 是奇数，i m = 2 5 ，我们取其整数部分2 ，即在爵中取蠢到西共5 个数 作鼻，丁是有磊= 1 11 0 0 ，则 厶：1 1 1 0 0 2 ：三+ 三+ ! + 旦+ 旦：0 8 7 5 “ 2481 6 3 2 并= 1 1 0 0 0 1 0 0 0 0 。 取中间的5 个数作参= 0 0 0 1 0 ，则 乞= o o o l o 2 q = 导+ 吕+ 昙+ 1 1 6 + 0 3 ，) = 0 0 6 2 5 ， “ 2481 63 2 应用平方取中法时可能出现所有位数的数字都变为0 或形成循环的序列等情况出现， 并且计算也很复杂。因此，现在在实际计算中很少采用这种方法米产生伪随机数。但是， 了解了这种简单的方法将会有助于我们领会产生伪随机数的基本思想。 2 。同余法 在产生伪随机数的数学方法中，同余法是使用较为j 泛的方法，其中义以乘同余法和 混合同余法虑川最广。，冈为它们具有能够产生周期长，统计性质比较好的伪随机数的优点。 乘同余法：用以产生伪随机数的递推公式是 吒+ l 量2 x ( m o d m ) ( 2 2 ) 其中五是乘冈子，m 是模数。以m 为模数的同余式( m o d 是m o d u l u s 的缩写) 即是以m 1 4 i 第一二章随机样本生成法 除2 x 后得到的余数记为毛+ i 。当给定了一个初值x o 之后，就可以利用上式算出序列 而，x 2 ，x 3 ，x n ，再取 r z n = 。n m ( 2 3 ) 即得我们所需要的伪随机数序列。 从上述构造过程可知每一个毛( 因而乙也一样) 最多有m 个相异值，即0 矗m ( 0 乙1 ) ，这表示序列 矗) ( 乙)