蒙特卡罗模拟方法.ppt

1,MonteCarloSimulationMethods(蒙特卡罗模拟方法),主要内容:1.各种随机数的生成方法.2.MCMC方法.,2,从Buffon投针问题谈起,3,Buffon投针问题,4,5,数值积分问题,6,MonteCarlo数值积分的优点,与一般的数值积分方法比较，MonteCarlo方法具有以下优点：,7,随机模拟计算的基本思路,1.针对实际问题建立一个简单且便于实现的概率统计模型，使所求的量（或解）恰好是该模型某个指标的概率分布或者数字特征。,2.对模型中的随机变量建立抽样方法，在计算机上进行模拟测试，抽取足够多的随机数，对有关事件进行统计,3.对模拟试验结果加以分析，给出所求解的估计及其精度(方差)的估计,4.必要时，还应改进模型以降低估计方差和减少试验费用，提高模拟计算的效率,8,随机数的生成,1.蒙特卡罗模拟的关键是生成优良的随机数。2.在计算机实现中,我们是通过确定性的算法生成随机数,所以这样生成的序列在本质上不是随机的,只是很好的模仿了随机数的性质(如可以通过统计检验)。我们通常称之为伪随机数(pseudo-randomnumbers)。3.在模拟中，我们需要产生各种概率分布的随机数，而大多数概率分布的随机数产生均基于均匀分布U(0,1)的随机数。,9,U(0,1)随机数的生成,一个简单的随机数生成器：,10,一个简单的例子,11,一个简单的例子(续),上面的例子中，第一个随机数生成器的周期长度是10，而后两个生成器的周期长度只有它的一半。我们自然希望生成器的周期越长越好，这样我们得到的分布就更接近于真实的均匀分布。,12,线性同余生成器(LinearCongruentialGenerator),13,常用的线性同余生成器,14,复杂一些的生成器（一）,1.CombiningGenerators:,15,复杂一些的生成器（二）,2.Multiplerecursivegenerator,16,算法实现,许多程序语言中都自带生成随机数的方法，如c中的random()函数，Matlab中的rand()函数等。但这些生成器生成的随机数效果很不一样，比如c中的函数生成的随机数性质就比较差，如果用c，最好自己再编一个程序。Matlab中的rand()函数，经过了很多优化。可以产生性质很好的随机数，可以直接利用。,17,由rand()函数生成的U0,1随机数,18,由rand函数生成的2维随机点,19,从U(0,1)到其它概率分布的随机数,U(0,1)的均匀分布的随机数，是生成其他概率分布随机数的基础，下面我们主要介绍两种将U(0,1)随机数转换为其他分布的随机数的方法。,1.逆变换方法(InverseTransformMethod)2.舍取方法(Acceptance-RejectionMethod),20,InverseTransformMethod,21,InverseTransformMethod,22,几个具体例子（一）,23,几个具体例子（二）,24,几个具体例子（三）,25,标准正态分布随机数的生成,正态分布是概率统计中最重要的分布，在此我们着重讨论如何生成标准正态分布随机数。,引理：,26,Box-Muller算法,27,逆变换方法（一）,我们无法通过具体的数学表达式计算正态分布函数的逆函数，我们必须通过数值的方法逼近正态函数下面我们介绍Beasley-Springer-Moro方法。,28,逆变换方法（二）,29,逆变换方法（三）,在matlab中可以直接通过norminv()函数直接计算标准正态分布函数的逆。,30,Matlab生成的正态随机数,31,Acceptance-RejectionMethod（一）,Acceptance-Rejection方法最早由VonNeumann提出，现在已经广泛应用于各种随机数的生成。,基本思路：,通过一个容易生成的概率分布g和一个取舍准则生成另一个与g相近的概率分布f。,32,Acceptance-RejectionMethod（二）,具体步骤：,33,Acceptance-RejectionMethod（三）,下面我们验证由上述步骤生成的随机数Y确实具有密度函数f(x),34,Acceptance-RejectionMethod（四）,所以为了提高舍取法的效率，我们应该使c的取值尽可能的小，也就是使f和g的分布更为相近。,35,几个具体例子（一）,36,几个具体例子（一）,37,几个具体例子（二）,38,几个具体例子（二）,39,随机向量的抽样方法（一）,40,随机向量的抽样方法（二）,41,生成多维正态随机数的方法（一）,42,生成多维正态随机数的方法（二）,生成多维正态随机数的具体步骤：,43,用MonteCarlo方法求解Laplace方程参见书上5.8节P213P215,44,马氏链在MonteCarlo随机模拟中的应用,定义为要模拟服从给定分布的随机变量,用生成一个易于实现的不可约遍历链作为随机样本,使其平稳分布为的方法，称为马氏链蒙特卡罗方法.,蒙特卡罗方法的一个首要步骤是产生服从给定的概率分布函数的随机变量(或称为随机样本),由概率论知识,熟知下面的结论.,45,引理生成随机变量U,使其分布满足U0,1,记为UU0,1,F(x)是给定的一个分布函数,记为F(x)的反函数,则X=F-1(U)分布函数为F(x).,46,47,48,米特罗波利斯(Metropolis)等人在1953年最早给出了通过生成一马氏链实现从分布中采样(生成相关的样本)这一重要基本思想.随后,哈斯汀(Hastings)将其推广到更一般的形式.下面仅叙述状态空间S为至多可数的情形:,49,50,51,MarkovchainMonteCarlo(MCMC),问题提出：,52,MCMC方法的基本思路,MCMC是一种简单有效的计算方法，在统计物理，Bayes统计计算，显著性检验，极大似然估计等领域都有着广泛的应用。,基本思路：,53,概率转移核的构造（一）,MCMC的方法有很多，在此我们只介绍Metropolis-Hastings方法。,基本思路：,54,概率转移核的构造（二）,55,概率转移