随机过程与数学建模.ppt

随机过程与数学建模,吉林大学 方沛辰,随机性和确定性是一对矛盾，它们既对立又统一。一般的问题 不是能明确划分的，常常两种性质都有，用不同的假设来处理。,1.随机型问题,随机型问题的最优化常常是对目标函数的数学期望求最优。 因此首先需要知道概率分布，再写出目标函数的数学期望的表 达式进而解决问题。这里很可能用到求函数的期望。,例题：一个私人牙科诊所很受欢迎，病人络绎不绝。来的有,三种病，一名医生每天上午和下午分别工作3.5小时，都是早8点挂的号，上午和下午分别挂多少号最适合？,平均看一个病人的时间显然是35分钟，3.5小时应该看6人。,大家想过没有，这样将会有一半的时间不能正常吃午饭！,如果6个人都是C病，全看完要9个小时！,那我们应该有什么样的结论呢？好像没什么好做的。真正要解决这个问题就要用到随机过程的理论和方法。,再举一例：豹在逐渐靠近羊的时候是匍匐前进，一旦羊发现了豹开始逃走时豹就起身追赶。假设羊不能发现50米之外的豹，到了15米羊就必然发现豹，怎样描述羊和豹在相距x米时的发现概率。这是一个很让人深思的问题。,从视觉角度看发现一个物体应该和物体的像的面积成正比，,这样概率可看作是x的函数p(x)，并且是在15处取1，50处取0, 中间是递减的，进而是x的二次函数。但是注意p(x)不是密度函数，那它是什么呢？,2.随机过程初步知识,在概率论中学过随机向量(x1,x2,xn)，相关学过联合分布、边缘 分布、条件分布等概念，一起研究许多个比单个研究方便。,把随机向量的概念推广，一起研究无穷多个随机变量，就是随机过程。注意无穷多有两种：可列多和连续多，对应就有随机序列和随机过程两个概念。有限多和无限多有本质区别。,例1 用x(t,)记（0，t)中电话接到的呼叫数。不同的t是不同 随机变量,不同的是不同的样本曲线。,例2 用x(t,)记微粒在水面布朗运动漂浮时横坐标。,例3 用x(n,),n=1,2,记相互独立同分布的伯努利随机变量序列，取值0和1，相应概率q和p，称为伯努利过程。 取值为0,1,2,称为二项计数过程，或随机游动。,例4 用x(n,)记第n代生物群体的数量。,定义 设X(t),t0是一个随机过程，取定t,X(t)是一个随机变量，它的分布函数,称为X(t)的一维分布函数，相应也有一维概率密度等概念。,定义 设X(t),t0是一个随机过程，取定s,t,X(s),X(t)是一 个二维随机变量，它的分布函数,称为(X(s),X(t)的二维分布函数。,定义 设X(t),t0是一个随机过程，取定t1,t2,tn， X(t1),X(t2),X(tn)是一个n维随机变量，它的分布函数,随机过程的数字特征，对于,称为均值函数；,定义：,称为方差函数；,称为协方差函数；,称为相关函数；,介绍一本教材：研究生教学用书 “随机过程及应用”电子科技大学应用数学学院 陈良均 朱庆棠 高教出版社,定义：如果对任意的正整数n及任意的t1,t2,tnT,随机变量X(t1),X(t2),X(tn)相互独立，称过程是独立过程。,3.几种重要的随机过程,例 伯努利过程是独立过程。,定义：如果对任意的正整数n及任意的t1t2tn,随机过程的增量X(t2)-X(t1), X(t3)-X(t2), ,X(tn)-X(tn-1)相互独立，称过程是独立增量过程。,定义：如果独立增量过程对任意的s,tT及任意的h0,随机变量X(t+h)-X(s+h)与X(t)-X(s)有相同的概率分布，称过程是平稳的独立增量过程。,例 二项计数过程是平稳的独立增量过程,性质1 如果X(t),t0是平稳独立增量过程，X(0)=0，则 (1)均值函数 m(t)=mt, m为常数； (2)方差函数 D(t)=2t, 为常数； (3)协方差函数 C(s,t)=2mins,t。,性质2 独立增量过程的有限维分布由一维分布和增量分布确定。,定义：给定随机过程X(t),tT如果对任意的正整数n及任意的t1,t2,tnT,随机变量X(t1),X(t2),X(tn)的联合概率分布为n维正态分布，称过程X(t),tT是正态过程（高斯过程）。,定义：如果随机过程W(t),tT满足下列条件： (1)W(0)=0; (2)EW(t)=0; (3)具有独立增量； (4)t0,W(t)N(0,2t),(0) 称W(t),tT是参数为2的维纳过程。,性质1 维纳过程是平稳独立增量过程。,性质2 维纳过程是正态过程。,性质3 维纳过程是马尔可夫过程。,性质4 维纳过程是均方连续、均方不可导、均方可积二阶矩过程。,性质5 维纳过程是非平稳过程，但为平稳独立增量过程。,4.泊松过程,定义1：如果取非负整数值的计数过程N(t),t0满足： (1)N(0)=0; (2)具有独立增量; (3)对任意的0st,N(t)-N(s)服从参数为(t-s)的泊松分布, 称N(t), t0是参数为的(齐次)泊松过程。,定义2：如果取非负整数值的计数过程N(t),t0满足： (1)N(0)=0; (2)具有平稳独立增量; (3)PN(h)=1=h+o(h); (4) PN(h)2=o(h). 称N(t), t0是参数为的(齐次)泊松过程。,可证，定义1与定义2等价。所以复旦数学系的概率书上的结论是： 满足：平稳性、普通性和马尔可夫性三性质的就是泊松过程。,泊松过程是非常重要的一种随机过程，应用很广。下面我们仔细学习这个过程。考虑在0,t)内：,(1)到达某超级市场的顾客数N(t)； (2)某电话交换台的呼唤数N(t)； (3)某车间发生故障的机器数N(t)； (4)某计数器收到的粒子数N(t)； (5)某通讯系统出现的误码数N(t)等都是典型实例。,一维分布 对任意的t0,N(t) P(t)，即,二维分布 对任意的ts0,协方差函数 C(s,t)=min(s,t),相关函数 R(s,t)=min(s,t)+2st,泊松过程的性质,性质1 泊松过程是平稳独立增量过程；,性质2 泊松过程是马尔可夫过程；,性质3 泊松过程是生灭过程；,性质4 泊松过程是均方连续、均方不可导、均方可积的二阶矩 过程；,性质5 泊松过程是非平稳过程，但为平稳增量过程；,N(t)表示0,t)内出现的事件次数，用1,2,n分别表示 第一、二、n次事件发生的时间，称k为事件第k次出现的 时间，又叫事件点；Tk表示从第k-1次事件发生到第k次事件的 等待时间，又称为点间间距。,Tk= k- k-1,k=1,2, n, 0=0 k =T1+T2+Tk,k=1,2,n,证：T1t表示第一次事件在t之后出现，于是N(t)=0，反之 也是，那么T1t= N(t)=0，进而PT1t=PN(t)=0 。,性质6 设N(t),t0为参数为的泊松过程，Tn,n=1,2,为点 间间距序列，则Tn,n=1,2,.是相互独立的随机变量，且都服 从参数为的指数分布。,所以FT1(t)=1- PN(t)=0=1-e-t,t0 ,又显然有FT1(t)=0,t0, 于是T1服从参数为的指数分布。,PT2tT1=s1=P在(s1,s1+t)内没有事件出现T1=s1 =PN(s1+t)-N(s1)=0=PN(t)=0=e-t,同样得到T2服从指数分布，由增量的独立性知T1与T2独立。 再从数学归纳法得证。,的含义是强度，比如单位时间里进入超市的平均人数，从而 1/ 的含义应该是单位人数的时间，即每人的平均间隔时间。,几何分布是离散型的无记忆型分布。 伯努利实验场合首次成功出现所在的次数服从几何分布。 P=k=qk-1p,k=1,2,无记忆性就是需证:P=m+km=P=k.,证：,指数分布是连续型的无记忆型分布,无记忆性就是需证:Ps+ts=Pt.,证：,两种无记忆分布常被用来描述无磨损性的寿命。,比如酒店使用的玻璃杯，用次数记录的寿命。,比如窗户上面安装的玻璃，用时间长度记录的寿命。,性质7 设N(t),t0为参数为的泊松过程，n,n=1,2,为事 件点序列，则n(n,),即概率密度为,证:从nt=N(t) n知，n的分布函数,此性质也可用随机变量的再生性来证明：Tn,n=1,2,.是相互 独立且都服从参数为的同指数分布的随机变量，指数分布即 是(1,),而分布在相同的情况下具有再生性，所以 n=T1+T2+Tn (n,)。,更新计数过程：设N(t),t0是一个计数过程，如果它的点间间距Tn,n=1,2,相互独立同分布，称为更新计数过程。这是泊松过程的一个推广。,N(t),t0是泊松过程的充分必要条件是它的点间间距 Tn,n=1,2,相互独立同指数分布。,定义：如果取非负整数值的计数过程N(t),t0满足： (1)N(0)=0; (2)具有独立增量; (3)PN(t+t)-N(t)=1=(t) t +o(t); (4) PN(h)2=o(t). 称N(t), t0是参数为(t)的非齐次泊松过程。,复合泊松过程：设N(t),t0是平均率为的齐次泊松过程， Yn,n=1,2,是相互独立同分布的随机变量序列，且二者独立， 称为复合泊松过程。,性质：EX(t)=tE(Y)=EN(t) E(Y),这是非常直观的式子； DX(t)=tE(Y2)=EN(t) E(Y2)。,5.马尔可夫过程,定义 对X(t),tT,如果对于任意n个时刻ti0,i=1,2,n T1t2tn 有,则称X(t),tT为马尔可夫过程，简称马氏过程，定义中的 性质称为马尔可夫性，也是一种无记忆性，称无后效性。,定义 对马尔可夫过程X(t),tT,条件概率 p(s,t;x,y)=PX(t)y|X(s)=x 称为马氏过程的转移概率函数。X(t)取值的全体称为状态空间， T称为参数集。根据状态空间和参数集的无穷多性质可以分类。,离散参数马氏链是一个重要的基础理论部分，有很多结果。,对连续参数马氏链我们比较细致地学习。,定义1 X(t),t0,状态空间为E=0,1,2,，如果对于任意 n个时刻0T1t2tntn+1及非负整数i1,i2,in,in+1 有,则称X(t),t0为连续参数马氏链。,定义2 连续参数马氏链X(t),t0对任意的i,jE,任意的 非负实数s,t,条件概率 pij(s,t)=PX(t+s)=j|X(s)=i 称为此马氏链的转移概率函数。显然 0pij(s,t) 1,称 P(s,t)=(pij(s,t) i,jE 为马氏链的转移矩阵。 上式的和为1就是矩阵中的每行和为1.,定义3 如果连续参数马氏链X(t),t0的转移概率pij(s,t) 与时间起点s无关，即 pij(s,t)=PX(t+s)=jX(s)=i= pij(t) 则称X(t),t0为连续参数齐次马氏链。类似地 P(t)=(pij(t) i,jE 称为齐次马氏链的转移矩阵。,一般地，要求齐次马氏链的转移概率函数满足如下连续性条件,定义4 连续参数齐次马氏链X(t),t0 (1)pj=PX(0)=j,jE 称pj,jE为该马氏链的初始分布。 (2)pj(t)=PX(t)=j,jE称pj(t),jE为该马氏链的绝对分布。 引入两个行向量：,就是前面的普通性,则 写成矩阵形式就是,定义5 齐次马氏链X(t),t0，如果转移概率极限存在， 与i无关,则称此链为遍历的马氏链。 此链具有遍历性。 若 则称j,jE是齐次马氏链X(t),t0的极 限分布。,定义6 如果vj,j E满足,则称vj,jE为连续参数齐次马氏链X(t),t0的平稳分布.,引入两个行向量：,则定义6的等价描述是 概率分布，且满足 那么 是平稳分布。,连续参数齐次马氏链X(t),t0,状态空间为E=0,1,2,， 转移概率函数 pij(t) =PX(t+s)=jX(s)=i满足如下性质：,性质1,性质2,pij(t)满足C-K方程 矩阵形式就是P(t+s)=P(t)P(s),性质3 绝对概率满足,矩阵形式就是 如果齐次马氏链X(t),t