第10讲研究生_概率论与数理统计_资料与讲义

1、第十讲随机过程Stochastic(al) Processes10.2随机过程的数学定义随机过程的数学定义 设设 T 是一个无限实数集。我们把依赖于参是一个无限实数集。我们把依赖于参数数 t T 的一族的一族 (无限多个无限多个) 随机变量收集在随机变量收集在一起，称为一起，称为随机过程，随机过程，记成记成 X(t), t T 。 这里，对每一个这里，对每一个t T，X(t) 都是一个随机都是一个随机变量。变量。 T 称为称为参数集参数集。常把。常把 t 看作为时间，看作为时间，称称 X(t) 为为 t 时刻时刻 过程的过程的状态状态，称，称 X(t1)x (实实数数) 为为t t1 时过程时

2、过程处于状态处于状态 x。 对于一切对于一切 t , X(t) 所有可能取得一切所有可能取得一切值的全体称为随机过程的值的全体称为随机过程的状态空间状态空间。对随机过程对随机过程 X(t)，t T 进行一次试验进行一次试验 (即在即在 T上进行一次全程观测上进行一次全程观测)，其结果是，其结果是 t 的函的函数，记为数，记为x(t)， tT， 称它为随机过程的一个称它为随机过程的一个样本函数样本函数或或样本曲线样本曲线。事实上，随机过程有多种描述。事实上，随机过程有多种描述。以后，我们常以以后，我们常以 X(t)，t 表示随机过表示随机过程。在不致混淆的情形下，略去参数集程。在不致混淆的情形下

3、，略去参数集 T。10.2 随机过程的统计描述随机过程的统计描述10.2.1 随机过程的分布函数族随机过程的分布函数族 给定随机过程给定随机过程 X(t), t T ，对每个固，对每个固定的定的 t T, 随机变量随机变量 X(t)的分布函数记为的分布函数记为.,)(),(RxxtXPtxFX 称其为随机过程称其为随机过程 X(t), t T 的的一维分布函数一维分布函数，称，称Fx(x, t), t T为为一维分布函数族一维分布函数族。一般要对任意一般要对任意 n个个(n=2, 3, ) 不同时刻不同时刻t1, t2, , tnT, 引入引入 n 维随机变量维随机变量(X(t1), X(t2

4、), , X(tn), 其联合分布函数记为其联合分布函数记为.,2, 1,)(,)(,)(),;,(22112121niRxxtXxtXxtXPtttxxxFinnnnX FX(x1, x2, , xn; t1, t2,tn), tiT称称为随机为随机过程过程X(t), t T的的 n 维分布函数族。维分布函数族。 n 取得愈大，则取得愈大，则n维分布函数族描述随机过维分布函数族描述随机过程的特征也愈趋于完善。科尔莫戈罗夫定理指出程的特征也愈趋于完善。科尔莫戈罗夫定理指出:有限维分布函数族有限维分布函数族 FX(x1, x2, , xn; t1, t2, , tn) n=1, 2, , tiT

5、完全地确定了随机过程的统计特征。完全地确定了随机过程的统计特征。10.2.2 随机过程的数字特征随机过程的数字特征 给定随机过程给定随机过程 X(t), t T，X(t)是一随是一随机变量，它的均值记为机变量，它的均值记为(2.1),()( tXEtX称称 X(t)为随机过程为随机过程X(t)，t T的的均值函数均值函数。通常称这种平均为通常称这种平均为集平均集平均或或统计平均统计平均, 以区以区分第十二章中引入的时间平均概念。分第十二章中引入的时间平均概念。 均值函数均值函数X(t)表示了随机过程表示了随机过程 X(t)在各个在各个时刻的摆动中心，如图时刻的摆动中心，如图10-4所示。所示。

6、X(t)的二阶原点矩和二阶中心矩分别记作的二阶原点矩和二阶中心矩分别记作(2.2) ),()(22 tXEtX)3(2 ,)()()()()(22.ttXEtXVartDtXXX 分别称为随机过程分别称为随机过程X(t), t T的的均方值函数均方值函数和和方差函数方差函数。 任意任意 t1, t2T，X(t1)和和X(t2)的二阶混合矩的二阶混合矩(2.4) ),()(),(2121 tXtXEttRXX称为随机过程称为随机过程X(t)，t T的的自相关函数自相关函数，简，简称称相关函数相关函数。常简记成。常简记成RX(t1,t2)。 X(t1)和和X(t2)的二阶混合中心矩的二阶混合中心矩

7、(2.5) ),()()()()(),(),(22112121 ttXttXEtXtXCovttCXXXX称为随机过程称为随机过程X(t), t T的的自协方差函数自协方差函数，简称简称协方差函数协方差函数。常简记为。常简记为CX(t1,t2)。 - 随机过程随机过程X(t)， t T，如果对于每一个，如果对于每一个t T，二阶矩，二阶矩EX2(t)都存在，那么称它为都存在，那么称它为二阶二阶矩过程矩过程。 二阶矩过程的相关函数总存在。二阶矩过程的相关函数总存在。例例1 设设A, B是两个相互独立随机变量是两个相互独立随机变量,且且 AN(0,1), BU(0,2)，求随机过程，求随机过程X(

8、t)=At+B的均的均值函数和自相关函数。值函数和自相关函数。.,)()()()(),(21221221212121TttBEABEttAEt tBAtBAtEtXtXEttRX 当当AN(0,1)时，时，EA=0，EA2=1；当；当BU(0,2)时，时，EB=1，EB2=4/3；又因；又因A、B独立时，有独立时，有EAB=EAEB=0。故。故., 3/4),(, 1)(212121Tttt tttRtXX ,)()(BEAtEBAtEtXEtX解解 X(t)的均值函数和自相关函数分别为的均值函数和自相关函数分别为泊松过程与维纳过程泊松过程与维纳过程Poission Processes &am

9、p; Wiener Processes 给定二阶矩过程给定二阶矩过程X(t), t 0, 称称X(t)- -X(s), 0st为随机过程在区间为随机过程在区间(s, t上的增量。上的增量。如果对任意正整数如果对任意正整数n 和任意和任意 0t0 t1 t2 tn, n个增量个增量 X(t1)- -X(t0), X(t2)- -X(t1), , X(tn)- -X(tn-1)相互独立，则称相互独立，则称X(t), t 0为为独立增量过程独立增量过程。 X(0)=0 的独立增量过程，有限维分布函的独立增量过程，有限维分布函数族可以由增量数族可以由增量 X(t)- -X(s) (0st)的分布所确的

10、分布所确定。定。 若对任意的实数若对任意的实数 h 和和 0 s+ h t+ h, X(t + h)- -X(s + h) 与与 X(t)- -X(s) 具有相同的分布，具有相同的分布，则称则称增量具有平稳性。增量具有平稳性。 当增量具有平稳性时，称相应的独立增当增量具有平稳性时，称相应的独立增量过程是量过程是齐次的齐次的或或时齐的时齐的。10.3.1 泊松过程泊松过程 考虑下列事件：考虑下列事件： (1). 顾客到达服务台。顾客到达服务台。 (2).学生到达教室。学生到达教室。我们研究的对象将是随时间推移，陆续出现我们研究的对象将是随时间推移，陆续出现的许多质点所构成的随机现象。的许多质点所

11、构成的随机现象。 以以N(t), t 0表示在时间间隔表示在时间间隔(0, t内出现的质内出现的质点数。点数。N(t), t 0是一状态取非负整数、时间连是一状态取非负整数、时间连续的随机过程，称为续的随机过程，称为计数过程计数过程。将增量将增量 N(t)- -N(t0) 记成记成 N(t0, t), 0 t0 0 称为过程称为过程 N(t) 的强度，而的强度，而 当当 时是关于时是关于t的高阶无穷小；的高阶无穷小； (3). 对于充分小的对于充分小的t, (4). N(0)=0。(3.3) ),(1),(),(1 tottttNPtttP)( t 0 t(3.4) , )(),(),(22

12、jjjtjtttNPtttP 以下首先来求增量的分布律以下首先来求增量的分布律 (3.2)。(3.5) ).(1),(),(1),(210 tttttPtttPtttPkk 我们把满足条件我们把满足条件(1) (4)的计数过程的计数过程N(t), t 0称作称作强度为强度为 的泊松过程的泊松过程。相应的质点。相应的质点流，即质点出现的随机时刻流，即质点出现的随机时刻 t1, t2, 称作称作强强度为度为 的泊松流的泊松流。，0),(0),(0),(),(0),(),(0000ttt，NttNPtttNttNPtttNPtttP 0)(1),(0),(0),(),(00ttttPtttNPttN

13、PtttP000 ).(),(),(),(000ttttPttPtttP000 或(3.6) ).,(),(00 00ttPdtttdP(3.7) .,e),(0)(00 0ttttPtt 再来计算再来计算Pk(t0, t), k1。根据并事件概率。根据并事件概率公式和条件公式和条件(1)，有，有0000( , )( , )( , ) ( ,) ( , ).kjP N tttkP N ttN t ttkP N t ttj P N ttkj . 1),(),()(),()(1 ),(),(),(010000ktttPttttPttttPtttPtttPkkkjjkjk (3.8) .),(),(

14、),( 00-1k0k0kttttPttPdtttdP，将此式适当整理后求导，将此式适当整理后求导，又因又因 N(t0, t0) = 0，故有初始条件，故有初始条件(3.9) . 10),( 00kttPk，在在(3.8)与与(3.9)中令中令k=1, 可解出可解出.)(),()(0001 0ttettttPtt，(3.10)., 2, 1, 0,!)(),(),()(0 000k0kttekttkttNPttPttk，增量增量 N(t0, t) = N(t) - - N(t0)的概率分布是参的概率分布是参数为数为 (t- -t0) 的泊松分布的泊松分布, 只与时间差只与时间差 t- -t0

15、有关。有关。泊松过程是一齐次的独立增量过程。泊松过程是一齐次的独立增量过程。 ).()()()()(000tttNtNDtNtNE泊松过程的数字特征，泊松过程的数字特征，(3.11) .)()( ttDttNEN，从从(3.11)可看到可看到: =EN(t)/t，即泊松过程的，即泊松过程的强度强度 (常数常数)等于单位时间间隔内出现的质点等于单位时间间隔内出现的质点数的期望值。数的期望值。 泊松过程的协方差函数，则可由泊松过程的协方差函数，则可由(3.1), (3.11)式直接推得：式直接推得：. 0,),min(),(tststsCN . 0,),min()()(),(2tstssttNsN

16、EtsRN 相关函数相关函数设质点设质点(或事件或事件)依次重复出现的时刻依次重复出现的时刻t1, t2, tn, 是一强度为是一强度为 的泊松流，的泊松流，N(t), t 0为相应为相应的泊松过程。的泊松过程。 记记 W0=0, Wn= tn, n=1, 2, 。Wn是一随机变量，表示第是一随机变量，表示第n个质点个质点(或事件第或事件第n次次)出现的出现的等待时间等待时间。 为求出为求出Wn的分布函数的分布函数 .)(tWPtFnWn1)(tWPtWPtFnnWn, 0,!)(tktenkkt( )P N tn0. , 0)( ttFnW得得Wn的概率密度为的概率密度为 (3.12) .,

17、 0, 0,)!1()()()(1 其他 tentdttdFtftnWWnn(3.13) , 0, 0,)( 其他. tetftW 又记又记., 2, 1,1 iWWTiii由由N(t)的定义的定义由增量的独立性由增量的独立性由增量的平稳性由增量的平稳性. 0, 0, 0,)(111ttet tftitTi-i 于是，随机变量于是，随机变量Ti, ti-1的联合概率密度为的联合概率密度为 其他. , 0, 0, 0),(),(1111iittitttfettfi, 0)()()(10110111tedttfedttfetftiittiittTiii ，. 0, 0)( ttfiT ）（，3.14. 0, 0, 0)( 即 tte