随机过程基本概念

1、 概率论与概率论与随机过程随机过程西安邮电大学理学院 在许多实际问题中在许多实际问题中, ,不仅需要对随机现象做特定时间点不仅需要对随机现象做特定时间点 上的一次观察上的一次观察, ,且需要做多次的连续不断的观察且需要做多次的连续不断的观察, ,以观察研以观察研 究对象随时间推移的演变过程究对象随时间推移的演变过程. .例例2.12.1（热噪声电压）电子元件或器件由于内部微观粒子（热噪声电压）电子元件或器件由于内部微观粒子（如电子）的随机热骚动所引起的端电压称为热噪声电压，（如电子）的随机热骚动所引起的端电压称为热噪声电压，它在任一确定它在任一确定 时刻的值是随机变量，记为时刻的值是随机变量，

2、记为 ( )V tt不同时刻对应着不同的随机变量，当时间在某区间，譬如不同时刻对应着不同的随机变量，当时间在某区间，譬如 上推移时，热噪声电压表现为一簇随机变量在无上推移时，热噪声电压表现为一簇随机变量在无线电通讯技术中，接收机在接收信号时，机内的热噪声电线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为消除这种干扰（假设没有压要对信号产生持续的干扰，为消除这种干扰（假设没有其它干扰因素），就必须考虑热噪声电压随时间变化的过其它干扰因素），就必须考虑热噪声电压随时间变化的过程程. .为此，我们通过某种装置对电阻两端的热噪声电压进为此，我们通过某种装置对电阻两端的热噪

3、声电压进0,)行长时间的测量，并把结果自动记录下来，这作为一次试行长时间的测量，并把结果自动记录下来，这作为一次试验结果，便得到一个电压验结果，便得到一个电压-时间函数（即电压关于时间时间函数（即电压关于时间的函数）的函数） , ,如下图如下图 ， t1( ),0v t t 这个电压这个电压-时间函数是不可能预先确知的，只有通过测量时间函数是不可能预先确知的，只有通过测量才能得到才能得到. .如在相同条件下独立地再进行一次测量，则得如在相同条件下独立地再进行一次测量，则得到的记录是不同的，事实上，由于热骚动的随机性，在相到的记录是不同的，事实上，由于热骚动的随机性，在相同条件下每次测量都将产生

4、不同的电压同条件下每次测量都将产生不同的电压-时间函数这样时间函数这样不断地独立重复第一次测量就可以得到一簇不同的电压不断地独立重复第一次测量就可以得到一簇不同的电压时间函数，这簇函数从另一个角度刻画了热噪声电压时间函数，这簇函数从另一个角度刻画了热噪声电压 051015202530354045504.85.86)(1tv051015202530354045504.85.86)(1tv010203040505.4)(2tv010203040505

5、5.8)(3tvjt例例2.22.2 用用X X( (t t) )表示某手机在大年初一早上从表示某手机在大年初一早上从8:008:00开始经过开始经过 t t 时刻收到的短信数。时刻收到的短信数。例例2.32.3 顾客来到服务站要求服务，当服务站中的服务员都顾客来到服务站要求服务，当服务站中的服务员都正在为别的顾客服务时，来到的顾客就要排队等待服务。由正在为别的顾客服务时，来到的顾客就要排队等待服务。由于顾客的来到时间一般是随机的，每个顾客所需要的服务时于顾客的来到时间一般是随机的，每个顾客所需要的服务时间一般也是随机的，令间一般也是随机的，令X X( (t t) )表示表示

6、 t t 时刻的队长时刻的队长( (服务的顾客加服务的顾客加等待的顾客等待的顾客) )，Y Y( (t t) )表示为表示为 t t 时刻来到的顾客所需要等待的时时刻来到的顾客所需要等待的时间。间。:( , , ),( , , )( , ),( , )( , , )(S.P.). ( , ), ( )F PTTRtTF PXtXtF PXttTX t tT 定义设为一概率空间 为一参数集若对于每一均有定义在上的一个随机变量与之对应 则称为上的一个随机过程记简记为 称为参数集或参数空间称为参数集或参数空间, , 称为参数称为参数, ,一般表示时间一般表示时间或空间或空间. . Tt参数集通常有以

7、下形式:(1)0,1,2,2, 1,0,1,2,(2) , ,TTTa bab 或其中 可以为可以为当参数集为形式当参数集为形式时时, ,随机过程随机过程 也称为也称为随机序列随机序列( )X t说明: 设 为一S.P. ( , ),XttT 1. , 实质上为定义在 上的二元单值函数. ( , )XtT2.对每一个固定的 为一随机变量时.该随机变量所有可能取值的集合,称为随机过程的状态空间.记为 中的元素称为状态.,( )t X t( . ),r v tT. S S3.对每一个确定的 是定义在 上的普通函数. 记为 , 称为随机过程的一个样本函数.也称轨道或实现.样本函数的图形称为样本曲线0

8、0,(, )XtT0(, )xt)cos(tAX(t)其中其中 为常数，为常数， 服从服从 上的均匀分布上的均匀分布. .,A0,2 由于初位相的随机性，在某时刻由于初位相的随机性，在某时刻 是一是一个随机变量个随机变量00,( )ttX t若要观察任一时刻若要观察任一时刻 的波形，则需要用一族随机的波形，则需要用一族随机变量变量 描述描述. t( )X t则称则称 为随机过程为随机过程( ),0,)X t ttX(t)样本曲线样本曲线x1(t)样本曲线x2(t)t0状态X(t0)状态X(t0)样本曲线与状态样本曲线与状态)cos(tAX(t)状态空间 ,参数集, SA A (,)T 随机过程

9、西安邮电大学理学院概率论的基本概念 2.1 2.1 随机过程的定义随机过程的定义 2.2 2.2 随机过程的分类和举例随机过程的分类和举例 2.3 2.3 随机过程的有限维分布函数族随机过程的有限维分布函数族 2.4 2.4 随机过程的数字特征随机过程的数字特征 2.5 2.5 两个随机过程的联合分布和数字特征两个随机过程的联合分布和数字特征 2.6 2.6 复随机过程复随机过程 2.7 2.7 几类重要的随机过程几类重要的随机过程 按参数集按参数集T 和状态空间和状态空间E离散与否分类离散与否分类 按按s.p.的概率结构来分的概率结构来分独立随机过程；独立随机过程；独立增量随机过程；独立增量

10、随机过程；Markov过程；过程；平稳随机过程。平稳随机过程。T离散、I离散T离散、I非离散（连续）参数T状态I分类概率结构分类2按过程的概率结构分类T非离散（连续） 、I离散T非离散（连续） 、I非离散（连续） 独立随机过程独立增量随机过程马尔可夫过程平稳随机过程随机过程西安邮电大学理学院概率论的基本概念 2.1 2.1 随机过程的定义随机过程的定义 2.2 2.2 随机过程的分类和举例随机过程的分类和举例 2.3 2.3 随机过程的有限维分布函数族随机过程的有限维分布函数族 2.4 2.4 随机过程的数字特征随机过程的数字特征 2.5 2.5 两个随机过程的联合分布和数字特征两个随机过程的

11、联合分布和数字特征 2.6 2.6 复随机过程复随机过程 2.7 2.7 几类重要的随机过程几类重要的随机过程 随机过程的有限维分布函数族随机过程的有限维分布函数族 X(t), t T 是一个随机过程，是一个随机过程， t1 T，X(t1)是是r.v.，它的分布函数记作，它的分布函数记作F(x1; t1) = PX(t1) x1, 称为随机过程的称为随机过程的一维分布函数一维分布函数。若存在二元非负可积函数若存在二元非负可积函数 f (x1; t1)满足满足 111111);();(xdytyftxF f (x1; t1)-s.p. X(t) 的的一维密度函数一维密度函数。 t1, t2 T，

12、X(t1), X(t2)是二维是二维r.v.若存在非负可积函数若存在非负可积函数 f (x1, x2; t1, t2)满足满足 122121212121),;,(),;,(xxdydyttyyfttxxF f (x1, x2; t1, t2)-s.p. X(t) 的的二维密度函数二维密度函数。F(x1, x2; t1, t2) = PX(t1) x1, X(t2) x2, 称为称为s.p. X(t)的的二维分布函数二维分布函数。一般地一般地, t1, t2, , tn T，若存在非负可积函数若存在非负可积函数 f (x1, x2, , xn; t1, t2, , tn)满足满足 1111),;

13、,(xxnnnndydyttyyf f (x1, , xn; t1, , tn)-s.p. X(t) 的的n维密度函数维密度函数。F(x1, x2, , xn; t1, t2, , tn) = PX(t1) x1, X(t2) x2, , X(tn) xn, 称为称为s.p. X(t)的的n维分布函数维分布函数。 ),;,(2121nntttxxxFF(x1, x2, , xn; t1, t2, , tn), t1, t2, , tn T, n 1称为称为s.p. X(t)的的有限有限(穷穷)维分布函数族维分布函数族。 f (x1, x2, , xn; t1, t2, , tn), t1, t

14、2, , tn T, n 1称为称为s.p. X(t)的的有限有限(穷穷)维密度函数族维密度函数族。 也即随机过程X(t),tT的一维分布函数,二维分布函数,n维分布函数,的全体 为随机过程的有限维分布函数族.随机过程X(t),tT的一维密度函数,二维密度函数,n维密度函数,的全体 为随机过程的有限维密度函数族.易知)(1tX的分布规律，而且也刻划了任意时刻Ttttn,21随机过程)(tX的状态)(1tX，)(2tX，)(ntX之间的关系 因此，一个随机过程的统计特性可由其有限维分布函数族表达出来。 注：有限维分布函数族能够描述随机过程注：有限维分布函数族能够描述随机过程的统计特性的统计特性.

15、 .并且具有如下性质并且具有如下性质有限维分布函数族的性质有限维分布函数族的性质(1) 对称性对称性对对(1,2, ,n)的任意一种排列的任意一种排列( j1, j2, , jn),有有 ),;,(2121nntttxxxF),;,(2121nnjjjjjjtttxxxF (2) 相容性相容性对对m n, 有有 ),;,(111nmmmttttxxF),;,(2121mmtttxxxF ( , )Q F P( , )Q F P( )X t( )X t1212( , , ;,)nnF t ttx xx11( , ;,)nnF ttxx定义定义3 (S.P.的有限维特征函数的有限维特征函数)设设X

16、(t),tT是一个是一个S.P.对于固定的对于固定的t1,t2,tn T, X(t1),X(t2),X(tn)是是n个随机变量个随机变量,称称),.,(21,.,21ntttuuun),(1,)(11ntttXujxxdFenniiiE)()(11nntXutXuje为为S.P.X(t),tTS.P.X(t),tT的的n n维特征函数维特征函数.(ui R, i=1,2,n) 3 S.P.的有限维特征函数族的有限维特征函数族称称11( , , ; , , ),1,2, , ,nniitt uuuRtT inn N为随机过程为随机过程( ),X t tT的有限维特征函数族的有限维特征函数族例例

17、s.p. X(t)=A+Bt, t 0, 其中其中A和和B是独立的是独立的r.v., 分别服从正态分布分别服从正态分布N(0, 1)。求。求X(t)的一维和二的一维和二维分布。维分布。例例 s.p. X(t)=Acost, t 0, 且且P 1=2/3, P 2=1/3。求。求X(t)的均值函数和相关函数。的均值函数和相关函数。随机过程西安邮电大学理学院概率论的基本概念 2.1 2.1 随机过程的定义随机过程的定义 2.2 2.2 随机过程的分类和举例随机过程的分类和举例 2.3 2.3 随机过程的有限维分布函数族随机过程的有限维分布函数族 2.4 2.4 随机过程的数字特征随机过程的数字特征

18、 2.5 2.5 两个随机过程的联合分布和数字特征两个随机过程的联合分布和数字特征 2.6 2.6 复随机过程复随机过程 2.7 2.7 几类重要的随机过程几类重要的随机过程在实际问题中在实际问题中,有时需要同时考虑两个或者有时需要同时考虑两个或者两个以上的随机过程两个以上的随机过程.例如例如:一个线性系统的输入信号和输入噪声两者可能一个线性系统的输入信号和输入噪声两者可能同为随机过程同为随机过程.同时考虑一个线性系统的随机输入和随机输出同时考虑一个线性系统的随机输入和随机输出的关系等的关系等. 二维二维S.P. .S P. .S P( ), ( ),X t Y t tT是是( ),X ttT

19、( ),Y ttT设设和和 两个两个为二为二 维维称称定义对于任意的定义对于任意的121,1, , ,mmnt ttT121212,( ),( ),( ), ( ), (), ()nmnt ttTX tX tX tY tY tY t是是m+n维随机变量，称维随机变量，称12121212( , ,;,;,;,)nmmnF t ttx xxttty yy1111( ),(), ( ), ()mmnnP X txX txY tyY ty,1,2,1,2,ijijxR yR tT tT im jn为二维随机过程为二维随机过程( ), ( ),X t Y t tT的的m+n维分布维分布函数函数定义称定义

20、称1212( , ,;,),XmmFt ttx xx1212( ,;,)nYnF ttty yy分别为二维随机过程分别为二维随机过程( ), ( ),X t Y t tT( ),X t tT( ),Y t tT关于关于和关于和关于的的维边缘分布维边缘分布函数和函数和维边缘分布函数维边缘分布函数定义如果对任意的定义如果对任意的121,1, , ,mmnt ttT12,ntttT12121212( , ,;,;,;,)nmmnF t ttx xxttty yy1212( , ,;,)XmmFt ttx xx1212( ,;,)nYnF ttty yy那么称随机过程那么称随机过程( ),X t tT

21、( ),Y t tT有有和和相相互独立互独立二维随机过程的数字特征二维随机过程的数字特征( ), ( ),X t Y t tT( , ), ,XYRs t s tT互相关函数互相关函数定义设定义设( ), ( ),X t Y t tT,( ), ( )s tT X s Y t是二维是二维S.P., 对对是两个是两个r.v.为的的互相互相关函数关函数( ) ( )E X s Y t( , )XYRs t存在存在，记为记为则称则称如果如果互协方差函数互协方差函数( , ), ,XYCs t s tT( ), ( ),X t Y t tT关系关系( , )( , )( )( ), ,XY s tXY

22、XYCRs tms m t s tTcov( ), ( )X s Y t( , )XYCs t如果如果存在，记为存在，记为则称则称为为的的互协方差函数互协方差函数( , )0XYCs t ( , )( )( ), ,XYXYRs tms mt s tT( ),X t tT( ),Y t tT和和是两个是两个S.P. ，如果，如果或或则称则称( ),X t tT( ),Y t tT定义定义 设设和和不相关不相关结论结论 若若s.p. X(t)与与Y(t)的相互独立的相互独立, 则则X(t)与与 Y(t)不相关。不相关。 概率论与概率论与随机过程随机过程西安邮电大学理学院随机过程西安邮电大学理学院

23、概率论的基本概念 2.1 2.1 随机过程的定义随机过程的定义 2.2 2.2 随机过程的分类和举例随机过程的分类和举例 2.3 2.3 随机过程的有限维分布函数族随机过程的有限维分布函数族 2.4 2.4 随机过程的数字特征随机过程的数字特征 2.5 2.5 两个随机过程的联合分布和数字特征两个随机过程的联合分布和数字特征 2.6 2.6 复随机过程复随机过程 2.7 2.7 几类重要的随机过程几类重要的随机过程( )( )( ),Z tX tjY t( ),Z t tT( ),X t tT( ),Y t tT定义设定义设和和是定义在同一是定义在同一概率空间上的两个实随机过程，令概率空间上的

24、两个实随机过程，令则称则称为复随机过程为复随机过程( ),Z t tT( ) ( )( )( ),ZXYmtE Z tmtjmt tT2( ) ( )( )( ) ,ZzDtD Z tE Z tm ttT( ),Z t tT( ),Z t tT1 均值函数均值函数则则 方差函数方差函数则则定义设定义设为复随机过程为复随机过程的均值函数的均值函数为复随机过程为复随机过程为复随机过程为复随机过程的方差函数的方差函数 （自）协方差函数（自）协方差函数则则( , )cov( ( ),( )ZCs tZ s Z t( ( )( )( ( )( ), ,ZZE Z sms Z tmts tT为随机过程为随

25、机过程( ),Z t tT（自）相关函数（自）相关函数则则( , ) ( ) ( ), ,ZRs tE Z s Z ts tT为随机过程为随机过程( ),Z t tT的自协方差函数的自协方差函数的自相关函数的自相关函数均方值函数均方值函数则则2( )( ) ,ZtE Z ttT为随机过程为随机过程( ),Z t tT的均方值函数的均方值函数复随机过程数字特征之间的关系：复随机过程数字特征之间的关系：( )( )( ),( )( )( ),( )( , ),( , )( , )( )( ), ,( )( , ),ZXYZXYZZZZZZZZm tm tjm t tTD tD tD t tTD t

26、C t t tTC s tR s tm s m t s tTtR t t tT1( ),Z t tT2( ),Z t tT1212( , )cov( ),( )Z ZCs tZ s Z t1212( )( )( )( ), ,ZZE Z sms Z tmts tT1( ),Z t tT2( ),Z t tT2( ),Z t tT1( ),Z t tT12( , )Z ZRs t 12( )( ), ,E Z s Z ts tT定义设定义设和和是两个复是两个复S.P.，称，称为为和和的互协方差函数的互协方差函数.称称为为和和的互相关函数的互相关函数例例2.14设设，其中是正常数，其中是正常数，为

27、固定的正整数，是相互独立为固定的正整数，是相互独立的随机变量，且的随机变量，且 ，求的均值函数与相关函数求的均值函数与相关函数0()1( ),knjtkkZ tX etR011,nnXX20,kkkEXDX0,2 ,1,2,kUkn( ),Z t tR( )0Zmt 解0()21R ( , )njt sZkks te 例例2.15已知已知实随机过程实随机过程X(t)具有自相关函数具有自相关函数RX(s, t), 令令 Y(t)=X(t+a)X(t) 求求RY(s, t). YR s tR s a t aR s a tR s t aR s t,已知复随机过程 tietZ)(，1Rt 其中N（0，

28、1） ，是给定常数，求)(tZ的均值函数和相关函数。解解)(tieEtZE0Eeti),(21ttR21titieeE2)(21Eetti)(21ttie21titieeE随机过程西安邮电大学理学院概率论的基本概念 2.1 2.1 随机过程的定义随机过程的定义 2.2 2.2 随机过程的分类和举例随机过程的分类和举例 2.3 2.3 随机过程的有限维分布函数族随机过程的有限维分布函数族 2.4 2.4 随机过程的数字特征随机过程的数字特征 2.5 2.5 两个随机过程的联合分布和数字特征两个随机过程的联合分布和数字特征 2.6 2.6 复随机过程复随机过程 2.7 2.7 几类重要的随机过程几

29、类重要的随机过程 按照随机过程所具有的一些性质按照随机过程所具有的一些性质,介绍几类重要介绍几类重要的随机过程的随机过程: 二阶矩过程二阶矩过程 正态过程正态过程 正交增量过程正交增量过程 独立增量过程独立增量过程 Wiener过程过程 Poisson过程过程1 二阶矩过程二阶矩过程( ),X t tT( ),X t tT2,( ),tT E X t 定义定义 设设是随机过程，是随机过程， 如果如果则称则称是二阶矩过程是二阶矩过程.(1)相关理论相关理论:只考虑只考虑S.P.的均值函数与相的均值函数与相关函数，而不考虑关函数，而不考虑S.P.的有限维分布函的有限维分布函数的理论数的理论(2)二

30、阶矩过程的均值函数和相关函数必然存二阶矩过程的均值函数和相关函数必然存在在说明：说明：Cauchy-Schwarz不等式不等式2( , )( , )( , )u vu u v v222111()nnniiijiijx yxy 222()bbbaaaf gdxf dxg dx222 1/21/2,( )( )( ) 1( )1 )( ) )tT E X tE Z tE Z tE Z tEE Z t 221/2,( )( )( )( ) )s tT E X s X tE X sE X t ( ),X t tT( , )XRs t（1）共轭对称性：）共轭对称性：（2）非负定性：即对）非负定性：即对(

31、 , )( , ), ,XXRs tRt s s tT11,nnttT 1,n11( , )0nnkXkllklRt t 定理定理 设设是二阶矩过程，则相关是二阶矩过程，则相关函数函数具有以下性质：具有以下性质：和和有：证明证明( )( )( )( )( , )XE X s X tE X s X tRt s( , )XRs t( )( )E X s X tlklnknlkXttR),(11lklnknlktt)X()(XE11_)X()(XE11_llnknlkktt)X( )X(E11_llnknlkktt证明证明0)(XE21nkkktnlllnkkktt1_1)X()X(E)X()()X

32、(E(11_lnknllkktt2 正态过程正态过程如如( ),X t tT1,n 121, ,( ),( )nnt ttTX tX t( ),X t tT定义定义 设设是一随机过程是一随机过程，果对果对和和是是 n维正态随机变量，则称维正态随机变量，则称为正态过程或高斯过程为正态过程或高斯过程 2 正态过程是二阶矩过程正态过程是二阶矩过程3 正态过程的有限维分布由它的正态过程的有限维分布由它的均值函数和协方差函数完全确均值函数和协方差函数完全确定定说明说明1 若若( ),X t tT是一族正态随机变量是一族正态随机变量, 但但( ),X t tT不一定是正态过程不一定是正态过程.4正态过程在

33、随机过程的重要性，正态过程在随机过程的重要性，类似于正态随机变量在概率论中的类似于正态随机变量在概率论中的地位地位例2.16设，其中相互独立，且都服从正态分布 ( )cossin,X tAtBt tR,A B2(0,)N( )cossin,X tAtBt tR是正态过程，并求它的有限维分布是正态过程，并求它的有限维分布的随机变量，的随机变量，是常数是常数. 试证明试证明3 正交增量过程正交增量过程定义定义( ),X t tT1234ttttT2143( )( )( )( )0E X tX tX tX t( ),X t tT设设是二阶矩过程，如果对是二阶矩过程，如果对任意的任意的有有则称则称为一

34、正交增量过程为一正交增量过程.注：注：( )( )( )( )0E X sX aX tX s若若T取为有限区间取为有限区间 , ,a b,astb 则对则对有有特别的，当特别的，当( )0X a ( )( )( )0E X sX tX s时，有时，有 性质性质2.( , )(min( , ), , , , ( , )(min( , )(min( , )( )( ), , , XXXXXXXaRs ts ts ta bCs tDs tms tms mt s ta b .( )Xbt是单调不减函数是单调不减函数.设设( ), , X t ta b( )0,X a 是正交增量过程，是正交增量过程，且

35、且则则4 独立增量过程（独立增量过程（I.I.p.)定义定义( ),X t tT设设3n 12,ntttT 21321( )( ),( )( ),( )()nnX tX tX tX tX tX t( ),X t tT是一随机过程，如果对是一随机过程，如果对和和是相互独立的随机变量，则称是相互独立的随机变量，则称是独立增量过程是独立增量过程如果对于如果对于( ),X t t T, ( )( )s t T X tX s , s tts的分布仅依赖的分布仅依赖于于而与而与本身取值无关，则称本身取值无关，则称为平稳增量过程为平稳增量过程如果如果( ),X t tT( ),X t tT既是平稳增量过程，

36、既是平稳增量过程，则称则称为平稳的为平稳的独立增量过程独立增量过程独立增量过程，独立增量过程，又是又是 性质性质定理定理 独立增量过程的有限维分布独立增量过程的有限维分布函数由其一维分布函数和增量分布函数由其一维分布函数和增量分布函数确定函数确定 证明思路证明思路 由于随机变量的分布函数与特征函数一一对应由于随机变量的分布函数与特征函数一一对应. 只需证只需证 独立增量过程的有限维独立增量过程的有限维特征函数特征函数由其一维特征由其一维特征 函数和增量特征函数确定函数和增量特征函数确定12,ntttT 1( ),( )nX tX t的特征函数的特征函数11( , ;,)nntt uu1122e

37、xp ( )( )( )nnEj u X tu X tu X t作变换作变换11( ),YX t221( )( ),YX tX t1( )()nnnYX tX t证明证明：则则12,nY YY相互独立，且相互独立，且11( ),X tY212( ),X tYY12( )nnX tYYY于是于是11( , ;,)nntt uu1122exp ( )( )( )nnEj u X tu X tu X t1 12121exp ()()nnEj uYu YYu YY121exp ()nEj uuu Y22()nnnuu Yu Y121exp () nEj uuu Y22exp ()exp ()nnnj

38、uu Yj u Y121exp () nEj uuu Y22exp ()nEj uu Yexp ()nnEj u Y12122()()()nYnYnYnuuuuuu不相重叠的时间区间上随机过程增量的统不相重叠的时间区间上随机过程增量的统计相依性来定义的，前者增量是互不相关，计相依性来定义的，前者增量是互不相关，后者增量是相互独立后者增量是相互独立关系关系正交增量过程不是独立增量过程，而独立正交增量过程不是独立增量过程，而独立增量过程只要有二阶矩存在，且均值函数增量过程只要有二阶矩存在，且均值函数恒为零的条件下是正交增量过程恒为零的条件下是正交增量过程正交增量过程与独立增量过程都是正交增量过程与

39、独立增量过程都是 根据根据注注Wiener过程过程 定义定义(1)(0)0W(2)( ),0W t t 是平稳的独立增量过程是平稳的独立增量过程2(3)0,( )( )(0,()st W tW sNts 称实随机过程称实随机过程( ),0W t t 2是参数为是参数为的的Wiener过程，如果过程，如果定理定理设设 W(t),t0是参数为是参数为2的的Wiener过程过程.则则2(1)0,( ) (0,)tW tNt 22(2)( )0,( ),0,( , )( , )min( , ), , ,0WWWWmtDtttRs tCs ts t s t证明证明(1) 由定义由定义,显然成立显然成立.

40、(2) 由由(1)易知有易知有0,)(, 0)(2tttDtmWW对对s0, 0, t 0,0,不妨设不妨设 st,t,则则)()(E),(tWsWtsRW),min()(E()()(E0)(E)()()(0()(E)()()()(0()(E22222tsssWsWDsWsWsWtWWsWsWsWtWWsW独立性),min(t)(),(),(2tsmsmtsRtsCWWWW定理二定理二Wiener过程是正态过程过程是正态过程证明证明 设设 W(t),t0是参数为是参数为2的的Wiener过程过程. 则对任意的则对任意的n1,1,以及任意的以及任意的nttt210W(t1), W(t2), ,

41、W(tn)是是n维随机变量维随机变量由由Wiener过程的定义知过程的定义知)()(,),()(),(1121nntWtWtWtWtW相互独立相互独立分布，服从)(0()()(121kkkkttNtWtW所以所以）（)()(,),()(),(1121nntWtWtWtWtW是是n维正态随机变量维正态随机变量.又由于又由于)()(,),()(),(1121nntWtWtWtWtW)(,),(),(21ntWtWtW100100110111所以所以)(,),(),(21ntWtWtW是是n维正态变量维正态变量.所以所以W(t),t0是正态过程是正态过程.随机过程西安邮电大学理学院概率论的基本概念

42、2.1 2.1 随机过程的定义随机过程的定义 2.2 2.2 随机过程的分类和举例随机过程的分类和举例 2.3 2.3 随机过程的有限维分布函数族随机过程的有限维分布函数族 2.4 2.4 随机过程的数字特征随机过程的数字特征 2.5 2.5 两个随机过程的联合分布和数字特征两个随机过程的联合分布和数字特征 2.6 2.6 复随机过程复随机过程 2.7 2.7 几类重要的随机过程几类重要的随机过程6 6、PoissonPoisson过程过程交通中事故流；交通中事故流；定义：定义：如果如果 表示直到表示直到t t时刻为止发生的随机事件数时刻为止发生的随机事件数, ,称称实随机过程实随机过程 是计

43、数过程是计数过程(Counting process)(Counting process)。 ( ),0N t t ( )N t 在天文，地理，物理，生物，通信，医学，计算机网在天文，地理，物理，生物，通信，医学，计算机网络，密码学等许多领域，都有关于随机事件流的络，密码学等许多领域，都有关于随机事件流的计数问题计数问题如：如：电话交换机上的呼唤流；电话交换机上的呼唤流；编码（密码）中的误码流；编码（密码）中的误码流；均构成以时间顺序出现的事件流均构成以时间顺序出现的事件流A A1 1,A,A2 2, , 计数过程应满足：计数过程应满足：(1) (1) ,( )0t N t(2) (2) 是非负

44、整数是非负整数( )N t(3)(3)0,( )( )st N tN s (4)(4) 表示时间间隔表示时间间隔 发生的随发生的随机事件数机事件数0,( )( )st N tN s ts)t)s一类很重要的计数过程是一类很重要的计数过程是PoissonPoisson过程过程. .(2) Poisson(2) Poisson过程过程.(0)0aN.( ),0bN t t 是平稳的独立增量过程是平稳的独立增量过程t.0,( )ctN t 服从参数是服从参数是分布，即分布，即()( ),0,1,2,!ktteP N tkkk的的PoissonPoisson定义：定义：称计数过程称计数过程 是参数（强

45、度，比率）为是参数（强度，比率）为 的的PoissonPoisson过程，如果过程，如果( ),0N t t ,(0) 2)0,( )( ) ( ()st N tN sts 21)( ),0,( ),0,( , )min( , ), , ,0( , )min( , ), , ,0NNNNmtt tDtt tRs tsts t s tCs ts t s t性质性质: 设设 是参数为是参数为 的的PoissonPoisson过过程，则程，则( ),0N t t ttNE 有有称称为为事件的事件的到达率到达率是单位时间内事件出现的平均次数是单位时间内事件出现的平均次数. 因泊松过程因泊松过程N( t

46、 ), t0)是平稳独立增量过程，是平稳独立增量过程，不妨设不妨设 t s 0 R(s,t)=EN(t)N(s)= EN(s)N(t) N(s)+ N(s), 0 t因因对对N(t)P(t). ttNEtm ttD 证：证： = EN(s)N(t) N(s)+E N2(s) =EN(s)EN(t) N(s)+E N2(s) stssssts22 tsststmsmtsRtsC 2)()(),(),(C(s,t)=min(s,t)R(s,t)=min(s, t)+2st.一般地有一般地有)()(ksNtNP)0()(kNstNP平稳性平稳性)(kstNP由定义由定义, 2 , 1 , 0,!)(

47、)(kkeststkts 0)2 对例例2顾 客 到 达 某 商 店 服 从 参 数4人 /小 时 的 泊 松 过 程 ，已知商店上午9：00开门，试求到9：30时仅到一位顾客，而到11：30时总计已达5位顾客的概率。解解)5)5 . 2(, 1)5 . 0(XXP)4)5 . 0()5 . 2(, 1)5 . 0(XXXP)4)2() 1) 5 . 0(XPXP5 . 041! 1)5 . 04(e244! 4)24(e0155. 0设 表示在时间t时到达的顾客数)(tXPoisson过程的等价定义过程的等价定义称计数过程称计数过程 N(t),t0 是参数为是参数为 的的Poisson过程，

48、如果：过程，如果：(0)0( ),0()( )1()()( )2()NN t tP N ttN tttP N ttN tt 是平稳的独立增量过程在充分小的时间间隔内有一次呼叫的概率为在充分小的时间间隔内有一次呼叫的概率为t两次或两次以上呼叫是几乎不可能的两次或两次以上呼叫是几乎不可能的 nNtNPntNPtPn )0()()()(记记证证)1()()(00ntNttNP 平稳平稳增量增量1o 由条件由条件(2)(4)，得：，得： Po(t+h)=PN(t+h)=0=PN(t)=0, N(t+h) N(t)=0= PN(t)=0 P N(t+h) N(t)=0增量增量独立独立=Po(t)1h+o

49、(h) hhotPhtPhtP 000 001, 10, 0000NPtPdttdPh条条件件得得令令. 0,)(0 tetpt解解得得2o 当当n1, 根据全概率公式有根据全概率公式有 )()()()()(110hptphptphtpnnn t(t+h)()()()1()(1hothptphhtpnnn hhotPtPhtPhtPnnnn 1 dttdPhn得得令令, 0 tPtPnn1 两边同乘以两边同乘以et 后移项整理得后移项整理得 )2()()(1tpedttPedntnt 当当n=1, 则则 00)(101PeetPedttPedttttttetp )(1解解得得 成成立立假假设设

50、tnnenttP !111代入代入(2)式有式有)!1()()()(11 nttpedttPednntnt tPent Cntn !利用初始条件利用初始条件 可证得可证得, 00 nP tnnenttP !对一切对一切n0均成立均成立. .定理证明反之亦然定理证明反之亦然, ,得泊松过程的等价定义：得泊松过程的等价定义： 定义定义2设计数过程设计数过程 N(t),t0 满足下述条件：满足下述条件：(1) N(0)=0；(2) N(t)是独立增量过程是独立增量过程；(3) 对一切对一切0st, N(t) N(s) P(ts), ,即即 , 2 , 1 , 0,!)()()()( kekstksN

51、tNPstk注注特别有特别有 kNtNPktNP )0()()(),2,1 ,0(,! kekttk 例例2.17 设设N( t ), t0)是参数为是参数为的泊松过程的泊松过程,事件事件A在在(0,)时间区间内出现时间区间内出现n次，试求次，试求: :PN(s)=k N()=n, 0kn,0s0,求求X(t)的均值函数的均值函数和相关函数和相关函数. 2) 证明证明 X(t)=N1(t) +N2(t), t0, 是强度为是强度为1+2的泊松过程的泊松过程. 3) 证明证明 X(t)=N1(t) N2(t)，t0,不是泊松过程不是泊松过程.例例2.18 设设N1(t)和和N2( t )分别分别

52、是强度为是强度为1和和2的相互独立的泊松过程的相互独立的泊松过程,)()()()(12121ttNEtNEtmX ）解解)()()()(),(2121tNtNsNsNEtsRX )()()()()()()()(12212211tNsNEtNsNEtNsNEtNsNE )()()()(),(),(122121tNEsNEtNEsNEtsRtsRNN ststtsstts212222112),min(),min( .2)(),min()(21222121ststts 2) 根据泊松分布的可加性知根据泊松分布的可加性知X(t)=N1(t) +N2(t), t0, 3) X(t)=N1(t) N2(t

53、)的特征函数为的特征函数为)(exp)(2111tteteuiuiuX 独立和的独立和的特征函数特征函数 由分布函数与特征函数的一一对应的惟一性由分布函数与特征函数的一一对应的惟一性定理知定理知X(t)不是泊松过程不是泊松过程.是强度为是强度为1+2的泊松过程的泊松过程.Poisson过程的到达时间与到达时间间隔过程的到达时间与到达时间间隔分布分布设设 N(t),t0 是参数为是参数为 的的Poisson过程，过程，则则N(t)表示时间区间表示时间区间0,t)内到达的随机点数内到达的随机点数.到达时间到达时间(序列序列)i令表示第表示第i个随机点的到达时刻个随机点的到达时刻,则称则称, 2 ,

54、 1,nn为Poisson过程的过程的到达时间序列到达时间序列.到达时间间隔到达时间间隔(序列序列)1nnnT令它表示第它表示第n-1个随机点与第个随机点与第n个个随机点的到达时间间隔随机点的到达时间间隔,则称则称, 2 , 1,nTn为为Poisson过程的过程的到达时间间隔到达时间间隔(序列序列)显然有nnTTT21, 2 , 1n1231nn1TnT0t2T关于关于Poisson过程中的这两个序列的概率分布过程中的这两个序列的概率分布,有以下结论有以下结论1nnnT定理定理 (到达时间间隔分布到达时间间隔分布)设设N(t),t0 是参数为是参数为 的的Poisson过程，过程，,1,2,

55、nT n 12,nT TT是其到达时间间隔序列，则是其到达时间间隔序列，则是相互独立同服从参数为是相互独立同服从参数为的指数分布的指数分布证明证明独立性独立性 由于poisson过程是平稳的独立增量过程12,nT TT所以相互独立.下证同分布下证同分布011tTPtFtT）（时，tetNPtTP10)(111022tTPtFtT）（时，12tTPtesNstNPsTtTP10)()(1111112T1,T2的独立性的独立性平稳性平稳性 与与s 无关无关时0t1tTPntnnnnnetNPsssNsstNPsTsTsTtTP10)(10)()(1,112111112211tTPtFnTn）（T1

56、,T2Tn的独立性的独立性平稳性平稳性得证得证注注 (1)上述定理的结果应该在预料之中上述定理的结果应该在预料之中,因为泊因为泊松过程有平稳增量松过程有平稳增量,过程在任何时刻都过程在任何时刻都“重新开重新开始始”,这恰好就是这恰好就是“无记忆性无记忆性”的体现的体现,正好与指正好与指数数分布的分布的“无记忆性无记忆性”是对应的是对应的. (2)泊松过程的另一个等价定义：泊松过程的另一个等价定义：定理的逆命题成定理的逆命题成立立 如果每次事件发生的时间间隔如果每次事件发生的时间间隔X1,X2,相互相互独立，且服从同一参数独立，且服从同一参数 的指数分布，则记数过的指数分布，则记数过程程N(t)

57、,t0是参数为是参数为 的泊松过程。的泊松过程。 (3)上述定义提供模拟泊松过程的途径。上述定义提供模拟泊松过程的途径。定理定理 (到达时间序列分布到达时间序列分布)设设N(t),t0 是是参数为参数为的的Poisson过程过程,则则其到达时间其到达时间,1,2,nn1(),0( )(1)!0,0nnttetftnt服从服从分布分布, ,密度为密度为证明证明的分布函数的分布函数,0时tn0)(tFn时0t)(tPtFnn)(ntNPtn第第n个随机点的个随机点的到达时刻到达时刻tnkkekt!)(再求导数再求导数tnkknkktektkktetfn!)(!)()(1)!1()()!1()(!)

58、(11nteektektnttnkknktk1(),0( )(1)!0,0nnttetftnt所以到达时间序列的密度函数为所以到达时间序列的密度函数为本题目还可以用特征函数证明本题目还可以用特征函数证明,见教材见教材注：注：1，, 的密度函数为的密度函数为 110,0,1,1!xxf xxexxe dxnn 22,XEXDX 若有 123,XYXY若且与独立，则独立，则12,.XY1(1)nniiTn爱尔朗分布爱尔朗分布( )ntN tn 注：在排队论中称注：在排队论中称Tn 服从服从爱尔朗分布爱尔朗分布。3.2 泊松过程的性质)1(kW)2(1W)2(1)1(WWPk 设设X1(t), t

59、0和和X2(t), t 0是两个相互独是两个相互独立的泊松过程，它们在单位时间内平均出立的泊松过程，它们在单位时间内平均出现的事件数分别为现的事件数分别为 1和和 2。记。记 为过程为过程X1(t)的第的第k次事件到达时间次事件到达时间,记记 为过程为过程X2(t)的第的第1次事件到达时间，求次事件到达时间，求 即第一个泊松过程第即第一个泊松过程第k次事次事件发生比第二个泊松过程第件发生比第二个泊松过程第1次事件发生早次事件发生早的概率。的概率。3.2 泊松过程的性质0,00,)(0,00,)!1()()(2)2(11)1(2111yyeyfxxkxexfyWkxWk 3.2 泊松过程的性质k

60、xkkxykxkdxexkdydxekxeWWP 2110)(1102111)2(1)1(2121)!1()!1()( Poisson过程中到达时间的条件分布过程中到达时间的条件分布问题问题: 设设 N(t),t0 是参数为是参数为 的的Poisson过程，过程，如果在如果在0，t)内仅有一个随机点到达内仅有一个随机点到达,是其到是其到达时间达时间, ,则该随机点的到达时间则该随机点的到达时间服从怎样的概服从怎样的概率分布率分布?一、顺序统计量及其分布一、顺序统计量及其分布1，顺序统计量，顺序统计量 设设Y1,Y2,Yn是是n个随机变量，记个随机变量，记Y(k)是是Y1,Y2,Yn 中第中第k