第二章随机过程的基本概念

1、 第二章第二章 随机过程的基本概念随机过程的基本概念 第一节第一节 随机过程的定义及其分类随机过程的定义及其分类 第二节第二节 随机过程的分布及其数字特征随机过程的分布及其数字特征第三节第三节 复随机过程复随机过程第四节第四节 几种重要的随机过程简介几种重要的随机过程简介 第一节第一节 随机过程的定义及其分类随机过程的定义及其分类一、直观背景及例一、直观背景及例电话站在时刻t时以前接到的呼叫次数例例1一般情况下它是一个随机变数一般情况下它是一个随机变数X ，并且依赖，并且依赖时间时间t，即随机变数，即随机变数X（t），），t 0，24。例例2研究某一商品的销售量一般情况下它是一个随机变数一般情

2、况下它是一个随机变数X ，并且依赖，并且依赖时间时间t，即随机变数，即随机变数X（t），），t=1，2，例例3国民收入问题随着各种随机因素的影响而随机变化，随着各种随机因素的影响而随机变化，一般地有一般地有 其中其中C（t）、）、I（t）分别表示）分别表示t年的消费和积累。年的消费和积累。)()()(tItCtY汶川余震序列图汶川余震序列图2008.5.12(2:28)2008.7.8(8:00) 1. 关注对象是关注对象是一族一族随时间或地点变化随时间或地点变化的随机变量的随机变量; 2. 需要研究这需要研究这一族一族随机变量的整体或局随机变量的整体或局部统计规律性部统计规律性;随机过程 表

3、示依赖于一个表示依赖于一个变动参量变动参量的一族随机变量。它的一族随机变量。它虽然不能用一个确定的函数来描述，但也是有虽然不能用一个确定的函数来描述，但也是有规律的。规律的。 现实世界中的许多现象是随时间的进展而变化与发展的，这些现象通常称为过程。可分为两类：(1)确定性的变化过程(2)不确定的变化过程 如果质点在一个随机的力（它由各种随机因素形成）的作用下，那么质点的运动也是随机的。 如何描述这样的变化过程：1. 如果对其变化过程的全过程做一次观察,得到一个位置与时间关系的函数x1 1( (t ) ),若再次观察，又得到函数x2 2( (t ) ), ,因而得到一族函数.2. 如果在时刻t观

4、察质点的位置x( (t ) ),则x( (t ) )是一个随机变量,这样对于每个时刻t便得到一个随机变量X( (t ) ),于是我们就得到一族随机变量X(t),t0,（最初始时刻为t=0）,它描述了此随机的运动过程.二、随机过程的定义二、随机过程的定义1随机 过程 设设E是随机试验，是随机试验， 是它的的样本是它的的样本空间，空间，T是一个参数集，若对于每一个是一个参数集，若对于每一个都有随机变量都有随机变量 ，与之对应，与之对应，则称依赖于则称依赖于t的随机变量的随机变量 为随机为随机过程，或称为随机函数，过程，或称为随机函数， 通常记作Tt),(tX),(tX)(tX，Tt或)(tX。说明

5、1参数集参数集T在实际问题中，常常指的是时在实际问题中，常常指的是时间参数。间参数。说明2因为 随机过程)(tX，Tt是一个二元函数对于每一个固定的时刻Tt 0，)(0tX是一个随机变量，是一个随机变量，并称作随机过程)(tX在0tt 时的一个状态，它反映了)(tX的“随机”性；对 于 每 一 个0，)(tX是一个确定的样本函数，它反映了)(tX的变化“过程” 。2. 随机过程的理解随机过程的理解,:),( TttT为集合为集合T 与与的的积集积集. .称称 随机过程随机过程 可看成定义在积集可看成定义在积集 上的二元函数：上的二元函数： ),(tX T 1)当固定当固定 是一个定义是一个定义

6、在（在（, T, P）随机变量）随机变量；,Tt ),()(tXXt 2)当固定当固定 ( (对于特定的试验结果对于特定的试验结果),),作作为为 的函数，的函数， 是一个定义在是一个定义在T 上的上的普通函数普通函数. .0 Tt ),(0txX(t1,)X(t2,)x(t,1)x(t,2)x(t,3)t1t2tn 例例5 X(t,) = acos(bt+), U(0, 2) 2 = 1.91643 = 2.60991 =5.4938 定义定义2.1.2 对每一固定对每一固定 ，称，称 是随是随机过程机过程 的一个的一个样本函数样本函数. . )(tX),(TttX 也称轨道也称轨道, ,路

7、径路径, ,现实现实. .3贝努利过程 设每隔单位时间掷一次硬币，观察它出现设每隔单位时间掷一次硬币，观察它出现的结果。如果出现正面，记其结果为的结果。如果出现正面，记其结果为1；如果；如果出现反面，记其结果为出现反面，记其结果为0。一直抛掷下去，便。一直抛掷下去，便可得到一无穷序列可得到一无穷序列 因为每次抛掷的结果是一个随机变量（1或0），所以无穷次抛掷的结果是一随机变量的无穷序列，称为随机序列，也可称为随机过程。 每次抛掷的结果与先后各次抛掷的结果是相互独立的，并且出现1或0的概率与抛掷的时间n无关。 设 P1nx= p （第n次抛掷出现正面的概率） P0nx= q = 1p （第n次抛

8、掷出现反面的概率）其 中 P1nx = p 与 n 无 关 ，且ix、kx(ki 时)是相互独立的随机变量。称具有这种特性的随机过程为称具有这种特性的随机过程为贝努利型随机过程贝努利型随机过程。注如果固定观测时刻如果固定观测时刻t，则它的试验结果是属于两个，则它的试验结果是属于两个样本点（样本点（0，1）所组成的样本空间。）所组成的样本空间。如果在二个不同时刻1t，2t观测试验结果则样本空间出现的值为（则样本空间出现的值为（0,0）,（0,1）,（1,0）,（1,1）例:(分枝过程)一个个体（第0代）可能生产 0,1,2个子女形成第一代，每一个子女再生子女，他们合在一起形成第二代，等等，假定第

9、n代的个体数目为Xn，则Xn, n=0,1,2.是随机过程。 例: 英国植物学家Brown注意到漂浮在液面上的微小粒子不断进行无规则的运动。这种运动叫做Brown运动，它是分子大量随机碰撞的结果。记 为粒子于时刻t在平面坐标上的位置，则它是平面上的Brown运动。在统计物理中对它有深入的研究。例: 到达总机交换台的呼叫次数为Poison过程。每次呼叫是相互独立的，而间隔时间服从指数分布，交换台在同一时刻只能接通 个呼叫。人们常要了解在某一时刻的排队长度以及呼叫的平均等待时间，这是一种排队模型。 tYtX,K三、随机过程的分类三、随机过程的分类1、按参数集和状态分类 参数集参数集T的是一个可列集

10、的是一个可列集T=0，1，2，离散参数连续参数参数分类参数集参数集T的是一个不可列集的是一个不可列集0|ttT状态分类离散状态连续状态)(tX取值是离散的取值是连续的T离散、I离散T离散、I非离散（连续）参数T状态I分类T非离散（连续） 、I离散T非离散（连续） 、I非离散（连续） 当当T为可列集为可列集, ,称为称为离散参数随机过程离散参数随机过程, 随随机序列机序列, 时间序列时间序列. 当当E 为可列为可列( (或有限或有限) )集集, ,称为称为离散状态随离散状态随机过程机过程.（1）独立随机过程简称独立随机过程。 设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn )(1tX，

11、)(2tX，)(ntX是相互独立的则称)(tX为具有独立随机变量的随机过程，概率结构分类2按过程的概率结构分类独立随机过程独立增量随机过程马尔可夫过程平稳随机过程（2）独立增量随机过程是相互独立的，设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn 且nntttt121)()(12tXtX，)()(23tXtX，)()(1nntXtX则称)(tX为具有独立增量的随机过程。（3）马尔可夫过程简称马氏过程。设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn 且nntttt121|)(nnxtXP11)(nnxtX，)(11xtX=|)(nnxtXP11)(nnxtX） ，则称)(tX为

12、马尔可夫过程马氏过程的特点马氏性实质上是马氏性实质上是无后效性无后效性，所以也称马氏过程，所以也称马氏过程为为无后效过程无后效过程。称这个特性为马尔可夫性，简称马氏性。 当随机过程在时刻1nt的状态已知的条件下，它在时刻nt（1nntt）所处的状态仅与时刻1nt的状态有关，（4）平稳随机过程 平稳过程的统计特性与马氏过程不同，它不随时间的推移而变化，过程的“过去”可以对“未来”有不可忽视的影响。第二节第二节 随机过程的分布及其数字特征随机过程的分布及其数字特征一、随机过程的分布函数一、随机过程的分布函数一维分布函数其分布函数为设)(tX，Tt 是一个随机过程，对于固定的Tt 1，)(1tX是一

13、个随机变量， )()(1111xtXPxtF；，Tt 1称)(11xtF；为随机过程)(tX的一维分布函数。一维概率密度 若 存 在 二 元 非 负 函 数)(11xtf；， 使11111)()(1dyytfxtFx；注意：注意： 一维分布函数描述了随机过程在各一维分布函数描述了随机过程在各个孤立时间点处的统计特性个孤立时间点处的统计特性, 未给出过程的未给出过程的整体统计特性整体统计特性.二维分布函数联合分布函数二维概率密度二维随机向量（)(1tX，)(2tX） Ttt),(21)(,)(),(22112121xtXxtXPxxttF；，称为随机过程)(tX的二维分布函数若存在非负函数),(

14、2121xxttf；),(2121xxttF；=212121),(12dydyyyttfxx； 则称),(2121xxttf；为)(tX的二维概率密度n 维分布函数联合分布函数 n维概率密度n 维随机向量（)(1tX，)(2tX，)(ntX）),(2121nnxxxtttF；)(,)(,)(2211nnxtXxtXxtXP，若存在非负函数),(2121nnxxxtttf；),(2121nnxxxtttF；=nnnxxxdydydyyyytttfn212121),(12； 例例1 袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的t对应随机变量 时取得白球如果时取得

15、红球如果tttettX,3)(试求这个随机过程的一维分布函数族。分析分析先求概率密度所以解解对每一个确定的时刻 t，)(tX的概率密度为3tte)(tX3231P)(11xtF；)(11xtXP ttexexttx，13,323,011 二、随机过程的数字特征二、随机过程的数字特征 1均值函数或称为数学期望。说明说明设随机过程)(tX，Tt ，( )()m tE X txdF t xtT( ),则 在实际应用中在实际应用中, ,很难确定出随机过程的有限很难确定出随机过程的有限维分布函数族维分布函数族, ,过程的数字特征能反映其局部统过程的数字特征能反映其局部统计性质计性质. .需确定各类数字特

16、征随时间的变化规律需确定各类数字特征随时间的变化规律. . 2方差函数说明说明随机过程)(tX，Tt 的二阶中心矩)()()()(2tmtXEtXDtD均方差函数 3协方差函数二阶中心混合矩简称协方差函数。注 为描述不同时刻过程状态的关联关系，需要为描述不同时刻过程状态的关联关系，需要计算协方差函数计算协方差函数. . )()()()()(),(),(tmtXsmsXEtXsXCovtsC )()() )()(),(tmsmsXtXEtsC 定义定义 给定随机过程给定随机过程 ,称称 TttXXT ),()()(),(tXsXEtsR 为过程为过程XT的的自相关函数自相关函数. .( , )(

17、 , )( )( )C s tR s tm s m t有有重点研重点研究内容究内容特别当特别当 时时0)( tmXT是零均值过程是零均值过程),(),(tsRtsC 称称为过程为过程XT的的自相关系数函数自相关系数函数. .)()(),(),(tstsCts Ex.1 设设p, q是两个随机变量是两个随机变量, , 构成随机过程构成随机过程 RTtqtptX ,)(均值函数为均值函数为,)()()()(tqEpEtXEtm 自相关函数为自相关函数为 )(),(qtpqspEtsR 222() ,( , ).E pE pq stE q sts tR Ex.2 设设X(t)=Ycos( t)+Zs

18、in( t), t 0，Y, Z相互独立，相互独立，EY=EZ=0，DY=DZ= 2，求，求X(t), t 0的的均值函数和协方差函数。均值函数和协方差函数。解解 ( )( ) cos()sin()XmtEX tE YtZt cos()sin()0t EYt EZC ( , )( )( )( )( )Xs tE X sEX sX tEX t( )( )E X s X t( cos()sin()( cos()sin()E YsZsYtZt22cos()cos()sin () sin()sin()Est Yst YZst Z 22cos()cos() ()sin () () sin()sin()

19、()st E Yst E YZst E Zcos()cos()sin () sin()sin()st DYst EYEZst DZ222cos()cos()sin()sin()cos() ststst Ex.3 设随机过程设随机过程)cos()( tAtX 其中其中是正常数是正常数, 随机变量随机变量A 与与相互独立相互独立, AN(0,1), U(0, 2 ).试求过程的均值函试求过程的均值函数和相关函数数和相关函数.解解 )cos()()( tAEtXEtmX;0)cos()( tEAE)cos()cos()()(),(2 stAEtXsXEtsRX )cos()cos()(2 stEAE

20、 20d)(cos)(cos21st 20)2)(cos)(cos41dstst).(cos21st 随机变量函数的随机变量函数的数学期望公式数学期望公式Independent identical distributionEx.4 设设X(t)=Y+Zt, t 0，Y, Z N(0, 1) 求求X(t), t 0的一、二维概率密度族。的一、二维概率密度族。di i . .( )()0Xm tE YZtEYtEZ因因Y, Z为正态随机变量，则其线性组合为正态随机变量，则其线性组合X(t)也是正态随机变量，且也是正态随机变量，且XN(0, 1+t2)1 0 01stst 22( )()1XD tD

21、 YZtDYt DZt C ( , ) ( ) ( )( )( )XXXs tE X s X tms m t22() () E YZsYZtE YZYs YZtZ st C ( , )( , )( )( )XXXXs ts tDsDt随机过程随机过程X(t), t 0的一维概率密度为的一维概率密度为222221()( )exp221exp,02(1)2 (1)txf xxttt221(1)(1)stst 0, 1)1)(1 (21)1 (21exp)1)(1)(1 (21),(2222221221222221,tstxtsxxsxtsxxfts 随机过程随机过程X(t), t 0的二维概率密度

22、的二维概率密度Ex.5 设设X(t)为信号过程，为信号过程，Y(t)为噪声过程，为噪声过程，W(t)=X(t)+Y(t)，求，求W(t)的的均值函数和相关均值函数和相关函数。函数。( )( )( )( )WmtEW tE X tY t( )( )( )( )XYEX tEY tmtm t( )( )( )( )E X sY sX tY t( , )( )( )WRs tE W s W t( )( )( ) ( ) ( )( )( ) ( )E X s X tX s Y tY s X tY s Y t( )( )( ) ( ) ( )( ) ( ) ( )E X s X tE X s Y tE

23、Y s X tE Y s Y t( , )( , )( , )( , )XXYYXYRs tRs tRs tR s t 三、复随机过程三、复随机过程 定义定义 设设 和和 为两个为两个实随机过程，称实随机过程，称 TttX ),( TttY ),( )( )( ),Z tX tiY ttT 为为复随机过程复随机过程. .1 i复随机过程复随机过程 的的均值函数均值函数为为 TttZ ),( ( ) ( ),;ZmtE X tiEY ttT 方差函数为方差函数为, )()()()()(2ZtDtDtmtZEtDYXZ 2)()(tmtZZ2)()()()(tmtYitmtXYX 22)()()(

24、)(tmtYtmtXYX 自相关函数自相关函数为为 ,( )( );ZRs tE Z s Z t 自协方差函数自协方差函数为为( , )Cov( ),( )ZCs tZ sZ t Z( )( )( )( ).ZEZ smsZ tmt )()(),(2121tZsZEtsRZZ 定义定义 设设 和和 是两个是两个复随机过程复随机过程, TttZ ,1 TttZ ,2它们的它们的互相关函数互相关函数定义为定义为互协方差函数互协方差函数为为 )()(Cov),(2121tZsZtsCZZ )()()()(2121tmtZsmsZEZZ Ex.4 已知已知实随机过程实随机过程X(t)具有自相关函数具有

25、自相关函数R(s,t), 令令 Y(t)=X(t+a)X(t) 求求RYY(s, t). 解解 先求出先求出X(t)与与Y(t)的互相关函数的互相关函数)()()()()(),(tXatXsXEtYsXEtsRXY )1(),(),(tsRatsR )()()(),(tYsXasXEtsRYY )2(),(),(XYtsRtasRXY 将将(1)式代入式代入(2)式式, 得得),(),(),(),(),(tsRatsRtasRatasRtsRYY 取取s=t ,则有则有 2( , ) ()( ) YYRt tE X taX t Ex.6 设复随机过程设复随机过程,)(1 nktikkeAtZ

26、其中其中 为相互独立服从正态为相互独立服从正态N(0,k2)的实随机变量的实随机变量,k为常数为常数, 试求试求mZ(t), RZ(t1,t2).nkAk,2 , 1, 解解 nkkkknktiktitAeAtZk11)sin(cos)( nknkkkkktAitA11sincos 0sincos)(11 nknkkkkktAEitAEtZE 22)(,2 , 1,kkkAEnkA 相互独立，且相互独立，且因因)( )()(),(11212121 nktiknktikZkkeAeAEtZtZEttR nknlttiklkeAE11)(21 nkttikkeAE1)(221)( nkttikke

27、1)(221 212121(cos()sin()nkkkkttitt思考题：思考题： 为什么说随机过程的均值函数和自为什么说随机过程的均值函数和自相关函数在研究过程的概率与统计特性相关函数在研究过程的概率与统计特性尤其重要尤其重要?四、随机过程的特征函数四、随机过程的特征函数1一维特征函数则注设)(tX是一个随机过程对固定的Tt 1),()(1111tXieEt111)(11dxxtfexi；（)(11xtf；是)(1tX的一维密度函数，1是实数）它是1t与1的二元函数 2n维特征函数则设)(tX是一个随机过程对固定的Tttn,1，11( )()11( ,)nniX tX tnnttE e；其

28、中1，n,是实数。 特征函数和分布函数是相互唯一确定特征函数和分布函数是相互唯一确定. 注五、五、 随机过程存在定理随机过程存在定理 随机过程的随机过程的n维分布函数能近似地描述维分布函数能近似地描述过程的统计特性过程的统计特性, n越大则描述越趋于完善越大则描述越趋于完善.需研究随机过程与有限维分布函数的关系需研究随机过程与有限维分布函数的关系.随机过程的有限维分布函数有以下性质随机过程的有限维分布函数有以下性质: 1) 对称性对称性:对对1, 2, , n的任一排列的任一排列j1 , j2 , , jn , ,均有均有),;,(),;,(212111nnjjjjxxxtttFxxttFnn

29、 因事件乘积满足交换律因事件乘积满足交换律. .注注 2) 相容性相容性: :对任意固定的自然数对任意固定的自然数mn, ,均有均有 mmxxxtttF,;,2121),;,(2121 mnmxxxttttF),;,(lim121,1nmnxxxxxtttFnm 注注 联合分布函数能完全确定边缘分布函数联合分布函数能完全确定边缘分布函数. 类似地类似地, ,随机过程的有限维特征函数满足随机过程的有限维特征函数满足: : 1) 对对1,2,n的任一排列的任一排列j1 , j2 , , jn 有有) , ,;,() ,;,(212111nnjjjjtttttnn 2) 对任意固定的自然数对任意固定的自然数mn, ,均有均有),;,(2121mmttt),0,0,;,(2121mnmtttt 定理定理 (柯尔莫哥罗夫存在定理