随机过程及其统计描述学习教案

1、会计学1随机随机(su j)过程及其统计描述过程及其统计描述第一页，共42页。212.1 随机过程(guchng)的概念对热噪声电压的重复观测对热噪声电压的重复观测一个一个(y )实例：热噪声电实例：热噪声电压压在一段时间内对热噪声电压进行观测是随机试验。观测结果将得到某种形式的v-t函数图象，可能是 中的任意一个。12( ),( ),( ),kv tvv tt在相同条件下，独立、重复的观测，所有可能的结果构成一个函数族：12( ),( )( ,)kv ttv tv在给定的时刻 观测热噪声电压V, 它是一个随机变量，其取值是中的任意一个。12( ),( ), ( ),jjkjtv tv tvj

2、t第2页/共42页第二页，共42页。3(2)在一段时间内，其样本空间在随时间变化(binhu)，其分布也随时间变化(binhu)(1)在某一时刻tj，电压V是一个随机变量，有其样本空间：12( ),( ), ( ),jjkjtv tv tv理论上任意时刻V的取值都有一个分布热噪声电压现象的特点热噪声电压现象的特点研究对象是随时间演化的随机现象(动力学)。对这种现象的研究，需要用一族随机变量：12 ( ), ( )(),kVVtV tt随机过程的研究对象随机过程的研究对象12.1 随机(su j)过程的概念第3页/共42页第三页，共42页。4设 是一无限实数集，我们把依赖于参数 的一族(无限多个

3、)随机变量称为随机过程，记为tTT( ),X t tT这里对每一个给定的 是一个随机变量，T 叫做参数集., ( )t X t随机过程的概念随机过程的概念参数参数t 通常就是时间变量；也可以通常就是时间变量；也可以(ky)不是时间，但可以不是时间，但可以(ky)当作时间变量看待当作时间变量看待12.1 随机过程(guchng)的概念第4页/共42页第四页，共42页。5随机过程相关概念随机过程相关概念( ),X t tT随机过程随机过程：( )X t称为 时刻过程的过程的状态状态(随机的)t(1)对于一切 所有可能取值的全体称为随机过程的状态空间状态空间.,( )tT X t(3)t时刻对X进行

4、一次观测，得到 (实数)，就说t时刻过程处于状态过程处于状态( )X txx(2)对随机过程 在T上进行一次上进行一次全程观测全程观测，( ),X t tT( ),x ttT得到函数 ，称为随机过程的一个样本函数或样本曲线样本函数或样本曲线。(4)热噪声电压热噪声电压可用随机过程 来描述. ( ),0V t t 状态空间为(,) 观测得到的电压-时间函数 是该随机过程的一个样本函数.( ),0kv t t 12.1 随机过程(guchng)的概念第5页/共42页第五页，共42页。6随机随机(su j)过程过程举例举例抛掷一枚硬币的试验，样本空间是S=H,T, 现借此定义随机过程：cos,( )

5、tX tt，当出现H,当出现T,(,)t 样本曲线样本曲线参数集,()T 状态空间(,) 样本函数族cos , t t)()(txtXiiptcost2/12/1t时刻的分布律无论是在某时刻(shk)t进行观测还是全程连续观测，结果都有投币试验决定.12.1 随机(su j)过程的概念第6页/共42页第六页，共42页。7随机过程随机过程(guchng)举例举例抛掷一枚硬币的试验，样本空间是S=H,T, 现借此定义随机过程：cos,( )tX tt，当出现H,当出现T,(,)t 可将此随机过程改写为tYtYtX)1 (cos)(THY出现出现 , 0 , 1其中,),(t,X对Y和t的依赖，决定

6、了X是一个随机(su j)过程. 确定了Y之后，即可确定任意时刻和全程的观测结果.任意时刻下，观测目的是X取什么(shn me)值；全程的情况下，观测目的是X(t)的函数形式.12.1 随机过程的概念随机过程的概念第7页/共42页第七页，共42页。8随机过程随机过程(guchng)举例举例样本曲线样本曲线（只画出两条）状态空间：(, )a a考虑：cos( ),(,)tX tta 式中 是正常数， 是 上服从均匀分布的随机变量。, a(0,2 )随机相位正弦波当 在 内随机的取一个值 ，可得样本函数：(0,2 )i)cos()(iitatx12.1 随机过程(guchng)的概念第8页/共42

7、页第八页，共42页。9在测量运动目标的距离时，存在随机误差，以 表示在时刻t的测量误差，则 是一个随机过程。状态空间( ) t( ),0t t(,) 以X(t)表示在时间间隔(0, t内，120急救电话台接到的呼叫次数。( ),0X t t 是一个随机过程，其状态空间为0,1,2,考虑抛掷一颗骰子的试验.(1)设 是第n次(n1)抛掷的点数，对于n=1,2,的不同值， 是不同的随机变量，因而 构成一随机过程(称伯努利过程或伯称伯努利过程或伯努利随机序列努利随机序列)。状态空间1,2,3,4,5,6nXnX1,nXn (2)设 是前n次(n1)抛掷中出现的最大点数， 也是一随机过程。状态空间1,

8、2,3,4,5,6nY1,nY n 随机随机(su j)过程过程举例举例12.1 随机过程(guchng)的概念第9页/共42页第九页，共42页。10随机随机(su j)过程的分类过程的分类连续型随机过程：任意时刻的状态是连续型随机变量；离散型随机过程：任意时刻的状态是离散型随机变量.连续参数随机过程: 参数集T是区间;离散参数随机过程或称随机序列：参数集是离散的.按状态或参数的离散按状态或参数的离散(lsn)与否进行分类与否进行分类也可以按不同时刻的状态之间的统计也可以按不同时刻的状态之间的统计(tngj)依赖关系进行分类依赖关系进行分类12.1 随机过程的概念随机过程的概念第10页/共42

9、页第十页，共42页。1112.2 随机过程的统计(tngj)描述给定随机过程 , 对于每一个固定的 ，随机变量 的分布函数一般与t有关，记为( ),X t tTtT( )X t( , )( ),XFx tP Xxxt R称为随机过程 的一维分布函数, 而 称为一维分布函数族。( ),X t tT( , ),XFx t tT(一) 随机过程的分布(fnb)函数族一维分布函数族概念一维分布函数族概念由随机过程 的n个不同时刻的随机变量构成的n维随机变量( ),X t tT12( ),( ),() ),nXX ttX t，其分布函数为12121122( ,; ,( ),)( ),( )Xnnnnx

10、xx t ttP X tFX txxX tx,1,2,iinx R1212( ,; , ,), Xnnix xx t tttTF称为n维分布函数族n n维分布函数族概念维分布函数族概念第11页/共42页第十一页，共42页。12(二) 随机过程的数字(shz)特征 是随机过程的所有样本函数在时刻所有样本函数在时刻 t 的函数值的平均值的函数值的平均值，通常称这种平均为集平均或统计平均。( )Xt集平均集平均(统计平均统计平均)给定随机过程 ，固定 ， 是一个随机变量， t 时刻的均值(数学期望)，记为( ),X t tTtT( )X t( )( )XtE X t称 为随机过程 的均值函数。( )

11、Xt( ),X t tT均值函数均值函数均值函数 表示了随机过程在各个时刻的摆动中心.( )Xt12.2 随机(su j)过程的统计描述第12页/共42页第十二页，共42页。13方差函数方差函数22( )( )Var( )( )( ) XXXtDtX ttEX t标准差函数标准差函数2( )( )XXtt表示t时刻X(t)取值偏离对于均值 的平均偏离程度。( )Xt均方值函数均方值函数)()(22tXEtX(二) 随机(su j)过程的数字特征12.2 随机过程的统计(tngj)描述第13页/共42页第十三页，共42页。14(自自)相关函数相关函数121212( , )( , )( )( )X

12、XXt tRt tE X t X tR相关函数和协方差函数用以描述随机过程自身在两个相关函数和协方差函数用以描述随机过程自身在两个(lin )不同时刻的状态之间的统计依赖关系。不同时刻的状态之间的统计依赖关系。(二) 随机过程(guchng)的数字特征12.2 随机(su j)过程的统计描述( (自自) )协方差函数协方差函数121212( , )( , )Cov( ),( )XXXt tCt tX tX tC1122( )( )( )( )XXEX ttX tt)()()()(2121tXEtXEtXtXE第14页/共42页第十四页，共42页。15数字数字(shz)特征之间的关特征之间的关系

13、系可见，均值函数和相关函数可被看作是最主要的两个数字特征。刻画(khu)了随机过程的主要统计特性。二阶矩过程二阶矩过程(guchng)的概念的概念如果对每一个 ，随机过程 的二阶矩 都存在，则称它为二阶矩过程。tT( ),X t tT2( )E Xt121212,( )()()XXXXttCtRttt22( , )( )( , )( )XXXXt tRtCt tt),()(2ttRtXX二阶矩过程的相关函数总存在。(只要证明相关函数是收敛的即可)(二) 随机过程的数字特征随机过程的数字特征12.2 随机过程的统计描述随机过程的统计描述22)()()(XEXEXD第15页/共42页第十五页，共4

14、2页。16设A, B是两个随机变量. 试求随机过程 的均值函数和自相关函数. 如果A, B是相互独立的，且 AN(0,1), BU(0,2), 问 的均值函数和自相关函数又是怎样的？( ),(,)tX tAtB ( )X t221 212()t tBE AABtABt22(0,1)( )0,( )1,()( )1( )NE AD AE ADAAE AA,B相互独立()( ) ( )0E ABE A E B解：根据均值函数(hnsh)和自相关函数(hnsh)的定义、利用期望的性质，可得()( )( )(XE AtBtE AE Bt均值函数121212()( )( )(,)XRtE X t X t

15、E AttBAtB自相关函数( )1Xt121 24( , )3Xt tt tR于是，)()()()(221221BEABEttAEtt3/4)()(, 3/1)(, 1)()2 , 0(22BEBDBEBDBEUB(二) 随机(su j)过程的数字特征12.2 随机(su j)过程的统计描述第16页/共42页第十六页，共42页。172200cos() ( )cos()02adtdatf1/(2 ), 02 ;0, ( )f其他解： 的概率密度利用随机变量(su j bin lin)函数期望的计算方法可得( )( ) cos()cos()XtE X tE ataEt均值函数(二) 随机过程(g

16、uchng)的数字特征12.2 随机过程(guchng)的统计描述求随机相位正弦波：的均值函数，方差函数和自相关函数. )2 , 0( ),( ),cos()(UttatX第17页/共42页第十七页，共42页 , )( )( )cos()cos() ( )Xt tE X t X ttfRatd221022122021221cos()cos()cos (2 cos()4cos()22)tattdattdattt自相关函数222( )( , )( )2XXXatt tRt方差函数(二) 随机(su j)过程的数字特征12.2 随机过程(guchng)的统计描述第18页/共

17、42页第十八页，共42页。19若随机过程 的每一个有限维分布都是正态分布，亦即对任意整数n1及任意 , 服从n维正态分布，则该随机过程称为正态随机过程.( ),X ttT12, ,ntTtt 21( ),( ),)()ntX tX tX正态随机过程的概念正态随机过程的概念设 ，其中A, B是相互独立，且都服从正态分布 的随机变量， 是实常数. 试证明 是正态过程. 并求它的均值函数和自相关函数. cossin,(,( )tBt tTX tA 2(0,)N( )X t是A,B的线性组合，解：对任意 itTcoss)in(iiiXtBttA故 也服从正态分布.( )iX t故X(t)是正态过程(g

18、uchng)。(二) 随机过程(guchng)的数字特征12.2 随机过程(guchng)的统计描述对任意的n, 根据n维正态分布的性质(第4章)可知21( ),( ),)()ntX tX tX服从n维正态分布。(因为因为 的任意线性组合的任意线性组合仍是仍是A,B的线性组合，仍服从一维正态分布的线性组合，仍服从一维正态分布)(),.,(),(21ntXtXtX第19页/共42页第十九页，共42页。20由题意可知：( )( )()0E AE BE AB( )cossincos( )sin( )0XtE AtBttE AtE B同理22()E B222()( ) ( )( ),E AD AE A

19、D A1212(),( )XRt tE X t X t1212()sincossincos()tBttAABtE2212121222121212()(sinsincoscossin() ()sinsincoscoscos()ttttttEE AEABttttBtt(二) 随机过程的数字(shz)特征12.2 随机过程(guchng)的统计描述第20页/共42页第二十页，共42页。21(三) 二维随机(su j)过程的分布函数和数字特征设X(t), Y(t)是依赖于同一参数 的随机过程，对于不同的 ， tTtT是不同的二维随机变量，则( ), ( )X t Y t( ), ( ),X t Y t

20、tT称为二维随机过程。二维随机过程的概念二维随机过程的概念给定二维随机过程 ，( ), ( ),X t Y ttT1212, , ; , ,nmtt t ttt是T中任意两组实数，n+m维随机变量1212,( ); (), ( ),( ), (),( ),)nmX tY tY tY tX tX t的分布函数12121212( ,; ,; , ;,)nnmmx t ttyF x xtytyt,1,2, ;1,2,ijyinxjmR其中称为此二维随机过程的n+m维分布函数(或随机过程X(t)与Y(t)的n+m维联合分布函数.)二维随机过程的二维随机过程的n+mn+m维分布函数的概念维分布函数的概念

21、12.2 随机过程(guchng)的统计描述第21页/共42页第二十一页，共42页。2212( ),( ),() ),nXX ttX t21( ( ), ( )() ),mYttY tY若与相互独立则，随机过程X(t)与Y(t)相互独立. (m+n维分布函数可分离变量)两随机过程相互独立的概念两随机过程相互独立的概念互相关函数互相关函数1212,( ) ( )()XYtE X t Y tRt互协方差函数互协方差函数121122,( )( ) ( )()( ) XYXYtEX tttY ttC1212(),( )( )XYXYttRtt不相关的判据不相关的判据若对任意 ，恒有12,t tT12,

22、()0XYtCt则称随机过程X(t)与Y(t)是不相关的。(三) 二维随机过程的分布函数(hnsh)和数字特征12.2 随机(su j)过程的统计描述仍指的是线性不相关(xinggun)第22页/共42页第二十二页，共42页。23三个随机三个随机(su j)过程的和过程的和( )( )( )( )W tX tY tZ t( )( )(WXYZtttt均值函数均值函数自相关函数自相关函数1212( , )( )( )WRt tE W t W t111222121212121212121212( )( )( )( )( )( )()()() ()()() ()(),),(,XXXYXZYXYYYZ

23、ZXZYZZtttEX tY tZ tX tY tZ tRtRtRtRtRtRtRtRtttttttRt(三) 二维随机过程的分布(fnb)函数和数字特征12.2 随机过程的统计(tngj)描述第23页/共42页第二十三页，共42页。2412.3 泊松过程(guchng)及维纳过程(guchng)增量的概念增量的概念给定二阶矩过程 ，我们称随机变量 为随机过程 在区间 上的增量。( ),0X t t ( )( ),0X tX sst( )X t( , s t独立独立(dl)增量过程的概增量过程的概念念独立增量过程独立增量过程(guchng)的概念的概念如果对任意选定的正整数n和任意选定的012

24、0nttttn个增量：21101( )( ),( )(,),( )()nnX tX tX tX tX tX t相互独立，则称 为独立增量过程。( ),0X t t 齐次的齐次的(或称时齐的或称时齐的)独立增量过程的概念独立增量过程的概念对任意实数h, 若增量 与 具有相同的分布，则称增量具有平稳性平稳性。这样的独立增量过程称为称为齐次的或时齐的齐次的或时齐的。()()X thX sh( )( )X tX sts只依赖于时间差即在互不重叠的区间上，状态的增量是相互独立的。在互不重叠的区间上，状态的增量是相互独立的。第24页/共42页第二十四页，共42页。2512.3 泊松过程(guchng)及维

25、纳过程(guchng)独立增量独立增量(zn lin)过程的协方过程的协方差函数差函数( )( )( )( )( )( )Y tY sX tX sE X tX s令( )( )( )( )XY tX tE X tX tt，则有如下结论：若X(t)是独立增量过程，且X(0)=0, 则X(t)的协方差函数为() (,) ( )XCsE Y s Y tt ( )(0) ( )( )( )E Y sYY tY sY s ( )( )0YE Y tt22( )( ) ( ) ( )(YYXD tE Y tE YDttt(1)(0)0X(0)0Y若则(2)X(t)是独立增量过程Y(t)也是独立增量过程(3

26、)0st构造增量假设)()()()()()0()()()0()()()()0()(22sDsYEsYEsYtYEYsYEsYYsYEsYtYYsYEX第25页/共42页第二十五页，共42页。26独立独立(dl)增量过程的协方差函数增量过程的协方差函数() ( ) ( )(min,)XXCsE Y s Y tDstt令( )( )( )( )XY tX tE X tX tt( )( )( )( )( )( )Y tY sX tX sE X tX s，则有如(yur)下结论： ( )( )0YE Y tt22( )( ) ( ) ( )(YYXD tE Y tE YDttt(1)(0)0X(0)0

27、Y若则(2)X(t)是独立增量过程Y(t)也是独立增量过程(3)若X(t)是独立(dl)增量过程，且X(0)=0, 则X(t)的协方差函数为12.3 泊松过程及维纳过程泊松过程及维纳过程第26页/共42页第二十六页，共42页。27( (一一) ) 泊松过程泊松过程(guchng)(guchng)时间轴上的随机时间轴上的随机(su j)质点流质点流随着(su zhe)时间推移，迟早会重复出现的事件可以在时间轴上记事0tt1t2tit表示 时刻该事件发生了一次it例如：120电话台接到呼叫电话烟花制造厂发生火灾相邻两次发生的时间间隔 是随机的。1nntt时间轴上的许多质点构成随机质点流。12.3

28、泊松过程及维纳过程泊松过程及维纳过程第27页/共42页第二十七页，共42页。28计数过程计数过程(guchng)的概的概念念考察时间轴上的随机质点流，以 表示在时间间隔 内出现的质点数。( ,0)N t t (0, t 是一个状态取非负整数、时间连续的随机过程(即离离散型的、连续参数的随机过程散型的、连续参数的随机过程)，称为计数过程计数过程。( ),0N t t 计数过程的一个典型的样本函数( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第28页/共42页第二十八页，共42页。29泊松过程泊松过程(guchng)的

29、概念的概念泊松过程是满足一定泊松过程是满足一定(ydng)条件的计数过程条件的计数过程。000( , )(, 0( )N tN tNttt t记00,()()0, ,2,1kP tPtttkkN是在 时间间隔0(,t t内出现 k 个质点的概率。0,()kP t t(1) 在互不重叠的区间上的增量具有独立性(即N(t)是独立增量过程)t(2) 对充分小的 有1()( ,)Ptot ttt 其中其中 称为称为过程过程N(t)的强度的强度。0t(3) 对充分小的 有2,)()(jjP t tott(4) N(0)=0则 称为强度为 的泊松过程。( ),0N t t 质点流(即质点出现的随机时刻 )

30、称为强度为 的泊松流。12, ,t t 若N(t)满足如下条件：(, t tt在 间隔内出现2个或2个以上质点的概率与出现一个质点的概率相比是很小的，可以忽略不计。( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程及维纳过程泊松过程及维纳过程第29页/共42页第二十九页，共42页。30增量增量 的分布律的分布律0,()N t t只与时间差 有关，故泊松过程是齐次的独立增量过程。0tt利用以上条件(1)(4), 可推导出(见课本):0000( , )(),dP t tPtdtt 初条件000,()1P t t,0010()(),( , ), 1kkkdP t t

31、PtPdttktt 初条件00,()0kP t t，00t 令 ，就得到N(t)的分布律。,.2 , 1 , 0 ),(),(00kkttNPttPk是参数为 的泊松分布。0()tt0()000()() (),!kt tkP tPtttttkkNe00,1,2,ttk泊松过程增量的分布律泊松过程增量的分布律求解( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第30页/共42页第三十页，共42页。31泊松过程概念泊松过程概念(ginin)的另一种等价的另一种等价表述表述(1) 它是独立增量过程若计数过程 满足下列三个条

32、件( ),0N t t (2) 对任意 ，增量00tt000()( )(,)( ()tttN tN tN t (3) N(0)=0则称 是一强度为 的泊松过程。( ),0N t t 参数为 的泊松分布)(0tt ( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第31页/共42页第三十一页，共42页。32泊松过程泊松过程(guchng)的数字特征的数字特征根据泊松分布的数字特征可知000( )()Var( )()(E N tN tN ttNtt已知增量增量000()( )(,)( ()tttN tN tN t 取 ,

33、利用N(0)=000t 泊松过程的均值函数均值函数( )( )NtE N tt( )Var ( )NDtN tt方差函数方差函数( )/E N tt即在时间轴上即在时间轴上，单位时间间，单位时间间隔内出现的质隔内出现的质点数目的平均点数目的平均值值(平均密度平均密度)协方差函数协方差函数()(min,min , , )NNCsDsttts前述独立增量过程的协方差函数2( , )( , )( )( )min , NNNNs tCs tsttRsst相关函数相关函数( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第32页

34、/共42页第三十二页，共42页。33非齐次泊松过程非齐次泊松过程(guchng)强度 是时间t的函数：( ) t0000( , )(),dP t tPtdtt 初条件000,()1P t t0010()(),( , ), 1kkkdP t tPtPdttktt 初条件00,()0kP t t，同理可得出微分方程( ) t非齐次泊松过程增量的分布律非齐次泊松过程增量的分布律00( )00()(),!tttkdtkP tP N tdttekk 均值函数均值函数0( )( )ttdE N 相关函数相关函数min , max , 00( , )( )( )1s ts tNs tddR ( (一一) )

35、 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第33页/共42页第三十三页，共42页。34等待时间和点间间距等待时间和点间间距(jin j)的概念的概念泊松过程 的泊松流： ( ),0N t t 2,n1ttt令初始时刻00t 记000,iiWWt t11 2,iiiTWiW，：等待时间iW：点间间距iT从开始到第i个质点出现的等待时间。0tt1t2tit泊松流的一个样本：( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第34页/共42页第三十四页，共4

36、2页。35等待时间等待时间 的分布的分布iW( )11( )( )iiWiFtP WtP WtP N tPtiiN 000( )()(),!|ttkP NkP N ttttkek( ),()0!itikWktFetkt分布函数分布函数( )00,iWFtt概率密度概率密度111( )(1()!(1 !)!)iik kkkiWttWk iidFttttedtkkfeit1( ,)iiW11(1,)W1( )tWfte,即 服从参数为 的指数分布。1W1/因为，根据 分布的概念，可知)!1()(ii( (一一) ) 泊松过程泊松过程(guchng)(guchng)12.3 泊松过程(guchng)及维纳过程(guchng)第35页/共42页第三十五页，共42页。36 点间间距点间间距 的分布的分布iT111()()0iiP N ttN t 1( )01tP N te 00, ,(01)itTteFtt( )iTiFtP Tt分布函数分布函数11()(1)iiP N ttN t增量的平稳性 和 的定义iT( )N t概率密