随机过程的基本概念PPT课件

1、1定义 1.5.10 设 (,F, P)为概率空间， (E,E )为可测空间，TR ，若 ，且 t给定时，Xt关于F可测，则称 为 (,F, P) 上取值于E 的随机过程. tX，t T此时, X t()表示在时刻t系统的状态。称 (E,E )为相空间或状态空间；称 T为参数集或时间域；通常取 或 1.5 随机过程的基本概念1.5.1 随机过程的概念与举例 第1页/共29页2数学解释：可认为X (,t)， t T 是定义在T上的二元函数。当t固定时， X(,t)是r.v.(stat)，当固定时， X(,t)是定义在T上的普通函数，称为随机过程的样本函数或轨道(path)，样本函数的全体称为样本

2、函数空间。1.5.1(1)( )cos(2),(0,2 ),0,10X ttUt 例第2页/共29页3SuSdSSu2udSSd2Su3Sd3Sud2dSu2Su4Sd4dSu3Sdu22Sud3 101,1,2,.kkkuSHSS SkdST,0.5,0,1,.,hn hhnnnHHHHHHHTHHTHHTHHTHHHHTHTP Su dSChn (2)由抛硬币决定的随机过程: (随机游动)第3页/共29页4随机过程可按时间(参数)是连续的或离散的分为两类:(1)若T是有限集或可列集时,则称为离散参数随机过程或随机序列.(2)若T是有限或无限区间时,则称为连续参数随机过程.随机过程也可按任一

3、时刻的状态是连续型随机变量或离散型随机变量分为两类:(1)若对于任意 都是离散型随机变量,称 为离散型随机过程；)(,jjtXTt TttX),(2)若对于任意 都是连续型随机变量,称 为连续型随机过程.TttX),()(,jjtXTt 第4页/共29页5定义 1.5.1 设Xt，tT 为(,F, P) (E,E )随机过程，令11,121(),;nnttnttniFFFP XFXFtT其中F1 ., FkE. 称 为随机过程Xt，tT 的有限维分布族.1:,1,1nttitTin n 1.5.2 随机过程的数字特征及有限维分布族特别,对于一维随机过程X (t), t T 任意 nZ+ 和 t

4、1,t n T，随机向量（X t1 , X t n )的分布函数全体1,11( ,.),nttnnFxxttT nZ称为Xt，t T 的有穷维分布函数族。第5页/共29页6若对 ,随机向量 有密度函数, 则这些密度函数的全体ntt ,.,1nttXX ,.,11,11( ,.),nttnnfxxttT nZ称为Xt，t T 的有穷维密度函数族。若对 ,随机向量 是离散型的, 则这些分布律的全体ntt ,.,1nttXX ,.,11,11( ,.) ,nttnnpxxttT nZ称为Xt，t T 的有穷维概率分布族。第6页/共29页7设X (t), t T 为随机过程，称为X (t), t T的

5、n维特征函数；称n1kkkn1tXin1ttEe)(,),(,),(,ZnTttn1n1ttn1为X (t), t T的有穷维特征函数族。 由于r.v.的特征函数与分布函数有一一对应关系，所以，也可以通过随机过程的有穷维特征函数族来描述它的概率特性。第7页/共29页8随机过程的有限维分布满足下面的两个性质： 1(1)( ),.1,(1)(.)()nnttnttFFFF（n）(1)对称性：对于1,2,n 的任意排列(1),(2),(n) 有111,1,1()()kkkk mttkttttkFFFFEE(2)相容性：对于任意的自然数 k ,m,反之， (Kolmogorovs 扩张定理).对一切性

6、质(1) (2)的概率测度，则存在概率空间 (,F, P) 及定义在 上取值于E的随机过程Xt ，使得NkTttk ,1令kttv,.,1为Ek上满足以上11,11(),kkttktktvFFP XFXF第8页/共29页9例1.5.2. 求随机过程的一维密度函数族.这里b 是常数, X是标准正态随机变量.,cos)(btXtX解:(1)当cosbt0时,由X(t)=Xcosbt,XN(0,1)知X(t)N(0,cos2bt),则X(t)的一维密度函数为(2)当cosbt=0时, X(t)不存在一维密度函数.222cos1( ),2cosxbttf xexbt 故X(t)的一维密度函数族为222

7、cos11( );,0, 1, 2,.22 cosxbttf xetR tkkbbt 第9页/共29页10定义1.5.2 给定随机过程Xt,tT, 给定t,（1）随机变量Xt的均值或数学期望与t有关,记为( )XttE X称X(t)为随机过程Xt的均值函数(Mean)称为随机过程Xt,tT,的均方值函数.（2） 随机变量Xt的二阶原点矩22( ),XttE X第10页/共29页11（3） 随机变量Xt的方差22( )( ),XttXtVar XEXt称为随机过程Xt,tT,的方差函数(Varance)(4) 设Xt1和Xt2是随机过程Xt,tT在任意二个时刻t1和t2时的状态.称Xt1和Xt2

8、的二阶混合原点矩为随机过程Xt,tT的自相关函数(correlation),简称相关函数.1212( , )XttRt tE X X第11页/共29页12（5）称Xt1和Xt2的二阶混合中心矩121212( , )( )( )XtXtXCt tEXtXt为随机过程Xt,tT的自协方差函数covaricance,简称协方差函数.(6) 对于两个随机过程Xt,tT,Yt,tT，若对任意t T，EXt2 、 EYt2存在，则称函数( , )( )( ),XYsXtYCs tE XsYts tT为随机过程 Xt,tT,与Yt,tT,的互协方差函数。第12页/共29页13( , ),;XYs tRs t

9、E X Ys tT为随机过程Xt,tT与Yt,tT的互相关函数.易知;,),()(),(),(TtststsRtsCYXXYXY(7) 称定义1.5.3 若对任意的s,t T，有EXsYt=0, 则称随机过程Xt,tT与Yt,tT正交; 若CXY(s, t)=0，则称随机过程Xt,tT与Yt,tT 互不相关； 若对任意的n,mZ+，随机向量(Xt1, Xtn)与(Ys1,Ysm) 相互独立，则称随机过程Xt,tT与Yt,tT相互独立。第13页/共29页14例1.5.3 设 ,其中X0和V是相互独立的随机变量.且btatVXtX,)(0求随机过程X(t),-t的五种数字特征.20(0,),( )

10、XNVE解:)()(0tVXEtXEtXt)(),(201021VtXVtXEttRX)(21221020t tVttVXXE22122t t),()(2ttRtXX2222t)()(),(),(212121ttttRttCXXXX2212t t2( )( , )XXtCt t222t第14页/共29页15定义1.5.4若Xt,tT, Yt,tT是两个实随机过程，则称Zt = X t+i Yt， t T 为复随机过程。 它的均值函数、协方差函数、相关函数和方差函数分别定义如下： Z (t)= EZt=EXt+i EYt ,t T( , )( )( ),ZsZtZC s tE Zm sZm ts

11、 tT( , ),ZstR s tE Z Zs tT22( )( )( )|( )| ,ZtZtZtZtE Zm tZm tE Zm ttT第15页/共29页161.5.31.5.3 几类典型的随机过程(1) 独立随机序列 对于任意n个不同的参数t1,t n T ， r.v. X(t1), X(t n)相互独立，这样的随机序列称为独立随机序列。 (2) 独立增量过程定义1.3.1 若随机过程 满足 增量 与 独立,则称为独立增量过程.st tsXX,0tX t ,suXusF或等价地写作第16页/共29页17 过程 满足,对任意 t1 t2 t n T， Xt的增量 相互独立，这样的随机过程称

12、为独立增量过程。,tX tT21321,nnttttttXXXXXX参数集T第17页/共29页18例 1.5.4 设( )ti XtEe 12121212,12,( ,)ttiXXt tttE e 1221211()ttttiXXXXE e122121()()tttiXXXiE ee121122ttt第18页/共29页1912121112)12.(nnnttntnnktkttnttkkXXXXXXXX11211,.,1)12( ,.,)exp.(nnnttnnnktkttnttkkEiXXXXX12.,nttt 121112()().() #nnnntkttkttnkk 第19页/共29页20

13、定义1.5.5 设随机过程 , 若对|,tstsP XBP XB XF则称该过程为马尔可夫过程，简称“马氏过程”。 马氏过程的特点：已知现在，将来与过去无关。 tXt;st )(|(),;,(tsxXBXPBtxsPst(3) 马尔可夫过程（马氏过程）第20页/共29页21Markov性的等价描述: 1212),1,2,|iutsustsvust BRiP XB XBXP XBXP XBX B):,|ttstsih RRE h Xst E h XE h XX 满足FsXsXttzEzEtsRzX,F),XttiuXiuXssiiiuR stE eE e Fii)若Xt 的母函数存在, ,|,.

14、,|11nttntttxXBXPxXxXBXPnn 12).,1,., ,niivtttt x in BR B第21页/共29页22Markov过程的判别-独立性定理:设X,Y为概率空间(,F,P)上的随机变量, G为F 的子代数, 且设X与G 独立, Y关于G 可测. 则对二元函数 f(x,y),(, )|(, )|E f X YE f X YYG例1.5.5 独立增量过程Xt是Markov过程.证:|tsstiu XXiuXiuXssst E eE e FF|#tsstiu XXiuXiuXssE eE eXF其中, Xt-Xs关于Fs独立, Xs 关于Fs 可测, 根据独立性定理,第22

15、页/共29页23根据参数集T及状态空间E的取值离散与否，通常将马氏过程分成四类进行研究：1、参数和状态都离散的马氏过程，简称马氏链；3、参数连续、状态离散的马氏过程，又称连续马氏链或纯不连续马氏过程；3、参数离散、状态连续的马氏过程，简称马氏序列;4、参数和状态都连续的马氏过程，又称连续马氏过程。随机游动, Poisson过程, 更新过程中的更新时间序列, Brown运动, 分别是1-4的例子.第23页/共29页24设Bt,t0为一独立增量过程， ，求证：Xt,t0为Markov过程.tBtXe第24页/共29页25(5) 平稳随机过程 在工程应用和大量实际现象的理论分析研究中常会遇到一类过程

16、。其统计特性随着时间的推移不发生任何变化。此类过程中，最重要的是“平稳过程”。例如无线电设备中热噪声电压X(t)是由于电路中电子的热运动引起的，这种热扰动不随时间而变；连续测量飞机飞行速度产生的测量误差X(t) ， 是由仪器震动、电磁波干扰、气候变化等因素引起的; 纺纱厂生产出的棉纱各处直径X(t)不同是由于纺纱机运行，棉条不匀、温湿度变化等因素引起的。第25页/共29页26严平稳过程严平稳过程定义1.5.7 设随机过程 X (t) ,t T 的有穷维分布函数族为Ft1,tn (x1,xn), t1,tn T, n1 ，若对n 和t1,tn T, 及ti+T的，有Ft1,tn (x1,xn)= Ft1 +,tn + (x1,xn) (1.3.1)则称 X (t) ， t T 是严平稳过程。严平稳过程的特点： (1) 若有概率密度，则式(1.3.1)等价于：f t1,tn (x1,xn)=f t1 +,tn + (x1,xn);第26页/共29页27 (2) 一维分布与 t 无关，二维分布仅与时间差有关，而与时间的起点无关； (3) 若存在二阶矩，则其均值函数是常数，相关函数或协方差函数仅是时间差的函数。 严平稳过程的平稳性条件(1.3.1)过于严格而在应用上往往难于实现。在工程技术中一般只要知道过程的一、二阶矩，就能处理和解决有关问题，于是就产生了仅与过程