第三章几种重要的随机过程

1、 第三章第三章 几种重要的随机过程几种重要的随机过程 第一节第一节 独立过程和独立增量过程独立过程和独立增量过程 第二节第二节 正态过程正态过程第三节第三节 维纳过程维纳过程第四节第四节 泊松过程泊松过程 定义定义3.1.1 对任意的正整数对任意的正整数 n 及任意的及任意的,21Ttttn TttX ),(为为独立过程独立过程. .相互独立相互独立, ,称随机过程称随机过程随机变量随机变量)(,),(),(21ntXtXtX第一节第一节 独立过程和独立增量过程独立过程和独立增量过程一、独立过程一、独立过程独立随机过程的有限维分布由一维分布确定独立随机过程的有限维分布由一维分布确定注注 nkk

2、kknnnxtFxxttF111);(),;,( Ex.1 高斯白噪声高斯白噪声 实值时间序列实值时间序列 的的 NnnX ),(,)(0,)(2 nXDnXE自相关函数为自相关函数为20,;(, ),.mnR m nmn 称称 为为离散白噪声离散白噪声( (序列序列).). NnnX ),(两两不相两两不相关序列关序列. . 又若又若X(n)都服从正态分布都服从正态分布, ,称称 是是高斯白噪声高斯白噪声序列序列. . NnnX ),(对于对于n维正态随机变量有维正态随机变量有相互独立相互独立 不相关不相关故故高斯白噪声序列高斯白噪声序列是独立时间序列是独立时间序列. . 若过程若过程 是正

3、态过程是正态过程, ,且且 RttX ),( , 0)( tXE tstststsR,0,)(),(2 高斯白噪声高斯白噪声是典型的是典型的随机干扰数学模型随机干扰数学模型, ,普遍存在于电流的波动普遍存在于电流的波动, ,通信设备各部分的通信设备各部分的波动波动, ,电子发射的波动等各种波动现象中电子发射的波动等各种波动现象中. . 称其为称其为高斯白噪声过程高斯白噪声过程，它是独立过程，它是独立过程. . 如金融、电子工程中常用的线性模型如金融、电子工程中常用的线性模型自回归模型（自回归模型（AR(p)）tptpttXXX 11理想模型要求残差序列理想模型要求残差序列t是是(高斯高斯)白噪

4、声白噪声.二、独立增量过程二、独立增量过程 定义定义3.1.2 称称 , T=0,)为为独立增独立增量过程量过程, 若对若对 , 及及t0=0t1t20,X(t+h) X(s+h) 与与 X(t) X(s)有相同的分布函数有相同的分布函数, ,称称X(t),t0是是平稳独立平稳独立增量增量过程过程.0tss+ht+h 增量增量 的分布仅与的分布仅与有关有关, ,与起始与起始点点 t 无关无关, ,称称X(t),t0的增量具有的增量具有平稳性平稳性( (齐性齐性).).)() (tXtX 注注 Ex.2 若若X(n),nN+是独立时间序列是独立时间序列, ,令令 nkXkXnY00)0(, )(

5、)(则则Y(n), nN+是独立增量过程是独立增量过程. . 又若又若X(n), n=1,2, 相互独立同分布相互独立同分布, ,则则Y(n), nN+ 是平稳独立增量过程是平稳独立增量过程. . 证证 若若n1n2nm 210012)()()()(nknkkXkXnYnY)()1(21nXnX )()1()()(3223nXnXnYnY )()1()()(11mmmmnXnXnYnY X(n),nN+ 相互独立相互独立各增量相互独立各增量相互独立. 性质性质3.1.1 X(t),t0是平稳独立增量过程是平稳独立增量过程, X(0)=0, 则则 1）均值函数）均值函数 m(t)= m t (m

6、 为常数为常数);2）方差函数）方差函数 D( t )= 2t (为常数为常数);3）协方差函数）协方差函数 C(s, t)=2min(s,t).分析分析 因均值函数和方差函数满足因均值函数和方差函数满足, )()()(tmsmtsm )()()(tDsDtsD 命题命题：若：若),()()(tysytsy .(1)(tyty 可证得可证得1)和和2).则对任意实数则对任意实数 t, 有有 )()()()(),(smsXtmtXEtsC 证证3)()( )()(tmsmsXtXE )()( )( )()()(tmsmsXsXsXtXE X(t) X(s)与与X(s)相互相互独立独立.stmsX

7、EsXEsXtXE22)()()()( )()(2222ststmsmsmsstm 一般一般, C(s, t)=2min(s,t). 性质性质3.1.2 独立增量过程的有限维分布由独立增量过程的有限维分布由一维分布和增量分布确定一维分布和增量分布确定. 分析分析 对于独立增量过程对于独立增量过程X(t ),t0,任取的任取的t1 t2 tnT,Y1= X(t1), Y2 =X(t2)X(t1), , Yn =X(tn)X(tn-1)相互独立性相互独立性, 利用特征函数法可证明结论利用特征函数法可证明结论.思考题：思考题：1. 白噪声过程是否一定是独立过程？白噪声过程是否一定是独立过程？2. 独

8、立过程是否是独立增量过程？反之？独立过程是否是独立增量过程？反之？1定义为n维正态分布，其密度函数为也称高斯过程。则称设)(tX,Rt是一随机过程，对 任 意 正 整 数 n 及Rtttn,21，随机变量)(1tX,)(2tX,)(ntX的联合分布函数),(2121nnxxxtttf；1/21/211exp() C ()(2 )|C|2nxmxm第二节第二节 正态过程正态过程其中nxxxx21)()()(21ntmtmtmm111212122212C( , )C( , )C( , )C( , )C( , )C( , )CC( , )C( , )C( , )nnnnnnt tt tt tt tt

9、 tt tt tt tt t且)()(iitXEtmC( , ) ( )( ) ( )( )ijiijjt tE X tm tX tm tC( , )jit tC为协方差矩阵，为协方差矩阵，注由正态过程的n维概率密度表达式知，正态过程的统计特性，由它的均值函数 及自协方差函数 完全确定。)(tm12C( ,)t tEx.3证可得设)(tX,Rt是一个独立的正态过程，若21tt ，)(1tX与)(2tX相互独立，121212C( ,)( )( )( ) ( )t tE X t X tm t m t0)()()()(2121tmtmtEXtEX注注逆命题也成立。一、维纳过程的数学模型及应用一、维纳

10、过程的数学模型及应用 维纳过程是英国植物学家罗伯特维纳过程是英国植物学家罗伯特.布朗布朗在观察漂浮在液面的花粉运动在观察漂浮在液面的花粉运动布朗运布朗运动规律时建立的随机游动数学模型动规律时建立的随机游动数学模型.第三节第三节 维纳过程维纳过程 维纳过程应用广泛：电路理论、通信维纳过程应用广泛：电路理论、通信和控制、生物、经济管理等和控制、生物、经济管理等. 维纳过程的研究成果应用于计量经济学，维纳过程的研究成果应用于计量经济学，使其方法论产生了一次飞跃，成功地应用使其方法论产生了一次飞跃，成功地应用于非平稳的经济过程，如激烈变化的金融于非平稳的经济过程，如激烈变化的金融商品价格的研究。商品价

11、格的研究。二、定义则称或布朗运动过程。当1时，称为标准维纳过程。特别三、维纳过程的分布三、维纳过程的分布1.一维分布一维分布： W( t ) N(0,2t)；2. 增量分布增量分布： W( t) W( s)N(0,2|ts|); 设设ts ，因因W(0)=0, 且且W( t )是平稳独立增量是平稳独立增量过程，故过程，故有相同分布有相同分布N(0,2(ts).)()()()(sWsstWsWtW )()0()(stWWstW 与与3. 维纳过程是维纳过程是正态过程正态过程.证证设维纳过程设维纳过程 W( t ),t0的参数是的参数是2，,21ntttn 及及任取任取),()(1 kkktWtW

12、X),(, 0(12 kkkttNX 则则相互独立，且有相互独立，且有nkt, 2 , 1, 00 kkXXXtW 21)( )()()(21ntWtWtW 11111001110001100001 nXXX21正态随机正态随机向量的线向量的线性变换服性变换服从正态分从正态分布布。四、维纳过程的数字特征四、维纳过程的数字特征1. EW(t)=0; DW(t)= 2t2. C(s, t)=R(s,t)=2min(s,t)维纳过程是维纳过程是平稳独立增平稳独立增量过程量过程下证C(s, )W(s)W( )tEtW(s)D2s同理 故 2C(s, )min(s, )tt3对任意nttt,21，210

13、ttnt维纳过程)(tX有)()(1iitXtX)(, 0(12iittN，ni, 2 , 1 证由于增量)()(1iitXtX，ni, 2 , 1 是相互独立的正态变量。所以)()(1iitXtXE0)()(1iitXEtXE)()(1iitXtXD)()(21iitXtXE)()()(2)(1212iiiitXtXtXtXE)()()(2)(1212iiiitXEtXtXEtXEit2122it12itiitt1)(12iitt4具有马氏性证因此所以因)(tX是维纳过程增量)()(sXstX与时刻 s 以前的状态)(X (s0)独立，xsXastXP)(|)(，)(X，s0 xsXxasX

14、stXP)(|)()(，)(X，s0 xsXxasXstXP)(|)()(xsXastXP)(|)(所以维纳过程是马氏过程。例4试求的协方差函数。且解设)(tW，0t是一个维纳过程，0)0(W)()(tWltW（0l常数）12C( , )t t)()(11tWltWE)()(22tWltW)()(tWltWE)()(21ltWtWE)()(21tWltWE)()(21tWtWE),min(212ltlt),min(212ltt),min(212tlt ),min(212tt)(tm0)()(21ltWltWE当21tt 时，可得当21tt ，可得所以一、计数过程与泊松过程一、计数过程与泊松过程

15、 在天文，地理，物理，生物，通信，医学，在天文，地理，物理，生物，通信，医学，计算机网络，密码学等许多领域，都有关于随计算机网络，密码学等许多领域，都有关于随机事件流的机事件流的计数问题，计数问题，如：如： 盖格记数器上的粒子流；盖格记数器上的粒子流；电话交换机上的呼唤流；电话交换机上的呼唤流；计算机网络上的（图象，声音）流；计算机网络上的（图象，声音）流；编码（密码）中的误码流；编码（密码）中的误码流；第四节第四节 泊泊 松过程松过程交通中事故流；交通中事故流；细胞中染色体的交换次数，细胞中染色体的交换次数，均构成以时间顺序出现的事件流均构成以时间顺序出现的事件流 A1,A2, 定义定义3.

16、4.1 随机过程随机过程N(t), t0称为称为计数过计数过程程(Counting Process),如果如果N(t)表示在表示在(0, t)内内事件事件A 出现的总次数出现的总次数.计数过程应满足：计数过程应满足：(1) N( t )0; ;(2) N( t ) 取非负整数值；取非负整数值；(3) 如果如果s t，则，则N( s )N( t )；(4) 对于对于s 0；(4) PN(h)2=o(h). 称称N( t ),t0)是参数是参数( (或速率或速率, ,强度强度) )为为的的齐次泊松过程齐次泊松过程. . EX.1 在数字通信中误码率在数字通信中误码率是重要指标，是重要指标，设设N(

17、 t ), t0为时间段为时间段0, t)内发生的误码次内发生的误码次数数, N( t ), t0是计数是计数过程过程, 而且满足而且满足(1) 初始时刻不出现误码是必然的初始时刻不出现误码是必然的, 故故N(0)=0;(2) 在互不相交的区间在互不相交的区间nnntttttttt 2112110), ,),), 0出现的误码数互不影响出现的误码数互不影响, 故故N( t )独立增量过程独立增量过程. 在系统稳定运行的条件下在系统稳定运行的条件下, 在相同长度区间在相同长度区间内出现内出现k个误码概率应相同个误码概率应相同, 故可认为故可认为N( t )是是增量平稳过程增量平稳过程.N( t

18、), t0是平稳独立增量过程；是平稳独立增量过程； (3) 认为认为t时间内出现一个误码的可能性时间内出现一个误码的可能性与区间长度成正比是合理的与区间长度成正比是合理的,即有即有PN( t)=1= t +o( t), 0； (4) 假定对足够小的假定对足够小的t时间内时间内,出现两个以出现两个以上误码的概率是关于上误码的概率是关于t的高阶无穷小也是合的高阶无穷小也是合理的理的, 有有PN( t)2=o( t). 定理定理3.4.1 齐次泊松过程齐次泊松过程N( t ),t0在时间在时间间隔间隔(t0, t0+t)内事件出现内事件出现n 次的概率为次的概率为 终上所述终上所述,可用可用Pois

19、son过程数学模型描述通过程数学模型描述通信系统中误码计数问题信系统中误码计数问题. . 可认为可认为 N( t ), t0是强度为是强度为的泊松计数的泊松计数过程过程. ), 2 , 1 , 0( ,!)()()(00 nentntNttNPtn 定理证明反之亦然定理证明反之亦然, ,得泊松过程的等价定义：得泊松过程的等价定义： 定义定义3.4.2 设计数过程设计数过程 N(t),t0 满足下述条满足下述条件：件：(1) N(0)=0；(3) 对一切对一切0st , N(t) N(s) P(ts), ,即即), 2 , 1 , 0(,!)()()()( kekstksNtNPstk (2)

20、N(t)是独立增量过程是独立增量过程；注注有有)0()()(kNtNPktNP ),2,1,0(,! kekttk问题问题 若若N(t)的一维分布是泊松分布的一维分布是泊松分布, 能否能否推出第推出第(3)条成立条成立? EX.2 设设N( t ), t0是参数为是参数为的泊松过程的泊松过程,事件事件A在在(0,)时间区间内出现时间区间内出现n次，试求次，试求: :PN(s)=k N()=n, 0kn, 0s s 0 R(s,t)=EN(t)N(s)= EN(s)N(t) N(s)+ N(s) = EN(s)N(t) N(s)+E N2(s) =EN(s)EN(t) N(s)+E N2(s)

21、stssssts22)()( tsststmsmtsRtsC 2)()(),(),(C(s,t)=min(s,t)R(s,t)=min(s, t)+2st.一般地有一般地有 ( )0( )( )iuX tiunXnguE eeP X tn泊松过程的特征函数为泊松过程的特征函数为1iuXg (u)expt(e)0()!niuntnte enexptiuete0()!iuntnteenexp(1)iut e 1) 令令Y(t)=N1(t) N2(t)，t0,求求Y(t)的均值函的均值函数和相关函数数和相关函数. 2) 证明证明 X(t)=N1(t) +N2(t), t 0, 是强度是强度为为1+2

22、的泊松过程的泊松过程. 3) 证明证明 Y(t)=N1(t) N2(t)，t 0,不是泊松不是泊松过程过程. EX.3 设设N1(t)和和N2( t )分别分别是强度为是强度为1和和2的相互独立的泊松过程的相互独立的泊松过程,)()()()(12121ttNEtNEtmY ）解解)()()()(),(2121tNtNsNsNEtsRY )()()()()()()()(12212211tNsNEtNsNEtNsNEtNsNE )()()()(),(),(122121tNEsNEtNEsNEtsRtsRNN ststtsstts212222112),min(),min( .2)(),min()(2

23、1222121ststts 2) 根据泊松分布的可加性知根据泊松分布的可加性知X(t)=N1(t) +N2(t), t0, 3) X(t)=N1(t) N2(t)的特征函数为的特征函数为1212( )exp() iuiuXutetet独立和的独立和的特征函数特征函数 由分布函数与特征函数的一一对应的惟一性由分布函数与特征函数的一一对应的惟一性定理知定理知X(t)不是泊松过程不是泊松过程.服从参数为服从参数为1+2的泊松分布的泊松分布.自证自证问题问题:如何证明如何证明?2. 时间间隔与等待时间的分布时间间隔与等待时间的分布tW1W2W3W4N(t)轨道是跃度为轨道是跃度为1 的阶梯函数的阶梯函数 用用Tn表示事件表示事件A第第n1次出现与第次出现与第n次出现的次出现的时间间隔时间间隔. . niinTW1有有1iiiTWW和Wn为事件为事件A第第n 次出现的次出现的等待时间等待时间( (到达时间到达时间).). 定理定理3.4.2 设设Tn, n1是参数为是参数为的泊松过的泊松过程程N(t), t0 的时间间隔序列，的时间间隔序列， 则则Tn, n1相互独立同服从指数分布，相互独立同服从指数分布，