随机过程知识点汇总

1、第一章随机过程的基本概念与基本类型一.随机变量及其分布1 .随机变量X,分布函数F(x) P(X x)离散型随机变量X的概率分布用分布列pk P(X xk)分布函数F(x)pk连续型随机变量X的概率分布用概率密度f(x) 分布函数F(x) x f(t)dt2 . n维随机变量X (Xi, X2， ,Xn)其联合分布函数 F(x) F(xi，x2，,xn)P(Xi xi，X2 x2，,Xn Xn，)离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量X EXxkPk 连续型随机变量XEX xf (x)dx方差：DX E(X EX)2 EX2 (EX)2反映随机变量取

2、值的离散程度协方差(两个随机变量 X,Y)： Bxy E(X EX )(Y EY) E(XY) EX EY相关系数(两个随机变量 X,Y)： xy LBXY;_若0,则称X,Y不,DX DY相关。独立不相关 04 .特征函数 g(t) E(eitX )离散 g(t)eitxk Pk连续 g(t) eitx f (x)dx重要性质：g(0) 1, |g(t)| 1, g( t) 前，gk(0) ikEXk5 .常见随机变量的分布列或概率密度、期望、方差0 1 分布 P(X 1) p,P(X 0) q EX p DXpq二项分布P(X k) C：pkqnkEXnpDXnpq泊松分布P(X k) e

3、k!EXDX均匀分布略.(x a)21 1-i 1 i12-正态分布 N(a, 2) f (x) e 2 EX a DX 22x指数分布f(x) e ，xEX -DX 6 . N维正态随机变量0, x 0X (Xi，X2，,Xn)的联合概率密度XN(a,B)a (ai,a2, ,an) , x (?2, ,xn),B (bj)nn正定协方差阵二.随机过程的基本概念1 .随机过程的一般定义设(，P)是概率空间，T是给定的参数集，若对每个 t T,都有一个随机变量X与之对应，则称随机变量族X(t,e),t T是(，P)上的随机过程。简记为X(t),t T。含义：随机过程是随机现象的变化过程，用一族

4、随机变量才能刻画出这种随 机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的 样本函数是随机的。当t固定时，X(t,e)是随机变量。当e固定时，X(t,e)时普通函数，称为随机过 程的一个样本函数或轨道。分类：根据参数集T和状态空间I是否可列，分四类。也可以根据X(t)之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。随机过程X(t),t T的一维分布，二维分布，n维分布的全体称为有限维分布函数族。随机过程的有限 维分布函数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部

5、有限维分布函数族是不可能的，因此用某些统计特征来取代(1)均值函数mx(t) EX(t)表示随机过程 X(t),t T在时刻t的平均值(2)方差函数Dx(t) EX(t) mx(t)2表示随机过程在时刻t对均值的偏离程度(3)协方差函数Bx(s,t)E(X(s) mx(s)(X(t) mx(t)EX(s)X(t) mx (s)mx(t)且有 Bx(t,t) Dx(t)(4)相关函数Rx(s,t) EX(s)X(t) (3)和(4)表示随机过程在时刻s, t时的线性相关程度(5)互相关函数：X(t),t T , Y(t),t T是两个二阶距过程，则下式称为它们的互协方差函数。BxY(s,t)E(

6、X(s) mx(s)(Y(t) mY(t)迎, 上),那么RxY(s,t)EX(s)Y(t),称为互相关函EX(s)Y(t) mx(s)mY(t)数。若EX(s)Y(t) mx(s)my(t),则称两个随机过程不相关。3 .复随机过程 乙 XtjYt均值函数mz (t) EXt jEYt方差函数2Dz(t) E|Zt mz(t)|2E(Zt mz)(乙 mz(t)用七辛Bz(s,t) E(zs mz (s)(zt mz(t)协万差函数_ 相关函数Rz(s,t) EzsztEzsZ mz(s)m；(t)4 .常用的随机过程(1)二阶距过程：实(或复)随机过程X(t),t T ,若对每一个t T,

7、都有EX(t)2 (二阶距存在)，则称该随机过程为二阶距过程。(2)正交增量过程：设X(t),t T是零均值的二阶距过程，对任意的ti 12 t3 t4 T ,有E(X(t2) X(ti)(X(t4) X(t3) 0,则称该随机过程为正交增量过程。其协方差函数 Bx(s,t) Rx(s，t)；(min(s,t)(3)独立增量过程：随机过程X(t),t T ,若对任意正整数 n 2,以及任意的tlt2tnT ,随机变量 Xt)X(tJX(t4)Xt),X(tn)X 伍 J 是相互独立的，则称X(t),t T是独立增量过程。进一步，如X(t),t T是独立增量过程，对任意s t,随机变量X(t)

8、X(s)的分布仅依赖于t s,则称X(t),t T是平稳独 立增量过程。(4)马尔可夫过程：如果随机过程 X(t),t T具有马尔可夫性，即对任意正整数n 及 tlt2tn丁，P(X(ti)Xi，,X(tni)Xni)。，都有P X(tn)XnX(ti)Xi,X(tni)乩 PX(*)X0X(*i)Xni, 则则称X(t),t T是马尔可夫过程。(5)正态过程：随机过程X,t T ,若对任意正整数n及匕工，,tn T, (X(ti),X(t2) X(tn)是n维正态随机变量，其联合分布函数是n维正态分布函数，则称X(t),t T是正态过程或高斯过程。(6)维纳过程：是正态过程的一种特殊情形。设

9、W(t), t为实随机过程，如果， W(0) 0；是平稳独立增量过程；对任意s,t增量W(t) W(s)服从正态分布，即 W(t) W(s)N(0, 2t s) 2 0。 则称W(t), t 为维纳过程，或布朗运动过程。另外：它是一个Markov过程。因此该过程的当前值就是做出其未来预测中所 需的全部信息。维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。它在任何有限时间上的变化服从正态分布， 其方差随时间区间的长度呈线性增加o(7)平稳过程：严(狭义)平稳过程： X(t),t T ,如果对任意常数 和正整数n及匕&,储T, tl ,t

10、2 , ,tnT , ( X(ti),X&) X(tn)与(X(ti ), X(t? ) X3 )有相同的联合分布，则称 X(t),t T是严(狭义)平稳过程。广义平稳过程：随机过程X(t),t T ,如果X(t),t T是二阶距过程；对任意的 t T, mX(t) EX(t)常数；对任意 s, t T,RX(s,t) EX(s)X(t) RX(t s), 或仅与时间差t s有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。第二章泊松过程一.泊松过程的定义(两种定义方法)1 ,设随机计数过程 X(t),t 0 ,其状态仅取非负整数值，若满足以下三个条件，则

11、称：X(t),t T是具有参数的泊松过程。X(0) 0;独立增量过程，对任意 正 整 数 n, 以 及 任 意 的 tl t2tn T X(t2) X(ti),X(t3) X(t2), ,X(tn) X (tn 1)相互独立，即不同时间间隔的计数相互独立；在任一长度为t的区间中，事件A发生的次数服从参数t 0 的的泊松分布， 即对任意 t,s 0, 有t ( t)nP X(t s) X(s) n e tA一-n 0,1,Ln!EX(t) t,.：0),表示单位时间内时间A发生的平均个数,也称速率或强度。2,设随机计数过程 X(t),t 0 ,其状态仅取非负整数值，若满足以下三个条件，则称：X(

12、t),t 0是具有参数的泊松过程。X(0) 0;独立、平稳增量过程；P X(t h) X(t) 1h o(h)oP X(t h) X(t) 2o(h)第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。s( t 1) stt( s 1) s t二.基本性质1 ,数字特征mX(t) EX(t) t DX(t)Rx(s,。Bx(s,t) Rx(s,t) mx(s)mx(t) min(s,t) 推导过程要非常熟悉2, Tn表示第n 1事件A发生到第n次事件发生的时间间隔，T0，n 1是时间序列,随机变量服从参数为的指数分布。概率密度为 f(t

13、) e 1 0,分布函数0, t 0Ft (t)1 e八0均值为ETn -n 0, t 0证明过程也要很熟悉到达时间的分布 略三.非齐次泊松过程到达强度是t的函数P X(t h) X(t) 1 (t)h o(h) 一口 一X(0) 0;独立增量过程；o 不具有P X(t h) X(t) 2 o(h)平稳增量性。均值函数 mX(t) EX(t): (s)ds定理：X(t),t 0是具有均值为mx(t): (s)ds的非齐次泊松过程，则有四.复合泊松过程设N(t),t 0是强度为的泊松过程，Yk,k 1,2,L是一列独立同分布的随机变N(t)量，且与 N(t),t 0独立，令X(t)Yk则称X(t

14、),t 0为复合泊松过程。k 1重要结论：X(t),t 0是独立增量过程；若E(Yi2),则EX(t)tE(Y1),DX(t) tE (Yf)第五章马尔可夫链泊松过程 是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链。马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻 然所处的状态 为已知的条件下，过程在时刻 t品所处状态的条件分布与过程在时刻 b之前所处 的状态无关。也就是说，将来只与现在有关，而与过去无关。表示为PX(tn) XX(ti) Xi, ,X(tXn1P X(tn) XX(tn i)Xn一.马尔可夫链的概念及转移

15、概率1 .定义：设随机过程 Xn，n T ,对任意的整数n T和任意的i0,ii,L ,心I ,条 件概率满足 P Xn iiniXoio,Xiii,L,Xn"PXni/Xn,则称Xn ,n T为马尔可夫链。马尔可夫链的统计特性完全由条件概率P Xni in i Xn in所决定。2 .转移概率 P Xn i j Xn i相当于随机游动的质点在时刻 n处于状态i的条件 下，下一步转移到j的概率。记为pj(n)。则pj(n) P Xn i j Xn i称为马尔可夫 链在时刻n的一步转移概率。若齐次马尔可夫链，则 pj(n)与n无关，记为pj。P pj i, j I I i,2,L称为系

16、统的一步转移矩阵。性质：每个元素pj 0,每行的和为io3 . n 步转移概率 pj(n) = P Xmn j|Xm i ;P(n) p*i, j I I i,2,L 称为 n步转移矩阵。重要性质：pj(n)pik(l)pkj(nl)称为C K方程，证明中用到条件概率的乘法公式、马尔可夫性、齐次性Pj(n)P Xm nj Xm iP Xm i,Xmn jP Xm i掌握证明方法:P Xm i,Xmi k,Xmn jP Xm iP Xm i,Xmik,Xmn j P Xm i,Xmi kkT P Xm i,Xmi kP Xm ipkn l)(m l) Pikl)(m)Pik) pkjn l)k

17、Ik IP(n) Pn说明n步转移概率矩阵是一步转移概率矩阵的n次乘方。4 . Xn，n T是马尔可夫链，称Pj P X。 j为初始概率，即0时亥1J状态为j的概率；称Pj(n) P Xn j为绝对概率，即n时刻状态为j的概率。PT(0)MP2,L为初始概率向量，PT(n)P1(n), P2(n),L为绝对概率向量。定理： Pj(n)PiPi(n)矩阵形式：PT(n) PT(0)P(n) Pj(n)Pi(n 1)Pji Ii I定理：P Xi ii,X2 i2,L ,Xn inPi Pii1L Pin 1in 说明马氏链的有限维分布完全i I由它的初始概率和一步转移概率所决定。二.马尔可夫链的

18、状态分类1 .周期：自某状态出发，再返回某状态的所有可能步数最大公约数，即 d GC D n: Pi(n) 0。若d 1 ,则称该状态是周期的；若d 1 ,则称该状态是非周 期的。2 .首中概率：fj)表示由i出发经n步首次到达j的概率。3 . fjfj(n)表示由i出发经终于(迟早要)到达 j的概率。n 14 .如果fii 1 ,则状态i是常返态；如果fii 1,状态i是非常返(滑过)态。5 . infjn)表示由i出发再返回到i的平均返回时间。若i ，则称i是正常返n 1态；若,则称i是零常返态。非周期的正常返态是遍历状态6 .状态i是常返充要条件是p(n);状态i是非常返充要条件是p(n

19、)。n 0 iin 0 ii 1 fii7 .称状态i与j互通，i j,即i j且j i。如果i j ,则他们同为常返态或非常 返态，；若1, j同为常返态，则他们同为正常返态或零常返态，且 i, j有相同的 周期。8 .状态i是遍历状态的充要条件是lim p(n) 00 一个不可约的、非周期的、有 n限状态的马尔可夫链是遍历的。9 .要求：熟悉定义定理，能由一步转移概率矩阵画出状态转移图，从而识别各状 态。三.状态空间的分解1 .设C是状态空间I的一个闭集，如果对任意的状态i C ,状态j C ,都有pj 0 (即从i出发经一步转移不能到达 j),则称C为闭集。如果C的状态互通，则称C 是不

20、可约的。如果状态空间不可约，则马尔可夫链Xn,n T不可约。或者说除了C之外没有其他闭集，则称马尔可夫链Xn,n T不可约。2 . C为闭集的充要条件是：对任意的状态 i C ,状态j C,都有p(n) 0。所以 闭集的意思是自C的内部不能到达C的外部。意味着一旦质点进入闭集 C中，它将 永远留在C中运动。如果pii 1,则状态i为吸收的。等价于单点i为闭集。3 .马尔可夫链的分解定理：任一马尔可夫链的状态空间 I ,必可唯一地分解成有 限个互不相交的子集D,Ci,C2,L CnL的和，每一个Cn都是常返态组成的不可约闭 集；Cn中的状态同类，或全是正常返态，或全是零常返态，有相同的周期，且f

21、j 1。D是由全体非常返态组成。分解定理说明：状态空间的状态可按常返与非常返分为两类，非常返态组成集合D ,常返态组成一个闭集 C。闭集C又可按互通关系分为若干个互不相交的基本常返闭集Ci,C2,L CnL o 含义：一个马尔可夫链如果从 D中某个非常返态出发，它或者一直停留在D中，或某一时刻进入某个基本常返闭集 Cn , 一旦进入就永不离开。一个马尔可夫链如果从某一 常返态出发，必属于某个基本常返闭集Cn,永远在该闭集Cn中运动。4.有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合。性质：所有非常返态组成的集合不是闭集；没有零常返态；必有正常返态；状态空间I D Ci C2 L Cn,

22、 D是非常返集合， Ci,C2,L Cn是正常返集合。不可约有限马尔可夫链只有正常返态。四.p(n)的渐近性质与平稳分布1.为什么要研究转移概率 p的遍历性？研究pjn)当n时的极限性质，即P Xn j Xo i的极限分布，包含两个问题：一是lim pjn)是否存在；二是如果存在，是否与初始状态有关。这一类问题称作遍 n历性定理。如果对i, j I ,存在不依赖于i的极限lim pijn) pj 0,则称马尔可夫链具有遍 历性。一个不可约的马尔可夫链，如果它的状态是非周期的正常返态，则它就是 一个遍历链。具有遍历性的马尔可夫链，无论系统从哪个状态出发，当转移步数 n充分大时，转移到状态j的概率

23、都近似等于pj,这时可以用pj作为p的近似值。 2.研究平稳分布有什么意义？判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的，可以通过讨论lim p(n)来解决，但求极限时困难的。所以，我们通过研究平稳分布是否存在来 n判别齐次马尔可夫链是否为遍历链。一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布，且平稳分布即极限分布lim pjn) =, j I on3 . Xn，n 0是齐次马尔可夫链，状态空间为 I , 一步转移概率为Pj,概率分布ji pijj,j I称为马尔可夫链的平稳分布，满足 i Ij 1j I4 .定理：不可约非周期马尔可夫链是正常返的充要条件是存在

24、平稳分布，且此平1 稳分布就是极限分布 ,j I o 推论：有限状态的不可约非周期马尔可夫链必存在平稳分布。5 .在工程技术中，当马尔可夫链极限分布存在，它的遍历性表示一个系统经过相 当长时间后达到平衡状态，此时系统各状态的概率分布不随时间而变，也不依赖 于初始状态。6 .对有限马尔可夫链，如果存在正整数 k,使pjk) 0,即k步转移矩阵中没有零 元素，则该链是遍历的。第六章平稳随机过程一.定义(第一章)严平稳过程：有限维分布函数沿时间轴平移时不发生变化。宽平稳过程：满足三个条件：二阶矩过程EX2;均值为常数EX(t)常数; 相关函数只与时间差有关，即 RX(t,t ) E X(t)标)RX

25、( ) o宽平稳过程不一定是严平稳过程，而严平稳过程一定是宽平稳过程。二.联合平稳过程及相关函数的性质1 .定义：设 X(t),t T和X,t T是两个平稳过程，若它们的互相关函数E X(t)Y(t )及E Y(t)X(t )仅与时间差 有关，而与起点t无关，则称X(t)和 Y是联合平稳随机过程。即，RxY(t,t) E X(t)Y(t)Rxy( ) Rx(t，t) E Y(t)xlt)Ryx()当然，当两个平稳过程联合平稳时，其和也是平稳过程。2 .相关函数的性质： Rx(0) 0 ；Rx( ) RTH，对于实平稳过程， Rx()是 偶函数。Rx( ) Rx(0)非负定。若x(t)是周期的，

26、则相关函数Rx()也是周 期的，且周期相同。如果 x(t)是不含周期分量的非周期过程， x(t)与x(t )相 互独立，则 lim Rx ( ) mx mx 0联合平恭!过程 x(t)和 Y(t)的互相关函数，|RxY( ) Rx(0)RY(0) , |RYx( ) Rx (0)RY(0); Rxy( ) Ryx( )。x(t)和Y(t)是实联合平稳过程时，则，Rxy( ) Ryx()。三.随机分析 略四.平稳过程的各态历经性 、一 一 一1T1 .时间均值：x(t).; ljm亓 Tx(t)dt时间相关函数：；x(t)x(t) IJm: TTx(t)x(t一)dt2 .如果(x(t) Ex(

27、t) mx(t)以概率1成立，则称均方连续的平稳过程的均值有 各态历经性。如果(x(t)xii) Ex(t)x/t-) Rx() 以概率1成立，则称均方连续 的平稳过程的相关函数有各态历经性。如果均方连续的平稳过程的均值和相关函数都有各态历经性，则称该平稳过 程是各态历经的或遍历的。一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一 方面也表明Ex(t)与Ex(t)x/t一)必定与t无关，即各态历经过程必是平稳过程。3 .讨论平稳过程的历经性，就是讨论能否在较宽松的条件下，用一个样本函数 去近似计算平稳过程的均值、协方差函数等数字特征，即用时间平均代替统计平 均。 只在一定

28、条件下的平稳过程，才具有各态历经性。4 .均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件 是5 .相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的 充要条件是第七章平稳过程的谱分析 一.平稳过程的谱密度 推导过程:随机过程X(t), t为均方连续过程，作截尾处理XNt)X(t)，t T,由于0, t TXNt)均方可积，所以存在 FT,得 F( ,T) XT(t)e j tdtTTX(t)e j tdt ,利用paserval定理及IFT定义得cT c12、，、一 ,，一 -，一、一一 一一、XT2(t)dtTX2(t)dt |F( ,T)| d该式两边都

29、是随机变量，取平均值，这时不仅要对时间区间T,T取，还要取概率意义下的统计平均，即T c_.、正义ljm E亓TX出为X, t 平均功率。sX()22、.lim E F( ，T)为 X, T 2It功率谱密度，简称谱密度。可以推出当 X(t),212- sX( )d谱密度在频域上的积分。t是均方连续平稳过程时，有说明平稳过程的平均功率等于过程的均方值，或等于2 .平稳过程的谱密度和相关函数构成FT对若平稳随机序列Xn，n 0, 1, 2,L ,则其谱密度和相关函数构成FT对 二.谱密度的性质1 . Sx()是 Rx()的 FT。Sx( )Rx( )e j d如果X(t), t是均方连续的实平稳

30、过程， 有Rx() Rx( ), Sx()是也实的非负偶函数，则sx()是 的有理分式，分母无实根。2 .谱密度的物理含义，Sx()是一个频率函数，从频率域来描绘 X(t)统计规律的数字特征，而X(t)是各种频率简谐波的叠加，Sx()就反映了各种频率成分所具有 的能量大小。3 .计算可以按照定义计算，也可以利用常用的变换对(t)1 12 ( ) eal-a=a 0aRx() ej 0Sx(o)Rx(T)Sx() ej Tsin-1,0 等0,0三.窄带过程及白噪声过程的功率谱密度1 .窄带随机过程：随机过程的谱密度限制在很窄的一段频率范围内2 .白噪声过程：设 X(t), t为实值平稳过程，若

31、它的均值为零，且谱密度在所有的频率范围内为非零的常数，即Sx( ) No,则称X(t), t 为白噪声过程。是平稳过程。其相关函数为Rx( ) No ()。表明在任意两个时刻ti和t2, X(ti)和X(t2)不相关,即白噪声随时间的变换起伏极快，而过程的功率谱极宽，对不同输入频率的信号 都有可能产生干扰。四.联合平稳过程的互谱密度 互谱密度没有明确的物理意义，引入它主要是为了能在频率域上描述两个平稳过程的相关性1 .互谱密度与互相关函数成FT对关系2 .性质SXY()SXY()Sxy()的实部是的偶函数，虚部是的奇函数，Syx()也是。2Sxy( )|Sx( )|Sy( )| ； 若 X(t

32、)和 Y(t)相互正父，有 Rxy( ) 0 ,则SXY( ) SYX ( )00五.平稳过程通过线性系统1 .系统的频率响应函数 H()(也可以写成H(j ) 一般是一个复值函数，是系 统单位脉冲响应的FT。2 .系统输入X(t)为实平稳随机过程，则输出Y(t)也是实平稳随机过程。即输出过程的均值为常数，相关函数是时间差的函数。且有Ry( ) Rxy( ) h( ) Rx( ) h( ) h()说明输出过程的相关函数可以通过两次卷积产生。Rxy( ) Rx( ) h()的应用：给系统一个白噪声过程 X(t),可以从实测的互相关 资料估计线性系统的未知脉冲响应。因为Rx( ) N0 (), R

33、xy( ) Rx( ) h( ) No ( u)h(u)du Noh(),从而 3.输入输出谱密度之间的关系sY( ) |H( )2sX()h( )2 h( )H)称为系统的频率增益因子或频率传输函数。有时，采用时域卷积的方法计算输出的相关函数比较烦琐，可以先计算输出过程的谱密度，然后反FT计算出相关函数。Rx()sY() H( )2sx()Ry()另外 Rxy()Rx()h(),所以 Sxy( ) H()Sx(),Sx( ) H()Sx() 补充：排队轮平均间隔时间=总时间/到达顾客总数平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间平均服务率=顾客总数/服务时间总和一.当顾客到达符合泊松过程时，顾客相继到达的间隔时间 T必