随机过程知识点汇总

1、第一章随机过程的基本概念与基本类型一.随机变量及其分布1 .随机变量x,分布函数f(x)=p(x x)离散型随机变量 x的概率分布用分布列pk=p(x=xk)分布函数f(x)=z pkx连续型随机变量 x的概率分布用概率密度 f(x)分布函数f(x)=j f(t)dt2 . n维随机变量x =(xi,x2，xn)其联合分布函数 f(x) = f(x1,x2，xn) = p(x1mxi,x2 x2, ,xn 011指数分布f(x) = j ,xex =1dx =20, x 0九九6. n维正态随机变量 x =(x1,x2，xn)的联合概率密度 xn(a, b)11t 1 ,f (xi,x2, ,

2、xn) =n-exp-(x - a) b (x-a)_2(2二)2 |b|2a =(a1，a2,，an), x = (x1，x?，xn) , b = (bj )n 正定协方差阵二.随机过程的基本概念1 .随机过程的一般定义设(c,p)是概率空间，t是给定的参数集，若对每个t w t ,都有一个随机变量 x与之对应,则称随机变量族x(t,e),t wt)是(。，p)上的随机过程。简记为 仅/毛丁。含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。当t固定时，x(t,e)是随机变量。当e固定时，

3、x(t,e)时普通函数，称为随机过程的一个样本函数或轨道。分类：根据参数集 t和状态空间i是否可列，分四类。也可以根据x(t)之间的概率关系分类,如独立增量过程，马尔可夫过程，平稳过程等。2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。随机过程(x (t), t w t 的一维分布，二维分布，n维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征 的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征 来取代。(1)均值函数 mx (t) = ex (t)表示随机过程x(t),t w t在时刻t的平均值。

4、(2)方差函数 dx(t) = ex(t)-mx(t)2表示随机过程在时刻t对均值的偏离程度。bx(s,t) = e(x(s) -mx(s)(x(t) -mx(t)(3 )协方差函数且有bx (t,t) = dx (t)= ex(s)x(t)小(即。)(4)相关函数rx (s,t) =ex(s)x(t) (3)和(4)表示随机过程在时刻s, t时的线性相关程度。(5)互相关函数：x(t),twtl v(t),t = t 是两个二阶距过程，则下式称为它们的互协方差函数。bxy(s,t) =e(x(s) -mx(s)(y(t)川)，那么rxy(s,t) = ex(s)y,称为互相关函数。= ex(

5、s)y(t)皿(所丫代)若ex(s)y(t) =mx (s)my (t),则称两个随机过程不相关。3 .复随机过程zt=xt jyt均值函数mz (t) = ext + jeyt方差函数2dz(t) =e|zt -mz(t)|2 = e(zt -mz(t)(zt -mz(t)bz (s, t) = e(zs - mz (s)(zt -mz(t)协方差函数_ 相关函数rz(s,t) = ezszt=ezsz-mz(s)mz4 .常用的随机过程(1)二阶距过程：实(或复)随机过程1x(t),twt,若对每一个twt,都有ex(t)2 00 (二阶距存在)，则称该随机过程为二阶距过程。(2)正交增量

6、过程：设 k(t),t = t 是零均值的二阶距过程，对任意的t1 t2ct3 t4亡丁，有e(x(t2) x(t1)(x(t4) x(t3) = 0,则称该随机过程为正交增量过程。其协方差函数 bx (s,t) = rx (s,t) = ；： x(min(s,t)(3)独立增量过程：随机过程x(t),t wt ,若对任意正整数n22,以及任意的t1 t2 l tnwt, 随机变量x(t2) x(t)x(t4) x(t3),，x(tn)x(tn)是相互独立的，则称x(t),t乏t 是独立 增量过程。进一步，如x(t),tw丁是独立增量过程，对任意 set,随机变量x(t)-x(s)的分布仅依赖

7、于t -s,则称x(t),t乏丁是平稳独立增量过程。(4)马尔可夫过程：如果随机过程权,tt)具有马尔可夫性，即对任意正整数n及t1 夫 - * 0,都有p 权(tn)a x(tj =xi，x(tnj =xn/= px(tn) j x&j = j 则则称(x(t),h t)是马尔可夫过程。若对任意正整数n及t1,t2，tn w t(5)正态过程：随机过程小。),躇丁,(x(ti),x(t2)x(tn)是n维正态随机变量，其联合分布函数是n维正态分布函数，则称x(t),t w t )是正态过程或高斯过程。(6)维纳过程：是正态过程的一种特殊情形。设 w(t),，t 0 。则 称w(t),g t为

8、维纳过程，或布朗运动过程。另外：它是一个 markov过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。(7)平稳过程：严(狭义)平稳过程：x(t),twt,如果对任意常数工和正整数n及t1,t2，tn w t ,tl +3t2 +z1tn +mt , (x(ti),x(t2)x3)与(x，+ 酎?仁 +x (* +工)有相同的联合分布，则称 x(t),t wt 是严(狭义)平稳过程。广义平稳过程：随机过程x(t)

9、,twt,如果x(t),tw丁是二阶距过程；对任意的twt ,mx (t) = ex(t)=常数；对任意 s, t, rx(s,t) = ex(s)x(t) = rx(t s),或仅与时间差t-s有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。第二章泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程x(t), t之0,其状态仅取非负整数值， 若满足以下三个条件，则称：1x(t),tw 丁是具有参数 九的泊松过程。x (0) =0 ；独立 增量过程，对任 意正整 数n ,以及任 意的t1 t20 ,有 px (t+s)x (s) =n = es (n =

10、0,1,111n!e x (t) = kt,九=ex(t) ,表示单位时间内时间a发生的平均个数，也称速率或强度。2,设随机计数过程x (t), t至0,其状态仅取非负整数值，若满足以下三个条件，则称：x (t), t至0是具有参数人的泊松过程。 x (0) = 0 ;独立、平稳增量过程；p ix (t h) x (t) =1 ： - h o(h)4 op ix (t h) x (t)-2； - o(h)第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同 时发生，也称为单跳性。二.基本性质 s( t 1) s tmx(t 曰 x (t) = t = d x

11、 rx(a to s 1) s.tbx (s, t) = rx (s,t) -mx (s)mx (t) = m min(s,t)推导过程要非常熟悉2,表示第n -1事件a发生到第n次事件发生的时间间隔，tn, n之1是时间序列，随机变量 服从参数为人的指数分布。概率密度为-e-1 f (t)=0,t _0t 二 0,分布函数ft (t)1-e,t -0 _, 均值0, t：0为etn证明过程也要很熟悉 三.非齐次泊松过程到达时间的分布略到达强度是t的函数p ix(t h) x (t)=1；i(t)h o(h)不具有平稳增量x (0) =0；独立增量过程； 。p1x (t h) x (t) 2o

12、(h)性。t 均值函数 mx (t) =ex (t) = o (s)ds定理：x (t), t之0是具有均值为 mx (t) = j 7s)ds的非齐次泊松过程，则有p ：x (ts)x(t)=n； j mx( ts)-mx(t)expi- mx (ts)mx (t)n!四.复合泊松过程设n (t), t之0是强度为 九的泊松过程，yk, k =1,2,1是一列独立同分布的随机变量，且与n (t)n (t), t之0独立，令x (t)= z yk则称x (t),t之。为复合泊松过程。k 1重要结论：x(t), t之0是独立增量过程；若e(y12) 6 ,则e x (t印 te1( y,)2d

13、x (t) = te (y12)第五章马尔可夫链泊松过程 是时间连续状态离散的马氏过程，维纳过程 是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为 马尔可夫链。马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻t0所处的状态为已知的条件下，过程在时刻t at。所处状态的条件分布与过程在时刻to之前所处的状态无关。也就是说，将来只与现在 有 关， 而 与 过 去 无 关。 表 示 为px(3)x(ti) =xi，x(tn)=%/= px(tn) 4 x。=io,xi =ii,|,xn =in) = pxni=in4i xn = in,则称 x n , n= t )为马尔可夫链

14、。马尔可夫链的统计特性完全由条件概率pxn$ = in书|xn =)所决定。2 .转移概率pxn噂= j|xn =i 相当于随机游动的质点在时刻n处于状态i的条件下，下一步转移到j的概率。记为pij (n)。则pj (n) = pxn+=j xn = i 称为马尔可夫链在时刻 n的一步转移概率。若齐次马尔可夫链，则pj(n)与n无关，记为pij。p=pji,jwi i =1,2,1”称为系统的一步转移矩阵。性质：每个元素pj 0,每行的和为1。3 . n步转移概率 pij(n)=pxm=j xm=i ； p=pij(n)i,jw| i =1,2,|称为 n步转移矩阵。重要性质：pij(n) =

15、l pjdpj)称为c-k方程，证明中用到条件概率的乘法公式、马尔可夫 ki性、齐次性。pjn) =pxm =j x. pixm =i,xmn = j)m“二pt、plxm =i,xm.| =k,xm.n = j ：，掌握证明方法：7日兀=仃=zktpixm =i,xml =k)p：xm =i)pxm =i,xm.| =k,xm.n = j：，p、= i,xm .| = k ：，一 (n -l)(l)(l) (n -l)=pk pkj (m l) pik (m) =，pikpkjk=ip=pn说明n步转移概率矩阵是一步转移概率矩阵的n次乘方。4 . xn ,nwt是马尔可夫链，称 pj = p

16、x0 = j为初始概率，即 0时刻状态为j的概率；称 pj(n) =pxn = j为绝对概率，即n时刻状态为j的概率。pt(0)=pi,p2,|m为初始概率向量， pt(n) =r(n), p2(n),|为绝对概率向量。定理： pj(n)= pip：)矩阵形式：pt(n) = pt(0)p(n) pj(n)= pi(n1)角 i i闫定理：px1 =i1,x2 =i2, |,xn =in= pipijilpy说明马氏链的有限维分布完全由它的初i i1始概率和一步转移概率所决定。二.马尔可夫链的状态分类1 .周期：自某状态出发，再返回某状态的所有可能步数最大公约数，即 d =gc dn: pii

17、n) 0)o若 d 1 ,则称该状态是周期的；若 d =1 ,则称该状态是非周期的。2 .首中概率：fj(n)表示由i出发经n步首次到达j的概率。od3 . % = fj)表示由i出发经终于(迟早要)到达j的概率。n 14 .如果fii =1 ,则状态i是常返态；如果fii 1 ,状态i是非常返(滑过)态。5 .片= nfii(n)表示由i出发再返回到i的平均返回时间。若与 0 。 一个不可约的、非周期的、有限状态的马尔可 nt： iiji夫链是遍历的。9 .要求：熟悉定义定理，能由一步转移概率矩阵画出状态转移图，从而识别各状态。三.状态空间的分解1 .设c是状态空间i的一个闭集，如果对任意的

18、状态 i乏c ,状态j正c ,都有pj = 0 (即从i出发经一步转移不能到达 j ),则称c为闭集。如果c的状态互通，则称 c是不可约的。如果状态空间不可约，则马尔可夫链xn,nw t不可约。或者说除了c之外没有其他闭集，则称马尔可夫链xn,nwt 不可约。2 . c为闭集的充要条件是：对任意的状态i w c ,状态j贵c，都有p：n) = 0。所以闭集的意思是自c的内部不能到达 c的外部。意味着一旦质点进入闭集c中，它将永远留在 c中运动。如果p =1,则状态i为吸收的。等价于单点 由为闭集。3 .马尔可夫链的分解定理：任一马尔可夫链的状态空间i ,必可唯一地分解成有限个互不相交的子集d，

19、g，c2|cn|的和，每一个cn都是常返态组成的不可约闭集；cn中的状态同类，或全是正常返态，或全是零常返态，有相同的周期，且 fj =1。d是由全体非常返态组成。分解定理说明：状态空间的状态可按常返与非常返分为两类，非常返态组成集合d,常返态组成一个闭集 c。闭集c又可按互通关系分为若干个互不相交的基本常返闭集c1,c2,|cn|含义:一个马尔可夫链如果从d中某个非常返态出发，它或者一直停留在d中，或某一时刻进入某个基本常返闭集cn, 一旦进入就永不离开。一个马尔可夫链如果从某一常返态出发，必属于某个基本常返闭集cn,永远在该闭集 cn中运动。4 .有限马尔可夫链：一个马尔可夫链的状态空间是

20、一个有限集合。性质：所有非常返态组成的集合不是闭集；没有零常返态；必有正常返态；状态空间i =d +ci +c2 +ltl+cn , d是非常返集合，c1,c2,lllcn是正常返集合。不可约有限马尔可夫链只有正常返态。四.pijn)的渐近性质与平稳分布1 .为什么要研究转移概率pi(n)的遍历性?研究p当ntr时的极限性质，即pxn = j xo =i的极限分布，包含两个问题：一是 lim p(n) jn-sc是否存在；二是如果存在，是否与初始状态有关。这一类问题称作遍历性定理。如果对i, j w i ,存在不依赖于i的极限lim pjn) = pj 0,则称马尔可夫链具有遍历性。一个n ：

21、不可约的马尔可夫链，如果它的状态是非周期的正常返态，则它就是一个遍历链。具有遍历性的马尔可夫链，无论系统从哪个状态出发，当转移步数n充分大时，转移到状态 j的概率都近似等于 小，这时可以用口作为pijn)的近似值。2 .研究平稳分布有什么意义？判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的，可以通过讨论lim pi(n)来解决，n ?但求极限时困难的。所以，我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链。一 个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布，且平稳分布即极限分布lim pjn) n j3 . xn,n 0是齐次马尔可夫链，状态空间为i ,

22、 一步转移概率为pij，概率分布nj,j w i称为, , j = , i pij马尔可夫链的平稳分布，满足i i j =1 j i4 .定理：不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布，且此平稳分布就是极限分-1布 ，jui。 推论：有限状态的不可约非周期马尔可夫链必存在平稳分布。j5 .在工程技术中，当马尔可夫链极限分布存在，它的遍历性表示一个系统经过相当长时间后达到平 衡状态，此时系统各状态的概率分布不随时间而变，也不依赖于初始状态。6 .对有限马尔可夫链，如果存在正整数k ,使pijk) a0,即k步转移矩阵中没有零元素，则该链是遍历的。第六章平稳随机过程一.定义(第一章)

23、严平稳过程：有限维分布函数沿时间轴平移时不发生变化。、一 一 一一 ，一 一 , 一一2宽平稳过程：满足三个条件：二阶矩过程e x(t) rx(t),对于实平稳过程，rx (d是偶函数。rx (t)| wrx(0)非负定。若x(t)是周期的，则相关函数 rx(t)也是周期的，且周期相同。如 果x(t)是不含周期分量的非周期过程，x(t)与x(t+t)相互独立，则ljm rxg) = mxmx。联合平稳过程 x(t)和 y(t)的互相关函数，|rxy(t) erx(0)ry(0) , |rx(d erx(0)ry(0);rxy(t) =rx(7)。 x(t)和 y(t)是实联合平稳过程时，则，r

24、xy(t)= ryx(d。三.随机分析 略四.平稳过程的各态历经性1 t1 .时间均值.x(t). =ijm亓 x(t)dt时间相关函数(x(t)x(t -s)= lflmt1；x(t)x(t -t)dt2 .如果(x(t) =ex(t) =mx(t)以概率1成立，则称均方连续的平稳过程的均值有各态历经性。如果(x(t)x(t d)= ex(t)x(t d =rx(e)以概率1成立，则称均方连续的平稳过程的相关函数有各态历经性。如果均方连续的平稳过程的均值和相关函数都有各态历经性，则称该平稳过程是各态历经的或遍历的。一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一方面也表

25、明ex(t)与ex(t)x(t t)必定与t无关，即各态历经过程必是平稳过程。3 .讨论平稳过程的历经性，就是讨论能否在较宽松的条件下，用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征，即用时间平均代替统计平均。只在一定条件下的平稳过程，才具有各态历经性。4 .均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件是1 2t 二亓口。n2t2)(rx(t)mx 必=0定义2fmesx( )1=ltm2?e- f(0,t)2 i为 ix(t), q t g功率谱密度,简称谱密度。5 .相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是口“； c(

26、1-，)b(%)rx&)2m =0 bn) =ex(t)x(j)x(一)x(j &)第七章平稳过程的谱分析一.平稳过程的谱密度推导过程：随机过程x(t),笛t为均方连续过程，作截尾处理xt(t) =!x(t), t *t ,由于xt(t)均方0, t ttt可积，所以存在 ft,得f,t) = x xt(t)ej%t = f x(t)e *dt ,利用paserval定理及ift定义.t得 - tt1二-2f xt2(t)dt = x2(t)dt=jf(,t) d 该式两边都是随机变量，取平均值，这时不仅要. t27对时间区间-t,t取，还要取概率意义下的统计平均，即1 t 2 i1a 1 2

27、1a 1 彳21ltm，/ 一dtfm萩le历(露t) d=27lltm27e!f6t) d”1t 一,ix2(t) dt为x(t),t g平均功率。_2t 二可以推出当x(t),-8 t 8是均方连续平稳过程 时，有甲2 fme u lx21=um 2t l e x2(t)j=e)2卜心.c 1 二 w2=j sx ()d说明平稳过程的平均功率等于过程的均方值，或等于谱密度在频域上2 二-二的积分。2 .平稳过程的谱密度和相关函数构成ft对。1 二j.、二,j、rx()=sx( )e d sx( 1 )=rx (e ) d2 二 31-co若平稳随机序列xn，n =0,1,工2,|“,则其谱

28、密度和相关函数构成ft对1 二inrx(n) =sx( )e d sx ( ) 二.rx n(e)2 二-二n.二二.谱密度的性质qq1 . sx 侬)是 rx 的 ft。sx 侬)=rx (t)ej%t0o如果x(t), 3t0 7修乌0 +a282cos( 0 ) 、(；0) ；二0) sin( 0 ) f ( ； ：0) - (- ：- 0)_ jj. t sin 0 -11rx() e ，sx( 一 0)rx(t卜sx()e r：j 0三.窄带过程及白噪声过程的功率谱密度1 .窄带随机过程：随机过程的谱密度限制在很窄的一段频率范围内。2 .白噪声过程：设x(t), q t 的为实值平稳

29、过程，若它的均值为零，且谱密度在所有的频率范围内为非零白常数，即sxg) = n0,则称x(t),- t 芯为白噪声过程。是平稳过程。其相关函数为rx(7) =n06(t)。表明在任意两个时刻t1和t2, x(t1)和x(t2)不相关，即白噪声随时间的变换起伏极快，而过程的功率谱极宽，对不同输入频率的信号都有可能产生干扰。四.联合平稳过程的互谱密度互谱密度没有明确的物理意义，引入它主要是为了能在频率域上描述两个平稳过程的相关性。1 .互谱密度与互相关函数成ft对关系rxy( ) =sxy( jejd -ooryx ( ) =2 .性质2 二-syx( )ej d .2 二-二sx y片厂r x

30、“智d d-oo，卜” r 丫 / 一5dsxy(0)=sxy(0) sxy(m)的实部是8的偶函数，虚部是 缶的奇函数，sx (切)也是。,2sxy9) |sx(w)|sy();若 x(t)和 y(t)相互正交，有 rxy(d=0 ,则 sxy = 5(4 总 。五.平稳过程通过线性系统1 .系统的频率响应函数h侬)(也可以写成 h(j8) 一般是一个复值函数，是系统单位脉冲响应的ft。h( ) - i-h(t)e tdth(t) - - h( )ej td ，：2二-二2 .系统输入x(t)为实平稳随机过程，则输出y(t)也是实平稳随机过程。即输出过程的均值为常数，相关函数是时间差的函数。

31、且有ry( ) -rxy(.) h(- ) -rx( ) h( ) h(- )说明输出过程的相关函数可以通过两次卷积产生。rxyg) =rxg)wh。)的应用：给系统一个白噪声过程x(t),可以从实测的互相关资料估计线性 系 统 的 未 知 脉 冲 响 应。 因 为rx(t) = n06(t),qqrxyg) = rx (9 * h() = f n06h -u)h(u)du = noh(i),从而h()二ry no23 .输入输出谱密度之间的关系sy(6 )= h穴 sx ()2h =h(0)h(0)称为系统的频率增益因子或频率传输函数。有时，采用时域卷积的方法计算输出的相关函数比较烦琐，可以

32、先计算输出过程的谱密度，然后2反 ft 计算出相关函数。rx(7)t sy(8) =|h(&) sx9)t ry(t)另外 rxy(d =rx *h()所以 sxy)=h sx ,sx) = h)sx)补充：排队轮平均间隔时间=总时间/到达顾客总数平均服务时间=服务时间总和/顾客总数平均到达率=到达顾客总数/总时间平均服务率=顾客总数/服务时间总和一.当顾客到达符合泊松过程时，顾客相继到达的间隔时间t必服从负指数分布。对于泊松分布,1表本单位时间平均到达的顾客数，所以,表小顾客相继到达的平均间隔时间。儿服务时间符合负指数分布时，设它的概率密度函数和分布函数分别为f(t) =.卡f(t)= pt t = ne+dt =-iqde-其中n表示单位时间能够服务完的顾客数，为服务=1 .e-w_ _ 1 .* _率；而1表不一个顾客的平均服务时间。二.排队模型的求解把系统中的顾客数称为系统的状态。若系统中有n个顾客，则称系统的状态是 n。瞬态和稳态：考虑在t时刻系统的状态为 n的概率，它是随时刻t而变化的，用pn(t)表