随机过程知识点汇总

1、第一章 随机过程得基本概念与基本类型一. 随机变量及其分布1. 随机变量 , 分布函数 离散型随机变量得概率分布用分布列 分布函数 连续型随机变量得概率分布用概率密度 分布函数2. n 维随机变量 其联合分布函数 F(x) F(x1,x2, ,xn) P(X1 x1,X2 x2, ,Xn xn,) 离散型 联合分布列 连续型 联合概率密度 .随机变量得数字特征 数学期望 : 离散型随机变量连续型随机变量方差 : 反映随机变量取值得离散程度 协方差 (两个随机变量 ): 相关系数 ( 两个随机变量 ):若,则称不相关。独立不相关 .特征函数离散 连续重要性质 :, .常见随机变量得分布列或概率密

2、度、期望、方差 分布 二项分布 泊松分布 均匀分布略 正态分布 指数分布 .维正态随机变量得联合概率密度T12(x a)TB 1(x a)1f (x1,x2 , ,xn)n 1 exp(2 )2 |B |2,正定协方差阵二. 随机过程得基本概念 .随机过程得一般定义设就是概率空间 ,就是给定得参数集 ,若对每个 ,都有一个随机变量与之对应 ,则称随机变量族就是 上得随机过程。简记为。含义 :随机过程就是随机现象得变化过程 ,用一族随机变量才能刻画出这种随机现象得全部统计规 律性。另一方面 ,它就是某种随机实验得结果 ,而实验出现得样本函数就是随机得。当固定时 ,就是随机变量。当固定时 ,时普通

3、函数 ,称为随机过程得一个样本函数或轨道。分类 : 根据参数集与状态空间就是否可列 ,分四类。 也可以根据之间得概率关系分类 ,如独立增量 过程 ,马尔可夫过程 ,平稳过程等。.随机过程得分布律与数字特征 用有限维分布函数族来刻划随机过程得统计规律性。随机过程得一维分布 ,二维分布 ,维分布得 全体称为有限维分布函数族。 随机过程得有限维分布函数族就是随机过程概率特征得完整描述。 在实 际中 ,要知道随机过程得全部有限维分布函数族就是不可能得 ,因此用某些统计特征来取代。( )均值函数 表示随机过程在时刻得平均值。()方差函数表示随机过程在时刻对均值得偏离程度。( )协方差函数 且有( )相关

4、函数 (3)与 (4)表示随机过程在时刻 ,时得线性相关程度。( )互相关函数 :,就是两个二阶距过程 ,则下式称为它们得互协方差函数。,那么 ,称为互相关函数。 若,则称两个随机过程不相关。.复随机过程均值函数 方差函数协方差函数相关函数.常用得随机过程()二阶距过程 :实(或复)随机过程 ,若对每一个 ,都有 (二阶距存在 ),则称该随机过程为二阶距过程。(2) 正交增量过程 :设就是零均值得二阶距过程 ,对任意得 ,有 ,则称该随机过程为正交增量过程。其协方差函数(3) 独立增量过程 :随机过程 ,若对任意正整数 ,以及任意得 ,随机变量就是相互独立得 ,则称就是独立增量 过程。 进一步

5、 ,如就是独立增量过程 ,对任意 ,随机变量得分布仅依赖于 ,则称就是平稳独立增量过 程。(4) 马尔可夫过程 :如果随机过程具有马尔可夫性 ,即对任意正整数及 ,都有P X(tn)xn X(t1)x1,X(tn1)xn1PX(tn)xnX(tn1)xn 1,则则称就是马尔可夫过程。(5) 正态过程 :随机过程 ,若对任意正整数及 ,就是 n维正态随机变量 ,其联合分布函数就是 n 维正态分布函 数,则称就是正态过程或高斯过程。(6) 维纳过程 :就是正态过程得一种特殊情形。设为实随机过程 ,如果 , ;就是平稳独立增量过程 ;对任意增量服从正态分布 ,即。则称为维纳过程 或布朗运动过程。另外

6、 :它就是一个 Markov 过程。因此该过程得当前值就就是做出其未来预测中所需得全部信息。 维纳过程具有独立增量。 该过程在任一时间区间上变化得概率分布独立于其在任一得其她时间区间 上变化得概率。它在任何有限时间上得变化服从正态分布 ,其方差随时间区间得长度呈线性增加。(7) 平稳过程 :严(狭义)平稳过程 :,如果对任意常数与正整数及 ,与有相同得联合分布 ,则称就是严 (狭义)平稳过程。 广义平稳过程 :随机过程 ,如果就是二阶距过程 ;对任意得 , ;对任意 ,或仅与时间差有关。 则满足这 三个条件得随机过程就称为广义平稳过程,或宽平稳过程 ,简称平稳过程。第二章 泊松过程一 .泊松过

7、程得定义 (两种定义方法 ),设随机计数过程 ,其状态仅取非负整数值 ,若满足以下三个条件 ,则称 :就是具有参数得泊松过程。独立增量过程 ,对任意正整数 ,以及任意得相互独立 ,即不同时间间隔得计数相互独立;在任一长度为得区间中 ,事件发生得次数服从参数得得泊松分布,即对任意 ,有,表示单位时间内时间发生得平均个数,也称速率或强度。,设随机计数过程 ,其状态仅取非负整数值 ,若满足以下三个条件 ,则称 :就是具有参数得泊松过程。 独立、平稳增量过程 ;。第三个条件说明 ,在充分小得时间间隔内 ,最多有一个事件发生 ,而不可能有两个或两个以上事件同时发生 ,也称为单跳性。二. 基本性质,数字特

8、征推导过程要非常熟悉 ,表示第事件发生到第次事件发生得时间间隔率密度为 ,分布函数均值为证明过程也要很熟悉三. 非齐次泊松过程 ;独立增量过程 ;。到达时间得分布 到达强度就是得函数 不具有平稳增量性。,就是时间序列 ,随机变量服从参数为得指数分布。概略均值函数定理 :就是具有均值为得非齐次泊松过程,则有P X(t s) X(t) n mX (t s) mX (t) exp mX (t s) mX (t)n!四. 复合泊松过程 设就是强度为得泊松过程 ,就是一列独立同分布得随机变量 ,且与独立 ,令 则称为复合泊松过程。 重要结论 : 就是独立增量过程 ;若 ,则,第五章 马尔可夫链泊松过程

9、就是时间连续状态离散得马氏过程,维纳过程 就是时间状态都连续得马氏过程。时间与状态都离散得马尔可夫过程称为 马尔可夫链。马尔可夫过程得特性 :马尔可夫性或无后效性。 即 :在过程时刻所处得状态为已知得条件下,过程在时刻所处状态得条件分布与过程在时刻之前所处得状态无关。也就就是说,将来只与现在有关 ,而与过去无关。表示为P X(tn)xn X(t1)x1,X(tn 1)xn 1P X(tn )xn X(tn1)xn1一. 马尔可夫链得概念及转移概率1. 定 义 :设 随 机 过 程, 对任意 得 整 数 与任 意 得 , 条 件 概率 满 足P Xn1 in1 X0 i0,X1 i1,XninP

10、 Xn1 in 1Xnin ,则称为马尔可夫链。马尔可夫链得统计特性完全由条件概率所决定。2. 转移概率 相当于随机游动得质点在时刻处于状态得条件下,下一步转移到得概率。 记为。 则称为马尔可夫链在时刻得一步转移概率。若齐次马尔可夫链,则与无关 ,记为。称为系统得一步转移矩阵。性质 : 每个元素 ,每行得与为 1。3. 步转移概率 = ; 称为步转移矩阵。 重要性质 : 称为方程 , 证明中用到条件概率得乘法公式、马尔可夫性、齐次性。j Xm iP Xmi,Xm nP Xm iP Xm i,Xm l k,Xm n j掌握证明方法 :k T P Xm iP Xm npij(n)P Xm i,Xm

11、 l kP Xm i(n l ) pkjP Xm i,Xm l k,Xm n jP Xm i,Xm l k(npkjIl)(m l) pi(kl) (m)pi(kl)kI 说明步转移概率矩阵就是一步转移概率矩阵得次乘方。4. 就是马尔可夫链 ,称为初始概率 ,即 0 时刻状态为得概率 ; 称为绝对概率 ,即时刻状态为得概率。为初始 概率向量 ,为绝对概率向量。定理 :矩阵形式 :定理 : 说明马氏链得有限维分布完全由它得初始概率与一步转移概率所决定。二. 马尔可夫链得状态分类1. 周期 :自某状态出发 ,再返回某状态得所有可能步数最大公约数,即。若 ,则称该状态就是周期得 ;若 ,则称该状态就

12、是非周期得。2. 首中概率 :表示由出发经步首次到达得概率。3. 表示由出发经终于 （迟早要 ） 到达得概率。4. 如果 ,则状态就是常返态 ;如果 ,状态就是非常返 （滑过 ）态。5. 表示由出发再返回到得平均返回时间。若,则称就是正常返态 ;若 ,则称就是零常返态。非周期得正常返态就是遍历状态。6. 状态就是常返充要条件就是 ;状态就是非常返充要条件就是。7. 称状态与互通 ,。如果 ,则她们同为常返态或非常返态 ,;若 ,同为常返态 ,则她们同为正常返态或零常返 态,且,有相同得周期。8. 状态就是遍历状态得充要条件就是。一个不可约得、 非周期得、 有限状态得马尔可夫链就是遍历得。9.

13、要求 :熟悉定义定理 ,能由一步转移概率矩阵画出状态转移图,从而识别各状态。三. 状态空间得分解1. 设就是状态空间得一个闭集 ,如果对任意得状态 ,状态 ,都有 （即从出发经一步转移不能到达 ）,则称为闭 集。如果得状态互通 ,则称就是不可约得。如果状态空间不可约,则马尔可夫链不可约。或者说除了之外没有其她闭集 ,则称马尔可夫链不可约。2. 为闭集得充要条件就是 :对任意得状态 ,状态 ,都有。所以闭集得意思就是自得内部不能到达得外部。 意味着一旦质点进入闭集中 , 它将永远留在中运动。如果 ,则状态为吸收得。等价于单点为闭集。3. 马尔可夫链得分解定理 :任一马尔可夫链得状态空间 ,必可唯

14、一地分解成有限个互不相交得子集得与,每一个都就是常返态组成得不可约闭集;中得状态同类 ,或全就是正常返态 ,或全就是零常返态 ,有相同得周期 ,且。就是由全体非常返态组成。 分解定理说明 :状态空间得状态可按常返与非常返 分为两类 ,非常返态组成集合 ,常返态组成一个闭集。闭集又可按互通关系分为若干个互不相交得基本 常返闭集。含义 :一个马尔可夫链如果从中某个非常返态出发,它或者一直停留在中 ,或某一时刻进入某个基本常返闭集 ,一旦进入就永不离开。一个马尔可夫链如果从某一常返态出发,必属于某个基 本常返闭集 ,永远在该闭集中运动。4. 有限马尔可夫链 : 一个马尔可夫链得状态空间就是一个有限集

15、合。性质 :所有非常返态组成得集合不就是闭集;没有零常返态 ;必有正常返态 ;状态空间 ,就是非常返集合 ,就是正常返集合。不可约有限马尔可夫链只有正常返态。四. 得渐近性质与平稳分布1. 为什么要研究转移概率得遍历性？ 研究当时得极限性质 ,即得极限分布 ,包含两个问题 : 一就是就是否存在 ;二就是如果存在 ,就是否与初 始状态有关。这一类问题称作遍历性定理。如果对 ,存在不依赖于得极限 ,则称马尔可夫链具有遍历性 。 一个不可约得马尔可夫链 ,如果它得 状态就是非周期得正常返态 ,则它就就是一个遍历链。 具有遍历性得马尔可夫链 ,无论系统从哪个状态 出发 ,当转移步数充分大时 ,转移到状

16、态得概率都近似等于 ,这时可以用作为得近似值。2. 研究平稳分布有什么意义？ 判别一个不可约得、非周期得、常返态得马尔可夫链就是否为遍历得,可以通过讨论来解决 ,但求极限时困难得。所以 ,我们通过研究平稳分布就是否存在来判别齐次马尔可夫链就是否为遍历链。一个不 可约非周期常返态得马尔可夫链就是遍历得充要条件就是存在平稳分布,且平稳分布即极限分布 =。3. 就是齐次马尔可夫链 ,状态空间为 ,一步转移概率为 ,概率分布称为马尔可夫链得平稳分布,满足4. 定理 :不可约非周期马尔可夫链就是正常返得充要条件就是存在平稳分布,且此平稳分布就就是极限分布。推论 :有限状态得不可约非周期马尔可夫链必存在平

17、稳分布。5. 在工程技术中 ,当马尔可夫链极限分布存在 ,它得遍历性表示一个系统经过相当长时间后达到平衡状 态 ,此时系统各状态得概率分布不随时间而变,也不依赖于初始状态。6. 对有限马尔可夫链 ,如果存在正整数 ,使 ,即 k 步转移矩阵中没有零元素 ,则该链就是遍历得 。第六章 平稳随机过程一. 定义（第一章）严平稳过程 :有限维分布函数沿时间轴平移时不发生变化。宽平稳过程 :满足三个条件 :二阶矩过程 ;均值为常数常数 ;相关函数只与时间差有关 ,即。 宽平稳过程不一定就是严平稳过程,而严平稳过程一定就是宽平稳过程。二. 联合平稳过程及相关函数得性质1.定义 :设与就是两个平稳过程 ,若

18、它们得 互相关函数 及 仅与时间差有关 ,而与起点无关 ,则称与就是联 合平稳随机过程。即,当然 ,当两个平稳过程联合平稳时 ,其与也就是平稳过程 。.相关函数得性质 : ;,对于实平稳过程 ,就是偶函数。非负定。若就是周期得,则相关函数也就是周期得 ,且周期相同。如果就是不含周期分量得非周期过程,与相互独立 ,则。联合平稳过程与得互相关函数 ,;。与就是 实联合平稳过程时 ,则 ,。三 .随机分析 略四.平稳过程得各态历经性.时间均值时间相关函数 .如果以概率成立 ,则称均方连续得平稳过程得均值有各态历经性。如果 以概率成立 ,则称均方连续得平稳过程得相关函数有各态历经性。 如果均方连续得平

19、稳过程得均值与相关函数都有各态历经性,则称该平稳过程就是各态历经得或遍历得。一方面表明各态历经过程各样本函数得时间平均实际上可以认为就是相同得;另一方面也表明与必定与无关 ,即各态历经过程必就是平稳过程。 .讨论平稳过程得历经性 ,就就是讨论能否在较宽松得条件下,用一个样本函数去近似计算平稳过程得均值、协方差函数等数字特征 ,即用时间平均代替统计平均。只在一定条件下得平稳过程 ,才具有各态历经性。 .均值各态历经性定理 :均方连续得平稳过程得均值具有各态历经得充要条件就是 .相关函数各态历经性定理 :均方连续得平稳过程得相关函数具有各态历经得充要条件就是第七章 平稳过程得谱分析一.平稳过程得谱

20、密度推导过程 :随机过程为均方连续过程 ,作截尾处理 ,由于均方可积 ,所以存在 FT,得,利用 paserval 定理及 IFT 定义得 该式两边都就是随机变量 ,取平均值 ,这时不仅要对时间区间取 ,还要取概率意义下得统计平均 ,即1 T 2 11F2T( ,T)2d112 lTim 2T EF( ,T)2dlTimE 2T TX (t) dt lTim 2E定义为平均功率。为功率谱密度 ,简称谱密度。可以推出当就是 均方连续平稳过程时,有2 1 T 21T22lTimE 2T T X (t) dtlTim2TT E X (t)E X (t)RX (0)说明平稳过程得平均功率等于过程得均方

21、值,或等于谱密度在频域上得积分。 .平稳过程得谱密度与相关函数构成 FT 对。若平稳随机序列 ,则其谱密度与相关函数构成 FT 对二.谱密度得性质 .就是得 FT。 如果就是均方连续得实平稳过程 ,有 ,就是也实得非负偶函数 ,则就是得有理分式 ,分母无实根。 .谱密度得物理含义 ,就是一个频率函数 ,从频率域来描绘统计规律得数字特征,而就是各种频率简谐波得叠加 ,就反映了各种频率成分所具有得能量大小。 .计算可以按照定义计算 ,也可以利用常用得变换对三. 窄带过程及白噪声过程得功率谱密度 .窄带随机过程 :随机过程得谱密度限制在很窄得一段频率范围内。 .白噪声过程 :设为实值平稳过程 ,若它

22、得均值为零 ,且谱密度在所有得频率范围内为非零得常数,即,则称为白噪声过程。 就是平稳过程。其相关函数为。表明在任意两个时刻与,与不相关 ,即白噪声随时间得变换起伏极快 ,而过程得功率谱极宽,对不同输入频率得信号都有可能产生干扰。四. 联合平稳过程得互谱密度 互谱密度没有明确得物理意义 ,引入它主要就是为了能在频率域上描述两个平稳过程得相关性。 .互谱密度与互相关函数成对关系.性质得实部就是得偶函数 ,虚部就是得奇函数 ,也就是。; 若与相互正交 ,有 ,则 。五. 平稳过程通过线性系统 .系统得频率响应函数 （也可以写成 ）一般就是一个复值函数 ,就是系统单位脉冲响应得 FT。 .系统输入为

23、实平稳随机过程 ,则输出也就是实平稳随机过程。即输出过程得均值为常数,相关函数就是时间差得函数。且有说明输出过程得相关函数可以通过两次卷积产生。得应用 :给系统一个白噪声过程 , 可以从实测得互相关资料估计线性系统得未知脉冲响应。因为,从而.输入输出谱密度之间得关系 称为系统得频率增益因子或频率传输函数。有时 ,采用时域卷积得方法计算输出得相关函数比较烦琐,可以先计算输出过程得谱密度,然后反FT 计算出相关函数。另外 ,所以 ,补充 :排队轮平均间隔时间 =总时间 /到达顾客总数平均服务时间 =服务时间总与 / 顾客总数平均到达率 =到达顾客总数 /总时间平均服务率 =顾客总数 /服务时间总与一 .当顾客到达符合泊松过程时 ,顾客相继到达得间隔时间必服从负指数分布。对于泊松分布,表示单位时间平均到达得顾客数 ,所以表示顾客相继到达得平均间隔时间。服务时间符合负指数分布时,设它得概率密度函数与分布函数分别为其中表示单位时间能够服务完得顾客数 ,为服务率 ;而表示一个顾客得平均服务时间。二.排队模型得求解 把系统