随机过程知识点

随机过程综述第一章：预备知识1.1概率空间随机测试时，样本空间记录为。定义1.1设是一个集合，F是由的一些子集组成的集合族。如果(1)女性；(2)F，F；(3)如果f，f；f被称为代数(Borel域)。(，f)称为可测空间，f中的元素称为事件。根据定义很容易知道：定义1.2设(，f)是一个可测空间，p()是上定义的实函数。如果那么P是上面的概率，()是概率空间，P(A)是事件A的概率定义1.3让()是一个概率空间，如果有的话，有：它被称为一个独立的事件家族。1.2随机变量及其分布随机变量x、分布函数、n维随机变量或n维随机向量、联合分布函数是独立的。1.3随机变量的数字特征定义1.7将随机变量x的分布函数设置为，如果是这样，它被称为=是x的数学期望或平均值。上面公式右边的积分叫做勒贝格-斯蒂杰斯积分。方差是x和y的协方差，而是x和y的相关系数。如果是，x和y是不相关的。(施瓦茨不等式)如果是这样1.4特征函数、生成函数和拉普拉斯变换定义1。10将随机变量的分布函数设为F(x)，并将其称为是x的特征函数随机变量的特征函数具有以下性质：1(2) g (t)在世界上是一致和连续的。(3)(4)如果随机变量相互独立，则的特征函数为，其中是随机变量的特征函数x，定义1。11被设置为n维随机变量，t=()被调用,是x的特征函数。定义1.12让X为非负整数值随机变量，分布列表然后说道=是x的母函数。1.5 n维正态分布如果n维随机变量的联合概率密度为在公式中，它是一个常数向量和一个正定矩阵，称为n维正态随机变量或服从n维正态分布，并记录为。可以证明，如果，那么的特征函数是为了便于应用，下面我们将给出一些没有证明的常见结论。如果是，属性1。性质2集，如果是正定的，那么。也就是说，正态随机变量的线性变换仍然是正态随机变量。属性3被设置为四维正态随机变量，然后1.6条件期望给定Y=y，x的条件期望值定义为这表明当前的定义与无条件情况完全相同，只是概率是事件y=y的条件概率。E(X|Y=y)是Y的函数，Y是Y的可能值。如果在Y已知的条件下综合考虑X的平均值，则需要用Y代替Y，而E(X|Y)是Y的函数和随机变量，这称为Y下X的条件期望条件期望是概率论、数理统计和随机过程中一个非常重要的概念。这里我们介绍一个非常有用的性质。如果随机变量x和y的期望值存在，则- (1)如果y是一个离散随机变量，上面的公式是如果y是连续的，并且有一个概率密度f(x)，那么(1)就是第二章：随机过程的概念和基本类型2.1随机过程的基本概念定义2.1设()为概率空间，t为给定的参数集。如果有一个随机变量X(t，e)对应于每一个tT，那么这个随机变量族就叫做()的随机过程，简称为随机过程。t被称为参数集，通常代表时间。随机过程通常被解释为一个物理系统。X(t)代表时间t时的状态。X(t)的所有可能状态的集合称为状态空间或相空间，表示为I从数学角度来看，随机过程是定义在t上的二元函数。对于固定t，X(t，e)是定义在t上的一个公共函数，称为样本函数或随机过程的轨道，所有样本函数都称为样本函数空间。2.2随机过程的函数特征=X(t)，tT的有限维分布函数族。有限维特征函数族；其中：定义2.3集的均值函数=X(t)，tT。二阶矩过程，协方差函数：相关函数：定义2.4设X(t)，tT，Y(t)，tT为两个二阶矩过程。交叉协方差函数。22.5定义集，是取两个随机过程的实值，如果有的话,其中，它被称为复杂随机过程。定理2.2复杂随机过程的协方差函数具有性质(1)对称性：(2)非负面表征2.4几个重要的随机过程一、正交增量过程定义2.6将二阶矩过程设置为零均值，如果有任何公式,这被称为正交增量过程。二。独立增量过程定义2.7是一个随机过程。如果任何正整数和随机变量相互独立，则称为独立增量过程，也称为加法过程。定义2.8假设一个固定的独立增量过程。如果任何随机变量的分布只依赖于，它被称为一个平稳的独立增量过程。第三，马尔可夫过程定义2.9被设置为随机过程，如果对于任何正整数n和，及其条件分布=，(2.6)这叫做马尔可夫过程。四.正态过程和维纳过程定义2.10被设置为随机过程。如果任何正整数n和，(，)是一个n维正态随机变量，它被称为正态过程或高斯过程。定义2.11被设置为随机过程，如果(1)；(2)这是一个独立、稳定的增量过程；(3)是的，增量称为维纳过程和布朗运动过程。定理2.3如果设置了带参数的维纳过程，那么(1)任意测试；(2)对于任意、,特别：V.平稳过程定义2.12被设置为随机过程。如果对于任何常数和正整数，具有相同的联合分布，它被称为严格平稳过程，也称为狭义平稳过程。定义2.13是一个随机过程，如果(1)这是一个二阶矩过程；(2)对于任何常数；(3)对于任意性，它被称为广义平稳过程，简称平稳过程。如果t是一个离散的集合，那么平稳过程称为平稳序列。第三章泊松过程3.1泊松过程的定义和示例定义3.1计数过程如果满足以下条件，定义3.2调用参数 0的计数过程泊松过程(1)X(0)=0；(2) X(t)是一个独立的增量过程；(3)在任意长度t的区间内，事件a的发生次数遵循参数t 0的泊松分布，即任意s，t 0，有注意，从条件(3)可知泊松过程是一个平稳的增量过程。因为它代表每单位时间内事件发生的平均次数，所以它被称为这个过程的速率或强度。如果满足以下条件，定义3.3调用参数 0的计数过程泊松过程(1)X(0)=0；(2) X(t)是一个独立稳定的增量过程；(3) X(t)满足以下两个公式：(3.2)定理3.1定义3.2等同于定义3.3。3.2泊松过程的基本性质一、数字特征让它成为泊松过程，常见的泊松过程如下。利用特征函数的定义，泊松过程的特征函数可以得到如下二。时间间隔和等待时间的分布第n个事件A或第n个事件A的等待时间是第n个时间间隔，它们都是随机变量。定理3.2用参数和相应的时间间隔序列来设置泊松分布，那么随机变量是具有独立同分布均值的指数分布。定理3.3被设置为对应于泊松过程的等待时间序列，然后它遵循具有参数n的分布，并且它的概率密度是三。到达时间的条件分布定理3.4被设定为泊松过程。假设事件a在0，t内出现n次，这n次的到达时间具有与对应于均匀分布在n 0，t上的独立随机变量的序列统计量相同的分布。3.3非齐次泊松过程如果满足以下条件，定义3.4将计数过程称为具有跳跃强度函数的非齐次泊松过程：(1)；(2)这是一个独立的增量过程；(3)非齐次泊松过程的平均函数是：定理3.5被设定为一个具有均值函数的非齐次泊松过程，然后有或者上述公式表明，它不仅是一个函数，也是一个函数。3.4复合泊松过程定义3.5是一个具有强度的泊松过程，它是一系列独立的同分布随机变量，并且独立于这叫做复合泊松过程。定理3.6如果过程是复合泊松过程，那么.这是一个独立的增量过程。(2)x(t)的特征函数，其中是随机变量的特征函数；是事件的到达率。(3)如果是第四章马尔可夫链4.1马尔可夫链和转移概率的概念一，马氏链的定义定义1提供了一个随机过程，如果对于任何整数和任何整数，满足条件概率它被称为马尔可夫链，简称马尔可夫链。第二，转移概率定义两次呼叫条件概率是马氏链在时间n的一步转移概率，简称为转移概率。定义3如果一个马氏链的转移概率独立于任何一个的N，那么这个马氏链就是齐次的，并且被记录为。定义4标度条件概率是马尔可夫链的n步转移概率，定理1被设定为马尔可夫链。对于任何整数和，N步转移概率具有以下属性：定义5被设置为马尔可夫链，称为对于初始概率和绝对概率，分别称为初始分布和绝对分布之和，简称和。定理2被设置为马尔可夫链，对于任意和，绝对概率具有以下性质：定理3被设置为马尔可夫链，对于任何和，都有4.2马氏链的状态分类一、国家分类假设一个齐次马尔可夫链，它的状态空间，转移概率和初始分布是。定义4.6如果集合不是空的，集合的最大公约数称为状态的周期。这叫做周期性，这叫做非周期性。(如果每个不可整除的整数都有=0，并且它是具有此属性的最大正整数，则称为状态的周期。)引理4.1如果引理4.1的周期是d，那么就有一个正整数m。定义记录(4.15)据说是系统在从0开始的阶跃转换之后第一次到达状态的概率，而据说是系统在从0开始的有限阶跃转换内不会到达状态的概率。我们将统称为第一到达概率(也称为第一中间概率)。引理(1)(2)首次到达概率可用一步转移概率表示：定义4.7如果=1，该状态称为循环；如果是1，那么这个状态就是非常返回。定义4.8如果，那么复发状态是正常的；例如，据说递归状态为零，非周期正常递归状态称为遍历状态。从状态是否频繁返回、返回是否正常、返回是否正常、返回是否正常、是否不定期三个层次来看，状态分为以下几种类型：与以下方面有关系：定理4.4对于任何状态，以及(4.16)引理4.2第二，递归状态的性质及其性质定理4.5状态递归的充分必要条件是(4.18)如果你经常回来，那么定理4.7如果有一个循环和一个周期d，那么。(4.26)的平均返回时间在哪里？当时，推理集反复出现，然后(1)零递归；(2)遍历。定理4.8可达性关系和互通性关系是可传递的，即如果，那么；如果，那么。定理4.9如果，那么(1)并且都是复发或非复发的，如果它们是复发的，它们都是正常的或零复发的；(2)并且具有相同的周期。4.3状态空间的分解定义4.9状态空间I的子集C被称为(随机)闭集，例如对于任何和所有。闭集C被称为不可约集，例如，C的状态相互通信。马氏链被称为不可约的，例如，它们的状态空间是不可约的。引理4.4 C是一个闭集，当且仅当它对于任意和kC具有=0，n1。状态1称为吸收，例如=1。显然，状态吸收相当于一个点集是一个闭集。定理4.10任何马氏链的状态空间可以唯一地分解成有限个或可数个不相交子集的和，使得(1)每个都是递归状态的不可约闭集。(2)在同一状态下，或全部正常返回，或全部零递归。他们有相同的时期和。 D由所有异常返回状态组成。来自的状态无法到达d中的状态。定义4.10称矩阵()为随机矩阵，如果它的元素是非负的并且每个元素都有=1。显然，K阶转移矩阵=()是一个随机矩阵。引理4.5集C为闭集，G=()，J C是在C上得到的k阶转移子矩阵(即对应于C)，那么G仍然是一个随机矩阵。定理4.11周期为d的不可约马氏链的状态空间可以唯一地分解为不相交子集的和，即(4.31)此外，从系统中的任何状态开始，它必须通过一步转移进入系统(其中)。定理4.12被设置为带周期的不可约马氏链，那么在定理4.11的结论下有(1)如果只考虑时间，可以得到一个新的马尔可夫链，其转移矩阵是不可约闭集，其状态是非周期的。(2)如果原始马尔可夫链经常返回，它也经常返回。4.4的渐近性质和平稳分布一、的渐近性质定理4.13如果J是非常递归的或零递归的，那么=0，(4.33)推论1有限马尔可夫链不能是所有的非递归状态