随机过程的基本概念c.ppt

随机过程的基本概念,随机过程的定义 随机过程的概率分布 随机过程的统计特性 随机序列及其统计特性 复随机过程 几种重要的随机过程,1 随机过程的定义,随机过程研究随“时间”变化的“动态”的随机现象 随机过程几个例子： 生物群体的生长问题：以 Xt 表示在 t 时刻群体的个数，对每一个 t ，Xt 是一个随机变量。若从 t=0 开始，每隔24小时对群体个数观测一次，则Xt , t =0, 1, 是随机过程。 某电话交换台在时间段0, t内接到的呼叫次数是与 t 有关的随机变量 X (t)，对于固定的 t，X (t) 是一个取非负整数的随机变量。则 X (t), t 0, ) 是随机过程。,随机过程的定义,定义 设（S, , P）是概率空间，T 是给定的参数集，若对每个 t T ，有一个随机变量 X (t, e) 与之对应，则称随机变量族 X (t, e), t T 是（S, , P）上的随机过程，简记为随机过程 X (t), t T 。 T 称为参数集，通常表示时间。,X (t, e) 是定义在 T S 上的二元函数。,状态与样本函数,状态对于固定时刻 t T ，X (t, e) 是（S, , P）上的随机变量，此时把 X (t) 所取的值称为随机过程X (t)在时刻 t 所处的状态。 X (t) 的所有可能状态所构成的集合称为状态空间或相空间，记为I。 样本函数对于固定e ，X (t, e) 是定义在T上的普通函数，称之为随机过程 X (t, e), t T 的一个样本函数或轨道。样本函数的全体称为样本函数空间。,随机过程的四种类型,离散型 随机序列,连续型 随机序列,连续型 随机过程,离散型 随机过程,2 随机过程的概率分布,设 X (t), t T 是随机过程，对任意 t1T 及实数 x1R ， 一维分布函数为,（连续型）一维概率密度函数为,（离散型）一维分布律为,其中：,（1）一维概率分布,（2）二维概率分布,设X (t), t T 是随机过程，对任意 t1, t2T 及实数 x1 , x2 R， 二维分布函数为,（连续型）二维概率密度函数为,（3）n 维概率分布,设 X (t), t T 是随机过程，对任意 t1, t2, , tn T ，及实数 x1 , x2 , xn R， n 维分布函数为 全体有限维分布函数的集合 称为 X (t), t T 的有限维分布函数族。,n 维概率密度函数,相应地，全体有限维概率密度函数的集合 称为随机过程X (t)的有限维概率密度函数族。,3 随机过程的统计特性,设XT =X (t), t T 是随机过程，如果对任意t T，EX (t)存在，则随机过程 XT 的数字特征定义为,均值函数,(自)协方差函数,方差函数,(自)相关函数,均方值函数,几种关系,均值函数 mX (t) 和相关函数 RX (s, t) 是最基本的两个数字特征。 “相关理论”在随机过程理论中，仅研究 mX (t) 和 RX (s, t)有关的理论。,随机过程的特征函数,定义 设随机过程 X (t) 的概率密度函数为f(x, t)，则称 为X (t) 的特征函数。,n 维特征函数：,随机过程的特征函数与自相关函数的关系：,例1,已知随机相位正弦波 X (t) = a cos(t + )，其中 a 0， 为常数，为在（0, 2）内均匀分布的随机变量。 求随机过程 X (t), t (0, ) 的均值函数 mX (t) 和相关函数 RX (s, t) 。,互协方差、互相关函数,设有两个随机过程 X (t), t T 和 Y (t), t T ，,互协方差函数：,互相关函数：,当KXY (s,t) =0时，称X (t), t T 与 Y (t), t T 互不相关 当RXY (s,t) =0时，称X (t), t T 与 Y (t), t T 相互正交,关系式：,例2,设 X (t) 为信号过程，Y (t) 为噪声过程，令W (t) = X (t) + Y (t)，,则 W (t) 的均值函数为,其相关函数为,4 随机序列及其统计特性,设 X (t) 是连续随机过程，如果对t 以周期Ts进行等间隔抽样，即得随机序列 Xn = X (n), n Z 。,均值函数,方差函数,均方值函数,(自)协方差函数,自相关函数,N维随机向量,一个N点的随机序列可以看成是一个N维的随机向量， X = X1, X2, , XNT,均值向量：,协方差矩阵：,自相关矩阵：,自相关阵、协方差阵的性质,对称性 半正定性,其中 A = a1, a2, , aN T 是N维常向量,例 求在0, 1区间均匀分布的独立随机序列的均值向量、自相关阵和协方差阵，设N=3。,解：,Xi 的一维概率密度函数为：,Xi 的均值：,Xi 的自相关函数：,均值向量,自相关阵,协方差阵,5 复随机过程,定义 两个实随机过程： Xt , t T 和 Yt , t T ，如果对于任意 t T，有 Zt = Xt + jYt 则称 Zt , t T 为复随机过程。,复随机过程的数字特征,均值函数：,协方差函数：,方差函数：,相关函数：,均方值函数：,例3,设复随机过程 ，其中A1, A2, , An 是相互独立且服从 N(0, )的随机变量，1, 2, , n 为常数，求 Zt , t 0 的均值函数 mZ (t) 和相关函数 RZ (s, t) 。,6 几种重要的随机过程,二阶矩过程 平稳随机过程 高斯随机过程 增量过程 泊松过程 马尔可夫过程,(1) 二阶矩过程,定义 对于随机过程 X(t), t T ，若对任意 t T ，X(t)的均值和方差都存在，则称 X(t) 为二阶矩过程。,实际上，如果 X (t) 的均方值存在，即 EX2(t) ， 则，均值和方差一定存在。 同时，根据Schwartz不等式， 则，相关和协方差也一定存在。 二阶矩过程的所有二阶矩都存在。,(2) 平稳过程,定义 设 X(t), t T 是随机过程，若对任意常数 和正整数n，t1 , t2 , , tn T ，t1+ , t2+ , , tn+ T ， X(t1), X(t2), , X(tn) 与 X(t1+ ), X(t2+ ), , X(tn+ ) 有相同的联合概率分布，则称X (t), t T 为严平稳过程，也称狭义平稳过程。,广义平稳过程,定义 设 X(t), t T 是随机过程，如果 (1) X(t), t T 是二阶矩过程； (2) 对任意 t T ，mX(t) = EX(t) = 常数； (3) 对任意s , t T ，RX (s, t) = EX(s)X(t) = RX (st) ； 则称 X(t), t T 为广义平稳过程，简称(宽)平稳过程。 若T为离散集，则称平稳过程 X(t), t T 为平稳序列。,(3) 高斯随机过程,定义 设 X(t), t T 是随机过程，若对任意正整数n和t1, t2 , , tn T ， n维随机变量( X (t1), X(t2), , X (tn) )是联合高斯分布的，则称 X (t), t T 为高斯随机过程或正态过程。,其中， X = ( X1, X2, , Xn ) ， m =( m1, , mn )是常向量（均值向量）， K = (Kij )nn 是正定矩阵（协方差矩阵）。,n 维高斯分布：,平稳高斯过程,均值和自相关函数是平稳的，,任意n维联合概率密度函数为,平稳高斯过程 X (t), t T 满足,其中，R是由相关系数rij构成的行列式， Rij是行列式中元素rij构成的代数余子式。,平稳高斯过程的一维、二维概率密度函数,一维概率密度函数,二维概率密度函数,高斯过程的性质,高斯过程完全由它的均值和相关函数（协方差函数）决定； 高斯过程的不相关与独立等价； 高斯过程的宽平稳与严平稳等价； 高斯过程与确定信号之和仍为高斯过程； 若高斯过程X(t), tT在T上均方可微，则其导数过程X(t), tT也是高斯过程； 若高斯过程X(t), tT在T上均方可积，则其积分过程Y(t), tT也是高斯过程。,(4) 增量过程,正交增量过程的协方差函数可以由它的方差确定：,定义 设 X(t), t T 是零均值的二阶矩过程，若对任意的 t1 t2 t3 t4 T ，有 则称 X(t)为正交增量过程。,独立增量过程,定义 设 X(t), t T 是随机过程，若对任意的正整数n和t1 t2 tn T ，随机变量 X(t2)X(t1), X(t3)X(t2), , X(tn)X(tn-1) 是相互独立的，则称 X(t), t T 为独立增量过程，又称可加过程。,平稳独立增量过程,定义 设 X(t), t T 是独立增量随机过程，若对任意 s t，随机变量 X(t)X(s) 的分布仅依赖于 t s，则称 X(t), t T 为平稳独立增量过程。,(5) 泊松过程,定义 设X (t)表示事件在