通信原理_第3讲_随机过程(1)

1、第1页2021-8-9第2页2021-8-93.1 随机过程的基本概念随机过程的基本概念3.2 平稳随机过程平稳随机过程3.3 高斯随机过程高斯随机过程3.4 平稳随机过程通过线性系统平稳随机过程通过线性系统3.5 窄带随机过程窄带随机过程3.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声3.7 高斯白噪声和带限白噪声高斯白噪声和带限白噪声3.8 小结小结第3页2021-8-9为什么要学习随机过程？信号信号是不可预知的，有一定的随机性，否则失去了传输的是不可预知的，有一定的随机性，否则失去了传输的价值；价值；噪声噪声是随机的，例如热噪声；是随机的，例如热噪声；信号的信号的传输特性传输特性，例如移

2、动通信：电磁波的传播路径不断，例如移动通信：电磁波的传播路径不断变化，接收信号变化，接收信号随机变化随机变化。信号信号、噪声噪声、信道传输特性信道传输特性都是随机变化的！都是随机变化的！第4页2021-8-9本章重点：随机过程的分布函数随机过程的分布函数随机过程的数字特征随机过程的数字特征几种重要随机过程的统计特性几种重要随机过程的统计特性（平稳随机过程；高斯随机（平稳随机过程；高斯随机过程；窄带随机过程；正弦波加窄带高斯噪声；高斯白噪过程；窄带随机过程；正弦波加窄带高斯噪声；高斯白噪声；带限白噪声）声；带限白噪声）随机过程通过线性系统随机过程通过线性系统第5页2021-8-9一、一、概率及随

3、机变量概率及随机变量二、二、随机过程的定义与描述随机过程的定义与描述三、三、随机过程的分布函数与概率密度函数随机过程的分布函数与概率密度函数四、四、随机过程的数字特征随机过程的数字特征第6页2021-8-9一、概率及随机变量一、概率及随机变量第7页2021-8-9什么是随机过程什么是随机过程？ 随机过程是一类随时间作随机变化的过程，它不能用确随机过程是一类随时间作随机变化的过程，它不能用确切的时间函数描述。可从两种不同角度看：切的时间函数描述。可从两种不同角度看：二、随机过程的定义与描述二、随机过程的定义与描述第8页2021-8-9 角度角度1：对应不同随机试验结果的时间过程的集合。对应不同随

4、机试验结果的时间过程的集合。【例【例】n 台示波器同时观测并记录这台示波器同时观测并记录这 n 台接收机的输出噪声波形台接收机的输出噪声波形 样本函数样本函数 xi(t)：随机过程的一次实现，是确定的时间函数。随机过程的一次实现，是确定的时间函数。 随机过程随机过程： (t) =x1(t), x2(t), , xn(t) 是全部样本函数的集合。是全部样本函数的集合。二、随机过程的定义与描述二、随机过程的定义与描述噪声电压随时间的噪声电压随时间的变化不可预知！变化不可预知！随机过程是一随机过程是一个函数簇！个函数簇！第9页2021-8-9 角度角度2：随机过程是随机变量概念的延伸。随机过程是随机

5、变量概念的延伸。q 在任一给定时刻在任一给定时刻 t1 上，每一个样本函数上，每一个样本函数 xi(t) 都是一个确定的数值都是一个确定的数值xi(t1)，但是每个，但是每个 xi(t1) 都是不可预知的。都是不可预知的。q 在一个固定时刻在一个固定时刻 t1 上，不同样本的取值上，不同样本的取值 xi(t1), i = 1, 2, , n 是一是一个随机变量，记为个随机变量，记为 (t1)。q 随机过程在任意时刻的值是一个随机变量。随机过程在任意时刻的值是一个随机变量。q 我们又可以我们又可以把随机过程看作是在时间进程中处于不同时刻的随机变把随机过程看作是在时间进程中处于不同时刻的随机变量的

6、集合量的集合。q 这个角度更适合对随机过程理论进行精确的数学描述这个角度更适合对随机过程理论进行精确的数学描述。二、随机过程的定义与描述二、随机过程的定义与描述第10页2021-8-9 角度角度2：随机过程是随机变量概念的延伸。随机过程是随机变量概念的延伸。二、随机过程的定义与描述二、随机过程的定义与描述第11页2021-8-9随机过程的特点：随机过程与随机变量随机过程与随机变量：两者是相似的，不同之处在于随机两者是相似的，不同之处在于随机变量的样本空间是一个实数的集合；变量的样本空间是一个实数的集合；随机过程的样本空间随机过程的样本空间是一个时间函数集合是一个时间函数集合。随机过程的特点随机

7、过程的特点：随机过程兼有随机过程兼有随机变量随机变量和和时间函数时间函数的特的特点：就某一瞬间来看，它是一个随机变量；就它的一个样点：就某一瞬间来看，它是一个随机变量；就它的一个样本来看，则是一个时间函数。本来看，则是一个时间函数。二、随机过程的定义与描述二、随机过程的定义与描述第12页2021-8-9设设 (t) 表示一个随机过程，则它在任意时刻表示一个随机过程，则它在任意时刻 t1 的值的值 (t1)是一个随机变量，其统计特性可以用分布函数或概率密度是一个随机变量，其统计特性可以用分布函数或概率密度函数来描述。函数来描述。 (1) 随机过程随机过程 (t) 的一维分布函数：的一维分布函数：

8、 (2) 随机过程随机过程 (t) 的一维概率密度函数：的一维概率密度函数： （若式中的偏导存在的话）（若式中的偏导存在的话）三、随机过程的分布函数与概率密度函数三、随机过程的分布函数与概率密度函数)(),(11111xtPtxF 1111111),(),(xtxFtxf 第13页2021-8-9对任意固定的对任意固定的 t1 和和 t2 时刻：时刻： (3) 随机过程随机过程 (t) 的二维分布函数：的二维分布函数： (4) 随机过程随机过程 (t) 的二维概率密度函数：的二维概率密度函数： （若式中的偏导存在的话）（若式中的偏导存在的话）三、随机过程的分布函数与概率密度函数三、随机过程的分

9、布函数与概率密度函数 221121212)(,)() ,;,(xtxtPttxxF 2121212221212),;,(),;,(xxttxxFttxxf 第14页2021-8-9任意给定任意给定 t1, t2, , tnT： (5) 随机过程随机过程 (t) 的的 n 维分布函数：维分布函数： (6) 随机过程随机过程 (t) 的的 n 维概率密度函数：维概率密度函数： n越大，对随机过程统计特性的描述就越充分越大，对随机过程统计特性的描述就越充分。三、随机过程的分布函数与概率密度函数三、随机过程的分布函数与概率密度函数 nnnnnxtxtxtPtttxxxF )(,)(,)(),;,(22

10、112121 n21n21n21nnn21n21nx)tx()tx( xxttxxFttxxf，；，；，第15页2021-8-9(1) 均值（数学期望）：均值（数学期望）：在任意给定时刻在任意给定时刻 t1 的取值的取值 (t1) 是一个随机变量，其均值：是一个随机变量，其均值： 式中式中 f (x1, t1) (t1) 的概率密度函数的概率密度函数由于由于t1是任取的，所以可以把是任取的，所以可以把t1直接写为直接写为t，x1改为改为x，这样上式就变为：，这样上式就变为： (t) 的均值是时间的确定函数，常记作的均值是时间的确定函数，常记作 a(t)，它表示随机过程的，它表示随机过程的 n

11、个样个样本函数曲线的摆动中心本函数曲线的摆动中心。四、随机过程的数字特征四、随机过程的数字特征 111111),()(dxtxfxtE dxtxxftE),()(1 第16页2021-8-9(1) 均值（数学期望）：均值（数学期望）：在任意给定时刻在任意给定时刻 t1 的取值的取值 四、随机过程的数字特征四、随机过程的数字特征a(t)第17页2021-8-9(2) 方差方差 方差常记为方差常记为 2(t)。这里也把任意时刻。这里也把任意时刻 t1 直接写成了直接写成了 t 。 因为：因为： 所以：所以：方差等于均方值与均值的平方之差，它表示随机过程在时刻方差等于均方值与均值的平方之差，它表示随

12、机过程在时刻 t对于均值对于均值 a(t) 的偏离程度。的偏离程度。四、随机过程的数字特征四、随机过程的数字特征 )()()(2)(2222222tatEtatEtatEtattatEtD 均方值均方值均值的平方均值的平方 2)()()(tatEtD 第18页2021-8-9(3) 协方差函数协方差函数数学期望和方差描述了随机过程在数学期望和方差描述了随机过程在单独一个瞬间的特征单独一个瞬间的特征，它们并没有，它们并没有反映随机过程在反映随机过程在不同瞬间的内在联系不同瞬间的内在联系。如图所示：。如图所示：两个随机过程两个随机过程 X(t) 和和 Y(t) 具有大致相同的数学期望和方差，但内部

13、具有大致相同的数学期望和方差，但内部结构却有明显的差别；结构却有明显的差别；X(t) 的样本随时间变化较缓慢，不同瞬间（例如的样本随时间变化较缓慢，不同瞬间（例如 t1 和和 t2）取值有较强）取值有较强的相关性；的相关性；Y(t) 的样本变化较快，不同瞬间的取值之间相关性较弱。的样本变化较快，不同瞬间的取值之间相关性较弱。四、随机过程的数字特征四、随机过程的数字特征第19页2021-8-9(3) 协方差函数协方差函数四、随机过程的数字特征四、随机过程的数字特征数学期望和方差相同的两个随机过程数学期望和方差相同的两个随机过程 第20页2021-8-9(3) 协方差函数协方差函数 协方差函数协方

14、差函数 式中：式中：a(t1)、a(t2)在在 t1 和和 t2 时刻的时刻的 (t) 的均值的均值 f2(x1, x2; t1, t2) (t) 的二维概率密度函数的二维概率密度函数四、随机过程的数字特征四、随机过程的数字特征 21212122211221121),;,()()( )()()()(),(dxdxttxxftaxtaxtattatEttB 第21页2021-8-9(4) 自相关函数自相关函数 式中：式中： (t1) 和和 (t2) 分别是在分别是在 t1 和和 t2 时刻观测得到的随机时刻观测得到的随机变量。变量。可以看出可以看出 R(t1, t2) 是两个变量是两个变量 t1

15、 和和 t2 的确定函数。的确定函数。四、随机过程的数字特征四、随机过程的数字特征2121212212121),;,()()(),(dxdxttxxfxxttEttR 第22页2021-8-9(5) 相关函数和协方差函数之间的关系相关函数和协方差函数之间的关系 若若a(t1)=a(t2)=0，则，则B(t1,t2)=R(t1,t2)(6) 互相关函数互相关函数 式中式中 (t) 和和 (t) 分别表示两个随机过程。分别表示两个随机过程。四、随机过程的数字特征四、随机过程的数字特征)()(),(),(212121tatattRttB )()(),(2121ttEttR 第23页2021-8-9一

16、、一、平稳随机过程的定义平稳随机过程的定义二、二、各态历经性各态历经性三、三、平稳过程的自相关函数平稳过程的自相关函数四、四、平稳过程的功率谱密度平稳过程的功率谱密度第24页2021-8-9定义：若一个随机过程若一个随机过程 (t) 的任意有限维分布函数与时间起的任意有限维分布函数与时间起点无关，也就是说，对于任意的正整数点无关，也就是说，对于任意的正整数 n 和所有实数和所有实数 ，有：，有： 则称该随机过程是在严格意义下的平稳随机过程，简称则称该随机过程是在严格意义下的平稳随机过程，简称严严平稳随机过程平稳随机过程。一、平稳随机过程的定义一、平稳随机过程的定义),(),(21212121t

17、ttxxxftttxxxfnnnnnn ；第25页2021-8-9性质：该定义表明，平稳随机过程的统计特性不随时间的推该定义表明，平稳随机过程的统计特性不随时间的推移而改变，即它的一维分布函数与时间移而改变，即它的一维分布函数与时间 t 无关：无关：而二维分布函数只与时间间隔而二维分布函数只与时间间隔 =t2t1 有关：有关：一、平稳随机过程的定义一、平稳随机过程的定义)(),(11111xftxf );,(),;,(21221212 xxfttxxf 第26页2021-8-9数字特征： 可见：可见：(1) 其均值与其均值与 t 无关，为常数无关，为常数 a； (2) 自相关函数只与时间间隔自

18、相关函数只与时间间隔 有关。有关。一、平稳随机过程的定义一、平稳随机过程的定义 adxxfxtE1111)()( )();,()()(),(21212211121 RdxdxxxfxxttEttR 第27页2021-8-9把同时满足把同时满足(1)和和(2)的过程定义为的过程定义为广义平稳随机过程广义平稳随机过程。显然：显然：严平稳随机过程必定是广义平稳的，反之不一定成严平稳随机过程必定是广义平稳的，反之不一定成立立。在通信系统中所遇到的信号及噪声，大多数可视在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。因此，研究平稳随机过程有为平稳的随机过程。因此，研究平稳随机过程有重要的实际

19、意义。重要的实际意义。一、平稳随机过程的定义一、平稳随机过程的定义第28页2021-8-9(1) 问题的提出：问题的提出：随机过程的数字特征（均值、相关函数）随机过程的数字特征（均值、相关函数）是对随机过程的所有样本函数的统计平均，但在实际中常是对随机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本，这样，我们自然会提出这样一个常很难测得大量的样本，这样，我们自然会提出这样一个问题：能否从一次试验而得到的问题：能否从一次试验而得到的一个样本函数一个样本函数 x(t) 来决定来决定平稳过程的数字特征呢平稳过程的数字特征呢?二、各态历经性二、各态历经性第29页2021-8-9(2)

20、回答是肯定的：回答是肯定的：平稳过程在满足一定的条件下具有一个平稳过程在满足一定的条件下具有一个有趣而又非常有用有趣而又非常有用的特性，称为的特性，称为“各态历经性各态历经性”（又称（又称“遍历性遍历性”）。具有各态历经性的过程，其数字特征（均）。具有各态历经性的过程，其数字特征（均为统计平均）完全可由随机过程中的任一实现的时间平均为统计平均）完全可由随机过程中的任一实现的时间平均值来代替。值来代替。二、各态历经性二、各态历经性第30页2021-8-9(3) 各态历经性条件各态历经性条件 设：设：x(t) 是平稳过程是平稳过程 (t) 的任意一次实现（样本），则其时间均值和的任意一次实现（样本

21、），则其时间均值和时间相关函数分别定义为：时间相关函数分别定义为： 如果平稳过程使下式成立：如果平稳过程使下式成立： 则称该平稳过程具有各态历经性。则称该平稳过程具有各态历经性。二、各态历经性二、各态历经性 )()( RRaa 2/2/)(1lim)(TTTdttxTtxa 2/2/)()(1lim)()()(TTTdttxtxTtxtxR 第31页2021-8-9(3) 各态历经性条件各态历经性条件二、各态历经性二、各态历经性统统计计平平均均和和时时间间平平均均示示意意图图第32页2021-8-9(4) “各态历经各态历经”的含义的含义：随机过程中的任一次实现都经历了随机过程中的任一次实现都

22、经历了随机过程的所有可能状态。因此，在求解各种统计平均随机过程的所有可能状态。因此，在求解各种统计平均（均值或自相关函数等）时，无需作无限多次的考察，只（均值或自相关函数等）时，无需作无限多次的考察，只要获得一次考察，用一次实现的要获得一次考察，用一次实现的“时间平均时间平均”值代替过程值代替过程的的“统计平均统计平均”值即可，从而使测量和计算的问题大为简值即可，从而使测量和计算的问题大为简化。化。二、各态历经性二、各态历经性第33页2021-8-9(5) 具有各态历经的随机过程一定是平稳过程，反之不一定具有各态历经的随机过程一定是平稳过程，反之不一定成立成立。在通信系统中所遇到的随机信号和噪

23、声，一般均能在通信系统中所遇到的随机信号和噪声，一般均能满足各态历经条件。满足各态历经条件。二、各态历经性二、各态历经性第34页2021-8-9【例【例3-1】设一个随机相位的正弦波为：设一个随机相位的正弦波为： (t)=Acos(ct+)，其，其中中 A 和和 c 均为常数；均为常数； 是在是在 (0, 2) 内均匀分布的随机变量。内均匀分布的随机变量。试讨论试讨论 (t) 是否具有各态历经性。是否具有各态历经性。【解【解】(1) 先求先求 (t) 的统计平均值：的统计平均值： 数学期望：数学期望： 自相关函数：自相关函数： (2) 求求 (t) 的时间平均值的时间平均值二、各态历经性二、各

24、态历经性第35页2021-8-9平稳过程自相关函数的定义平稳过程自相关函数的定义：设设 (t)为为实平稳随机过程实平稳随机过程，则它的自相关函数为：则它的自相关函数为：R()= E(t)(t+ )三、平稳过程的自相关函数三、平稳过程的自相关函数第36页2021-8-9平稳过程自相关函数的性质平稳过程自相关函数的性质： (1) R(0)=E2(t) (t) 的平均功率的平均功率 (2) R()=R() 的偶函数的偶函数 (3) |R()|R(0) R( ) 的上界。即自相关函数的上界。即自相关函数 R( ) 在在 =0 有最大值。有最大值。 (4) R()=E2(t)=a2 (t) 的直流功率（

25、当的直流功率（当 时，时，(t) 和和(t+ )没有任没有任何依赖关系，即统计独立）何依赖关系，即统计独立） (5) R(0)R()=2（2是方差，表示平稳过程是方差，表示平稳过程 (t) 的的交流功率交流功率。当均值。当均值为为0时，有时，有R(0)=2）三、平稳过程的自相关函数三、平稳过程的自相关函数 )()()(2)(2222222tatEtatEtatEtattatEtD 第37页2021-8-9平稳过程的功率谱密度定义平稳过程的功率谱密度定义：对于任意的确定功率信号对于任意的确定功率信号f(t)，它的功率谱密度定义为：，它的功率谱密度定义为： 式中：式中：FT(f ) 是是 f(t)

26、 的截短函数的截短函数 fT(t) 所对应的频谱函数。所对应的频谱函数。四、平稳过程的功率谱密度四、平稳过程的功率谱密度TfFmi lfPTTf2)()( 第38页2021-8-9平稳过程的功率谱密度定义：平稳过程的功率谱密度定义： 对于平稳随机过程对于平稳随机过程 (t)，可以把，可以把 f(t) 当作是当作是 (t) 的一个样的一个样本；某一样本的功率谱密度不能作为过程的功率谱密度。本；某一样本的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看作是对所有样本的功率谱的统计平过程的功率谱密度应看作是对所有样本的功率谱的统计平均，故均，故 (t) 的功率谱密度可以定义为：的功率谱密度可

27、以定义为：四、平稳过程的功率谱密度四、平稳过程的功率谱密度 TfFEmi lfPEfPTTf2)()()( 第39页2021-8-9功率谱密度的计算功率谱密度的计算： 维纳辛钦定理维纳辛钦定理：非周期的功率型非周期的功率型确知信号确知信号的自相关函数与其功率谱的自相关函数与其功率谱密度是一对傅里叶变换。这种关系对密度是一对傅里叶变换。这种关系对平稳随机过程平稳随机过程同样成立，即有：同样成立，即有： 简记为：简记为： 维纳辛钦定理维纳辛钦定理在平稳随机过程的理论和应用中是一个非常重要的工在平稳随机过程的理论和应用中是一个非常重要的工具，它是联系频域和时域两种分析方法的基本关系式。具，它是联系频

28、域和时域两种分析方法的基本关系式。四、平稳过程的功率谱密度四、平稳过程的功率谱密度 dePRdeRPjj)(21)()()()()(fPR 第40页2021-8-9功率谱密度的计算：功率谱密度的计算： 在维纳辛钦关系的基础上，我们可以得到以下在维纳辛钦关系的基础上，我们可以得到以下结论结论： (1) 对功率谱密度进行积分，可得平稳过程的总功率：对功率谱密度进行积分，可得平稳过程的总功率： 上式从频域的角度给出了过程平均功率的计算法。上式从频域的角度给出了过程平均功率的计算法。 (2) 各态历经过程的任一样本函数的功率谱密度等于过程的功率谱密各态历经过程的任一样本函数的功率谱密度等于过程的功率谱

29、密度。也就是说，每一样本函数的谱特性都能很好地表现整个过程的谱度。也就是说，每一样本函数的谱特性都能很好地表现整个过程的谱特性特性。 【证【证】 四、平稳过程的功率谱密度四、平稳过程的功率谱密度dffPR)()0( 第41页2021-8-9功率谱密度的计算：功率谱密度的计算： (3) 功率谱密度功率谱密度 P (f) 具有非负性和实偶性，即有：具有非负性和实偶性，即有：P (f)0，P (f)= P (f)，这与，这与R( )的实偶性相对应。的实偶性相对应。 【例【例3-2】求随机相位余弦波求随机相位余弦波 (t)=Acos( ct+ ) 的自相关函数和功率谱的自相关函数和功率谱密度。密度。

30、【解【解】 四、平稳过程的功率谱密度四、平稳过程的功率谱密度第42页2021-8-9一、一、什么是高斯随机过程什么是高斯随机过程二、二、重要性质重要性质三、三、高斯随机变量高斯随机变量第43页2021-8-9如果随机过程如果随机过程 (t) 的任意的任意 n 维（维（n=1, 2, ）分布均服从正态分布，）分布均服从正态分布，则称它为正态过程或高斯过程。则称它为正态过程或高斯过程。n 维正态概率密度函数表示式为：维正态概率密度函数表示式为： 式中：式中： ， |B|归一化协方差矩阵的行列式，即：归一化协方差矩阵的行列式，即：一、一、什么是高斯随机过程什么是高斯随机过程？ njnkkkkjjjj

31、knnnnnaxaxBBBtttxxxf11212122121)(21exp)2(1),( ；22)(),(kkkkkatEtEa 11121221112nnnnbbbbbbB 第44页2021-8-9 |B|jk行列式行列式 |B| 中元素中元素 bjk 的代数余因子的代数余因子 bjk为归一化协方差函数，即：为归一化协方差函数，即： 一、一、什么是高斯随机过程什么是高斯随机过程？ kjkkjjjkatatEb )()(第45页2021-8-9(1) 由高斯过程的定义式可以看出，高斯过程的由高斯过程的定义式可以看出，高斯过程的 n 维分布只维分布只依赖各个随机变量的均值、方差和归一化协方差。

32、因此，依赖各个随机变量的均值、方差和归一化协方差。因此，就可以了。就可以了。(2) 。因为，若高斯过程。因为，若高斯过程是广义平稳的，即其均值与时间无关，协方差函数只与时是广义平稳的，即其均值与时间无关，协方差函数只与时间间隔有关，而与时间起点无关，则它的间间隔有关，而与时间起点无关，则它的 n 维分布也与时维分布也与时间起点无关，故它也是严平稳的。所以，高斯过程若是广间起点无关，故它也是严平稳的。所以，高斯过程若是广义平稳的，则也严平稳。义平稳的，则也严平稳。二、重要性质二、重要性质第46页2021-8-9(3) 如果高斯过程在不同时刻的取值是不相关的，即对所有如果高斯过程在不同时刻的取值是

33、不相关的，即对所有jk，有，有bjk=0，则其概率密度可以简化为，则其概率密度可以简化为 这表明，如果这表明，如果。二、重要性质二、重要性质),(),(),(2)(exp21),;,(22111222121nnnkkkkknnntxftxftxfaxtttxxxf 第47页2021-8-9(4) 高斯过程经过线性变换后生成的过程仍是高斯过程。也高斯过程经过线性变换后生成的过程仍是高斯过程。也可以说，若线性系统的输入为高斯过程，则系统输出也是可以说，若线性系统的输入为高斯过程，则系统输出也是高斯过程。高斯过程。二、重要性质二、重要性质第48页2021-8-9(1) 定义定义：高斯过程在任一时刻上的取值是一个正态分布的高斯过程在任一时刻上的取值是一个正