第3章随机过程

1、通信原理通信原理Principles of Communications 课件整理：王怀兴课件整理：王怀兴 QQ：76944908 Email： TEL第3章章 随机过程随机过程通信过程中的信号与噪声都有一定的随机性，需要用随机过程(rondom process)来描述。本章主要学习随机过程的分布及数字特征，随机过程的统计特性，随机过程通过线性系统。本章内容本章内容随机过程的分布与数字特征平稳、高斯、窄带随机过程的统计特性随机过程通过线性系统正弦波加窄带高斯噪声的统计特性高斯白噪声和带限白噪声3.1 随机过程的基本概念随机过程的基本概念(The basic conce

2、pts of the random process) 第第3 3章章 随机随机过过程程1 随机过程的定义随机过程的定义(Definition)例：n台示波器同时观测并记录噪声源的输出噪声波形，每一台输出记为i (t)。(t) =1 (t), 2 (t), , n (t)称为随机过程。随机过程。1 (t) 2 (t) 3 (t) 4 (t) 5 (t) 6 (t) 随机过程是所有样本函数i(t) 的集合；i (t)是随机过程的一次实现实现，是确定的时间函数;随机过程任意时刻的值是一个是随机变量；是时间进程中处于不同时刻的随机变量的集合。3.1 随机过程的基本概念随机过程的基本概念(The bas

3、ic concepts of the random process) 第第3 3章章 随机随机过过程程2 随机过程的分布函数随机过程的分布函数(Distribution function)一维分布函数：)(),(11111xtPtxF一维概率密度函数：1111111),(),(xtxFtxf221121212)(,)() ,;,(xtxtPttxxF2121212221212),;,(),;,(xxttxxFttxxfnnnnnxtxtxtPtttxxxF)(,)(,)(),;,(22112121n21n21n21nnn21n21nx)tx()tx(xxttxxFttxxf，；，；，二维分布函

4、数：二维概率密度函数：n维分布函数：n维概率密度函数：3.1 随机过程的基本概念随机过程的基本概念(The basic concepts of the random process) 第第3 3章章 随机随机过过程程3 随机过程的数字特征随机过程的数字特征(Numeral characteristic)均值均值(Average)或者或者数学期望数学期望(Mathematic expectation)dxtxxftEdxtxfxtE),()(),()(1111111或 (t)的均值是时间的确定函数，常记作a(t)，它表示随机过程的n个样本函数曲线的摆动中心。上式中，由于t1是任取的，所以可以把

5、t1 直接写为t， x1改为x。a(t)3.1 随机过程的基本概念随机过程的基本概念(The basic concepts of the random process) 第第3 3章章 随机随机过过程程3 随机过程的数字特征随机过程的数字特征(Numeral characteristic)方差方差(Variance)2)()()(tatEtD )()()(2)(2222222tatEtatEtatEtattatEtD212)(),(tadxtxfx常记为 2( t )，此处把任意时刻t1直接写成了t。 所以，方差等于均方值均方值与均值均值平方之差，它表示随机过程在时刻 t 对于均值a ( t

6、)的偏离程度。均方值均值平方3.1 随机过程的基本概念随机过程的基本概念(The basic concepts of the random process) 第第3 3章章 随机随机过过程程3 随机过程的数字特征随机过程的数字特征(Numeral characteristic)相关函数相关函数(correlation function)2121212212121),;,()()(),(dxdxttxxfxxttEttR (t1)和 (t2)分别是t1和t2时刻观测到的随机变量。可见，R(t1, t2)是两个变量t1和t2的确定函数。协方差函数协方差函数(covariance function)

7、21212122211221121),;,()()( )()()()(),(dxdxttxxftaxtaxtattatEttB a(t1)和a(t2)分别是在t1和t2时刻得到的 (t)的均值 f2 (x1, x2; t1, t2)为 (t)的二维概率密度函数。 3.1 随机过程的基本概念随机过程的基本概念(The basic concepts of the random process) 第第3 3章章 随机随机过过程程3 随机过程的数字特征随机过程的数字特征(Numeral characteristic)相关函数与协方差函数的关系相关函数与协方差函数的关系2121212221121),;,

8、()()(),(dxdxttxxftaxtaxttB 212121212212121),;,()()()()(dxdxttxxftaxtaxtataxx )()(2)()(),;,(2121212121221tatatatadxdxttxxfxx )()(),(2121tatattR互相关函数互相关函数)()(),(2121ttEttR(t)和(t)为两个随机过程，R(t1, t2)也称自相关函数。自相关函数。3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程1 平稳随机过程的定义平稳随机过程的定义若随机过程(t)的统计特性

9、与时间起点无关，则称该随机过程是严平稳随机过程。严平稳随机过程。若(t)平稳则有：),(),(21212121nnnnnntttxxxftttxxxf；);,(),;,(21221212xxfttxxfadxxfxtE1111)()()();,()()(),(21212211121RdxdxxxfxxttEttR )(),(11111xftxf一维分布函数与时间t无关二维分布函数只与时间间隔 = t2 t1有关(1)其均值与t无关，为常数a(2)自相关函数只与有关满足(1)和(2)为广义平稳广义平稳在通信系统中所遇到的信号及在通信系统中所遇到的信号及噪声，大多数可视为平稳的随噪声，大多数可视为

10、平稳的随机过程。因此，研究平稳随机机过程。因此，研究平稳随机过程有着很大的实际意义。过程有着很大的实际意义。 3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程2 各态历经性各态历经性(Ergodicity)随机过程(t)的数字特征(均值与相关函数)是对(t)所有样本函数的统计平均，但实际很难获得。各态历经含义：各态历经含义：各态历经性随机过程任一实现都经历了随机过程所有可能状态，其数字特征完全可由随机过程中的任一实现的时间平均值来代替。 各态历经随机过程一定是平稳过程，反之不一定。)()()(1lim)()()()(1li

11、m)(2/2/2/2/RdttxtxTtxtxRadttxTtxaTTTTTT平稳过程的统计平均等于它任一次实现的时间平均，则为随机过程具有各态历经性。各态历经性。通信系统中所遇到的随机信号和噪声，一般均能满足各态历经条件。3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程2 各态历经性各态历经性(Ergodicity)【例例3-1】 随机相位正弦波 ，A和c为常数，在(0, 2)均匀分布，(t)具有各态历经性？)cos()(tAtc解：解：(1)先求(t)的统计平均值：)cos()()(tAEtEtac数学期望数学期望自相

12、关函数自相关函数)cos()cos()()(),(212121tAtAEttEttRcc2)(cos)(cos212122ttttEAcc20122122122)(cos2212)(cos2)(cos2ttAdttAttAcccsinsincoscosttAEcc0sinsincoscostEAtEAcc3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程2 各态历经性各态历经性(Ergodicity)【例例3-1】 随机相位正弦波 ，A和c为常数，在(0, 2)均匀分布，(t)具有各态历经性？)cos()(tAtc可见， (

13、t)的数学期望为常数，自相关函数只与时间差有关，所以为广义平稳随机过程。 (2) 求(t)的时间平均值220)cos(1limTTcTdttATa22)(cos)cos(1lim)(TTccTdttAtATRcAcos22因此，随机相位余弦波是各态历经的。cARRaacos2)()(023.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程3 平稳过程的自相关函数平稳过程的自相关函数(self-correlation function)212122111);,()()()(dxdxxxfxxttER 平稳过程自相关函数的性质平稳

14、过程自相关函数的性质)()0() 1 (2tER (t)的平均功率)()()2( RR 的偶函数)0()() 3(RR R()的上界是R(0)22a)()()4(tER(t)的直流功率2是方差，表示平稳过程(t)的交流功率。22)()()()()(lim)(limatEtEtEttER2)()0()5( RR-当均值为0时，有R(0) = 2 3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程3 平稳过程的功率谱密度平稳过程的功率谱密度( power spectral density)对任意确定功率信号f (t)的功率谱密度

15、定义为TfFmi lfPTTf2)()(FT ( f )是f (t)的截短函数fT (t)的频谱函数，如图：把f (t)当作是(t)的一个样本，过程的功率谱密度应看作是对所有样本的功率谱的统计平均，即：TfFEmi lfPEfPTTf2)()()(3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程3 平稳过程的功率谱密度平稳过程的功率谱密度( power spectral density)功率谱密度的计算功率谱密度的计算平稳随机过程自相关函数与其功率谱密度是一对傅里叶变换，称为维纳维纳-辛钦关系辛钦关系(Wiener-Khi

16、nchine)。dePRdeRPjj)(21)()()()()(fPRdffPtER)()()0(2(1) 过程平均功率(2) 各态历经过程的任一样本函数的功率谱密度等于过程的功率谱密度。 )()()()()(R)()(fPfPRRandfPandfPRff(3)功率谱密度P ( f )具有非负性和实偶性，即0)(fP)()(fPfP3.2 平稳随机过程平稳随机过程(stationary random process) 第第3 3章章 随机随机过过程程3 平稳过程的功率谱密度平稳过程的功率谱密度( power spectral density)功率谱密度的计算功率谱密度的计算cARcos2)(

17、2)()(PR)()(2)(2ccAP2)(21)0(2AdPRS例例3-2 求随机相位余弦波(t)=Acos(ct+)的自相关函数和功率谱密度。解：解：例例3-1已求出(t)为平稳过程，相关函数为相关函数与功率谱密度是一对傅里叶变换，即有 3.3 高斯随机过程高斯随机过程(Gaussian random process) 第第3 3章章 随机随机过过程程1 定义定义如果随机过程 (t)的任意n维（n =1,2,.）分布均服从正态分布，则称它为正态过程或高斯过程。 n维正态概率密度函数表示式为：22)(),(kkkkkatEtEanjnkkkkjjjjknnnnnaxaxBBBttxxf112

18、/ 112/11)(21exp.)2(1).(；11121221112nnnnbbbbbbB|B|jk ：行列式|B|中元素bjk的代数余因子 bjk：为归一化协方差函数kjkkjjjkatatEb)()(3.3 高斯随机过程高斯随机过程(Gaussian random process) 第第3 3章章 随机随机过过程程2 重要性质重要性质( crucial properties)高斯过程n维分布只依赖各随机变量的均值、方差和归一化协方差，只需研究它的数字特征；广义平稳高斯过程的均值与时间无关，协方差只与时间间隔有关，其n维分布与时间起点无关，故它也是严平稳的。如果高斯过程在不同时刻的取值是不

19、相关的，那么它们也是统计独立的。若线性系统的输入为高斯过程，则系统输出也是高斯过程。nkkknnnntxfaxtttxxxf11k2k2kkk2121),(2)(exp21),.,;,.,(3.3 高斯随机过程高斯随机过程(Gaussian random process) 第第3 3章章 随机随机过过程程3 高斯随机变量高斯随机变量(Gaussian random variable)高斯过程在任一时刻的取值是一个正态分布的随机变量(高斯随机变量)，其一维概率密度函数为221()( )exp22xaf xa均值， 2方差f(x+a)=f(x-a)关于直线x=a对称a:分布中心， :标准偏差，随

20、减小而变高和变窄。当a = 0和 = 1时为标准化正态分布1)(21)()(dxxfdxxfdxxfaa， 21( )exp22xf x3.3 高斯随机过程高斯随机过程(Gaussian random process) 第第3 3章章 随机随机过过程程3 高斯随机变量高斯随机变量(Gaussian random variable)正态分布函数221()( )()exp22xzaF xPxdz此积分无法用闭合形式计算，通常用查表法求dtdzazt22/ )(令22121121)(2/ )(2axerfdtexFaxt式中 称为误差函数，可查表求202( )xterf xedt)()(, 1)(,

21、 0)0(xerfxerferferfxtdtexerfxerfcaxerfcxF22)(1)(,2211)()(2)(, 0)(, 1)0(xerfcxerfcerfcerfc2/21( )2txQ xedt221)(xerfcxQ)2(2)(xQxerfcaxQaxerfcxF12211)(3.3 高斯随机过程高斯随机过程(Gaussian random process) 第第3 3章章 随机随机过过程程3 高斯随机变量高斯随机变量(Gaussian random variable)用Q函数表示正态分布函数：Q函数和erfc函数的关系Q函数和分布函数F(x)的关系3.4 平稳随机过程通过线

22、性系统平稳随机过程通过线性系统(Stationary random process through the linear system) 第第3 3章章 随机随机过过程程设线性时不变系统单位冲激响应为h(t)，输入为vi(t)，输出为vo(t)，则dvthdtvhtvthtviii)()()()()()()(0)()()(0fVfHfVi设输入i(t)是平稳的随机过程，a为均值，Ri()为自相关函数，Pi() 为功率谱密度。1 输出输出 o(t)的的均值均值dthti)()()(0)0()()()()()()(0HadhadtEhdthEtEiiH(0)是线性系统在 f = 0处的频率响应。3

23、.4 平稳随机过程通过线性系统平稳随机过程通过线性系统(Stationary random process through the linear system) 第第3 3章章 随机随机过过程程2 输出输出 o(t)的的自相关函数自相关函数ddttEhhdthdthEttEttRiiii)()()()()()()()()()(),(11111010110 )()()(11iiiRttE)()()()(),(0110RddRhhttRi 输出的自相关函数仅是时间间隔 的函数。 若线性系统的输入平稳，则输出也平稳。 3.4 平稳随机过程通过线性系统平稳随机过程通过线性系统(Stationary r

24、andom process through the linear system) 第第3 3章章 随机随机过过程程3 输出输出 o(t)的功率谱密度的功率谱密度)()()()(),(0110RddRhhttRi deRfPj)()(00deddRhhji)()()( 0)()()()(deRdehdehfPjijj)()()()()()(20fPfHfPfHfHfPii令 = +-，代入上式，得到结论：结论：输出过程的功率谱密度是输入过程的功率谱密度乘以系统频率响应模值的平方。3.4 平稳随机过程通过线性系统平稳随机过程通过线性系统(Stationary random process thro

25、ugh the linear system) 第第3 3章章 随机随机过过程程4 输出输出 o(t)的概率分布的概率分布如果线性系统的输入过程是高斯型的，则系统的输如果线性系统的输入过程是高斯型的，则系统的输出过程也是高斯型的。出过程也是高斯型的。 kkkkihttk)()(lim)(000dthti)()()(0设i(t)是高斯型，上式右端每一项都是一个高斯随机变量，则输出o(t)在任一时刻上得到的随机变量是无限个高斯变量之和，则输出为高斯过程。与输入过程相比，输出的数字特征已经改变。3.5 窄带随机过程窄带随机过程(narrow band random process) 第第3 3章章 随

26、机随机过过程程若随机过程(t)的谱密度集中在中心频率fc附近相对窄的频带范围f 内，即满足f fc的条件，且 fc 远离零频率，则称该(t)为窄带随机过程。窄带随机过程。 窄带随机过程的谱密度窄带随机过程的样本函数 0ccfff可以看作是包络线缓慢变化的正弦波3.5 窄带随机过程窄带随机过程(narrow band random process) 第第3 3章章 随机随机过过程程窄带随机过程窄带随机过程的表示式0)(,)(cos)()(tatttatca (t)随机包络， (t)随机相位，c中心频率a (t)和 (t)相对于载波cosct的变化要缓慢得多。tttttcsccsin)(cos)(

27、)(的正交分量的同相分量)()(sin)()()()(cos)()(tttattttatsctttatttatccsin)(sin)(cos)(cos)()(t)的统计特性由a (t)和 (t)或c(t)和s(t) 确定。若(t)统计特性已知，则a (t)和 (t)或c(t)和s(t)的统计特性也随之确定。 3.5 窄带随机过程窄带随机过程(narrow band random process) 第第3 3章章 随机随机过过程程1 c(t)和和 s(t)的统计特性的统计特性tttttcsccsin)(cos)()(ttEttEtEcsccsin)(cos)()(通常设(t)平稳且均值为零，故E

28、(t)=0 ，所以 0)(0)(tEtEsc， (t)的的数学期望数学期望 (t)的自相关函数的自相关函数)()(),(ttEttR)(sinsin),()(cossin),()(sincos),()(coscos),(ttttRttttRttttRttttRccsccsccccsccc3.5 窄带随机过程窄带随机过程(narrow band random process) 第第3 3章章 随机随机过过程程1 c(t)和和 s(t)的统计特性的统计特性)()(),()()(),()()(),()()(),(ttEttRttEttRttEttRttEttRssscsscsccsccc因为(t)是

29、平稳的，故有R(t,t+)= R()，这就要求上式的右端与时间t无关，而仅与有关。 因此，若令 t = 0，上式仍应成立，它变为ccsccttRttRRsin),(cos),()(因与时间t无关，以下二式自然成立)(),(),(),(cscsccRttRRttRccsccRRRsin)(cos)()()(sinsin),()(cossin),()(sincos),()(coscos),(ttttRttttRttttRttttRccsccsccccsccc3.5 窄带随机过程窄带随机过程(narrow band random process) 第第3 3章章 随机随机过过程程1 c(t)和和 s

30、(t)的统计特性的统计特性即令t=0时ccsccRRRsin)(cos)()(同理再令t=/2c时csccsRRRsin)(cos)()( Ec(t)=Es(t)=0，Rc()与Rs()只和有关。即若若窄带过程窄带过程 (t)平稳，则平稳，则 c(t)和和 s(t)也必然平稳。也必然平稳。)()();()(sccsscRRRR根据互相关函数的性质，应有)()(sccsRR与上式相比较有0) 0() 0()()(sccssccsRRRR) 0() 0() 0(scRRR222sc即 (t)、 c(t)和和 s(t)具有相同的平均功率或方差。具有相同的平均功率或方差。 3.5 窄带随机过程窄带随机

31、过程(narrow band random process) 第第3 3章章 随机随机过过程程1 c(t)和和 s(t)的统计特性的统计特性根据平稳性，过程的特性与变量t无关，故由式 tttttcsccsin)(cos)()()()(,0111ttttc时)()(,2222ttttsc时因为(t)是高斯过程，则c(t1)， s(t2)一定是高斯随机变量，从而c(t) 、 s(t)也是高斯过程。即一个均值为零的窄带平稳高斯过程(t)，其c(t)、s(t)也是高斯过程，且均值为零，方差相同；同一个时刻上得到的c(t)和s(t)是统计独立的。3.5 窄带随机过程窄带随机过程(narrow band

32、random process) 第第3 3章章 随机随机过过程程2 a (t)和和 (t)的统计特性的统计特性联合概率密度函数联合概率密度函数 f(a , )2exp212exp21)(2222ssssssf2exp21)()(),(2222scscscfffsc独立与2exp212exp21)(2222ccccccf),()(),(),(,afafscscsincosaasc),()(,ascscscaaaaacossinsincos3.5 窄带随机过程窄带随机过程(narrow band random process) 第第3 3章章 随机随机过过程程2 a (t)和和 (t)的统计特性的

33、统计特性联合概率密度函数联合概率密度函数 f(a , )2222222exp22)sin()cos(exp2),(),(aaaaafaafsc式中：a 0, = (0 2) a 的一维概率密度函数的一维概率密度函数202222exp2),()(daadafaf02exp222aaa可见，a服从瑞利(Rayleigh)分布。20212exp21),()(02220daaadaaff可见， 服从均匀分布。a 与统计独立。)()(),(fafaf3.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(Sine wave plus narrowband gaussian noise) 第第3 3章章 随机随

34、机过过程程1 正弦波加窄带高斯噪声的表示正弦波加窄带高斯噪声的表示)()cos()(tntAtrcttnttntncsccsin)(cos)()(n(t)窄带高斯噪声； 正弦波的随机相位，均匀分布在02间；A和c确知振幅和角频率ttnAttnAtrcsccsin)(sincos)(cos)()(sin)()(cos)(tnAtztnAtzsscc2,)()()(0, )()()(122otztztgtztztztzcssc)(cos)(tttzcttzttzcSccsin)(cos)(3.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(Sine wave plus narrowband gaus

35、sian noise) 第第3 3章章 随机随机过过程程2 正弦波加窄带高斯噪声包络的统计特性正弦波加窄带高斯噪声包络的统计特性利用上一节的结果，如果值已给定，则zc、zs是相互独立的高斯随机变量，且有)(sin)()(cos)(,sin)(cos)()(tnAtztnAtzttzttztrsscccScc222;sin;cosnscscAzEAzEttnttntncsccsin)(cos)()( zc和和zs的联合概率密度函数的联合概率密度函数(相位相位 一定一定)2222)sin()cos(21exp21)/,(AzAzzzfscnnsc3.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(S

36、ine wave plus narrowband gaussian noise) 第第3 3章章 随机随机过过程程2 正弦波加窄带高斯噪声包络的统计特性正弦波加窄带高斯噪声包络的统计特性2,)()()(0, )()()(122otztztgtztztztzcssc)(cos)()(tttztrc包络的概率密度函数包络的概率密度函数 f (z)sincoszzzzsc)cos(221exp22222AzAzznn202222220)cos(exp2exp2)/,()/(dAzAzzdzfzfnnn)/,()()()/,()/,(scsc,sczzfzz,zzzzfzf200)(cosexp21x

37、Idx20202)cos(exp21nnAzIdAz3.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(Sine wave plus narrowband gaussian noise) 第第3 3章章 随机随机过过程程2 正弦波加窄带高斯噪声包络的统计特性正弦波加窄带高斯噪声包络的统计特性202222)(21exp)/(nnnAzIAzzzf0)(21exp)(202222zAzIAzzzfnnn可见，f (, z)与无关称为广义瑞利分布广义瑞利分布，又称莱斯莱斯(Rice)分布分布。式中I0(x) 第一类零阶修正贝塞尔函数。 200cosexp21)(dxxIx0时，I0(x)是单调上升函数

38、，且I0(0)=03.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(Sine wave plus narrowband gaussian noise) 第第3 3章章 随机随机过过程程2 正弦波加窄带高斯噪声包络的统计特性正弦波加窄带高斯噪声包络的统计特性当信号很小(A0)时，Az/n20，I0(Az/n2)1，上式的莱斯分布退化为瑞利分布。02exp)(222zzzzfnn0)(21exp)(202222zAzIAzzzfnnn当(Az/n2)很大时，有xexIx2)(0222)(exp21)(nnAzzf上式近似为高斯分布包络的概率密度函数曲线f(z)瑞利分布, 0222nAdBAn322

39、2dB3dB9dB5 .12dB15dB173.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(Sine wave plus narrowband gaussian noise) 第第3 3章章 随机随机过过程程2 正弦波加窄带高斯噪声包络的统计特性正弦波加窄带高斯噪声包络的统计特性3.6 正弦波加窄带高斯噪声正弦波加窄带高斯噪声(Sine wave plus narrowband gaussian noise) 第第3 3章章 随机随机过过程程2 正弦波加窄带高斯噪声包络的统计特性正弦波加窄带高斯噪声包络的统计特性dBAn15222dB5 .12dB9dB3dB3均匀相位0A相位的概率密度函数

40、曲线f()3.7 高斯白噪声和带限白噪声高斯白噪声和带限白噪声(Gaussian white noise and band-limited white noise) 第第3 3章章 随机随机过过程程1 白噪声白噪声n(t) (white noise)噪声功率谱密度在所有频率上均为一常数，即)(2)(0fnfPn 双边功率谱密度)(0)(0fnfPn单边功率谱密度白噪声的自相关函数：白噪声的自相关函数：对双边功率谱密度取傅里叶反变换，得到相关函数：)(2)(0nR=0时才相关3.7 高斯白噪声和带限白噪声高斯白噪声和带限白噪声(Gaussian white noise and band-limited white noise) 第第3 3章章 随机随机过过程程)