随机过程及其应用

1、§4.5 随机过程的功率谱密度当我们在时间域内研究某一函数的特性时，如果确定起来不方便，在数学上我们可以考虑将此函数通过某种变换将它变换到另一区域，比如说频率域内进行研究，最终目的是使问题简化。傅里叶变换提供了一种方法，就是如何将时间域的问题转换到频率域，进而使问题简化。在频率域内，频率意味着信息变化的速度。即，如果一个信号有“高”频成分，我们 在频率域内就可以看到“快”的变化。这方面的应用在数字信号分析和电路理论等方面应用 极广。是不是任何一个时间函数都可以将其通过傅氏变换变到频率域去研究呢？我们说当时间函数x(t)( t )满足绝对可积条件时可以。x(t)dt然而，随机过程的样本

2、函数，即X(t) Xi(t), L ,Xn(t), L ,x,(t)丄,Xn(t)L 一般不满足绝对条件，因此随机过程不 能直接进行傅氏变换。此外，很多随要过程的样本函数极不规则，无法用方程描述。这样， 若想直接对随要过程进行谱分解，显然也不行。但是，对随机过程进行某种处理后，同样可 对随机过程施行傅里叶变换。§4.5.1功率谱密度为了研究随机信号的傅氏变换，我们首先简单复习一下确定信号S(t)的频谱、能谱密度及能量概念，然后再引入随机过程的功率谱密度概念。定理 设S(t)是一个确定信号且时间在 (，)上满足绝对可积条件，则S(t)的傅氏变换存在，或者说具有频谱S( ) S(t)e

3、J t dt S(t) S( )eJ tdS(t) FF1s()对于定理的物理解释是，S(t)代表电流或电压，则定理条件要求 s(t) dt ，即是要求S(t)的总能量必须有限。由积分变换的巴塞伐公式即:|S(t)2dt|S(t)|2 dt12丄2i21 j tS(t)S( )eJ td dtS( )S*( )dS( ) S(t)eJ tdtd|S( )|2dF面我们来解释一下公式的物理含义:若把S(t)看作是通过1 Q电阻上的电流或电压，则左边的积分表示消耗在1 Q电阻上|2的总能量，故右边的被积函数 |s()相应地称为能谱密度。然而，工程技术上有许多重要的时间函数总能量是无限的，不能满足傅

4、氏变换绝对可积条件，如正弦或余弦函数就是。我们要研究的随机过程，由于持续时间是无限的，所以其总能量往往也是无限的，所以随机过程的频谱不存在。那么该如何应用傅氏变换工具来对随机过程进行研究呢？我们是这样考虑的，一个随机过程X(X) Xdt)丄，Xn(t)丄，尽管它的样本函数总能量是无限的，但它的平均功率是有限1 T2的，即：W lim 一 x(t) dte T 2T T ' *这是随机过程的样本函数在时间域上的平均功率表示。这样，对随机过程的样本函数而方，虽然研究它的频谱没有意义， 但研究它的平均功率的傅氏变换却有意义。x(t)，再将本函数x(t)任意截取一段，长度为2T,并记为XT(t

5、)。称XT(t)为原样本函数x(t)的截取函数，如右图所示。|t| T|t| T用公式表示即为XT(t)x(t)于是xT(t) dt满足绝对可积条件。j tT XT(t)存在付氏变换，即 Xp ( )xT(t)edtTxT(t)e j dt1 . tXp(t) 2-Xt( )ej dt这里Xt()称Xp (t)为的频谱函数。又由于随机过程 X(t) X!(t)丄,Xn(t),L 在随机试验中取哪一个样本函数具有不确定性。因此，不同的试验结果，就意味着随机过程可能取不同的样本函数，亦即样本函数与试验结果有关，为此，可将样本函数进一步表示为x(t,e),当然该样本函数的截取函数也可相应表示为Xp(

6、t,e)，显然它的傅氏变换也可表示为xT (t, e)。又/ Welim T 2TX(t)2dtTim1 T2T T2x(t,e) dtTim2TTTxp(t,e)xT ( , e) ej tddtlim丄T 2Tlim t 2T丄2J2尹( lim Ixr (T 2T iXt(,e)txT (t, e) e j( "dt d,e)Xp(,e) d2 1,e) d -tim2TGx( ,e) d1 *Xt( ,e)Xp( ,e) d由于引入随机过程样本函数的截取函数定义,所以又可给出上式随机过程的样本函数平均功率在频率域的表示形式。1 2在上式中，令Gx( ,e).lim岔区(,e)

7、则称上式为随机过程 X(t)的样本函数的功率谱密度函数1 2定义样本函数的功率谱密度：GX ( , e) li |xT( ,e)式中，x.( ,e)为截取函数x.(t,e)的频谱。又随机过程是由一族样本函数组成，即X(t) 为丄,Xn(t),L 显然对每一个样本函数，按照上面类似的方法都可以求出它的一个样本函数的功率谱密 度，于是对所有的样本函数取统计平均就可给出随机过程的功率谱密度定义。定义随机过程的功率谱密度:同样定义Xt (t)X (t)0|t | T|t | TGx( ,T)XT(t) e j tdtT(t)e j tdt,定义：X(t)为均方连续随机过程2 lim E T2T；X(t

8、)2dt为X(t)的平均功率；称 Sx( ) Tim E 2tGx(，T)|2为X(t)的功率谱密度，简称谱密度。根据帕塞伐公式及傅氏反变换，有TTX(t)2dt21Gx( Rd所以:2 limT12T|x (t)|2 dtTim|G x (1212E 2T 21lim E |G x (T 2T iSx ( )d,T)2d,T )|2 d求随机过程的平均功率可用两种方法，一种方法是求出Sx()，即过程的功率谱密度,然后再积分，另一种方法是先求出过程的均方值E X2(t)，再积分。特别地，当我们研究的随机过程是平稳过程时,此时的平稳过程平均功率可表示为:/ X(t)平稳2 EX (t)2XRx

9、(0)Tim2T丄2T:EX2(t)dtT22T xdtxRx(O)例题 随机过程X(t)为X(t)cos( Ot),式中，a, 0是常数，是在(0,-)上均匀分布随机变量，求X( t)的平均功率。解:2 lim T EX2(t)dtT 2T T2 2 2又 EX (t) Ea cos ( ot )0t2a"22a"22a22冬 sin(22 cos (20t)0t)-d显然该过程不平稳。 因止匕2 limT12T2sin(ot)2dt 2功率谱密度与自相关函数的关系则过程X(t)的相关函数和功率谱密度之间存在付氏变换，即Sx(Rx( )e j dRx()Rx()J2FF

10、1)Gx( )ej dGx()Gx()FRx(F 1Gx( ) Rx()通过对随机过程的分析，我们知道随机过程的相关函数是从时间角度度描述了过程的重二者是异曲同要统计特性，而随机过程的功率谱密度是从频率角度描述了过程的统计特性,工，研究的都是同一个对象， 于是人们自然提出一个问题，随机过程的相关函数和它的功率谱密度之间是否存在一定关系 ？我们发现，当随机过程平稳且满足一定条件时，它们之间存在，定关系。Rx( )d定理 如果平稳过程 X(t)的相关函数 RX()绝对可积，即是正数，X(t)的功率例题 设X(t)是平稳过程，其相关函数Rx( ) e 11，其中2谱密度Sx()。答案：Sx( )2&

11、#167;4.5.3功率谱密度性质1 2由随机过程的功率谱密度定义，即Sx( ) Tim 2tE |Gx( ,T)可得如下几个常用的性质：性质1Sx( ) > 0;性质2 Sx()是实函数；性质3 对于实过程，Sx()是偶函数；§4.5.4互谱密度1. 互谱密度的定义类似于一个随机过程功率谱密度的研究方法，我们可以引入两个随机过程的互谱密度概念。设有两个联合平稳随机过X(t)和Y(t),若设他们相应的截取函数设为XT(t)和YT(t),而XT(t),Yr(t)的付氏变换分别为的付氏变换分别为Gx( ,T),Gy( ,T)。1Sxy( ) Tim 齐 E Gx( ,T)Gy( ,

12、T)定义X(t)和Y(t)的互谱密度 为：1Syx( ) limE Gy( ,T)Gx( ,T)t 2T2. 互谱密度和互相关函数之间的关系类似研究平稳过程X(t)的自相关函数与谱密度之间的关系一样，我们可给出联合平稳过程互相关函数与互谱密度函数之间的关系表达式。若联合平稳过程 X(t)、Y(t)的两个互相关函数满足Rxy( ) d,那么Sxy ()Rxy()e' d ,Syx ()Ryx ( ) e ' d3. 互谱密度的性质下面我们简要给出互谱密度的性质如下： Sxy () Syx (); 若X(t)与Y(t)为实过程，则：Sxy()的实部是偶函数，虚部是奇函数； 若平稳过

13、程X(t)和Y(t)相互正交U ：Syx ( ) Syx( )0 ; 若X(t)和Y(t)是两个不相关的平稳过程，分别有非零均值M x ,My，则Sxy( )Syx( )2 MxMy ()|Sxy( ) < Sx( ) Sy()1.已知平稳过程x(t)的谱密度为Sx (),求x(t)的均方值EX2(t)。22.已知平稳过程x(t)的自相关函数为Rx( ) 4e 11 cosCOS求 Sx()。单边功率谱一一实平稳过程的谱密度sx (到正频率范围内。Gx()12lim E T T0 ,Tit20 X(t)eitdtGx()2sx(),00 ,0)是偶函数，因而可将负的频率范围内的值折算&#

14、167;4.6窄带过程和白噪声过程1、窄带过程窄带随机过程 谱密度限制在很窄的一段频率范围内。谱密度:Sx ()0,其它相关函数:Rx()sx ()COS()d0少吧31Jf*2-八/ /n22 rsin2、白噪声过程围内为非零的常数,Sx (No()，则称X为白噪声过程。定义：设 X,为实平稳过程，若它的均值为零，且谱密度在所有频率范相关函数:Rx( )-12N o2定义：称均值为零、相关函数Sx()No()的实平稳过程为白噪声过程。第5讲 随机信号通过线性系统? 在大系统分析中，如在电子通信系统中，当我们给定系统在一个输入信号(可以是确定性信号或随机信号)，该输入信号通过系统作用总会产生一

15、输出信号，我们经常需要分析研究输入与输出信号之间的关系，特别当输入信号是一个随机平稳信号，那么输出是什么信号呢，于是我们自然会提出下列问题：?1.若输入是平稳信号，其输出信号是否平稳。?2.若已知输入信号的统计数字特征，如何求出输出信号的统计数字特征。?3.输入信号与输出信号的数字特征之间的关系如何？? 为了回答上述三个问题，我们就特殊的线性系统进行分析。? 首先介绍一下线性系统的基本理论知识。§6.1 线性系统的基本理论1、线性系统介绍一般地，系统输出、输入之间的关系可表示为：Y(t) LX(t)式中，X(t)为输入信号(又称激励信号)，Y(t)为输出信号(又称为X(t)的响应信号

16、)；L表示是对输入信号进行某种运算，称为算子，它可以代表各种数字运算方法，如加法、乘法、微分、积分等，用图表示为：x(t) 也 Y(t)定义线性系统：如果系统满足叠加原理，则系统是线性系统，而此时的L为线性算子。线性系统的数学表达为：若 yi(t) Lxi(t), L ,yn(t) LXn(t),nn那么满足 Lakxk(t)kyk(t)则L为线性算子，系统为线性系统。k 1k 1定义时不变系统：如果y(t)=Lx(t)，并对任意一时间平移t,都有 y(t ) Lx(t ) ，则称系统为时不变系统。pl例题：证明当算子是微分算子 L 时，系统是线性时不变系统。dt2. LTI系统冲激响应和频率

17、响应线性系统的(t)函数(冲激函数)的 冲激响应：由冲激函数的性质，有(t ) x( )d x(t)- Y(t) LX(t) L X( ) (t )d X ( ) L (t )d而L (t )表示有个(t )的输入函数通过线性系统，其输出可记为h(t ) L (t )显然，h (t )可称为 (t )函数(冲激函数)的 冲激响应(和脉冲响应区别)。y(t) x() h(t )d从上式可以看出：LTI系统的输出等于输入与系统冲激响应的卷积。记为： y(t) x(t)* h(t)通过变量代换上式又可写为：y(t)h( )x(t )d上式表明，线性时不变系统的输出完全由系统的输入与系统的冲击响应卷积

18、确定这是在时间域给出了系统输出表示形式。当信号比较复杂时，我们同样考虑通过付氏变换将其变换到频域去研究，进而使问题得以简化。 频率响应：设线性系统的算子为L,若系统输入一谐波信号x(t) ej t，则输出为y(t) L ej t H( )ej t其中H( ) L eJ t t 0，称为系统频率响应。3.线性时不变系统输出信号的傅氏变换对于一个线性时不变系统，x(t),h(t), y(t)设其相应的付氏变换为 X( ), H ( ), Y()，则:y(t) Y( )ej tdt则:y(t)x(t)1 . tL2 X()ejtd经过对照得到:1212X(X(Y()L ej t d)H( )ejtd

19、X( )H()§5.2随机信号通过线性系统1.讨论系统的输出一般随机信号作为输入通过线性系统，要研究它的输入与输出之间的数字特征及相互关系比较复杂，为了方便说明问题起见，我们只就有界的随机信号通过特殊的线性系统来讨论， 即假设该系统为稳定的时不变线性系统，所谓过程有界即它们每一个样本函数有界。显然当过程的每一个样本函数通过时不变系统时，可表示为：? 此时系统的输出可表示为Y(t) ydt),L ,*(t)丄%(t)h( )xXt ) dMMyn(t)h( ) Xn(t)d? 即系统的输入与输出可表示为丫(t)h()X(t )dY(t) h(t)*X(t)2. 系统输出的均值与自相关函

20、数在实际工程问题中，我们总是希望当知道输入信号的某些统计特征时能够得到系统的输 出统计特征。系统的输出均值确定。Y(t) h( )x(t )d这里假设输入信号为有界平稳过程EY(th()EX(t )dh( )MXd MX h ( ) d而是一个与时间无关的数。I EY(t) My 系统输出的自相关函数若X(t)为有界平稳过程，系统输出自相关函数由定义知，可表示为RY(t,t) EY(t)Y(t)Eh( i)h( 2)X(ti)X(t2)d1 d 2Eh( 1) h( 2)X(ti)X(t2)d1d 2h(i)h( 2)EX(ti)X(t2)d1d 2h(1 ) h( 2 )Rx (12) d

21、id2由该式知，当输入为平稳，输出Y(t)也为平稳。3. 系统的输入与输出之间的互相关联函数X(t)h(t)Y(t)由于系统是线性系统，所以输入与输出之间是相关的。由随机过程的互相关函数定义,知RxY(t,t) EX(t)Y(t )E X(t)h( )X(t)dEX(t)h( )X(t) dEX(t)X(t) h( ) d若 X( t)为平稳过程，则有Rx()h( )dRxy()此时有：Rxy( )Rx( )* h()同理可得:Ryx( )Rx()h( )d即：Ryx( ) Rx()*h()4. 系统输出的功率谱密度对于平稳过程，当我们知道了自相关函数Ry()，取付氏变换就可得 Sx()，已知

22、Rxy()可得Sxy()。下面我们给出另一种方法来确定系统输出谱密度与输入谱密度的关系。性质 设输入X(t)为平稳过程，那么通过线性系统后的输出Y(t)平稳，且X(t)，Y(t)联合平稳如果输入X(t)的谱密度为Sx()，输出2那么 Sy( ) Sx()|h()。H()2称为系统的功率传专输函数证：Sy()Ry( )e jdRx (ih( i)h( 2)令i2，则：Sy()h( i)h(2)1h( i)e d 1Y(t)的谱密度Sy( )，H()为系统的频率响应, (又称系统的功率传递函数)。2)h( i)h( 2)d id 2 e j dRx(i 2) e j d d id 2FX( )ej

23、( 2 i)d d 2d ij ijh( 2)e d 2R<( )e dH( )H( )Sx( ) Sx( )H ( )H()Sx（ ） H 25. 系统的输入输出的互谱密度类似讨论有:Sxy( ) Sx( )H() Syx( ) Sx( )H()时间连皱平稳随机过程通过线系统分析氏fCO=匚J*缄11护<巧）应工書十Tj 一巧眉7应巧 尺ET（> -匸丹匕）甩（!-五眉耳 尺迓匚舟1 -砖尺上u' ixc e国o）=甩（劲血【3*FjirCe） =旧）円（呦hTjhW）二卫事叭円口时问 茹散冲称 馳机 过程迪 迎线性 系 统介析叫城奇枷叫.=M工士必耳<?二

24、£ 辰-巧£厂3=食9）啓（妙-盛j/J (-期龟n= £ 23从&、赋打）甩心'+&_*_1'）4已s>凰砲gX牴牡冗応"忖-4 w尽H0>= W 比一站、氏H住£】片TO随机过程通过LTI系统应用实例一一无线信道辩识如5)习题六1.若系统输入为白噪声，其自相关函数为Rx()No2()式中No是正实常数，求系统输出的均方值。2.理想白噪声过程X(t)，其自相关函Rx()No丿2()，通过一个冲激响应为h(t)的线性系统，求系统响应与互相关函数的关系。3.设白噪声 X(t)，有Sx()No2，通过传输

25、函数为H( )的微分电路，为实常数，求电路输出自相关函数。a j第5讲 平稳过程通过线性系统线性时不变系统系统:y(t)Lx(t)线性系统：La1x1(t)a2X2(t)泌区a2Lx2(t)砒a2y2(t)时不变系统：y(t )Lx(t)频率响应与脉冲响应对于线性时不变系统，输出y 等于输入x (t)与单位脉冲响应 h (t)的卷积，y(t) x(t) h(t) Y( ) X( ) H()因果系统:h(t) 0,当t 0稳定系统:h(t)dt随机过程通过线性系统的输出设线性系统的单位脉冲响应为h (t)，当输入一个随机过程X (t)时，其输出随机过程Y (t)为： Y(t) X(t) h(t)

26、 X(t )h( )d( )( ) H()线性系统输出的均值设线性系统的输入随机过程X 的均值为mx(t)，则其输出过程Y 的均值为：EX(t )h( )dmY(t)EY(t) E X(t )h( )dmx(t )h( )d mx(t) h(t)当输入过程x (t)为均值平稳时,mYmxh( )d 常数线性系统输出的相关函数设线性系统的输入随机过程X (t)的相关函数为RX(t1,t2)，则其输出过程Y 的相关函数为:Ry (ti, t2)EY(ti)Y(t2)X (ti u)h(u)du X (t2 v)h(v)dv当输入过程Ry()EX(tiRX (t1u)X (t2 v)h(u)h(v)

27、dudvu,t2 v)h(u)h(v)dudvX (t)为自相关平稳时,Rx (u v)h(u)h(v)dudvRx( ) h() h( ),( ti t2)输出与输入的互相关函数RYx(ti£) EY(ti)X(t2) EX(ti u)h(u)X(t2)duEX (ti u)X(t2)h(u)duRx(ti u,t2)h(u)du当输入过程 x (t)为自相关平稳时，Ryx()Rx( u)h(u)du Rx( ) h()同理，Rxy()Rx( ) h()输出相关函数Ry( )Rx( ) h( ) h()Ryx()hORxy()h()Ryx()Rx()h()Rxy( ) Rx( )

28、h()Rx (输出过程的平稳特性当线性系统输入一平稳过程x (t)时，其输出过程 Y的均值my (t)为常数，相关函数RY(t1,t2)R,()只与时间差有关，故输出过程 Y也是平稳的。由于互相关函数 Ryx( )和 Rxy()也都只与时间差有关，故输出过程Y 与输入过程x (t)之间还是联合平稳的。例1( h(t)的估计)设线性系统输入一个白噪声过程x (t)，其相关函数为 Rx( ) No ()，则Ryx ()No ( u)h(u)du Noh()h()占 Ryx()No假定过程x (t)和Y (t)是各态历经的，h()1 Y(t)X(t )No通过测量互相关函数，可以估计线性系统的单位脉

29、冲响应。线性系统的谱密度设线性系统的频率响应函数为H()，当输入平稳过程x(t)具有谱密度Sx()时，则 输出平稳过程 Y(t)的谱密度为:Sy( ) H( )2sx()因为Ry()Rx( ) h( ) h()Sy()Sx( ) H( ) H(2H( ) Sx()例2 如图RC电路,若输入白噪声电压X (t)，其相关函数为Rx( ) No ()，求输出电压Y的相关函数和平均功率。解： H(,其中i1rch(t)e tu(t)rX (t)sx (FTRx()NoSY(2H( ) sx(2 NoRY()IFT8y():Ry(0)No2例3 如图有两个LTI系统Hi()和 H 2()，若输入同一个均

30、值为零的平稳过程X(t)，它们的输出分别为£(t)和丫2化)。如何设计比()和H2()才能使Yt)和Y2(t)互不相关？互不相关协方差为零Y(t)X(t)h(t)X(t )h( )dmYimxhi( )domY2mxh2( )doRy1y2 ( )EYi(t)丫2(t)Rx (u v)h|(u)h2 (v)dudvRx( ) hi( ) h2()SYiY2( )Sx( ) Hi( ) H2()当 SyiY2( )0 时，RyiY2( )0CY1Y2 ( )0当两个LTI系统的幅频特性互不重叠时，则它们的输出Y(t)和匕(t)互不相关。例4 (成形滤波器)求一个可实现的稳定系统H()，

31、使得当输入一具有单位谱高的白噪声X(t)时，其输出过程 Y(t)的谱密度为s,().解:Sy().2H( )|H( ) Sx()9 10 2(12)(92)H()2 j(1 j )(3 j )SY ()10 29第6讲 几种重要的随机过程§5.1独立增量过程定义设X(t),t T是随机过程，若对任意的正整数n和t1 t2tn T，随机变量X(t2) X(tJ,X(t3) X(t2), ,X(tn) X(tn1)是相互独立的，则称X (t), t T 为独立增量过程，又称可加过程。? 这种过程的特点是：它在任何一个时间间隔上过程状态的改变，不影响任何一个与它不相重叠的时间间隔上状态的改

32、变。? 实际中，如电话交换中心在某段时间间隔内收到的呼叫总数可用这种过程来表示。平稳独立增量过程定义设X(t),t T是独立增量随机过程，若对任意s<t ，随机变量X (t) X (s)的分布仅依赖于t s,则称X (t), t T 为平稳独立增量过程。平稳独立增量过程是是一类重要的随机过程，后面将提到的维纳过程和泊松过程 都是平稳独立增量过程。§6.2 正交增量过程定义设X(t),t T是零均值的二阶矩过程，若对任意的ti t2 t3 t4 T，有EX(t2)X(tJX(t4)X(t3) 0则称X (t)为正交增量过程。正交增量过程的协方差函数可以由它的方差确定：Cx(s,t)Rx(s,t)X (min(s,t)§5.3马尔可夫过程定义 设X(t),t T是随机过程，若对任意的正整数n和ti t2tn T，PX(ti) Xi,K ,X(tn i) Xn i 0,且条件分布：PX(tnJ Xni|X(tJ £丄，X(tn)人