随机过程专用实用教案

1、第一节 二阶矩过程(guchng)定义(dngy)若随机过程)(tX,Tt ，对任意Tt ，有)(tm)(tXE)()()(2tmtXEtD则称为(chn wi)二阶矩过程首页第1页/共61页第一页，共61页。例1其中 和V是相互独立且都服从(fcng)正态分布N（0，1）的随机变量，解由于 和V都服从正态分布，所以(suy) 也具有正态分布，设VtXtX0)(，bta，0X试判断)(tX为二阶矩过程。0X)(tX且)()(tXEtmX0VtXE00VtEXE)()(),(2121tXtXEttK)(2010VtXVtXE22120VEt tXE211t t令ttt21， 得)(tDX21 t

2、故)(tX为二阶矩过程。首页第2页/共61页第二页，共61页。性质(xngzh)二阶矩过程(guchng)的协方差函数一定存在证)(),(cov),(2121tXtXttK)()()()(2211tmtXtmtXE由许瓦兹不等式得22211221|)()()()(| ),(|tmtXtmtXEttK)()()()(222211tmtXEtmtXE)()(21tXDtXD故221| ),(|ttK即二阶矩过程(guchng) 的协方差函数存在)(tX注二阶矩过程的相关函数),(21ttR也一定存在。首页第3页/共61页第三页，共61页。说明(shumng)在讨论二阶矩过程中，常假定(jidng)

3、均值为零，这样相关函数的形式和协方差函数的形式相同。返回(fnhu)首页第4页/共61页第四页，共61页。第二节 均方极限(jxin)一、均方收敛(shulin)定义(dngy)1设随机变量序列 ，n = 1,2,和随机变量X都存在二阶矩，nX如果0)(lim2XXEnn则称 均方收敛于X，nX或称X是 的均方极限nX记作XXnn nl l. .i i. .m m或简记为XXnl l. .i i. .m m首页第5页/共61页第五页，共61页。二、均方收敛(shulin)准则定理(dngl)1柯西准则(zhnz)则 均方收敛的充要条件为nX证只证必要性因为 均方收敛于X，所以有设nX,n =

4、1,2,是二阶矩随机变量序列，0)(lim2mnmnXXEnX0)(lim2XXEnn0)(lim2XXEmm首页第6页/共61页第六页，共61页。又由所以(suy)故0)(lim2mnmnXXE22)()()(XXXXXXmnmn22)(2)(2XXXXmn当n，m时，得)(lim02mnmnXXE)(lim)(lim222XXEXXEmmnn0首页第7页/共61页第七页，共61页。注等价(dngji)存在(cnzi)其说明随机变量序列(xli) 均方收敛的充要条件是它的相关函数列按普通极限意义收敛。nX三、均方收敛性质性质1若则0)(lim2mnmnXXE)(limmnmnXXEXXnl

5、l. .i i. .m m)(limXEXEnn)nXE( (l l. .i i. .m m证由许瓦兹不等式得2| )()(|XEXEn2| )(|XXEn2|XXEn因故得证0)(lim2XXEnn注当 均方收敛于X时， 的期望收敛于X的期望nXnX首页第8页/共61页第八页，共61页。性质(xngzh)2若则证由许瓦兹不等式得XXnl l. .i i. .m mYYnl l. .i i. .m m)(limXYEYXEmnmn)nnYXEl l. .i i. .m m( (l l. .i i. .m m| )(| )()(|XYYXEXYEYXEmnmn|)()()(|YYXXYXXYYX

6、Emnnm| )(|)(|YXXEYYXEnm|)(|YYXXEmn2122)()(YYEXEm212)()(YEXXEn2122)()(YYEXXEmn因0)(lim2XXEnn0)(lim2YYEnn故得证首页第9页/共61页第九页，共61页。性质(xngzh)3若则对任意(rny)常数a、b都有证因为(yn wi)XXnl l. .i i. .m mYYnl l. .i i. .m m故得证bYaXbYaXnn)(l l. .i i. .m m2)(bYaXbYaXEnn2)()(YYbXXaEnn)(2)(22222YYEbXXEann0n首页第10页/共61页第十页，共61页。性质(

7、xngzh)4若则注因XXnl l. .i i. .m mYXnl l. .i i. .m m=YX 若1)( YXP，则称 X 与 Y 相等证2)(222YEYXEXEYXEnnnXXnl l. .i i. .m m)(2YXEYXnl l. .i i. .m m02222YEYEYE于是(ysh)1)(YXP即YX 返回(fnhu)首页第11页/共61页第十一页，共61页。第三节 均方连续性均方收敛(shulin)定义(dngy)1即则称 在点t均方连续。设随机变量)(tX，),(t为二阶矩过程若对某一确定的),(t，有)()(0tXhtXhl l. .i i. .m m0)()(lim2

8、0tXhtXEh)(tX一、均方连续0)(lim200XtXEtt称 在 时均方收敛(shulin)于)(tX0tt 0X首页第12页/共61页第十二页，共61页。二、均方连续准则(zhnz)定理(dngl)1则证充分性设随机变量)(tX，),(t为二阶矩过程),( tsR为其相关函数，)(tX在t处均方连续),(tsR在),(连续设),( tsR在),(连续则)()(lim20XhXEh),(),(lim0hRhhRh),(),(RhR0所以(suy)()(0XhXhl l. .i i. .m m首页第13页/共61页第十三页，共61页。再证必要性又由均方收敛(shulin)性质2得定理(d

9、ngl)2证设)(tX在处均方连续，）（)()(),(kXhXEkhR),()()(),(lim00RXXEkhRkh）（即),( tsR在),(连续。如果),( tsR在),( tt，),(t处连续，则),(tsR在),( ts，),(,ts处连续。因),(tsR在),( tt，),(t处连续，由定理(dngl)1知，)(tX在t ),(点均方连续， 即对于),(,ts，有首页第14页/共61页第十四页，共61页。再由均方收敛(shulin)性质2，得即)()(0sXhsXhl.i.ml.i.m)()(0tXhtXhl l. .i i. .m m),(lim00kthsRkh)()(lim0

10、0ktXhsXEkh),()()(tsRtXsXE),(tsR在),( ts，),(,ts处连续。首页第15页/共61页第十五页，共61页。定理(dngl)3则证由均方连续定义(dngy)若二阶矩过程)(tX,Tt 是均方连续的，)()(lim0tXEhtXEh0)()(lim20tXhtXEh从而(cng r)(lim0htXEh)()(0tXEhtXhE）（l l. .i i. .m m说明在均方连续的条件下，均值运算与极限运算的次序可以互换。但要注意，上式左边为普通函数的极限，而右边表示均方收敛意义下的极限。首页第16页/共61页第十六页，共61页。例1 试讨论(toln)其均方连续性。

11、解泊松过程的均值、方差(fn ch)函数为则相关(xinggun)函数设)(tX,0t是具有参 数为的泊松过程，ttXEtm)()(ttXDtD)()(若ts 0，)()(),(tXsXEtsR)()()()(sXsXtXsXE)()()()(2sXtXEsXEsXE)()()(2stssmsXDstsstsss22)()(首页第17页/共61页第十七页，共61页。同样(tngyng)因此(ync)由于(yuy)当st 0时，有stttsR2),(sttstsR2),min(),(),( tsR在（t，t）处二元连续故)(tX在0t时均方连续。注 此例说明均方连续的随机过程，其样本曲线不一定是

12、连续的。返回首页第18页/共61页第十八页，共61页。第四节 均方导数(do sh)一、均方导数(do sh)的定义定义(dngy)1如果均方极限存在设随机变量)(tX，),(t为二阶矩过程对于确定的),(t，0hl l. .i i. .m mhtXhtX)()(则称 在t处均方可微，)(tX并将此极限记作)(tX称为)(tX在 t 处的均方导数即有 )(tX0hl l. .i i. .m mhtXhtX)()(或0)()()(lim20tXhtXhtXEh首页第19页/共61页第十九页，共61页。二次均方可微二阶均方导数(do sh)定义(dngy)2广义(gungy)二次可微存在若)(tX

13、,),(t在t处均方可微，则称)(tX在t处二次均方可微)(tX的均方导数记为)(tX 设),( tsR为随机过程)(tX,Tt 的相关函数，若它在),( ts点当0, kh时，极限khtsRktsRthsRkthsRkh),(),(),(),(lim00则 称),( tsR在),( ts处 广 义 二 次 可 微 ，而此极限称为),(tsR在),(ts处广义二阶导数首页第20页/共61页第二十页，共61页。二、均方可微准则(zhnz)定理(dngl)1证设)(tX,),(t为二阶矩过程，则)(tX,),(t在t处均方可微的充要条件是其相关函数),(tsR在),( tt处广义二次可微。由均方收

14、敛(shulin)准则知0hl l. .i i. .m mhtXhtX)()(的充要条件是ktXktXhtXhtXEkh)()()()(lim00存在而khttRkttRthtRkthtR), (), (),(),(当0, 0kh时正是),( tsR在),( tt处广义二次可微。存在首页第21页/共61页第二十一页，共61页。三、均方导数(do sh)的性质性质(xngzh)1性质(xngzh)2设)(tX和)(tY均方可微，a，b 为常数，则)(taX)(tbY也均方可微，且dtd)(taX)(tbYdttdXa)(dttdYb)(设)(tX为均方可微，)(tf为一个普通可微函数，则)(tf

15、)(tX也均方可微，且dtd)(tf)(tX)()(tXdttdfdttdXtf)()( 首页第22页/共61页第二十二页，共61页。性质(xngzh)3性质(xngzh)4设)(tX在 t 处均方可微，则)(tX在 t 处均方连续。设)(tX均方可微，),(tsR为其相关函数，则)()(),(tXsXEtsRs)()(),(tXsXEtsRt)()(),(),(22tXsXEtsRsttsRts证1首页第23页/共61页第二十三页，共61页。其它(qt)类似可证性质(xngzh)5)()(tXsXE0hE l l. .i i. .m m)()()(tXhsXhsXEh0lim)()()(tX

16、hsXhsX0limhhtsRthsR),(),(),( tsRs若XtX)(，YtX)(，则YX 首页第24页/共61页第二十四页，共61页。四1证)()(tYtX的的均均值值、相相关关函函数数与与)(tX的的关关系系均方导数)()(tXtY的均值)(tmY)()(tXEdtdtXE)(tmY)(tXE0hE l l. .i i. .m mhtXhtX)()(Eh0limhtXhtX)()(0limhhtXEhtXE)()()(tXEdtd注均方导数 的均值(jn zh)等于均值(jn zh)函数的导数。而 为普通意义下的确定性函数，故可用分析的方法求导。)(tX)(tXE首页第25页/共6

17、1页第二十五页，共61页。2.证)(tX和)()(tXtY的 互 相 关 函 数),(),(tsRttsRXXY),(),(tsRstsRXYX)()(),(tYsXEtsRXYhtXhtXhsXE)()(0)(l.i.ml.i.mhh1lim0)()()()(tXsXhtXsXEhh1lim0),(),(tsRhtsRXX),( tsRtX首页第26页/共61页第二十六页，共61页。注求偏导数(do sh)得到。3随机过程)(tX和其均方导数过程)(tY的互相关函数),( tsRXY，),( tsRYX可以通过),( tsRX分别对变量s和t)()(tXtY的相关函数),(tsRY),(2t

18、sRtsX证明(zhngmng)()(),(tYsYEtsRY)()()(0tYhsXhsXhE l.i.ml.i.mhh1lim0)()()()(tYsXtYhsXE首页第27页/共61页第二十七页，共61页。即同理可得hh1lim0),(),(tsRthsRXYXY ),( tsRsXY),( tsRY),( tsRsXY),( tsRY),( tsRtYX又因),(),(tsRttsRXXY),(),(tsRstsRXYX故),(tsRY),(2tsRtsX首页第28页/共61页第二十八页，共61页。注随机过程 的相关函数求两次混合(hnh)偏导数。例1证明(zhngmng)求导数过程)

19、()(tXtY的相关函数，只需对)(tX设AttXsin)(，其中 A 是随机变量，4AE则AtAtXcos)(2cossin)(sinAtAhAthtAE2)(sincos) 1(cossinhAhAhAtAhAtE222) 1(cossin2hAhAtE222)(sincos2hAhAhAtE442AEh0(0h)21cos2sin返回(fnhu)首页第29页/共61页第二十九页，共61页。第五节 均方积分(jfn)一、均方黎曼可积定义(dngy)1设)(tX，Tt 为二阶矩过程， ,baT ， 分割(fng),baT bttttan210)(max11kknkntt作和式)(11kkkn

20、knttuXYkkktut1如果在0n时 ，nY均 方 收 敛 于J，且与对, ba分法及ku的取法无关，则称)(tX在, ba上（黎曼）均方可积，并称nY的极限 J 为)(tX在,ba上的均方积分记作dttXba)(dttXba)(0nl l. .i i. .m m)(11kkknkttuX即首页第30页/共61页第三十页，共61页。二、均方可积准则(zhnz)定理(dngl)1即黎曼积分存在(cnzi)设 )(tX是一个二阶矩过程，它在,ba上均方可积的充要条件是)(tX的相关函数),(tsR在区域bsa，bta黎曼可积，dsdttsRbaba),( 证由均方收敛准则可知，)(tX在, b

21、a上均方可积，即)(11iiinittuX均方收敛的充要条件是mnlim)(11iiinittuXE（)(11jjjmjttvX存在mnlim)()()(1111jjiijinimjttttvXuXE首页第31页/共61页第三十一页，共61页。mnlim)()()(1111jjiijinimjttttvXuXEmnlim)()(,(1111jjiinimjtttttsR如果上式极限存在(cnzi)，其极限值就是黎曼积分dsdttsRbaba),( 即),(tsR在区域bsa，bta黎曼可积。首页第32页/共61页第三十二页，共61页。定理(dngl)2证明(zhngmng)设)(tX在, ba

22、上 均 方 连 续 ， 则)(tX在, ba上 均 方 可 积 。因为)(tX在,ba均方连续，由均方连续准则知相关函数),( tsR在正方形区域：bsa，bta上连续，因 而 其 黎 曼 积 分 存 在 ，由定理(dngl)1知，)(tX必在,ba上均方可积。三、均方积分的性质性质1设)(tX，)(tY在,ba均方可积，为常数，则dttYdttXdttYtXbababa)()()()(dttXdttXdttXbccaba)()()(首页第33页/共61页第三十三页，共61页。性质(xngzh)2其中(qzhng)性质(xngzh)3设)(tX在,ba上均方连续，则22)()(abMdttXE

23、ba)(max2tXEMbta设)(tX在,ba上均方连续，则dttXtYta)()( （bta）在,ba上均方连续，均方可微，且)()(tXtY首页第34页/共61页第三十四页，共61页。性质(xngzh)4性质(xngzh)5设)(tX在,ba上均方连续，且)(tX均方连续，则)()()(aXbXdttXba（均方可积的唯一性）)(tX在,ba上的均方积分是唯一的。四、均方积分的数字(shz)特征1随机过程 积分的期望)(tX若)(tX在,ba均方可积，则有dttXEdttXEbaba)()(首页第35页/共61页第三十五页，共61页。证注1)(dttXEbaE0nl.i.ml.i.m)(

24、11kkknkttuX0limn)(11kkknkttuXE0limn)(11kkknkttuXEdttXEba)(若)(tX在, ba均方可积，则均值与积分可以交换次序注2dssmtmXtaY)()(首页第36页/共61页第三十六页，共61页。2均方积分的方差(fn ch)及协方差(fn ch)函数则证若)(tX在,ba均方可积，即dttXYba)(存在2YEdssXdttXEbaba)()(dsdttXsXEbaba)()( dsdttsRbabaX),( YD22)(YEYE2)(YEdssXEdttXEbaba)()(dsdtsmtmXXbaba)()( dsdtsmtmtsRXXba

25、baX)()(),( dsdttsKbabaX),( dsdttsKDbabaXY),( 首页第37页/共61页第三十七页，共61页。注同样可以(ky)证明3均方积分的自相关函数(hnsh)及互相关函数(hnsh)dssXtYta)()(的协方差函数dsdttsKttKtataXY),(),(1221 若)(tX在,ba均方可积，即dssXtYta)()(存在，则),(21ttRYdsdttsRXtata),(12 dsstRttRtaXXY),(),(1212dstsRttRtaXYX),(),(2211首页第38页/共61页第三十八页，共61页。证只证明(zhngmng)其他(qt)类似可

26、证),(21ttRYdsdttsRXtata),(12 ),(21ttRYdsdttXsXEtata)()(12 )()(21tYtYEdssXEta)(1)(2dttXtadsdttXsXEtata)()(12 dsdttsRXtata),(12 首页第39页/共61页第三十九页，共61页。例1解设tAtX22)( ，其中A是随机变量，4AE试求tdttX0)(在定义(dngy)中可取)(211kkkttu则)(11kkknkttuX)(2121112kkkknkttttA)0(21222tA22tA所以(suy)tdttX0)(ttdtA02222tA首页第40页/共61页第四十页，共61

27、页。例2解讨论(toln)维纳过程 的均方可积性。且有由于(yuy)(tX因)()(sXtX服从 N（0,)(2st ）分布，0)0(X),min(),(2tstsRdsdttsRuu),(00 200dstsdsdtutut332u对一切(yqi)有穷的u存在，故均方积分dttXuYu)()(0存在。首页第41页/共61页第四十一页，共61页。例3解设设随机过程)(tX，0t的相关函数为|),(tsMetsR试 求)(tX的 积 分 的 相 关 函 数 。dttXsYs)()(0所以(suy),(21ssRY 1200)(ssdsdttsR， 1200|sstsdsdteM120)(0)(s

28、ssststsdsdtedteM21ss12)(211221sssseeeMsM首页第42页/共61页第四十二页，共61页。同样(tngyng)可得故得当21ss 时，),(21ssRY12)(222121sssseeeMsM),(21ssRY),min(221ssM1|21221sssseeeM返回(fnhu)首页第43页/共61页第四十三页，共61页。第六节 均方黎曼司蒂吉斯积分(jfn)一、定义(dngy)1、有界变差函数(hnsh)设)(xf是区间a，b上的有界函数，对任意一组点,10batttnbtttan10作和式| )()(|),(10110iniinftftftttI则称 f

29、是对分组点nttt,10的变差 如果对一切可能的分组点，变差所形成的数集 有界，| ),(|10nftttI则称 f 是在a，b上的有界变差函数首页第44页/共61页第四十四页，共61页。2、RiemanStieltjes积分(jfn)记设)(tX,Tt 为二阶矩过程，)(tf是在a，b上的有界变差函数，,baT 对区间a，b进行分割：btttan101iiitttni 11 ,maxniti作和式nI1和nI2：)()()(111iiinintXtXtfI)()()(112iiinintftftXIiiittt1如果(rgu)均方极限11)(0l.i.mIIn22)(0l.i.mIIn存在并

30、与分割(fng)和 的取法无关，it首页第45页/共61页第四十五页，共61页。则均方黎曼司蒂吉斯积分(jfn)1I和2I分别称为)(tf对)(tX和)(tX对)(tf的记为batdXtfI)()(1batdftXI)()(2二、 和 积分存在(cnzi)条件1I2I定理(dngl)1设)(tX,bat为二阶矩过程，其相关函数为),( stRX首页第46页/共61页第四十六页，共61页。则 存在(cnzi)则 存在(cnzi)（1）batdXtfI)()(1batdftXI)()(2（2）若)(tf是a，b上连续有界函数，),( stRX在,baba上为有界变差，若),( stRX在,baba

31、上连续，)(tf是,ba上的有界变差函数，定理(dngl)2若1I存在，则2I也存在。且有12)()(ItXtfIba注反之也成立。首页第47页/共61页第四十七页，共61页。定理(dngl)3三、期望(qwng)与二阶矩若1I和2I都存在，则有batdXtf)()(batXtf)()(batdftX)()(batdftX)()(batXtf)()(batdXtf)()( )()(1batXdEtfIEbatdftXEIE)()(221IE),()()(2 baXbastKdsftf22IE babaXsdftdfstK)()(),(返回(fnhu)首页第48页/共61页第四十八页，共61页。

32、第七节 均方导数与均方积分(jfn)的分布一、特征函数族问题(wnt)如何(rh)利用随机过程的特征函数族，求出其均方导数及均方积分的特征函数族定理1其有穷维特征函数族为设)(tX,bat 为二阶矩过程，),(11nntt；（1）若 的均方导数存在，TX则对任意Tttn,1，Ththtnn,11有),(11nnXtt；nnnhhthtthtthtn,(lim2221110,1),22221111nnnnhhhhhh首页第49页/共61页第四十九页，共61页。（2）则对任意Tttn,1，有若TX的均方积分dttXtYta)()(存在，),(11nnYtt；,()()(1)1()1(1, 101)

33、(limnmnmniniimuuuu),),) 1 (111) 1 (011111mmtttt）（）（),),)(1)()(01nmnmnnnnnntttt（）（其中(qzhng),ita的分点为iimiittttai)()(1)(0,)()(1)(ikikikttuimk 1)(max)(1)(1)(ikikmkimttiini, 1首页第50页/共61页第五十页，共61页。二、正态过程的均方导数、积分(jfn)的性质性质(xngzh)1设),()()(2)(1)(nknnnXXXX为k维正态随机向量，且)(nX均方收敛于),(21kXXXX，即对每个i有0lim2)(ininXXEki 1

34、则X也是k维正态随机(su j)向量。性质2设)(tX,Tt是正态过程，且在T上均方可微，则)(tX,Tt 也是正态过程。首页第51页/共61页第五十一页，共61页。性质(xngzh)3则也是正态过程(guchng)设)(tX，Tt是正态过程，且在T上均方可积，dssXtYta)()(),(Tta三、正态过程的均方导数(do sh)、积分的特征函数定理2设正态过程)(tX的均值函数为)(tm，协方差为),(tsK（1）若)(tX均方可微，则），（)(,),()(21ntXtXtX的特征函数为),(11nnXtt；),(21)(exp1,21nkjkjkjnjjjtsttKtmi首页第52页/共

35、61页第五十二页，共61页。（2）则若)(tX均方可积，dssXtYta)()(，），（)(,),()(21ntYtYtY的特征函数为),;,(11nnYtt njtatakjnkjkjtajjkjdsdtttKdssmi11,),(21)(exp返回(fnhu)首页第53页/共61页第五十三页，共61页。第八节 均方微分方程(wi fn fn chn) 一、考察(koch)随机微分方程 其中 是二阶矩过程(guchng)， 是二阶矩随机变量。 1 00)(,),()(XtXbaTttYtX)(tY0X微分方程在均方意义下的唯一解是 ttdssYXtX0)()(02 微分方程解的均值和相关函数 首页第54页/共61页第五十四页，共61页。（在 与 独立(dl)时