第2章 随机过程的基本概念

1、12022-7-3 第二章第二章 随机过程的基本概念随机过程的基本概念 第一节第一节 随机过程的定义及其分类随机过程的定义及其分类 第二节第二节 随机过程的分布及其数字特征随机过程的分布及其数字特征第三节第三节 复随机过程复随机过程第四节第四节 几种重要的随机过程简介几种重要的随机过程简介22022-7-3 第一节第一节 随机过程的定义及其分类随机过程的定义及其分类一、直观背景及例一、直观背景及例某电话交换台在时间段0，t接到的呼叫次数例例1一般情况下它是一个随机变数X ，并且依赖时间t，即随机变数X（t），t 。例例2在天气预报中，研究某地一天当中最高气温一般情况下它是一个随机变数X ，并且

2、依赖时间t，即随机变数X（t），t=1，2，032022-7-3例例3国民收入问题表示依赖于一个变动参量的一族随机变量。它虽然不能用一个确定的函数来描述，但也是有规律的。随着各种随机因素的影响而随机变化，一般地有 其中C（t）、I（t）分别表示t年的消费和积累随机过程 )()()(tItCtY42022-7-3二、随机过程的定义二、随机过程的定义1随机 过程 设E是随机试验， 是它的的样本空间，T是一个参数集，若对于每一个都有随机变量 ，与之对应，则称依赖于t的随机变量 为随机过程，或称为随机函数， 通常记作Tt),(tX),(tX)(tX，Tt或)(tX。说明1参数集T在实际问题中，常常指的

3、是时间参数，但有时也用其它物理量作为参数集。52022-7-3说明2因为 随机过程)(tX，Tt是一个二元函数对于每一个固定的时刻Tt 0，)(0tX是一个随机变量，并称作随机过程)(tX在0tt 时的一个状态，它反映了)(tX的“随机”性；对于每一个0，)(tX是一个确定的样本函数，它反映了)(tX的变化“过程” 。62022-7-32贝努利过程 设每隔单位时间掷一次硬币，观察它出现的结果。如果出现正面，记其结果为1；如果出现反面，记其结果为0。一直抛掷下去，便可得到一无穷序列 因为每次抛掷的结果是一个随机变量（1或0），所以无穷次抛掷的结果是一随机变量的无穷序列，称为随机序列，也可称为随机

4、过程。 每次抛掷的结果与先后各次抛掷的结果是相互独立的，并且出现1或0的概率与抛掷的时间n无关。 72022-7-3设称具有这种特性的随机过程为贝努利型随机过程。注如果固定观测时刻t，则它的试验结果是属于两个样本点0和1所组成的样本空间如果在二个不同时刻1t，2t观测试验结果则样本空间出现的值为（0,0）,（0,1）,（1,0）,（1,1）82022-7-3三、随机过程的分类三、随机过程的分类1、按参数集和状态分类 参数集T的是一个可列集T=0，1，2，离散参数连续参数参数分类参数集T的是一个不可列集0|ttT状态分类离散状态连续状态)(tX取值是离散的取值是连续的92022-7-3T离散、I

5、离散T离散、I非离散（连续）参数T状态I分类概率结构分类2按过程的概率结构分类T非离散（连续） 、I离散T非离散（连续） 、I非离散（连续） 独立随机过程独立增量随机过程马尔可夫过程平稳随机过程102022-7-3（1）独立随机过程简称独立随机过程。 设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn )(1tX，)(2tX，)(ntX是相互独立的则称)(tX为具有独立随机变量的随机过程，112022-7-3（2）独立增量随机过程是相互独立的，设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn 且nntttt121)()(12tXtX，)()(23tXtX，)()(1nntXtX则

6、称)(tX为具有独立增量的随机过程。122022-7-3（3）马尔可夫过程简称马氏过程。设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn 且nntttt121|)(nnxtXP11)(nnxtX，)(11xtX=|)(nnxtXP11)(nnxtX） ，则称)(tX为马尔可夫过程132022-7-3马氏过程的特点马氏性实质上是无后效性，所以也称马氏过程为无后效过程。称这个特性为马尔可夫性，简称马氏性。 当随机过程在时刻1nt的状态已知的条件下，它在时刻nt（1nntt）所处的状态仅与时刻1nt的状态有关，而与过程在时刻1nt以前的状态无关142022-7-3（4）平稳随机过程 平稳过程

7、的统计特性与马氏过程不同，它不随时间的推移而变化，过程的“过去”可以对“未来”有不可忽视的影响。152022-7-3第二节第二节 随机过程的分布及其数字特征随机过程的分布及其数字特征一、随机过程的分布函数一、随机过程的分布函数一维分布函数其分布函数为设)(tX，Tt 是一个随机过程，对于固定的Tt 1，)(1tX是一个随机变量， )()(1111xtXPxtF；，Tt 1称)(11xtF；为随机过程)(tX的一维分布函数。一维概率密度 若 存 在 二 元 非 负 函 数)(11xtf；， 使11111)()(1dyytfxtFx；则称)(11xtf；为随机过程)(tX的一维概率密度162022

8、-7-3二维分布函数联合分布函数二维概率密度二维随机向量（)(1tX，)(2tX） Ttt),(21)(,)(),(22112121xtXxtXPxxttF；，称为随机过程)(tX的二维分布函数若存在非负函数),(2121xxttf；),(2121xxttF；=212121),(12dydyyyttfxx； 则称),(2121xxttf；为)(tX的二维概率密度172022-7-3n 维分布函数联合分布函数 n维概率密度n 维随机向量（)(1tX，)(2tX，)(ntX）),(2121nnxxxtttF；)(,)(,)(2211nnxtXxtXxtXP，若存在非负函数),(2121nnxxxt

9、ttf；),(2121nnxxxtttF；=nnnxxxdydydyyyytttfn212121),(12； 182022-7-3有限维分布族一维，二维，n维分布函数的全体：易知1,),(212121nTtttxxxtttFnnn；它不仅刻划了每一时刻Tt 1随机过程)(tX的状态)(1tX的分布规律，而且也刻划了任意时刻Ttttn,21随机过程)(tX的状态)(1tX，)(2tX，)(ntX之间的关系 因此，一个随机过程的统计特性可由其有限维分布函数族表达出来。192022-7-3联合分布函数n + m维随机向量分布函数设)(tX和)(tY，nttt,21，Ttttm,21)(1tX,)(2

10、tX,)(ntX，)(1tY,)(2tY,)(mtYnXYttF,(1；mtt,1；nxx,1；myy,1）；nnxtXxtXP)(,)(11mmytYytY）（）（,11称为随机过程和的n + m维联合分布函数202022-7-3相互独立n + m维随机向量 分布函数设)(tX和)(tY，nttt,21，Ttttm,21nXYttF,(1；mtt,1；nxx,1；myy,1）则称随机过程 相互独立；nXttF,(1nxx,1）(YFmtt,1；myy,1）)(tX和)(tY212022-7-3例例1 袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的t对应随机变

11、量 时取得白球如果时取得红球如果tttettX,3)(试求这个随机过程的一维分布函数族。分析分析先求概率密度222022-7-3所以解解对每一个确定的时刻 t，)(tX的概率密度为3tte)(tX3231P)(11xtF；)(11xtXP ttexexttx，13,323,011 232022-7-3例1：利用抛掷一枚硬币的试验，定义一随机过程：12cos 1( ) ,()(),2 ( )(1)( ;0)( ;1); (2) (,;0,1)tHX ttP HP TtTX tF xF xF xx 出 现， 设出 现试 确 定的 ： 一 维 分 布 函 数 ，二 维 分 布 函 数 。1 (0)0

12、 HXT出现解：（1）出现 0 01( ;0) 012 1 1xF xxx故1 (1)1 HXT出现出现 0 11( ;1) 112 1 1xF xxx 故242022-7-3cos 1( ) ,()()2 tHX ttP HP TtT 出 现，。出 现121211212212120 11, 01( ,;0,1) 01,1111 11xxxxF x xxxxxxx 且或或故或，1 且1234( )X t1( )X t2( )Xtt1x2xT(0,1), ) 1, 1 ()1 (),0(出现出现HXX252022-7-3二、随机过程的数字特征二、随机过程的数字特征 1均值函数或称为数学期望说明说

13、明设随机过程)(tX，Tt ，则 )()(tXEtm，Tt ，称为随机过程)(tX的均值函数)(tm是)(tX的所有样本函数在时刻 t 的函数值的平均它表示随机过程)(tX在时刻 t 的摆动中心262022-7-3 2方差函数说明说明随机过程)(tX，Tt 的二阶中心矩)()()()(2tmtXEtXDtD称为随机过程)(tX的方差函数)(tD的平方根)(t)(tD均方差函数它表示)(tX在各个时刻 t 对于)(tm的偏离程度272022-7-3 3协方差函数二阶中心混合矩简称协方差函数随机过程)(tX在Ttt21,的状态)(1tX和)(2tX ),(21ttK)()()()(2211tmtX

14、tmtXE称为随机过程)(tX的自协方差函数 当Tttt21，有注 ),()(ttKtD)()(2tmtXE282022-7-3 4互协方差函数其中设)(tX和)(tY是两个随机过程对任意Ttt21,，则),(21ttKXY)()()()(2211tmtYtmtXEYX称为随机过程)(tX与)(tY的互协方差函数)()(11tXEtmX)()(22tYEtmY292022-7-3 5相关函数简称相关函数注对任意Ttt21,)(1tX和)(2tX的二阶原点混合矩 ),(21ttR)()(21tXtXE称 为 随 机 过 程)(tX的 自 相 关 函 数 ，当0)( tm时，有 ),(21ttR=

15、),(21ttK302022-7-3 6互相关函数注对任意Ttt21,设)(tX和)(tY是两个随机过程 ),(21ttRXY)()(21tYtXE称为随机过程)(tX与)(tY的互相关函数 ),(21ttKXY=),(21ttRXY)()(21tmtmYX则312022-7-3 7互不相关注对任意Ttt21,设)(tX和)(tY是两个随机过程 ),(21ttKXY=0则称随机过程)(tX与)(tY互不相关有若随机过程)(tX与)(tY互不相关则 ),(21ttRXY)()(21tmtmYX即)()()()(2121tYEtXEtYtXE若322022-7-3例例2解解求：（1）均值函数；（2

16、）协方差函数；（3）方差函数。设随机过程tUtX2cos)(，其中 U 是随机变量且5)(UE，6)(UD（1）)(tm2cos)(tUEtXE2cosUtEt2cos5（2）),(21ttK)()()()(2211tmtXtmtXE2cos)5(2cos)5(21tUtUE)5(2cos2cos221UEtt2cos2cos21UDtt212cos2cos6tt（3）令ttt21得ttXD2cos6)(2332022-7-3例例3解解试求它们的互协方差函数。所以设两个随机过程2)(UttX，3)(UttY其中U 是随机变量且5)(UD)(tX和)(tY的均值函数)(2UtEtmX2UEt)(

17、3UtEtmY3UEt),(21ttKXY)()()()(322211UEttYUEttXE)(23221UEUEtt)(3221UDtt32215tt)(tX和)(tY的互协方差函数 342022-7-3三、随机过程的特征函数三、随机过程的特征函数1一维特征函数则注设)(tX是一个随机过程对固定的Tt 1),()(1111tXieEt111)(11dxxtfexi；（)(11xtf；是)(1tX的一维密度函数，1是实数）称为随机过程)(tX的一维特征函数它是1t与1的二元函数352022-7-3 2n维特征函数则3.有限维特征函数族设)(tX是一个随机过程对固定的Tttn,1，),()()(

18、1111nntXtXinneEtt；称为随机过程)(tX的 n 维特征函数其中1，n,是实数。)(tX，Tt的一维，, n维特征函数的全体),(11nntt ；，Tttn,1，1n注随机过程)(tX的有限维分布函数族与有限维特征函数族相互唯一决定362022-7-3 第三节第三节 复随机过程复随机过程一、定义一、定义是两个实随机过程则则设)(tX,Tt 与)(tY,Tt )()()(tiYtXtZ，Tt 称为复随机过程记作)(tZ,Tt，简记作)(tZ并称并称实随机过程)(tX、)(tY的联合分布为复随机过程)(tZ的分布372022-7-3二、数字特征二、数字特征1均值 函数2自协方差函数其

19、中记号“”表示“共轭”)()()()(tYiEtXEtZEtmZ)()(timtmYX)(tZ，Tt 在时刻Ttt21,的状态)(1tZ与)(2tZ的二阶中心混合矩),(21ttKZ)()()()(2211tmtZtmtZEZZ称为复随机过程)(tZ的自协方差函数382022-7-33自相关函数自协方差函数与自相关函数的关系4方差 函数 )()(E),(2121tZtZttRZ)()(),(),(212121tmtmttRttKZZZZ| )()(|)(2tmtZEtDZZ它实际上等于自协方差函数),( ttKZ且有)(tDZ)()(tDtDYX392022-7-3证由于所以即)(tDZ)()

20、(tDtDYX)()(tmtZZ)()()()(timtmtiYtXYX)()()()(tmtYitmtXYX)(tDZ)()()()(22tmtYtmtXEYX)()()()(22tmtYEtmtXEYX)()(tDtDYX402022-7-35 互 协方差函数6互相关函数 设)(1tZ，)(2tZ是两个复随机过程对固定的Ttt21,),(2121ttKZZ)()()()(22211121tmtZtmtZEZZ称为)(1tZ与)(2tZ的互协方差函数。 )()(E),(22112121tZtZttRZZ412022-7-3自相关关系)()()(tiYtXtZ的自相关函数可有)(tX和)(tY

21、的自相关函数和互相关函数表示即 )()(E),(2121tZtZttRZ),(),(),(),(21212121ttRttRittRttRXYYXYX类似地 )()(E),(22112121tZtZttRZZ),(),(21212121ttRttRYYXX),(),(21212112ttRttRiYXXY互相关关系422022-7-3例例1已知复随机过程 tietZ)(，1Rt 其中N（0，1） ，是给定常数，求)(tZ的均值函数和相关函数。解解)(tieEtZE0Eeti),(21ttR21titieeE2)(21Eetti)(21ttie21titieeE432022-7-3第四节第四节

22、几种重要的随机过程简介几种重要的随机过程简介一、独立增量过程一、独立增量过程1定义随机变量的增量是相互独立的设)(tX,Tt 是一随机过程，若对任意正整数 n 及Tttn,1，nntttt121)()(12tXtX,)()(23tXtX,)()(1nntXtX则称)(tX为独立增量的过程442022-7-32齐次性或称时齐的注若 对 任 意 的t，Tt，则称随机过程)(tX为齐次的，若)(tX是 齐 次 的 ，所以只要时间间隔相同那么增量服从的分布也相同，具有平稳性增量)()(tXtX的概率分布只依赖于而与t无关，增量所服从的分布与时间起点无关452022-7-3例例1证证设)(nX，, 2

23、, 1 , 0n是相互独立的随机变量序列，令)()(0nXiYin则)(iY，, 2 , 1 , 0i是一个独立增量过程。) 1()(iYiY)(iX （, 2 , 1i）而)(iX（, 2 , 1i）是相互独立的所以)(iY，, 2 , 1 , 0i是一个独立增量过程。462022-7-3二、维纳过程二、维纳过程1定义则称或布朗运动过程如果随机过程)(tX，), 0 Tt满足（1）0)0(X（2）)(tX是齐次的独立增量过程（3）对于每一个0t，有 )(tX), 0(2tN 随机过程)(tX为维纳过程当1时，称为标准维纳过程特别472022-7-32均值、方差、协方差及相关函数均值协方差及相

24、关函数证0)(tXE方差ttXD2)( ),(21ttK),(21ttR),min(212tt由定义可得均值、方差公式482022-7-3下证 ),(21ttK),(21ttR),min(212tt当21tt 时)()(),(2121tXtXEttR)(1tXE)()(12tXtX+)(12tX)(12tXE)0()(1XtXE)()(12tXtX)(1tXD12t同理当12tt 时),(21ttR22t 故 ),min(),(21221ttttR显然),(21ttK),(21ttR492022-7-33对任意nttt,21，210ttnt维纳过程)(tX有)()(1iitXtX)(, 0(1

25、2iittN，ni, 2 , 1 证由于增量)()(1iitXtX，ni, 2 , 1 是相互独立的正态变量。所以)()(1iitXtXE0)()(1iitXEtXE502022-7-3)()(1iitXtXD)()(21iitXtXE)()()(2)(1212iiiitXtXtXtXE)()()(2)(1212iiiitXEtXtXEtXEit2122it12itiitt1)(12iitt512022-7-34具有马氏性证因此所以因)(tX是维纳过程增量)()(sXstX与时刻 s 以前的状态)(X (s0)独立，xsXastXP)(|)(，)(X，s0 xsXxasXstXP)(|)()(，)(X，s0 xsXxasXstXP)(|)()(xsXastXP)(|)(所以维纳过程是马氏过程。522022-7-3例4试求的协方差函数。且解设)(tW，0t是一个维纳过程，0)0(W)()(tWltW（0l常数）),(21ttK)()(11tWltWE)()(22tWltW)()(tWltWE)()(21ltWtWE)()(21tWltWE)()(21tWtWE),min(212ltlt),min(212ltt),min(212tlt ),min(212tt)(tm0)()(21ltWltWE532022-7-3当21tt 时，可得),(21ttK1221212),(,