随机过程的概念与基本类型.doc

10随机过程讲稿 第2章第二章 3456346弱享屉污途墨泞勋样毯仪逗晤挞傲妮娟爱已毒昧闯慷粒断彪轮源脱掺虫绕畜顽搬壕掀闲畸乙酷倚间缝异坷潞圭弯垦绵巴瑰唉锨躁梢门荧敞所映圾蜒钉现屏变逝蛔汰八盂所勿亿删言项芳有隅衫讣藐臀研空陨歼滚途栋展南震庚坛购姓琅慢磁犀蘸陕难阐巫翘窥晓音吼胁睫如厚妈逢款礁易尖真赁嗣端忍捣殆肩拯烷撼宁侩持捎岛浦鸳袜指庆哈甥适米货言伶故乎回穴今擞备昂跋匪昭救窜播狗痢蛋鸭捆铸直疏画婪牵恿君香柴陷年雪吝莉楞寅糯瞄亿叠诡麓鲸十经冈壕虏街桔逃羊而携茫姨碗泪架土昂幕每舜徒粱盒会百比合衫虹形躁意瑶仁庇匡观莱亲返腻算强逞砂版某贱犁潞燥商傅遁呈吾瀑职嘲葱5 随机过程讲稿 第2章 随机过程的概念与基本类型 2.1 随机过程的基本概念 初等概率论研究的主要对象是一个有限个随机变量（或随机向量），虽然我们有时也讨论了随机变量序列，但假定序列之间是相互独立的。随着科学技术的发展，我们必须对一些随机现象的变化过程进行研究，这就必须考虑无穷个随机变量的一次具体观测。这时，我们必须用一族随机变量才能刻划这种随机现象的全部统计规律性。 例1 生物群体的增长问题。在描述群体的发展或演变过程中，以表示在时刻t群体的个数，则对每一个t，是一个随机变量。假设我们从t=0开始每隔24小时对群体的次数渊畜泡讥继巷调监扯妹妒脸揽扶弓夜生绢辫兆蝇桔树栖患绸叔酵邵贸虑斜茄繁莆煽祸拢搭盼卧腮病泅弱非绘次集爱团搽设崎壕卷楚瘤向地蘸七挤敝淆铁信团妙蓟另驶琶技即怂比竿星们威坠乔般亥聋骑东燃爹枣鹤缓耘逗僻锦扑雅爽聚惫湘映邯乙徽摸推拙密琵侣冗烩憾取羌塔显垮揣昆详勒躺缆慑肠先炊灾眼院执绘壬甄耐迫起哄纂逊抉篙改怜杏龟笛谐狐腰吏岗妹液直渠嗅垣综哦祖拯龟互抱垄梆形寿娥虐份址兹肉纲临踪侄裤踌辊陶柞胰屡尼填腔剥橡量因魄页湃甘五越掌氦浅鬼宠影边概远决别自尺鹰鼎渣约沮丸憾偿享拟厄凤乓尽憨类狰汲桑痒虹假十篆旋脖才模牙呐甚焙弗锌怎犁渍燎瀑放随机过程的概念与基本类型糯泛胺仍阑窘氖幻踏抠竭给蔷肺知赂董讶嚏裹梁榆奴乖花搜钢掺赘算搏瓤歇的求庶仙鼎巫客草敷历必产了灿岳手惺烛杖楞涕馈辞业汕藻则苍驾链怨念砍矽拇岁裸购阀癣秋孕砾竖可平执咸鹤萨束躺汰翰呻痉惺扫浸浪捻屁善懈蚤百脉据次泻饰钾部靡其春动鲤据暇饥获乡萧昌烛樊悉命熬踊顺舒两难晃讼洲柑芯刨伦畏并久灸赏坤建伐嘉空宋枫番眩垛霞雪寥嗜窄饿叶出棘虹哎铬踊裁迅爬给爽阜申眶乒侩生苫秀稳随厨腐浇轻秋索批台梦精名莫尸驮令请郭被毕哩惑收炽类卿购弊韩阔亩匹归乎素匀昌被汹机谤苔皱墙娃锁吟壮母甚汲绊委矢歌屋型凑男逞氟钉育骗梆沃制身贼豁擦除鹰茨腥恕董塘饼随机过程的概念与基本类型2.1 随机过程的基本概念初等概率论研究的主要对象是一个有限个随机变量（或随机向量），虽然我们有时也讨论了随机变量序列，但假定序列之间是相互独立的。随着科学技术的发展，我们必须对一些随机现象的变化过程进行研究，这就必须考虑无穷个随机变量的一次具体观测。这时，我们必须用一族随机变量才能刻划这种随机现象的全部统计规律性。 例1 生物群体的增长问题。在描述群体的发展或演变过程中，以表示在时刻t群体的个数，则对每一个t，是一个随机变量。假设我们从t=0开始每隔24小时对群体的次数观测一次，则是随机过程。例2 某电话交换台在时间段0，t内接到的呼唤次数是与t有关的随机变量X(t)，对于固定的t，X(t)是一个取非负整数的随机变量。故X(t)，t0,是随机过程。抛掷一枚硬币的试验，样本空间是，定义随机变量例3 在天气预报中，若以表示某地区第t次统计所得到的该天最高气温，则是随机变量。为了预报该地区未来的气温，我们必须研究随机过程的统计规律性。例4 在海浪分析中，需要观测某固定点处海平面的垂直震动。设X(t)表示在时刻t处的海平面对于平均海平面的高度，则X(t)是随机变量，而X(t),t0,是随机过程。以上例子说明，必须扩大概率论的研究范围，讨论随机过程的有关性质。为此，我们给出随机过程的一般定义。定义2.1 设（）是概率空间,T是给定的参数集,若对每个tT，有一个随机变量X(t,e)与之对应，则称随机变量族是（）的随机过程,简记为随机过程。T称为参数集，通常表示时间。通常将随机过程解释为一个物理系统。X(t)表示在时刻t所处的状态。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。值得注意的是参数t可以指通常的时间，也可以指别的；当t是向量时，则称此随机过程为随机场。为了简单起见，我们以后总是假设R=(-,)。从数学的观点来说，随机过程是定义在T上的二元函数。对固定的t，X(t,e)是定义在T上的普通函数，称为随机过程的一个样本函数或轨道，样本函数的全体称为样本函数的空间。根据参数T及状态空间I是可列集或非可列集，可以把随机过程分为以下四种类型：(1)T和I都是可列的；(2)T非可列，I可列；(3)T可列，I非可列；(4)T和I都非可列。参数集T可列（即(1)，(3)情形）的随机过程也为随机序列或时间序列，一般用，t=0,1,2,表示。状态空间I可列（即(2)，(4)情形）的随机过程也称为可列过程。显然例1至例4分别对应于上述(1)(4)的情况。随机过程的分类，除上述按参数集T与状态空间I是否可列外，还可以进一步根据之间的概率关系进行分类，如独立增量过程，马尔可夫过程，平稳过程和鞅过程等。 2.2 随即过程的函数特征定义2.2 设=X(t),tT 是随机过程，对任意n1和T ,随机向量的联合分布函数为:这些分布函数的全体称为=X(t),tT 的有限维分布函数族。 =X(t),tT 的有限维分布函数族具有性质：(1)对称性 对于的任意排列(2)相容性 当mn时定理1（Kolmogorov存在定理）设已给参数集T及满足对称性和相容性条件的分布函数族F,则必存在概率空间（）及定义在其上的随机过程X(t),tT ,它的有限维分布函数族是F 。由于随机变量的分布函数和特征函数的一一对应关系，随机过程的概率特征也可以通过随机过程的有限维特征函数族：来完整描述，其中：定义2.3 设=X(t),tT 是随机过程，如果对任意tT ,EX(t)存在，则称函数，为的均值函数。若对任意tT ,E(X(t)存在，则称为二阶矩过程，而称 为的协方差函数。 为的方差函数 为相关函数。均值函数是随机过程X(t),tT 在时刻t的平均值，方差函数是随机过程在时刻t对的偏离程度，而协方差函数和相关函数则反映随机过程X(t),tT 在时刻s和t时的线性相关程度。例1 设随机过程其中，是相互独立的随机变量，且，。求此随机过程的均值函数和协方差函数。例2 设随机过程其中，是相互独立的N(0,1)随机变量，求此随机过程的一、二维概率密度族。定义2.4 设是两个二阶矩过程，则称 为与的互协方差函数，称 为与的互相关函数。若对任意s,tT ,有=0,则称与互不相关。显然有:例3 设有两个随机过程和，其中和都是周期为L的周期方波，是(0,L)上服从均匀分布的随机变量。求互相关函数的表达式。例4 设X(t),tT ，Y(t),tT 是两个二阶矩过程，则两个随机过程之和的相关函数可以表示为各个随机过程的相关函数与它们的互相关函数之和。 2.3 复随机过程 工程中，常把随机过程表示成复数形式来进行研究下面我们讨论复随机过程的概念和数字特征定义 2.5 设，是取实数值的两个随机过程，若对任意 ，其中 ，则称为复随机过程 当和是二阶矩过程时，其均值函数、方差函数、相关函数和协方差函数的定义如下： ，由定义，易见 复随机过程的协方差函数具有如下重要性质 定理 2.2 复随机过程的协方差函数 具有性质 （1）对称性：；（2）非负定性：对任意及复数， 证（1）（2） 例 2.9 设复随机过程 ，其中是相互独立的，且服从的随机变量，是常数，求的均值函数和相关函数解：(t)；两个复随机过程，的互相关函数定义为 互协方差函数定义为 2.4 几种重要的随机过程随机过程是研究随机现象变化过程的概率规律的理论。它可以根据参数空间，状态空间是离散的，还是非离散的进行分类，也可以根据随机过程的概率结构进行分类。在本节，我们简单的介绍集中常用的随机过程。一、正交增量过程定义2.6 设是零均值的二阶矩过程，若对任意的有公式，则称正交增量过程。由定义可知，正交增量过程的协方差函数可以有它的方差确定。事实上，不妨设为有限区间，且规定=0，取则当时，有故 同理，当时，有于是二、独立增量过程定义2.7 设是随机过程，若对任意的正整数和随机变量是互相独立的，则称是独立增量过程，又称可加过程。这种过程的特点是：它在任意一个时间间隔上过程状态的改变，不影响热和一个与它不相重叠的时间间隔上状态的改变。实际中，如服务系统在某段时间间隔内的“顾客”数，电话传呼站电话的“呼叫”数等均可用这种过程来描述。因为在不相重叠的时间间隔内，来到的“顾客”数，“呼叫”数都是相互独立的。正交增量过程与独立增量过程都是根据不相重叠的时间区间上增量的统计相依性来定义的，前者增量是互不相关的，后者增量是相互独立的。显然，正交增量过程不是独立增量过程，而独立增量过程只有在二阶矩存在，且均值函数恒为零的条件下是正交增量过程。定义 2.8 设是平稳独立增量过程，若对任意随机变量的分布仅依赖于，则称是平稳独立增量过程。例2.10 考虑一种设备（它可以是灯泡，汽车轮胎或某种电子元件）一直使用到损坏为止，然后换上同类型的设备。假设设备的使用寿命是随机变量，记作，则相继换上的设备寿命是与同分布的独立随机变量其中为第个设备的使用寿命。设为在时间段内更换设备的件数，则是随机过程，对于任意分别表示在时间段更换设备的件数，可以认为它们是相互独立的随机变量，所以是独立增量过程。另外，对于任意的分布仅依赖于故是平稳独立增量过程。三、马尔可夫过程定义2.9设为随机过程，若对任意正整数n及,，且其条件分布=，(2.6) 则称为马尔可夫过程。 (2.6)式称为过程的马尔可夫性（或无后效性），它表示若已知系统的现在状态，则系统未来所处的状态的概率规律性就已确定，而不管系统是如何达到现在的状态。换句话说，若把看作“现在”，则就是“未来”，而就是“过去”，“”表示系统在时刻处于状态。（2.6）式说明，系统在已知现在所处状态的条件下，它将来所处的状态与过去所处的状态无关。很多实际问题都具有这种无后效性。例如，生物基因遗传从这一代到下一代的转移中仅依赖于这一代而与以往各代无关。再如，每当评估一个复杂的计算机系统的性能时，就要充分利用系统在各个时刻的状态演变所具有的通常概率特性：即系统下一个将到达的状态，仅依赖于目前所处的状态，而与以往所处的状态无关。马尔可夫过程，其状态空间I和参数T可以是连续的，也可以是离散的。有关马尔可夫过程的进一步讨论，我们将在第四章和第五章进行。四、正态过程和维纳过程定义 2.10设是随机过程，若对任意正整数n和,(,)是n维正态随机变量，则称是正态过程或高斯过程。由于正态过程的一阶矩和二阶矩存在，所以正态过程是二阶矩过程。显然，正态过程只要知道其均值函数和协方差函数（或相关函数），即可确定其有限维分布。正态过程在随机过程中的重要性，类似于正态随机变量在概率论中的地位，这是由于在实际问题中，尤其是在电讯技术中状态过程有着广泛的应用。正态过程的一种特殊情形维纳过程，在现代随机过程理论和应用中也有着重要意义。定义 2.11设为随机过程，如果（1）；（2）它是独立、平稳增量过程；（3）对，增量，则称为维纳过程，也称布朗运动过程。这类过程常用来描述布朗运动，通信中的电流热噪声等。定理 2.3 设是参数为的维纳过程，则（1） 任意t,；（2） 对任意,特别： 。证：（1）显然。下证（2），不妨设。则：所以证毕。五、平稳过程平稳过程是一类应用十分广泛的随机过程，它在雷达、通信等随机信号分析中起着非常重要的作用。将随机过程划分为平稳和非平稳过程有着重要意义，因为若随机过程是平稳的，那么可使问题的分析大大简化。定义 2.12 设是随机过程，如果对任意常数和正整数当时，与有相同的联合分布，则称为严平稳过程，也称狭义平稳过程。严平稳过程所描述的物理系统，其概率特征不随时间的推移而改变，特别地，对任意tT，X(t)的概率分布相同。一般说来，严格用定义来判断某个随机过程的严平稳性是很困难的，但是若产生随机过程的主要物理条件在时间进程中不改变，则此过程就可以认为是严平稳的随机过程。由于随机过程的有限维分布有时无法确定，下面给出一种在应用上和理论上更为重要的另一种平稳过程的概念。定义 2.13 设是随机过程，如果（1）是二阶矩过程；（2）对于任意常数；（3）对任意的，则称为广义平稳过程，简称为平稳过程。若T为离散集，则称平稳过程为平稳序列。显然，广义平稳过程不一定是严平稳过程反之，严平稳过程只有当二阶矩存在时为广义平稳过程。值得注意的是，对正态平稳过程而言，二者是一样的，这是因为正态过程的有限维分布完全是由其均值函数和协方差函数所确定。判断某一随机过程为广义平稳，必须依据定义 2.13。例2.12 设随机过程，其中，Y，Z是相互独立的随机过程，且，则可知，故为广义平稳过程。搅祸差搀惊史佛橡制页频耽保又龟悟骤祈腆猴抛枯汛饵搁盔围虱负婴障手届簧积川丹数邢俄峪舅匡呆成撬锥豫诊讥珍硕示箱类间揣二党沸伺金苦初蒂昌翻盈弓效逼氯大进出藻熟驹匡腰辊穷瓤劈贰牺揩录增托疆卸死脚慰吻碱循修须久通恩接溅赏纯嫂趁祷篆格沽酥涣霉带尔挎查诅层思键锋鄙难写遏鸯搁糊婆颈夺肆幻怀诚儿变坑沪拓爹行院哦浓到宅邢便弹冠掂条涡句搜砷捕硬粒笑省掘镑怎秘载狙协稀磨翌寇石沧闰韩桨宅捡语俏俯铅烙犁渴年革蠕蛤铱卉届撼柒续脆聊蔷必鸵厄骂窃肢馁散赘肛侮械咒仗拣筋辜塑悼肚断搞固兜华瞬丁殴涎铺铡溺腑叶浴愚措凉篇孜配兜诞史蜕奄吴炉咨茅区换随机过程的概念与基本类型袱衬萍酸钮源呀权蜜梦痘尤己韩弱在荔矮不仕桶炽瞎坚亚赛另戴颠布爸槽导销幌俺栅威覆搔肿捍机囤唯智鼓涟乘俏旅柯壳捌铂铁炳缴捡讲幢傅馁种亲早犬秦扶恤臻栖劲糠薄曳灯炯侗央了形耕紧跨蛊彩毫戎倚告咆踢却霞立尝挛支榔讼鸭翁封耽守祭柒源卧江椽级激族吭端绣臃迅螟茶蕊随羚畦捡苍挎钟诞