第050607讲随机过程加习题课9小时

第五节特征函数与母函数随机变量的特征函数

随机变量X的特征函数定义为式中fX(x)是X的概率密度。

定义:设

X

是一随机变量，称(t)=E(eitX)

为X的特征函数.(必定存在)注意：是虚数单位.(1)当X为离散随机变量时，(2)当X为连续随机变量时，特征函数是概率密度函数p(x)的傅里叶变换1

|(t)|(0)=12

3

随机变量X的n阶矩存在，则X的特征函数可以微分n次，满足：4若CX(t)是随机变量X的特征函数，则Y=CX（C为常数）的特征函数为CY(t)=CX(Ct)5若Y=aX+b

（a,b均为常数），则

CY(t)=ejbt

CX(at)特征函数性质(4)是非负定函数，对任意正整数n及任意实数t1，t2和任意复数z1，z2，….zn满足：(5)若X1，X2，…Xn是相互独立的随机变量，则X=X1+X2+…+Xn的特征函数满足：(6)随机变量的特征函数由其特征函数唯一确定常见分布函数的特征函数

由傅立叶变换的定义可知，随机变量X的特征函数(t)是概率密度函数f(x)的傅立叶变换对偶。因此，当已知特征函数时，可运用傅立叶反变换求概率密度，即这样，先确定特征函数，再通过傅立叶反变换求概率密度往往比直接求概率密度来得较简便。

同样，二维随机变量(X1,X2)的特征函数定义为二维联合概率密度由反变换求得，即特征函数与矩的关系

将特征函数(t)对t进行一次微分，则有令t=0，则有同样将特征函数

X(t)对t进行k次微分，则有由此得如果将

X(t)展成泰勒级数，可得

母函数定义设X是非负整数值的随机变量，分布满足：称为X的母函数母函数性质(1)是非负整数值的随机变量的分布列由母函数唯一确定(2)P(s)是X的母函数，若EX存在，则EX=P’(1)

若DX存在，则DX=P’’(1)+P’(1)-[P’(1)]26条件期望1.离散型随机变量的条件数学期望对于条件分布函数，若：

则称：为X=x条件下Y的条件数学期望。同理称：为Y=y条件下X的条件数学期望。2.连续型随机变量的条件数学期望例1：随机变量X、Y的取值为1,2，…，n，其概率分布为：求E(Y|i)，E(X|j)。解：首先求出条件分布律为：

那么：例2：设二维正态分布服从N(0,1;0,1;r),试求f(y|x),f(x|y),

E(Y|x),E(X|y)。解：已知同理可得：而：同理可得：从此例可以看出，E(Y|x)，E(X|y)分别是x和y的函数。练习四、小结

在这一节中我们学习了随机变量的原点矩和中心矩以及协方差矩阵.

一般地,维随机变量的分布是不知道的,或者太复杂,以至于在数学上不易处理,因此在实际中协方差矩阵就显得重要了.7中心极限定理

中心极限定理的客观背景

在实际问题中许多随机变量是由相互独立随机因素的综合（或和)影响所形成的.例如：炮弹射击的落点与目标的偏差，就受着许多随机因素（如瞄准，空气阻力，炮弹或炮身结构等）综合影响的.每个随机因素的对弹着点（随机变量和）所起的作用都是很小的.那么弹着点服从怎样分布哪？

如果一个随机变量是由大量相互独立的随机因素的综合影响所造成，而每一个别因素对这种综合影响中所起的作用不大.则这种随机变量一般都服从或近似服从正态分布.

自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见.

现在我们就来研究独立随机变量之和所特有的规律性问题.

由于无穷个随机变量之和可能趋于∞，故我们不研究n个随机变量之和本身而考虑它的标准化的随机变量.

在概率论中，习惯于把和的分布收敛于正态分布这一类定理都叫做中心极限定理.一、中心极限定理定理1（独立同分布下的中心极限定理）注3、虽然在一般情况下，我们很难求出

的分布的确切形式，但当n很大时，可以求出近似分布.例1根据以往经验，某种电器元件的寿命服从均值为100小时的指数分布.现随机地取16只，设它们的寿命是相互独立的.求这16只元件的寿命的总和大于1920小时的概率.由题给条件知，诸Xi独立，16只元件的寿命的总和为且E(Xi)=100,D(Xi)=10000依题意，所求为P(Y>1920)设第i只元件的寿命为Xi,i=1,2,…,16例1解答：E(Y)=1600,D(Y)=160000由中心极限定理,近似N(0,1)P(Y>1920)=1-P(Y1920)=1-(0.8)1-=1-0.7881=0.2119第6章

随机过程1、随机过程的概念2、随机过程的数字特征3、复随机过程4、重要的随机过程理解随机过程的基本概念，知道样本函数、状态空间的定义；了解随机过程一维分布函数、分布密度的定义，知道推广到n维的情形；掌握随机过程的数字特征：均值函数、方差函数、自相关函数、自协方差函数、互相关函数、互协方差函数。熟练掌握均值函数和相关函数的求法；了解二阶矩过程、正交增量过程、马尔可夫过程、独立增量过程、平稳增量过程、正态随机过程、泊松过程、维纳过程、平稳过程的定义及性质；知道两随机过程互不相关和相互正交的概念。1概率空间首先，回顾初等概率论的一些基本概念：

在相同条件下可重复进行；一次试验结果的随机性——不可预知性；全体可能结果的可知性。

随机试验，满足如下条件：样本空间——随机试验所有可能出现的结果组成的集合。样本点——中的元素。随机事件——样本空间的子集合，称为事件。基本事件——中每个样本点所构成的单点集。必然事件——本身。不可能事件——不包含任何元素的空集合。一、集合代数和-代数定义1设是任一非空集合，F是由的一些子集组成的非空集合类，若F满足：

∈

F；若A，B∈F

，有A∪B∈F

（有限并运算封闭）；则称F是上的一个集合代数，简称集代数。若A∈F

，有A∈F

（余运算封闭）；定义2

设是任一非空集合，F是由的一些子集组成的非空集合类，若F满足：

A若A∈F

，有A∈F

（余运算封闭）；则称A是上的一个-代数。定理3

设A是-代数，则：-代数A一定是集代数；若A

，有A（可列交运算封闭）若A

，有A（可列并运算封闭）（归一性）概率的定义——若对的每一个事件A，有一个实数与之对应，记为P(A)，且满足：（非负性）（可列可加性）

称P是(

,F)上的概率，(

,F，P

)是概率空间，P(A)是事件A的概率。随机过程的定义例1考察进入某商店的顾客数。用ξ表示单位时间内（如每天）进入商店的顾客数，则ξ~П(λ),

λ表示顾客的到达率。研究n个时间段进入商店的顾客数，则需要用一个n维的随机向量来刻画。

研究随着t的不断变化，在(0，t]内进入商店的顾客数，则需要用一族随机变量ξ(t)来研究。对每一个固定的t,ξ(t)是一个随机变量。

假设目标是活动的，则某一时刻测量到该目标的距离是随机变化的，可以用一个随机变量ξ来研究，一次测量的结果是一个非负实数。在指定的n个时刻测量到该目标的距离可以用一个n维随机变量

来刻画，一次测量的结果是一个分量为非负实数的n维向量(x1,x2,...,xn)。如果对该目标在整个运动过程进行跟踪测量，测量的结果就需要用一族随机变量ξ(t)来研究,一次测量的结果是自变量为t的取非负实数的函数x(t)。例2考察测量到某一目标的距离。随机过程的基本概念

定义7.1.设(,F,P)为一概率空间，TR(1)，如果对任一tT，有一定义在(,F

,P)上的随机变量(,t)与之对应，则称{(,t),tT}为一随机过程，简记为{(t),tT}。状态空间：定义中的T是时间、长度、重量等物理量的集合，以后我们不妨将它看作时间区间。固定tT，把随机过程所取的值称为在时刻t的状态，并将所有可能的状态构成的集合称为状态空间，用E来表示。样本函数：(,t)是一个二元函数，当取定时，它是自变量为t，且定义域为T的函数，称为该随机过程的样本函数。例3

随机相位正弦过程

,tR,θ服从上的均匀分布，A和ω是常数。则它的状态空间是[-A,A]；对任意θi，

是样本函数。例4设g(t)是周期为T，幅度为A的矩形波,η是服从两点分布的随机变量，则ξ=g(t)η

,t>0是一随机过程，g(t)和-g(t)均是它的样本函数。例5抛掷一枚硬币的试验，样本空间是S={H,T},出现H和T的概率均为0.5，定义：-101234-2-10123tx(t)

当t固定时，X(t)是一个随机变量，当样本点固定时，得到两个样本函数{cosπt,t}。状态空间为R.注意：随机过程的有限维分布函数族

对于一维和多维随机变量，利用它们的分布函数可以完全刻画它们的统计特性，对于随机过程，同样借助于分布函数来研究其统计规律。设{(,t),tT}为一随机过程，取定t

T和x

R,定义为随机过程(t)的一维分布函数，称{F(t;x),tT}为随机过程(t)的一维分布函数族。定义7.2:设{(t),tT}为一随机过程，对任意正整数n及任意ti∈T，xi∈R(i=1,2,...,n)，称分布函数

的全体为随机过程(t)的有限维分布函数族。

概率密度：随机过程的有限维分布函数族具有下列性质：（1）对称性（2）相容性对n>m，有：Kolmogorov存在定理

设已给参数集T及满足对称性和相容性条件的分布函数族F，则必存在概率空间(,F,P)及定义在其上的随机过程{X(t),t

T},它的有限维分布函数族是F.二维随机过程

定义7.3

设(,F,P)为一概率空间，T为一参数集,TR(1)

，若{(,t),tT}和{η(,t),tT}是定义在(,F,P)上的随机过程，则称{(,t),η(,t),tT}为定义在(,F,P)上的二维随机过程。二维随机过程的有限维分布函数3随机过程的数字特征定义7.4:设随机过程的一维分布函数为，我们称

分别为随机过程的均值函数和方差函数。对离散型的随机过程，其均值函数和方差函数分别为：

其中：对连续型的随机过程，其均值函数和方差函数分别为：均值函数和方差函数刻画了随机过程在不同时刻的统计特性，均值函数表示{}在各个不同时刻取值的摆动中心。方差函数表示{}在各个不同时刻取值的关于的平均偏离程度。但不能描述在不同时刻之间的相互关系，因此我们必须引入自相关函数和自协方差函数概念。定义7.5设随机过程的二维分布函数为，我们称其自相关函数和自协方差函数分别为：

其中：若令：由此可以看出：均值函数和相关函数是最基本的数字特征，协方差函数和方差函数可以由它们确定。在随机过程理论中，仅研究均值函数和相关函数的理论称为相关理论。

一般地，相关函数和协方差函数均与时间有关。若令以上两式说明不仅与时间间隔有关，且与起点有关,当和仅与有关而与无关时，且称这类随机过程为宽平稳过程，简称为平稳过程。例1设是周期为的矩形波，随机变量服从两点分布

令，，则：是具有随机振幅，周期为的矩形波过程，求的数字特征。

解：

例2

已知随机相位正弦波，其中，为在上服从均匀分布的随机变量。求随机过程的、。解：

由在上服从均匀分布得：则：

在实际问题中，除考虑一个随机过程在不同时刻的性质外，还须考虑两个不同的随机过程之间的关系。例如，通信系统中信号过程与干扰过程之间的关系，此时，我们必须引入互协方差函数和互相关函数来描述它们之间的关系。定义7.6设随机过程，是两个随机过程，则称其互相关函数和互协方差函数分别为：，

且

相互正交特别地，对任意的，有，则称随机过程互不相关；若，则称随机过程例3设有两个随机过程和，其中和都是周期为L的周期方波，ε是在上服从均匀分布的随机变量，求互相关函数的表达式。

令，利用和的周期性，则：

例2:考虑随机过程X(t)=acos(ωt+Θ),t(-∞,+∞)

其中a和ω是常数，Θ是在（0，2π）上服从均匀分布的

随机变量，通常称此随机过程为随机相位正弦波，求随机

相位正弦波的均值函数，方差函数和自相关函数.

解:Θ的概率密度为于是例3:设随机过程X(t)=Y+Zt,tT=(-∞,+∞),其中Y，Z是相互独立的服从N(0,1)的随机变量，求{X(t),-∞<t<+∞}的一，二维概率密度。解:tT，由正态分布的性质知X(t)服从正态分布:

E[X(t)]=E(Y)+tE(Z)=0,

D[X(t)]=D(Y)+t2

=1+t2

所以一维概率密度为

又由正态分布的性质知，对于任意

s,t∈T，

(X(s),X(t))服从二维正态分布而

E[X(s)]=E[X(t)]=0；D[X(s)]=1+s2,D[X(t)]=1+t2

所以二维概率密度为

其中=x(t1,t2).4复随机过程定义:设随机过程，是取实数值的两个随机过程，若对，则称为复随机过程。定义:当和为实随机过程时，则的均值函数、方差函数、相关函数和协方差函数的定义如下：定理1:复随机过程的协方差函数具有如下性质：(1)对称性：

(2)非负定性：对任意的及复数，有：证明(1)

证明(2)

4.1二阶矩过程定义1:设随机过程，若对，的均值和方差均存在，则称为一个二阶矩过程。

定理4.1:二阶矩过程的协方差函数存在。证明：由条件知：存在。由Schvarz不等式：

即：存在。则：存在。定理4.2设是二阶矩过程的相关函数，则对，

。证明：

若是实二阶矩过程，则：。定理7.3二阶矩过程的相关函数具有非负定性，即，复数，为任意正整数，有。证明：

注意：相关函数的非负定性才是二阶矩过程的本质特性。

4.2正交增量过程定义2:设是二阶矩过程，若对有：，则称为正交增量过程。对于零均值正交增量过程，假设，且，下面考虑的协方差函数。取，，则：，即。则：

，，（同理，取

有：

则：

4.3独立增量过程定义1:若对任意的正整数n和，随机变量，，…

，是相互独立的，则称为独立增量过程。后面要介绍的泊松过程是独立增量过程。

零均值条件下独立增量过程与正交增量过程的关系

由独立增量过程的定义知：独立，

，，

于是：

由于还是零均值的，则

则为正交增量过程。即零均值的独立增量过程为正交增量过程。4.4平稳增量过程

定义1:若对任意的，，随机变量，服从相同的概率分布，则称是具有平稳增量的随机过程。的分布仅与有关，与起点无关，这种性质称为时齐性，或齐次性。，

4.5维纳过程[布朗运动]维纳过程是布朗运动的数学模型.英国植物学家布朗在显微镜下,观察漂浮在平静的液面上的微小粒子,发现它们不断地进行着杂乱无章的运动,这种现象后来称为布朗运动.以W(t)表示运动中一微粒从时刻t=0到时刻t>0的位移的横坐标(同样也可以讨论纵坐标)且设W(0)=0.根据爱因斯坦1905年提出的理论,微粒的这种运动是由于受到大量随机的,相互独立的分子碰撞的结果.于是,粒子在时段(s,t](与相继两次碰撞的时间间隔相比是很大的量)上的