《数学随机过程》PPT课件.ppt

1、3.1 引言 数学分析:为研究提供数学框架与几何直观解释 随机分析：用数学分析中的有关方法分析二阶矩过程 。 随机过程 ： X(t,), tT 的一个样本函数(实现、轨道) X(t)是一个以t (T)为自变量的随机函数。,第三章随机分析,1二阶矩过程定义 定义1 :设X(t)=X( t , ), t T 为一个随机过程， 若 tT ，其均值EX(t )和方差DX(t )都存在，则称X(t)为二阶矩过程 ( second order process ) ，亦称有限方差过程( finite variance process ) 。,3.2二阶矩过程定义及其性质,约定1：设X(t)=X ( t ,

2、), t T 是二阶矩过程，则 EX(t)=0 EX(t)= X(t) 关于自变量 t 的确定函数，定义Y(t)=X(t)-X(t)，则EY(t)=0。而Y(t)与X(t)的方差、自协方差函数、自相关函数等数字特征是相同的。 为了便于分析讨论，约定 EX(t)=0. 约定2： Xn ,n 1以概率1 收敛于 X Xn = X.或几乎处处收敛到X.,3.2二阶矩过程定义及其性质,2 二阶矩过程的基本性质 定理1 :设X(t)=X( t , ), t T 为一个二阶矩过程，则其自协方差函数总是存在的。 证明： t1, t2 T , X(t)的自协方差函数为 所以 CXX(t1, t2 )=covX

3、(t1), X(t2)+,3.2二阶矩过程定义及其性质,思路：自协方差函数为有限值。,定理2 : 设 X(t)=X( t , ), t T 为一个二阶矩过程，则其自相关函数总是存在的。 即 t1, t2 T , X(t)的自相关函数 定理3 : 设X(t)=X( t , ), t T 为一个二阶矩过程，其自相关函数为RXX(t1, t2 )，则 特别：若X(t)=X( t , ), t T 为一个实二阶矩过程，则,3.2二阶矩过程定义及其性质,定理4 : 设X(t)=X( t , ), t T 为一个二阶矩过程，则其自相关函数为RXX(t1, t2 )具有非负定性，即,3.2二阶矩过程定义及其

4、性质,数学分析： 给定空间定义距离极限 连续性、导数、积分 为研究提供数学框架与几何直观解释。 随机分析： 确定空间定义随机变量的“距离” 随机变量极限 随机变量连续性、导数、积分,3.3 随机分析初步,1 H空间与均方极限 1.1 H空间 定义1：设定义在概率空间( ,F, P)上具有二阶矩的随机变量全体记作 H = X : EX + 称集合 X: EX + 为二阶矩随机变量空间，简称为二阶矩空间(second order space) 或 H空间.,3.3 随机分析初步,附注A关于线性空间概念的回顾 设V是一个非空的集合，K是一个数域，又设 (a)在V中定义加法： , V : + V ;

5、(b)在V中定义数乘： V, k K: k V ; 且 , , V , k,l K , 满足 (1) k ,l K, , V : (2) +( +)= ( + )+ ; (3) + = + ; (4)0V, V: +0= ; (5) V, V: +=0 (6) 1 K: 1 = ; (7) k ,l K, V: (kl) =k(l) ; (8)k ,l K, V: (k+l) = k +l ; (9) k K, , V : k( + )= k + k . 则称V是数域K上的一个线性空间。,3.3 随机分析初步,定理1 H空间是线性空间。即 (1)1X1+2X2H XiH, i =const R

6、(C) (i=1,2). 因为Schwarz不等式（EXY)2=EX2EY2,3.3 随机分析初步,(2) (X1+X2) +X3 = X1+ (X2+X3) Xi H(i=1,2,3) ; (3) X1+X2 = X2 +X1 Xi H (i=1,2) ; (4) 0 H: X +0 = X X H ; (5) -X H: X+(-X)=0 X H ; (6) 1 X = X 1 K: (7) (12)X =1(2X) i =const R(C) , X H: (8) (1+2)X =1X +2X i =const R(C) , X H; (9) (X1+X2 )=X1+X2 i =cons

7、t R(C) , X H :.,3.3 随机分析初步,附注B关于内积空间概念的回顾 设V是定义在复数域C上的线性空间，若 , V，在 V中定义 与 的内积(数量积) ，记作( , ) ,且满足： 则称V是一内积空间。 特别若数域K为实数域，则称V为欧几里得空间。 “定义了内积的线性空间称为内积空间”,3.3 随机分析初步, 定义2 设X,Y H ,定义 , 并称(X,Y )为H空间的内积。 定理2则 H空间是一个内积空间。 证明：,3.3 随机分析初步,证明(续),3.3 随机分析初步,特别 设X,Y H,若(X,Y )=0 ，则称X与Y正交，记为X Y 同时根据约定1：EX(t)=0， EY

8、(t)=0 因此(X,Y )=0 即X与Y正交时有 所以X与Y不相关。 故 (X,Y )=0 X与Y不相关,几何直观意义,3.3 随机分析初步,附注C关于赋范线性空间概念的回顾 设V是一个线性空间，若 V，存在一个实数| |与 之对应，且具有下列性质： (1) | |0 , 且| |=0 =0 ； (2) |c |= |c| | , 特别 |- |= | |； c R (3) | + | | |+ | |； V 则称| | 为V中元素 的范数(norm)(模、长度)，此时线 性空间V称为赋范线性空间 。 对于赋范线性空间 V，若定义 ( , ) = | - | ( , V) , 则V是一个度量

9、(距离)空间,3.3 随机分析初步,定义3设X H ,定义 称|X|为H空间的范数。 定理3 H空间是赋范线性空间。 证明：,3.3 随机分析初步,证明,3.3 随机分析初步,附注D关于度量(距离)空间概念的回顾 设V是一个集合，若 , V，若存在一个非负的实数 d( , )与之对应，且具有下列条件： (1) d( , ) 0 , 且d( , ) =0 = ； (2) d( , ) = d(, ) ； (3) d( , ) d( , ) + d( , ) ， V ； 则称d( , )为V中元素 , 的距离，此时集合V称为 度量(距离)空间 。,3.3 随机分析初步,定义4设X ,Y H ,定义

10、 称(X ，Y) 为X 与Y 的距离。 定理4 H空间是度量(距离)空间。 证明：,3.3 随机分析初步,证明：,3.3 随机分析初步,H空间 H = X : EX + X,Y H： 内积： 距离： X H 范数,在H空间 H=X:EX+ 中进一步定义 极限 连续 导数 积分 ,与空间中两个向量的内积、距离和一个元素的范数相类似,3.3 随机分析初步,2 均方极限 一、 随机变量序列均方极限 定义5 ：设定义在概率空间( ,F, P)上的随机变 量X与随机变量序列Xn, n1均存在二阶矩， 即X , Xn , n1 H。若 则称X为序列Xn, n1的均方极限( limit in mean sq

11、uare) 记作： 即序列Xn, n1均方收敛(mean square convergence)于X 。,3.3 随机分析初步,定义6 ：设定义在概率空间( ,F, P)上的随机变量序列Xn, n1均存在二阶矩，即 X ,Xn , n1 H。若 则称随机变量序列Xn, n1是柯西序列(基本序列)。,3.3 随机分析初步,定理1 ：设 Xn , n1 H。若X H，使得 则随机变量序列Xn, n1是(均方收敛的)基本序列(柯西序列) 。 证明： |Xn Xm | |Xn X | + |Xm X | n,m : |Xn Xm | 0 , 即 Xn, n1是基本序列,3.3 随机分析初步,定理2 ：

12、设 Xn , n1 H是基本序列(柯西序列)，则必X H，使得 完备性定理。,3.3 随机分析初步,附注E关于希尔伯特(Hilbert)空间的复习 设E是一个度量空间，若E中的每一个基本序列均收敛 于E，则称E是一个完备空间。具有内积的完备空间称 为希尔伯特(Hilbert)空间。 定理3 Xn , n1 H， XH，使得 即H是一个希尔伯特(Hilbert)空间。,3.3 随机分析初步,二、 随机变量序列均方极限的性质 性质 1: 设 X ,Y ,Xn,n1,Yn,n1H , , C。 若 则 证明：,3.3 随机分析初步,性质 2 : 设 X ,Y ,Xn,n1H 。 若 则 证明： 即“

13、均方极限是唯一的”,3.3 随机分析初步,性质 3 : 设 X ,Y,Xn,n1, Yn,n1 H 。 若 则,3.3 随机分析初步,证明：,3.3 随机分析初步,证明(续),3.3 随机分析初步,证明(续) 实际上第(3)式是第 (2)式的特例。即在第 (2)式 中取Yn =Xn即得,3.3 随机分析初步,性质 4 : 设 X,Xn,n1 H 。 若 则 证明：,3.3 随机分析初步,三、 均方收敛的判断准则-判断该序列是否收敛 1、柯西准则( Cauchy criterion for maen square convergence) 设 X , Xn,n1 H , 则 的充要条件是： 2、

14、均方收敛准则,3.3 随机分析初步,定理4: 李普希茨(Lipschitz)条件: 函数f(x)在a,b上有定义，若存在常数M，使得f(x)是一确定性函数，x1,x2 a,b成立： | f(x1) - f(x2) | M| x1 - x2 |. 则称f(x)在a,b上满足李普希茨(Lipschitz)条件。,3.3 随机分析初步,四、 随机变量函数的均方极限 定理5 设 X , Xn,n1 H , 且 ，又设f(x)是一个在其定义域 D 上满足李普希茨(Lipschitz)条件的普通函数。则,3.3 随机分析初步,定理5之推论1 设f(x)是一个在其定义域 D 上满足李普希茨(Lipschitz)条件的普通函数，且f(x) 存在且有界,而 X , Xn,n1 , f(X), f(Xn ) H , 则当 时有：,3.3 随机分析初步,定理5之推论2 设X , Xn,n1 H , 且 则tR1有： 定理6 设X , Xn,n1 H , 且 则必有Xn的特征函数当n时收敛于X的特征