应用随机过程-期末复习资料

引言应用随机过程是一门理论性与实践性均较强的学科，它旨在利用数学工具对自然界和社会生活中广泛存在的随机现象进行建模、分析与预测。本次期末复习，我们将梳理课程核心知识点，强调理解与应用，帮助同学们巩固所学，从容应考。请务必在理解基本概念的基础上，多做练习，体会不同随机过程的特点及其在实际问题中的应用。一、预备知识回顾在深入随机过程之前，我们先来回顾一些概率论的基本概念，它们是学习随机过程的基石。1.概率空间：一个完整的概率模型由样本空间（所有可能结果的集合）、事件域（样本空间的子集构成的σ代数）和概率测度（满足非负性、规范性和可列可加性的集函数）三部分组成，记为(Ω,F,P)。理解σ代数的概念对于后续学习随机过程的适应性至关重要。2.随机变量及其分布：随机变量是定义在样本空间上的可测函数，它将样本点映射为实数。我们关注其分布函数、概率密度函数（对连续型）或概率质量函数（对离散型）。常见的分布如二项分布、泊松分布、指数分布、正态分布等及其性质需要熟练掌握。3.数字特征：数学期望、方差、协方差、相关系数等数字特征从不同角度刻画了随机变量的统计特性。特别是协方差和相关系数，它们描述了两个随机变量之间的线性关联程度。4.极限定理：大数定律揭示了大量重复试验中频率的稳定性，中心极限定理则指出了独立随机变量和的极限分布在一定条件下为正态分布。这些定理为统计推断和随机过程的极限行为分析提供了理论依据。二、随机过程的基本概念2.1随机过程的定义设(Ω,F,P)是一概率空间，T是一实数集（通常表示时间）。若对每个t∈T，都有一定义在(Ω,F,P)上的随机变量X(t,ω)与之对应，则称依赖于t的一族随机变量{X(t,ω),t∈T,ω∈Ω}为该概率空间上的一个随机过程，简记为{X(t),t∈T}或X(t)。*参数集T：可以是离散的（如T={0,1,2,...}），也可以是连续的（如T=[0,+∞)）。*状态空间S：随机变量X(t)所有可能取值的集合，同样可以是离散或连续的。理解随机过程的关键在于认识到，对于固定的t，X(t)是一个随机变量；对于固定的ω，X(·,ω)是一个定义在T上的普通函数，称为样本函数或轨道。2.2随机过程的分布与数字特征1.有限维分布函数族：随机过程的统计特性完全由其有限维分布函数族所确定。对于任意正整数n及任意t₁,t₂,...,tₙ∈T，称n元函数Fₜ₁,ₜ₂,...,ₜₙ(x₁,x₂,...,xₙ)=P{X(t₁)≤x₁,X(t₂)≤x₂,...,X(tₙ)≤xₙ}为随机过程{X(t)}的n维分布函数。全体这些分布函数构成的集合称为有限维分布函数族。2.数字特征：*均值函数：mₓ(t)=E[X(t)]，描述过程在各个时刻的平均水平。*方差函数：Var[X(t)]=E[(X(t)-mₓ(t))²]，描述过程在各个时刻对其均值的偏离程度。*协方差函数：Cₓₓ(s,t)=E[(X(s)-mₓ(s))(X(t)-mₓ(t))]，描述过程在两个不同时刻状态之间的线性关联程度。*相关函数（自相关函数）：Rₓₓ(s,t)=E[X(s)X(t)]，与协方差函数相差一个均值乘积项，即Rₓₓ(s,t)=Cₓₓ(s,t)+mₓ(s)mₓ(t)。这些数字特征虽然不能完全刻画随机过程，但计算简便，且能反映过程的重要统计特性，在实际中应用广泛。2.3随机过程的平稳性平稳性是一类重要的统计特性，反映了过程在统计意义上的“不变性”。*严平稳过程：若对于任意n，任意t₁,t₂,...,tₙ∈T及任意h使得t₁+h,...,tₙ+h∈T，随机向量(X(t₁),...,X(tₙ))与(X(t₁+h),...,X(tₙ+h))具有相同的联合分布，则称{X(t)}为严平稳过程。其分布特性不随时间推移而改变。*宽平稳过程（广义平稳过程）：若{X(t)}的均值函数为常数，且其自相关函数Rₓₓ(s,t)仅依赖于时间差τ=s-t，而与s和t本身无关，则称{X(t)}为宽平稳过程。严平稳过程若二阶矩存在，则必为宽平稳过程；反之则不然。宽平稳过程在工程技术中应用尤为广泛。三、几类重要的随机过程3.1马尔可夫链（离散时间马尔可夫链）马尔可夫链是一类具有“无后效性”（马尔可夫性）的随机过程，即未来状态的概率分布只依赖于当前状态，而与过去的状态无关。1.定义与转移概率：设{Xₙ,n=0,1,2,...}为离散时间随机过程，状态空间I为可数集。若对任意n≥0及任意i₀,i₁,...,iₙ,j∈I，有P{Xₙ₊₁=j|X₀=i₀,X₁=i₁,...,Xₙ=iₙ}=P{Xₙ₊₁=j|Xₙ=iₙ}则称{Xₙ}为马尔可夫链。条件概率pᵢⱼ(n)=P{Xₙ₊₁=j|Xₙ=i}称为n步转移概率。若转移概率与n无关，则称为齐次马尔可夫链，此时记pᵢⱼ=P{Xₙ₊₁=j|Xₙ=i}为一步转移概率。2.转移概率矩阵与Chapman-Kolmogorov方程：一步转移概率排成的矩阵P=(pᵢⱼ)称为转移概率矩阵。C-K方程给出了多步转移概率之间的关系：pᵢⱼ(m+n)=Σₖpᵢₖ(m)pₖⱼ(n)，这是研究马尔可夫链的重要工具。3.状态的分类：根据状态的可达性、互通性、周期性、常返性（正常返、零常返）等特性对状态进行分类。这些分类深刻揭示了马尔可夫链的长期行为。*可达与互通：状态j可达i，若存在m使得pᵢⱼ(m)>0；i与j互通，若i可达j且j可达i。互通是一种等价关系，可将状态空间划分为若干互通类。*周期：状态i的周期d(i)是使pᵢᵢ(n)>0的所有n的最大公约数，若d(i)=1则称i为非周期的。*常返性：若从i出发，以概率1迟早会回到i，则称i为常返态；否则为非常返态（暂态）。常返态又可分为正常返（平均返回时间有限）和零常返（平均返回时间无限）。4.平稳分布与极限分布：对于齐次马尔可夫链，若存在概率分布π=(πᵢ)使得π=πP，则称π为平稳分布。若马尔可夫链是不可约、非周期、正常返的（称为遍历链），则它存在唯一的平稳分布，且当n→∞时，转移概率pᵢⱼ(n)收敛到平稳分布πⱼ，与初始状态i无关。马尔可夫链在排队论、控制论、金融建模等领域有广泛应用。3.2泊松过程泊松过程是描述随机事件发生次数的重要计数过程，具有独立增量和平稳增量等特性。1.计数过程：称{N(t),t≥0}为计数过程，若N(t)表示到时刻t为止发生的“事件”数，它是非负整数值、单调不减的。2.泊松过程的定义：满足以下条件的计数过程称为泊松过程：*N(0)=0；*过程具有独立增量；*过程具有平稳增量；*在充分小的时间间隔Δt内，P{N(t+Δt)-N(t)=1}=λΔt+o(Δt)，P{N(t+Δt)-N(t)≥2}=o(Δt)，其中λ>0称为强度或速率。另一种等价定义是：N(t)~Poisson(λt)，且增量独立。3.泊松过程的性质：*增量的分布：N(t)-N(s)~Poisson(λ(t-s))，t>s≥0。*数字特征：mₙ(t)=λt，Var(N(t))=λt，Rₙₙ(s,t)=λmin(s,t)+λ²st。*到达时间与时间间隔：设T₁,T₂,...是事件相继到达的时间间隔，则Tᵢ(i=1,2,...)是独立同分布的随机变量，均服从参数为λ的指数分布。第n个事件的到达时间Sₙ=T₁+...+Tₙ服从伽马分布（爱尔朗分布）。*无记忆性：指数分布的无记忆性使得泊松过程在分析中非常便利。4.非齐次泊松过程：若将平稳增量假设放宽，允许强度λ随时间变化，即λ(t)>0，t≥0，则得到非齐次泊松过程。其增量N(t)-N(s)~Poisson(∫ₛᵗλ(u)du)。5.复合泊松过程：若每次事件发生时，会带来一个随机“报酬”或“代价”Yᵢ，独立同分布，且与泊松过程{N(t)}独立，则S(t)=Σᵢ₌₁ᴺ⁽ᵗ⁾Yᵢ称为复合泊松过程。泊松过程在可靠性、通信、交通流、保险精算等领域有重要应用。3.3更新过程更新过程是泊松过程的一种自然推广，它允许事件发生的时间间隔不再局限于指数分布。1.定义：设{Tₙ,n≥1}是独立同分布的非负随机变量序列，其共同分布为F，且P{Tₙ=0}<1。令S₀=0，Sₙ=T₁+...+Tₙ(n≥1)，则称计数过程{N(t),t≥0}，其中N(t)=sup{n:Sₙ≤t}为更新过程。Tₙ为第n个更新间隔，Sₙ为第n个更新时刻。2.更新函数：M(t)=E[N(t)]称为更新函数，它表示到时刻t的平均更新次数。M(t)=Σₙ₌₁^∞P(Sₙ≤t)=Σₙ₌₁^∞F*ⁿ(t)，其中F*ⁿ是F的n重卷积。3.基本更新定理：当μ=E[T₁]=∫₀^∞[1-F(t)]dt<∞时，有limₜ→∞M(t)/t=1/μ。它表明长期来看，单位时间内的平均更新次数为平均更新间隔的倒数。4.更新方程：许多与更新过程相关的期望可以通过求解更新方程得到。例如，关键更新定理在处理极限问题时非常有用。更新过程在维修理论、库存管理等方面有重要应用。3.4鞅鞅是一类具有“公平性”性质的随机过程，在现代概率统计中占有重要地位。1.定义（离散鞅）：设{Xₙ,n≥0}是关于σ代数流{Fₙ}适应的随机过程，E|Xₙ|<∞，且对任意n≥0，有E[Xₙ₊₁|Fₙ]=Xₙa.s.，则称{Xₙ}为{Fₙ}-鞅。直观上，鞅的未来期望等于现在的值，没有“趋势”。2.鞅的性质与不等式：如鞅的Doob分解、鞅收敛定理、Doob停止定理（可选抽样定理）、最大值不等式等，都是研究鞅的重要工具。Doob停止定理指出，在一定条件下，对停时τ，有E[X_τ]=E[X₀]。3.鞅的应用：鞅在公平赌博模型、最优停止问题、统计推断等方面有广泛应用。理解鞅的核心思想（“无偏估计”或“公平游戏”）对于掌握这部分内容至关重要。四、一些重要的理论和方法4.1条件期望与条件概率条件期望是随机过程中的核心工具，特别是在马尔可夫性、鞅的定义等方面。理解条件期望的定义、性质（如全期望公式、平滑性、Jensen不等式等）是学好随机过程的关键。4.2随机过程的极限定理除了前述基本更新定理，随机过程中还有强大数定律、中心极限定理等的推广形式，例如，对于平稳过程，在一定条件下也有类似于独立同分布情形的大数定律和中心极限定理。4.3伊藤积分与随机微分方程（简介）对于连续时间随机过程，特别是布朗运动，伊藤积分是处理随机波动的有力工具。虽然这部分内容可能不作为期末重点，但了解其基本思想（如对布朗运动路径的积分）对于理解金融衍生产品定价等应用非常有帮助。伊藤公式是随机微积分中的核心公式，用于计算随机过程函数的微分。五、复习建议与解题技巧1.梳理知识框架：将上述各章节内容串联起来，形成知识网络。例如，马尔可夫链的无后效性与泊松过程的独立增量性之间的联系与区别。2.深刻理解概念：对每个定义、性质，不仅要记住条文，更要理解其内涵和实际意义。例如，平稳分布的物理意义是什么？为什么基本更新定理是“基本”的？3.多做习题：通过做题检验理解程度，熟悉解题思路。重点掌握：*马尔可夫链状态的判断、转移概率矩阵的计算、平稳分布的求解。*泊松过程的判定、事件发生概率的计算、到达时间与间隔时间的分布。*利用更新方程解决问题，应用基本更