随机过程复习提纲

第一章 第一章 1 填空 若 X1 X2 Xn是相互独立的随机变量 且 gi t 是 Xi的特征函数 i 1 2 n 则 X X1 X2 Xn的特征函数 g t g1 t g2 t gn t 2 设 P S 是的母函数 试证 X 1 若 E X 存在 则 EX P 1 2 若 D X 存在 则 DX P 1 P 1 P 1 2 证明证明 1 因为 p s 则 p s 令 s 1 得 EX sp k k k 0 s kp k k k 1 1 p 1 1k k kp 2 同理可证 DX p 1 p 1 p 1 2 3 设 X 服从B n p 求 X 的特征函数 g t 及 EX EX2 DX 解解 X 的分布列为 P X k q 1 p k 0 1 2 n 1kkn n C p q 00 kn nn itkkk n kkitn kit g teCp qCpeqpeq nn kk 由性质得 np it dt d iiEX t n q e pg 0 0 p nqep dt d giEX npq it i t n 2 2 0 2 2 2 2 0 npqDX EXEX 2 2 4 设 X N 0 1 求特征函数 g t 解解dx x tg e itx 2 2 2 1 由于 且 故由积分号下求导公式有 ee x x x ix itx 22 22 dx x e itx 2 2 2 1 deeixe g x i dx x t ixtitx 22 22 22 1 dx x t x i ee itxitx 22 22 22 ttg 于是得微分方程 g t tg t 0 解得方程的通解为 e C t tg 2 2 由于 g 0 1 所以 C 0 于是得 X 的特征函数为 e t tg 2 2 5 设随机变量 Y N 2 求 Y 的特征函数是 gY t 解 设 X N 0 1 则由例 1 3 知 X 的特征函数 e t tg 2 2 令 Y 则 Y N 2 由前面的命题知 Y 的特征函数是 X e g e g t tt ti X xi Y 2 22 6 设 X1 X2 Xn是相互独立的随机变量 且 Xi b ni p i 1 2 n 则 n i i n i i pbY nX 11 证 因为 Xi b ni p 所以其特征函数为 2 1 ni it n t X q e pg i i 由特征函数的性质知 的特征函数为 n i ix Y 1 11 1 n i n i Y q e pq e pgg it n it n t X t n i ii i 再有唯一性定理知 n i i n i i pbY nX 11 7 设 X1 X2 Xn是相互独立的随机变量 且则 2 1 ni iiX n i i n i iX Y 11 证 因为所以其特征函数为 iiX ni e t X e g it i i 2 1 1 有特征函数的性质知 的特征函数为 n i iX Y 1 ee gg n i it i it i i ee t X t n i n i Y 1 1 1 1 1 再由唯一性定理知 n i i n i iX Y 11 8 设 X1 X2 Xn 是相互独立的随机变量 且 则 niN i i iX 2 1 2 2 11 i n i i n i i NY X 证 因为所以其特征函数为 2 i i i N X ni ti t X e g i i i t 2 1 22 2 1 有特征函数的性质知 的特征函数为 n i iX Y 1 ee gg tti t X t n i i n i ii i ti n i ti n i Y 2 1 2 1 22 2 1 1 2 1 1 再由唯一性定理知 2 11 i n i i n i i NY X 9 设商店在一天的顾客数 N 服从参数 1000 的泊松分布 又设每位顾客所 花的钱数 Xi服从 N 100 502 求商店日销售 Z 的平均值 解解 由条件知 n i iX z 1 而 EN 1000 EX1 100 故 EZ EN EXi 1000 100 100000 元 10 设随机变量 X 的特征函数为 gx t Y aX b 其中 a b 为任意实数 证明 Y 的 特征函数 gY t 为 att g e g X itb Y 证证 it aXbi at Xibtibti at Xibt YX tEEEat gg eeeeee 11 求以下各分布的随机变量 X 的特征函数 g t 1 两点分布 b 1 p 5 正态分布 N 2 2 二项分布 b n p 6 指数分布 Exp 3 泊松分布 p 7 均匀分布 U a b 4 几何分布 Ge p 8 伽马分布 解解 1 令 X b 1 p 则 P X 0 1 p q p x p 则根据特征函数的定义 得 e ee e it itit k pq pq nkp itX tg k 10 1 2 1 2 令 X b n p 则 2 1 1 nkpqkXp qp C knk k n 有特征函数定义 可知 qp e qp eC qp Ce it it tg n kn k k k n knk k k n itk 0 0 3 令 X p 则nk k kXp e k 1 0 0 有特征函数定义可知 e ee ee ee e e it k k tg it it k k k k itk 1 0 0 1 4 设 X Ge p 则 p X k pqk 1 q 1 p k 1 2 n 有特征函数定义知 e e e e q e q e it it it it k k k k itk q p q q q p it q p ptg 1 1 1 1 1 5 设 X N 2 因为当 0 1 时得出特征函数为 令 e t tg 2 2 X x 则 X 的特征函数为 eeee titiit tgtg 22 2 2 2 2 6 设 X Exp 则可知密度函数 0 0 0 x x xf e x 则有特征函数定义 可得 it e e ee e it it dx dx dxxftg xit xit xitx itx 1 1 0 0 0 7 设 X U a b 则可知密度函数为 其它 0 1 bxa abxf 则 ee e e e e itaitb b a itx b a itx b a itx itx itab itab dx ab dx ab dxxftg 1 1 1 1 8 设 x 则密度函数 0 0 0 1 x x xf ex x 则 it it e it U ex exe e dU it xUdx dx dxxftg U xit xitx itx 1 1 it 0 1 0 1 1 0 令 第二章 第二章 1 随机过程若按状态空间与参数集分类可分为离散参数链 连续参数链 随机 序列 随机过程四类 2 若 X t t T 是零均值的二阶矩过程 若对任意的 t1 t2 t30 其中 Y Z 是相互独立的 N 0 1 随机变量 求 X t t 0 的一维和二维概率密度族 解 由于 X 与 Z 是相互独立的正态随机变量 故其线性组合仍为正态随机变量 要计算 X t t 0 的一 二维随机概率密度 只要计算数字特征 mx t DX t 即可 mx t E Y Zt EY tEZ 0 DX t D Y Zt DY t2DZ 1 t2 BX s t EX s X t mx s mx t E Y Zs Y Zt 1 st 1 1 2 1 2 故随机过程 X t t 0 的一 二维概率密度分别为 ft x exp t 0 1 2 1 2 2 2 1 2 fs t x1 x2 exp 1 2 1 2 1 2 1 2 1 2 1 2 s t 0 其中 2 1 1 2 2 1 2 1 2 1 2 2 2 1 2 4 设 X t t 0 是实正交增量过程 X 0 0 V 是标准正态随机变量 若对 任意的 t 0 X t 与 V 相互独立 令 Y t X t V 求随机过程 Y t t 0 的 协方差函数 解 依题意知 EX t 0 EV 0 DV 1 所以 EY t E X t V EX t EV 0 BY t1 t2 E X t1 V X t2 V E X t1 X t2 EV2 2X min t1 t2 1 5 试证明维纳过程是正态过程 证明 设 B t t 0 是参数为 2的维纳过程 对于任意的 n 任取 0 t1 t2 tn 由于 B t1 B t2 B t1 B tn B tn 1 相互独立 而且 B tk B tk 1 N 0 2 tk tk 1 所以 B t1 B t2 B t1 B tn B tn 1 是 n 维正态向量 于是 即 B t1 B t2 B tn 是 n 维正态随机向量 B t1 B t2 B t1 B tn B tn 1 的线性变换 所以 B t1 B t2 B tn 是 n 维正态随机向量 n 1 2 故 B t t 0 是 正态过程 6 设 X t t a b 是正交增量过程 且 X a 0 定义 F t 表示 E 2 RX t t t T 则有 X t B t B t B t n 2 1 1 11 0 11 0 01 B t B t B t B t B t 1 nn 12 1 1 RX s t F min s t 2 F t 是 a b 上的非负单调不减函数 证明 1 假设 a s t b RX s t E X s X t E X s X s X s X t E 2 F s 同理若 s s t b 则 RX s t F t X s 所以 RX s t F min s t 2 对任意的 a s t0 的泊松过程 若它满足下列条件 1 X 0 0 2 X t 是独立增量过程 3 在任一长度为 t 的区间 s s t 中 事件 A 发生的次数 X t s X s 服从参 数 t 的泊松分布 即对任意s t 0 有 1 0 n n nsXtsXP t e n t 2 泊松过程的定义 称计数过程 X t t 0 为具有参数 0 的泊松过程 若 它满足下列条件 1 X 0 0 2 X t 是独立 平稳增量过程 3 X t 满足下列两式 P X t h X t 1 t o h P X t h X t 2 o h 3 设 X t t 0 是参数为 0 的泊松过程 则 1 均值函数 mX t E X t E X t X 0 t 2 方差函数 tXtXDtDXt X 0 2 3 自相关函数 RX s t 2st min s t 4 特征函数族 1exp ee g iutiuX X tEu 4 设 X t t 0 是具有跳跃强度的非齐次泊松过程2 cos1 tt 求 E X t 和 D X t 0 解 tXE tmx t dsws 0 cos 1 2 1 sin 1 2 1tt sin 1 2 1 tttmtXD x 5 设移民到某地区定居的户数是一泊松过程 平均每周有 2 户定居 如果每户 的人口数是随机变量 一户四人的概率为 1 6 一户三人的概率为 1 3 一户二 人的概率为 1 3 一户一人的概率为 1 6 并且每户的人户数是相互独立的 求 在五周内移民到该地区人口的数学期望和方差 解 设 N t 为在时间 0 t 内的移民户数 Yi表示每户的人口数 则在 0 t 内的移民人数 X t N 1i i Y t 是一个复合泊松过程 Yi是相互独立且具有相同分布的随机变量 其分布列为 P Y 1 P Y 4 1 6 P Y 2 P Y 3 1 3 EY 15 6 EY2 43 6 根据题意知 N t 在 5 周内是强度为 10 的泊松过程 m x 5 10 EY1 10 15 6 25 x 5 10 EY12 10 43 6 215 3 6 设 X1 t 和 X2 t 是分别具有参数 1和 2的相互独立的泊松过程 证明 Y t X1 t X2 t 是具有参数 1 2的泊松过程 证明 Y t 是独立增量过程 且 P Y t Y t n P X1 t X2 t X1 t X2 t n P X1 t X1 t X2 t X2 t n n 0i 1122 i t X tXi n t X tP X i t X tP Xi n t X tP X 11 n 0i 22 1 1 2 n 0 1 2 7 设到达某商店顾客组成强度为 的泊松过程 每个顾客购买商店的概率为 P 且与其它顾客是否购买商品无关 若 Yt t 0 是购买商品的顾客数 证明 Yt t 0 是强度为 P 的泊松过程 证明 设 X t t 0 表示到达商店的顾客数 表示第 i 个顾客购物与否 即 i i 1 i 0i 个顾客购物第 个顾客不购物第 则由题意知 i 1 2 独立同分布 且与 X t 独立 i P 1 p P 0 1 p i i 因此 Y t 是复合泊松过程 X t 1i i EY t tE pt i Y t 的强度 EY t t p Y 8 8 设在内事件 A 已经发生 n 次 且 对于 求 t 00st nk0 nX t kX s P 解 利用条件概率及泊松分布得 P nX t kX S P X s k X t n P X t n P X s k X t X s n k P X t n n t e k n s t e k s e n s k n s t k s k nkk n t s 1 t s C 这是一个参数为 n 和的二项分布 t s 9 设是具有参数为的泊松过程 假定 S 是相邻事件的时间间 0tX t 隔 证明 P P 即假定预先知道最近一次到达发生在 121 sSssS 2 sS s1秒 下一次到达至少发生在将来 s2秒的概率等于在将来 s2秒出现下一次事件 的无条件概率 解 P P 121 sSssS 0 X s sX s 121 1 P Ss2 P S s2 2 s 0 2 e 0 s 2 s e 10 设在 0 t 内事件 A 已经发生 n 次 求第 k 次事件 A 发生的时间 Wk的条件 概率密度函数 t Wk 0 s Wn s h 11 设 X1 t t 0 和 X2 t t 0 是两个相互独立的泊松过程 它们在单位 时间内平均出现的事件数分别为 1和 2 记为过程 X1 t 的第 k 次事件 wk 1 到达事件 为过程 X2 t 的第 1 次事件到达时间 求 P 0 时 由于 故 n WtX tn e tm W tm nj j n j ntXPtP 上式对 t 求导 得到 Wn的概率密度为 e tm m f tm j nj jWn 1 由于 故 tt m e tm m f tm n nj nWn 1 1 当 t 0 时 0 t W f n 故 其它 0 0 1 1 t n t W e tm f tm n n 15 设到达某商店的顾客组成强度为 的泊松方程 每个顾客购买商品的概率 为 p 且与其它的顾客是否购买商品无关 若 Yt t 0 使购买商品的顾客数 证明 Yt t 0 是强度为 p 的泊松过程 解 设 X t t 0 表示到达商店的顾客数 i表示第 i 个顾客购物与否 即 个顾客不购物 第 个顾客购物 第 i i i 0 1 则由题意知 i i 1 2 独立同分布 且与 X t 独立 P i 1 p P i 0 1 p 因此 是复合泊松过程 EY t tE 1 pt 1 tX i i tY Y t 的强度 Y EY t t t 16 设 X t t 0 为具有参数 的泊松过程 证明 1 E Wn 即泊松过程第 n 次到达时间的数学期望恰好是到达概率倒数的 n n 倍 2 D Wn 即泊松过程第 n 次到达时间的方差恰好是达到概率倒数的 n 2 n 倍 证明 1 设 Ti 表示 X t t 0 第 i 1 次事件发生到第 i 次事件发生的时间 间隔 则 Ti i 1 n 相互独立且服从均匀值为 1 的指数分布 i 1 n 2 1 1 TTiI DE 1 n EE n i i n i inTTDW 11 2 2 11 n D n i i n i inDTTDW 1616 设是具有参数的泊松过程 试求其有限维概率分布族 0tX t 0 解 对任意的自然数 n 及任意的非负整数有 n21 t tt0 n21 k k k 显然 nn2211 k X t k X t k X tP n21 k kk 1 nn1 nn121211 k k X t X t k k X t X t k X tP 1 nn1 nn121211 k k X t X tP k k X t X tPk X tP k k e t t k k e t t k e t 1n t t kk 1 nn 12 t t kk 12 1 tk 1 1 nn 1nn 12 12 11 n k k k k k t t t tte 1n121 kk 1 nn kk 12 k 1 t 1nn121 n kn n 1717 是具有参数的泊松过程 是对应的时间间隔 0tX t 0 1n Tn 序列 试证明随机变量是独立同分布的均值为的指数分布 1 2 nTn 1 解 首先注意到事件发生当且仅当泊松过程在区间内没有事件发生 因 tT1 t 0 而 即 所以 T1 t 1 e0X t PtTP t 11T e1tTP1tTP t F 1 服从均值为的指数分布 利用泊松过程的独立 平稳增量性质 有 1 内没有事件发生在内没有事件发生在tss PsTtss PsTtTP 112 0X s s X tP t e0X 0 X t P 即 故 T2也是服从均值为的指数分布 t 22T e1tTP1tTP t F 2 1 对于任意和 有1n 0s s st 1 n21 0 s sX s s sX tPsT sTtTP 1 n211 n11 n1 n11n t e0X 0 X t P 即 t nT e1tTP t F n 所以对任一 其分布是均值为的指数分布1 nTn 1 证明 证明 18 0 设是泊松过程 求其特征函数族X tt 0 iuX tiun X n guE eeP X tn 00 niun iuntt nn tte eee nn expexp 1 tiuiu etet e 证毕证毕 3 8 0X tt 例设是具有跳跃强度 X EX tDX tmt 解 1 1cos 2 tt 的非齐次泊松过程0 E X tD X t 求和 11 sin 2 tt 00 1 1cos 2 tt s dss ds 第四章第四章 1 1 设为马尔可夫链 试证明 Tn Xn 对任意整数 和 n 步转移概率0n nl1 Iji l n kj Ik l ik n ij ppp 证明 利用全概率公式及马尔可夫性 有 iXP jXi XP iX jXPp m nmm mnm n ij Ik m lmm lmm nmlmm iXP kXi XP kXi XP jXk Xi XP Ik mlmlmnm iXk XPkX jXP Ik l n kj l ik l ik Ik l n kj pp m l p mp 2 2 设质点在数轴上游动 每次游动一格 向右移动的概率为 p 向左 移动的概率为 这种运动称为无限制随机游动 以表示时刻p1q n X n 质点所处的位置 则是一个齐次马尔可夫链 试写出它的 Tn Xn 一步和 k 步转移概率 解 显然的状态空间 其一步转移概率矩阵为 Tn Xn 2 1 0 I 例例 3 103 10 某镇有一小商店 每日上午某镇有一小商店 每日上午 8 008 00 开始营业 从开始营业 从 8 008 00 到到 11 0011 00 平均顾客到达平均顾客到达 率线性增加 在率线性增加 在 8 008 00 顾客平均到达顾客平均到达 5 5 人人 h h 11 0011 00 到达率达到最高峰到达率达到最高峰 2020 人人 h h 从上 从上 午午 11 0011 00 到下午到下午 1 001 00 平均顾客到达率为平均顾客到达率为 2020 人人 h h 从下午 从下午 1 1 00 00 到下午到下午 5 005 00 顾客到顾客到 达率线性下降 到下午达率线性下降 到下午 5 005 00 时为时为 1212 人人 h h 假定在不重叠的区间内到达商店的顾客数 假定在不重叠的区间内到达商店的顾客数 是相互独立的 问在上午是相互独立的 问在上午 8 308 30 至至 9 309 30 时间内无顾客到达商店的概率 并求这段时间时间内无顾客到达商店的概率 并求这段时间 到达商店的顾客数的数学期望 到达商店的顾客数的数学期望 设在第 k 步转移中向右移了 x 步 向左移了 y p0q0 0p0q P 步 且经过 k 步转移状态从 i 进入 j 则 i jy x k yx 从而 由于 x y 都只能取整数 所以必 2 i jk x 2 i j k y i jk 须是偶数 又在 k 步中哪 x 步向右 哪 y 步向左是任意的 选取的方法 有种 于是 x k C i jk 0 i jk qpC p yxx k k ij 为奇数 为偶数 3 3 设昨日 今日都下雨 明日有雨的概率为 0 7 昨日无雨 今日 有雨 明日有雨的概率为 0 5 昨日有雨 今日无雨 明日有雨的 概率为 0 4 昨日 今日均无雨 明日有雨的概率为 0 2 若星期一 星期二均下雨 求星期四下雨的概率 解 设昨日 今日连续两天有雨称为状态 0 RR 昨日无雨 今日有 雨称为状态 1 NR 昨日有雨 今日无雨称为状态 2 RN 昨日 今 日无雨称为状态 3 NN 于是天气预报模型可看作一个四状态的马 尔可夫链 其转移概率为 7 0RRRPPRRRRPp00 今昨明今昨明今 连续三天有雨 不可能事件 今昨明今 0RRRNPp01 3 07 01RRNPRRRRPp02 今昨明今昨明今 其中 R 代表有雨 N 代表无 不可能事件 今昨明今 0RRNNPp03 雨 类似地可得到所在状态的一步转移概率 于是它的一步转移概率 矩阵为 0 800 20 0 6 00 40 00 500 5 00 300 7 pppp pppp pppp pppp P 33323130 23222120 13211110 03020100 其两步转移概率矩阵为 0 640 100 160 10 0 480 200 120 20 0 300 150 200 35 0 180 210 120 49 0 800 20 0 600 40 00 500 5 00 300 7 0 800 20 0 600 40 00 500 5 00 300 7 PPP 2 由于星期四下雨意味着过程所处的状态为 0 或 1 因此星期一 星期二连续下雨 星期四下雨的概率为 61 0 12 0 49 0 ppp 2 01 2 00 4 4 设质点在线段上做随机游动 假设它只能在时刻发生移 4 1Tn 动 且只能停留在 1 2 3 4 点上 当质点转移到 2 3 点时 它以的31 概率向左或向右移动一格 或停留在原处 当质点移动到点 1 时 它以 概率 1 停留在原处 当质点移动到点 4 时 它以概率 1 移动到点 3 若 以表示质点在时刻 n 所处的位置 则是一个齐次马尔可 n X Tn Xn 夫链 其转移概率矩阵为 0100 3131310 0313131 0001 试画出各状态之间的转移关系图及标出相应的转移概率 解 由题意可得各状态之间的转移关系及相应的转移概率如下图所示 5 5 设马尔可夫链状态空间 其一步转移概率矩阵为 4 3 2 1I 试将状态进行分类 021021 032310 0001 002121 R 解 对于 状态 4 为非常返状态n 0f n 44 10ff 1n n 4444 对于 状态 3 是非常返的 3 2 f 1 33 2 n0f n 33 1 3 2 ff 1n n 3333 对于又 d 1 2 1 f 1 11 2 1 f 2 11 1fff 2 11 1 1111 状态 1