第四章-极限定理

4 1大数定律 方法 建立概率接近于0 或1 的规律 小概率事件 概率接近于0的事件 小概率原理 小概率事件在一次试验中被认为是不可能发生的大概率事件在一次试验中被认为是一定会发生的 大概率事件 概率接近于1的事件 问题 若事件的概率既不接近于0 也不接近于1 此事件的发生与否如何 在一次试验中随机事件的发生与否具有随机性 但在大量的重复试验中却呈现出明显的规律性 例如 在n重独立试验中 事件A发生的频率为mn n 当n充分大时 A发生的频率mn n在概率P附近摆动 而且n越大 偏离的可能性就越小 以极限的方式建立概率接近于0 或1 的规律 大数定律 当试验次数很大时呈现出的规律 4 1 1切贝晓夫 Chebyshev 不等式 2 X的方差越小 P X EX e 就越大 即X的取值越集中在EX附近 这进一步说明了方差的概率含义 刻划了随机变量取值与均值的离散程度 证明 设X为连续型随机变量 其密度函数为f x 注 1 结论等价于 设随机变量X的期望EX及方差DX存在 则对任意的e 0 有 例 某电网有10000盏灯 夜晚每盏灯打开的概率为0 7 假定各灯的开 关彼此独立 用切比晓夫不等式估计夜晚同时开着的灯的数量在6800与7200之间的概率 解 设X表示夜晚同时开的灯数 则X B 10000 0 7 EX 7000 DX 2100 由切贝晓夫不等式得 注 X的分布可以不给出 而只给出其期望 方差即可 4 1 2切比晓夫大数定律 注 1 定义中的式子等价于 3 若X是一随机变量 且 则称随机变量序列 Xn 依概率收敛于X 简记为 2 Xn 依概率收敛于a意味着对任给正数e 当n充分大时 事件 Xn a e 发生的概率很大 接近于1 当n充分大时 Xn的取值就密集在a附近 但并不排除事件 Xn a e 的发生 只不过它发生的可能性很小而已 由切贝晓夫不等式得 证 切贝晓夫大数定理 定理4 1 设X1 X2 Xn 是相互独立的随机变量序列 期望EX1 EX2 EXn 及方差DX1 DX2 DXn 都存在 且方差有界 对任意i有DXi M 常数 则对于任意的 0 恒有 推论 设X1 X2 Xn 是独立同分布的随机变量序列 EXi DXi 2 i 1 2 则对于任意的 0 恒有 注 1 结论等价于 3 当n充分大时 n个独立随机变量的算术平均数 的离散程度是很小的 这意味着 只要n充分大 尽管n个随机变量可以各有分布 但其算术平均以后得到的随机变量将较密集地聚集在它的期望附近 不再为个别随机变量所左右 大数定律 推论中方差的存在性可去掉 得如下结论 这一推论使算术平均值的法则有了理论根据 假使要测量某一个物理量a 在不变的条件下重复测量n次 得到的观测值x1 x2 xn是不完全相同的 这些结果可以看作是服从同一分布并且期望值为a的n个相互独立的随机变量X1 X2 Xn 的试验数值 由推论可知 当n充分大时 取 作为a的近似值 可以认为所发生的误差是很小的 即对于同一个随机变量X进行n次独立观察 则所有观察结果的算术平均数依概率收敛于随机变量的期望值EX 辛钦大数定理 设X1 X2 Xn 是独立同分布的随机变量序列EXi i 1 2 则对于任意的 0 恒有 贝努利大数定理 证 令 设mn为n重贝努利试验中事件A发生的次数 p是A在每次试验中发生的概率 则对任意的 0有 或 X1 X2 Xn独立同分布 都服从0 1分布 EXi p DXi p 1 p 由辛钦大数定理得 对于任意的 0 恒有 该定理给出了频率的稳定性的严格的数学意义 说明在试验条件不变的情况下 重复进行多次试验时 任何事件A发生的频率将依概率收敛于概率 贝努利大数定理是第一个大数定理 为用频率定义概率奠定了理论基础 是概率的统计定义的理论根据 是贝努利为概率论作出的重要贡献 贝努利大数定理 设mn为n重贝努利试验中事件A发生的次数 p是A在每次试验中发生的概率 则对任意的 0有 引例 考虑炮弹的弹落点的偏差 它受很多因素的影响 如炮身的振动 炮弹的差异 瞄准的误差 天气的状况等 观察到的误差是诸多随机误差的总和 各不同因素所引起的局部误差是独立的 每个起的作用是作用总和中的微小部分 一个随机变量 如果它是很多个相互独立的随机变量之和 不管它们是离散的还是连续的或者是任何类型的 只要它们其中每一个对总和只产生微小的影响 则当求和项数无限增加时 这一总和的分布就趋于正态分布 大量的相互独立的随机变量和的极限分布是正态分布 4 2中心极限定理 中心极限定理 设X1 X2 Xn 为相互独立随机变量 它们的期望和方差都存在 定义 中心极限定理 如果 称X1 X2 Xn 服从中心极限定理 注 1 n的极限分布为标准正态分布 当n充分大时 n近似服从N 0 1 2 若X1 X2 Xn 服从中心极限定理 则X1 X2 Xn的极限分布为正态分布 当n充分大时 X1 X2 Xn近似服从 问题 X1 X2 Xn 服从中心极限定理的条件 定理4 4 林德贝格 勒维中心极限定理 由林德贝格 勒维中心极限定理得 表明 独立同分布随机变量之和的极限分布为正态分布 林德贝格 勒维中心极限定理 独立同分布的中心极限定理 的意义 对于独立同分布的随机变量序列 只要期望和方差存在 不管原来的分布是什么分布 和的极限分布都是正态分布 提供了计算独立同分布随机变量和的分布的近似方法 只要和式中加项个数充分大就可以利用正态分布近似 例 设某商店每天接待顾客100人 设每位顾客的消费额服从 0 60 上的均匀分布 且顾客的消费是相互独立的 求商店的日销售额超过3500的概率 则Xi服从 0 60 的均匀分布 解 第i个顾客的消费额为Xi 元 i 1 2 100 Xi独立同分布 EXi 30 DXi 300 例 一袋盐的重量 千克 是一随机变量 期望为1 方差为0 01 一箱装有100袋 求一箱中每袋平均重量在0 98至1 02千克之间的概率 解 第i袋盐的重量为Xi 千克 i 1 2 100 Xi独立同分布 EXi 1 DXi 0 01 例 一射击运动员 在一次射击中所得环数X的概率分布如下表所示 问在100次射击中所得的总环数介于900环与930环之间的概率是多少 超过950环的概率是多少 解 令Xi表示第i次所得环数 则诸Xi i 1 2 100 具有同一分布 且相互独立 易得 EXi 9 15EXi2 84 77 DXi EXi2 EXi 2 84 77 9 152 1 05 将林德贝格 勒维定理用到贝努利试验的场合 得到下面的定理 设Yn服从参数为n p 0 p 1 的二项分布 则对任意实数x有 证 令 Xi 为独立 服从参数为p的0 1分布 i 1 2 n 且EXi p DXi p 1 p 由林德贝格 勒维定理即得本定理 定理4 5 隶莫弗 拉普拉斯定理 EYn np DYn np 1 p 由定理4 4得 二项分布的极限分布是正态分布 即 若X B n p n充分大时 X近似服从N np np 1 p 可用正态分布近似计算二项分布 例 设有10000盏电灯 夜晚每一盏灯开灯的概率都是0 7 假定各灯开关彼此独立 求同时开着的灯数在6800与7200之间的概率 解 令X为同时开灯的数目 则X B 10000 0 7 如果准确计算 应为 X B 10000 0 7 则X近似服从N 7000 2100 例 食堂为1000个学生服务 每个学生去食堂吃早餐的概率为0 6 去与不去食堂用餐忽不影响 问食堂想以99 7 的把握保障供应 每天应准备多少份早餐 解 应准备N份早餐 令X为到食堂用餐的学生数 则X B 1000 0 6 X B 1000 0 6 则X近似服从N 600 240 保障供应 X N 例 产品为废品的概率为p 0 005 求10000件产品中废品数不大于70的概率 解 令X为10000件产品中的废品数 则X B 10000 0 005 例 每颗炮弹命中飞机的概率为0 01 求500发炮弹中命中5发的概率 解 命中飞机的炮弹数X B 500 0 01 极限定理 二项分布的随机变量可看作许多相互独立的0 1分布的随机变量之和 下面是当X B 20 0 5 时 X的概率分布图 极限定理 泊松分布相当于二项分布中p很小n很大的分布 因此 当参数l np很大时也相当于n特别大 这个时候泊松分布也近似