《数学数理统计》PPT课件.ppt

第 五 讲 一、大数定理 二、随机变量的收敛性 三、中心极限定理 1 一 大数定律 要解决的问题 1. 为何能以某事件发生的频率 作为该事件的 概率的估计？ 2. 为何能以样本均值作为总体 期望的估计？ 3. 为何正态分布在概率论中占 有极其重要的地位？ 4. 大样本统计推断的理论基础 是什么？ 答复 大数 定律 中心极 限定理 2 设为一随机变量, 其数学期望和方差 都存在，则对于任意有 1) 切比雪夫不等式 2) A.L.CauchySchwarz不等式. 准备工作 3 设事件 在每次试验中出现的概率为 p, 在n次重复独立试验中出现的频率为 且 贝努里（Bernoulli） 大数定律 证 引入 r.v. 序列Xk 设则 4 记 由 Chebyshev 不等式 相互独立， 5 故 6 在概率的统计定义中, 事件 A 发生的频率 “ 稳定于”事件 A 在一次试验中发生 的概率是指： 频率与 p 有较大偏差是 小概率事件, 因而在 n 足够大时, 可以用频 率近似代替 p . 这种稳定称为依概率稳定. 贝努里(Bernoulli)大数定律的意义 7 大数定律 设 r.v. 序列 或 则有是常数序列， 则称 服从大数定律 8 Chebyshev 大数定律 则有 或 两两不相关的随机变量,又设 9 两两不相关,且方差有界，则可得到 10 辛钦大数定律 为一列相互独立同分布的 随机变量，且具有相同的数学期望 设 在定理一中,去掉方差存在的条件而加上相同 分布的条件，则有： 注相互独立的条件可以 去掉，代之以（Markov） 大数定律 11 如果对于任意的 有， 二 随机变量的收敛性 定义1 存在常数 使得对于任意的 有 设 为一列随机变量，如果 记为 则称依概率收敛于 定义2设为一列随机变量,X是随机变量 记为 则称 依概率收敛于 12 定义:设 是一列分布函数,如果 对F(x)每个连续点x，都有 则称分布函数列 弱收敛于分布函数F(x) ， 记为 定义：如果 则称 依分布收敛于X，记为 13 可以证明： （）若 则， （）设C为常数，则 充分性： F(x)是X=C的分布函数，即 14 ：r阶收敛 定义：设对随机变量Xn及X，r0为常数，如果 且， 则称 r阶收敛于X,记作 特别：阶收敛为平均收敛，阶为均方收敛 15 ：以概率收敛 定义：若存在一随机变量X,使 我们称随机序列 以概率为收敛于X,或说 几乎处处收敛于X，并记为 四种收敛关系： 以概率收敛或r-阶收敛 依概率收敛 依分布收敛 16 中心极限定理讨论：随机变量序列 对应的分布函数序列收敛于标准正态分布函数的定理 三、 中心极限定理 17 的随机变量，且具有数学期望和方差， 定理1（独立同分布的中心极限定理） 任意实数 有 其中为标准正态分布的分布函数。 设为一列相互独立相同分布 则对于 18 若一随机变量可以表示成数量很多的相互独立相 同分布的随机变量的和，则该随机变量可近似服从 正态分布，标准化后就服从标准正态分布。 近似 近似服从 19 对任意 有， 20 中心极限定理的意义 前面讲过有许多随机现象服从正态分布 若联系于此随机现象的随机变量为X ，则 是由于许多彼此没有什么相依关系、对随机现 象谁也不能起突出影响，而均匀地起到微小作 用的随机因素共同作用(即这些因素的叠加)的 它可被看成为许多相互独立的起微小作用的因 素Xk的总和 ，而这个总和服从或近似服从 正态分布. 结果. 21 对此现象还 可举个有趣 的例子 高尔顿钉板 试验 加 以说明. 03 钉子层数 22 表示某一个小球在第k次碰了钉子后向左 或向右落下这一随机现象联系的随机变量， 满足中心极限定理条件， 独立投入个小球， 23 有 其中 为标准正态分布的分布函数。 这个定理表明，二项分布的极限分布是正态分布 项分布的概率。 很大时，我们便可以利用定理 2 来近似计算二当 定理 2 （德莫佛拉普拉斯） 则对于任意实数 设 24 对任意 有， 25 某单位有200台电话分机，每台分机有5%的时间 要使用外线通话。假定每台分机是否使用外线是相互 独立的，问该单位总机要安装多少条外线，才能以 90%以上的概率保证分机用外线时不等待？ 解：设有X部分机同时使用外线，则有 设有N 条外线。由题意有 例 26 由德莫佛-拉普拉斯定理有 查表得 故N应满足条件 即 27 对随机现象进行观测、试验， 以取得有代表性的观测值 对已取得的观测值进行整理、 分析,作出推断、决策,从而 找出所研究的对象的规律性 数 理 统 计 的 分 类 描述统计学 推断统计学 第2章 数理统计的基本概念 28 参数估计 (第3章) 假设检验 (第4章) 推断 统计学 方差分析 (第6章) 回归分析 (第5章) 29 总体 研究对象全体元素组成的集合 所研究的对象的某个(或某些)数量指 标的全体,它是一个随机变量(或多维随机 变量).记为X . X 的分布函数和数字特征称为总体的 分布函数和数字特征. 总体和样本 2.1 基本概念 30 样本 从总体中抽取的部分个体. 称 为总体 X 的一个容量为n 的样本观测值,或称样本的一个实现. 用 表示, n 为样本容量. 样本空间 样本所有可能取值的集合. 个体 组成总体的每一个元素 即总体的每个数量指标,可看作随机 变量 X 的某个取值.用 表示. 31 则称 为简单随机样本. 若总体 X 的样本 满足: (1) 与X 有相同的分布 (2) 相互独立 简单随机样本 它可以用与总体独立同分布的n个相互独立的随机 变量X1,X2,Xn表示。 若总体的分布函数为F(x)，则其简单随机样本 的联合分布函数为 F(x1) F(x2) F(xn) 32 设 是取自总体X 的一个 样本, 为一实值连续函数, 且不含有未知参数, 则称随机变量为统计量. 若是一个样本值, 称 的一个样本值为统计量 定义 统计量 33 例 是未知参数, 若 , 已知,则为统计量 是一样本, 是统计量, 其中 则 但不是统计量. 34 常用的统计量 为样本均值 为修正样本方差 为修正样本标准差 设是来自总体 X 的容量 为 n 的样本,称统计量 35 为样本的k 阶原点矩 为样本的k 阶中心矩 例如 36 注 样本方差 与样本二阶中心矩 的不同 关系式1） 37 常见统计量的性质： 38 2） 39 顺序统计量与极差 设为样本, 为样本值,且 当取值为时, 定义 r.v. 则称统计量为顺序统计量. 其中, 称为极差 40 1）样本的经验分布函数 样本值 样本值小于x的个数，作 样本的经验分布函数 非降，左连续； 41 若子样为n维r.v，那么对于每一样本值 就可作一个经验分布函数，故是随机变量 -n次独立重复试验中，事件 发生的频率。 由大数定律， 42 这就是我们可以由样本推断总体的基本理论依据. 格列汶科进一步证明了：当n时，Fn(x) 以概率1关于x一致收敛于F(x)，即 这就是著名的格列汶科定理. 定理告诉我们，当样本容量足够大时，对所有的 x, Fn(x)与F(x)之差的绝对值都很小，这件事发生的 概率为1. 43 直方图 离散型 表示 在n次试验中出现的次数， 设 为n次独立重复样本 则 44 定义函数：当 称 为在区间a,b)的图形为a,b)的 频率直方图 45 46 47 48 . 抽样分布 定理： 则 为两随机向量，且 49 50 特别：若 相互独立且服从 那么 也是正态随机变量 若 为正交矩阵，那么：随机变量 也是相互独立且均值为的正态随机变量 51 几个重要的抽样分布定理 取自正态总体的样本, 则有 定理 1 (样本均值的分布) 设X1 , X2 , , Xn 是 52 定理2. (样本方差的分布) 设 X1 , X2 , , Xn 是取自正态总体 样本 ,分别为样本均值和修正样本方差 则有 的 和 相互独立。 证明：设 53 而 54 55 定理3(与