数理统计第二章.pdf

1 第第第第2 2章章章章 数理统计的基本概念数理统计的基本概念数理统计的基本概念数理统计的基本概念 Chapter II Basic Concepts of Mathematical Chapter II Basic Concepts of Mathematical StatisticsStatistics 2 1 数理统计的几个基本概念数理统计的几个基本概念 Several Basic Concepts 一 总体与样本一 总体与样本 Population and Sample 数理统计学 mathematical statistics 以概率论为基础 研究如何收集 整理 分 析随机性数据的科学 数学学科的一个分支 总体 Population 研究对象的全体 的某个数量指 标的概率分布状况 本教材中记为 等 2 样本 sample 从总体中随机抽出的n个个体 1 2 n 有代表性 随机地抽 相互独立 样本容量 n 定理 Theorem 设总体为F x 样本为 1 2 n 则 1 2 n 的联合分布函 数为 12 1122 1122 12 n nn nn n ni i F xxx Pxxx PxPxPx F xF xF xF x 3 例 例 Example 1 1 pB 即P x px 1 p 1 x 其中 x 0或 样本 3 21 写出它的样本空间X 2 写出 的 321 联合概率函数 联合分布律 解 解 Solution i 或 321 的所有可能的取值共2 2 2 种 0 1 0 0 1 1 1 1 0 1 这8个向量就构成所求的样本空间X 每个 设总体 4 联合分布律 joint distribution law 321 321 xxx 332211 xPxPxP 331122 111 1 1 1 xxxxxx pppppp 123123 33 11 3 3 3 1 1 1 0 1 2 3 ii xxxxxx xx kk i pp pp pp kx P 5 二 二 二 二 统计量统计量统计量统计量 statistics statistics 统计量统计量 a statistic a statistic 样本的函数 二次数据 样样本的函数 二次数据 样 本本 为一次数据 原始数据 为一次数据 原始数据 随机的 随机的 不含未知参数的 不含未知参数的 样本均值 样本均值 sample mean sample mean n n个原始数据的算术平均个原始数据的算术平均 样本方差样本方差 variance of the sample variance of the sample 以以为平衡位的波动程度 为平衡位的波动程度 n i 1 n 1 22 1 i n s 2 1 i n s 样本标准差样本标准差 6 2 1 1 2 i n s 2 1 1 i n s 修正样本方差修正样本方差 修正样本标准差修正样本标准差 样本均值和方差的数字特征样本均值和方差的数字特征 8 一 经验分布函数一 经验分布函数 频数频数 次抽样中落在中的累计次数次抽样中落在中的累计次数 经验分布函数经验分布函数 Empirical distribution function n xn x n x xF n n 2 2 经验分布函数与直方图经验分布函数与直方图 Empirical Distribution Function and Histogram 思考 如何利用样本来推断总体 思考 如何利用样本来推断总体 12 n 9 F xPx 思路 频率接近概率 Bernoulli试验 思路 频率接近概率 Bernoulli试验 nii xx 记记 设设 是来自总体的一个样本 则是来自总体的一个样本 则 1 1 n n nxi i x F xIxR nn A IxA其中 表示 的示性函数 称为总体称为总体X的经验分布函数的经验分布函数 1 2 n 10 性质2 对固定的性质2 对固定的x 与 与 Fn x 都是样本 都是样本 的函数 从而都是随机变量 统计量 且有 从而有 的函数 从而都是随机变量 统计量 且有 从而有 n x 经验分布函数的性质 经验分布函数的性质 性质1 来自总体的简单样本性质1 来自总体的简单样本 取定一组样本值 取定一组样本值 x1 x2 xn 后 经验分布函数 后 经验分布函数Fn x 是一个分布函数是一个分布函数 n xB n F x 1 n nn ExnF x F xF x E F xF xD F x n 1 2 n 1 2 n 11 性质3 性质3 P n F xF x 定理2 2 1定理2 2 1 格里汶科 Gelivenko 定理 格里汶科 Gelivenko 定理 设设设设 是取自总体分布函数为 是取自总体分布函数为F F x x 的样本 的样本 F F n n x x 是其经验分布函数 当是其经验分布函数 当n 时 有 时 有 1 0 suplim 格里汶科定理表明 当格里汶科定理表明 当n n 相当大时 经验分布函数是 总体分布函数 相当大时 经验分布函数是 总体分布函数F x 的一个良好的近似 的一个良好的近似 经典的统计学中一切统计推断都以样本为依据 其理由就 在于此 经典的统计学中一切统计推断都以样本为依据 其理由就 在于此 xFxFP n x n 1 2 n 12 例2 2 1例2 2 1某班50名学生概率考试成绩如下 某班50名学生概率考试成绩如下 75 65 80 81 92 63 77 79 54 98 85 72 66 84 83 60 82 78 64 90 81 78 76 86 68 76 73 71 88 87 65 57 46 89 78 66 87 79 84 78 96 88 67 38 67 75 83 82 68 85 试作出其经验分布函数图试作出其经验分布函数图 13 14 从图中可以看出 从图中可以看出 1 1 Fn x 为一阶梯函数 间断点是样本值 间断点处跳跃度 为1 为一阶梯函数 间断点是样本值 间断点处跳跃度 为1 n 2 2 Fn x 与样本值大小顺序有关 可按样本值大小排序 进 而给出经验分布函数的另一种描述方式 与样本值大小顺序有关 可按样本值大小排序 进 而给出经验分布函数的另一种描述方式 15 设设 是来自一维总体 的一 个样本 样本观测值为 是来自一维总体 的一 个样本 样本观测值为x1 x2 xn 将它们 自小到大的次序排列为 将它们 自小到大的次序排列为x 1 x 2 x n 对 任意实数 对 任意实数x 定义函数 则称 定义函数 则称Fn x 为总体为总体X的经验分布函数的经验分布函数 1 1 1 0 k n kn x xx xx n k xx xF 1 2 n 16 二 顺序统计量及相关分布二 顺序统计量及相关分布 1 nn D 设为样本设为样本 12 n 21n xxx 的样本值 且的样本值 且 2 1n xxx 当当 12 n 取值为取值为 21n xxx 时时 定义随机变量定义随机变量 1 2 kk xkn 则称统计量则称统计量 1 2 n 为顺序统计量 其中 为顺序统计量 其中 1 1 min k kn 称为样本极差 称为该样本的最小顺序统计量 称为样本极差 称为该样本的最小顺序统计量 1 max nk kn 称为该样本的最大顺序统计量 称为该样本的最大顺序统计量 17 例例例例2 2 22 2 22 2 22 2 2设总体的分布为仅取0 1 2的离散均匀 分布 分布列为 设总体的分布为仅取0 1 2的离散均匀 分布 分布列为 x 0 1 20 1 2 1 3 1 3 1 31 31 31 3p 我们知道 在一个样本中 是独立同 分布的 但顺序统计量则既不独立 分布 也不相同 看下例 我们知道 在一个样本中 是独立同 分布的 但顺序统计量则既不独立 分布 也不相同 看下例 12 n 现从中抽取容量为现从中抽取容量为现从中抽取容量为现从中抽取容量为3 3 3 3的样本 其一切可能取值有的样本 其一切可能取值有的样本 其一切可能取值有的样本 其一切可能取值有3 3 3 3 3 3 3 3 27 27 27 27种 种 种 种 如下表 如下表 如下表 如下表 1 2 n 18 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 2 2 2 0 1 2 0 1 2 0 1 2 1 1 1 1 1 1 1 1 1 0 0 0 1 1 1 2 2 2 0 1 2 0 1 2 0 1 2 2 2 2 2 2 2 2 2 2 0 0 0 1 1 1 2 2 2 0 1 2 0 1 2 0 1 2 1 3 2 1 2 1 3 2 3 19 0 1 2 1 p 19 27 7 27 1 27 3 7 27 19 27 p 1 27 01 2 我们可以清楚地看到这三个顺序统计量的分布是不相 同的 我们可以清楚地看到这三个顺序统计量的分布是不相 同的 从而可给出的分布列如下 从而可给出的分布列如下 2 13 27 7 27 p 7 27 01 2 1 2 3 20 进一步 我们可以给出两个顺序统计量的联合分 布 如 和的联合分布列为 进一步 我们可以给出两个顺序统计量的联合分 布 如 和的联合分布列为 012 07 279 273 27 104 273 27 2001 27 因为因为 P 0 0 7 27 而 而 P 0 P 0 19 27 7 27 二者不等 由此可看出和是不独立的 二者不等 由此可看出和是不独立的 2 2 1 1 1 2 2 1 1 2 21 1 单个顺序统计量的分布1 单个顺序统计量的分布 例2 2 3例2 2 3设总体的分布函数为设总体的分布函数为F x 分别为其 最小最大顺序统计量 试求其分布 分别为其 最小最大顺序统计量 试求其分布 结论结论 最小 最大顺序统计量 的分布函数与概率 密度分别为 最小 最大顺序统计量 的分布函数与概率 密度分别为 11 1 1 nn n p xnF xp xp xn F xp x 1 1 1 nn n F xF xF xF x 1 n 1 n 22 定理2 2 2定理2 2 2 设总体的分布函数为设总体的分布函数为F x 为样本 则第 为样本 则第k个顺序统计量的分布函数为个顺序统计量的分布函数为 1 1 1 xpxFxF knk n xp knk k 又 若总体为连续型 其密度函数为又 若总体为连续型 其密度函数为p x 则第则第k个顺序统计 量的密度函数为 个顺序统计 量的密度函数为 1 0 1 1 F x kn k k n F xttdt knk 下面定理给出了一般的顺序统计量的分布 下面定理给出了一般的顺序统计量的分布 k 1 n 2 k k 23 2 多个顺序统计量的联合分布2 多个顺序统计量的联合分布 对任意多个顺序统计量可给出其联合分布 以两个 为例说明 对任意多个顺序统计量可给出其联合分布 以两个 为例说明 定理2 2 3定理2 2 3在定理2 2 2的记号下 顺序统计量在定理2 2 2的记号下 顺序统计量 i j 的联合分布密度函数为的联合分布密度函数为 zyzpypzF yFzFyF jniji n zyp jn iji ij 1 1 1 11 i j 24 定理2 2 4定理2 2 4 设总体设总体X的分布函数为的分布函数为F x 为样本 则 的联合分布函数为 为样本 则 的联合分布函数为 2 1 1 0 n n n nF yF xp x p ywhen xy px y when xy 又 若总体为连续型 其密度函数为又 若总体为连续型 其密度函数为p x 且且F1 n x y 的二阶 偏导数在点 的二阶 偏导数在点 x y 的某邻域内连续 则 的联合密度函数 为 的某邻域内连续 则 的联合密度函数 为 1 0 nn n F yF yF xwhen xy Fx y when xy 其它 0 0 2 2 1 2 1 2 2 2 x ex n nx x n n 0 f x y n 1 n 5 n 15 2 分布密度函数的推导分布密度函数的推导 39 与分布有关的常用统计量与分布有关的常用统计量 为样本 若 为样本 若 N 0 1 则 则 n 1 n i 1 2 n 2 2 若 若 N 2 则则 2 2 1 i 2 n 可加性可加性 若 若 2 1 2 1 n 2 2 2 2 n 2 m 2 mn m k 1 2 21 2 nnn m 则则 2 分布可加性的推导分布可加性的推导 2 分布大样本性质分布大样本性质1 2 分布大样本性质分布大样本性质2 43 二 二 t 分布分布 t distribution Definition 若若 N N 0 1 0 1 2 2 n 且相互独立 则有 性质 且相互独立 则有 性质 偶函数 偶函数 n t nt xp even function 2 2 1 lim 2 0 1 x n n pxe tnN t分布的概率密度为 30时 t 分 布与标准正态分布非常接近 当n 趋于无穷大 时 t 分布趋于标准正态分布 2 t 分布的尾重比正态分布大 3 t 分布只存在k 其它 其它 n1 10 n2 25 n1 10 n2 5 密度函数的推导密度函数的推导 52 fractil 01 e Definit i 4 on pp p F x pp xPxF xp px 设 的分布函数为 实数 使得 分位点 四分位数 p p x 注意注意 关于分位点的记号 课本78 大46 页上的表 示与附录中表2 表3 表4中不一致 刚才使 用的表达方式与附表中的一致 n F x xp 1 0 f x 53 0 95 0 95 0 95 1 645 u uu 如 分位点 1 0N 2 2 1 2 p p u x p pu uedxp 的 分位点 p u p standard normal distribution 1 标准正态分布标准正态分布 U 1 645 0 95 54 p p u 1 u 2 1 u 0 900 950 9750 990 9950 999 1 282 1 6451 9602 3262 5763 090 注注 单侧单侧单侧单侧双侧双侧单侧单侧双侧双侧单侧单侧 1 u 1 u 1 u 2 1 u P535 346 表表2正态分布常用分位数表正态分布常用分位数表 p 1 1 u 10 0 05 0 05 0 01 0 001 0 01 0 p 2 1 u 2 1 u 2 2 1 1 uu p p 分位点 则给定 1 9 01 011 0 1 0 95 005 011 symmetricy 282 1 1 0 645 1 95 0 05 0 uu uuu uu uuuu p p 对称性 表中没有 又如 则如 1 u 1p 1 0 u1 0 1 0 1 01 u 本书中 一般表示很小的数 56 1 u 习题或附表中 通常是指分位点之外的概率 面积 单侧分位点 放在分位点的一侧 双侧分位点分割放在正负对称的 两分位点的外侧 1 u 1 2 u 1 2 u 2 2 分位数总结 1 p分位数 设0 p 则称 是X的上侧 分位数 即1 分位数 3 双侧分位数 若存在 1 2 使得p X 1 2 p X 2 2 则称 1 2是X的双侧分位数 补充例题补充例题 Supplementary example 1 已知U N 0 1 0 05 求单侧分位点求单侧分位点 u1 与双侧分位点与双侧分位点 u1 2 58 10 95 10 95 1 21 0 05 20 975 1 21 0 05 2 1 1 645 535 1 645 2 1 96 1 96 5352 P Ux xuup uu PUy yuuu uu p 解 346 即单侧分位点 即双侧分位点 这就是 346 表 的原理 0 025 0 025 1 0 05 2 u 1 0 05 2 u 0 05 1 645 59 2 n 2 222 2 0 95 5394 916 919540 pp pnPnp pp 分位点 满足 347 表 2 2 分布 Chi square distribution 表表4 2 分布分位数表分布分位数表 0 900 95 813 36215 507 914 68416 919 p n p p n p 2 60 ntnt tt t t t pnttPntp tt pp 1 95 005 0 05 0 975 0 95 0 8595 1 8 8 8 2281 210 8595 18 ondistributi 3 用对称性 偶 表中无 如 满足分位点 分布 05 0 t 95 0 t 05 0 05 0 p nt p 61 0 750 900 950 9750 990 995 80 70641 39681 85952 30602 89653 3554 90 70271 38301 83312 26222 82143 2498 100 69981 37221 81252 22812 76383 1693 p n t0 95 8 1 8595 t0 975 10 2022841 t0 05 8 表中没有 由对称性知表中没有 由对称性知 t0 05 8 t1 0 05 8 t0 95 8 1 8595 公式 公式 t t1 P53