概率论与数理统计：Ch8-参数估计

1、第八章 参数估计本章要点二、两种常用点估计三、估计量的评选标准五、正态总体下未知参数的置信区间 1.点估计的定义8.2 两种常用点估计 2.矩估计 3.极大似然估计 点估计的定义 设总体 为总体分布中的未知参数,是取自总体的一个样本, 用样本来构造的估计, 称 为 的一个点估计, 记作 求点估计的两种常用方法： 矩估计法和极大似然估计法, 所求出的估计量则分别称为矩估计量和极大似然估计量. 矩估计思想 用样本的 阶原点矩替代总体的 阶原点矩, 这样得到的未知参数 的估计量称为 的矩估计量.总体的 阶原点矩样本的 阶原点矩例1 设总体 , 其中 未知,为取自该总体的一个样本. 试求: 的矩估计量

2、; 的矩估计量.解 因为 , 故 的矩估计量为 又故 的矩估计量又可定义为注 矩估计不唯一;一般利用一阶、二阶原点矩进行求解.例（续）求 的矩估计.解 因所以:例2 设 为取自该总体的样本,求 的矩估计量.解 因 , 而所以故 的矩估计量为例3 设总体 均未知, 求 的矩估计量.解 因 , 故 , 又故例4 设总体未知,求 的矩估计量.解 所以, 的矩估计为 定理8.1 设总体 的均值 , 方差为取自该总体的样本, 则 是 的矩估计, 是 的矩估计, 是 的矩估计. 例5 设总体 , 其中 未知, 求 的矩估计.解 因 , 所以 , 故 是 的矩估计, 也即 的矩估计为例6 设总体 , 其中

3、未知, 求 的矩估计.解 因 , 所以 , 故 是 的矩估计, 从而 的矩估计为例7 设总体 未知, 求 的矩估计.解 由已知条件, 得故, 是 的矩估计, 即 是 的矩估计, 所以 极大似然估计 有一棋坛, 放有黑白两种棋子, 两种棋子的比例为1:4,但不确定是黑:白=1:4, 还是白:黑=1:4. 现有放回取两子,发现全是黑的, 估计是黑:白=1:4, 还是白:黑=1:4?解 任取一子为黑的概率是 或 . 当时, （任取两子全黑）当 时, 自然认为坛中黑棋居多. 利用样本的信息, 选择参数使得事件发生的概率尽可能大, 这就是极大似然估计的思想.（任取两子全黑） 设总体的分布为 , 其中 为

4、未知参数, 为样本观测值, 则求 的极大 似然估计值 的过程如下:写出似然函数称满足关系式的解 为 的极大似然估计值, 而为 的极大似然估计量. 如果 是 的可微函数, 则将似然函数取对数: 建立并求解似然方程组 一般说来, 极大似然估计值可由解对数似然方程得到. 当似然函数不可微时, 也可直接寻求使得达到最大的解来得到极大似然估计值和估计量.例8 设 为取自总体 的样本, 其中 未知, 是样本 的观测值, 求 的极大似然估计量.解 总体分布为 1.写出似然函数 : 2.对似然函数取对数3.对未知参数求导并令其为零, 即建立似然方程:由此解出这就是使似然函数达到最大的点, 即极大似然估计值.

5、4.写出未知参数的极大似然估计量:例9 设总体 未知, 是取自总体 的样本, 求参数 的极大似然估计.解 总体 , 即1.写出似然函数 :2.当 时, 对似然函数取对数, 则有3.等式两边对未知参数 求导, 即建立似然方程求解 :4.写出未知参数 的极大似然估计:性质 设 是未知参数 的极大似然估计, 则的极大似然估计定义为 . （也是替代的思想）例10 设总体 , 其中 未知, 是取自总体 的一个样本, 求 以及 的极大似然估计.解 1.写出似然函数2.对似然函数取对数:3.建立似然方程组:解得已求得以 替代 即得 的极大似然估计为又例11 已知总体 的概率函数为其中 未知, 设 是来自总的

6、极大似然估计值.体的样本, 其观测值 , 求 解 样本观测值的似然函数为取对数后有求导并建立似然方程, 即有解得极大似然估计值为例12 设总体 是来自该总体的样本, 其中 未知. 求 的极大似然估计.解 样本的似然函数为当 时, 对数似然函数为 , 对数似然方程寻求满足下列条件的未知参数估计量.样本的似然函数为在 的条件下, 选择 , 使 尽可能达到最大, 显然令 满足上述要求.显然无法求解出参数. 于是从原始定义出发讨论, 即注: 两种估计量并不总是相同. 试比较5个重要分布的矩估计和极大似然估计.8.3 估计量的评选标准本节关键词:1.无偏性2.有效性3.相合性 1.无偏估计定义: 如果未

7、知参数 的估计量 满足 , 则称 为 的一个无偏估计. 如果 , 则称 为 的渐近 无偏估计; 进一步, 若 , 则称 为 的无偏估计. 定理7.3 设总体 的均值 , 方差 为取自总体的一个样本, 则由定理7.3的结论:可知: 样本均值是总体均值的无偏估计, 样本方差是总体方差的无偏估计, 而样本的二阶中心矩是总体方差的渐近无偏估计.未知, 是取自该总体的样本, 证明 是 的无偏估计. 例1 设总体 的均值 已知, 方差 证明:故 是 的无偏估计. 例2 设总体 为从中抽取的简单样本, 记 分别为样本均值和样本方差 , 若解 由统计量性质知由题意知 , 即 为 的无偏估计, 试计算 的值.由

8、此解得 .例3 设总体 的概率密度函数为 其余.样本均值. 为来自总体 的简单随机样本, 为求未知参数 的矩估计量 .判断 是否为 的无偏估计 , 为什么？解 解得 所以, 的矩估计为 解 故 不是 的无偏估计.例4 已知总体 的概率函数为其中 未知, 用 表示来自总体的样本中取使得 为 的无偏估计量, 并求 的方差. 值为 的个数 , , 试求常数 解 由题意知 因此由 又 解得 2.有效性定义: 设 是未知参数 的两个无偏估计, 至少对某个 , 成立严格不等式: 如果对每一个 , 有 , 而且 , 则称 比 有效. . 证明:总体期望 是未知参数, 令 , 其中 例5 设 为来自总体 的一

9、个样本, 且 是 的无偏估计; 在一切形如 的无偏估计中, 以样本均值 最为有效. 此时即 .解 故 是 的无偏估计;由Schwarz不等式知又 , 因此 , 从而即证.例6 设总体 为来自总体的一个样本, 其中 是未知参数 , 比较这两个估计的有效性.解 由题设知试证 的极大似然估计 和样本方差都是 的无偏估计;故又因为 , 因此即这两个估计都是无偏的;显然 比 有效. 因此例7 设 是来自总体 的一个样本, 总体 的极大似然估计量 ; 问 是不是未知参数的 无偏估计? 若不是, 将其修正为无偏估计; 比较有效性. , 其中 未知, 试求 的矩估计量 ;解 由前面讨论已经知道 ; ; ; 由

10、次序统计量分布知当 时, 的概率密度函数为故 定义 , 显然这是 的无偏估计. 因此, 矩估计是无偏估计、而极大似然估计不是无偏的. 已经知道 , 且 可见对任意 , 有 , 故 比 有效. 3.相合估计如果对 , 有 ,则称 是 的相合估计. 上式即表明 . 定理8.2 如果 是 的一个无偏估计, 且 , 那么 是 的相合估计.证明: 因为 , 且故 是未知参数 的相合估计. . 例8 设总体 , 其中 未知, 的矩估计量 , 试证明 是一个相合估计.8.5 正态总体下未知参数的置信区间主要介绍一个正态总体的情形设 是来自总体 的样本, 其中 参数置信区间的定义:参数 未知, 对给定的 ,

11、若存在统计量 使得那么称区间为 的双侧 置信区间; 称 为置信水平, 称 为 的双侧 置信区间的下限 或上限, 简称双侧置信下（上）限.抽样以后就得到置信区间的观测值: 先求出 的一个点估计 , 建议用极大 求参数置信区间的一般步骤:构造一个包含 和 的随机变量 要求选取常数 , 使得 除了未知参数 以外, 不再含有任何未知的信息, 且 当 的分布为连续型时, 只需考虑等号成立的情形; 似然估计; 的分布已知或者分位数可以通过查表或者计算得到; 将不等式 等价变形为 , 则 就是未知参数 的双侧 置信区间. 其中 , 都是统计量. 设 是取自正态总体 的一个 单正态总体下未知参数的置信区间估计

12、:样本, 置信水平为 , 样本均值 , 样本方差样本的二阶中心矩1.已知方差 , 求期望 的双侧置信区间: 则 满足取 , , 不等式等价变形后即得 的双侧置信区间: 构造随机变量则 符合选取的要求; 相应的置信区间观测值为长期以来方差稳定在0.4, 而期望例1 某商店每天每百元投资的利润率服从正态分布:0.9, 试求 的置信水平 的双侧置信区间.解 由题意知 计算并查表得未知. 现随机抽取五天的利润率为-0.2, 0.1, 0.8, -0.6, , 故期望的双侧0.95置信区间为 2.方差 未知, 求期望 的双侧置信区间: 则 满足取 , , 不等式等价变形后即得 的双侧置信区间: 构造随机

13、变量则 符合选取的要求; 相应的置信区间观测值为测量了10个灯泡并计算得到例2 为了解某型号灯泡使用时数的均值和标准差 小时, 小时, 解 由题设条件知 查表得 , 故期望的双侧0.95置信区间为 设灯泡的使用时数服从正态分布 , 试求 的 置信水平 的双侧置信区间.3.已知期望 , 求方差 的双侧置信区间: 则 满足取 , , 不等式等价变形后即得 的双侧置信区间: 构造随机变量则 符合选取的要求; 相应的置信区间观测值为而标准差的置信区间及置信区间观测值为4.期望 未知, 求方差 的双侧置信区间: 则 满足取 , , 不等式等价变形后即得 的双侧置信区间: 构造随机变量则 符合选取的要求; 相应的置信区间观测值为而标准差的置信区间及置信区间观测值为测量了10个灯泡并计算得到例3 为了解某型号灯泡使用时数的均值和标准差