参数的最大似然估计.ppt

8 2最大似然估计 其中 是待估参数 当一次抽样得观测值 得此观测值的概率为 其分布为 设X是 取值为的概率 与有关 与参数 有关 时 记为 为待估参数 的函数 称为似然函数 若 在处达到最大值 则称为参数的 最大 似然估计值 相应的估计量 称为 的最大似然估计量 统称为 的 最大似然估计 离散型随机变量 其中 是待估参数 设其密度函数为 当是 记 为待估参数 的函数 称为似然函数 它的大小反映了 落在 附近的概率的大小 若 在处达到最大值 则称为参数的 最大 似然估计值 相应的估计量 称为 的最大似然估计量 统称为 的 最大似然估计 连续型随机变量时 由于是 的最大值点 一般应满足条件 从而满足条件 是离散型随机变量 是连续型随机变量 离散型 连续型 求最大似然估计量 1 写出似然函数 X是离散型随机变量 X是连续型随机变量 当只有一个待估参数 时 2 写出似然方程 或 3 求解似然方程 得到驻点 并判断驻点是否为 最大值点 的步骤 几种常见分布的 最大似然估计量 1 0 1分布 设总体 为待估参数 可统一表示为 设一抽样得观测值为 为似然函数 似然估计值 为的最大似然 为的最大 为似然函数 估计量 2 泊松分布 设总体 即 为待估参数 设样本观测值为 为似然函数 为似然函数 为 的最大似然估计值 为 的最大似然估计量 3 指数分布 设总体服从指数分布 为待估参数 求参数 的最大似然估计 设样本观测值为 解 可以认为 为似然函数 为似然函数 为 的最大似然估计值 为 的最大似然估计量 或两个以上 未知参数 时 似然函数为 当有两个 离散型 或 连续型 或两个以上 未知参数 时 似然函数为 若此似然函数在 达到最大 则称 为 的最大似然估计值 称为 i的 最大似然估计量 估计量 相应的 此时 一般应满足条件 或 当有两个 求最大似然 1 写出似然函数 X是离散型随机变量 X是连续型随机变量 当有两个或两个以上待估参数 时 2 写出似然方程组 3 求解似然方程组 得到驻点 并判断驻点是否 为最大值点 估计量的步骤 4 正态分布 设总体 令 和 为待估参数 求参数 和 服从正态分布 的最大似然估计 求参数 和 的最大似然估计 设样本观测值为 解 似然函数为 令 求参数 和 的最大似然估计 似然函数为 为 的最大似然估计值 似然函数为 为 的最大似然估计值 为 的最大似然估计值 为 的最大似然估计值 为 的最大似然估计值 的最大似然估计量为 的最大似然估计量为 最大似然估计量 不一定是无偏估计量 令 随机变量的矩 1 原点矩 则称 对于自然数 如果 为随机变量 的阶原点矩 设X是随机变量 存在 1阶原点矩就是 当时 2阶原点矩是 当时 2 中心矩 称 对于自然数 如果 为随机变量 的阶中心矩 设X是随机变量 则 存在 也存在 当时 2阶中心矩 样本k阶原点矩 样本k阶中心矩 设总体X 是来自的一个样本 矩估计的基本思想是 用相应的样本矩 去估计总体矩 用相应的样本矩的函数 去估计总体矩的函数 例 已知总体X 有密度函数 其它 其中 是未知参数 是来自X的一个 样本 求 的矩估计量 解 总体一阶原点矩 用样本一阶原点矩 估计总体一阶原点矩 令 解得 是 的矩估计量 例 总体X的分布未知 但已知总体的期望 方差 都存在 与是 两个未知参数 求 与 的矩估计量 解 再用样本的一阶 二阶原点矩 估计总体一阶 二阶 原点矩 解得 分别为 与 的矩估计量 例 已知总体X 服从区间 上的均匀分布 是未知参数 求 与 的矩估计量 解 因为有两个未知参数 故将总体的一阶 表示为未知参数的函数 二阶原点矩 再用样本的一阶原点矩 二阶中心矩 估计总体一阶 原点矩 二阶中心矩 例 已知总体X 服从区间 上的均匀分布 是未知参数 求 与 的矩估计量 解 解得 分别为 与 的矩估计量 例 已知总体X 服从二项分布 其中m已知 p未知 1 求p的矩估计量 2 求 的矩估计量 解 总体一阶原点矩 用样本一阶原点矩 估计总体一阶原点矩 令 解得 是p的矩估计量 是的矩估计量 8 3区间估计 点估计 估计 当一次抽样实现后 代入估计量后 用这个数值 点估计没有反映这个估计值的 估计值 参数真值 未知 例如 使用起来 区间估计 未知参数 得到样本观测值 得到一个具体的数值 作为 的估计值 误差范围 把握不大 是用一个统计量 可以弥补点估计的这个缺陷 设总体的分布中 为了估计 所谓区间估计 以它们为端点得到区间 一旦抽样实现后 就得到一个具体的区间 是一个随机区间 对这个随机区间有两个要求 要求 有很大的可能 即要求 尽可能大 估计的精度要尽可能高 的长度 尽可能小 如果重新抽样 有一个未知参数 从总体中抽取样本 就是构造两个统计量 即 就得到另一 即 被包含在这个区间内 区间 1 2 定义 设 是一个要估计的参数 若由样本 满足 则称区间 是 的 称 称为置信水平 统计量 对给定的小 正数 确定的两个 置信区间 分别为置信下限 和置信上限 也称置信度 或置信概率 当一次抽样实现后 得到样本观测值 即可得到一个具体的区间 称为置信区间 的 一个实现 也称为置信区间 和 求置信区间的步骤 1 明确问题 2 寻找待估参数的 3 寻找一个待估参数 其分布为已知 4 对于给定的置信水平 根据的分布 确定常数 作等价变形 则区间 是求什么参数的置信区间 置信度是多少 即 一个良好的点估计T 和其估计量T的函数 使得 5 对 得到如下形式 是 的 置信区间 已知分布 三 正态总体均值的区间估计 设总体 是来自的样本 已知 求 的置信区间 估计 1 的点估计 对于给定的置信度 由 求出 记 1 已知 求 的置信区间 由 求出 记 置信区间 是 的 从某厂生产的一种钢球中 例 随机抽取7个 测得 它们的直径为 单位 mm 若钢球直径 求一区 使它有95 的把握 保证包含 的真值 解 置信区间为 的1 为 的95 置信区间 间 设总体 是来自的样本 未知 求 的置信区间 估计 2 的点估计 对于给定的置信度 查表得 2 未知 求 的置信区间 置信区间 是 的 例 某校高三女生的身高 从中随机 测得身高如下 求高三女生平均身高 的0 95 抽查10人 置信区间 解 置信区间为 的 例 从中随机抽查10人 测得身高 求 的0 95 置信区间 解 为 的0 95置信区间 三 正态总体方差 设总体 其中 均未知 估计 是来自的样本 的区间估计 和 1 取 的一个良好的点估计 可取 2 3 对于给定的 1 取 的一个良好的点估计 2 选取 使得 但这样的 不唯一 进一步要求 4 对 作等价变形 3 对于给定的 1 取 的一个良好的点估计 2 4 置信区间 是的 置信区间 是的 置信区间 是的 为 设零件长度 例 从自动机床加工的同类零件中 抽取16件 测得长度值 单位 的点估计 求 1 方差 解 1 是的无偏估计量 是的 点估计 为 设零件长度 例 从自动机床加工的同类零件中 抽取16件 测得长度值 单位 求方差 解 的0 95