点估计的优良性.ppt

1、点估计的优度，林，山东财经大学统计学院，点估计的优度，对于未知参数，我们讲了两种估计方法：矩估计和最大似然估计。一般来说，这两种估计方法得到的估计量是不同的，所以这里有一个好坏的问题。判断估计量的质量通常有三个标准：1 .无偏性；2.有效性；3.一致性；1.无偏性被定义为参数的估计量。如果是，它被称为无偏估计量；否则，这被称为偏见。如果是这样，它被称为渐近无偏估计。无偏性是估计量的最基本要求。这意味着当无偏估计量被多次使用时，它的估计值围绕未知参数波动，并且这些估计值的理论平均值等于未知参数。从第二个例子可以看出，参数的无偏估计可能不是唯一的。此时，对这些估计量的无偏评估已经失败，需要引入其他

2、评估标准。2.无偏性只是估计量的一个评价标准。当无偏估计不唯一时，我们应该考虑其他评价标准，有效性是其中之一。定义3.2让总体服从某一分布，这是一个未知参数和来自总体的样本。如果和都是无偏估计，那么这个比率是有效的。也就是说，在无偏估计中，方差越小，越有效。参数无偏估计的方差可以任意小吗，或者有下限吗？为了回答这个问题，我们需要对人口的分布做一些假设。正则条件：假设总体的概率密度函数是，其中参数未知，是可导的，并且的值与的非零区域无关，即无关。这是人口样本。为了推广这个问题，我们考虑了函数的无偏估计的方差，其中，关于可导性。t必须满足，特别是，如果取，上面的公式就是被称为参数的信息量。定义3.

3、3如果的无偏估计达到罗-克莱姆不等式的下界，则t称为的有效估计量。事实上，罗-克莱姆不等式所规定的下界不是整个无偏估计的下界，而是无偏估计类正态无偏估计类的一个子集的方差的下界。定义3.4让t是一个无偏估计量，它被称为t的有效比率。为了便于下面的计算，我们给出了信息的另一个表达式。本节中的推导和例子都假设总体X是一个连续的随机变量。事实上，罗里-克莱姆不等式和有效估计量的定义对离散总体也是有效的。在定理3.3中，假设总体的概率函数或概率密度函数是可导的，其中它是一个未知参数，独立于总体，并且是来自总体的样本。如果它只与。是的无偏有效估计量。3。一致估计(Consistent estimatio

4、n)我们不仅希望一个估计量是无偏的并且具有小的方差，而且希望当样本量n为无穷大时，估计量能够在一定意义上收敛到估计的参数值，这就是所谓的一致性要求。定义3.5被假定为未知参数的估计序列。如果概率收敛，它是任意的，如果有，它被称为一致估计或一致估计。一致性是评估者的基本要求。一致估计器意味着只要样本量n足够大，估计误差就可以保证达到任何给定的精度。如果一个估计量不是一致估计量，它就不是一个好的估计量，在应用中经常被忽略。定理3.4是对的无偏估计，如果是，它是对的一致估计。4.充分统计统计推断是基于样本的，在具体的推断过程中，它是通过统计来进行的。一般来说，统计是对样本的一种“处理”或压缩(其维数

5、从N减少到K)，其目的是“去粗取精”，使其形式更简单，使用更方便。例如，样本均值和样本方差，这是一个常用的统计量，它是一个二维向量，样本大小n通常要大得多。当然，有必要问一下，从压缩或降维后的统计数据推断总体的效果是否与从原始样本X推断的效果相同？有用信息丢失了吗？如果效果是相同的，并且信息没有丢失，那么这个统计被称为充分统计。充分统计是由费希尔在1922年提出的，它是统计学中一个非常重要的概念，因为它在不损失信息的情况下将N维样本简化为K维统计(通常K比N小得多)，并且在此基础上进行统计推断更简单、更方便。定义3.6让总体x有一个分布函数，它是总体x的一个样本和一个统计量。给定T=t，如果样本的条件分布与参数无关，那么T称为的充分统计量。在定义中，样本的分布是独立的，这意味着当T=t给定时，其余的样本不再包含信息。也就是说，包含在t中的所有信息。这就是充分统计的含义。定理3.5内曼-费希尔(因式分解定理)假设人口的概率函数或概率密度函数为，其中参数未知。当且仅当它是样本时