第三章参数估计.ppt

1、参数估计,有这样一类问题: 总体的分布已知，但其参数未知.需在试验后, 由数据得出总体中未知参数.,对于这类参数的估计问题，统计采用的方法叫“参数估计”.,未知参数的常见估计方式，统计中类似估计方式及相关问题.(途径及评价).,引言,4.1 点估计,总体未知参数的点估计思想:,点估计的经典方法是矩估计法与极大似然估计法.,1. 矩估计法（简称“矩法”）,同时定义样本矩,令,矩法思想: 用样本矩Ak 作为总体同阶矩k 的近似, 得出未知参数的估计(k 由未知参数个数决定). 即,的矩估计可记为,解：,2. 极大似然估计法,理论依据（背景）,单参数情形.,未知的不论如何变化, 均应使L()达最大值

2、。,或,x1x2 xn,极大似然估计法一般情形,为该总体的似然函数.,定义,极大似然估计法：作似然函数，求极值点.,若似然函数可导, 且能由导数等于零解出未知参数, 则可由下列方程（组）,解出似然估计,或,由似然方程解不出j 的似然估计时，可通过放大缩小的方法直接推求。,解：,设x1, , xn是来自总体X的样本，作,0,得,0,lnL(,)关于单增, 但,所以,极大似然估计法数值求解方法：,说明： 事实上，除去少数总体和样本分布都比较简单的场合外，在绝大多数情况下，极大似然估计的似然方程的解往往没有解析表达式。例如总体为伽马分布，其中参数未知的时候，似然方程没有解析解。在这种情况下要用数值方

3、法求解似然方程的数值解或者近似解。这里我们简单介绍一下广泛应用于似然方程数值解的方法：牛顿-拉夫森算法。,牛顿-拉夫森算法： 1）标准形式：,2）梯度和Hissian矩阵,梯度是一个函数变化率最大的方向，它是由一阶 偏导数形成的向量： 当 称为驻点,Hissian矩阵是所有的二阶偏导数形成的矩阵：,3）牛顿-拉夫森流程,4.2 估计量的评选标准,1. 无偏性,估计量的特性:,例 设总体为X，其均值, 方差20都存在未知，问的估计量 , 2的估计量 ， 分别是否为,2的无偏估计.,所以 E(Xi)=，V(Xi)=2，( i =1, , n) E(Xi2)= V(Xi)E(Xi)2 E(Xi1Xi

4、 )2 =222222=22,解：,E(T )= =2,= E(Xi12)2E(Xi Xi1)E(Xi 2),=22,2. 有效性,例,但任意一个无偏估计的方差不可能无限制 地小，在样本容量一定时，它有一个下限值。 设总体X的概率函数为,，样本容量,则,这个著名的关系式称为罗-克拉美不等式,3. 相合性,无偏性与有效性都是基于样本容量n固定的前提下提出的，我们希望随着样本容量的增大，一个估计量的值趋向于待估参数的真值。,4.3 区间估计,总体未知参数的区间估计思想:,区间估计概念,一、区间估计的步骤：, 找待估参数的最好(无偏)估计;, 由最好估计构造含待估参数、不含未知参数、分布已知的统计量

5、Z;, 定两个常数a,b, 使PaZb=1-且(a, b)最短;, 由aZb 解出12 ,(1,2 )为所求., 有数据时，数据代入得到具体的置信区间.,区间估计的理论依据（背景）,二、单正态总体均值差与方差比的置信区间,1. 单正态总体均值的置信区间,(1) 已知,即得 的置信区间为1- 的置信区间为,(2) 未知,即得 的置信区间为1的置信区间为,2. 单正态总体方差的置信区间,(1) 未知,即得 的置信度为1- 的置信区间为,(2) 已知,即得 和 的置信度为1的置信区间分别为,三、双正态总体均值差与方差比的置信区间,解:(1),N( ),Z =,0,x,a,b,得2132的置信度为1的置信区间是,数据代入,1-,N(0,1),(2), t(m+n-2),Z =,0,x,a,b,1-,t(m+n-2),得2132的置信度为1的置信区间是,数据代入,f(x),解:(1),Z =,0,x,F(n-1, m-1),1-,a,b,得212/