概率统计和随机过程课件82点估计量的优良性

课件,1,第二节点估计量的优良性,1,课件,2,1、矩方法；（矩估计）2、极大似然函数法（极大似然估计）.,复习点估计的方法,1.矩方法,方法,用样本的k阶矩作为总体的k阶矩的估计量,建立含有待估计参数的方程，从而可解出待估计参数,2,课件,3,设待估计的参数为,设总体的r阶矩存在，记为,设X1,X2,Xn为一样本，样本的r阶矩为,3,课件,4,解方程组，得k个统计量：,未知参数1,2,k的矩估计量,未知参数1,2,k的矩估计值,代入一组样本值得k个数:,4,课件,5,定义1:(1)设r.v.X的概率密度函数为f(x,),其中为未知参数(f为已知函数).x1,x2,xn为样本X1,X2,Xn的样本观察值,称为变量X关于样本观察值x1,x2,xn的似然函数。,若X是离散型随机变量，似然函数定义为,2.极大似然估计,5,课件,6,定义2如果似然函数在时达到最大值,则称是参数的极大似然估计。,通常步骤：第一步似然函数为,注:求导不是求极大似然估计唯一方法,6,课件,7,对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题,(1)无偏性,(3)一致性,(2)最小方差无偏估计（有效性）,第二节点估计量的优良性,7,课件,8,一、无偏估计,则称,为的无偏估计。,定义1设,(简记为,)为未知参数,的估计量，若,(真值),8,例1：样本均值和样本方差分别是总体均值和总体方差的无偏估计量.,计算,课件,10,是总体X的样本,容易知道:不论X服从什么分布,10,课件,11,例2设总体X的概率密度为,(4)求的方差,X1,X2,Xn为来自总体X的样本.,(1)求总体均值EX,总体方差DX；,(2)求的矩估计量;,(3)是否为的无偏估计；,11,课件,12,解(1)总体均值,总体方差,12,课件,13,(3),所以是的无偏估计;,(4)的方差,(2)令,得的矩估计量为,13,课件,14,二、最小方差无偏估计,则称是的最小方差无偏估计。,定义2设是的一个无偏估计，若对于的任一无偏估计，成立,都是总体参数的无偏估计量,且,14,课件,15,例3设X1,X2,Xn为来自于总体X的样本,总体均值EX=,总体方差DX=2,求的最小方差线性无偏估计。,解已知X1,X2,Xn独立且与X同分布,的线性估计是将X1,X2,Xn的线性函数,问题是如何选取的值，使得无偏性和最小方差这两个要求都能得到满足。,作为的估计量。,15,无偏性要求,最小方差要求,这是一个求条件极值问题，用拉格朗日乘数法，令,达到最小，,易知,由条件,得到,于是,是的最小方差无偏估计。,得,课件,18,若和都是的无偏估计量，且成立，则通常称估计量较有效,或较佳,或较优.,例设X1,X2,X3为总体的一个样本,试证下列估计量,都是总体均值的无偏估计量,且问哪一个最佳？,18,三、一致估计,设为总体参数的估计量，显然与样本X1,X2,Xn有关，我们希望会随着样本容量n的增大而越接近于，这一要求便是衡量估计量好坏的另一标准。,课件,20,则称为的一致性估计。,定义3设为未知参数的估计量，若依概率收敛于，即对任意的0,成立,20,课件,21,例4试证样本均值为总体均值的一致性估计。,证因为,所以，对于相互独立且服从同一分布的随机变量X1,X2,Xn，由大数定理，即得,此外,还可证明样本方差S2是总体方差2的一致性估计.,21,课件,22,例5证明正态总体N(,2)的样本方差S2是总体方差2的一致性估计量。,证由切比雪夫不等式有,而,22,课件,23,例6XN(0,2),其中0为已知,X1,X2,Xn为样本,记,证明为2的无偏估计,一致估计.,注意:不是样本的二阶中心矩.,本题即要证,23,课件,24,例7总体X的概率密度,X1,X2,X3为样本,证明为的无偏估计量,并比较它们的有效性.,解:记Y=max(X1,X2,X3),Z=min(X1,X2,X3),24,为的无偏估计量,课件,26,同样的方法可得:,因此比更为有效,26,设总体分布含有一未知参数，又x1,x2,xn为来自于总体的样本，若对于给定(01)，统计量1(x1,x2,xn)和2(x1,x2,xn)满足,则称区间1,2为相应于置信度是1-的置信区间，简称置信区间。,一、置信区间,第三节置信区间,课件,28,1,2分别称为置信下限和置信上限.(1-)称为置信度。,注意：区间1,2是随机区间。,二、单侧置信限,若对于给定的(01),统计量1(x1,x2,xn)满足,28,则称区间1,+)为相应于置信度是1-的单侧置信区间，1称为置信度是1-的单侧置信下限。类似，满足下式,问题:如何确定总体参数的区间估计1,2呢？对于一般总体是难于确定的.现仅能确定正态总体N(,2)中参数,2的区间估计这对许多实际应用已经够了.,的2为单侧置信上限。,课件,30,我们知道，正态随机变量是最为常见的，特别是很多产品的指标服从或近似服从正态分布。因此,我们主要研究正态总体参数的区间估计。先研究均值的区间估计，然后再研究方差的区间估计。这些在实际应用中是很重要的.,第四节正态分布均值和方差的区间估计,30,课件,31,设总体XN(,2)，其中2已知，又X1,X2,Xn为来自于总体的样本。,一.均值EX的区间估计下面分两种情况进行讨论。1.方差DX已知，对EX进行区间估计,由第七章第三节中的结论可知,于是,31,课件,32,即,由标准正态分布可知，对于给定的，可以找到一个数z1-/2，使,32,当0.05时,查标准正态分布表得临