概率论参数估计.ppt

1、参 数 估 计,问题的提出:,点估计,区间估计,参数估计,总体X的分布形式已知，未知的只是分布中的参数，要估计的只是参数或参数的某一函数。,总体X的估计有两类：,一、参数估计,二、非参数估计,总体X的分布形式未知，要估计的是总体的分布形式。,从总体 X 中抽取样本(X1, X2, , X n ),参数的 估计量,参数的 估计值,设总体X的分布函数为F(x, ), 未知， 的取值 范围称为 参数空间 。记作 。现估计 。步骤如下：,构造点估计的估计量的具体方法有多种，在此，介绍两种方法。,一、矩估计法,矩估计法的思想是：用样本的各阶矩去估计总体相应的各阶矩， 而总体各阶矩都是总体分布中未知参数的

2、函数，从而，通过估计 总体矩来达到估计总体分布中未知参数的目的。,设总体分布为F(x,1, 2 ,k), i未知，样本(X1, X2, , X n ) 来自总体 X，计算,解未知量 1, 2 ,k,称为参数1, 2 ,k的矩估计量。,5.1 参数的点估计,例2：设样本(X1, X2, , X n )来自总体 XN( , 2)， 求 与 2 的矩估计量。,解：,例1：设样本(X1, X2, , X n )来自总体 X，且总体的均值 未知， 求 的矩估计量。,解：,总体 X 的均值 矩估计量为一阶样本原点矩,例3：设样本(X1, X2, , X n )来自总体 XP( )， 求 的矩估计量。,解：

3、,另一方面：EX2 = DX + (EX)2 = + 2 ，所以：,此例说明：矩估计可以不唯一。 此时，一般取低阶矩得到的那一个。,一阶样本原点矩作为 的矩估计量,例4：设样本(X1, X2, , X n )来自总体 X，X服从1, 2上的 均匀分布，求1和 2 的矩估计量。,另见书例5.10、5.11,由,解得,EX2 = DX + (EX)2,解：这是两个参数的矩估计问题。,思想：,进行一次具体的抽样之后， (X1, X2, , X n ) 得到一组观察值 (x1, x2, , x n )。,设总体分布(以离散型为例)为P(X=x)=F(x,1, 2 ,k), （1, 2 ,k )未知，样

4、本(X1, X2, , X n )来自总体 X， 则样本(X1, X2, , X n )的概率分布函数为：,为（1, 2 ,k )的函数。因为(x1, x2, , x n )在一次观察中就出现了，应出现在概率最大的地方。即求函数,取得最大值的最大值点，以此作为（1, 2 ,k )的估计。,二、极大似然估计,极大似然估计基本思想：,找出使样本观察值出现的概率为最大的参数值，将它作为未知参数的估计值。,1、极大似然估计（离散型总体）,试求参数p的极大似然估计量,故似然函数为,例1：,故似然函数为,例2：,2、极大似然估计（连续型总体）,似然函数为：,例3：,例4：,例5：,例6：,极大似然法求估计

5、量的步骤：(一般情况下),说明：若似然方程（组）无解，或似然函数不可导， 此法失效，改用其它方法。,例7：,方程组无解,5.2 点估计的优良性准则,我们知道，一个未知参数的估计量可能不止 一个。究竟采用哪个为好呢？这就涉及到用什么 标准来评价估计量的问题。我们介绍三个常用的 标准： 1）无偏性； 2）有效性； 3）一致性。,一、无偏性,根据样本推得的估计值与真值可能不同， 然而，如果有一系列 抽样构成各个估计，很合理地会要求这些估计的期望值与未知参数 的真值相等，它的直观意义是样本估计量的数值在参数的真值周围 摆动，而无误差，这就是估计量的无偏性。,定义5.2：如果对一切 ，有,这个结论与总体

6、的分布类型没有关系。只要总体期望存在， 样本均值总是它的无偏估计。,证：,例：设总体X 有期望 EX= 与方差 DX= 2， 与 2 都未知。 样本(X1, X2, , X n)来自 X，试证： (1) 样本方差S2是 2的无偏估计； (2) 样本标准差S不是标准差 的无偏估计； (3) B2不是 2的无偏估计。,证：(1) 由定理知： ES2= 2,(2) DS=ES2 - (ES)2= 2 - (ES)2,(3) 因,二、无偏估计的有效性,一般地，未知参数 的无偏估计量往往不止一个， 在这些估计量中，当然是取值对于 的离散程度越小的 越好，即方差越小的越好。,定义5.3：,解：DX1=DX

7、= 2,解：所谓线性估计是指,为样本的线性函数。,三、一致性（相合性）,例：,区间估计:,点估计：用样本算出的估计值估计总体的未知参数,可靠度： 要求区间以很大的可能性包含 即：,精度： 估计的精度要尽可能高, 即 区间的长度要尽可能小, 或 能体现此要求的其它准则。,在保证可靠度的条件下，尽量提高精度,可靠度和精度要统筹兼顾,5.3 区间估计,通常，置信系数（可靠性）采用 0.95, 0.99, 0.90 等值。,一、区间估计的基本概念,标准正态分布的临界值（ 分位点）,二、枢轴变量法,(1) 找与有关的统计量 T (一般T是 的点估计),(2)找一个函数 I=I(T, ), I 的分布F与

8、 无关( I(T, )为枢轴变量),(3)对给定的 1- ，找到F 的上分位点 和,三、正态总体未知参数的区间估计（枢轴变量法）,1、均值 的区间估计,(1) 2已知,设总体X N( , 2)，样本 (X1, X2, , Xn) 来自总体X 。,所以 的置信系数为1- 的置信区间：,枢轴变量为,(2) 2未知,所以 的置信系数为1- 的置信区间：,枢轴变量为,例1：从大批灯泡中随机地抽取5个,测得寿命为(单位: 小时)： 1650, 1700, 1680, 1820, 1800，假定灯泡寿命XN( , 9)， 求这批灯泡平均寿命的区间估计 （ = 0.05）。,解：方差 2=9已知，利用公式：

9、,P(1727.37 1732.63)=0.95,注,例2 ：从大批灯泡中随机地抽取5个,测得寿命为(单位: 小时)： 1650, 1700, 1680, 1820, 1800，假定灯泡寿命XN( , 2)， 求这批灯泡平均寿命的区间估计 （ = 0.05）。,解：方差 2未知，利用公式：,2、方差的区间估计,(1) 已知, 2 的置信系数为1-的区间估计为：,枢轴变量为,(2) 未知, 2 的置信系数为1-的区间估计为：,枢轴变量为,查 2 分布表得 20.025(5)=12.833， 20.975(5)=0.831。 所以，得方差的区间估计为 0.055 , 0.842。,例3：对某塔的高

10、度进行了 5 次测量，数据（单位：米）如下： 90.5, 90.4, 89.7, 89.6, 90.2，设测量数据服从正态分布， 求方差的区间估计（ = 0.05）。 (1) 假设塔的真实高度为 90米。 (2) 假设塔的真实高度未知。,解：(1) 利用公式：,计算得：,(2) 利用公式：,计算得：,查2分布表得 20.025(4)=11.143， 20.975(4)=0.484。 所以，得方差的区间估计为 0.060 , 1.380。,1、均值差 1 -2的区间估计,(1) 12 , , 22都已知,令枢轴变量为,所以 1 -2的置信系数为1- 的置信区间：,解：由 = 0.1，查标准正态分

11、布表得 U/2=U0.05=1.645 因 n1=10，n2=12, 12=25, 22 =36，所以，,例1：设自总体XN(1 ,25)得到一容量为10的样本，其样本均值 ，自总体YN(1 ,36)得到一容量为12的样本， 其样本均值 , 并且两样本 相互独立, 求 1 -2的置信区间（ = 0.1）。,得 1 -2的置信区间为 -8.06,-0.34。,(2) 12 ,=22= 2 ,但2未知,令枢轴变量为 定理（5.10）,所以 1 -2的置信系数为1- 的置信区间：,解：由抽样的随机性可推知样本灯泡相互独立，又因为它们的 总体方差相等，所以由,得 1 - 2的置信区间为 -36.53,

12、76.53。,例2：为比较A,B两种型号灯泡的寿命， 随机抽取A型灯泡5只， 测得 ，标准差SA=28小时，随机抽取B型灯泡5只， 测得 ，标准差SB=32小时，设总体都是正态的， 并且由生产过程知它们的方差相等. 求 1 -2 的置信区间（ = 0.01）,因 n1=5，n2=7, SA=28, SB =32,而 = 0.01，查t-分布表得 t/2(10)= t0.005(10 )= 3.169 , ， 所以,令枢轴变量为,2、两个正态总体方差比 的区间估计,所以方差比 的置信系数为1-的置信区间为,例3：两正态总体XN(1 ,12)和YN(2 ,22)的参数均未知，依次取 容量为25 ，15的两独立样本，测得 ，样