概率论与数理统计柴中林第18讲

1、 概率论与数理统计概率论与数理统计第十八讲第十八讲主讲教师：柴中林副教授主讲教师：柴中林副教授中国计量学院理学院中国计量学院理学院 从前面两节的讨论中可以看到从前面两节的讨论中可以看到: : 同一参数可以有几种不同的估计，这时就需同一参数可以有几种不同的估计，这时就需 要判断采用哪一种估计为好的问题。要判断采用哪一种估计为好的问题。 另一方面，对于同一个参数，用矩法和极大另一方面，对于同一个参数，用矩法和极大 似然法即使得到的是同一个估计似然法即使得到的是同一个估计, , 也存在衡也存在衡 量这个估计优劣的问题。量这个估计优劣的问题。 估计量的优良性准则就是：估计量的优良性准则就是：评价一个估

2、计量评价一个估计量“好好”与与“坏坏”的标准。的标准。7.3 估计量的优良性准则估计量的优良性准则 设总体的分布参数为设总体的分布参数为 ，对一切可能的对一切可能的 成立成立, ,则称则称 为为 的无偏估计。的无偏估计。7.3.1 无偏性无偏性 对于样本对于样本 x1 1, ,x2 2, , ,xn n的的不同取值，不同取值， 取不同的值取不同的值 ) )。),(21nxxx 如果如果 的的均均值等于值等于 ，即，即),(21nxxxe 简记为 是是 的一个估计的一个估计( (注意注意! ! 它是一个统它是一个统计量，是随机变量。计量，是随机变量。参数参数 ，有时可能估计偏高，有时可能偏低，有

3、时可能估计偏高，有时可能偏低，但是平均来说它等于但是平均来说它等于 。 “ “一切可能的一切可能的 ”是指：在参数估计问题是指：在参数估计问题中，参数中，参数 一切可能的取值。一切可能的取值。 我们之所以要求对一切可能的我们之所以要求对一切可能的 都成立，都成立，是因为在参数估计问题中是因为在参数估计问题中, , 我们并不知道参数我们并不知道参数 的真实取值。自然要求它在参数的真实取值。自然要求它在参数 的一切可的一切可能取值的范围内都成立能取值的范围内都成立说明：说明：无偏性的意义是：用估计量无偏性的意义是：用估计量 估计估计 .),(21nxxxe例例1：设设 x1, x2, , xn 为

4、抽自均值为为抽自均值为 的总体的总体x的随机样本，考虑的随机样本，考虑 的如下几个估计量：的如下几个估计量：例如：例如：若若 指的指的是正态总体是正态总体n( , 2)的均值的均值 , ,则其一切可能取值范围是则其一切可能取值范围是(-(-, ,) )。若。若 指的指的是方差是方差 2 2，则其一切可能取值范围是，则其一切可能取值范围是(0,(0,) )。的的无无偏偏估估计计。是是所所以以，因因 ,)()( 11111xeex的的无无偏偏估估计计。是是所所以以因因 , ,)( 2 22212exx的的无无偏偏估估计计。是是 )4( 41213nxxxxnn是是有有偏偏估估计计。 214x是有偏

5、估计。是有偏估计。 3215xx 定理定理1：设总体设总体 x 的均值为的均值为 , ,方差为方差为 2 2, , x1 1, ,x2 2, , ,xn n 为来自总体为来自总体 x 的随机样本，记的随机样本，记 与与 分别为样本均值与样本方差，即分别为样本均值与样本方差，即 即样本均值和样本方差分别是即样本均值和样本方差分别是 总体均值总体均值 和总体方差和总体方差 的无偏估计的无偏估计。.)(11 ,12121xxnsxnxniinii.)( , )( 22sexe则则x2s证明：证明：因为因为 x1, x2, , xn 独立同分布，且独立同分布，且e(xi )= , 所以所以；nnxen

6、xnexeniinii1)(11)(11另一方面，另一方面，因因, )(2)(212211221xnxxnxxxxxniininiiinii,)()()(,)()()(22222222iiixexvarxenxexvarxe于是，有于是，有. )(11 )()(11)(222222122nnnnxnexensenii注意到注意到的无偏估计。也未必是无偏估计，的是是：即使的估计。但必须注意的作为用的一个估计，我们通常是参数如果)()( )()( gggg 前面两节中，我们曾用矩法和极大似然法前面两节中，我们曾用矩法和极大似然法分别求得了正态总体分别求得了正态总体 n( , 2) 中参数中参数 2

7、 的估计的估计,均为均为.)(1212xxnnii很显然，它不是很显然，它不是 2 的无偏估计。这正是我们为的无偏估计。这正是我们为什么要将其分母修正为什么要将其分母修正为 n- -1，获得样本方差，获得样本方差 s2来估计来估计 2 的理由。的理由。例例2：求证：样本标准差求证：样本标准差 s 不是总体标准差不是总体标准差 的无偏估计。的无偏估计。 证明：证明：因因 e(e(s2 2)=)= 2 2，所以，所以，var(var(s)+e(s)+e(s)2 2 = = 2 2，由由 var(var(s) )0 0，知，知 e(e(s)2 2 = = 2 2 - var(- var(s s) )

8、 2 2. .所以，所以，e(e(s s) ) . .故，故，s s 不是不是 的无偏估计。的无偏估计。 用估计量用估计量 估计估计 ，估计误差估计误差ii. ii. 均方误差准则均方误差准则),(21nxxx 是随机变量，通常用其均值是随机变量，通常用其均值衡量估计误差的大小。衡量估计误差的大小。 要注意要注意: : 为了防止求均值时正、负误差相为了防止求均值时正、负误差相互抵消，我们先将其平方后再求均值，并称其互抵消，我们先将其平方后再求均值，并称其为均方误差，记成为均方误差，记成 ，即，即),(21nxxx.)()(2 emse)(mse 哪个估计的均方哪个估计的均方误差小，就称哪个估计

9、比较优，这种判定估计误差小，就称哪个估计比较优，这种判定估计优劣的准则为优劣的准则为“均方误差准则均方误差准则”。注意：注意：均方误差可分解成两部分均方误差可分解成两部分: :, 21和和的两个估计的两个估计对对证明：证明：.)()()(2evarmse)()( 2 )()( )()( )()(2222eeeeeeeeeemse.)()(2evar 上式表明，均方误差由两部分构成：第一上式表明，均方误差由两部分构成：第一部分是估计量的方差，部分是估计量的方差，第二部分是估计量的第二部分是估计量的偏偏差的平方和。差的平方和。 注意：注意：如果一个估计量是无偏的，则第二如果一个估计量是无偏的，则第

10、二部分是零，则有部分是零，则有: :2)()()( evarmse 如果两个估计都是无偏估计，这时哪个估如果两个估计都是无偏估计，这时哪个估计的方差小，哪个估计就较优。这种判定估计计的方差小，哪个估计就较优。这种判定估计量优劣的准则称为方差准则。量优劣的准则称为方差准则。)()(varmse例例3 3：设设 x1, x2, , xn 为抽自均值为为抽自均值为 的总体的总体, ,考虑考虑 的如下两个估计的优劣：的如下两个估计的优劣： 我们看到我们看到: : 显然两个估计都是显然两个估计都是 的无偏的无偏估计。计算二者的方差：估计。计算二者的方差：.11 ,1nijjjixnx,)() (2nxv

11、arvar.1)(11)(212nxvarnvarnijjji。优优于于方方差差小小，比比于于是是， iixx这表明：当用样本均值去估计总体均值时，这表明：当用样本均值去估计总体均值时，使用全样本总比不使用全样本要好。使用全样本总比不使用全样本要好。 前面讨论了参数的点估计。点估计就是前面讨论了参数的点估计。点估计就是利用样本计算出的值利用样本计算出的值 (即实轴上点即实轴上点) 来估计未来估计未知参数。知参数。7.4 正态总体的区间估计(一) 其优点是：其优点是：可直地告诉人们可直地告诉人们 “未知未知参数大致是多少参数大致是多少”； 缺点是：缺点是：并未反映出估并未反映出估计的误差范围计的

12、误差范围 (精度精度)。故，在使用上还有不故，在使用上还有不尽如人意之处。尽如人意之处。 而区间估计正好弥补了点估而区间估计正好弥补了点估计的这一不足之处计的这一不足之处 。 例如：例如：在估计正态总体均值在估计正态总体均值 的的问题中问题中,若根据一组实际样本，得到若根据一组实际样本，得到 的极大似然估的极大似然估计为计为 10.12。 一个可以想到的估计办法是：给出一个一个可以想到的估计办法是：给出一个区间，并告诉人们该区间包含未知参数区间，并告诉人们该区间包含未知参数 的的可靠度可靠度 (也称置信系数也称置信系数)。 实际上，实际上， 的真值可能大于的真值可能大于10.12，也可，也可能

13、小于能小于10.12。 也就是说，给出一个区间，使我们能以也就是说，给出一个区间，使我们能以一定的可靠度相信区间包含参数一定的可靠度相信区间包含参数 。 这里的这里的“可靠度可靠度”是用概率来度量的，是用概率来度量的，称为置信系数，常用称为置信系数，常用 表示表示1。) 10( 置信系数的大小常根据实际需要来确定，置信系数的大小常根据实际需要来确定，通常取通常取0.95或或0.99，即，即.1)(21p。或或 0.01 05. 0 根据实际样本，由给定的置信系数，可根据实际样本，由给定的置信系数，可求出一个尽可能短的区间求出一个尽可能短的区间 ，使，使,21。完完全全确确定定的的已已知知函函数

14、数，由由样样本本为为两两个个统统计计量量与与置置信信区区间间。其其中中的的的的置置信信系系数数为为为为称称区区间间212121 ( 1 , 为确定置信区间，我们先回顾前面给出为确定置信区间，我们先回顾前面给出的随机变量的上的随机变量的上 分位点的概念。分位点的概念。分分位位点点。的的上上为为的的点点，称称满满足足对对随随机机变变量量，设设 )( 10 xxxxpxz1.96.z 1.645z 0.0250.05，例例如如：. 216. 0)975. 0( 348. 9)025. 0( 2323，例例如如： 书末附有书末附有2分布、分布、t 分布、分布、f分布的上侧分布的上侧分位数表可供使用。需

15、要注意的地方在教材分位数表可供使用。需要注意的地方在教材上均有说明。上均有说明。 现在回到寻找置信区间问题上来。现在回到寻找置信区间问题上来。7.4.1 置信区间的定义置信区间的定义满满足足确确定定的的两两个个统统计计量量若若由由样样本本，是是未未知知常常数数，给给定定设设2121 , 10 n,x,xx。为为两两个个统统计计量量，与与其其中中信信区区间间，的的置置的的置置信信系系数数为为为为则则称称区区间间212121 1 , 定义定义1：(1) .121p信信上上限限。分分别别称称为为置置信信下下限限和和置置与与21 。的的概概率率是是它它包包含含，区区间间的的置置信信对对置置信信系系数数

16、为为式式表表明明：但但1 , 1 (1) 21(1) .121p , , 2121也也可可能能不不包包含含。，这这个个区区间间可可能能包包含含，对对于于一一个个给给定定的的样样本本随随机机区区间间，是是一一个个间间需需要要特特别别强强调调的的是是：区区nxxx实际应用上，一般取实际应用上，一般取 = 0.05 或或 0.01。7.4.2 正态总体参数的区间估计正态总体参数的区间估计的区间估计的区间估计已知时已知时 i.2已已知知。的的一一个个简简单单样样本本，是是正正态态总总体体设设2221 ),( , nxxxn根据基本定理根据基本定理 (见定理见定理6.4.1) ，知，知).1 , 0(/

17、 )/,(2nnxnnx或或则则，令令 nxu则则，令令 nxu.1 2/2/zuzp，就就是是而而 / 2/2/2/2/znxzzuz. 2/2/znxznx等等价价于于.1 21p. 22znxznx，也可简记为也可简记为. 2znx 于是，于是， 的置信区间为的置信区间为例例1: 某厂生产的零件长度某厂生产的零件长度 x 服从服从 n( , 0.04) ), ,现从该厂生产的零件中随机抽取现从该厂生产的零件中随机抽取6个，长度个，长度测量值如下测量值如下( (单位单位: :毫米毫米): ): 14.6, 15.l, 14.9, 14.8, 15.2, 15.1.求求: : 的置信系数为的

18、置信系数为0.950.95的区间估计。的区间估计。 解：解：n = 6， = 0.05，z /2 = z0.025 = 1.96， 2 2=0.22 . . ,95.14 x通过计算，得通过计算，得. 11.15 ,79.14 ,22znxznx所求置信区间为所求置信区间为当方差未知时，取当方差未知时，取均均未未知知时时和和2 ii. 的区间估计的区间估计. /1nttnsxt则则，),2/( ,1 1nt 取取分分位位数数对对给给定定的的置置信信系系数数. )2/()2/( )2/(| 1 111nnntnsxtnsxpttp使使得得于是，于是， 的置信系数为的置信系数为1- - 的区间估计

19、为的区间估计为. )2/( ),2/(11nntnsxtnsx也可简记为也可简记为. )2/( 1ntnsx )2/1 () 1()2/() 1( )2/() 1()2/1 (12122212212221nnnnsnsnpsnp，对对给给定定的的置置信信系系数数，由由1 ) 1( 2122nsn 2 的区间估计的区间估计使使得得，与与确确定定分分位位数数 )2/( )2/1 ( 2121nn . )2/1 () 1( )2/() 1( 1 2122122nnsnsn，的的区区间间估估计计为为的的置置信信系系数数为为所所以以，例例2：为估计一物体的重量为估计一物体的重量，将其称量，将其称量10次次,得到重量