第六章 点估计.ppt

1、,参数估 计问题,假设检 验问题,点 估 计,区间估 计,7-2,2,ch7-1,什么是参数估计？,参数是刻画总体某方面概率特性的数量.,当此数量未知时,从总体抽出一个样本， 用某种方法对这个未知参数进行估计就 是参数估计.,例如，X N ( , 2),若, 2未知, 通过构造样本的函数, 给出 它们的估计值或取值范围就是参数估计 的内容.,3,ch7-1,参数估计的类型,点估计 估计未知参数的值,区间估计 估计未知参数的取值范围， 并使此范围包含未知参数 真值的概率为给定的值.,第六章,点估计,7-1,第六章,点估计的思想方法,设总体X 的分布函数的形式已知, 但含有一个或多个未知参数：1,

2、2, ,k,设 X1, X2, Xn为总体的一个样本,构造 k 个统计量：,随机变量,7-5,当测得样本值(x1, x2, xn)时,代入上述 统计量，即可得到 k 个数：,数 值,如何构造统计量？,如何评价估计量的好坏？,7-6,方法,用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数,7-9,一般, 不论总体服从什么分布, 总体期望 与方差 2 存在, 则它们的矩估计量分别为,6.1 矩法估计,法一,7-10,事实上，按矩法原理，令,7-11,设待估计的参数为,设总体的 r 阶矩存在，记为,样本 X1, X2, Xn 的 r 阶矩为,令, 含未知参数

3、1,2, ,k 的方程组,7-12,解方程组 , 得 k 个统计量：,未知参数 1, ,k 的矩估计量,代入一组样本值得 k 个数:,未知参数 1, ,k 的矩估计值,例1 设总体 X N ( , 2 ), X1, X2, Xn为 总体的样本, 求 , 2 的矩法估计量.,解,例2 设总体 X E(), X1, X2, Xn为总体的 样本, 求 的矩法估计量.,解,令,7-13,故,例12,例3 设从某灯泡厂某天生产的灯泡中随机 抽取10只灯泡，测得其寿命为(单位:小时) 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 试用矩

4、法估计该厂这天生产的灯泡的平均 寿命及寿命分布的方差.,解,7-14,例3,例4 设总体 X U (a, b), a, b 未知, 求参数 a, b 的 矩法估计量.,解,由于,令,7-15,例4,解得,7-16,极大似然估计法,思想方法：一次试验就出现的 事件有较大的概率,例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球,现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球.,答: 第一箱.,7-17,问: 所取的球来自哪一箱？,法二,例6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值

5、.,解,总体 X 的概率分布为,设 x1, x2, xn为总体样本X1, X2, Xn 的样本值,则,7-18,例6,对于不同的 p , L (p)不同, 见右下图,现经过一次试验，,7-19,在容许范围内选择 p ，使L(p)最大,注意到，ln L(p)是 L 的单调增函数,故若 某个p 使ln L(p)最大, 则这个p 必使L(p)最大。,7-20,一般, 设 X 为离散型随机变量, 其分布律为,则样本 X1, X2, Xn的概率分布为,7-21,或,称 L( ) 为样本的似然函数,称这样得到的,为参数 的极大似然估计值,称统计量,为参数 的极大似然估计量,7-22,简记,简记,极大似然法

6、的思想,若 X 连续, 取 f (xi, )为Xi 的密度函数,似然函数为,7-23,注1,注2,未知参数可以不止一个, 如1, k,设X 的密度(或分布)为,则定义似然函数为,为似然方程组,若对于某组给定的样本值 x1, x2, xn， 参数 使似然函数取得最大值, 即,7-24,显然，,称统计量,为1, 2, k 的极大似然估计量,7-25,例7 设总体 X N (, 2), x1, x2, xn 是 X 的样本值, 求 , 2 的极大似然估计.,解,7-26,例7, 2 的极大似然估计量分别为,7-27,极大似然估计方法,1） 写出似然函数 L,7-28,可得未知参数的极大似然估计值,然

7、后, 再求得极大似然估计量.,7-29,L是 的可微函数,解似然方程组,若,L不是 的可微函数, 需用其它 方法求极大似然估计值. 请看下例：,若,例8 设 X U (a,b), x1, x2, xn 是 X 的一个 样本值, 求 a , b 的极大似然估计值与极大 似然估计量.,似然函数为,7-30,例8,似然函数只有当 a xi b, i = 1,2, n 时 才能获得最大值, 且 a 越大, b 越小, L 越大.,令,xmin = min x1, x2, xn xmax = max x1, x2, xn,取,7-31,都有,故,是 a , b 的极大似然估计值.,分别是 a , b 的

8、极大似然估计量.,7-32,问 题,1) 待估参数的极大似然估计是否一定存在?,2) 若存在, 是否惟一?,设 X U ( a , a + ), x1, x2, xn 是 X的一个样本, 求 a 的极大似然估计值.,解,由上例可知, 当,时, L 取最大值 1, 即,显然, a 的极大似然估计值可能不存在, 也 可能不惟一.,7-33,例9,例9,不仅如此, 任何一个统计量,若满足,都可以作为 a 的估计量.,7-34,极大似然估计的不变性,设 是 的极大似然估计值, u( ),( )是 的函数, 且有单值反函数, = (u), uU 则 是 u( ) 的极大似然估计值.,7-35,不变性,如

9、 在正态总体N (, 2)中, 2的极大 似然估计值为,lg 的极大似然估计值为,7-36,作业 P304 习题,4 5 7 8 17,7-39,习题,36,ch7-1,6.2 点估计的评价标准,对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题,(1) 无偏性,(3) 一致性,(2) 有效性,6.2,37,ch7-1,若,无偏,定义,我们不可能要求每一次由样本得到的,估计值与真值都相等，但可以要求这些估,计值的期望与真值相等.,38,ch7-1,是总体X 的样本,证明: 不论 X 服从什么分布(但期望存在),证,因而,由于,例1,则,39,ch7-1,特别地,是总体期望 E(

10、X ) 的,样本均值,无偏估计量,40,ch7-1,例2 设总体 X 的期望 与方差存在, X 的,样本为 (n 1) .,(1) 不是 D( X )的无偏估量;,(2) 是 D( X ) 的无偏估计量.,证,前已证,证明,例2,41,ch7-1,因而,故 证毕.,42,ch7-1,XB(n , p) n 1 , 求 p 2 的无偏估计量.,解 由于样本矩是总体矩的无偏估计量以及数学期望的线性性质, 只要将未知参数表示成总体矩的线性函数, 然后用样本矩作为总体矩的估计量, 这样得到的未知参数的估计量即为无偏估计量.,令,例3,43,ch7-1,因此, p 2 的无偏估计量为,故,44,ch7-

11、1,例4 设总体 X 的密度函数为,为常数,为 X 的一个样本,证,故,是 的无偏估计量.,例4,45,ch7-1,令,即,故 n Z 是 的无偏估计量.,46,ch7-1,都是总体参数 的无偏估计量, 且,则称 比 更有效.,有效,47,ch7-1,是 的无偏估计量,问哪个估计量更有效？,由例4可知, 与 都,为常数,例5 设总体 X 的密度函数为,解 ，,例5,48,ch7-1,例6 设总体 X，且 E( X )= , D( X )= 2,为总体 X 的一个样本,证 (1),例6,(1) 设常数,49,ch7-1,(2),50,ch7-1,例如 X N( , 2 ) , ( X 1 ,X

12、2 ) 是一样本.,都是 的无偏估计量,51,ch7-1,罗克拉美（Rao Cramer）不等式,其中 p ( x , ) 是 总体 X 的概率分布或密 度函数，称 为方差的下界.,当 时, 称 为达到方差下界的无偏估计量, 此时称 为最有效的估计量, 简称有效估计量.,52,ch7-1,例7 设总体 X 的密度函数为,为 X 的一个样本值.,求 的极大似然估计量, 并判断它是否达到 方差下界的无偏估计量.,为常数,解 由似然函数,例7,53,ch7-1, 的极大似然估计量为,它是 的无偏估计量.,54,ch7-1,而,故 是达到方差下界的无偏估计量.,55,ch7-1,定义 设 是总体参数,

13、的估计量. 若对于任意的 , 当n 时,依概率收敛于 , 即,一致性估计量仅在样本容量 n 足够大时,才显示其优越性.,一致,56,ch7-1,关于一致性的两个常用结论,1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.,是 的一致估计量.,矩法得到的估计量一般为一致估计量,在一定条件下, 极大似然估计具有一致性,2. 设 是 的无偏估计 量, 且 , 则,57,ch7-1,例8,为常数,则 是 的无偏、有效、一致估计量.,证 由例7 知 是 的无偏、有效估计量.,所以 是 的一致估计量, 证毕.,例8,58,ch7-1,作业 P.306 习题,24 28 31 36,习题,补充题 设总体

14、X N ( , 2),为 X 的一个样本,常数 k 取,何值可使,为 的无偏估计量,59,ch7-1,第十四周 问 题,母亲嗜酒是否影响下一代的健康,美国的Jones医生于1974年观察了母亲在妊娠时曾患慢性酒精中毒的6名七岁儿童（称为甲组）.以母亲的年龄，文化程度及婚姻状况与前6名儿童的母亲相同或相近，但不饮酒的46名七岁儿童为对照租(称为乙组). 测定两组儿童的智商，结果如下：,每周一题14,60,ch7-1,由此结果推断母亲嗜酒是否影响下一 代的智力？若有影响，推断其影响程度有 多大?,提示,前一问题属假设检验问题 后一问题属区间估计问题,61,ch7-1,智商一般受诸多因素的影响.从而

15、可以,本问题实际是检验甲组总体的均值是 否比乙组总体的均值偏小?,若是，这个差异范围有多大? 前一问 题属假设检验，后一问题属区间估计.,解,假定两组儿童的智商服从正态分布.,62,ch7-1,由于两个总体的方差未知，而甲组 的样本容量较小，因此采用大样本下两 总体均值比较的U检验法似乎不妥. 故,当 为真时，统计量,采用方差相等 (但未知) 时，两正态总体 均值比较的t检验法对第一个问题作出 回答.,为此 , 利用样本先检验两总体方差 是否相等，即检验假设,63,ch7-1,拒绝域为,64,ch7-1,未落在拒绝域内，故接受 . 即可认为,两总体方差相等. 下面用 t 检验法检,验 是否比

16、显著偏小？ 即检验假设,当 为真时，检验统计量,65,ch7-1,其中,嗜酒会对儿童智力发育产生不良影响.,落在拒绝域内，故拒绝 . 即认为母亲,66,ch7-1,下面继续考察这种不良影响的程度. 为此要对两总体均值差进行区间估计.,取,于是置信度为 99% 的置信区间为,67,ch7-1,由此可断言：在99%的置信度下，嗜酒,母亲所生孩子在七岁时的智商比不饮酒,的母亲所生孩子在七岁时的智商平均要,低 2.09 到 39.91.,68,ch7-1,故限制显著性水平的原则体现了“保护零假设”的原则.,注,大家是否注意到，在解决问题时， 两次假设检验所取的显著性水平不同.,前者远,在检验方差相等时，取 ; 在,检验均值是否相等时取 .,比后者大. 为何这样取呢?因为检验的结果与检验的显著性水平 有关.,小，则拒绝域也会小，产生的后果使零假设难以被拒绝.,69,ch7-1,在 较大时,若能接受 , 说明 为真的依据很充足; 同样，在 很小时， 我们仍然拒绝 . 说明 不真的理由就 更充足.