数理统计Chp7

1、第七章第七章 参数估计参数估计 1. 1. 点估计点估计一一. . 问题的提出问题的提出: : XX , ,X ,; ,) F(x;Xn21的一组样本。是设是未知参数形式已知的分布函数设总体X.)X, ,X ,(;)X ,X ,(n21n21的估计量为称参数来估计未知计量点估计就是构造一个统XX二二. 矩估计法矩估计法:). , ,(gEXkX), , , F(x;Xs21kks21k阶原点矩的的分布函数为设总体得到来近似代替用样本矩 ,Xn1Akn1kiki .); ,A ,(Ah, 2, 1),(n1 s21kk211的矩估计称为参数kskknikiAskgX ,Xn1Akn1kikPi辛

2、钦大数定律的矩估计。求参数是一组来自总体的样本、未知，分布，服从设总体例pXXXppNbXn;.10),( . 121.;,11NXpXNpNpEX可解得令解：. ,X X X, , ),N(X 2.2n2122的矩估计、求中抽取的一组样本是从总体、均未知、设总体例.)(,2222EXDXEXEX解：niiXnEXDXEXXEX1222221)(令221212221)(11nniiniiSnnBXXnXXnX解得的矩估计。、体的一组样本，求为来自总未知，、：总体练习baXXXbabaUXn),(,121;3,2222babaEXbaEX解：；，令niiXnbabaXba1222132.)(3,

3、)(31212niiniiXXnXbXXnXa解方程组得三三. 极大似然估计方法极大似然估计方法:,) , ,(), (x;Xn21s21是一组样本、知参数是未其中的分布为定义：设总体XXXf.) ;() (21n1ii的似然函数、为参数称sXfL.)();(X);(X表示其分布律为离散型随机变量时，当表示其概率密度；为连续型随机变量时，当即xXPxfxfs,1看成已知时，表达式反映的就是看成已知时，表达式反映的就是 时的联合概率时的联合概率密度函数（或联合分布律）；当把密度函数（或联合分布律）；当把nXX,1仔细观察简单随机样本的联合概率密度（或联合分布律）与似然函仔细观察简单随机样本的联合

4、概率密度（或联合分布律）与似然函数的定义，可知它们本质上是同一个表达式。当把数的定义，可知它们本质上是同一个表达式。当把 看成已知时，表达式看成已知时，表达式nnxXxX,11反映的就是似然函数反映的就是似然函数 。.),();(max)(max)L( ,)(:11的极大似然估计为则称即处取最大值在如果似然函数定义nniiXXXfLL极大似然估计的求解方法极大似然估计的求解方法:, 0ln, 0ln, 0ln 21LLLs , 0, 0, 0 21LLLs令., , , s21解方程组求解出., ,X X,X, ), ,N(X . 32n2122的极大似然估计、求自总体的一组样本是来、设均未知

5、、但设总体例niiiXnnniXeeL122222)(2212)(2)()21(21),(解：似然函数niiXnnL12222)(ln2)21ln(ln取对数0)(2112ln0)(1ln 1242212niiniiXnLXL对数似然方程.)(1 ,122niiXXnX解方程组得的极大似然估计。来自总体的样本，求是一组、的泊松分布，服从参数为设总体例nXXXX. . 421nniXiniiXeXeXLniii111)!1(!)(解：似然函数nXXLniniii11ln)!1ln(ln01ln1nXLnii似然方程X解得其它解：似然函数, 0,0,1)(1nnXXL显然不能通过建立似然方程求得极

6、大似然估计，L作为的函数当=maxX1,Xn时L取得最大值，由极大似然估计的定义可得,max1nXX 的极大似然估计。一组样本，求为来自总体的、未知；总体例nXXXUX21, 0. 5极大似然估计的性质极大似然估计的性质:).(g ,)()(g1的极大似然估计为则的极大似然估计是若；具有单调反函数的函数设g在Matlab中，可以用命令mle(dist,data)来求总体分布中未知参数的最大似然估计值。dist 指所给特定分布，如正态分布norm、指数分布expdata指样本数据), (; 8)70, 1 (*4.xnormmleyrandnx例产生70个均值为8，标准差为4的正态分布随机数y=

7、8.3014(样本均值) 3.7011(标准差)2. 2. 估计量的评选标准估计量的评选标准 1 无偏性无偏性:. , , ,),( :) 1 (n1的无偏估计量是则称有且对于存在的数学期望若估计量定义EEXX (2) 例子. 的无偏估计是XS2是2的无偏估计量.(3) 有偏估计向无偏估计的转化。., ,X XX, , ) , 0N(X . 12n2122并证明它为无偏估计的极大似然估计求体的一组样本是来自该总、且未知设总体例21222222212)(221)(niiiXnnXnieeL）（解：似然函数212222)ln(22ln)(lnniiXnnL对数似然函数012112)(ln41222

8、2niiXndLd似然函数方程niiXn1221求得.)(11212122niiiniiEXDXnEXnE的无偏性。讨论似然估计极大的一组样本，由前例知是来自、例,Xmax, 0. 2ini121UXXXn)()(yPyFini1Xmax解：解：),.,(1yXyXPnniiyXP1)(yyyyn, 10 ,)(0, 0其它其它, 00 ,)()(1yynyFyfnn101nndyynyEnn的无偏估计。的无偏估计。不是不是所以所以,2. 有效性有效性有效。比则称的无偏估计量，且满足均为、是来自总体的一组样本、设定义, ),(), ,(, :1n1n21DDXXXXXXXn如何比较其优劣呢？那

9、么，在无偏估计量中一的无偏估计量不一定唯同一个参数无偏估计量。从而说明的都是以及同理我们可以证明.,max12121nXXnnX. 1. 31121212niiiniiinccXcXXXXX满足有效，其中实数比机样本。证明：来自总体的一组简单随是、存在但未知，和方差的数学期望设总体例的无偏估计。均为与从而说明证明：21111;)(,niiniiiniiicEXcXcEXEniiniiicXcDnXD12212)(,1)1(121121212niininiiniicccn而最有效中量在所有的线性无偏估计), 2 , 1(1,1nincXciniii3 相合性（相容性、一致性）相合性（相容性、一致

10、性）. , 1 lim , 0,n,),(:n21的相合估计量为则称即对依概率收敛于时如果当样本的容量的估计量是设定义PXXXn无偏估计量固然好，但当其方差太大时说明近似度也不理想；无偏估计量固然好，但当其方差太大时说明近似度也不理想；有偏估计当然不好，但当其偏差不大且方差也不大时，也应该是一有偏估计当然不好，但当其偏差不大且方差也不大时，也应该是一个不错的近似估计量。个不错的近似估计量。若同时考虑到若同时考虑到无偏性无偏性和和有效性有效性，则引入下面的概念：，则引入下面的概念：此定义说明：此定义说明：一个“好”的估计量应当随着样本容量的 增大以更大的概率取得接近于被估计的参数值。的相合估计。

11、、证明它们为的无偏估计。、为、一个样本的体为参数均未知的正态总、设例222n221SX,),(XX . 4NXn有对任意由切比雪夫不等式，证明：0,.12,) 1(14222222nDSESnSnnnn./1)|(|1;) 1(2)|(|022242222nXPnDSSPnn的相合估计。、分别是、即所以2222; 1)|(|lim, 0)|(|limXSXPSPnnnn时的均方误差和偏差。估计分别为和的估计量；称是一组简单随机样本，是来自总体的、，参数设总体的分布中有未知定义：)()(),(22121EbEXXXXXXnn.)()(),(2221bDEDXXXn存在，则的估计量，若是设结论：.

12、 0|)|(|), 2, 1(|kkkXEXPkXEX则，若给随机变量（马尔可夫不等式）任的相合估计量。是则存在且的估计量，若是定理：设; 0lim)(lim, 0lim),(21EbDDXXXnnnn3. 3. 区间估计区间估计 定义定义:.11) ,(1P :)X,X()X,X() 10(X,.,X,), x(fX2121n12n11n1称为区间置信度的置信区间。的置信度为是则称满足和，统计量若对给定是一组样本。未知设总体两点要求：两点要求：1) 置信度置信度1-应尽量大应尽量大 2) 区间长度应尽量小区间长度应尽量小求置信区间的一般思路求置信区间的一般思路:1),( ,1 . 3bgaP

13、ba使得求出对于给定的置信度.1 ),( . 421置信区间的就是解得由bga).,(. 121nXXX的点估计量找 ) 1 , 0(),( . 2NnXg具有标准分布，如构造函数的置信区间。的置信度为求的一组简单随机样本，是来自未知已知设总体例1,X , , , ),N(X .n2122XXX1)|(| ) 1 , 0(:2/unXPNnX，对给定的由解1)(2/2/unXunXP或者).(12/2/unXunX，置信区间为的则)4 . 3.(9 . 0, , , , ),1 ,(2021XXXXNX若的置信区间的置信度为求是一组样本设总体4.4.正态总体均值与方差的区间估计正态总体均值与方

14、差的区间估计一一. 单个正态总体单个正态总体:.X,X,X),(NX212是是一一个个样样本本设设总总体体n , .,. 12的置信区间求已知时当1)|(| )3(2/unXP对给定的).(1)4(2/2/unXunX，置信区间为的则)( ) 1 , 0( )2(标准分布NnX，的一个点估计为X ) 1 (.,. 22的置信区间求未知时当)(1( )2(标准分布ntnSXn).1() 1( 1)4(2/2/ntnSXntnSXnn，置信区间为的则，的一个点估计为X ) 1 (1)1(|(| , (3)2/ntnSXPn对给定的)36. 0, 5 . 0.(9 . 0, , ),(2101021

15、2SXXXXNX若的置信区间的置信度为求是一组样本、练习：设总体. 32的置信区间求1)1(1) 1( , 0)(1(1)2(22/2222/1222nSnnPnSnnn对给定标准分布) 1() 1() 1() 1( 1) 3(22/1222/22nSnnSnnn，置信区间为的所以，的一个点估计为22 ) 1 (nS.95. 0,66. 3, , ),(222020212的置信区间的置信度为求若是一组样本、练习：设总体SXXXNX二二. 两个正态总体的区间估计两个正态总体的区间估计:.,),(),(2221222211nmSYSXnmNYNX和差分别为；样本均值和样本方、容量分别为相互独立的样

16、本的两组和设有分别来自总体., . 1212221的置信区间求已知时和当) 1 , 0()()(222121NnmYX., . 221222221的置信区间的置信区间求求未知未知但但 )2(2) 1() 1()()(222121nmtnmmnnmSnSmYXnm三三. 两个总体方差比的置信区间两个总体方差比的置信区间:的置信区间未知的情况下、总体期望222121/，本方差分别为两样 )(11,)(1112221221niinmiimYYnSXXmS) 1, 1(21222221nmFSSFnm .950-., (m/s).201).m/s(496x ,20 (m/s),101),m/s(500 x ,10 , . 1212211的置信区间的置信度为求两总体均值为它们的方差相等且由生产过程可认从正态分布定两总体都可近似地服假标准差速度的平均值为得到枪口发型子弹随机地取标准差得到枪口速度的平均值发型子弹取随机的口速度两种型号步枪子弹的枪为比较例.sII.sIIII)9273. 04(,0484. 2)28(025. 0t.90.0,)2 , 1(,),