数理统计复习总结

1、1 统计量与抽样分布基本概念：统计量、样本矩、经验分布函数总体 X 的样本 X1， X2， ， Xn，则 T(X1， X2， ， Xn) 即为统计量样本均值X1n22( X i X )样本方差Snn i 1* 21n2( X iX )修正样本方差S nn 1 i 1样本 k 阶原点矩 Ak1nX ik ,(k1,2,.)n i 1样本 k 阶中心矩 Bk1n( X iX )k ,( k1,2,.)n i 1经验分布函数 Fn (x)vn (x) ,(x)其中 Vn(x)表示随机事件 Xx 出现的次数 ,n1 F (x)1显然 Vn (x) B(n, F ( x) , 则有 E Fn ( x)F

2、 ( x) D Fn ( x)F ( x)n补充：2n1DX* 2DXEX2DX(EX )2ESnnESn21n2X2Snn iXi1二项分布 B(n,p):P XkCnk p k (1p) n k ,( k0,1,., n)EX=np DX=np(1-p)k泊松分布 P() :P Xke,(k0,1,.)k!EXDX均匀分布 U(a,b):f ( x)1, (axb)bab1aEXDX(ba)2212指数分布 :f(x)ex ,(x0)F( )1ex ,(x0)xEX1DX12正态分布 N (,2 ) :f ( x)1exp( x) 2EXDX2222222( n 2E( nS2n ) n

3、1 ESn2n 12 D ( nS2n ) 2( n 1) DSn21)4nn当0时， EX 0EX 22 EX434EX2DX (12 ) 2统计量：充分统计量、因子分解定理、完备统计量、指数型分布族T 是的充分统计量f ( x1 , x2 ,., xn Tt) 与无关T 是的完备统计量要使 Eg(T)=0, 必有 g(T)=0nL( )f (xi ;)h( x1 , x2 ,., xn ) g(T (x1, x2 ,., xn );) 且 h 非负T 是的充分统计量i 1nf ( xi ;)C () exp b()T (x1, x2 ,., xn ) h( x1, x2 ,., xn )T

4、 是的充分完备统计量i 1nf ( xi ;)C () exp b1 ()T1( x1 , x2 ,., xn )b2 ( )T 2( x1 , x2 ,., xn ) h( x1, x2 ,., xn )i 1(T1,T2) 是( 1 , 2 ) 的充分完备统计量抽样分布：2 分布， t 分布， F 分布，分位数，正态总体样本均值和方差的分布，非正态总体样本均值的分布1xn2 分布：2X12X 22.X n2 2 (n)1f (x)ne 2 x 2 ( x0)2 2( n)2E 2nD22nT分布： TX t(n)n当 n>2 时， ET=0 DT2Y / nnXF分布： Fn1 F

5、(n1, n2 )1F (n2 ,n1 )YFn2补充：Z=X+Y的概率密度fz (z)f ( x, zx)dxf (zy, y)dyf(x,y)是 X和 Y的联合概率密度ZYf ( x, xz) xdx的概率密度 f z (z)Xyg (x) 的概率密度f y ( y)f x (g1( y) g1 ( y)'函数： ()x1e x dx(1)()( n)(n 1)! ,(1) 10B函数： B(, )x1 (1x)1 dx B(,)() ()10()次序统计量及其分布：次序统计量、样本中位数°X 、样本极差 RX的分布密度：f x(k ) (x)n! F (x)k1F (

6、x)nkf( x), (k1,2,., n)1(k)(k 1)! (nk )!X(1)的分布密度：f x(1) ( x)nf ( x)1F (x) n 1(n)的分布密度：f x(n ) (x)nf ( x) F ( x)n1X2 参数估计点估计与优良性：概念、无偏估计、均方误差准则、相合估计( 一致估计 ) 、渐近正态估计$的均方误差：MSE( $,)E($)2D $(E $)2若 $ 是无偏估计，则MSE( $, )D $对于的任意一个无偏估计量$，有 D$*D$，则 $*是的最小方差无偏估计，记MVUE相合估计 ( 一致估计 ): lim Enlim D $n0nn点估计量的求法：矩估计

7、法、最大似然估计法矩估计法：求出总体的 k 阶原点矩 : akEX kxkdF (x; 1 , 2 ,., m )解方程组 ak1 nX ik (k=1,2,.,m)，得 $k$k ( X1, X2 ,., X n ) 即为所求n i 1最大似然估计法：nln L写出似然函数 L( )f ( xi ;)，求出0lnL 及 似 然 方 程i1i$i=1,2,.,m解 似 然 方 程 得 到 $i (x1, x2 ,., xn ) ， 即 最 大 似 然 估 计 $i ( X1 , X 2 ,., X n )i=1,2,.,m补充：似然方程无解时，求出 的定义域中使得似然函数最大的值，即为最大似然

8、估计和有效估计：最小方差无偏估计、有效估计T 是的充分完备统计量，$ 是 的一个无偏估计$*E($ |T ) 为的惟一的MVUE最小方差无偏估计的求解步骤：求出参数的充分完备统计量T求出 ETg ( ) ，则 $g 1 (T) 是的一个无偏估计或求出一个无偏估计，然后改写成用T 表示的函数综合， E g 1(T ) T g1(T) 是的 MVUE或者：求出的矩估计或 ML估计，再求效率，为 1 则必为 MVUE g ' () 2T 是 g( ) 的 一 个 无 偏 估 计 ， 则 满 足 信 息 不 等 式 D T ( X )， 其 中nI ()22 ln f ( X ; )I ( )

9、Eln f ( X ; )或 I ()E0， f ( X ;) 为样本的联合分布。2最小方差无偏估计达到罗 - 克拉姆下界有效估计量效率为 1无偏估计 $ 的效率： e( $)1D $nI ()$是的最大似然估计，且$ 是的充分统计量$ 是的有效估计区间估计：概念、正态总体区间估计( 期望、方差、均值差、方差比) 及单侧估计、非正态总体参数和区间估计一个总体的情况： X N (, 2 )2 已知，求的置信区间：X0 N (0,1)X0n2 未知，求的置信区间：X0 t (n 1)XSn*nn00 un20 Sn* t ( n 1) n 2nn( X i)2( X i)2( Xi) 2已知，求2

10、的置信区间：i 12( n)i 12i 122 ( n)2( n)212未知，求2 的置信区间：nX )2nX )2nX )2( Xi2( Xi2( Xii 1(n1)i1i 122 (n1)2(n1)212两个总体的情况：XN(1 ,12)，Y N( 2,22 )12 ,22均已知时，求12的区间估计：X Y(2) N(0,1)2221X Y(12 )12 u2n1n2212n1n2222未知时，求2 的区间估计：121XY(12 )n1 n2 (n1n22) t(n1n22)(n1 1)S1*2n1(n21)S2*2n2n1n221 ,2 未知时，求12：2* 22* 22* 2S2n21

11、1,n11)S1 n1F(n21,n11)1S1n1F (n21,n11)*2 F (n2*22*221S1n12S2 n222S2n22非正态总体的区间估计：当 nXLN (0,1) XSnuSn1，故用 S代替 S时，limSnnnSn 1nn-12nXmm1 mmn N (0,1)u11 m 1mnn nn2n nn3 统计决策与贝叶斯估计统计决策的基本概念：三要素、统计决策函数及风险函数三要素：样本空间和分布族、行动空间（判决空间）、损失函数L ( , d)统计决策函数d(X): 本质上是一个统计量，可用来估计未知参数风险函数： R( , d ) E L(, d( X ) 是关于 的函

12、数贝叶斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计n 求样本 X=(X1,X 2,.,Xn) 的分布： q( x | )f ( xi | )i 1样本X 与的联合概率分布：f (x,)h(| x) m(x)q( x |)()求 f ( x,)关于x 的边缘密度m( x)f ( x,)d的后验密度为： h(| x)f ( x,)m(x)取 L( , d )( d )2时的贝叶斯估计为：$E( | x)h(| x)dR(, d )E (d ) 2贝叶斯风险为：RB (d )E R( , d )E ( d ) 2 h( | x) d取 L( , d )( )(2$E()| xd ) 时，贝叶斯

13、估计为：E() | x补充：C () 的贝叶斯估计：取损失函数L(, d )(C( )d )2 ，则贝叶斯估计为·)EC() | xC( )h(| x) dC($f (x,)f ( x,)dE(| x)h(| x) ddf ( x,)dm( x)估计对决策空间中的决策函数 d (X),d(X),. ，分别求出在上的最大风险值 max R( , d )12在所有的最大风险值中选取相对最小值，此值对应的决策函数就是最小最大决策函数。4 假设检验基本概念：零假设 (H0) 与备选假设 (H1) 、检验规则、两类错误、势函数零假设通常受到保护，而备选假设是当零假设被拒绝后才能被接受。检验规则

14、：构造一个统计量T(X1,X 2,.,X3) ，当H0 服从某一分布，当H0 不成立时， T 的偏大偏小特征。据此，构造拒绝域W第一类错误（弃真错误） ： P TW|H0为真第二类错误（存伪错误） ： P TW|H0为假1, XW.势函数： ( ) E ( (X) PX W (X)W.0, X当0 时， ( ) 为犯第一类错误的概率当1 时， 1( ) 为犯第二类错误的概率正态总体均值与方差的假设检验：t 检验、 X2 检验、 F 检验、单边检验一个总体的情况：XN(,2)2 已知，检验 H 0:0H 1 :0 ： UX0 N (0,1)0n2 未知，检验 H 0:0H 1 :0 ： TX0

15、t(n1)Sn*nn)222222( Xi2已知，检验 H0:H1 :i1(n)00 ：2nX ) 222222i1( Xi2未知，检验 H0:H1 :(n1)00 ：2两个总体的情况：XN(1, 12)，Y N(2 ,22 )222H 0:H 1 :12未知时，检验1212 ：TX Y1)S2*2n2n1n2 (n1n22) t (n1 n22)(n1 1)S1*2n1( n2n1n221 ,2 未知时，检验 H 0:22H 122S1n* F ( n11,n21)12: 12 ： F21S2n*2单边检验：举例说明，2 已知，检验 H0:0H 1 :0 ：X N (0,1) ，给定显着性水

16、平，有 PU1u 构造 U10nXX0defU ，因此 PUu PU 1u 时 U 1n0n0。当 H0 成立。故拒绝域为WUu 2非参数假设检验方法：拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验2H 0 : pipi 0H 1: pipi 0 Wm (Ni npi 0 )22(mr1)拟合优度检验 :npi0i 1其中 N 表示样本中取值为i 的个数， r 表示分布中未知参数的个数i科尔莫戈罗夫检验：H 0 : F ( x) F0 ( x)H 1 : F ( x)F0 ( x)实际检验的是Fn (x)F0 ( x)WlimsupFn (x)F0 (x)D n, nx斯米尔诺夫检验：H 0

17、: F ( x)G (x)H 1 : F (x)G ( x) 实际检验的是 Fn ( x)Gn ( x)WlimsupFn1 (x)Gn2 ( x)D n1 ,n2 ,nx似然比检验明确零假设和备选假设：H 0 :0H 1 :1L1 (x1,., xn )sup L( x1 ,., xn ;)构造似然比：L0 (x1,., xn )sup L ( x1 ,., xn ;)0拒绝域： W (x1,., xn )5 方差分析单因素方差分析：数学模型、离差平方和分解、显着性检验、参数估计X ijiij数学模型 ij N (0,2),(i=1,2,.,m;j=1,2,.,ni)H 0：12.n各 ij

18、 相互独立mniX )2总离差平方和 QT( XijQTQEQAi 1j1mniX i )2E(QE)2组内离差平方和 QE( X iji1j1nrmX ) 2当 H0成立时， E( QA )2组间离差平方和 QAni ( X ii1r 1QAQ A(r1) F ( r1,nr ) ，当 H0 不成立时，有偏大特征构造统计量 FQEQEr )(nXi X k N ( ik ,( 11) 2)且QE2 2 ( n r )ninkTX i X k( ik ) t( n r )( 11 )QEnink应用：若原始数据比较大而且集中，可减去同一数值X ij'Xijk 再解题辅助量： P1 mn

19、i2,Qm 1ni2, Rmni2(Xij )(X ij )Xijn i 1 j 1i 1 nij 1i 1 j 1QAQ P,QERQ,QTRP两因素方差分析：数学模型、离差平方和分解、显着性检验X ijiiijH01 :数学模型ij N (0,2 ),(i=1,2,.,r;j=1,2,.,s)1H02 :各 ij 相互独立1rsX )2总离差平方和 QT( XijQTQEQBQ Ai 1j 1mni2QE2组内离差平方和 QE( X ijX i?X ? jX i )E()(r 1)(si1j11)sX )2当 H0成立时， E( QB )因素 B 引起的离差平方和QBr ( X? jj1s1r2QA因素 A 引起的离差平方和QAs( Xi ?X )当 H 成立时，)E(0r1i11rs2r1s2s1r2X ij,QIX ij,QII, R辅助量：Pi 1 sXijn i 1 j 1j 1j 1 ri 1QA QIP, QBQIIP,QERQIQII P2.n2.n22rsX ij2i 1j1FAQEQA( r 1)1)QA F ( r1,(r1)(s1)构造统计量：(r1)(sQEQB ( s 1)QA F ( sFBQE1)1,(r1)(s1)(r1)(sQE6 回归分析一元线性回归：回归模型、未知参数的估计( 、 2)