数理统计复习总结

1、1统计量与抽样分布1.1根本概念：统计量、样本矩、经验分布函数总体X的样本Xi,X2,Xn,那么T(X1,X2,Xn即为统计量样本均值样本方差s2(Xi2X)修正样本方差n(Xi1X)样本k阶原点矩AkXik,(k1,2,.)样本k阶中央矩Bk(XiX)k,(k1,2,.)经验分布函数Fn(X)v3,(X)其中Vn(x)表示随机事件XX出现的次数n1_显然Vn(x)B(n,F(x),那么有EFn(x)F(x)DFn(x)-F(x)1F(x)n补充：2n1*2_22ESnDXESnDXEXDX(EX)n21n2-2SnXiXni1二项分布B(n,p):PXkC：pk(1p)nk,(k0,1,.,

2、n)EX=npDX=np(1-p)k泊松分布P()：PXke,(k0,1,.)k!EXDX1,、均匀分布U(a,b):f(x),(axb)baab12EXDX(ba)212指数分布：f(x)ex,(x0)F(x)1ex,(x0)11EX-DX正态分布N(2):f(x)/exp(x)22EXDXnSnE(-)nESnD(咯2(n1)DS22(n1)2n当0时,EX0EX2EX43EXDX(1-)21.2统计量：充分统计量、因子分解定理、完备统计量、指数型分布族T是0的充分统计量f(X1,X2,.,XnTt)与.无关T是0的完备统计量要使Eg(T)=0,必有g(T)=0L(f(Xi;h(X1,X2

3、,Xn)g(T(x1,X2,Xn)；)且h非负T是0的充分统计量f(Xi;C()exob()T(Xi,X2,.,Xn)h(x1,X2,.,Xn)T是.的充分完备统计量f(Xi;C()eX3n()T1(X1,X2,.,Xn)b2()T2(X1,X2,.,Xn)h(X1,X2,.,Xn)(Ti,T2)是(1,2)的充分完备统计量1.3抽样分布:22分布,t分布,F分布,分位数,正态总体样本均值和方差的分布,非正态总体样本均值的分布2分布：2x；x|X22,、一(n)f(x)/xn11e2x2(x0)2万成)22nT分布:X=t(n)当.Y/nn>2时,ET=0DTF分布:1FF(n2,n)补

4、充:Z=X+Y的概率密度fz(z)f(x,zx)dxf(zy,y)dyf(x,y)是X和Y的联合概率密度f(x,xz)xdxrY-、一、Z的概率留度fz(z)Xyg(x)的概率密度fy(y)fx(g1(y)g1(y)函数：()0x1exdx(1)()(n)(n1)!,(1)1一111B函数：B(,)°x1(1x)1dxB(,1.4次序统计量及其分布：次序统计量、样本中位数X、样本极差RX(k)的分布密度:fx(k)(x)(T*FF(x)k11F(x)nkf(x),(k1,2,.,n)X(1)的分布密度:fx(i)(x)nf(x)1F(x)n1X(n)的分布密度:fx(x)x(n)nf

5、(x)F(x)n12参数估计2.1点估计与优良性：概念、计无偏估计、均方误差准那么、相合估计(一致估计卜渐近正态估的均方误差：MSE(,)E()2(E)2假设是无偏估计,那么MSE(,)对于的任意一个无偏估计量*,那么是的最小方差无偏估计,记MVUE相合估计(一致估计):limEnnlimDn2.2 点估计量的求法：矩估计法、最大似然估计法矩估计法：求出总体的k阶原点矩：akEXkxkdF(x;1,2,.,m)解方程组akX：(k=1,2,.,m),得kk(X1,X2,.,Xn)即为所求最大似然估计法:写出似然函数L()nlnIf(xi;),求出lnL及似然方程上10i=1,2,.,m解似然方

6、程得到«1区,.,4),即最大似然估计i(X1,X2,.,Xn)i=1,2,.,m补充:似然方程无解时,求出的定义域中使得似然函数最大的值,即为最大似然估计2.3 MVUE和有效估计：最小方差无偏估计、有效估计T是的充分完备统计量,是的一个无偏估计E(|T)为的惟一的MVUE最小方差无偏估计的求解步骤：求出参数的充分完备统计量T求出ETg(),那么g1(T)是的一个无偏估计或求出一个无偏估计,然后改写成用T表示的函数-.、._1_1综合,Eg(T)Tg(T)是的MVUE或者:求出的矩估计或ML估计,再求效率,为1贝U必为MVUET是g()的一个无偏估计,那么满足信息不等式DT(X)g

7、'()2甘.,其中nI()I()Elnf(X;)()E21nf(X;)0,f(X;)为样本的联合分布.最小方差无偏估计到达罗-克拉姆下界有效估计量效率为11无偏估计的效率：e()nI()是的最大似然估计,且是的充分统计量的有效估计)及单侧估计、非正2.4 区间估计：概念、正态总体区间估计(期望、方差、均值差、方差比态总体参数和区间估计一个总体的情况：XN(2)2.,求的置信区间:2-.未知,求的置信区间:S；/vnt(n1)*Snt(n、n21),求2的置信区间:n2(Xi)2i1(n)2(Xi)2i1n2(Xi)2i1未知,求2的置信区间:(XiX)2n(XiX)2：(n)2n(Xi

8、X)212-(n)22(n1)2(n1)i12(n1)1-两个总体的情况:21,1),Y-N(；)12的区间估计N(0,1)2)21n12,.未知时,2的区间估计:2)(n12未知时,2S2nn2_*2S1nl1扁(n21)除n1n2(ni2)t(n1n221"22nin22)F(n21,n1)2Sim_*2S2n2_(n21,n21)21万22Gn一2-F1,n11)S2n2飞非正态总体的区间估计:X当n时,S-nN(0,1)lim-S-1nS1,故用Sn代替Sn-1Xmn1m/1nn=N(0,1)m3统计决策与贝叶斯估计3.1统计决策的根本概念：三要素、统计决策函数及风险函数三要

9、素：样本空间和分布族、行动空间(判决空间)、损失函数L(,d)统计决策函数d(X):本质上是一个统计量,可用来估计未知参数风险函数：R(,d)EL(,d(X)是关于的函数3.2贝叶斯估计：先验分布与后验分布、贝叶斯风险、贝叶斯估计求样本X=(X1,X2,.,Xn)的分布：q(x|f(xi|1样本X与的联合概率分布：f(x,)h(|x)m(x)q(x|)()求f(x,)关于x的边缘密度m(x)f(x,)d的后验密度为：h(|x)f(x,)m(x)取L(,d)(d)2时的贝叶斯估计为：E(|x)h(|x)d2R(,d)E(d)2贝叶斯风险为：2&(d)ER(,d)E(d)2h(|x)d取L

10、(,d)()(d)2时,贝叶斯估计为:E()|xE()|x补充：C()的贝叶斯估计：取损失函数L(,d)(C()d)2,那么贝叶斯估计为C()EC()|xC()h(|x)df(x,)df(x,)E(|x)h(|x)ddm(x)f(x,)d3.3minimax估计对决策空间中的决策函数di(X),d2(X),.,分别求出在上的最大风险值maxR(,d)在所有的最大风险值中选取相对最小值,此值对应的决策函数就是最小最大决策函数.4假设检验4.1根本概念：零假设(Ho)与备选假设(Hi)、检验规那么、两类错误、势函数零假设通常受到保护,而备选假设是当零假设被拒绝后才能被接受.检验规那么：构造一个统计

11、量T(X1,X2,.,X3),当H0服从某一分布,当Ho不成立时,T的偏大偏小特征.据此,构造拒绝域W第一类错误(弃真错误)：PTW|H0为真第二类错误(存伪错误)：PTW|Ho为假1.XW势函数：()E(X)PXW(X)'0,XW.当0时,()为犯第一类错误的概率1时,1()为犯第二类错误的概率4.2正态总体均值与方差的假设检验:t检验、X2检验、F检验、单边检验一个总体的情况：XN(2)2,检验H0：Hi:0：UN(0,1)H0：Hi：0：TS：；n1),检验H0：Hi：n(Xii12)22(n)未知,检验H0：Hi：n2(XiX)i1(n1)两个总体的情况:N(12),N(I)2

12、.未知时,检验H0：1H1：n1n2(必n22).(必1)S1*21(n21)S*n22未知时,检验H0：2H1：12单边检验：举例说明,2,检验H0：t(n1n22)构造U1立时U1为WUu4.3非参数假设检验方法:22拟合优度检验：H°：R*2S1n1HF(nS2n21,n21)H1：N(0,1),给定显著性水平,有PU1当H0成defTU,因此PU.一nuPU1故拒绝域2.拟合优度检验、科尔莫戈罗夫检验、斯米尔诺夫检验m(Ninp0)22/Pi0H1:pa.W(mnPi0r1)其中Ni表示样本中取值为i的个数,r表示分布中未知参数的个数科尔莫戈罗夫检验：Ho：F(x)Fo(x)

13、Hi:F(x)Fo(x)实际检验的是Fn(x)F0(x)W眄supFn(x)Fo(x)Dn,斯米尔诺夫检验:Ho：F(x)G(x)Hi：F(x)G(x)实际检验的是Fn(x)Gn(x)WlimsupFni(x)Gn2(x)Dni,n2,nx4.4似然比检验明确零假设和备选假设：Ho:oH1:|(xx)SUpL(xi,xn；)构造似然比:L1(x1,.,xn)Lo(xi,.,xn)SUpL(xi,.,xn；)o拒绝域：W(xi,.,xn)5方差分析5.i单因素方差分析：数学模型、离差平方和分解、显著性检验、参数估计Xijiij数学模型jN(o,2),(i=i,2,.,m;j各j相互独立mni总离

14、差平方和qt(XjX)2iijimni组内离差平方和qe(XjXj2iijim组间离差平方和QAni(XiX)2iiQA构造统计量F(i)QF(rQeQe(nr)ii2(XiXkN(ik,()且-nink,2,.,ni)Ho：i2QtQeQAQ2E(,)2nr当Ho成立时,E(2)2rii,nr),当Ho不成立时,有偏大特征应用:假设原始数据比拟大而且集中,可减去同一数值XijXijk再解题口1辅助量：P-(niniXij)2,Q112-(Xij)2,Ri1nij1niXij2QaQP,QeQ,Qtrp5.2两因素方差分析：数学模型、离差平方和分解、显著性检验数学模型X八ij2N(0,),(i

15、=1,2,.,r;j=1,2,.,s)H01:各/目互独立总离差平方和QT(Xjj1X)2QTQeQbQa组内离差平方和qeni_(XijXi?X?jXi)2j1E(Qe(r1)(s1)因素B引起的离差平方和QbX)2当H0成立时,qbE(s1因素A引起的离差平方和Qas(Xi?X)2当H0成立时,E(Qa辅助量：p构造统计量:sX八ijj1,QiX八ij,QiiX八ij,RsX2八ijj1QiP,QbQiip,QeQiQiiFbQa(r1)Qe(r1)(s1)Qb(s1)Qe(r1)(s1)6回归分析6.1一元线性回归:b2b*2)回归模型、回归模型:Xi2N(0,)各/目互独立QaQeF(

16、r1,(r1)(s1)QeF(s1,(r1)(s1)未知参数的估计(3、(T2)、参数估计量的分布(3aY0i=1,2,.,n.(XX)(YY)i1(xi1X)2222的估计：1n一(Yni1Y)221(一nn(xi1-N(,-),一、2(Xx)、i1)分布：_2N(,1x-2)n(Xx)2i1_cc2cx)SnYSnx*2n6.2多元线性回归：回归模型、参数估计、分布YXi回归模型:iN(0,2In)i=1,2,n.各i相互独立参数估计：XtY(XtX)(XTX)1XTY7多元分析初步7.1 定义及性质：定义、性质XNp(,)其中为X的均值向量,为X的协方差矩阵Y=CX+b,那么YNp(Cb,