重庆大学研究生数理统计总复习PPT课件

1、0)(PniiniiAPAP11)(nAAA,.,21)(1)(APAP)()()(ABPAPBAPAB )()()(BPAPBAPBA )()(BPAP);()()()()(ABPBPAPBAP加法公式加法公式7) (),()1AP A有有界界性性有有0.0.()减减法法公公式式 . .第1页/共154页 )(xXPxFxx21xx )()(21xFxF 0lim)(xFFx 1lim)(xFFx xF xFxF0第2页/共154页,21xx), 2 , 1(,)( nkpxXPkk,.3 , 2 , 1k, 0pk1p1kk xxkkxXPxXPxF)()(分布列与分布函数之间的关系分布列

2、与分布函数之间的关系第3页/共154页)(xfxduufxXPxF)()()()(xf),(, 0)(xxf1)(dxxf xdttfxXPxF)()( . 0.)();()( , )(; aXPdxxfbXaPxfxFxxfxFba则则处连续处连续在在若若为连续函数为连续函数第4页/共154页1p0 ;101PknkppCkXPknkkn，pnX,Bpn ,BX11pn ,BX22pnn,BXX2121)0(, 2 , 1 , 0,!kekkXPk第5页/共154页1,( ; , )0axbf x a bba，其它0( )( ),1xxaxaF xf t dtaxbbabx ,0( ; )0

3、,0 xexf xx 0,0( )( )001,xxxF xf t dte 分分布布函函数数第6页/共154页222()2221( ; ,),xf xex -4-20246800.10.20.30.40.5f(x;2,1) f(x;2,3) x 正态分布密度函数曲线21( )x 密密度度：( )x 分分布布函函数数：第7页/共154页正正态态分分布布的的性性质质(1) ( ),( )f xF x 处处处处为为正正且且存存在在各各阶阶导导数数；(2)(,)( ),( ,)( )f xf x 内内单单增增内内单单减减，( )1/2f xx 在在处处取取得得最最大大值值，lim( )=0 xf x

4、， lim( )=0 xf x ；(3) ( )()()f xxfxfx 关关于于对对称称，即即；(4)( )xF x ；(5) ()1( );xx (6)(0,1),2 ( )1.XNP Xaa 第8页/共154页 yxyYxXPyYxXPyxF,),()(),(),(;),(),(ijjipyxYXPijjipyYxXP),( xxyyjixxyyijijijyYxXPpyYxXPyxF),(),(),(第9页/共154页 1),()(jijiiipYxXPxXPp, 2 , 1i1),()(iijjjjpyYXPyYPp, 2 , 1j xydsdttsfyYxXPyxF),(),(),

5、(dyyxfxfX),()(dxyxfyfY),()(第10页/共154页)()(),(yYPxXPyYxXP)()(),()()(),(.yfxfyxfpppyFxFyxFYXjiijYX第11页/共154页nkpxXPkk, 2 , 1,1kkkpx XEpx1kkk第12页/共154页)(xfdxxfx)()()(XEdxxxf连续离散XdxxfxgXpxgXgEiii,)()(,)()(1第13页/共154页X X是离散型: :X X是连续型, ,其密度函数是 : :一般用如下公式: :12kkkpEXxDXdxxfEXxDX)(2)()()(222XEXEEXXEDX2、方差:2()

6、DXE XEX)(xf第14页/共154页cEc 0DcbaEXbaXE )(DXabaXD2)(bEYaEXbYaXE)(),cov(2)(22YXabDYbDXabYaXDEXEYXYE)(DYbDXabYaXD22)(第15页/共154页常用分布的数字特征)1 (), 1 (. 1pppqDXpEXpBX)1 (),(. 2pnpnpqDXnpEXpnBXDXEXPX)(.3214.(,)()212abXUa bEXD Xba2115 .()XE XD X22),(.6DXaEXaNX第16页/共154页 连续连续离散离散YXdxdyyxfyxgYXpyxgYXgEiijjij,),()

7、,(,),(),(111111,iijjijijijEXx pEYy p( , ),( , ),EXxf x y dxdy EYyf x y dxdy 第17页/共154页 EYEXXYEYEYXEXEYX)(,cov2Cov(,)().X XE XEXDX第18页/共154页 协方差和相关系数的性质: :).,(Cov),(Cov),(Cov)3);,(Cov),(Cov)2);,(Cov),(Cov)12121YXYXYXXYXacdcYbaXXYYX.0; 1)5);,(Cov2)()4不相关与YXrrXYDYDXYXD., 0.)(),(Cov不相关与则称若的相关系数与称为YXrYXD

8、YDXEYYEXXEDYDXYXr第19页/共154页)X(Ekk)X(EEX)X(EklYklEXE(X) YE(Y)第20页/共154页统统 计计 概概 念念重庆大学数统学院重庆大学数统学院 李寒宇李寒宇2407839512407839511359423096913594230969第21页/共154页6 6、样本分布的计算1)、设总体X 的分布函数为 ,X1,X n 是来自总体X 的样本，则该样本的联合分布函数为：( )F x),(),(221121nnnxXxXxXPxxxFniiniiixFxXP11)()(niRxi, 2 , 1,)(xfniinxfxxf11)(),(第22页/

9、共154页3)、当总体X 是离散型随机变量，且具有分布 列 时，(),1,2,iP Xxi记：其它当，0)()(,.2 , 1,iixxixXPxfniinxfxxxf121)(),(niinxfxxf11)(),(11(,)()nniiP XxXxP Xx第23页/共154页1）定义：设X1,X n为总体X 的一个样本， 为关于n维变量 的连续函数，且该函数中不含任何未知参数( 取定值时)，则称 为统计量，很明显，统计量是一个随机变量。 ),(1nxxfnxx,1nxx,1),(1nXXfniiXnX11;)(11122niiXXnS第24页/共154页, 2 , 1;11kXnMnikik

10、, 2 , 1;)(11*kXXnMnikik;)(1112niiXXnSXM 12*21SnnM)(111222niiXnXnS第25页/共154页3）样本均值 有如下性质：X0)(1niiXX2,EXDX2,EXDXnpX第26页/共154页 4）样本方差S2的性质：)(2XDES )(1*2XDnnEM)(XD2211()()nniiiixxxa 第27页/共154页三、顺序统计量、经验分布函三、顺序统计量、经验分布函数数 和直方图和直方图定义：设(X1,X n) 为总体X 的样本， 是样本观测值，将样本值从小到大排列： 。定义随机变量 的取值为 ，则称 为 的顺序统计量，且称 为最小统

11、计量， 为最大统计量。),(1nxx )()2() 1 (nxxx)(iXnixi, 2 , 1,)()()2()1(,nXXX12(,)nXXX) 1 (X)(nXnkXXfXnk, 1),(1)(第k个顺序统计量第28页/共154页 设 是总体X 的分布函数， 为总体X的密度函数，则： 2、最小最大统计量的分布： )(xf)(xF)(nX)()()()(xXPxFnn)()()(1)(xfxFnxfnn)1 (X)()()1()1(xXPxF)()(1)(1) 1 (xfxFnxfn),(1xXxXPnnxF)()(1)1(xXPnxF)(11),(11xXxXPn第29页/共154页3、

12、经验分布函数：定义：设 为总体X 的样本的观测值，将这些值按大小排序为： ， 并对任意实数x，记nxxx,21)()2()1(nxxx(1)( )(1)( )0, ( ), ;1,2,11, nkknxxkF xxxxknnxx其中)(xFn思想：利用样本中样品的频率估计总体的概率第30页/共154页 描述连续性随机变量的密度函数曲线，当样本容量较大（n85）时，能够很好的近似总体的密度函数曲线。 4、直方图： 第31页/共154页直方图方法步骤：直方图方法步骤：第32页/共154页直方图方法步骤：直方图方法步骤：第33页/共154页直方图结果：直方图结果：第34页/共154页nXXX,21)

13、 1 , 0(NniiX1222)(22n四、抽样分布四、抽样分布第35页/共154页22( )n2En22Dn2211()n2222()n2122)(2122221nn ) 1 , 0( NX) 1 (22X第36页/共154页2 2）t 分布 ：(1) 定义：设 ，且X，Y 相互 独立，记： ，则称T 服从自由度为 n的t分布，记为： 。)(),1 , 0(2nYNXnYXT )(ntT第37页/共154页2nDTn211( ),1f xxRx221( ),2xf xexR第38页/共154页(1)定义：设 ，且X 与Y 相互独 立，记： ，则称F 服从自由度为m与n的F 分布，记为： )

14、(),(22nYmXnYmXF ),(nmFF第39页/共154页(4) 性质：当 时，则 ；( , )FF m n);,(1mnFF当，则 ； ( )Tt n2(1, )TFn(3) 密度函数曲线：第40页/共154页例4、设 独立同分布于 ，令1234,XXXX2(0,2 )N2211234(2)(34)Ya XXbXX1222234XXYcXX24232213)2(XXXXdY，1Y22Y3Y.,22221221222211 babaNbYaXNYNX则则1 , 0,2NXYNX 则则第41页/共154页3 3、抽样分布定理： 定理1 设总体 ，X1,X n为总体X 的样本， 分别为样本

15、均值和样本方差，则：2( ,)XN 2,X S2( ,)XNn(0,1)/XNn222(1)(1)nSn2XS与1,nXX2( ,)N (1)/XTt nSn第42页/共154页推论2：设X1,X mmm ，Y1,Y n 分别来自正态总体 和 ，并且两组样本相互独立，则：21(,)N 22(,)N 1222()(2) (2)XYXYmn mnTt mnmnmSnS22(1,1)XYSFF mnS正态总体为基础第43页/共154页第44页/共154页4、分位数 定义：设X 为一随机变量， 分布函数为F(x)，给定概率p，存在 ，使得满足: 称 为p -分位数。pvpXPFpp)()(pvpvpd

16、uufpv)(第45页/共154页常见的分位数：puppuu1pupu概率p第46页/共154页)(ntppupt概率p)()(1ntntppppunt)(第47页/共154页3、 分布： -分位数，记为 ；22)(2np),(mnFp221( )(21)2ppnun11( , )( ,)ppF m nFn m2112( )(1, ).pptnFn第48页/共154页参参 数数 估估 计计重庆大学数统学院重庆大学数统学院 李寒宇李寒宇2407839512407839511359423096913594230969第49页/共154页 原理:样本的k阶原点距去估计相应总体的k阶原点距. 定理：在

17、n时，有： 即：样本k 阶原点矩依概率p 收敛于总体k 阶原点矩。 11()npkkkiiMXE Xn 二、二、矩估计法矩估计法212(),(),ME XME X第50页/共154页总体X 具有密度函数 ，其中参数未知。如果总体的k 阶矩E(X k)存在，计算公式为： 显然E(X k)是参数的函数，记为 。这样就构建了关于的方程,求解获得估计值.( , )f x( , )kkEXx f xdx( )k 总体的总体的k 阶原点矩阶原点矩E(X Xk)存在存在设X1,Xn是来自总体X 的样本，则样本k 阶原点矩Mk易求。第51页/共154页矩估计方法的步骤：(1) 求出未知参数与总体矩的关系式：m

18、kEXmkk,.,2 , 1),.,(1nimkkkimkEXxn121, 2 , 1),(1m,21第52页/共154页通常情况，由于总体分布的参数不超过两个,2211()niiEXxE Xxn*22MXDXXE22221,1().niiEXxE Xxn实用中常用S 估计第53页/共154页1）基本思想：使样本获得最大概率的参数值作为总体未知参数的估计值。1( , )niif x),(21nxxx(; )( ; )P Xxf x1,(x ,x )n变化使上式达到最大 记为),(1nXX 第54页/共154页),(21nxxxniiixxf1),(ixniixfL1),()(11( ;,)ma

19、x ( ;,)nnLxxLxx),(1nXX ),(1nXX 第55页/共154页),(1nXX )(L)(max)(LL)(max)(LL0)(Lini, 2 , 1),(1k第56页/共154页0)(lnLini, 2 , 1),(1k1(,)inXX第57页/共154页四、点估计的优良准则四、点估计的优良准则1(,)nXX( )E( )E第58页/共154页2、最小方差无偏性 定义1：设 和 都是未知参数的无偏估计量，并且对任意的满足： ， 则称 比 有效。1221DD12（有效性）（有效性）),(1*nXXTDTDT*第59页/共154页定理1 (Cramer-Rao不等式)：设总体X

20、 的概率分布或密度函数为 ，其中为未知参数, X1,Xn为总体X 的样本， 为g()的无偏估计量，且满足如下条件： ( ; )f x1(,)nT XX0),(;xfx);(xfdxxf);(DT 2);(ln)(0XfEI)()( (2nIgDT 第60页/共154页其中： 称为方差下界（或C-R下 界）, I()称为Fisher信息量。2( ( )( )defgLnI);(ln)(22XfEI注注:1. 1( )DTnI( ),g2. 21( ( )( )( )I gIg第61页/共154页方差达到C-R下界的无偏估计称为有效估计。1(,)nT XX)(lnL.),(),()()(ln21s

21、agXXXTcLn)(g)()(gTc1( ;,)nLXXix( )0c1(,)nT XX( )g有效估计有效估计一致最小方差无偏估计一致最小方差无偏估计无偏估计无偏估计.第62页/共154页ngcI)()()()()(cgDT )(g)(g)(g第63页/共154页三三.相合性相合性(一致性一致性).定义定义 对任给的对任给的 满足满足: :,001nnnnnPP lim lim .称称 是是的的 相相 合合 估估 计计 量量定理0lim limnnnnnED则则 是是 的的相相合合估估计计量量第64页/共154页2、单个正态总体的期望和方差的区间估计XcXcXcXX五、区间估计五、区间估计

22、第65页/共154页（1）当2已知时：(0,1)/XUNn1()()P XcXcP Xc(|)()()/cccP Unnn 2 () 1/cn()1/2/cn nuc2/1 1/2Xun),(2121nuXnuX或第66页/共154页（2）当2未知时： ) 1(,) 1(2121nSntXnSntX (1)/XTt nSn第67页/共154页2）2的区间估计2122Skk22221SSkk1222,kSkS第68页/共154页当1-给定，且 ，由定义知：2222(1)(1)nSn2222122211()()SSSPP kkkk) 1() 1(221knknP2212(1) )(1)PnkPnk

23、2212(1) ),(1)22PnkPnk) 1/() 1() 1() 1(221122nnkknn) 1/() 1() 1() 1(22122221nnkknn22221/2/2(1)(1)(,)(1)(1)nSnSnn第69页/共154页一般置信区间的求解步骤一般置信区间的求解步骤:.,)1一般用最大似然估计量的点估计寻找.1, 10),(0,),(,)2dcdcbaba或如的置信区间形式分析.,1)3dcba或求出由置信度第70页/共154页3 3、两个正态总体的区间估计：、两个正态总体的区间估计： 假设总体 ,(X1,Xn)是X 的 样本，总体 , (Y1,Ym)是Y的样本。),(21

24、1NX),(222NYYX 0)(21YXcYX第71页/共154页(1)当 已知时：1-2 的置信度为1-的置信区间为：2212,mnuYX22212/1)(2212,mSnSuYXYX222/1)() 1 , 0()()(222121NmnYXU第72页/共154页 当n, m 较小时，设 ，则：22212)2(11)()(21mntmnSYXTw 2)1()1(222mnSmSnSYXw)2(12/1mntTPmnSmntYXw11)2()(2/12221 第73页/共154页2) 两个正态总体方差比 的置信区间：2221221212, 22122212/XYSScc2122221222

25、YXYXScSScS) 1() 1(2212nSnX)1()1(2222mSmY ) 1, 1(/222212mnFSSFYX222122222122221112122222221/XXYYXXYYSSPc Sc SSSP ccP cFcSS第74页/共154页 令： 2)(1 cFP2)(2 cFP) 1, 1(2/1mnFc) 1, 1(2/12mnFc2221) 1, 1(/,) 1, 1(/2/222/122mnFSSmnFSSYXYX12, 2211()niiSSXn ),(/,),(/2/222/122mnFSSSSmnFSSSSYXYX 第75页/共154页三三.非正态总体情况非

26、正态总体情况一般难以计算一般难以计算,但样本容量较大时但样本容量较大时,可以化为正态总体情况处理可以化为正态总体情况处理.以下讨论以下讨论0-1分布的参分布的参数数 p 的置信区间的置信区间.此处假定此处假定 n 30:(0 ,1)(1) /XpUNppn据 中 心 极 限 定 理 XB(1,p)E Xp 用样本均值估计用样本均值估计p(1)D Xpp12(1),ppXun第76页/共154页12,SXun2222112211111111111nniiiiniiSXXXnXnnnXXXnXnXXnnn11nSXXn121,1XXXun第77页/共154页假假 设设 检检 验验重庆大学数统学院重

27、庆大学数统学院 李寒宇李寒宇2407839512407839511359423096913594230969第78页/共154页首先对总体的某信息作出假设先假设原假设成立备择假设原假设某种信息，如未知参数的最优估计量与参数的差别不会太大X应很小假设原假设成立也应很小0X所以0X很大就是一个小概率事件若发生了，自然有理由相信原假设不成立；否则，不能否定原假设，只能接受基本思想XcX0在区域的概率,即原假设成立时拒绝原假设的概率)(0000成成立立成成立立拒拒绝绝犯犯第第一一类类错错误误HcXPHHPP 第79页/共154页假设检验的基本步骤：1）提出原假设H0与备择假设H1 ；2）分析并提出原假

28、设H0的拒绝（否定）域的形式K0；3）给出显著性水平 ，确定拒绝域K0 ；4）作出是否拒绝H0的判断。充分充分理由才能否定的理由才能否定的作为原假设作为原假设 )(00成成立立HcXP未知参数的最优估计量与参数的差别不会太大 )()|(00cXPcXP)()|(00cXPcXP 第80页/共154页二、二、参数假设检验参数假设检验1、单个正态总体参数的假设检验：设X1,Xn是来自总体XN(, 2 )的样本. 第81页/共154页0H1H拒拒绝绝域域条条件件临临界界值值0= 0 0 xc 2 已已知知12cun 2 未未知知12(1)Sctnn 0= 0 0 xc 2 已已知知2 未未知知1cu

29、n 1(1)Sctnn 0= 10()0 0 0= 0 0 xc 2 已已知知2 未未知知cun (1)Sctnn 0= 10()0 0 第82页/共154页2) 2的假设检验设X1,Xn是来自总体XN(, 2 )的样本第83页/共154页0H1H拒拒绝绝域域临临界界值值220= 220 22212200sscc或或2121(1)1cnn 22121(1)1cnn 220= 220 220sc 211(1)1cnn 220= 22210=() 220 220 220= 220 220sc 21(1)1cnn 220= 22210=() 220 220 第84页/共154页2、两个正态总体参数的

30、假设检验),(211NX),(222NY第85页/共154页第86页/共154页2) 1() 1(222mnSmSnSYXniiiYXniiiniizYYXXnSSYXYXnZZnS1221212)(12)(11)(11niiZZZnS12*2)(11*第87页/共154页第88页/共154页第89页/共154页nXX ,.,1aEXEXi2 DXDXi)45(1 , 0/1)/,(1),(12121nNnaXnaXnnaNXnnnaNXniiniinii12cun 非正态总体的参数假设检验非正态总体的参数假设检验第90页/共154页二项分布参数假设检验二项分布参数假设检验非正态总体的参数假设

31、检验非正态总体的参数假设检验第91页/共154页泊松分布参数假设检验泊松分布参数假设检验第92页/共154页00不成立接受犯第二类错误HHPP00成立拒绝犯第一类错误HHPP第93页/共154页三、非参数假设检验三、非参数假设检验1、总体分布函数的假设检验8:13:09第94页/共154页1、总体分布函数的假设检验设X1,Xn是来自总体的样本，F(x) 为分布函数(未知)；。8:13:09第95页/共154页8:13:09第96页/共154页1010()()( )iiiiipP txtF tF tifinpiinfiinp2()iinp8:13:09第97页/共154页2201()miiiin

32、pKcnp20(|)Pc H2()iiinpnp21()miiiinpnp8:13:09第98页/共154页2201(1)Km0H0( )F x2221()(1)mliiiinpYmnp8:13:09第99页/共154页2201(1)Kmr 0H0( )F x2221()(1)mliiiin pYmrn p 1,ripip8:13:09第100页/共154页提出统计假设： H0:X 与Y 独立; H1: X 与Y 不独立2 2、独立性假设检验jiijjiijpppHpppH.1.0:,:sjri, 1;, 1总体为随机向量（X，Y）8:13:09假设（X，Y）的联合分布函数为F(x,y);边缘

33、分布函数为FX(x), FY(y)H0:F(x,y)=FX(x)FY(y); H1:F(x,y)FX(x)FY(y) 假设（X，Y）为离散型随机向量,ijijpXa Yb11,sriijjijjipppp第101页/共154页8:13:09,ijijnXa Yb抽样:X的取值 Y的取值11,sriijjijjinn nn第102页/共154页ijnpijnijijnpn2()ijijnpn8:13:09jiijpppH.0:ijp/ijnn2()ijijijnpnnp211()rsijijijijnpnnp2011().srijijjiijnnpKcnp第103页/共154页221(1)(1)

34、nrs22.21111. ()() srsrijijijijnjijiijijnnpnnp pnpnp p22211()(1)srijijjiijnnprsnp 221(1)rs8:13:092011()|srijijjiijnnpc Hnp第104页/共154页8:13:09第105页/共154页.22.21111.() () ijsrsrijijijnjijiijijn nnnnp pnnnp pn n8:13:09221(1)(1)nrs第106页/共154页3、两总体分布比较的假设检验)(),(xFxFYX)(),(xfxfYXnxxx,.,21myyy,.,2101:( )( ),:

35、( )( )XYXYHFxFx HFxFx8:13:10第107页/共154页8:13:10个数n-0:( )( )XYHFxF xn-=n( , );( ,1)nB nnB n1/2nnmin,sn nsc0|( )nsc Hcs第108页/共154页8:13:10第109页/共154页8:13:10第110页/共154页111回回 归归 分分 析析重庆大学数统学院重庆大学数统学院 李寒宇李寒宇2407839512407839511359423096913594230969第111页/共154页112二、二、一元线性回归一元线性回归1、回归模型：), 0(210NxYjinjiNnixyji

36、iiii;, 2 , 1, 0),cov(), 0(, 2 , 1,21001( )yf xx回归函数( ,),1,2,ijx yi jn，8:13:10任务：估计、检验未知参数10, 第112页/共154页113 niiixy1210,)(min1010,8:13:10)(10iiixye 尽可能小210)(iixy 尽可能小niiixy1210)( 尽可能小22011()nEiiiSyx 第113页/共154页114112101()()()niiiniixxyyxxyx8:13:10第114页/共154页8:13:10115第115页/共154页11610niie ( , )x y01yx

37、 11niiyyyn 第116页/共154页11722001(1),xxxNnl 211(2),xxNl 201(3)cov(,)xxxl 2201011()(4),xxxxyxNxnl 第117页/共154页118性质性质4、22(2),EESn 从从而而222ESn 01, 2ES22ERSS与与独独立立2222111()()()nnnTiiiiiiiSyyyyyy222(2)ESn 222(1).RS 22RESS第118页/共154页1194 4、显著性检验、显著性检验样本回归直线中Y 与X 之间线性相关性的显著性检验：8:13:10第119页/共154页1201 1）F F 检验法

38、因 是1的无偏估计量，即：1c211)(cK210)(021成立HcP)2, 1 ()2/(22122nFlnSSFxxERxxxxlnFcnFcl)2, 1 ()2, 1 (12128:13:10第120页/共154页1212 2）t t 检验法)2(11ntlTxx)(10cK)2()|(21010ntlcHcPxx )2(2110ntlKxx8:13:10c11 第121页/共154页1228:13:10)2(0nrrK第122页/共154页1230100 xy预测值。预测值。01 yx000010(|)yE YXxx00Yy0010010()()()E yEExx8:13:10第123

39、页/共154页8:13:1012400000(,)yycyyc yc001P yyc 第124页/共154页1258:13:10第125页/共154页1268:13:10第126页/共154页127第127页/共154页0 xx2121)2(unt20201()()11xxxxsxnl2012()xu001122,yuyu8:13:10128第128页/共154页1298:13:110 xx2211012110yuxyux令：)(1)(1210222210111uyxuyx第129页/共154页方方 差差 分分 析析重庆大学数统学院重庆大学数统学院 李寒宇李寒宇2407839512407839511359423096913594230969第130页/共154页试验指标：试验中所观测到的试验结果。第131页/共154页riYnYinjijii,1,11riiirinjijYnnYnYi111112211()inrTijijSYY22.1()rAiiiSn YYrH210:jiH至少存在一对:1第132页/共154页组内差平方和2211()inrEijiijSYY222TAESSS第133页/共154页202AESKcS202|AESPc HS第134页/共154页222