概率论与数理统计重点

1、概率论与数理统计重点第1章随机事件及其概率Pnm!从m个人中料k由n个人:井(1)排列组合公式Pm/八m1/二十n|，也(mn)!行排列的可能数。cm口从m个人中挑出n个人进n!(mn)!行组合的可能数。(2)加法和乘法原理加法原理(两种方法均能完成此事)：m+n某件事由两种方法来完成，第一种方法可由m种方法完成，第二种方法可由n种方法来完成，则这件事可由m+n种方法来完成。乘法原理(两个步骤分别不能完成这件事)：mXn某件事由两个步骤来完成，第一个步骤可由m种方法完成，第二个步骤可由n种方法来完成，则这件事可由mn种方法来完成。(3)些常见排列重复排列和非重复排列(有序)对立事件(至少有一个

2、)顺序问题1和随机 事件但在进行一次试验之前却不能断言它出现哪个结果，则称这种试验为随机试验。试验的三能结果称为随机事件。在一个试验不，不管事件有多少个，一总可以从其中找出这样一组事件，它具有如下性质：每进行一次试验，必须发生且只能发生这一组中的一个事件；（5）基 本事 件、样 本空间 和事件任何事件，都是由这一组中的部分事件组成的。事件，用由来表刀、。这样一组事件中的每一个事件称为基本基本事件的全体，称为试验的样本空间,用Q表7Ko一个事件就是由。中的部分点（基本事件”）组成的集合。通常用大写字母4B,G表示事件，它们是。的子集。0为必然事件，0为不可能事件。不可能事件（0）的概率为零，而概

3、率为零的事件不一定是不可能事件；同理，必然事件（Q）的概率为1,而概率为1的事件也不一定是必然事件。(6)事关系:i如果一个试验在相同条件下可以重复进行，而每次试验的可能结果不止一个，但在进行一次试验之前却不能断言它出现哪个结果，则称这种试验为随机试验。试验的可能结果称为随机事件。在一个试验下，不管事件有多少个，总可以从其中找出这样一组事件，它具有如下性质：每进行一次试验，必须发生且只能发生这一组中的一个事件；任何事件，都是由这一组中的部分事件组成的。这样一组事件中的每一个事件称为基本事件，用来表示。基本事件的全体，称为试验的样本空间，用表示。一个事件就是由中的部分点（基本事件）组成的集合。通

4、常用大写字母A,B,C,表示事件，它们是的子集。为必然事件，？为不可能事件。不可能事件（？）的概率为零，而概率为零的事件不一定是不可能事件；同理，1必然事件(Q)的概率为1,而概率为1的事件也不一定是必然事件。关系:如果事件A的组成部分也是事件B的组成部分，(A发生必有事件B发生)：AB如果同时有AB,BA,则称事件A与事件B等价，或称A等于B：A=BAB中至少有一个发生的事件：AB,或者A+Bo属于A而不属于B的部分所构成的事件，称为A与B的差，记为A-B,也可表示为A-AB或者ab,它表示A发生而B不发生的事件。AB同时发生：AB,或者ABAB=?,则表示A与B不可能同时发生，称事件A与事

5、件B互不相容或者互斥。基本事件是互不相容的。-A称为事件A的逆事件，或称A的对立事件，记为限它表示A不发生的事件。互斥未必对立。运算：结合率：A(BC)=(AB)CAU(BUC)=(A1UB)UC分配率：(AB)UC=(AUC)A(BUC)(AUB)nC=(AC)U(BC)德摩根率：iiiiABAB,ABAB概率的公理化定义设为样本空间，A为事件，对每一个事件A都有一个实数P(A),若满足下列三个条件：10P(A)0,则称竟1为事件A发生条件下，事件B发生的条件概率，记为P(B/A)3。P(A)条件概率是概率的一种，所有概率的性质都适合于条件概率。例如P(Q/B)=1P(B/A)=1-P(B/

6、A)(13)乘法公式乘法公式：P(AB)P(A)P(B/A)更一般地，对事件A,若P(AAAn-1)05则有P(A1A2.An)P(A1)P(A2|A1)P(A3|A1A2)P(An|A1A2An1)01两个事件的独立性设事件A、B满足P(AB)p(A)p(B),则称事件A、B是相互独立的。若事件A、B相互独立，且P(A)0,则有P(B| A)P(AB)P(A)P(A)P(B)P(A)P(B)1若事件A、B相互独立，则可得到:与B、A与B、A与B也都相互独立。(14)独立性?与任何事件都互斥多个事件的独立性必然事件和不可能事件？与任何事件都相互独立。设ABC是三个事件，如果满足两两独立的条件，

7、P(AB)=P(A)P(B);P(BC)=P(B)P(C);P(CA)=P(C)P(A)并且同时满足P(ABC)=P(A)P(B)P(C)那么AB、C相互独立。对于n个事件类似。设事件(15)全概公 式P(Bi) 0(iBi, B2,Bi, B2,1,2,B,Bn,n),n满足两两互不相容，2。A则有BiP(A)P(B1)P(A|B1)P(B2)P(A|B2)P(Bn)P(A|Bn)o设事件B1,1O_B1B2B2,)Bn及A满足Bn两两互不相容,P(Bi)021,nBiiP(A)02(16)贝叶斯 公式则P(BA)nP(Bi)P(A/Bi),i=1,2,-noP(Bj)P(A/Bj)j1此公

8、式即为贝叶斯公式。劈),。率。P(Bi/A)后验郎的念),通常叫先验概?，“犍商为12-J,(i1.2.+率。贝叶厮公式反映.的概率规律，并作出了“由果朔因”的推断我们作了n次试验，且满足每次试验只有两种可能结果，A发生或A不发生；n次试验是重复进行的，即A发生的概率每次均一样；(17)伯努利 概型每次试验是独立的，即每次试验A发生与否与其他次试验A发生与否是互不影响的。这种试验称为伯努利概型，或称为n重伯努利试验。用P表示每次试验A发生的概率，则云发生的概率为1Pq,用网的表示n重伯努利试验中A出现k(0kn)次的概率)八、一kknkPn(k)Cnpq)k0,1,2,no第二章随机变量及其分

9、布(1)离散型随机变量的分布律设离散型随机变量X的可能取值为X(k=1,2,)且取各个值的概率，即事件(X=X)的概率为P(X=x05q=1-po随机变量X服从参数为p的几何分布，记为G(p)。均匀分布设随机变量x的值只落在a,b内，其密度函数f(x)在a,b上为常数j即ba1f(x)ba,aw强他则称随机变量X在a,b上服从均匀分布，记为XU(a,b)o分布函数为Jba,axLxF(x)f(x)dx1,当ax1x2b时)X落在区间(必？2)内的概率为_x2XP(x1Xx2)oba11f(x)0,其中0,则称随机变量X服从参数为的指数分布。X的分布函数为记住积分公式:xnexdxn!0正态 分

10、布设随机变量x的密度函数为,1(X2(x)j2e)x)其中”、0为常数，则称随机2变量x服从参数为的正态分布或高斯(Gauss)分布)记为XN(,2)。f(x)具有如下性质：1f(x)的图形是关于x对称的；20 当x值；XN（,某x）1、2时，f()一为最大.2x2)原则X的分布函数为e 2 dto o参数0、1时的正态分布称为标准正态分布，记为XN(0,1),密度函数记为(x)2e2分布函数为xt2e2dto(x)是尔可求积函数，其函数值,已编制成表可供查用。（-x）=1-（x）且（0）=/如果XN（,2）贝UjXN（0,1）。x2x1P（xXx2）一-O(6)分位下分位表：P(X)=；上分

11、位表：P(X)=。函数离散型已知X的分布列为Xx1,x2,xn,P(X,xi)R，,P2Pn，一rj分布Yg(X)的务布列(yig(Xi)互不相等)如下：Yg(x1),g(x2),g(xn),磬有M些飞湍相等广则应将对应的Pi相加作为g(xi)的概率。连续型先利用X的概率密度fX(x)写出Y的分布函数FY(y)=P(g(X)0(i,j=1,2,(2)pj1.2二维 随机 变量 的本 质连续对于二维随机向量(X,Y),如果存型在非负函数f(x,y)(x,y),使对任意一个其邻边分别平行于坐标轴的矩形区域D,即D=(X,Y)|axb,cy0;(2) f(x,y)dxdy1.(Xx,Yy)(XxYy

12、)1联合 分布 函数(3)设(X,Y)为二维随机变量，对于任意实数x,y,二元函数F(x,y)PXx,Yy称为二维随机向量(X,Y)的分布函数，或称为随机变量X和Y的联合分布函数。分布函数是一个以全平面为其定义域，以事件(r2)lX(1)x,Y(2)y的概率为函数值的一个实值函数。分布函数F(x,y)具有以下的基本性质：(1) 0F(x,y)1;(2) F(x,y)分别对x和y是非减的，即当x2xi时，有F(x2,y)F(xi,y);当y2yi时，有F(x,y2)F(x,yi);(3) F(x,y)分别对x和y是右连续的，即F(x,y)F(x0,y),F(x,y)F(x,y0);F(,)F(,

13、y)F(x,)0,F(,)1.(4) 对于xx2，y1y2，F(x2,y2)F(x2,y1)F(x1，、2)F(x，y1)0.1(4)离散P(Xx,Yy)P(xXxdx,yYydy)f(x,y)dxdy型与连续型的关系(5)边缘分布离散型X的边缘分布为Pi?P(Xx,)Pj(i,j1,2,)；Y的边缘分布为P?jP(Yyj)Pj(i,j1,2,)。连续型X的边缘分布密度为fX(x)f(x,y)dy;Y的边缘分布密度为fY(y)f(x,y)dx.(6)条件分布离散型在已知X=x的条件下，Y取值的条件分布为Pijp(yyj|Xx,)；Pi?在已知Y=y的条件下，X取值的条件分布为PijP(Xxi|

14、Yyj),P?j1连续型在已知Y=y的条件下，X的条件分布密度为f(x|y)3;fY(y)在已知X=x的条件下，Y的条件分布密度为f(y|x)*fx(X)独立性般型F(X,丫尸Fx(x)FY(y)离散型PjPi?p?j有零不独立连续型f(x,y)=fx(x)fY(y)直接判断，充要条件：可分离变量正概率密度区间为矩形一维正态分布221x12(x1)(y2)y212(12)1122f(x,y)ee,2124；12=01随机若X,X2,X,Xm+1,X相互独立,h,g为连续函数)则：h(X,XX)和g(Xm+i,X)相互独立。特例：若X与丫独立，则：h(X)和g(Y)独立。例如：若X与丫独立，则：

15、3X+1和5Y-2独立。i（8）二维 均匀 分布设随机向量（X, Y）的分布密度函数为Sd(x,y) df(x,y)0, 其他其中Sd为区域D的面积，则称（X,Y）服从D上的均匀分布，记为（X,Y）（D）。例如图3.1、图3.2和图3.3。yi一/3.1xi图3.2(9)二维正态分布设随机向量(X,Y)的分布密度函数为f(x,y)1212.112(12)e22x12(x1)(y2)112(10)函数分布其中1，2,10，20，lI1是5个参数)则称(X)Y)服从二维正态分布，记为(X,Y)N(1,2,12,；,).由边缘密度的计算公式，可以推出二维正态分布的两个边缘分布仍为正态分布，即XNI(

16、1,：),yn(2,2).但是若XN(1,；),yn(2,22),(X,Y)未必是二维正态分布。z=x+根据定义计算rYFz(z)P(Zz)P(XYz)对于连续型，fz(z)=f(x,zx)dx两个独立的正态分布的和仍为正态分布(12,122)。n个相互独立的正态分布的线性组合，仍服从正态分布。Ci22Z=ma x,min( Xl,X2, Xn)若X1,X2Xn相互独立，其分布函数分别为Fxi(x),Fx2(x)Fxn(x)则Z=max,min(X3X2，Xn)的分布函数为：Fmax(x)Fxi(x)?Fx2(x)Fxn(x)Fmin(x)11Fxi(x)?1Fx2(x)1Fxn(x)12分布

17、设n个随机变量Xi,X2, ,Xn相互独立，且服从标准正态分布，可以证明它们的平方和n2WXi1 1n i u2 一 2u2 e 2u 0,u 0.的分布密度为1nf(u)22n2Q我们称随机变量W服从自由度为n的2分布，记为W2(n),其中nn21xAx2edx.2 0所谓自由度是指独立正态随机变量的个数，它是随机变量分布中的一个重要参数。2分布满足可加性：设丫2(n)k2,、ZYi(nin2nk).i11t分布设X,Y是两个相互独立的随机变量，且2XN(0,1),Y(n),可以证明函数n 1n的概率密度为).我们称随机变量T服从自由度为n的t分布，记为Tt(n)。ti(n)t(n)iF分布

18、设X2(n”%2),且X与Y独立，可以证明F泮的概率密度函数Y/n2为n1n2n1n1n22n12g1n12f(v)y1y,y0f(y)n1n2n2n2万220,y0我们称随机变量F服从第一个自由度为m,第二个自由度为n2的F分布，记为Ff(n1,n2).L/、1F1(小口).、Fn,)第四章随机变量的数字特征1(1) 一维期望随 机 期望就是平均值变量的数字特征离散型设X是离散型随机变量，其分布律为P(Xxk)=pk,k=1,2,n,nE(X)xkPkk1(要求绝对收敛)连续型设X是连续若机变量，其概其度为f(x),E(X)xf(x)dx(要求绝对收函数的期望Y=g(X)nE(Y)g(xk)

19、Pkk1方差D(X)=EX-E(X)2,标准差(X)JD(X)_2D(X)xkE(X)pkkE(Y)2D(X)xE(X)2Y=g(X)g(x)f(x)dx1对于正整数对于正整数k,称随机变量X的k次塞的数学期望为X的k阶原点矩，记为Vk,即vk=E(Xk)=kXiPi,k=1,2,.对于正整数k,称随机变量X与E(X)差的k次骞的数学期望为X的k阶中心矩，记为即kE(XE(X)kk(XiE(X)Pik=1,2,称随机变量X次嘉的数学期为X的k阶矩，记为Vk,IVk=E(X)=xkf(xk=1,2,对于正整数称随机变量X(X)差的k；的数学期望为的k阶中心矩为k,即kE(XE(X)kk(xE(X

20、)fk=1,2,.2切比雪夫不等式设随机变量X具有数学期望E1=以，方差D(X)=b意正数,有下列切比雪夫不等2P(X)一2切比雪夫不等式给出了在未知分布的情况下，对概率P(X的一种估计，它在理论上有重要义。(2)(1)(3)E(C)=CE(CX)=CE(X)E(X+Y)=E(X)+E(Y)nnE(GXi)CiE(XJi1i1(4)E(XY)=E(X)E(Y),充分条件：X和Y独立;充要条件：X和Y不用(3)1方差的性质(1) D(C)=0;E(C户C(2) D(aX)=a2D(X);E(aX户aE(X)(3) D(aX+b)=a2D(X);E(aX+b)=aE(X)+b(4) D(X)=E(

21、X2)-E2(X)(5) D(XY)=D(X)+D(Y),充分条件：X和Y独立充要条件：X和丫二关。D(XY)=D(X)+D(Y)2E(X-E(X)(Y-E(Y),无条件成立。而E(X+Y)=E(X)+E(Y),无条件成立。(4)常见分布的期望和|方差期望方差0-1分布B(1,p)pp(1p)二项分布B(n,p)npnp(1p)泊松分布P()几何分布G(p)1p1p2p超几何分布H(n,M,N)nMNnM,MNr1NNN1均匀分布U(a,b)ab2(ba)212指数分布e()112正态分布N(,2)22分布n2n1t分布0(n2)(5)二维随机变量的数字特征期望nE(X)XiPi?i1nE(Y

22、)yjP?jjiE(X)E(Y)xfX(x)dxyfY(y)dy函数的期望EG(X,Y)=G(Xi,yj)pjEG(X,Y)=G(x,y)f(x,y)dxdy方差：D(X)XiE(X)2Pi?D(Y)XjE(Y)2p?jD(X：D(Y)xE(X)2fyE(Y)2fY协方差对于随机变量X与Y,称它们那阶混合中心矩11为X与Y的协7或相关矩，记为XY或cov(X,Y),即XY11E(XE(X)(YE(Y).与记号XY相对应，X与Y的方5(X)与D(Y)也可分别记为xx与1相关系数对于随机变量X与Y,如果1D(Y)0,则称XY为X与Y的相关系数，记作XY时可简记为)。|W1,当|=1时，称X完全相关

23、：P(XaYb)1完全相关正相关，当负相关，当1 时(a 0),1 时(a 0),而当0时，称X与Y不相关以下五个命题是等价的： XY。； cov(X,Y)=0; E(XY尸E(X)E(Y); D(X+Y)=D(X)+D(Y); D(X-Y)=D(X)+D(Y).协方差矩阵XXXYYXYY混合矩对于随机变量X与Y,如果有E存在，则称之为X与Y的k+l合原点矩，记为 心矩记为：k+l2(6) 协方 差的 性质独立和不则X与Y相互独立的充要条件是 X和YUkiE(XE(X)k(YE(Y)1.cov(X,Y)=cov(Y,X);(ii) cov(aX,bY)=abcov(X,Y);(iii) cov

24、(Xi+X,Y)=cov(Xi,Y)+cov(X2,Y);(iv)cov(X,Y)=E(XY)-E(X)E(Y).(i)若随机变量X与Y相互独立，则XY。；(ii)若(X,Y)N(i,2,2,2,),相关关第五章大数定律和中心极限定理(1)大数定律X切比雪夫大数律设随机变量X,X,相互独立，均具有有限方差，且被同一常数C所界：D(X)C(i=1,2,)，则对于任意的正数,有1ninlimPXi-E(Xi)1.nni1ni1特殊情形：若X1,X具有相同的数学期望E(X)=以，则上式成为1nlimP-Xi1.nni11伯努利大数律设N是n次独立试验中事件A发生的次数，p是事件A在每次试验中发生的概

25、率，则对于任意的正数,有limPp1.nn伯努利大数定律说明，当试验次数n很大时，事件A发生的频率与概率有较大判别的可能性很小，即limPp0.nn这就以严格的数学形式描述了频率的稳定性。辛钦大数律设X,X,，Xn,是相互独立同分布的随机变量序列，且E(X)二,则对于任意的正数有1nlimPXi1.nni11(2)心极定理XN(中列设随机变量X,X2,相互独限维立，服从同一分布，且具有相同2一)n林德伯格的数学期望和方差：E(XQ,D(XQ20(k1,2,)则随机变量nXknYnk1n的分布函数Fn(X)对任意的实数X)有1lim Fn (x) lim PnXk n1、.nt21X-x一e2d

26、t.、-2此定理也称为独立同分布的中心极限定理。棣莫弗一拉普拉斯理limPn设随机变量Xn为具有参数n,P(0P1)的二项分布)则对于任意实数X,有Xnnp.np(1p)t2ix2e2dt.2(3)项定理若当N时,Mp(n,k不变)贝CknkMCNMkknknCnp(1p)(N).CN超几何分布的极限分布为二项分布。(4)泊松定理若当n时,npCnPk(1P)0,则knk-ek!(n).2其中k=0,1,2,，n,。二项分布的极限分布为泊松分布。第六章样本及抽样分布（1）数理总体在数理统计中，常把被考察对象的某一个（或多个）指标的全体统计的基本概念称为总体（或母体）。我们总是把总体看成一个具有

27、分布的随机变量（或随机向量）。个体总体中的每一个单兀称为样品（或个体）。样本我们把从总体中抽取的部分样品Xl,X2,Xn称为样本。样本中所含的样品数称为样本容量，一般用n表示。在一般情况下，总是把样本看成是n个相互独立的且与总体有相同分布的随机变量，这样的样本称为简单随机样本。在泛指田-次抽取的结果时，Xi,X2,Xn表示n个随机变量（样本）；在具体的一次抽取之后，XX2,Xn表示n个具体的数值（样本值）。我们称之为样本的两重性。1样本函数设Xi,X2,Xn为总体的一个样本，称(Xi,X2,Xn)为样本函数，其中为一个连续函数。如果中不包含任何未知参数，则称(X1,X2,Xn)为一个统计量。和

28、统常见统计量及其性质样本均值XXi.nii样本方差1nS2d(XiX)2.n1i1样本标准差SAn(Xix)2.nn1i1样本k阶原点矩1nLMk-Xik,k1,2,.ni1样本k阶中心矩1 n-Mk一(XiX)k,k2,3,.ni12E(X)D(X)nE(S2)E(S*2)n12,nn其中S*21nX)2为二阶中心ni17矩。1正态总体下的四大分布正态分布设X1,X2,Xn为来自正态总体N(,2)的一个样本，则样本函数defXu=-N(0,1)./而t分布设X1,X2,Xn为来自正态总体N(,2)的一个样本，则样本函数defxt一一t(n1),s/Vn其中t(n-1)表示自由度为n-1的t分

29、布。2分布设X1,X2,Xn为来自正态总体N(,2)的一个样本，则样本函数一_2w%MS2(n1),其中2(n1)表示自由度为n-1的2分布。1F分布设Xl,X2,xn为来自正态总体N(,12)的一个样本，而yi,y2,yn为来自正态总体N(,力的一个样本)则样本函数1,n2 1),def2/122F(n1S2/2其中S2nini 1ii(xi x)2，S221n21n2(yi 1y)2;2F(n11,n2述表示第一自由度为n11)第二自由度为n21的F分布。(3)正态总体下分布的性质X与S2独立第七章参数估计(1)点估矩估计计.1设总体X的分布中包含有未知数F(x;vk数，m,则其分布函数可以表成它的k阶原点矩E(Xk)(k1,2,m)中也包含了未知参1,2,m,即vkvk(1,2,m)O又设X1,X2,Xn为总体X的门个样本值，其样本的k阶原点矩为1n,1Xik(k1,2,m).ni1这样，我们按照“当参数等于其估计量时，总体矩等于相应的样本矩的原则建立方程，即有v1(1,2,m)mXi由上面的m个方程中，解出的m个知参数(,m)即为参数，m)的矩估计量。为的矩估计)g(x)为连续函数,则g(3为g()的矩估计。极大似然估计当总体X为连续型随机变量时，设其分布密度为f(X；1，2,m),其中1，2，m为未知参数。又设X1,X2,Xn为总体的一个