概率论与数理统计复习笔记

1、概率论与数理统计复习第一章概率论的基本概念一i.基本概念随机试验E:(1)可以在相同的条件下重复地进行；(2)每次试验的可能结果不止一个，并且能事 先明确试验的所有可能结果；(3)进行一次试验之前不能确定哪一个结果会出现.样本空间S: E的所有可能结果组成的集合.样本点(基本事件):E的每个结果.随机事件(事件)：样本空间S的子集.必然事件(S):每次试验中一定发生的事件.不可能事件()：每次试验中一定不会发生的事件. 二.事件间的关系和运算(事件B包含事件A )事件A发生必然导致事件B发生.UB (和事件)事件A与B至少有一个发生.3. A n B=AB积事件)事件A与B同时发生.4. A-

2、B(差事件)事件A发生而B不发生.5. AB= (A与B互不相容或互斥)事件A与B不能同时发生.6. AB=且AU B=S (A与B互为逆事件或对立事件)表示一次试验中A与B必有一个且仅有一个发生.B=A7 A=B -运算规则交换律结合律分配律德？摩根律A B A B A B A B三.概率的定义与性质1 .定义 对于E的每一事件A赋予一个实数，记为P(A),称为事件A的概率.(1)非负性P(A) >0 ; (2)归一性或规范性 P(S)=1 ;(3)可列可加性对于两两互不相容的事件 A,A2, - (A i A=0 , i ?j, i,j=1,2,)，P(A UA2U )=P( A 1

3、)+P(A2)+-2 .性质(1) P( ) = 0 , 注意：A为不可能改父 P(A)=0 .(2)有限可加性对于n个两两互不相容的事件 A,A2,A n ,P(Ai UA.U-U An)=P(Ai)+P(A2)+ +P(A n)(有限可加性与可列可加性合称加法定理 )(3)若 A B,则 P(A) < P(B), P(B-A)=P(B)-P(A).(4)对于任一事件 A, P(A) <1, P(A)=1-P(A).(5)广义加法定理对于任意二事件 A,B ,P(A U B)=P(A)+P(B)-P(AB).对于任意n个事件A,A2,A n+(-1) n-1P(AiAr A)四.

4、等可能(古典)概型1 .定义 如果试验E满足:(1)样本空间的元素只有有限个，即S=e1,e2,e n;(2)每一个基 本事件的概率相等，即P(e1)=P(e2)= : P(en).则称试验E所对应的概率模型为等可能(古典) 概型.2 .计算公式P(A)=k / n 其中k是A中包含的基本事件数，n是S中包含的基本事件总数. 五.条件概率1 .定义 事件A发生的条件下事件B发生的条件概率P(B|A)=P(AB) / P(A) ( P(A)>0).2 .乘法定理 P(AB)=P(A) P (B|A) (P(A)>0); P(AB)=P(B) P (A|B) (P(B)>0).P

5、(A 1A - An)=P(A1)P(A2|A1)P(A31AA) P(A 口伊佚An-1) (n A2, P(A 心4)> 0)，n, BUB2U - U Bn=S),P Bi P ABinP Bi P ABi13 . B,B2,，B n是样本空间S的一个划分(BiB=0,i?j,i,j=1,2,n当P(B i)>0时,有全概率公式P(A)= P Bi P ABi i 1P AB.当 P(A)>0, P(B i)>0 时,有贝叶斯公式 P (Bi|A)= P i P A六.事件的独立性1 .两个事件A,B,满足P(AB) = P(A) P(B)时，称A,B为相互独立的

6、事件.(1)两个事件A,B相互独立 P(B)= P (B|A).(2)若A与B,A与B , A与B, , A与B中有一对相互独立，则另外三对也相互独立2 .三个事件 A,B,C 满足 P(AB) =P(A) P(B), P(AC)= P(A) P(C), P(BC)= P(B) P(C),称 A,B,C三事件两两相互独立.若再满足P(ABC) =P(A) P(B) P(C),则称A,B,C三事件相互独立.个事件A,A2,A n,如果对任意k (1<k <n),任意iwi i<i 2V4 kWn.有P AiAiAiPAiPAiPAi，则称这n个事件A,A2,An相互独立.il

7、i 2i ki 1i 2i k第二章随机变量及其概率分布一.随机变量及其分布函数1.在随机试验E的样本空间S=e上定义的单值实值函数X=X (e)称为随机变量.2,随机变量X的分布函数F(x)=PX <x , x是任意实数.其性质为：(1 )0 < F(x) <1 ,F( -oo)=0,F( oo)=i.(2)F(x)单调不减，即若 Xi<X2,则 F(x i) < F(x 2).(3)F(x)右连续，即 F(x+0)=F(x). (4)Pxi<X< x 2=F(x 2)-F(x 1).二,离散型随机变量(只能取有限个或可列无限多个值的随机变量)1 .

8、离散型随机变量的分布律PX= x k= p k (k=1,2,)也可以列表表示,其性质为：(1)非负性 0 WRW1 ; (2)归一性pk1 .k 12 .离散型随机变量的分布函数 F(x)=Pk为阶梯函数，它在x=x k (k=1,2,)处具有跳跃Xk x点,其跳跃值为p k =PX=xk.3 .三种重要的离散型随机变量的分布(1)X(0-1)分布 PX=1= p ,PX=0=1 p (0<p<1).(2)Xb(n,p)参数为 n,p 的二项分布 PX=k= n pk 1 p n k(k=0,1,2,n) (0<p<1) kk(3)X- ()参数为 的泊松分布 PX=

9、k= - e (k=0,1,2,) (>0)k!三,连续型随机变量1,定义 如果随机变 量X的分布函 数F(x)可以表示成 某一非负 函数f(x)的积分F(x)= x f t dt,- °°< x < 0°,则称X为连续型随机变量，其中f (x)称为X的概率密度(函数).4 .概率密度的性质(1)非负性 f(x) >0 ; Px 1<XW x 2= ：2f(x)dx ;(4)x 1归一性 f(x)dx=1 ;若f (x)在点x处连续，则f (x)=F / (x).注意：连续型随机变量 X取任一指定实数值a的概率为零，即PX= a=0

10、.3.三种重要的连续型随机变量的分布1(1)XU (a,b) 区间(a,b)上的均匀分布 f(x) ba 0a x b其它(2)X服从参数为的指数分布.f x(>0).(3)X-N ( , 2 )参数为，的正态分布f(x)1 比2 e2 e)22-<x< ,>0.特别，=0, 2 =1时，称X服从标准正态分布，记为XN (0,1),其概率密度2x1(x) -e 2 ,标准正态分布函数(x)22t_x e 2dt ,(-x)=1-(x).若 XN ( , 2),贝U Z=-N (0,1), Px1<X< x2=(8x1).若PZ>z = PZ<-z

11、 = P|Z|>z?二,则点z ,-z , z / 2分别称为标准正态分布的上，下，双侧 分位点.注意：(z )=1- , z 1- = -z .四.随机变量X的函数Y= g (X)的分布1 .离散型随机变量的函数Xx 1 x 2x kP kP 1 P 2p kY=g(X)g(x 1) g(x 2)g(x k)若g(x k) (k=1,2,)的值全不相等，则由上表立得Y=g(X)的分布律.若g(x k) (k=1,2,)的值有相等的，则应将相等的值的概率相加，才能得到Y=g(X)的分布律.2 .连续型随机变量的函数若X的概率密度为fX(x),则求其函数Y=g(X)的概率密度fY(y)常用

12、两种方法：(1)分布函数法先求Y的分布函数FY(y)=PY <y=Pg(X) <y= v fX x dxk k y其中 k(y)是与g(X)<y对应的X的可能值x所在的区间(可能不只一个),然后对y求导即得 fY(y)=FY /(y).(2)公式法 若g(x)处处可导，且恒有g变量，其概率密度为fY y fx h y h Y0其中h(y)是g(x)的反函数，=min (g (-如果f (x)在有限区间a,b以外等于掾/(x)>0 (或g / (x)<0 ),则Y=g (X)是连续型随机y I y其它),g ( )= max (g (-),g ().,则 =min

13、(g (a),g (b)= max (g (a),g(b).第三章二维随机变量及其概率分布一.二维随机变量与联合分布函数1 .定义 若X和Y是定义在样本空间S上的两个随机变量，则由它们所组成的向量(X,Y)称 为二维随机向量或二维随机变量.对任意实数x,y,二元函数F(x,y)=PX w x,Y w y称为(X,Y)的(X和Y的联合)分布函数.2 .分布函数的性质(1)F(x,y)分别关于x和y单调不减.(2)0 < F(x,y) <1 , F(x,-尸0, F(-,y)=0, F(-,-尸0, F( , )=1 .(3) F(x,y)关于每个变量都是右连续的，即 F(x+0,y)

14、= F(x,y), F(x,y+0)= F(x,y).(4)对于任意实数x 1<x 2 , y i<y 2Px 1 <X<x 2 , y ivYWy 2= F(x 2,y 2)- F(x 2,y 1)- F(x i,y 2)+ F(x i,y 1)二.二维离散型随机变量及其联合分布律1 .定义 若随机变量(X,Y)只能取有限对或可列无限多对值(xi,yj) (i ,j =1,2,)称叱,丫) 为二维离散型随机变量.并称PX= x i ,Y= y j = p i j为(X,Y)的联合分布律.也可列表表示.2.性质(1)非负性0 Wpi j < 1 .归一性iPij

15、1 .3. (X,Y)的(X和Y的联合)分布函数F(x,y)=pjxi x yj y三.二维连续型随机变量及其联合概率密度1.定义 如果存在非负的函数f (x,y),使对任意的x和y,有F(x,y)= y x f (u,v)dudv则称(X,Y)为二维连续型随机变量，称f(x,y)为(X,Y)的(X和Y的联合)概率密度.2.性质(1)非负性f (x,y)>0 . (2) 归一性f(x,y)dxdy 1 .若f (x,y) 在点(x,y)连续，则f (x, y)若G为xoy平面上一个区域，则P( x, y)2F(x,y)x yG f (x, y)dxdy .G四.边缘分布1 . (X,Y)

16、关于 X的边缘分布函数 Fx (x) = PX <x , Y< = F (x ,).(X,Y)关于Y的边缘分布函数F y (y) = PX< , Y <y= F ( ,y)2 .二维离散型随机变量(X,Y)关于X的边缘分布律PX= x i =pj = pi ( i =1,2,)归一性pi?1 .j 1i 1,关于Y的边缘分布律PY= y j =pj = p j ( j =1,2,)归一性p?j1 .i 1j 13.二维连续型随机变量(X,Y)关于X的边缘概率密度f x (x)= f (x, y)dy 归一性 fX(x)dx 1关于Y的边缘概率密度f y (y尸 f (x

17、,y)dx 归一性fY ( y)dy 1五.相互独立的随机变量1.定义 若对一切实数x,y,均有F(x,y尸F x (x) F Y(y),则称X和Y相互独立.2 .离散型随机变量X和Y相互独立3 .连续型随机变量X和Y相互独立成立.六.条件分布1.二维离散型随机变量的条件分布p i j = p i p j ( i ,j =1,2,)对一切 xi ,y j 成立.f (x,y)=f x (x)f y (y)对(X,Y)所有可能取值(x,y)都定义 设(X,Y)是二维离散型随机变量，对于固定的j,若PY=yj>0,则称PXx“Yy.PY yPX=Xi |Y=y j为在Y= yj条件下随机变量

18、X的条件分布律.同样，对于固定的i,若PX=Xi>0,则称PY=y|X=x i PXXi，Yyj Pij一 心P£X为上一/邛 为在X=x条件下随机变h Y的条件分布律.一.数学期望和方差的定义随机变量X数学期望(均值)E(X)方差 D(X)=EX-E(X) 2=E(X2)-E(X) 1 2 3 4(函数数学期望E(Y)=Eg(X)标准差(X)= VD(X).二.数学期望与方差的性质第四章 随机变量的数字特征离散型随机变量分布律 PX=x i= p i ( i =1,2,)xi pi (级数绝对收敛)i 12xi E(X)2ri 1级数绝对收敛)(g(xi)pi (级数绝对收敛

19、)i 1连续型随机变量概率密度f (x)xf(x)dx(积分绝对收敛)x E(X)2 f (x)dx积分绝对收敛)g(x) f (x)dx (积分绝对收敛)士 Y)=D(X)+D(Y).D(X)p (1- p)n p (1- p) U(a,b)(a+b)/2(b-a)2/12服从参数为的指数分布 n样本k阶矩Ak Xik ( k=1,2,) 样本k阶中心矩Bk n i 1二.抽样分布即统计量的分布1. X的分布 不论总体X服从什么分布，E ( X ) = E(X) , D ( X ) = D(X) / n .特别，若 X N ( , 2)，则 X N ( , 2 /n).n2. 2分布(1)定

20、义 若XN (0,1 )，则Y = Xi2 2(n)自由度为n的2分布.i 1 (2)性质 若 Y 2(n),则 E(Y) = n , D(Y) = 2n . 若 Y 2(n1) Y2 2(n2),贝UY+Y 2(n1 + n?). 若X N ( , 2),则(n?S2 2(n-1),且X与S2相互独立. N ( , 2)2四.矩的概念随机变量X的k阶(原点)矩E(X k)k=1,2,随机变量X的k阶中心矩EX-E(X) k随机变量X和Y的k+l阶混合矩E(X kYl) 1=1,2,随机变量X和Y的k+l阶混合中心矩EX-E(X) k Y-E(Y) l 第六章样本和抽样分布一i.基本概念总体X

21、即随机变量X ;样本Xi ,X2，,X n是与总体同分布且相互独立的随机变量；样本值X1 ,x 2 ,X n为实数;n是样本容量.统计量是指样本的不含任何未知参数的连续函数.如: n nn 2样本标准差S1 n一(Xi X)k ( k=1,2,)n i 1样本均值X Xi样本方差S2 Xi Xn i 1n 1 i 1的点2(n), 12 (n), 2/2(n)和；/2(n)分别称为2分布的上、下、双侧 分位点.3. t分布定义若XN (0,1 ),Y2 (n),且X,Y相互独立，则t= 丁鼠t(n)自由度为n的t分Y n布.(2)性质ns时,t分布的极限为标准正态分布 XN ( , 2 )时，

22、人t(n-1).S n两个正态总体相互独立的样本样本均值样本方差X N ( i, i2 )且 12= 22= 2 X i ,X2,X n1S12Y- N ( 2, 22 )Y1 ,丫2,Yn2YS22则(X Y) ( 12)t (n 1+n-2),其中Sw(n1 . 1咫11n1 n22Sw一1】 血(3)分位点 若tt(n) ,0 <<1 ,则满足的点t (n), t (n), t /2(n)分别称t分布的上、下、双侧 分位点.注意：t 1- (n) = - t (n).22Un分布(1)定义 若U (n1), V(n2),且U,V相互独立，则F = -1F(m,n 2)自由度为

23、V1(n1,n2)的F分布.(2)性质(条件同3.(2)S； S；2212F(m-1,n 2-1) 分位点 若F F(n 1,n 2) ,0<<1,则满足的点 F (n1,n2), F1 (n1, n2), F /2(n1, n2)ffi F1 /2(n1, n2)分别称为 F分布的上、下、双侧 分、41位点.注息：F1(n1,n2)；F (n2.n1)第七章参数估计.点估计总体X的分布中有k个待估参数1, 2k.Xi ,X2 ,X n是X的一个样本，X 1 ,x 2,x n是样本值.1 .矩估计法11( 1， 2， k)11( 1，2，k)先求总体矩22( 1, 2, , k)解

24、此方程组，得到 22( 1, 2, , k)，kk( 1, 2, k)kk( 1,2,k)1( A1 , A2 ,Ak)以样本矩A取代总体矩 ( l=1,2,k)得到矩估计量22(A1,A2, Ak),kk (A1, A2, Ak )若代入样本值则得到矩估计值.2 .最大似然估计法若总体分布形式(可以是分布律或概率密度)为P(X, 1, 2,，k),称样本X ,X2，,X nn的联合分布L( 1, 2, , k)p(Xj, 1, 2, , k)为似然函数.取使似然函数达到最大值的1 11, 2, , k，称为参数1,2,，k的最大似然估计值，代入样本得到最大似然估计量.若L(1,2,，k)关于1,2,，k可微，则一般可由似然方程组 0或对数似然方程组 一1nL 0 (i =1,2,k)求出最大似然估计. ii3.估计量的标准(1) 无偏性若£(尸，则估计量称为参数的无偏估计量.不论总体X服从什么分布，E ( X )= E(X) , E(S 2)=D(X), E(A k)= k=E(Xk),即样本均值X ,样本方差S2,样本k阶矩A分别是总体均值E(X), 方差D(X)，总体k阶矩k的无偏估计，(2)有效性 若£( Q=E( 2)=,而D( )< D(2),则称估计量1比2