概率论与数理统计各章重点知识整理

1、概率论与数理统计各章重点知识整理第一章 概率论的基本概念一.基本概念随机试验e:(1)可以在相同的条件下重复地进行;(2)每次试验的可能结果不止一个,并且能事先明确试验的所有可能结果;(3)进行一次试验之前不能确定哪一个结果会出现.样本空间s: e的所有可能结果组成的集合. 样本点(基本事件):e的每个结果.随机事件(事件):样本空间s的子集.必然事件(s):每次试验中一定发生的事件. 不可能事件(f):每次试验中一定不会发生的事件.二. 事件间的关系和运算1.ab(事件b包含事件a )事件a发生必然导致事件b发生.2.ab(和事件)事件a与b至少有一个发生.3. ab=ab(积事件)事件a与

2、b同时发生.4. a-b(差事件)事件a发生而b不发生.5. ab=f (a与b互不相容或互斥)事件a与b不能同时发生.6. ab=f且ab=s (a与b互为逆事件或对立事件)表示一次试验中a与b必有一个且仅有一个发生. b=a, a=b .运算规则 交换律 结合律 分配律 德摩根律 三. 概率的定义与性质1.定义 对于e的每一事件a赋予一个实数,记为p(a),称为事件a的概率.(1)非负性 p(a)0 ; (2)归一性或规范性 p(s)=1 ;(3)可列可加性 对于两两互不相容的事件a1,a2,(a iaj=, ij, i,j=1,2,),p(a1a2)=p( a1)+p(a2)+2.性质

3、(1) p(f) = 0 , 注意: a为不可能事件 p(a)=0 . (2)有限可加性 对于n个两两互不相容的事件a1,a2,a n ,p(a1a2a n)=p(a1)+p(a2)+p(a n) (有限可加性与可列可加性合称加法定理)(3)若ab, 则p(a)p(b), p(b-a)=p(b)-p(a) . (4)对于任一事件a, p(a)1, p(a)=1-p(a) .(5)广义加法定理 对于任意二事件a,b ,p(ab)=p(a)+p(b)-p(ab) .对于任意n个事件a1,a2,a n+(-1)n-1p(a1a2a n)四.等可能(古典)概型1.定义 如果试验e满足:(1)样本空间的

4、元素只有有限个,即s=e1,e2,e n;(2)每一个基本事件的概率相等,即p(e1)=p(e2)= p(e n ).则称试验e所对应的概率模型为等可能(古典)概型.2.计算公式 p(a)=k / n 其中k是a中包含的基本事件数, n是s中包含的基本事件总数.五.条件概率1.定义 事件a发生的条件下事件b发生的条件概率p(b|a)=p(ab) / p(a) ( p(a)0).2.乘法定理 p(ab)=p(a) p (b|a) (p(a)0); p(ab)=p(b) p (a|b) (p(b)0). p(a1a2a n)=p(a1)p(a2|a1)p(a3|a1a2)p(a n|a1a2a n

5、-1) (n2, p(a1a2a n-1) 0)3. b1,b2,b n是样本空间s的一个划分(bibj=,ij,i,j=1,2,n, b1b2b n=s) ,则当p(b i)0时,有全概率公式 p(a)=当p(a)0, p(b i)0时,有贝叶斯公式p (bi|a)= . 六.事件的独立性 1.两个事件a,b,满足p(ab) = p(a) p(b)时,称a,b为相互独立的事件.(1)两个事件a,b相互独立 p(b)= p (b|a) .(2)若a与b,a与,与b, ,与中有一对相互独立,则另外三对也相互独立.2.三个事件a,b,c满足p(ab) =p(a) p(b), p(ac)= p(a)

6、 p(c), p(bc)= p(b) p(c),称a,b,c三事件两两相互独立. 若再满足p(abc) =p(a) p(b) p(c),则称a,b,c三事件相互独立.3.n个事件a1,a2,a n,如果对任意k (1kn),任意1i1i2i kn.有,则称这n个事件a1,a2,a n相互独立.第二章 随机变量及其概率分布一.随机变量及其分布函数1.在随机试验e的样本空间s=e上定义的单值实值函数x=x (e)称为随机变量.2.随机变量x的分布函数f(x)=pxx , x是任意实数. 其性质为:(1)0f(x)1 ,f(-)=0,f()=1. (2)f(x)单调不减,即若x1x2 ,则 f(x1

7、)f(x 2).(3)f(x)右连续,即f(x+0)=f(x). (4)px1xx2=f(x2)-f(x1).二.离散型随机变量 (只能取有限个或可列无限多个值的随机变量)1.离散型随机变量的分布律 px= x k= p k (k=1,2,) 也可以列表表示. 其性质为:(1)非负性 0pk1 ; (2)归一性 .2.离散型随机变量的分布函数 f(x)=为阶梯函数,它在x=x k (k=1,2,)处具有跳跃点,其跳跃值为p k=px=x k .3.三种重要的离散型随机变量的分布(1)x(0-1)分布 px=1= p ,px=0=1p (0p1) .(2)xb(n,p)参数为n,p的二项分布px

8、=k=(k=0,1,2,n) (0p0)三.连续型随机变量1.定义 如果随机变量x的分布函数f(x)可以表示成某一非负函数f(x)的积分f(x)=,- x ,则称x为连续型随机变量,其中f (x)称为x的概率密度(函数).2.概率密度的性质(1)非负性 f(x)0 ; (2)归一性 =1 ;(3) px 10).(3)xn (m,s2 )参数为m,s的正态分布 -x0.特别, m=0, s2 =1时,称x服从标准正态分布,记为xn (0,1),其概率密度 , 标准正态分布函数 , f(-x)=1-(x) .若xn (m,s2), 则z=n (0,1), px1z a= pzz a/2= a,则

9、点z a,-z a, z a/ 2分别称为标准正态分布的上,下,双侧a分位点. 注意：f(z a)=1-a , z 1- a= -z a.四.随机变量x的函数y= g (x)的分布1.离散型随机变量的函数 xx 1 x2 x k p kp 1 p2 p k y=g(x)g(x1) g(x2) g(x k) 若g(x k) (k=1,2,)的值全不相等,则由上表立得y=g(x)的分布律.若g(x k) (k=1,2,)的值有相等的,则应将相等的值的概率相加,才能得到y=g(x)的分布律.2.连续型随机变量的函数若x的概率密度为fx(x),则求其函数y=g(x)的概率密度fy(y)常用两种方法：(

10、1)分布函数法 先求y的分布函数fy(y)=pyy=pg(x)y=其中k(y)是与g(x)y对应的x的可能值x所在的区间(可能不只一个),然后对y求导即得fy(y)=fy /(y) .(2)公式法 若g(x)处处可导,且恒有g /(x)0 (或g / (x)0 ),则y=g (x)是连续型随机变量,其概率密度为 其中h(y)是g(x)的反函数 , a= min (g (-),g () b= max (g (-),g () .如果f (x)在有限区间a,b以外等于零,则 a= min (g (a),g (b) b= max (g (a),g (b) .第三章 二维随机变量及其概率分布 一.二维随

11、机变量与联合分布函数1.定义 若x和y是定义在样本空间s上的两个随机变量,则由它们所组成的向量(x,y)称为二维随机向量或二维随机变量.对任意实数x,y,二元函数f(x,y)=pxx,yy称为(x,y)的(x和y的联合)分布函数.2.分布函数的性质(1)f(x,y)分别关于x和y单调不减.(2)0f(x,y)1 , f(x,- )=0, f(-,y)=0, f(-,-)=0, f(,)=1 .(3) f(x,y)关于每个变量都是右连续的,即 f(x+0,y)= f(x,y), f(x,y+0)= f(x,y) .(4)对于任意实数x 1x 2 , y 1y 2px 1xx 2 , y 1yy

12、2= f(x2,y2)- f(x2,y1)- f(x1,y2)+ f(x1,y1)二.二维离散型随机变量及其联合分布律1.定义 若随机变量(x,y)只能取有限对或可列无限多对值(x i,y j) (i ,j =1,2, )称(x,y)为二维离散型随机变量.并称px= x i,y= y j = p i j为(x,y)的联合分布律.也可列表表示. 2.性质(1)非负性 0p i j1 . (2)归一性 . 3. (x,y)的(x和y的联合)分布函数f(x,y)= 三.二维连续型随机变量及其联合概率密度 1.定义 如果存在非负的函数f (x,y),使对任意的x和y,有f(x,y)= 则称(x,y)为

13、二维连续型随机变量,称f(x,y)为(x,y)的(x和y的联合)概率密度.2.性质 (1)非负性 f (x,y)0 . (2)归一性 .(3)若f (x,y)在点(x,y)连续,则(4)若g为xoy平面上一个区域,则.四.边缘分布1. (x,y)关于x的边缘分布函数 fx (x) = pxx , y= f (x , ) .(x,y)关于y的边缘分布函数 fy (y) = px0,则称px=x i |y=yj 为在y= yj条件下随机变量x的条件分布律.同样,对于固定的i,若px=xi0,则称py=yj|x=x i 为在x=xi条件下随机变量y 的条件分布律.第四章 随机变量的数字特征一.数学期

14、望和方差的定义随机变量x 离散型随机变量 连续型随机变量 分布律px=x i= pi ( i =1,2,) 概率密度f (x)数学期望(均值)e(x) (级数绝对收敛) (积分绝对收敛)方差d(x)=ex-e(x)2 =e(x2)-e(x)2 (级数绝对收敛) (积分绝对收敛)函数数学期望e(y)=eg(x) (级数绝对收敛) (积分绝对收敛)标准差s(x)=d(x) .二.数学期望与方差的性质1. c为为任意常数时, e(c) = c , e(cx) = ce(x) , d(c) = 0 , d (cx) = c 2 d(x) .2.x,y为任意随机变量时, e (xy)=e(x)e(y)

15、.3. x与y相互独立时, e(xy)=e(x)e(y) , d(xy)=d(x)+d(y) .4. d(x) = 0 px = c=1 ,c为常数.三.六种重要分布的数学期望和方差 e(x) d(x)1.x (0-1)分布px=1= p (0p1) p p (1- p)2.x b (n,p) (0p1) n p n p (1- p)3.x p(l) l l4.x u(a,b) (a+b)/2 (b-a) 2/125.x服从参数为q的指数分布 q q26.x n (m,s2) m s2四.矩的概念随机变量x的k阶(原点)矩e(x k ) k=1,2,随机变量x的k阶中心矩ex-e(x) k随机

16、变量x和y的k+l阶混合矩e(x ky l) l=1,2,随机变量x和y的k+l阶混合中心矩ex-e(x) k y-e(y) l 第六章 样本和抽样分布一.基本概念总体x即随机变量x ; 样本x1 ,x2 ,x n是与总体同分布且相互独立的随机变量;样本值x1 ,x2 ,x n为实数;n是样本容量.统计量是指样本的不含任何未知参数的连续函数.如：样本均值 样本方差 样本标准差s样本k阶矩( k=1,2,) 样本k阶中心矩( k=1,2,)二.抽样分布 即统计量的分布1.的分布 不论总体x服从什么分布, e () = e(x) , d () = d(x) / n .特别,若x n (m,s2 )

17、 ,则 n (m, s2 /n) .2.c2分布 (1)定义 若xn (0,1 ) ,则y = c2(n)自由度为n的c2分布.(2)性质 若y c2(n),则e(y) = n , d(y) = 2n .若y1 c2(n1) y2 c2(n2) ,则y1+y2 c2(n1 + n2).若x n (m,s2 ), 则 c2(n-1),且与s2相互独立. (3)分位点 若y c2(n),0 a 1 ,则满足 的点分别称为c2分布的上、下、双侧a分位点. 3. t分布(1)定义 若xn (0,1 ),y c2 (n),且x,y相互独立,则t=t(n)自由度为n的t分布.(2)性质n时,t分布的极限为

18、标准正态分布.xn (m,s2 )时, t (n-1) .两个正态总体 相互独立的样本 样本均值 样本方差x n (m1,s12 ) 且s12=s22=s2 x1 ,x2 ,x n1 s12y n (m2,s22 ) y1 ,y2 ,y n2 s22则 t (n1+n2-2) , 其中 (3)分位点 若t t (n) ,0 a1 , 则满足的点分别称t分布的上、下、双侧a分位点. 注意: t 1- a (n) = - t a (n).4.f分布 (1)定义 若uc2(n1), v c2(n2), 且u,v 相互独立,则f =f(n1,n 2)自由度为(n1,n2)的f分布.(2)性质(条件同3

19、.(2) f(n1-1,n2-1)(3)分位点 若f f(n1,n2) ,0 a 1,则满足的点分别称为f分布的上、下、双侧a分位点. 注意: 第七章 参数估计一.点估计 总体x的分布中有k个待估参数q1, q2, qk.x1 ,x2 ,x n是x的一个样本, x1 ,x2 ,x n是样本值.1.矩估计法先求总体矩解此方程组,得到,以样本矩al取代总体矩m l ( l=1,2,k)得到矩估计量,若代入样本值则得到矩估计值.2.最大似然估计法若总体分布形式(可以是分布律或概率密度)为p(x, q1, q2, qk),称样本x1 ,x2 ,x n的联合分布为似然函数.取使似然函数达到最大值的,称为参数q1, q2,qk的最大似然估计值,代入样本得到最大似然估计量. 若l(q1, q2, qk)关于q1, q2, qk可微,则一般可由似然方程组 或 对数似然方程组 (i