概率论基本公式

概率论与数理统计基本公式第一部分概率论基本公式精品资料1、 aba baab; aba( ba)例：证明：（ab)baaba bab.证明：由（ ab)b，知b不发生，a发生，则ab不发生，从而（ab)baab成立，也即a b成立，也即 ab成立。得证。2、对偶率：abab；abab.3、概率性率：(1)有限可加：a1、a2为不相容事件，则p( a1a2 )p( a1 )p( a2 )(2)p( ab)p( a)p( ab), 特别， ba时有：p( ab)p( a)p(b); p( a)p( b)（3 ） 对任意两个事件有：p( ab)p( a)p( b)p( ab )例：已知：p( a)0.5， p( a b)0.2， p(b)0.4.求：(1) p( ab ); p(ab); p( ab); p( ab )解： ababb,且b、a b是不相容事件，p( ab)p( ab)p( b)即p( ab)0.2., 又p( a)0.5,p( ab)p( a)p( ab)0.3p( ab)p( a)p(b)p(ab)0.7, p( ab)pab1p( ab)0.3.4、古典概型例： n双鞋总共 2n只，分为n堆，每堆为2只，事件a每堆自成一双鞋的概率2 n解：分堆法： c 2(2n)!,自成一双为：n！，则p( a)n!c2n（2n - 2)！2！ 25、条件概率p( b | a)p( ab)p( a), 称为在事件a条件下，事件b的条件概率，p( b)称为无条件概率。乘法公式：p(ab)p(a)p(b| a)p(ab)p(b)p(a| b)全概率公式：p(b)p(ai )p(b |iai )贝叶斯公式：p( ai| b)p( ai b)p(b)p( ai )p(b | ai )p( aj )p(b | aj )j例：有三个罐子，1 号装有 2 红 1 黑共 3 个球， 2 号装有 3 红 1 黑 4 个球， 3 号装有 2 红 2黑 4 个球，某人随机从其中一罐，再从该罐中任取一个球，（ 1 ）求取得红球的概率； （ 2 ） 如果取得是红球，那么是从第一个罐中取出的概率为多少？解：(1)设bi 球取自i号罐， i1,2,3。 a 取得是红球，由题知b1、 b2、b3是一个完备事件由全概率公式p( b)p( aii)p( b | ai)，依题意，有：p( a | b1 )2 ; p( a | b )233 ; p( a | b )1 .342p( b1 )p(b2 )p(b3 )1 ， p( a)30.639.( 2)由贝叶斯公式：p(b1 | a)p( a | b1 )p(b1 ) p( a)0.348.6、独立事件（1 ） p(ab)=p(a)p(b),则称 a、b 独立。(2) 伯努利概型如果随机试验只有两种可能结果：事件a 发生或事件a 不发生，则称为伯努利试验，即：p(a)=p,p( a)1pq(0p1,p+q=1)相同条件独立重复n 次，称之为n 重伯努利试验，简称伯努利概型。伯努利定理：b(k; n, p)ck pk (1p)n k（ k=0,1,2）n事件 a 首次发生概率为：p(1p)k 1例：设事件 a 在每一次试验中发生的概率为0.3 ，当 a 发生不少于3 次时，指示灯发出信号，（1 ）进行 5 次重复独立试验，求指示灯发出信号的概率；（ 2 ）进行了7 次重复独立试验， 求指示灯发出信号的概率。解：（1）设b55“5次独立试验发出指示信号”，则由题意有：p( b)c k pk (1i 3p) 5k，代入数据得：p( b)0.163(2) )设c“7次独立试验发出指示信号”，则由题意有：p(c )7c7k pk (1i 3p) 7 k271ck pk (1i 0p) nk ，代入数据，得：p(c)0.353第二章7、常用离散型分布（1 ）两点分布：若一个随机变量x 只有两个可能的取值，且其分布为：p xx1p; p xx2 1p（ 0p0 ）都是常数。分布函数为：f(x)(t1x e22)22dt,xx2.。当0,1时，称为标准正态分布，t 2概率密度函数为：（x)1e22, 分布函数为：(x)1x e 22dt.定理：设x n(,2 ), 则yx n(0,1)其期望 e(x)=,d(x)=2 。9、随机变量函数的分布（1）离散型随机变量函数分布一般方法：先根据自变量x 的所有可能取值确定因变量y 的所有可能值， 然后通过 y 的每一个可能的取值y i (i=1,2,)来确定 y 的概率分布。（2 ）连续型随机变量函数分布方法：设已知 x 的分布函数fx ( x) 或者概率密度f x ( x) ，则随 机 变 量y=g(x) 的 分 布 函 数fy ( y)pyyp g( x )yp xcy , 其 中c y x | g( x)y ，fy ( y)p xcy f x (x)dx ，进而可通过y 的分cy布函数fy ( y) ，求出 y 的密度函数。1| x |, 1x1例 ： 设 随 机 变 量x的 密 度 函 数 为f x ( x)0, 其 他， 求 随 机 变 量yx 21的 分 布 函 数 和 密 度 函。 数解：设fy ( y)和fy ( y)分别是随机变量y的分布函数和概率密度函数，则由1x1得：1 y2, 那么当 y1时fy ( y)p yyp x 21yp()0,当1y2时，得：y ( y)p yyp x 21ypy1xy1y 1(1| x |)dx0(1x) dxy 1(1x) dx2 y1( y1), 当y2时， f( y)pyy 1yp x 21yy 110dx01(1| x |)dx0dx1, 所以，fy ( y)y2y10, y( y-11),1y2,1111,1y21, y2f x ( x)fy ( y)y10, 其他10 、设随机变量xn(,2 ),y=axb也服从正态分布.即yaxb n (ab, (a) 2 ) 。11 、联合概率分布(1) 离散型联合分布：pij1ijxyy1y jpx=xi x1 xipy=y j p 11pi1ip1 jpijpi1ipijp1 jjpijj1(2)连续型随机变量函数的分布：例：设随机变量（ x，y）的密度函数1 (xy),0f (x, y)80,其他x2,0y2求 f (x),f ( y), e( x ), e(y ),cov(x ,y) ，xy ， d(x+y).解：当0 x2 时由f x ( x)x1/ 8(x0y） dy，得：f x (x）21/8x1 / 4 x，当x2 时，由f x ( x)00dy0dy20 ，所以，f( x)1/8x 21 / 4 x, 0x2x0, 其他同理可求得 :f y ( y )1/8y21 / 4 y , 0y20 ，其他； e(x)=2xxf(x） dx07/6 ,由对称性同理可求得，e(y)=7/6 。2因为 e(xy)=02xy f0( x, y)dxdy221/8xy(x00y)dxdy4/3.所以， cov （ x,y ） = e(xy)- e(x) e(y)=4/3-(7/6)2 =-1/36 。 d( x )e( x 2 ) e( x ) 222x200f ( x， y)dxdy( 7 ) 211636同理得 d(y)=11,所以，xy =36cov( x, y)1d( x )d(y)115d(x+y)=d(x)+d(y)+2cov(x,y)=912 、条件分布：若f ( x | a)p xx | ap xpx, a a, 称f (x |a)为在 a发生条件下，x的条件分布函数13 、随机变量的独立性：由条件分布设a=y y, 且 py y0, 则：f ( x | yyp xpyx,yy yf ( x, y)，设随机变量 （x,y ）的联合分布概率为f（ x,y ），fy ( y)边缘分布概率为fx ( x)、fy ( y) ，若对于任意x、y 有：p xx,yyp xx p yy ，即：f (x, y)f x ( x)fy ( y) ，则称 x 和 y 独立。14 、连续型随机变量的条件密度函数：设二维连续型随机变量（ x,y ）的概率密度为f ( x,y) ,边缘概率密度函数为f x ( x)、f y ( y) ，则对于一切使f x ( x) 0 的 x, 定义在 x=x 的条件下y的条件密度函数为：f y|x ( y | x)f (x, y)，同理得到定义在y=y 条件下x 的条件概率密f x (x)度函数为：f x |y ( x | y)f ( x, y)，若fy ( y)f ( x, y) =f x (x)fy ( y) 几乎处处成立，则称x,y 相互独立。例：设二维随机变量（x，y）的概率密度函数为：ce (2 xy ) , x0, y0f ( x, y)0, 其它，求（ 1）确定常数c；（ 2 ）x,y 的边缘概率密度函数；（3 ）联合分布函数f(x,y);(4)pyx;(5) 条件概率密度函数f x |y( x|y )；（ 6 ） px2|y0 ， d(y)0 ，则当且仅当存在常数a，b（ a0），使：p yaxb1时，|xy |1，而且 a0时，xy1; 当a0时，xy1.附注：xy0时，只能说明y与x之间不是线性关系，但可能有其他函数关系，从而不能推注y与x独立。 设 e=ey-( axb) 2 ,称为用 axb 来近似y 的均方差，则：设d(x)0 ，d(y)0, 有：cov( x ,y )a 0d( x ),b0e(y)a0 e (x ), 使均方误差达到最小。218 、切比雪夫不等式： 设随机变量x 的期望 e(x)= ,方差 d(x)=,则对于给定任意正数，有： p| x2|2，或者为：p| x2|12 .19 、大数定理：设随机变量x 1 ,x 2 ,x n相互独立，且具有相同的期望和方差：n21e( x i ), d( x i )， i=1,2,3， 记ynx i， 则 对 于 任 意0, 有 ：nlimnp| yn|1,推论 limp| n annp |i 11(其中na为n重伯努利中20 、中a发生的次数， p为概率。心极限定理；（ 1 ）设随机变量x 1 ,x 2 ,x n相互独立，服从同一分布，且e( x i ), d( x i )2， i=1,2,3，则：nxinni 1lim pnxx12e t / 2 dt.一个结论：nx ii 1/n2n (0,1)(2) 棣莫佛拉普拉斯定理：设随机变量x 1 ,x 2 ,x n相互独立， 并且都服从参数为p的两点分布，则对任意实数x，有：nxinpi 1lim pxx1e t 2 / 2 dt( x）nnp(1p)2第二部分数理统计21 、由于样本方差（或样本标准差）很好的反应总体方差（或标准差）的信息，因此，当2方差未知时，常用s 2 去估计，而总体标准差则常用样本标准差s 去估计。22 、常用统计分布（1 ）分位数：设随机变量x的分布函数f （ x ） , 对给定的实数（01), 若实数f满足p xf ,则称f为随机变量x分布的水平的上侧分位数，若实数t、2满足p| x |t 、2 , 则称t、2为随机变量x分布的的双侧分位数。2n（2）分布：设 x1, x 2,x n是取自总体n (0,1)的样本，称统计量xx22212x 2 服从自由度为 n的2 分布。 e(2 )n, d(2 )2n，（3） t分布 x n ( 0,1), y 2 (n), 且x和y相互独立，则称txy / n服从自由度为n的t分布。（4） f分布：设 x 2 (m), y 2 (n), 且x与y相互独立，则称fx / mnx服从自由度为（m, n)的f 分布，记：f f ( m, n)y / nmy 22 、抽样分布 a 、单正态总体抽样分布（1 ）设总体x n(，2 ), x1，x, 2，x n是取自x的一个样本，x 为该样本的样本均值， 则有：x n（，2 / n ); ux n (0,1)/n(2)设总体 x n (，2 ), x1， x,2，x n是取自x的一个样本, x 与s 2分别是该样本均值和样本方差，则有：2n122s2( n1); x与s2 相互独立。22（3）设总体 x n(，2 ), x1，x, 2，x n是取自x的一个样本, x 与s2 分别是该样本2均值和样本方差，则有：1n2( x ii 1)(n);txs/n t(n1).b、双正态总体抽样分布：s2(n1w1)s21n(n2n21) s2, 则（1）u( xy)(12222 ) n(0,1)121221s2/ n12 / n2( xy)()f22s122f (n11, n21);当122时， tsw1/ n1122 / n2 t (n1n22)23 、参数估计点估计：设x 1， x , 2，x n是取自x的一个样本，x1, x2 ,xn是相应的一组样本值，是总体分布的未知参数，为估计未知参数，需要构造一个适当的：( x 1 , x 2 ,x n ) ，然后观察值：( x1 , x2 ,xn ) 来估计，( x 1 , x 2 ,x n ) 称为的估计量，( x1 , x2 ,xn ) 称为的估计值，估计量和估计值统称为点估计。设( x 1,x 2 ,x n ) 是未知参数的估计量，若e(),则称为的无偏估计量，设x 1， x,2，x n是取自x的样本，总体x的均值为，方差为2，则：样本均值x 是的无偏估计量，样本方差s 2是2的无偏估计量，样本二阶中心矩1nn i 1( x ix ) 2 是2的无偏估计量。24 、点估计常用方法（1 ）矩估计法：先求e（ x ） ,得到一个e(x) 与未知参数的式子，用c2e(x) 表示未知参数，再把e(x) 用 x 代替即可。例：已知总体x 的概率分布为p xkk (1)k2k , k0,1,2,求参数的矩估计。解： e( x )nxi p xi 1k0x21x（2 1 -）（2 1-）22 - 2 ，1 - e( x )2用样本均值x 代替e(x )得到的矩估计为：1 - x 。2（2）最大似然估计：一般方法：a、写出最大似然函数l( x1 , x2 ,xn ;) ; b 令dl()dd ln l()0 或d0, 求出驻点；c、判断并求出最大值点，在最大值点得表达式中，用样本均值代入即得到参数的最大释然估计值。例：设总体x 的概率密度为f ( x)(1) x,0x1，其中（1)是未知参数，设x 1， x ,2，x n为一个样本，试求参数0,其它的矩估计量和最大似然估计量。解：e( x )1x(1)x dx1 ,12e (x ) , 用样本均值x 代替e( x )即0得到矩估计为：21 - 2 x ，x -1e( x )1设x1 , x2 ,12nxn 是相应样本x 1， x 2 ,x n的一组观察值，则最大似然函数为：l()(i 11) x(1) n ( x xxn ),取对数ln l()n ln(1)ln( x1 x2xn )n ln