概率论与数理统计总结

-.z.随机事件与概率随机事件及其运算随机现象：在一定条件下，并不总是出现一样结果的现象样本空间：随机现象的一切可能根本结果组成的集合，记为Ω={ω},其中ω表示根本结果，又称为样本点。随机事件：随机现象的*些样本点组成的集合常用大写字母A、B、C等表示，Ω表示必然事件，∅表示不可能事件。随机变量：用来表示随机现象结果的变量，常用大写字母*、Y、Z等表示。时间的表示有多种：用集合表示，这是最根本形式用准确的语言表示用等号或不等号把随机变量于*些实属联结起来表示6、事件的关系〔1〕包含关系：如果属于A的样本点必属于事件B，即事件A发生必然导致事件B发生，则称A被包含于B，记为A⊂B;〔2〕相等关系：假设A⊂B且B⊃A，则称事件A与事件B相等，记为A＝B。〔3〕互不相容：如果A∩B=∅，即A与B不能同时发生，则称A与B互不相容7、事件运算〔1〕事件A与B的并：事件A与事件B至少有一个发生，记为A∪B。〔2〕事件A与B的交：事件A与事件B同时发生，记为A∩B或AB。〔3〕事件A对B的差：事件A发生而事件B不发生,记为A－B。用交并补可以表示为。〔4〕对立事件：事件A的对立事件〔逆事件〕，即"A不发生〞，记为。对立事件的性质：。8、事件运算性质：设A，B，C为事件，则有〔1〕交换律：A∪B=B∪A，AB=BA〔2〕结合律：A∪(B∪C)=(A∪B)∪C=A∪B∪CA(BC)=(AB)C=ABC〔3〕分配律：A∪(B∩C)＝(A∪B)∩(A∪C)、A(B∪C)＝(A∩B)∪(A∩C)=AB∪AC〔4〕棣莫弗公式〔对偶法则〕：9、事件域：含有必然事件Ω

，并关于对立运算和可列并运算都封闭的事件类ξ称为事件域，又称为σ代数。具体说，事件域ξ满足：〔1〕Ω∈ξ;(2)假设A∈ξ，则对立事件∈ξ；〔3〕假设An∈ξ，n=1,2，···，则可列并ξ

。10、两个常用的事件域：〔1〕离散样本空间〔有限集或可列集〕内的一切子集组成的事件域；〔2〕连续样本空间〔如R、R2等〕内的一切博雷尔集〔如区间或矩形〕逐步扩展而成的事件域。概率的定义及其确定方法1、概率的公理化定义：定义在事件域ξ上的一个实值函数P〔A〕满足：〔1〕非负性公理：假设A∈ξ，则P(A)≥0；〔2〕正则性公理：P(Ω)＝1〔3〕可列可加性公理：假设A,，A2，···，A3互不相容，则有，即，则称P〔A〕为时间A的概率，称三元素〔Ω，ξ，P〕为概率空间2、确定概率的频率方法：〔是在大量重复试验中，用频率的稳定值去获得频率的一种方法〕它的根本思想是：〔1〕与考察事件A有关的随机现象可大量重复进展；在n次重复试验中，记n(A)为事件A出现的次数，称fn(A)=，为事件A出现的频率；频率的稳定值就是概率；当重复次数n较大时，可用频率作为概率的估计值。3、确定概率的古典方法：它的根本思想是：所涉及的随机现象只有有限个样本点，譬如为n个；每个样本点发生的可能性相等〔等可能性〕；假设事件A含有k个样本点，则事件A的概率为P〔A〕=。4、确定概率的几何方法：它的根本思想是：如果一个随机现象的样本空间充满*个区域，其度量〔长度、面积、体积等〕大小可用Sn表示；任意一点落在度量一样的子区域内是等可能的；假设事件A为中*个子区域，且其度量为SA,则事件A的概率为P〔A〕=.5、确定概率的主观方法：一个事件A的概率P〔A〕使人们根据经历，对该事件发生的可能性大小所做出的个人信念。6、概率是定义在事件域ξ上的集合函数，且满足三条公理。前三种确定概率的方法自动满足三条公理，而主观方法确定概率要加验证，假设不满足三条公理就不能称为概率。第三节概率的性质：P(Φ)＝0有限可加性：假设有限个事件A,，A2，···，A3互不相容，则有，对立事件的概率：对任一事件A，有减法公式〔特定场合〕：假设AB,则P(A－B)＝P(A)－P(B)单调性：假设AB，则P〔A〕P〔B〕减法公式〔一般场合〕：对任意两个事件A、B，有P(A－B)＝P(A)－P(AB)加法公式：对任意两个事件A、B，有P(A+B)=P(A)+P(B)-P(AB)。对任意n个事件A1，A2，···，An，有半可加性：对任意两个事件A、B，有.事件序列的极限：对ξ

中任一单调不减的事件序列，称为可列并为极限{Fn}的极限事件，记为。对ξ

中任一单调不增的事件序列，称为可列交为极限{En}的极限事件，记为。假设,则称概率P是上连续的概率的连续性：假设P为事件域ξ

上的概率，则P既是上连续的，又是下连续的假设P是ξ上满足P〔Ω〕=1的非负集合函数，则P是可列可加性的充要条件是P具有有限可加性和下连续性。第四节条件概率1、条件概率：设A、B是两个事件，假设P(A)>0，则称P(A|B)=为事件B发生条件下，事件A发生的条件概率。条件概率是概率的一种，所有概率的性质都适合于条件概率。2、乘法公式：〔1〕假设P(B)>0,P(AB)=P(B)P(A|B)〔2〕假设P(A1A2…An-1)>0…………。3、全概率公式：设事件互不相容，且，如果，则对任一事件A有，i=1,2,···，n。。4、贝叶斯共公式：设事件，，…，互不相容，且，如果P〔A〕>0，,则，i=1，2，…n。此公式即为贝叶斯公式。，〔，，…，〕，通常叫Bi的先验概率。，〔，，…，〕，通常称为Bi的后验概率。第五节独立性1、两个事件的独立性：如果满足，则称事件、是相互独立的，简称A与B独立。否则称A与B不独立或相依。假设事件、相互独立，且，则有2、假设事件、相互独立，则可得到与、与、与也都相互独立。必然事件和不可能事件Ø与任何事件都相互独立。Ø与任何事件都互斥。3、多个事件的独立性：设有n个事件A1，A2，···，An，如果对任意的1I<j<k<···n，以下等式均成立则称此n个事件A1，A2，···，An相互独立。4、假设n个事件相互独立，则其任一局部与另一局部也相互独立。特别把其中局部换为对立事件后，所得诸事件亦相互独立。5、试验的独立性：假设实验E1的任一结果〔事件〕与试验E2的任一结果〔事件〕都是相互独立的事件，则称这两个试验相互独立。6、n重独立重复试验：假设一个试验重复进展n次，并各次试验间相互独立，则称其为n次独立重复试验。假设一个试验只可能有两个结果：A与，则称其为伯努利试验。假设一个伯努利试验重复进展n次，并各次试验间相互独立，则称其为n重伯努利试验。随机变量及其分布随机变量及其分布随机变量：定义在样本空间Ω上的实值函数*=*(ω)称为随机变量。离散随机变量：仅取有限个或可列个值的随机变量连续随机变量:取值充满*个空间〔a，b〕的随机变量。这里a可为-∞，b可为+∞。2、分布函数：设*是一个随机变量，对任意实数*，称函数为*的分布函数，记为*~F(*)。分布函数具有如下三条根本性质：单调性：F〔*〕是单调非减函数，即对任意的*1<*2,有F(*1)F(*2)；右连续性：F〔*〕是*的右连续函数，即对任意的*0，有，即F(*0+0)=F(*0)；有界性:对任意的*，有0≤F(*)≤1，且F(-∞)==0，F(+∞)==1可以证明：具有上述三条性质的函数F〔*〕一定是*一个随机变量的分布函数。如果将*看作数轴上随机点的坐标，则分布函数F(*)的值就表示*落在区间内的概率3、离散型随机变量的概率分布列:假设离散型随机变量的可能取值为*n(n=1,2,…)则称*取*i的概率为Pi=P(*i=)P(*=*i)，i=1,2,…，则称上式为离散型随机变量的概率分布列，简称分布列。有时也用列表的形式给出：。分布列具有两条根本性质：非负性;，〔2〕正则性:。离散随机变量*的分布函数，它是有限级或可列有限级阶梯函数。离散随机变量*取值于区间〔a，b]上的概率为P(a<*≤b)=F(a)-F(b).常数c可看作仅取一个值的随机变量*，即P(*=c)=1，它的分布常称为单点分布或退化分布。4、连续随机变量的概率密度函数:记连续随机变量*的分布函数是F(*)，假设存在非负可积函数p〔*〕，对任意实数*，有，则称为连续型随机变量。p〔*〕称为的概率密度函数，简称密度函数。密度函数p〔*〕具有下面2个根本性质：非负性:;正则性：。5、离散分布：分布在离散场合可以是分布列或分布函数；连续分布：分布在连续场合可以是密度函数或分布函数。存在既非离散又非连续的分布。6、设随机变量*的分布函数F(*)，则可用F(*)表示以下概率：〔1〕P(*≤a)=F(a)；〔2〕P(*<a)=F(a-0)；〔3〕P(*>a)=1-P(*≤a)=1-F(a)；(4)P(*=a)=P(*≤a)-P(*<a)=F(a)-F(a-0);(5)P(*≥a)=1-P(*<a)=1-F(a-0);(6)P(|*|<a)=P(-a<*<a)=P(*<a)-P(*≤-a)=F(a-0)-F(-a).第二节随机变量的数学期望数学期望：设随机变量*的分布列p〔*i〕或用密度函数p〔*〕表示，假设，则称E(*)=为*的数学期望，简称期望或均值，且称*的数学期望存在。否则数学期望不存在。数学期望是有分布决定的，它是分布的位置特征。如果两个随机变量同分布，则其数学期望〔存在的话〕是相等的。期望相当于重心。数学期望的性质：假设数学期望存在，*的*一函数g〔*〕的数学期望为假设C为常数，则E(C)=C对任意常数C，有E(C*)=CE(*)对任意的两个函数g1〔*〕和g2〔*〕，E[g1〔*〕±g2〔*〕]=E[g1〔*〕]±E[g2〔*〕]E(*+Y)=E(*)+E(Y)，E(*Y)=E(*)E(Y)，充分条件：*和Y独立；充要条件：*和Y不相关。第三节随机变量的方差与标准差方差：随机变量*对其期望E〔*〕的偏差平方的数学期望〔设其存在〕Var〔*〕=E[*-E(*)]2称为*的方差，方差的正平方根σ〔*〕=σ*=称为*的标准差。方差是由分布决定的，它是分布的散布象征，方差越大，分布就越散；方差越小，分布就越集中。标准差与方差的功能相似，只是量纲不同。方差的性质：假设方差存在，Var〔*〕=E(*2)-[E(*)]2假设c是常数，则Var〔c〕=0Var〔a*+b〕=a2Var〔*〕假设随机变量*的方差存在，则Var〔*〕=0的充要条件是*几乎处处为*个常数a，即P〔*=a〕=1假设*,Y相互独立，则D(*±Y)=D(*)+D(Y)切比雪夫不等式:设*的数学期望和方差都存在，则对任意常数ε>0,有,或。切比雪夫不等式给出随机变量取值的大偏差〔指事件{|*-E(*)|≥ε}〕发生的概率的上限，该上限于分布的方差成正比。随机变量的标准化：对任意随机变量*，如果*的数学期望和方差存在，则称为*的标准化随机变量，此时有E(**)=0，Var〔**〕=1。第四节常用离散分布二项分布：设随机变量*的概率分布列为，，其中，则称随机变量服从参数为，的二项分布。记为。背景：重贝努里试验中成功的次数服从参数为，的二项分布。记为，其中p为一次伯努利试验中成功发生的概率。n=1时的二项分布B〔1，p〕称为二点分布，或0-1分布，〔0-1〕分布是二项分布的特例。当*～B〔1，p〕时，*可表示一次伯努利试验中成功的次数，它只能取0或1。二项分布B〔1，p〕的数学期望和方差分别是：E(*)=np，Var〔*〕=np〔1-p〕。假设，则Y=n-*～B〔n，1-p〕，其中Y=n-*是n重伯努利试验中失败的次数。泊松分布：设随机变量的概率分布列为，k=0,1,2，···，则称随机变量服从参数为的泊松分布，记为*～P()，其中参数。背景：单位时间〔或单位面积、单位产品等〕上*稀有事件〔这里的稀有事件是指不经常发生的事件〕发生的次数服从泊松分布P()，其中为该稀有事件发生的强度。泊松分布P()的数学期望和方差分别是：E(*)=,Var〔*〕=。二项分布的泊松近似〔泊松定理〕：在n重伯努利试验中，记事件A在一次试验中发生的概率为pn〔与试验次数n有关〕，如果当n+∞时，有npn，则。超几何分布假设*的概率分布列为，k=0,1，···，r。则称*服从超几何分布，记为*～h〔n，N,M〕,其中r=min{M，n}，且M≤N，n≤N。n，N,M均为正整数。背景：设有N个产品，其中有M个不合格品。假设从中不放回的随机抽取n个，则其中含有的不合格品的个数*服从超几何分布h〔n，N,M〕。超几何分布h〔n，N,M〕的数学期望和方差分别是:E〔*〕=,Var〔*〕=。超几何分布的二项近似：当n<<N时，超几何分布h〔n，N,M〕可用二项分布b〔n，M/N〕近似，即，其中p=M/N。实际应用中，再不返回抽样时，常用超几何分布描述抽搐样哦泥中不合格品数的分布；在返回抽样时，常用二项分布b〔n，p〕描述抽出样品中不合格聘书的分布；当批量N较大，而抽出样品数n较小时，不返回抽样可近似看成返回抽样。几何分布：假设*的概率分布列为P〔*=k〕=〔1-p〕k-1p，k=1,2，···，则称为*服从几何分布，记为*～Ge〔p〕，其中0<p<1.背景：在伯努利试验序列中，成功事件A首次出现时的试验次数*服从几何分布Ge〔p〕，其中p为每次试验中事件A发生的概率。几何分布Ge〔p〕的数学期望和方差分别是;E(*)=,Var(*)=。几何分布的无记忆性：假设*～Ge〔p〕，则对任意正整数m与n有P(*>m+n|*>m)=P(*>n)。负二项分布：假设*的概率分布列为，k=r，r+1，···。则称*服从负二项分布或巴斯卡分布，记为*～Nb〔r，p〕，其中r为正整数，0<p<1。背景：在伯努利试验序列中，成功事件A第r次出现时的试验次数*服从负二项分布Nb〔r，p〕，其中p为每次试验中事件A发生的概率。r=1时的负二项分布为几何分布，即Nb〔r，p〕=Ge〔p〕。负二项分布Nb〔r，p〕的数学期望和方差分别是:E(*)=r/p,Var(*)=r(1-p)/p2。负二项分布的随机变量可以表示成r个独立同分布的几何分布随机变量之和，即假设*～Nb〔r，p〕，则*=*1+*2+···+*r，其中*1，*2，···，*r是相互独立、服从几何分布Ge〔p〕的随机变量。常用离散分布表分布列pk期望方差0-1分布pk=pk〔1-p〕1-k，k=0,1p二项分布pk=k=0,1，···，nnp泊松分布pk=k=0,1，···几何分布pk=P〔*=k〕=〔1-p〕k-1p，k=1,2，···，超几何分布pk=k=0,1，···，r。r=min{M，n}负二项分布Nb〔r，p〕pk=k=r，r+1，···。r/pr(1-p)/p2第五节常用连续分布正态分布假设*的密度函数和分布函数分别为，-∞<*<+∞;,-∞<*<+∞;则称*服从正态分布，记作*～N〔μ，σ2〕，其中参数-∞<μ<+∞，σ>0。〔2〕背景：一个变量假设是由大量微小的、独立的随机因素的叠加结果，则此变量一定是正态变量〔服从正态分布的变量〕。测量误差就是量具偏差、测量环境的影响、测量技术的的影响等因素随机因素叠加而成的，所以测量误差常认为服从正态分布。关于参数μ：μ是正态分布的数学期望，即E〔*〕=μ，称μ为正态分布的位置参数。μ是正态分布的对称中心，在μ的左侧和p〔*〕下的面积为0.5；在μ的右侧和p〔*〕下的面积为0.5；所以μ也是正态分布的中位数假设*～N〔μ，σ2〕，则*在离μ越近取值的可能性越大，离μ越远取值的可能性越小关于参数σ：σ2是正态分布的方差，即Var〔*〕=σ2；σ是正态分布的标准差，σ越小，正太分布越集中；σ越大，正态分布越分散；σ又称为正态分布的尺度参数假设*～N〔μ，σ2〕，则其密度函数p〔*〕在μ±σ处有两个拐点标准正态分布：称μ=0，σ=1时的正态分布N〔0,1〕；记U为标准正态变量，φ(u)和Φ(u)为标准正态分布的密度函数和分布函数。φ(u)和Φ(u)满足：φ(-u)=φ(u)Φ(-u)=1-Φ(u)。对u>0,Φ(u)的值有表可查标准化变换：假设*～N〔μ，σ2〕，则U=〔*-μ〕/σ～N〔0,1〕，其中U=〔*-μ〕/σ称为*的标准化变换假设*～N〔μ，σ2〕，则对任意实数a与b，有P〔*≤b〕=，P〔a<*〕=1-,P〔a<*≤b〕=-。正态分布的3σ原则：设*～N〔μ，σ2〕，则P〔|*-μ|<kσ〕=Φ(k)—Φ(-k)=均匀分布假设*的密度函数和分布函数分别为则称*服从区间〔a，b〕上的均匀分布，记作*～U〔a，b〕。背景：向区间〔a，b〕随机投点，落点坐标*一定服从均匀分布U〔a，b〕。"随即投点〞指：点落在任意相等长度的小区间上的可能性是相等的。均匀分布U〔a，b〕的数学期望和方差分别是E〔*〕=，Var〔*〕=。称区间〔0,1〕上的均匀分布U〔0,1〕为标准均匀分布，它是导出其他分布随机数的桥梁指数分布假设*的密度函数和分布函数分别为则称为*服从指数分布，记作*～E*p〔λ〕，其中参数λ>0。背景：假设一个元器件〔或一台设备、或一个系统〕遇到外来冲击时即告失效，则首次冲击来到的时间*〔寿命〕服从指数分布。指数分布E*p〔λ〕的数学期望和方差分别是E(*)=,Var(*)=。指数分布的无记忆性：假设*～E*p〔λ〕，则对任意s>0,t>0,有P〔*>s+t|*>s〕=P(*>t)。伽玛分布伽玛函数：称〔〕=为伽玛函数，其中参数>0。伽玛函数具有如下性质：〔1〕=1；〔1/2〕=；〔+1〕=〔〕；〔n+1〕=n〔n〕=n！〔n为自然数〕。伽玛分布：假设*的密度函数为即称*服从伽玛分布，记作*～Ga〔，λ〕，其中>0为形状参数，λ>0为尺度参数。背景：假设一个元器件〔或一台设备、或一个系统〕能抵挡一些外来冲击，但遇到第k次冲击时即告失效，则第k次冲击来到的时间*〔寿命〕服从形状参数为k的伽玛分布Ga〔k，λ〕。伽玛分布Ga〔，λ〕的数学期望和方差分别为E〔*〕=，Var〔*〕=。伽玛分布的两个特例:=1时的伽玛分布就是指数分布，即Ga〔1，λ〕=E*p〔λ〕。称=n/2，λ=1/2时的伽玛分布为自由度为n的χ2〔卡方〕分布，记为χ2〔n〕，其密度函数为，χ2〔n〕分布的期望和方差分别是E(*)=n，Var〔*〕=2n。假设形状参数为整数k，则伽玛变量可以表示成k个独立同分布的指数变量之和，即假设*～Ga〔k，λ〕，则*=*1+*2+···+*k是相互独立且都服从指数分布E*p〔λ〕，的随机变量。贝塔分布贝塔函数:称B〔a，b〕=为贝塔函数，其中参数a>0,b>0。贝塔函数具有如下性质：①B〔a，b〕=B〔b，a〕；②B〔a，b〕=。贝塔分布：假设*的密度函数为，则称*服从贝塔分布，记作*～Be〔a，b〕，其中a>0,b>0都是形状参数。背景：很多比率，如产品的不合格率、机器的维修率、射击的命中率等都是在区间〔0，1〕上取值的随机变量，贝塔分布Be〔a，b〕可供描述这些随机变量之用。贝塔分布Be〔a，b〕的数学期望和方差分别是，a=b=1时的贝塔分布就是区间〔0,1〕上的均匀分布，即Be〔1,1〕=U〔0,1〕。6、常见连续分布表密度函数p〔*〕期望方差正态分布，-∞<*<+∞均匀分布U〔a，b〕指数分布E*p〔λ〕伽玛分布Ga〔，λ〕χ2〔n〕分布n2n贝塔分布Be〔a，b〕对数正态分布LN(μ，σ2)*>0柯西分布Cau(μ,λ),-∞<*<+∞不存在不存在韦布尔分布Wei〔m，η〕P〔*〕=F