概率统计课程笔记与习题汇编

概率统计课程笔记与习题汇编引言概率统计作为一门研究随机现象规律性的数学学科，其思想与方法已广泛渗透到自然科学、社会科学、工程技术乃至日常生活的方方面面。本笔记与习题汇编旨在梳理课程核心知识点，巩固理解，并通过习题实践提升应用能力。内容力求精炼准确，侧重概念的深刻理解与方法的灵活运用，希望能为读者提供一份有价值的学习参考资料。建议读者在学习过程中，结合教材与课堂讲授，勤于思考，多做练习，方能逐步领会概率统计的精髓。第一部分：概率论基础1.1随机事件与样本空间基本概念：我们将对随机现象的观察或实验称为随机试验，其具有三个特点：可重复性、结果的多样性且试验前无法预知确切结果。随机试验的所有可能结果组成的集合称为样本空间，通常记为Ω；样本空间中的每个元素，即试验的每个可能结果，称为样本点，记为ω。随机事件：样本空间Ω的子集称为随机事件，简称事件，通常用大写字母A,B,C等表示。事件A发生当且仅当A中包含的某个样本点出现。特别地，由单个样本点组成的集合称为基本事件；样本空间Ω本身称为必然事件；不包含任何样本点的空集∅称为不可能事件。事件的关系与运算：事件的关系与运算，类比集合论中的概念，主要有以下几种：*包含关系：若事件A发生必然导致事件B发生，则称A包含于B，记为A⊂B。*相等关系：若A⊂B且B⊂A，则称A与B相等，记为A=B。*并事件（和事件）：事件A与B至少有一个发生，记为A∪B或A+B。*交事件（积事件）：事件A与B同时发生，记为A∩B或AB。*差事件：事件A发生而事件B不发生，记为A-B。*互斥事件（互不相容事件）：若A∩B=∅，则称A与B互斥，即A与B不能同时发生。*对立事件（逆事件）：若A∪B=Ω且A∩B=∅，则称B是A的对立事件，记为B=Ā。显然，Ā=Ω-A。事件的运算满足交换律、结合律、分配律以及德摩根律（对偶律），这些运算规律在简化事件表达式和计算概率时非常重要。1.2概率的定义与性质概率的直观意义：概率是对随机事件发生可能性大小的度量。概率的公理化定义：设Ω是样本空间，对于Ω中的每一个事件A，赋予一个实数P(A)，若P(·)满足以下三条公理：1.非负性：对任意事件A，有P(A)≥0；2.规范性：P(Ω)=1；3.可列可加性：设A₁,A₂,...是两两互斥的事件，则P(∪Aᵢ)=ΣP(Aᵢ)。则称P(A)为事件A的概率。概率的性质：由概率的公理化定义可推导出以下重要性质：1.P(∅)=0。2.有限可加性：若A₁,A₂,...,Aₙ两两互斥，则P(∪Aᵢ)=ΣP(Aᵢ)。3.逆事件概率：P(Ā)=1-P(A)。此性质常用来简化计算，当直接计算P(A)困难时，可考虑计算P(Ā)。4.单调性：若A⊂B，则P(A)≤P(B)，且P(B-A)=P(B)-P(A)。5.加法公式：对任意两个事件A,B，有P(A∪B)=P(A)+P(B)-P(AB)。此公式可推广到多个事件的情形。1.3古典概型与几何概型古典概型：古典概型是一类最简单直观的概率模型，其特点是：1.样本空间Ω中样本点的个数有限（有限性）；2.每个样本点出现的可能性相等（等可能性）。在古典概型中，事件A的概率计算公式为：P(A)=A中包含的样本点个数/Ω中样本点总数=k/n。计算古典概型概率的关键在于准确确定样本空间和事件A所包含的样本点个数，常用到排列组合的知识。几何概型：当样本空间是一个可度量的几何区域（如线段、平面区域、空间立体），且每个样本点落在该区域内任意一点是等可能的（这里的等可能是指“均匀分布”），则称此类模型为几何概型。在几何概型中，事件A（即Ω中的某个子区域）的概率计算公式为：P(A)=A的度量（长度、面积、体积等）/Ω的度量。1.4条件概率与独立性条件概率：设A,B是两个事件，且P(B)>0，则在事件B发生的条件下，事件A发生的条件概率定义为：P(A|B)=P(AB)/P(B)。条件概率P(·|B)也满足概率的公理化定义及相应的性质。乘法公式：由条件概率的定义立即可得：P(AB)=P(B)P(A|B)，当P(B)>0时；P(AB)=P(A)P(B|A)，当P(A)>0时。乘法公式可推广到多个事件的积事件情形。全概率公式：设Ω为样本空间，A₁,A₂,...,Aₙ是一组两两互斥的事件，且∪Aᵢ=Ω，P(Aᵢ)>0(i=1,2,...,n)，则对任意事件B，有：P(B)=ΣP(Aᵢ)P(B|Aᵢ)。全概率公式的思想是将复杂事件B的概率分解为若干个简单事件概率的加权和。贝叶斯公式：在全概率公式的条件下，若P(B)>0，则对任一i(1≤i≤n)，有：P(Aᵢ|B)=P(Aᵢ)P(B|Aᵢ)/ΣP(Aⱼ)P(B|Aⱼ)。贝叶斯公式用于“由果溯因”，即在已知结果B发生的条件下，反推导致B发生的各个原因Aᵢ的概率。事件的独立性：若事件A与B满足P(AB)=P(A)P(B)，则称A与B相互独立。直观上，A与B独立意味着B的发生与否不影响A发生的概率，即P(A|B)=P(A)（当P(B)>0时），反之亦然。对于多个事件，需考虑两两独立、三三独立，直至相互独立，概念更为复杂。第二部分：随机变量及其分布2.1随机变量的概念与分布函数随机变量：为了便于运用数学工具研究随机现象，我们将随机试验的结果与实数对应起来，引入随机变量。随机变量是定义在样本空间Ω上的实值函数，通常用大写字母X,Y,Z等表示。随机变量的引入使得对随机事件的研究转化为对随机变量取值规律的研究。分布函数：设X是一个随机变量，x是任意实数，函数F(x)=P(X≤x)称为X的分布函数。分布函数F(x)具有以下基本性质：1.单调不减性：若x₁<x₂，则F(x₁)≤F(x₂)。2.规范性：F(-∞)=0，F(+∞)=1。3.右连续性：F(x+0)=F(x)。已知X的分布函数F(x)，可以计算X落在任意区间(a,b]内的概率：P(a<X≤b)=F(b)-F(a)。2.2离散型随机变量及其分布律离散型随机变量：若随机变量X的所有可能取值为有限个或可列无限个，则称X为离散型随机变量。分布律：设离散型随机变量X的所有可能取值为x₁,x₂,...，X取各个可能值的概率为P(X=xᵢ)=pᵢ,i=1,2,...，则称此为离散型随机变量X的分布律（或概率分布）。分布律常用表格形式表示，它具有以下性质：1.pᵢ≥0,i=1,2,...；2.Σpᵢ=1。离散型随机变量的分布函数F(x)是阶梯型函数，在每个可能取值点xᵢ处有跳跃，跳跃高度为pᵢ。常见离散型分布：*(0-1)分布（两点分布）：X~B(1,p)，其分布律为P(X=1)=p,P(X=0)=1-p,0<p<1。*二项分布：X~B(n,p)，描述n重伯努利试验中成功次数的分布，其分布律为P(X=k)=C(n,k)pᵏ(1-p)ⁿ⁻ᵏ,k=0,1,...,n。*泊松分布：X~P(λ)，λ>0，其分布律为P(X=k)=(λᵏe⁻λ)/k!,k=0,1,2,...。泊松定理表明，当n很大，p很小，np=λ适中时，二项分布B(n,p)可近似看作泊松分布P(λ)。*超几何分布：X~H(n,M,N)，描述不放回抽样中成功次数的分布。2.3连续型随机变量及其概率密度连续型随机变量：若存在非负可积函数f(x)，使得随机变量X的分布函数F(x)=∫₋∞ˣf(t)dt，则称X为连续型随机变量，f(x)称为X的概率密度函数，简称概率密度。概率密度的性质：1.f(x)≥0；2.∫₋∞⁺∞f(x)dx=1；3.P(a<X≤b)=∫ₐᵇf(x)dx；4.若f(x)在点x处连续，则F'(x)=f(x)。对于连续型随机变量，P(X=a)=0，即单点概率为零。因此，P(a≤X≤b)=P(a<X<b)=P(a≤X<b)=P(a<X≤b)。常见连续型分布：*均匀分布：X~U(a,b)，概率密度在区间(a,b)上为常数1/(b-a)，在区间外为0。*指数分布：X~E(λ)，λ>0，概率密度为f(x)=λe^(-λx)(x>0)，f(x)=0(x≤0)。指数分布具有“无记忆性”。*正态分布：X~N(μ,σ²)，概率密度为f(x)=[1/(σ√(2π))]e^[-(x-μ)²/(2σ²)]，-∞<x<+∞。其中μ为均值，σ²为方差。当μ=0,σ²=1时，称为标准正态分布N(0,1)，其分布函数通常记为Φ(x)，概率密度记为φ(x)。一般正态分布可通过标准化变换Z=(X-μ)/σ转化为标准正态分布。2.4随机变量函数的分布设X是一个随机变量，g(x)是一个已知函数，则Y=g(X)也是一个随机变量。我们需要根据X的分布求出Y的分布。*当X是离散型随机变量时，Y的分布律可直接由X的分布律求出。*当X是连续型随机变量时，通常可先通过X的概率密度f_X(x)求出Y的分布函数F_Y(y)，再对F_Y(y)求导得到Y的概率密度f_Y(y)。第三部分：多维随机变量及其分布3.1二维随机变量及其联合分布二维随机变量：设E是一个随机试验，样本空间为Ω，X和Y是定义在Ω上的两个随机变量，则称向量(X,Y)为二维随机变量（或二维随机向量）。联合分布函数：设(X,Y)是二维随机变量，对于任意实数x,y，二元函数F(x,y)=P(X≤x,Y≤y)称为二维随机变量(X,Y)的联合分布函数。联合分布函数具有相应的单调不减性、规范性、右连续性等性质。二维离散型随机变量：若二维随机变量(X,Y)的所有可能取值为有限对或可列无限对，则称(X,Y)为二维离散型随机变量。其联合分布律为P(X=xᵢ,Y=yⱼ)=pᵢⱼ,i,j=1,2,...，满足pᵢⱼ≥0且ΣΣpᵢⱼ=1。二维连续型随机变量：若存在非负可积二元函数f(x,y)，使得联合分布函数F(x,y)=∫₋∞ˣ∫₋∞ʸf(u,v)dudv，则称(X,Y)为二维连续型随机变量，f(x,y)称为联合概率密度函数。联合概率密度满足f(x,y)≥0且∫∫f(x,y)dxdy=1。3.2边缘分布与条件分布边缘分布：二维随机变量(X,Y)作为一个整体有联合分布，而X和Y各自也有自己的分布，称为边缘分布。对于离散型，X的边缘分布律为P(X=xᵢ)=Σⱼpᵢⱼ=pᵢ·；Y的边缘分布律为P(Y=yⱼ)=Σᵢpᵢⱼ=p·ⱼ。对于连续型，X的边缘概率密度f_X(x)=∫₋∞⁺∞f(x,y)dy；Y的边缘概率密度f_Y(y)=∫₋∞⁺∞f(x,y)dx。边缘分布函数可由联合分布函数或边缘分布律/密度得到。条件分布：在已知一个随机变量取值的条件下，另一个随机变量的分布称为条件分布。对于离散型，在Y=yⱼ条件下X的条件分布律为P(X=xᵢ|Y=yⱼ)=pᵢⱼ/p·ⱼ(p·ⱼ>0)。对于连续型，在Y=y条件下X的条件概率密度f_X|Y(x|y)=f(x,y)/f_Y(y)(f_Y(y)>0)。3.3随机变量的独立性独立性定义：设F(x,y)及F_X(x),F_Y(y)分别是二维随机变量(X,Y)的联合分布函数及边缘分布函数。若对于所有x,y，有F(x,y)=F_X(x)F_Y(y)，则称随机变量X和Y相互独立。对于离散型，X和Y独立等价于对所有i,j，pᵢⱼ=pᵢ·p·ⱼ。对于连续型，X和Y独立等价于f(x,y)=f_X(x)f_Y(y)几乎处处成立。3.4两个随机变量函数的分布已知二维随机变量(X,Y)的联合分布，求Z=g(X,