理学概率论与数理统计教程

[理学]概率论与数理统计教程茆诗松汇报人：AA2024-01-19目录CONTENTS概率论基本概念随机变量及其分布多维随机变量及其分布数理统计基本概念与方法假设检验与方差分析回归分析初步01概率论基本概念基本事件0102030405所有可能结果的集合，常用大写字母S表示。样本空间的子集，即某些可能结果的组合。包含样本空间中所有样本点的事件。只包含一个样本点的事件。不包含任何样本点的事件。样本空间与事件事件样本空间不可能事件必然事件描述事件发生的可能性大小的数值，常用P(A)表示事件A的概率。非负性、规范性（必然事件的概率为1，不可能事件的概率为0）、可加性（互斥事件的概率和等于它们并的概率）。概率定义及性质概率性质概率定义条件概率与独立性条件概率在给定另一事件发生的情况下，某一事件发生的概率，记作P(A|B)。事件的独立性如果两个事件的发生互不影响，则称这两个事件是独立的。对于独立事件A和B，有P(A|B)=P(A)和P(B|A)=P(B)。全概率公式贝叶斯公式全概率公式与贝叶斯公式在全概率公式的基础上，可以推导出贝叶斯公式，用于计算条件概率P(Bi|A)，即已知事件A发生的条件下，事件Bi发生的概率。具体表达式为P(Bi|A)=[P(A|Bi)P(Bi)]/P(A)。如果事件B1,B2,...,Bn构成一个完备事件组，且都具有正概率，则对任一事件A，有P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)。02随机变量及其分布定义随机变量是定义在样本空间上的实值函数，它将样本空间中的每一个样本点映射到一个实数。分类随机变量可分为离散型随机变量和连续型随机变量。离散型随机变量取值可列，而连续型随机变量取值充满一个区间。随机变量定义及分类离散型随机变量的分布律描述了随机变量取各个值的概率。分布律定义常见的离散型随机变量分布有伯努利分布、二项分布、泊松分布等。常见分布离散型随机变量分布律连续型随机变量的概率密度函数是一个非负可积函数，其在某区间内的积分值等于随机变量落在该区间内的概率。概率密度函数定义常见的连续型随机变量分布有均匀分布、指数分布、正态分布等。常见分布连续型随机变量概率密度函数函数分布定义随机变量函数的分布描述了由随机变量构成的函数的取值概率分布情况。求法求随机变量函数的分布通常需要先确定原随机变量的分布，然后根据函数关系进行变换和计算。随机变量函数分布03多维随机变量及其分布二维随机变量联合分布设$(X,Y)$是二维随机变量，对于任意实数$x,y$，二元函数$F(x,y)=P{(Xleqslantx)cap(Yleqslanty)}$称为二维随机变量$(X,Y)$的联合分布函数。联合分布函数如果二维随机变量$(X,Y)$的联合分布函数$F(x,y)$可微，则称函数$f(x,y)$为$(X,Y)$的联合概率密度。联合概率密度VS二维随机变量$(X,Y)$关于$X$的边缘分布函数定义为$F_X(x)=F(x,infty)$，关于$Y$的边缘分布函数定义为$F_Y(y)=F(infty,y)$。条件分布函数设二维随机变量$(X,Y)$的联合分布函数为$F(x,y)$，关于$Y$的边缘分布函数为$F_Y(y)$。若对于固定的$y$，$F_Y(y)>0$，则称$F_{X|Y}(x|y)=frac{F(x,y)}{F_Y(y)}$为在$Y=y$条件下$X$的条件分布函数。边缘分布函数边缘分布与条件分布如果二维随机变量$(X,Y)$的联合分布函数等于各自边缘分布函数的乘积，即$F(x,y)=F_X(x)F_Y(y)$，则称随机变量$X$和$Y$是相互独立的。如果二维随机变量$(X,Y)$不是相互独立的，则称它们是相关的。可以通过计算相关系数来衡量它们之间的线性相关程度。独立性相关性独立性及相关性多维随机变量的函数设$(X_1,X_2,ldots,X_n)$是$n$维随机变量，如果存在一个$n$元实值函数$g(x_1,x_2,ldots,x_n)$，使得$Z=g(X_1,X_2,ldots,X_n)$是一个一维随机变量，则称$Z$是$(X_1,X_2,ldots,X_n)$的函数。要点一要点二多维随机变量函数的分布多维随机变量函数的分布可以通过求解其分布函数或概率密度来得到。具体方法包括直接法、变换法和卷积法等。多维随机变量函数分布04数理统计基本概念与方法总体研究对象的全体个体组成的集合，具有共同的分布规律。样本从总体中随机抽取的一部分个体组成的集合，用于推断总体的性质。样本容量样本中个体的数目，对统计推断的精度和可靠性有重要影响。总体与样本统计量统计量的性质统计量及其性质由样本观测值计算得到的用于描述样本特征的量，如样本均值、样本方差等。包括无偏性、有效性和一致性等，用于评价统计量的优良程度。大数定律当样本容量足够大时，样本均值趋近于总体均值，为统计推断提供了理论依据。中心极限定理当样本容量足够大时，不论总体分布如何，样本均值的分布近似于正态分布，为参数估计和假设检验提供了重要工具。抽样分布定理点估计用样本统计量的某个具体数值来估计总体参数的方法，如最大似然估计、最小二乘估计等。区间估计根据样本统计量的抽样分布和概率理论，构造出包含总体参数真值的置信区间的方法。置信区间具有概率意义，表示参数真值落在该区间内的概率大小。参数估计方法05假设检验与方差分析原假设与备择假设01在假设检验中，原假设（H0）通常表示总体参数等于某个特定值或两个总体参数相等，而备择假设（H1）则表示总体参数不等于该特定值或两个总体参数不相等。检验统计量与拒绝域02检验统计量是根据样本数据计算出的用于判断原假设是否成立的统计量。拒绝域是检验统计量取值的范围，当检验统计量落入拒绝域时，我们拒绝原假设。显著性水平与第一类错误03显著性水平（α）是事先设定的一个概率值，用于控制第一类错误（即错误地拒绝原假设）的概率。假设检验基本原理用于检验单个总体均值是否等于某个特定值。通过计算样本均值与特定值的差异，并除以样本标准误差，得到t统计量。根据t分布表或计算得到的p值进行决策。单样本t检验用于比较两个独立样本或配对样本的均值是否存在显著差异。对于独立样本t检验，需要计算两个样本的均值差并除以合并标准误差；对于配对样本t检验，需要计算每对数据的差值均值并除以差值的标准误差。根据t分布表或计算得到的p值进行决策。双样本t检验单样本t检验和双样本t检验F检验用于比较两个或多个总体方差是否存在显著差异。通过计算各组方差之间的比值，得到F统计量。根据F分布表或计算得到的p值进行决策。χ^2检验主要用于检验分类变量之间的独立性或拟合优度。通过计算实际观测值与理论期望值之间的差的平方和，得到χ^2统计量。根据χ^2分布表或计算得到的p值进行决策。F检验和χ^2检验123单因素方差分析方差分析基本原理多因素方差分析方差分析原理及应用方差分析是一种通过比较不同组别之间均值的差异来检验总体均值是否存在显著差异的方法。它将总变异分解为组内变异和组间变异两部分，通过比较两者的大小来判断组别之间的差异是否显著。用于研究单个因素对因变量的影响。通过计算各组均值之间的差异以及组内变异，得到F统计量并进行决策。用于研究多个因素对因变量的影响以及因素之间的交互作用。通过构建包含多个因素的模型，并进行逐步回归分析或多元方差分析等方法进行决策。06回归分析初步变量关系描述模型建立模型假设一元线性回归模型建立通过散点图等工具直观展示两个变量之间的关系，为建立一元线性回归模型提供依据。根据最小二乘法原理，建立一元线性回归模型，即$y=beta_0+beta_1x+epsilon$，其中$beta_0$和$beta_1$为待估参数，$epsilon$为随机误差项。为确保模型的适用性和有效性，需要满足一些基本假设，如误差项的独立性、同方差性等。采用最小二乘法进行参数估计，得到$beta_0$和$beta_1$的估计值$b_0$和$b_1$，并计算相关统计量如$R^2$、$F$值等。参数估计通过构造$t$统计量或$F$统计量，对回归系数进行显著性检验，判断自变量对因变量的影响是否显著。假设检验对残差进行图形化展示和统计分析，检验模型假设的合理性。残差分析参数估计与假设检验预测利用已建立的回归模型，对新的自变量数据进行预测，得到因变量的预测值及置信区间。控制根据预测结果和实际需求，制定相应的控制措施，如调整自变量取值范围、优化模型参数等。应用举例结合具体案例，展示一元线性回归模型在预测和控