机器学习数学基础：概率论基础课件

1、数学基础第五讲概率论基础SXT概率论初步01.基本概念02.随机变量03.随机变量的数字特征04.大数定理和中心极限定理01基本概念（1）随机现象在一定的条件下可能出现也可能不出现的现象（2）随机试验进行一次试验，如果其所得结果不能完全预知，但其全体可能结果是已知的特点：可重复性可观察性随机性： 随机试验的每一个可能的结果称为一个样本点，它们的全体，称为样本空间，习惯上分别用 与 表示样本点与样本空间。（3）样本空间样本空间的任意一个子集称为随机事件, 简称“事件”.记作A、B、C等（4）随机事件（5）古典概型与概率古典概型 设为试验E的样本空间，若 （有限性）只含有限个样本点; （等概性）每

2、个基本事件出现的可能性相等; 古典概型概率的定义 概率的性质：非负性规范性(6) 条件概率.推广:条件概率的乘法公式设A1，, An是的一个划分，且P(Ai)0，(i1，n)，则对任何事件B 有 （7）全概率公式（7）Bayes公式称为后验概率,它是得到了信息 发生, 再对导致 A 发生的原因发生的可能性大小 重新加以修正. 称 P( Bi ) 为先验概率，它是由以往的经验得到的， 它是事件 A 的原因. A例：一学生接连参加同一课程的两次考试，第一次及格的概率为p，若第一次及格则第二次及格的概率也为p；若第一次不及格则第二次及格的概率为p/2。若已知它第二次已经及格，求他第一次及格的概率定义

3、: 若事件A与B满足 P(AB)=P(A)P(B), 则称A与B相互独立，简称A与B独立。注意:从直观上讲,A与B独立就是其中任何一个事件出现的概率不受另一个事件出现与否的影响.（8）事件的独立性02随机变量设E是一随机试验， 是它的样本空间，若则称 上的单值实值函数 X ( )为随机变量（1）随机变量随机变量通常用大写字母X,Y,Z或希腊字母,等表示(2)分布函数定义了一个 x 的实值函数，称为随机变量X 的分布函数，记为F(x) ,即定义：设 X 为随机变量,对每个实数 x ,随机事件的概率注: 分布函数完整地表示了随机变量的概率分布情况 .(3)离散型随机变量若随机变量X取值x1, x2

4、, , xn, 且取这些值的概率依次为p1, p2, , pn, , 则称X为离散型随机变量，而称PX=xk=pk, (k=1, 2, ) 为X的分布律或概率分布。常见的离散型随机变量的概率分布(1) 0 1 分布X = xk 1 0Pk p 1-p0 p 1, 相互独立)，且具有相同的数学期望和方差则有或意义：当 n 足够大时，算术平均值几乎就是一个常数,可以用算术平均值近似地代替数学期望.具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望.（3）辛钦大数定律 设相互独立，服从同一分布，且具有数学期望 E(X k) = , k= 1,2,则对任意正数 0中心极限定理 1.独立同分布的中心极限定理 设随机变量序列相互独立，服从同一分布，且有期望和方差：则对于任意实数 x , 2.德莫佛拉普拉斯中心极限定理 设 Y n B( n , p) , 0 p 1, n = 1,2,则对任一实数 x，有即对任意的 a b,Y n N (np , np(1-p) (近似)中心极限定理的意义 在