概率论 课件 龙永红 第16-30讲：连续型随机变量-中心极限定理

第五章一般与连续型随机变量中国人民大学龙永红Content目录第1讲一般随机变量的概念1第2讲连续型随机变量23第3讲正态分布随机变量4第4讲联合分布函数与联合概率密度函数5第5讲条件分布函数与条件概率密度函数6第6讲连续贝叶斯法则第十六讲连续型随机变量连续型随机变量及概率密度函数连续型随机变量的期望与方差随机变量函数的概率密度函数

指数分布/01连续型随机变量及概率密度函数一、连续型随机变量的引入

分布函数能够对一般随机变量的分布进行刻画，在离散随机变量情形，我们用概率质量函数来刻画分布显然更加直观，同时我们在处理深入的问题比如期望时更加自然和便利。问题：对于非离散随机变量，我们是否有类似的刻画和处理方式呢？

一、连续型随机变量的引入

一、连续型随机变量的引入

二、连续型随机变量及其概率密度函数的定义

接下来，我们考虑分布函数能够表示为另一个函数的积分的情形，它是一类特殊的连续随机变量，我们把它称为连续型随机变量，虽然特殊，但实际中遇见的连续随机变量基本上都属于这种类型。根据前面指出的，连续型随机变量的分布函数是绝对连续函数。注：根据定义，概率密度函数在几乎处处相等意义下唯一。三、连续型随机变量有关性质

概率密度函数的性质

分布函数的性质

事件概率的概率密度表示

四、概率密度函数的解释

五、连续均匀随机变量

五、连续均匀随机变量

/02随机变量函数的概率密度函数一、连续型随机变量的分布函数

二、随机变量的单调函数的概率密度函数二、随机变量的单调函数的概率密度函数

三、随机变量的非单调函数

/03连续型随机变量的期望和方差一、连续型随机变量期望的引入

一、连续型随机变量期望的引入

二、连续型随机变量期望的定义

离散分布中，我们类比于质量分布，可以把期望理解为离散概率质量分布的重心，连续型随机变量的期望同样可以理解为连续概率质量分布的重心。三、连续型随机变量函数的期望

与离散随机变量情形一样，我们有连续型随机变量函数的期望法则：连续型随机变量函数的期望法则的证明比离散情形要复杂，见习题16和18

四、连续型随机变量的方差和矩

四、连续型随机变量的方差和矩

/04指数分布一、指数分布的定义

二、指数分布的分布函数

三、指数分布与几何分布的类比我们可以将指数分布和几何分布视为相互对应的连续版本与离散版本：几何分布描述独立重复伯努利试验一个事件首次发生为止进行试验的次数，可以理解为首次发生所需要的离散时间。指数分布则描述一定条件下的连续时间试验（回顾泊松分布中连续时间试验），直到某个事件发生为止所需要的连续时间。

比如，一台仪器的寿命，手机上一条短信的到来，电商平台接到一个订单，一次车祸的发生，保险公司发生一次理赔等等需要的时间，常常可以用指数分布来描述。四、指数分布的无记忆性

我们前面给出了几何分布的无记忆性的特征，指数分布作为其连续时间版本，同样具有无记忆性。五、指数分布的期望和方差

五、指数分布的期望和方差

六、指数分布与泊松分布的关系

第五章一般与连续型随机变量Content目录第1讲一般随机变量的概念1第2讲连续型随机变量23第3讲正态分布随机变量4第4讲联合分布函数与联合概率密度函数5第5讲条件分布函数与条件概率密度函数6第6讲连续贝叶斯法则第十七讲正态分布随机变量正态分布的概率密度函数正态分布的线性变化与标准化标准正态分布

正态分布的高阶矩

对数正态分布

卡方分布/01正态分布的概率密度函数一、正态分布的定义

正态分布是实际中常见的一类连续型分布。

二、正态分布概率密度函数的特征

三、正态分布的期望和方差

/02标准正态分布一、标准正态分布的概率密度函数和分布函数

由于上述积分没有初等表达式，一般通过数值计算来计算标准正态分布函数值，将这些值列成一个表（标准正态分布函数值表），它是计算正态分布随机变量有关概率的重要工具（后面将讨论一般正态分布转化为标准正态分布来计算概率）。二、标准正态分布的对称性

以及（如图5-10），有三、标准正态分布函数表及概率计算三、标准正态分布函数表及概率计算

四、二项分布的正态逼近

正态分布的概率密度函数可以由二项分布的相对频率密度（单位长度上的概率）的极限来推导出来，它的正式推导由后面讨论的中心极限定理给出，这里给出基本的思路和直观。四、二项分布的正态逼近

我们知道，二项分布可视为具有相同分布且相互独立的伯努利随机变量的和，中心极限定理将告诉我们比上述解释更一般的事实：正态分布实际上可解释为任何独立同分布的随机变量和的极限分布。/03正态分布的线性变化与标准化一、正态分布的线性变换

二、正态分布的标准化

利用正态分布的线性变化，我们可以把一般的正态分布随机变量化为标准正态分布的随机变量，我们称这一变换为正态分布的标准化。三、利用标准化计算一般正态有关概率

三、利用标准化计算一般正态有关概率

四、正态分布𝟑𝝈原则

五、在险价值(𝐕𝐚𝐥𝐮𝐞𝐚𝐭𝐑𝐢𝐬𝐤,𝐕𝐚𝐑)

VaR(ValueatRisk)按字面解释就是“在险价值”，其含义指：在一定概率水平（置信度）下，某一金融资产或证券组合价值在未来特定时期内的最大可能损失五、在险价值(𝐕𝐚𝐥𝐮𝐞𝐚𝐭𝐑𝐢𝐬𝐤,𝐕𝐚𝐑)

五、在险价值(𝐕𝐚𝐥𝐮𝐞𝐚𝐭𝐑𝐢𝐬𝐤,𝐕𝐚𝐑)

五、在险价值(𝐕𝐚𝐥𝐮𝐞𝐚𝐭𝐑𝐢𝐬𝐤,𝐕𝐚𝐑)

/04正态分布的高阶矩一、正态分布高阶矩的计算

二、随机变量的三阶矩与偏度

随机变量一阶矩和二阶矩的期望和方差分别度量了随机变量取值的平均水平和偏离平均值的程度，它们显然不能完整刻画随机变量分布的特征，比如方差在描述随机变量偏离均值的程度时，它不区分正偏离和负偏离。

在实际中区分正负偏离十分重要,比如，在金融投资中，我们单纯由方差或标准差来衡量风险，那么可能产生的问题是，它把正偏离带给我们潜在收益优势和负偏离带给我们潜在的损失都计入了风险的度量之中。二、随机变量的三阶矩与偏度

二、随机变量的三阶矩与偏度

三、随机变量的四阶矩与峰度

即便是对称分布情形，方差仍然不能视为是对风险的完美度量，因为即使方差相同，可能一个分布相对另一个分布会以更大的概率集中在某个值附近，即概率密度函数会更陡峭一些，或者说有更高的峰度。这意味着，两个分布即使有相同的期望、方差和偏度，却可能存在不同的峰度特征，如图5-16.三、随机变量的四阶矩与峰度

实际中，检验一个样本是否来自正态分布，一种供选择的方法就是推断其偏度和峰度，是否分别为0和3./05对数正态分布一、对数正态分布的概率密度函数

二、对数正态分布的矩

三、对数正态分布的幂变换

四、对数正态分布的解释

/06标准正态的平方变量——卡方分布一、卡方分布的概率密度函数

二、卡方分布的矩

三、卡方分布类

第五章一般与连续型随机变量中国人民大学龙永红Content目录第1讲一般随机变量的概念1第2讲连续型随机变量23第3讲正态分布随机变量4第4讲联合分布函数与联合概率密度函数5第5讲条件分布函数与条件概率密度函数6第6讲连续贝叶斯法则第十八讲联合分布函数与联合概率密度函数多元随机变量二元联合概率密度函数联合分布函数n元联合概率密度函数n元随机变量函数的期望/01多元随机变量一、二元随机变量的一般定义

二、n元随机变量

/02联合分布函数一、二元分布函数

我们前面讨论了用联合概率质量函数来描述离散多元随机变量概率分布。与单变量情形一样，当多元随机变量值域为不可数集时，我们不能用概率质量函数来刻画分布。在单变量中，我们用分布函数来刻画随机变量的分布，本节针对一般的多元随机变量，我们引入联合分布函数来刻画分布。

我们首先考虑二元随机变量情形。

二、联合分布函数表示矩形区域上的概率

三、联合分布函数的性质

四、联合分布函数确定边缘分布函数

五、离散联合分布函数与联合概率质量函数

六、n元分布函数

/03二元联合概率密度函数一、二元连续型随机变量及其联合概率密度函数

二、联合概率密度的解释

三、联合概率密度密度确定边缘概率密度函数

四、二维均匀分布

四、二维均匀分布

五、蒲丰投针试验

五、蒲丰投针试验

五、蒲丰投针试验

六、蒙特卡罗模拟计算

随着计算机科学与技术的发展，基于上述随机试验模拟计算的思路已发展起一类专门计算方法——随机模拟法。

/04n元联合概率密度函数一、n元联合概率密度函数的定义

二、事件的概率和边缘概率密度函数

/05𝒏元随机变量函数的期望一、𝒏元随机变量函数的期望法则

进而，有第五章一般与连续型随机变量中国人民大学龙永红Content目录第1讲一般随机变量的概念1第2讲连续型随机变量23第3讲正态分布随机变量4第4讲联合分布函数与联合概率密度函数5第5讲条件分布函数与条件概率密度函数6第6讲连续贝叶斯法则第十九讲条件分布函数与条件概率密度函数以事件为条件的随机变量以另一随机变量为条件的随机变量分布函数的分解—离散与连续的混合分布连续型条件期望随机变量的独立性/01以事件为条件的随机变量一、条件分布函数与条件概率密度函数

一、条件分布函数与条件概率密度函数

三、条件联合分布函数与条件联合概率密度函数

三、条件联合分布函数与条件联合概率密度函数

四、分布函数与概率密度函数的全概率公式

四、分布函数与概率密度函数的全概率公式

四、分布函数与概率密度函数的全概率公式

四、分布函数与概率密度函数的全概率公式

/02分布函数的分解——离散与连续的混合分布一、分布函数分解为纯跳函数和连续函数

二、分布函数分解为离散分布函数与连续分布函数

三、分布函数分解概率和分布含义

/03以另一随机变量为条件的随机变量

三、条件概率密度的解释

四、连续型条件分布函数

四、概率密度函数的乘法公式与全密度公式

四、概率密度函数的乘法公式与全密度公式

/04连续型条件期望

一、连续型条件期望的定义

二、全期望公式

二、全期望公式

二、全期望公式

/05随机变量的独立性一、两个随机变量独立性的一般定义

二、两个连续型随机变量独立的等价条件

三、均匀分布的独立性

三、均匀分布的独立性

四、独立正态分布

图5-22相互独立的正态分布随机变量的联合概率密度函数等高线五、n个随机变量独立性的一般定义

六、随机变量独立性的性质第五章一般与连续型随机变量中国人民大学龙永红Content目录第1讲一般随机变量的概念1第2讲连续型随机变量23第3讲正态分布随机变量4第4讲联合分布函数与联合概率密度函数5第5讲条件分布函数与条件概率密度函数6第6讲连续贝叶斯法则第二十讲连续贝叶斯法则连续贝叶斯推断问题由连续型变量推断离散变量由连续型变量推断连续型变量由离散变量推断连续变量总结/01连续贝叶斯推断问题一、离散贝叶斯推断的回顾

二、三类连续贝叶斯推断问题

/02由连续型变量推断连续型变量一、由连续型变量推断连续变量

一、由连续型变量推断连续变量

/03由连续型变量推断离散变量一、由连续型变量推断事件

一、由连续型变量推断事件

二、由连续型变量推断离散变量

/04由离散变量推断连续变量一、由事件或离散变量推断连续变量

/05总结一、离散随机变量

二、连续型变量

二、离散变量与连续型变量

乘法公式：全概率公式:贝叶斯准则:全期望公式:第六章随机变量若干专题中国人民大学龙永红Content目录第1讲连续型多元随机变量的函数1第2讲随机向量的变换23第3讲随机变量间的协方差与相关系数4第4讲条件期望与条件方差再讨论5第5讲多元正态分布6第6讲描述分布的矩母函数方法第二十一讲连续型多元随机变量的函数连续型多元随机变量函数的分布两个随机变量的和与卷积公式多个随机变量的最大与最小值卷积算子n个随机变量的和商和乘积的分布/01连续型多元随机变量的函数的分布一、确定连续型多元随机变量函数分布的方法

二、密度函数方法

二、密度函数方法

二、密度函数方法

三、全概率方法

三、两种方法的等价性

/02多个随机变量的最大与最小值一、最大值和最小值的分布函数

二、最大值与最小值的概率密度函数

三、指数分布随机变量的最大值与最小值

/03两个随机变量的和与卷积公式一、两个随机变量的和及卷积公式

二、两个独立均匀分布随机变量的和

二、两个独立正态分布随机变量的和

二、两个独立正态分布随机变量的和

三、求解两个随机变量和的分布的全概率方法

/04卷积算子一、卷积积分的定义

二、分布函数的卷积

利用卷积积分我们可以定义关于分布函数的卷积算子。

三、概率密度函数的卷积

我们也可以关于概率密度函数的卷积算子。

三、卷积公式的卷积算子表示

两个独立随机变量和的分布函数及概率密度函数的卷积公式可以分别用分布函数的卷积算子及概率密度函数的卷积算子来表示。/05n个随机变量的和一、n个随机变量和的分布函数

二、n个随机变量和的概率密度函数函数

三、独立和的分布及n元卷积公式

概率密度函数为三、独立和的分布及n元卷积公式

用卷积可以更简洁地将上述递推过程表示为/06商和乘积的分布一、商的分布

二、乘积的分布

类似的商的分布的推导第六章随机变量若干专题中国人民大学龙永红Content目录第1讲连续型多元随机变量的函数1第2讲随机向量的变换23第3讲随机变量间的协方差与相关系数4第4讲条件期望与条件方差再讨论5第5讲多元正态分布6第6讲描述分布的矩母函数方法第二十二讲随机向量的变换随机向量的变换及其分布函数随机向量的线性变换随机向量的一一变换增加变量法求随机向量变换的分布/01随机向量的变换及其分布函数一、随机向量的变换的定义

二、随机向量变化的分布函数

/02随机向量的一一变换一、实向量变换的偏导数矩阵与雅可比行列式

二、随机向量一一变换的概率密度函数

三、极坐标变换

解：进一步，可得边缘概率密度函数

/03随机向量的线性变换一、线性变换的概率密度函数

二、独立标准正态分布的正交变换

/04增加变量法求随机向量变换的分布一、增加变量法求线性函数的分布

对于非一一变换情形，我们不能直接使用积分变量代换，但许多时候我们可以通过增加变量转化为一一变换。

一、增加变量法求线性函数的分布

二、增加变量法求商的分布

第六章随机变量若干专题中国人民大学龙永红Content目录第1讲连续型多元随机变量的函数1第2讲随机向量的变换23第3讲随机变量间的协方差与相关系数4第4讲条件期望与条件方差再讨论5第5讲多元正态分布6第6讲描述分布的矩母函数方法第二十三讲随机变量间的协方差与相关系数协方差的定义与性质随机变量协方差的内积含义独立性、条件期望及相关性的关系相关性与线性回归模型线性回归方程的预测含义与正交投影随机向量的协差阵相关系数随机向量的正交化与标准化/01协方差的定义与性质一、协方差的引入

联合分布虽然完整描述这些关联性，但类似于单变量的期望和方差一样，我们希望对变量间的关联性的某些特征进行综合的度量，便于我们把握和利用这些特征。本讲讨论的协方差和相关系数就是对随机变量相互关联性的某种综合度量。

二、协方差的定义

二、协方差的性质

/02独立性、条件期望及相关性的关系一、独立与不相关

一、独立与不相关

二、条件期望与不相关

但反过来不成立。见下例。

二、条件期望与不相关

三、独立性、条件期望与不相关对比/03随机变量协方差的内积含义一、随机变量的内积

如果我们把随机变量看成抽象的向量，随机变量构成的空间则可视为一个向量空间（线性空间），在其上我们可以定义一种特殊的内积，协方差则可以视为内积，那么利用内积空间的相关概念和理论将为我们讨论随机变量相关问题提供有力的工具。二、随机变量内积的性质

由期望的性质容易证明，上面定义的随机变量的内积满足一般向量内积空间中内积的条件，其中我们将以概率1相等的随机变量视为无区别，即视为向量空间的同一个向量。

这些条件归纳为如下性质：三、施瓦兹不等式

内积空间有一个重要不等式——施瓦兹不等式四、施瓦兹不等式的一个直接证明

六、协方差的内积含义

/04相关系数一、相关系数的定义

二、相关系数的性质由相关系数的定义和施瓦兹不等式容易得到相关系数的一些基本性质如下。三、相关系数对相关性的刻画

/05相关性与线性回归模型一、相关性的回归模型表示

二、相关性的回归模型表示

三、相关性与回归模型的关系下面，我们针对不同的相关性对应于回归方程的系数和回归方程的扰动项有不同特点，归纳如下：

四、相关性的线性含义以及其区别于相依性（不独立）

上述讨论表明，协方差和相关系数所刻画的“相关”实际上是随机变量之间存在一定程度或完全的线性关系。两个随机变量不相关并不意味着她们之间没有相互的依赖关系。

/06线性回归方程的预测含义与正交投影一、随机变量的最优预测

二、数学期望的预测含义

三、由一个随机变量预测另一个随机变量

由于随机变量之间的存在相互联系，一个随机变量的取值包含了另一随机变量取值的信息，充分利用这些信息可以更精确地对后者做出预测。

四、最优预测

五、最优线性预测

五、最优线性预测与正交投影

求解上述正交投影归结为

从而

六、最优线性预测、线性回归及正交投影的等价性

/07随机向量的协差阵一、协差阵的定义

一、协差阵的性质

协差阵的性质：（1）对称性；（2）非负定性

事实上，非负定性正是内积空间中向量组的内积矩阵的一般性质。二、协差阵定义的向量形式

三、随机向量线性变化的协差阵

/08随机向量的正交化与标准化一、随机向量的正交化

二、随机向量的标准化

三、随机向量的正交化过程

三、随机向量的正交化过程

第六章随机变量若干专题中国人民大学龙永红Content目录第1讲连续型多元随机变量的函数1第2讲随机向量的变换23第3讲随机变量间的协方差与相关系数4第4讲条件期望与条件方差再讨论5第5讲多元正态分布6第6讲描述分布的矩母函数方法第二十四讲条件期望与条件方差再讨论条件期望及其性质条件期望的预测含义与回归方程条件方差及其性质/01条件期望及其性质一、以随机变量为条件的条件期望

二、条件期望的性质

二、条件期望的性质

二、条件期望的性质

从随机变量角度，上述计算公式实际上就是重期望律。/02条件方差及其性质一、条件方差

类似于无条件方差，并由条件期望的性质，可得二、全方差公式

三、总方差与分组方差

四、混合正态分布的方差

/03条件期望的预测含义与回归方程一、条件期望与均方误差最小意义下的最优预测

一、条件期望与均方误差最小意义下的最优预测

二、条件期望与回归方程

第六章随机变量若干专题中国人民大学龙永红Content目录第1讲连续型多元随机变量的函数1第2讲随机向量的变换23第3讲随机变量间的协方差与相关系数4第4讲条件期望与条件方差再讨论5第5讲多元正态分布6第6讲描述分布的矩母函数方法第二十五讲多元正态分布多元独立正态分布与标准正态分布多元正态分布的期望、协差阵多元正态分布的定义二元正态分布n元正态分布的性质多元正态分布的线性变换与标准化/01多元独立正态分布与标准正态分布一、多元独立正态分布

二、多元标准正态分布

/02多元正态分布的定义一、引入

回顾单变量情形一般正态与标准正态的关系：

推广到多元随机变量情形二、多元正态分布的定义三、多元正态分布的等价定义

思考：说明多元正态分布定义中的联合密度函数满足归一性条件。/03多元正态分布的期望、协差阵一、确定多元正态分布期望和协差阵的常规方法

对于多元正态分布，我们这里根据前面给出的多元正态分布的等价定义，利用多元正态分布的结构性特征直接导出数学期望和协差阵。进一步讨论，我们也用结构性方法导出多元正态分布的边缘分布。无论求期望还是协方差，直接积分的办法，这个过程比较繁琐。或者说，我们直接计算积分来导出边缘概率密度函数，是一个复杂的过程。二、导出多元正态分布期望和协差阵的结构化方法

三、多元正态分布随机变量的独立与不相关的等价性

注：多元正态分布随机变量的独立与不相关的等价性是多元正态分布的重要特征，许多其他性质源自于这一等价性。

/04多元正态分布的线性变换与标准化一、多元正态分布的线性变换

二、多元正态分布的标准化

/05二元正态分布一、二元正态分布概率密度函数的另一种表达形式

二、二元正态分布的性质

三、性质的证明

三、性质的证明

三、性质的证明

/06n元正态分布的性质一、n元正态分布的Schmidt正交化过程

正交化过程实质上是一个递归预测过程一、n元正态分布的Schmidt正交化过程

二、多元正态分布的性质

二、多元正态分布的性质

第六章随机变量若干专题中国人民大学龙永红Content目录第1讲连续型多元随机变量的函数1第2讲随机向量的变换23第3讲随机变量间的协方差与相关系数4第4讲条件期望与条件方差再讨论5第5讲多元正态分布6第6讲描述分布的矩母函数方法第二十六讲描述分布的矩母函数方法矩母函数的定义与性质独立随机变量和的矩母函数常见分布的矩母函数联合分布的矩母函数/01矩母函数的定义与性质一、引入

二、矩母函数的定义

矩母函数之所以能够成为研究随机变量的重要工具，是因为它具有的良好性质，一是它具有可逆性，在适当合理条件下，一个矩母函数唯一决定一个分布；二是在许多重要情况中，它的运算的简便性能够代替分布的复杂运算，从而更加方便推导分布。三、矩母函数的性质

/02常见分布的矩母函数一、常见分布的矩母函数

二、由矩母函数求随机变量的矩

二、由矩母函数求随机变量的矩

/03独立随机变量和的矩母函数一、独立随机变量和的矩母函数一般公式

二、二项分布的矩母函数

三、独立泊松分布随机变量的和

同样，我们可以利用矩母函数证明相互独立的正态分布随机变量的和仍服从正态分布，具体证明留作练习。四、随机个数的独立随机变量的和的矩母函数

注：上述推导也可直接表达如下四、随机个数的独立随机变量的和的矩母函数

我们曾由全概率公式推导过这一结论，但用矩母函数大大简化了推导过程，这正是矩母函数的突出优势。

可以证明：个数服从几何分布的独立指数分布随机变量的和服从指数分布；个数服从几何分布的独立几何分布随机变量的和服从几何分布。这两个结论令人意外之处在于，固定个数的独立指数分布的和并不服从指数分布，固定个数的独立几何分布的和也不服从几何分布。/04联合分布的矩母函数一、多元矩母函数的定义每个变量的矩母函数仅仅包含边缘分布的信息，并不包含任何关于两个随机变量相互关系的信息，因而我们需要建立联合分布的矩母函数，即多元矩母函数，以便反映联合分布所包含的关于两个随机变量相互关系的信息。二、多元矩母函数的性质第七章极限理论中国人民大学龙永红Content目录第1讲几乎处处收敛与依概率收敛1第2讲矩收敛与依分布收敛23第3讲大数定律4第4讲中心极限定理5第5讲强大数定律第二十七讲几乎处处收敛与依概率收敛随机变量极限的引入博雷尔-坎特利引理集列的极限依概率收敛几乎处处收敛（以概率1收敛）/01随机变量极限的引入一、随机变量极限的引入

极限的概念和相关问题是数学的几乎所有的领域都要讨论的论题，在经典的分析学中，我们熟悉的极限是数列的极限和函数的极限，在概率论中我们自然地提出随机变量序列的极限问题，它不仅是数学自身体系的要求，也是实际问题研究的要求。

比如，大量重复试验表现出频率接近于一个稳定值（即概率）等统计规律，其实质是一个极限问题。正是通过极限，我们能够从经验事实和数据出发来推断不确定性现象内在量的规律。

一、随机变量极限的引入

/02集列的极限一、单调集列的极限

二、一般集列的上极限

三、一般集列的下极限

四、一般集列的极限

五、上下极限的对偶律

/03博雷尔-坎特利引理一、博雷尔-坎特利引理在极限理论中有重要应用的经典结果：博雷尔坎特利引理。

/04几乎处处收敛（以概率1收敛）一、随机变量几乎处处收敛的定义

一、随机变量几乎处处收敛的定义

二、几乎处处收敛的一些等价条件

二、几乎处处收敛的一些等价条件

三、几乎处处收敛的一个充分条件

/05依概率收敛一、随机变量依概率收敛的定义

二、依概率收敛与几乎处处收敛的关系依概率收敛是一种比几乎处处收敛更弱的一种收敛性，具体而言有下列关系：

二、依概率收敛与几乎处处收敛的关系

二、依概率收敛与几乎处处收敛的关系尽管依概率收敛不能导出几乎处处收敛，然而，依概率收敛的序列一定存在几乎处处收敛的子列。

二、依概率收敛与几乎处处收敛的关系

三、依概率收敛的连续性

思考：定理7.6也可以利用定理7.5来证明。第七章极限理论中国人民大学龙永红Content目录第1讲几乎处处收敛与依概率收敛1第2讲矩收敛与依分布收敛23第3讲大数定律4第4讲中心极限定理5第5讲强大数定律第二十八讲矩收敛与依分布收敛矩不等式

切比雪夫不等式依分布收敛/01矩不等式一、矩不等式

二、矩不等式的证明

二、矩不等式的证明

/02切比雪夫不等式一、切比雪夫不等式切比雪夫不等式提供了随机变量取值于期望值附近给定区间的概率估计，并由此衍生出许多重要应用。

以连续型随机变量为例证明二、切比雪夫估计概率上界

/03

一、矩收敛的定义

二、矩收敛与依概率收敛的关系

二、矩收敛与依概率收敛的关系

在一般情况下，依概率收敛不能导出矩收敛。下面给出一个几乎处处收敛（从而也依概率收敛）但不矩收敛的例子。/04依分布收敛一、依分布收敛的引入

随机变量取值规律即概率分布是我们对随机变量关注的基本特征，自然的问题是：我们能否从概率分布的角度考虑随机变量序列的收敛性？

然而，下面的例子说明，即使是最特殊的确定性收敛数列（相当于退化分布序列）也不能满足上述要求，可见这一要求过于严苛。一、依分布收敛的引入

一、依分布收敛的定义

二、依概率收敛与依分布收敛的关系

在前面讨论的各种收敛性中，我们知道几乎处处收敛和矩收敛都是比依概率收敛更强的收敛性，定理7.10表明依概率收敛是比依分布收敛更强的收敛性。

二、依概率收敛与依分布收敛的关系

二、依概率收敛与依分布收敛的关系

第七章极限理论中国人民大学龙永红Content目录第1讲几乎处处收敛与依概率收敛1第2讲矩收敛与依分布收敛23第3讲大数定律4第4讲中心极限定理5第5讲强大数定律第二十九讲大数定律伯努利大数定律切比雪夫大数定律与马尔科夫大数定律大数定律的一般形式辛钦大数定律积分计算的蒙特卡洛方法/01伯努利大数定律一、大数定律的引入

有了前面定义的收敛性概念，我们可以具体讨论概率论中的极限问题，比如，大量独立重复试验中特定事件发生频率趋于一个稳定值（概率）这一经验直观能够得到严谨的理论表述和证明。

本节讨论的大数定律，正是起源于伯努利对上述问题研究的结果，他把“频率趋于概率”这一直观表述中“趋于”的模糊概念严格化为“依概率收敛”。

一、大数定律的引入

二、伯努利大数定律

/02大数定律的一般形式一、伯努利大数定律的另一表达形式

因而，伯努利大数定律的结果可描述为：二、大数定律一般形式

/03切比雪夫大数定律与马尔科夫大数定律一、切比雪夫大数定律

二、马尔科夫大数定律

二、马尔科夫大数定律

/04辛钦大数定律一、辛钦大数定律

一、辛钦大数定律

这里用到矩母函数列极限性质，这一性质超出本书范围，我们不做讨论。/05积分计算的蒙特卡洛方法一、蒙特卡洛方法

在实际中许多定积分由于不能得到被积函数的原函数的显式表达式往往要使用数值计算来求得积分的近似值。一种基于统计模拟的方法如今被广泛应用于数值计算问题，这一方法以位于摩纳哥的世界著名赌场蒙特卡洛命名，被称作蒙特卡洛方法。

在定积分的计算中，蒙特卡洛方法的基本思想是，将积分转化为概率或随机变量的期望，通过