计量经济学 课件 第2章 概率统计基础

1第2章概率统计基础湖南大学经济与贸易学院14-6月-262第2章概率统计基础2.1随机变量及其概率分布2.2随机变量的数字特征2.3几个重要的概率分布2.4样本及抽样分布2.5参数估计与假设检验湖南大学经济与贸易学院14-6月-2632.1随机变量及其概率分布1、离散型随机变量及其概率分布2、连续型随机变量及其概率分布3、随机向量及其概率分布湖南大学经济与贸易学院14-6月-2642.1随机变量及其概率分布1、离散型随机变量及其概率分布离散型随机变量随机变量的所有可能取值只有有限个或可列无限多个。离散型随机变量的概率分布（分布律）

湖南大学经济与贸易学院14-6月-265湖南大学经济与贸易学院14-6月-26

两个常用的离散型随机变量的概率分布二项分布：

泊松分布：

6湖南大学经济与贸易学院14-6月-26

随机变量的分布函数设是一个随机变量，是任意实数，则称函数

为的分布函数分布函数可以完整地描述任何随机变量的统计规律

7湖南大学经济与贸易学院14-6月-26

分布函数的性质（1）是一个单调不减的函数（2）（3）右连续（4）

82.1随机变量及其概率分布2、连续型随机变量及其概率分布湖南大学经济与贸易学院14-6月-26概率密度的定义设是随机变量的分布函数，若存在非负函数，使得对任意的实数有

则称为连续型随机变量，相应地，称为的概率密度函数，简称概率密度（或分布密度）。9湖南大学经济与贸易学院14-6月-26

概率密度的性质（1）（2）（3）（4）若在点连续，则有

102.1随机变量及其概率分布3、随机向量及其概率分布湖南大学经济与贸易学院14-6月-26

设

是二维随机向量，

和是任意实数，则称二元函数

为

的分布函数（或

与的联合分布函数）对于二维随机向量

，称的概率分布为关于

的边缘分布，

的概率分布为关于

的边缘分布。

11湖南大学经济与贸易学院14-6月-26

二维随机向量的概率密度

设

是二维随机向量

的分布函数，若存在非负函数

，使得对任意的实数

和

，有

则称

为二维连续型随机向量，相应地，称

为

的概率密度（或

与的联合概率密度）。12湖南大学经济与贸易学院14-6月-26

联合概率密度的性质（1）（2）（3）若

在点

连续，则有（4）点

落在平面区域内的概率为

13湖南大学经济与贸易学院14-6月-26

边缘分布函数和边缘概率密度

设

为二维连续型随机向量，

是

的分布函数，

为

的概率密度，又设

的边缘分布函数为

，

，边缘概率密度为

，

，则有

14湖南大学经济与贸易学院14-6月-26

条件概率密度和条件分布函数

若对于固定的

，

，则称为在

的条件下

的条件概率密度。称

为在

的条件下

的条件分布函数。15湖南大学经济与贸易学院14-6月-26

随机变量的相互独立性

设

为二维连续型随机向量，

为

的概率密度，边缘概率密度为

，

，若对所有的

和

，有

，则称随机变量与相互独立。顺便指出：上述与二维随机向量有关的定义和性质很容易推广到

维随机向量的情况。161、数学期望2、条件数学期望3、方差4、协方差与相关系数5、矩和协方差矩阵6、偏度和峰度2.2随机变量的数字特征湖南大学经济与贸易学院14-6月-26171、数学期望2.2随机变量的数字特征湖南大学经济与贸易学院14-6月-26离散型随机变量的数学期望若离散型随机变量

的概率分布为

是随机变量的函数，

，（

是连续函数），则

和

的数学期望分别为18湖南大学经济与贸易学院14-6月-26连续型随机变量的数学期望

若连续型随机变量

的概率密度为

，

是随机变量的函数，

（

是连续函数），则

和

的数学期望分别为19湖南大学经济与贸易学院14-6月-26

数学期望的性质（1）常数的期望是其自身，即，

，这里

为常数；（2）设

是随机变量，

为常数，则有（3）设

是随机变量，则有（4）设随机变量

相互独立，则有

202.2随机变量的数字特征湖南大学经济与贸易学院14-6月-262、条件数学期望

设二维连续型随机向量

的

概率密度为

，边缘概率密度为

，

，

为在

的条件下的条件概率密度,则在

的条件下的条件数学期望为21湖南大学经济与贸易学院14-6月-26

条件数学期望的性质（1）若

，则

（2）若

是两个常数，则有（3）

22湖南大学经济与贸易学院14-6月-26

例：二维正态分布的条件数学期望

若随机向量

服从二维正态分布

，

的概率密度为

则

在

的发生的条件下的条件概率密度为23湖南大学经济与贸易学院14-6月-26

二维正态分布的条件数学期望（续）

这是正态分布

的概率密度，因而条件期望为

上式表明，若随机向量服从二维正态分布，则在发生的条件下的条件数学期望是的线性函数。

243、方差

2.2随机变量的数字特征湖南大学经济与贸易学院14-6月-26

设

是随机变量，则

的方差

称为的标准差，或均方差。在计算随机变量的方差时常用如下公式：25湖南大学经济与贸易学院14-6月-26

方差的性质（1）常数的方差为零，即

，这里

为常数；（2）设

是随机变量，

为常数，则有

（3）设

是随机变量，

为常数，则有（4）设随机变量

相互独立，则有（5）切比雪夫不等式：设随机变量

的期望

，

方差

，则对于任意正数

，有

（6）

的充要条件是

以概率1取常数

，即262.2随机变量的数字特征湖南大学经济与贸易学院14-6月-264、协方差与相关系数

设

和

是两个随机变量，则它们的协方差和相关系数分别为

协方差与相关系数可以用来讨论两个随机变量之间的相互关系。27湖南大学经济与贸易学院14-6月-26

协方差与相关系数的性质（1）

，（2）若两个随机变量相互独立，则它们的协方差为0，

因而相关系数为0，但反之不成立

。（3）（4）

（5）

，这里

，

为常数（6）（7）任意两个随机变量的相关系数介于-1和1之间，如

果相关系数为1，则表示它们完全正相关，如果相

关系数为-1，则表示它们完全负相关。

282.2随机变量的数字特征湖南大学经济与贸易学院14-6月-265、矩和协方差矩阵

原点矩，中心矩，混合矩，混合中心距

设

和

是两个随机变量，称

为

的

阶原点矩

。称

为

的

阶中心矩。称

为

和

的

阶混合矩。称

为

和

的

阶混合中心矩。

显然，数学期望是的一阶原点矩，方差是的二阶中心矩，协方差是二阶混合中心矩。29湖南大学经济与贸易学院14-6月-26协方差矩阵

设

为

维随机向量，，

和

的协方差则称矩阵为

维随机向量

的协方差矩阵。302.2随机变量的数字特征湖南大学经济与贸易学院14-6月-266、偏度和峰度设

是随机变量，它的期望和方差分别为

和

，则

的偏度和峰度分别为若

，则称

的概率密度函数为正偏；若

，

则称

的概率密度函数为负偏。若

，则称

的概率密度函数为常峰态的；若

，则称

的概率密度函数为低峰态的（胖尾的或短尾的）；若

，则称

的概率密度函数为尖峰态的。

31湖南大学经济与贸易学院14-6月-262.3

几个重要的概率分布1、正态分布2、

（卡方）分布3、

分布4、

分布5、概率分布的分位点32湖南大学经济与贸易学院14-6月-261、正态分布若连续型随机变量

X的概率密度为则

X

服从正态分布，记为

。标准正态分布：概率密度

，分布函数

33湖南大学经济与贸易学院14-6月-26

正态分布的性质（1）若

，则

，（2）若

，则

，

（3）若

，则

（4）设

，且

相互独立，

这里

是任意常数，则34湖南大学经济与贸易学院14-6月-26

标准正态分布的性质（1）（2）

若

，

，则

（3）

若

，

则

（4）

若

，则

35湖南大学经济与贸易学院14-6月-262、

（卡方）分布

设

，且

相互独立，，则称随机变量

服从自由度为

的卡方分布，记为

的概率密度函数为36湖南大学经济与贸易学院14-6月-26

分布的概率密度曲线

概率x37湖南大学经济与贸易学院14-6月-26

分布的性质（1）

只取正值，取值范围从0到无穷大；（2）分布是斜分布，其偏度取决于自由度的大小，自由度越小，越向右偏，但随着自由度的增大，它的概率分布逐渐对称并接近正态分布；（3）

若

，则有

；（4）若随机变量

，且

与

相互

独立

，则有

，即

具有可加性。38湖南大学经济与贸易学院14-6月-263、

分布

设随机变量

，

，且

与

相互独立，,则称随机变量服从自由度为的分布，记为。其概率密度函数为

39湖南大学经济与贸易学院14-6月-26t

分布与标准正态分布的概率密度曲线概率密度x标准正态分布t-分布040湖南大学经济与贸易学院14-6月-26

分布的性质（1）

分布是对称分布；（2）

若；则有

（3）当很大时，分布近似于标准正态分布。41湖南大学经济与贸易学院14-6月-264、

分布

设随机变量

，

，且

与

相互独立，,则称随机变量服从自由度为的分布，记为。其概率密度函数为

42湖南大学经济与贸易学院14-6月-26

分布的概率密度曲线

x概率密度43湖南大学经济与贸易学院14-6月-26

分布的性质（1）

若

，则

；

（2）

若；则有（3）分布是斜分布，且向右倾斜；（4）当自由度逐渐增大时，分布近似于正态分布；（5）

若

，则

；（6）

当

时，

，这里

44湖南大学经济与贸易学院14-6月-265、概率分布的分位点（1）设随机变量

，若

，则称

为

分布的

上

分位点；若

，则称

为

分布的双侧

分位点。

分布的分位点与此类似。（2）设随机变量

，若

，则称

为

分布的上

分位点。（3）设随机变量

，若

，则称

为

分布的上

分位点。45湖南大学经济与贸易学院14-6月-262.4

样本及抽样分布1、总体和样本2、统计量及样本的数字特征3、抽样分布46湖南大学经济与贸易学院14-6月-261、总体和样本总体：研究对象的全体。例如，若要考察一批灯泡，则这批灯泡就是总体。不过我们关心的不是灯泡本身，而是其使用寿命。因此，在应用上总体是指研究对象的某个数量指标

的取值的全体。即总体就是一个随机变量。样本：与总体

独立同分布的随机变量

。样本具有两重性，抽取试验之前，它是随机变量，抽取试验之后，得到的是确定的观察值。47湖南大学经济与贸易学院14-6月-262、统计量及样本的数字特征统计量：不含未知参数的样本的函数。样本均值：

样本方差：

样本标准差：

样本的

阶原点矩：

，样本的阶中心矩：

，

样本偏度：

，

样本峰度：48湖南大学经济与贸易学院14-6月-26样本的数字特征（续）样本协方差：样本相关系数：

其中

，49湖南大学经济与贸易学院14-6月-26样本的数字特征（续）

设随机向量

，

是来自总体的样本。随机向量

的样本均值：

，随机向量

的样本协方差矩阵：50湖南大学经济与贸易学院14-6月-263、抽样分布抽样分布：统计量的分布。

设总体

，

是来自

的简单随机样本，

和分别是样本均值和样本方差，则有（1）

，即

（2）

，

与

相互独立（3）

51湖南大学经济与贸易学院14-6月-26抽样分布(续)

设总体

，

，

与

相互独立，

，,分布是来自总体

和

的简单随机样本，

，分别是这两个样本的样本均值；，分别是这两个样本的样本方差，则有（4）

（5）当

时，

其中52湖南大学经济与贸易学院14-6月-262.5

参数估计与假设检验1、参数估计的思想

2、参数的点估计3、点估计的优劣标准

4、参数的区间估计5、假设检验的思想及方法6、假设检验的两类错误

53湖南大学经济与贸易学院14-6月-261、参数估计的思想参数估计：从简单随机样本出发构造一些统计量作为总体某些参数的估计量，当取得一个样本值时，就以相应的统计量的样本观察值作为总体参数的估计值。估计量为估计值的计算提供了一种规则或公式，对同一未知参数，依据不同的估计量所得到的估计值一般不会相同。不能比较两个不同的估计值的优劣，但对不同的估计量，则可以比较它们的优劣。54湖南大学经济与贸易学院14-6月-26参数估计

设总体

的概率分布中包含

个未知参数

，是来自总体的简单随机样本，是样本观察值。参数估计问题就是要构造一些适当的统计量

，

作为参数

的估计量，而估计量的函数值（样本观察值），

，

则是参数

的估计值。55湖南大学经济与贸易学院14-6月-262、参数的点估计点估计：由估计量的观察值作为未知参数的估计值，它表现为实数轴上的一个点。常用的点估计方法有矩估计法（数字特征法）和极大似然估计法。矩估计法：用样本矩估计总体矩。56湖南大学经济与贸易学院14-6月-26参数的点估计（续）极大似然估计法：设总体

的概率密度为

（若

是离散型随机变量，

则

表示概率

），是来自总体的简单随机样本，是样

本观察值。的联合概率密度为

称为似然函数。若

满足

则称

是参数

的极大似然估计值。相应地，

称

为参数

的极大似然估计量。57湖南大学经济与贸易学院14-6月-263、点估计的优劣标准线性：若估计量是样本的线性函数，则称该估计量是线性估计量。显然，样本均值

就是一个线性估计量。无偏性：设

是未知参数

的估计量，若

，则称

是

的无偏估计量。这时如用

估计

，其估计值虽然不能都等于

，但它会在的

真值附近徘徊，平均来讲会等于

，即没有系统偏差。对于总体的某个未知参数，其无偏估计量不只一个。58湖南大学经济与贸易学院14-6月-26点估计的优劣标准（续）有效性：设

，

是同一个参数

的估计量，若对任意确定的样本容量

，都有

，则称估计量

比

有效。一致性：设

是未知参数

的估计量，若

依概率收敛于

，即若对任意给定的

，有

则称

是

的一致估计量。无偏性和有效性是小样本性质，一致性是大样本性质。59湖南大学经济与贸易学院14-6月-264、参数的区间估计区间估计：估计出未知参数所在的一个范围，并指出如此估计的范围能够包含其真值的概率，它表现为实数轴上的一个区间。

设

是总体分布的未知参数，

和是两个统计量，对于给定的数值，满足

则称随机区间是的置信水平为的置信区间，和分别称为置信下限和置信上限，称为置信水平或置信度。60湖南大学经济与贸易学院14-6月-26参数的区间估计（续）随机区间覆盖

未知参数

是一个随机事件，其概率大小反映了这个区间的可靠程度，另一方面，该区间的长度

也是一个随机变量，

反映了这个区间的精确程度。

在实际问题中，可靠度与精度往往不能同时提高。为此，我们采用的方法是在保证足够可靠性的基础上，尽量使区间的平均长度短一些。

有了样本观察值后就能确定一个具体的区间61湖南大学经济与贸易学院14-6月-265、假设检验的思想及方法统计假设：针对总体

的分布提出假设（用“

”表示）。

例如：（1）

：总体

服从正态分布；

：

总体

不服从正

态分布（2）:;:（3）:;:

其中

是未知参数，是已知数。称为基本假设或原假设，称为的对立假设或备择假设。62湖南大学经济与贸易学院14-6月-26

显著性检验

显著性检验：统计假设提出之后，就利用样本信息并按照一定的规则来判断总体的真实情况与原假设是否有显著差异。其原理就是“小概率事件在一次试验中几乎是不可能发生的”。例如：如果已知总体

（

是已知数），我们要检验假设

：

：

从总体中抽取样本

，其观察值为

，可得样本均值.

63湖南大学经济与贸易学院14-6月-26

显著性检验（续）一般来说，与之间会有差异，对此，有两种不同的解释：（1）假设正确，与之间的差异完全是由于抽样的随机性造成的；（2）假设不正确。

若

正确，则有

，从而64湖南大学经济与贸易学院14-6月-26

显著性检验（续）

给定一个小正数（称之为显著性水平），有即

，

其中“”是一个小概率事件，由实际推断原理，小概率事件在一次试验中几乎是不可能发生的。若抽样结果是，这时我们有理由拒接.

显著性检验的不足之处在于选择

的随意性，在实际中常用

值（拒绝原假设的最低的显著性水平）进行假设检验。

65湖南大学经济与贸易学院14-6月-26例：检验加工的零件是否达标

设某工厂用数控机床加工某种轴类零件，根据以往的资料分析

，

数控机床所加工的零件外径服从正态分布

。为检验某台新数控机床所加工的零件外径是否达标，从其所加工的零件中随机抽取9个，测得外径（单位：厘米）为0.4990.5140.5080.5120.4980.5150.5160.5130.524