概率论统计学复习

1、概率论统计学复习摘要：本课程要求学生具有微积分、概率论和线性代数的基础。这里对其中概率论统计学的重要概念进行简单的复习。1、概率论的复习在现实生活中，我们常常遇到许多事先不能确定结果的现象，例如抛硬币，抛之前无法确定是正面还是负面。世界的许多方面都存在随机性，所谓“随机性”就是事前无法知道结果，而一旦被揭示就会取定一个实现值，概率理论提供了有用的数学工具对随机性进行描述和定量分析。1.1 随机变量与概率分布l 样本空间所有可能结果组成的集合，通常记为；在样本空间的每一个可能结果称为基本事件，记为w。l 随机变量定义在样本空间上的单值函数，即C(w)，通常简化为C。l 事件样本空间的一个子集，即

2、一个可能结果或多个可能结果组成的集合就称为随机事件，简称事件。样本空间是其本身的子集，称为必然事件；空集Æ也是的子集，称Æ为不可能事件。通常用随机变量的取值或者取值范围表示随机事件，例如。l 概率描述事件发生可能性大小的数量指标。事件A的概率记为P(A)。通常研究随机变量各种取值情况的概率。随机变量的全部概率特征称为随机变量的概率分布。l 离散随机变量的概率分布通常用一个二维表格直观描述离散随机变量X的概率分布XP其中，l 连续随机变量的概率分布用密度函数描述；累计分布函数 ；l 概率分布的数字特征期望 记为或 对于离散变量，；对于连续变量，。方差 记为或 运算规则：给定任

3、意常数，；.标准差 或 矩 称为变量X的阶矩，时就是X的期望。1.2 联合分布、条件分布与独立性本课程的计量经济学就是以客观经济系统中具有随机性质的经济关系为研究对象，也就是说我们研究的是带有随机性的经济变量的关系。那么如何描述随机变量之间的关系呢？l 联合分布两个随机变量的联合分布的密度函数为；X的边际密度函数定义为；Y的边际密度函数定义为。注意：如果是离散变量，则积分变为求和，密度函数变为离散变量的概率分布即可。l 条件分布给定X，Y的条件密度函数定义为；同理给出X的条件密度函数。l 独立性若，那么称这两个变量独立。这等价于。l 联合分布的数字特征协方差用于度量两个变量的线性相关程度，记为

4、或； .意味着两个变量同方向变动，称之为正相关；称之为负相关；称之为不相关。相关系数 ；.如果独立，那么，.l 条件分布的数字特征条件期望协方差和相关系数衡量的是两个随机变量之间的线性相关关系，两个变量在协方差和相关系数的定义公式中是对称的。在经济学研究中，我们更感兴趣的是用一个变量X去解释另一个变量Y；而且Y和X的关系很有可能是非线性的。在前面已经引入了“给定一个变量X，Y的条件密度函数”的概念，从条件分布我们可以知道变量X的变动如何影响变量Y的分布。然而，研究变量的分布很复杂，一个好的办法就是用一个简单的数字特征“给定X，Y的条件期望”来总结出这个分布。条件期望在现代计量分析中扮演了一个很

5、重要的角色，本课程的全部内容都是讲解如何在条件期望上进行系数估计和假设检验。给定X，Y的条件期望定义为 .条件期望的性质：1）对于任意的函数，；2）对于任意的函数和，；3）若X和Y独立，那么；4)若，那么5）若以及某一函数有，那么；其中6）（迭代期望法则，LIE）.条件方差如果X和Y独立，那么.1.3 各种常见分布l 正态分布通常记为xN(m,s)，其密度函数为；令，那么服从标准正态分布N(0,1)，l 卡方分布假设n个变量XiN(0,1)，那么；l t-分布假设两个独立的随机变量ZN(0,1)， y ，那么l F-分布假设和是两个独立的卡方分布，那么2、统计学的复习l 总体、参数、随机样本所

6、谓总体就是一个随机变量X（或一个随机向量）；X的分布函数通常记为；其中就是待估计的参数。在计量经济学中，也称数据生成过程。在进行n次重复独立实验后，得到总体X的n个观察值，而在实验之前，实际上是相互独立均与总体X同分布的n个随机变量。称为总体X的容量为n的简单随机样本，简称样本；称为样本的观察值，简称样本值。l 统计量如果是的连续函数，且其中不含有任何未知参数，则称为一个统计量。常见的统计量有：样本均值 ；样本方差；样本标准差；样本k阶原点矩 ；样本k阶中心矩。假设，是某个X和Y联合分布的样本，那么样本协方差 样本相关系数 注意! 相关系数只衡量了X和Y的线性关系，不能反映非线性关系。可以先用散点图观察两者的大概关系。图1 图2图3 图4l 样本分布任何一个统计量W都是一组随机变量的函数，因此W也是一个随机变量，对应着某一特定的概率分布，把这些概率分布称为样本分布