计量经济学英文版附录B 翻译.doc

附录B复习概率相关概念：学习目标：基于这个附录的材料，你应该能够：1、 解释一个随机变量和它的值之间的不同，并给出一个例子。2、 解释离散型随机变量与连续型随机变量之间的不同，并分别给出一个例子。3、 描述离散型随机变量的概率密度函数的特征，并给出一个例子。4、 在给定的离散型概率函数中计算事件的概率。5、 解释下面语句的涵义：在离散型随机变量中取值2时所对应的概率为0.3。6、 解释连续型随机变量的概率密度函数与离散型随机变量的密度函数之间的不同。7、 怎样用代数的方法计算给定的连续型随机变量的概率。8、 直观的解释一个随机变量的均值或者期望值的概念9、 结合离散型随机变量的期望值概念，在B.9给定的概率密度函数f(x)和函数g（x）来计算期望。10、 理解离散随机变量的方差的定义，并解释当方差值越大时随机变量取值更分散的意义。11、 运用一个联合概率密度函数（表格）表示两个离散型随机变量并且计算联合事件的概率，并且找到每个单独随机变量的边缘概率密度函数。12、 在给定另外一个离散型随机变量取值和他们的联合密度函数的情况下会找出一个离散型随机变量的条件概率密度函数。13、 给出一个关于两个随机变量相互独立的直观的解释，并且给出两个随机变量独立的条件。举出两个随机变量相互独立和不独立的实例。14、 定义两个随机变量的协方差和相关性，并且在给定两个离散型随机变量的联合概率函数的情况下计算协方差和相关性。15、 找出随机变量和的均值和方差。16、 结合表1和电脑软件计算正态分布的概率。关键词：二进制变量 自由度 众数 二进制随机变量 离散型随机变量 正态分布 连续型概率分布函数 期望值 概率密度函数 分布 试验 概率 条件概率密度函数 F分布 概率密度函数 条件概率 联合概率密度 随机变量 连续随机变量 函数 标准差 相关性 边缘分布 标准正态分布 协方差 均值 独立 累积分布 中数 方差 我们假定你已经学过一些基本概率统计的课程，在这章附录中我们将复习一些关于概率统计的基本概念，B.1部分我们回顾离散和连续型随机变量；在B.2部分复习概率分布；B.3部分介绍联合概率分布、定义了条件概率和独立的概念；在B.4部分我们将复习概率分布的一些特性，重点复习期望和方差；在B.5部分总结一些重我们常用的概率分布的重要特征：正态分布、t分布、F分布。B.1 随机变量俗话说世界上只有死亡和纳税是确定的。虽然不是这句话的本意，但这个观点还是指出我们在生活中遇到的大部分事情是不确定的。我们不知道我们球队在下一个赛季会赢多少场，你肯定不知道在第一次考试中会得多少分，我们不知道明天的股指是多少。这些事情或是结果都是不确定的或者说是随机的。概率给了我们一个讨论可能性结果的方法。 一个随机变量是在观察前取值未知的量，换句话说就是它是不能准确预测的变化量。每一个随机变量都有一组可能取的值。如果用W代表我们球队下赛季赢球的场数，如果最多只有13场比赛的话,那么W可以取0、1、2、13。这是个离散型随机变量，因为它只可取有些可数的实数值。另外关于离散型随机变量的实例有随机挑选的家庭中拥有电脑的数量以及下一年你看医生的次数。如果一个试验只有两个结果发生，比如，在电话问卷中，别人问你你是否有大学学历，你的回答只能“是”或者“不是”这样的事件我就说它符合二项分布。用“1”代表“是”用“0”代表“不是”。二项分布是离散型的，用来代替性别（男或女）、种族（白人，非白人）等性质、特征。 美国的是另一例随机变量，因为它的数值在观察到之前是不确定的。在2007年的第二季度，它的值是$138394亿 美元(季度调整的年增长率)。诚然，是用美元来衡量的，并且可以整美元来计算，但是这个值太过巨大以至于计算个人的美元收入变得毫无意义。从实际角度看，可以取从零至无限间的任意值，它是一个连续性随机变量。其他一般的宏观经济随机变量如利率、投资、消费，也看被认作连续性随机变量。在经济学中，股市指数，像道琼斯指数一样，也认为是连续的。使这些变量得以连续的关键特性是它们可以取区间内的任意值。B.2 概率分布概率通常用试验来定义。转骰子是一个试验，我们可以得到六种结果。如果骰子是均匀的，那么每种可能将以1/6的概率出现，假设试验进行无数次的话。1/6这个概率的得出是因为有六种等可能性的结果。然而，如果骰子不是均匀的。设是当掷骰子时出现的值，那么说1的概率就是当大量掷骰子时“一”出现的次数占总数的比重。总之，一个事件的概率就是“限制性的相对频率”，或说在长期中它发生的比重。在收集调查数据时，人员的学历常常是感兴趣的项目。令表示随机被调查者有大学或更高层次学历；令表示相反情况。在2002年，美国25岁及以上人口中，有27%至少有大学的学历。因而，在总人口中，的概率为0.27,写作（）0.27。概率一定是正的并且总和是，所以（）（）0.73。在这个例子中随机变量是离散的，因此谈论取某个具体值的概率是有意义的。我们可以用概率密度函数（pdf）来总和所有概率结果。离散型随机变量的概率密度函数是指每个可能结果的概率值。对离散型随机变量，概率密度f(x)是随机变量取值x的概率，f(x)=（x）。因为f(x)是概率，因此一定有f(x)1,如果可以取n个值.，那它们的总和一定是1。f(1)+f(2)+f(n).对于离散性随机变量，pdf可能以表格、公式、或者图表的形式表现，以指明一个人是否拥有大学学历的二项分布，我们可以用像表.1中的列表来表示。概率同样可以等式的形式来表示，如：f(x)=这样得出f(1)=-1 = 0.27, f(0)= = 0.73Table B.1 Probabilities of a College DegreeCollege x f(x)DegreeNo 0 0.73Yes 1 0.27如另一个例子，令表示一年中大学生找到工作的那个季度。五个取值的概率是0,1,2,3,4,f(x)=0.05, 0.50, 0.10, 0.10, 0.25. 我们可以用柱状图来表示这个离散型随机变量的pdf,这样我们可以直观地看到各种可能的结果，如表.1概率分布函数（cdf）是另一种表示概率的方法。随机变量的cdf,用(x)表示，表示小于或者等于某个特定的值x。即：(x) = (Xx)的值，pdf, cdf, 如表.2 利用pdf我们可以计算一个学生工作超过两个季度的概率，（2）=1-（2）=1- （2）1-0.650.35对于标准概率分布，统计学软件已经整合cdf函数，这样计算概率时较为省力。例如，二项随机变量是n次独立试验中成功概率为p的成功次数。给定总事件次数n与成功概率p的数值，二项分布概率就可以表示如下 表B-2 概率分布函数和累积分布函数=上式的意思是“n个联合的数字一次取x个”，n！读作n的阶乘，用公式表示即n！=n（n-1）（2）（1）。假设有13场比赛，LSU老虎队比赛相互独立而且每场比赛他们获胜的概率p=0.7。那么他们一个赛季至少赢8场的概率是多少？答案是 P（X8）=1-p（X7）=1-F（7）我们可以用表B1强力估计这个概率，但是这太单调。用Eviews 命令cbinom求二项随机分布的累积分布函数，将会非常容易。 1-cbinom（7，13,0.7）=0.8346别的一些软件也有相似的强有力的功能。 连续随机分布可以取任意一个值，并且可以取无数的数值。结果任何一个特定值的概率都是0.对于连续随机变量，我们讨论一个某一特定区间的结果。图B.2描述了连续随机分布X的概率分布函数f（x）从0取到无穷大。曲线下边的区域达标X落在一个区间时的概率。对于这个分布，P（X20）=0.294以及P（X40）=0.649.然后我们可以估算p（20X40）=0.355这些区域是如何获得的？积分给出了曲线下面的区域的表示方法，因此P（20X40）=0.355分布函数是P（Xx）=F（x） 图B.2 一个连续型随机变量的概率密度函数F(x)是X的累积分布函数。概率计算结果是P（20X40） F(40)F(20) 0.6490.2940.355我们不再这本书中计算积分。我们将用电脑和简单的软件命令来计算累积分布函数值。B.3 联合，边缘和条件概率分布处理超过一个随机变量需要一个联合概率密度函数。一个联合概率密度函数描述了变量取值的组合的概率值。在2002年的美国，有185183000人至少25岁。假定我们对从这些人中随机选择上过四年大学和在2002年已经有收入的人的概率有兴趣。定义两个随机变量：X,描述一个人的所获学历，和Y,他们在2002年是否有收入。 1 高中文凭或更低X 2 一些专科学校 3 大学学位 4 更高的学位表 B.3 联合概率函数 f（x,y） 0 如果在2002年没有收入Y 1 如果在2002年有正向的收入随机选择有这些特征的某人的概率已经由X和Y的联合概率密度函数给出了，记作f(x,y),它们由表B.3给出。随机选择的某个人，他有4年大学学历和在2002年有收入的概率是0.14，即P(X3，Y1)f（3,1）0.14 和一元随机变量的概率密度函数一样，联合概率的总和是1. f（x,y）1.B.3.1 边际分布给定一个联合概率密度函数，我们可以获得各个随机变量的概率分布，也被称为边际分布。如果X和Y是两个离散随机变量， 对任意的X （B.2） 对任意的Y注意到在（B.2）的和不含另一个随机变量我们从联合概率密度函数里消除的那个。这种运算有时叫做在联合概率表里加除不需要的变量。例如，运用表B.3， y0,1 0.190.060.040.020.31联合和边际分布被记述就像在表B.4.如果随机变量是连续的，（B.2）的概念也生效，但是积分号代替了求和符号。B.3.2 条件概率表 B.4 X和Y的边缘分布随机选择一个人，考虑到他有一个四年的本科学历，他有收入的概率是多少呢？这个问题就是求已知X=3时，Y=1的条件概率是多少。条件确立的功能就是为了减少可能出现的结果。在这个例子中，我们考虑只有18%的人有本科学历，对于离散随机变量，随机变量Y在X=x的条件下的概率可以写作。条件概率可由条件概率密度函数得出： （B.3）根据边缘概率,Y在X=3的条件下的条件概率密度为：只要是大学毕业，随机选取一个人得到正向的工资的概率是0.78（条件概率密度），但是从全部人随机选取的一个人得到正向工资水平的概率是（边缘概率密度）。了解教育的程度告诉我们一个人获得高薪酬的概率，这些随机变量依赖于统计学意义。如果Y=y在X=x的条件下的条件概率等于Y=y非条件下得概率，那么这两个随机变量在统计学上讲是独立的。知道X的值不会改变Y的概率分布，这意味着，如果X和Y是相互独立的随机变量，那么 （B.4）同样的，如果X和Y是相互独立的，在X=x条件下Y的条件概率密度和Y的非条件、边缘概率密度相同。 （B.5）反之亦然，所以说如果(B.4)或(B.5)对每一对x和y的值都成立，那么X和Y是相对独立的。求解（B.5）联合概率密度，如果说X和Y的边缘概率密度之积等于联合概率密度，那么X和Y相对独立。 （B.6）如果(B.6)对每对x和y的值都成立，那么X和Y是相对独立的。这个结果可以推广至两个以上的随机变量。如果X，Y，Z是相对独立的，那么他们的联合概率密度函数可以被分解写为。B.3.3 简单试验让我们举例说明在一个简单试验中联合概率、边缘概率和条件概率的应用。把表B.5中的值当做有趣的样本空间。如果从表中随机选择一个（假设把表中的数字分别写在10等份的纸上，把它们卷起，然后随机抽取一个来看），这就可以组成一个随机试验。根据这个随机试验我们可以定义一些随机变量。例如，让X为我们所画的纸片所表示的数值，让Y为这些纸片的颜色所代表的离散随机变量，让Y=1代表有颜色的，Y=0代表白的。这两个随机变量的概率分布如表B.6和表B.7，我们同样可以指定X和Y的联合概率分布，列在表B.8。通过这个联合概率分布，我们可以得出一张纸片的颜色是白色（Y=0）并且数字是2（X=2）的概率是。通过这个简单试验我们也可以说明条件概率的意义。在给定纸片是暗色（Y=1）的条件下，纸片上数字是2 的概率是多少？如果我们限定只注意暗色纸片，我们重新定义样本空间。每个数字有同样的机会出现在新的（暗的）总体，所以 x=1,2,3,4 或者用公式(B.3)其中有一个关键的前提条件就是我们计算的条件概率是在其它条件不变的的特殊前提下原总体样本下的一个子集中进行计算的。由于条件概率P（X=1|Y=1）=0.25是不等于X的边缘分布P（X=1）=0.1的。从总的样本空间来看，通过B-4和B-5式子可知，数值X和颜色Y不是相互独立的随机变量。B.4概率分布的性质图B.1和B.2让我们了解了随机变量取值出现的频率。分布的两个基本特征就是中心和宽度。中心的度量方法主要有期望、中位数和众数；宽度的描述主要有方差和它的平方根标准差。B.4.1 期望、中位数和众数一个随机变量的均值是通过数学期望给出来的。如离散型随机变数X取-，那变量X的数学期望即期望值为E（X）=P(X=)+P(X=)+-+P(X=)，（B.7）期望值或均值是各事件值的加权平均值，权数就是事件发生的概率。均值常用字母或表示。在一个无限重复次数为基础的试验中，均值或期望等于所有取得值得平均数。对于表B-中0-1分布E（x）=00.73+10.27=0.27，这有什么涵义？当我们随机从样本中去一个人时，X的期望值并不是我们期望获得的X的值，因为我们规定X只取0或1。X的期望值E（X），是当我们从样本空间中抽取多个个体时的X的平均值。同样的，如果随机变量X是掷骰子得到的数字，则随机变量的X的期望值就是3.5，如果掷的次数无限多的话，所有取到的X值的平均值就会是3.5. 对于一个离散的随机变量，X取x的概率是通过概率分布函数P(X=x)=f(x)给出的，X在B.7中的的期望值就可以等价的表示为= E（x）= (B-8)对于连续型随机变量随机变量X的期望值的概念是不变的。当试验无限重复发生时，所有发生值得平均数就等于期望值，然而对于连续随机变量可取无穷多个值，所以我们用积分代替原有的传统求和，故对一个连续随机变量X期望值= E（x）=。而期望的这种算法可能对事件概率分布中心地带的估量有一定的缺陷，因为他可能会受到某个极端事件值的影响，例如，随机变量X只能取1,2,1000000，概率分别为0.5 0.49 0.01，则X的期望值是10001.48，它可以代表事件的密度中心吗？或许不能。另外两个衡量分布中心的的参数是中位数和众数。对于连续型随机变量，X的中数m是使P（Xm）=P(Xm)=0.5的值，也就是说，中位数落在M两边的概率是一样的。一个相关例子是试验B-2，它很近似代表全美2002年25岁以上人收入分布的函数；在这一年实际中间的收入是30553美元，平均收入39849美元；而65%的人收入在40000以下，实际上可以高收入的个人将期望拉向了右边，这样的分布是歪斜的。在对称的分布中，像我们熟悉的正态曲线，它的平均值和中位数是相等的。对于离散的随机变量中位数某种意义上更难描述而且可能不止一个。在例子变量X只取1,2,100000，概率分别为0.5 0.49 0.01中 ，X的中位值为2.对于B-2分布中，中位值是略低于1，这就让我们很为难了，因为1以下的的值只有0。一个折中的方法是取X=1/2。众数是使X的概率取最大值时的值。在图B-1中，X的众数是1,。对于连续型随机分布B-2中众数为X=17.09.B.4.2随机变量函数的期望随机变量函数也是随机的，期望值同样可以用类似式子(B.8)来获得。如果随机变量X是散离的，g(x)是变量X的函数，则 Eg(x)= （B.9)这个式子依然适用于变量X是连续的时候，但我们要用积分代替代数求和，利用式子B-9我们可以归纳一些对于离散或者连续随机变量均适用的常用法则，一般的Eg(x)gE(X)像,但在某些情况下，求他们的期望很容易，若a是常数时， （B.10) 运用式子B_9我们看看推导过程，最后一步我们依据定义E(x)替代了。类似的,若a、b均为常数时，那么我们可以得到 (.11)如果、是X的函数，则 (B.12)这个法则可以延伸到函数的任何值，记住一个和的期望等于期望的和。一个离散或连续的随机变量的方差是（）的期望值，方差在测量概率分布偏离均值的程度上很有意义，我们常用表示，读作“sigma”.用代数方法，令E(X)=, (B.13) 随机变量的方差是随机变量的的平方的期望和期望的平方的差额，方差越大，变量偏离均值的幅度就越大。在表中显示的两种分布，期望值均为，就像我们看到的方差越小的随机变量的分布就越聚集到均值附近。 表B-3 不同方差的概率分布方差的平方根叫做标准差；可以记作。它也可以用来测量一个分布的离散程度 所以它可以作为一个随机变量的计量单位。下面是一个方差的有用的性质。假定a和b是常数。则有 Var(aX+b)=avar(X) (B.14)我们通过利用方差的定义和期望的法则得到这个结果，如下Var(aX+b)=EaX+b-E(aX+b)=E(aX+b-a-b) =Ea(X-)=aE(X-）=avar(X)概率分布的另外两个特征值是偏度和分度。他们的定义为： 偏度= 峰度=偏度测量一个分布的对称的偏离度。 如果一个分布是对称的。那么它的偏度=0. 分布左边有不对称的部分称为负的偏离 偏度0。峰度测量一个分布的“峰值”。有较大的分度的一个分布会有更多的值集中在期望和类似的高峰值的附近。一个相对均匀的分布有一个低的峰度。峰度的基准值是3.这是正态分布的分度。我们会在以后的附录里来研究正态分布。（B.5.1)B.4.3 多个随机变量的期望值对于多个随机变量函数，存在一个类似于（B.9)的法则。令X和Y为离散型随机变量。它们的联合概率密度函数为pdf f(x.y)。若g(X.Y)是它们的函数。则有 Eg(X.Y)= (B.15)通过（B.15）我们可以得到 E（X+Y）=E(X)+E(Y) (B.16)通过（B.15)的定义和期望的法则来证明： E（X+Y）=+ =+=+ =E(X)+E(Y) 在第二行我们用（B.2）来获取X和Y的边际分布。求和的顺序无关紧要。用同样的逻辑方法我们可能得到 E（aX+bY+c）=aE(x)+bE(y)+c （B.17）若X和Y独立，利用(B.15)我们还可以得到E(XY)=E(X)E(Y)。同样可以得到f(x.y)=f(x)f(y).证明如下： E(XY)=Eg(X,Y)=E(X)E(Y)这些法则可以延伸到更多的随机变量中(B.15)的一个特殊应用是引出X和Y的协方差。定义协方差函数为变量X减去它的期望与变量Y减去它的期望的乘积。 g(X.Y)=(X-)（Y-） （B.18)在数据B.4中我们绘制X和Y的数据以使E(X)和E(Y)都等于0.数值大部分都在一、三象限。所以平均来说协方差值g(x.y）=(x-)（y-）0我们定义两个随机变量的协方差是他们输出的期望 Cov(X,Y)=E (X-)（Y-)=E(XY)- （B.19）在数据B.4中随机变量协方差是正的，这告诉我们当x的值大于它们的期望时，y的值也同样趋向于大于它们的期望；当x的值小于它们的期望时，y的值也同样趋向于小于它们的期望。 如果随机数组主要分布在二和四象限，那么g(x,y)趋于小于0.那么也将小于0如果数据均匀的分布在4个象限中，那么将显示不出任何正的和负的相关性，则协方差为0.总体而言，告诉我们俩个变量是正的相关还是负的相关。确定 的主要取值是困难的。因为X和Y可能有不同的取值组合。通过标准差来计算变量的协方差需要去除一些数组。所以我们定义X和Y的相关系数 = （B.20)和协方差一样，两个随机变量的相关性也用来测量变量间的相关性的。然而，不同于协方差，相关性必须在-1和1之间，如果X和Y线性正相关或者负相关，那么X和Y的相关性是1或者-1。如果X和Y之间没有相关性。那么cov(X,Y)=0且=0.对于检验相关性的其他指标，相关性的绝对值的大小可以表明随机变量数值间的相关性的强度。在数据B.4中X和Y的相关性为=0.5如果X和Y是相互独立的随机变量。那么它们间的协方差和相关系数均为0.但这个命题的逆命题是不争确的。独立随机变量X和Y协方差为0，表明它们之间没有线性关系。然而，两个随机变量只是协方差或者相关系数为0并不能说明他们一定相互独立。他们间可能有更复杂的非线性关系，比如X+Y=1.在（B.16）中我们得到一个随机变量和的期望。对于协方差我们可以得到相似的结论。如果a和b是常数，那么 Var(aX+bY)=avar(X)+bvar(Y)+2abcov(X,Y) (B.21) Var(X+Y)= Var(X)+ Var(Y)+2cov(X,Y) (B.22) Var(X-Y)=Var(X)+ Var(Y)-2cov(X,Y) (B.23)若a.b相互独立，或者协方差为0，那么 Var(aX+bY)=avar(X)+bvar(Y) （B.24） Var(XY)= Var(X)+ Var(Y) （B.25)这些法则可以运用到多个随机变量的情况。例如，若X,Y和Z是独立的，或者不相关的随机变量，那么它们和的相关性可表示为： Var(X+Y+Z)= Var(X)+ Var(Y)+Var(Z)B.4.4 再次使用那个简单的试验在B3.3中，我们通过介绍一个简单的例子来引出了随机变量X和Y的分布，分别列在表B.6和B.7中，他们的联合分布列在表B.8中。让我们再用这个例子来回顾这个部分提及的一些基本概念吧。使用表格B.7的概率分布，随机变量x的期望值是这是什么意思呢？从表格B.5中随机选取一个单元格，构成了一个随机试验。观察x的数值，如果我们重复这个实验很多次，x值出现1，2，3和4的概率分别是10%，20%，30%和40%。当选取的数字很多时,所有数值的平均值将会接近。关键的信息是随机变量的期望值是这个实验重复很多次所得到的平均值。同样的，随机变量X的方差是 = =（40.1）+（10.2）+（00.3）+（10.4） =1在许多次重复试验中，用数字表示的 的平均值是1。平均值的平方不同于自由变量的方差。B5 一些重要的概率分布B5.1 正态分布在先前的部分中，我们简单地讨论了随机变量和他们的概率密度函数。在真正的经济学背景中，一些概率分布函数是非常有用的。最重要的是正态分布函数。如果X是一个服从正态分布函数的随机变量，拥有均值和方差，可以被简写为X，X的概率密度函数是 （B.26）Expa指的是指数函数。均值和方差是这个分布的参数，而且决定了它的中心和离散程度。随机变量的取值范围从负无穷到正无穷。不同均值和方差的正态分布的概率密度函数图象是表格B.5。我们注意到正态分布的图像是堆对称的，因此他的偏度为0，峰度为3。和所有的连续随机变量一样，正态分布的概率密度函数属于概率密度函数的一种。在计算概率时，电脑软件和列表取值都可以利用普通正态分布和它的等价标准形式间的关系。如果X,那么 （B.27）图表B.5 （a）方差为1均值为的正态分布的概率密度函数（b）均值为0方差为的正态分布的概率密度函数 连续标准正态分布概率密度函数的变量Z应用的很广泛，给予他一个特殊的符号，。电脑软件和这本书最后的表格1中给出了的数值。为了计算服从正态分布变量的概率，须记住它的分布是对称的，因此