计量经济学的数理统计学基础

计量经济学的数理统计学基础一、随机变量的概率分布1随机变量随机变量是指取值具有随机性的变量。随机变量有两种：离散随机变量和连续随机变量。2离散随机变量的概率分布（1）概率函数通常用一个二维表格直观描述离散随机变量 X 的概率分布：其中 ，11niip10ip（2）分布函数累计分布概率： xiipxXPxF)(X 1x2 nxP 1p2 np3连续随机变量的概率分布（1）概率函数用概率密度函数 描述，)(xf它满足以下性质：； ；xxf,0)( 1)(dxfbaxfXaP)()(（2）分布函数累计分布函数 ；xdxfxXPxF )()(另有： )()()()( bxaPaFbdxfba 二、随机变量的数字特征（分布参数）1数学期望数学期望 记为 或 EXX对于离散变量， ；niixp1对于连续变量， xdfEX)(性质：互X)()()( 212121 EXXECE 2方差方差 记为 或 DX2X222 )()()( EXEEDX 性质：；.0)(CDXCXD2)( 互 互 互 互互 212121)( XX3标准差（均方差）标准差 DXX4矩矩 称为变量 X 的 阶矩，)(nXE n时就是 X 的期望。1n5协方差协方差用于度量两个变量的线性相关程度，记为 或 ；xy),cov(YX)(),cov( EEXEYX .)()()( YXY意味着两个变量同方向变0xy动，称之为正相关；称之为负相关；0xy称之为不相关。xy相关系数 ； .yxxy 1|如果 独立，那么 ，YX, 0,0xy三、样本统计量1总体和样本所谓总体就是一个随机变量X，X 的分布函数通常记为 ，);(xF其中 就是待估计的参数。在进行 n 次重复独立实验后，得到总体 X 的 n 个观察值 ，nxx,.,21而在实验之前， 实际上nx,.,21是相互独立均与总体 X 同分布的n 个随机变量 。称nX,.,21为总体 X 的容量为 nnX,.,21的简单随机样本，简称样本；称为样本的一个观察值，nxx,.,21简称样本值。2常见的样本统计量 统计量的概念设 是来自总体 X 的一个nXX,.,21样本，若随机变量 的函n,.,21数 中不含有任何未知),.,(21nXXg参数，则称 为一个统),.,(21nXg计量。注意：统计量本身是一个随机变量；其值可由样本值计算出来。 最常见的统计量有：样本均值 ；niiXX1样本方差 ；212 )(niiS样本标准差 ；21)(niiXS样本 k 阶原点矩 ；nikikM1样本 k 阶中心矩 。kniik X)(1 假设 ， ，是某个 X),(iiYXni,.1和 Y 联合分布的样本，那么样本协方差 )(1YXnS iniiXY 样本相关系数 YXXYS四、抽样分布1几个常用分布正态分布定义：如果随机变量 X 的密度函数为 )(21exp21)( 2xxf则称 X 服从参数为 、 的正态分布，通常记为 X(,2)。令 ，/)(xz那么 服从标准正态分布(0,1) ，z 21exp21)( zzf 卡方分布假设 n 维向量 XN(0, )，那么nI)().( 22221 nXXX n；t-分布假设两个独立的随机变量 ZN(0,1)，Y ，那么 )(2n)(ntnYF-分布假设 和 是两个独立1Y)(12n2Y)(2n的卡方分布，那么 ),(/ 212211 nFnY2样本均值的分布总体 X (,2)样本 (,2)nX,.,21则： (,2/n)X3样本方差的分布2)1(Sn)1(2n4样本均方差的分布nSX)1(nt四、区间估计临界值的概念设 的分布函数为 ， 满足XFx，则1(),01FxPXx称 为 的 临界值。对称分布 的临界值(0,1)UN非对称分布 的临界值22(1)n 区间估计对于参数 ，如果有两个统计量,),(211 nXX ),(2122 nXX，满足对给定的 ，有),0(121P则称区间 ， 是 的一个区间估12计或置信区间， 、 分别称作置12信下限、置信上限， 称为置信水平。置信水平为 1- ，在实际上可以这样理解:如取 ，就是说若对某一参%951数 取 100 个容量为 的样本，用相同方法做 100 个置信区间。 ， ，n )(1k)(2=1,2,100,那么其中有 95 个区间包含了真参数 因此,当实际上只做一次区k 间估计时，我们有理由认为它包含了真参数。这样判断当然也可能犯错误，但犯错误的概率只有 5%。寻找置信区间的通常方法是从已知抽样分布的统计量，如上文提到的 U，X 和T 入手，由于分布和概率已知，只要确定临界值就可以了。单个正态总体参数的区间估计设 为 的样本，对nXX,21 ),(2N给定的置信水平 ， ，110求 参数 和方差 的区间估计。2情况 1（ 已知）由于2，所以容易找到临界)1,0(/NnXU值 ，使得2/，那么 1/ 2/2/ UnXUP的区间估计是： , 2/2/ nUXnUX 。情况 2（ 未知）2情况 3（ 的区间估计）2五、假设检验 假设检验的基本思想在数理统计中，假设检验是这样一个过程：对未知总体，先作出某种假设，然后利用样本提供的信息，对这一假设的合理性进行检验，从而确定接受或拒绝这一假设。在进行假设检验时，有两点值得注意： 反证法思想。“小概率事件”在一次实验中不会发生。 假设检验的步骤第一步，建立假设； 00:H 01:H这里 称为原假设， 称为备择假设。0 1注意：在假设检验中，原假设 与备选假设 的地位是不对等的。0H1一般来说 是较小的，因而检验推断是“偏向”原假设，而“歧视”备选假设的。既然 是受保护的，则对于 的肯定相对来说是较缺0 0乏说服力的，充其量不过是原假设与试验结果没有明显矛盾；反之，对于 的否定则是有力的，且 越小，小概率事件越难于发生，一0H旦发生了，这种否定就越有力，也就越能说明问题。在应用中，如果要用假设检验说明某个结论成立，那么最好设 为该结论不成立。0H第二步，构造统计量，求出统计量的样本分布以及由样本观察值算出其具体值。统计量 nSXt)1(nt在 成立的条件下，对应的具体值记为 。0Ht第三步，根据备择假设构造出对 不利的小概率事件在给0H定显著性水平 下，确定临界值，构造出拒绝域。在一个问题中，通常指定一个正数 （ ） ，认为概01率不超过 的事件是在一次试验中几乎不会发生的事件， 称为显著性水平。=0.05，算出临界值 。(1)tn，这里 V 是 拒绝域，它是 使得这一小(1)Vtn概率事件发生的样本空间的点的全体。第四步，得出结论方法 1：根据计算出来的 值，看样本是否落在 内，若落在t V内，则拒绝 ，否则,不能拒绝 。V0H0H如果 ，则称能以 的显著