概率论与数理统计笔记

第一章随机事件与概率随机事件的关系与运算：事件的包含与相等若A发生必然导致B发生，则称B包含A，记作BA,AB。有：øAΩ若AB且BA，则称A与B相等，记作A=B。和事件（并）称”A,B中至少有一个发生”为A与B的和事件，记作A∪B或A+B。有：(1)AA∪B,BA∪B(2)若AB,则A∪B=B积事件（交）称”A,B同时发生”为A与B的积事件，记作A∩B，简记为AB。有：(1)ABA,ABB(2)若AB，则AB=A差事件称”A发生而B不发生”为A与B的差事件，记作A-B。有：(1)A-BA(2)若AB，则A-B=ø互不相容若A与B不能同时发生，即AB=ø，则称A与B是互不相容的两个事件，简称A与B互不相容（或互斥）对立事件称”A不发生”为A的对立事件（或余事件，或逆事件），记作Ā。若A与B中至少有一个发生，且A与B互不相容，即A∪B=Ω,AB=ø，则称A与B互为对立事件。有：(1)=A.(2)=ø,=Ω.(3)A-B==A-AB注意：若A与B为对立事件，则A与B互不相容。但反过来不一定成立概率的定义与性质:设Ω为随机试验E的样本空间，对于E的每个事件A赋予一个实数，记为P（A），称P（A）为事件A的概率，如果它满足下列条件：P（A）≥0;P(Ω)=1;设A1,.A2,…Am,…是一列互不相容的事件，则有P(Ak)=P(Ak)性质:(1)0≤P(A)≤1,P(Φ)=0(2)P(A∪B)=P(A)+P(B)-P(AB)特别地，当A与B互不相容时，P(A∪B)=P(A)+P(B)推广：对于任意事件A,B,C有P(A∪B∪C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)当A1,.A2,…An互不相容时，(其中n为正整数)P(A1∪A2∪…∪An)=P(A1)+P(A2)+…+P(An)(3)P(B-A)=P(B)-P(AB)特别地，当AB时，P(B-A)=P(B)-P(A)，且P(A)≤P(B)P()=1-P(A)古典概型:P(A)==A中样本点数/Ω中样本点总数=A所包含的基本事件数/基本事件总数条件概率:设A,B是两个事件，且P(B)>0，称P(A|B)=为在事件B发生条件下事件A发生的条件概率。显然，当P(A)>0时，P(B|A)=概率的乘法公式：当P(A)>0时，P(AB)=P(A)P(B|A)当P(B)>0时，P(AB)=P(B)P(A|B)乘法公式还可以推广到n个事件的情况：(1)设P(AB)>0，则P(ABC)=P(A)P(B|A)P(C|AB)(2)设P(A1A2…An-1)>0P(A1A2…An)=P(A1)P(A2|A1)…P(An|A1A2…An-1全概率公式:设随机试验对应的样本空间为Ω，设A1,A2,…,An是样本空间Ω的一个划分，B是任意一个事件，则P(B)=P(Ai)P(B|Ai)当0<P(A)<1时，A与就是Ω的一个划分，又设B为任一事件，则全概率公式的最简单形式为P(B)=P(A)P(B|A)+P()P(B|)

运算律:交换律：A∪B=B∪A,A∩B=B∩A结合律：A∪(B∪C)=(A∪B)∪C,A∩(B∩C)=(A∩B)∩C分配律：A∪(B∩C)=(A∪B)∩(A∪C),A∩(B∪C)=(A∩B)∪(A∩C)对偶律：=,=∪贝叶斯公式:设A1,A2,…,An是样本空间Ω的一个划分，B是任意一个事件，且p(B)>0，则P(Ai|B)==,i=1,2,…,n.n重贝努利(Bernoulli)试验:Pn(k)=pk(1-p)n-k,k=0,1,2,…,n.(q=1-p)事件的独立性:定义：若P(AB)=P(A)P(B)，则称A与B相互独立，简称A,B独立。性质：(1)设P(A)>0，则A与B相互独立的充分必要条件是P(B)=P(B|A).设P(B)>0，则A与B相互独立的充分必要条件是P(A)=P(A|B).(2)若A与B相互独立，则A与，与B，与都相互独立定义：设A,B,C为3个事件，若满足P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P(B)P(C),P(ABC)=P(A)P(B)P(C)，则称A,B,C相互独立，简称A,B,C独立定义：设A,B,C为3个事件，若满足P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P(B)P(C),则称A,B,C两两独立A,B,C独立必有A,B,C两两独立，但反之不然定义：设A1,A2,…,An为n个事件，若对于任意整数k(1≤k≤n)和任意k个整数1≤i1<i2<…<ik≤n，有P(Ai1,Ai2,…,Aik)=P(Ai1)P(Ai2)…P(Aik)则称A1,A2,…,An相互独立直观上说，n个事件的独立性要求n个事件中任取2个、3个…n个组成的积事件的概率等于每个事件概率的乘积对于n个相互独立事件A1,A2,…,An，其和事件的概率可以通过下式计算：P(A1∪A2∪…∪An)=1-P(…)=1-P()P()…P()

附录排列与组合二.排列1.排列:从n个不同元素中任取r(r≤n)个元素排成一列（考虑元素次序）称此为一个排列，此种排列总数记为按乘法原理，取出的第一个元素有n种取法，取出的第二个元素有n-1种取法……取出的第r个元素有n-r+1种取法，则有＝nX(n-1)X…X(n-r+1)=当r=n时，则称为全排列，排列总数为＝n!2.可重复排列:从n个不同元素中每次取出一个，放回后再取下一个，如此连续取r次所得的排列称为可重复排列，此种排列总数共有nr个。注意这里的r允许大于n.三.组合1.组合从n个不同元素中任取r(r≤n)个元素排成一组（不考虑元素间的次序）称此为一个组合，此种组合总数记为或（）。按乘法原理，此种组合的总数为＝（）＝＝＝在此规定0！＝1，＝（）＝12.性质＝事实上，＝＝＝特别地，＝＝1一.两个基本原理1.乘法原理如果某件事需经k步才能完成，做第一步有m1种方法，做第二步有m2种方法……做第k种有mk种方法，那么完成这件事共有m1Xm2X…Xmk种方法2.加法原理如果某件事可由k类不同途径之一去完成，在第一类途径中有m1种完成方法，在第二类途径中有m2种完成方法……在第k类途径中有mk种完成方法，那么完成这件事共有m1+m2+…+mk种方法排列与组合都是计算“从n个元素中任取r个元素”的取法总数公式，其主要区别在于：如果不考虑取出元素间的次序，则用组合公式，否则用排列公式，而是否考虑元素间的次序，可以从实际问题中得以辨别

第二章随机变量及其概率分布离散型随机变量连续型随机变量若随机变量X只取有限多个或可列无限多个值，则称X为离散型随机变量P{X=xk}=pk,k=1,2,….若随机变量X的分布函数F(x)，存在非负函数f(x)，使得对任意实数x有F(x)=则称X为连续型随机变量，并称f(x)为X的概率密度函数设E是随机试验，样本空间为Ω，如果对于每一结果（样本点）ω∈Ω，有一个实数X(ω)与之对应，得到一个定义在Ω上的实值函数X=X(ω)，称为随机变量，通常用X,Y,Z,…或X1,X2,…来表示设X为离散型随机变量，可能取值为x1,x2,…,xk,…且P{X=xk}=pk,k=1,2,…,则称{pk}为X的分布律表格形式:Xx1,x2,…,xk,…Pp1,p2,…,pk,…{pk}性质：pk≥0,k=1,2,…=1在求离散型随机变量的分布律时，首先要找出其所有可能的取值，然后再求出每个值相应的概率在实际应用中，有时还要求“X满足某一条件”这样事件的概率，求法就是把满足条件的xk所对应的概率pk相加可得其分布函数F(x)=0-1分布：若随机变量X只取两个可能值0,1，且P{X=1}=p,P{X=0}=q其中0<p<1,q=1-p,则称X服从0-1分布.X的分布律为X01Pqp概率密度的性质：f(x)≥0=1P{a<X≤b}=F(b)-F(a)=,a≤b设x为f(x)的连续点，则F’(x)存在，且F’(x)=f(x)均匀分布X~U(a,b)若随机变量X的概率密度为,a≤x≤bf(x)=0,其他则称X服从区间[a,b]上的均匀分布，其分布函数为0,x≤aF(x)=,a<x<b1,x≥b设X~U(a,b),a≤c<d≤b，即[a,b][c,d]，则P{c≤X≤d}=随机变量的分布函数:设X为随机变量，称函数F(x)=P{X≤x},x∈(-∞,+∞)为X的分布函数.F(x)=分布函数的性质：0≤F(x)≤1F(x)是不减函数，即对于任意的x1<x2有F(x1)≤F(x2)F(-∞)=0,F(+∞)=1即F(x)=0,F(x)=1F(x)右连续，即F(x+0)=F(x+∆x)=F(x)已知F(x)，可求概率：P{X≤b}=F(b)P{a<X≤b}=F(b)-F(a),其中a<bP{X>b}=1-F(b)

二项分布X~B(n,p)：若随机变量X只取两个可能值0,1,…,n,而X的分布律为pk=P{X=xk}=,k=0,1,2,…,n,其中0<p<1,p+q=1，则称X服从参数为n,p的二项分布泊松定理设λ>0是常数，n是任意正整数，且npn=λ，则对于任意取定的非负整数k，有=当n很大p很小时，有近似公式≈其中λ=np泊松分布X~P(λ):pk=P{X=k}=,k=0,1,2,…其中λ>0指数分布X~E(λ)若随机变量X的概率密度为λe-λx,x>0f(x)=0,x≤0其中λ>0为常数，则称X服从参数为λ的指数分布，其分布函数为1-e-λx,x>0F(x)=0,x≤0对任意的s>0,t>0，有P{X>s+t|X>s}=P{X>t}(指数分布的无记忆性)正态分布曲线的性质：(1)曲线关于直线x=μ对称，表明对于任何h>0，有P{μ-h<X≤μ}=P{μ<X≤μ+h}(2)当x=μ时取到最大值f(μ)=，在x=μ±σ处曲线有拐点，曲线以x轴为渐近线(3)当σ取定，μ1<μ2时，f1(x)=,f2(x)=（曲线位置由μ决定，μ是正态分布的中心）(4)当μ取定，σ1<σ2时，f3(x)=,f4(x)=(σ越小，图形变得越尖锐，取值分散程度越大)

尽管正态分布取值范围是(-∞,+∞)，但它的值落在[μ-3σ,μ+3σ]的概率为0.9973几乎是肯定的，这个性质称为正态分布的“3σ规则”设X~N(0,1)，若满足条件P{X>μα}=α,0<α<1则称点μα为标准正态分布的上侧α分位数正态分布X~N(μ,σ2)若随机变量X的概率密度为f(x)=,-∞<x<+∞其分布函数为F(x)=dt特别地，当μ=0,σ=1时的正态分布N(0,1)称为标准正态分布：其概率密度φ(x)=,-∞<x<+∞分布函数Φ(x)=dt,-∞<x<+∞显然，φ(x)的图形关于y轴对称，且φ(x)在x=0处取得最大值标准正态分布函数Φ(x)性质：Φ(-x)=1-Φ(x)Φ(0)=一般正态分布的分布函数F(x)与标准正态分布函数Φ(x)关系：F(x)=P{X≤x}=Φ()P{a<X≤b}=P{a≤X<b}=P{a≤X≤b}=P{a<X<b}=F(b)-F(a)=Φ()-Φ()P{X>a}=P{X≥a}=1-Φ()

离散型随机变量函数的概率分布：设g(x)是一给定的连续函数，称Y=g(X)为随机变量X的一个函数，显然Y也是一个随机变量。当X取值x时，Y取值y=g(x)设X为离散型随机变量，其分布律为Xx1,x2,…,xk,…Pp1,p2,…,pk,…事实上，在求Y的分布律时有两种情况：当g(x1),g(x2),…g(xk),…互不相等时，Y的分布律即为Yg(x1),g(x2),…g(xk),…Pp1,p2,…,pk,…当g(x1),g(x2),…g(xk),…有相等的情况时，应把使g(xk)相等的那些xi所对应的概率相加，作为Y取值g(xk)的概率，这样才能得到Y的分布律.有时我们只求Y=g(X)在某一点y处取值的概率，有P{Y=y}=P{g(X)=y}=即把满足g(xk)=y的xk所对应的概率相加即可连续型随机变量函数的概率分布：设X为连续型随机变量，其概率密度fX(x)。设g(x)是一严格单调的可导函数，其值域为[α,β]，且g’(x)≠0。记x=h(y)为y=g(x)的反函数，则Y=g(X)的概率密度fX(h(y))|h’(y)|,α<y<βfY(y)=0,其他特别地，当α=-∞,β=+∞时，fY(y)=fX(h(y))|h’(y)|,-∞<y<+∞两个重要结论：（必须记住）当X~N(μ,σ2)时Y=~N(0,1)，且随机变量称为X的标准化。另外，正态随机变量的线性变换Y=aX+b仍是正态随机变量，即aX+b~N(aμ+b,a2σ2)(1)柯西(Cauchy)分布设X~U(-,)，令Y=tanX，求Y的概率密度fY(y)fY(y)=fX(h(y))|h’(y)|=,-∞<y<+∞(2)对数正态分布公式法直接变换法

第三章多维随机变量及其概率分布二维离散型随机变量:设二维随机变量(X,Y)只取有限多对或可列无穷多对(xi,yj),(i,j=1,2,…)，则称(X,Y)为二维离散型随机变量，其分布律为：P{X=xi,Y=yj}=pij(i,j=1,2,…)列表形式：Yy1y2…yj…Xx1p11p12…p1j…x2p21p22…p2j……………xipi1pi2…pij……………(X,Y)的分布律性质：pij≥0(i,j=1,2,…)pij=1(X,Y)关于X(或Ｙ)的边缘分布律:pi.=P{X=xi}=piji=1,2,…p.j=P{Y=yj}=pijj=1,2,…边缘分布律性质：pi.≥0,p.j≥0(i,j=1,2,…)pi.=1,p.j=1二维连续型随机变量：若随机变量(X,Y)的分布函数F(x,y)，存在非负函数f(x,y)，使得对任意实数x,y有F(x,y)=则称(X,Y)为二维连续型随机变量，并称f(x,y)为(X,Y)的概率密度函数概率密度f(x,y)性质：f(x,y)≥0=1若f(x,y)在(x,y)处连续，则有=f(x,y)如果已知(X,Y)的概率密度f(x,y)，则(X,Y)在平面区域D内取值的概率为：P{(X,Y)∈D}=由二重积分的几何意义知上式表明：随机点落在平面区域D上的概率等于以平面区域D为底、以曲面z=f(x,y)为顶的曲顶柱体的体积.设D为表面上的有界区域，其面积为S，且S>0，如果二维随机变量(X,Y)的概率密度为,(x,y)∈Df(x,y)=0,其他则称(X,Y)服从区域D上的均匀分布，记作(X,Y)~UD二维随机变量及其分布函数:设(X,Y)为一个二维随机变量，记F(x,y)=P{X≤x,Y≤y},-∞<x<+∞,-∞<y<+∞称二元函数F(x,y)为X与Y的联合分布函数或称为(X,Y)的分布函数:FX(x)=P{X≤x}=P{X≤x,Y<+∞}=F(x,+∞)=F(x,y)FY(y)=P{Y≤y}=P{X<+∞,Y≤y}=F(+∞,y)=F(x,y)P{x1<X≤x2,y1<Y≤y2}=F(x2,y2)-F(x2,y1)-F(x1,y2)+F(x1,y1)分布函数F(x,y)性质：F(x,y)是变量x(或y)的不减函数，即对任意固定的y，当x2>x1时，F(x2,y)≥F(x1,y)；对任意固定的x，当y2>y1时，F(x,y2)≥F(x,y1)0≤F(x,y)≤1，对任意固定的y，F(-∞,y)=0;对任意固定的x，F(x,-∞)=0;F(-∞,-∞)=0;F(+∞,+∞)=1F(x,y)关于x和关于y均右连续，即F(x,y)=F(x+0,y);F(x,y)=F(x,y+0)对任意固定的x1<x2,y1<y2，有F(x2,y2)-F(x2,y1)-F(x1,y2)+F(x1,y1)≥0看其两个特殊情形：D为矩形区域a≤x≤b,c≤y≤d，此时,a≤x≤b,c≤y≤df(x,y)=0,其他D为圆形区域，如(X,Y)在以原点为圆心，R为半径的圆域上服从均匀分布，则(X,Y)的概率密度为,x2+y2≤R2f(x,y)=0,其他若二维随机变量(X,Y)的概率密度为f(x,y)=(-∞<x<+∞,-∞<y<+∞)其中μ1,μ2,,,ρ,都是常数，且σ1>0,σ2>0,|ρ|<1则称(X,Y)服从二维正态分布，记为(X,Y)~N(μ1,μ2,,,ρ)其边缘概率密度:fX(x)=,-∞<x<+∞fY(y)=,-∞<y<+∞若二维随机变量(X,Y)服从二维正态分布，则随机变量X与Y分别服从正态分布N(μ1,),N(μ2,)。边缘概率密度为：fX(x)=fY(y)=二维离散型随机变量的独立性:X与Y相互独立的充要条件为，对一切i,j有P{X=xi,Y=yj}=P{X=xi}P{Y=yj},pij=pi.p.j二维连续型随机变量的独立性：X与Y相互独立的充要条件f(x,y)=fX(x)fY(y)几乎处处成立（在平面上除去“面积为零”的集合外，处处成立）随机变量的独立性若F(x,y)=FX(x)FY(y)P{X≤x,Y≤y}=P{X≤x}P{Y≤y}(分布函数)(两个边缘分布函数)则称X与Y相互独立离散型随机变量的函数的分布：两个相互独立且都服从泊松分布（参数分别为λ1和λ2）的随机变量之和仍服从泊松分布，且具有参数λ1+λ2两个独立连续型随机变量之和的概率分布：Z=X+YZ的概率密度：FZ(z)==同理可得（独立随机变量和的卷积公式）fZ(z)==(n个独立正态随机变量的线性组合仍服从正态分布)

第四章随机变量的数字特征离散型随机变量的期望:1.两点分布:E(X)=p2.二项分布X~B(n,p)E(X)=np3.泊松分布X~P(λ)E(X)=λ定理:设离散型随机变量X的分布律为P{X=xk}=pk,k=1,2,…,令Y=g(X)，令级数绝对收敛，则随机变量Y的数学期望为E(Y)=E[g(X)]=连续型随机变量的期望:设连续型随机变量X的概率密度为f(x)，若广义积分QUOTE-∞+∞xfxdx绝对收敛，则称该积分为随机变量X的数学期望，记为E(X)，即E(X)=均匀分布X~U(a,b)E(X)=指数分布X~E(λ)E(X)=1λ正态分布X~N(μ,σ2)E(X)=µ定理：设X为连续型随机变量，其概率密度为fX(x)，又随机变量Y=g(X)，则当收敛时，有E(Y)=E[g(X)]=QUOTE-∞+∞gxfXx随机变量的期望:若级数xipi绝对收敛（即级数|xi|pi收敛），则定义X的数学期望（简称均值或期望）为E(X)=xipi注：(1)当X的可能取值为有限多个x1,x2,…,xn…时，E(X)=xipi(2)当X的可能取值为可列多个x1,x2,…,xn…时，E(X)=xipi期望的性质：E(C)=CE(CX)=C·E(X)E(X+Y)=E(X)+E(Y)若X,Y是相互独立的随机变量E(XY)=E(X)E(Y)QUOTE-∞+∞-∞+∞g

二维随机变量函数的期望:定理：(1)若（X，Y）为离散型随机变量，若其分布律为pij=P{X=xi,Y=yi}，边缘分布律为pi.=pij,p.j=pij则E(X)==E(Y)==(2)若（X,Y）为连续型随机变量，f(x,y),fX(x),fY(y)分别为（X,Y）的概率密度与边缘概率密度，则E(X)=QUOTE-∞+∞xfXxdx=QUOTE-∞+∞-∞E(Y)=QUOTE-∞+∞yfYydy=QUOTE-∞+∞-∞+∞定理：设g(X,Y)为连续函数，对于二维随机变量（X，Y）的函数g（X，Y），(1)若（X，Y）为离散型随机变量，级数收敛，则E[g（X，Y）]=(2)若（X,Y）为连续型随机变量，且积分QUOTE-∞+∞-∞+∞∣gx,yE[g（X,Y）]=离散型随机变量的方差:D(X)=QUOTEi=1nxi-E(X))2pi1.0-1分布E(X)=pD(X)=p(1-p)2.二项分布X~B(n,p)E(X)=npD(X)=npq3.泊松分布X~P(λ)E(X)=λD(X)=λ连续型随机变量的方差D(X)=QUOTE-∞+∞(x-E(X))2fxdx=-1.均匀分布X~U(a,b)E(X)=D(X)=2.指数分布X~E(λ)E(X)=1λD(X)=1λ3.正态分布X~N(μ,σ2)E(X)=µD(X)=σ2设随机变量(X-E(X))2的期望存在，则称E(X-E(X))2为随机变量X的方差，记作D(X)，即D(X)=E(X-E(X))2称QUOTED(X)为X的标准差（或均方差）.计算方差时，用下面的公式有时更为简便：D(X)=E(X2)-[E(X)]2即X的方差等于X2的期望减去X的期望的平方方差的性质：D(C)=0,D(X+C)=D(X)D(CX)=C2D(X),其中C为常数若X,Y相互独立,则D(X+Y)=D(X)+D(Y)

离散型随机变量的协方差：Cov(X,Y)=协方差的性质：Cov(X,Y)=Cov(Y,X)Cov(aX,bY)=abCov(X,Y)，其中a,b为任意常数Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)若X与Y相互独立，则Cov(X,Y)=0连续型随机变量的协方差：Cov(X,Y)=协方差：设有二维随机变量(X,Y)，且E(X)，E(Y)存在，如果E[(X-E(X))(Y-E(Y))]存在，则称此值为X与Y的协方差，记为Cov(X,Y)，即Cov(X,Y)=E[(X-E(X))(Y-E(Y))]Cov(X,Y)=E(XY)-E(X)E(Y)相关系数：若D(X)>0,D(Y)>0，称QUOTECov(X,Y)D(X)D(Y)为X与Y的相关系数，记为ρXY，即ρXY=QUOTECov(X,Y)D(X)D(Y)相关系数的性质：1.∣ρXY∣≤12.∣ρXY∣=1的充分必要条件是存在常数a,b使P{X=aX+b}=1且a≠0定义：若相关系数ρXY=0则称X与Y不相关定义4-8：设X,Y为随机变量，若E(XkYl)(k,l=1,2,…)存在，则称它为X和Y的k+l阶混合原点矩，若E[X-E(X)]k[Y-E(Y)]l存在，则称它为X和Y的k+l阶混合中心矩。可见，协方差Cov(X,Y)是的二阶混合中心矩.矩、协方差矩阵：设X为随机变量，k为正整数，如果E(Xk)存在，则称E(Xk)为X的k阶原点矩，记为νk，即νk=E(Xk)如果E[(X-E(X))k]存在，则称E[(X-E(X))k]为X的k阶中心矩，记为µk，即µk=E[(X-E(X))k]当X为离散型随机变量时νk=QUOTEixikpiµk=QUOTEi(xi-E(X))k当X为连续型随机变量νk=QUOTE-∞+∞xkfxµk=QUOTE-∞+∞(x-E(X))kfx显然，一阶原点矩就是数学期望：ν1=E(X)，二阶中心矩就是方差：µ2=D(X).定义4-9：将二维随机变量(X1,X2)的４个二阶中心矩c11=E[X1-E(X1)]2=D(X1)=Cov(X1,X1)c12=E[(X1-E(X1))(X2-E(X2)]=Cov(X1,X2)c21=E[(X2-E(X2))(X1-E(X1)]=Cov(X2,X1)c22=E[X2-E(X2)]2=D(X2)=Cov(X2,X2)排成矩阵的形式，称此矩阵C=(cij)2x2为随机变量(X1,X2)的协方差矩阵.定义4-10：设n维随机变量X1,X2,…,Xn的二阶混合中心矩cij=E[(Xi-E(Xi))(Xj-E(Xj)]=Cov(Xi,Xj)(i,j=1,2,…,n)存在，则称此矩阵C=(cij)nxn为n维随机变量的协方差矩阵.由于cij=cji，i,j=1,2,…,n，因而上述矩阵是一个对称矩阵.因为Cov(Xi,Xi)=D(Xi)(i=1,2,…,n)，所以，协方差矩阵的对角线元素即为Xi(i=1,2,…,n)的方差.

第五章大数定律及中心极限定理切比雪夫不等式:定理：设随机变量X的期望E(X)及方差D(X)存在，则对任意小正数ε>0，有P{∣X-E(X)∣≥ε}≤QUOTED(X)ε2或P{∣X-E(X)∣<ε}≥1-（可用来估计概率）贝努利大数定律：定理：设m是n次独立重复试验中事件A发生的次数，p是事件A的概率，则对任意正数ε，有=1此定律表明，当n充分大时，“频率与概率的绝对偏差小于任意给定的正数ε”几乎必然发生，从而肯定了“概率是频率的稳定值”这一结论独立同分布随机变量序列的切比雪夫大数定律：设X1,X2,…Xn,…是独立同分布随机变量序列，E(Xi)=µ,D(Xi)=σ2(i=1,2,…)均存在，则对于任意ε>0有=1此定律表明，经过算术平均后得到的随机变量有一种统计上的稳定性，其取值比较紧密地聚集在它的期望附近独立同分布序列的中心极限定理:设X1,X2,…Xn,…是独立同分布的随机变量序列，且具有相同数学期望和方差E(Xi)=µ,D(Xi)=σ2(i=1,2,…)。记随机变量Yn=的分布函数为Fn(X)，则对于任意实数x，有===dt=Φ(x)其中Φ(x)为标准正态分布函数有下列结论：（1）当n充分大时，独立同分布的随机变量之和Zn=的分布近似于正态分布N(nµ,nσ2)。知道，n个独立同分布的正态随机变量之和服从正态分布。中心极限定理进一步告诉我们，不论X1,X2,…Xn,…同服从什么分布，当n充分大时，其和Zn近似服从正态分布(2)考虑X1,X2,…Xn,…的平均值=，有E()==.nµ=µD()===它的标准化随机变量为，即为上述Yn，因此的分布函数即是上述Fn(x)，因而有=dt=Φ(x)由此可见，当n充分大时，独立同分布随机变量的平均值=的分布近似正态分布N(µ,σ2/n)，这是独立同分布中心极限定理的另一表达形式。这一结论在数理统计中有重要应用

棣莫弗-拉普拉斯中心极限定理：设随机变量Zn是n次独立重复试验中事件A发生的次数，p是事件A发生的概率，则对于任意实数x=dt=Φ(x)其中q=1-p，Φ(x)为标准正态分布函数结论：(1）在贝努利试验中，若事件A如果发生的概率为p。又Zn设为n次独立重复试验中事件A发生的频数，则当n充分大时，Zn近似服从正态分布N(np,npq).(2)在贝努利试验中，若事件A如果发生的概率为p，Zn/n为n次独立重复试验中事件A发生的频率，则当n充分大时，Zn/n近似服从正态分布N(p,pq/n).

第六章统计量及其抽样分布(1)总体：研究对象的全体X个体：构成总体的每个成员(2)样本：x1,x2,…,xn样本容量（样本量）：n样品：样本中的个体样本具有所谓的二重性：一方面，由于样本是从总体中随机抽取的，抽取前无法预知它们的数值，因此样本是随机变量X1,X2,…,Xn；另一方面，样本在抽取以后经过观测就有确定的观测值，因此样本又是与组数值x1,x2,…,xn。(3)“简单随机抽样”—随机性和独立性样本的联合分布函数：F(x1,x2,…,xn)=F(xi)样本的联合密度函数：f(x1,x2,…,xn)=f(xi)样本的联合概率函数：p(x1,x2,…,xn)=P(X=xi)样本数据的整理与显示统计量：T=T(x1,x2,…,xn)抽样分布：统计量的分布.经验分布函数：设x1,x2,…,xn是取自总体分布函数为F(x)的样本，若将样本观测值由小到大进行排列为x(1),x(2),…,x(n)，则x(1),x(2),…,x(n)称为有序样本，用有序样本定义如下函数0,x<x(1)Fn(x)=k/n,x(k)≤x<x(k+1),k=1,2,…,n-11,x>x(n)则Fn(x)是一非减右连续函数，且满足Fn(-∞)=0和Fn(+∞)=1.由此可见，Fn(x)是一个分布函数，并称Fn(x)为经验分布函数样本均值及其抽样分布：设x1,x2,…,xn为取自某总体和样本，其算术平均值称为样本均值，一般用表示，即=(x1+x