概率论与数理统计主要内容小结

概率论与数理统计主要内容小结

概率部分

1.全概率公式与贝叶斯公式

全概率公式：

P(A)=P(A|)+P(A]4)P(4)+…+P(A|8〃)P(纥)

其中昌，坊,…,纥是空间S的一个划分。

贝叶斯公式：

其中用，层，…，感是空间S的一个划分。

2.互不相容与互不相关

4,3互不相容0403=0,夕(4门3)=0

事件4B互相独立OP(ACl⑶=P(A)(B);

两者没有必然联系

3.几种常见随机变量概率密度与分布律:两点分布，二项分布，泊松分布，均匀分布，二项分

布，指数分布，正态分布。

即二点分布，则分布律为

即二项分布，则分布律为

即泊松分布，则分布律为

即均匀分布，则概率密度为

即指数分布，则概率密度为

即正态分布，则则概率密度为.

连续性随机变量分布函数性质：(i),,(ii)分布函数连续

对连续性随机变量，已知概率密度，则分布函数为；

已知分布函数为，则概率密度.

对连续性随机变量，已知概率密度，区间概率

4.连续函数随机变量困数EJ概率密度

设连续随机变量的概率密度为也是连续型随机变量，求Y的概率密度

求法

(i)利用以下结论计算：如果函数处处可导，且恒有(或)，则Y概率密度为:

/?()')=K甘/4

|o,具他

其中，是的反函数，且芍

(ii)利用分布函数计算；先求值域，再在该值域求丫的分布函数

F(y)=P{Y<y}=P{g(X)<y}=P{XeB}=\fx(x)dx

XGB

则有人(V)=F'(y).

常用求导公式

fY(y)=尸(y)=[：；/(》)公=/(伙y))/(y)-/(a(y))a'(y)

5.二维随机变量分布律

对于二维连续性随机变量，具联合概率密度为其联合分布函数为

则F(x,y)=工j^f(u,v)dvdu,

概率密度性质：(i)(ii)

已知概率密度/*,y),求区域概率有P{(x,y)£。}=j]/(x,y)dydx,

D

边缘分布函数为Fx(x)=£匚/(〃,v)dvdu,Fx(y)=「/(〃#)力",

边缘概率密度为fx(x)=匚f(x,y)dy.fY(y)=「；/(二y)dx.

条件分布函数为Fxw(x|y)=£邛"&，FYiX(y\x)=J'片",

8jY\y)8/x")

条件概率密度为fxlY(xIy)=等?，4x(),Ix)=V7T.

/y(>?)/x(X)

对于离散情形，设联合分布律为

边缘概率密度为，

条件概率密度为，

6.二维随机变显函数的分布

设二维随机变量概率密度为，分布函数为

⑴Z=X+Y,则Z的概率密度为

/z(Z)=匚/Xz-y,y)dy=^f(x,z-x)dx

当相互独立时，

(ii)M=max{X,Y}与N=min{X,Y}

当相互独立时，，

7、数学期望

(i)求法：连续随机变量概率密度为，则；若，则.

离散随机变量分布律为，则；若，则.

若有二维的随机变量，其联合概率密度为，若，则.

(ii)性质：

E(kiXI+k?X2+…+k,xn)=%E(XJ+k2E(X2)+…+k*(XD

相互独立，则有

8、方差

定义：，标准差(均方差)：.

计算：D(X)=E(X2)-[E(X)]2

性质：D(C)=0,0(X+C)=O(X),D(CX)=C2D(X).

D(X±y)=D(X)+D(Y)±2仇(X-EX)(Y-EY)\.

常见分布的数学期望和方差：两点分布：

即二项分布，则

即泊松分布，则

即均匀分布，则

即指数分布，则

即正态分布，则

9、协方差与相关系数

定义：协方差：

相关系数：则有.

性质：Cov(X,Y)=Cov{Y,X),Cov(X,X)=D(X),Cov(X9a)=0

Cov(aX,bY)="Cov(X,Y),Cov(X1+X2,V)=Co^X.,Y)+Cov{X2,Y)

D(X±Y)=D(X)+D(Y)±2Cov(XyY)

如果相互独立，则有

IPXY区1,且1Pxy卜1=次上使P{丫=i+Z?X}=1.

10、独立与不相关关系

pXY=0<=>X,y不相关u>Cov(xy)=0oE(X,Y)=E(X)E(Y)

X,Y相互独立=F(x,y)=F(x)F(y)=f(x)f(y)=E(X,Y)=E(X)E(Y)

F为分布函数，而f为概率密度

一般情况下，相互独立不相关，但反之不成立；

特殊情况，当时，相互独立不相关

并且此时£(%)=//),E(y)=〃2；。(X)=CF：,。(丫)=。：；Pxy=p,Cov(X,Y)=夕-

11.切比雪夫(Chebyshev)不等式：设随机变量X的期望与方差为，则对任意正数，有

P{\X-E(X)\>s}<^-,GPP{\X-p\>£}<^.

8£"

进一步有：即

12.两个中心极限定理

定理I(独立同分布的中心极限定理)设随机变量相互独立，服从同一分布，有相同的数学

期望和方差：，则

当n充分大时，.

定理2(棣莫弗-拉普拉斯定理)设随机变量服从参数为的二项分布，则当n充分大时，

统计部分

I.常用统计量

设为总体，是来自总体的样本，定义

样本平均值：，

样本方差：，

样木标准差(均方差)：

样本k阶矩：

2.常用正态总体相关的统计量

(1)/分布

定义：设，则，特别.

性质⑴可加性：设则.

(ii)设X〜0(〃),则EX=〃,D(X)=2n.

(iii)特例：设则

(2)t分布

定义：设，且相互独立，则统计量

性质

(i)概率密度为偶函数，关于y轴对称；当n趋于无穷大，该统计量趋于标准的正态分布；

(ii)对于分位点有：.

(3)F分布

定义：设，且相互独立，则统计量

性质⑴对于分位点有：

3.正态总体样本均值与样本方差分布

单个总体情形：设为总体，且服从是来自总体的样本，分别是样本均值与样本方差,

有以下结论：

(i)E(X)=E(X)=//,D(X)==—,F(52)=D(X)=而且有

之C,Xj〜N(七//点⑶)

/=1r=li=l

(ii)反~N",U),即^i~N(O,l)；且~4£(元—0)2=(”15-#2(〃_])

na/y/no',=i<J

两个正态总体情形：设是来自的样本，是来自的样本，且两样本相互独立，为两

样本均值，为两样本方差，则有

22

①x±y~N(〃[±〃,,———).

'/n2

(ii)当时，，

92/S2

(iii)勺卷〜尸(％-1,〃,一1)

4.点估计

(1)矩估计法

设概率密度/(x；—,必，…%)或分布律P{x=x}=p(x；仇,伪，…4)中含

…4个参数需要估计。

(i)求总体前k阶矩

Ai=E(X)=…,4)

〃2=E(X?)=〃2(%夕2,…，4)

=E(x，)=〃«(aM，…4)

(ii)由以上方程解得

4…，4)

4二夕2(〃1，"2,…，4)

q=4(〃”2,…4)

(iii)以样本i阶矩4代替〃"=12…,〃即得估计量a=g(A，4,…4)•

(2)最大似然估计

定义：给定一组样本观测值，使该观测值概率取最大的参数值为所求参数估计值。

两种求法:1直接用最大似然法估计计算

(i)写出似然函数连续情形：，离散情形：

(ii)求使似然函数取最大值的参数8

(iii)两种方法：取对数，求导数，令导数为0解出估计道；若求导不行，则用直接分析法

由上写出估计值，再表示出估计量

II利用不变性计算

若求函数的最大似然估计，其中U是单调函数，可先求最大似然估计，然后利用不变性

知是的最大似然估计。

5.估计量评价标准

无偏性：是的估计量，如果，则是的无偏估计量；

有效性：是的无偏估计量，如果，则较更有效；

一致性：是的估计量，当样本容量趋于无穷大，依概率收敛于.

6.置信区间

基本的重要概念：

置信水平：是参数落在置信区间的概率，即，两统计量分别为双则置信下限与置信上

限，为置信水平。例如置信水平为95%,则

置信区间几种情形：

单个总体情形

当己知，的置信区间，枢轴量

双侧置信区间：，双则置信上、下限：

单侧置信区间：，

单侧置信上、下限：

当未知，的置信区间，枢轴量

双侧置信区间：，

双则置信上、下限：

单侧置信区间：，

单侧置信上、下限：，

当未知，的置信区间，枢轴量

双侧置信区间：，双则置信上、下限：

单侧置信区间：，

单侧置信上、下限：.

两个总体情形：

当未知，的置信区间，枢轴量

双侧置信区间：，

双则置信上、下限：

单侧置信区间：

单侧置信上、下限：

在求解置信区间时，先分清总体属于那种情况，然后写出置信区间，再代数值。

7.假设检验

假设检验的基本原理：小概率事件在一次观测实验中几乎不可能发生

显著性水平：小概率事件发生的概率，也是拒绝域对应事件概率，显著性水平越大，拒绝域

越大。

两类错误：对原假设，条择假设，第一类错误不真