概率论与数理统计知识点总结超详细版

1、 概率论与数理统计 莁 第一章 概率论的基本概念 罿 样本空间、随机事件2虿 ?BA B发生包含事件1事件间的关系 A，指事件A发生必然导致事件则称事件B蚃 B或x?A?B ?xx?A 的和事件，指当且仅B称为事件 A 与事件 肃A?B发生 当A，B中至少有一个发生时，事件 A?B ?xx?A且x?B 称为事件 A与事件B的积事件，指当A ，B 蚈A?B发生同时发生时，事件 AB ?xx?A且x?B称为事件A与事件 B 的差事件，指当且仅 蝿AB发生不发生时，事件 当A发生、B ?BA?，则称事件A与B是互不相容的，或互斥的，指事件A 与 肄事件B不能同时发生，基本事件是两两互不相容的 ?且?

2、S? AB ?BA，则称事件A与事件 B互为逆事件，又称事件蒁A与事件B互为对立事件 A?B?B?A A?B?B?A 交换律 2运算规则 螁 (A?B)?C?A?(B?C) (A?B)C?A(B?C) 结合律衿 A?（B?C）?(A?B)?(A?C) 分配律蒅 A?(B?C)?(A?B)(A?C) 芃 BA? A?B?A?B?A? B 徳摩根律蒀 频率与概率3羈 n称为事发生的次数n次试验中，事件A定义 在相同的条件下，进行了n次试验，在这袆Ann 频率称为事件A件A发生的频数发生的，比值A 概率：设E是随机试验，S是它的样本空间，对于E的每一事件A赋予一个实数，记为P蚁（A），称为事件的概率

3、 P(A)满足下列条件： 1概率艿 0?P(A)?1 ：对于每一个事件A （1）非负性羈 P(S)?1 2）规性：对于必然事件S （芇 nn?nAA,A,?,)AA)?PP(（是两两互不相容的事件，有（3）可列可加性：设莃n21kk1k?1?k?） 可以取 2概率的一些重要性质： 节 ?)?0(P （i） 肈 nn?nA,AA,?)(?A)APP?）可以取（ii）若 是两两互不相容的事件，则有（莄n21kk1k?1k? P(B?A)?P(B)?P(A)P(B)?P(A)B?A BA）设，是两个事件若，则，iii（肅 P(A)?1 ，iv（）对于任意事件A肁 P(A)?1?P(A) （逆事件的概

4、率） ）v（膈 P(A?B)?P(A)?P(B)?P(AB) 有（vi）对于任意事件A，B螅 4等可能概型（古典概型） 薂 等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同袀 e?A?e?e若事即个基本事件，件A包含k，里芈iiik12i，i?，i是1,2，?n中某k个不同的数，则有k,21?kkA包含的基本事件数?(A)?PeP ijnS中基本事件的总数1j? 5条件概率 膅（1） )(ABPP(B|A)?0)?P(A，称（2A发生的） A,B是两个事件，且定义：设为事件芄 )(AP条件下事件B发生的条件概率 （3） （4） 条件概率符合概率定义中的三个条件 薈 。

5、0?|A)P(B ，有1非负性：对于某一事件B莈 。1?A)P(S| 2规性：对于必然事件S ， 薆 B,B,?是两两互不相容的事件，列3可可加性：设则有螂21? P(BA)P(BA)? iii?11i?（5） P(A)?0P(AB)?P(B)P(A|B)称为乘法公式 设 6（）乘法定理 ，则有蚁 蒈 （7） n?)B(A|PB?AP()P() 全概率公式： ）8（ 螃ii1?i )|B)P(AP(Bkk?)|P(BA 贝叶斯公式：蒄kn?)A|BP(B)P(ii1i? 6独立性 莀 P(AB)?P(A)P(B)，则称事件A,BB是两事件，如果满足等式相互独 设A，定义 薈立 ?B?PB|A)

6、(P0A)?P( B相互独立，则A定理一 设，B是两事件，且，若A，膄 B与，AB，A与B A与 定理二 若事件A和B相互独立，则下列各对事件也相互独立：袂 第二章 随机变量及其分布 腿 1随机变量薇 X(e)X?S?e. 上的实值单值是定义在样本空间定义 设随机试验的样本空间为S薅X?X(e)为随机变量 函数，称 2离散性随机变量及其分布律 蚄1 2 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种膂随机变量称为离散型随机变量 ?0pp?(PX?x)?P=1 ，（2满足如下两个条件（1）蚇kkkk1?k3 4 三种重要的离散型随机变量 羆 肂 （1）分布 羁 是布律

7、它的分0与1两个值， 设随机变量X只能取螇 k-k1)1?p?0,1（0X?k)?p（1-p），kP(为参数的分布或两p则称X服从以， 点分布。 ）伯努利实验、二项分布（2莇 A设实验.E为伯努与个可能结果：A利，则称 设实验E只有两螄p-)?1P(A1)p?P(A)?p（0?次，则称这一串重复的nE，此时独立重复的进行.将 重伯努利实验。独立实验为n n?kn-k0?pP?n,2q，?，k?0?P(X?k),1p，（2）满足条件（1=1注意） ?螀kkk?1k?n?knk-knp）（p?q?qp是二项式的那一项，我们称随机变量X服从参数的展开式中出现到?k? p的二项分布。为n， 3）泊松分

8、布（袇 概率为而取各个值的有量X所可能取的值为0,1,2， 设随机变蒄?-k?e?0?,)?1,2?,k?0XP(?k的泊松分布记为其中服从参数为是常数，则称Xk!?）（X 3随机变量的分布函数 芁 F(x)?PX?x,-?x? 设定义 X是一个随机变量，x是任意实数，函数 蕿 称为X的分布函数 羇 F(x)?P(X?x)F(x)是一个不减质(1) 数分布函函数 （2）下，具有以性袄0?F(x)?1，且F(?)?0,F(?)?1F(x?0)?F(x),即F(x)是右连续的 ）3（ 4连续性随机变量及其概率密度 羃 )(xf，使x），存在非负可积函数连续随机变量：如果对于随机变量 X的分布函数F

9、（薁x?,）dtf（tF(x)?Xf(x)称为则称x 对于任意函数x有为连续性随机变量，其中函数?- 的概率密度函数，简称概率密度 ?1?(x)?0, (2) dxff(x)f(x 1 概率密度具有以下性质，满足（；1）肇?- x2?，dx)?x)?f(xxP(?X?x)F()(f(x)xf；4（）若在点（3）x处连续，则有 芅21x1 三种重要的连续型随机变量2,蒁 莀 (1)均匀分布膇 1?b?x?，a?(x)f 上服在区间(a,b)若连续性随机变量XX具有概率密度，则成?ab-蚆?，其他0?），bXU（a 记为从均匀分布. (2)指数分布 膃 1?x-?0?e，x.?0?)f(x 为常数

10、，则称其中的概率密度为X若连续性随机变量 ?聿?，其他0? 的指数分布。X服从参数为 ）正态分布（3膆 为度率密变量X的概机连若续型随肇2?）x?(1? 2，-?x?)f(x?e，?2?2?，服从参数为0?)其中为常数，则称，（X的正态分布或高斯分布，记为2?），（XN ?，10? 服从标准正态分布X时称随机变量特别，当薁 5随机变量的函数的分布 膂 ,?x?)，-?f(x)xg(处处可导且恒有具有概率密度又设函数X定理 设随机变量芆x,(x)?g0)g(X，则度为，其Y=概率密变是连续型随机量? ,?y),h(y)yfh(Xf(y)? ?Y0，其他? 第三章 多维随机变量 芄 1二维随机变量

11、芃 Y(e) Y?S?e. X?X(e)S和是定义在 设E是一个随机试验，它的样本空间是定义袁X?X(e)为随机变量，由它们构成的一个向量（X，Y上的随机变量，称）叫做二维随机变量 设（X，Y）是二维随机变量，对于任意实数x，y，二元函数莆F（x，y）?P(X?x)?(Y?y)记成PX?x，Y?y称为二维随机变量（X，Y）的 分布函数 如果二维随机变量（X，Y）全部可能取到的值是有限对或可列无限多对，则称（X，蚅Y）是离散型的随机变量。 ?P(X?x，Y?y)?p，i，j?1,2，我们称Y）的分为二维离散型随机变量（X，肅ijij布律。 F（x，y），如果存在非负可积函数f（x对于二维随机变量

12、（X，Y）的分布函数，y），蚀yx?f（u，v）dudv，）（F?x，y则称（有，xyX，Y）是连续性的随机变量，使对于任意?-?-函数f（x，y）称为随机变量（X，Y）的概率密度，或称为随机变量X和Y的联合概率密度。 2边缘分布 蒆 F（x，y）.而，Y）作为一个整体，具有分布函数X和Y都是随机二维随机变量（X肆F（x),Fy），依次称为二维随机变量（变量，各自也有分布函数，将他们分别记为X，YYX关于X和关于Y的边缘分布函数。 ?PY?p?yp?，j?1,2，?2p?PX?x，i?1,?p， 分 蒃iij?jii?iji?11j?pp为（X，Y）关于X和关于Y的边缘分布律。别称 j?i ?

13、dxy）f(x,f(x,y）dy(y)(fx)?f)(xf， 分别称葿YXX?f(y)为X，Y关于X和关于Y的边缘概率密度。 Y 3条件分布 薆 PY?y?0, j，若X，Y）是二维离散型随机变量，对于固定的定义 设（蒇j PX?x,Y?ypijij ,i?1,?Y?y?2,?XP?xY?y条件下随则称为在膄 jijpPY?yjj?pPX?x,Y?yjiji ?,j?1,2?PYyX?X,?为的条件分布律，机变量X同样 ijxPpX?ii?xX? 在X的条件分布律。条件下随机变量i f(x,y)，（X，Y）关于Y的边缘概率设二维离散型随机变量（X，Y）的概率密度为蒂f(x,y)y)f(yf(为

14、在，若对于固定的y，Y=y的条件下X0密度为，则称的条件概 YYf(y)Yf(x,y)f(xy 率密度，记为= YXf(y)Y 4相互独立的随机变量 蚆 F(x)F(y)）yxF（，）的分布函，Y设 定义，及X分别是二维离散型随机变量（薃YXy?PX?xPYXP?x,Y?y?，即有数及边缘分布函数.若对于所有x,y(y)Fy?F(xFx, 是相互独立的。，则称随机变量X和YYX ?0? 和Y相互独立的充要条件是参数对于二维正态随机变量（X，Y），X蚂 两个随机变量的函数的分布5芀 Z=X+Y1，的分布蚆 )f(x,y仍为连续性随.它具有概率密度则Z=X+Y 设(X,Y)是二维连续型随机变量，

15、羄?dx）?)?xf(x,zf(z)?(f(z?y,y）dyfz 或机变量，其概率密度为YXY?X? )yf(f(x),则Y，的边缘密度分别为又若X和Y相互独立，设（X，Y）关于X莄YX?y)dxdyf(z)（y）ff(x）f(z?x)(fz)?f(z?和这两个公式称为 YXYX?YXXY?f,f 卷积公式的YX 有限个相互独立的正态随机变量的线性组合仍然服从正态分布罿 Y的分布的分布、Z?XYZ? 2，肀 X Y?，Z?XYZ),yf(x，则 设(X,Y)是二维连续型随机变量，它具有概率密度莅 X 仍为连续性随机变量其概率密度分别为袂z1? dx?x,)f(f(z)dxxz)?z)(xfx,

16、(f），YX又若和Y相互独立，设（X XYXYxx?)zf(xz)dx(xff(),xf(y(f ，XY的边缘密度分别为则可化为 关于XXYYYX?1z?f(x)f(?z(f)dx YXYXxx? M?maxX，Y及N?minX,Y的分布 3肂 F(x),F(y)由于，Y是两个相互独立的随机变量，它们的分布函数分别为设X膀YXM?maxX，YPM?z?PX?z,Y?z又不大于z等价于X和Y都不大于z故有F(z)?F(z)F(z)Y，M?maxX 由于X和Y相互独立，得到的分布函数为YmaxX ?)(F)z11?1?F(z)F(z?YminX,N? 的分布函数为螆YXmin 第四章 随机变量的数

17、字特征 薄 1数学期望螁 ?p?X?xPxp绝，k=1,2，若级数定义 设离散型随机变量X的分布律为艿kkkk1k?xpX)?E(px)(XE的和为随机变量X ，对收敛，则称级数即记为的数学期望，kkkki1k? ?xf(x)dx)(xf绝对收敛，则称积X的概率密度为，若积分连续型随机变量 设 膇?xf(x)?)dxdxxf(x)E(X)E(X 的值为随机变量X的数学期望，记为分，即? g(X)(g是连续函数) 设Y是随机变量X的函数Y= 定理 羂 ?）(pxgp?PX?x若，它的分布律为，k=1,2X（i）如果是离散型随机变量薀kkkk1?k?g(x）p?)g(XE?Y)E( 绝对收敛则有k

18、k1?k ?g(x)f(x)dx)xf(绝对收敛X）如果ii（是，它的分概率密度为连续型随机变量，若荿?dx)(xg(x)f?(X)E(g?)E(Y 则有? 数学期望的几个重要性质芄 C?C)E( C是常数，则有1设蚄 )XCE(CX)?E C是常数，则有X2设是随机变量，荿 )(YE(X)?E(X?Y)?E ；X,Y是两个随机变量，则有3设荿 )(Y(X)EE(XY)?E 是相互独立的随机变量，则有4设X，Y蚅 2方差膂 ?22)X?E(E(X?EX)XE的方是一个随机变量，定义 设X若则称X为存在，莂?2D(x)?)EE(X?X(x)，记为（差，记为D（x）即Dx）=，在应用上还引入量称为

19、标准差或均方差。 222)(X(EX)X?E(X)?E(DX)?E( 葿 方差的几个重要性质肆 D(C)?0, 是常数，则有设1C袃 2)XCD(D(CX)?D(X)?C)(DX? ，是随机变量，C是常数，则有X2设膁 D(X?Y)?D(X)?D(Y)?2E(X-E(X)(Y-E(Y)特设3X,Y是两个随机变量，则有蕿D(X?Y)?D(X)?D(Y) X,Y别，若相互独立，则有 D(X)?0PX?E(X)?1E(X) 以概率4的充要条件是X取常数1，即蒆 2?E(X)，不等式切比雪夫不等式：设随机变量X具有数学期望，则对于任意正数莁2? ?PX- 成立 2? 协方差及相关系数3罿 )YCov)

20、(X,(X)Y?E(Y?EXE，即称为随机变量X与定义 量Y的协方差为虿)(YX)E(?EXY)?E(E)?(X?E(X)(Y?E(Y)Cov(X,Y Cov(X，Y）?称为随机变量X和Y的相关系数而 蚃XYD(Y)D(X) ?Y)?D(X)?D(XY)2Cov(X,Y)D ，X 和Y对于任意两个随机变量肃_? 协方差具有下述性质 蚈 Cov(X,Y)?Cov(Y,X), Cov(aX,bY)?abCov(X,Y) 1蝿 Cov(X?X,Y)?Cov(X,Y)?Cov(X,Y) 2肄2211 ?1 1 定理 蒁XY ? 1?1?bx?YP?a 2 a,b的充要条件是，存在常数使 螁XY ?0时

21、，称X当和Y不相关 衿XY 附：几种常用的概率分布表 蒅 芃数学袆 分布律或概率密度参数 分 方差蚁羈蒀 期望 布 艿 两节p kk1?1?0?p 10,k,k)?p?(1?p)XP?点 ， 莃羈芇p(1?p) 分 布 肈 二 项式分 布莄1n?10?p? 肅kn?kkn,k?1)P(X?k?Cp,(1?p)?0, ，nnp 肁膈np(1?p) 螅 泊 ?k?e?0?,1,2P(X?k)?,k?0,松 芈膅薂袀!k分 布 芄 1?p1几1k? ?2, p,k?1,?(PX?k)?(1p) 21p?0?p p何薈分 布均1?2ba?b?x,a)a(b?匀?f(x) ，ba? ? ab?分212?

22、，其他0? 布指1?x?e,x?0数?f(x)?20? ? 分?其他0,? 布正2?)?(x 态1? ? 22?e?(fx)?2 ?0?分 ?2 布 第五章 大数定律与中心极限定理 1 大数定律 弱大数定理（辛欣大数定理） 设XX是相互独立，服从统一分布的随机变量序列，并21，n1?X)?2E(X)?,(k?1,，则对于任意个变量的算术平均作前具有数学期望n. kkn1?k n1?0?1?limP?X? ，有kn?n1?k?,?YY,Y，有是一个随机变量序列，a 设是一个常数，若对于任意正数定义n12?p 1?limPY?a?,?YY,YaY? ，记为依概率收敛于a，则称序列nn12n?n?f在每次试是事件 设A是n次独立重复试验中事件A发生的次数，p伯努利大数定理 A f?n?1?limPp?或有正数0，生的概率，则对于任意验中发n?n? fn?0limP?p? n?n? 2中心极限定理 X?,X,X,相互独立，服从同一 设随机变量定理一（独立同分布的中心极限定理） n122?X), DE(X)?(，则随机变量之和分布，且具有数学期望和方差，）（k=1,2kinnn?nX XE?(?X)kkkn?11k?1?ik?Y?标准化变量X ，