概率分布方法

第七章概率分布方法在社会、生产、科研和生活实践中，许多问题的不确定现象都是由随机因素的影响造成的，即将这种现象可以视为已希望随机事件，而随机事件一般是按照一定的概率出现的。与此有关的随机因素的变化往往都会服从于一定的概率分布。在实际中，就是利用这些概率分布规律对问题进行研究，从而可以对所研究的实际问题做出估计、判断、预测和决策。因此，概率分布方法在解决实际问题的过程中有着非常广泛的应用。7.1排列和组合7.1.1排列选排列：从n个不同的元素中，每次任取k(k<n)个不同元素按次序排成一列，称为选排列，其排列种数记为Pk，即n一一一一n!Pk=n(n一1)(n一2)...(n一k+1)= n (n一k)!全排列：从n个不同的元素中，每次取n个不同元素按次序排成一列，称为全排列，其排列种数记为PnnPn=n(n-1)(n-2)...2.1=n!.n有重复的排列：从n个不同的元素中，每次取k(k<n)个元素，可以重复，按次序排成一列，这种排列称为有重复的排列，其排列种数为牛=nk(k<n)不尽相异元素的全排列：如果在n个元素中，分别有n「％,...%个元素相同，且n1+n2+...+nm=n，则这n个元素的全排列称为不尽相异元素的全排列，其排列种数为PnPn=nn!n!n!1 2 17.1.2组合无重复组合：7.1.2组合无重复组合：从n个不同的元素中，每次任取k(k<n)个不同元素，不考虑其次序组合成一组，称为组合，其组合数记为Ck合成一组，称为组合，其组合数记为Ckn或［)，即%=日函=kk-〃)并且规定Co=1n多组组合：把n个不同的元素分成m（m<n）组，第i组中有n（i=1,2,...,m）个不同元i素，且n+n2+...+nm=n，这样的组合数为n!n!...n!有重复的组合：从n个不同的元素中，每次取出k（k<n）个元素，可以重复，不考虑次序组合成一组，这种组合成为有重复的组合，其组合数为Ck=Ck （k<n）.n n+k-17.2事件与概率7.2.1随机试验与事件实际中，把对自然现象进行一次观察或一次科学试验统称为试验。如果试验可以在相同条件下重复进行多次，而且每次的试验结果是事前不可预知的，但可以知道所有可能出现的结果。则称它为一个随机试验，简称为试验。将随机试验的结果称为随机事件，简称为事件。在每次试验中必然要发生的事件称为必然事件，记为Q，而在每次试验中不可能发生的事件成为不可能事件，记为。.如果A,B,A（i=1,2,...n）都为事件，则事件有下列关系：i（1） 包含事件：如果AuB，则称事件A包含于事件B，即它表示事件A发生必导致事件B发生.（2） 相等事件：A=B当且仅当AuB，且BuA.（3） 和事件：事件AUB（或A+B），表示事件A与事件B至少有一个发生.一般地，事件QA=AUAU...UA表示事件A,A，…A中至少有一个发生.i1 n 1 2ni=1（4） 差事件：事件A-B表示事件A发生，而事件B不发生.（5） 积事件：事件^]B（或AB）,表示事件A与B同时发生.一般地，事件（\a=anAn...na，表示时间a,a，…,a同时发生.i1 2 n 1 2ni=1（6） 互不相容事件：事件AnB=。表示再一次试验中事件A与B不可能同时发生.对立事件：事件A^B=。且A[^B=。，表示事件不可能同时发生，但又必然有其中之一发生，记为B=A或A=B.7.2.2概率与条件概率概率实际中，我们在观察一个随机试验的各种事件时，一般说来，总会发现有些事件出现的可能性大，有些事件出现的可能性小，而有些事件出现的可能性彼此大致相同我们把刻画事件发生可能性大小的数量指标称为事件的概率.事件A的概率记为P(A),并且概率具有以下性质：(1)对任一个事件A都有0<p(A)<1;(2) P(。)=1;P(。)=0;P(A)=1-P(A)(5)若事件A,A,...,A互不相容，则P((^A)=£p(A).(5)TOC\o"1-5"\h\z1 2n i1=1 i=1条件概率在某些实际问题中，除了需要知道事件A的概率外，往往还需要知道在“事件B发生”的条件下事件A发生的概率，称之为条件概率，记为P(A|B) .若P(B)>0 ，则有P(A|B)=冬I P(B)由此，可以得到下面的结论：若事件A,A,...,A互不相容，且p(A)>0(i=1,2,...,n)，则对任意事件Bu\^A有1 2n i ii=1P(B)=£p(A)P(BA)i=1这就是所谓的全概率公式.若事件A,A,...,A互不相容，且P(A)>0(i=1,2,...,n)，则对任意事件BuQA有1 2n i ii=1逆概率公式：

P(A\B)=P(A\B)=P(A.)P(B|A.)乎P(A)P(B|A)i ii=17.2.3统计概率与几何概率统计概率：假设在同一条件下进行n次试验，事件A发生了m次，则事件A发生的概率定义为我们称这个概率为统计概率.几何概率：假设区域S以及其中任何一个可能出现的子区域A(AuS)都是可以度量的，其大小分别为贝S)和(A),则事件A发生的概率为P(A)=这样计算的概率称为几何概率.事实上，统计概率与几何概率都满足通常概率的公理和性质.7.3随机变量与分布函数7.3.1一维随机变量与分布函数用数值表示的随机事件的函数称为随机变量.实际中任何用数值表示的随机事件都是随机变量，随机变量的函数也是随机变量.设&为一随机变量，对任意的实数x有函数F(X)=P(—8<&<x)=P(&<x)称为随机变量&的分布函数.且对任意两个实数气,X2(X1<x2)，有P(x<&<x)=F(x)-F(x).分布函数F(x)具有下列性质：F(x)是不减函数;0<F(x)<1；F(x)是右连续函数，即limF(x)=F(a).xTa+如果随机变量&所有取值为有限个或无穷个数值，则这种随机变量为离散型随机变量.

非离散型的随机变量，则称为连续型随机变量.如果&为离散型随机变量，所有的取值为xk，k=L2，...，则称为随机变量&的分布列，其相应的分布函数为F（x）=^Pk.xk<x如果&为连续型随机变量，则分布函数定义为其中f3）为一个非负可积函数，称之为随机变量E的分布密度，或密度函数.并满足下列性质:（1）（2）（3）（4）Jf（2）（3）（4）Jf(x)d=1;-s xP(a<^<b)=F(b)一F(a)=jbf(x)dx;a当f(x)为连续函数时有F'(x)=f(x).7.3.2多维随机变量与分布函数TOC\o"1-5"\h\z如果&,&,&为n个一维随机变量,则称（&,&,&）为n维随机变量，（或n维随机12n 12n向量）.同样的可以分为离散型和连续型，相应的也可以定义分布函数.12n如果（§,q,&〃）为连续型n维随机变量，则（&,5,&）12n,xn-s-s-s1 2)=jx1jx2 jxnf(x,x，…,x)dxdxdx,,xn-s-s-s1 2其中n元函数f（x其中n元函数f（xi，x2,的联合分布密度. ..n个随机变量§,q，，叩为非负可积函数，称为气,尖G的分布密度或5，七，&S为相互独立的充要条件是相应的联合分布函数可以表示为F(x,x,,x)=F(x)F(x) F(x).\o"CurrentDocument"12 n 1 2 n特别地，对于常用的二维随机变量（&，门），其分布密度函数表示为f3,y），分布函数为f(x,y)dxdy.两个随机变量&,n相互独立的充要条件是相应的联合分布函数可以表示为F(x,y)=F(x)F2(y)7.3.3随机变量的数学期望与方差对于实际中的许多问题，要具体求出分布函数往往是比较困难的，然而，很多时候并不必求出分布函数，只需对与随机变量有关的一些数字特征进行研究.这些数学特征虽然不能完全刻画随机变量，但在一定程度上能够反映出随机变量的一些重要特征.最常用的数字特征是数学期望和方差，其数学期望表示随机变量所取值的平均值,而方唱表示随机变量偏离平均值的程度，它们是随机变量的两个最重要的数字特征.数学期望设&为离散型随机变量，其分布列为P(&=xk)=Pk,k=1,2,,如果级数尤I气k收k=1敛，则称尤xp为随机变量&的数学期望,记为皮，即E&=£xp.kk kkk=1 k=1设&为连续型随机变量，其分布密度函数为f(x),如果积分j+s|xf(x)dx收敛，则称-sj+sxf(x)dx为随机变量&的数学期望，记为E&,即E&=j+sxf(x)dx.-s -s类似地，设&为一个随机变量，函数g(&)也是一个随机变量，则有(1)若&为离散型随机变量，其P(&=xk)=P,k=1,2,,如果级数尤\g(xk)|p^收敛,k=1则g(&)的数学期望为Eg(&)=£g*n；k=1(2)若&为连续型随机变量，如果积分j+s|g(x)f(x)dx收敛，则g(&)的数学期望为-sEg(&)=j+sg(x)f(x)dx.-s对于二维的情况有类似的结果：如果二维随机变量(&,n)分布列为p(&=x,n=yj=p,,(i,j=1,2 ),且级数益sg(x,y)|p收敛，则ij1iji=1j=1Eg(&m)=Wg(七,y_)p.

i=1j=1若二维随机变量(&，门)的分布密度函数为f(x,y)，且积分』+』心|g(x,y)f(x,y)dxdy—s—s收敛，则Eg(&，门)=f+sf+sg(x,y)f(x,y)dxdy.—s—s方差设&为一个随机变量，如果E(&-E&)2存在,则称其值为随机变量&的方差，记为D"显然有庞=E(&-E&)2=E&2-(E&)2.若&为一个离散型随机变量，且分布列为P怎=x)=P,k=1,2,，则有kk庞=芝(x-E&)2p；

k kk=1若&为一个连续型随机变量,且分布密度为f(x)，则有D&=j+s(x-E&)f(x)dx.—s7.4常用的概率分布及数字特征(1)两点分布:设随机变量&只取0和1两个值,它的分布列为P(&=k)=pk(1-p)1-k，k=0,1,则称&服从两点分布，且E&=p，D=p(1-p).二项分布:设随机变量&可能的取值为0,1,2 n，且分布列为P(&=k)=Ckpk(1-p)n-k.，.k=0,1,2, n，n则称&服从二项分布，且E&=np，D=np(1-p). …泊松(Poisson)分布:设随机变量&可取所有非负整数，且分布列为"八人k…P&=k)=卮e-人,k=0,1,2,，•••其中人＞0为常数，则称&服从泊松分布，且Ejx，D&=X.均匀分布:设&为连续型随机变量，其分布密度为f1 「八 ,xg\a.b\Kx)=E L，」，0，尤w[q,Z?]则称&服从区间S,。]上的均匀分布，且成=半，依二&(。-。)2.匕 J_匕正态分布:若随机变量&的分布密度函数为1 _4,)2匕'*KM。即，则称&服从正态分布Mjb2)，记为&口N(H，b2)，且分布函数为1 . _(^~102F(x)=—xe~2Gdx,

呻V27ia-oo其中E&=R,庞=02.特别地，当口二0,。=1时，称其为标准正态分布，记为JWM).>2分布妇(〃)：若〃个相互独立的随机变量&，&,&都服从于》(。,1),则称TOC\o"1-5"\h\z1 2n&=乎&2服从自由度为〃的X2(〃)分布,记为&工2(〃)，其分布密度函数为k Uz=l1 nx 工2。一2,X>0Yl 〃4(x)=122r(-) ，且班二〃，庆=2〃.\o"CurrentDocument"E 20, x<0(7)，分布代〃)：设随机变量&DN(0,l)JlD/2(n)且相互独立，则T=O 服从于自由度为〃的/分布，记为TDt(n)，其分布密度函数fW=2T且E(T)=0,D(T)=—n—2

（8）F分布:设随机变量日X2（m）EU2（n）且相互独立，则F*服从自由度为m及n的F分布，记为F F（m,n）,其密度函数为些)些)2 …m2n2〔0,X<0,X>0m+n(mx+n)2n 2n2(n+m-2) ,八且E(F)=——(n>2),D(F)二 ——————(n>4).n-2 m(n-2)2(n-4)1 「(X-u)2 (X-1 「(X-u)2 (X-u)(y—日)(y-u)2exp〈一 ——-[ —-2r 1 一+ J]},2(1-r2) b2 bb b2L 1 12 2/（x,y）= . 2兀bb71-r2其中％气>0,七七均为常数，,V1,则称二维随机变量（&，门）服从于二维正态分布N(日q;日q；尸),且E&=p,庞=b2,E^=^,Dq=b2.112 2 1 1 2 2:口7.4常见的概率模型:口本节介绍一些常见的概率模型：轧钢中的浪费模型、机械零件的可靠性设计模型和马氏链模型.7.4.1轧钢中的浪费模型用连续热轧方法制造钢材时要经过两道工序,第一道是粗轧（热轧），形成钢材的雏形;第二道是精轧（冷轧），得到规定长度的钢材.粗轧时由于设备、环境等方面随机因素的影响，钢材冷却后的长度大致上呈正态分布，其均值可以在轧钢过程中由轧机调整，而其方差则是由设备的精度决定的,不能随意改变，精轧时把多出规定长度的部分切掉,但是如果发现粗轧后的钢材已经比规定长度短，则整根报废.精轧设备的精度很高，轧出的成品材可以认为是完全符合规定长度要求的.根据轧制工艺的要求,要在成品材规定长度i和粗轧后钢材长度的均方差已知的条件下,确定粗轧后钢材长度的均值m,使得当轧机调整到m进行粗轧,再通过精轧以得到成品材时的浪费最小.设粗轧后钢材长度为x,X是均值为m,均方差为b的正态随机变量,其密度函数为其中b已知，m是待确定的值.当成品材的规定长度l给定后，记x>l的概率为P,即P—P{X>1}.

轧钢过程中的浪费由两部分构成：一是当X>l时，精轧时要切掉X-1的钢材；二是当X<l时，长X的整根钢材报废.分析可知，当m变大时，P增加，第一部分的浪费随之增加,而第二部分的浪费将减少;反之，当m变小时，虽然被切掉的部分减少了，但是整根报废的可能将增加.于是，必然存在一个最佳的m，使得两部分的浪费综合起来最小.这是一个优化模型，建模的关键是选择合适的目标函数，并用已知的和待确定的量l,。，m把目标函数表示出来.一种很自然的想法是直接写出上面分析的两部分浪费，以二者之和作为目标函数，于是容易得到总的浪费浪费长度为W=j+8(x-1)p(x)dx+j1xp(x)dxTOC\o"1-5"\h\zl 一8\o"CurrentDocument"利用j+8p(x)dx=1,j+8xp(x)dx=m，和』+“p(x)dx=P,上式可化简为一8 —8 lW=j+8(x-1)p(x)dx+jlxp(x)dxl 一8=J+"xp(x)dx-1J+"p(x)dx—s l=m-lPW是每粗轧一根钢材浪费的平均长度.设想共粗轧了N根钢材(N很大)，所用钢材总长度为mN,N根中可以轧出成品材的只有PN根，成品材总长度为lPN,于是共浪费的长度为mN-lPN，平均每粗轧一根钢材浪费的长度为mN—lPN5 =m一lPN与⑵相同.那么以W为目标函数是否合适呢？轧钢的最终产品是成品材，浪费的多少不应以每粗轧一根钢材的平均浪费为标准，而应该用每得到一根成品材浪费的平均长度来衡量.为了将目标函数由前者改为后者,只需将(3)式左端分母N改成成本材总数PN,即,mN—lPNJ=1NP因为l是已知函数，所以目标函数可等价地只取(5)式右端第一项，即J(J(m)=mP(m)式中P(m)表示P为m的函数，实际上，J=J]+1恰是每得到一根成品材所需钢材(粗轧后)的平均长度.下面求m使J(m)达到最小.P(m)=J+"p(x)dxlx^my=「3(y)dyl・ml一m、

=1—中(——)b若记z=1m,并记T(z)=J(m)，则bT(z)=5^ (8)1—①(z)令T(z)=0,得-b(1—①(z))—(l—bz)(W(z))=0即①(z)—z顿z)+l归z)—1=0 ⑼b上述方法比较复杂，可利用数值解法求解，由于z<0，所以可以证明(9)只有唯一解z*使J(z)取得极小值，从而可以求出使J(m)取得极小的m.上述模型中假定当粗轧后钢材长度X小于规定长度l时就整根报废,实际上这种钢材还常常能轧成短一些，比如l(l<l)的成品材,只有当x<l时才整根报废.或者说当x<l时可11 1以降级使用.这些情况下的模型求解就比较复杂了.在日常生产活动中类似的问题很多，如某种物品包装成500克一袋出售，在众多因素的影响下，包装封口后一袋的重量是随机的,不妨仍认为服从正态分布,均方差已知,而均值可以在包装时调整.出厂检验时精确地称量每袋的重量,多于500克的仍按500克一袋出售,厂方吃亏;不足500克的降价处理，或打开封口返工,或直接报废,将给厂方造成更大的损失.问如何调整包装时每袋重量的均值使厂方损失最小，这和轧钢中的浪费问题非常相近.马氏链模型是关于随机动态系统的一类模型，适用于时间、状态都离散并具有无后效性(或马尔克夫性)的场合.所谓无后效性就是系统未来的状态只与系统现在的状态有关，与以前的状态无关.马氏链模型在经济、社会、生态、遗传等许多领域中有着广泛的应用.值得提出的是，虽然它是解决随机转移过程的工具，但是一些确定性系统的状态转移问题也能用马氏链模型处理.1模型实例例1保险公司把人的健康状态分为健康和疾病两种状态.以一年为一个时段，设转移概率为：今年健康明年健康的概率为0.8,今年健康明年疾病的概率为0.2；今年疾病明年健康的概率为0.7,今年疾病明年疾病的概率为0.3.若按此规律一直进行下去，处于健康和疾病状态的人的概率分布将如何？人的健康状态是随机的，每年转变一次，用随机变量X〃表示第n年的状态，X〃=1表示健康，X广2表示疾病，n=0,1,2,，气(n)表示第n年处于状态i的概率(i=1,2)，即气(n)=P{Xji}.用七表示今年处于状态i，明年转为状态j的概率(i,j=1,2)，即p=P{ =jix=i}.a(n)称为状态概率，p称为状态转移概率.这里X只与XTOC\o"1-5"\h\zij n+1 n i ij n+1 n和，〃有关，而与系统以前的状态Xn_1?Xq,无关，即无后效性.由此，利用全概率公式容易得到 ・..( / .1\ / \ ・ / \a(n+1)=a(n)p+a(n)p＜七…七、11.七、21 (1。)a(n+1)=a(n)p+a(n)p2 1 12 2 22根据已知条件，p11=0.8,%=0.2,p21=0.7,p22=0.3.当某人开始处于健康状态，即a1(0)=1，a2(0)=0时，用(1。)立即可以算出a1(n),a2(n),n=1,2,,结果如下表1所示表1初值为(1，..。)的迭代结果表n01234…3a(n)10.80.780.7780.778…7/9a(n)00.20.220.2220.222…2/9由数字变化规律可以看出，当13时，a1(n)T7/9,a2(n)T2/9.当某人开始处于疾病，即a1(0)=0，a2(0)=1时，用同样的方法可以得到下表2表2初值为(。，1)的迭代结果表n01234…3a(n)00.70.770.7770.7777…7/9a(n)10.30.230.2230.2223…2/9对照表1和表2可以看出，虽然对于各个n，具体的数字不完全相同，但是当nF时，却会得到完全一样的结果，即nT3时的状态概率趋于稳定值，且这个稳定值与初始状态无关，后面我们将仔细讨论这个问题.例2若把人的状态分为健康、疾病、和死亡三种状态.以一年为一个时段，设转移概率为：今年健康，明年健康的概率为0.8,明年疾病的概率为0.18,明年死亡的概率为0.02；今年疾病，明年健康的概率为0.65，明年疾病的概率为0.25，明年死亡的概率为0.1；今年死亡明年仍为死亡的概率为1.若按此规律一直进行下去，处于健康、疾病和死亡状态的人的概率分布将如何？设Xn表示第n年的状态，乂广1表示健康，Xj2表示疾病，X〃=3表示死亡.a_(n)表示第n年处于状态i的概率(i=1,2,3)，即a^(n)=P{X”=i}.p〃表示今年处于状态i，明年转为状态j的概率(i,j=1,2,3)，即p^=P{Xn+1=jIX广i}.则由全概率公式可得a(n+1)=a(n)p+a(n)p+a(n)pTOC\o"1-5"\h\z1 11 2 21 3 31<a(n+1)=a(n)p+a(n)p+a(n)p(11)1 12 2 22 3 32a(n+1)=a(n)p+a(n)p+a(n)p1 13 2 23 3 33根据已知条件，p=0.8,p=0.18,p=0.02,p=0.65,p=0.25,p=0.1,11 12 13 21 22 23广0,p32=0,p33=1-当某人开始处于健康状态，即七(0)=1，%(0)=0，%(0)=0时，用(11)立即可以算出叩n),%(n),a3(n),n=1,2,,结果如下表3所示表3初值为(1，0，0)的迭代结果表n012050100…3a(n)10.80.38980.12930.0206…0a(n)00.180.09830.03260.0052…0a(n)00.020.26600.42840.4963…1由数字变化规律可以看出，当n+时a1(n—°,a2(n)T0,a3(n—1.当某人开始处于疾病状态，即a1(0)=0，a2(0)=1，a3(0)=0时，用(11)立即可以算出匕(n),a2(n),a3(n),n=1,2,,结果如下表4所示表4初值为(0，1，0)的迭代结果表n012050100…3a(n)00.650.35490.11770.0187…0a(n)10.250.08950.02970.0047…0a(n)00.010.23320.38110.4429…1对照表3和表4可以看出，虽然对于各个n，具体的数字不完全相同，但是当n*时，却会得到完全一样的结果.事实上，不论初始条件如何，nT8时的结果都是一样的.顺便指出，如果开始时处于状态3,有a1(0)=0，a2(0)=0，a3(0)=1，那么对于任意的n都有a(n)=a(n)=0，a(n)=1，即一旦进入状态3,就永远不会转移到其他状态.12 3通过这两个例子容易了解下面给出的马氏链的基本概念.2马氏链及其基本方程按照系统的发展，时间离散化为n=0,1,2,，对每个n，系统的状态用Xn表示.设Xn取k个离散值X广1,2,k，记a(n)=P{X广i),即状态i的概率，状态转移概率p=P{X1=jIX=i}:如果Xn+1的取值只取决于Xn的取值及转移概率，而与Xni，X" 无关，则这种随机转移过程称为马氏链.得到马氏链及其基本方程 …a(n+1)=£a.(n)p,j=1,2,,k(12)i=1•••并且a(n)和p应满足TOC\o"1-5"\h\zi ij工a(n)=1,n=0,1,2 (13)i

i=1

•••Pi>0,i,j=1,2,k (14)丈p=1,i=1,2,k (15)ijj=1引入状态概率向量和转移概率矩阵…a(n)=(a(n),a(n), a(n))P={P"则方程(12)表达为a(n+1)=a(n)P贝ij a(n+1)=a(0)Pn3马氏链的两种类型正则链例1表示的一类马氏链的特点是从任意状态出发经过有限次转移到达另外的任意状态我们给出如下的定义定义1一个有k个状态的马氏链如果存在正整数N，使从任意状态i经N次转移都以大于零的概率到达状态j(i,j=1,2, ,k)，则成为正则链.定理1若马氏链的转移矩阵为P，则它是正则链的充分条件是，存在正整数N，使PN>0.定理2正则链存在唯一的极限状态概率"=(七七，，七)，使得当nT8时，状态概率a(n)Tw，w与初始状态a(0)无关.w又称稳态概率，满足

wP=wP=w□=1 (17)ii=1首达概率：从状态i出发经n次转移，第一次到达状态j的概率称为i到达j的首达概率，记作f.〈n.j平均转移次数：七=£nf(n)为由状态i第一次到达状态j的平均转移次数.七是状n=1态i首次返回的平均转移次数.定理3对应正则链目..=—.i吸收链转移概率Pu=1的状态i称为吸收状