全概率公式和贝叶斯公式

1、全概率公式和贝叶斯公式 引例引例 有三个箱子有三个箱子,分别编号为分别编号为1,2,3.1号箱装有号箱装有1个红球个红球4个白球个白球,2号箱装有号箱装有2红红3, 3号箱装有号箱装有3 . 某人从三箱中任某人从三箱中任取一箱取一箱,从中任意摸出一球从中任意摸出一球,求取得红球的概率求取得红球的概率.解解 记记 Ai=球取自球取自i号箱号箱 i=1,2,3; B =取得红球取得红球123B发生总是伴随着发生总是伴随着A1，A2，A3 之一发生，之一发生，其中其中A1、A2、A3两两互斥两两互斥A2A1A3B即即 B= A1B+A2B+A3B， 且且 A1B、A2B、A3B 两两互斥两两互斥P(

2、B)=P( A1B)+P(A2B)+P(A3B)运用加法公式得到运用加法公式得到对求和中的每对求和中的每一项运用乘法一项运用乘法公式得公式得 将上面例中所用的方法推广到一般的情形，就得到将上面例中所用的方法推广到一般的情形，就得到在概率计算中常用的全概率公式在概率计算中常用的全概率公式.1.完备事件组完备事件组一、全概率公式一、全概率公式划分也称为分划、分割、完备事件组。划分也称为分划、分割、完备事件组。2. 全概率公式全概率公式全概率公式全概率公式证明证明说明说明 全概率公式的主要用处在于它可以将一个复杂全概率公式的主要用处在于它可以将一个复杂事件的概率计算问题事件的概率计算问题,分解为若干

3、个简单事件的概率计算分解为若干个简单事件的概率计算问题问题,最后应用概率的可加性求出最终结果最后应用概率的可加性求出最终结果.A1B2B3B1 nB 利用全概率公式求事件利用全概率公式求事件B的概率，其实质就是我们的概率，其实质就是我们熟悉的分情况讨论。情况记为熟悉的分情况讨论。情况记为A1，A2，An;就是这就是这里定义的完备事件组里定义的完备事件组。例例 有一批同一型号的产品，已知其中由一厂生产的占有一批同一型号的产品，已知其中由一厂生产的占 30% ，二厂生产的占，二厂生产的占 50% ，三厂生产的占，三厂生产的占 20%，又知这，又知这三个厂的产品次品率分别为三个厂的产品次品率分别为2

4、% ， 1%，1%，问从这批产品，问从这批产品中任取一件是次品的概率是多少中任取一件是次品的概率是多少?设事件设事件 A 为为“任取一件为次品任取一件为次品”,解解由全概率公式得由全概率公式得30%20%50%2%1%1% 例例 甲、乙、丙三人同时对飞机进行射击甲、乙、丙三人同时对飞机进行射击, 三人击中的三人击中的概率分别为概率分别为0.4、0.5、0.7. 飞飞 机被一人击中而击落的概率机被一人击中而击落的概率为为0.2,被两人击中而击落的概率为被两人击中而击落的概率为0.6, 若三人都击中若三人都击中, 飞机必飞机必定被击落定被击落, 求飞机被击落的概率求飞机被击落的概率. 设设A=飞机

5、被击落飞机被击落 Bi=飞机被飞机被i人击中人击中, i=1,2,3 由全概率公式由全概率公式则则 A=B1A+B2A+B3A解解依题意，依题意，P(A|B1)=0.2, P(A|B2)=0.6, P(A|B3)=1P(A)=P(B1)P(A |B1)+ P(B2)P(A|B2)+ P(B3)P(A |B3)可求得可求得 为求为求P(Bi ) , 设设 Hi=飞机被第飞机被第i人击中人击中, i=1,2,3 将数据代入计算得将数据代入计算得P(B1)=0.36;P(B2)=0.41;P(B3)=0.14.P(A)=P(B1)P(A |B1)+ P(B2)P(A|B2)+P(B3)P(A|B3)

6、=0.458 =0.360.2+0.41 0.6+0.14 1即飞机被击落的概率为即飞机被击落的概率为0.458.于是于是该球取自哪号箱的可能性最该球取自哪号箱的可能性最大大? 这一类问题是这一类问题是“已知结果求原因已知结果求原因”. 在实际中更为常在实际中更为常见，它所求的是条件概率，是已知某结果发生条件下，见，它所求的是条件概率，是已知某结果发生条件下，探求各原因发生可能性大小探求各原因发生可能性大小. 某人从任一箱中任意摸出一某人从任一箱中任意摸出一球，发现是红球球，发现是红球,求该球是取自求该球是取自1号箱的概率号箱的概率.1231红红4白白或者问或者问:看一个例子看一个例子:二、贝

7、叶斯公式二、贝叶斯公式接下来我们介绍为解决这类问题而引出的接下来我们介绍为解决这类问题而引出的贝叶斯公式贝叶斯公式 有三个箱子，分别编号为有三个箱子，分别编号为1,2,3，1号箱装有号箱装有1个红球个红球4个白球，个白球，2号箱装有号箱装有2红球红球3白球，白球，3号箱装有号箱装有3红球红球. 某人某人从三箱中任取一箱，从中任意摸出一球，发现是红球从三箱中任取一箱，从中任意摸出一球，发现是红球,求求该球是取自该球是取自1号箱的概率号箱的概率 .1231红红4白白?某人从任一箱中任意摸出一球，发现某人从任一箱中任意摸出一球，发现是红球，求该球是取自是红球，求该球是取自1号箱的概率号箱的概率. 记

8、记 Ai=球取自球取自i号箱号箱, i=1,2,3; B =取得红球取得红球求求P(A1|B)运用全概率公式运用全概率公式计算计算P(B)将这里得到的公式一般化，就得到将这里得到的公式一般化，就得到贝叶斯公式贝叶斯公式1231红红4白白?称此为贝叶斯公式称此为贝叶斯公式. 贝叶斯公式贝叶斯公式证明证明Thomas BayesBorn: 1702 in London, EnglandDied: 17 Apr. 1761 in Tunbridge Wells, Kent, England 贝叶斯公式是英国哲学家贝叶斯公式是英国哲学家Bayes于于1763首先提出的，首先提出的，经过多年的发展和完善

9、，由这一公式的思想已经发展经过多年的发展和完善，由这一公式的思想已经发展成为一整套统计推断方法，即成为一整套统计推断方法，即“Bayes方法方法”，这一方法，这一方法在计算机诊断、模式识别、基因组成、蛋白质结构等在计算机诊断、模式识别、基因组成、蛋白质结构等很多方面都有应用很多方面都有应用解解例例 由由贝叶斯公式得所求概率为贝叶斯公式得所求概率为解解例例由由贝叶斯公式得所求概率为贝叶斯公式得所求概率为即平均即平均1000个具有阳性反应的人中大约只有个具有阳性反应的人中大约只有87人人患有癌症患有癌症. P(Ai) (i=1,2,n) 是在没有进一步信息（不知道事件是在没有进一步信息（不知道事件

10、B是否发生）的情况下，人们对诸事件发生可能性大小是否发生）的情况下，人们对诸事件发生可能性大小的认识的认识.当有了新的信息（知道当有了新的信息（知道B发生），人们对诸事件发发生），人们对诸事件发生可能性大小生可能性大小P(Ai | B)有了新的估计有了新的估计.贝叶斯公式从数量上刻划了这种变化贝叶斯公式从数量上刻划了这种变化 在贝叶斯公式中，在贝叶斯公式中，P(Ai)和和P(Ai |B)分别称为原因的先验分别称为原因的先验概率和后验概率概率和后验概率. 伊索寓言伊索寓言“孩子与狼孩子与狼”讲的是一个小孩每天到山讲的是一个小孩每天到山上放羊，山里有狼出没。第一天，他在山上喊上放羊，山里有狼出没。

11、第一天，他在山上喊“狼来狼来了！狼来了！了！狼来了！”，山下的村民闻声便去打狼，发现狼，山下的村民闻声便去打狼，发现狼没有来；第二天仍是如此；第三天，狼真的来了，可没有来；第二天仍是如此；第三天，狼真的来了，可无论小孩怎么喊叫，也没有人来救他，因为前两次他无论小孩怎么喊叫，也没有人来救他，因为前两次他说了谎，人们不再相信他了。说了谎，人们不再相信他了。 现在用贝叶斯公式来分析此寓言中村民对现在用贝叶斯公式来分析此寓言中村民对这个小孩的可信程度是如何下降的。这个小孩的可信程度是如何下降的。首先记事件首先记事件A为为“小孩说谎小孩说谎”，记事件，记事件B为为“小孩可信小孩可信”。不妨设村民过去对这

12、个小孩的印象为不妨设村民过去对这个小孩的印象为我们现在用贝叶斯公式来求我们现在用贝叶斯公式来求，亦及这个小孩，亦及这个小孩说了一次谎后，村民对他的可信程度的改变。说了一次谎后，村民对他的可信程度的改变。在贝叶斯公式中我们要用到在贝叶斯公式中我们要用到，这两个概，这两个概率的含义是：前者为率的含义是：前者为“可信可信”(B)的孩子的孩子“说谎说谎”(A)的可能的可能性，后者为性，后者为“不可信不可信”的孩子的孩子“说谎说谎”的可能性。设：的可能性。设： 第一次村民上山打狼，发现狼没有来，即小孩说了谎第一次村民上山打狼，发现狼没有来，即小孩说了谎（A）。村民根据这个信息，对小孩的可信程度改变为（用

13、贝）。村民根据这个信息，对小孩的可信程度改变为（用贝叶斯公式）叶斯公式） 这表明村民上了一次当后，对这个小孩的可信程度由原来的这表明村民上了一次当后，对这个小孩的可信程度由原来的0.8调整为调整为0.444，也就是，也就是在此基础上，我们再用一次贝叶斯公式计算在此基础上，我们再用一次贝叶斯公式计算 亦即这个小孩第二次说谎后，村民对他的可信程度改变亦即这个小孩第二次说谎后，村民对他的可信程度改变为：为： 这表明村民们经过两次上当，对这个小孩的可信程这表明村民们经过两次上当，对这个小孩的可信程度已经从度已经从0.8下降到下降到0.138，如此低的可信程度，村民听到第，如此低的可信程度，村民听到第三次呼叫怎么再会上山打狼呢？三次呼叫怎么再会上山打狼呢？ 口袋中有一只球，不知它是黑的还是白的。现再口袋中有一只球，不知它是黑的还是白的。现再往口袋中放入一只白球，然后从口袋中任意取出往口袋中放入一只白球，然后从口袋中任意取出一只，发现是白球。试问口袋中原来的那只球是一只，发现是白球。试问口袋中原来的那只球是白球的可能性多大？白球的可能性多大？思考题思考题2/3 课堂练习课堂练习 玻璃杯成箱出售，每箱玻璃杯成箱出售，每箱20只，假设各箱含只，假设各箱含0，1，2只只残次品的概