第四章不确定性推理-课件

第四章不确定性推理第四章不确定性推理1本章内容不确定性推理中的基本问题证据理论概率方法主观Bayes方法4163可信度方法5不确定性推理方法分类2本章内容不确定性推理中的基本问题证据理论概率方法主观Baye24.1不确定性推理中的基本问题

要实现对不确定性知识的处理，必须要解决不确定知识的表示问题，不确定信息的计算问题，以及不确定性表示和计算的语义解释问题。1．表示问题1、知识不确定性的表示2、证据的不确定性表示2.计算问题1、不确定性的传递算法2、结论不确定性的合成3、组合证据的不确定性算法3.语义问题1、知识的不确定性度量2、证据的不确定性度量4.1不确定性推理中的基本问题要实现34.2不确定性推理方法分类1、模型方法

特点:把不确定的证据和不确定的知识分别与某种度量标准对应起来，并且给出更新结论不确定性的算法，从而构成了相应的不确定性推理的模型。非数值方法是指出数值方法外的其他各种处理不确定性的方法,它采用集合来描述和处理不确定性，而且满足概率推理的性质。非数值方法数值方法是对不确定性的一种定量表示和处理方法。数值方法4.2不确定性推理方法分类1、模型方法非数值方法4数值方法分类2、模糊推理1、基于概率的方法

对于数值方法，按其依据的理论不同又可分为以下两类：

4.2不确定性推理方法分类数值方法分类2、模糊推理1、基于概率的方法对于数值方54.2不确定性推理方法分类

纯概率方法虽然有严密的理论依据，但它通常要求给出事件的先验概率和条件概率，而这些数据又不易获得，因此其应用受到了限制。为了解决这这个问题，人们在概率理论的基础上发展起来了一些新的方法及理论:

1、主观Bayes方法2、可信度方法3、证据理论它是PROSPECTOR专家系统中使用的不确定推理模型，是对Bayes公式修正后形成的一种不确定推理方法。它是MYCIN专家系统中使用的不确定推理模型，它以确定性理论为基础，方法简单、易用。它通过定义信任函数、似然函数，把知道和不知道区别开来。4.2不确定性推理方法分类纯概率方法虽然有严密的理64.2不确定性推理方法分类2、控制方法

特点:通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的影响，这类方法没有处理不确定性的统一模型，其效果极大地依赖于控制策略。相关性制导回溯

机缘控制

启发式搜索

4.2不确定性推理方法分类2、控制方法相关性制导回溯机7

设有如下产生式规则：IFETHENH其中，E为前提条件，H为结论，具有随机性。根据概率论中条件概率的含义，我们可以用条件概率表示上述产生式规则的不确定性程度，即表示为在证据出现的条件下，结论H成立的确定性程度。对于复合条件 E=E1AND

E2AND…AND

En可以用条件概率作为在证据出现时结论的确定程度。4.3概率方法4.3.1经典概率方法设有如下产生式规则：4.3概率方法4.3.1经典84.3概率方法4.3.2Bayes定理设为一些事件，互不相交，P(Bi)>0，i=1,2,…,n，且则对于

有，(4.3.1)Bayes公式容易由条件概率的定义、乘法公式和全概率公式得到。在Bayes公式中，P(Bi)称为先验概率，而P(Bi|A)称为后验概率，也就是条件概率。4.3概率方法4.3.2Bayes定理设94.3概率方法4.3.3逆概率方法的基本思想1．单个证据的情况如果用产生式规则IFETHENHi

i＝1,2,,n其中前提条件E

代替Bayes公式中B，用Hi代替公式中的Ai就可得到

i＝1,2,,n(4.3.2)

这就是说，当已知结论Hi

的先验概率，并且已知结论Hi(i=1,2,…）成立时前提条件E

所对应的证据出现的条件概率P(E|Hi)，就可以用上式求出相应证据出现时结论Hi

的条件概率P(Hi|E)。4.3概率方法4.3.3逆概率方法的基本思想1．单个证据104.3概率方法例子:求P(肺炎|咳嗽)可能比较困难，但统计P(咳嗽|肺炎)可能比较容易(因为要上医院)假设P(肺炎)=1|10000，而P(咳嗽)=1|10，90%的肺炎患者都咳嗽，P(咳嗽|肺炎)=0.9,则

P(肺炎|咳嗽)=

4.3概率方法例子:求P(肺炎|咳嗽)可能比较困难，但统计114.3概率方法修正因子(1)可以将前面的逆概率公式写成

这说明先验概率P(H)可以通过方括号部分(作为修正因子)修正为后验概率P(H|E)(证据E为真时H的后验概率)在上面的例子中，医生认为一个人得肺炎的可能性为万分之一，一旦发现患者咳嗽，就将调整为万分之九4.3概率方法修正因子(1)可以将前面的逆概率公式写成124.3概率方法修正因子(2)将E看作证据，先验概率P(E)越小，且H为真时E的条件概率P(E|H)越大，则修正因子所起作用越大在上例中，如果P(咳嗽)=0.0001|P(咳嗽|肺炎)=0.9999|

P(肺炎)不变则P(肺炎|咳嗽)=0.9999，远远超过原来的万分之九4.3概率方法修正因子(2)将E看作证据，先验概率P(E)134.3概率方法2．多个证据的情况对于有多个证据和多个结论并且每个证据都以一定程度支持结论的情况，上面的式子可进一步扩充为

(4.3.3)

4.3概率方法2．多个证据的情况对于有多个证据14例已知：求：P(H1|E1E2），P(H2|E1E2），P(H3|E1E2）解：同理可得：P(H2|E1E2）=0.52，P(H3|E1E2）=0.03例已知：求：P(H1|E1E2），P(H2|E1E2），15逆概率公式的优点是它有较强的理论背景和良好的数学特征，当证据及结论彼此独立时计算的复杂度比较低。其缺点是要求给出结论的先验概率及证据的条件概率，尽管有些时候比相对容易得到，但总的来说，要想得到这些数据仍然是一件相当困难的工作。另外，Bayes公式的应用条件是很严格的，它要求各事件互相独立等，如若证据间存在依赖关系，就不能直接使用这个方法。4.3概率方法4.3.4逆概率方法的优缺点逆概率公式的优点是它有较强的理论背景和良好的数学特征164.4主观Bayes方法4.4.1知识不确定性的表示在主观Bayes方法中，知识是用产生式规则表示的，具体形式为

IFETHEN(LS，LN)H(P(H))其中（1）E

是该知识的前提条件。它既可以是一个简单条件，也可以是复合条件。（2）H是结论。P(H)是H

的先验概率，它指出在没有任何证据情况下的结论H为真的概率，即H的一般可能性。其值由领域专家根据以往的实践及经验给出。（3）（LS，LN）为规则强度。其值由领域专家给出。LS，LN相当于知识的静态强度。LS=P(E|H)|P(E|﹁H)LN=P(﹁E|H)|P(﹁E|﹁H)

4.4主观Bayes方法4.4.1知识不确定性的表示174.4主观Bayes方法4.4.1知识不确定性的表示引入概率的相对量度[定义]几率函数： 称为H的几率函数或先验几率，取值范围[0,

)由此反过来有

[定义]条件几率： 4.4主观Bayes方法4.4.1知识不确定性的表示引入184.4主观Bayes方法4.4.1知识不确定性的表示后验几率和先验几率的关系：例子：O(晴天|冬天早晨有雾)=4.2，如果冬天早晨有雾，则该天为晴天的可能性是非晴天可能性的4.2倍由几率定义、条件几率定义和条件概率公式可以推得后验几率和先验几率的关系：则可得下述关系：

O(H|E)=LS*O(H) O(H|﹁E)=LN*O(H)

4.4主观Bayes方法4.4.1知识不确定性的表示后验194.4主观Bayes方法4.4.1知识不确定性的表示对LS和LN的约束对于LS和LN有如下约束要求：二者都是非负的，并且满足即LS和LN不是独立取值，均大于0；不可以E支持H的同时

E也支持H，即LS和LN不可同时大于1，也不可同时小于1.4.4主观Bayes方法4.4.1知识不确定性的表示对L204.4主观Bayes方法4.4.3不确定性的传递算法主观Bayes推理过程是：根据证据E的概率P(E)，利用规则的LS和LN，把结论的先验概率P(H)更新为后验概率P(H|E)或P(¬H|E)，因而也称为概率传播。4.4主观Bayes方法4.4.3不确定性的传递算法主观214.4主观Bayes方法4.4.2证据不确定性的表示若以O(A)或P(A)表示证据A的不确定性，则转换公式是：

4.4主观Bayes方法4.4.2证据不确定性的表示224.4主观Bayes方法4.4.3不确定性的传递算法1．证据肯定存在的情况在证据E肯定存在时，把先验几率O(H)更新为后验几率O(H|E)的计算公式为

(4.4.1)如果将上式换成概率，就可得到

(4.4.2)

这是把先验概率P(H)更新为后验概率P(H|E)的计算公式。4.4主观Bayes方法4.4.3不确定性的传递算法1．234.4主观Bayes方法2．证据肯定不存在的情况在证据E肯定不存在时，把先验几率O(H)更新为后验几率O(H|﹁E)的计算公式为

(4.4.3)如果将上式换成概率，就可得到

(4.4.4)

这是把先验概率P(H)更新为后验概率P(H|﹁E)的计算公式。4.4主观Bayes方法2．证据肯定不存在的情况244.4主观Bayes方法3．证据不确定的情况在证据不确定的情况下，不能再用上面的公式计算后验概率，而要用杜达等人1976年证明了的公式

(4.4.5)

来计算。4.4主观Bayes方法3．证据不确定的情况25下面分四种情况讨论这个公式(4.4.5)：（1）当P(E|S)=1时，，此时式(4.4.5)变成这就是证据肯定存在的情况。（2）当P(E|S)=0时，，此时式(4.4.5)变成这就是证据肯定不存在的情况。4.4主观Bayes方法下面分四种情况讨论这个公式(4.4.5)：4.4主观Bay26（3）当P(E|S)=P(E)时，表示E与S无关，利用全概率公式将公式(4.4.5)变为（4）当P(E|S)为其它值时，通过分段线性插值就可得计算P(H|S)的公式

该公式称为EH公式或UED公式。4.4主观Bayes方法（3）当P(E|S)=P(E)时，表示E与S无关，利用全概率270

P(E)1P(E|S)P(H|S)P(H|E)P(H)P(H|~E)0P(E)1284．组合证据的情况（1）当组合证据是多个单一证据的合取时，即E=E1andE2and…andEn时，如果已知则

P(E|S)=min{}（2）当组合证据E是多个单一证据的析取时，即E=E1orE2or…orEn时，如果已知则，

P(E|S)=max{}“非”运算用下式计算

4.4主观Bayes方法4．组合证据的情况4.4主观Bayes方法29若有n条知识都支持相同的结论，而且每条知识的前提条件所对应的证据都有相应的观察与之对应，此时只要先对每条知识分别求出然后就可运用下述公式求出4.4主观Bayes方法4.4.4结论不确定性的合成算法若有n条知识都支持相同的结论，而且每条知识的4.4主30

4.4主观Bayes方法例2设有如下知识R1：IFATHEN(20，1)B1(0.03)R2：IFB1THEN(300，0.0001)B2(0.01)求：P(B2|A)的值是多少？

解:（1）由于A必发生，由R1得（2）由于B1不是必发生的，所以需作插值处理。设4.4.5例子4.4主观Bayes方法例2设有如下知识解:（1）31

4.4主观Bayes方法当时，有，所以在此区间插值。由于4.4主观Bayes方法当时，有，所以在此区间插值。324.4主观Bayes方法解：

依R1，P1（B）＝0.03 O（B1）＝0.03/(1-0.03)=0.030927 O(B1|A1)=LS×O(B1)=20×0.030927=0.61855 P(B1|A1)=0.61855/(1+0.61855)=0.382

使用规则R1后，B1的概率从0.03上升到0.382

4.4.5例子3例3证据A1，A2必然发生，且P（B1）＝0.03规则如下：R1：A1→B1LS=20LN=1;R2：A2→B1LS=300 LN=1求B1的更新值。4.4主观Bayes方法解：4.4.5例3证据334.4主观Bayes方法依R2：O(B1|A1A2)=300×O(B1|A1)=185.565 P(B1|A1A2)=185.565/(1+185.565)=0.99464

使用规则R2后，B1的概率从0.382上升到0.994644.4主观Bayes方法依R2：O(B1|A1A2)=30344.4主观Bayes方法解： 由于B1不确定，所以讨论其前项证据的影响，用插值法。1）当A必然发生时，依R1，P（B1）＝0.03 O（B1）＝0.03/(1-0.03)=0.030927 O(B1|A1)=LS×O(B1)=20×0.030927=0.61855 P(B1|A1)=0.61855/(1+0.61855)=0.382

2）当P(B1|A1)=1时，P(B2|B1)=P(B2|A)=LS*P(B2)/（(LS-1）*P(B2)+1)=0.75188

4.4.5例子例4证据A必然发生，且P（B1）＝0.03，P(B2)=0.01规则如下：R1：A→B1LS=20LN=1;R2：B1→B2LS=300 LN=0.0001求B2的更新值。4.4主观Bayes方法解：4.4.5例4证据A必353）A对B1没影响，P(B1|A1)=P(B1)=0.03时，由已知P(B2)=0.01最后进行插值：P(B1|A)>P(B1), P(B2|A)=0.01+(0.75188-0.01)(1-0.03)/(0.382-0.03)=0.33）A对B1没影响，P(B1|A1)=P(B1)=0.36

主观Bayes方法的主要优点如下：（1）主观Bayes方法中的计算公式大多是在概率论的基础上推导出来的，具有较坚实的理论基础。（2）知识的静态强度LS及LN是由领域专家根据实验经验给出的，这就避免了大量的数据统计工作。另外，它既用LS指出了证据E对结论H的支持程度，又用LN指出了E对H的必要性程度，这就比较全面地反映了证据与结论间因果关系，符合现实世界中某些领域的实际情况，使推出的结论有较准确的确定性。4.4主观Bayes方法4.4.6主观Bayes方法的主要优缺点主观Bayes方法的主要优点如下：4.4主观Bayes37（3）主观Bayes方法不仅给出了在证据肯定存在或肯定不存在情况下由H的先验概率更新为后验概率的方法，而且还给出了在证据不确定情况下更新先验概率为后验概率的方法。另外，由其推理过程可以看出，它确实实现了不确定性的逐级传递。因此，可以说主观Bayes方法是一种比较实用且较灵活的不确定性推理方法。

它的主要缺点如下（1）要求领域专家在给出知识的同时给出H的先验概率P(H)，这是比较困难的。（2）Bayes方法中关于事件间独立性的要求使主观Bayes方法的应用受到了限制。4.4主观Bayes方法（3）主观Bayes方法不仅给出了在证据肯定存在或肯定不存在38所谓可信度就是在实际生活中根据自己的经验对某一事物或现象进行观察，判断相信其为真得程度。例如，张三昨天没有上课，他的理由是肚子疼，就此理由而言，听话的人可能完全相信，也可能完全不相信，也可能在某种程度上相信，这与张三平时的表现和人们对他的话相信程度有关。这里的相信程度就是我们说的可信度。可信度也称为确定性因子。4.5可信度方法4.5.1可信度的概念所谓可信度就是在实际生活中根据自己的经验对某一事4.39在以产生式作为知识表示的专家系统MYCIN中，用以度量知识和证据的不确定性。

显然，可信度具有较大的主观性和经验性，其准确性是难以把握的。但是，对于某一具体领域而言，由于该领域的专家具有丰富的专业知识和实践经验，要给出该领域知识的可信度还是完全有可能的。另外，人工智能所面临的问题，通常都较难用精确的数学模型进行描述，而且先验概率及条件概率的确定也比较困难，因此用可信度来表示知识及证据的不确定性仍然不失为一种可行的方法。4.5可信度方法在以产生式作为知识表示的专家系统MYCIN中，用404.5可信度方法4.5.2C---F模型C-F模型是基于可信度表示的不确定性推理的基本方法，其他可信度方法都是在此基础上发展起来的。1．知识不确定性的表示2．证据不确定性的表示3．组合证据不确定性的算法4．不确定性的传递算法5．结论不确定性的合成算法4.5可信度方法4.5.2C---F模型C-F414.5可信度方法4.5.3可信度方法应用举例已知

R1：IFA1THENB1CF(B1,A1)=0.8；

R2:IFA2THENB1

CF(B1,A2)=0.5；

R3:IFB1∧A3THENB2CF(B2,B1∧A3)=0.8;初始证据为A1,A2,A3的可信度CF均设为1，即,CF(A1)=CF(A2)=CF(A3)=1,对B1,B2一无所知,求CF(B1)和CF(B2)。例4.5.14.5可信度方法4.5.3可信度方法应用举例已424.5可信度方法解:由于对B1,B2一无所知，所以使用合成算法进行计算。由题意得到推理网络如下图所示。B2B1A3A1A24.5可信度方法解:由于对B1,B2一无所知，所以434.5可信度方法(1)对于知识,分别计算(2)利用合成算法计算的综合可信度(3)计算的可信度，这时，作为的证据，其可信度已由前面计算出来。CF()=0.9，而的可信度为初始制定的1。由规则和公式(4.5.1)得到所以，所求得的，的可信度更新值分别为4.5可信度方法(1)对于知识,分别计算444.6证据理论4.6.1基本概念证据理论假设有一个不变的两两相斥的完备元素集合U，如下图所示，这里U为例如,U={三轮车，汽车，火车}U={赤，橙，黄，绿，青，蓝，紫}U={马，牛，羊，鸡，狗，兔}图4.4证据理论说明图4.6证据理论4.6.1基本概念证据理论假设454.6证据理论4.6.2D-S理论证据理论是用集合表示命题的。设D是变量x所有可能取值的集合，且D中的元素是互斥的，在任一时刻x都取D中的某一个元素为值，则称D为x的样本空间。在证据理论中，D的任何一个子集A都对应于一个关于x的命题，称该命题为“x的值在A中”。证据理论中，为了描述和处理不确定性，引入了概率分配函数、信任函数及似然函数等概念。4.6证据理论4.6.2D-S理论证据理论是46设D为样本空间，领域内的命题都用D的子集表示，则概率分配函数（FunctionofProbabilityAssignment）定义如下。定义4.6.1设函数M：,且满足则称M是上的概率分配函数，M(A)称为A的基本概率函数（FunctionofBasicProbabilityAssignment），即对于样本空间D的任一子集都分配一个概率值。4.6证据理论1、概率分配函数设D为样本空间，领域内的命题都用D的子集表示，则概率47定义4.6.2设函数Bel：,且

（）则称为命题A的信任函数（FunctionofBelief）,即命题A的信任函数值，就是A的所有子集的基本概率分配函数之和，用来表示对A的总信任。Bel函数又称为下限函数，以Bel（A）表示对命题A为真的信任程度。4.6证据理论2.信任函数定义4.6.2设函数Bel：48似然函数（PlausibleFunction）又称为不可驳斥函数或上限函数，下面给出它的定义。定义4.6.3似然函数:,且

（）

命题A的似然函数值就是所有与A相交的子集的基本概率分配函数之和，用来表示不否定A的信任度。4.6证据理论3.似然函数似然函数（PlausibleFunction）又称49因为，所以即由于表示对A为真的信任程度，表示对A为非假的信任程度，因此可分别称和为对A信任程度的下限和上限，记作4.6证据理论4．信任函数与似然函数的关系因为50有时对同样的证据会得出两个不同的概率分配函数。例如，对于样本空间，从不同的来源可分别得到如下两个概率分配函数：

此时需要对它们进行组合，德普斯特提出的组合方法可对这两个概率分配函数进行正交和运算。4.6证据理论5．概率分配函数的正交和有时对同样的证据会得出两个不同的概率分配函数。例如，514.6证据理论设是两个概率分配函数，则其正交和为

其中，。如果,则正交和M也是一个概率分配函数；如果K＝0,则不存在正交和M，称矛盾。

定义4.6.44.6证据理论设是两个概率分配524.6证据理论定义4.6.5对于多个概率分配函数，如果它们可以组合，则也可通过正交和运算将它们组合为一个概率分配函数，其定义如下。设是n个概率分配函数，则其正交和为其中，。4.6证据理论定义4.6.5对于多个概率分配函数534.6证据理论定义4.6.56．类概率函数除了可以利用区间(Bel(A)和)表示A的不确定性以外，还可以用A的类概率函数表示A的不确定性。定义4.6.6命题A的类概率函数为

其中，分别是A及D中元素的个数。具有如下性质：4.6证据理论定义4.6.56．类概率函数除了可544.6证据理论4.6.3知识的不确定性的表示在该模型中，不确定性知识用如下的产生式规则表示：IFETHENCF={}其中，（1）E为前提条件，它是样本空间D的子集。E既可以是简单条件，也可以是用AND或OR连接起来的复合条件。（2）H是结论，它用样本空间中的子集表示，是该子集中的元素。（3）CF是可信度因子，用集合形式表示，其中，用来指出的可信度，与一一对应,应满足如下条件4.6证据理论4.6.3知识的不确定性的表示在554.6证据理论4.6.4证据的不确定性的表示不确定性证据E的确定性用CER(E)表示。对于初始证据，其确定性由用户给出；当用前面推理所得结论作为当前推理的证据时，其确定性由推理得到。CER(E)的取值范围为。1．组合证据不确定性的算法当组合证据是多个证据的合取，即时，则E的确定性CER(E)为当组合证据是多个证据的析取，即时，则E的确定性CER(E)为4.6证据理论4.6.4证据的不确定性的表示不564.6证据理论2．不确定性的传递算法1）如果只有一条知识支持结论H，即IFETHEN结论H的确定性通过下述步骤求出。对于上述知识，H的概率分配函数规定为这样便求得M(H)。4.6证据理论2．不确定性的传递算法574.6证据理论2）如果有两条知识支持同一结论，即IFTHENIFTHEN结论H的确定性通过下述步骤求出。首先分别对每一条知识求出概率分配函数：然后再用公式对求正交和，从而得到H的概率分配函数M。4.6证据理论2）如果有两条知识支持同一结论，即584.6证据理论3）如果有n条知识都支持同一结论H，则用公式

对求其正交和，从而得到H的概率分配函数M。最后求出4.6证据理论3）如果有n条知识都支持同一结论H594.6证据理论4）按如下公式求出H的确定性CER(H)CER(H)=MD(H|E)×f(H)其中，MD(H|E)是知识的前提条件与相应证据E的匹配度，定义为MD(H|E)这样，就对一条知识或者多条有相同结论的知识求出了结论的确定性。如果该结论不是最终结论，即它又要作为另一条知识的证据继续进行推理，则重复上述过程就可得到新的结论及其确定性。如此反复运用该过程，就可推出最终结论及它的确定性。4.6证据理论4）按如下公式求出H的确定性CER604.6证据理论4.6.5例子例4.6.1已知计算CER(B)。解先计算组合证据的正确性再计算结论的分配函数M({b1},{b2})=(0.6×0.3,0.6×0.5)=(0.18,0.3)4.6证据理论4.6.5例子例4.6.1已知614.6证据理论4.6.5例子得到结论的信任函数随之有而对于D的其他子集的M值均赋予0。得到结论的似然函数

最后得到4.6证据理论4.6.5例子得到结论的信任函数624.6证据理论4.6.6证据理论的主要优缺点最后需要说明的是，当D中的元素很多时，信任函数Bel及正交和等的运算将是相当复杂的，工作量很大，这是由于需要穷举D的所有子集，而子集的数量是的缘故。另外，证据理论要求D中的元素是互斥的，这一点在许多应用领域也难以做到。为解决这些问题，巴尼特提出了一种方法，运用这种方法可以降低计算的复杂性并解决互斥的问题。该方法的基本思想是把D划分为若干组，每组只包含相互排斥的元素，称为一个辨别框，求解问题时，只需在各自的辨别框上考虑概率分配的影响。4.6证据理论4.6.6证据理论的主要优缺点最634.6证据理论证据理论的优点是它只需满足比概率论更弱的公理系统，能处理由“不知道”所引起的不确定性，由于D的子集可以是多个元素的集合，因而知识的结论部分可以是更一般的假设，这就便于领域专家从不同的语义层次上表达他们的知识，不必被限制在由单元素所表示的最明确的层次上。在应用证据理论时需要注意的是合理地划分辨别框及有效地控制计算的复杂性等。4.6证据理论证据理论的优点是它只需满足比概率论64654.7贝叶斯信念网

定义：贝叶斯信念网（简称贝叶斯网）表示一组变量的联合概率分布是一个有向无环图(DAG)随机变量集组成网络节点，变量可离散或连续连接节点对的有向边组成边集合每节点yi都有一个条件概率分布表：P(yi|Parents(yi))，量化其父节点对该节点的影响654.7贝叶斯信念网定义：65贝叶斯信念网的表示贝叶斯信念网的表示66条件概率表每个节点旁的条件概率表(简称CPT)中的值对应一个条件事件的概率如P(A|B,E)=0.94=P(A|Burglary∧

Earthquake)条件事件是父节点取值的一个可能组合每行的概率之和应该为1一个具有k个布尔父节点的布尔变量的条件概率表中有2k个独立的可指定的概率(注意概率值是独立的)没有父节点的节点的概率只有1行/为先验概率条件概率表每个节点旁的条件概率表(简称CPT)中的值对应一个67贝叶斯网络的语义对联合概率分布的表示对条件依赖性语句集合的编码两种观点等价，前者帮助我们理解如何构造网络，后者则帮助我们设计推理过程。贝叶斯网络的语义对联合概率分布的表示6869贝叶斯信念网的表示（2）贝叶斯信念网表示的全联合概率计算公式如下：

69贝叶斯信念网的表示（2）贝叶斯信念网表示的全联合概率计算69贝叶斯信念网的语义公式计算示例：

试计算：报警器响了，但既没有盗贼闯入，也没有发生地震，同时John和Mary都给你打电话的概率。解：

P(J=T,M=T,A=T,B=F,E=F)=P(J=T|A=T)P(M=T|A=T)P(A=T|B=F,E=F)P(B=F)P(E=F)=0.9*0.7*0.001*0.999*0.998=0.00062=0.062%贝叶斯信念网的语义公式计算示例：试计算：报警器响了，但既没70贝叶斯网络的特性：作为对域的一种完备而无冗余的表示，贝叶斯网络比全联合概率分布紧凑得多BN的紧凑性是局部结构化(Locallystructured,也称稀疏,Sparse)系统一个非常普遍特性的实例BN中每个节点只与数量有限的其它节点发生直接的相互作用假设有n个随机变量，每个随机变量受至多k（k<n)个其他随机变量的影响，则指定每个条件概率表所需信息至多为2k个数据，整个网络可以由不超过n2k个数据完全描述。贝叶斯网络的特性：作为对域的一种完备而无冗余的表示，贝叶斯71参数复杂性问题贝叶斯信念网表示的联合概率计算公式：全联合概率计算公式：参数复杂性问题贝叶斯信念网表示的联合概率计算公式：全联合概率72参数复杂性问题

5个二元变量全联合概率计算公式共32个参数,需定义31个参数.BBN的联合概率计算公式共20个参数,需定义10个参数参数复杂性问题5个二元变量73参数复杂性问题假设节点数n=30,每节点有5个父节点，则BN需30x25=960个数据，而全联合概率分布需要230=10亿个！参数复杂性问题假设节点数n=30,每节点有5个父节点，则B74贝叶斯网络的构造原则：

首先，添加“根本原因”节点然后，加入受它们直接影响的变量依次类推，直到叶节点，即对其它变量没有直接因果影响的节点两节点间的有向边的取舍原则：更高精度概率的重要性与指定额外信息的代价的折衷“因果模型”比“诊断模型”需要更少的数据，且这些数据也更容易得到贝叶斯网络的构造原则：首先，添加“根本原因”节点75贝叶斯网络中的条件独立关系：

给定父节点，一个节点与它的非后代节点是条件独立的给定一个节点的父节点、子节点以及子节点的父节点——马尔可夫覆盖(Markovblanket)，这个节点和网络中的所有其它节点是条件独立的贝叶斯网络中的条件独立关系：给定父节点，一个节点与它的非后76【说明】：给定节点X的父节点U1...Um，节点X与它的非后代节点（即Zij）是条件独立的。U1UmXZ1jZnjY1Yn【说明】：U1UmXZ1jZnjY1Yn77【说明】：给定马尔可夫覆盖（蓝色的区域），节点X和网络中所有其它节点都是条件独立的。U1UmXZ1jZnjY1Yn【说明】：U1UmXZ1jZnjY1Yn78贝叶斯网络建立贝叶斯网络的目的有了网络。可以提出问题：P(问题|证据)，如：P(吸烟|肺癌）进行概率推理与谓词逻辑有相似之处。如：患病（吸烟，肺癌）在某些场合下有有效的推理方法。有一些工具包。一般情况下是很困难的，原因不是所有的CPT表都能够得到网络结构大且复杂NP-hard推理我们要做的是，将问题正确的表示为合理的网络形式，选用适合的算法。贝叶斯网络建立贝叶斯网络的目的7980贝叶斯信念网的推理可以用贝叶斯网在给定其他变量的观察值时推理出某些目标变量的值由于所处理的是随机变量，所以一般不会赋予目标变量一个确切的值真正需要推理的是目标变量的概率分布，它指定了在给予其他变量的观察值条件下，目标变量取每一个可能值的概率在网络中所有其他变量都确切知道的情况下，这一推理步骤很简单一般来说，贝叶斯网络可用于在知道某些变量的值或分布时计算网络中另一部分变量的概率分布80贝叶斯信念网的推理可以用贝叶斯网在给定其他变量的观察值时80贝叶斯网络的精确推理概率推理系统中的基本任务：计算被查询变量的后验概率设X为待查询变量/e为观察到的证据(已知)/E={E1…Em}证据变量集合/Y={Y1…Yn}既非证据也非查询变量的集合(也称隐变量)全部变量集合={X}∪E∪Y推理的任务是：求后验概率P(X|e)贝叶斯网络的精确推理概率推理系统中的基本任务：计算被查询变量81贝叶斯网络的精确推理以防盗警报为例，已知证据JohnCalls=True/MaryCalls=True求出现盗贼的概率：P(B|JohnCalls=T,M=F)贝叶斯网络的精确推理以防盗警报为例，已知证据JohnCall82贝叶斯网络的精确推理在贝叶斯网络中可通过计算条件概率的乘积并求和来回答查询。

P(X|e)=P(X,e)=yP(X,e,y)

而P(X,e,y)可写成条件概率乘积的形式。贝叶斯网络的精确推理在贝叶斯网络中可通过计算条件概率的乘积并83（1）通过枚举进行推理BurglaryEarthquakeMaryCallsJohnCallsAlarm

BEP(A)

tttfftff0.950.940.290.001

AP