人工智能一二

第四章不确定性推理4.1基本概念

1.为什么要研究不确定性推理问题

•现实世界的问题求解大部分是不良结构；•对不良结构的知识描述具有不确定性：1)问题证据的不确定性；2)专门知识的不确定性。

2.什么是不确定性推理

不确定性推理是建立在非经典逻辑基础上的一种推理，它是对不确定性知识的运用和处理。不确定性推理就是从不确定性的初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性但却合理或者近乎合理的结论的思维过程。2023/1/221

3.不确定性推理中的基本问题

在不确定性推理中，知识和证据都具有某种程度的不确定性，这就为推理机的设计与实现增加了复杂性和难度。它除了必须解决推理方向、推理方法、控制策略等基本问题外，一般还需要解决不确定性的表示和量度、不确定性匹配、不确定性的传递算法以及不确定性的合成等重要问题。

(1)不确定性的表示与量度

•知识不确定性的表示

在确立其表示方法时，有两个直接相关的因素需要考虑：1)要能根据领域问题的特征把其不确定性比较准确地描述出来，满足问题求解的需要；2)要便于推理过程中对不确定性的推算。2023/1/222

目前在专家系统中，知识的不确定性一般由领域专家给出，通常是一个数值，它表示相应知识的不确定性程度，称为知识的静态强度。

•证据不确定性的表示

在推理中，有两种来源不同的证据：1)一种是用户在求解问题时提供的初始证据；2)另一种是在推理中用前面推出的结论作为当前推理的证据。

证据的不确定性表示方法应与知识的不确定性表示方法保持一致，以便于推理过程中对不确定性进行统一处理。

证据的不确定性通常也用一个数值表示，它代表相应证据的不确定性程度，称为动态强度。对于初始证据，其值由用户给出；对推理所得证据，其值由推理中不确定性的传递算法通过计算得到。2023/1/223•不确定性的量度

对于不同的知识和不同的证据，其不确定性的程度一般是不相同的，需要用不同的数据表示其不确定性的程度，同时还要事先规定它的取值范围。例如，在专家系统MYCIN中，用可信度表示知识与证据的不确定性，取值范围为[-1，1]。在确定一种量度及其范围时，应注意以下几点：

1)

量度能充分表达相应知识及证据不确定性的程度。2)量度范围的指定应便于领域专家及用户对不确定性的估计的程度。3)

量度要便于对不确定性的传递进行计算，而且对结论算出的不确定性量度不能超出量度规定的范围。4)

量度的确定应是直观的。2023/1/224(2)不确定性匹配算法及阈值的选择

对于不确定性推理，由于知识和证据都具有不确定性，而且知识所要求的不确定性与证据实际具有的不确定性程度不一定相同，因而就出现了“怎样才算匹配成功”的问题。

对于这个问题，目前常用的解决方法是：设计一个算法用来计算匹配双方相似的程度，另外再指定一个相似的“限度”，用来衡量匹配双方相似的程度是否落在指定的限度内。如果落在指定的限度内，就称它们是可匹配的，相应知识可被应用。•用来计算匹配双方相似程度的算法称为不确定性匹配算法。

•用来指出相似的“限度”称为阈值。2023/1/225(3)不确定性的传递算法

不确定性推理的根本目的是根据用户提供的初始证据，通过运用不确定性知识，最终推出不确定性的结论，并推算出结论的不确定性程度。为达到这一目的，除了需要解决前面提到的问题外，还需要解决推理过程中不确定性的传递问题，它包括两个子问题：

•在每一步推理中，如何把证据及知识的不确定性传递给结论；•在多步推理中，如何把初始证据的不确定性传递给最终结论。

对前一个问题，在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。对第二个问题，各种推理方法所采用的处理方法基本相同，即：

把当前推出的结论及其不确定性程度作为证据放入数据库中，在以后的推理中，它又作为证据推出进一步的结论，由此一步步进行推理，必然会把初始证据的不确定性传递给最终结论。2023/1/226(4)结论不确定性的合成

推理时有时会出现这样的情况：用不同的知识进行推理得到了相同的结论，但不确定性的程度却不同。此时，需要用合适的算法对它们进行合成。

在不同的不确定推理方法中所采用的处理方法各不相同，这将在以后讨论。2023/1/2274.2不确定性推理方法的分类及常用不确定性推理方法简介

1.不确定性推理方法的研究分类

不确定性推理方法的研究分为两大类：

(1)在推理一级上扩展确定性推理

特点：

把不确定的证据和不确定的知识分别与某种量度标准对应起来，并且给出更新结论不确定性的算法，从而构成了相应的不确定性推理的模型。一般来说，这类方法与控制策略无关，即无论用何种控制策略，推理的结果都是唯一的，我们把这一类方法称为模型方法。模型方法数值方法非数值方法：除数值方法之外的方法，如发生率计算，它采用集合来描述和处理不确定性。基于概率的方法（依据概率论的有关理论发展起来的方法，主要有主观Bayes、可信度、证据理论等方法）模糊推理（根据模糊理论发展起来的方法）2023/1/228(2)在控制策略一级处理不确定性

特点:

通过识别领域中引起不确定的某些特征及相应的控制策略来限制或减少不确定性对系统产生的影响。这类方法没有处理不确定性的统一模型，其效果极大的依赖于控制策略,这类方法称为控制方法。

（该方法有相关性制导回溯、机缘控制、启发式搜索等方法，在此不讨论）2023/1/2292常用用的不确确定性推推理方法法介绍(1)主观观Bayes方法利用新的的信息将将先验概概率P(H)更新为后后验概率率P(H|E)的一种计计算方法法.主观Bayes方法由Dnda等人于1976年年提出，，其首先先在Prospector专家系统中中使用，，它以概概率论中中的Bayes公式为基基础。其核心思思想是：：Ⅰ.根据据证据的的概率P(E);Ⅱ.利用用规则的的（LS，LN）；；LS：：E的出现对对H的支持程程度，LN：E的出现对对H的不支持持程度。。Ⅲ.把结结论H的先验概概率更新新为后验验概率P(H|E)；Ⅳ.循环环2023/1/710(2)可可信度方方法可信度方方法是由由E.H.Shortliffe等人在确确定性理理论的基基础上，，结合概概率提出的一一种不确确定性推推理方法法，首先先在Mycin系统中得得到了成成功的应应用。其核心思思想是：：利用确定定性因子子CF（值）Ⅰ.联系于具具体的断断言Ⅱ.联系于每每条规则则Ⅲ.通过CF的计算传传播不确确定性(3）证证据理论论法由Dempstan和Shafen提出并发发展，其其基于一一系列理理论和描描述。由由于该理理论满足足比概率率论更弱弱的公理理，能够够区分““不确定定”与““不知道道”的差差异，并并能处理理由“不不知道””产生的的不确定定性，具具有较大大的灵活活性。在证据理理论的基基础上已已经发展展了多种种不确定定性推理理模型。。2023/1/711(4)模糊糊推理模糊推理与与前三种不不确定性推推理方法有有着实质性性的区别，，前三种方方法的理论基础是是概率论，，它所研究究的事件本本身有明确确的含义，，只是由于于发生的条件不充分分，使得在在条件与事事件之间不不能出现确确定的因果果关系，从从而在事件的出现与与否上出现现不确定性性，那些推推理模型是是对这种不不确定性，，即随机性的表示与与处理。•模糊推推理是利用用模糊性知知识进行的的一种不确确定性推理理。•模糊推推理的理论论基础是模模糊集理论论以及在此此基础上发发展起来的的模糊逻辑辑。•它所处处理的事物物自身是模模糊的，概概念本身没没有明确的的外延，一一个对象是是否符合这个概概念难以明明确的确定定，模糊推推理是对这这种不确定定性，即模模糊性的表示与处理理。在人工智能能领域内，，知识及信信息的不确确定性大多多是由模糊糊性引起的的，这就使得对模模糊理论的的研究显得得格外重要要。2023/1/7124.3概概率方法法1.经典概率方方法设有如下产产生式规则则：IFETHENH(其中，E为前提条件件，H为结论。)•如果我我们在实践践中能得出出在E发生条件下下H的条件概率率P(H/E),那么就可把把它作为在证据据E出现时结论论H的确定性程程度。•对于复复合条件E=E1ANDE2AND…ANDEn也是这样，，当已知条条件概率P(H/E1,E2,…En),就可把它作作为在证据据E1,E2,…En出现时结论论H的确定性程程度。优点：显然这是一一种很简单单的方法，，只能用于于简单的不不确定性推推理。缺点：由于它只考考虑证据为为真或为假假两种极端端情况，因因而使其应应用受到限限制。2023/1/7132.逆概率方法法经典概率方方法要求给给出在证据据E出现情况下下结论H的条件概率率P(H/E),这在实际应用中是是相当困难难的。例:•若以E代表咳嗽，，以H代表支气管管炎，如欲欲得到在咳咳嗽的人中中有多少是是患支气管炎的的，就需要要作大量的的统计工作作;•但是如果在在患支气管管炎的人中中统计有多多少人是咳咳嗽的，就就相对容易易一些，因为患支气气管炎的人人毕竟比咳咳嗽的人少少得多。解决方法：：可用逆概概率P(E/H)来求原概率率P(H/E)。(Bayes定理给出了了解决这个问题的方方法。)(1)Bayes定理:若A1,A2,…An是彼此独立立的事件，，则对任何何事件B有如下Bayes公式成立：：P(Ai/B)=i=1,2,..n2023/1/714其中，P(Ai)是事件Ai的先验概率率；P(B/Ai)是事件在在Ai发生条件下下的事件B的条件概率率；P(Ai/B)是事件在在B发生条件下下的事件Ai的条件概率率。(2)单单个证据时时如果用产生生式规则：：IFETHENHi(IF咳嗽THEN气管炎）中的前提条条件E代替Bayes公式中的B,用Hi代替公式中中的Ai,就可得到P(Hi/E)=i=1,2,..n这就是说，，当已知结结论Hi的先验概率率P(Hi),并且已知结结论Hi(i=1,2,..n)成立时前提提条件E所对应的证证据所出现现的条件概概率P(E/Hi),就可用上式式求出相应应证据出现现时结论Hi的条件概率率P(Hi/E)。2023/1/715例：设H1,H2,H3分别是三个结结论，E是支持这些结结论的证据，，且已知：P(H1)=0.3P(H2)=0.4,P(H3)=0.5P(E/H1)=0.5P(E/H2)=0.3P(E/H3)=0.4求P(H1/E),P(H2/E),P(H3/E),的值各是多少少。解：根据上面面的公式P(H1/E)===0.32同理可得：P(H2/E)=0.26P(H3/E)=0.43由此可见，证证据E的出现，H1成立的可能性性略有增加，，H2、H3略有下降。2023/1/716(3)有有多个证据时时对于有多个证证据E1,E2,…,Em和多个结论H1,…,H2,Hn，并且每个证据据都以一定的程度支支持结论的情情况，上面的的式子可进一一步扩充为：：P(Hi/E1E2…Em)=i=1,2,3,…n(4)小结优点：有较强强的理论背景景和良好的数数学特性，当当证据及结论论都彼此独立立时计算的复杂度较较低；缺点：它要求求给出结论Hi的先验概率P(Hi)及证据Ej的条件概率P(Ej/Hi)，尽管有些时候P(Ej/Hi)比P(Hi/Ej)相对容易得到到，但总的来来说，想得到到这些数据是相相当困难的；；另外，Bayes公式的应用条条件很严格，，它要求各事事件相互独立立。2023/1/717设已知P(H1)=0.4P(H2)=0.3P(H3)=0.3P(E1/H1)=0.5P(E1/H2)=0.6P(E1/H3)=0.3P(E2/H1)=0.7P(E2/H2)=0.9P(E2/H3)=0.1求：P(H1/E1E2)P(H2/E1E2)P(H3/E1E2)0.450.520.032023/1/718作业2023/1/7194.4主主观Bayes方法鉴于上节所所述的直接接使用Bayes公式带来的的诸多不便便，1976年R.O.Doda、、P.E.Hart等人在Bayes公式的基础础上经适当当改进提出出了主观Bayes方法，建立立了相应的的不确定推推理模型，，并在地矿矿勘探专家家系统PROSPECTOR中得到了成成功的应用用。1.知识不确定定性的表示示在主观Bayes方法中，知知识是用产产生式规则则表示的，，具体形式式为：ifEthen(LS,LN)H(P(H))其中•E是该条知识识的前提条条件，它既既可以是一一个简单条条件，也可以是用用and、、or把单个条件件连接起来来的复合条条件。•H是结论，P(H)是H的先验概率率，它指出出在没有任任何专门证据的情况况下，结论论为真的概概率，其值由领域域专家根据据以往的实践践及经验给给出。2023/1/720•LS称为充分性量量度，用于指指出E对H的支持程度，，取值范围为[0，，∞），其定义为为：LS=LS的值由领域专专家给出，具具体情况在下下面论述。•LN称为必要性量量度，用于指指出E对H的支持程度，，取值范围为[0，∞），其定义为为：LN==LN的值也由领域域专家给出，，具体情况在在下面论述。。•LS,LN相当于知识的的静态强度。。P(E/H)P(E/H)P(E/H)P(E/zH)1P(E/H)1P(E/H)2023/1/7212.证据据不确定性的的表示在主观Bayes方法中，证据据的不确定性性也是用概率率表示的。例如，对于初初始证据E，由用户根据观观察S给出P(E/S)，它相当于动态强度。但由于P(E/S)的给出相当困困难，因而在在具体的应用用系统中往往采用适当当的变通方法法，如在PROSPECTOR中引进了可信信度的概念，让让用户在––5至5之间的11个整整数中选一个个数作为初始证据的可可信度。可信度C(E/S)与概率P(E/S)的对应关系如如下：C(E/S)=–5，表示在观察S下证据E肯定不存在，，即P(E/S)=0；C(E/S)=0，，表示S与E无关，即P(E/S)=P(E)；C(E/S)=5，，表示在观察S下证据E肯定存在，即即P(E/S)=1；2023/1/722C(E/S)=其它数数值时时与P(E/S)的对应应关系系，可可通过过对上上述三三点进进行分分段线线性插值得得到，，如下下图。。P(E/S)1P(E)C(E/S)-5-4-3-2-1012345由上图图可得得到C(E/S)与P(E/S)的关系系式：：P(E/S)=若0C(E/S)5若5C(E/S)<0C(E/S)+P(E)(5C(E/S))55P(E)(C(E/S)+5)这样，，用户户只要要对初初始证证据给给出相相应的的可信信度C(E/S)，，就可将将其转转换为为P(E/S)。。2023/1/7233.组组合证证据不不确定定性的的算法法当组合合证据据是多多个单单一证证据的的合取取时，，即E=E1ANDE2AND……ANDEn，如果已已知P(E1/S),P(E2/S),……,P(En/S),则：P(E/S)=min{P(E1/S),P(E2/S),……,P(En/S)}当组合合证据据是多多个单单一证证据的的析取取时，，即E=E1ORE2OR……OREn如果已已知P(E1/S),P(E2/S),……,P(En/S)，则：P(E/S)=max{P(E1/S),P(E2/S),……,P(En/S)}对“非非”运运算，，则：：P(E/S)=1–P(E/S)2023/1/7244.不确定定性的的传递递算法法在主观观Bayes方法的的知识识表示示中，，P(H)是专家家对结结论H给出的的先验验概率率，它它是是在没没有考考虑任任何证证据的的情况况下根根据经经验给给出的的。随随着新新证据据的获获得，，对H的信任任程度度应该该有所所改变变。主主观Bayes方法推推理的的任务务就是是根据据证据据E的概率率P(E)及LS,LN的值，，把H的先验验概率率P(H)，，更新为为后验验概率率P(H/E)或P(H/E)。。即：P(H)P(H/E)或P(H/E)下面分分三种种情况况讨论论。(1)证证据据肯定定存在在的情情况证据肯肯定存存在时时，P(E)=P(E/S)=1

P(E)LS,LN2023/1/725由Bayes公式得得：P(H/E)=P(E/H)P(H)/P(E)①同理有有：P(H/E)=P(E/H)P(H)/P(E)②①除以②，得：：P(H/E)P(E/H)P(H)P(H/E)P(E/H)P(H)③由③式及及““非””运算算P(H/E)=1–P(H/E),得：LS=P(H/E)=

LSP(H)(LS–1)P(H)+12023/1/726充分性性量度度LS：：•当LS>1时，P(H/E)>P(H)，这表明明由于于证据据E的存在在，将将增大大结论H为真的的概率率，且且LS越大，，P(H/E)就越大大，即即E对H为真的支支持越强强。当LS∞，P(H/E)1，E的存在对对H为真是充充分的，，故称LS为充分性性量度。。•当LS=1时，P(H/E)=P(H)，这表明E与H无关。•当LS<1时，P(H/E)<P(H)，表明由于于证据E的存在，，将导致致H为真的可可能性下下降。•当LS=0时，P(H/E)=0，这表明证证据E的存在，，导致H为假。上述LS的讨论，，可作为为领域专专家为LS赋值的的依据据，当当证据据E越是支支持H为真时时，则则应使使LS的值越越大。。P(H/E)=

LSP(H)(LS–1)P(H)+1P(H/E)为增函函数2023/1/727(2)证据肯定不不存在的情情况证据肯定不不存在时，，P(E)=P(E/S)=0，P(E)=1。由Bayes公式得：P(H/E)=P(E/H)P(H)/P(E)①同理有：P(H/E)=P(E/H)P(H)/P(E)②①除以②，得：P(H/E)P(E/H)P(H)P(H/E)P(E/H)P(H)③由③式及““非”运算算P(H/E)=1–P(H/E),得：=LNP(H/E)=LNP(H)(LN–1)P(H)+12023/1/728必要性量度LN：•当LN>1时，由上式得得：P(H/E)>P(H)这表明由于证证据E的不存在，将将增大结论论H为真的概率，且LN越大，P(H/E)就越大，即E对H为真的支持越越强。当LN∞，P(H/E)1。•当LN=1时，P(H/E)=P(H)，，这表明E与H无关。•当LN<1时，P(H/E)<P(H)，，表明由于证据据E的不存在，将将导致H为真的可能性性下降。•当LN=0时，P(H/E)=0，这表明证据E的不存在，导导致H为假。由此也可看出出E对H为真的必要性性，故称LN为必要性量度度。上述LN的讨论，可作作为领域专家家为LN赋值的依据，，当证据E对H愈是必要，则则相应LN的值愈小。P(H/E)=LNP(H)(LN–1)P(H)+12023/1/729另外，由于E和E不可能同时支支持H或反对H，所以在一条知知识中，LS和LN不应该出现下下列情况中的的任何一种：：•LS>1，LN>1•LS<1，LN<1(3)证据据不确定的情情况在现实中，证证据肯定存在在或肯定不存存在的极端情情况是不多的的，更多的是介于于两者之间的的不确定情况况。现在要在0<P(E/S)<1的情况下确定定H的后验概率P(H/S)。在证据不确定定的情况下，，不能再用上上面的公式计计算后验概率率，而需使用R.O.Doda等人1976年证明的如如下公式：P(H/S)=P(H/E)P(E/S)+P(H/E)P(E/S)①2023/1/730R1:IFE1THEN(10,1)H1(0.03)R2:IFE1THEN(10,1)H2(0.03)R3:IFE1THEN(10,1)H3(0.03)求：当证据E1,E2,E3,存在即不存在在时候P(Hi/Ei)以及P（Hi/!Ei）的值是多少由于r1和r2中的LN＝1，所以E1和E2不存在时对H1和H2产生影响，不不需要计算P（H1/!E1）P（H2/!E2），要计算P（H1/E1）P（（H2/E2）由于E1的存在使得H1的可能性增加加了8倍，由由于E2的存在使得H2为真的可能性性增加了10倍2023/1/731由于E3的不存在，使使H3为真的可能性性，削减了350倍2023/1/732下面分分四种种情况况讨论论：1)P(E/S)=1当P(E/S)=1时，P(E/S)=0，，此时公公式①变为：：P(H/S)=P(H/E)=这是证证据肯肯定存存在的的情况况。2)P(E/S)=0当P(E/S)=0时，P(E/S)=1，，此时公公式①变为：：P(H/S)=P(H/E)=这是证证据肯肯定不不存在在的情情况。。LSP(H)(LS–1)P(H)+1LNP(H)(LN–1)P(H)+12023/1/7333)P(E/S)=P(E)当P(E/S)=P(E)时，此时时公式①变为：P(H/S)=P(H/E)P(E)+P(H/E)P(E)=P(H)表示H与S无关。4)当当P(E/S)=其它值时时，通过分分段线性性插值可可得到计计算P(H/S)的公式。。全概率公公式2023/1/734

P(H/E)+P(E/S)若0P(E/S)<

P(E)P(H)+[P(E/S)–P(E)]

若P(E)P(E/S)1P(H)–P(H/E)

P(E)P(H/E)–P(H)1–P(E)

P(H/S)=0P(E)1P(E/S)P(H/E)P(H)P(H/E)P(H/S)该公式称称为EH公式。2023/1/735(4)对初始证证据，用用可信度度C(E/S)计算P(H/S)对于初始始证据，，由于其其不确定定性是用用可信度度C(E/S)给出的，，此时只只要把C(E/S)与P(E/S)的对应关关系带入入上式，，便可得得到下述述公式：：P(H/E)+[P(H)–P(H/E)][C(E/S)+1]，若C(E/S)0P(H)+[P(H/E)–P(H)]C(E/S)，若C(E/S)>01515P(H/S)=该公式称称为CP公式。当用初始始证据进进行推理理时，根根据用户户告知的的C(E/s)运用CP,就可以求求出P(H/s)当用推理理过程中中得到的的中间结结论作为为证据进进行推理理时，通通过运用用EH公式就可求出P(H/S)2023/1/7365.结论不确定定性的合成成算法若有n条知识都支支持相同的的结论，而而且每条知知识的前提提条件所对对应的证据据Ei（i=1,2,……,n）都有相应的的观察Si与之对应,此时只只要先求出出每条知识识的(H/Si)，然后就可运运用下述公公式求出O(H/S1,S2,…,Sn)。O(x)=

P(x)1-P(x)P(x)=

O(x)1+O(x)O(H/S1)O(H)O(H/S2)O(H)O(H/Sn)O(H)O(H/S1,S2,…,Sn)=…O(H)其中O为几率函数数，它与概概率的关系系为：2023/1/737例：设有如下下知识：r1:ifE1then(2,0.001)H1r2:ifE2then(100,0.001)H2r3:ifH1then(200,0.01)H2已知：：P(H1)=0.09P(H2)=0.01C(E1/S1)=2C(E2/S3)=1求：P(H2/S1,S2)=?(或O(H2/S1,S2)=?））H2H1E1E2S2S1(200,0.01)(100,0.001)(2,0.001)C(E1/S1)=2C(E2/S3)=1解：O(H1)=P(H1)1-P(H1)=0.09/(1-0.09)=0.1O(H2)=P(H2)1-P(H2)=0.01/(1-0.01)=0.012023/1/73820.09(2-1)0.09+1P(H1/E1)=LS1P(H1)(LS1–1)P(H1)+1==0.17(1)计算P(H1/S1)(O(H1/S1))对于初初始证证据，，使用CP公式，，∵C(E1/S1)=2>0∴使使用CP公式的的后半半部。。P(H1)+[P(H1/E1)–P(H1)]C(E1/S1)15P(H1/S1)==0.09+[0.17-0.09]21/5=0.122O(H1/S1)=P(H1/S1)1-P(H1/S1)0.1221-0.122=0.14=2023/1/7391000.09(100-1)0.09+1P(H1/E2)=LS2P(H1)(LS2–1)P(H1)+1==0.91(2)计计算P(H1/S2)(O(H1/S2))对于初始证据据，使用CP公式，∵C(E2/S2)=1>0∴使用CP公式的后半部部。P(H1)+[P(H1/E2)–P(H1)]C(E2/S2)15P(H1/S2)==0.09+[0.91-0.09]11/5=0.254O(H1/S2)=P(H1/S2)1-P(H1/S2)0.2541-0.254=0.34=2023/1/740(3)计算算P(H1/S1,S2)(O(H1/S1,S2))=(0.14/0.1)(0.34/0.1)0.1=0.476

O(H1/S1)

O(H1)O(H1/S1,S2)=O(H1/S2)

O(H1)O(H1)P(H1/S1,S2)=

O(H1/S1,S2)1+O(H1/S1,S2)=0.476/(1+0.476)=0.3222023/1/741(4)计算算P(H2/S1,S2)(O(H2/S1,S2))使用EH公式∵P(H1/S1,S2)>P(H1)∴使用EH公式的后半部部。2000.01(200-1)0.01+1P(H2/H1)=LS3P(H2)(LS3–1)P(H2)+1==0.67P(H1/S1,S2)–P(H1)1–P(H1)P(H2/S1,S2)=P(H2)+[P(H2/H1)–P(H2)]=0.01+[(0.322-0.09)/(1-0.01)](0.67-0.01)=0.165O(H2/S1,S2)=P(H2/S1,S2)1-P(H2/S1,S2)0.1651-0.165=0.198=H2的先验概率为为0.01，，而最后算出出的后验概率率为0.198，增加了了近20倍。。2023/1/7426.主主观Bayes方法的主主要由缺缺点：主要优点点：•其计算公公式大多多是在概概率论的的基础上上推导出出来的，，具有较较坚实的的理论基基础；•知识的静静态强度度LS、LN由领域专家根据据实际经经验得到，避避免了大大量的数据统计计工作；；•给出了在在证据不不确定情情况下更更新先验验概率为为后验概概率的方方法，且且从推理理过程中看看，确实实是实现现了不确确定性的的传递；；主要缺点点：•它要求领领域专家家在给出出知识时时，同时时给出H的先验概概率，这这是比较较困难的。•Bayes定理中要要求事件件间相互互独立，，限制了了该方法法的应用用。2023/1/743作业2023/1/7442023/1/7454.5可可信度度方法可信度方方法是肖肖特里菲菲(E.H.Shortliffe)等人在确确定性理理论（TheoryofComfirmation）的基础上上，结合合概率论论等提出出的一种种不确定定性推理理方法，，首先在在专家系系统MYCIN中得到了了成功的的应用。。由于该该方法比比较直观观、简单单，而且且效果也也比较好好，因而而受到人人们的重重视。目目前，许许多专家家系统都都是基于于这一方方法建造造起来的的。1.可可信度度根据经验验对一个个事物或或现象为为真的相相信程度度称为可可信度。。显然，可可信度带带有较大大的主观观性和经经验性，，其准确确性难以以把握。。但出于于人工智智能所面面向的多多是结构构不良的的复杂问问题，难难以给出出精确的的数学模模型，先先验概率率及条件件概率的的确定又又比较困困难，因因而用可可信度来来表示知知识及证证据的不不确性仍仍不失为为一种可可行的方方法。另另外，由由十领域域专家都都是所在在领域的的行家里里手，有有丰富的的专业知知识及实实践经验验，也不不难对领领域内的的知识给给出其可可信度。。2023/1/7462.C-F模型C-F模型是基于可可信度表示的的不确定性推推理的基本方方法。其它可可信度方法都是在此此基础上发展展起来的。(1)知识不确定性性的表示在C-F模型中，知识识是用产生式式规则表示的的，其一般形形式是：ifEthenH(CF(H,E))其中，E：是知识的前提提条件，它既既可以是一个个单个条件，，也可以是用and及or连接起来的复复合条件；H：是结论，它可可以是一个单单一结论，也也可以是多个个结论。CF(H,E)：是该条知识的的可信度，称称为可信度因因子或规则强强度，也就是前面所所说的静态强强度。CH(H,E)在[-1，1]上取值，，它指出当前前提条件E所对应的证据为为真时，它对对结论为真的的支持程度。。2023/1/747例如：if头痛and流涕then感冒（（0.7））表示当病人确确有“头痛””及“流涕””症状时，则则有7成的把把握认为他他患了感冒。。1)在C-F模型中，把CF(H,E)定义为：CF(H,E)=MB(H,E)–MD(H,E)MB：称为信任增长长度，它表示示因与前提条条件E匹配的证据的的出现，使结论H为真的信任增增长度。MB定义为：MB(H,E)=1若P(H)=1Max{P(H/E),P(H)}–P(H)

1–P(H)

否则2023/1/748MD：称为不不信任任增长长度，，它表表示因因与前前提条条件E匹配的的证据据的出出现，，使结论论H为真的的不信信任增增长度度。MD定义为为：MD(H,E)=P(H)表示H的先验验概率率；P(H/E)表示在在前提提条件件E对应的的证据据出现现的情情况下下，结结论H的条件概率率。2)CF(H,E)的计算算公式式•由MB和MD的定义义看出出：当当MB(H,E)>0时，有有P(H/E)>P(H)；当MD(H,E)>0时，有有P(H/E)<P(H)；1若P(H)=0Min{P(H/E),P(H)}–P(H)

–P(H)

否则2023/1/749•因为一一个证证据不不可能能既增增加对对H的信任任程度度，又又增加加对H的不信信任程程度度，因因此MB(H,E)，，MD(H,E)是互斥斥的，，即即：当MB(H,E)>0时，MD(H,E)=0当MD(H,E)>0时MB(H,E)=0综合上上述可可得到到CF(H,E)的计算算公式式：MB(H,E)–0=,若P(H/E)>P(H)CF(H,E)=0,若P(H/E)=P(H)0–MD(H,E)=–,若P(H/E)<P(HP(H/E)–P(H)

1–

P(H)P(H)

–

P(H/E)

P(H)2023/1/750由CF(H,E)的计算公式式可直观地地看出它的的意义：1)若若CF(H,E)＞0，则P(H/E)＞P(H)。这说明由于于前提条件件E所对应的证证据出现增加了H为真的概率率，即增加加了H为真的可信信度，CF(H,E)的值越大大，增加H为真的可信信度就越大大。若CF(H,E)=1，可可推出P(H/E)＝1，，即由于E所对应的证据出现现使H为真。2)若若CF(H,E)＜0，则P(H/E)＜P(H)。这说明由于于E所对应的证证据出现减减少了H为真的概率率，即增加加了H为假的可信信度，CF(H,F)的值越小，，增加H为假的可信度就越大大。若CF(H,E)=-1，，可推出P(H/E)＝0，，即E所对应的证证据出现使使H为假。3)若若CF(H,E)=0，，则P(H/E)=P(H)，表示H与E独立，即即E所对应的的证据出出现对H没有影响响。2023/1/751当已知P(H)和P(H/E)的值时，，通过运运用上述述公式，，可以求求出CF(H,E)。但是，在在实际应应用中，，P(H)和P(H/E)的值是难难以获得得的。因此，CF(H,E)的值要求求领域专专家直接接给出。。其原则则是：•若由于相相应证据据的出现现增加结结论H为真的可可信度，，则使CF(H,E)>0，，证据的出现越是是支持H为真，就就使CF(H,E)的值越大大；•反之，使使CF(H,E)<0，，证据的出出现越是是支持H为假，就使CF(H,E)的值越小小；•若证据的的出现与与否与H无关，则则使CF(H,E)=0。。(2)证证据据不确定定的表示示在该模型型中，证证据的不不确定性性也用可可信度因因子表示示。如：：CF(E)=0.6表示证据据E的可信度度为0.6。。证据可信信度值的的来源分分为两种种情况：：•对于初始始证据，，其可信信度的值值由提供供证据的的用户给给出；2023/1/752•对于用先先前推出出的结论论作为当当前推理理的证据据，其可可信度值值在推出该结论论时通过过不确定定性传递递算法计计算得到到。证据E的可信度度CF(E)也是在[-1，，1]之之间取值值。对于初始始证据：：•若对它的的所有观观察S能肯定它它为真．．则使CF(E)=1；•若肯定它它为假，，则使CF(E)=-1；•若它以某某种程度度为真，，则使CF(E)为(0,1)中的某一一个值，，即0＜＜CF(E)＜1;•若它以某某种程度度为假，，则使CF(E)为(-1,0)中中的某一一个值，，即-1＜CF(E)＜0；•若对它它还未未获得得任何何相关关的观观察，，此时时可看看作观观察S与它无无关，，则使使CF(E)=0。2023/1/753(3)组组合合证据据不确确定性性的算算法•当组合合证据据是多多个单单一证证据的的合取取时，，即：：E=E1andE2and……andEn若已知知CF(E1)，CF(E2)，……，CF(En)，则CF(E)=min{CF(E1)，CF(E2)，……，CF(En)}•当组合合证据据是多多个单单一证证据的的析取取时，，即：：E=E1orE2or……orEn若已知知CF(E1)，CF(E2)，……，CF(En)，则CF(E)=max{CF(E1)，CF(E2)，……，CF(En)}2023/1/754(4)不不确定性性的传递算算法C-F模型中的不不确定性推推理是从不不确定的初初始证据出出发，通过过运用相关关的不确定定性知识，，最终推出出结论并求求出结论的的可信度值值。结论H的可信度由由下式计算算：CF(H)=CF(H,E)max{0,CF(E)}(5)结论不确定定性的合成成算法若由多条不不同知识推推出了相同同的结论，，但可信度度不同，则则可用合成算法法求出综合合可信度。。设有如下知知识：ifE1thenH(CF(H,E1))ifE2thenH(CF(H,E2))当CF(E)<0时，CF(H)=0，说明该模型型中没有考考虑证据为假时对结结论H所产生的影影响。2023/1/755则结论H的综合可信度度可分如下两两步算出：•首先分别对每每一条知识求求出CF(H)：：CF1(H)=CF(H,E1)max{0,CF(E1)}CF2(H)=CF(H,E2)max{0,CF(E2)}•然后用下述公公式求出E1与E2对H的综合影响所所形成的可信信度：CF1(H)+CF2(H)–CF1(H)CF2(H)若CF1(H)0,CF2(H)0CF1(H)+CF2(H)+CF1(H)CF2(H)若CF1(H)0,CF2(H)0CF1(H)+CF2(H)1–min{|CF1(H)|,|CF2(H)|}若CF1(H)与CF2(H)异号CF1，2(H)=2023/1/756例：有下列列一组知识识：r1：ifE1thenH(0.8)r2：ifE2thenH(0.6)r3：ifE3thenH(-0.5)r4：ifE4and(E5orE6)thenE1(0.7)r5：ifE7andE8thenE3(0.8)已知：CH(E2)=0.8，CH(E4)=0.5，CH(E5)=0.6，CH(E6)=0.7，CH(E7)=0.6，CH(E8)=0.9，求：CF(H)=?解：由已知知识识得到推理理网络：HE2E3E7E8E1E4E5E62023/1/757结论不确确定性传传递算法法由r4得到：CF(E1)=0.7max{0,CF[E4and(E5orE6)}=0.7max{0,min{CF(E4),CF(E5orE6)}}=0.7max{0,min{CF(E4),max{CF(E5),CF(E6)}}}=0.7max{0,min{0.5,max{0.6,0.7}}}=0.70.5=0.35由r5得到：CF(E3)=0.9max{0,CF(E7andE8)}=0.90.6=0.54由r1得到：CF1(H)=0.8max{0,CF(E1)}=0.80.35=0.282023/1/758由r2得到：CF2(H)=0.6max{0,CF(E2)}=0.60.8=0.48由r3得到：CF3(H)=-0.5max{0,CF(E3)}=-0.50.54=-0.27结论不确定定性的合成成算法CF1，2(H)=CF1(H)+CF2(H)–CF1(H)CF2(H)=0.28+0.48–0.280.48=0.63CF1,2,3(H)==0.49即：CF(H)=0.49

CF1,2(H)+CF3(H)1–min{|CF1,2(H)|

,|CF3(H)|2023/1/7593.可信度方法的的进一步发展展C-F模型给出了用用可信度表示示不确定性时时进行推理的的基本方法，，为基于可信信度表示的不不确定性推理理奠定了基础础。但现实世世界中的问题题是复杂、多多样的，为了了用可信度方方法求解更多多的问题，人人们在C-F模型的基础上上又提出了更更具有一般性性的处理方法法：(1)带有阈值限度度的不确定性性推理知识表示为：：ifEthenH(CF(H,E),)其中是阈值，它对对相应知识的的可应用性规规定了一个限限度:0<<1(2)加权的不确定定性推理知识表示为：：ifE1(1)andE2(2)and…thenH(CF(H,E),)其中1，1，…n为加权因子。。(3)前前提条件中带带有可信度因因子的不确定定性推理知识表示为：：ifE1(cf1)andE2(cf2)and…thenH(CF(H,E),)2023/1/7602023/1/7612023/1/7622023/1/7632023/1/7642023/1/7652023/1/7662023/1/7672023/1/7682023/1/7692023/1/7702023/1/7712023/1/7722023/1/773作业2023/1/7744.6证证据理理论证据理理论是是由德德普斯斯特(A.P.Dempster)首先提提出，，并由由沙佛佛(G.Shafer)进一步步发展展起来来的一一种处处理不不确定定性的的理论论，因因此又又称为为D-S理论。。1981年巴巴纳持持(J.A.Barnett)把该理理论引引入专专家系系统中中，同同年卡卡威(J.Garvey)等人用用它实实现了了不确确定定性推推理。。由于于该理理论满满足比比概率率论弱弱的公公理，，能够够区分分“不不确定定”与与“不不知道道”的的差异异，并并能处处理由由“不不知道道”引引起的的不确确定性性，具具有较较大的的灵活活性，，因而而受到到了人人们的的重视视。1.D-S理论证据理理论是是用集集合表表示命命题的的。设D是变量量x所有可可能取取值的的集合合，且且D中的元元素是是互斥斥的，，在任任一时时刻x都取取且只只能取取D中的某某一个个元素素为值值，则则称D为x的样本本空间间。在证据据理论论中，，D的任何何一个个子集集A都对应应于一一个关关于x的命题题，称称该命命题为为“x的值在在A中”。。2023/1/775例1:用x代表打打靶时时所击击中的的环数数，D＝{1,2,……,10}则A＝{5}表示““x的值是5”或或者“击击中的环数为为5”；A＝{5,6,7,8}表示“击中中的环数是5，6，7，，8中的某一一个”。例2：用x代表所看到的的颜色，D＝{红,黄,蓝}则A={红}表示““x是红色”；A＝{红,蓝}，则则它表示““x或者是红色，，或者是蓝色色”。证据理论中，，为了描述和和处理不确定定性，引入了了概率分配函函数，信任函函数及似然函函数等概念。。2023/1/776(1)概率分配函数数设D为样本空间，，领域内的命命题都用D的子集表示，，则概率分配配函数定义如如下：[定义4.1]设函数M:2D[0,1]，且满足则称M是2D上的概率分配配函数，M(A)称为A的基本概率数数。•设样本空空间D中有n个元素，则D中子集的个数数为2n个，定义中的的2D就是表示这些子集的。。例如，设D={红,黄,蓝}，则子集的的个数为23=8个。•概率分分配函数的作作用是把D的任意一个子子集都映射为为[0,1]上的一个数数M(A),当AD时，M(A)表示对相应命命题的精确信信任度。例如：A={红}，M(A)=0.3；A={红,黄}M(A)=0.2；M({黄})=0；；M({蓝})=0.1；M({黄,蓝})=0.1；•概率分分配函数不是是概率。2023/1/777(2)信信任函数[定义4.2]命题的信任函函数Bel(A)：2D[0,1]，且对所有的AD其中2D表示D的所有子集。。Bel(A)函数又称为下下限函数。Bel(A)表尔对命题A为真的信任程程度。由信任函数及及概率分配函函数的定义容容易推出：例：根据上面面例中给出的的数据，可以以求得：Bel({红})=M({红})=0.3Bel({红,黄})=M({红})+M({黄})+M({红,黄})=0.3+0+0.2=0.52023/1/778(3)似然然函数似然的数又称称为不可驳斥斥函数或上限限函数。[定义4.3]似然函数Pl：2D[0,1]，，旦Pl(A)=1-Bel(A)对所有的AD似然函数的含含义:由于Bel(A)表示对A为真的信任程程度，所以Bel(A)就表示对A为真，即A为假的信任程程度，由此可可推出Pl(A)表示对A为非假的信任任程度。例：Pl({红})=1-Bel({红})=1-Bel({黄,蓝})=1-[M({黄})+M({蓝})+M({黄,蓝})]=1-[0+0.1+0.1)=0.82023/1/779(4)概率率分配函数的的正交和有时对同样的的证据会得到到两个不同的的概率分配函函数，例如，，对样本空间间：D＝[a，b]从不同的来源源分别得到如如下两个概率率分配函数：：Ml({a})＝＝0.3，Ml({b})＝0.6Ml({a,b})＝0.1，Ml()＝0M2({a})＝＝0.4，M2({b})＝0.4M2({a,b})＝0.2，M2()＝0此时需要对它它们进行组合合。[定义4.4]设M1和M2是两个概率分分配函数，则则其正交和M=M1M2为：其中如果K0，则正交和M也是一个概率率分配函数；；如果K＝0，则不存在正交交和M，称Ml与M2矛盾。2023/1/780对于多个概率率分配函数Ml，M2，…，Mn，如果它们可以以组合，也可可通过正交和运算将它它们组合为一一个概率分配配函数。[定义4.5]设Ml，M2，…，Mn是n个概率分配函函数，则其正正交和M＝MlM2…Mn定义为：其中2023/1/781例：设D={黑,白}，且且设M1({黑}，{白}，{黑,白白},)=(0.3,0.5,0.2,0)M2({黑}，{白}，{黑,白白},)=(0.6,0.3,0.1,0)由定义[5.4]得：=1-[M1({黑})M2({白})+M1({白})M2({黑})]=1-[0.30.3+0.50.6]=0.61K=1-M1(x)M2(y)xy=M({黑})=M1(x)M2(y)xy={黑}K-1=(1/0.61