《人工智能》第七章 不精确知识推理

1、人工智能人工智能第七章第七章 不精确知识推理不精确知识推理主讲：夏幼明主讲：夏幼明人工智能人工智能第七章第七章 不精确知识推理不精确知识推理2 在现实世界中，存在着大量的不确定性信息，在现实世界中，存在着大量的不确定性信息，如随机的、模糊的及未确知的等。因此，不精如随机的、模糊的及未确知的等。因此，不精确推理是专家系统研制过程中的一个十分重要确推理是专家系统研制过程中的一个十分重要的问题。的问题。 人工智能学者提出了许多新的不精确推理模型，人工智能学者提出了许多新的不精确推理模型，比较有代表性的是：确定性理论、主观比较有代表性的是：确定性理论、主观Bayes方法、方法、Dempster/Sha

2、fer证据理论及可能性理证据理论及可能性理论等。每种不精确推理方法都有它的特点和适论等。每种不精确推理方法都有它的特点和适用领域。用领域。 “不精确知识推理不精确知识推理”基本概念基本概念人工智能人工智能第七章第七章 不精确知识推理不精确知识推理3不精确性推理方法研究产生的原因大致如下：不精确性推理方法研究产生的原因大致如下：很多原因导致同一结果很多原因导致同一结果推理所需的信息不完备推理所需的信息不完备背景知识不足背景知识不足信息描述模糊信息描述模糊信息中含有噪声信息中含有噪声划分是模糊的划分是模糊的推理能力不足推理能力不足解题方案不唯一解题方案不唯一 “不精确知识推理不精确知识推理”基本概

3、念基本概念人工智能人工智能第七章第七章 不精确知识推理不精确知识推理4不确定性推理的研究和发展不确定性推理的研究和发展Shortliffe等人等人1975年结合年结合MYCIN系统的建立提出了系统的建立提出了确定性理论确定性理论。DURA等人等人1976年在年在PROSPECTOR的基础上给出了的基础上给出了概率法概率法。Dempster Shafter 1976年提出年提出证据理论证据理论。Zadeh两年后提出了两年后提出了可能性理论可能性理论，1983年提出了年提出了模糊模糊逻辑逻辑。“不精确知识推理不精确知识推理”基本概念基本概念人工智能人工智能第七章第七章 不精确知识推理不精确知识推理

4、5确定性理论确定性理论MYCIN系统是第一个采用了不确定推理逻辑的专家系统是第一个采用了不确定推理逻辑的专家系统，在系统，在20世纪世纪70年代非常有名年代非常有名。这个系统提出该确定性方法时遵循了下面的原则：这个系统提出该确定性方法时遵循了下面的原则：（1） 不采用严格的统计理论。使用的是一种接近统计理论的近似方不采用严格的统计理论。使用的是一种接近统计理论的近似方法。法。（2） 用专家的经验估计代替统计数据。用专家的经验估计代替统计数据。（3） 尽量减少需要专家提供的经验数据，尽量使少量数据包含多种尽量减少需要专家提供的经验数据，尽量使少量数据包含多种信息。信息。（4） 新方法应适用于证据

5、为增量式地增加的情况。新方法应适用于证据为增量式地增加的情况。（5） 专家数据的轻微扰动不影响最终的推理结论。专家数据的轻微扰动不影响最终的推理结论。“不精确知识推理不精确知识推理”基本概念基本概念人工智能人工智能第七章第七章 不精确知识推理不精确知识推理6确定性理论确定性理论MYCIN系统是第一个采用了不确定推理逻辑的专家系统是第一个采用了不确定推理逻辑的专家系统，在系统，在20世纪世纪70年代非常有名年代非常有名。“不精确知识推理不精确知识推理”基本概念基本概念 用用 户户 解释模块解释模块咨询模块咨询模块 知识获取模块知识获取模块感染病专家感染病专家与知识工程师与知识工程师知识库知识库动

6、态数据库动态数据库(推理记录推理记录)患者数据库患者数据库(原始数据库原始数据库)MYCIN系统结构图系统结构图 人工智能人工智能第七章第七章 不精确知识推理不精确知识推理7确定性理论确定性理论MYCIN推理策略推理策略采用反向推理和深度优先搜索。采用反向推理和深度优先搜索。诊断治疗过程如下诊断治疗过程如下 ：(1)确定患者有无细菌性感染。确定患者有无细菌性感染。(2)确定可能引起感染的有机体。确定可能引起感染的有机体。(3)确定对其有抑制作用的药物。确定对其有抑制作用的药物。(4)选择对治疗最合适的药物。选择对治疗最合适的药物。这四个步骤由目标规则这四个步骤由目标规则 来执行。来执行。“不精

7、确知识推理不精确知识推理”基本概念基本概念人工智能人工智能第七章第七章 不精确知识推理不精确知识推理8 不确定性推理不确定性推理 概率推理概率推理 可信度方法可信度方法 证据理论证据理论 主观主观bayes方法方法 贝叶斯网的不确定性知识推理贝叶斯网的不确定性知识推理“不精确知识推理不精确知识推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理9 不确定性推理概述不确定性推理概述 不确定性的表示与度量不确定性的表示与度量 不确定性知识推理算法不确定性知识推理算法“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理10

8、 不确定性推理概述不确定性推理概述F不确定性推理不确定性推理是建立在非经典逻辑基础上的一种推理，是基于不是建立在非经典逻辑基础上的一种推理，是基于不确定性知识的推理。确定性知识的推理。F不确定性推理不确定性推理从不确定性的初始证据出发，通过运用不确定性知从不确定性的初始证据出发，通过运用不确定性知识，推出具有一定程度的不确定性的和合理的或近乎合理的结论。识，推出具有一定程度的不确定性的和合理的或近乎合理的结论。F在在不确定性推理不确定性推理中，知识和证据都具有不确定性，这为推理机的中，知识和证据都具有不确定性，这为推理机的设计与实现增加了复杂度和难度。除了必须解决推理方向、推理设计与实现增加了

9、复杂度和难度。除了必须解决推理方向、推理方法和控制策略等基本问题外，一般还需要解决方法和控制策略等基本问题外，一般还需要解决等问题。等问题。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理11 不确定性推理概述不确定性推理概述不确定性不确定性(uncertainty)就是一个命题就是一个命题(亦即所表示的事亦即所表示的事件件)的真实性不能完全肯定的真实性不能完全肯定, 而只能对其为真的可而只能对其为真的可能性给出某种估计。能性给出某种估计。如果乌云密布并且电闪雷鸣如果乌云密布并且电闪雷鸣, 则很可能要下暴雨。则很可能要下暴雨。 如果头痛发烧

10、如果头痛发烧, 则大概是患了感冒。则大概是患了感冒。这是两个含有不确定性的命题。这是两个含有不确定性的命题。 当然当然, 它们描述的是它们描述的是人们的经验性知识。人们的经验性知识。 “不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理12 不确定性推理概述不确定性推理概述不确定性不确定性(imprecision)就是一个命题中所出现的某些就是一个命题中所出现的某些言词其涵义不够确切言词其涵义不够确切, 从概念角度讲从概念角度讲, 也就是其代也就是其代表的概念的内涵没有硬性的标准或条件表的概念的内涵没有硬性的标准或条件, 其外延没其外延没有硬性

11、的边界有硬性的边界, 即边界是软的或者说是不明确的。即边界是软的或者说是不明确的。 小王是个高个子。小王是个高个子。 张三和李四是好朋友。张三和李四是好朋友。如果向左转如果向左转, 则身体就会向左稍倾。则身体就会向左稍倾。这几个命题中就含有不确定性这几个命题中就含有不确定性, 因为其中的言词因为其中的言词“高高”、 “好朋友好朋友”、“稍倾稍倾”等的涵义都是不等的涵义都是不确切的。确切的。 “不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理13 不确定性推理概述不确定性推理概述不完全性就是对某事物来说不完全性就是对某事物来说, 关于它的信息或

12、知识还关于它的信息或知识还不全面、不完整、不充分。不全面、不完整、不充分。在破案的过程中，警方所掌握的关于罪犯的有关信息，在破案的过程中，警方所掌握的关于罪犯的有关信息， 往往就是不完全的。但就是在这种情况下，办案往往就是不完全的。但就是在这种情况下，办案人员仍能通过分析、人员仍能通过分析、 推理等手段而最终破案。推理等手段而最终破案。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理14 不确定性推理概述不确定性推理概述不一致性就是在推理过程中发生了前后不相容的结论；不一致性就是在推理过程中发生了前后不相容的结论；或者随着时间的推移或者范围

13、的扩大，原来一些或者随着时间的推移或者范围的扩大，原来一些成立的命题变得不成立、不适合了。成立的命题变得不成立、不适合了。牛顿定律对于宏观世界是正确的，但对于微观世界和牛顿定律对于宏观世界是正确的，但对于微观世界和宇宙观世界却是不适合的。宇宙观世界却是不适合的。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理15 不确定性推理概述不确定性推理概述对于不确定性知识，其表示的关键是如何描述不确定对于不确定性知识，其表示的关键是如何描述不确定性。性。 一般的做法是把不确定性用量化的方法加以一般的做法是把不确定性用量化的方法加以描述，而其余部分的表

14、示模式与前面介绍的知识描述，而其余部分的表示模式与前面介绍的知识基本相同。基本相同。对于不同的不确定性，人们提出了不同的描述方法和对于不同的不确定性，人们提出了不同的描述方法和推理方法。下面我们主要介绍推理方法。下面我们主要介绍(狭义狭义)不确定性和不确定性和不确切性知识的表示与推理方法，对于不完全性不确切性知识的表示与推理方法，对于不完全性和不一致性知识的表示，简介几种非标准逻辑。和不一致性知识的表示，简介几种非标准逻辑。 “不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理16 不确定性推理概述不确定性推理概述F 随机性随机性以牛顿理论为代

15、表的确定性科学，创造了给世界以精确描以牛顿理论为代表的确定性科学，创造了给世界以精确描绘的方法，将整个宇宙看作是钟表式的动力学系统，绘的方法，将整个宇宙看作是钟表式的动力学系统，处于确定、和谐、有序的运动之中。处于确定、和谐、有序的运动之中。客观世界上随机的，映射到人脑的客观世界，即主观世界客观世界上随机的，映射到人脑的客观世界，即主观世界也应该是随机的。因此，人类在认知过程中表现出的也应该是随机的。因此，人类在认知过程中表现出的智能和知识，不可避免地伴随有随机性。智能和知识，不可避免地伴随有随机性。随机性无处不在，随机性使得世界更为复杂，也更为丰富随机性无处不在，随机性使得世界更为复杂，也更

16、为丰富多彩。多彩。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理17 不确定性推理概述不确定性推理概述F 模糊性模糊性直到直到20世纪，人们才认识到，模糊性并不是坏事。它能够世纪，人们才认识到，模糊性并不是坏事。它能够用较少的代价，传递足够的信息，并能对复杂事物做用较少的代价，传递足够的信息，并能对复杂事物做出高效率的判断和处理。出高效率的判断和处理。哲学家罗素早在哲学家罗素早在1923年一篇题为年一篇题为Vagueness的论文中明确的论文中明确指出：指出：“认为模糊知识必定是靠不住的，这种看法是认为模糊知识必定是靠不住的，这种看法是大

17、错特错的大错特错的”。随着科学技术的发展，科学家们已经认识到：硬要把模糊随着科学技术的发展，科学家们已经认识到：硬要把模糊事物人为地精确化，不仅会以方法的复杂性为代价，事物人为地精确化，不仅会以方法的复杂性为代价，而且会降低结果的意义性。而且会降低结果的意义性。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理18 不确定性的表示与度量不确定性的表示与度量F 不确定性的表示不确定性的表示知识不确定性知识不确定性考虑因素：问题描述能力、便于推算考虑因素：问题描述能力、便于推算 含义：知识的不确定程度，或表态强度含义：知识的不确定程度，或表态强度

18、 表示：用表示：用概率概率 0，1，越接近，越接近0越假，越接近越假，越接近1越真越真 用用可信度可信度 -1,1，大于，大于0接近于真，小于接近于真，小于0接近于接近于假假“不确定性推理不确定性推理”核心内容核心内容可信度是指人们根据以往经验对某个事物或现象为真的可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断，或者说是人们对某个事物或现象为真程度的一个判断，或者说是人们对某个事物或现象为真的相信程度。的相信程度。可信度具有一定的主观性，较难把握。但对某一特定领可信度具有一定的主观性，较难把握。但对某一特定领域，让该领域专家给出可信度还是可行的。域，让该领域专家给出可信度还是可

19、行的。人工智能人工智能第七章第七章 不精确知识推理不精确知识推理19 不确定性的表示与度量不确定性的表示与度量F 不确定性的表示不确定性的表示表示形式：表示形式：在在C-F模型中，知识是用产生式规则表示的，其一般形式模型中，知识是用产生式规则表示的，其一般形式为：为：IF E THEN H (CF(H, E)其中，其中，E是知识的前提条件；是知识的前提条件；H是知识的结论；是知识的结论；CF(H, E)是知识的可信度。是知识的可信度。例子：例子：IF 发烧发烧 AND 流鼻涕流鼻涕 THEN 感冒感冒 (0.8) 说明：当某人确实有说明：当某人确实有“发烧发烧”及及“流鼻涕流鼻涕”症状时，则有

20、症状时，则有80%的把握是患了感冒。的把握是患了感冒。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理20 不确定性的表示与度量不确定性的表示与度量F 不确定性的表示不确定性的表示证据不确定性证据不确定性证据来源：初始证据、中间结论证据来源：初始证据、中间结论 含义：含义：证据的不确定程度，或动态强度证据的不确定程度，或动态强度 表示：与知识相同表示：与知识相同结论不确定性结论不确定性结论来源：知识、证据不确定性结论来源：知识、证据不确定性 含义：结论的不确定程度，或规则的不确定性含义：结论的不确定程度，或规则的不确定性 表示：当规则的条件

21、被完全满足时，产生的结论的不表示：当规则的条件被完全满足时，产生的结论的不确定程度。确定程度。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理21 不确定性的表示与度量不确定性的表示与度量F 不确定性的度量不确定性的度量确定度量方法的要点：确定度量方法的要点：（1）量度要能充分表达相应知识和证据不确定性的程度。）量度要能充分表达相应知识和证据不确定性的程度。（2）量度范围的指定应便于领域专家和用户对不确定性的估）量度范围的指定应便于领域专家和用户对不确定性的估计。计。（3）量度要便于对不确定性的传递进行计算，而且对结论算）量度要便于对不确定

22、性的传递进行计算，而且对结论算出的不确定性量度不能超出量度规定的范围。出的不确定性量度不能超出量度规定的范围。（4）量度的确定应当是直观的，并有相应的理论依据。）量度的确定应当是直观的，并有相应的理论依据。“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理22 不确定性的知识推理算法不确定性的知识推理算法F 不确定性的匹配算法不确定性的匹配算法“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理23 不确定性的知识推理算法不确定性的知识推理算法F 不确定性的匹配算法不确定性的匹配算法“不确定性

23、推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理24 不确定性的知识推理算法不确定性的知识推理算法F 不确定性的更新算法不确定性的更新算法不精确推理的根本目的是根据用户提供的初始证据，通过不精确推理的根本目的是根据用户提供的初始证据，通过运用不确定性知识，最终推出不确定性的结论，并推运用不确定性知识，最终推出不确定性的结论，并推算出结论为确定性的程度。算出结论为确定性的程度。不精确推理除了要解决前面提出的问题之外，还需要解决不精确推理除了要解决前面提出的问题之外，还需要解决不确定性的更新问题不确定性的更新问题在推理过程中在推理过程中“不确定性推理不确

24、定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理25 不确定性的知识推理算法不确定性的知识推理算法F 不确定性的更新算法不确定性的更新算法 已知规则已知规则R前提前提E的不确定性的不确定性C(E)和规则的强度和规则的强度f(H, E)，如何求假设如何求假设H的不确定性的不确定性C(H) 即定义算法即定义算法g1，使，使 C(H) =g1C(E) ，f(H, E) 并行规则算法并行规则算法根据独立的证据根据独立的证据E1和和E2，分别求得，分别求得假设假设H的不确定性为的不确定性为C1(H) 和和C2(H)。求出证据。求出证据E1和和E2的组合导致结论的组合导

25、致结论H的不确定性的不确定性C(H)。即定义算法。即定义算法g2，使使 C(H) =g2C1(H)，C2(H)“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理26 不确定性的知识推理算法不确定性的知识推理算法F 不确定性的更新算法不确定性的更新算法 证据合取的不确定性算法证据合取的不确定性算法根据两个证据根据两个证据E1和和E2的的不确定性值不确定性值C(E1)和和C(E2)，求出证据，求出证据E1和和E2合取的不合取的不确定性确定性定义算法定义算法g3，使，使 C(E1 AND E2)= g3C(E1)，C(E2) 证据析取的不确定性算法

26、证据析取的不确定性算法根据两个证据根据两个证据E1和和E2的的不确定性值不确定性值C(E1)和和C(E2)，求出证据，求出证据E1和和E2析取的不析取的不确定性确定性定义算法定义算法g4，使，使 C(E1 OR E2)= g4C(E1)，C(E2) “不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理27 不确定性的知识推理算法不确定性的知识推理算法F 不确定性的更新算法不确定性的更新算法C(E1 AND E2)=min C(E1)，C(E2) C(E1 OR E2)=max C(E1)，C(E2) b、概率方法、概率方法 C(E1 AND E

27、2)= C(E1) C(E2) C(E1 OR E2)= C(E1)+ C(E2)- C(E1) C(E2) c、有界方法、有界方法 C(E1 AND E2)=max0, C(E1)+ C(E2)-1 C(E1 OR E2)=min1, C(E1)+ C(E2)“不确定性推理不确定性推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理28 概率论基础概率论基础 概率推理方法概率推理方法“概率推理概率推理”核心内容核心内容人工智能人工智能第七章第七章 不精确知识推理不精确知识推理29事件：在一定条件下，可能发生也可能不发生的试验事件：在一定条件下，可能发生也可能不发生

28、的试验结果。结果。事件有两种特殊情况：不可能事件与必然事件。事件有两种特殊情况：不可能事件与必然事件。事件的概率：事件发生的可能性大小。事件的概率：事件发生的可能性大小。条件概率：在事件条件概率：在事件B已发生的条件下，事件已发生的条件下，事件A发生的发生的概率，称为事件概率，称为事件A在事件在事件B已发生的条件下的条件已发生的条件下的条件概率，记为概率，记为P（A|B）。）。概率论基础概率论基础人工智能人工智能第七章第七章 不精确知识推理不精确知识推理30 概率的性质概率的性质概率论基础概率论基础A01P A（1）对任一事件 ，有 （ ）10DP DP （2）必然事件 的概率（ ） ，不可能

29、事件的概率（）。ABP ABP AP BP AB（3）如果 ， 是两个事件，则 （） （ ） （ ） （）12121.()()().()kijkikiAAAAAijPAP AP AP AABP ABP AP B （4）如果事件 ， ，是两两互不相容（或互斥）的事件，即有 ，则 （） 如果事件 ， 互，则 （） （ ） （ ）人工智能人工智能第七章第七章 不精确知识推理不精确知识推理31 概率的性质概率的性质概率论基础概率论基础,ABABP A BP AP BA BAB（5）如果 ， 是两个事件 且则 （） （ ） （ ）其中，事件表示事件 发生而事件 不发生。1AP AP AAAAA （6）对

30、任一事件 ，有 （ ）（ ）表示事件 的逆，即事件 和事件 有且仅有一个发生。人工智能人工智能第七章第七章 不精确知识推理不精确知识推理32 概率的计算公式概率的计算公式概率论基础概率论基础|P ABP A BP B（）（1）条件概率公式： （）（ ）P ABP AP B（2）独立性公式： （） （ ）（ ）121.()()1,()012ijiiiBBBBijPBP BiA （3）全概率公式 如果事件 ，满足 在 ，(， ，.) 则对任一事件 ，有1( )|iiiiP AP A B P BBnn （） （ ）如果 只有 个，则此公式也成立，此时右端只有 项相加。人工智能人工智能第七章第七章 不

31、精确知识推理不精确知识推理33 概率的计算公式概率的计算公式概率论基础概率论基础121a.( )0 ,() (|)(|)() (|)iiiiiiiBBAP AP B P A BP BAP B P A BBnn（4）贝叶斯（B yes）公式 如果事件 ，满足全概率公式条件，则对任一事件 ，（）有 如果 只有 个，则此公式也成立，此时右端分母只有 项相加。人工智能人工智能第七章第七章 不精确知识推理不精确知识推理34设有如下产生式规则：设有如下产生式规则：IF THEN 则证据则证据E的不确定性为的不确定性为E的概率的概率P(E)，基于概率法不精确，基于概率法不精确推理的目的就是求出在证据推理的目

32、的就是求出在证据E下，结论下，结论H发生的概率发生的概率P(H|E) 。Bayes方法用于不精确推理的一个原始条件是：已知前提方法用于不精确推理的一个原始条件是：已知前提E的概率的概率P(E)和和H的先验概率的先验概率P(H)，并已知，并已知H成立时成立时E出现的条件概率出现的条件概率P(E|H)，可由下面的，可由下面的Bayes公式求公式求H的的后验概率后验概率概率推理方法概率推理方法|P E HP HP H EP E（）（ ）（）（ ）人工智能人工智能第七章第七章 不精确知识推理不精确知识推理35如果一个证据如果一个证据E支持多个假设支持多个假设H1, H2, Hn ，即，即概率推理方法概

33、率推理方法iEHin IF THEN （ =1,2,.， ）则可得如下贝叶斯公式：则可得如下贝叶斯公式：1() ()()1,2,() ()iiinijjP H P E HP H EinP H P E H如果有多个证据如果有多个证据E1, E2, Em和多个结论和多个结论H1, H2, Hn，并且每个证据都以一定的程度支持结论，则，并且每个证据都以一定的程度支持结论，则 1212121(,)iimiiimnjmjjjjP E HP E HP EHP HP H E EEP E HP E HP EHP H （*）人工智能人工智能第七章第七章 不精确知识推理不精确知识推理36例例 设已知：设已知：P(

34、H1)=0.4， P(H2)=0.3， P(H3)=0.3P(E1|H1)=0.5, P(E1|H2)=0.6, P(E1|H3)=0.3P(E2|H1)=0.7, P(E2|H2)=0.9， P(E2|H3)=0.1 求求:P(H1|E1 E2)、P(H2|E1 E2)及及P(H3|E1 E2)的值。的值。解：由公式（解：由公式（*）可得）可得概率推理方法概率推理方法11211211|12111222213233|(|) (|) ()(|) (|) ()(|) (|) ()(|) (|) ()P HE EP EH P EH P HP E H P EH P HP EHP EHP HP EHP

35、EHP H（）=112|0.45P HE E（）212312|0.52|0.03P HE EP HE E（）（）人工智能人工智能第七章第七章 不精确知识推理不精确知识推理37概率推理方法概率推理方法F概率方法的优点是它有较强的理论基础和较好的数概率方法的优点是它有较强的理论基础和较好的数学描述，当证据及结论都彼此独立时，计算的复杂学描述，当证据及结论都彼此独立时，计算的复杂度比较低。度比较低。F概率方法的缺点是它要求给出结论概率方法的缺点是它要求给出结论Hi的先验概率的先验概率P(Hi)及证据及证据Ej的条件概率的条件概率P(Ej|Hi)，要获得这些数据，要获得这些数据是相当困难的。是相当困难

36、的。FBayes公式的公式的，它要求各事件互相独，它要求各事件互相独立，若证据之间存在依赖关系，就不能直接使用这立，若证据之间存在依赖关系，就不能直接使用这个方法了。个方法了。 人工智能人工智能第七章第七章 不精确知识推理不精确知识推理38“可信度推理方法可信度推理方法”的核心内容的核心内容 可信度定义与性质可信度定义与性质 证据不确定下证据不确定下CF的计算的计算 可信度推理实例可信度推理实例人工智能人工智能第七章第七章 不精确知识推理不精确知识推理39可信度定义与性质可信度定义与性质 可信度方法的原则可信度方法的原则(1)用接近统计理论的近似方法；用接近统计理论的近似方法；(2)用专家经验

37、估计代替统计数据；用专家经验估计代替统计数据；(3)尽量减少经验估计；尽量减少经验估计；(4)适用于证据增量式增加的情况；适用于证据增量式增加的情况；(5)数据的轻微扰动不影响最终的推理结论。数据的轻微扰动不影响最终的推理结论。人工智能人工智能第七章第七章 不精确知识推理不精确知识推理40可信度定义与性质可信度定义与性质 可信度的定义可信度的定义规则的形式为：规则的形式为：EH (CF(H,E)其中，其中，CF(H,E)是规则的可信度，或者称可信因子或规则是规则的可信度，或者称可信因子或规则强度。强度。可信度的取值范围在可信度的取值范围在-1和和1之间，其语义表示在已知证据之间，其语义表示在已

38、知证据E的情况下对结论的情况下对结论H为真的支持程度。为真的支持程度。CF(H,E)0，表示证据的存在增加结论为真的程度，表示证据的存在增加结论为真的程度，CF(H,E)的值越的值越大结论大结论H越真；越真；CF(H,E)=1表示证据存在结论为真。表示证据存在结论为真。 CF(H,E)0时时MD(H|E)=0 当当MD(H|E)0时时MB(H|E)=0 即恒有即恒有MB(H|E)*MD(H|E)=0(5)若若MB(H|E)=1时则对任何时则对任何E有有MD(H|E)=0；反之，若；反之，若MD(H|E)=1时则对任何时则对任何E有有MB(H|E)=0人工智能人工智能第七章第七章 不精确知识推理

39、不精确知识推理45可信度定义与性质可信度定义与性质 可信度方法的性质可信度方法的性质F MB和和MD的性质的性质复合证据的处理复合证据的处理 (1)MB(H|E1&E2)=MB(H|E1)+MB(H|E2)-MB(H|E1)*MB(H|E2)MD(H|E1&E2)=MD(H|E1)+MD(H|E2)-MD(H|E1)*MD(H|E2) 多于多于2个证据的，可以进一步组合个证据的，可以进一步组合(E1&E2)&E3. (2)MB(H|E1&E2)=MB(H|E1) ；MD(H|E1&E2)=MD(H|E1)其中其中E2为未知真假的证据为未知真假的证

40、据人工智能人工智能第七章第七章 不精确知识推理不精确知识推理46可信度定义与性质可信度定义与性质 可信度方法的性质可信度方法的性质F MB和和MD的性质的性质可信度因子可信度因子CF(H|E)=MB(H|E)-MD(H|E)根据根据MB/MD的互斥性知，的互斥性知，CF只取只取MB或或MD之一值之一值CF性质：性质：(1)-1CF(H|E)1(2)CF(H|E)+CF(H|E)=0(3)令令E+=E1&En 为所有支持为所有支持H的证据总和的证据总和(即即MB(H|Ei)0) / E-=E1&Em 为所有不支持为所有不支持H的证的证据总和据总和(即即MD(H|Ej)0)CF(H

41、|E+&E-)=MB(H|E+)-MD(H|E-)人工智能人工智能第七章第七章 不精确知识推理不精确知识推理47可信度定义与性质可信度定义与性质 可信度方法的性质可信度方法的性质当多个证据导出同一假设时，先求出各自当多个证据导出同一假设时，先求出各自MB/MD，然后利用复合证据处理公式得出总的然后利用复合证据处理公式得出总的MB/MD，再得，再得到到CF。(4)若若H1 Hk是是k个互相独立的假设，个互相独立的假设，E为对其有利的证为对其有利的证据，则据，则1)|(1kiiEHCF人工智能人工智能第七章第七章 不精确知识推理不精确知识推理48证据不确定下的证据不确定下的CF计算计算 证

42、据证据E本身不确定，其可信度用本身不确定，其可信度用CF(E)或或CF(E|S)表示，表示，S是证据是证据E的观察的观察 / 有性质如下：有性质如下：(1)当证据当证据E以某种程度为真时，以某种程度为真时，0CF(E)1；当证据；当证据E以某种程度为假时，以某种程度为假时，-1CF(E)0(2)证据证据E肯定真时肯定真时CF(E)=1；证据；证据E肯定假时肯定假时CF(E)=-1；对证据对证据E一无所知时一无所知时CF(E)=0。 CF对复合证据的处理：同对复合证据的处理：同MB/MD的定义的定义(1)CF(H|E1&E2)=CF(H|E1)+CF(H|E2) CF(H|E1)*CF(

43、H|E2)(2)CF(H|E1&E2)=CF(H|E1) 其中其中E2为未知真假的证据为未知真假的证据。人工智能人工智能第七章第七章 不精确知识推理不精确知识推理49证据不确定下的证据不确定下的CF计算计算 证据的合取与析取证据的合取与析取(1)E=E1 and and En CF(E1and and En)=minCF(E1),CF(En)(2)E=E1 or or En CF(E1 or or En)=maxCF(E1),CF(En)人工智能人工智能第七章第七章 不精确知识推理不精确知识推理50证据不确定下的证据不确定下的CF计算计算 由证据与规则的可信度求假设的可信度由证据与规则

44、的可信度求假设的可信度CF(H|S)=CF(H,E) max0,CF(E) (CF(E)0时时则不能则不能应用应用)MB(H|S)=MB(H,E) max0,CF(E)MD(H|S)=MD(H,E) max0,CF(E)人工智能人工智能第七章第七章 不精确知识推理不精确知识推理51可信度推理实例可信度推理实例设有推理网络如下图所示，其推理规则为设有推理网络如下图所示，其推理规则为(1)ABH, 0.7(2)CH, 0.5(3)(DE)F(GI)H, 0.9(4)JH, 0.3每个证据的可信度标在叶子节点的下面，节点分叉带弧者每个证据的可信度标在叶子节点的下面，节点分叉带弧者为与节点为与节点HC

45、JABFDEGI 0.2 0.5 0.4 0.2 0.8 0.1 0.6 0.4 - -0.80.30.90.50.7人工智能人工智能第七章第七章 不精确知识推理不精确知识推理52可信度推理实例可信度推理实例求解步骤：求解步骤：当可信度小于给定的阈值当可信度小于给定的阈值0.2时，不再进行时，不再进行计算计算(1)CF(H|AB)=0.7*min0.2,0.5=0.14 按照阈值规定可不考虑其对假设按照阈值规定可不考虑其对假设H推理的贡献，即下推理的贡献，即下一步不参与计算一步不参与计算(2)CF(H|C)=0.5*0.4=0.2(3)CF(H|(DE)F(GI)=0.9*minmax0.4,

46、0.2, 0.6, max0.8,0.1=0.9*0.4=0.36(4)CF(H|J)=0.3*(-0.8)=-0.24人工智能人工智能第七章第七章 不精确知识推理不精确知识推理53可信度推理实例可信度推理实例求解步骤：求解步骤：当可信度小于给定的阈值当可信度小于给定的阈值0.2时，不时，不再进行计算再进行计算 (5)由定义可知由定义可知MB1=0.2MB2=0.36MB3=0MD1=0MD2=0MD3=0.24MB=0.2+0.36 0.2*0.36=0.488MD=0.24故故CF=MB MD=0.488 0.24=0.248人工智能人工智能第七章第七章 不精确知识推理不精确知识推理54可

47、信度推理实例可信度推理实例求解步骤：求解步骤：当可信度小于给定的阈值当可信度小于给定的阈值0.2时，不时，不再进行计算再进行计算如果将如果将CF=0.14计算在内，则计算在内，则MB=0.14+0.2+0.36 0.14*0.2 0.14*0.36 0.2*0.36+0.14*0.2*0.36 =0.55968MD=0.24CF=0.55968 0.24=0.31968注意：计算的步骤是分别求每个证据的注意：计算的步骤是分别求每个证据的CF或或MB/MD，然后用复合证据公式计算然后用复合证据公式计算MB/MD，最后得，最后得CF=MB MD人工智能人工智能第七章第七章 不精确知识推理不精确知识

48、推理55证据理论证据理论 证据理论是由证据理论是由Dempster于于1967年首先提出，由他年首先提出，由他的学生的学生shafer于于1976年进一步发展起来的一种不年进一步发展起来的一种不精确推理理论，也称为精确推理理论，也称为Dempster/Shafer 证据理论证据理论(D-S证据理论证据理论)，属于人工智能范畴，最早应用于，属于人工智能范畴，最早应用于专家系统中，具有处理不确定信息的能力。专家系统中，具有处理不确定信息的能力。 作为一种不确定推理方法，证据理论的主要特点作为一种不确定推理方法，证据理论的主要特点是：满足比贝叶斯概率论更弱的条件；具有直接是：满足比贝叶斯概率论更弱的

49、条件；具有直接表达表达“不确定不确定”和和“不知道不知道”的能力。的能力。 人工智能人工智能第七章第七章 不精确知识推理不精确知识推理56证据理论证据理论在在DS证据理论中，由互不相容的基本命题（假定）组证据理论中，由互不相容的基本命题（假定）组成的完备集合称为识别框架，表示对某一问题的所有成的完备集合称为识别框架，表示对某一问题的所有可能答案，但其中只有一个答案是正确的。可能答案，但其中只有一个答案是正确的。该框架的子集称为命题。分配给各命题的信任程度称该框架的子集称为命题。分配给各命题的信任程度称为基本概率分配（为基本概率分配（BPA，也称，也称m函数），函数），m(A)为基本为基本可信数

50、，反映着对可信数，反映着对A的信度大小。的信度大小。人工智能人工智能第七章第七章 不精确知识推理不精确知识推理57证据理论证据理论信任函数信任函数Belgium（A）表示对命题）表示对命题A的信任程度，似的信任程度，似然函数然函数Pl(A)表示对命题表示对命题A非假的信任程度，也即对非假的信任程度，也即对A似乎可能成立的不确定性度量。似乎可能成立的不确定性度量。实际上，实际上，FBel(A),Pl(A)表示表示A的不确定区间；的不确定区间；F0,Bel(A)表示命题表示命题A支持证据区间；支持证据区间；F0,Pl(A)表示命题表示命题A的拟信区间；的拟信区间；F Pl(A),1表示命题表示命题

51、A的拒绝证据区间。的拒绝证据区间。设设m1和和m2是由两个独立的证据源（传感器）导出的基本概率分配函是由两个独立的证据源（传感器）导出的基本概率分配函数，则数，则Dempster联合规则可以计算这两个证据共同作用产生的联合规则可以计算这两个证据共同作用产生的反映融合信息的新的基本概率分配函数。反映融合信息的新的基本概率分配函数。 人工智能人工智能第七章第七章 不精确知识推理不精确知识推理58证据理论证据理论 证据理论的形式化描述证据理论的形式化描述F信任函数与似然函数的关系信任函数与似然函数的关系F概率分配函数的正交和概率分配函数的正交和 设设M1 和和M2是两个概率分配函数，则其正交和是两个

52、概率分配函数，则其正交和M =M1 M2 为为( )( )Pl ABel A0M （）112()()()xyAMAKMxMy121( )x yKM x M y （）式中：式中：人工智能人工智能第七章第七章 不精确知识推理不精确知识推理59证据理论证据理论 证据理论的形式化描述证据理论的形式化描述F设设M1, M2, Mn是是n个概率分配函数，则其正交和个概率分配函数，则其正交和 M = M1 M2 Mn 为为0M（）11( )()iiiAAi nM AKM A 1()iiiAi nKM A 其中其中人工智能人工智能第七章第七章 不精确知识推理不精确知识推理60证据理论证据理论 证据理论的不确定

53、性推理模型证据理论的不确定性推理模型F概率分配函数与类概率函数概率分配函数与类概率函数 设设D=s1, s2, sn，M为定义在为定义在 上的概率分配函数，且满足上的概率分配函数，且满足0,iiMssD（1） （ ）对任何1( )1niiMs（2）1()1( )niiM DMs （3）| 1| 00ADAAM A（4）当且或时， （ ）其中，其中，|A|表示命题表示命题A对应于集合中元素的个数。对应于集合中元素的个数。 2D人工智能人工智能第七章第七章 不精确知识推理不精确知识推理61证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F对任何命题，其信任函数与似然函数分别为

54、对任何命题，其信任函数与似然函数分别为 ( )( )iisABel AMs1()( )()1niiBel DMsM D( ) 1( )Pl ABelA 11( )1 ( )( )1 1()( )()( )iiisAniiisAMsMsMsM DBel AM DBel A ,( )( )()ADPl ABel AM D有于是可得，对任意于是可得，对任意人工智能人工智能第七章第七章 不精确知识推理不精确知识推理62证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F设设M1和和M2是上的基本概率分配函数，其正交和为是上的基本概率分配函数，其正交和为 1121212( )( )(

55、 )( )()()( )iiiiiMsKMsMsMsMDM DMs|( )( )( )( )|Af ABel APl ABel AD其中，其中，|A|和和|D|分别是分别是A和和D中元素的个数。中元素的个数。命题命题A的类概率函数为的类概率函数为其中，其中，1211( )( )( )( )( )( )( )( )niiiiiKMDMDMsMsMsMDMDMs人工智能人工智能第七章第七章 不精确知识推理不精确知识推理63证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F类概率函数类概率函数 的性质：的性质： ( )f A1( )1niifs（1）ADBel Af APl A

56、（2）对任何有 （ ） （ ）（ ）1ADfAf A （3）对任何有 （ ）（ ） 根据上述性质可得如下性质：根据上述性质可得如下性质：01,01ff DADf A （1）（）（2）（ ）（3）对任何有（ ）人工智能人工智能第七章第七章 不精确知识推理不精确知识推理64证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F不确定性知识用如下产生式规则表示：不确定性知识用如下产生式规则表示： 1212 ,., ,.,nnEHh hhCFc ccIF THEN 其中，其中，E为条件，为条件，H是结论，它用样本空间中的子集表示，是结论，它用样本空间中的子集表示， 是该子集是该子集中

57、的元素。中的元素。CF是可信度因子，用集合形式表示，其中是可信度因子，用集合形式表示，其中 用来指出用来指出 的可信度，的可信度， 与与 一一对应。一一对应。 满足如下条件：满足如下条件：12,.,nh hhic(1,2,., )ih inicih10,1,2,.,1iniicinc ic人工智能人工智能第七章第七章 不精确知识推理不精确知识推理65证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F证据不确定性的表示证据不确定性的表示 不确定性证据不确定性证据E的确定性用的确定性用CER(E)表示。表示。 对于初始证据，其确定性由用户给出；对于用前面推理所得结论对于初始证

58、据，其确定性由用户给出；对于用前面推理所得结论作为当前推理的证据，其确定性由推理得到。作为当前推理的证据，其确定性由推理得到。 CER(E)的范围为的范围为0，1， 即即01C ER E（）人工智能人工智能第七章第七章 不精确知识推理不精确知识推理66证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F组合证据不确定性的表示组合证据不确定性的表示 规则的条件可以为组合证据，当组合证据是多个证据的合取时，规则的条件可以为组合证据，当组合证据是多个证据的合取时，即即 12nEEEE AND AND . AND 则则12( )min(),(),.,()nCER ECER ECER

59、 ECER E当组合证据是多个证据的析取时，即当组合证据是多个证据的析取时，即12nEEEE OR OR . OR 则则12( )max(),(),.,()nCER ECER ECER ECER E人工智能人工智能第七章第七章 不精确知识推理不精确知识推理67证据理论证据理论 证据理论的不确定性推理模型证据理论的不确定性推理模型F不确定性的传递算法不确定性的传递算法 设有知识设有知识 则结论则结论H的确定性可由下列步骤求出：的确定性可由下列步骤求出： （1）求）求H的概率分配函数的概率分配函数 （2）求出）求出 （3）求）求H的确定性的确定性CER（H）1212 ,., ,.,nnEHh hh

60、CFc ccIF THEN (),(),()Bel HPl Hf H()(|)()CER HMD H Ef H 其中，其中，MD(H|E)定义为定义为1|0,HMD H E，如果所要求的证据都已经出现（）否则人工智能人工智能第七章第七章 不精确知识推理不精确知识推理68证据理论证据理论 证据理论推理示例证据理论推理示例 F设有如下知识规则设有如下知识规则 1121223123456141235123,0.2 0.6 ,0.3 0.5 0.7 ,0.2 0.6 0.1 ,REEGg gCFRGEAa aCFREEEBbCFRAHh h hCFRBHh h hCF：IF AND THEN ，：IF AND THEN ，：IF AND （ OR ） THEN ：IF THEN