不确定性推理方法概率基础

不确定性推理方法概率基础第1页，课件共39页，创作于2023年2月第3章作业的部分问题（续）只能置换变量，不可置换常量、函数求合一的步骤见P104-P105例：P(g(f(v),g(u))和P(x,x)归结法步骤：①声明谓词的含义；②写出谓词公式（别忘了量词），按结论的否定写出谓词公式；③将各公式的子句集求出；④归结，得到；⑤说明按归结原理，原题得证。注：参与归结的都是子句，不可出现包含→的句子。注：第3章作业的部分参考答案已放在ftp2@σ1={g(f(v))/x}P(g(f(v)),g(f(v)))

σ2={g(f(v))/x,f(v)/u}{u/f(v)}

╳第2页，课件共39页，创作于2023年2月5不确定性推理方法背景推理基于知识，而知识库包含大量模糊、随机、不可靠的知识。必须采用非精确推理(即不确定性推理)。AI的核心研究课题。第3页，课件共39页，创作于2023年2月不确定性推理的发展史概率论是不确定性推理的理论基础之一。80年代，贝叶斯网络成功应用于专家系统。75年，Shortliff等提出了确定性推理方法(医疗诊断系统MYCIN)。76年，DURA等提出了主观贝叶斯方法(地矿勘探系统PROSPECTOR)。76年，Dempster和Shafer提出了证据理论(D-S理论,又称广义概率论)。83年，Zadeh等提出了模糊逻辑。第4页，课件共39页，创作于2023年2月不确定性推理中的术语解释规则前件后件(产生式系统中)规则证据结论(不确定性推理中)规则新证据结论第5页，课件共39页，创作于2023年2月5.1.1不确定性的普遍存在证据有不确定性，如事实描述有歧义、不精确、不肯定。证据可以是初始证据新证据第6页，课件共39页，创作于2023年2月5.1.1不确定性的普遍存在(续)规则是启发类(Heuristic)知识，描述由已有知识可推得哪些新知识。规则有不确定性。规则自身证据组合结论A1A2ANDBAB第7页，课件共39页，创作于2023年2月5.1.1不确定性的普遍存在(续)推理过程的不确定性知识不确定性的动态积累和传播的过程。第8页，课件共39页，创作于2023年2月5.1.2基本问题(1)不确定性如何表示？定量(数值)表示例：P(A)是A发生的概率，用作证据A的不确定性度量。定性(非数值)表示例：A很可能(或可能、不太可能、一定)发生。第9页，课件共39页，创作于2023年2月5.1.2基本问题(2)不确定程度该如何计算？已知P(A)和P(B,A)，怎样求P(B)？已知P(B1,A)和P(B2,A)，怎样求P(A)？已知P(A1)和P(A2)，怎样求P(A1∧A2)和P(A1∨A2)？各规则和初始证据的不确定性度一般由专家给出。第10页，课件共39页，创作于2023年2月5.1.2基本问题(3)不确定性度量代表什么含义？P(B,A)可理解为A真对B真的影响程度。P(A)可理解为A为真的程度。第11页，课件共39页，创作于2023年2月5.1.3推理方法的分类形式化方法逻辑法采用多值逻辑和非单调逻辑处理不确定性。新计算法采用扩展的概率方法，表示不确定性。如：证据理论(D-S法)、确定性方法(CF法)、模糊逻辑法第12页，课件共39页，创作于2023年2月5.1.3推理方法的分类(续)新概率法根据传统概率论，采用新方法描述不确定性。如：主观内叶斯方法、贝叶斯网络方法。非形式化方法即启发性方法，对不确定性没有给出明确定义。第13页，课件共39页，创作于2023年2月5.2概率论基础概率可表示随机现象发生的可能性。不确定性现象不同于随机现象，但用概率思考不确定性，效果不错。“新计算法”和“新概率法”都是以概率论为基础的。第14页，课件共39页，创作于2023年2月5.2.1随机事件样本空间(Ω)随机实验可能结果的集合。样本点(ω)一个可能出现的结果。随机事件(A、B、…)一些样本点的集合。CABΩ第15页，课件共39页，创作于2023年2月5.2.1随机事件事件间的关系包含等价A=B互斥对立A=～BAΩBAΩBABΩ第16页，课件共39页，创作于2023年2月事件间的关系运算由已知事件，导出新事件。交并第17页，课件共39页，创作于2023年2月事件间的关系运算(续)差——A发生而B不发生求余～A=Ω﹣AABΩAΩ～A第18页，课件共39页，创作于2023年2月事件关系运算的性质交换律结合律分配律摩根律第19页，课件共39页，创作于2023年2月运行符的优先顺序 余交差并高低第20页，课件共39页，创作于2023年2月5.2.2事件的概率有Ω和A，P(A)称作事件A发生的概率，当满足:0≤P(A)≤1P(Ω)=1,P(Φ)=0AB=Φ,则P(AB)=P(A)+P(B)第21页，课件共39页，创作于2023年2月完备事件族{An|n=1,2,…}称为完备事件族,当对于任意i,j≥1且i≠j，Ai∧Aj=Φ，且。A1A2A3A4Ω第22页，课件共39页，创作于2023年2月完备事件族(续){An|n=1,2,…}为完备事件族,则

对于任意B,B

Ai

第23页，课件共39页，创作于2023年2月基本事件族{An|n=1,2,…}称为基本事件族,当{An|n=1,2,…}是完备事件族；且对于任意B，有B∧An=An或Φ,这里，n=1,2,…。A1A2A3A4BΩ第24页，课件共39页，创作于2023年2月基本事件族(续){An|n=1,2,…}为基本事件族,当

B

Ai

第25页，课件共39页，创作于2023年2月统计概率(古典概率)若在同一条件下，事件A出现频率为m/n,则m/n称为A的统计概率。第26页，课件共39页，创作于2023年2月统计概率的性质0≤P(A)≤1P(Ω)=1,P(Φ)=0对于任意A,P(~A)=1﹣P(A)

{An|n=1,2,…,n}中两两不相容，则对于任意A和B，有第27页，课件共39页，创作于2023年2月条件概率在事件A发生情况下B发生的条件概率边缘概率A与B的联合概率（乘法公式）第28页，课件共39页，创作于2023年2月条件概率(续)如果是统计概率，则第29页，课件共39页，创作于2023年2月C、D发生下A、B发生的概率另一种写法：第30页，课件共39页，创作于2023年2月条件概率的性质0≤P(B|A)≤1P(Ω|A)=1,P(Ф|A)=0若B1,B2不相容，则P(B1+B2|A)=P(B1|A)+P(B2|A)另一种写法：

P(B1∨B2|A)=P(B1|A)+P(B2|A)第31页，课件共39页，创作于2023年2月条件概率的性质(续)乘法公式(联合概率)P(A1A2…An)=P(A1)P(A2|A1)…P(An|A1A2…An-1)例：P(ABCD)=P(A|BCD)P(B|CD)P(C|D)P(D)第32页，课件共39页，创作于2023年2月条件概率的性质(续){Ai|i=1,2,…,n}是完备事件集，且P(Ai)>0，则有全概率公式：例：A+B+C=Ω,对于任意D，有P(D)=P(A)P(D|A)+P(B)P(D|B)+P(C)P(D|C)∵=P(AD)+P(BD)+P(CD)=P(AD∨BD∨CD)=P(D)第33页，课件共39页，创作于2023年2月事件的独立性若P(AB)=P(A)P(B)，则A与B相互独立。性质：P(A)=0或1，则A与任何事件独立。若A，B独立，且P(B)>0,则P(A|B)=P(A)。若A，B独立，则～A与B，A与～B，～A与～B都相互独立。{Ai|i=1,2,…,n}中事件相互独立，则其中任何一组事件之间相互独立。~~~~第34页，课件共39页，创作于2023年2月5.2.3贝叶斯定理(公式){Bi|i=1,2,…,n}是一个完备事件集，P(A)>0,P(Bi)>0,则

P(Bi)称为先验概率，P(Bi|A)称为后验概率，B1,B2,…,Bn为互不相容的原因，A为结果。第35页，课件共39页，创作于2023年2月5.2.4信任几率概率基于重复的随机实验，而实际中事件不可重复。A代表出红斑，B代表出麻疹，P(B|A)理解为“A成立时B的可信度”。A=T，P(B|A)=1,则B=T。A=T，P(B|A)=0，则B=F。A=T，0≤P(B|A)≤1，则不能确定B的值。P(B|A)表示了存在证据A时B的似然性（或可信度）。第36页，课件共39页，创作于2023年2月信任几率事件