北航多源信息融合证据理论基础

1、仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering多源测试信息融合证据理论基础(1)仪器科学与光电工程学院School of Instrumentation Science and Opt

2、o-electronics Engineering仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering万江文仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering仪器科学与光电工程学院School of Instrument朮ion Scien

3、ce and Opto-electronics Engineering主要内容引言证据理论基础证据理论研究现状未来研究方向2020/5/9#仪器科学与光电工程学院School of Instrument朮ion Science and Opto-electronics Engineering主要内容引言证据理论基础证据理论研究现状未来研究方向2020/5/93仪器科学与光电工程学院School of Instrument朮ion Science and Opto-electronics Engineering1引言主观贝叶斯理论的缺点:(1) 要求概率(各证据之间)都是独立的；(2) 要求先验

4、概率P(OJ和条件概率P(Dj IO0 ；(3) 要求统一的识别框架，不能实现不同层 次的组合；不能区分“不确定”和“不知道”。2020/5/9#仪器科学与光电工程学院School of Instrument朮ion Science and Opto-electronics Engineering1引言不确定性分类不确定性可以分为随机性、模糊性和认识不确定性三种。随机性：在自然界中客观存在，可根据历史资料得到的统计数字来 描述，常用概率论和数理统计来解决这方面问题。模糊性：通常指发生在概念上的模糊，如大、中、小界限的模糊等。 模糊理论是处理此问题的有力工具。认识的不确定性：是由于人们认识水平的

5、局限以及知识缺乏所造成 的。随机性和模糊性是客观的不确定性，认识的不确定性是主观的不确 定性。2020/5/95虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering1引言概率的解释证据理论出现以前，概率的解释主要有客观 解释，个人主义解释及必要性解释。客观解释概率：认为概率描述了一个可以重 复出现事件的客观事实，用试验次数趋于无穷时, 该事件发生的频率的极限来刻划。个人主义解释：认为概率反映了个人的某种 偏好，它根据某个人在赌博中或其他带有不确定 性结果的事件中所表现出来的行为来推童。1引言

6、必要'性角军释：则认为概率是测量一个命题推出另一个命题 程度的量，这个量由两个命题之间的逻辑关系完全决定，与个 人的偏好无任何关系，又称为逻辑主义解释。Shafer出以上三种概率的解释都没有涉及概率推断的构造 特征，因此，Shafer提出了对概率的第四种解释构造性解 释：概率是指某人在证据的基础上构造出的他对某一命题为真 的信任程度，简称信度。2020/5/99虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering主要内容引言证据理论基础证据理论研究现状未来研究方向2020/5/911

7、虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering4. 2证据理论基础证据理论的起源证据理论源于20世纪60年代美国哈弗大学的数学家 A.P.Dempster利用上、下概率来解决多值映射问题方面的研 究工作。后来他的学生G.Shafer对证据理论做了进一步的发 展和推广完善，引入了信任函数概念，形成了一套利用证据 和组合来处理不确定性推理问题的数学方法。它作为一种不 确定性推理方法，正受到越来越多的关注。称为（D-S）证据理论和信任函数理论。2020/5/913虧仪器科学与光电工程学院Sc

8、hool of Instrumentation Science and Opto-electronics Engineering2证据理论基础(1) 识别框架假设现有一个判决问题，对于该问题我们所能 认识到的所有可能答案的集合用0表示，且0中的所 有元素都满足两两互斥；任一时刻的问题答案只能 取0中的某一子集，答案可以是数值变量，也可以 是非数值变量，则称此互不相容命题的完备集合0 为识别框架，可表示为：乡1切(2-1)其中Q为识别框架的一个元素或事件。2020/5/915虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electr

9、onics Engineering2证据理论基础（i）识别框架（续i）集合®的选取问题识别框架的选取集合3的选取依赖于我们的认识水平和知识结构，包含我 们所知道的和想要知道的。当一个命题对应于该识别框架的 一个子集时，称该框架能够识别该命题，否则认为识别框架 是无效的。因此，®的选取应当足够的丰富，使我们所考虑 的任何特定的命题集都可以对应于6）的某一集类R, （0,R ） 称为命题空间。当®中含有N个元素时，R中最多有2"个子集。 需要说明的是，集合®可以为有限集也可以为无限集。本课 程只讨论有限集。2020/5/9虧仪器科学与光电工程学院S

10、chool of Instrumentation Science and Opto-electronics Engineering2证据理论基础(1)识别框架(续2)由识别框架中所有子集构成的一个有限集合称为O的幕集合，记作(2-2)其中0表示空集。识别框架的任一子集A都对应于一个命题, 一般可描述为“问题的答案在A中”。2020/5/919虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础例1:以掷骰子为例，要判断其可能所出现的点数，则识别框架®珂1,2,3,4,

11、5,6,而则表示“掷出的点数为1，贝I 2,4,6表示“掷出的点数为偶数”，123,4,5则表示“掷出的点数不为6，即“掷出的点数为1,2, 3,4,5中 的某一个”。由此可见，幕集合中的每一个子集A都代 表一个命题。2020/5/921虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础证据理论是建立在识别框架基础上的推理模型，其 基本思路如下：a）建立识别框架。利用集合论方法来研究命题；b）建立初始信任分配。根据证据提供的信息，分配证据对每一集合 （命题）A本身的支持程度，

12、该支持程度不能再细分给A的真子集。c）根据因果关系，计算所有命题的信任度。一个命题的信任度等于 证据对它的所有前提的初始信任度之和。这是因为，若证据支持一个命 题，则他同样支持该命题的推论。d）证据合成。利用证据理论合成公式融合多个证据提供的信息，得 到各命题融合后的信任度。e）根据融合后的信任度进行决策，一般选择信任度最大的命题。2020/5/923虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础证据函数证据函数证据是整个证据理论的核心，证据函数又是 描述证据的有力工具。

13、下面将详细介绍证据理论 中几个证据函数的基本概念及相关定理。基本置信度指派函数；信任度函数；似真度函数等2020/5/925虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础一一基本置信度指派函数定义1：设®为一识别框架，函数m是2®->0,l的映射，A为2®任一子集，记作，且满足:Ac 2®m (0) = 0加(A)二1(2-3)则称m是2®上的基本置信度分配函数，也称为质量函数或m"ss函数。m(A)为命题

14、A的基本置信度指派值，表示证据对A的信任程度，空集0的基本信任分配值为0。2020/5/927仪器科学与光电工程学院School of Instrument朮ion Science and Opto-electronics Engineering2证据理论基础一一基本置信度指派函数1=FA基本置信度指派函数相关的几个定义(1) 对于识别框架的任一子集A,只要满足 m(A)>0,则称A为证据的焦元。证据的焦元和它的基本置信度指派构成的 二元体(A, m(A)称为证据体，证据是由若干证据 体组成。1=FA基本置信度指派函数相关的几个定义(2)焦元中所包含识别框架中的元素个数称为该焦元的基,记

15、作IAL当子集A中只包含一个元素时，即IAI=1,称为单元素焦元。当子集A中包含j个元素时，即IAI=i,称为全体焦元的集合称为证据的核。核就是识别框架的幕集却吗？2020/5/9虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础一一基本置信度指派函数基本置信度指派函数的作用把的任一子集都映射到0,1上的一个数m(A)：(1) 当A由单个元素组成时，m(A)表示对相应命题A的精确 信任度；(2) 当Ac20 , AM®,且A由多个元素组成时，m(A)也是 相应命题A

16、的精确信任程度，但却不知道这部分信任度该分给A中 的哪些元素；当A二®时，m(A)是对®的各个子集进行信任分配后剩下 的部分，它表示不知道该如何对它进行分配。2020/5/933虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础一一基本置信度指派函数例2：泄漏诊断时，设识别框架=A1, A2, A3, Al 表示“发生大泄漏”，A2表示“发生小泄漏”， A3表示无泄漏，基本置信度指派分别为m(0)=O, m(Al)=0.3, m(A2)=0, m(A3)=

17、0.1 m(Al, A2)=0.2, m(Al, A3)=0.2,m(A2, A3)=0.1, m(Al, A2, A3)=0.12020/5/935虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering2证据理论基础一一基本置信度指派函数当A=A1时，m(A)=0.3,它表示对命题'答案是大泄漏”的 精确信任度为0.3。当A=A1, A2时，m(A)=0.2,它表示对命题“答案或是大 泄漏，或是小泄漏”的精确信任度为0.2,但却不知道该把这0.2分 给大泄漏还是分给小泄漏。当A=A1

18、, A2, A3时,m(A)=0.1,它表示不知道该把它如 何分配；它不属于A1,就属于A2或A3,只是基于现有的知 识，还不知道该如何进行分配。2020/5/937虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering信任度函数2证据理论基础定义2:信任度函数：集合A是识别框架®的任一子集，A中全部子集对应的基本置信度之和称为信任函数Bel(A),即Bel： 2°0, 1其中，Bel(A)成为事件A的信任值，它表示证据对A为真的 信任程度；空集的信任值为0。2020/5/

19、939虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering信任度函数2证据理论基础信任度函数表示对假设的信任程度的下限估 计。由信任度分配函数的定义容易得到：Bel(<D) = M()=0Bel(0)=工 M(B) =1比如果对于®中的任意两个子集A1zA2,满足:则称为弱信任度函数。2020/5/941虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering信任度函数2证据理

20、论基础例3：同例2,已知：m(Q=0, m(Al)=0.3, m(A2)=0, m(A3)=0.1m(Al, A2)=0.2, m(Al, A3)=0.2,m(A2, A3)=0.1, m(Al, A2, A3)=0.1求.Bel(Al)和 Bel(Al,A2)的信任度值.解：根据题意，可得Bel(Al) = m(Al)=0.3Bel(Al,A2)=m(Al)+m(A2)+m(Al,A2)=0.5.2020/5/943虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering信任度函数2证据理论基

21、础引理1:假设A是一个有限集合，则下式成丹=o蠶证明：令亠幺亠切 是一个有限的非空集 合，其中n为正整数，则有刃出牙刘引+ 牙引_a_ +(吩BZ2AZi<zj=o2020/5/9#仪器科学与光电工程学院/ School of Instrumentation Science and Opto-electronics Engineering2证据理论基础信任函数引理2.2:若A是有限集，且BuA ,则:2020/5/945仪器科学与光电工程学院/ School of Instrumentation Science and Opto-electronics Engineering2020/5

22、/9#仪器科学与光电工程学院/ School of Instrumentation Science and Opto-electronics Engineering证明:S (-D|c| =BuCuABc(BuD)cA2020/5/9#仪器科学与光电工程学院/ School of Instrumentation Science and Opto-electronics EngineeringY (_1)匹纠Du(A-B)=(-d|b| s(-1円Dc(A-B)根据引理2.1,可证。2020/5/9#虧仪器科学与光电工程学院School of Instrumentation Science an

23、d Opto-electronics Engineering似真度函数2证据理论基础定义3：似真度函数：设识别框架幕集2®->0J映射，A为 识别框架内的任一子集，似真度函数H(A)定义为对A的非假 信任度，即对A似乎可能成立的不确定性度Ac©,此时有：PZ(A)表示A为非假的信任程度，A的上限估计，且Be/(4) < PZ(A) ； Bel(A)表示对A为假的信任程度，即对A的怀疑程度。2020/5/947仪器科学与光电工程学院/ School of Instrumentation Science and Opto-electronics Engineerin

24、g2证据理论基础信任区间信任区间一一定义4：信任区间表示事件发生的下限估计到上限估计的范围, 即：B叫A), P/(A)称为命题A的信任区间，P/(A)-Be/(A) 描述了对A的不确定性，有时也称为不确定区间。区间的下限等于直接证据对命题的支持程度，即命 题的信任度；区间的上限等于潜在证据对命题的支持程度，即命题的似真度。0BelPl1支持区间.弋信任区间拒绝区斗证据区间划分示意图2证据理论基础信任区间例4：说说下列信任区间，对命题A表示的实际意 义：Bel(A), P1(A)意义0, 1对命题A无所知0, 0命题A为假1，1命题A为真0.5, 0.5对命题A的准确信任度为050.4, 1证

25、据提供对命题A的部分支持度0, 0.7证据对命题的部分支持度03, 0.9证据对命题A的信任区间为0.3-0.92证据理论基础证据函数总结 m(A)、Bel(A)和P1(A)的意义m(A)反映了对A本身的信任度大小Bel(A)是分配到A上的总信任度P1(A)是所有与A相容的命题本身的信任度之和2020/5/953仪器科学与光电工程学院/ School of Instrumentation Science and Opto-electronics Engineering课程内容引言证据理论基础证据理论研究现状未来研究方向2020/5/955O仪器科学与光电工程学院School of Instru

26、mentation Science and Opto-electronics Engineering3证据理论研究现状(1) 证据理论模型解释(2) 证据融合悖论(3) 证据组合算法实现(4) 证据理论的应用国内研究现状2020/5/932前仪器科学与光电工程学院/ School of Instrument朮ion Science and Opto-electronics Engineering3证据理论研究现状(1)证据理论模型的几种解释 上、下概率解释 广义贝叶斯理论解释 随机集理论模型解释 可传递信度模型解释3证据理论研究现状Dempster对证据理论模型解释上、下概率解释模型，认为置信

27、函数是概率的下界，似真函数是概率的 上界，Dempster正是通过这个概念创立了证据理论。广义贝叶斯理论模型，认为证据理论是贝叶斯理论的扩展，所有应用贝叶 斯概率推理方法的数据融合系统都可以用证据理论方法来替代。当BPA 函数的所有焦元都是单个假设集，且这些焦元都满足贝叶斯独立条件时, Dempster合成公式就退化为贝叶斯公式。随机集理论模型把证据的合成看作是随机条件事件的并（或交）。按照这种解释模型的观点，数据融合过程就相当于随机集的集合运算过程。以上三种解释模型的共同点都是以概率理论为基础。3证据理论研究现状Smets对证据理论模型解释Smets发现许多DS模型的研究者只看到了 BPA是

28、在识别框架的幕集上 的静态概率分布，都没有从研究DS模型的动态部分，即信度是如何更新 的，因此提出了一种不依赖任何概率理论的“可传递信度模型” (TBM) O这种模型的基本假设是证据不充分，以致不足以把信任度指派给识别 框架中的元素。从数据融合的角度来看，TBM模型在它是一种层次化的 递进模型，体现了数据融合系统的层次化描述特征，尤其适用于需要逐 层进行数据、特征或决策融合的数据融合系统。TBM模型理论和实际应 用上都很有价值。3证据理论研究现状(2)证据融合悖论在证据理论的实际应用中，常常会面临各种不确定的冲突 信息，而当参与合成的证据间具有较大的不一致性或冲突时， 证据合成方法就不能使用，

29、若使用会得出与事实相悖的结果。 这一局限性成为制约证据理论进一步推广的主要问题，所以基 于冲突证据的合成方法的研究和改进是一个亟待解决的问题。 为了解决冲突证据的合成问题，不少学者对冲突证据的合成方 法进行了研究，并提出了许多解决方法。3证据理论研究现状（3）证据算法的实现目前证据算法实现主要有以下三种途径:1）针对特殊的证据组织结构，构造相应 的快速算法2）近似计算3）修改D-S合成公式法3证据理论研究现状1）快速算法构造Shafer*给出在层次情况下精确实现Dempster 合成规则的算法。Barnett针对一类简单的证据结构提出了一个 快速实现D-S的算法；为达到简化计算量的目的，Pea

30、rl在层次假设 空间中使用了一种贝叶斯形式的推理算法；2020/5/937虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering3证据理论研究现状2）近似计算近似计算方法的思路是通过减少置信函数的焦元个数来简化计算。Voorbraak提出了一种置信函数的贝叶斯近似算法，他研究证明：如 果置信任函数的合成将产生一个贝叶斯信任函数，即一个识别框架 上的概率测度，则信任函数用他们的贝叶斯近似来代替，将不会影 响Dempster合成规则的结果。Voorbraak证明了在一般的情况下，置信函数的贝叶斯近

31、似的合成等 于这些置信函数的合成的贝叶斯近似，大大简化了计算量。2020/5/939虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering3证据理论研究现状Dubois （迪布瓦）提出了一致近似性算法，该方法的特点是通过近 似计算后的焦元是嵌套的，并且焦元的个数不超过识别框架中的假设个 数。Tessem （特塞姆）提岀了（k,l,x）近似算法，k表示保留的焦元个数,1保 留的焦点元素最多个数，X表示允许被删除的最大mass值，x通常在0,0.1 上取值。Simard （西马德）提出了一种称为T

32、DS算法，主要思想为：首先给出要保留的焦点元素的最大个数、上限BPA和下限BPA,然后判断BPA的数值的大小以决定其对应的焦点元素是否应该保留。2020/5/941虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering3证据理论研究现状3）修改D-S方法修改D-S方法主要是指Mahler提出的条件化证据理论， 它是一种在先验知识可能是非贝叶斯的情况下，处理证据的 概率计算。Ishizuka等人结合了 D-S方法和模糊集理论的优点 来表示和处理不确定的和模糊的信息，通过定义模糊集合的 包含度和相

33、关度来实现这个目的，并将置信函数重新定义， 给出了包含度的定义并相应地修正了 Dempster合成公式。2020/5/9#虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronics Engineering3证据理论研究现状(4)证据理论的应用证据理论为不确定信息的表达和合成提供了强有力的方法，使得它 在数据融合领域得到了广泛的应用。在军事方面，如目标检测、识别、 跟踪和态势评估与决策分析；在非军事方面，如故障诊断、数字图像处 理、经济决策、网络入侵检测、机器人导航等。随着证据理论的发展，它的应用也越来越广。目前，证据理论在信 息融合，风险评估功伪、专家系统、企业诊断、模式识别、决策分析等 方面均有成功的应用。2020/5/943虧仪器科学与光电工程学院School of Instrumentation Science and Opto-electronic