北航多源信息融合20157证据理论基础

万江文 多源测试信息融合证据理论基础 1 2020 4 23 2 主要内容 引言证据理论基础证据理论研究现状未来研究方向 2020 4 23 3 主要内容 引言证据理论基础证据理论研究现状未来研究方向 2020 4 23 4 1引言 主观贝叶斯理论的缺点 1 要求概率 各证据之间 都是独立的 2 要求先验概率P Oi 和条件概率P Dj Oi 3 要求统一的识别框架 不能实现不同层次的组合 4 不能区分 不确定 和 不知道 2020 4 23 5 1引言 不确定性分类不确定性可以分为随机性 模糊性和认识不确定性三种 随机性 在自然界中客观存在 可根据历史资料得到的统计数字来描述 常用概率论和数理统计来解决这方面问题 模糊性 通常指发生在概念上的模糊 如大 中 小界限的模糊等 模糊理论是处理此问题的有力工具 认识的不确定性 是由于人们认识水平的局限以及知识缺乏所造成的 随机性和模糊性是客观的不确定性 认识的不确定性是主观的不确定性 2020 4 23 6 1引言 概率的解释证据理论出现以前 概率的解释主要有客观解释 个人主义解释及必要性解释 客观解释概率 认为概率描述了一个可以重复出现事件的客观事实 用试验次数趋于无穷时 该事件发生的频率的极限来刻划 个人主义解释 认为概率反映了个人的某种偏好 它根据某个人在赌博中或其他带有不确定性结果的事件中所表现出来的行为来推算 2020 4 23 7 1引言 必要性解释 则认为概率是测量一个命题推出另一个命题程度的量 这个量由两个命题之间的逻辑关系完全决定 与个人的偏好无任何关系 又称为逻辑主义解释 Shafer指出以上三种概率的解释都没有涉及概率推断的构造特征 因此 Shafer提出了对概率的第四种解释 构造性解释 概率是指某人在证据的基础上构造出的他对某一命题为真的信任程度 简称信度 2020 4 23 8 主要内容 引言证据理论基础证据理论研究现状未来研究方向 2020 4 23 9 4 2证据理论基础 证据理论的起源证据理论源于20世纪60年代美国哈弗大学的数学家A P Dempster利用上 下概率来解决多值映射问题方面的研究工作 后来他的学生G Shafer对证据理论做了进一步的发展和推广完善 引入了信任函数概念 形成了一套利用证据和组合来处理不确定性推理问题的数学方法 它作为一种不确定性推理方法 正受到越来越多的关注 称为 D S 证据理论和信任函数理论 2020 4 23 10 2证据理论基础 1 识别框架假设现有一个判决问题 对于该问题我们所能认识到的所有可能答案的集合用 表示 且 中的所有元素都满足两两互斥 任一时刻的问题答案只能取 中的某一子集 答案可以是数值变量 也可以是非数值变量 则称此互不相容命题的完备集合 为识别框架 可表示为 2 1 其中 i为识别框架的一个元素或事件 2020 4 23 11 2证据理论基础 1 识别框架 续1 集合 的选取问题 识别框架的选取集合 的选取依赖于我们的认识水平和知识结构 包含我们所知道的和想要知道的 当一个命题对应于该识别框架的一个子集时 称该框架能够识别该命题 否则认为识别框架是无效的 因此 的选取应当足够的丰富 使我们所考虑的任何特定的命题集都可以对应于 的某一集类R R 称为命题空间 当 中含有N个元素时 R中最多有2N个子集 需要说明的是 集合 可以为有限集也可以为无限集 本课程只讨论有限集 2020 4 23 12 2证据理论基础 1 识别框架 续2 由识别框架中所有子集构成的一个有限集合称为 的幂集合 记作 2 2 其中 表示空集 识别框架的任一子集A都对应于一个命题 一般可描述为 问题的答案在A中 2020 4 23 13 2证据理论基础 例1 以掷骰子为例 要判断其可能所出现的点数 则识别框架 1 2 3 4 5 6 而 1 则表示 掷出的点数为1 则 2 4 6 表示 掷出的点数为偶数 1 2 3 4 5 则表示 掷出的点数不为6 即 掷出的点数为1 2 3 4 5中的某一个 由此可见 幂集合中的每一个子集A都代表一个命题 2020 4 23 14 2证据理论基础 证据理论是建立在识别框架基础上的推理模型 其基本思路如下 a 建立识别框架 利用集合论方法来研究命题 b 建立初始信任分配 根据证据提供的信息 分配证据对每一集合 命题 A本身的支持程度 该支持程度不能再细分给A的真子集 c 根据因果关系 计算所有命题的信任度 一个命题的信任度等于证据对它的所有前提的初始信任度之和 这是因为 若证据支持一个命题 则他同样支持该命题的推论 d 证据合成 利用证据理论合成公式融合多个证据提供的信息 得到各命题融合后的信任度 e 根据融合后的信任度进行决策 一般选择信任度最大的命题 2020 4 23 15 2证据理论基础 证据函数 2 证据函数证据是整个证据理论的核心 证据函数又是描述证据的有力工具 下面将详细介绍证据理论中几个证据函数的基本概念及相关定理 基本置信度指派函数 信任度函数 似真度函数等 2020 4 23 16 2证据理论基础 基本置信度指派函数 定义1 设 为一识别框架 函数m是2 0 1 的映射 A为2 任一子集 记作 且满足 2 3 则称m是2 上的基本置信度分配函数 也称为质量函数或mass函数 m A 为命题A的基本置信度指派值 表示证据对A的信任程度 空集 的基本信任分配值为0 2020 4 23 17 2证据理论基础 基本置信度指派函数 基本置信度指派函数相关的几个定义 1 对于识别框架的任一子集A 只要满足m A 0 则称A为证据的焦元 证据的焦元和它的基本置信度指派构成的二元体 A m A 称为证据体 证据是由若干证据体组成 2020 4 23 18 2证据理论基础 基本置信度指派函数 基本置信度指派函数相关的几个定义 2 焦元中所包含识别框架中的元素个数称为该焦元的基 记作 A 当子集A中只包含一个元素时 即 A 1 称为单元素焦元 当子集A中包含i个元素时 即 A i 称为i元素焦元 全体焦元的集合称为证据的核 核就是识别框架的幂集2 吗 2020 4 23 19 2证据理论基础 基本置信度指派函数 基本置信度指派函数的作用把 的任一子集都映射到 0 1 上的一个数m A 1 当A由单个元素组成时 m A 表示对相应命题A的精确信任度 2 当 A 且A由多个元素组成时 m A 也是相应命题A的精确信任程度 但却不知道这部分信任度该分给A中的哪些元素 3 当A 时 m A 是对 的各个子集进行信任分配后剩下的部分 它表示不知道该如何对它进行分配 2020 4 23 20 2证据理论基础 基本置信度指派函数 例2 泄漏诊断时 设识别框架 A1 A2 A3 A1表示 发生大泄漏 A2表示 发生小泄漏 A3表示无泄漏 基本置信度指派分别为m 0 m A1 0 3 m A2 0 m A3 0 1m A1 A2 0 2 m A1 A3 0 2 m A2 A3 0 1 m A1 A2 A3 0 1 返例3 2020 4 23 21 2证据理论基础 基本置信度指派函数 当A A1 时 m A 0 3 它表示对命题 答案是大泄漏 的精确信任度为0 3 当A A1 A2 时 m A 0 2 它表示对命题 答案或是大泄漏 或是小泄漏 的精确信任度为0 2 但却不知道该把这0 2分给 大泄漏 还是分给 小泄漏 当A A1 A2 A3 时 m A 0 1 它表示不知道该把它如何分配 它不属于 A1 就属于 A2 或 A3 只是基于现有的知识 还不知道该如何进行分配 2020 4 23 22 2证据理论基础 信任度函数 定义2 信任度函数 集合A是识别框架 的任一子集 A中全部子集对应的基本置信度之和称为信任函数Bel A 即Bel 2 0 1 其中 Bel A 成为事件A的信任值 它表示证据对A为真的信任程度 空集的信任值为0 2020 4 23 23 2证据理论基础 信任度函数 信任度函数表示对假设的信任程度的下限估计 由信任度分配函数的定义容易得到 如果对于 中的任意两个子集A1 A2 满足 则称为弱信任度函数 2020 4 23 24 2证据理论基础 信任度函数 例3 同例2 已知 m 0 m A1 0 3 m A2 0 m A3 0 1m A1 A2 0 2 m A1 A3 0 2 m A2 A3 0 1 m A1 A2 A3 0 1求 Bel A1 和Bel A1 A2 的信任度值 解 根据题意 可得Bel A1 m A1 0 3Bel A1 A2 m A1 m A2 m A1 A2 0 5 2020 4 23 25 2证据理论基础 信任度函数 引理1 假设A是一个有限集合 则下式成立证明 令是一个有限的非空集合 其中n为正整数 则有 2020 4 23 26 2证据理论基础 信任函数 引理2 2 若A是有限集 且 则 证明 根据引理2 1 可证 2020 4 23 27 2证据理论基础 似真度函数 定义3 似真度函数 设识别框架 幂集2 0 1 映射 A为识别框架内的任一子集 似真度函数Pl A 定义为对A的非假信任度 即对A似乎可能成立的不确定性度 此时有 Pl A 表示A为非假的信任程度 A的上限估计 且Bel A Pl A Bel 表示对A为假的信任程度 即对A的怀疑程度 2020 4 23 28 2证据理论基础 信任区间 信任区间 定义4 信任区间表示事件发生的下限估计到上限估计的范围 即 Bel A Pl A 称为命题A的信任区间 Pl A Bel A 描述了对A的不确定性 有时也称为不确定区间 区间的下限等于直接证据对命题的支持程度 即命题的信任度 区间的上限等于潜在证据对命题的支持程度 即命题的似真度 证据区间划分示意图 2020 4 23 29 2证据理论基础 信任区间 例4 说说下列信任区间 对命题A表示的实际意义 2020 4 23 30 2证据理论基础 证据函数总结 m A Bel A 和Pl A 的意义m A 反映了对A本身的信任度大小Bel A 是分配到A上的总信任度Pl A 是所有与A相容的命题本身的信任度之和 2020 4 23 31 课程内容 引言证据理论基础证据理论研究现状未来研究方向 2020 4 23 32 3证据理论研究现状 1 证据理论模型解释 2 证据融合悖论 3 证据组合算法实现 4 证据理论的应用 5 国内研究现状 2020 4 23 33 3证据理论研究现状 1 证据理论模型的几种解释上 下概率解释广义贝叶斯理论解释随机集理论模型解释可传递信度模型解释 2020 4 23 34 3证据理论研究现状 Dempster对证据理论模型解释上 下概率解释模型 认为置信函数是概率的下界 似真函数是概率的上界 Dempster正是通过这个概念创立了证据理论 广义贝叶斯理论模型 认为证据理论是贝叶斯理论的扩展 所有应用贝叶斯概率推理方法的数据融合系统都可以用证据理论方法来替代 当BPA函数的所有焦元都是单个假设集 且这些焦元都满足贝叶斯独立条件时 Dempster合成公式就退化为贝叶斯公式 随机集理论模型把证据的合成看作是随机条件事件的并 或交 按照这种解释模型的观点 数据融合过程就相当于随机集的集合运算过程 以上三种解释模型的共同点都是以概率理论为基础 2020 4 23 35 3证据理论研究现状 Smets对证据理论模型解释Smets发现许多DS模型的研究者只看到了BPA是在识别框架的幂集上的静态概率分布 都没有从研究DS模型的动态部分 即信度是如何更新的 因此提出了一种不依赖任何概率理论的 可传递信度模型 TBM 这种模型的基本假设是证据不充分 以致不足以把信任度指派给识别框架中的元素 从数据融合的角度来看 TBM模型在它是一种层次化的递进模型 体现了数据融合系统的层次化描述特征 尤其适用于需要逐层进行数据 特征或决策融合的数据融合系统 TBM模型理论和实际应用上都很有价值 2020 4 23 36 3证据理论研究现状 2 证据融合悖论在证据理论的实际应用中 常常会面临各种不确定的冲突信息 而当参与合成的证据间具有较大的不一致性或冲突时 证据合成方法就不能使用 若使用会得出与事实相悖的结果 这一局限性成为制约证据理论进一步推广的主要问题 所以基于冲突证据的合成方法的研究和改进是一个亟待解决的问题 为了解决冲突证据的合成问题 不少学者对冲突证据的合成方法进行了研究 并提出了许多解决方法 2020 4 23 37 3证据理论研究现状 3 证据算法的实现目前证据算法实现主要有以下三种途径 1 针对特殊的证据组织结构 构造相应的快速算法2 近似计算3 修改D S合成公式法 2020 4 23 38 3证据理论研究现状 1 快速算法构造Shafer给出在层次情况下精确实现Dempster合成规则的算法 Barnett针对一类简单的证据结构提出了一个快速实现D S的算法 为达到简化计算量的目的 Pearl在层次假设空间中使用了一种贝叶斯形式的推理算法 2020 4 23 39 3证据理论研究现状 2 近似计算近似计算方法的思路是通过减少置信函数的焦元个数来简化计算 Voorbraak提出了一种置信函数的贝叶斯近似算法 他研究证明 如果置信任函数的合成将产生一个贝叶斯信任函数 即一个识别框架上的概率测度 则信任函数用他们的贝叶斯近似来代替 将不会影响Dempster合成规则的结果 Voorbraak证明了在一般的情况下 置信函数的贝叶斯近似的合成等于这些置信函数的合成的贝叶斯近似 大大简化了计算量 2020 4 23 40 3证据理论研究现状 Dubois 迪布瓦 提出了一致近似性算法 该方法的特点是通过近似计算后的焦元是嵌套的 并且焦元的个数不超过识别框架中的假设个数 Tessem 特塞姆 提出了 k l x 近似算法 k表示保留的焦元个数 l保留的焦点元素最多个数 x表示允许被删除的最大mass值 x通常在 0 0 1 上取值 Simard 西马德 提出了一种称为TDS算法 主要思想为 首先给出要保留的焦点元素的最大个数 上限BPA和下限BPA 然后判断BPA的数值的大小以决定其对应的焦点元素是否应该保留 2020 4 23 41 3证据理论研究现状 3 修改D S方法修改D S方法主要是指Mahler提出的条件化证据理论 它是一种在先验知识可能是非贝叶斯的情况下 处理证据的概率计算 Ishizuka等人结合了D S方法和模糊集理论的优点来表示和处理不确定的和模糊的信息 通过定义模糊集合的包含度和相关度来实现这个目的 并将置信函数重新定义 给出了包含度的定义并相应地修正了Dempster合成公式 2020 4 23 42 3证据理论研究现状 4 证据理论的应用证据理论为不确定信息的表达和合成提供了强有力的方法 使得它在数据融合领域得到了广泛的应用 在军事方面 如目标检测 识别 跟踪和态势评估与决策分析 在非军事方面 如故障诊断 数字图像处理 经济决策 网络入侵检测 机器人导航等 随着证据理论的发展 它的应用也越来越广 目前 证据理论在信息融合 风险评估功伪 专家系统 企业诊断 模式识别 决策分析等方面均有成功的应用 2020 4 23 43 3证据理论研究现状 5 国内研究状况近十几年来 证据理论在我国也有了一定的发展 国内许多学者在理论和应用方面做了大量工作 发表了一些研究论文 段新