模糊模式识别.ppt

1 主要内容 1 引言2 模糊集的基本知识3 模糊特征和模糊分类4 特征的模糊评价5 模糊聚类方法6 模糊k近邻分类器 2 1 引言 3 1965年 Zadeh提出了著名的模糊集理论 创建了一个新的学科 模糊数学 L A Zadeh FuzzySets InformationandControl Vol 8 1965 338 353 模糊集理论是对传统集合理论的一种推广在传统集合理论中 一个元素或者属于一个集合 或者不属于一个集合 对于模糊集而言 每一个元素都是以一定的程度隶属于某个集合 也可以同时以不同的程度属于几个集合 现实生活中大量使用的一些含义确定但又不准确的语言表述 比如 今天天气很热 车速很高 等 模糊数学能够较好地表达 引言 4 模糊数学的几种不同名称模糊集 它是相对于经典的集合理论而言的 模糊逻辑 它是相对于传统的 是或者不是 而言的 模糊数学是一种更广泛的叫法 更倾向于指从数学角度对模糊集和模糊逻辑的研究 从应用的角度 很多人习惯于用模糊系统的称法 用来指采用了模糊数学思想和理论的方法或系统 而其中采用的一些技术往往称为模糊技术或模糊方法 模糊数学名词本身也具有很大的模糊性 但其实质都是基本相同的 因此这里不去严格区分这些说法 引言 5 模糊数学的应用将模糊技术应用于各个不同领域 产生了一些新的学科分支和人工神经网络相结合 产生了模糊神经网络 应用到自动控制中 产生了模糊控制技术和系统 并得到了很好的效果 地铁模糊控制系统 洗衣机 电饭锅的模糊控制等 应用到模式识别领域 产生了模糊模式识别 引言 6 模糊模式识别的形成模式识别从一开始就是模糊技术应用研究的一个活跃领域人们针对一些模糊式识别问题设计了相应的模糊模式识别系统 对传统模式识别的一些方法 人们用模糊数学对它们进行了改进 模糊技术在模式识别中的研究与应用逐渐形成了模糊模式识别这一新的学科分支 引言 7 Zadehwasborn February4 1921 inBaku AzerbaijanSSR toanIranianAzerifatherfromArdabil RahimAleskerzade whowasajournalistonassignmentfromIran andaRussianJewishmother FanyaKoriman whowasapediatrician WhenZadehwastenyearsold hisfamilymovedtoIran hisfather shomeland ZadehgrewupinIran andstudiedatAlborzHighSchool Afterhighschool hesatforthenationaluniversityexamsandplacedsecondintheentirecountry In1942 hegraduatedfromtheUniversityofTehranwithadegreeinelectricalengineering Fanni andmovedtotheUnitedStatesin1944 HereceivedanMSdegreeinelectricalengineeringfromMITin1946 andaPhDinelectricalengineeringfromColumbiaUniversityin1949 ZadehtaughtfortenyearsatColumbiaUniversity waspromotedtoFullProfessorin1957 andhastaughtattheUniversityofCalifornia Berkeleysince1959 Hepublishedhisseminalworkonfuzzysetsin1965 inwhichhedetailedthemathematicsoffuzzysettheory In1973heproposedhistheoryoffuzzylogic LotfiA Zadeh 8 2 模糊集的基本知识 9 1 模糊集合的定义 模糊集基础知识 10 模糊集基础知识 11 例 模糊集基础知识 12 类似 模糊集基础知识 13 注记 普通集合是模糊集的特例 特征函数即为隶属函数 空集 的隶属函数为 全集 的隶属函数为 模糊集的定义与上下文有关 模糊集基础知识 14 例如 去掉0 10 15 模糊集合如果模糊集中的元素可以用一个标量x来表征 则隶属度函数 A x 就是x的一个单变量函数 例 用水温表示 开水 这个概念 模糊集基础知识 16 模糊集合在上例中如果用确定集合表示 则 开水 的定义是水温为100摄氏度的水 图a 或者标准放宽一些为水温在80 100摄氏度之间的水 图b 如果用模糊集表示 则可用隶属度函数在表征水开得程度 图c 模糊集表示更接近于我们日常的理解 模糊集基础知识 17 模糊集合模糊集通常可以用来表示某种人为的概念 比如上面提到的 开水 即用数学形式来表达人们的语言变量 因此隶属度函数需要人为定义 一些常见的单变量隶属度函数的形式包括斜台阶型 三角型 梯型 高斯函数型等 MATLABFuzzyLogicToolbox dsigmfgauss2mfgaussmfgbellmfpimfpsigmfsigmfsmftrapmftrimfzmf 18 模糊集的例子 例论域E 1 2 3 4 5 用模糊集表示 大 和 小 解 设A B分别表示 大 与 小 的模糊集 A B分别为相应的隶属函数 A 0 0 0 1 0 6 1 B 1 0 5 0 01 0 0 其中 A 1 0 A 2 0 A 3 0 1 A 4 0 6 A 5 1 B 1 1 B 2 0 5 B 3 0 01 B 4 0 B 5 0 模糊集基础知识 19 例 在论域E中确定一个模糊子集A 它表示 圆块 这一模糊概念 如下图 E a b c d e f a 1 b 0 9 c 0 4 d 0 2 e f 0 模糊集基础知识 20 S 型隶属度函数 Zadeh 1975 b a c 2 21 型隶属度函数c a a 2 b a c 2 b c a 2 22 2 模糊集的集运算 A的余定义为 23 例子 求 24 25 26 几个概念 支集 高度 核 正规模糊集 例如 27 3 模糊特征和模糊分类 28 模糊化特征模糊模式识别就是在解决模式识别问题时 引进模糊逻辑的方法或思想 模糊特征是指根据一定的模糊化规则 通常根据具体应用领域的专门知识人为确定或经过计算确定 把原来的一个或几个特征变量分成多个模糊变量 使每个模糊变量表达原特征的某一局部特征 用这些新的模糊特征代替原来的特征 进行模式识别 特征的模糊化 29 模糊化特征例子 在某个问题中 人的体重本来一个特征使用 现在根据需要可以把体重特征分为 偏轻 中等 和 偏重 三个模糊特征 每个模糊特征的取值实际上是一个新的连续变量 它们表示的不再是体重的数值 而是关于这个体重的描述 即分别属于 偏轻 中等 和 偏重 的程度 特征的模糊化 30 模糊化特征把原来的一个特征变为若干个模糊特征的目的在于使新特征更好地反映问题的本质 在很多情况下 用一个特征 比如体重 参与分类 例如判断是否患有某种可能导致体重变化的疾病 正确分类结果与该特征之间可能是复杂的非线性关系 如果能根据有关知识适当地提取模糊特征 虽然特征数可能增多 但却可能使分类结果与特征之间的关系线性化 从而大大简化后面分类器的设计 提高分类器的性能 如果我们对所提取的特征与要研究的分类问题之间的关系有一定的先验知识 则采用这种方法往往能取得良好的效果 特征的模糊化 31 结果的模糊化模式识别中的分类就是把样本空间 或样本集 分成若干个子集 我们可以用模糊子集的概念来代替确定子集 从而得到模糊的分类结果 或者说使分类结果模糊化 结果的模糊化 32 结果的模糊化在模糊化的分类结果中 一个样本将不再属于每个确定的类别 而是以不同的程度属于各个类别 这种结果与原来确定的分类结果相比有两个显著优点在分类结果中可以反映出分类的不确定性 有利于用户根据结果进行决策 如果分类是多极的 即本系统的分类结果将与其它系统的分类结果一起作为下一级分类决策的依据 则模糊化的分类结果通常更有利于下一级的分类 因为模糊化的分类结果比明确的分类结果中包含更多的信息 结果的模糊化 33 结果的模糊化 使分类器输出不是硬分类 而是给出属于各类的程度 优点 1 更好表达分类结果中的不确定性因素 利于根据结果进行决策 2 利于后期进一步处理和分析 结果模糊化的方法 结合知识和所用分类器确定 如 依据样本离类别中心的距离 离分类面的距离 与已知样本或类别中心之间相似性度量 神经网络输出值的大小等等 34 4 特征的模糊评价 35 基本概念 模糊度 熵 度 用于考查一个模糊集的模糊程度 模糊程度的度量 模糊度 模糊集A的模糊度是用它与最接近的确定集合之间的距离来度量 k 1 汉明距离 线性模糊度 k 2 欧式距离 二次模糊度 36 例 设U u1 u2 u3 u4 A 0 8 u1 0 9 u2 0 1 u3 0 6 u4求A的模糊度 37 解 1 海明模糊度d A 2 4 0 8 1 0 9 1 0 1 0 0 6 1 0 2 0 1 0 1 0 4 2 0 4 38 2 欧几里德 Euclid 模糊度 0 47 39 熵 根据信息理论 熵表示了物体的不确定性程度 模糊集的不确定程度可以用模糊集A的熵来定义 模糊度和熵的性质 40 用标准S函数计算模糊度和熵 41 用 函数计算模糊度和熵 42 模糊集A的 度 用 函数计算 度 43 综合评价指标 基于 型隶属度函数的模糊度或熵 度 或基于S 型MF的模糊度或者熵 指标越小 该特征对于这两类分类的性能越好 c类情景 44 5 模糊聚类方法 45 模糊C均值方法 FCM C均值算法 46 模糊C均值 47 模糊C均值 48 模糊C均值 模糊C均值算法 49 改进的模糊C均值算法 模糊C均值算法的一个缺点 50 改进的模糊C均值算法 51 改进的模糊C均值算法 AFC有更好的鲁棒 且对给定的聚类数目不十分敏感 但有时可能会出现一个类中只包含一个样本的情况 可通过在距离计算中引入非线性 使之不会小于革值来改进 AFC FCM与C均值一样 依赖于初值 实验效果举例例一 类别重迭及类别不明显情况 C圴值 FCMO AFC 52 改进的模糊C均值算法 正确聚类 C 4 CM聚类 C 3 FCM聚类 C 3 AFC聚类 C 3 例二 给定类别数与实际类别数不一致的情况 53 改进的模糊C均值算法改进的模糊C均值算法较前面提到的模糊C均值算法具有更好的鲁棒性 它不但可以在有孤立样本存在的情况下得到较好的聚类效果 而且可以放松隶属度条件 而且因为放松了隶属度条件 使最终聚类结果对预先确定的聚类数目不十分敏感 与确定性C均值算法和模糊C均值算法一样 改进的模糊C均值算法仍然对聚类中心的初值十分敏感 为了得到较好的结果 可以用确定性C均值算法或模糊C均值算法的结果作为初值 改进的模糊C均值算法 54 6 模糊k近邻分类器 55 基本概念 k近邻的一个问题 当样本较稀疏时 只考虑样本近邻顺序而不考虑距离远近是不适当的 模糊k近邻 56 模糊集理论是为了表达人的自然语言和推理中的不确定方面而提出的 因此其应用中往往不可避免地带有一定的主观因素 比如隶属度函数的选取 模糊推理规则等 也正因为如此 它能够比较好地把人们的先验知识和常识加到一个智能系统中 虽然人们也试图用传统概率论来描述模糊理论 指出它在本质上与传统的概率论是一致的 但是至少从工程应用的角度看 模糊技术仍有它十分重要的优势 概率意义上的不确定性和模糊概率意义上的不确定性的含义还是有区别的 讨论 57 模糊集理论从一开始就和推理系统结合得更紧密 因此在模式识别中 模糊技术在句法模式识别中的应用也非常活跃 在诸如决策树这种推理性质的模式识别系统中 模糊逻辑也得到了很好的应用 讨论 58 最大隶属原则 个体识别的方法 其他一些问题 59 例 三角形识别 近似直角三角形 近似等腰三角形 近似等边三角形 非典型三角形 60 61 择近原则 群体识别问题 以下先介绍两种度量模糊集间的接近程度的量 第二类模糊识别问题 群体识别 62 一 距离 定义 明可夫斯基距离 63 当p 1时