（应用数学专业论文）在α水平下模糊规则熵的描述.pdf

中文摘要 摘要 模糊系统的构建与优化一直是模糊理论研究中的一个重要课题。目前，虽然 已经有很多关于模糊系统优化的研究与方法，但又都存在一定的局限性和不足。 模糊系统的构建与优化，实质就是对模糊规则的构建与优化。本文从作为模糊规 则模糊不确定性的度量模糊规则熵的角度，提出了一种模糊规则分类与评价的新 方法，从而实现了对模糊系统的构建与优化。本文的主要研究工作如下： 1 、提出了模糊知识系统的定义，并给出模糊知识系统下模糊原子公式及模糊 决策逻辑公式的定义。在模糊知识系统的基础上描述了优水平下模糊规则信息熵 的定义，作为模糊规则模糊不确定性的度量。 2 、给出了a 水平下单输入单输出模糊规则信息熵的定义及其性质。根据模糊 规则信息熵提出了一种模糊规则分类与评价的新方法，将模糊规则划分为口水平 下的必然性规则、可能性规则和不合理规则。利用模糊规则熵的方法可以把合理 的、有效的规则即必然性规则和可能性规则筛选出来，同时将不合理的、无效的 规则即不合理规则剔除出去，实现了对模糊规则库的构建与优化，从而实现了模 糊知识系统的构建与优化。最后通过实例验证了这种方法的有效性和可行性。 3 、将单输入单输出模糊规则信息熵的研究类似的推广到多输入多输出模糊规 则。给出了口水平下多输入单输出及单输入多输出模糊规则信息熵的定义，并对 其性质及模糊规则的分类进行了讨论。 关键词：模糊知识系统；模糊逻辑公式；口水平下的模糊规则信息熵；分类与优 化 英文摘要 a b s t r a c t i ti sav e r yi m p o r t a n tt a s kt oc o n s t r u c ta n do p t i m i z ef lf u z z ys y s t e mi nf u z z yt h e o r y s of a r ，t h e r ea r em a n yr e l a t e dr e s e a r c hr e s u l t s h o w e v e r , t h e r ea r es o m es h o r t c o m i n g a n dl i m k a t b n u s u a l l y , t h eo p t i m i z a t i o no ff u z z ys y s t e m si st h eo p t i m i z a t i o no ff u z z y r u l e s i nt h i sp a p e rw ep r o p o s e dan e wm e t h o dt oc l a s s i f ya n de v a l u a t ef u z z yr u l e s t h i s m e t h o di sd e r i v e df r o mt h ev i e w p oi n to ff u z z yr u l ee n t r o p yw h i c hi st h em e a s u r e m e n t o fu n c e r t a i n t yo ff u z z yr u l e i ti san e wm e t h o do fb u i l d i n ga n do p t i m i z i n gf u z z ys y s t e - m s t h em a i nc o n t r i b u t i o n so f t h ep a p e ri n v o l v et h ef o l l o w i n gt h r e ea s p e c t s 1 、t h ed e f i n i t i o no ff u z z yk n o w l e d g es y s t e mi sp r o p o s e d i nt h em e a n w h i l e ，t h e d e f i n i t i o n so ff u z z ya t o m i cf o r m u l aa n df u z z yl o g i cf o r m u l aa r eg i v e n b a s e do nt h e f u z z yk n o w l e d g es y s t e m s ，t h ei n f o r m a t i o ne n t r o p yo ff u z z yr u l ei sd e s c r i b e dw h i c h i sf l m e a s u r e m e n to fu n c e r t a i n t yo ff u z z yr u l e 2 、t h ed e f i n i t i o n sa n ds o m ep r o p e r t i e so f t h ei n f o r m a t i o ne n t r o p yo fs i s o ( s i n g l e i n p u ts i n g l eo u t p u t ) f u z z yr u l e su n d e rt h e a - l e v e la r ed i s c u s s e d an e wm e t h o dt oc l a s s i f ya n do p t i m i z ef u z z yr u l e si sp r o p o s e d t h i sm e t h o dc l a s s i f i e st h ef u z z yr u l e si n t ot h r - e ek i n d s ：c e r t a i n t yr u l e ，p o s s i b i l i t yr u l e ，a n di r r a t i o n a lr u l eu n d e rt h ea - l e v e l b yt h e m e t h o do ff u z z yr u l ei n f o r m a t i o ne n t r o p y , i ti se a s yt oc h o o s et h er a t i o n a la n dv a l i d r u l e st h a ta r ec e r t a i n t ya n dp o s s i b i l i t yf u z z yr u l e s ；e l i m i n a t et h ei r r a t i o n a la n di n v a l i d r u l e st h a ta r ei r r a t i o n a lr u l e s t h e r e f o r e ，i ti saq u a n t i t a t i v ea n de f f e c t i v em e t h o do f c o n s t r u c t i n gr a t i o n a lr u l e sa n do p t i m i z i n gt h ef u z z yk n o w l e d g es y s t e m s f i n a l l y ，t h e e f f e c t i v e n e s sa n df e a s i b i l i t yo f t h em e t h o dr e f e r r e dt oa r ep r o v e db ya ne x a m p l e 3 、t h er e s u l t sa b o u ts i s of u z z yr u l e sa r ee x p a n d e di n t om i m o ( m u l t i i n p u tm u l t i o u t p u t ) r u l e s t h ed e f i n i t i o n so fi n f o r m a t i o ne n t r o p yo fm i s oa n ds i m of u z z yr u l e s a r ep r o p o s e d t h ep r o p e r t i e so ft h ed e f i n i t i o n sa n dc l a s s i f i c a t i o no fm i s oa n ds i m o f u z z yr u l e sa r ed i s c u s s e d k e yw o r d s ：f u z z yk n o w l e d g es y s t e m s ；f u z z yl o g i cf o r m u l a e ；i n f o r m a t i o ne n t r o p y o ff u z z yr u l e su n d e rt h ea l e v e l ；c l a s s i f i c a t i o na n do p t i m i z a t i o n 大连海事大学学位论文原创性声明和使用授权说明 原创性声明 本人郑重声明：本论文是在导师的指导下，独立进行研究工作所取得的成果， 撰写成硕士学位论文丑a 盔垩王槿塑趣则缝的描述：。除论文中已经注明引 用的内容外，对论文的研究做出重要贡献的个人和集体，均已在文中以明确方式 标明。本论文中不包含任何未加明确注明的其他个人或集体已经公开发表或未公 开发表的成果。本声明的法律责任由本人承担。 学位论文作者签名：礁璺碰 学位论文版权使用授权书 本学位论文作者及指导教师完全了解大连海事大学有关保留、使用研究生学 位论文的规定，即：大连海事大学有权保留并向国家有关部门或机构送交学位论 文的复印件和电子版，允许论文被查阅和借阅。本人授权大连海事大学可以将本 学位论文的全部或部分内容编入有关数据库进行检索，也可采用影印、缩印或扫 描等复制手段保存和汇编学位论文。同意将本学位论文收录到中国优秀博硕士 学位论文全文数据库( 中国学术期刊( 光盘版) 电子杂志社) 、中国学位论 文全文数据库( 中国科学技术信息研究所) 等数据库中，并以电子出版物形式 出版发行和提供信息服务。保密的论文在解密后遵守此规定。 本学位论文属于：保密口在年解密后适用本授权书。 不保密回( 请在以上方框内打“”) 论文作者签名：障啦韦导师签名：1 笔确j 日期：二矽年多月多口1 日 在口水平下模糊规则熵的描述 第1 章绪论 1 。1 研究的目的与意义 自从美国著名控制论专家z a d e h 1 】教授于1 9 6 5 年发表模糊集合一文标志模糊 数学建立以来，这门新的学科在这4 0 多年来从理论到应用都取得了迅速的发展。近年 来，基于模糊系统的研究已经成为学术界的研究重点，模糊系统广泛应用于各个领域， 从控制、信号处理、通信、集成电路制造到商业专家系统、医药、行为科学等口1 。因此， 如何设计出一个具有某些良好特性的模糊系统就成为人们研究的一个重要课题之一。 模糊系统主要由推理规则来描述，推理规则就成为信息的载体。因而，模糊系统的 推理规则的完备性、一致性、有效性和冗余性对系统的性能起着决定性作用。这样，模 糊系统的优化就是对模糊推理规则的优化。关于模糊推理规则的优化，国内外学者在这 方面进行了大量的研究。常见的主要有两种方法：一种方法是通过对模糊规则结构本身 的优化，从而实现对模糊系统的优化：另一种方法是先给出模糊规则的结构，然后利用 各种优化算法优化系统中的可变参数，如梯度下降法、递推的最小二乘法、遗传算法及 神经网络法等等。上述方法在定程度上都实现了对模糊系统的优化，但是同时又存在 一定的局限性或不足，我们希望能够找到一种更有效的方法。 基于规则的模糊系统是用规则来表达专家或数据提供的信息。由于系统本身的复 杂性、模糊性和专家知识的不完备性，规则并不能完全清晰表示系统本身的信息。事实 上，规则是基于模糊集合( 语言) 的，模糊集合所刻画的对象有模糊性，于是规则就有 模糊性，所以表示模糊系统的规则库也有模糊性。而模糊系统规则库的模糊程度反映了 人们对研究对象信息掌握情况。知识( 数据) 越多，规则库的模糊程度( 不确定性程度) 越小；知识( 数据) 越少，规则库的模糊程度( 不确定性程度) 越大。因此，如果能够 对模糊系统规则库的模糊程度进行有效的度量，就能够对模糊规则库进行正确的评价， 从而就可以进一步对模糊系统改进和优化。 熵作为不确定信息度量的重要概念，在过去的几十年里受到人们的广泛关注。1 9 4 8 年，s h a n n o n 在创立信息论时，提出了信息熵的定义来描述信源平均不确定性。信息熵 是从平均意义上来表征信源总体信息的测度，是随机变量不确定性的度量。 第1 章绪论 模糊熵，作为模糊集不确定性的一种度量，首先由z a d e h 3 1 于1 9 6 8 年提出并给出定 义。随后在1 9 7 2 年，d el u c aa n dt e r m i n i 4 1 给出了非概率意义下模糊熵的定义并提出 了模糊熵应该满足的条件的公理，开创了模糊熵的新的研究途径和方法。在此之后，关 于此方向的研究成果不断，尤其是近十年来模糊熵的理论研究及应用成上升趋势。这些 关于模糊熵的理论研究为在模糊系统中的应用提供了坚实的理论基础。当前模糊熵在图 像处理、目标优化、信息提取、知识发现等方面有大量应用，在模糊推理规则和模糊系 统的研究则不多见，文 5 3 对非模糊规则进行了熵的描述并给出相关的性质。信息熵本 身所特有的属性对由语言所描述的模糊系统是非常合适的。 鉴于上述原因，我们打算利用定义模糊规则的熵来度量模糊规则的模糊程度( 不确 定性程度) ，从而来研究模糊系统和模糊规则库，进而建立一套较为严格的新理论、新 方法，来判断模糊系统的不确定信息并用它来优化模糊系统。 信息论运用到模糊系统的评价与优化，从学科交叉角度看是非常有意义的。而且把 目前常用对模糊系统的评价与优化从后验性、滞后的方法改进为先验的、超前的方法， 这是一种质的进步。我们可以获得很多新概念、新性质、新方法，这对模糊系统本身的 发展及扩展信息论应用的领域都是有意义的。 1 。2 国内外研究状况 1 2 1 模糊系统构建、优化方面的研究状况 模糊系统是一种基于知识或基于规则的系统。它的核心就是由所谓的i f t h e n 规 则所组成的知识库。一个模糊的i f t h e n 规则就是一个用连续隶属度函数对所描述的 某些句子所做的i f t h e n 形式的陈述。例如，下面就是一个模糊i f t h e n 规则： “如果一辆汽车的速度快，则施加给油门的力较小。”这里，词语“快”和“较小”分 别可以用隶属度函数进行描述。模糊系统就是通过组合模糊i f t h e n 规则构造而成的 【2 1 。 关于模糊系统的构建和优化问题，国内外学者在这方面进行了大量的研究，形成大 量的研究成果。模糊系统主要由推理规则来描述，推理规则在这里就成为信息的载体。 模糊系统推理规则的优劣、数目的多少对其系统的性能起着决定性作用，因而模糊规则 在口水平下模糊规则熵的描述 库的建立是其最为关键的一步。所以，模糊系统的优化一般来讲指的就是模糊推理规则 的优化。关于模糊系统的构建和优化，常见的有以下几种方法心1 ： l 、利用专家经验知识建立模糊系统。模糊系统适于表达人类知识，能够直接地表 示逻辑。显性知识和隐性知识是人类通常采用的两种知识形式。其中显性知识是指那种 能用清晰的语言表达出来的知识，可以简单地让专家将该知识描述为模糊i f t h e n 规 则。由于专家经验的差异性导致所建模糊系统的多样性，此种方法具有一定不足。 人类通常采用的另一种知识形式是隐性知识。而隐性知识是无法恰当地用语言表达 出来，即便对其进行语言描述，也是不完整的和不充分的。因此，这种情况就不适合用 第一种方法。隐性知识通常可以转化为一个输入一输出数据对集合。因此，下面的几种 方法都是先给出模糊系统的结构，再对其参数或规则优化。 2 、梯度下降法 把输入空间划分为模糊空间，由一个输入一输出数据对产生一条模糊规则，创建 模糊规则库。梯度下降法先描述模糊系统的结构，然后允许模糊系统结构中的一些参数 自由变化，最后根据输入一输出数据对确定这些自由参数。可以把模糊系统选定为带有 乘积推理机、单值模糊器、中心平均解模糊器和高斯隶属度函数的模糊系统。采用梯度 下降算法，初始参数的选择对于算法的成功起着关键性的作用，因此，这种算法存在一 定的局限性。 3 、递推最小二乘法 递推最小二乘法递推地设计模糊系统，使所有由1 至p 的输入一输出数据对( x i ，“) 且 ( ) c ；，y i ) ，j = 1 , 2 ，p ) 的拟合误差之和达到最小。若设计一个带有乘积推理机、单值 模糊器、中心平均解模糊器的模糊系统f ( x ) ，则使得下式最小： p 山= f ( x j o ) - y ；1 2 j = z 4 、聚类法 聚类法6 j 7 1 的基本思想是把输入一输出数据对根据输入点的分布进行分组，每组仅采 用一条模糊规则来描述，即模糊规则的数目等于组的数量。如文 7 ，朱喜林等人结合减 法聚类和模糊c 均值聚类提出了一种改进的聚类方法。 第l 章绪论 5 、遗传算法( g a ) 遗传算法【8 ，9 1 ( g e n e t i ea l g o r k h m ) 是一种全局优化、自适应概率搜索技术，能够解 决复杂系统的优化问题。基于规则的遗传模糊系统设计主要是利用遗传算法学习调整模 糊规则库的不同部分，通过进化学习的方法使知识库实现自动化，从而优化并搜索问题 的解。 6 、神经网络法 神经网络法【1 0 1 是指在网络结构中，构造前件网络以匹配规则的前件、构造后件网 络以匹配规则的后件，利用b p 算法进行网络的学习，从而确定模糊模型。这种方法使 得模糊规则的自动获取和隶属函数的自动化有可能得以解决，但是神经网络的初始值和 学习率以及神经网络结构( 如节点数目) 很难确定。 7 、利用粗糙集理论对模糊系统进行优化【n 】，目前粗糙集己成为优化模糊系统的一 个研究热点。由于粗糙集和模糊集本身的差异性，虽然目前已提出模糊粗糙集理论，但 对模糊推理规则的约简还有很多理论上的问题需要解决。 另外，还有一些学者通过对模糊规则有效性和一致性方面的研究实现对模糊规则的 评价与分类，最终优化模糊系统。如d i d i e rd u b o i s 与h e n r ip r a d e 将模糊规则划分为 g r a d u a lr u l e s 、c e r t a i n t yr u l e s 和p o s s i b i l i t yr u l e s ，并且给出一组平行模糊规则的一致性 的定义及检验方法【1 2 】。 近年来，许多学者又提出了以上两种或者几种方法相结合的改进方法，如遗传算法 与神经网络方法的结合 1 3 a 4 】、遗传算法与聚类方法的结合t l s , t 6 1 、粗糙集方法与神经网络 方法的结合等等。 1 2 2 模糊熵的研究状况 熵( e n t r o p y ) 本是热力学中的一个概念，1 8 6 5 年克劳修斯( c l a u s i u s ) 首先把熵引 进热力学，用来描述热量可转变为功的程度。统计物理学重新给予解释：熵是描述分子 无规则运动的一种度量。随着科学交叉与综合化的发展，熵远远超出了物理学范畴，它 在自然科学和社会科学众多领域里都得到了广泛的应用。 信息论创始人香农( s h a n n o n ) 于1 9 4 8 年，首次在信息论中定义了信息熵，描述信源 在口水平下模糊规则熵的描述 发出符号以前，收信者对信源存在的平均不确定程度【1 7 】。信源具有的不确定性，是用先 验概率分布p = ( p 。，p ：，p 。) 来描述的，因此，又可以说信息熵描述了一个概率分布的 不确定程度。香农定义的信息熵又称为香农熵。之后，又有许多人陆续提出一些与概率 分布有关的不确定性度量的新的概念和公式，如1 9 6 0 ，年r e n y i 提出不完备概率分布的 r e n y i 熵以及a 熵18 1 ；1 9 7 0 ，年d a r o c z y 提出卢熵【1 9 】；1 9 9 1 ，年r a t h i e 和t a n e j a 提出 了( 口，卢) 熵 2 0 1 。 z a d e h 最早地研究了描述模糊性引起的不确定性的信息。1 9 6 8 年提出了概率空间 ( x ，p ) 下的模糊集合的熵【3 1 。1 9 7 2 年，d el u c aa n dt e r m i n i 给出了非概率意义下模糊 熵的定义并提出了模糊熵应该满足的四条最基本的条件或公理 4 1 。这四条公理都与人们 对模糊集合所刻画对象的模糊程度判断的直觉是相符的，因而被广为接受。 关于模糊熵的定义与推广引起国内外很多学者的兴趣并且取得了很多重要的研究 成果。如1 9 7 5 年，k a u f m a n 用模糊集a 与其最近的清晰集合a 鹏盯的贴近度定义了模糊 熵 2 h ；1 9 7 9 年，y a g e r 从一个模糊集么的模糊性与a 和它的补集彳。的可区分程度相关 的角度出发定义了模糊熵【2 2 】；1 9 8 6 年，k o s k o 用模糊集么和与它最近的清晰集4 m 盯之 间的距离与a 和与它最远的清晰集彳断之间的距离的比值来定义a 的模糊熵【2 3 】；1 9 9 0 年， k o s k o 研究了对可测模糊子集的模糊熵( 2 4 】；1 9 9 3 年，d d u m i t r e s c u 2 5 1 研究了在模 糊过程和模糊动态系统中模糊熵的变化情况；1 9 9 4 年，w p e d r y c z 提出了在全论域对连 续模糊集的模糊熵公式模型的建立，模糊熵与模糊集所在论域的关系【2 6 】：1 9 9 8 年，y h c h e n ，w j w a n g 提出了模糊熵与模糊集形状之间的关系，讨论了比例算子，伸缩算子与 饱和算子与模糊熵的关系【2 7 】；2 0 0 1 年，e u l a l i as z m i d t ，j a n u s zk a c p r z y k 研究了直觉模糊 集的熵及性质【2 8 】。 国内学者中，范久伦、曾文艺，近年来对模糊熵的定义及性质有较多讨论， 2 0 0 2 年，范久伦在模糊熵公理定义和测度理论基础上给出了关于模糊熵新的公式【2 9 】。曾文艺， 李洪兴讨论了区间值模糊集的相似测度与熵的关系 3 0 , 3 1 。 近年来，模糊熵仍然是研究的热点问题。如郭效芝，辛小龙给出了模糊集的偏熵和 关联熵 3 2 】：2 0 0 8 年，o mp a r k a s h ，p k s h a r m a 与r e n u k am a h a j a n 提出了两个新的加权 第1 章绪论 模糊熵定义并研究了极大加权模糊熵原则及其应用3 3 1 。 关于模糊熵的更多研究与应用可参考文献 3 4 4 7 。 1 3 论文研究内容与结构安排 1 3 1 论文主要研究内容 本文在模糊系统优化以及模糊熵的研究基础上，基于用模糊熵作为模糊系统核心模 糊规则的不确定性度量的思想，探讨了利用模糊规则的模糊熵评价、优化模糊规则的方 法。准备在传统知识系统的基础上研究模糊知识系统的定义，以及模糊知识系统中的模 糊初等原子公式、决策逻辑公式的定义，并用它们来描述模糊规则。针对模糊规则是基 于模糊集的，具有一定的模糊不确定性，研究在a 水平下的模糊规则信息熵的描述，并 且分别研究单输入单输出模糊规则和多输入单输出模糊规则信息熵的性质。根据信息熵 与模糊规则的关系提出利用模糊规则信息熵评价模糊规则的方法，实现对模糊规则以及 模糊系统的优化。通过选取具有代表性的实例，验证本文的这种评价方法的有效性和可 行性。 1 3 2 论文结构安排 全文共分为六章，具体安排如下： 第章绪论：首先阐述了本文研究的目的与意义，接着介绍了模糊系统优化的研 究状况、模糊熵的研究历史与现状，最后介绍了论文研究内容与结构的安排。 第二章预备知识：介绍了信息熵、模糊熵的基本概念，粗糙集理论中传统的知识 系统的描述方法以及模糊系统的基本概念。为第三章、第四章的研究提供了基本的理论 知识。 第三章模糊知识系统：本章是本文的重点之一，定义了模糊知识系统和模糊知识 系统下的模糊初等原子公式、模糊决策逻辑公式，进一步为第四章的研究做准备。 第四章单输入单输出模糊规则的分类与评价：本章也是本文的重点，主要研究了 单输入单输出模糊规则信息熵的描述及其性质，并利用信息熵给出了模糊规则的评价、 优化的方法。 在晓水平下模糊规则熵的描述 第五章多输入多输出模糊规则的分类与评价：在第四章研究的基础上，主要研究 了多输入单输出模糊规则的信息熵的描述及其性质。 第六章结论与展望：对全文所做的工作进行了总结，然后指出本文的不足之处， 最后对以后的研究工作给出迸一步的探讨与设想。 第2 章预备知识 2 1 模糊熵的公式 第2 章预备知识 在信息论中，信息熵( i n f o r m a t i o ne n t r o p y ) 是一个非常基本并有重要应用的概念， 它描述了一个概率分布的不确定程度。在模糊数学中使用模糊熵( f u z z ye n t r o p y ) 来描 述一个模糊集所刻画的对象本身所具有的模糊程度。由于随机不确定性和模糊不确定性 在信息处理中广泛存在，因此有关研究越来越受到人们的重视。一般的，模糊熵是一个 非负实数( 4 8 】： e ：日( x ) 专r + 首先，我们介绍一下美国科学家香农在信息论中引入的“信息熵”的定义。信源的 信息熵h ( x ) ，表示信源石每发一个符号所能提供的平均信息量。 定义2 1 1 7 】设信源x = 霍，a ：，a ，) 含有的自信息量为z ( a ，) ( f = 1 , 2 ，r ) ，信源的概 率空间为 p ( a ，) ，p ( a ：) ，p ( a ，) ) ，有 日( z ) = 一p ( a ，) l o g p ( a ，) ( 2 1 ) i = l 则称h ( x ) 是信源z 的信息熵。 其中，自信息量，( q ) = l o g l p ( a ，) 表示收信者确切无误收到信源符号a ，后，从a ，中 获取的信息量；同时也表示收到符号a i 前，收信者对于信源发符号口；存在的不确定性。 从定义可以看出，h ( x ) 是信源x 在概率空间中的统计平均值，指明了信源x 的信 息度；同时也表示收信者在接到符号前，对信源x 存在的平均不确定程度的大小。 1 9 6 8 年，z a d e h 首先定义了用来衡量模糊集合不确定性的模糊熵。 定义2 2 【3 1 设有概率空间( x ，p ) ，x 为随机变量，p 为x 出现的概率。a 为x 上的 模糊集合，则模糊熵定义为 h ：( 4 ) = 一t 一( x ，) p ，l o gp ， ( 2 2 ) 其中，a ( x ，) 是模糊集a 的隶属函数。 在a 水平下模糊规则熵的描述 从这个公式我们看到模糊熵日：一) 是在香农信息熵基础上的对模糊集a 的隶属度 的加权熵。在计算时，既要考虑每个元素x ，在模糊集彳上的隶属度t 一( x ，) ，还要考虑每 一个元素x ，出现的概率只。 1 9 7 2 年，d el u c a 和t e r m i n i 在文章 4 】中首次提出了不涉及概率的模糊不确定性衡 量方法。引入了香农函数f ( x ) = - x l n x 一( 1 一x ) l n ( 1 一x ) 的形式定义的模糊熵。 定义2 3 刚设彳为论域己厂上的模糊集合，则有 何d r ( 彳) = - k ( 石，) l n ( z ，) + ( 1 一 ( x ，) ) l n ( 1 一4 ( _ ) ) ( 2 3 ) 1 = 1 称日d ，( 4 ) 为模糊集a 的模糊熵。 其中，k 是一个标准化常数，一般地k = 1 。 同时，d el u c a 和t e r m i n i 在文章中首先提出了下面广为接受和采用的非概率熵的 公理。 设u 是有限集，对于x u ，令i “4 ( x ) 为模糊集合4 的隶属函数。模糊性度量h ( 彳) 称为模糊熵，且满足下面的四条公理： ( 1 ) 日( 么) = 0 当且仅当a 是清晰集合： ( 2 ) h ( a ) 取到最大值当且仅当心( x ) = 1 2 ，x a ； ( 3 ) 对于模糊集合么和彳，当心( 功_ 1 2 时， 4 ( x ) ( x ) ，则有h ( a ) h ( a ) ； ( 4 ) 似) = h ( a 。) ，其中a 。是彳的补集，即肛( x ) = 1 一心( x ) 。 对这四条公理，我们做如下说明： 公理( 1 ) 是要求只有清晰集合刻画的对象是分明的、清晰的，一点都不模糊，模糊程 度应为0 。这一点应该是显然的。 公理( 2 ) 是指只有心( ) c ) - - 1 2 所刻画的对象是最模糊的，模糊程度最大。 公理( 3 ) 是要求模糊熵具有单调性，4 所刻画的对象比么所刻画的对象清晰，所以 它的模糊度应较小。 第2 章预备知识 公理( 4 ) 说明a 和a 的补集彳。所刻画的对象的模糊程度是一样的。直观上反映了4 和它的补集a 。到心( x ) = 1 2 的远近程度相同的事实。 对d el u c a 和t e r m i n i 提出的非概率熵的四条公理也有人提出过质疑，并且在一定 条件下对其进一步的完善，但是这四条公理还是被广泛的认同的。 模糊熵的公式还有很多种，下面只给出一些常用的模糊熵公式。 定义2 4 【2 l 】k a u f m a n n 定义的模糊熵公式如下： = 专枞钏卜爿私卜，l r 亿4 ， 其中d ( a ，a “”) = z 户( a ，a ”) ，k = 1 p 。 定义2 5 1 2 2 1y a g e r 用距离定义了一个模糊熵公式 州俨1 一等磬 ( 2 5 ) 这里p 1 ，为m i n k 。w s k i 距离，似，b ) ：| - 窆阻( x ，) 一b ( x 纠p 。 定义2 6 【2 3 l k o s k o 用距离的比值定义了一个模糊熵公式： 蹦耻镟名 亿6 ， 定义2 7 2 9 , 4 8 】范久伦定义的 ，卢) 型模糊熵公式 日善( 舻南善m ( 彬+ ( 1 卅( 硝) p 。1 肛0 ，”0 孵l ( 2 - ) 特别的，当p = 1 时，称为口度模糊熵，当卢= a 一1 时，称为口一型模糊熵。 上面介绍的这些模糊熵的公式都从不同角度刻画了模糊集的模糊不确定性的程度， 都有各自的优缺点。 2 2 知识表达系统 知识到底是什么，并没有确切的定义。中国大百科全书中将知识表述为：“所 谓知识，就它反映的内容而言，是客观事物的属性与联系的反映，是客观世界在人脑中 在a 水平下模糊规则熵的描述 的主观映像。就它的反映活动形式而言，有时表现为主体对事物的感性知觉或表象，属 于感性知识；有时表现为关于事物的概念或规律，属于理性知识。”从定义可以看出， 知识是主客体相互统一的产物，是在主客体相互作用的基础上，通过人脑的反映活动而 产生的。因此，要想利用知识，首先就要找到一种形式将知识表示出来。知识在不同的 范畴中有不同的含义。 粗糙集理论是近年发展起来的一种处理不确定、不精确、不完整数据的新的数学工 具。其主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或 分类规则。在粗糙集理论中，知识被看作是关于论域的划分，是一种对对象进行分类的 能力。本节主要介绍粗糙集理论中的知识表达系统的一些基本概念，关于具体概念的详 细定义，可参阅有关文献 4 9 , 5 0 1 。 2 2 1 知识的表达系统 定义2 8 【5 0 】一个知识表达系统是由一个四元有序数组s = ( u ，a ，v ，f ) 构成，其中： u 表示对象的非空有限集合，称为论域；彳表示属性的非空有限集合；y = u 圪，z o 表，。 a e a 示属性口的值域i 厂表示u xa - - 9 矿的一个信息函数，它为每个对象在每个属性上赋予 一个信息值，即v a a ，) c u ，f ( x ，a ) z o 。 知识表达系统也称为信息系统，通常也用s = ( u ，a ) 来代替s = ( u ，a ，y ，f ) 。 信息系统的数据以关系表的形式表示。关系表的行对应要研究的对象，列对应对象 的属性，对象的信息是通过指定对象的各属性值来表达。一个属性对应一个等价关系， 一个表可以看作是定义的一族等价关系，即知识库。 2 2 2 决策表和决策规则 决策表( d e c i s i o nt a b l e ) 也称决策系统，是粗糙集理论的知识表达形式，是一类特 殊而重要的知识表达系统。 定义2 9 设s = ( u ，a ) 为一个信息系统，a = cud ，c nd 矽，c 称为条件属性 集，d 称为决策属性集。把具有条件属性和决策属性的信息系统称为决策表。 一个决策表是一个表达系统( u ，a ，y ，f ) ，它表示当满足某些条件时，决策( 行为、 操作、控制) 应该如何进行。论域中的对象根据条件属性的不同，被划分到具有不同决 第2 章预备知识 策属性的决策类中，决策表可以看作是定义的一族等价关系。在推理、运算时，决策表 通常只考虑决策属性为单一属性的情况，当现实中遇到决策属性集合包含多个属性的时 候，可以通过一些方面将该决策表进行变换，得到等价的单一决策属性决策表【5 1 1 。 在实用的专家系统中的知识表示方法较多的采用了产生式的知识表示方法。这是因 为产生式直观，符合人类推理分析的习惯。产生式一般取如下形式： i fc o n d i t i o nt h e nc o n e l u s i o n 从这个一般形式可以看出，产生式实际上是一种基于规则的知识表示方法。属性就是前 提条件，决策结果就是结论。当然实际的产生式的前提条件可能不止一个，多个条件之 间可以用逻辑关系“与”，“或”，“非”来组织，其结论也可以有多种决策结果【5 1 1 。 因为决策表可以看作是定义的一族等价关系。通过算法a l g o r i t h m d r m t 5 2 】得到的决 策规则可以用关系数据库来表示。然后就可以在专家系统中使用推理机进行推理。推理 的过程从已知的事实出发( 表现为条件属性) 得出结论( 表现为决策属性) 。 2 3 模糊系统理论概述 模糊系统与通常的研究系统的一个重要区别在于通常的系统往往是用微分与代数 方程来描述，有确定的数学模型，而模糊系统则是用基于人的经验的预言规则来描述， 经过模糊推理来实现的系统。模糊系统可以把人类知识库转换成一个规则库。 定义2 1 0 【2 1 如图2 1 类型的模糊系统，称为纯粹模糊系统，由模糊输入、模糊输出 以及系统模型组成，而系统的模型由规则库与模糊推理机构成。 r 一一一一一一一一一一一一一一一 ! ； 模糊规则库 。i 模糊推理机 模糊输入 !模糊输 图2 1 纯粹模糊系统的组成 f i g 2 1c o n s t i t u t i o no fp u r ef u z z ys y s t e m s 出 在口水平下模糊规则熵的描述 模糊系统的核心是模糊规则库，它对系统进行描述，其他部分都是在它的基础上展 开的。因为多输出系统可以分解为单输出系统的和，因此通常只考虑多输入单输出系统 m i s o ( m u l t i - i n p u ts i n g l eo u t p u t ) 。 本节主要介绍模糊系统的基本理论知识，为第三章建立模糊知识系统提供必要的理 论基础。 2 3 1 模糊集合 模糊集合是用来表达模糊性概念的集合，是经典集合的推广。经典集合是指具有某 种属性的对象的全体。这种属性所表达的概念应该是清晰的，界限分明的。因此每个对 象对于集合的隶属关系也是明确的，非此即彼。但在人们的思维中还有着许多模糊的概 念，例如年轻、很大、暖和、傍晚等，这些概念所描述的对象属性不能简单地用“是” 或“否”来回答，模糊集合就是指具有某个模糊概念所描述的属性的对象的全体。由于 概念本身不是清晰的、界限分明的，因而对象对集合的隶属关系也不是明确的、非此即 彼的。 设u 为论域或全集，它是具有某种特定性质或用途的元素的全体。回顾一下论域【， 中的经典集合a 的概念，集合a 可以定义为集合中元素的穷举( 列举法) ，或描述为集 合中元素所具有的性质( 描述法) 。列举法仅用于有限集，描述法比较常用。在描述法 中，集合a 可以表示为 彳= 缸u i x 满足某些条件) 还有第三种定义集合彳的方法特征函数法，该方法引入了集合a 的o 。1 特征函数， 用t 一( x ) 来表示，它满足 1 x a 爿( x ) 21o x 正4 ( 2 8 ) 集合4 等价于特征函数4 ( x ) ，从这个意义上讲，知道4 ( x ) 和a 是一样的。 定义2 1 1 i s 3 设给定论域u ，v 到 0 ，1 闭区间的任一映射4 卢4 ：u - - - o ，1 】 x - - + 一( x ) 第2 章预备知识 都确定【，的一个模糊子集a ，心 ) 称为模糊集么的隶属函数，一( x ) 的大小反映了元 素x 对于模糊集么的从属程度。 上述的模糊集合是用特征函数( 隶属度函数) ( x ) 来表征的，因此，模糊集合是 经典集合的一种推广，它允许特征函数( 隶属度函数) 在区间 0 ，1 】内任意取值。由定义 看出，模糊集合一点都不模糊，它只是一个带有连续特征函数( 隶属度函数) 的集合。 模糊集合“主要有三种不同的表示法 5 4 1 ： 1 、 一般情形下，可表示为：a = ( x ，儿( x ) ) k u ，0 ( 心( x ) 1 ) 2 、论域u 是有限集或可数集时，i e u = z 。，x ：，z 。) ，可以用向量表示为： a = 一( x ) z ， 而e ( ， 3 、论域u 是无限不可数集时，可表示为：a = i 月( x ) x 点f 式中“”不是通常的分数线，只是一种记号，它表示论域u 上的元素x 与隶属度 爿伍) 之间的对应关系；符号“”及“，”也不是通常意义下的求和与积分，都只是 表示上的元素x 与隶属度一 ) 的对应关系的一个总括。 隶属度函数有很多种形式，常用的有如三角形、梯形、高斯、钟形函数等等。下面 主要介绍梯形函数和三角形函数。 定义2 1 2 梯形函数：设 x 【a ，易) x 【6 ，c ) ( 2 9 ) x ( c ，d 】 。 x u - a ，d 其中asb c d ，ucr ，0 f ( x ) 1 在【口，b ) 上严格单调递增，0sd ( x ) s1 在 ( c ，d 上严格单调递减，日( o ，1 。则4 x ) = 舷口，6 ，c ，吐是一个连续的梯形函数。当 日= 1 ，x 6 ，c 时贝0 记为么( x ) = 么( x ；口，b ，c ，d ) 。 定义2 1 3 三角形函数：设 瓢日o f 。d rf，0【 = 、， 日 d c6口x4 j j 、， z4 在a 水平下模糊规则熵的描述 彳( x ) = a ( x ，a ，b ，d ) = x 一口 b 一口 1 x d b d o x 【口，6 ) x = 6 ( 2 1 0 ) 石( b ，d 】 x u - a ，d 贝u 钗功= 么职6 ，回称为正规的三角形隶属函数。 由定义我们可以看出三角形函数是一类特殊的梯形函数。 定义2 1 4 【5 5 1 设a 为论域u 中的模糊集合，允 0 ，l 】，则集合 a a = 0 ) ； ( 3 ) 若k e r a 西， 则称彳为“正规模糊集”( n o r m a l ) 。 模糊集合描述的现象的特征通常是模糊的，如“接近0 的数 就是一个不精确的描 述。因此，可以用不同的隶属度函数来描述同一对象。但隶属度函数本身不是模糊的一 它们是精确的数学函数，一旦隶属度函数表征了模糊的性质，则一切都不再模糊了。区 此，用隶属函数表征一个模糊描述后，实质上就将模糊描述的模糊消除了。因此，就是 模糊集合消除了实际的模糊。 2 3 2 模糊规则 定义2 1 6 2 1 如果一个变量能够取普通语言中的词语为值，则称该变量为语言变量。 这里词语由定义在论域上的模糊集合来描述，变量也是在论域上定义的。 第2 章预备知识 为什么语言变量的概念重要呢? 这是因为，语言变量是人类知识表达中最基本的元 素。当用传感器测量一个变量时，传感器会给出一个数值；而当征求专家对一个变量的 评价时，专家会给出语言。例如，当使用雷达枪来测量汽车速度时，雷达枪会给出诸如 3 9 m p h ，4 2 m p h 等数字；而当让某人告诉我们汽车速度时，他通常会说如“它开得慢”、 “它开得快”等话语。因此，引入语言变量的概念就会使自然语言的模糊描述形成精确 的数学描述，这是人类知识系统有效地嵌入工程系统的第一步。 模糊规则库是由i f t h e n 规则集合组成的。它是模糊系统的核心，从这个意义上 讲，模糊系统的其他组成部分都是以一种合理而有效的方式来执行这些规则的。 定义2 1 71 2 形如 尺：7 ：如果x 。为么：且且x 。为彳：，则y 为b 7 ( z = 1 , 2 ，2 ) 的规则叫做标准模糊i f t h e n 规则。 其中，和b 分别是u ic r 和vc 火上的模糊集合，x = ( _ ，x 2 ，x 。) 7 u 和少v 分别是模糊系统的输入和输出( 语言) 变量。 特别地，单输入单输出s i s o 模糊规则的标准形式为： r ：i f x ii sa ：，t h e nyi sb 7 ( z = 1 , 2 ，九)( 2 1 2 ) 标准模糊i f t h e n 规则包含了许多其他类型的模糊规则及特殊的模糊