（模式识别与智能系统专业论文）基于神经网络的模糊推理.pdf

砸二i 二论文基于神经网络的模糊推理 摘要 v i 6 2 4 3 6 0 自z a d e h 于1 9 7 3 年提出模糊关系合成法( c r i ) ，人们相继提出多种改进的 方法，把c r i 方法加以扩充。本文运用一种新的模糊神经元构建模糊神经网络， 应用于模糊推理，是对c r i 法的推广。 文献 1 7 提出了一种新的基于弱t 范数簇的模糊神经元，它能实现多利连续 逻辑运算。在此神经元基础上，本文构建了三个模糊神经网络，分别实现单重模 糊推理、多维模糊推理和多重模糊推理。其中在多重模糊推理神经网络中，通过 求解模糊关系方程的方法来确定网络的权值。这种模糊推理方法无论对什么样的 蕴涵关系几乎总能满足模糊推理的一致性要求。通过调整权值，该方法还具有灵 活性和适应性。分析它们的性质，发现它们具有连续性和单调性。依此新方法实 现的模糊推理机，其推理效果较好，推理结果鲁棒性低，模糊度相对较小。这一 方法为模糊工业控制系统等提供了一种新的有力的推理工具。 关键词：模糊推理，模糊神经元，神经网络，模糊关系方程，c r i 硕士论文基于神经网络韵模糊推理 a b s t r a c t s i n c ez a d e hi n t r o d u c e dt h ec o m p o s i t i o n a lr u l eo ff u z z yi n f e r e n c e ( c r i ) i n19 7 3 ， v a r i o u sm e t h o d sh a v eb e e np r o p o s e dt oi m p r o v ei t t h i sp a p e ra p p l i e san e wf u z z y n e u r o nt oc o n s t r u c t e df u z z yn e u r a ln e t w o r k s ，a n dt h e ya r ea p p l i e dt of u z z yi n f e r e n c e t h i sn e wm e t h o di sg e n e r a l i z e df o r mo fc r i i n 1 7 ，an e wf u z z yn e u r o nm o d e l w a sp r e s e n t e db a s e do nw e a kt n o r mc l u s t e r ， w h i c hc a nr e a l i z em a n yc o n t i n u o u sl o g i co p e r a t i o n s c o n s i s t i n go ft h en e wn e u r o n ， t h r e ef u z z yn e u r a ln e t w o r k sa r ec o n s t r u c t e di nt h i sp a p e r , t h e ya r ea p p l i e dt of u z z y i n f e r e n c e ，m u l t i p l ec o n d i t i o n a lf u z z yi n f e r e n c ea n dm u l t i d i m e n s i o n a lf u z z yi n f e r e n c e r e s p e c t i v e l y i nt h en e u r a ln e t w o r kc o r r e s p o n d i n g t om u l t i d i m e n s i o n a lf u z z yi n f e r e n c e t h ew e i g h t sa r e ：a d j u s t e db ym e a n so fs o l u t i o nt of u z z yr e l a t i o ne q u a t i o n b a s e do n t h e s en e u r a ln e t w o r k s ，t h en e wm e t h o do ff u z z yi n f e r e n c eo v e r c o m e saf e w s h o r t c o m i n go ft h ec o n v e n t i o n a lc r i ，a n di t i sm u c he a s i e rt o s a t i s f yc o n s i s t e n c y p r i n c i p l eo ff u z z y i n f e r e n c et h a nc r i a n a l y z e dt h ep r o p e r t i e so ft h en e wm e t h o d ，w e d i s c o v e r e dt h a ti ti sc o n t i n u o u sa n dm o n o t o n i c t h ep a p e ri m p l e m e n t sf u z z yi n f e r e n c e e n g i n e sw i t ht h e n e w m e t h o d ，t h er e a s o n i n gr e s u l t sp r o v eb e t t e rp e r f o r m a n c eo b t a i n e d t h a nc r i t h en e wm e t h o dp r o p o s e dh e r ei sap o w e r f u li n f e r e n c et o o lf o rf u z z y c o n t r o is y s t e m se t c k e y w o r d s ：f u z z yi n f e r e n c e ，f u z z yn e u r o n ，n e u r a ln e t w o r k ，f u z z y r e l a t i o n e q u a t i o n ，c r i i i 硕l 论文基于神经网络的模糊推理 第一章绪论 模糊理论的创始人，美国加州大学柏克莱分校的l a g a d e h 教授在1 9 6 5 年 发表了关于模糊集的开创性论文。他在研究人类思维、判断过程的建模中，提 出了用模糊集作为定量化的手段。但是在当初的十年中，除了极少数的专家外， 模糊理论并未受到世人的注目。在1 9 7 4 年，英国q u e e nm a r r yc o l l e g e 的 e h m a m d a n i 教授首先将模糊逻辑应用到蒸汽发电机的压力和速度控制中“”1 ， 取得了比常规的p i d 控制更好的结果。随后不久，丹麦的f ls m i t h 公司于1 9 8 0 年成功地将模糊控制应用到水泥窑的自动控制中，为模糊理论的实际应用丌辟了 崭新的前景。从此以后，模糊理论的应用，特别是在工业控制中的应用，得到了 迅速的发展。特别是在日本，日立制作所研制了地铁自动操作的模糊控制系统， 将其投入到仙台市的地铁运行中，富士电机公司开发了净水工厂药剂投量的自动 控制系统，立石电机公司向市场投放了最早的模糊控制器硬件，三菱电机开发了 电梯群运行的管理系统，松下电器推出了全自动的模糊洗衣机、电饭锅等，三洋 电机研究所开发了高质量的彩色复印机的颜色再现控制技术等等。据日本外贸省 报道，日本在1 9 9 2 年生产的和模糊技术有关的产品约有2 0 亿美元。目前，在日 本得到空前发展的模糊理沦的应用正在向北美、欧洲蔓延。模糊理论在应用中愈 来愈受到人们的肯定，与此同时，在学术界也受到不同专业的研究工作者的重视。 1 9 8 4 年，国际模糊系统学会( i f s a ) 正式成立，并于1 9 8 5 年在西班牙召开了第一 次国际年会。目前，有关模糊理论和应用的杂志、特刊有数十种，论文数千篇； 另外还有数以百计的应用实例，超过百件以上的商品。 和模糊理论的发展一样，神经网络的研究发展也不是一帆风顺的。早在1 9 4 3 年，心理学家w m c c u l l o c h 和数学家w p i t t s 合作提出了神经元最早的数学模型， 开创了神经科学理论研究的时代，1 9 5 8 年，f r o s e n b l a t t 首次引进了模拟人脑 感知和学习能力的感知器概念，b l 起了人们的注意 感知器是由阈值性神经元组 成的层状网络，具有学习功能。但是，它的局限性，如不能产生复杂的逻辑函数， 被m m i n s k y 和s p a p e r t 的 p e r c e p t r o n 一书所指明，由于m i n s k y 在学术界 的地位和影响，这一研究方向在该书发行( 1 9 6 9 年) 后若干年内一直处于低潮。 幸甚的是，b w i d r o w 在1 9 6 2 年提出的自适应线性元件( a d a l i n e ) ，由于它是线 性网络，且具有自适应学习功能，在信号处理、模式识别等方面受到普遍的重视 和应用。此外，在这冷遇时期( 1 9 6 7 年一1 9 8 2 年) 仍有不少学者致力于神经网络 的研究，如s a m a r i ( 甘利) 致力于数学理论方面的研究，j a n d e r s o n 提出了b s b 模型。k ，p u k u s h i m a ( 福岛) 发表了神经认知网络理论，s g r o s s b e r g 提出了自适 硕1 i j 论文基于神经网络的模糊推理 应共振理论，k o h o n e n 提出了自组织映射网络，d w i l l s h a w 等提出了联想记忆 网络。这些人的努力为神经网络的后期发展奠定了牢固的基础，到了8 0 年代初 期，世界著名物理学家j i l o p f i e l d 通过潜心研究，提出了h n n 模型，他引入了 能量函数的概念，给出了网络稳定性的判据，他先后在1 9 8 2 年、1 9 8 4 年发表的 有关神经网络的两篇论文鼓舞和激励了一大批科学家、数学家和工程师投入到神 经网络研究的领域中，从而有力地推动了神经网络的研究。同时荧国国防部的 d a p , p a ( d e f e n s ea d v a n c e dr e s e a r c hp r o j e c t sa g e n c y ) 计划，也大大推动了神经 网络研究的复苏和进展。随后，神经网络的理论受到愈来愈多人的关注，新模型、 新理论也层出不穷，如g ，e h i n t o 和t ，j s e j n o w s k i 的b o l t z m a n 机模型，b k o s k o 的双向联想记忆模型，r 1 i e c h t n i e l s e n 的反向传播网络等。1 9 8 7 年i e e e 在s a n d i e g o 召开了最大规模的神经网络国际学术会议，参加者有1 7 0 0 多人，国际神 经网络学会也随之诞生，随后不久学会的杂志神经网络和i e e e 的神经网络 杂志相继问世。神经网络理论的应用也取得了令人注目的进展，特别是在人工智 能、自动控制、计算机科学、信息处理、机器人、模式识别、c a d c a m 等方面 都有重大的应用实例。 虽然模糊理论和神经网络的研究各自已有三十多年的历史，但将两者有机融 合起来研究其特性还只是近些年来的事。模糊系统具有被人容易理解的表达能 力，而神经网络则有极强的自适应学习能力。同时研究模糊理论和神经网络的工 作者发现两者具有很多相似之处，弗且可取两者之长处，使其结合在一起组成更 完美的系统。 模糊推理系统( f u z z y i n f e r e n c es y s t e m ，简写f i s ) 是建立在模糊集合论、模糊 i f t h e n 规则和模糊推理等概念基础上的先进计算框架。在自动控制、数据分 类、决策分析、专家系统、时间序列预测、机器人和模式识别等领域得到许多成 功的应用。模糊推理系统基本结构一般由三部分组成：一个规则库，包含一系列 模糊规则：一个数据库( 或词典) ，它定义了模糊规则用到的隶属函数；一个推理 机制，它按照给定的事实、规则执行推理过程以求得合理的输出或结论。其中 z a d e h 于1 9 7 3 年所提出的模糊关系合成法则( c o m p o s i t i o n a lr u l e o ff u z z y i n f e r e n c e ，简称c r i 法) 是推理过程中常采用的基本方法。人们发现c r i 法存 在些不足，比如c r i 法有时不能满足推理的一致性这一最基本的要求。为此， 修缮和发展模糊推理的方法有两种基本的途径：( 1 ) 对模糊推理的逻辑基础进行 严格化，以及加强模糊推理与模糊逻辑的有机结合；( 2 ) 选择适宜的计算方法使 模糊推理满足若干理沦和实际中提出的推理原则的要求。人们相继提出多种定义 模糊关系及其复合运算的方法，以及其他一些改进的方法，从而把c r i 方法加 以扩充。因为模糊逻辑和神经网络都是对人脑的信息处理过程和特点的模拟，他 硕_ 论史基于神经唰络的模糊推理 们的互补式的结合是很自然的。本文基于文献 1 7 中提出的模糊神经元模型，构 造模糊神经网络，应用于模糊推理，由于网络权值可调的特点，该模糊推理方法 是c i i 法的推广，而且无论对什么样的蕴涵关系几乎总能满足模糊推理的一致性 要求。通过调拯权值，该方法还具有灵活性和适应性。 本文的内容安排如下：第二章介绍模糊理论基础，包括模糊集、模糊关系、 模糊关系方程和模糊推理等；第三章介绍神经网络基础：人工神经元模型和衬i 经 网络模型以及神经网络的学习；第四章详细介绍了文献 1 7 中提出的模糊神经元 模型，并分析其性质，包括神经元所实现的运算、对某些运算的封闭性以及鲁棒 性分析；第五章是本文的重点，分三节分别介绍了基于第四章中提出的模糊神经 元所构建的单重模糊推理神经网络、多维模糊推理神经网络和多重模糊推理神经 网络，详细分析了它们的性质，以及推理实例；最后对全文进行了总结。 本文涉及到的编程部分，全部在v i s u mc + + 6 0 环境下调试通过。 坝：! ：论文基于神经髑络的模糊推理 2 1 概述 第二章模糊推理 众所用知，数学已成为各门学科钓基础，其应用范围广至社会的各个领域。 随着科学研究的不断深入，研究的对象越来越复杂，变量越来越多，要求对系统 的控制精度越来越高，而复杂系统是难以精确化的，这样，复杂性与精确性就形 成了十分尖锐的矛盾。 美国加里福尼亚大学扎德l a z a d e h 教授仔细地研究了这个问题，于1 9 6 5 年发表了模糊集合论论文，提出“隶属函数”这个概念来描述现象差异地中 间过渡，。从而突破了古典集合论中属于或不属于的绝对关系。z a d e h 教授这一开 创性的工作，标志着数学的一个新的分支一模糊数学的诞生。有关模糊集合、模 糊逻辑等的数学理论，称之为模糊数学。 模糊性电是一种不确定性，但它不同于随机性，所以模糊理呛不同于概率沦。 模糊性通常是指对概念的定义以及语言意义的理解上的不确定性。例如，“老人”、 “温度高”、“数量大”等所含的不确定性即为模糊性。可见，模糊性主要是人为 的主观理解上的不确定性。雨随机性则主要反映的是客观上的自然钓不确定性， 或是事件发生的偶然性。模糊性是人们在社会交往和生产实践中经常使用的，它 提供了定性与定量、主观与客观、模糊与清晰之问的个认为折衷。它既不同于 确定性，也不同于偶然性和随机性。概率论是研究随机现象的，模糊数学则是研 究模糊现象的，两者都属于不确定性数学。应当特别注意的点是，不可认为模 糊数学是模糊的概念，它是完完全全精确的，它是借助定量的方法磺究模糊现象 的工具。 2 2 模糊集合概念 2 2 1 模糊集合 模糊集是模糊数学的基本概念，它是研究模糊数学的基础。 众所周知，在普通集合论中，对于集合x 的子集“来讲，或者x e a 或者x 隹a 非此即彼，二者必居其一。因此，子集a 可以由它的特征函数来刻划，即 f lx a 舭3 1 0，芒a 将值域 0 ，1 拓展为 0 ，1 即可得到模糊集的定义。 4 硕士论文 基于神经网络的模糊推理 z a d e h 教授提出了隶属函数的概念，主要目的是用以刻画人的语言的不确定 性。他以数学语言描述输入空间的每一点对于集合的隶属程度，其中输入空间称 为论域。 这里给出z a d e h 在1 9 6 5 年对模糊子集的定义：设给定论域u ，u 到 0 ，1 闭区问的任一映射。， 比：u 寸【0 , 1 】 “一t l 0 ) 都确定u 的一个模糊子集a ，幽称为模糊子集4 的隶属函数，卢。( “) 称为u 对。 的隶属度。隶属度也可记为a ( u ) 。在不混淆的情况下，模糊子集也称模糊集合 ( 或f 集) 。 上述定义表明，论域u 上的模糊子集a 由隶属函数。( “) 来表征，芦。( ) 取 值范围为n n i b 3 o ，1 ，儿 ) 的大小反映了u 对于模糊子集的从属程度。 模糊集合a 有各种不同的表示法： 一般情况下，可表示为 a = ( “，4 ( “) ) f “u ) ； 如果己，是有限集或可数集，可表示为： a = a ( u ，) “， 或表示为向量( 称为f 向量) a = ( a ( u ) ，4 ( ) ，a ( u 。) ) 如果c ，是无限不可数集，可表示为 a = p ( “) “ 式中“”不是通常的分数线，只是一种记号，它表示论域u 上的元素“与其隶 属度a 0 ) 之间的对应关系：符号“”及“f ”也不是通常意义下的求和与积 分，都只是表示u 上的元素“与其隶属度以( “) 之间的对应关系的一个总括。 2 2 2 模糊集的运算 普通集合有基本运算：包含、相等、并集、补集。类似的，模糊子集也有相 应的运算”1 。两个模糊子集间的运算，实际上就是逐点对隶属函数作捐应运算。 下面记论域u 上的全体模糊集的集合为f ( u ) 。 定义2 ，2 1 设，b f ( u ) ，若 v u u ，占似) a ( u ) 碳上论文 基于神经网络的模鹦| 推理 则称a 包含b ，记为b c a 。 如果a cb 且b c a ，则称a 与b 相等，记为4 = 8 。 定义2 2 2 设a ，b f ( u ) ，分别称运算a u b ，a n b 为a 与b 的并集、 交集，称a 。为a 的补集，也称为余集。它们的隶属函数分别为： ( 一ub ) ( “) 2 爿( “) vb ( u ) ：m a x ( a ( u ) ，b ) ) ； ( 爿nb ) ( “) 2a ( u ) b ( u ) = m i n ( a ( u ) ，b ( “) ) ； 爿。 ) = 1 一一( “) 任给日，b o ，1 ，由于 0 d v b l ，0 s 口 b l ，0 1 一a 茎l 放对任意的一，b f ( u ) ，有a u b ，a n b ，a e f ( u ) 。 为了使f 集合适合于各种不同的模糊现象，相继提出了不少与v 、八相应的 新算子，它们各有自己的优缺点，概括它们的共性，总结出一般形式：t 范数和 s 范数。 1 定义2 2 3 映射t ：【o ，1 2 斗【o ，1 ，如果v 口，b ，c e 【o ，l 】满足条件： ( 1 ) 交换律t ( a ，6 ) = t ( b ，a ) ； ( 2 ) 结合律t ( t ( a ，6 ) ，c ) = t ( a ，t ( b ，c ) ) ； ( 3 ) 单调性若q a2 ，b l 蔓b 2 ，贝l j t ( a l ，b j ) t ( a 2 ，b 2 ) ； ( 4 ) 边界条件z ( 1 ，口) = a 则称为t 三角模，也称为t 范数。 定义2 ，2 4 映射s ： o ，1 】2 一( 。，1 】。如果，b ，c 0 ，1 】满足条件： ( 5 ) 交换律s ( a ，b ) = s ( b ，口) ： ( 6 ) 结合律s ( s ( a ，6 ) ，c ) = s ( a ，s ( b ，c ) ) ： ( 7 ) 单调性若口i 口2 ，6 l b 2 ，则s ( a l ，b 1 ) s ( a 2 ，b 2 ) ； ( 8 ) 边界条件s ( a ，0 ) = a 则称为s 三角模，或称为s 范数、t 余范数。 定义2 2 5 设三角模t 、s 分别为y 范数和s 范数，如果对于v a ，b ( o ，l 】， 有 1 一r ( 辞，b ) 2 s ( 1 一口，l b ) 则称s 与t 是对偶模。 定义2 2 6 如果m ia ：，以分别是，x 2 ，x 。上的模糊集，则 a l ，a 2 ，a 。的笛卡尔乘积( c a r t e s i a np r o d u c t ) 记为a 【a 2 a 。，且隶属 函数为 。h ：x 。，( _ ，x 2 ，x 。) = m i n ( 2 ( x ) ， ( x ) ) 在f 集合与普通集合相互转化中的一个重要概念是五水平截集。 定义2 2 7 设a f ( u ) ，五【0 , 1 】，记： 硕l ：论文 基于神经网络的模糊推理 a = “ “u ，a ( u ) 旯) 称a 。为a 的一个2 一截集，丑称为闽值( 或置信水平) 。 由定义可知，a 。是一个普通集。 2 2 3 模糊集的模糊度 在实际问题中，当我们用f 集来刻画模糊性概念时，常常还需要用一个数量 来刻画这概念的整体模糊程度。这个数量就是模糊度。 常用的有： 海明( h a m i n g ) 模糊度 欧几里得( e u c l i d ) 模糊度 州) 2 蒋删- a l l 2 ) | 州) 5 斋( 批帆 2 2 。4 模糊关系 模糊关系是普通关系的拓广，应用范围极广。普通关系描述元素之间是否有 关连，而模糊关系则描述元素之间的关连是多少。 定义2 2 8设r 是u 矿上的一个模糊子集( 简称f 集) ，它的隶属函数 r ：u v 一 0 ，1 】 0 ，v ) 卜r ( u ，v ) 确定了( ，中的元素“与v 中的元素v 的关系程度，则称r 为从u 到矿的一令f 关 系，记 u 矿 对有限论域u = “，a 2 c ，“，) ，v = v 1 ，v 2 ，v 。 ，从u 到v 的一个f 关系可以由 下列矩阵表示： r = r ( u l ，v 1 ) r ( u 2 ，v i ) r ( u i ，v 2 ) r ( u 2 ，v 2 ) r ( u l ，v 。) r ( u 2 ，v 。) r ( u 。，v i ) r ( u 。，v 2 ) r ( u 。，v 。) 上述的矩阵为模糊矩阵，其元素都是 0 。1 中的数。 模糊关系是一个模糊集，因此模糊集的运算模糊关系也都具有，如包含、相 等、交集、并集、补集。另外，模糊关系的合成是实际应用特别是模糊控制中常 用的运算之一，下面介绍它的定义。 定义2 2 9 设qe - f ( u v ) ，ref ( v w ) 。所谓q 对r 的合成，就是从u 到的一个f 关系，记作q 。r ，它的隶属函数是 硕士论文 基于神经网络的模糊捧瑾 ( q 。r ) ( “，w ) 2v v ( q ( u ，v ) a r ( v ，w ) ) 2 2 5 模糊关系方程 模糊关系方程在模糊数学的理论中占有十分重要的地位。法国学者桑切斯 ( e ，s a n c h e z ) 在这方面做了开创性的研究，他最早提出模糊关系方程并给出方 程的最大解。而后，塔柯莫托( y t s u k a m o t o ) 探讨了有限论域上的模糊关系方 程的求解并付之于应用。 定义2 2 1 0 设u ，v ，w 为三个非空论域，已知模糊关系r f ( v x w l ， s f ( u w ) ，以z f ( u 矿) 为未知元的方程： z 0 r= s 称为模糊关系方程，其中z 。r 为模糊关系z 与r 的合成运算哺1 。 当u 2 “，“2 ，“。) ，v 2 v i ，v 2 ，v 。 ，w = ，w 2 ， 为有限泛域时， 模糊关系方程可表示为 x l lx 1 2 x 2 1工2 2 。 工2 m ，l i2 毛1r z 2 i 2 ， 如i j l is 1 2 $ 2 1 $ 2 2 q j s 2 j 桑切斯曾证明过：“对任意模糊关系方程，若有解必有最大解。”一般地说， 方程若有解，则可能有多个极小解。解模糊关系方程有列表法、塔柯莫托方法和 “上铣一平铣”法等。其中塔柯莫托方法虽然易懂，但当矩阵维数增多时，计算 量可能以指数增长，而“上铣一平铣”法是一个比较简洁的方法。 2 3 模糊推理 2 3 1 模糊推理的基本概念 推理是根据定的原则，从一个或几个已知判断引伸出一个新判断的思维过 程。一般说来，推理都包含两个部分的判断，一部分是已知的判断，作为推理的 出发点，叫做前提( 或前件) 。另部分是结果的判断，由前提所推出的新判断， 叫做结论( 或后件) 。 人们认识世界的过程包含了大量的推理过程，推理的形式也是多种多样的， 如直接推理与间接推理。间接推理依据认识的方向，又可分为演绎推理、归纳推 理和类比推理等。演绎推理是前提与结论之间有蕴含关系的推理；演绎推理中最 预士论文 基于神经网络的模糊推理 常用的形式是假言推理有肯定式( 或称取式) 和否定式( 或称拒取式) 两类。 其一般形式为 肯定式( 取式) ： 大j j i 提( 规则)若x 是a则y 是b 否定式 小前提( 已知证据) x 是a 结论：x 不是a 这就是形式逻辑为人们提供的严谨而又十分有效的“三段论”推理模式。写 出数学形式，即 爿呻口 爿 一j 曰 b 但是“三段论”的严= 谨又局限了它的使用，在大前提a 寸b 之下，若小前提 不是彳，而是a 的偏离一+ ，结论如何昵? “三段论”没有办法了，此时要解决 模糊性问题的推理，需要用模糊推理的方法。 模糊推理又称模糊逻辑推理，是指已知模糊命题( 包括大前提和小前提) ， 推出新的模糊命题作为结论的过程。可见，模糊推理是种近似推理，近似推理 问题的提法有两种形式： ( 1 ) 已知模糊蕴涵关系“若 则b ”，其中a 是x 上的模糊集，b 是y 上的模 糊集，这往往是大量的试验观测和经验的概括。我们认为它提供信息是可靠的， 它是近似推理的出发点，相当于“三段论”的大前提。又知x 上的个模糊集a ， 它可能与a 根相近，又可能与a 相去甚远。问：从模糊蕴含关系能推断出什么结 沦b ? ( 2 ) 已知模糊蕴涵关系“若a 则b ”，a f 皤) ，b f ( y ) ，又知一个8 。， b + f ( y ) ，问：从模糊蕴涵关系能推断出什么结论a ? z a d e h 在1 9 7 3 年对于模糊命题“若a 则b ”，利用模糊关系的合成运算提出 了一种近似推理的方法，称为模糊关系合成推理法( c r i ) 。 硕士论文基于神经网络的模糊推理 2 3 2 模糊关系合成法 模糊关系合成法，简称c r i 法，是实际控制中应用较广的一种模糊推理算 法。这种方法的原理可表述为：用一个模糊集合表述大前提中全部模糊条件语句 前件的基础变量和后件的基础变量间的关系，用一个模糊集合表述小前提，进而 用基于模糊关系的模糊变换运算给出推理结果。 1 z e d a h 的推理方法 设 是x 上的模糊集合，b 是y 上的模糊集合。模糊蕴涵关系“若a 则b ” 用a 斗b 表示，z e d a h 把它定义为x y 上的模糊关系r 。给定了一个模糊关系i t ， 就决定了一个模糊变换，利用模糊关系的合成运算有如下的推理规则： ( 1 ) 模糊取式( f u z z ym o d u sp o n e n s ，f m p ) 。又称肯定前件的假言推理， 他的推理过程为；已知模糊蕴涵a _ b 的模糊关系r ，对于给定的a ，则可 推得结论为b ，b y ，b 由下式给出： b = a o r 其中“o ”表示合成运算。 ( 2 ) 模糊拒取式( f u z z ym o d u st o l l e n s ，f m t ) 。又称后件式，他的推理过 程为：已知模糊蕴涵关系爿专b 的模糊关系r ，对于给定的b7 y ，则可推得结 论为a7 ，a x ，a 由下式给出： a 2 ro b 2 多维模糊推理 这种推理对应于多维模糊条件语句情况。所谓多维( m u l t i d i m e s i o n a l ) 模 糊推理，有如下模式： 前提l 前提2 若x j 是a l ，。2 是a 2 ，x 。是a 。，则y 是b 若一是a ：，x ：是a ；，靠是a 。， y 是b 结论 其中，a ，a ；f ( u ，) ，f = 1 , 2 ，：一， ，h 2 ：b ，b f ( v ) ；u l ，u 2 ，【，。 是论域。问题在于如何求口77 z a d e h 法，将a l ，a 2 ，a 。处理成直积a i a 2 爿。化为一维模糊推 理，计算 b ，_ a k a ix a ：。( a l a 2x 以斗b ) ， 即 b ( v ) = ，v 、 垒爿；( “。) a r ( a ( “。) ，b ( v ) ) ， l “l ，1 “h ，1 4 l 一 其中v v ，“，e u ，r f ( o ，1 o ，1 ) 表蕴涵关系。 砸：l 论文基于神经网络的模糊推理 3 多重模糊推理 多重情形的模糊推理一般是指知识具有以下模式： 前提1 ：i fxi s a ，y i s b k ；k = 1 , 2 ，三 前提2 ： xi sa 结沦： y i sb ，- ? 其中a ，a 女f ( u ) ，b ，b 。f ( v ) 。u 和v 是论域。通常规则：若x 是a ， 则y 是b 简记为a - - 9 , b 。就此情形，模糊控制的创始人，英国的e h m a m d a n i 给出了一种推理方法： l b ka 。u ( a 女寸b 女) ( 2 3 1 ) 。i 其中，模糊蕴涵关系r ( t y j 是 o ，l 】 o ，1 】- - - ) o ，1 】的映射，“。”是模糊关系合成 运算。根据“。”对“u ”的分配性，( 2 3 1 ) 式又可写成b7 ：u a 。r ( a 。，b 。) 。 倾j 二i 仓文基于神经网络的模糊推理 第三章神经网络基础 人脑是宇宙中已知最复杂、最完善和最有效的信息处理系统，是生物进化的 最高产物，是人类智能、思维和情绪等高级精神活动的物质基础，也是人类认识 较少的领域之一。长期以来，人们不断地通过神经学、生物学、心理学、认知学、 数学、电子学和计算机科学等一系列学科，对神经网络进行分板和研究企图揭示 人脑的工作机理，了解神经系统的一些特性，设计出具有类似大脑某些功能的系 统来处理各种信息。解决不同问题。 用机器代替人脑的部分劳动是当今科学技术发展的重要标志。计算机就是采 用电子元件的组合来完成人脑的某些记忆、计算和判断功能的系统。现代计算机 中每个电子元件的计算速度为纳秒( t o - 9 秒) 级，而人脑中每个神经细胞的反应 时间仅有毫秒( 1 0 4 秒) 级。然而在进行诸如记忆回溯、语言理解、直觉推理、 图像识别等决策过程中，人脑往往只需要一秒钟左右的时间就可以完成复杂的处 理。换句话说，脑神经细胞作出的决定需要的运算不超过1 0 0 步，范德曼 ( j ，af e l d m a n ) 称之为1 0 0 步程序长度。显然，入和现代串行计算机决不可能 在1 0 0 步运算中完成类似上述的一些任务。由此，人们希望追求一种新型的信号 处理系统，它既有超越人的计算能力，又有类似人的识别、判断、联想和决策的 能力。 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k ，简称a n n ) 正是理论化的人脑神 经网络的数学模型，是基于模仿大脑神经网络结构和功能而建立的一种信息处理 系统。它实际上是由大量简单元件相互作用而形成的复杂网络，具有高度的非线 性，能够进行复杂的逻辑操作和非线性关系实现的系统。 人工神经网络汲取了生物神经网络的许多优点，因而有其固有的特点p j ： ( 1 高度的并行性 人工 i i 经网络是由许多相同的简单处理单元并联组合而成，虽然每个单元的 功能简单，但大量简单处理单元的并行活动，使其对信息的处理能力与效果惊人。 ( 2 ) 高度的非线性全局作用 人工神经网络每个神经元接受大量其它神经元的输入并通过并行网络产生 输出，影响其它神经元。网络之间的这种互相制约和互相影响，实现了从输入到 输出状态空间的非线性映射。从全局的观点看，网络的整体性能不是网络局部性 能的简单迭加，而表现出某种集体性的行为。 ( 3 ) 良好的容错性与联想语 乙功能 人工神经网络通过自身的网绍结构实现对信息的记忆。而所记忆的信息是存 硕士论文基于神经网络的模糊推理 储在神经元之间的权重中。从单个权重中看不出所存储的信息内容，因而是分布 式的存储方式。这使得网络具有良好的容错性并行性聚类分析、特征提取、缺损 模式恢复等模式信息处理工作；又易于作模式分类、模式联想等模式识别工作。 ( 4 ) 十分强的自适应、自学习功能 人工神经网络可以通过训练和学习来获得网络的权值与结构，呈现出很强的 自学习能力和对环境的自适应能力。 3 1 神经元模型 神经元( 神经细胞) 是脑组织的基本单元，它由三部分组成：细胞体，树突 和轴突。树突的作用是向四方收集由其它神经元传来的信息，轴突的功能是传出 从细胞体送来的信息。每个神经元所产生和传递的基本信息是兴奋或抑制。两个 神经元之间的相互接触点称为突触。大脑是由大约1 0 “1 0 ”个神经元组成，每 一个神经元有1 0 1 0 5 个突触。神经元简化结构如图3 1 1 所示。 图3 1 1生物神经元结构 靳矗体 从信息的传递过程来看，一个神经元的树突，在突触处从其它神经元接受信 号。这些信号可能是兴奋的，也可能是抑制的。所有树突接收到的信号都传到细 j 盥体进行综合处理，如果在一个时间间隔内，某神经元接受到的兴奋性信号足 够大，以致于使该神经元被激活，而产生一个脉冲信号。这个信号将沿着该神经 元的轴突传送出去，并通过突触传给其他神经细胞。神经细胞通过突触的联接形 成神经网络。模仿生物神经元结构和工作原理，我们得到人1 5 申经元模型。 3 2 人工神经元模型 人工神经元模型是对生物神经元的简化和模拟，它是八工神经网络的基本处 理单元。它是一多输入、单输出的非线性元件。神经元的输出除受输入信号的影 硕j 二论文基于神经网络的模糊推理 响外，同时也受丰i l l 经元内部其它因素的影响，所以在人工神经元的建模中，常常 还加入一个额外输入信号，称为偏差，有时也称为阈值或门限值。一个具有n 个输入分量的神经元如图3 2 1 所示。 x l x 2 图3 2 1人工神经元结构模型 图3 2 1 是一多输入单输出的非线性元件，其输入输出关系可描述为 n 1 1 = w i ? xj 一。 j ；l ( 3 - 2 1 ) 其中x ，( j 2 1 ，2 ，n ) 是从其它细胞传来的输入信号，只茭, j n n ，w 表示从 细胞j 到细胞i 的连接权值，称为传递函数或激励函数。 有时为方便起见，常把一只也看成对应恒等于1 的输入量x 。的权值，此时式 ( 3 2 1 ) 记为： ，= w x j = o ( 3 2 2 ) 其中w 。= 一谚，= 1 。 传递函数r 是一个神经元及网络的核心。网络解决问题能力除了与网络的结 构有关系，在很大程度上取决于网络采用的传递函数。 传递函数的基本作用是j ： 1 控制输入对输出的微活作用； 2 对输入、输出进行函数转换； 3 将可能无限域的输入变换成指定的有限范围内的输出。 基于神经网络的模蝴报理 下面是几种常用的传递函数： 1 阈值型( 硬限制型) 函数 当) ，取o 或1 时，函数，为阶跃函数： 似) = 姥黑 叫) 当y ，取- l 或l 时，厂( x ) 为符号即s g n 函数： 哪= 巴： z 剐 2 分段线性函数 1 1x 工。 此时， 厂( x ) = 戗+ 6_ x ( a ，b 为常数) ( 32 5 ) 【0 x 一 3 s 型( s i g m o i d ) 函数 通常是在( o ，1 ) 或( 1 。1 ) 内连续取值的单调可微分的函数，常_ l j 指数 或正切等一类s 状曲线来表示，如 八砷2 鬲磊如 - 2 6 或f ( x ) = t a n h ( x ) ( 3 2 7 ) 4 恒等线性函数 厂( 工) = x ( 3 2 8 ) 3 3 神经网络模型 神经网络模型是由大量的神经元广泛互联雨成的网络。根据连接方式不同， 神经网络分为两大类：没有反馈的前向网络和相互结合型网络( 如图3 2 3 所示) 。 前向网络出输入层、中间层( 或叫隐含层) 和输出层组成，中问层可由若于层， 每一层的神经元只接受前一层神经元的输出。而相互连按型网络中任意两个神经 元间都可能有连接，因此输入信号要在神经元间往返传递，从某一初态开始，经 过若干次的变化。渐渐趋于某一稳定状态或进入周期振荡等其它状态。臣裁虽然 已有数叶种的神经网络模型，但已有神经网络可分为三大类，即前向网络 ( f e e d f o r w a r d n n s ) 、反馈网络( f e e d b a c k n n s ) 和自组织网络( s e l f - o r g a n i z i n g n n s ) 。 坝一f 二论文 基于神经网络的模糊摧理 输入层隐含层输出层 ( a ) 图3 2 3两种不同连接方式的网络 ( a )前向网络：( b ) 相互连接型网络 3 4 神经网络的学习 一个神经网络的拓扑结构确定之后，为了使它具有某种智能特性，还必须有 相应的学习方法与之配合。可以这样说，学习方法是人工神经网络研究中的核心 问题。对于大脑神经而言，不同的功能区域均有各自的学习规则。这些完整和 巧妙的学习规则是大脑在进化过程中通过学习得到的。对于人工神经网络而言， 学习方法归根到底就是网络连接权的调整方法。人工神经网络连接权的确定通常 有两种方法：一种是根据具体要求直接计算出来，如h o p f i e l d 网络作优化计算时 就属于这种情况：另一种是通过学习得到的，大多数人工神经都用这种方法。 随着网络结构和功能的不同，学习方法是多种多样的e ”。按有无导师来分类， 学习方法可分为有教师学习( s u p e r v i s e dl e a r n i n g ，或称有指导学习) 、无教师学 习( u n s u p e r v i s e dl e a r n i n g ，或称无指导学习) 和再励学习( r e i n f o r c e m e n tl e a r n i n g ) 等几大类。 在有教师的学习方式中，网络的输出和期望的输出( 即教师信号) 进行比较， 然后根据两者之间的差异调整网络的权值，最终使差异变小。教师既是训练数据 本身，不但包括有输入数据，还包括有在一定输入条件下的输出。在这种学习方 式中，网络将应有的输出与实际输出数据进行比较。网络经过一些训练数据组的 计算后，最初随机设置的权重经过网络的调整，使得输出更接近实际的输出结果。 鬻 一 一 鏊l 硕士论文 基于神经网络的模糊推理 所以学习过程的目的在于减少网络应有的输出与实际输出之间的误差。这是靠不 断调整权重来实现的。 在无教师的学习方式中，输入模式进入网络后，网络按照一预先设定的规则 ( 如竞争规则) 自动调整权值，使网络最终具有模式分类等功能。没有指导的学 习过程指训练数据只有输入而没有输出，网络必须根据一定的判断标准自行调整 权重。在这种学习方式下，网络不靠外部的影响来调整权重。也就是说，在网络 训练过程中，只提供输入数据而无相应的输出数据。网络检查输入数掘的规律或 趋向，根据网络本身的功能进行调整，并不需要告诉网络这种调整是好还是坏。 再励学习是介于上述两者之间的一种学习方法。 l7 坝j 。论文 基于棒经网络钓稹牺推理 第四章模糊神经元模型 模糊技术与神经网络技术有很多共同点，他们都着眼于模拟处理人的思维。 它们在形式上也有不少相似之处，比如，模糊理论中的隶属函数与神经网络的输 出特性之间，模糊逻辑似然推理中的m o x r a i n 运算与神经元对其输入的加投与运 算之问。这也使得它们的有机结合得以方便实现。 采用神经网络技术来进行模糊信息处理有多种做法。其中，构造各类模糊神 经元及模糊神经网络作为模糊信息处理单元以实现模糊信息的自动化处理是最 主要的一种。所谓模糊神经元是指一类可实施模糊信息处理或模糊逻辑运算的人 工神经元，而模糊神经网络则是全部或部分采用各类模糊神经元所构成的一类可 处理模糊信息的神经网络系统。 4 1 几种基本模糊神经元 人工神经元是神经网络中的最基本组成单元，可看作是生物神经细胞的一个 简化人工模型。为了易于实现，在实际应用中，人们常将神经元的传递函数定义 为闽值型、分段型或s 型函数，并在大多数情况下是将其输入输出状态定为0 态和1 念。即仅对应于抑制或兴奋两种状态。尽管这种简化集中体现了生物神经 元传递刺激的基本特征，但仅用这种类型的神经元来构组模糊神经网络是不够 的。为了能处理模糊信息，需要对人工神经元模型进行一些改进，以构成各类模 糊神