（运筹学与控制论专业论文）模糊神经网络模型及其应用研究.pdf

摘要 摘要 在智能控制领域中，模糊神经网络是一项重要的研究课题它是人工神经网 络与模糊逻辑系统的有机结合模糊神经网络是一种能处理抽象信息的网络结 构，具有强大的自学习和自整定功能因此，模糊神经网络的发展对智能控制的 发展具有非常重要的意义为此。本文介绍了模糊神经网络的研究现状和存在的 问题，并对模糊逻辑与神经网络技术结合方法的优点和缺点进行了分析和对比， 在简要分析了模糊神经网络相关理论的基础上，介绍并仿真了两种常见的模糊神 经网络，给出了实验结果在此基础上，针对目前模糊逻辑与神经网络技术在融 合中存在的问题，根据模糊逻辑与神经网络的本质和内在联系，提出了一种新型 的结构优化的模糊神经网络并用模糊系统理论中的s t o n e w e i r s t r a s s 定理证明 了该网络的全局逼近性，亦即证明了该模糊神经网络能以任意精度逼近任意一个 定义在致密集上的实连续函数接着对该网络进行了大量的计算机仿真实验和结 果分析，结果证明该网络模型算法是可行且有效的作为应用，设计了一种模糊 神经网络控制器，并用仿真实验证明了其可行性最后，对本文的工作进行了总 结，并指出了今后的研究方向 关键词：模糊逻辑。智能控制，模糊神经网络，模糊控制，算法 1 1 1 a b s t r a c t f u z z yn e u r a ln e t w o r ki sa ni m p o r t a n tr e s e a r c hp r o b l e mi n t h ed o m a i no f i n t e l l i g e n tc o n t r 0 1 f n ni sc o m p o s e do ft h en e u r a ln e t w o r ka n df u z z yl o g i cs y s t e m i t i st h eo r g a n i ci n t e g r a t i o no ft w op a r t s f n nc a nd e a lw i t ht h ea b s t r a c ti n f o r m a t i o n ， s u c ha st h el a n g u a g ei n f o r m a t i o n i ti sg o o da ts e l f - l e a r n i n ga n ds e l f - t u n i n g s ot h e t h e o r yo ff n ni sv e r yi m p o r t a n tf o rt h ei n t e l l i g e n tc o n t r 0 1 s oi nt h i sp a p e r , t h e r e s e a r c hs t a t u so nf n na n dt h e i rs h o r t a g e , a r ei n t r o d u c e d n ea d v a n t a g e sa n dt h e s h o a a g e so fi n t e g r a t i o nm e t h o df o rf u z z yl o g i ca n dn e u r a ln e t w o r k8 r ea n a l y z e da n d c o m p a r e d n l i sp a p e ra n a l y s e st h ei n t e r r e l a t e db a s i ct h e o r yo ff n n ，t h e nm s e a l c h e s t w of u z z yn e u r a ln e t w o r k s ，a n dg i v e st h er e s u l to fe x p e r i m e n t t h e na c c o r d i n gt ot h e i n n e rr e l a t i o n s h i pb e t w e e nt h en e u r a ln e t w o r ka n df u z z yl o g i ci n f e r e n c e ，an e wf u z z y n e u r a ln e t w o r k ，w i t he f f e c t i v ea l g o r i t h ma n ds t r u c t u r e ，c a nb eo b t a i n e d i tc a nb e p r o v e dt oa p p r o x i m a t ea ta n yd e g r e eo fa c c u r a c yt oa n yr e a lc o n t i n u o u sf u n c t i o ni na c o m p a c td o m a i nb yu s i n gt h ef a m o u ss t o n e - w e i r s l r a s sl a w t h i sp a p e re x e c u t e s s o f t w a r es i m u l a t i o na n da n a l y s i st h er e s u l tb yt h en e wf u z z yn e u r a ln e t w o r k i ts h o w s t h em e t h o di se f f e c t i v ea n df e a s i b l e 砸sp a p e rd e s i g n saf l l ：到n e u r a ln e t w o r k c o n t r o ls t r a t e g y , s i m u l a t i o ne x p e r i m e n ts h o w st h ef e a s i b i l i t yo ft h i sc o n t r o ls t r a t e g y f i n a l l y , as u m m a r yi sg i v e ni nt h e6 恤s e c t i o na n dt h ef u t u r er e s e a r c hd i r e c t i o n sa r e a l s op o i n t e do u t k e y w o r d s ：f u z z yl o g i c ，i n t e l l i g e n tc o n t r o l ( i c ) ，f u z z yn e u r a ln e t w o r k ( f n n ) ， f u z z yc o n t r o l ，a l g o r i t h m 学位论文独创性声明 本人郑重声明： 1 、坚持以“求实、创新”的科学精神从事研究工作。 2 、本论文是我个人在导师指导下进行的研究工作和取得的研究 成果。 3 、本论文中除引文外，所有实验、数据和有关材料均是真实的。 4 、本论文中除引文和致谢的内容外，不包含其他人或其它机构 已经发表或撰写过的研究成果。 5 、其他同志对本研究所傲的贡献均已在论文中作了声明并表示 了谢意。 作者签名：薹垒型 日期：2 翌：生二堕 学位论文使用授权声明 本人完全了解南京师范大学有关保留、使用学位论文的规定，学 校有权保留学位论文并向国家主管部门或其指定机构送交论文的电 子版和纸质版；有权将学位论文用于非赢利目的的少量复制并允许论 文进入学校图书馆被查阅；有权将学位论文的内容编入有关数据库进 行检索；有权将学位论文的标题和摘要汇编出版。保密的学位论文在 解密后适用本规定。 作者签名：盖垒型 日期_ 塑! ：生兰生 第一章绪论 1 1 概述 第一章绪论 模糊神经网络( f n n ：f u z z yn e u r a ln e t w o r k ) 是在神经网络( n n ：n e u r a l n e t w o r k ) 和模糊系统( f s ：f u z z ys y s t e m ) 的基础上发展起来的，二者的融合弥 补了神经网络在模糊数据处理方面的不足和模糊逻辑在学习方面的缺陷，是一个 集语言计算、逻辑推理、分布式处理和非线性动力学过程为一身的系统【i j 论文之所以选择智能控制( i c ：i n t e l l i g e n tc o n t r 0 1 ) 领域中最新和最有发展 前景之一的模糊神经网络作为研究重点圈，是因为近年来神经网络和模糊逻辑 ( f u z z yl o g i c ) 作为智能控制的两种重要手段，解决了很多常规控制技术难以解 决的问题，取得了突出成绩，备受控制界的密切关注但是，模糊推理难以建立 完善的控制规则，并且在推理过程中，由于模糊性的增加会损失掉一些有用的信 息：而神经网络控制将系统控制问题看成“黑箱”的映射问题，缺乏明确的物理 意义，表达知识比较困难学习速度慢，因丽控制经验的定性知识不易融入控制 中 模糊逻辑的显著特点是它能更自然更直接地表达人类习惯使用的逻辑含义， 适用于直接的或更高层的知识表达但是，较难用它来表示时变知识和过程；而 神经网络则能通过学习功能来实现自适应、自动获得用数据( 精确的或模糊的) 表达的知识但是，这种知识在神经网络中是隐含表达的，难以直接看出其含义， 从而不能直接对其进行语义解释，可见两者各有优缺点通过分析不难发现，它 们的优缺点在一定意义上是互补的即模糊逻辑比较适用于在设计智能系统时自 顶向下的分析和设计过程，丽神经网络则更适用于在已初步设计了一个智能系统 之后，自底向上的改进和完善系统的过程 很显然，将模糊逻辑与神经网络技术相融合形成的模糊神经网络兼两种技术 之长然而，这种融合技术也就是模糊神经网络的研究目前仍处于初级阶段，研 究发展更理想的模糊神经网络模型仍是智能控制等领域的迫切需求为此，本文 在分析和仿真已有模糊神经网络的基础上，重点提出了一种新型模糊神经网络模 型，用s t o n e w e i r s t r a s s 万能逼近定理从理论上证明了它的全局逼近性质，亦即 证明了该模糊神经网络能以任意精度逼近任何一个定义在致密集上的实连续函 数，并对新型的模糊神经网络模型进行了仿真实验，对数据进行分析比较，结果 表明了它具有收敛速度快、全局逼近能力强的优点作为应用，用该模型设计了 南京师范大学2 0 0 j 年硬士学位沦文 一种模糊神经网络控制器，并用仿真实验证明了该方法的可行性 1 2 模糊神经网络的研究现状与发展趋势 模糊控制和神经网络控制是当前两种主要的智能控制技术，各具特色模糊 控制规则是模拟人的思维和语言中对模糊信息的表达和处理方式，擅长利用人的 经验性知识，从软件角度模拟人脑；神经网络是模拟人脑的结构以及对信息的记 忆和处理功能，擅长从输入输出数据中学习有用的知识，从硬件角度模拟人脑由 于二者既有共性又有互补性，将两者有机地结合起来，发挥各自的优势，是智能 控制领域研究的主要方向和发展趋势之一 目前已经提出了许多种模糊神经网络，比较著名的有模糊联想记忆( f a m ： f u z z ya s s o c i a t i v em e m o r y ) 【3 l 、模糊自适应共振理论( f a r t ：f u z z ya d a p t i v e r e s o n a n c et h e o r y ) 4 1 、模糊多层感知机f m l p ( f m l p ：f u z z ym u l t i l a y e r p e r c e p t r o n ) i5 1 、在f n n 中，模糊规则的获取和优化的研究也取得了不少成 绩，如微分竞争学习( d c l ：d i f f e r e n t i a lc o m p e t i t i v el e a r n i n g ) 算法【6 l 从数据中提取 模糊规则，用动态竞争神经网络( d c n n ：d y n a m i cc o m p e t i t i v en e u r a ln e t w o r k ) “h 训 模型获取规则等等 近年来，模糊神经网络的研究已取得一些成果，主要体现在以下几个方面： 1 ) 模糊系统与神经网络系统作为般自适应模型无关估计的研究人们所 处理的任何过程与系统均可用激励与响应的映射来表征，即任何对象都可以用一 个自适应模型无关的函数估计器来概述神经网络作为一般函数估计器，已被广 泛地应用于各种领域模糊系统作为逼近一个致密集上的任意连续函数 9 1 ，w a n g 利用s t o n e w e i r s t r a s s 定理证明了具有积推理、中心反模糊化、高斯型隶属函数 的模糊系统也能以任意的精度逼近任一闭子集上的实连续函数【1 0 】【1 1 1 2 ) 利用神经网络对模糊控制规则的获取、细化等方面的研究模糊控制器 设计的关键就是模糊建模，然而经典方法都很难有效地辨识规则和细调隶属函 数对专家难以表达的可采用聚类或矢量量化的方法从专家的行为特性中获取有 用的启发知识k o s k o 利用矢量量化对积空阉进行聚类，以获得模糊规则【9 】在 专家知识无法用语言表达时，采用无导师的规则聚类算法从经验数据中获取知识 是十分必要的，这就使得研究成功的规则获取算法成为目前模糊神经网络研究的 重要内容之一然后，还要利用实际目标系统对所获得的规则进行细化 3 ) 在神经网络学习算法中引入模糊控制技术的研究传统的神经网络学习 算法存在学习周期长，甚至常常陷入局部极小值点的缺陷，为了加快学习速度， 第一章绪论 改善算法的性能，利用获取适当的启发式知识来控制算法，在算法中引入模糊控 制技术，就能动态地调整网络的学习过程，使传统的静态学习算法动态化，如 a m b s h a h i 等人给出的层状感知器的后向传播算法的模糊逻辑控制技术【1 2 j ，c h o i 等人利用启发式知识的模糊逻辑控制器来调整传统神经网络训练中的网络参数， 且将注意力集中在a r t 和b p 的学习参数的控制中1 1 3 1 神经网络与模糊逻辑融合技术的研究主要集中在以下三类形式：基于神经网 络的模糊逻辑推理机制的实现，即模糊神经网络：神经网络模型的模糊推理实现 即神经模糊系统( n f s ：n e u r a lf u z z ys y s t e m ) ；基于模糊技术与神经网络结合形 成的模糊神经混合系统( f n h s ：f u z z y n e u r a l h y b r i ds y s t e m ) 第一种融合形式即模糊神经网络，是利用神经网络实现模糊逻辑推理模糊 推理规则的获取，传统方法是单凭经验确定隶属函数和规则，实现自学习功能， 方法复杂且难度大但是用神经网络实现模糊推理过程可以采用网络学习或聚类 的方法从输入输出数据中抽取规则，然后在性能指标指导下，对规则进行调整， 从而实现模糊系统的自学习、自适应功能 第二种融合形式即神经模糊系统已经有许多相关的研究在这类系统中，神 经元的激活函数具有某种模糊关系或模糊算子，而不再是s i g m o i d 型函数在这 类系统中，“领域知识”以模糊集合表达，从而来增强网络的学习算法或增强网 络的解释能力这类系统在模式识别和系统控制中都有一些应用根据神经网络 的模糊化形式主要有3 类：模糊神经元、模糊化神经模型、神经网络模糊训练 第三种融合方式即模糊神经混合系统，是模糊逻辑和神经网络一种比较高级 的结合方式在这种系统中，模糊逻辑和神经网络各自发挥自己的功能，利用各 自的优势为共同的目标而实现功能结合与互补在这种系统中，模糊逻辑和神经 网络可以分别作为功能独立的子系统：在同一个系统中它们各自围绕自己的工作 目标执行自己的功能在该融合系统中，神经网络与模糊逻辑系统的组成结构是 可以根据要求用并联、串联、串一并联或递阶结构 f n n 在控制中应用广泛由于模糊控制器缺乏学习能力，而神经网络控制 器又缺乏逻辑推理功能，因此，将两者结合起来，能将人类的控制经验注入到控 制器中去，又能保证控制器随着环境变化而不断的进行学习和修正，这是智能控 制技术走向完美的重要步骤模糊神经网络控制在结构上虽然也是局部逼近网 络，但是它按照模糊系统模型建立，网络中各个节点及所有参数均有明显的物理 意义，因此这些参数的初值比较容易确定，然后利用学习算法使之很快收敛到要 求的输入输出关系，这是模糊神经控制优于单纯的神经控制之所在同时，由于 模糊神经控制具有神经网络的结构，因而参数的学习和调整比较容易 南京师范大学2 0 0 5 年硕士学位论文 综合目前的研究态势来看，以具有较强自学习能力的神经网络与具有较强知 识表达能力的模糊推理构成的模糊神经网络的系统结构与框架、参数学习、在线 学习、增强学习、数据的分类与聚类等仍然是研究核心，与进化计算、遗传算法、 混沌系统、模糊系统等进行有机结合，对于模糊神经网络或神经模糊系统的结构 与精简、网络参数学习提供了非常有吸引力的技术途径 虽然近年来人们对它进行了很多研究，模糊神经网络仍然是一种不十分完善 的技术，有很多不足如现有模糊神经网络往往针对某些具体应用，未从数学上 形成成型的理论；有些模型算法复杂、精度不高；有些模型算法缺乏必要的实验 验证等 1 3 本论文的组织 本文主要研究神经网络与模糊逻辑推理的结合体一种特殊结构与算法 的模糊神经网络，包括其实现方法和应用其目的是为复杂、不确定系统模糊控 制提供一种有效的模糊神经网络模型 本文组织如下： 第一章介绍了研究模糊神经网络的目的与意义、研究现状以及发展趋势 第二章介绍了模糊逻辑系统与模糊神经网络的一些基本概念 第三章对两种典型的模糊神经网络模型建立了仿真系统，并对仿真结果做了 分析，指出了它们的优缺点 第四章详细介绍了作者提出的一种新型模糊神经网络，证明了它的全局收敛 性，并建立了仿真系统，进行了大量的实验，并对结果做了分析 第五章利用上一章网络模型，设计了一种模糊神经网络控制器，仿真实验证 明了设计的合理性与可行性 第六章总结全文，指出新型模糊神经网络系统需要继续完善的地方，并对今 后算法的改进提出一些设想 第二章模糊逻辑系统与模糊神经网络 第二章模糊逻辑系统与模糊神经网络 模糊神经网络系统是一种将模糊逻辑推理的知识性结构和神经网络的自学 习能力结合起来的一种局部逼近网络【1 4 】因此，它具有处理不确定信息的模糊 推理能力和依据样本数据进行学习的能力模糊神经网络主要是利用神经网络结 构来实现模糊推理，从而使神经网络的权值具有模糊逻辑中推理参数的物理意 义 由于后文的需要，下面对模糊逻辑与模糊神经网络作些简要介绍 2 1 模糊逻辑系统的组成与分类 一般地说，模糊逻辑系统是指那些与模糊概念和模糊逻辑有直接关系的系 统，它由模糊产生器、模糊规则库、模糊推理机和反模糊化器四部分组成如图 2 1 所示 圈2 1 模糊逻辑系统 模糊产生器将论域u 上的点一映射为u 上的模糊集合，反模糊化器将论 域v 上的模糊集合一一映射为v 上确定的点，模糊推理机根据模糊规则库中的 模糊推理知识以及由模糊产生器产生的模糊集合，推理出模糊结论，办即论域v 上的模糊集，并将其输入到反模糊化器 模糊逻辑系统具有许多极其重要的优点： 1 ) 由于输入、输出均为实型变量，故特别适用于工程应用系统； 2 ) 它提供了一种描述专家组织的模糊“i f t h e n 规则的一般化模式： 3 ) 模糊产生器、模糊推理机和反模糊化器的选择有很大的自由度，因此， 当用模糊逻辑系统解决某些特殊问题时，可通过学习的方法，选取出最优的模糊 逻辑系统，使之能有效地利用数据和语言两类信息 对于图2 1 所示一般模糊逻辑系统，按照常见的形式，可分为纯模糊逻辑系 统、t a k a g i s u g e n o ( 高木一关野) 模糊逻辑系统和广义模糊逻辑系统 下面简要叙述纯模糊逻辑系统和高术一关野模糊逻辑系统 南京师范大学2 0 0 5 年硕士学位论文 2 1 1 纯模糊逻辑系统 纯模糊逻辑系统实质上是仅由模糊规则库和模糊推理机组成的系统如图 2 2 所示，其特点之一是输入输出均是模糊集合模糊规则库由若干“i f - t h e n ”规则 构成，模糊推理机在模糊逻辑原则的基础上，利用这些模糊 i f - t h e n ”规则决定如 何将输入论域u c r 上的模糊集合与输出论域v c r 上的模糊集合对应起 来模糊推理规则形式为： r “：i f x li s e ，i s 爿t h e n y i s g ( 2 1 ) 图2 2 纯模糊逻辑系统 其中，e 。和g 均为模糊集合工= ( 工，x 2 ，工。) 7 u ，y 矿，x 和y 分别为 输入和输出语言交量，= 1 , 2 。，m 若对模糊推理采取s u p 合成，则对定义 在u 上的任一模糊集合a ，由式( 2 1 ) 定义的模糊推理的输出是定义在矿上的一 个模糊集合a or u ) ，其定义为： 。t 。，( y ) 28 粤 p 。( 石) + f 爿。叫_ + g ，( 工，y ) ( 2 - 2 ) 设模糊规则库共有时条规则，则纯模糊逻辑系统的输出是矿上的一个模糊集 合一。( r ，只( ”) ，其定义为 , u a o ( r 4 t 1 r , u 1 ) ( y ) = - 。a ( y ) 0 。o , u a o r , “，( y ) ( 2 3 ) 式中，0 可为m a x 或其它算子 纯模糊逻辑系统的优点是，它提供了一种量化专家语言信息和在模糊逻辑原 则下系统地利用这类语言信息的一般化模式，但亦有其缺点，即输入输出均为模 糊集合，不易为绝大多数工程系统所应用 2 1 2t a k a g i - s u g e n o 模糊逻辑系统 t a k a g i s u g e n o 模糊逻辑系统事实上是一般化模糊逻辑系统的特例，在许多实 际领域中得到了成功应用它的结构如图2 3 所示 在t a k a g i s u g e n o 模糊系统中，模糊规则有着下列的特殊形式： r m ：矿 括e ，i s 爿t h e ny = + f f ，一+ - + _ ( 24 ) 第二章模糊逻辑系统与模糊神经网络 图2 3 t a k a g i s u g e n o 模糊逻辑系统 式中，只7 为模糊集合，c ，为实数，y 为系统根据规则r m 得到的输出，是一个 实数，f 。1 , 2 ，m ，也就是说t a k a g i 和s u g e n o 提出的这种模糊规则中，其“如 果”部分是模糊的，但其“则”部分是确定的，即输出为各输入变量的线性组合对 于一个输入向量x = ( 而，工：，x 。) 7 ，i 扯a g i s u g e n o 模糊系统的输出y 定义为各 y 的加权平均： y = ( 2 5 ) 式中加权系数包括了规则r ( 作用于输入所能取得的所有真值，w f 的计算公 式如下： w 7 = 兀一( _ ) ( 2 6 ) i = 1 此模糊逻辑系统的主要优点是它的输出能由规则库中变量的诸隶属函数( 前 提部分) 以及规则的输出部分( 结论部分) 精确确定因此能用系统辨识的方法来确 定该系统的参数c ! ，用确定系统阶数的方法来确定规则数m 该系统的缺点在 于其规则的结论部分是非模糊的，这对于描述专家的经验带来了很大的不便 2 2 模糊逻辑系统的万能逼近理论 模糊逻辑系统的主要应用在于它能够作为非线性系统的模型，包括含有人工 操作员的非线性系统的模型因此，从函数逼近意义上考虑，研究模糊逻辑系统 的非线性映射能力显得非常重要下面介绍模糊逻辑系统的万能逼近理论， 也就是所设计的模糊逻辑系统可以在任意精度上致逼近任何一个定义在致密 集上的非线性函数 定义山中心平均反模糊化器、乘积推理规则、单值模糊产生器以及高斯型隶 属函数构成的模糊逻辑系统为高斯型模糊逻辑系统f l ” 南京师范大学2 0 0 5 年l 受士学位论文 定理1 设z 为一组定义在致密集u 上的实连续函数，如果： 1 ) z 为一个代数，郎集合z 对加法、乘法和标量乘法是封闭的； 2 ) z 能离析u 上的各点，即对每一个z ，y u c r ”，若x y ，则必然存在 f z ，使得f ( x ) f ( y ) ； 3 ) z 在己，上任意一点不为零，即对每一个x u ，均存在f z ，使得 ，( z ) 0 则z 的一致封闭包括了u 上的所有连续函数，即( z ，d 。) 在( c 【u 】，d 。) 上是致 密的 证明：该定理是著名的s t o n e w e i r s t r a s s 定理( r u d i n 1 9 7 6 ) ，其证明可参阅 文献 定理2 对于任何定义在致密集u c r “上的连续函数g ，任给占 0 ，一定存 在高斯型模糊逻辑系统，使得 i ( 力一占( 力 0 ，一定存在高斯型模糊逻辑系统， 使得 f ( x ) 一g ( x ) 1 2a x ”2 ( 2 8 ) 其中u c r ”为致密集，厶( = ( g ：u 寸r if l g ( 功1 2d x d ，砌 l 才 司 袭3 4 输入变量减少后的输出误差 规则i ( n n i ) 规则2 ( n n 2 ) 去捧五 君2 i i = 4 2 8 4露1 蕾o 9 3 去掉x 2矗2 = 7 4 7 1 占，= 1 1 9 6 1 去掉屯 簟= 5 5 2 7毋= 7 3 2 8 因此对于规则i ( n n 。) 对应的任一交量都不能去掉，而对于规则2 ( r 2 ) ，去掉工 南京师范大学2 0 0 5 年硕士学位论文 对结果影响不大对于去掉 后的加吐再重复上述步骤，看看去掉其他输入变量 是否对结果有影响最后所得的模糊系统模型如下： 规贝01 i fx = ( x 1 ，x 2 , 屯) r 捃r 1t h e ny l = n n i ( x 1 ，工2 ，x 3 ) 规贝u2i fx = ( x 1 ，z 2 ，x ，) 7 妇r 2t h e ny 2 = n n 2 ( x l ，工2 ，工3 ) 模糊系统的输出为： 2 y + = h ( _ ，x 2 ，屯) y ， f - l 其中( 而，也，而) 的值由朋的输出值决定 学习后的模糊系统的输出值和训练样本如表3 5 所示，其中j ，代表模糊系统 的输出 表3 5 学习后的模糊系统输出 训练用样本评价用样本 n o y y t l- t 2 n o y y “2 11 1 1 1 0 1 1 0 8 5 0 9 9 7 5 0 0 0 2 5 l9 5 4 5 8 5 9 20 9 9 7 60 0 0 2 4 2 6 5 2 16 5 8 80 9 9 7 60 0 0 2 426 0 4 36 1 9 40 9 9 7 60 0 0 2 4 3 l o 1 9 01 0 1 8 20 9 9 7 20 0 0 2 835 7 2 45 6 3 80 9 9 7 60 0 0 2 4 46 0 4 36 1 9 40 9 9 7 60 0 0 2 4411 2 5 0 1 0 0 7 60 ，9 9 5 50 0 0 4 5 55 2 4 25 3 9 60 9 9 7 60 0 0 2 451 1 1 1 01 1 0 8 50 9 9 7 5 0 0 0 2 5 61 9 0 2 01 8 9 7 70 0 0 1 40 9 9 8 661 4 3 6 01 4 31 00 0 0 1 7 0 9 9 8 3 7 1 4 1 5 01 4 1 2 8o 0 0 1 50 9 9 8 571 9 6 1 01 9 1 9 10 0 0 1 40 9 9 8 6 81 4 3 6 0 1 4 3 1 00 0 0 1 70 9 9 8 381 3 6 5 01 4 1 0 20 0 0 1 60 9 9 8 4 9 2 7 。4 2 02 7 3 9 80 0 0 l50 9 9 8 591 2 4 3 01 3 2 6 20 0 0 5 7 0 9 9 4 3 1 01 5 3 9 0 1 5 3 6 90 0 0 1 50 9 9 8 5l o1 9 0 2 01 8 9 7 70 0 0 1 40 9 9 8 6 1 l 5 7 2 45 6 3 80 9 9 7 60 0 0 2 4l l6 3 8 07 3 0 80 9 9 7 6 0 0 0 2 4 129 7 6 6 9 5 9 60 9 9 7 50 0 0 2 51 26 5 2 16 5 8 80 9 9 7 60 0 0 2 4 l35 8 7 05 6 4 60 9 9 7 60 0 0 2 41 31 6 0 0 09 8 8 00 9 7 9 9 0 0 2 0 1 1 4 5 4 0 6s 3 4 l0 9 9 7 60 0 0 2 41 47 21 99 0 7 10 9 9 7 60 0 0 2 4 1 51 0 1 9 0 1 0 1 8 20 9 9 7 20 0 0 2 81 5 5 7 2 4 5 6 3 80 9 9 7 60 0 0 2 4 l61 5 3 9 01 5 3 6 90 0 0 1 50 9 9 8 51 61 9 0 2 01 8 9 7 70 0 0 1 40 9 9 8 6 1 71 9 6 8 01 9 6 4 70 0 0 1 50 9 9 8 51 71 3 3 9 01 4 7 8 00 0 0 1 70 9 9 8 3 1 8 2 1 0 6 02 1 0 5 lo 0 0 1 40 9 9 8 61 81 2 6 8 01 2 6 6 50 。0 0 2 80 9 9 7 2 1 91 4 1 5 01 4 1 2 8o 0 0 1 50 9 9 8 5 1 9 1 9 6 1 0 1 9 1 9 l 0 0 0 1 4 0 9 9 8 6 2 01 2 6 8 01 2 6 6 50 0 0 2 80 9 ”22 01 5 3 9 01 5 3 6 90 0 0 1 50 9 9 8 5 误差平方和：q - - - o 1 5 0 5 7 4误差平方和；q = 4 7 2 5 8 7 7 0 从表3 4 可以看出，此模型针对学习样本有较好的表现，而对评价样本则表 现一般，个别样本误差较大 1 6 第三章模糊神经网络仿真研究 3 2 模糊m o d u l a r 神经网络及其仿真研究 3 2 1 模型原理 上一节介绍了基予神经网络集成的模糊系统的方法，其中朋v 。网络用以产 生每条规则对于输入样本的适用度为了训练 】耐网络，采用k - m e a n s 法将训 练样本进行聚类分组，然后根据分组情况，以每个样本对每个聚类小组的隶属情 况o n o f f ( i 0 ) 作为教师信息对网络进行训练由于模糊规则集对应的输入空 闻仅仅是样本输入空间分割后的部分空间，因此网络训练的效果一定程度上受样 本分布的影响对于部分样本，聚类时可能无法给出对既定模糊规则输入空间清 晰的o n 或o f f 的隶属情况只能通过增加规则来解决这样就增加了系统学习 算法的复杂度 产生这个问题的原因在于k - m e a n s 算法是一种硬聚类算法，其聚类的结果 是清晰的隶属与否信息本节利用模糊c 均值( f c m ) 聚类算法即嗣1 代替k m e a n s 算法，介绍m o d u l a r 型模糊神经网络【2 2 i ，进行仿真实验并给出实验结果 模糊m o d u l a r 神经网络如图3 4 所示系统由两类网络组成：专家网络和门 网络专家网络用来表示模糊规则结论部函数这是一个如图3 5 所示的单层神 经网络，其输出表示规则_ 己( 1 s l s c ) 对输入样本的运算结果，令权值 b 。= 6 。6 1 。，b p l 】7 ，外部输入x - 【l ，一，屯，x ，】7 ，则第三个专家网络对输入 x 的输出 y z = x7 b 1 ( 3 5 ) 门网络结构如图3 6 所示，给出每条规则对于输入样本j 和适用程度其中，p 为输入样本维数，n 为输入样本数，c 为规则条数，z j = 【：。，z ：，z 。】为第， 条规则输入空间的中心向量，网络学习时，由f c m 算法生成由图3 6 不难看 出： 0 s g s l ( 3 6 ) c 且 g i = l ( 3 7 ) 因此，模糊系统的输出为 c y = g ，y ，i i 1 7 ( 3 8 ) 南京师范丈学2 0 0 5 年硕士学位论文 囊三 一脚 圈3 4m o d u l a r 神经网络 图3 , 5 第三规则对应的专家网络 图3 6 门网络结构 钟) 。害盟 让) f ” ( 目。善 扣 屿御r 硅) ” j z h 稚) 一r i - 1 , 2 ，p - 1 , 2c 从上述网络结构的介绍可以看出，在专家网络部分，由于采用图3 5 的单层 神经网络，与上节所采用的多层神经网络n n 。相比，结构更简洁，由于需要调 节的权值数少了，学习复杂度大大降低在门网络部分，以基于f c m 算法的网 络结构代替了上节中的n n ，使网络的表达能力大大丰富，所建立的模糊系统 模型更符合实际应用的需要同时，参照2 2 节，可以证明此模糊神经网络所对 应的模糊系统是一个全局逼近器 第三章模糊神经网络仿真研究 3 2 2 仿真系统 建立如图3 4 所示的仿真系统，主要在于其学习算法 仿真系统的训练采用混合学习算法，即门网络的学习采用无教师f c m 算法， 而专家网络的训练则采用有教师最小均方误差( l m s ：l e a s tm e a ns q u a r e ) 算法， 以提高系统的收敛性能 1 ) 门网络的学习 定义目标函数，仿真： j ( u ，z ) ；o 。) 1 ( 丸) 2 ( 3 9 ) 五e 【l ，o o ) 为模糊加权指数：z - - z l ，：2 ，= c r ，毛暑异9 为第f 条规则输入空间的 中心向量，且 d 女爿l x l 一：i i ( 3 1 0 ) ”1 | 为e u c l i d e a n 范式隶属度矩阵卢；【纨】c 。满足： 善地 b 1 2 ， ( 3 1 1 ) t e 【o ，l 】 i = l ，2 ，c ；k = l ，2 ，n f c m 算法如下： b e g i n ： s t e p1 确定规则条数c ，加权指数五，中止误差占，最大迭代次数l o o p s t e p2 初始化隶属度矩阵柳 s t e p3 取t = 0 ，l ，2 ， s t e p4 根据m 计算毛： z ，= x ( 七) ( 。) 1 ( 。) i = l ，2 ，c l - t - l s t e p5 对t = l n ，计算_ 盯+ n ( 为学习样本数) ： 求j = i i l i c ，丸= 0 ) 五= l ，2 ，c ) 一i k ，k - - i ，2 ，n 若l = 中，则 1 9 南京师范大学2 0 0 5 年硕士学位论文 m = 1 ( 丸d 业) 2 恤”】 否则，对所有f 瓦置儿= 0 ，且。= 1 s t e p6 若| | ”一盯+ 。1 i i l o o p ，停止：话i n t 1 7 ；i t + l ，并返回 s t e p 4 e n d 通过上述f c m 算法离线对门网络进行训练，从而确定每条规则输入空间的 中心向量当模糊系统训练完毕用于预测时，则无需迭代，仅需按图3 6 所示结 构。自底向上计算出预测样本对每条规则的隶属度即可 2 ) 专家网络的学习 这是一个基于门网络训练结果的、有导师的训练过程定义误差函数； e = 丢l v ( k ) - y + ( 七) 】2 式中“枣) 为模糊系统输出值，) ，( 七) 为期望值，采用l m s 算法，对图3 5 所 示的专家网络权值钆的训练过程如下： b e g i n ： s t e p1 确定韧始迭代误差占，最大迭代次数l o o p ，学习率口 s t e p2 依次取t 。0 。l ，2 ， s t e p3 按下述方法更新妒，( x c k = 1 一) ： ) ( 七) = g ，x 7 ( 七) b l 6 。( + 1 ) = b l ( k ) 一口【y ( 七) 一y ( ) 】焉】，g c s t e p4 若i i6 l ( k ) 一b l ( 七+ 1 ) i i l o o p ，停止：否则i t = i t + l ，并返回 s t e p3 e n d 采用上述有教师学习和无教师学习相结合的训练方法即混合算法，最显著的 优点是收敛速度比有教师算法快 3 2 3 仿真实验 仍以上一节非线性系统为例，采用相同的学习样本和相同的规则条数，以本 节所介绍的模糊神经网络来建模，训练结果见表3 6 由表3 6 可见，学习结束 2 0 第三章模糊神经网络仿真研究 后的误差平方和为q = 1 5 3 4 3 7 3 这个结果劣于表3 5 的学习结果q = o 1 5 0 5 7 4 ， 这说明该模糊神经网络对待特定样本学习精度不及上一节的t a k a g i - s u g e n o 型模 糊神经网络系统但从模型建立后对评价样本的预测结果来看，利用本节的模糊 系统，预测误差平方和q = 8 6 9 1 7 9 2 ，而在上一节的系统中，预测误差平方和 q = 4 7 2 5 8 7 7 0 这说明本节的模糊系统受样本空间分布的影响较小，有较强的表 达能力和泛化能力 表3 6 模糊系统的学习及评价结果 训练样本评价样本 n o x i屯而 y y + n o 而j r 2 屯 y y 11 0 0 0 3 0 0 0 1 0 0 01 1 1 1 01 0 8 6 8l1 0 0 01 0 0 05 0 0 09 5 4 58 3 7 2 21 0 0 05 0 0 02 0 0 06 5 2 l6 8 1 621 0 0 03 0 0 04 0 0 06 0 4 36 2 0 8 31 0 0 01 0 0 03 0 0 01 0 1 9 01 0 5 5 531 0 0 05 0 0 0 3 0 0 05 7 2 45 7 6 5 4 1 0 0 03 0 0 04 0 0 06 0 4 36 2 0 841 0 0 01 0 0 0 2 0 0 0l1 2 5 0 1 2 5 4 1 5 1 0 0 0 5 0 0 0 5 0 0 05 2 4 2 4 8 0 651 0 0 03 0 0 0i 0 0 0i i 1 1 01 0 8 6 8 65 0 0 01 0 0 04 0 0 01 9 0 2 01 8 7 9 l65 0 0 05 0 0 02 0 0 01 4 3 6 01 4 9 9 0 7 5 0 0 03 0 0 03 0 0 01 4 。1 5 01 2 4 5 475 0 0 0 1 0 0 0 3 0 0 01 9 6 1 01 9 9 8 4 85 0 0 05 0 0 02 0 0 01 4 3 6 01 4 9 9 035 0 0 03 0 0 04 0 0 01 3 6 5 01 2 6 8 6 9 5 0 0 01 0 0 01 0 0 02 7 6 9 32 5 7 9 995 0 0 05 0 0 05 0 0 01 2 4 3 01 3 5 0 5 t 05 0 0 03 0 0 02 0 0 01 5 3 9 01 5 2 5 31 05 0 0 0i 0 0 04 0 0 01 9 0 2 01 8 7 9 1 i 1i 0 0 05 0 0 03 0 0 05 7 2 45 7 6 5l l1 0 0 03 0 0 03 0 0 06 3 8 06 5 3 5 1 2 1 0 0 01 0 0 04 0 0 09 7 6 69 2 6 31 21 0 0 05 0 0 02 0 0 06 5 2 16 8 1 6 1 3 1 0 0 03 0 0 05 0 0 05 8 7 06 1 2 l1 31 0 0 01 0 0 0 1 0 0 0 1 6 0 0 0 1 5 0 1 9 1 4 1 0 0 05 0 0 04 0 0 05 4 0 65 3 l l1 41 0 0 03 0 0 02 0 0 07 2 1 98 1 7 3 l51 0 0 01 0 0 03 0 0 01 0 1 9 01 0 5 5 51 5l _ 0 0 05 0 0 03 0 0 05 7 2 45 7 6 5 1 65 0 0 03 0 0 02 0 0 01 5 3 9 01 5 2 5 31 65 0 0 01 0 0 04 0 0 01 9 0 2 0l8 7 9 1