（系统工程专业论文）基于遗传算法的模糊神经网络技术及其在销售预测中的应用.pdf

东北大学硕士学位论文 摘要 基于遗传算法的模糊神经网络 及其在销售预测中的应用 摘要 在商品经济环境下，市场调查和销售预测起着举足轻重的作用。只有 充分掌握市场的变化情况，企业才能更好的满足顾客需求，在竞争中立于 不败之地，使自己的产品适应市场的瞬息万变。同时，销售预测也是企业 经营与管理的重要组成部分，直接影响企业的生产计划，库存水平等。因 此，有必要对销售预测及预测方法作深入的研究。 传统的基于统计学的预测方法，如时间序列和回归分析法，在实际应 用中有一定的局限性，而模糊数学和神经网络的快速发展及应用为销售预 测提供了良好的思路。本文首先对模糊理论、神经网络理论和遗传算法进 行了综述，分析了基于实数编码遗传算法的优缺点，重点研究了实数编码 的改进线性交叉算子，提出了一种基于实数编码的改进遗传算法( m g a l ， 仿真结果表明，此算法在收敛速度和精确性方面具有显著优势。接着在总 结前人工作的基础上提出了基于遗传算法和负梯度下降法进行优化的二 阶段模糊神经网络优化算法( f b p n n ) ，第一阶段利用遗传算法优化模糊神 经网络中具有全局性的网络参数，第二阶段用梯度下降算法调节和优化具 有局部性的参数。这两种方法综合使用，可以大大提高模糊神经网络系统 的自学习性能和鲁棒性。 f b p n n 将模糊理论、神经网络理论、遗传算法这三种方法融于一体， 充分发挥了它们各自的优势，通过对沈阳黎明电机厂的y b 系列防暴电机 销售量预测分析表明，预测精度得到了明显提高，提高了企业的竞争力。 关键词： 模糊理论；遗传算法；实数编码；销售预测；模糊神经网络 负梯度下降 东北走学硕士学位论文 f u z z y n e u r a ln e t w o r k t e c h n i q u e sb a s e do ng a a n d a p p l i c a t i o n st os a l e sf o r e c a s t i n g a b s t r a c t s a l e sf o r e c a s t i n ga n dm a r k e tr e s e a r c hp l a ya ni m p o r t a n tr o l eu n d e rt h e e n v i r o n m e n to fm a r k e te c o n o m y e n t e r p r i s e sm u s tg r a s pt h em a r k e t sv a r i e t y i no r d e rt om e e tc u s t o m e r s d e m a n d ，m a k es u c c e s si nm a r k e tc o m p e t i t i o na n d a d a p tt h e i rp r o d u c t s t ot h ec u s t o m e r s s a t i s f a c t i o n i na d d i t i o n ，s a l e s f o r e c a s t i n gi sa l s oa ni m p o r t a n tp a r ti nt h em a n a g e m e n to fe n t e r p r i s e sw h i c h h a sag r e a te f f e c to np r o d u c t i o np l a n n i n ga n di n v e n t o r yl e v e l s oi ti s n e c e s s a r yt om a k et h o r o u g hr e s e a r c h e s0 ns a l e sf o r e c a s t i n gm e t h o d s t r a d i t i o n 鲥m e t h o d ss u c ha st i m es e r i e s r e g r e s s i o na n a l y s i sb a s e d0 n s t a t i s t i c sh a v et h e i rd i s a d v a n t a g e sr e s p e c t i v e l y w i t ht h ed e v e l o p m e n to f n e u r a ln e t w o r k sa n df u z z ym a t h e m a t i c s ，s o m en e wt e c h n i q u e sc a nb eu s e di n f o r e c a s t i n g as u r v e yo ff u z z yt h e o r y , n e u r a ln e t w o r ka n dg a i si n t r o d u c e d a tf i r s t a n dt h e nam o d i f i e dg e n e t i ca l g o r i t h m ( m g a ) i sp r o p o s e db a s e do n a n a l y s i n gt h ea d v a n t a g e sa n dd i s a d v a n t a g e so ft h eg e n e t i cm e c h a n i s m l i n e a rc r o s s o v e ro p e r a t o ri nt h er e a l - c o d e dg e n e t i ca l g o r i t h mi st h em a i n p o i n t i nt h i s p a p e r t h es i m u l a t i o nr e s u l t sw h i c hc o m p a r e d w i t ho t h e r r e a l - c o d e dg e n e t i ca l g o r i t h m sd e m o n s t r a t et h a tt h ep r o p o s e da l g o r i t h mh a s m o r ea d v a n t a g e si nc o n v e r g e n c es p e e da n dp r e c i s i o n t h i r d l y , af u z z yn e u r a l n e t w o r k ( f b p n n ) a l g o r i t h mb a s e do nt w op h a s e si sp r e s e n t e di nt h i sp a p e r i nt h ef i r s tp h a s e sg a o p t i m i z e sf u z z yn e u r a ln e t w o r ki ng l o b a la r e aa n di n t h es e c o n dp h a s e sm i n u s - g r a d ed e c l i n eo p t i m i z e si nl o c a la r e a u s i n gt h i s k i n do fc o m b i n e do p t i m i z a t i o na l g o r i t h mt h es e l f - l e a r n i n ga n dr o b u s tc a nb e i n c r e a s e di nt h en e t w o r k s f b p n nc o m b i n e sg a ，f u z z yt h e o r ya n dn e u r a ln e t w o r kw h i c hc a na d o p t t h e i ra d v a n t a g ee f f i c i e n t l y i ti s p r o v e dt h a tf b p n nc a ni m p r o v et h e f o r e c a s t i n gp r e c i s i o na n d e n h a n c et h ee n t e r p r i s e sc o m p e t i t i o ni na p p l y i n gt o s a l e sf o r e c a s t i n go fy bs e r i e se l e e t r o m o t o ri n s h e n y a n gl i m i n ge l e c t r i c i i i 独创性声明 本人声明所呈交的学位论文是在导师的指导下完成的。论文 中取得的研究成果除加以标注和致谢的地方外，不包含其他人已 经发表或撰写过的研究成果。与我一同工作的同志对本研究所做 的任何贡献均已在论文中作了明确的说明并表示了谢意。 本人签名：剥，；：生 日期：? r2 ，五p 学位论文版权使用授权书 本学位论文作者和指导教师完全了解东北大学有关保留、使 用学位论文的规定：即学校有权保留并向国家有关部门或机构送 交论文的复印件和磁盘，允许论文被查阅和借阅。本人同意东北 大学可以将学位论文的全部或部分内容编入有关数据库进行检 索、交流。 ( 如作者和导师同意网上交流，请在下方签名：否则视为不 同意。) 学位论文作者签名：导师签名： 东北大学硕士学位论文第一章绪论 1 1 本文的研究背景 第一章绪论 自2 0 世纪9 0 年代以来，越来越多的企业将计算机技术引入到其生产 和工作的日常管理中。从最初的电子数据处理e d p ( e l e c t r o n i ed a t a p r o c e s s i n g ) ，到管理信息系统m i s ( m a n a g e m e n ti n f o r m a t i o ns y s t e m s ) ，到决 策支持系统d s s ( d e e i s i o ns u p p o r ts y s t e m s ) ，发展到后来的企业资源计划 e r p ( e n t e r p r i s e r e s o u r c e sp l a n n i n g ) ，以及客户关系管理c r m ( e u s t o m e r r e l a t i o n s h i pm a n a g e m e n t ) ，不仅使企业的管理者从繁琐的事务中解放出来， 更能协助管理者制订企业发展的决策和方针。 现代化大生产中的现代企业是开放式系统，其经营活动总是在一定的 环境中进行，与环境的各个方面有着千丝万缕的联系。环境的变化必然对 企业的经营产生影响。构成企业营销环境的各种外部因素，诸如政治环境、 经济环境、科技进步、竞争结构等，对企业来说，是不可控制、不依企业 的主观愿望为转移的。但是，这些外部因素对企业的影响，有时是可认知、 可预测的。为了达到经营目标，可以通过对其它可控制的营销因素，如产 品品质、价格水平、分销途径、促销业务等的调整、重新组合，尽可能地 适应营销环境的变化。适应不断变化的市场环境，这是企业经营成败的关 键，所谓“适者生存”就是指企业善于适应环境，得到了生存、发展和壮 大，而对环境变化估计错误或预测不及时的企业，经营往往被动甚至破产 倒闭。 所谓预测就是“鉴往知来”，通过对过去的分析研究，找出其发展变 化的规律性，用以了解未来的情况。具体来说，预测是在调查过去和现在 的基础上所作的科学分析，以其变化规律来预测和推断未来。 市场调查与销售预测是商品经济的产物，随着商品经济的发展和市场 的扩大，企业为了了解人们的需求，使自己的产品适应市场需要，他们对 市场调查与销售预测越来越重视。市场销售预测是在对影响市场供求变化 的诸因素进行系统地调查和研究的基础上，运用科学的方法，对未来市场 产品的供需发展趋势以及有关的各种因素的变化，进行分析、预见、估计 和判断。没有准确的市场预测，就不可能有正确的经营决策和科学的计划。 东北大学硕士学位论文第一章绪论 经营决策正确与否，往往关系到个企业的兴衰成败。另外，预测商品销 售量，也是工商企业经营与管理的组成部分。作为销售商品的地区，销售 量越大，企业的经济效益就越好。预测某地区未来的销售量趋势，直接影 响企业产品的生产计划，库存保持量等。因此，销售预测也是企业决策层 制订生产经营规划的重要依据。实践使人们认识到，企业管理的关键在经 营，经营的中心是决策，决策的前提在预测。这就说明了销售预测在企业 经营管理中的作用。 目前常用的预测方法有许多种，主要有时间序列预测法，平滑预测法， 趋势线预测法，回归预测技术等。虽然这些方法己在各种场合得到了应用， 但它们或多或少存在着以下欠缺：首先，模型大多只能应用于线性场合， 对于非线性场合不能很好地应用；其次，难以应用于多因素场合；还有， 模型的建立依赖于预测人员对具体问题的了解程度和他个人在预测方面 的经验。但是，各地区销售市场诸多因素对销售量的影响是十分复杂的， 有些问题涉及的算法或规则是不可知的，很难用以往的线性或非线性函数 来准确描述，获得精确的结果。 近年来，科学技术得到了极大发展，如何把最新的科学技术引入到销 售预测中，提高销售预测的精度，成为大家所关注的课题。随着人工神经 元网络、模糊集理论和遗传算法等非线性科学技术在各个行业的广泛深入 应用，为解决上述问题提供了机遇。 人工神经元网络具有信息分布存贮和并行处理等特点及自组织、自学 习的功能。利用其极强的非线性函数逼近能力，能对难以精确描述的复杂 非线性进行建模，从而实现对复杂非线性对象进行有效的控制或模拟，它 在模式识别、图像处理、非线性建模和控制、预报预测、组合优化和人工 智能等方面得到了十分广泛的应用。可利用其进行销售预测，对于所要解 决的问题，只需给出若干训练样本，神经网络就可通过自身的学习来完成。 基于以上特点，将人工神经网络应用于销售预测，在继承原有方法优点的 基础上，有望解决原有方法难以解决的一些复杂问题，具有重要的科学和 现实意义。 模糊集理论是在模拟人类思维具有模糊性的基础上创立的，它的出现 使人们对现象的不确定性理解有了更深的认识，并在模糊控制、模式识别、 聚类分析、系统评价、系统决策、人工智能及信息处理等方面取得了显著 成就。模糊现象、概念在销售预测中大量存在，因此将模糊集理论引入到 模型中，可以提高模型的学习能力和知识表达能力，从而提高销售预测模 型的可靠性和销售预测的精度【l 】。 2 东北大学硕士学位论文 第一章绪论 模糊逻辑，神经网络理论，遗传算法和其他的学习理论相融合，形成 了一种协作体，这种融合并非杂乱无章地进行拼凑，而是通过各种方法解 决本领域的问题并互相取长补短，从而形成了各种方法的协作。从这个意 义上讲，各种方法是互补的，而不是竞争的。在协作体中，各种方法起着 不同的作用。通过这种协作，产生了混合智能系统。将模糊逻辑和神经网 络这两种计算方法相结合，取长补短，形成了一种协作体一一模糊神经网 络，使之应用于销售预测中，可以使预测结果更加可靠和精确。 1 2 国内外发展状况和趋势 长期的实践中人们开发了许多种销售预测方法1 2 1 ，传统的基于统计学 的预测方法大致有两种，即时间序列和回归分析法。早期的预测技术主要 是时间序列法，它分为确定性时序法和随机性时序法，前者包括时间序列 平滑法，趋势外推法和季节变动法；后者包括马尔科夫法和b o x j e n k i n s 法( 又称a r m a 模型法) 等，其中b o x j e n k i n s 法最成功使用最广泛，但这 些方法被广泛应用的同时也表现出很多缺陷和局限性如预测精度不能满 足实际工程的要求，在节假日的预测效果不令人满意，加上不具各自适应 和自学习的能力，预测系统的鲁棒性没有保障等。 回归预测技术是一种应用广泛的基本预测技术，根据历史资料的变化 规侮寻找自变量与因变量之间的回归方程式，确定参数模型丽做出预测。 在回归模型的确定上，根据历史资料和未来发展分析。由于模型是基于历 史资料进行回归分析，能较好的拟合过去，但对未来的预测效果会随时间 的延长而减弱。运用该方法的优点是预测过程简单，参数估计技术比较成 熟，缺点是线性回归模型预测精度较低：而非线性回归预测计算开销大， 预测过程复杂。适用于中长期预测【3 】。 近年来科研工作者逐渐将一些新的理论应用于负荷预测中，提出了一 些预测的新方法，包括人工智能技术的应用等。以下将几种方法简单加以 介绍： 灰色预测法。灰色系统理论将一切随机变化量看作是在定范围内变 化的灰色量，常用累加生成( a g o a c c u m u l a t e dg e n e r a t i n go p e r a t i o n ) 和累 减生成( i a g o i n v e r s ea c c u m u l a t e dg e n e r a t i n go p e r a t i o n ) 的方法，将杂乱 无章的原始材料整理成规律性较强的生成资料列。用灰色模型( o m g r e y m o d e l ) 的微分方程作为短期销售额的预测时，求解微分方程的时间响应函 3 东北大学硕士学位论丈 第一章绪论 数表达式即为所求的灰色预测模型，对模型的精度和可信度进行校验并修 正后，即可用模型预测未来的销售。此法适用于短、中、长三个时期的预 测。在建模时不需要计算统计特征量，从理论上讲，可以适用于任何非线 性变化的销售预测分析。优点是其微分方程指数解适合于具有指数增长趋 势的资料。对于具有其它趋势的资料则有时拟合灰度较大，精度难以提高。 作为人工智能的重要技术之一的专家系统在短期负荷预测的应用也 很广泛。专家系统是建立于人类专家知识上的逻辑推理模型。在实用中一 般与某种其他方法如人工神经网络相结合把实际运行人员的经验应用于 销售预测系统中。而将人类专家的经验解释为规则的过程是比较困难的。 组合预测方法，在预测实践中，对同一问题往往可采用不同的预测方 法，不同的预测方法提供不同的有用信息，其预测精度往往也不同。如果 简单的将预测误差较大的一方舍弃掉，将会丢失一些有用的信息。一种更 为科学的做法是将不同的预测方法进行适当的组合，从而形成所谓的组合 预测。组合预测可以燕合各种预测模型的优点，综合利用各种方法所提供 的信息，提高预测精度。但组合预测也存在问题，比如权重的正负性问题， 权重的最优问题，交权重问题，单项模型组合形式问题等。 1 9 6 5 年，美国著名的控制论专家l a z a d e h 4 j 发表了第一篇开创性论 文“f u z z ys e t s ”，标志了模糊数学的诞生；2 0 世纪7 0 年代模糊理论继续 发展并出现了实际的应用；8 0 年代模糊理论大规模应用使其产生巨大飞 跃，目前模糊数学已经在模糊控制、模式识别、聚类分析、系统决策、人 工智能及信息处理等多方面得到了广泛的应用。人工神经网络虽然诞生于 1 9 4 3 年，但这一研究在历史上曾一度陷入低谷，直到2 0 世纪8 0 年代才开 始复兴，并迅速成为信息科学、脑神经科学和数理科学的“热点”。人工 神经网络是直接模拟人脑的结构和功能的新兴学科，其特性决定了对它研 究的重要价值是智能化。然而，单纯地研究神经网络来实现这一价值是很 困难的，所以必须把智能科学同对神经网络的研究有机地结合起来。神经 网络不适于表达基于规则的知识，因此对神经网络进行训练时，由于不能 很好地利用已有的经验知识，常常只能将初始值取为零或随机数，从而增 加了网络的训练时间或陷入非要求的局部极值。而将模糊逻辑与神经网络 结合，则网络中的各个结点及所有参数均有明显的物理意义，因此这些参 数的初值可以根据系统的模糊或定性的知识来加以确定，然后利用学习算 法可以快速收敛到要求的输入输出关系，这是模糊神经网络比单纯的神经 网络的优点所在。同时，由于它具有神经弼络的结构，因而参数的学习和 调整比较容易，这是它比单纯的模糊逻辑系统的优点所在。模糊神经网络 4 东北大学硕士学位论文 第一章绪论 控制已成为种趋势，它能够提供更加有效的智能行为、学习能力、自适 应特点、并行机制和高度的灵活性，使其能够更成功地处理各种不确定的、 复杂的、不精确的和近似的控制问题【5 1 。模糊神经网络就是在这一背景下 产生的。它是模糊数学和神经网络相结合的产物，汇集了神经网络与模糊 数学的优点，集学习、联想、识别、自适应及模糊信息处理于一体。以下 对它在预测方面的应用作了一些有益的讨论。 m a c h e r 等 6 】应用b p 网络对水文时间序列进行预报，在4 条河流上的 应用结果表明神经网络的预测效果在短期预测上优于其它传统的方法。 s u n g s u k k i m 7 】于1 9 9 8 年将延时神经网络应用于股市相关性分析和预 测。 r a m a n 等 8 】应用三层b p 神经网络模型进行了多变量水文时间序列的 模拟，用于训练的样本是印度的m a n g l a m ，p o t h u n d y 两水库1 9 7 7 年一一 1 9 9 0 年的月径流序列，用训练好的网络来模拟月径流序列，结果表明，神 经网络模型具有较高的精度，该文认为用神经网络模型模拟水文序列是可 行的。 f r e n c h 等1 9 】用一个3 层b p 神经网络预测雨强场的时空分布，把当前 雨强场作为输入预测1 小时以后的雨强场，结果表明，神经网络能较好地 预测训练中出现的事件。 p a r k 等【1 0 】首次提出采用b p 模型进行电力系统的负荷预测。文中研究 了用不同的特征量( 也即b p 模型的输入量) 预测不同的负荷。此后一些学者 在此基础上作了一些改进和扩展工作i “】，提出了b p 模型的自适应训练算 法，该算法提高了训练速度，对短期负荷预测较标准b p 算法更有效。 l e e 1 2 】运用人工神经网络技术对短期负荷预测进行了研究。 另外，许多国外学者对模糊神经网络的应用作了大量的研究【1 3 1 9 】，在 此就不一一列举，下面介绍一下国内学者在这一领域所作的贡献。 沙磊等1 2 0 在介绍了b p 神经网络原理的基础上，建立了一个上海住宅 市场的b p 神经网络模型，并通过该模型对上海住宅市场的需求进行了预 测和分析。分析结果表明人工神经网络方法在住宅市场需求预测中的应用 是可行的并且是有效的。 张俊才等【2 1 】建立了b p 神经网络的初始预测模型，并用医院库存的历 史数据进行了网络训练。利用此模型对大坪医院器材进行需求预测，方针 结果表明，此方法大大降低了医院库存成本，为医疗器材的采购和库存管 理决策提供了依据。 陈兴等【2 2 】采用基于t - s 模型的模糊神经网络，用改进的遗传算法来训 5 东北大学硕士学位论文 第一章绪论 练网络权值，隶属函数参数调整算法则采用动量法和学习率自适应调整相 结合的策略，以上证指数和厦新电子( 个股) 为研究对象予以建模和预测。 结果表明，此种模型具有较好的泛化、学习、映射能力，对股票市场或类 似的非线性经济系统的走势研判或其相应预测决策具有较好的应用价值。 吴财芳等1 2 3 】用自适应模糊神经网络技术建立煤与瓦斯突出预测系统， 以模糊数学作为表达与处理不精确数据、模糊信息条件的手段，以自适应 b p 神经网络作为解决问题的途径。结果表明：方法可行，预测精度高， 能够满足要求，进一步充实了煤与瓦斯突出区域预测理论。 盂祥泽等【2 4 】提出一种基于模糊神经网络的股票市场建模与预测方法， 并采用遗传算法训练网络权值及模糊子集的划分。对于上证指数及个股( 上 海石化) 的建模与预测结果表明，该方法具有很强的学习与泛化能力，在处 理诸如股票市场这种具有一定程度不确定性的非线性系统的建模与预测 方面有很好的应用价值。 姜飞等【2 提出用于电力短期负荷预测的一种模糊神经网络方法，该方 法针对b p 网络收敛速度慢、易导致局部极小值的缺点，将考虑气候、温 度、星期类型等影响因素的模糊技术与快速二阶b p 网络相结合，并以南 方电网负荷预测为例，应用m a t l a b 语言对系统进行仿真训练，测试结 果表明，该方法具有较高的预测精度。 张帆等 2 6 1 提出了用b p 神经网对卫星成本进行二维估算，即先求出样 本点集扩散到控制点集中的模糊数，然后将对应同一控制输出变量的控制 输入变量的模糊数作为学习样本，让b p 神经网进行学习。学习后的b p 神经网就能在给定输入变量的情况下，估算出输出变量。最后，给出了小 卫星成本的质量和定点精度模糊b p 神经网估算的实例，取得了满意的结 果。 王艳辉 2 7 1 等提出了分段模糊b p 神经网络对铁路客运量进行数据挖掘 预测。通过对铁路客票数据的分段处理，提高了网络学习的收敛速度和预 澳4 精度，为预测铁路客运量提出了一种新思路。 目前，模糊神经网络的理论研究方面虽然取得一系列成果，但面临的 问题仍很多。怎么利用模糊神经网络来处理带有畸变的模糊信息? 这其中 又如何引进合适的模糊信息间差异的度量? 如何简化模糊控制器的量化 过程，将其转换成易于学习的算法? 如何确定学习指标，构成有效的模糊 控制学习系统? 如何将模糊控制器的调整转化为等价的神经网络学习，利 用等价的模糊逻辑来初始化神经元网络以及模糊神经网络的稳定性、收敛 性等，都是有待进一步研究的问题。另外目前国内外模糊神经网络的研究 6 东北大学硕士学位论文 第一章绪论 者，绝大多数均集中于b p 神经网络与模糊逻辑融合的模糊神经网络，由 于b p 网络本身存在的一些固有缺陷，造成了融合后的网络也存在着一些 缺陷。这些缺陷主要有：学习收敛速度慢，容易陷入局部极小，实时学习 能力差和泛化能力有待增强。因此，当前迫切需要根据各个领域的要求， 进一步开拓研究新型模糊神经网络，并探讨其在各个领域中的应用。 近年来，模糊神经网络领域的研究日益增多，主要反映在如下几个方 面 2 8 】： f 1 ) 模糊神经元及其结构机理研究； ( 2 ) 模糊神经网络的拓扑结构研究： ( 3 ) 模糊神经网络的学习算法研究； ( 4 ) 模糊神经网络的优化方法研究； ( 5 ) 模糊神经网络的应用研究； 本文就是针对学习算法进行研究盼，引入了遗传算法以提高其性能和 速度，同时又把这种算法应用到销售预测中，通过和其它预测方法比较， 证明效果良好。 1 3 本文的主要工作 本文研究的内容有以下几部分，首先介绍了选题背景以及预测技术和 模糊神经网络的发展状况和趋势。由于模糊神经网络是模糊逻辑和神经网 络相结合的产物，因此以这两种理论为基础，接着介绍了模糊数学和人工 神经网络的基础理论。由于在模糊神经网络在训练过程中进行权值优化， 传统的梯度下降等方法有其缺陷，所以本文引入了智能优化算法一一遗传 算法结合梯度下降法进行优化，且为了弥补二进制编码的不足，故第三部 分在介绍遗传算法基本内容的基础上提出了一种基于实数编码的改进遗 传算法，通过仿真，结果显示它在收敛速度和精度方面具有优势。第四章 在总结前人工作的基础上运用改进遗传算法提出了基于遗传算法和梯度 下降法进行优化的二阶段模糊神经网络优化算法。并进行了非线性拟合， 说明其效果不错。第五章进行了实例分析，将模糊神经网络算法运用到沈 阳黎明电机厂的y b 系列电机的销售量预溯中，通过和其它传统预测方法 比较，结果表明，预测精度得到了提高。 比较，结果表明，预测精度得到了提高。 7 东北大学硕士学位论文 第二章模糊理论和神经网络技术介绍 第二章模糊理论和神经网络技术介绍 2 1 模糊理论概述 模糊理论是以模糊数学为基础的，模糊数学是一种表达和处理模糊信 息的数学工具，并不是“模糊”的数学，它是采用严格的精确的数学手段 来处理“模糊”现象以达到消除“模糊”的一门数学。其核心是模糊集合 论。而模糊集合表述的则是现实世界中大量的、其元素归属界限不清晰、 不分明的那些集合。大量的事实表明许多事物过分的追求精确反倒更模 糊；相反，适当的模糊处理反而达到更精确的目的。其关键在于如何寻求 适当的数学语言来描述事物的模糊性。 美国伯克莱加州大学电气工程系l a z e d e h 教授于1 9 6 5 年，在 i n f o r m a t i o na n dc o n t r 0 1 ) ) 杂志上发表了“f u z z ys e t ”，宣告了“模糊数 学”的诞生，创立了模糊理论，主要包括模糊集合理论、模糊逻辑和模糊 控制等方面的内容。 2 1 1 模糊集合定义 定义2 1 ：设论域【，称映射 心：u 叫o ，1 】 ( 2 1 ) 确定了u 的一个模糊( 子) 集j 。心( ”) 称为j 的隶属函数。常把z a ( u ) 简 记为j ( 甜) ，心( “) 也表示元素“属于j 的程度，简称隶属度。 模糊子集完全由隶属函数所刻画。当j ( “) 仅取0 ，1 二值时，j 便是普 通子集。所以普通子集是模糊子集的特例，模糊子集是普通子集的推广。 论域u 上的全体模糊子集构成的集合称为模糊幂集。显然有 f ( u ) p ( u ) ( 2 2 ) 8 东北大学硕士学往论文 第二章模糊理论和神经网络技术介绍 如果j f ) p ( u ) ，则称量为真模糊( 子) 集，此时至少存在一 e u ，j ( ) 硭 0 , 1 ，即o j ( ) 1 。 2 1 2 模糊集合的表示法 模糊集合有各种不同的表示方法： ( 1 ) z e d e h 表示法 给定有限论域x = 焉，屯，毛) ，a 为x 上的模糊集合 4 ：丝+ 丝+ 十盗 ( 2 3 ) x lx 2x h 如果z 是无限不可数集，可表示为 彳= p ( x ) x ( 2 4 ) 其中“”不是通常的分数线，只是一种记号，它表示论域u 上的元素 “与隶属度量( z ) 之间的对应关系。“+ ”和“j ”也不表示通常意义下的求 和和积分，而是表示各项汇总，表示集合概念。若“= o ，式( 2 3 ) 中可以略 去该项。 ( 2 ) 向量表示法 当论域x 为有限点集，即x = x 1 ，x 2 ，矗) 时，上面的模糊集可以用向 量 来表示，即 爿= ( j 。，2 ，以)( 2 5 ) 这里h = 彳( 五) ，f = l ，2 ，h 。一般地，若以向量的每个坐标都在【o ，1 】 之中，则称其为模糊向量。在向量表示法中，隶属度为零的项不能省略。 ( 3 ) 序偶表示法 将论域中的元素而与其隶属度4 x , ) 构成序偶来表示a ，则 9 东北大学硕士学位论文 第二章模糊理论和神经网络技术介绍 a = ( _ ，一( ) ) ，( 而，4 ( 屯) ) ，( 矗，4 ( ) ) ( 2 6 ) 此表示法中隶属度为零的项可以不列入。 ( 4 ) 函数表示法 根据模糊集合的定义，论域u 上的模糊子集彳完全可以有隶属函数 爿( 簟) 来表征，而隶属函数爿 ) 表示元素t 对a 的从属程度大小。 例如，以年龄作论域，取u = o ，2 0 0 】。z e d e h 给出了“年老”d 和“年 轻”y 两个模糊集合的隶属函数式，分别为 如( 工) = 4 ( 工) = 2 1 3 隶属函数 1 + ( 学 。2 - l 1 + ( 竽 。2 - 1 o z 5 0 5 0 x 2 0 0 o s x s 2 5 2 5 x 2 0 0 隶属函数是一种映射，一个元素对应一个实数值；用于描述某个元素 隶属于某个“集合”的程度的度量，取值范围为 0 ，1 。模糊集合是元素和 其对应的隶属函数的有序对；一个模糊集是由其隶属函数唯一决定。 隶属函数在模糊数学中占有重要地位，它是把模糊性进行数值化描 述，使事物的不确定性在形式上用数学方法进行计算。在实际应用中隶属 函数的正确选择是首要的工作，若选取不当，则会背离实际情况而影响结 果。但是怎样确定隶属函数，在理论上还没有一个普遍适用的方法。 这里提供几种实际中建立隶属函数a ( x 1 的常用方法。 1 加权法 首先由专家确定能体现4 的基本特征及其权重q ( i = 1 ，2 ，门) 。其次让 每一特征啦，对应分明集4 = x l 旗有特征q ，则a 的隶属函数可取作 1 0 东北大学硕士学位论文第二章模糊理论和神经网络技术介绍 一( x ) = 吉喜q 4 ( x ) 其中，口= q ，4 ( x ) 是4 的特征函数。 2 模糊统计法 随机地选取一个很熟悉f 概念a 的人( 最好取这方面的专家) ，让每个 人指出他所理解的a 的确切外延4 ( 分明集) ，贝4 可规定 4 ( x ) = 丢妻i - 14 ( x ) 其中4 0 ) 是4 的特征函数。 3 专家打分法 若论域有限，有时可由专家直接评定或群众打分的办法确定一0 ) 在各 点的值。 4 插值法 ( 1 ) 设彳( x ) 满足： ( a ) 存在唯一一组数_ 屯 而 _ ，使一) = 4 ( _ ) = 0 ， 一( 工：) ：4 ( 屯) ：昙，4 ( ) ：1 ( b ) 4 ( x ) 在【而，】上单增，在 x o ，矗】上单减，则可取 爿( x ) = 兰二苎l t x o 一 j f 垫= 苎下 l x 4 一j x 1 x x o x o s x s x 4 0 ，其它 其中选取参数卢使f爿xo-x。j=fx童。二-墨xojxojl x x o j 丫= 当2 ( 即保持最模糊点不变) 。 东北大学硕士学位论文 第二章模糊理论和神经网络技术介绍 ( 2 ) 设a e f ( 【口，h i ) ，在【a ，b 】内插入n - 1 个等分点a = x o x 1 吒= b 。 通过试验或由专家确定4 ( x ) 在诸x 。点处的值y ，则可取 m ，= 喜m ，( 早) 其州垆2 哦2 + 1 ：黔 = 了b - a 5 标准函数法 分析a o ) 的变化趋势，看它与哪个标准函数相似，然后适当的选取参 数( 比如通过特殊点取值) 即可得出a ( x ) 。 下面介绍在实际应用中经常用到的三类隶属函数2 9 1 。 ( 1 ) s 函数( 偏大型隶属函数) s ( x ；a ，b ) = o z 4 2 ( 若 2 ， ，一2 f 型 2 ， l b 一疗j 1 ， 口 x s 竺生 2 a + b x 6 dx 这种隶属函数用于表示像年老、热、高、浓等表示偏向大的一方的模 糊现象如年老可以定义为a ：a ( x ) = s ( x ；5 0 ，7 0 1 ，如图2 1 所示 ( 2 ) z 函数( 偏小型隶属函数) z ( x ；a ，6 ) = 1 一s ( x ；a ，6 ) 这种隶属函数可用于表示像年轻、冷、矮、淡等偏向小的一方的模糊 现象。 ( 3 ) n 函数( 中间型隶属函数) 础；咖，= 溅勰2 鹦 这种隶属函数可用于表示像中年、适中、平均等趋于中间的模糊现象。 1 2 东北走学硕士学位论丈 第二章模糊理论和神经网络技术介绍 2 1 4 模糊关系 图2 1 年龄的隶属函数 f i g 2 1a g e sm e m b e r s h i pf u n c t i o n 在只常生活中除了如“x 和y 相等”和“x 比y 大”等概念清晰的普通 逻辑关系之外，还会遇到一些不完全确定的关系，如“x 和y 大致相等”， “x 比y 大得多”。利用模糊集的概念来表达这种不完全确定的关系就是模 糊关系3 0 】。模糊关系广泛应用于模式识别、分类、推论和系统控制等领域。 1 模糊关系的定义 集合和y 之间的模糊关系( f u z z y r e l a t i o n ) r ，是指定义在直积x y 上的模糊子集，其隶属函数如下： 胁：x x y 斗【0 ，1 】 当和y 相同时，r 称为x 上的模糊关系。 当论域为 2 个集合置( f - 1 ，2 ，”) 的直集x x x ：x 。时，它们所对应 的模糊关系r 则被称为n 元模糊关系。 当z 和，均为有限子集，即x = “，x 2 ，靠) ，y = y i ，一：， ，则x 王， 上的模糊关系可由下列矩阵表示： 】3 东北大学硕士学位论文 第二章模糊理论和神经网络技术介绍 r = 心( x ，y 1 ) 饰“，y 2 ) 胁( 而，儿) 缘( 屯，乃) 段( 而，y 2 ) 胁( 而，咒) i ! 缘( 靠，h ) ( 靠，耽) a 。( x ，一) 上述矩阵称为模糊矩阵，其元素d r ( x t ，m ) 取值范围在0 和1 之间。 2 模糊关系的运算 因为j 和y 之间的模糊关系是定义在x y 上的模糊子集，因此，模糊 集之间的运算能够直接应用到模糊关系的运算上。设模糊关系 r 、s f ( x ，y ) ，且存在( x ，y ) ( x x y ) ，则模糊关系运算为： a 并集：r u s 卜斗舫( x ，y ) = g r ( x ，y ) v , u s ( x ，y ) b 交集：r n s 卜哼胁x ，y ) = 胁( 而y ) a - t s ( x ，y ) c 补集：r 。卜_ 心( x , y ) = 1 - , u r ( x , y ) d 等价关系：r = s 卜j u r ( x ，y ) = 风( x ，y ) e 包含关系：r s h 胁( x ，y ) 凰( x , y ) 式中z a d e h 算子“v ”表示“取最大”的运算，“，、”表示取“最小值” 的运算。 有时，已知x x y 中一个模糊关系r 和y x z 中一个模糊关系s ，通过r 和s 来求出x x z 上的模糊关系q 。对这类问题，可以通过模糊关系合成来 解决。 令r 、s 分别为x 】，和y x z 上的模糊关系，则q 是x z 上的模糊关 系，它是丑s 的合成，其隶属函数被定义为： q = r s 扣一心s 0z ) = 甚 心0y ) 胁( y ，z ) ) 这种合成也称为最大值一一最小值合成( m a x - m i nc o m p o s i t i o n ) 。 1 4 东北大学硕士学位论文第二章模糊理论和神经网络技术介绍 2 1 5 模糊产生器和反模糊化器 模糊产生器的功用在于将u c r ”上的一个确定的点z = ( t ，屯，矗) 7 映射为一个模糊集合爿，其映射方式有两种。 1 单值模糊产生器：若模糊集合彳对支撑集x 为模糊单值，则对某一 点z = x ，有一( x ) = 1 ，而对其余所有的x z ，有a ( x ) = 0 。 2 非单值模糊产生器：当x 时，4 ( x ) = 1 ，但当x 逐渐远离x 时， 爿o ) 从1 开始减。例如，爿o ) 常取为e x p ( 一( 卫一) 1 ( x 一z ) 盯2 。 在大多数应用中，我们采用单值模糊产生器。 反模糊化器的功用在于把v c r 上的一个模糊集合爿映射为一个确定 的点，常见的去模糊化策略如下】： 1 c e n t r o i d ( 面积中心法) 面积中心方法又称重心法，即计算隶属度函数曲线包围区域的重心。 对于连续论域的情形，设【，是某一变量“在论域u 上的模糊集合，则去模 糊化的结果为 z = 2 b i s e c t o r ( 面积平分法1 所谓面积平分法，即计算出将隶属度函数曲线包围面积平分为两部分 的某一点，并取该点为去模糊化的结果。 3 m o r n ( 平均最大隶属度方法) 所谓平均最大隶属度方法，即取模糊集合中具有最大隶属度点的平均 值作为去模糊化的结果。 4 s o m ( 最大隶属度取最小值方法) 所谓最大隶属度取最小值方法，即取模糊集合中具有最大隶属度的所 有点中的最小的一个作为去模糊化的结果。 5 l o r e ( 最大隶属度取最大值方法) 所谓最大隶属度取最大值方法，即取模糊集合中具有最大隶属度的所 1 5 东北大学硕士学位论文 第二章模糊理论和神经网络技术介绍 有点中的最大的一个作为去模糊化的结果。 2 2 人工神经网络概述 人工神经网络是在人类对其大脑神经网络认识理解的基础上，人工构 造的能够实现某种功能的网络。它是实际模仿人脑神经网络和结构而建立 一种信息处理系统，是大量的处理单元相互连接组成的复杂的网络，能够 进行复杂的逻辑操作和非线性关系的实现。它们的网络结构、性能、算法 及应用领域各异，但均是根据生物学事实衍生出来的。由于其处理单元是 对神经元的近似仿真，因而被称之为人工神经元。 人工神经网络的研究始于1 9 4 3 年，经历了6 0 年的发展，目前已经在 许多工程研究领域得到了广泛的应用1 3 2 1 。 2 2 1 人工神经元模型 人工神经元是生物神经元的模拟和抽象。这里所说的抽象是从数学角 度而言，所说的模拟是以神经元的结构和功能而言的。如图2 2 是一种典 型的人工神经元模型1 3 3 1 。 x l x 2 x n 图2 2 人工神经元模型 f i g 2 2m o d e lo fa r t i f i c i a ln e u r a ln e t w o r k 人工神经元相当于一个多输入单输出的非线性罚值器件。这里的刀表 示露个输入：馥表示与它相连的第个突触的连接强度，其值称为权值：0 表示神经元的输出。人工神经元的输出可描述为 1 6 东北大学硕士学位论文 第二章模糊理论和神经网络技术介绍 0 = ，( 彤置- 8 ) ( 2 7 ) 式中，( z ) 是表示神经元输入输出关系的函数，称为激活函数或输出 函数。口表示这个人工神经元的阀值。 其中： 矿一权矢量( w e i g h tv e c t o r ) 矿皇阵 i z 一一输入矢量( i n p u tv e c t o r ) x 皇 墨 五 ： x ， 激活函数有许多种类型，其中比较常用的激活函数可归结为三种形 式：阀值型，s 型和线性型。 阀值型激活函数是最简单的，它是由美国心理学家m c c u l l o c h 和数学 家p i t t s 共同提出的，因此常称为m