（计算机应用技术专业论文）基于粗糙集和神经网络的故障诊断方法研究.pdf

中北大学学位论文 基于粗糙集与神经网络的故障诊断方法研究 摘要 目前，故障诊断己经发展到了智能阶段，而智能故障诊断技术的研究重点已经逐渐 由传统的人工智能转向新兴的计算智能领域。计算智能领域的一些理论，如人工神经网 络，粗糙集理论等己经在故障诊断中得到了广泛应用。人工神经网络) 是一种自适 应非线性动力学系统，具有可学习性和并行计算能力，可以实现分类、自组织、联想记 忆等功能。粗糙集( r s ) 理论是一种刻画不完整性和不确定性的数学工具。它能有效地分 析和处理不精确、不一致、不完整等各种不完备信息，并从中发现隐含的知识，揭示潜 在的规律。粗糙集理论可以弥补神经网络不能确定哪些知识是冗余的，哪些知识是有用 的，训练时间过于漫长的局限性。因此，将神经网络与粗糙集理论结合来完成故障诊断 是很有意义的。 本文在对现有的粗糙集神经网络结合的故障诊断方法分析的基础上，重点研究 了属性约简的方法。主要作了以下几方面工作： 1 当故障系统中包含多个条件属性时，提出一种先将决策表分块再约简的方法， 并对该方法的可行性和算法的时间复杂度进行了分析，分析结果表明分块建立决策表再 约简的方法是可行的，可以降低约简的复杂度，从而缩短约简工作的时间。 2 结合一个轴承故障诊断的实例，给出了用前述方法对故障数据进行处理的全过 程，并用m a t l a b 的图形用户界面g u i 设计了一个b p 神经网络，对学习样本集不断 学习训练，网络训练好后，对测试样本集进行仿真，得到了正确的诊断结果。实例证明， 提出的故障诊断方法是可行的。 关键字粗糙集，神经网络，故障诊断，分块决策表，属性约简 中北大学学位论文 ar e s e a r c ho n af a u l td l g n o s i sm e t h o d w i t ht h ec o m b i n a t i o no ft h er o u g hs e t s t h e o r y a n d a n n s uj i a n f e iz h a oh a n d o n g a b s t r a c t n o w a d a y s ，f a u l td i a g n o s i sh a sd e v e l o p c t h ei n t e l l i g e n tp h a s eo nw h i c ht h ee m p h a s i s o fr e s e a r c hh a st u r n e dt ot h er i s i n gc o m p u t a t i o n a l i n t e l l i g e n c e f r o mt h et r a d i t i o n a l a r t i f i c i a l i n t e l l i g e n c e s o m et h e o r i e so fc o m p u t a t i o n a li n t e l l i g e n c e ，s u c ha sa r t i f i c i a l n e u r a ln e t w o r k ( a n n ) a n dr o u g hs e t ( r s ) ，h a v eb e e nw i d e l ya p p l i e di nf a u l td i a g n o s i s a n ni sas e l f - a d a p tn o n - l i n e a rd y n a m i c ss y s t e m i th a sa b i l i t i e so fl e a r n i n ga n dp a r a l l e l c o m p u t i n g ，a n di tc a l lb eu s e dt oc l a s s i f y , s e l f - o r g a n i z ea n da s s o c i a t i o nm e m o r y r st h e o r yi s am a t h e m a t i c a lt o o lo fd e p i c t i n gi n c o m p l e t ea n de f f i c i e n t l ya l lu n c e r t a i nk n o w l e d g e i tc a n a n a l y s i sa n dp r o c e s sk i n d so fi m p r e c i s e ，i n c o n s i s t e n ta n di n c o m p l e t ei n f o r m a t i o n ，d i s c o v e r c o n n o t a t i v ek n o w l e d g e ，a n dr e v e a lp o t e n t i a lr u l e s r st h e o r yc a nm a k eu pt h el i m i t a t i o n so f a n nw h i c hi st h ep o o ra b i l i t yo fd e t e r m i n i n gt h er e d u n d a n c yo ru s e f u l n e s so ft h ek n o w l e d g e a n dt h el o n gt r a i n i n gt i m e s ot h ec o m b i n a t i o no fa n na n dr st h e o r yi sm o r es i g n i f i c a n t t h i st h e s i sm a i n l ys t u d i e st h em e t h o do fd i s c r e t i z a t i o no fc o n t i n u o u sa t t r i b u t e sa n d r e d u c t i o no fa t t r i b u t e sb a s e do nt h ea n a l y s i so fe x i s t i n gf a u l td i a g n o s i sm e t h o dw i t ht h e c o m b i n a t i o no fa n na n dr st h e o r y t h em a i na c h i e v e m e n t sa r ea sf o l l o w s ： 1 w h e nt h e r ea r em a n yc o n d i t i o na t t r i b u t e si nt h ef a u l td i a g n o s i ss y s t e m ，as t r a t e g yo f e s t a b l i s h i n gt h ep a r t i t i o n i n gd e c i s i o nt a b l e st h e nr e d u c t i o ni sa d o p t e d i nt h i st h e s i s ，t h e f e a s i b i l i t ya n dt h et i m ec o m p l e x i t ya r ea n a l y z e d t h er e s u l ts h o w st h a tt h em e t h o di sf e a s i b l e a n di tc a l lm a k er e d u c t i o nm o r es i m p l i f ya n ds h o r t e nt h ew o r k i n gt i m e 2 c o m b i n i n ga ne x a m p l eo fa x l e t r e ef a u l td i a g n o s i s ，w eg i v et h ep r o c e s s i n gc o u r s eo f 中北大学学位论文 t h ef a u l td a t aw i t ht h ea b o v em e t h o d t h e nab pn e u r a ln e t w o r ki sd e s i g n e dw i t ht h eg u io f m a t l a b i ti s c o n t i n u a l l yt r a i n e dw i t ht h el e a r n i n gs a m p l es e t s w h e nt h et r a i n i n g i s f i n i s h e d ，w es i m u l a t et h et e s t i n gs a m p l es e t sa n dg e tt h ec o r r e c tr e s u l t t h ee x a m p l es h o w s t h a tt h ef a u l td i a g n o s i sm e t h o dw ep u tf o r w a r di sf e a s i b l e k e yw o r d s ：r s ，a n n ，f a u l td i a g n o s i s ，p a r t i t i o n i n gd e c i s i o nt a b l e s ，a t t r i b u t e r e d u c t i o n 关于学位论文使用权的说明 本人完全了解中北大学有关保管、使用学位论文的规定，其中包 括：学校有权保管、并向有关部门送交学位论文的原件与复印件： 学校可以采用影印、缩印或其它复制手段复制并保存学位论文； 学校可允许学位论文被查阅或借阅；学校可以学术交流为目的，复 制赠送和交换学位论文；学校可以公布学位论文的全部或部分内容 ( 保密学位论文在解密后遵守此规定) 签名： 导师签名： 日期： 日期： 原创性声明 本人郑重声明：所呈交的学位论文，是本人在指导教师的指导下， 独立进行研究所取得的成果。除文中已经注明引用的内容外，本论文 不包含其他个人或集体已经发表或撰写过的科研成果。对本文的研究 作出重要贡献的个人和集体，均已在文中以明确方式标明。本声明的 法律责任由本人承担。 论文作者签名： 日期： 中北大学学位论文 1 绪论 1 1 故障诊断技术的发展 随着现代工业及科学技术的迅速发展，生产设备日趋大型化、高速化、自动化和智 能化这些大型复杂系统，造价十分昂贵，一旦发生运行事故，就会造成极大的经济损失， 因此，对系统的运行状态进行检测与诊断，即故障诊断技术得到了广泛的研究和关注。 故障诊断技术发展至今已经历了四个阶段【1 2 禾5 6 1 ： 原始诊断阶段。1 9 世纪末2 0 世纪初，这是故障诊断技术的产生阶段。诊断结果 在很大程度上取决于领域专家的感官和专业经验，对诊断信息只作简单的数据处理。 基于材料寿命分析与估计的诊断阶段。2 0 世纪初至6 0 年代，可靠性理论的产生 和应用，使得人们能够依靠事先对材料寿命的分析与估计以及对设备材料性能的部分检 测来完成诊断任务。 基于传感器与计算机技术的诊断阶段。2 0 世纪6 0 年代中期，传感器技术的发展， 使得对各种诊断信号和数据的测量变得容易，而计算机的使用弥补了人类在数据处理上 的低效率。因此以传感器技术和动态测试技术为手段，以信号处理和建模处理为基础的 现代诊断技术在工程中已得到广泛的应用。 智能化诊断阶段。它是目前刚刚发展起来且远未达到完善的阶段。 1 2 智能故障诊断 目前，智能诊断是故障诊断领域研究的热点之一。根据诊断推理过程中对知识处 理方式的区别，可以将智能故障诊断分为两类【7 ，8 9 j ： 基于传统人工智能( 符号计算) 的故障诊断，如传统的故障诊断专家系统； 基于计算智能( 数值计算) 的故障诊断，如神经网络故障诊断系统。 中北大学学位论文 虽然基于传统人工智能的故障诊断专家系统己经在工程实践中得到了应用，并取得 了显著成果，但是，专家系统存在的缺陷己经使该技术的发展与推广受到了阻碍。由于 神经网络在故障诊断中的成功应用，目前，智能故障诊断技术的研究重点己经逐渐由传 统的人工智能转向新兴的计算智能领域。 1 2 1 基于计算智能的故障诊断 计算智能( c o m p u t a t i o n a li n t e l l i g e n c e ) 是指：通过计算手段，采用结构主义( 连接主义 神经网络为代表) 和行为主义( 以进化计算为代表) 的方式研究智能的方法。研究计算智能 的方法和理论包括：神经网络、模糊逻辑、进化计算、粗糙集理论以及混沌和分形等基 于计算智能的故障诊断的代表是基于数值计算的神经网络故障诊断系统，神经网络是试 图模拟生物神经系统而建立起来的自适应非线性动力学系统，具有可学习性和并行计算 能力，可以实现分类、自组织、联想记忆和非线性优化等功能。在故障诊断中，诊断推 理可以理解为根据特定的映射关系由故障征兆域到故障原因域的计算求解问题，对于复 杂的机械系统而言，这种映射关系一般为非线性的，由于神经网络可以对各种映射进行 有效的逼近，因此，各种神经网络及其相应算法在诊断推理中得到了应用。在基于数值 计算的神经网络智能故障诊断系统中，知识通过网络的连接权值加以表达和存储。知识 获取是按照一定的学习规则通过训练逐步改变连接权值系数的过程。诊断推理过程利用 神经网络对故障征兆与故障原因之间映射关系的逼近能力，将征兆数据作为网络输入， 通过数值计算，得到故障原因。目前，在故障诊断中应用较多的有多层感知器( m ) 网 络、自适应共振理论( a r t ) 、自组织映射( s o m ) 和双向联想记。e ( b a m ) 等。神经网络在 故障诊断中的应用越来越广泛，已经成为智能故障诊断领域的研究热点之一【刀。 在由神经网络完成诊断推理的基础上，计算智能中的相关理论为故障诊断领域中的 2 中北大学学位论文 知识获取、诊断推理以及诊断过程的完善提供了理论依据。因此，计算智能领域其它相 关的一些理论也己经在故障诊断中得到了应用。如：模糊理论、模糊神经网络、进化计 算、粗糙集理论等。 。 1 2 2 神经网络和粗糙集结合的必要性 神经网络在故障诊断中的应用越来越广泛，已经成为智能故障诊断领域的研究热点 之一。但是基于人工神经网络的诊断方法也存在着局限性，需要较多不同类别的训练例 子用于神经网络学习才可能使得网络收敛，从而得出稳定的诊断结果，因此不太适用于 新的或未拥有诊断案例库的系统。对于复杂的被诊断系统，网络各层节点数较多，因而 训练所需的计算量和时间较多，无法对诊断结果做出解释，难于处理因不完全领域知识 而产生的非单调性和不精确性。人工神经网络结构，参数设置，训练样本的大小、样本 质量等诸多因素对人工神经网络的精度及泛化能力都有直接影响。神经网络不能确定哪 些知识是冗余的，哪些知识是有用的，训练时间过于漫长的固有缺点是制约a n n 实用 化的因素之一【引。 粗糙集理论是一种用于处理不完整不精确知识的数学方法，该理论不需要关于数据 的任何初始或附加信息，直接对不完整不精确数据进行分析处理。在故障诊断系统中， 粗糙集理论通过简单的决策表简化得到条件属性和决策属性间的依赖关系，即输入空间 与输出空间的映射关系，而且通过去掉冗余属性，可以大大简化知识表达空间维数。因 而将神经网络与粗糙集理论结合是很有意义的1 9 】 1 3 本课题国内外研究现状 3 中北大学学位论文 目前，国内使用粗糙集理论和神经网络进行故障诊断所采用的方法主要有： 用s o m 网络粗糙集b p 网络集成进行故障诊断的方案：应用s o m 网络离散 化故障诊断数据中的连续属性值；基于粗糙集理论，通过遗传算法计算约简，参考最小 约简建立故障诊断决策系统，在最优决策系统的基础上设计b p 网络进行故障诊断【1 0 1 。 分别针对全部属性和用粗糙集理论生成的最小条件属性集采用r b f 神经网络进 行训练和测试，用s a s e n t e r p f i s em i n e r 软件对粗糙集神经网络混合系统仿真实验 【8 】 o 采用粗糙集理论对b p 神经网络的决策模型进行优化。分析样本数据，根据己 知的领域知识形成一个初始的信息表，采用合理的离散方法对连续属性进行离散化，然 后用粗糙集理论对条件属性进行相对约简，通过去掉冗余条件属性得到决策表的最小条 件属性集和核，以最小条件属性集的并集作为输入层神经元，根据经验公式确定隐含层 神经元个数，并以核元素连接对应输出层。神经元通过去掉冗余训练样本提高网络的学 习效率。连续属性值离散常用的方法有k e r b e 提出的c h i m e r g e 离散算法，r a b a s e d a 提 出的f u s i n t e r 离散算法等【1 1 1 。 1 4 本论文的主要研究内容 本论文在对现有的粗糙集神经网络结合的故障诊断系统分析的基础上，重点研 究了属性约简的方法，提出了一种用反向传播网络和先分块建立决策表再进行属性约简 的方法，并针对一个具体设备滚动轴承的故障数据，用神经网络系统分析与设计的工具 m a t l a b 6 5 进行了实验。与以往的粗糙集神经网络结合的故障诊断系统最大的区 别在于：以往的粗糙集神经网络是直接对所有属性直接约减，本文先对决策表分块然后 约减，大大减小了约减复杂度，提高了效率。不足之处在于：分块后约减出的核会大于 等于实际的核。 4 中北大学学位论文 2粗糙集基础 2 1 引言 在信息系统中，人们首先碰到的就是对知识的理解和表达。“知识 这一概念在不 同领域内有多种不同的定义。一般认为，知识是人类实践经验的总结和提炼，具有抽象 和普遍的特性，是属于认识论范畴的概念。任何知识都是对其事物运动状态及变化规律 的概括性描述。在人工智能中，知识是一个重要的概念，它源于人类或其它物种对对象 的分类能力。在r s 理论中，将知识与分类紧密联系在一起，认为知识就是一个分类， 是基于将现实或抽象对象进行分类的能力。如医生给病人诊断，实质上就是对得病种类 的划分。与人工智能相比，粗糙集理论中关于知识的理解可能更接近于认识科学。粗糙 集理论认为知识是蕴藏在人类的分类能力之中的，知识以关于对象的分类能力为基础。 对象被称为论域u ，因此，粗糙集理论中，知识被理解成关于论域的一组划分模式。论 域可以按照不同的属性分成不同的类别，具有相同特征的知识构成基本集，其元素具有 不可分辨关系，基本集是构成知识的模块，使知识具有颗粒状结构与层次性【矧。 2 2 知识的含义与决策系统表示 粗糙集理论通常处理的是一个论域上的一些分类族，一个论域上的分类族定义为 一个论域上的知识库。为了便于说明，在定义知识库之前，先定义等价关系【3 2 t 矧。 定义2 1 ：定义r 代表论域u 中的一种关系，它可以是属性的描述，也可以是属 性集合的描述：可以是定义的变量，也可以是一种规则。当用r 描述u 中对象之间的等 价关系时，用u i r 表示根据r ，u 中对象构成的所有等价类族。 对于子集x ，y e u ，若根据关系r ，x 和y 由属性r 不可分辨时，用ixl 表示， l j 置 它代表子集y 和子集x 都属于r 中的一个范畴。若p c r ，且p 毋f 2 j ，则np 也是一种 等价关系，称为p 上的不可分辨关系，且记为i n d ( p ) ： 中北大学学位论文 【儿p f f rn 乩 ( 2 1 ) 不可辨关系是由属性集p 表达在论域u 中的等价关系。知识是使用“等价关系” 来形式化地表示分类，可以理解为：使用等价关系集r 对离散表示的空间u 进行划分， 知识就是r 对u 划分的结果。由此，在u 与r 意义下，“知识库可以定义为：属于r 中的所有可能的关系对u 的划分，记为k - - ( u ，r ) 。 2 3 粗糙集 在经典逻辑中，只有“真一( t r u e ) , “假_ ( f a l s e ) _ 二值之分，其含义是“非此即 彼一、“不容含糊。然而，自然界中大部分事物所呈现的信息都是不完整的、不确定的、 模糊和含糊的，因而经典逻辑无法对此类问题进行准确的、较为圆满的描述和解决。 r o u g hs e t s 理论是由波兰大学p a w l a k 教授于1 9 8 2 年提出的一种数据分析理论，粗糙集 理论延拓了经典的集合论，把用于分类的知识嵌入集合内，作为集合组成的一部分。一 个对象a 是否属于集合x ，需要根据拥有的关于论域的知识来作为判断，可分为三种情 况：1 ) 对象a 肯定属于集合x ；2 ) 对象a 肯定不属于集合x ；3 ) 对象a 可能属于也能不属 于集合x 。 因此，集合的划分依赖于掌握的关于论域的知识，是相对的而不是绝对的。给定 论域u 一族等价关系r 将u 划分为互不相交的基本等价类u i r ，设x 是论域u 上的一 个集合，如果x 能表示成基本等价类组成的并集时，则称x 在u 上r 可定义的，否则 x 为r 不可定义。r 可定义集是可以在知识基k = ( u ，r ) 中被精确定的； 而r 不可定义集则不能在这个知识基中被定义，只能通过逼近的方式来刻画，也称 为r 粗糙集( r o u g hs e t s ) 。在定义粗糙集之前，先引入一个知识表达系统的概念，后面 所有的定义都是以这个系统概念为基础的。 定义2 2一个知识表达系统s 可定义为四元组：s = ，其中u 是论域， 6 中北大学学位论文 a = c u d ，c 为条件属性，d 为决策属性。构成a 为非空的属性有限集。v = u 矧，k 为 属性值的集合，凡是属性a e a 的值域，信息函数，指定u 中每一个对象的属性值。 定义2 3设s 为信息系统，x 为u 的非空子集，r c _ a 且r ，刀。集合x 的b 下 近似l l ( 均和b 上近似r 一( x ) 分别定义为： r - = 仁e u ： 工 足x 】； r 一( x ) = x e u ：乩n x g ) ； 其中g ( 均是根据知识r ，u 中所有一定能归入x 的元素的集合，r 一( x ) 则是根据 知识r ，u 中一定能和可能能归入x 元素的集合。上下近似集是粗糙集理论中两个基本 概念。 如果把p o s r ( x ) = l l ( 的称为x 的r 正域，把n e g r ( 均= u 二l l ( 均称为x 的负 域。定义b n x ( 均= r 一( 均- l l ( 均为x 的边界域。那么正域就是那些根据只是r ，u 中 能完全确定归入集合x 的元素集合，负域是属于x 的补集，边界域是某种意义上论域 的不确定域，根据知识r ，u 中边界域的对象可能被划分为集合x 之中。图2 1 描述了 匕下近似概念。 一。 一 、l 、 - ， 图2 1 上下近似示意图 7 中北大学学位论文 在经典集合中，一个对象都可以划分为x 集合或x 集的补集，而在粗糙集理论中， 集合划分还要依赖于知识r 。一般地，l 悯r 一( 习，当l l ( ) ( ) = r 。( ) ( ) 时，就是我 们通常所讨论的精确集( e x a c ts e t ) ，即在几何上把论域分成两部分，非此即彼；当r ( ) ( ) 尺一( 殉，即存在边界域，此时称集合是粗糙的。 可以用近似程度的精度来表示粗糙集的数学特征。对于由等价关系r 定义的近似精 度为： 蟊阶嚣r t 勰 c 口i i a ” ( 2 4 ) 式中c a r d ( ) 表示该集合的元素数目，且x 一乃。精度d ( x ) 用于反映对集合x 中知识的了解程度。显然，对于x c u ，有0 s 噍( x ) s1 ，当d r ( x ) - - 1 时，x 的r 边 界域为空，称集合x 相对于r 是清晰的，x 为r 上可定义的；当呔( x ) ； 设b _ c c ，若b 相对于d 无关j | p o s c ( 功= p o s a ( d ) ，则称b 是c 的相对于d 的约 简，或称b 是c 的d 一约简。同样，相对核是所有相对约简的交集，即c o r d v ( c ) = n r e d o ( c ) ，其中r e d o ( c ) 是c 的所有d _ 约简构成的族 1 0 中北大学学位论文 2 3 4 决策表分析与约简 r s 理论中应用决策表来描述论域中对象，它是一张二维表格，每一行描述一个对象， 每一列描述对象的一种属性。属性集a = cud ，c 和d 分别称为条件属性和决策属性， 论域中的对象根据条件属性的不同，被划分到具有不同决策属性的决策类中。对于分类 来说，并非所有的条件属性都是必要的，有些是多余的，去除这些属性不会影响原来的 分类效果。从另一个角度看，决策表中每一个对象都蕴含着一条决策规则，决策表实际 上也是一组逻辑规则的集合。约简定义为不含多余属性并保证分类正确的最小条件属性 集。决策表约简的目的是用最少的条件辨别每一个决策类，即将决策表中包含的决策知 识精练【1 5 1 6 ，1 7 1 。 一个决策表可能同时存在几个约简，这些约简的交集定义为决策表的核，核中的属 性是影响分类的重要属性。 2 3 5 粗糙集理论的知识推理过程 知识推理是智能决策支持系统中的核心，即根据所获得的信息通过数据分析、推理， 从而产生合理的决策规则形成有用知识的过程。为了处理数据，就需要对知识进行符号 表示。知识表达系统就是研究将对象的知识通过指定的对象的基本特征和特征值来描 述，以便通过一定的方法从大量浩如烟海的数据中发现有用的知识或决策规则。根据粗 糙集理论的方法，知识推理就是给定知识表达系统的条件属性和决策属性，求出所有符 合该知识的最小决策算法。具体过程是： 整理记录数据：记录每个样本的所有属性值；数据变换处理；属性值量化； 组织决策表： 决策表约简； 最小子集算法实现； 中北大学学位论文 根据得到的决策规则进行系统的分析，决策控制等。 2 4 粗糙集理论的应用 综上所述，粗糙集理论的基本框架可归纳为：以不可分辨关系划分所研究论域的知 识，形成知识表达系统，利用上、下近似集逼近描述对象，通过知识约简，从而获得最 简知识。作为一种研究不精确、不完整信息分类问题的数学工具，粗糙集理论有许多优 粗糙集理论在数学上非常严密，有一套处理数据分类的数学方法，特别当数据 是有噪声、不完整和不精确的时候。 粗糙集理论和模糊逻辑、神经网络、概率推理、遗传算法、混沌理论等一起形 成了软计算方法的基础，为问题的处理提供了鲁棒性和成本较低的解决方案。 粗糙集理论无需提供除问题所需处理的数据集合之外的任何先验信息，这是和 模糊理论与证据理论的最主要的区别。 作为一个独立的理论框架，r s 理论能有效处理下列问题：不确定性或不精确知识 的表达、经验学习并从经验中获取知识、知识分析、矛盾分析、不确定性推理、基于信 息保留的数据简化、近似模式分类、识别并评价数据间的依赖性、发现数据中因果关系、 发现数据中的相似性和区别、从数据中产生决策算法、基于一致性评价可用信息的质量。 r s 理论的生命力在于它具有较强的实用性，自二十世纪八十年代以来，已经在许 多领域取得了令人鼓舞的成果。如：医疗诊断、股票数据分析、模式识别、地震预报、 冲突分析、从数据库中知识发现、粗糙控制、过程控制、专家系统、人工神经网络、决 策分析、近似推理、软件工程数据分析、图像处理、材料科学中的晶体结构分析、预测 模型、结构建模、电力系统、故障诊断等。 目前粗糙集在故障诊断中主要应用有： 1 2 中北大学学位论文 利用属性约简理论实现特征约简化，即对诊断过程中大量的冗余特征进行压缩约 简： 一般情况下，一个决策表的约简不止一种，这些约简都维持了与原有条件属性相同 的分类能力，因此要得到使用意义上的最小决策规则就要合理地选择有效属性来正确 或近似地表征研究的论域； 从最小约简集中，依据检测成本最低，效果优化出最佳检测方案，各个最小约简集 的效果差异与样本集的数据粗糙度有关； 属性的重要性评价标准确定； 从约简后的信息表中提取决策规则； 结果可视化等【引。 1 3 中北大学学位论文 3 人工神经网络的应用 3 1 人工神经网络概述 人工神经网络的研究始于1 9 4 3 年，它是由心理学家w s m c c u l l o c h 和数学家w p i t t s 所提出的m p 模型。该模型除连接权不调整外，其它与现在的阈值单元模型基本相同。 1 9 4 9 年心理学家d 。o h e b b 提出了神经元之间突触加强调整的假设。2 0 世纪5 0 年代末， e r o s e n b l a t t 提出了著名的感知机( p e r c e p t r o n ) 模型，这是第一个完整的人工神经网络。 这个模型由权值单元构成，初步具有了诸如并行处理、分布存储和学习等神经网络的一 些基本特征，从而确立了从系统的角度研究人工神经网络的基础。1 9 6 0 年b w i n d o w 利m e h o f f 提出了自适应线性单元( a d a l i n e ) 网络。它可用于自适应滤波、预测和模型 识别。从2 0 世纪5 0 年代末到6 0 年代初，神经网络的研究受到人们的重视，研究工作 进入了一个高潮。1 9 6 9 年，美国麻省理工学院著名人工智能学者m m i n s k y 和s p a p e r t 编写了影响很大的pe r c e p t r o n ) ) 一书，该书对将感知器模型扩展成多层网络是否有意 义提出质疑。在之后近1 0 年中，神经网络的研究进入了一个缓慢发展的低潮期。美国 加州理工学院生物物理学家j j h o p f i e l d 于1 9 8 2 年提出了一个新的神经网络模型一 h o p f i e l d 网络模型，在1 9 8 4 年h o p f i e l d 提出了网络模型实现的电子电路，为神经网络 的工程实现指明了方向。虽然早期的h o p f i e l d 网络还存在着一些问题，例如，网络的权 值固定、不能学习，大规模的网络实现困难，而且无法克服局部极小点问题等等，但 h o p f i e l d 的研究为神经网络带来了复兴的希望，极大地推动了今后的发展。这个时期， d e r u m e l h a r t 和j lm c c e l l a n d 及其研究小组提出了误差反向传播( e b p ) 学习算法， 这是一种按照给定的输入输出关系进行自组织的神经网络。同时他们还明确揭示了神经 网络的三个主要属性，即网络模型的结构、神经元的输入输出变化函数及算法，对神经 网络在各领域的推广应用起了很大的作用。b p 网络目前已成为一种应用最为广泛的神 1 4 中北大学学位论文 经网络。2 0 世纪8 0 年代中期以来，神经网络的应用研究取得了很大的成绩，涉及的面 非常广泛。就应用的技术领域而言有计算机视觉，语言的识别、理解与合成，优化计算， 智能控制及复杂系统分析，模式识别，神经计算机的研制，知识处理，专家系统与人工 智能。涉及的学科有神经生理学，认识科学，数、理科学，心理学，信息科学，计算机 科学，微电子学，光学，生物电子学等【弘3 5 1 。 从众多应用研究领域取得的丰硕成果来看，人工神经网络的发展具有强大的生命力。 当前存在的问题是智能水平还不高，许多应用方面的要求还不能得到很好的满足。随着 人们对大脑信息处理机理认识的深化，以及人工神经网络智能水平的提高，人工神经网 络必将在科学技术领域发挥更大的作用。 3 2 神经网络的特性和学习算法 3 2 1 人工神经网络的基本特性 人工神经网络由神经元模型构成；这种由许多神经元组成的信息处理网络具有并行 分布结构。每个神经元具有单一输出，并且能够与其它神经元连接；存在许多( 多重) 输出 连接方法，每种连接方法对应一个连接权系数。严格地说，人工神经网络是一种具有下 列特性的有向图： 对于每个节点i 存在一个状态变量而； 从节点j 至节点i ，存在一个连接权系统数w f ； 对于每个节点i ，存在一个阂值包； 对于每个节点i ，定义一个变换函数，对于最一般的情况，此函数取五( 一包) 形式。 3 2 2 人工神经网络的主要学习算法 神经网络主要通过两种学习算法进行训练，即指导式( 有师) 学习算法和非指导式( 无 中北大学学位论文 师) 学习算法。此外，还存在第三种学习算法，即强化学习算法：可把它看做有师学习的 一种特例。 有师学习。有师学习算法能够根据期望的和实际的网络输出( 对应于给定输, k ) f b q 篚j 差来调整神经元间连接的强度或权。因此，有师学习需要有个老师或导师来提供期望或 目标输出信号。 无师学习。无师学习算法不需要知道期望输出。在训练过程中，只要向神经网络 提供输入模式，神经网络就能够自动地适应连接权，以便按相似特征把输入模式分组聚 集。 强化学习。如前所述，强化学习是有师学习的特例。它不需要老师给出目标输出。 强化学习算法采用一个“评论员来评价与给定输入相对应的神经网络输出的优度( 质 量因数) 。 3 。3 神经网络在本论文中的应用 神经网络在本论文中主要应用在：接收数据进行故障诊断。 3 3 1 神经网络用于连续属性离散化 由于粗糙集理论只能对离散的具有语义性的符号化属性值进行分析处理，而故障诊 断中的征兆数据一般为连续量，因此，在应用粗糙集理论对故障诊断决策系统进行约简 处理，需要对其中的连续属性值进行离散处理目前，己经提出了多种各有所长的连续 属性值离散化方法，我们将在本文第四章中对其作较为详细的介绍。由于竞争型神经网 络的学习算法决定了其可以起到矢量量化的作用，因此，我们使用神经网络工m a t l a b 6 5 设计一个竞争型神经网络来对连续属性进行离散化。 m a t l a b 6 5 中提供了竞争学习( c o m p e t i t i v e ) 网络、学习矢量量化( l v q ) 网络、自组织 映射( ( s o m ) 网络3 种竞争网络，他们都能用来完成连续属性的离散化。其中l v q 网络 1 6 中北大学学位论文 在设计时需要确定对应每个类别的输入样本矢量个数占输入样本矢量总数的百分 比；s o m 网络在训练时需要提供目标输出；而c o m p e t i t i v e 网络则只需要提供聚类类别的 个数，因此我们选用竞争学习( c o m p e t i t i v e ) 网络来完成条件属性离散化，其神经元的个 数即为所要聚类类别的个数，实验证明，离散结果能够比较客观地反映数据分布情况。 3 3 2 神经网络用于故障诊断 神经网络的产生是从生物学上取得的灵感而产生的，是由模拟生物神经元的某些基 本功能的元件组织起来的，而组织方式或是按人脑组织方式，或是根本不按人脑织织方 式进行。不管其是高度相似，还是简单模仿，神经网络仍显示出其惊人的与人脑相近的 特性。如它能学习专门知识，从先前己有的实例中概括出新的例子。人工神经网络理论 是描述征兆集到状态集之间复杂的非线性映射关系的有效工具。 故障诊断实质上是一类模式分类问题。一些研究工作已经表明，具有三个隐层的 b p 网络可以解决任意复杂的模式分类问题。因此，本文采用b p 网络来进行故障诊断。 一个神经网络用于故障诊断时，主要包括三层： 1 ) 输入层，即接受的各种故障信息及现象； 2 ) 中间层，是把从输入层得到的故障信息，经内部的学习和处理，转化为针对性的 解决办法。中间层含有隐节点，它通过权系数w 连接着输入层与输出层，当然中间层 可以不是一层，根据不同的需要，可以采用多层，也可以不要中间层，只是连法不同而 己： 3 ) 输出层，是针对输入的故障形式经过调整权系数w 后，得到处理故障的方法。当 网络训练完毕，对于每一个新输入的状态信息，网络将迅速给出分类结果。 3 4 两种神经网络模型 3 4 1b p 神经网络 1 7 中北大学学位论文 b p 神经网络通常是指基于误差反向传播算法( b p 算法) 的多层前向神经网络，它是 d e r u m e l h a r t 和j l m c c e l l a n d 及其研究小组在1 9 8 6 年研究并设计出来的。b p 算法己 成为目前应用最为广泛的神经网络学习算法，据统计有9 0 的神经网络应用是基于b p 算法的。与感知器和线性神经网络不同的是，b p 网络的神经元采用的传递函数通常是 s i g m o i d 型可微函数，所以可以实现输入和输出间的任意非线性映射，这使得它在诸如 函数逼近、模式识别、数据压缩等领域有着更加广泛的应用【m2 1 1 。 图3 1 是一个典型的b p 网络拓扑结构。它由一个输入层、一个输出层和至少一个 隐层组成。从理论上讲，隐层的数量没有限制，但通常有一个或两个隐层。一些研究工 作己经表明，具有三个隐层的b p 网络可以解决任意复杂的模式分类问题。在b p 网络 的拓扑结构中，每一层与其后继一层之间为全连接，箭头指示学习时的信息流向。b p 网络的学习是典型的有教师的学习，其学习算法是对简单的d e l t a 学习规则的推广和发 展。b p 网络学习过程包括正向传播与反向传播两部分。当给定网络的一个输入模式时， 它由输入层单元传到隐层单元，经隐层单元逐层处理后再送到输出层单元，由输出层单 元处理后，产生一个输出模式，这是一个逐层状态更新过程，称为前( 正) 向传播。如果 输出响应与期望输出模式有误差，不满足要求，那么就将误差信号沿原来的连接通路从 输出层到输入层逐层传递，并修正各层的连接权值，直到误差信号最小，该过程称为反 向传播。对于给定的一组训练模式，不断用一个个训练模式训练网络重复前向传播和误 差反向传播过程。当各个训练模式都满足要求时，我们认为b p 网络己经学习好了。 1 8 中北大学学位论文 x i 输入层隐含层输出层 图3 1b p 网络的拓扑结构 y l y 2 y m 3 4 2 竞争学习( c o m