（通信与信息系统专业论文）电子清纱器的神经网络实现方案研究.pdf

西南交通大学硕士研究生学位论文第3 页摘要提高纱线质量历来是纺织行业的重点，对于纺织品后工序的加工和质量、提高出口创汇有着重要的意义。采用电子清纱器则是提高纱线质量最重要的措施之一。1 9 5 1 年，国外成功的研制出第一台电子清纱器。半个世纪以来，电子清纱器经过三代的发展，在纱疵的清除效率方面有了很大提高。但是，在纱疵的鉴别问题上，各类电子清纱器识别纱疵所依据的数学模型都是固定的，与工艺人员用肉眼对纱疵判断的“智能识别”能力相比，存在着较大的差距，主要是识别效率不够高，另一个则是纱疵的清纱曲线无法作大的改动的问题。为了能从根本上对电子清纱器鉴别纱疵的原理有一个技术的创新，我从鉴别纱疵的方法上对电子清纱器原理做了深入的分析，明确清纱器作为一种分类装置，是可能用神经网络的分类功能替代的。通过对神经网络的学习，以及算法的比较研究，得出采用b p 网络足构成神经网络清纱器的优选方案。在苏黎世大学人工智能实验室的神经网络仿真卖验平台：“v i r t u e l l e sl a b o rf l l vn b u r o n a l en e t z e ”上，设计丁与纺织工艺关联的纱疵“训练模式”参数集，以及测试用的“工作模式”参数集用神经网络对纱疵的非线性数据分类情况进行了实验与分析，对实验结论进行验算。得出了神经网络在基本原理上是完全能够实现纱疵非线性分类的结论，为新的一代电子清纱器雏形奠定了基础，同时也讨论了需要进一步解决的技术问题。关键词：纺织工程；清纱器；神经网络；b p 算法西南交通大学硕士研究生学位论文第4 页a b s tr a c ti nt e x t i i ei n d u s t r y ，i ti sd e s i r a b l et op r o d u c ey a r na sh i g hq u a l i t ya sp o s s i b l e i ti sb e n e f i tf o re x p o r t i n ga n df u r t h e rp r o c e s s i n g o n eo ft h em o s ti m p o r t a n ts t e p si su s i n ge l e c t r o n i cc l e a r i n g t h e f i r s te l e c t r o n i cc l e a r i n ga p p e a r e ds i n c e1 9 5 1 h a l fc e n t u r yh a sp a s t e d ：i th a sb e e nr e m a r k a b l ei nt h ee f f i c i e n tf o rc l e a r i n gy a r nf a u l t s b u tt h e r ea r es o m eg a p sb e t w e e nh u m a ni n t e l li g e n c ea n de l e c t r o n i cc l e a r i n gt oi n s p e c tt h ey a r nf a u l t s t h em a i nr e a s o n sa r et h ec l e a r i n ge f f i c i e n tn o te n o u g ha n dc l e a r i n gc u r v e dli n ec a n n o tb ec h a n g e d t of i n dan e ww a yf o rt h ef o u n d a ti o np r i n c i p l eo fe l e c t r o n i cc l e a r i n g ，ih a v ea n a l y z e dt h ep r i n c i p l eo fe l e c t r o n i cc l e a r i n ga n dk n o w ni t i sad e v i c eo fc l a s s i f y ，i ts h o u l ds u b s t i t u t ef o rn e u r a ln e t w o r k s a f t e rt h es t u d yo nn e u r a ln e t w o r k sa n dc o m p a r et h ea l g o r i s m , ih a v er e a l i z e di t so p t i m i z e ds c h e m ei sb p ( b a c kp r o p a g a t i o nl e a r n i n ga l g o r i t h m ) n e u r a ln e t w o r k sf o rc l e a r i n gy a r nf a u l t s a tt h el a bo ft h ea r t i f i c i a li n t e l l i g e n c e ，u n i v e r s i t yo fz a r i c h ，ih a v ed i dt h ee x p e r i m e n tb y “v l r t u e ll e sl a b o rf a rn e u r o n a l en e t z e ”w h i c hi sap l a t f o r mo fn e u r a ln e t w o r k s s e t e c t e dt h ep a r a m e t e rf o rt h e“t r a i n i n gp a t t e r ns e t ”a n d “w o r kt e s tp a t t e r ns e t ”is t u d i e da n dc h e c k e dt h ep a r a m e t e rt h a ta r eu s e dn o n l i n e a rc l a s s i f yf o rc l e a r i n g i th a sb e e ns u r et h a tn e u r a ln e t w o r k sc a nb ec l a s s i f y i n gt ot h ey a r nf a u l t s i tw i l ls e tu pan e wc l e a r i n gf o u n d a t i o np r i n c i p l e t h ep a p e ra l s od i s c o s s e st h ef a r t h e rt e c h n i q u ep r o b l e m k e yw o r d ：t e x t i l ee n g i n e e r i n g ；c l e a r i n g ；n e u r a ln e t w o r k s ：b pa l g o r i t h m s西南交通大学硕士研究生学位论文第7 页第1 章绪论1 1 课题研究的背景及项目来源提高纱线质量历来是纺织行业的热点，对于纺织品后工序的加工和质量、提高出口创汇有着重要的意义。采用电子清纱器则是提高纱线质量最重要的措施之一。我在纺织院校多年教学和研究的工作中，对国内外电子清纱器的原理和存在的问题已有较深入的认识。2 0 0 5 年6 月，我向省科技厅申请的科研项目电子清纱器工艺性能的改进研究获得批准，并获得5 万元的科研经费。该课题的焦点是从现有的纺织企业实际使用的电子清纱器出发，对国产电子清纱器的工艺性能进行实测，为解决目前电子清纱器正切率和清除效率不高的问题找出新的理论和方法。作为此科研课题的项目负责人，我对该课题后期延伸的一个设想，就是能否采用神经网络技术桌设计新型的电子清纱器? 本课题来源的背景正是对上述科研课题其后期延伸的研究。1 2 纺织工程中电子清纱器的作角常规的纺织工程主要由“纺”和。织”两大部分组成，前者是将原始纤维例如原棉或化纤等加工成纱线，这一过程在纺纱厂完成，称为纺纱工程：后者是将已经纺成的管纱织成坯布，这一过程是机织工程。机织工程的生产流程分为三个阶段：即织前准备、织造和原布整理。其中织前准备是对纱线进行络筒、整经和浆纱处理。它在机织工程中占有相当重要的地位，会直接影响到后面的工序的生产效率和产品质量。织前准备的第一道工序便是络简。络筒的目的有两点，一是将纺纱厂运来的管纱做成容量较大，成形良好，有利于后续工序需要的卷装无边或有边的筒子；二是针对纺纱厂运来的原纱存在的外观问题，检查纱线直径及清除纱疵杂质，这就是清纱。西南交通大学硕士研究生学位论文第b 页完成清除纱线上各类纱疵任务的装嚣称为清纱器。其原理在下一章介绍。1 3 国内外清纱器研究现状1 9 5 1 年，英国的林拉研究协会的颠盼塞尔斯密史博士研制成功世界上第一台电子清纱器。5 0 多年以来，电子清纱器的发展大致可分为三代。第一代是普及型，其特征是信号的处理是采取相对测量方式，即放大器输出的信号中只传递纱疵直径的变化量信号。其代表产品是瑞士z e l l w e g e ru s t e r 公司生产的u a m - c 系列产品。第二代是提高型，其特征是信号的处理采用了绝对测量或直接测量等方式，即放大器的输出不仅传递了纱线直径变化量，也传递了代表纱线直径平均值的直流分量。其代表产品是瑞士l o e p f eb r o t h e r 公司生产的p r - 6 0型光电式电子清纱器。第三代为电脑型，其特征是采用了微处理器芯片，增加了更多的纱疵统计功能。其代表产品有u s t e r 公司的p o l y m a i t c 清纱系统，该系统的设定面板上都采用了带液晶l c d 显示屏和键盘按钮输入，有的电控箱还能输出这批生产纱的产量、质量、断头数、接头数等统计数据。近年来，国外清纱器向着检测精密化、信号处理多样化、应用软件完整化、电控箱面板数字化等方向发展。几代清纱器的发展在纱疵的清除效率方面有了很大提高。但是，在纱疵的鉴别问题上，各类电子清纱器识别纱疵的数学模型都是借助于常规电子线路实现的，与工艺人员用肉眼对纱疵判断的“智能识别”能力相比，存在着较大的差距，主要是识别效率不够高的问题，一般较好的也仅为8 5 左右。即一些有碍纱疵未被清除，一些无碍纱疵被误清除。1 4 研究内容及论文主妻工作鉴于电子清纱器在攀别方面存在的缺陷，本人认为应当考虑在清纱器的设计理论和方法上进行的探讨和创新。这个创新的重点是能否在纱疵的鉴别方式上，引入神经网络的学习机制，通过有样本示教( s u p e r v i s e dl e a r n i n g ) 的学西南交通大学硕士研究生学位论文第9 页习方式，用神经网络学习人的“智能识别”能力，以期达到与工艺人员的判断更为一致的清除纱疵的效果。为了实现这个计划，本人从2 0 0 4 年初听了靳蕃教授的神经网络的研究生课程之后，便写了一篇( b p 神经网络在清纱器中应用初探学习论文交靳蕃老师，并得到非常宝贵的指导。此后，我有幸到苏黎世大学人工智能实验室傲了近一年的访问学者。在此期间，我完成了本论文的主要理论和仿真实验工作。论文中研究的重点是：第一章绪论，概述课题的来源和国内外研究清纱器的现状。第二章讨论电子清纱器采用神经网络的意义，首先对典型的电子清纱器原理进行详细的分析，指出原有的电子清纱器的不足之处。再讨论电子清纱器中用神经网络的可行性和目的。第三章在清纱器神经网络的设计中，首先回顾了神经网络发展历史，通过对常用的两种神经网络分析和比较，确定了应选用什么样的神经网络模型，如何设计神经网络的结构与算法。第四章叙述了仿真实验及结果。首先介绍了本人在瑞士苏黎世大学人工智能实验室访问期间，该实验室提供的“v i r t u e l l e sl a b o rf u rn e u r o n a l en e t z e ”软件实验平台再从工艺角度研究了“训练模式参数集”和“测试模式参数集”，又反复进行了纱疵分类的仿真实验，最后对实验结果进行分析。由于清纱器研究的课题中，采用神经网络的方案在国内外尚无报道，可借鉴的参考资料极少，课题的工作量比较大。西南交通大学硕士研究生学位论文第1 0 页第2 章电子清纱器采用神经网络的意义前已叙及，清纱器是在织前准备工程中，完成清除纱线上各类纱疵杂质的装置，它对于纺织品质量有重要的意义。本章中将从清纱器的原理出发，指出它实质上也是完成对纱疵进行分类的任务。但由于常规的电子线路清纱器的实现方法本身，决定了它在制造完成、投入生产使用后改变清纱特性的困难，也进一步探讨使用神经网络的进行分类的好处。2 1 电半清纱器工作的基本原理清纱器的使用历史悠久，传统的络筒机上一直曾使用机械式清纱器。机械式清纱器一般由金属刀片和梳针组成，其功能是使纱线在加工过程中，纱线上的纱疵在经过梳针时被阻断。机械检测方式虽然有结构简单，成本低的优点，但也有接触式测量容易损伤纤维、刮毛纱线、以及对扁平状的纱疵容易漏检，对于细节纱疵则从原理上根本无法感知等一系列缺点，其对纱疵的清除效率在5 0 以下。为克服机械式清纱器接触式测量的缺点，光电式电子清纱器的工作原理如图2 - 1 所示。从图2 - 1 可知，电子清纱器由检测头、放大器、鉴别器、驱动电路和切刀构成。清除一个纱疵的过程如下：当纱线在络筒工艺中，以速度v 经过检测区时，若纱线上带有纱疵，则光电检测元件会检测出纱线直径的变化，并形成对应的电信号t 信号的幅值对应纱疵的直径，信号的脉冲宽度对应纱疵的长度；此信号经放大器放大后，由鉴别电路判断该信号属于有碍纱疵还是无碍纱疵，若超过工艺设定的标准鉴别为有碍纱疵时，则鉴别器发出清除信号，再由驱动电路驱动切刀将纱线剪断。此后由自动捻接器或人工捻接。2 2 电子清纱器的数学模型和硬件实现中的问题2 2 1 电子清纱器的数学模型西南交通大学硕士研究生学位论文第11 页电子清纱器的鉴别器电子电路一般是通过比较器来实现的。常用的方法是比较器一端接代表直径或长度的设定电压，另一端接待检测的信号，根据比较器输出信号电压的高低，可判断纱疵的直径和长度足否超过。光源固0光学装置刃砧l v圈2 - i 光电式电子清纱嚣原理框图鉴别器工作的依据则是清纱特性清纱特性也称为清纱器工作的数学模型。清纱特性的定义是：在表示纱疵的长度和纱疵直径的坐标系中，该清纱器所清除纱疵范围的曲线。da1 口b t h现以图2 _ 2 说明平行线型清纱特性。图2 - 2 中，横坐标l e n g t h 表示纱疵长，以厘米计；纵坐标d 表示纱疵的粗度，以直径的百分比计。该图表示当直径的西南交通大学硕士研究生学位论文第12 页租度一旦达到并超过设定阈值d 时，不管纱疵的长短一律清除。图2 - 2 实际上也是机械式清纱器的清纱特性，因为它未考虑纱疵的长度，只是将超过某一租度的纱疵全部清除。图2 升3 是直角型清纱特性，该特性表示当直径超过设定阙值d 之后，同时长度也超过设定阙值l 之后的纱疵一律清除，而对仅有直径或长度一项超过的纱疵则不予清除。西南交通大学硕士研究生学位论文第13 页除了这罩介绍的三种清纱特性外，在实际产品中还有斜线型、折线型、指数型、双曲线型等多种类型。2 2 2 典型清纱器硬件电路实例原理分析电子清纱器的种类繁多，这里以j f l f q a 型电子清纱器为例“，结合工艺要求并对其电路的实现方法进行分析。该清纱器采用相对测量，属于第一代清纱器。其清纱特性见图2 - 5 ，纱疵鉴别电路的电气原理图见圈2 。1 、j f l 埘的清纱特性；u d由竹节通道的惰纱特性b 双纱通道的情纱特性圈2 - 5j l 呵弘槽纱罄的情纱特性图2 _ 5 中有a 、b 茼条清纱特性。a 为竹母清纱特性，它代表坐划船对需要清除i 扮纱疵分为两步1 ；i 剃，首先判断直径是否超过设定电压u d ，若没有超过则为合格纱线；超过设走电压u d 时则进行面积计算- 对出现在i 区目纱概，若jc ，计算纱疵面轵超过设定值，则必须清除，对于i t 区的纱疵，由于其直径和长度都已经分别超过设定值，故其面积已大大超过而必须清除。b ) 为双纱清纱特性。它的判断也分为两个步骤，先判断直径是否超过1 4 倍的直径d ，然后判断长度是否超过4 0 厘米，若两者都超过则必须清除。西南交通大学硕士研究生学位论文第1 4 页2 、检测部分：由殖外发光管d g l 与光敏三极管b g 2 所组成的松洳头。为了真实的检测出痧鲮几j | 时尺寸曲变化，并产生相应的脉冲信号，检潮区应有足够的宽度利良好酌转换建硅关素 点输出的脉冲信号，经c 3 电容去扭掺支的平均笸桂梧号，再经r 4 以反向端输入给主放大器，使信号获得适当的增益后再送到后面各级进行处理。3 、竹节纱鉴别器：从竹节纱的清纱特性图2 6 的a ) 圈中。可以看出妻清除的纱疵为两个部分，i 区是清除长度没有超过，但面积已经超过的纱疵，区是清除直径和长度都超过，故面积大大超过的纱疵。由于区中的纱疵，在按l 区的方法计算时，因其纱疵面积己大大超过，也完全能判断出是否属于要清除的纱疵。可见i 区的计算方法能兼顾区任务的实现。所以在竹节鉴别电路嚣瘫交通大攀硕士麟究生学缓论文簟 s 菱的计算中，只镒磐分直径鉴别、戚积计算、面积浆剐三个步骤完成。亩鬻2 - 6 审靛b 2 、勰、醚一起完成辩竹节纱静茎掰。由b 2 饕掰直径，b 3计算纱蹴面积，b 4 则进行面积的壤别。其工作原理是；b 2 的同相端连接直径设定电蕊，反稆墒与放大器8 l 输醐昀信号电匿b 点搪连。b 2 处于开环状态，程茈为比较器。当d u d 对，b 2的输出波形u o 为负，b g 4 截止，b 3 的输入端短撩解除，纱疵信号脉冲输入积分器b 3 求纱疵谳积。b 3 的时间常数由电路中的等效r c 构成，若令k = l ( 黼) ，则积分嚣的输出姐压与输入u t 成正比，媳与被积分电压的持续对焖t 或正比，因而有；u 0 = 酬，r 。故b 3 输出电联的高低可反映出崴径超过的那些纱疵面积的大小。蕊积计算出来之后，其缤号输入到b 4 ，与设宓蜘面积敷压强进行比较。当超过设迮的纱疵面积，比较器b 4 输出一个负脉冲，通知剪刀驱动电路剪断纱藏，以实现嚣节纱癜鉴别与瀵除静经务。4 、双纱鉴剐器：在双纱的清纱特性图争5 的b 闰中，w 以看出该工艺上是荨錾壹径大予蒙纱童经熬i 。4 貉，长发大予4 0 厘米爨孽纱疵称海双纱。它分割痰盏径鉴别，长度计算和长度鉴别完成。由于童径和长度需要i 蠲时满足，也就怒要实瑷d a l 豹判氍。电路中双纱通道由赢径鉴别b 5 、长度计算电路、长度比较电路b 6 等完成。宙援丈器b l 礁掰臻憨缪瘫骧；孛绥号经c 1 2 藕合嚣，送入囊径签鼷奄貉粥黯的同榍端连接代表l 4 馅直径的设定电压。当c 1 2 耦合输入的信号电压小卡设定毫委辩，赫瓣输窭受夔毫垂，羧蠢二较磐b g l 4 霰壹。嚣瓣熬长凄诗箕积分邀路不工作。当c 1 2 耦合输入的信号电压大干设定电压时，b 5 输出幅度确定的负熬摔耄送，b g l 4 、w s + r 3 6 、c 1 4 籀成翦长寝 篓毫爨工作，帮怒获蔓 器拜始积分计算；若纱疵长度越长，则负脉冲的宽度也越宽，积分电压也越商。这样积分电压犬夺就与纱癍长壤建立7 对应关系。由手积分电歪麓藩琵是建立在b 输出为负脉冲电压基础上的，这个前提已经保证了宜释计算满足1 4 倍原纱敷径西南交通大学硕士研究生学位论文第 6 页的条件。这时只需要再鉴别长度是否超过4 0 厘米，超过者必然满足d a l 同时超过的条件。最后只需要将长度计算的结果，也就是0 1 4 上的积分电压送到b 6中，当超过设定的长度4 0 厘米，比较器b 6 输出一个负脉冲，通知剪刀驱动电路剪断纱疵，以实现双纱纱疵鉴别与清除的任务。这里也顺便指出，图2 - 5 中的两条清纱特性，在电子电路上是通过两个通道同时并行工作而实现的。2 2 3 目前电子线路清纱器的固有缺陷从对典型清纱器硬件电路实例的分析中得知，目前电子清纱器的数学模型都是通过具体功能的电子线路予以实现的。这些电子线路在实现各种清纱特性时对该类型的清纱器具有双重影响。一方面它达到了用鉴别器鉴别哪些纱疵应该清除，以完成了清纱特性的规定，这是正面的；但另一方面当这样的清纱特性由具体的电路实现后，该种类型或品牌的清纱器被赋予相对固定的清纱特性，使用中仅能以该种清纱特性为基础。对设定的直径电压阈值、跃度电压闺值作适当调整，而并不能按照工艺的需要任意的改变或生成新的清纱特性。虽然国际上比较先进的瑞士z e l l w e g e ri j s t e r 公司的清纱器产品是可以通过该公司提供的纱疵样照和相关器从6 条清纱界限曲线中找出一条最能满足工艺要求的清纱曲线，但也并没有从根本上克服这种缺陷。以j f v - o a 清纱嚣为例，参见图2 6 中的电子清纱器，当电子线路的制造在工厂完成后，这个类型的清纱器就只具有圈2 - 5 所示的竹节通道特性和双纱通道特性的两种特性。不能在生产第一线上重新调整为指数型、折线型或其它各种清纱特性。即它不具备改变或组合新的其它清纱特性的灵活性。2 3 神经网络用于电子清纱器的可行性分析从神经网络的用途上看，许多种神经网络在处理分类处理问题上，都具有西南交通大学硕士研究生学位论文第1 7 页相当的优势。文献1 0 在论述大多数实际问题都能用神经网络来解决时指出：。c a nt h eo r o b i e mb et u r n e di n t oo n oo fc l a s s i f i c a t i o n ? a sw es a wa b o v e av e r yl a r g ec l a s so fp r o b l e mc a nb et r a n s f o r m e di n t oac l a s s i f i c a t i o np r o b l e m ”再从上述清纱器工作原理和工作过程的分析中，可以得出如下结论：l 、清纱器的作用是在代替人的视觉，对纱线的疵点作出分类处理。判断哪些纱疵是需要清除的，哪些纱疵是不必清除的。2 、从清纱器分类的依据足清纱特性，它具有线性分类、非线性分类、以及这两种分类的组合。由于线性分类不能满足大多数的实际需要，因此本设计中选用的神经网络清纱器必须能解决非线性分类的问题。3 、文献“1 在介绍。对双螺旋问题分类”的问题前指出：“采用多层感知机网络并配合恰当的自适应学习算法，常常能完成复杂的非线性划分任务”。这表明像分类这样的实际问题已经在其它行业的应用中早已得到解决，由此推断设计一个神经网络清纱器来解决纱疵分类问题在技术上是具有可行性的。2 4 神经5 6 l 络技术用于清纱器的目的将神经网络技术用于电子清纱器，技术上主萎目的是设计出其有学习功能的清纱器，使得一台清纱器自电子仪器类的整机厂家售出，再到纺织生产厂后，可以针对木同的工艺需要，能由使用单位自己设定或更换不同的清纱特性。这样当纺织企业要对一批不同的纱线按另外的清纱特性进行处理时，可粮据这批纱线的特殊要求，选择相应的样本学习，在清纱器完成样本学习后，即产生了所需要的新清纱特性。此后便可以用于生产线上的实时检测清除纱疵。另外由于用神经网络构成的电子清纱器设计中，同样采用了微处理器芯片，所以第三代采用微处理器芯片的清纱器所具有的纱疵统计、纱线定长等等相应功能，它也均能保留并予以实现。故有理由认为它有可能会是下一代电子清纱器的发展方向之一。西南交通大学硕士研究生学位论文第1 8 页第3 章清纱器神经网络的设计3 1 神经网络的发宸历史1 9 4 3 年，人工神经网络研究的先锋、神经生物学家m e c u l l o e h 胃s 和青年数学家p i t t sw 九合作，提出了第一个人工神经元模型，并在此基础上抽象出神经元模型，简称m p 模型，为神经网络的研究拉开了序幕。1 9 4 9 年，为了模拟起连接作用的突触的可塑性，神经生物学家h e b b 提出了h e b b 法则。这一法则表明，神经元之间的突触的联系强度是可变的，这种可变性是学习和记忆的基础。1 9 5 2 年，英国的生物学家h o d g k i n 和h u x l e y 建立了著名的长枪乌贼巨大轴索非线性动力学微分方程。即h h 方程。这一方程可用来描述神经膜中所发生的非线性现象，如自激震荡、混沌、及多重稳定性问题。1 9 5 4 年，生物学家e c c l e s 提出了真实突触的分流模型，这一模型由于通过突触的电生理实验得到证实，而为神经网络的模拟突触功能提供了原型和生理学的证据。1 9 5 6 年，u t t l e y 发明了种由处理单元组成的推理机，用以模拟行为及条件反射。2 0 世纪7 0 年代中期，他还把该推理机用于自适应模式识别，并认为该模型机能反映实际神经系统的工作原理。1 9 5 8 年，r o s e n b l a t t 在原有肝模型的基础上增加了学习机制。他提出的感知器( p e r c e p t r o n ) 模型首次把神经网络理论付诸工程实现。他的成功之举大大激发了众多学者对神经网络的兴趣。r o s e n b l a t t 证明了两层感知机能对输入进行分类，他还提出了带隐含层处理元件的三层感知器这一重要的研究方向。r o s e n b l a t t 的神经网络模型包含了一些现代神经计算机的基本原理，从而形成了神经网络方向和技术方面的重大突破。使神经网络的研究迎来了第一次高潮。1 9 6 0 年，w i d r o w 和h o f f 提出了a d a i 。t n e 网络模型，这是一种连续取值的西南交通大学硕士研究生学位论文第1 9 页自适应线性神经元网络模型。该模型针对输入为线性可分的问题进行了研究，得出期望响应与计算响应的误差可能搜索到全局最小值，可以用于自适应系统。1 9 6 9 年，人工智能的创始人之的m i n s k y 和p a p e r t 对以感知器为代表的网络系统的功能及局限性从数学上做了深入的研究，两人合写了一本名为感知器( p e r c e p t r o n s ) 的书，书中分析了若干简单的单层感知器，说明它们只能完成线性分类，对于非线性分类功能无能为力，甚至对简单异或( x o r ) 运算也解决不了因而他们不但对单层p e r c e p t r o n 的发展前景表示怀疑，对扩展到多层也觉得没有意义。由于m i n s k y 等在人工智能领域中的巨大威望和他们在论著中通过分析所得出的悲观结论，一度使人工智能的研究陷入十多年的低潮期。在低潮时期，仍有少数远见卓识的科学家在这一领域持之以恒的研究。例如1 9 7 2年，芬兰赫尔辛基大学的k o h o n e nt 教授，提出了自组织神经网络s o m ( s e l f - o r g a n i z i n gf e a t u r em a p ) ，该网络主要用语模式识别、语音识别及分类利题。它采用一种“胜者为王”( w i n n e rt a k ea 1 1 ) 的竞争学习算法，其学习的训练方式是无指导训练，是一种自组织网络。1 9 7 6 年，美国的g r o s s b e r g教授提出了著名的自适应共振理论a r t ( a d a p t i v er e s o n a n c et h e o r y ) 模型，其学习过程具有自组织和稳定的特征。并提出了 r t l 、a r t 2 、和a r t 3 等3 个a r t系统的版本，由于该网络纳入了生物神经元的生物电一化学反应机制，其结构更接近人脑的工作过程。这些成果表明，在低潮时期，仍有许多成果为神经网络的研究提供了不朽的价值1 9 8 2 年，美国加洲理工学院生物物理学家j j h o p f i e l d 在神经网络建模及应用方面有了开创性的成果。他提出的采用全互连的神经网络模型，利用所定义的计算能量函数，将能量函数降低达到极小值和问题的求解过程巧妙的对应起来，从而成功的求解了计算复杂性为n p 完全型的著名旅行商问题( t r a v e l i n gs a l e s m a np r o b l e m ) 。为在世界范围内再次掀起研究人工神经网络的应用高潮起到推动作用。t 9 8 6 年，由r u m e l h a r t 和w c c e l l a n d 主编的有1 6 位作者参加撰写的西南交通大学硕士研究生学位论文第2 0 页p a r a l l e ld i s t r i b u t e dp r o c e s s i n g ：e x p l o r a t i o ni nt h eh i c r o s t r u c t u r e so fc o g n i t i o n 出版，该书中对非线性连续转移函数的多层前馈网络的误差反向传播算法及b p ( e r r o rb a c kp r o p a g a t i o n ) 进行了详尽的分析，解决了长期以来没有权值调整有效算法的难题，所提的b p 算法可以求解感知机所不能解决的问题，回答了p e r c e p t r o n s 一书中关于神经网络局限性的问题，从实践上证实了人工神经网络具有很强的运算能力，b p 算法是目前最引人注目、应用最广泛的神经网络算法之一。2 0 世纪9 0 年代中后期，神经网络的研究进入了一个新的发展时期。经过多年的发展，已有3 0 多种的神经网络模型被提出来。其中些还处于理论和实践应用的不断完善之中，限于本文的任务在此就不赘述了。3 2 清纱器神经网络模型的比较与选择从对神经网络发展历史的学习过程中，可以知道许多神经网络都可用于分类问题的求解。这里先分析本课题的实际应用要求，再对当前广泛应用的两种神经网络在本课题中的特点进行比较和选择。3 2 1 本课题的应用要求1 、能接受两路模拟信号的输入，这两路信号分别代表纱疵的长度和直径。并对这两类信号的各种不同组合所对应的纱疵进行分类。2 、进行分类过程中哪一种组合的情况下的纱疵需要清除或保留，其判断的依据是工艺标准。一般的说。此标准是非线性的，而且应可以按照工艺需要进行更改，因此，该网络应该具有学习功能，即能学习工艺人员所确定的标准。3 、分类的结果可以输出数字信号，即能表达是高电平或是低电平的信号。代表纱疵为有害纱疵或无害纱疵。也表示是否需要驱动剪刀，以完成剪断纱疵的任务西南交通大学硕士研究生学位论文第2 f 页3 2 28 p 误差反向传播神经网络b p ( e r r o rb a c kp r o p a g a t i o nn e t w o r k ) 神经网络是当前应用最为广泛和成功的神经网络之一它是一种多层网络的“逆推”学习算法。1 b p 网络结构图3 - 1 是b pf 目络的结构图，它由输入层、输出层和中间层( 或称隐含层) 组成。量lx 22r lt蘧( f 瑟至一l葺2- il i + il b - i置3 - 1b p 腭络的结构膪在下面的算法公式中，用t 表示神经网络的输入；只表示神经网络的实际输出；4 表示神经网络期望输出；黟k 表示第i 层第j 个神经元到第i + l 层第k 个神经元连接权值：q 表示第i 层第j 个神经元输出；吼表示第i 层第j 个神经元的阈值；n e t # 表示第i 层第j 个神经元总输入；m 表示第i 层神经元节点数。2 标准b p 算法图3 - 1 中标准b p 网络的前向传播计算公式为：肌= 0 l 啊( 3 - 1 )t i3 - 1 式的物理意义是，第i 层j 个神经元的总输入，是上层各个神经元输出与相应连接权值的乘积之累加和。t lt 2西南交通大学硕士研究生学位论文第2 2 页2 z 慨) 2 雨再研1( 3 2 )3 - 2 式是i 层j 个神经元的总输出。这里，输入和输出之间是用的一个有界连续可微非线性函数z ，即s i g m o i d 函数其原来的形式为：e ( j ) = 鬲1 ；( 3 - 3 )式中，常数c 可以任意选定。当c 越大时，曲线的饱和越快，当c 趋于无穷时，该曲线变为原点的阶跃函数。当c = i 时，该函数有简单的形式：s：土。，此时的导数为：o(x)so(x)2 石此时的导数为：芸s = 南叫硼坝跏( 3 - 4 )即用函数本身可以表示函数的导数，这在下面的反向传播算法中，将会大大的减少了算法迭代中的工作量。下面讨论反向传播算法。b p 网络的反向传播计算的基本思想是：如果神经元_ ，在输出层，则q 就是网络的实际计算输出，记为乃，通过乃与所期望的输出t 之间的误差反向传播来修改各权值。误差走义南：e i = d i y |悔网络误差函数定义为：占= 委( 嘭一乃) z( 3 6 )网络的权值沿e 函数梯度下降的方向修正：一口箦( 3 - 7 )西南交通大学硕士研究生学位论文第2 3 页得：其中，o r 0 当神经网络从t = o 开始，有初始状态y ( 0 ) ；经过有限时刻t ，有：y ( t + a t ) = y ( t )则称网络是稳定的。在串行方式下的稳定性称之为串行稳定性。同理，在并行方式的稳定性称之为并行稳定性。在神经网络稳定时，其状态称稳定状态。从离散的h o p f i e l d 网络可以看出：它是一种多输入，含有阀值的二值非线性动力系统。在动力系统中，平衡稳定状态可以理解为系统的某种形式的能量函数在系统运动过程中，其能量值不断减小，最后处于最小值。有关的研究指出”：“按异步方式调整网络状态，对于任意初始态离散型h o p f i e l d 神经网络，网络都能最终收敛到一个吸引子。”即网络处于稳定状态。西南交通大学硕士研究生学位论文第2 b 页而采用同步方式工作时，网络收敛到一个吸引子的条件对权值矩阵w 的要求更高。如果w 矩阵不能满足非负定对称阵的要求，则网络会出现振荡。2 、连续型神经网络在连续型神经网络中，所有网络状态都随时间t 并行改变，网络状态随时问连续改变。下面对基于模拟电子线路的连续型神经网络进行简要的讨论，图3 - 3 连续型神经网络结构图图中，电子线路与神经网络之间的关系为：运算放大器一神经元；神经元输入运算放大器输入电压u ，：神经元输出运算放大器输西南交通大学硕士研究生学位论文第2 9 页出电压v j ( 输出有正向电压和反向电压) ；连接权霄i 厂靠入电导；阈值输入偏值电流i ，下面，通过对一个连续型神经元j 结构模型的分析，找到神经元节点上各物理量之问的关系。霸3 1 4 建续墨神经元绪柯对图中的种经元j ，由基尔霍夫定律可得：q 等+ 毋“，= 杰s = 1 ( 巧一“，) + 令总电导i i = 箕+ 髟删：q 誓= 善巧专+ 为了描述h o p f i e l d 网络的稳定性，引入如下的能量函数：层；圭喜喜k _ 一杰_ l + 喜去r 厂1 ( 矿) d r 3 = ij - 1i = lj = io o西南交通大学硕士研究生学位论文第3 0 页厂_ 1 为神经元转移函数的反函数。文献研究雠指出：若神经元的转移函数f 存在反函数，一，f 1 是单调连续递增且有w 。= 乳则由任意初态开始，连续神经网络的能量函数总是单调递减的，即警。，当且仅当鲁= 。时，有百d e = 。，因而网络最终能达到稳态。3 2 4 两种网络的应用特点及在本课题中的比较从对上述两种神经网络的分析中，可以看出对本课题而言，b p 网络和h o p f i e l d 神经网络的适用性是不同的。结合其它应用“实例中的学习，对这两种网络在本课题中的特点与选用有如下看法。1 、h o p f i e l d 神经网络该网络的主要应用体现在两个方面；( 1 ) 联想记忆方面。对于离散型的t l o p f i e l d 神经网络，比较多见用于联想记忆。其优点是在进行联想记忆时，只要给出输入模式的部分信息，就能联想出完整的输出模式。( 2 ) 优化计算方面。对于连续型神经网络，在优化计算方面有相当广泛的应用。例如有名的t s p ( t r a v e l i n gs a l e s m a np r o b l e m ) 问题。它可通过构造台造的网络能量函数，设计恰当的网络结构，通过运行硎络结构的电子线路来找到电子线路的稳态。或通过计算机编程模拟运行寻求最优解。以上荫个方面的应用对本课题似乎不是最佳选择。在第一个方面中，将纱疵的状态记忆在h o p f i e l d 的神经网络中是难以实现的，主要是纱疵的形状千变万化，用有限个状态来表达的后果是当出现与记忆的状态网络不相同的新的形状有害纱疵时，难以通过网络的记忆联想，以达到正确的识别的目的。在第二种情况下，应将纱疵分类的问题化成寻找最优解的问题。也就是应该转化为求一个计算能量函数，使这个能量函数的最小值正好对应一定约束条件下的问题西南交通大学硕士研究生学位论文第3 1 页的解答，这也可能导致计算能量函数个数巨大。由此认为采用h o p f i l e d 网络是不妥当的。2 ，b p 网络从对b p 网络的研究学习中，可以总结出基本评价：( 1 ) 按照误差逆向传播原则建立的b p 学习算法，是当前神经网络技术中最为成功的学习算法。误差传播的原则是一种人们都能理解的通用法则。它的奥妙就是在算法中得到了一个能由输出层向输入层逐层逆向传播偏差以修改连接权值的递推公式“1 。( 2 ) 文献“1 指出。b p 学习网络所擅长的，是处理那种规律隐含在一大堆数据中的映射问题，特别是需要通过学习自适应可调的实时性问题，例如模式识别、自适应控制和模糊决策等而本课题的分类问题，也是一个需要通过样本掌习、在一大堆数据后面的映射问题，也是模式识别的一个事例。由此看来，选择b p网络应该是较优的选择之一。( 3 ) 从b p 网络的外部信息看，通过在选用某些外特性的转移函数，就能满足接受输入的模拟信号( 指代表纱疵直径和长度的信号) 的要求，同时输出端的数字信号( 指是否对纱疵保留或清除的高低电平信号) 也是很容易在s i g m o i d 函数输出的基础上，加一个简单的电压比较器而实现的。( 4 ) b p 网络虽然存在学习时间可能比较长的问题，但清纱器在实际使用中，都要事先调试其清纱特性，这阶段可理解为学习过程，该过程一旦完成，在工作模式中就不必再次学习。实际生产中并不会频繁改变清纱特性，这样占绝大多数时间都是工作模式，即学习时问问题的影响并不大由此可见，在本课题中选用b p 网络是较为恰当的。3 3 清纱器神经网络的结构设计1 、隐含层的设计西南交通大学硕士研究生学位论文第3 2 页理论证明，具有单隐含层的前馈网络可以映射所有连续函数，只有当学习不连续函数时，才需要两个隐含层，故一般情况下隐含层最多需要两层。由于课题中的信号为连续函数，故这里选用的b p 网络的结构是3 层结构，即输入层、1 个隐含层、输出层。2 、隐含层节点设计隐含层节点数目对神经网络的性能有一定的影响。隐含层节点数目过少时，学习的容量有限，不足以存储训练样本中蕴涵的所有规律。隐含层节点数目过多不仅会增加网络训练时间，而且会将样本中的非规律性的内容如干扰和噪声存储进去，反而会降低泛化能力这里用经验公式：册= n + ，+ 口计算。式中：n 为输入节点数3 ，为输出节点1 ，口为调节常数，在l ，l o 之间，考虑到测试的样本应有一定的数量，这里取口为6 。计算出d 1 的值为8 。3 、输出层节点它是由实际需要决定的。由于最终需要的是一个数字信号，所以一个输出量就可以满足要求。按照要求确定的清纱器神经网络结构见图3 - 5 。在第四章的实验工作台中，b p 网络中每一层都有单独的阈值单元。为了和该实验工作台自动生成的神经网络中的神经元编号一致，将图3 5 中的阈值电压也分别用元件0 和元件3 代替，得到最后的清纱器神经网络结构图如3 书。西南交通大学硕士研究生学位论文第3 3 页嗣幢电压直径信号电压长度信号电压田3 - 0 精缈曩种蜒一终结柯舅1 径信长度信号电压粤电压田3 - 6 电平滑纱纛神经阿络结构圈西南交通大学硕士研究生学位论文第3 4 页第4 章仿真实验结果4 1 仿真实验平台介绍利用到瑞士苏黎世大学人工智能实验室作访问学者的机会，笔者接触到了该实验室的神经网络仿真实验软件。下面从应用的角度对其功能进行简要说明软件的德文名称为：“v i r t u e l l e sl a b o rf u rn e u r o n a l en e t z e ”。是由r o l fh i n t e r m a n n 等人提供的。该软件由j a v a 语言编写，在w i n d o w s 的d o s 窗口中使用。该软件可以对常用的8 种神经网络进行仿真实验。4 1 1 程序的主对话框启动j a v a 程序后，屏幕上出现一个长条形的主对话框，对话框的左边内容如图4 1 。田4 - - 1 押经阿绍实验宣平台主对话框( 左面)该对话框包含四个选项，分别是创建网络，打并网络，保存和关闭神经尉绾。对话框的右面内容如图4 _ 2 。西南交通大学硕士研究生学位论文第3 5 页图t _ 2 神经嘎络宴验宣平台主对话框( 右面)这一部分的功能是创建、打开、保存或关闭对应的神经网络输入输出的模式( p a t t e r n ) ，包括训练的模式和工作测试的模式。4 1 2 程序的主工作区域及仿真实验神经元结构曩，棒娃嘲络立赣早台主作盛西南交通大学硕士研究生学位论文第3 6 页在主对话框中创建神经网络后，即可在本图左面规定网络名称、网络类型的选择、附络神经元连接的选择、网络学习率、惯量的选择，以及权值的选择等。当选择完成后，相应满足需要的网络就出现在屏幕中问。这里同时指出，在图4 3 工作区中所显示的神经元模型，是这次仿真实验中的清纱器的神经元结构，图中的神经元0 为阈值赋值。神经元为l 为纱疵直径输入端，神经元2 为纱疵长度输入端。神经元3 和0 的作用同样，也作为阈值赋值。神经元4 、5 、6 、7 为隐含层的神经元。神经元9 为输出神经元。神经元8 是软件定义的，这里未使用。4 1 3 仿真模式数据编辑对话框主工作区下方，有一个仿真模式数据编辑对话框。见图4 4 。该对话框的左面“i n d e x ”是输入的模式的编号，后面是两个神经元的输入电平和期望的一个神经元的输出电平。使用该对话框可以对神经网络指定的输入输出模式数据进行编辑、修改、和删除等操作。当按下a d d 按钮后，会弹出一个对话框，自动按照当前工作模式的神经元要求，供用户填写对应的输入信号、输出信号。暖州仿鼻攮式集豹输入疆馨对话框西南交通大学硕士研究生学位论文第3 7 页4 1 4 学习控制对话框霸4 5 学习控制对话框在图4 5 的学习控制对话框中，左上方的选项对样本模式进行训练，此时会弹出学习直到什么情况结束。分成误差小于多少、或训练到达多少次迭代后结柬。当训练完成后，再用右边的选项对被测数据进行测试。这个测试也对应