（岩土工程专业论文）基于遗传优化神经网络算法的桥梁结构参数识别技术研究.pdf

摘要 桥梁结构是我国交通基础设施的重要组成部分。由于受多种因素的影响，在 役旧的钢筋混凝土桥梁往往存在结构病害与损伤，这些结构病害与损伤己成为公 路交通中的重大隐患。开展桥梁结构的病害检测与损伤评价技术研究，对于及时 发现桥梁结构中存在的缺陷、对带伤在役的桥梁结构的剩余寿命进行科学评估、 保证桥梁结构的使用安全等方面都具有重要意义，现已成为国内外桥梁工程领域 中的一个研究热点。 目前，桥梁结构性能的检测与评价技术有基于表观病害检测分析、静动载试 验分析等很多的方法体系。本论文在目前研究成果的基础上，基于混凝土梁桥静 载试验数据，将神经网络和遗传算法相结合，对钢筋混凝士梁的分段抗弯刚度识 别问题进行了研究，取得的主要研究成果如下： l 、在当前混凝士桥梁结构检测与损伤识别的方法体系的基础上，介绍了遗传 优化神经网络算法的基本理论。并对遗传优化神经网络算法在桥梁结构参数识别 中的应用进行了探讨。 2 、建立了钢筋混凝土梁截面抗弯刚度全过程分析的力学模型，在理论分析的 基础上编制了相应的数值计算程序。 3 、提出了基于神经网络和遗传算法相结合的混合优化算法。研究结果表明， 遗传算法具有快速学习网络权重的能力，该混合优化算法不仅具有神经网络广泛 的映射能力，而且具有遗传算法的全局收敛性能。在此基础上，编制了遗传优化 神经网络算法的实现程序，并用相关的数值算例进行了验证。无论是从直觉思维 的要求考虑，还是从不确定性的要求考虑，优化后的神经网络算法都可以有效地 解释结构状态的变化，即结构损伤发生的位置、程度等。 4 、根据工程实例梁的静载试验数据，应用本文提出的分析程序，对实例梁进 行了结构参数识别与性能评价，取得了理想的应用效果。 关键词神经网络，遗传算法，桥梁结构，参数识别，抗弯刚度 a b s t r a c t b r i d g eh a sa l r e a d yb e e nt h ei m p o r t a i l c ep a r to ft r a f f i cf o l l n d a t i o ne n g i 王l e e r i n gi no u r c o u n t r y ii o w e v e r d u et ot h ei n f l u e n c eo fm a n yf a c t o r s ，t h er c i n f b r c e dc o n c r e t eb r i d g e s t r u c t u r e sh a v ea l w a y ss u 虢f c ds o m es i r i l c t u r ed i s e a s ea i l dd 咖a g e ，w h i c ha r ei m p o r t a i l t i n c j p i e n t f a u l t i n t f a f f i ct r a n s p o n t a t i o n s t u d y i n gd i s e a s e e x a m i n a t i o na dd e f a c e e v a l u a t i n g e c h n o l o g yo fb d d g e s t m c t u r ei so ff a rr e a c h i n gi m p o r t a n c ei f i i l d i n gb r j d g e s t r u c t u r ep o t e n d a ld e f c c tt i m e l y s c i e n l i f i c a l l ye v a l u a t i i l gt oi m p a i r e ds t m c t u f er e m n 觚t 1 0 n g e v i t y ，g u a f a n t e ck i d g es t n l c t u i e c u f e i t ya n d s oo n t h e r e f o r e ，t h e s er e s e a r c hw o r k s b e c o m et h ec u r r e n “n t e m a t i o n a ih o t s p o ta t b r i d g ee n 百n e c r i n gd o m a i l l c u r r c n t l y ， t h em e t h o d so fb r i d g cs t m c t u r ea b i l i t ye x a m j n a t i o na i i ds t m c i u r e e v a l u a t i n ga r em a i l l l yb a s e d o na p p a r c n td i s e a s ee x a m i n a t 主o na n ds t a t i co rd y n 锄i cl o a d t e s i i i li h i sp a p e r ，b a s e d0 nt h ep r e v i o u ss t u d yr e s u l t s ，c o m b i n i n gn e u r a ln e t 、v o r ka n d g e n e l i ca l g o r i t h mt h es e g m e n t f l e x u r a lf i 酉d i t yi d e n t i 6 c a t i o no fr c i n f o r c e dc o n c r e t eb e a m i ss t u d i e db yu s i n gl h er e s u l to fs t a t i cl o a dt e s t t l t l em a i nf c s e a r c hf i n d i n g sa r ea s f o l l o w s ： 1 b a s e d0 nt h em e t h o do f b r i d g es t n l c t u r ea b i l i t ye x a m i n a t i o na n ds t r u c t u f ed a m a g e e v a l u a t i o n ，t h eb a s i ct h e o r yo fg c n e t i co p t i m i z a t i o nn e u m in c t w o r k sa l g o r i i h m s i s p a r t i c t l l a r l ye x p a t i a t e d g e n e t i co p t i n l i z a t i o nn e u r a ln e m o r k sa l g o r i t t l l l l i sd i s c u s s e di i l b r i d g es t n l c t u f ep a r a m e t e r i d e n t i f i c a t i o n 2 t h em e c h a i l i c sm o d e lo fw h o l ep r o c e s so fr e i n f o r c e dc o n c r e t eb e a ms e c t i o n f l e x u r a lr i g i d i t yi sf 1 0 u n d e d ，b a s e do nt h et h e o r e l i c a la n a l y s i st h ec o r r e s p o n d i n gn u m e r i c a l c a l c u l a t j o np r o 掣a mi sd e v e l o p e d 3 h it h i sp a p e li h em i x e do p t i m i z a t i o na 1 9 0 r i t h mw h i c hc o m b i n en e u r a ln e t w o r k s a n dg e n e t i ca l g o r i t h m si sp u tf o r w a r d t 1 l er e s u l t ss h o wt h a tm eg e n e t i ca l g o r i l h mh 硒 c a p a b j l j l yj nf a s t l e a m i n go fn e t 、) l r o 止w e j g j l t ，卸dm e m j x e d0 p t i l n i z a c i o na l g o r i t h mh 勰 c a p a b i l i t i e si ne x t e n s i v em a p p i n go fn e l i r a ln e t w o i k sa n dr a p i d 百o b a lc o n v e f g e n c eo f g e n e t i ca l g o r i t h i n o nt h i sc o n d i t i o nt h er e a l j z a t i o np r 0 伊a m0 fg e n e t i co p t i m i z a i i o n n e u f a ln e t w o r k si sw o r k e do u t ，a n dt h en u m e r i c a le x a m p l e sa r ea i l a l y z e d w h e t h e rf r o m t h ea s p e c to fj n i u i t j v er a t i o n a lf c q u i r c m e n to ru n c e n a i nd e m a n d ，o p t i m i z a t i o nn e u r a l n e t w o r k sc a ne 髓：c t i v e l ye x p l a i ns t n l c t u r es t a t ec h a n g e s ，n 锄e l ys t m c t u r ed a m a g e s l o c a t i o na n dd e p 乒e e 1 i 4 b a s e do nt h es i a t i cl o a dt e s lr e s u n0 fp f a c t i c a lb c 锄，s l n l c f u f cp 甜锄e t e r i d e n t i f i c a t i o na n da b i l i t ye v a l u a t i o no ft h ep r a c t i c a lb e 锄i ss t u d i e db yc 0 e s p o n d i n g a n a l y t i cp m 掣a i i l ，a n dp e r f b c ta p p l i e de f i e c ti so b t a i n e d k e yw 抽d s n e u r a ln e t w o f k ，g e n e l j ca l g o r i l h m ，b r j d g es t n l c t u r c s p a f a m e t e ri d c n t j 丘c a t i o n ， n e x u m lr i g i d i t y i 郑重声明 零太瓣攀夔谂文是在害爨攒黪下狻立撰写势竞成瓣，学疰论文没毒粼窃、抄袭 等违反学术邀德、学术规范的侵投行为，否则，本人愿意承担由此产生的一切法律 责任和法律厥粜，特此郑重声明。 学位论文捧者( 签名) ：褫中 6 年石月，曰 郑州大学硕士研究生毕业论文 第一章绪论 第一章绪论 1 1 概述 自从钢筋混凝土出现以来，使桥梁建筑工程产生了飞跃的发展。钢筋混凝土的 价格低廉、成形容易、经久耐用等优点，使之几乎取代了其它所有的建筑材料。随 着桥梁建设的不断发展，桥梁结构的形式与功能日趋复杂，人们对现代桥梁的质量 和寿命越来越重视。公路桥梁长期在自然环境( 大气腐蚀、温度、湿度变化) 和使 用环境( 荷载作用与频率的增加、材科与结构的疲劳) 的作用下，桥梁结构难免会 发生各种各样的损伤，号称“永久结构”的钢筋混凝土出现了一些原先人们没有认 识到的危害，如混凝土裂缝、碳化与水侵蚀、钢筋锈蚀或预应力松弛、其它附属设 施材料老化或损害等，使桥梁的寿命大大地打了折扣，使桥梁的结构性能和使用功 能达不到设计的要求或正常使用的要求，于是桥梁结构的检测、监测就成为桥梁结 构安全养护、正常使用的保证措旌之一。 桥梁和其他建筑物一样，其生命周期亦不外乎经历以下三个阶段：建造、使用 和老化。据截至1 9 8 8 年6 月的统计，在美国共有5 7 7 7 l o 座在编和分类的桥梁，其 中1 3 5 8 2 6 座被认为有结构缺陷。在我国，随着高速公路建设和发展，逐步建成 全国干线、高速公路网络，其中原有的公路将发挥从干线到支线，到各地分散物流 的重要作用，截止2 0 0 2 年底全国公路桥梁基本状况如表卜l ”1 。在现有的公路上， 数以万计的2 0 世纪6 0 7 0 年代修建的公路桥梁已经达到或接近设计基准期，或出 现由于各种原因引起的桥梁结构病害与损伤。截止到2 0 0 0 年底，我国公路上现有 危桥9 5 9 7 座，达3 2 3 4 5 l 延米n 1 。在短时间内重建所有旧危桥，不仅需要大量投资， 必然影响到重点工程建设，这有悖于桥梁建设的可持续发展。即使世界上最发达的 国家，现在也竟相投入人力和物力，从事旧危桥的技术研究，在兴建新桥的同时， 仍然十分重视旧危桥的使用价值。各国交通管理部门在公路建设中都积极贯彻“建 养并重”的方针，切实纠正“养路不养桥”的倾向，将桥梁病害检测与损伤评价列 入日程，及时发现桥梁发生的病害和出现的缺陷，并及时采取相应措旋予以消除， 确保桥梁安全运营，这是防患于未然的最实际的措施。 归纳影响桥梁结构损伤状态的因素，一般可分为三方面：( 1 ) 随机因素：材料 性能的不定性、计算模式的不定性和荷载效应的随机性；( 2 ) 模糊性因素：结构损 伤程度的不确定性和结构失效准则的不确定性；( 3 ) 信息不完备性：抗力计算中各 种简化和假定对结构实际抗力影响程度的不确定性及荷载处理过程中各种统计假 设与实际荷载相关程度的未知性。 郑州大学硕士研究生毕业论文 第一章绪论 表卜l 截止2 0 0 2 年底全国公路桥梁基本状况 桥梁总体状况全国公路桥梁达2 9 9 万座、1 1 6 1 2 万延米 分类特大桥大桥中桥小桥 数量1 9 0 0 座1 5 8 9 l 座5 9 9 万座2 2 1 7 万座 累计长度1 7 1 8 6 万延米2 7 6 1 2 万延米3 2 6 2 5 万延米3 8 7 o o 万延米 因此，建立对危桥和病害桥梁的检测和评价体系成为各国桥梁管理部门的迫切 需求，也逐渐成为桥梁领域的研究热点。对这些桥梁进行科学的病害检测与损伤评 价，真实了解桥梁的结构工作状况，是科学、可靠的利用旧桥和进行旧桥加固与维 修的前提与依据，同时，实时的对桥梁结构性能进行评价也可以避免重大桥梁结构 事故的发生。 本文的相关研究工作正是基于这样一种背景下完成的。 1 2 国内外研究概况和发展趋势 随着公路交通等工程事故的频繁发生，工程质量的好坏引起了人们的日益重 视。工程结构中经常存在着表面的某种破损或缺陷，如梁板的裂缝，这些肉眼可见 的破损容易引起人们的重视，丽旧有建筑物( 结构) 材料由于初始缺陷的存在及荷载 和环境的共同作用，使结构在经历了一段较长时间或受到某种自然灾害后，往往受 到不同程度的损伤，或由于结构的病害引起性能变化，导致突发事件或建筑物倒塌 现象的发生，这类危险是肉眼看不见的内在缺陷、损伤所造成的。结构的缺陷与损 伤严重地降低了结构的安全性、适用性和耐久性，特别是我国建国以来建成的建筑 项目多数已接近设计规定的基准使用期，因此，迫切需要对它们进行健康诊断，进 而更好地对它们进行维修、加固、管理与使用。因而，如何通过一定的检测手段与 方法来判断结构是否存在缺膪与损伤，并对损伤进行定位及评估成了当前国内外学 术界、工程界极为关注且研究活跃的领域。 对工程结构进行健康诊断与损伤探测的研究开始于2 0 世纪4 0 年代口1 ，大致可 以分为三个阶段：( 1 ) 探索阶段：该阶段为2 0 世纪4 0 5 0 年代，注重分析，研究 结构产生缺陷的原因和修补方法，检测工作以外观的目测方法为主；( 2 ) 发展阶段： 该阶段为2 0 世纪6 0 8 0 年代中期，注重对工程结构检测技术和评估方法的研究， 提出了破损检测、无损检测、物理检测等几十种现代检测技术和分项评价、综合评 价、模糊评价等多种评价方法。由于历史发展等原因和自然灾害造成的惨痛教训， 我国在2 0 世纪7 0 年代中期开始该项研究，虽然起步比较晚，但引起了国家许多部 门和单位的藿视，开发研究了许多符合我国国情的诊断方法与技术；( 3 ) 完善阶段： 该阶段为2 0 世纪8 0 年代后期至今，该阶段制定了一系列的规范和标准，强调综合 评价，引入知识工程，将有限元分析等数值计算方法与结构损伤检测方面的专家经 验结合起来，使结构损伤检测与可靠性评估工作朝着智能化的方向发展和迈进。 郑州大学硕士研究生毕业论文 第一章绪论 目前的检测方法主要有局部检测、表观检查、静载试验和动力特性试验等，并 形成了相关的桥梁结构损伤评价体系。尽管这些结构检测方法和评价体系指导了桥 梁结构的检测与评价，在工程实践中发挥了相当大的作用，但仍有需要完善和补充 的方面。 桥梁的结构检测与损伤评价，分为两个层次：( 1 ) 基于表观检查( 包括总体和 细部) 、材料检测、结构资料调查的桥梁结构特性分析与评价；( 2 ) 基于静载和动 力特性试验的桥梁结构性能分析与评价方法。 桥梁结构试验是对桥梁结构物工作状态进行直接测试的一种检定手段，是对桥 梁结构性能的最直观、最可靠的检测方法，按施加荷载的类型可分为静载试验和动 力特性试验，我国在这方面有成熟的方法或标准“1 。 桥梁结构静载试验是按照桥梁的设计荷载等级，根据荷载的最不利位置，布置 静载( 通常是载重汽车) ，或者根据桥梁结构的控制内力确定荷载及其位置，对桥 梁结构进行加载，测试关心截面的静位移、静应变、静转角等桥梁结构荷载响应， 进而根据测试结果推断桥梁结构在荷载作用下的工作状态和使用能力。静载试验可 以直接了解桥梁结构承载情况，验证桥梁结构设计理论和计算方法，确定和判断桥 梁结构实际的承载能力。可以通过某项结构响应( 位移、应变或应力等) 实测值与 理论计算值的对比，得到该项响应的校验系数叩，从而对桥梁的结构性能进行评价。 静载试验在桥梁结构检测中有着重要的作用。 桥梁结构动载试验采用车辆通过、冲击或环境激振等加荷方式，通过采集设备 获得桥梁结构的振动响应信号，对这些信号进行处理得到桥梁结构的频率、模态等 动力特性，进而对桥梁结构性能进行评价。 人工智能是近几十年来获得飞速发展的学科，它主要研究如何应用计算机来模 拟人脑的思维活动，包括功能模拟和结构模拟。功能模拟即在功能上模拟人脑，使 机器在某种程度上模拟人脑的功能；结构模拟即对人脑物理结构的模拟，使机器在 物理机制上模拟人脑。 人脑信息处理系统的功能依赖于其并行分布的结构由许许多多的神经元 彼此通过树突、轴突和突触相连而构成的一个立体网络，它具有高容量、高速度和 高容错性，是一种高度并行分布处理信息的系统。神经网络是对人脑生物神经网络 的一种简化，它对信息的存贮也是通过并行分布的结构来进行的，也具有生物神经 网络的特征，对信息的处理采用直觉联想式而非逻辑推理式。神经网络对知识的掌 握是通过对样本的学习来实现的，即通过对大量实例样本的学习，不断调整网络的 权值和阀值，从而掌握蕴涵于样本集中的难以用解释形式表达的知识。网络通过权 值记下所学过的样本知识并掌握输入、输出之间复杂的非线性关系。专家系统中不 确定性推理方法的难点在于先验数据和证据间关系的组合上，采用神经网络方法可 以不受这些限制，只要知道了学习样本集，就可以通过网络的自学习能力来解决。 郑州大学硕士研究生毕业论文 第一章绪论 大部分损伤检测实验技术要求事先已知损伤产生的大致部位，并且要检查的结 构部位容易接近，因而这些实验方法只能检测发生在结构表面或接近表面的损伤。 实际上，人们往往事先并不知道已经出现的缺陷与损伤，也不知道它们存在的部位， 因此需要对工程结构进行整体检测，再加以诊断与分析。为了满足工程结构特别是 复杂结构整体探伤的需要，现已产生了许多通过结构特性的变化来进行结构整体损 伤检测的方法与技术，它们都是通过结构特性的变化来反映结构物理特性参数的变 化，进而对结构进行探伤“。 对结构进行损伤( 或故障) 检测、诊断与评估是一个运用数学模型建立描述物理 系统的过程，对于遭受不同程度破坏的结构、其本身的某些特性往往发生变化。为 了鉴定这些变化对结构的影响程度，常进行一系列的模拟实验，测定相关的荷载、 位移、应变及加速度等，从材料性能如强度、刚度和动力特征( 如振动频率和阻尼 比) 方面对结构做出评价。很显然，结构损伤比较严重时，模态参数的改变就比较 大。如果损伤程度保持一个常数，则固有频率或模态振型的改变随着损伤位置的不 同而发生变化，这显示了模态参数的改变包括了损伤位置和损伤程度两方面的信 息。 在某个位置出现的损伤导致了某些模态参数的改变，它们可以作为特定损伤的 指标。运用有限单元法可以对不同损伤引起的模态参数的改变进行计算并保存在数 据库系统中，通过将实测模态参数的变化与储存在数据库中可能的损伤序列模态参 数的变化进行损伤模式的比较与匹配，来识别损伤。运用神经网络进行结构损伤检 测就是这样一种模式匹配，它包括训练阶段和检验阶段，训练阶段就是建立损伤模 式数据库的过程，检验阶段就是损伤模式匹配的过程。虽然神经网络并非专为损伤 检测设计的，但由于神经网络本身就具有模式匹配的能力，使得它成为损伤检测的 一种工具。近些年越来越多的学者研究运用神经网络进行复杂结构的损伤检测“”， 主要的网络模型是多层前馈神经网络，如b p 网络。最近，部分学者探讨运用径向 基函数神经网络、概率神经网络、模糊神经网络、对偶传播神经网络、自回归神经 网络等模型进行结构的损伤检测与诊断。 由于神经网络对输入节点没有限制，这样神经网络技术就可用来解决桥梁工程 领域的结构损伤检测的模式匹配与直觉联想等问题，桥梁工程问题的人工神经网络 求解方法如图1 1 所示。神经元中的激活函数本身可以选用非线性函数，因而它能 处理非常复杂的非线性问题；而网络对大量样本的适用性决定了本领域知识容量大 的适用性；神经网络具有自适应的能力，它能够通过训练学习，获得隐含在样本数 据内部的输入与输出之间的隐性关系；神经网络还具有联想、记忆及模式匹配的能 力，能够存储学习过程中的经验知识，然后将此信息与实测数据进行模式匹配与比 较；神经网络具有抽取、归纳的能力，它能够滤出噪声及在有噪声情况下抽取事物 本身内在的特征，得出正确的结论，因而它比较适合对具有大量噪声和测量误差的 郑州大学硕士研究生毕业论文第一章鳍论 结构进行在线健康检测与状态评估；神经网络的运动轨道总是朝着能量函数减少的 方向，最终到达系统的稳定平衡点能量函数的极小点，该点对应结构误差问题 的极小值，因此求神经网络系统稳定平衡点的过程就是求解结构误差问题的极小值 过程；神经网络采用并行分布存储的方法将通过样本学习到的知识来调整网络的权 值，决定了知识的处理也是并行分布和存储的，这对于定性、定量或不确定性问题 具有很强的鲁棒性( 容错性) ，同时也使快速处理复杂的问题成为可能。神经网络本 身就是一个输入与输出的映射函数关系，它具有分辨结构状态的原因及结构损伤类 型的能力，能够获得健康结构和损伤结构所具有的有关知识与信息：总之，神经网 络非常适合应用子结构的损伤检测与状态评估。 ：一一。一1 一。一一一。一一一一。一一。4 一一。一一一一一4 一。一j - 学习阶段： 求解问题 l ：一一。一一，一，一一一。一一一一j 图1 1 结构损伤识别问题的神经网络求解方法 1 3 本文的主要研究内容 当前钢筋混凝土梁桥的结构病害检测与结构参数识别、评价的方法体系很多， 取得了大量的成果，但都存在不足之处。本文在已有研究成果的基础上，基于钢筋 混凝土梁的静载试验结果，运用遗传算法和b p 网络识别的原理，通过对梁分段剐 度的识别与比较，从而实现钢筋混凝土梁结构参数识别与评价。主要做了以下几个 方面的工作： 1 、基于当前混凝土桥梁结构检测与参数识别的方法体系，介绍了遗传优化神 经网络算法的基本理论，并对遗传优化神经网络算法在桥梁结构参数识别中的应用 进行了探讨。 郑州大学硕士研究生毕业论文 第一章绪论 2 、阐述了钢筋混凝土梁截面抗弯刚度全过程分析的基本原理及实现步骤。 3 、用遗传算法快速学习神经网络权重，遗传算法和神经网络结合后兼有神经 网络广泛的映射能力和遗传算法快速的全局收敛性能，编制了遗传优化神经网络算 法实现程序，并用相关数值算例进行验证，取得了理想的结果。 4 、根据工程实例梁的静载试验成果，应用本文提出的分析程序，对实例梁进 行了结构参数识别与性能评价，得到了预期的应用效果。 郑州大学硬士研究生毕业论文第二章遗传优化神经网络算法的基本理论 第二章遗传优化神经网络算法的基本理论 2 1 神经网络基本理论 2 1 1 神经网络的发展史 神经网络是在现代神经生物学研究成果的基础上发展起来的一种模仿人脑信 息处理机制的网络系统。神经网络或神经计算的研究源自2 0 世纪4 0 年代，至今已 有半个多世纪的历史，大致可以分为三个阶段：( 1 ) 初创期( 1 9 4 3 1 9 6 9 年) ：1 9 4 3 年，c u l l o c h 和p i t t s 在分析和研究了人脑生物神经元后认为，人脑生物神经元 的活动像个断通的开关，他门引入阶跃阀值传递函数，并用电路构成了简单的神 经网络模型，现在称作m p 模型。心理学家h e b b 通过对大脑神经细胞学习和条件反 射的观察和研究，于1 9 4 9 年提出了改变神经元连接强度的神经元学习规则，即现 在的h e b b 规则，使神经网络有了可塑性。1 9 5 7 年r o s e n l l a t t 提出了著名的感知器 ( p e r c e p t r o n ) 模型，它是个具有连续可调权值矢量的m p 神经网络模型，经过训 练可以达到对一定的输入矢量模式进行分类和识别。1 9 6 2 年，b l o c k 用解析法证明 了感知器的学习收敛性，同年w i d r o w 和h o f f 提出了自适应线性( a d a l i n e ) 元件及 6 学习规则。a d a l i n e 模型是一个感知器的变化形式，是一个连续取值的神经网络。 由此掀起了神经网络研究的第一次热潮：( 2 ) 过渡期( 1 9 7 0 1 9 8 6 年) ：1 9 7 2 年芬 兰k o h o n e n 提出了一个与感知器不同的线性神经网络模型，1 9 7 5 年福岛提出了个 自组织识别神经网络模型，1 9 7 6 年g r o s s b e r g 根据对生物学和心理学的研究，提出 了几个非线性动力系统结构，1 9 8 0 年芬兰k o h o n e n 提出了自组织映射理论。这些研 究工作对神经网络的发展起到了积极的推动作用。1 9 8 2 年美国加州工学院物理学家 h o p f i e l d “2 1 经过对神经网络动力特性的研究、将神经网络理论分析与动力学稳定性 分析方法相结合，引入了“计算能量函数”的概念，给出了网络稳定性判据，开拓 了神经网络用于联想记忆和优化计算的新途径，这一突破性的研究成果掀起了神经 网络研究的又一热潮。此后、许多新的网络模型不断地被提出，如连接网络模型、 b o l t z m a n n 机型等。特别是1 9 8 6 年r u m e l h a r t 和m c c e l l a n d 领导的p d p 小组更是 做出了突出贡献，他们提出了误差反向传播神经网络( b p 网络) ，它是一种朝着满足 给定输入输出关系方向进行自组织的神经网络，直到现在，b p 网络仍是应用比较广 泛的网络之一；( 3 ) 发展期( 1 9 8 7 年至今) ：1 9 8 7 年6 月在美国召开了第一届神经 网络国际会议并成立了国际神经网络学会，美国于1 9 8 8 年1 1 月开始一项投资数亿 美元的发展神经网络及其应用研究的八年计划。此后许多国家也相应地制定了发展 神经网络的计划，使得在世界范围内掀起了神经网络研究的高潮。进入2 0 世纪9 0 年代，神经网络的国际会议接连不断，特别是1 9 9 4 年国际电气工程师与电子工程 郑州大学硕士研究生毕业论文第二章遗传优化神经两络算法的基本理论 师学会( i e e e ) 在美国奥兰多召开了全球计算智能大会( 霄c c i ) ，将模糊系统、神经网 络和进化计算三个方面的内容综合在一起召开，大大地解决了神经网络与其他学科 领域的交叉研究与应用。这期间出现了许多新的神经网络模型，如细胞神经网络模 型( 1 9 8 8 年) 、因素神经网络模型( 1 9 9 2 年) 、混钝神经网络、模糊神经网络和小波 神经网络等。”1 。我国的神经网络研究开始于1 9 8 8 年，在基础理论与应用领域方面 都取得了一系列莺要成果。1 9 8 9 年在广州召开了全国神经网络信号处理会议， 1 9 9 0 年我国8 个一级学会联合召开了首届全国神经网络学术会议( 北京) ，并决定以 后每年召开一次。特别是1 9 9 2 年国际神经网络学会和i e e e 神经网络委员会联合学 术会议在北京召开，极大地推动了神经网络在我国的开展与研究。我国的国家自然 科学基金和国防科技预研基金以及国家攀登计划重大项目等也都对神经网络方面 的研究课题予以资助。其中国家攀登计划重大项目“认知科学中神经网络理论与应 用基础研究”于1 9 9 2 年1 0 月启动，该项目包含神经网络模型、神经网络基本理论、 神经网络智能系统理论以及神经网络实现方法4 个课题，分解为1 8 个子课题，分 别由东南大学、北京大学、清华大学、复旦大学、南开大学等】2 个单位承担研究， 参加人员“2 名，其中科学院院士3 人、教授2 3 人、博士后、博士2 9 人。这是我 国从事神经网络理论基础性问题研究的国家队，现己取得了很多创新的、富有成效 的研究成果。 目前，神经网络的研究芷由神经计算向计算智能最后到生物智能的方向发展。 其中计算智能包括神经网络、模糊系统和进化计算等3 个主要方面，其研究的积极 意义在于促进了基予计算的和基于物理符号的各种智能理论、模型、方法的综合集 成。 2 1 2 神经网络基本原理 人工神经网络( a r t i f i c i a ln e u r a l t w o r k ，简称神经网络或a n n ) 是在物理机 制上模拟人脑信息处理机制的信息系统。它不但具有处理数值数据的一般计算能 力，而且还具有处理知识的思维、学习、记忆能力。它采用类似于“黑箱”的方法、 通过学习和记忆而不足假设，找出输入、输出变量之间的非线性关系( 映射) ，在执 行问题和求解时，将所获取的数据输入给训练好的网络，依据网络学到的知识进行 网络推理，得出合理的答案与结果。 2 1 3 人工神经元模型与传递函数 人工神经元是人工神经网络中的基本处理单元。它是一个多输入单输出的非 线性元件，一个近似模拟生物神经元的数学模型：每一连接都有突触连接强度，用 一个那层的连接权值来表示，即将产生的信号通过连接强度放大，人工神经元接收 到与其相连的所有神经元输出的加权累积，加权总和与神经元的阀值进行比较，若 它大于阀值，人工神经元被激活。当它被激活时，信号被传送到与其相连的更高一 级神经元。 郑州大学硕士研究生毕业论文 第二章遗传优化神经网络算法的基本理论 人工神经元的模型很多，主要有四种模型：( 1 ) 阀值单元模型m p 模型：这种 模型是最基本的，是由m c c u l l o c h 和p i t t s 于1 9 4 3 年提出的，它只能处理o 和1 二值离散信息，这里假定，( ) 为传递函数，这里为阶跃函数；z ；、彬i 分别为第， 输入单元到第f 个单元的输入和权值；口为人工神经元的阀值；y ；为第f 个神经元的 输出，则有y ，( y 工，彬i 一口) ，输出为1 表示第f 个神经元兴奋，输出为。表示神 经元f 静止。( 2 ) 准线性单元模型：它与m p 模型相似，采用连续的信息作为输入和 输出，其传递函数一般为非线性函数，如： ，( 舾r ) =鬲而。而面蓼两丽 l + e x p 一胞丁) 1 + e x p ( 一 ：工f 彬f + 日) ( 2 1 ) 该模型被广泛地应用于b p 神经网络。( 3 ) 概率神经元模型：该模型的输入输出信号 采用o 和l 的离散信息，它是把神经元的动作以概率状态变化的规则模型化。该种 神经元模型被用在b o l t z 唿n n 机神经网络中。( 4 ) 统一模型“：统模型由加权加 法器、线性动态系统、非线性映射和学习规则四部分组成。许许多多的神经元按照 不同的连接方式构成不同的神经网络模型，因此神经网络能够进行大规模的并行处 理和分布式的信息存储，具有良好的自组织、自适应以及很强的学习、联想和容错 功能。 根据神经元输入输出特性的不同，可采用不同的传递函数，主要有以下几种形 式：( 1 ) 阀值型函数；( 2 ) 分段线性函数；( 3 ) s 型函数；( 4 ) 双曲正切函数；( 5 ) 高斯函数。 2 1 4 神经网络模型 神经网络就是由许多简单单元组成的广泛并行互连的网络，它的组织能够模拟 生物神经系统的真实世界物体做出交互反应。按照连接方式的不同可以分为两大 类：无反馈的多层前馈网络模型和互连型网络模型。前者将神经元分成若干层，各 层顺序连接，同一层之间无连接，每一层神经元只接受前一层神经元的输出，典型 的如b p 网络；后者允许任意两个神经元之问存在相互连接，因此输入消耗要在神 经元之间进行反复往返传递，直到趋于某一稳定状态或进入周期振荡等状态，典型 的如h o p “e l d 网络。还有一些网络是上述两种结构模型的混合。 神经网络按照学习算法分为有教师学习网络和无教师学习网络。有教师学习网 络要求同时给出输入和正确的输出，网络根据当前输出与目标输出的误差来进行网 络调整，使网络做出正确的反映，这类网络中最著名的有b p 网络。无教师学习网 络只需给出一组输入，网络能够逐渐演变到对输入的某种模式做出特定的反映。这 类网络有自适应共振理论网络、自组织特征映射网络( k o h o n e n 网络) 等。 2 1 5 神经网络的学习算法 作为模拟人脑活动的神经网络，有两类学习方式。”“：有教师学习和无教师 学习。有教师学习的方式中，网络的输出和期望输出( 目标输出) 进行比较，根据两 0 一 郑州大学硕士研究生毕业论文 第二章遗传优化神经网络算法的基本理论 者之间的误差调节网络的权值，最终使误差最小。无教师学习方式中，训练数据集 中只有输入而没有目标输出，训练过程中神经网络自动地将输入数据的特征提取出 来，并将其分成若干类，训练后的网络能够识别训练数据集以外新的输入类别，并 相应获得不同的输出。显然，无教师学习的方式可使网络具有自组织、自学习的功 能。 神经网络中的神经元是一个具有相当适应能力的处理单元，也是最基本单元， 它所连接的权可以按照一定的规则来调整。在神经网络发展过程中曾出现过许多学 习规则，以下简单介绍几种典型的学习规则：( 1 ) 联想式学习h e b b 学习规则：h e b b 学习规则是一种无教师学习，它只根据神经元连接间的激活水平改变权值。它的哲 学基础是联想，在这个规则基础上又发展了许多无教师联想学习模型，根据确定的 学习算法自行调整权值，其数学基础是输入合乎输出之间的某种相关计算，故h e b b 学习规则又称相关学习或并联学习。( 2 ) 误差传播式学习一6 学习规则：6 学习规 则是对具有连续活性函数的神经元的一种有教师学习规则，它是一种梯度下降学习 规则。其连接权值按照下式进行调整： h 勺( h + 1 ) 一h 勺( n ) + 叩缸j h j 0 ) + 叩0 i y i ) x j ( 2 2 ) 式中：叩为学习率，f ；为期望输出；n 为实际输出；x ，为神经元，的激活水平。上 述的6 学习规则只适用于线性可分函数，r u m e l h a r t 等人于1 9 8 6 年系统地总结了误 差传播学习的研究成果，概括了具有普遍意义的6 学习规则，又称广义6 学习规则。 广义6 学习规则的连接权值的调整分两种情况，对于输出层： 一叩k 一，( ) j 厂。( 孵弦f ( 2 3 ) 式中：孙工，及同上；，( ) 及，( ) 分别为神经元的传递函数及其一阶导数；n e f 。为 第f 个神经元的输入。对于隐含层来说，权值按照下式进行调整： r1 a ，i 彬州彬“ji ，o j h ( 2 4 ) l rj 式中：y 为全体与隐含层单元j 相连的各项连接权值变化的总和。根据广义6 学 习规则，误差由输出层逐层反向传至输入层，而输出则是正向传播，直至给出网络 的最终响应。这种误差传播式学习规则( b p 算法) ，在多层前馈神经网络的有教师学 习中，具有重要的作用。本文采用的神经网络的学习算法为b p 算法。( 3 ) 概率式学 习：从统计力学、分子热力学和概率论中关于系统稳态能量的标准出发，进行神经 网络学习的方式，称概率式学习。其代表是b o l t z 甥a n n 机网络学习规则，它是基于 模拟退火的统计优化方法，因而又称模拟退火算法。( 4 ) 竞争式学习：r u m e l h a r t 和 z i p s e r 于1 9 8 5 年提出前馈神经网络的竞争式学习规则，它属于无教师学习方式。 它利用不同层间的神经元发生兴奋性连接，而距离较远的神经元产生抑制性连接。 郑州大学硕士研究生毕业论文 第二章遗传优化神经网络算法的基本理论 这种在神经网络中的兴奋性或抑制性连接机制中引入了竞争机制的学习方式称为 竞争式学习。它的本质特征在于神经网络中高层次的神经元对低层次神经元输入模 式进行竞争式识别。这种网络的第一层为输入层，以后的每一层都增加许多不重叠 的组块，每一组块在特征识别中只有一个竞争优胜单元兴奋，其余单元受到抑制。 ( 5 ) 遗传算法：遗传算法( 简称g a ) 是h 0 1 1 a n d 教授根据生物进化理论提出的一种优 化方法，它一般分为复制、交叉、变异等几个过程。由于g a 能在短时间内找到接 近全局最优解的近似解，因而经常将它用在对网络连接权值的优化中，这样就不要 求传递函数必须连续可导。 2 1 6b p 神经网络模型 一、b p 网络模型 b p 网络是一多层前馈网络，也是目前应用最广泛的一种网络，它包含输入层、 隐含层和输出层，同层单元之间不相连。b p 算法网络模型如图2 1 。 b p 网络可以看成是一个从输入到输出的高度非线性映射( 函数) ，即f ：r 8 一 r ”，( 冀) 一y 。 屯 y 1 y 2 y 。 图2 1b p 算法网络模型 对于样本集合：输入置( r 1 ) 和输出y 。( r ”) ，我们可以认为存在某映射占使 g “) = y ；a 一1 ，2 ，席) 。现要求求出一个映射，使得在某种意义下( 通常是最小二乘 意义下) ，是g 的最佳逼近。神经网络通过对简单的非线性函数进行数次拟合， 可近似复杂的函数。 b p 算法的学习过程由正向传播和反向传播组成。正向传播过程中，输入模式从 输入层经隐含层逐层处理，并传向输出层，每一层神经元的状态仅影响下一层神经 元的状态。如果在输出层不能得到期望的输出，则转入反向传播，将误差信号沿原 来的连接通路返回，通过修改各神经元的权值，使得误差信号最小。b p 学习算法程 序框图如图2 2 。 二、b p 学习算法权重更新分析 b p 网络是最常用、最流行的神经网络模型，它的逼近能力和训练方法是其应用 的关键。以下面的b p 网络结构为例，单元的输出为d 。，网络权值为，期望输出 为t ，网络误差为e ，b p 算法权重更新的步骤如下： ( 一) 构造网络拓扑结构，选取合理的网络学习参数，初始化网络的权值。 塑型茎兰堡圭堕窒竺望些兰 蔓三童望堡垡丝塑丝堡堑竺鲨塑苎查堡堡 网络误差： e = d ，一耳 b p 学习算法就是通过调整权重，使得e 2 - 一0 ) 2 达到最小。 图2 2b p 学习算法程序框图 1 2 ( 2 5 ) 郑州大学硕士研究生毕业论文 第二章遗传优化神经网络算法的基本理论 输 入 叶0 p 图2 3b p 学习算法图例 ( 二) 下面以一个具体的神经元为例来详细分析权重更新。 d 1 0 2 以 r 一+ 一一。一一。一。一。+ + 一1 求和功能激励函数 陟 啦。 罗d 。 ，8 卅描 ，( b ) j 神经元口 l 、i 图2 4神经元b 的图例 在图2 4 中，虚线框内代表神经元b ，它既可以是隐含层单元也可以是输出层 单元，在前一层中n 个神经元输出( 0 。，o ：，o ，) 提供给神经元8 输入a 为了解释方便，假设从输入单元中任选一个神经元( 比如选择神经元1 ) 作为 神经元a ，二者的连接权重为，则权重更新按下面的公式进行： = 州) 一卵舞 ( 2 6 )