（材料加工工程专业论文）基于人工神经网络的稀土铜合金性能预测.pdf

摘要 本文采用遗传算法与神经网络相结合的方法构造合理的神经网络模 型。采用b p 神经网络，将铜合金中各元素的含量作为网络的输入层，将铜 合金的性能参数作为输出层，确定合适的样本数、学习步长、传递函数、 动量因子、隐层节点的个数及层数等参数，并利用遗传算法训练神经网络 各层之间的权值和阂值，从而得到合理的神经网络模型。利用m a t l a b 语 言，实现了稀土铜合金性能预测软件的设计。预测结果表明，电阻率和抗 拉强度的实测值与预测值的相对误差均小于0 9 5 ，硬度的实测值与预测 值的相对误差小于1 7 5 ，网络的拟合效果良好。可以作为设计高强高导 铜合金的工具，也可以为其他合金的设计提供有价值的参考依据。 关键词：神经网络：遗传算法；稀土铜合金；力学性能；物理性能 a b s t r a c t ar e a s o n a b l en e u r a ln e t w o r km o d e lw a sp r e s e n t e di nt h i s a r t i c l e u s i n g t h em e t h o do fb o n do fa r t i f i c i a l n e u r a ln e t w o r ka n d g e n e t i ca l g o r i t h m t o g e t h e r t a k i n gd i f f e r e n te l e m e n t s c o n t e n ti nt h ec o p p e ra l l o yt ob et h e n e t w o r ki n p u tl a y e r ，a n dt h ep e r f o r m a n c e s m a d et h eo u t p u tl a y e rt om a k ea b a c kp r o p a g a t i o nn e u r a ln e t w o r k ，a n dt h e nc h o o s ep r o p e rp a r a m e t e r so ft h e s a m p l en u m b e r ，l e a r n i n g - r a t ep a r a m e t e r ，t r a n s f e rf u n c t i o n ，m o m e n t u mf a c t o r ， t h en u m b e ra n dl a y e ro fh i d el a y e r u s i n gg e n e t i ca l g o r i t h mt oo p t i m i z et h e t h r e s h o l dv a l u ea n dw e i g h to fb pn e u r a ln e t w o r k ，s oa st oo b t a i nar e a s o n a b l e n e u r a ln e t w o r k m o d e l u t i l i z i n gm a t l a bt or e a l i z et h e d e s i g n f o r c o p p e r r a r ee a r t hp e r f o r m a n c ef o r e c a s t i n gs o f t w a r e t h er e s u l ti n d i c a t e st h a t t h en e t w o r kw o r k sw e l l t h ee l e c t r i c a lr e s i s t i v i t y sr e l a t i v ee r r o ri s s m a l l e r t h a n0 9 5 ，s oa st h et e n s i l es t r e n g t h t h eh a r d n e s s r e l a t i v ee r r o ri ss m a l l e r t h a n1 7 5 t h i sn e u r a ln e t w o r kc anp r o v i d e sv a l u a b l er e f o r e n c ef o r t h e c o p p e ra l l o y ，w h i c hh a st h e p r o p e r t y o f h i g hs t r e n g t ha n ds p e c i f i c c o n d u c t a n c e k e yw o r d s ：n e u r a ln e t w o r k ；g e n e t i ca l g o r i t h m s ；c o p p e r r a r ee a r t h ； p h y s i c a lp e r f o r m a n c e ；m e c h a n i c sp e r f o r m a n c e 辽宁工程技术大学硕士学位论文 1 绪论 1 1 选题背景 随着科学技术的发展，“材料”这一概念的内涵和外延都在不断地扩 展延伸，人们对材料的性能提出了越来越高的要求，设计者常常需要满足 高速、高压、高温、重量轻、强度高、体积小、寿命长、消耗低和改进生 态相容性等要求的新型材料。材料的研制过程也日趋复杂和困难，需要综 合运用材料科学、物理学、化学、数学、人工智能、计算机科学等多学科 知识，也需要实验、归纳、演绎等多种科学方法的有机结合，当然，还需 要专业人员长期的知识、经验的积累。 材料科学作为一门新兴的学科，远不像数学、物理那样有系统的理论 和精确的数学方法。新材料、新物质的探索和研制常常是应用经验性方法， 或称为“试错法”。也即，当材料的性能要求提出后，凭经验确定材料制备 的工艺和配方，然后试制出一批样品，分析其组分与结构，测试其性能， 如果没有达到要求，则另行改变配方和工艺再试验。一般这个过程要反复 多次才能达到要求。这种方法费时费力，事倍功半。从而导致材料研制成 本高、周期长、盲目性大等缺点。本世纪5 0 年代初提出的“材料设计”的 思想，即按照使用要求对材料进行理论计算，确定为达到该性能所应采用 的配方和工艺。但对材料体系建立完备、精确的数学模型，从原子、分子 层次对材料进行自底向上、绝对精确的设计还仅处于概念性阶段。即理论 研究往往落后于实际的应用。由于材料的组成和工艺日趋复杂，其对结构 性能的影响也越来越微妙，以往“炒菜”法已经不能满足人们的需要。 人工神经网络和遗传算法的出现，为“智能化材料设计”的实现提供 了可能。与传统的专家系统相比，不仅可以解决定性问题，也可以解决定 量问题。它不依赖于“专家”的头脑，而是利用其自学习能力，从已有的 实验数据中自动总结规律，能较好地解决专家系统所面临的问题，特别适 合于研究复杂非线性系统的特性。目前已经在金属、合金、无机非金属等 多个领域用以辅助材料研究，取得良好的效果。 辽宁工程技术大学硕士学位论文 2 人工神经网络与遗传算法相结合可以弥补各自的不足，被广泛的应用 于材料的研究中。主要体现在以下几个方面： ( 1 ) 材料设计 在材料科学与工程领域中影响材料性能和使用的因素多而复杂，特别 是新材料，其组分、工艺、性能和使用之间的复杂关系、内在规律尚不完 全清楚，而材料的设计都涉及到这些关系。人工神经网络能从已有的实验 数据中自动归纳出规律，并可以利用经训练后的人工神经网络直接进行推 理，适用于对材料结构的设计和性能预测。 蔡煜东等采用人工神经网络b p 模型对过渡金属元素选取有代表性的 5 4 个样本，构成模式空间，并选取两类样本：具有氧心结构的三核簇合物 及不具有氧心结构的三核簇合物，选取其中4 6 个样本作为神经网络的学习 教材。经过学习，网络能完全识别这些样本，建立了化合物、金属元素参 数与氧心结构( 非氧心结构) 之间的复杂对应关系。将8 个未知样本让网 络对其进行识别，实际输出和期望输出完全一样，并且具有容错能力强、 识别速度快捷等特点。刘贵立、张国英等根据力学性能的要求，利用人工 神经网络对材料的合金成分和热处理温度进行预测。克服了其它优化方法 计算量大，难于寻找最优解的缺点，为研究高性能钢材，合理使用合金元 素，尽量降低实验成本提供了手段。刘金琨等研究了基于神经网络的高炉 铁水含硅量的预报模型，运用高炉生产过程中工艺参数，实现铁水含硅量 的中短期预报。模型具有较高的预报精度，预报能力随学习样本数量的积 累不断改善。在此基础上开发的预报模型可用于高炉在线预报，并可连接 到高炉专家系统中。 ( 2 ) 材料性能预测 材料力学性能是结构材料最主要的性能。力学性能受材料组织结构、 成分、加工过程的影响，是一个影响因素较多的量。近年来采用人工神经 网络的方法预测钢的力学性能，取得一定进展。 m y l l y c o s k i 用生产线上获得的数据，建立能较准确地预测轧制带钢力 学性能的人工神经网络模型。该神经网络模型能用来评价加工工艺参数的 影响，因而可用来指导改变加工工艺参数以获得所要求的力学性能。李水 辽宁工程技术大学硕士学位论文 3 乡、孙慧玉等采用人工神经网络方法模拟三维编织复合材料力学性能。以 编织工艺参数( 如编织角、编织纱根数等) 作为输入层，将需要预测的力学 性能作为输出层，从而建立起编织工艺参数与三维编织复合材料力学性能 的人工神经网络模型，这对三维编织复合材料的实验、生产和应用、工艺 参数的选取以及理论模型的研究具有重要的参考价值。戴起勋、戴希敏将 奥氏体钢的成分( c 、n 、s i 、m n 、c r 、m o 、c u 、n b ) 作为输入层，将钢的 力学性能盯。、吼、文 a 。作为输出层建立网络，从而指导奥氏体钢材料成 分的设计，大大降低新材料的研究开发成本。 ( 3 ) 优化工艺参数 神经网络与遗传算法相结合所建立的模型对材料生产工艺参数进行 优化取得了显著的效果。如阎加强、张培新等采用遗传神经网络对反应烧 结面0 2 一s i c 制备工艺进行了优化，即以合成历0 2 一s i c 材料时的烧结温度( t ) 、保温时间( t h ) 、成型压力( p m p a ) 、碳含量( 收：c z r s i d 4 ) 、铁粉加入 量( ) 等工艺条件构成特征参数，作为网络的输入，将各工艺条件下的 s i c 生成量作为期望输出值，识别和预测都取得令人满意的结果。 ( 4 ) 材料的检测 a 超声无损检测缺陷表征方法 定量化检测是无损检测的发展方向，近年来神经网络理论的发展及其 在模式识别领域中的成功应用，为超声无损检测的定量化开辟了新的途径。 刘伟军等以焊缝中裂纹、夹杂及气孔三类缺陷的分类为例，给出了一种以 径向基函数神经网络( r b f n ) 为基础的缺陷特征分类方法。r b f n 网络可 利用简单核函数形成的重叠区域产生任意形状的复杂决策域，学习能力强、 速度快，是一种性能优越的非线性预测器和分类器。 b 光纤智能复合材料自诊断系统 现有的各种无损检测方法在研究复合材料结构时不能实现实时检测， 而在光纤智能材料与结构中，光纤阵列的选择及阵列输出信号的分析处理 是非常重要且困难的。杨建良等根据模体积失配效应与微弯原理，提出城 墙型式光纤应变传感器阵列，并结合人工神经网络处理阵列输出的传感信 号，研制出适用于复合材料结构状态监测与损伤估计用的光纤智能复合材 辽宁工程技术大学硕士学位论文 4 料自诊断系统【卜1 们。 1 2 研究内容及意义 铜是有色金属中最重要的金属之一，而稀土元素具有典型的金属性 质，化学性质极为活泼。稀土在铜及铜合金中可以起到净化作用，变质作 用及微合金化作用，可以去除铜及铜合金中的氧、氢、氮、铅、铋等杂质， 提高合金的质量，改善铜及铜合金的高温机械性能和热加工性能，提高耐 腐蚀性能及导电性，稀土添加剂具有较好的脱氧、脱硫能力；有极强的除 渣作用；有显著的细化晶粒效果。稀土添加j ： l | 的应用非常广泛，常应用于 石油化工、轻工业、纺织业、农业、机械工业中。虽然我国在稀土的推广 应用方面取得了很大的进展，尤其是稀土作为添加剂在金属材料中的应用 已经得到了人们的共识。如在冶金工业中，稀土常被称之为金属材料的“维 生素”。但与在钢铁、铝合金等中应用相比，稀土在铜及铜合金中的应用尚 存在着很大的差距，这与人们在理论上或实践上的认识差距有关j 。 人工神经网络是近年发展起来的模拟人脑生物过程的具有人工智能 的系统。目前，在材料设计方面中的应用已取得一定的进展。它无需人们 预先给定公式的形式，而是以实验数据为基础，经过有限次迭代计算而获 得的一个反映实验数据内在规律的数学模型。因此，它特别适合于研究复 杂非线性系统的特性。目前，很多研究工作者将材料的合金成分及热处理 温度作为网络的输入，材料的力学性能作为网络的输出，来建立反映实验 数据内在规律的数学模型，利用各种优化方法实现材料的设计。 本文在获得大量实验数据基础上，建立铜合金中稀土元素、其它元素 与合金性能( 导电性、强度等) 之间有机联系的神经网络模型，并将遗传 算法引入到神经网络中，通过大量实验数据对所构造的神经网络模型进行 i ) i i 练，使其具备智能化设计功能；运用m a t l a b 语言编程，初步构建适用 于稀土铜合金材料设计的软件。为能够研制出高强高导电铜合金材料作一 些基础性的研究工作，以利于高强高导电铜合金更好地应用于现场中，。 经查阅大量文献，建立合理的稀土元素以及铜合金中其它元素含量与 辽宁工程技术大学硕士学位论文 5 铜合金性能之问有机联系的神经网络模型尚属国内外空白。 本课题的来源：辽宁省自然科学基金一一“稀土元素l a 、c e 在铜合 金中作用机理及神经网络模型”。 辽宁t 程技术人学硕士学位论文 6 2 神经网络 2 1 神经网络概述 2 1 1 神经网络的发展概况 神经网络是由大量具有适应性的简单处理单元广泛互连而成的复杂 网络，用于模拟人脑神经网络的结构和行为。它是在现代神经科学研究成 果的基础上提出的，反映了人脑功能的若干基本特征，但它并不是人脑的 真实写照，而只是它的某种抽象、简化与模拟 ” 。 神经网络的研究始于2 0 世纪4 0 年代。半个多世纪以来，它经历了一 条由兴起到衰退、又由衰退到兴盛的曲折发展过程，这一发展过程大致可 以分为以下四个阶段。 1 ) 初始发展阶段 i9 4 3 年，心理学家w s ，m e c u l l o e h 和数学家wp i t t s 在研究生物神经 元的基础上提出了一种简单的人工神经元模型，即后来所谓的“m p 模 型”，虽然m - p 模型过于简单，且智能完成一些简单的逻辑运算，但它的 出现开创了神经网络研究的先河，并为以后的研究提供了依据。 19 4 9 年，心理学家d o h e b b 发表了论著行为自组织，首先提出了 一种调整神经网络连接权值的规则。他认为，学习过程是在突触上发生的， 连接权值的调整正比于两相连神经元活动状态的乘积，这就是著名的h e b b 学习律。19 5 7 年，f r o s e n b l a t t 提出了著名的感知器( p e r c e p t r o n ) 模型， 这是第一个真正的人工神经网络。这个模型由简单的闽值神经元构成，初 步具备了诸如并行处理、分布存储和学习等神经网络的一些基本特性，从 而确立了从系统角度研究神经网络的基础。 1 9 6 0 年，b w i d r o w 和m bh o f f 提出了自适应线性单元( a d a l i n e ) 网 络，不仅在计算机上对该网络进行了模拟，而且还做成了硬件。同时，他 们还提出了w i d r o w h o f f 学习算法，改进了网络权值的学习速度和精度， 后来这个算法被称为l m s 算法，即数学上的最速下降法，这种算法在以后 后来这个算法被称为l m s 算法，即数学上的最速下降法，这种算法在以后 辽宁工程技术大学硕士学位论文 7 的b p 网络及其他信号处理系统中得到了广泛的应用。 2 ) 低潮时期 1 9 6 9 年，美国麻省理工学院著名的人工智能专家m m i n s k y 和s p a p e r t 共同出版了名为感知器的专著，指出单层的感知器网络只能用于线性 问题的求解，而对于像x o r ( 异或) 这样简单的非线性问题却无法求解。 他们还指出，能够求解非线性问题的网络应该是具有隐层的多层神经网络， 而将感知器模型扩展到多层网络是否有意义，还不能从理论上得到有力的 证明，致使在这以后的1 0 年中，神经网络的研究进入了一个缓慢发展的低 潮期。 3 ) 复兴时期 美国加州理工学院生物物理学家j o h n j h o p f i e l d 博士在19 8 2 年和 1 9 8 4 年先后发表了两篇十分重要的论文，由于他提出的h o p f i e l d 网络很容 易用集成电路来实现，h o p f i e l d 网络引起了许多科学家的理解与重视，也 引起了半导体工业界的重视。1 9 8 3 年，即h o p f i e l d 模型提出的第二年，年 轻学者s e j n o w s k i 与其合作者h i n t o n 提出了大规模并行网络( m a s s i v e l y p a r a l l e l l ) 学习机，并明确提出隐单元( h i d d e r tu n i t ) 的概念。这种学习机 后来称之为b o l t z m a m n 机。他们应用多层神经网络并行分布地改变各神经 元间的连接权，克服了以往神经网络的局限性。此外，s e j n o w s k i 还运用这 些原理构造了著名的n e t t a l k 程序系统。1 9 8 6 年d e r u m e l h a r t 和 j l m c c e l l a n d 及其研究小组提出的p d p ( p a r a l l e ld i s t r i b u t e dp r o c e s s i n g ) 网络思想，尤其是他们提出的误差反向传播算法，即b p 算法，己成为至 今影响最大、应用最广的一种网络学习算法。 4 ) 发展高潮期 2 0 世纪8 0 年代中期以来，为了适应人工神经网络的发展，1 9 8 7 年成 立了国际神经网络学会，并于同年在美国圣地亚哥召开了第一届国际神经 网络会议。此后，神经网络技术的研究始终呈现触蓬勃活跃的局面，理论 研究不断深入，应用范围不断扩大。 迄今为止的神经网络研究，大体上可分为三个大的方向： 1 ) 探求人脑神经系统的生物结构和机制，这实际上使神经网络理论 辽宁工程技术大学硕士学位论文 8 的初衷； 2 ) 用微电子学或光学器件形成特殊功能网络，这主要是新一代计算 机制造领域所关注的问题： 3 ) 将神经网络理论作为一种解决某些问题的手段和方法，这些问题 在利用传统方法时或者无法解决，或者在具体处理技术上尚存困难1 13 】。 2 1 2 神经网络基本模型及分类 1 ) 神经网络的基本模型 人工神经网络是由大量处理单元广泛互连而成的网络，是人脑的抽 象、简化、模拟，反映人脑的基本特性。一般来说，作为神经元模型应具 备三个要素： ( 1 ) 具有一组突触或联接，常用( - 0 。表示神经元i 和神经元i 2 _ 间的联 接强度，或称之为权值。与人脑神经元不同，人工神经元权值的取值可在 负值与正值之间。 ( 2 ) 具有反映生物神经元时空整合功能的输入信号累加器。 ( 3 ) 具有一个激励函数用于限制神经元输出。激励函数将输出信号 压缩( 限制) 在一个允许的范围内，使其成为有限值，通常，神经元输出 的扩充范围在( o ，1 】或 一1 ，1 闭区间。 一个典型的人工神经元模型如图2 1 所示。 r 一一一一一一一一一一一 l j 图2 - 1一个简单的神经网络 其中每个小圆圈表示一个神经元( 也称处理单元或节点) 。各个神经元 之间通过相互连接形成网络拓扑，这个拓扑的形式称为神经网络的互连模 辽宁工程技术大学硕士学位论文9 式。神经网络以外的部分可统称为神经网络的环境。神经网络从环境中接 受信息，对信息加工处理之后又返回到其所处环境中。 每个神经元的连接不只是一个单纯的传送信号的通道，而是在每对神 经元之间的连接上有一个加权系数，它起着生物神经系统中神经元的突触 强度的作用。这个加权系数称为连接权重。 神经元将所有来自其它临近单元的输出乘上相应的连接权重，再将加 起来而得到的输入组合送入处理单元中。这就是神经网络的工作过程。 2 ) 神经网络的分类 目前，神经网络模型已有4 0 多种，为了便于研究，可从不同角度将 其分类。 按网络的结构可以分为前馈型和反馈型； 按网络的性能可分为连续型和离散型、确定型和随机型； 按照学习方式可分为有导师( 指导) 和无导师( 自组织学习包括在内) 学习； 按照突触连接的性质分为一阶线性关联与高阶非线性关联网络。 3 ) 神经网络的学习 神经网络的学习也称为训练，指的是通过神经网络所在环境的刺激作 用调整神经网络的自由参数，使神经网络以一种新的方式对外部环境作出 反应的一个过程。能够从环境中学习和在学习中提高自身性能是神经网络 最有意义的性质。神经网络经过反复学习对其环境更为了解。 学习方式可分为：有导师学习和无导师学习。 ( 1 ) 有导师学习。在学习时需要给出导师信号或称为期望输出( 响 应) 。神经网络对外部环境是未知的，但可以将导师看做对外部环境的了解， 由输入一输出样本集合来表示。导师信号或期望响应代表了神经网络执行 情况的最佳结果，即对于网络输入调整网络参数，使得网络输出逼近导师 信号或期望响应。 ( 2 ) 无导师学习。无导师学习包括强化学习与无监督学习或称为自 组织学习。在强化学习中，对输入输出映射的学习是通过与外界环境的连 续作用最小化性能的标量索引而完成的。在无监督学习或称为自组织学习 辽宁工程技术大学硕士学位论文 1 0 中没有外部导师或评价来统观学习过程，而是提供一个关于网络学习表示 方法质量的测量尺度，根据该尺度将网络的自由参数最优化。一旦网络与 输入数据的统计规律达成一致，就能够形成内部表示方法来输入特征编码， 并由此自动得出新的类别。 最基本的5 个神经网络学习规则为：h e b b 学习、纠错学习、基于记忆 的学习、随机学习算法和竞争学习【1 4 】。 2 1 3 多层前馈网络 多层前馈网络( m u l t i l a y e rf e e d f o r w a r dn e t w o r k ，m l f n ) 是目前应用最 广、发展最迅速的人工神经网络之一。前馈网络有多层网络与单层网络之 分，在输入及输出层之间加上隐层就构成m l f n ，m l f n 采取一种单向多 层结构，其中每一层包含若干个节点，同一层的节点之间没有相互联系， 层间信息的传递只沿一个方向进行。单层前馈网络只能区分线性可分的模 式，但m l f n 能用于任意的分类问题和通用的函数逼近器。研究表明，一 个两层前馈网络只要在其隐层中有足够的节点( 神经元) ，且隐层节点的激 励函数是s 形类型，输出节点的激励函数为线性类型，便可以逼近任意复 杂连续函数。因此，本文选取具有一个隐层的两层前馈网络作为研究对象。 不失一般性，我们选取一个两层前馈网络( 带一个隐层) 。图2 2 是一 个两层前馈网络，其拓扑结构可记为m 一，一雕，表示网络具有m 个输入节点， ，个隐层节点， 个输出层节点。f ( x ，w ) 表示两层前馈网络所对实现的输入 输出映射。 两层前馈网络的前馈计算过程可以表示为【”】 磊= 嵋一+ 噬 ( 2 1 ) 仇= 五魄) 只= 域- 吃+ 酵 t l 以= 五( 只) ( 2 2 ) ( 2 3 ) ( 2 4 ) 辽宁工程技术大学硕士学位论文 其中 吃是第k 个隐层节点的输入 以是从输入节点，到隐层节点k 的连接权重 噬是隐层节点k 的阈值 嚷 是第k 个隐层节点的输出 z是第f 层的激励函数，通常，z ( 刀) = 1 ( 1 + e x p ( - n ) ) ，正( 玎) = 以 只是第i 个输出节点的输入 峨是从隐层节点k 到输出节点i 的连接权重 砰是输出节点i 的阈值 卫是第f 个输出节点的输出 h 1 石m 输入层( 第0 层)隐层( 第l 层)输出层( 第2 层) 图2 - 2两层前馈两络 1 ) b p 算法简介 反向传播( b p ) 算法又称为误差逆传播校正算法，用来训练多层前馈 网络，属于监督型学习算法。 b p 算法的基本思想是，学习过程由信号的正向传播与误差的反向传播 两个过程组成。正向传播时，输入样本从输入层输入，经各隐层逐层处理 后，传向输出层。若输出层的实际输出与期望输出( 教师信号) 不符，则 转入误差的反向传播阶段。误差的反传是将输出误差以某种形式通过隐层 向输入层反传，并将误差分摊给各层的所有单元，从而获得各层单元的误 辽宁工程技术大学硕士学位论文 1 2 差信号并将其作为修正各单元权值的依据。这种信号正向传播与误差反向 传播是循环进行的。权值的不断调整过程就是网络的训练过程。此过程一 直进行到输出误差达到要求的标准【15 1 。 2 ) b p 网络建模特点： 非线性映照能力：神经网络能以任意精度逼近任何非线性连续函数。 在建模过程中的许多问题正是具有高度的非线性。 - 并行分布处理方式：在神经网络中信息是分布储存和并行处理的， 这使它具有很强的容错性和很快的处理速度。 自学习和自适应能力：神经网络在训练时，能从输入、输出的数据 中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这 组权值应用于一般情形的能力。神经网络的学习也可以在线进行。 数据融合的能力：神经网络可以同时处理定量信息和定性信息，因 此它可以利用传统的工程技术( 数值运算) 和人工智能技术( 符号处理) 。 多变量系统：神经网络的输入和输出变量的数目是任意的，对单变 量系统与多变量系统提供了一种通用的描述方式，不必考虑各子系统间的 解耦问题f 13 1 。 2 1 4 神经网络的基本功能及应用 神经网络是借鉴于生物神经网络而发展起来的新型智能信息处理系 统，由于其结构上“仿造”了入脑的生物神经系统，因而其功能上也具有 了某种智能特点。 ( 1 ) 联想记忆 联想记忆功能是指神经网络能够通过预先存储信息或自适应学习机 制，从不完整的信息和噪声干扰中恢复原始的完整信息。 ( 2 ) 非线性映射 非线性映射功能是指神经网络能够通过对系统输入输出样本对的学 习自动提取蕴含其中的映射规则，从而以任意精度拟合任意复杂的非线性 函数。 辽宁工程技术大学硕士学位论文 1 3 ( 3 ) 分类与识别 神经网络对外界输入样本具有很强的识别与分类能力。对输入样本的 分类实际上是在样本空间找出符合分类要求的分割区域，每个区域内的样 本属于一类。客观世界中许多事物在样本空间上的区域分割曲面是十分复 杂的，相近的样本可能属于不同的类，而远离的样本可能同属一类。神经 网络可以很好地解决对非线性曲面的逼近。 ( 4 ) 优化计算 优化计算是指在己知的约束条件下，寻找一组参数组合，使由该组合 确定的目标函数达到最小值。某些类型的神经网络可以把待求解问题的可 变参数设计为网络的状态，将目标函数设计为网络的能量函数。神经网络 经过动态演变过程达到稳定状态时对应的能量函数最小，从而其稳定状态 就是问题的撮优解。这种优化计算不需要对目标函数求导，其结果是网络 自动给出。 ( 5 ) 知识处理 神经网络获得知识的途径与人类似，也是从对象的输入输出信息中抽 取规律而获得关于对象的知识，并将知识分布在网络的连接中予以存储。 神经网络的知识抽取能力使其能够在没有任何先验知识的情况下自动从输 入数据中提取特征，发现规律，并通过自组织过程将自身构建适合于表达 所发现的规律。 由于神经网络具有以上诸多功能，因此，其主要应用在以下领域： 1 ) 模式识别和图像处理 印刷体和手写体字符识别、语音识别、签字识别、指纹识别、人脸识 别、人体病理分析、目标检测与识别、图像压缩和图像复原等。 2 ) 控制和优化 化工过程控制、机器人运动控制、家电控制、半导体生产中掺杂控制、 石油精练优化控制和超大规模集成电路布线设计等。 3 ) 预报和智能信息管理 股票市场预测、地震预报、有价证券管理、借赁风险分析、i c 卡管理 和交通管理。 辽宁工程技术大学硕士学位论文1 4 4 ) 通讯 自适应均衡、回波抵消、路由选择和a t m 网络中的呼叫接纳识别及控 制等。 5 ) 空间科学 空间交会对接控制、导航信息智能管理、飞行器制导和飞行程序优化 管理等【16 1 。 2 1 5 神经网络( a n n ) 与人工智能( a i ) 人工智能系统是在传统计算机硬件基础上发展起来的图显过程软件， 以使传统计算机更有用和更有智慧，是用计算机模型模拟思维功能的科学。 人工智能必须有能力做三件事：知识存储、用存储知识解决问题和通过经 验获取新知识，故一个人工智能系统有三个关键部分：表示、推理和学习。 人工神经网络是把算法和结构统为一体的系统，这是一种硬件和软 件的混合体，由于它在某种程度上模拟大脑的结构，所以这种系统有更高 的智慧并可能有更快的计算速度。 a i 和a n n 的运算逻辑实际上是相同的。例如，识别事物均采用等价 类模型，以识别苹果为例，当苹果、红色及美味三要素重叠时，便判定为 苹果。 二者在工作原理上主要有以下两点不同： 一 1 ) 知识表象不同。a i 用一维串表示知识，丽a n n 则用二维或高维矩 阵表示知识，这种表示优点如下： a 由于自由度的增加，使存储空间扩大，因而存储容量可以更大； b 容错性大为提高，这是因为高维空间每一状态有更多的近邻，使多 体效应更加复杂和显著。另外，多维空间会有相变，对知识的存储和学习 有重要意义。 c 高维空间更易于分类，分类就是识别事物，其原则是使用同类事物 更聚集，异类事物更分离，此原则在高维空间中更易实现。 2 ) 学习方式不同。a i 要求预编程序，它是指定规则的基础上进行工 辽宁工程技术大学硕士学位论文 1 5 作的，这种系统只能进行推论；a n n 是通过学习建立和改变知识，它具有 推广和抽象的能力，这种系统可以进行引证，它无需预编程和制定工作规 则。 3 ) 处理方式不同。传统人工智能中，处理是顺序的，类似于典型的 计算机编程，甚至当没有预定次序( 如专家系统中对事实和规则的扫描) 时，其处理操作仍然一步一步执行。相比之下，并行性不仅对神经网络中 的信息处理至关重要，而且是适应之源，庞大的并行度是( 成千上万个神 经元) 赋予神经网络鲁棒性这一重要特征。计算在众多网络神经元中传播， 网络对含有噪声或不完整的输入仍然可以进行识别；一个被损坏的网络仍 表2 1a n n 与a i 在其他方面的比较 然可以满意运行，而且其学习无需太好【 】。 表2 1 是它们在其他一些方面的比较 2 2 神经网络的m a t l a b 实现 国际上许多公司和研究单位都设计了通用的神经网络模型库，来计算 和实现当前上百种的神经网络模型及相应的算法。m a t l a b 环境下的神经 网络工具箱就是其重要代表。m a t l a b 仿真软件自1 9 8 4 年由美国的 m a t h w o r k s 公司推出以来，己越来越引入注目，现已成为国际上公认的最 辽宁工程技术大学硕士学位论文 1 6 优秀的数值计算和仿真分析软件。现在用得较多的是m a t l a b 6 5 版本。 本论文的研究主要使用m a t l a b 神经网络工具箱对b p 网络进行训练和仿 真。下面论述其调试方法的要点，以为神经网络在中国经济研究中的程序 实现提供参考。 ( 1 ) 输入输出及网络权值的符号表示 b p 算法是有指导的训练，是靠调节各层的权值使网络学会训练样本所 表达的规律。使用m a t l a b 下的神经网络工具箱对网络进行训练需要给它 提供训练样本和权值、阈值的初始值。 训练样本由输入输出对 p ? ，吣 组成，其中i = l ，2 ，玎；j = 1 ，2 ，m 。m 和 咒分别为输入、输出层节点数，u ( u = 1 ，2 ，j ) 是训练对的序号。 w 1 、w 2 分别表示输入层至隐层、隐层至输出层的连接权重矩阵。隐 层节点数、隐层节点阈值b l 以及输出层节点阈值b 2 都需要在程序中给出 确定的初始值。 ( 2 ) 网络的初初始化 在设计b p 网络时，只要已知输入向量p 、各层的节点数、各层节点的 激励函数，就可以利用函数i n i t f f 对b p 网络的连接权重进行初始化。例 如，一个三层b p 网络，隐层有5 个节点，激励函数为t a n s i g ( 正切s 型函 数) ，输出层节点数由目标向量t 决定，传递函数为p u r e l i n ( 纯线性函数) ， 该b p 网络的初始化语句为： 【w 1 ，b 1 ，w 2 ，b 2 】= i n i t f f ( p ，5 ，t a n s i g t ，p u r e l i n ) ( 3 ) 网络的训练 神经网络工具箱函数t r a i n b p 、t r a i n b p x 、t r a i n l m 用来对b p 网络进行 训练，它们的用法是类似的，只是采用的学习规则有所不同。函数t r a i n b p 利用标准b p 学习规则训练前馈网络，使网络完成函数逼近、矢量分类和 模式识别；t r a i n b p x 采用了动量法和学习率自适应调整的策略，从而提高 了学习速度并增加了算法的可靠性；t r a i n l m 使用了l e v e n b e r g m a r q u a r d t 优化方法，学习时间更短，但对于复杂的问题，这种方法需要很大的存储 空间。下面程序表明了t r a i n b p 的调用方法。 d i s pf q r e 一1 0 0 ； 显示间隔次数 堑室三墨垫查盔堂堡主堂垡笙塞 ! ! m a xe d o c h = 1 0 0 0 ；最大训练循环次数 e r r g o a l = 0 0 0 1 ； 目标误差 l r = 0 2 ：学习速率 t p = d i a p f q r em a x e p o c he r r g o a ll r 】； w 1 ，b 1 ，w 2 ，b 2 ，e p o c h ，t r 】= t r a i n b p ( w 1 ，b l ，t a n s i g ，w 2 ，b 2 ， p u r e l i n ，p ，t ，t p ) ； 在调用t r a i n b p 函数后，返回训练后的连接权重矩阵w 1 、w 2 ，阈值b l 、 b 2 ，网络的实际训练次数和最终误差t r 。 ( 4 ) 网络的仿真 前馈网络由一系列网络层组成，每一层都从前一层得到输入数据， s l m u f f 函数可用于仿真至多三层的前馈网络。如： y = s i m u f f ( x ，w 1 ，b 1 ，t a n s i g ，w 2 ，b 2 ，p u r e l i n ) ； 上式x 为输入数据，y 为预测结果。 上述内容讨论了在m a t l a b 环境下网络的初始化、训练和仿真函数。 本论文中的仿真实例都是基于m a t l a b 6 5 下神经网络工具箱开发完成的 【i8 2 。 目前，在材料科学中应用最广泛的为b p 网络，利用它可以实现材料 的工艺设计及性能预测等，在金属、合金、无机非金属等多个领域用以辅 助材料研究，取得良好的效果。 辽宁工程技术大学硕士学位论文 1 8 3 遗传算法 3 1 遗传算法概述 3 1 1 遗传算法的产生与发展 遗传算法( g e n e t i ca l g o t i t h m ，简称g a ) ，是美国著名科学家 j h h o l l a n d 于七十年代中期提出的，它是一种在思想方法上别具特色的 新的搜索、优化方法。g a 是从生物进化的过程中获得灵感与启迪，模拟 大自然中“物竞天演，适者生存”的自然选择的法则而创立，其主要特点 是群体搜索策略和群体中个体之间的信息交换，搜索不依赖于梯度信息。 遗传算法对问题的可行解进行编码，表示成“染色体”，由随机方法产 生的一群“染色体”组成的初始种群，通过适应度构成优胜劣汰、适者生存 的“自然环境”，种群通过遗传、交叉、突变等不断演化，产生出新的更加 优良的种群，这样经过若干代的进化，最终求得适合问题的最优解【1 4 】。 遗传算法起源于对生物系统所进行的计算机模拟研究。早在2 0 世纪 5 0 年代，就有少数学者开始研究如何利用计算机进行生物模拟的技术，他 们从生物学的角度进行了生物的进化过程模拟、遗传过程模拟等研究工作。 其出发点是进化的思想可以发展成为许多工程问题的优化工具。早期的研 究形成了遗传算法的雏形，如大多数系统都遵行“适者生存”的仿自然法 则，有些系统采用了基于种群的设计方案，并且加入了自然选择和变异操 作，还有一些系统对生物染色体编码进行了抽象处理，应用二进制编码。 6 0 年代初期，柏林工业大学的i r e c h e n b e r g 和h p s c h w e f e l 等在进行风洞 实验时，由于设计中描述物体形状的参数难以用传统方法进行优化，因而 利用生物变异的思想来随机改变参数值，并获得了较好的结果。随后，他 们对这种方法进行了深入的研究，形成了进化计算的另一个分支一进化策 辽宁工程技术大学硕士学位论文 1 9 略。美国密执大学的h o l l a n d 教授及其学生们受到这种生物模拟技术的启 发，创造出了一种基于生物遗传和进化机制的适合于复杂系统优化计算的 自适应概率优化技术一遗传算法：并提出了位串编码技术。这种编码适用 于交叉( 即杂交) 操作，并且强调将交叉作为主要的遗传操作。7 0 年代初， h o l l a n d 教授提出了遗传算法的基本定理一模式定理( s c h e m at h e o r e m ) ， 并于1 9 7 5 年出版了其开创性著作“a d a p t a t i o ni nn a t u r a la n da r t i f i c i a l s y s t e m s ”，从而奠定了遗传算法的理论基础；8 0 年代初，h o l l a n d 教授实 现了第一个基于遗传算法的机器学习系统一分类学习系统( c l a s s i f i e r s y s t e m s ，简称c s ) ，开创了基于遗传算法的机器学习的新概念，从而遗传 算法和进化计算进入了一个蓬勃发展的时期。g r e f e n s t e t t e 开发了第一个遗 传算法软件一称为g e n e s i s ，为遗传算法的普及推广起了重要作用。对遗 传算法研究影响力最大的专著，要属于1 9 8 9 年美国伊利诺大学的g o l d b e r g 所著的“g e n e t i ca l g o r i t h m si ns e a r c h ；o p t i m i z a t i o n ，a n dm a c h i n e l e a r n i n g ”。这本书对于遗传算法理论及其多领域的应用展开了较为全面的 分析和例证。1 9 9 2 年，m i c h a l e w i c z 出版了另一本很有影响力的著作 “g e n e t i ca l g o r t h m s + d a t as t r u c t u r e s = e v o l u t i o np r o g r a m s ”，对遗传算法 应用于最优化问题起到了推波助澜的作用。2 0 世纪7 0 年代以来，关于遗 传算法的博士论文，比较有代表性的有a d b e t h k e 的“作为函数优化器的 遗传算法”( 密歇根大学，1 9 8 0 年) 、d ej o n g 的“一类遗传自适应系统的 行为分析”( 密歇根大学，l9 7 5 年) 、t e 。d a v i s 的“从模拟退火收敛理论 向简单遗传算法的外推”( 佛罗里达大学，1 9 9 1 年) 。应该说，2 0 世纪8 0 年代中期以来是遗传算法和进化计算的蓬勃发展期。以遗传算法、进化计 算为主题的多个国际会议在世界各地定期召开。 我国有关遗传算法、进化计算的研究，从2 0 世纪9 0 年代以来一直处 于不断上升的时期，特别是近年来，遗传算法、进化计算的应用在许多领 域取得了令人瞩目的成果。据不完全统计，19 9 7 1 9 9 9 年三年间发表在国 内二级以上学术刊物上有关遗传算法、进化计算的文章接近2 0 0 篇左右， 该类研究获得了不同渠道的经费资助比例也在逐年上升 2 2 1 。 辽宁工程技术大学硕士学位论文 2 0 3 1 2 遗传算法的特点 传统的优化方法主要有三种：枚举法、启发式算法和搜索算法，遗传 算法它不同于传统的搜索和优化方法。主要区别在于： ( 1 ) 自组织、自适应和自学习性( 智能性) 。应用遗传算法解决问题 时，在编码方案、适应度函数及遗传算子确定后，算法将利用进化过程中 获得的信息自行组织搜索。进化算法的这种自组织、自适应特征，使它同 时具有能根据环境变化来自动发现环境的特性和规律的能力，可以解决那 些复杂的非结构化问题。 ( 2 ) 遗传算法的本质并行性。遗传算法按并行方式搜索一个种群数 目的点，而不是单点。它的并行性表现在两个方面，一是遗传算法是内在 并行的，即遗传算法本身非常适合大规模并行。二是遗传算法的内含并行 性。由于遗传算法采用种群的方式组织搜索，因而可同时搜索解空间内的 多个区域，并相互交流信息。 ( 3 ) 遗传算法不需要求导或其他辅助知识，而只需要影响搜索方向 的目标函数和相应的适应度函数。 ( 4 ) 遗传算法强调概率转换规则，而不是确定的转换规则。 ( 5 ) 遗传算法可以更加直接地应用。 ( 6 ) 遗传算法可以对给定问题，可以产生许多的潜在解，最终选择 司以由使用者确定( 在某些特殊情况下，如多目标优化问题不止一个解存 在，有一组p a r e t o 最优解。这种遗传算法对于确认可替代解集而言是特别 合适的) 2 2 】。 3 2 遗传算法实现 3 2 1 遗传算法的基本算子