（电力电子与电力传动专业论文）基于神经网络的智能型母线保护技术的研究.pdf

西华大学硕士学位论文 的算法。通过m a t i a b 软件平台实现了对母线保护神经网络模型的仿真训练。并 将训练好的母线保护神经网绍模型针对母线的区内和区外的不同类型的故障进 行了物理模拟实验。实验结果表明，基于人工神经网络函数逼近能力的母线保 护方法，在母线区内故障时可靠出口，在区外故障时可靠不出口。 关键词：母线保护，神经网络，函数逼近，r b f 算法，b p 算法 第1 i 页 两华大学硕士学位论文 r e s e a r c ho fb u sp r o t e c t i o n t e c h n o l o g yb a s e d o i la r t i f i c i a l n e u r a ln e t w o r k c a n d i d a t e ：h a nh a n s u p e r v i s o r ：d o n gx i u c h e n g a b s t r a c t b u si so n eo ft h em o s ti m p o r t tp a r t si np o w e rp l a n t sa n di r a n s f o r r n e r s u b s t a t i o n s b u sp r o t e c t i o np l a y sak e yr o l ei nt h er e l i a b l ea n ds e c u r eo p e r a t i o no f p o w e rs y s t e m t h e r e s e a r c ho nt h eb u s p r o t e c t i o n o fh i g h - r e l i a b i l i t ya n d h i g h - i n 把l l i g e n c ew i l lb eq u i t ei m p o r t a n t i t i s n e c e s s a r yt o i n t r o d u c en e wt h e o r ya n dt e c h n o l o g yt om a k eb e t t e r i m p r o v e m e n ti nb u sp r o t e c t i o n a r t i f i c i a li n t e l e g e n c ei sw n d e l yu s e di n t h ep o w e r s y s t e m , a n di tw a sa l s or e s e a r c h e di nt h er e l a y i n gp r o t e c t i o n a sam a t h e m a t i ct o o l w i t hh i g hi n t e l f i g e n c e a n n ( a r t i f i c i a ln e u r a ln e t w o r k ) i ss u i t a b l e 断1 el e s e a r c ho n n e wp r o t e c t i o n f o ral o n gw h i l e , l h ea p p l i c a t i o no fa n nt 0 叫a yp r o t e c t i o ni sb a s e do n c l a s s i f i c a t i o na b i l i t y i nt h i st h e s i s ，a n nm o d e li st r a i n e db ys a m p l ed a t a , w h i c hc a n c h a r a c t e r i z e f a u l t t h e v a r i o u s f a t l l t s o f p o w e r s y s t e m c a n b e d i s t i n g u i s h e d a n d j u a g e d b yt h et r a i n e da n n b pa n dr b f a l eb o t hu s e dt ow a i nt h ea n n m o d e l a p p l y i n g t h i sm o d e l , b u sp r o t e c l i o nf a i l u r e sw e r ea n a l y z e aa n dc o m p a r e di nt w od i f f e r e n t i m p r o v e da l g o r i t h m so f n e u r a ln e t w o r k s , a n dt w os i m u l a t i o nr e s u l t sw e r ea c q u i r e d t h er e s u l ts h o w st h a tt h ei r a i n e da n nm o d e lc o u l dn o to n l yc o r r e s p o n dt ot h en o r m a l b u so p e r a t i o nb u ta l s ot oa l lt y p e so f f a u l t s ，a n ds , a t i s f yt h ep r e c i s i o nr e 叩l i 脚b yt h e b u s p r o t e c t i o n b u t , t h el a c ko f s a m p l ed a t ar e s l r i c t st h ea b r o a da p p l i c a t i o no f a n np r o t e c t i o nt o p o w e rs y s t e m t h i sp r e s i sp r e s e n t sa l la n n m o d e lw h i c hi su s e dt or e p l a c et h e p h y s i c a lo b j e c to f b u sp r o t e c t i o n , a n dp r o p o s e san e w m e t h o do f b u sp r o t e c t i o nw h i c h 第l i i 页 西华大学硕士学位论文 i sb a s e do nf u n c t i o na p p r o x i m a t i o na b i l i t yo f a n n f i r s t , i ti sc r u c i a lt oe s t a b l i s ht h e f u n c t i o n a lr e l a t i o nb e t w e e nt h ei n p u ta n dt h eo u t p u to fb u sp r o t e c t i o no b j e c lt h e 呻a r es y n c h r o n o u sc u r r e n t so ns e c o n ds i d eo f e a c hc t , a n dt h eo u t p u ti sc u r r e n t s u mo np r i m a r ys i d eo f c t a n nm o d e lw i t hd i f f e r e n ta c f i v a f i o nf u n c t i o m ，l i k el i n e a r a n ds i g m o i d , a r eb u i l t , a n dt h ei r a i n i n ga l g o f i t h mo ft h et w om o d e l sa r ed i s c u s s e d t h ep h y s i c a ls i m u l a t i o ni nm a t l a bo fb u sp r o t e c t i o nb a s e do i la n nm o d e li s c o n d u c t e du n d e rd i f f e r e n tl o c a t i o n sa n dt y p e so ff a u l t s ，a n dt h es i m u l a t i o nm s u l t s c o i n c i d ew i t ht h ee s t i m a t e dr e s u l t s k e yw o n t s ：b u sp r o t e c t i o n , n e u r a ln e t w o r k , f u n c t i o na p p r o x i m a f i o 玛r b f ，b p 第页 西华大学硕士学位论文 申明 本人申明呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。除了文中特别加以标注的和致谢的地方外， 论文中不包含其它人已经发表或撰写过的研究成果，也不包含为获 得西华大学或其它教育机构的学位或证书而使用过的材料。与我一 同工作的同志对本研究所做的任何贡献均已在论文中作了明确的 说明并表示感谢。 本学位论文成果是本人在西华大学读书期间在导师指导下取 得的，论文成果属西华大学所有，特此申明。 作者签 导师签 岁只3 。日 步月) 台日 西华大学硕士学位论文 1 绪论 1 1 课题来源 四川省科技厅应用基础重点课题 1 2 研究目的和意义 人工智能( a j ) 也称机器智能，它是计算机科学、控制论、信息论、神经 生理学、心理学、语言学等多种学科互相渗透而发展起来的一门综合性学科。 主要是研究和设计具有智能行为的计算机程序，用于执行某项任务。人工智能 诞生于1 9 5 6 年，5 眸来不断的完善、成长和壮大，并逐渐形成一门涉及心理学、 认知科学、思维科学、信息科学、系统科学和生物科学等多学科的综合性技术 学科，目前已在知识处理、模式识别、自然语言处理、博弈、自动定理证明、 自动程序设计、专家系统、知识库、智能机器人等多个领撅得了举幽屠目的 成果，并形成了多元化的发展方向。人工智能技术，包括神经网络、遗传算法、 模糊逻辑等在电力系统中得到了广泛的应用。在继电保护领域的应用中，也具 有较广的研究空间【l 】 人工神经网络的研究始于1 9 4 3 年，由心理学家w s a m c c u l l o c h 和数学家 w p 所提出的m p ( 神经元) 模型。经过几十年的曲折发展，在2 0 世纪8 0 年代中后期迅猛发展，涉及领域非常广泛。由于人工神经网络具有非线性特性、 并行处理能力、自组织学习能力和较强的鲁棒性，使得它在应用研究中取得了 很大的成绩。 母线是电力系统变电站最重要的组成部分之一。虽然母线发生故障的几率 较低，但故障的影响很大。这是因为在母线e 连接着发电厂和变电昕的发电机、 变压器、输电线路、配电线路和调相设备等，其可靠性将直凌影响发电厂和变 电所工作的可靠性。若母线发生故障，将使其连接的电气元件停电，酗而造成 大面积停电事故，并可能破坏系统的稳定性，使故障进步扩大。因此寻找可 靠性高，速度快，选择性强，灵敏性好的母线保护装置对母线保护研究具有重 要的意义。 目前的母线保护是基于已成熟理论予以实现，有一定的实用性。但现有的 第1 页 西华大学硕士学位论文 母线保护对母线不同的运行情况的适应能力还不强，还需要参数整定和现场设 备配置，在一定程度e 还需要人的干预。随着电力系统的发展和对安全要求的 提高，常规的母线保护和故障诊断技术已经不能完全适应不断发展的电网的运 行工况。为了提高母线保护的性能，减少人为因素的影响，减轻保护工作者的 劳动强度和心理负担，对高度智能化的母线保护进行研究就显得尤为重要。人 工神经网络( a n n ) 是种具有高度智能化的数学工具，具有高度神经计算能 力和自学习、自适应性，并且有良好的鲁棒性和容错能力，可应用于新型母线 保护的研究中。基于人工神经网络模型的母线保护研究具有很强的现实性和实 用性，其理论意义和应用价值都很高。 1 3 国内夕阳已状和发展趋势 母线作为电网中的枢纽，通常接有较多电气元件，若母线出现故障，与其 相接的各类元器件都必须与母线断开。般，母线故障可用于母线相连的元件 的后备保护来切除，但延时较长，当双母线或单母线时，无选择性。对于大多 数母线来说，这种切除方法是不能满足要求的。为此，对于较为重要的发电厂 和变电站的母线必须设置专门的母线保护。 1 、d 型母线差动保护( 七八十年代、1 1 m ) u 国型母线差动保护在我国七八十年代曾广泛使用。这类保护装置原理简 单，没有交流电流切换电路，实现容易。但是，要求c t 特性、变比致或者 加辅助c t 。保护性能不高，在灵敏度、动作速度、抗c t 饱和能力等方面有明 显的不足，缺乏对母线运行不阿离兄条件的适应能力。随着世界上新技术和新 器件的发展，d m 型母差保护已逐渐被性能更高，运行维护更便捷的集成电路 型母线保护和微机型母线保护所取代。 2 、集成电路型母线保护( 2 2 嘁v 及以上系统) 集成电路型母线保护在灵敏度、动作速度、抗c t 饱和能力等方面与电磁 型母线保护有了很大的改善。目前，集成电路型母线保护的主要代表：中阻抗 型母线保护已经在2 2 0 k v 及以上系统中被广泛使用，是现在母线保护的主选产 第2 页 西华大学硕士学位论文 品。 中阻抗母线保护较好的利用了c t 的暂态过程又考虑了稳态过程，保证了 母线保护的可靠性，快速性和正确性。中阻抗母线保护较好的解决了t a 饱和 的母线保护的影响，但在处理死区故障、区外故障转区内故障等方面，仍然存 在许多不足，在适应母线运行不同情况条件方面还需要进嘏商习。 在我国电力系统中主要使用的中阻抗型母差保护产品如下： a s e a 公司：凡峭型 g e 公司：b u s 一1 0 0 0 型 西门子公司：7 s s l 0 型 。上海继电器厂：p m h - 1 5 0 ( r a d s 媚) 许昌继电器厂：p m h - 1 4 0 阿城继电器厂：p m i - i - 4 0 南京电力自动化设备总厂：j m z 、h m z 、j c m z 国内产品均属于仿a s e a 公司( 现a b b 公司) 的中阻抗集成电路母差保护， 在2 2 0 k v 及以下系统有较成熟的运行经验，但在5 0 0 k v 系统使用较多的仍是进 口产品【3 】。 3 、微机型母线保护 微机型母线保护是从匕世纪8 0 年代，随着计算机技术高速发展，而逐步成 为继电保护工作者们所重视。微机型母线保护充分利用计算机的运算能力，方 便的实现带比率制动特性的电流瞬时值差动原理、复式比率差动原理等。于传 统保护不同的是，微机型母线保护对各c r 回路上的模拟量进行采样，并转化为 数字量，然后再进行相应的算法处理。在处理c t 饱和方面的问题时，具有独到 的优：势。 在我国电力系统中主要使用的微机型母线保护产品如下： a b b 公司：r e b s 0 0 分散式 三菱公司：m b p - d 南京电力自动化设备总厂：w m z , 4 1 南京自动化研究所：b i - 2 a 北京哈德威四方公司：分布式母差保护 第3 页 西华大学硕士学位论文 微机型母线保护的主要特点在于： l 、实现各珊场工控计算机的互联以及各机和上位机的联系，为实珊整体自 动化提供了必要条件。 2 、采用多c i u 并行处理的方式，极大的提高了保护的速动性和灵敏性。 3 、摆脱的传统的设计思想，“瞬时直差动”、“c t 饱和检测，、“母线运行 方式识别”等方案是微机型母线保护的突破。 4 、完善的可靠性。友善的人机交互界面，灵活的系统组合。 1 3 2 母线保护的基本原理及其要求 对电力系统，单母线和双母线都可以采用差动保护。它结构简单，可靠性 强，在母线保护中得到了极为广泛的应用。母线保护的基本原理是，母线在正 常运行或其保护范围外部故障时，所有流入及流出母线电流之和为零。而在母 线内部故障时，所有流入及流出的母线电流艺和不再为零。可见，母线差动保 护是以电流为主要判据的。 另种母线保护是基于电流的相位差来判别的。在区外故障时，连接在母 线上的故e 牵线路与其它正常运行的线路的电流极性相反，而母线故障时，则所 有连接在母线上的线路的极性致。随着小波理论的发展，利用小波变换的频 域局部化的性能，可以有效地分析暂态行波的突变，在短时间内正确判断出各 线路电流的方向，从而确定故障线路。 母线保护的基本要求主要有：选择性、速动性、灵敏性、可靠性。选择性 主要是指电力系统发生故障时，保护装置仅将故障元件切除，非故障元件仍能 正常运行。同时，故障点在区内时动作，而在区外时不动作，当主保护为动作 时，由近后备或远后各切除故障，减少停电面积。速动性是指保护装置应尽快 地切除短路故障，其目的是提高系统的稳定性，尽可能的减少故障设备和线路 的损失，减少故障范围，提高自动重合闸和备用电源或备用设备自动投入的效 果。灵敏性指在规定的保护范围内对故障隋况的反应能力。在设备或线路在保 护范围内发生金属性短路时，保护装置应具有必要的灵敏系数。各类保护的最 小灵敏系数要求在规程中有具体的规定。通过对继电保护的整定来达到装置对 选择性和灵敏性的要求。可靠性是对保护装置性能的最基本要求，在保护装置 该动作时，能够可靠动作，不发生拒动；在保护装置不该动作时，要求可靠不 第4 页 西华大学硕士学位论文 动作，不应发生误动。 目前，造成保护不正确动作的原因有运行维护管理上的问题( 如运行维护 不良、误操作) ，还有原理缺陷、制造质量不良、软件问题和设计接线不合理 等。母线保护近年来正确动作率虽有所提高，但运行水平不够稳定，每年不正 确动作事故还较多【4 】【5 】【日。 表l l2 0 0 3 和2 0 0 4 年2 2 0 k v 及以上母线运行具体情况 t a b 1 - 1o p e r a 妇m f i s t i c s o f h 塔b 盯p t 吼e o 的n f o r 2 2 0 k v a n d a b o v e l s b a t s2 0 0 3 & 2 0 0 4 2 0 0 4 焦2 0 0 3 正 3 9 6 9 条3 4 0 8 条 故障率1 2 8 次r 百条年1 2 9 次佰。条年 2 2 啦v 母线 单项接地故障 ， 3 9 次3 5 次 两相短路接地2 次7 次 三相短路6 次0 次 发展性故障2 次2 次 1 5 3 条 1 3 5 条 故障率0 次佰条年0 欢，百条年 3 3 0 k v 母线 单项接地故障0 次0 次 两相短路接地0 次0 次 三相短路0 次0 次 发展性故障0 次 0 次 5 0 0 k v 母线3 8 8 条3 4 5 条 故障率2 3 1 次佰条年2 0 2 次，百条年 单项接地故障8 次 7 次 两相短路接地 0 次0 次 三相短路0 次0 次 发展性故障 1 次0 次 第5 页 西华大学硕士学位论文 表l 22 0 0 0 年到2 0 0 4 年的2 2 0 k v 及以上母线保护运行情况统计 t a b 1 - 2 0 p e r a t i o n s b 6 s 6 0 f b 嚼耵舯砌曲f o r 2 2 0 k v a n d a b o v e b u s b e b f i o m 2 0 0 0 t 0 2 0 0 4 年份动作次数正确次数误动次数拒动次数正确率 2 0 0 07 26 7329 3 0 5 2 0 0 19 57 71 7l8 1 0 5 2 0 0 2 7 06 35 29 0 0 0 2 0 0 38 06 41 l58 0 0 0 2 0 0 4 1 3 21 1 11 928 屯0 9 f i g 1 - 1c o r r e c t a c t i o n r a t i o o f b u s p 耐e c 6 0 n f l o r a 2 0 0 0 $ 0 2 0 0 4 图卜一l2 0 ( d - 2 0 0 4 年母线保护动作正确率 1 3 4 人工智能型母线保护的瑗肤和发展趋势 近年来，国外些宠献提出了些基于模型实现的保护。将被保护的对象 构建为个数学模型，用在线检测的数据作为数学模型的输入来估计数学模型 的参数，将该参数与理想输出相比较，以此来区分内部故障和外部故障。对于 母线保护，相应的模型应该是非线性时变模型，要求母线保护能在各种情况下 准确区分故障位置和类型，包括c t 饱和、未饱和，变比和变换特性致、不 致，以及母线的运行方式变化，c t 断线等。 人工神经网络模型的母线保护可以进步提高母线保护的性能，减少母线 保护中的复杂化问题。该模型将电力系统母线视为确定的物理对象，用带隐层 的神经网络模型将其替代，输入为母线上个回路c t 传变后的二次电流值，输 第6 页 西华大学硕士学位论文 出为母线上各回路次同步电流之和。利用人工神经网络可以表示任意非线性 时变关系的能力，通过对一定样本参数的学习、训练，可以使 、工神经网络模 型模拟母线保护模型，为建立母线保护模型提供了种新方法。 1 4 本文研究的主要内容 本文主要针对智能型母线保护模型进行研究，其目的是为复杂、不确定性 及非线性系统提供种有效的保护方法和思路。 经过长时间的资料收集和整理，通过对人工智能以及其相关领域知识的理 解和深入，本论文在构建神经网络模型、算法，数据的采集及其实现、应用等 方面的研究取得了一定的进展。 1 、神经网络模型的建立及其优化 般而论，只要采用三层神经网络，而且对各层神经元的数目不加限制， 则可在模式空间构成任意复杂程度的几何图型，从而对任意复杂的模型进行模 式分类。但是，在母线保护当中，对于故障情况的反映速度要求很高。如果神 经网络的复杂程度过高，必然会导致数据的计算量增加，影响故障反映速度。 如果神经网络太简单，又会导致故障识别精度下降，容易产生保护装置的拒动 或误动。因此，在确定神经网络的中间层数和节点数时，应该对故障反映的速 度和精度进行综合考虑。 神经网络结构优化：神经网络结构优化主要依赖于反复e 机调试。优化内 容包括：中间层数，节点数，学习和动量参数，允 午误差。 2 、对采集数据的特征量的选择 输入定为母线匕各回路电流互感器( c r ) 传变后的同一时刻二次睑测电流， 输出定为母线匕各回路的一次侧同一时刻流过的电流之和。 3 、对数据样本的学习与训练 对于已经建立好的神经网络模型，只有经过大量的数据训练，才能使其达 到实际所需要的功能，同时对于训练好的神经网络模型还需要一定的数据测试， 验证模型的可靠性。为了使模型能有效地适应实际工作环境，在训练样本和测 试样本中应该尽可能给出正常工作参数( 大、中、小电流) 和各种故障情况参 数( 区内、外的各相短路或接地短路) 。为了能得到种较好的模型，可以用几 种不同的网络模型同时进行训练，在训练结束后用于数据测试和比饺。 第7 页 西华大学硕士学位论文 4 、母线保护神经网络模型的仿真试验及结果分析 将训练好的神经网络应用于仿真测试，可以检测母线保护神经网络模型的 正确性和可靠性，同时可以比铰各种神经网络模型之间的优劣，发现各种神经 网络各自的问题，进而解决问题，为找到种更加完善、更适合母线保护的神 经网络模型提供理论指导。 第8 页 西华大学硕士学位论文 2 神经网络基本原理及结构 神经网络是人工神经网缌a r a i c i a ln e u r a ln e t w o r k 缩写为a n n ) 的简称， 它是生物学匕真实的 脑神经网络的结构和功能，以及若干基本特性和理论抽 象、简化而构成的种分布式信息处理的模拟结构。从系统观点来看，神经网 络是由大量神经元通过极其丰富和完善的联接而构成的自适应非线性动态系 统，它是通过把问题表达成处理单元之间的连接权来处理的。 2 1 神经网络的发展历史及现状 2 1 1 神经网络发展的历史回顾 人工神经网络的发展历史已经有6 0 余年，其间经历了三个阶段，即两次热 潮和个低科”。 1 、第一阶e 卜启蒙时期( 1 9 4 3 】9 6 9 ) 早在1 9 4 3 年，心理学家w s 2 d c c u l l o c h 和数学家w p i t 担提出的兴奋与抑制 型神经元模型m p ( 神经元) 模型。在1 9 4 9 年，神经生物学家h e b b 提出的神 经元连接强度的修改规则。人工神经网络的研究就此开创。1 9 5 8 年，r o s e n b l a t t 真正造了个神经网络，号称p e r c e p t r o n ，感知器。1 9 6 0 年，b e m a r dw i d r o w , t e d h o f f 给出自适应线性神经网络，利用了w i d r o w - h o f f 学习规则，应用于消除回 声。 2 、第二阶段低潮时期( 1 9 6 9 _ 】9 8 2 ) 1 9 6 9 年，m 缸s t - y 与p a p e r t 的书批评了感知器与自适应线性神经网络，打击 了神经网络发展。从此神经网络发展陷入低谷。科学发展需要冷静，1 9 7 2 年， t e u v ok o h o n e n 与j a r n 龉a n d e r s o n 发明自组织神经网络，s t e p h e - ng r o s s t e r g 观 察到自组织神经网络的许多新性质。1 9 7 6 年，美国c , r o s s t ，e i g 教授提出了著名 的自适应共振理论a r t ，其学习过程具有自组织和自稳定特征。 3 、第三阶段复兴时期( 1 9 8 2 _ 吟) 1 9 8 2 年h o p f i e l d 用统计机制解释神经网络，使人们对神经网络的认识前进 了大步。1 9 8 6 年b p 学习算法，解决了n m s k y 与p a p e r t 的问题。d a v i d r u m e l h a r t 与j a m e s m e c l e l l a n d 给出。1 9 8 7 年i e e e 在s a n d i e g o 召开了盛大规模的神经网 第9 页 西华大学硕士学位论文 络国际学术会议，国际神经网络学会随之诞生。1 9 9 1 年，h a k e n 把协同学引入 神经网络，认为认知过程是自发的，并断言模式识别过程即使模式形成过程。 同年，吴佑寿等人提出激励函数可调的神经网络模型，试图对先验知识加以利 用。1 9 9 3 年，b u l s a f i 提出以乘积s i g m o i d a l 函数作为激活函裂珂，给出了非线 性系统用神经网络逼近的构造性描述等。1 9 9 5 年，j e n k i n s 等人研究了光学神经 网络，建立了光学二维并行互连与电子学混合的光学神经网络系绑9 1 。目前， 已经有上百种的神经网络模型被提出，出现了大量的神经网络研究文章和研究 项目，同时也发现了很多神经网络的新性质和新应用。 自从e 世纪踟年代人工神经网络的复苏，国内外的神经网络研究逐步掀起 了热潮。神经网络的用途日益广泛，应用领域不断拓展。目前，神经网络理论 在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得 了广泛的成功。关于学习、联想和记忆等具有智能特点过程的机理及其模式方 面的研究越来越被 、们所重视fm 1 。 神经网络的应用领域包括以下方面： 1 、作为新型的智能信息处理系统，应用于信号处理、模式识别和数据压缩 等方面。 神经网络被广泛用于自适应信号处理，如自适应滤波、时间序列预测、噪 声消除等；在非线性信号处理中的应用包括：非线性预测、非线性编码、非线 性滤波。在模式识别方面，神经网络不仅可以处理固定图象、固定图谱等静态 模式，还能处理视频图像、声音等动态模式。成功的实例有文字识别、指纹识 别、虹膜识别系统、声音识别以及故障模式识别等。数据压缩对于数据的传送 和存储至关重要。神经网络可对数据进行模式特征提取，只将特征传送或存储， 接收后在恢复成原始模甜1 1 儿1 2 儿1 3 儿1 4 1 。 2 、自上世纪8 0 年代以来，神经网络和控制理论相结合，发展成为了个 前沿学科神经网络控制。在解决复杂的非线性、不确定系统控制问题中， 开辟了一条新的途径。 神经网络所具有的非线性特性和自学习能力，使其在系统辨识方面有很大 的潜力。同时神经网络的自学习和自适应性非常适合复杂非线性系统，依靠神 第l o 页 西华大学硕士学位论文 经网络所设计的控制器效果明显好于常规控制器。近年来，神经网络控制器在 工业自动化、航空航天、以及智能机器 、等领域都有着较为广泛的应用。在智 能检测方面，神经网络可以对多个传感器的相关信息进行复合、集成、融合、 联想等数据综合处理，实现单传感器所不具备的功甜1 5 儿1 6 】。 3 、神经网络也适用于其它一些领域。如在经济领域神经网络对信贷的分析、 市场的预测、判断股票走势方面有着广泛的应用。在医学领域，对检测数据的 分析、生物活性的研究、医学专家系统以及生物信息学等都可以利用神经网络。 在汽车工程中的刹车自动控制系统、自动换档系统是神经网络应用盼饺好实例。 现代天气预报、地球环境的气候变化与预测，都是非常复杂的非线性系统，神 经网络在这些方面有着很好的应用。此外，在军事领域、水利工程、带雌工程 等领域，神经网络都发挥着巨大的作用【l q 。 2 2 人工神经网络的基本模型及其功能 人工神经元是组成人工神经网络的基本处理单元，这和生物神经元是生物 神经网络的基本处理单元样。 在图2 一l 中，x ，仁1 2 “二n ) 为神经元的输入；w ，为神经元分别与各输入 间的连接强度，即连接权值；0 为神经元的阈值；s 为外部输入控制信号，它 可以用来调整神经元的连接权值，是神经元保持在某状态；y 为神经元的输 出。从该结构可以看出，神经元一般是多输入，单输出的非线性器件。 l = i g 2 - 1s u d 峨m o d e lo f l 图2 1 神经元的结构模型 第1 1 页 西华大学硕士学位论文 神经元的般工作过程如下： 1 、接受输入信号x 。； 。 2 、根据连接权值w ，和闽值0 ，求出所有输入的加权和盯； 0 - - - - w i x f + s 印 ( 2 _ 1 ) i 3 、用某特性激活函数f 进行转换，得到输出y y = f ( 口) = f ( w i x i - b s 一口) ( 2 _ 2 ) 1 激活函数f 一般有以下几种形式： 口 d = h a r d l i m t a ) ( a ) d = p u r e l i n m j ( b ) 口 d = s a t l i n 嗣雉) ( c ) 4 = i o g s i g ( n ) a = t a n s i g ( n ) a = s o t ：m a x ( n ( d ) ( 。) ( f ) f i g 2 - 2c h a r a c 把r o f w a n s f e r f u r , o r i o n 图2 2 激活函姘寺性 图2 _ 2 中的( a ) 为阶跃型函数，即当输入大于或等于0 时，输出为1 ；输入 小于0 时，输出为0 ，称这种函数为硬限幅函数。嘞为线性函数。( c ) 为分段线 性函数，类似于大系数为1 的非线性放大器，当工作于线性区时它是一个线性 组合器，放大系数趋于无穷大时变成个阈值单元。( d ) 、( e ) 为s i g m o i d 函数， 即s 形函数，( d ) 为单极性s 形函数，( e ) 为双极性s 形函数。为竞争函数，即 第1 2 页 i 1 ； 西华大学硕士学位论文 在点积最大神经元出的值取1 ，其他的神经元处取0 。 h e b b 学习规则是由h e b b 在1 9 4 9 年提出的嗍。按照该规则，神经网络调 整权值w 。的原则为：若第i 与第j 个神经元同时处于兴奋状态，则它们之间的 连接应加强，l i p a w f 2 口y ，y ， a 0 ( 2 - 与) 这和“条件反射”学说致，并已得到证实。h e b b 学习规则和相关假设是许多 学习规则的基础。 1 、神经网络的结构 ( 1 ) 、前馈型网络 前馈网络的各神经元接受前层的输入，并输出给下层，各神经元之间 没有反馈，如图2 _ 与所示。节点可以分为输入单元和计算单元，每计算单 元可有任意个输入，但只能有一个输出，它可以送给多个节点w - - 输x 。输入单 元只是为了表征输入矢量各元素值，并无计算功能。通常前馈网络可分为不同 的层，第i 层的输入只与第i 1 层的输出相连。出入节点为第0 层，输出节点 为最后_ 层，其它中间层称为隐层。 输入层 y i y 2 】h x,2】h f i g 2 - 3 m o d e l m u c t m o f f e e d f o r w a r d m t w e t k 图2 3 前馈网绍结构 第1 3 页 西华大学硕士学位论文 ( 2 ) 、反馈型网络 典型的反馈网络如图厶4 ( a ) 所示，所有节点都是计算单元，同时也可 以接受输入，并向外界输出。某些反馈网络还包括接受自身的反馈，可画成一 个无向图，其中每个连接弧都是双向的，如图2 _ 一4 ( b ) 所示。若网络总的单 元个数为n ，则每个节点都有n - 1 个输入和输出。 (a)(b) f i g - 埘m o d e l s a u c t m o f f e e d b a c k n e t w o r k 图2 - 4 反馈网络结构 在设计好网络以后，还要让各单元之间连接的权、阈值通过学习来进行修 改，此时要求各计算单元状态不变。然后固定学习训练后的权、阈值，变化计 算单元，达到某种稳定状态。 2 、神经网络的特性 神经网络整体性能的三大要素包括神经元、神经元之间的互连形式( 拓扑 结构) 以及为适应环境而改善性能的学习规则。其主要特性有： ( 1 ) 、信息的并行分布式处理与存储。人工神经网络的基本结构是模拟 脑， 具有并行处理与存储能力，在工作速度上可以大大提高。同时，信息存储在神 经元之间连接强度的分布上，存储区与计算区是合为一体的。 ( 2 ) 、神经网络能逼近任意l ，上的非线性函数 ( 3 ) 、神经网络具有自适应、自学习的能力。在网络的学习和训练过程中， 不断地改变连接的权闽值，以适应环境的要求。同一网络通j 童不同的学习内容 第1 4 页 西华大学硕士学位论文 和学习方式可以具有不同的功能。神经网络还能发展知识，超过设计初始时的 知识水平。 ( 4 ) 、便于用超大规模集成电路或光学集成电路系统实现，或用现有的计算 机技术实现。 2 2 3 人工神经网络的基奉功能 人工神经网络是件模仿人脑结构及其功能的信息处理系统。因此它在功 能上具有某些智能特点。 1 、非线性映射功能。 神经网络在诸如系统辨识、故障诊断、机器人控制等复杂非线性问题有着 独到之处。较之传统的数字计算机的离散控制方式，更适宜组成快速实时自适 应控制系统。网络通过对系统输入输出样本集的学习训练，能够以任意精度逼 近任意复杂的非线性函数。这优良性能使得神经网络可以作为多维非线性函 数的通用数学模型。 2 、优化计算功能 人工神经网络的大部分模型是非线性动态系统，若将所计算问题的目标函 数与网络某种能量函数对应起来，网络动态向能量函数极小值方向移动的过程 则可视作优化问题的解算过程，稳态点则是优化问题的局部或全局最优动态过 程解。 3 、联想记忆功能 利用神经网络的分布式存储信息和并行计算的性能，使其对外界的刺激和 输入信息具有联想记忆能力。这种能力是通过神经元之间的协同结构及信息处 理的集体行为而实现的。神经网络通过预先存储信铆学习机席蚓亍自适应训 练，可以从不完整的信息和噪声干扰中恢复原始的完整的信息。联想记忆按照 联想方式的不同又可以分为自联想记忆和异联想记忆两种。 4 、分类识别功能 神经网络对外界输 样本有很强的识别和分类能力。对输入的样本分类实 际上是在样本空间找出符合分类要求的分割区域，每个区域内的样本属于类。 即按照需要分类的客体，按照其特性类属映射成特定的“类别号0 用以实现对 客体的特定类别的识别。 第 5 页 西华大学硕士学位论文 2 3b p 网络模型 b p 神经网络通常指基于误差反向传播算法的多层前向神经网络，该网络是 在1 9 8 6 年，由d er l m l e l h a r t 和j lm e c e l l a n d 及其研究小组研究并设计出来 的。b p 网络是目前应用最为广泛和成功的神经网络之一，据统计有近9 0 的 神经网络应用是基于b p 算法的。b p 网络的神经元采用的传递函数通常是 s i g m o i d 型可微函数，可以实现输入和输出间的任意非线性映射。主要应用于 函数逼近、模式识别、模式分类和数据压缩等方面。 2 3 1 职网络的结构 b p 网络的结构如图2 - - 5 所示，包括输入层、隐层和输出层，其中隐层的 数量可以为个或者多个。 隐层 f i g 2 - 5m o d e ls m x m n o f b p n a w o r k 图2 5b p 神经网绍模型结构 2 3 2 即网络算法 b p 算法是用于前馈多层网络的学习算法，它含有输入层、输出层以及处于 输入输出层之间的中间层。中间层有单层或多层，由于它们和外界没有直接的 联系，故也称为隐层。在隐层中的神经元也称隐单元。隐层虽然和外界不连接 但是，它们的状态则影响输入输出之间的关系。这也是说，改变隐层的权系数， 可以改变整个多层神经网络的性能。 传递函数般为( 0 ，1 ) s 型函数 厂( x ) ：一 1 十e 1 ( 2 1 4 ) 第1 6 页 西华大学硕士学位论文 对p4 样本i , - v l g 的误差函数为 一o p i ) 2 砟= 上一 对于误差函数，为了计算方便，取了近似与均方误差函数的上述函数。d t a t p j ， 分别为期望输出和网络的计算输出。 b p 算法的自学习就是在网络训练过程中不断修正网络权值与阈值，使误差 函数( e ) 沿负梯度方向下降。三层b p 网络模型结构如图2 _ - 5 所示，其中工i 是 第j 个输入节点的输入，y ，是第i 个隐节点的输出，d ，是第，个输出节点的输 出。w u 是输入节点与隐节点间的网络权值，瓦是隐节点与输出节点问的网络 权值，只是第i 个隐节点的阈值，只是第，个输出节点的阈值。当输出节点的期 望输出为t ，时，图2 _ - 5 所示b p 模型隐节点的输出为： y ，= 厂( w u x j 一只) = f ( n e t ，) ( 掷) 其中n e f ，= w i j x ，- a , 。输出节点的计算输出为 ， d = ，( 毛y ，一岛) = f ( n e 6 ) d p n e t t - - e 瓦y ，一只。输出节点的误差为 e = 昙( 一d ，) ：= 丢( 一，( z f 咒一岛) ) ： = 去( f 一，( 死，( _ - a a - a , ) ) 2 采用s 型函数的前向三层神经网络的快速下降算法，对权值、阈值进行修正。 1 权值的修正 输出层节点权值的梯度为 堕：堕堕：堕堕 a 乃台a qa 瓦a o , a 乃 第1 7 页 西华大学硕士学位论文 买中e 是多个o k 的函数，但只有一个d ，与死有关，各o k 间相互独立，故 考= 净2 ( 吲面a o , 砷，- d ) y n 为面a o , = 鼍鲁= f ( n e t t ) 乃 所以j d e f = 一f ，一d ，) f ( n e t ，) y ； 设输入节点误差4 = ( t - d ，) f ( n e t ，) ，则等= 一4 儿。 u j 疗 隐层节点权值的梯度为 堕；y v 堕堕监 孤g ，鼍a 0 i 匆ih i 其中e 是多个d 的函数，针对某一个k ，对应个所，它与所有0 ，有关 ( 即上式只存在对，的求和) ，故 署= 芳2 以吲面a o k 砷，- d f ) 又因为鲁= 鼍百a n e t i = 砌嘞等= 砌刚毛 两a y , = 面a y , 瓦a n e t i = 砌嘭) 誓 故嚣2 聿( 卜d f ) 砌嘞哥砌酚_ 2 聿4 毛砌e 诊乃 设隐节点误差4 = ，( 以甜军4 乃，则老2 4 _ ，由于权值的修正 毛，咄正比于误差函数沿梯度下降，所以 一 瓦：一j 7 要：鸦乃 死( _ j + 1 ) = ( i ) + ，7 4 乃 ( 2 - “9 ) 眺= 叫芒= r 4 x ， 嘞 + 1 ) = i ， + , 4 x , ( 2 - l o ) 其中r ，7 7 为学习率，般取较小的正数。 第1 8 页 西华大学硕士学位论文 输出层节点阈值的檄着= 盖鼍， 其中盖= 一q ) ，a a o 岛, = 磊a o 石, j a n f e t t = 厂，( 珂) 。卜1 ) 故 芸2 ( f ，一d ，) 八嘲) 一 隐层节点阈值的梯度 堕：v 堕堕亟 a 8 t f a o | o y a o , 其中 盖咄d ，) ，瓦a o , ( 吲瓦 亟= 亳百a n e t i a o , a n e t 钒蚓( _ 1 ) = 伽，) ；a 只。、7 。、” ( 2 - _ 1 1 ) ( 2 - 1 2 ) 故 筹= 一弘一鼢f ( n e t 死砌引= 军4 瓦砌引= 4 ( 2 - - 1 3 ) 由于阈值的修正一舅，- a a , 正比于误差函数沿梯度下降，所以有： 岛= ，7 芸嘲 岛( 七+ 1 ) = 岛( | i ) + 刁4 ( 2 - 1 4 ) 0 i = 1 7 芸= 檐 q ( 七+ 1 ) = 只( 七) + ，7 讧 ( 2 - 1