(计算数学专业论文)letitgrow神经网络在网格剖分中的应用.pdf_第1页
(计算数学专业论文)letitgrow神经网络在网格剖分中的应用.pdf_第2页
(计算数学专业论文)letitgrow神经网络在网格剖分中的应用.pdf_第3页
(计算数学专业论文)letitgrow神经网络在网格剖分中的应用.pdf_第4页
(计算数学专业论文)letitgrow神经网络在网格剖分中的应用.pdf_第5页
已阅读5页,还剩32页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

大连理工大学硕士学位论文 摘要 人工神经网络是对人脑的反应机制进行简化、抽象和模拟建立起来的数学模型,通 过大量基本组成单位人工神经元的相互连接而对外界环境输入的信息进行并行分 布式的处理,具有较强的自适应性和容错性。作为人工神经网络的一个分支,自组织特 征映射神经网络及其改进k t i t g r o w 网络,能够从合适的训练样本集中提取出样本 空间的拓扑特征和分布特性,并且输出层神经元的权值作为坐标对应的点可以作为网格 剖分的节点,从而使神经网络与有限元方法,尤其是有限元网格的剖分,可以有机地结 合起来,利用神经网络大规模并行计算的能力来提高网格剖分的效率。 本文对l e t i t g r o w 网络在有限元网格剖分中的应用进行了研究,在此基础上,提 出增长型自组织特征映射网格的剖分算法,并以正方形区域为例进行了实验。为了检测 网格剖分的质量,我们提出了质量因子的概念,并证明了d e l a u n a y 三角剖分准则与质量 因子的关系。数值实验表明,本文提出的算法是有效的,得到的网格质量是相对较高的。 本文的结构安排如下:第一章介绍了有关人工神经网络及有限元网格剖分的一些背 景知识:第二章对神经网络与有限元网格剖分相结合的研究成果做了简述;第三章提出 了我们研究的主要成果增长型自组织特征映射网格的生成算法;最后为数值实验。 关键词:神经网络;网格剖分;l e t - i t - g r o w 网络;自组织特征映射;质量因子 l e t - i t - g r o w 神经网络在网格剖分中的应用 a p p l i c a t i o no fl e t - - i t - - g r o wn e u r a ln e t w o r k si nt r i a n g u l a t i o n a b s t r a c t a r t i f i c i a ln e u r a ln e t w o r k ( a n n ) i sam a t h e m a t i c a lm o d e lb a s e do nt h es i m p l i f i c a t i o n a b s t r a c t i o na n ds i m u l a t i o no ft h er e a c t i o n s y s t e mo fh u m a nb r a i n a n nd e a l sw i t h i n f o r m a t i o nf r o mo u t s i d ee n v i r o n m e n ti nap a r a l l e lm a n n e rb yc o l l e c t i o no fm a n yb a s i cu n i t s c a l l e dn e u r o n ,w h i c he n s u r e st h ea n nag o o dq u a l i t yo fs e l f - a d a p t a t i o na n de r r o rt o l e r a n c e a sab r a n c ho f a n n ,s e l f - o r g a n i z a t i o nf e a t u r em a p ( s o f m ) n e u r a ln e t w o r ka n di t s i m p r o v e m e n t l e t - i t - g r o w ( l a g ) n e u r a ln e t w o r kc a ne x t r a c tt h et o p o l o g ya n dd i s t r i b u t i o n f e a t u r eo ft h es a m p l es p a c e ,w h i l et h ep o i n t sc o r r e s p o n d i n gt ot h ew e i g h t so ft h en e u r o n so n t h eo u t p u tl a y e rc a ns e r v ea st h en o d e so fas u b d i v i s i o n ,m a k i n gi tp o s s i b l et oc o m b i n et h e an na n df i n i t ee l e m e n tm e t h o d s ( f e m ) ,e s p e c i a l l yt h es u b d i v i s i o no ft h ed o m a i no fp a r t i a l d i f f e r e n t i a le q u a t i o n w em a yt a k ea d v a n t a g eo ft h ep a r a l l e l p r o c e s sa b i l i t yo fa n nt 0 e n h a n c et h ee f f i c i e n c yo ft r i a n g u l a t i o n n i st h e s i ss t u d i e sa na l g o r i t h mu s i n gl i gn e t w o r ki nf e mm e s h o nt h eb a s i so fl i g n e t w o r k ,t h ep a p e rg i v e sa n i n c r e a s i n gs e l f - o r g a n i z a t i o nf e a t u r em a pm e s hg e n e r a t i o n a l g o r i t h ma n dt r i a n g u l a t e sas q u a r ed o m a i n i no r d e rt oe v a l u a t et h eq u a l i t yo ft r i a n g u l a t i o n , w ei n t r o d u c et h ec o n c e p t i o no fq u a l i t yf a c t o ra n dp r o v et h e r e l a t i o n s h i pb e t w e e nt h ed e l a u n a y t r i a n g u l a t i o na n dq u a l i t yf a c t o r 弧en u m e r i c a le x p e r i m e n ts h o w st h a to u ra l g o r i t h mi s e f f i c i e n ta n dt h eq u a l i t yo ft h em e s hi sr e l a t i v e l yh i g l l t h es t r u c t u r eo ft h i st h e s i si so r g a n i z e da sf o l l o w s c h a p t e r1g i v e sab r i e fi n t r o d u c t i o n o fa n n ,i n c l u d i n gb a s i cp r i n c i p l eo fa n n ,s o f ma n ds o m eb a s i ck n o w l e d g ea b o u tf e m m e s h c h a p t e r2r e v i e w ss c i e n t i f i cr e s e a r c ho nt h ec o m b i n a t i o no fa n na n df e m i tg i v e s e m p h a s i st os o f mm e s hg e n e r a t o ra n ds o f mm e s hg e n e r a t i o na l g o r i t h mb a s e do nu g n e t w o r k c h a p t e r3i sc o n c e r n e dw i t ht h em a i nw o r ko ft h i st h e s i s f i n a l l y an u m e r i c a l e x p e r i m e n ti sc a r r i e do u ti nc h a p t e r4 ,w h e r et h ec o n c e p to fq u a l i t yf a c t o ri sa l s od i s c u s s e d k e yw o r d s :n e u r a ln e t w o r k ;m e s ht r i a n g u l a t i o n ;l e t - i t - g r o w :s o f m ;q u a l i t yf a c t o r i i 独创性说明 作者郑重声明:本硕士学位论文是我个人在导师指导下进行的研究工 作及取得研究成果。尽我所知,除了文申特剔加以标注和致谢的地方外, 论丈中不包含其他人已经发表或撰写的研究成果,也不包含为获得大连理 工大学或者其他单位的学位或证书所使用过的材料。与我一同工作的同志 对本研究所做的贡献均已在论文中做了明确的说明并表示了谢意。 作者签名:煎盘笠日期:尘堡垒旦幽 大连理工大学硕士研究生学位论文 大连理工大学学位论文版权使用授权书 本学位论文作者及指导教师完全了解“大连理工大学硕士、博士学位 论文版权使用规定”,同意大连理工大学保留并向国家有关部门或机构送 交学位论文的复印件和电子版,允许论文被查阅和借阅本人授权大连理 工大学可以将本学位论文的全部或部分内容编入有关数据库进行检索,也 可采用影印、缩印或扫描等复制手段保存和汇编学位论文 导师签名: 大连理工大学硕士学位论文 1绪论 1 1神经网络概述 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k s ) 是在现代神经科学研究对人脑和一般生 物神经网络的组织结构和运行机制的认识理解基础上,使用数学方法从信息处理的角度 对人脑神经网络的若干基本特性进行抽象和模拟,建立起来的某种简化的数学模型【1 , 2 1 。 其目的在于模拟大脑的某些机理与机制,实现某个方面的功能。从结构上看,人工神经 网络由若干简单处理单元( 也称神经元) 按照不同方式相互连接构成,是具有高度的并 行性和高速的信息处理能力的非线性动力系统。作为智能研究的重要组成部分,它已成 为神经科学、脑科学、心理学、认知科学、计算机科学、数理科学共同关注的焦点。 近3 0 年来,神经网络逐渐走上了稳步发展的道路并不断渗透到生命科学、工程科 学、金融学等科学研究的诸多领域,例如图像识别【3 - 7 】和金融预测【8 加】等,形成- - 1 7 交叉学 科。以下如不特别声明,神经网络指的是人工神经网络,神经元指的是人工神经元。 1 1 1 人工神经元 神经元是神经网络的基本处理单元,一般地是一个有着多个输入、单个输出的非线 性结构。 图1 1 人工神经元的基本结构 f i g 1 1 s t r u c t u r eo fa r t i f i c i a ln e u r o n “f 神经元的基本模型如图1 1 所示。其中x ,j = 1 ,2 ,n 为神经元f 的输入,w 盯表示 第,个输入x ,与神经元f 连接的权值,b 。是神经元f 的阈值,;称为神经元的活化函数, 1 2 v 兢 耽 ; l e t i t g r o w 神经网络在网格剖分中的应用 比;表示神经元f 的状态,也就是它的输出。一般地,神经元f 的作用由数学表达式表示 为: “r 4 厂r ( 薹w z ,z ,+ 6 t ) ( 1 1 ) 在生物神经网络中,生物神经元接受的外部刺激或者来自生物体所在的外部环境, 或者来自于与该神经元相连接的其他神经元。对应到人工神经网络,一个神经元的输入 可以来自外部环境,此时要根据待解决问题的特点确定输入向量的维数,也可以来自 同一神经网络中其它神经元的输出;同样道理,一个神经元的输出可以指向外部环境, 也可以连接向其他神经元成为其输入。 对于不同的神经网络模型,神经元的活化函数也不同。常用的活化函数有线性函数 厂( 工) 一z 、阶跃函数厂o ) = s g n ( x ) 、s i g m o i d 函数、高斯函数等。这些活化函数有各自 的特点适合以不同的方式发挥作用。 1 1 2 人工神经网络的拓扑结构 一个能够实现一定功能的神经网络通常由若干个神经元相互连接而成,神经网络的 信息处理能力由神经元之间的相互连接和作用来实现。神经网络的强大功能与其中神经 元大规模的并行互连、非线性处理以及互连结构的可塑性密切相关。使用大量神经元组 成庞大的神经网络能够实现对复杂信息的处理和存储,并表现出白适应性、容错性、并 行分布处理等各种优点。 神经网络的构造,是按照一定方式将若干神经元连接起来,并使网络中各神经元的 连接权值按一定的规则进行调整。神经元相互连接的方式不同,神经网络的拓扑结构也 就不一样,这样就得到不同的神经网络模型【1 , 2 , 1 1 】。一般来说,神经网络中的神经元可以 分成若干称为层的集合,每个神经元属于且仅属于其中某一层,在同一层中的神经元具 有相同的活化函数。 常见的层结构有三种:输入层,隐层和输出层,如图1 2 ,其中,隐层神经元的输 入与输出都在网络内部,对外界是不可见的,这就是隐层名称的由来。输入层上的神经 元接收来自外界的输入信息,并传递给各个位于隐层上的神经元;隐层是神经网络的内 部信息处理层,负责将网络中的信息进行处理后传递给下一层,根据信息交换的需要, 隐层可以是一层或多层,最后一个隐层将处理后的信息传递到输出层;输出层中的各神 经元将这些信息进一步处理后即完成一次从输入到输出的信息处理,由输出层向外界输 大连理工大学硕士学位论文 出信息处理结果。也就是说,神经网络的输入层接受外部环境的输入,产生输出,然后 这个输出被用于隐层的输入。这个过程一直持续到满足某个特定条件或直接从输出层输 出到外界。 石l x 2 输入层隐层输出层 图1 2 神经网络的层结构 f i g 1 2l a y e ro fa r t i f i c i a ln e u r a ln e t w o r k 只 弘 : : 蚝 神经元通过权值相互连接,一个神经元的输出传给另一个神经元作为其输入。这些 连接可以是单向的( 即两个神经元之间信息的传递只由其中一个到另外一个) ,也可以 是双向的( 即两个神经元的输出互相作为对方神经元的输入) 。神经网络中的一个神经 元既可以有一个或多个输入,也可以有一个或多个输出。 位于网络中不同层之间的神经元的相互连接称为层间互连。层间互连可以归为三大 类方式: 1 全连接与部分连接 全连接是指前一层的神经元与本层所有的神经元都有连接,相对地,部分连接则指 的是前一层的神经元不一定与本层所有的神经元都有连接: 2 前向连接与双向连接 前向连接指的是前一层神经元的输出传给本层的神经元,但是它们不接受本层神经 元的输出,与之相对,双向连接就是前一层神经元的输出传给本层的神经元,同时它们 也接受本层神经元的输出; 3 层级连接 层级连接指只有前后两层之间的神经元有相互连接,没有跨层通信。 l e t - i t - g r o w 神经网络在网格剖分中的应用 除了层间互联外,更复杂的网络结构是位于网络中同一层内的神经元之间也有连 接,称之为层内互连。层内互连主要有两种:递归连接和近兴奋远抑伟雌接。递归连接 是同一层的神经元之间全部相连接或部分连接,这一层内的神经元之间相互通信,直到 满足一定的条件,才将结果输出到下一层;近兴奋远抑制连接则是神经元对它的某种意 义下的拓扑邻域内的神经元有兴奋性连接,对同一层内的其它神经元则是抑制性连接。 x 2 x n y l y 2 : y 图1 3 层次型反馈神经阿络的拓扑结构 f i g 1 3t o p o l o g yo fl a y e r e dr e c u r r e n ta r t i f i c i a ln e u r a ln e t w o r k 神经网络模型按上面所讲的拓扑结构分类,可分为层次型结构和互联型结构:层次 型结构就是可以将神经元按功能分成输入层、隐层和输出层,各层顺序连接;互联型结 构则是指网络中任意两个节点都可能存在连接。同时可以将神经网络按照网络内部的信 息流向分类,也分为两种类型:前向神经网络和反馈神经网络。前向神经网络的信息处 理方向是从输入层到隐层再到输出层逐层进行的,图1 2 所示就是一个简单的前向网络 的拓扑结构。在反馈神经网络中所有节点都具有信息处理功能,并且每个节点既可以从 外部接受输入,同时又可以向外界输出,图1 3 所示是一个层次型反馈神经网络的拓扑 结构。本文使用的自组织特征映射神经网络是一种典型的互联型反馈神经网络1 1 , 2 , 1 2 。 1 1 3 人工神经网络的训练 神经网络最具有吸引力的特点是它的学习能力,神经网络的学习过程就是它的训练 过程【1 , 2 , 1 2 。训练过程中,神经网络的输入向量称为训练样本或样本向量。样本向量的集 合称为训练样本集或样本集。所谓训练,就是在把样本集输入到网络的过程中,按照一 定的方式调整神经元的连接权值,使得网络能将样本集中蕴含的信息以权值的方式储存 起来,从而使得训练结束后当网络接受输入时,可以得到适当的输出。训练过程中权值 的调整方式称为神经网络的学习规则。 大连理工大学硕士学位论文 按照外界环境即样本集所提供信息的多少,神经网络的学习方式主要有三种:有监 督学习、无监督学习和自监督学习。 有监督学习( s u p e r v i s e dl e a r n i n g ) ,也称有教师学习。这种学习方式需要外界存在 一个“教师”,它对任何一个给定的训练样本x 提供应有的输出结果,即期望输出0 。 这组已知的输入一输出数据对l x ,0l 的集合就是有监督学习的训练样本集。神经网络可 以根据理想输出0 与实际输出d 之间的差值即误差信号d y 一0 来不断调整网络权值, 直到对于训练样本集来说总的误差减小到预定的要求。为了保证训练的成功,通常需要 大量的训练样本和较长的训练时间。 有监督学习的权值调整方式有多种,其中最重要、应用最普遍的是1 9 6 0 年代w i d r o w a n dh o f f 给出的d e l t a 规则,也称最小均方误差( l m s ) 算法。按照d e l t a 规则训练的前 向网络,就是著名的b p 网络【1 3 , 1 4 】。 最小均方误差算法的权值调整规则基于梯度下降法的原理。首先定义一个误差函数 e ( ) 一吉( 0l - y ;) 2 1,、2 一吉l 印彬,x ,l ( 1 2 ) 2 厶l 叫厶”f j 一l r 一7 一 j , 其中,矽代表t 时刻网络的权值组成的矩阵( 称为权值矩阵) ,x :是此刻位于输出层的 前一层上第j 个神经元的输出作为输出层第i 个神经元的输入,彬,是连接它们的权值, y ,与d i 分别是输出层第f 个神经元的实际输出和理想输出。网络训练的目标是误差函数 的值落在一定范围之内,使得网络的误差满足要求。 t 时刻网络的权值按照下式调整: 彬fh 1 一形,+ a w , f 形,r 。叩旦 ( 1 3 ) ” o w , , 其中叩称为学习率,可以是常数或变量,一般选取0 ,7 其中a ,声( o ,1 ) 是学习率常数且满足a 口,y 。是的重心,即记西的元素个数为 , 万2 袁。磊,瓦 ( 2 6 否则,其权值按照下式调整: 一声( y 一z ) ( 2 7 ) 其中口,卢( o ,1 ) 是学习率常数,记西与边界的交集西nb 的元素个数为m , 万5 击磊 瓦 ( 2 8 ) 按照( 2 1 ) 式调整获胜神经元的误差示数d e r r o r 。 当输入训练样本岛时,以获胜神经元h 为一个顶点的所有三角形与边界的交集中的 神经元作为它的拓扑邻域。拓扑邻域内的其他神经元按( 2 4 式调整权值,获胜 神经元按( 2 5 式调整权值。按照( 2 1 ) 式调整获胜神经元的误差示数b e r r o r 。 当获胜神经元恰好位于剖分区域的尖点时,对其权值不作任何调整。 s 4 输入一定数量的d 内的训练样本后,增加新的内部的神经元节点。 图2 3 基于l e t i t g r o w 网络的网格生成器增加新的内部节点 f i g 2 3 an e wi n n e rn e u r o ni sa d d e dt ot h em e s hg e n e r a t o rb a s e do nl i g 这时计算每个三角形顶点的d e r r o r 之和作为三角形的误差示数,取误差示数最大 的三角形,在它的重心处增加新的神经元节点f l e w : 大连理工大学硕士学位论文 氓。= :彬 ( 2 9 ) 俐 。n f i 、一。一, j 筒 该三角形三个顶点d e r r o r 变为原来的3 a 4 ( 0s as1 1 ,节点n e w 的d e r r o r 初始化为这 三个顶点d e r r o r 的肛4 ( 0 s zs 1 ) 。连接节点n e w 与这个三角形原来的三个顶点,产生 三个新的三角形的同时去掉原来的三角形。如图2 3 。 输入一定数量的b 上的训练样本后,边界上增加新的神经元节点。这时对落在边界 b 上的每个三角形的边,计算其端点的b e r r o r 之和作为该边的误差示数,取误差示数 最大的边,在它的中点处增加新的神经元节点n e w 。 该边的两个端点b e r r o r 变为原来的2 a 1 3 ,节点t 田4 z 的b e r r o r 初始化为这两个端 点b e r r o r 的3 。这个边所在的三角形原来的三个顶点的d e r r o r 的调整和节点n e w 的 d e r r o r 的初始化与增加新的内部节点时相同。连接节点n e w 与这个边所在的三角形原 来的三个顶点,产生两个新的三角形的同时去掉原来的三角形。 s 5 神经元节点达到一定数量时,应用d e l a u n a y 三角剖分算法f 1 1 改进网格质量。 s 6 当网格和节点数目达到目标值后,退出;否则,返回s 3 。 2 4 2 基于l e t - i t - g r o w 网络的网格生成器算法总结 作者对l e t i t g r o w 网络作了若干改动。 首先,为避免自组织特征映射网格生成器对边界节点的过严限制,网络训练样本分 别从待剖分区域内部和边界上随机选取,新的神经元节点的增加也分别在待剖分区域内 部和边界上增加,网络训练被分解成一个处理区域内部节点的二维l e t i t g r o w 网络和 一个处理边界上节点的一维l e t i t g r o w 网络。 其次,网络的初始拓扑不能是单一的一个三角形,否则随着训练的进行得到的三角 形结构不会满足网格剖分的性质,所以网络的初始结构是若干三角形组成的较粗的网 格。网络训练过程中获胜神经元的权值调整规则稍微有改变。 再次,新的神经元节点的增加过程有所改变。在待剖分区域内部,新的神经元节点 增加在三个顶点的误差示数之和最大的那个三角形单元的重心。在边界上,新的神经元 节点增加在两个端点的误差示数之和最大的那条边的中点。同时,新神经元节点的权值 和误差示数的取值以及新神经元节点所在的三角形的其它顶点的误差示数的变化都有 一定的更改。 最后,作者并没有只是使用神经网络来做网格剖分,而是在网络训练过程中不时使 用d e l a u n a y 三角剖分算法对网格进行优化。显然,作者认为单纯使用神经网络进行网 格剖分得到的网格质量并不好,需要使用其它算法对网格进行优化。 l e t i t g r o w 神经网络在网格剖分中的应用 3l e t - it - g r o w 神经网络在网格剖分中的应用 3 1 基于l e t - i t - g r o w 网络的网格生成器算法的优点与不足 总体而言,基于l e t i t 。g r o w 网络的网格生成器较自组织特征映射网格生成器前进 了一步。它把网络的训练分成两个l e t i t g r o w 子网络来进行,避免了对边界节点的过 严的限制,在网络训练过程中自适应地增加边界节点;网络的训练过程不局限于原来 l e t i t g r o w 网络的权值调整方式,将获胜神经元的权值向着训练样本和获胜神经元拓扑 邻域重心的线性组合方向调整,使以获胜神经元为公共顶点的三角网格分布均匀;基于 l e t i t g r o w 网络的网格生成器能够保持训练样本空间的拓扑不变性和概率不变性,对复 杂边界区域的自适应性较好。 但是基于l e t i t g r o w 网络的网格生成器在网络训练的过程中使用了d c l a u n a y 三角 剖分,这样使得网格的质量有显著改善,但是计算代价也显著增加。如果该网格生

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论