（地球探测与信息技术专业论文）多个密度界面的拟bp神经网络反演方法研究.pdf

多个密度界面的拟b p 神经网络反演方法研究 赵文举( 地球探测与信息技术) 指导教师：刘展教授 摘要 本文在研究密度界面正反演理论及拟b p 神经网络算法的基础上， 提出了适合于多个密度分界面同时反演的拟b p 神经网络方法。利用 v i s u a lc + + 6 0 可视化编程工具，开发了具有较好用户界面环境的正 反演程序，并通过模型及实际资料的反演计算，验证了方法的正确性 与实用性。 首先，研究了二维和三维多个密度分界面离散物理模型，并推导 了相应重力异常的正演离散计算公式。其次，通过对人工b p 神经网络 结构和功能的分析，建立了二维及三维多个密度分界面重力异常的拟 b p 神经网络反演模型，并推导出相应的空间域反演迭代公式。再次， 进行t - - 维模型、三维模型及实际资料的计算工作。通过模型试验， 分析了拟b p 神经网络各参数对反演的影响，并总结了在实际反演中 各参数的选取原则。通过重力异常和密度的噪声试验，讨论了两种噪 声对反演的影响，并分析了算法稳定性对噪声大小的要求。通过模型 试验，讨论了初始模型及物理约束在减少反演多解性和提高反演精度 方面的作用。对冲绳海槽实测重力数据进行了二维及三维反演计算， 得n t 冲绳海槽的第三系基底及莫霍面深度。最后，总结了存在的主 要问题，并给出了进一步改进拟b p 神经网络算法的几点建议。 关键词；重力反演，密度界面，拟b p 神经网络，冲绳海槽 i n v e r s es t u d yo fm u l t i - d e n s i t yi n t e r f a c e su s i n g p s e u d o - b p n e u r a ln e t w o r km e t h o d z h a o w e n - j u ( g e o p h y s i c a lp r o s p e c t i n ga n di n f o r m a t i o nt e c l l i l o l o g ” a b s t r a c t n d sp a p e r p r e s e n t e dan e wp s e u d o - b p n e u r a ln e t w o r km e t h o dw h i c h c a ni n v e r tm u l t i d e n s i t yi n t e r f a c e sa to n et i m e t h en e wm e t h o dw a sb a s e d o nt h ec o n v e n t i o n a lf o r w a r dm o d e l i n ga n di n v e r s em o d e l i n gt h e o r i e si n a d d i t i o nt oc o n v e n t i o n a lp s e u d o - b pn e u r a ln e t w o r ka r i t h m e t i c u s i n gt h e v i s u a lc + + 6 0d e v e l o pt 0 0 1 as e r i e so f p r o g r a m so f f o r w a r dm o d e l i n ga n d i n v e r s em o d e l i n gw e r ed e v e l o p e dw h i c hh a df r i e n d l yu s e ri n t e r f a c e s t h e i n v e r s i o nr e s u l to fm o d e l sa n da c t u a ld a t ad e m o n s t r a t e dt h a tt h e p s e u d o b pn e u r a ln e t w o r ki n v e r s i o nm e t h o d f o rm u l t i d e n s i t yi n t e r f a c e si s e f f e c t i v ea n dc o r r e c t a tf i r s t ，t h ep a p e rs t u d i e dt h e2 da n d3 dd i s p e r s e dm o d e l so f m u l t i d e n s i t yi n t e r f a c e sa n dp r e s e n t e daf o r m u l at h a tc a nc o m p u t et h e g r a v i t ya n o m a l i e so f m u l t i d e n s i t yi n t e r f a c e s a f t e ra n a l y z i n gt h es t n l c t u r e a n dt h ef u n c t i o no fa r t i f i c i a ln e u r a ln e t w o r k ，2 da n d3 di n v e r s em o d e l s f o rg r a v i t ya n o m a l i e so fm u l t i - d e n s i t yi n t e r f a c e sw i t hp s e u d o b pn e u r a l n e t w o r km e t h o dw a sc o n s t r u c t e d t h ec o r r e s p o n d i n gi t e r a t i v ei n v e r s e m f o r m u l ao fs p a c ef i e l dw a s p r e s e n t e da tt h es a m et i m e s e c o n d ，l o t so f w o r k sw e r ed o n e i n c l u d i n g2 da n d3 dm o d e l sa n da c t u a l d a t a c o m p u t a t i o n a c c o r d i n gt ot h et r i a l so f 2 da n d3 dm o d e l s ，t h ei n f l u e n c e s o fs e v e r a lp s e u d o - b pn e u r a ln e t w o r kp a r a m e t e r st ot h ei n v e r s i o nr e s u l t w e r ea n a l y z e d t h ep a p e ra l s os u m m a r i z e dt h ec o m m o np r i n c i p l ef o r s e l e c t i n gt h e s ep a r a m e t e r si na c t u a li n v e r s i o n a c c o r d i n gt ot h et r i a l so f g r a v i t ya n o m a l i e sa n dd e n s i t yn o i s e ，t h ep a p e rd i s c u s s e dt h ei n f l u e n c eo f t w ok i n do fn o i s et ot h ei n v e r s er e s u l ta n da n a l y z e dt h es c a l eo fn o i s e r e q u e s t e df o rt h es t a b i l i t yo f t h ea r i t h m e t i c w i t ht h em o d e l t e s tt h ee f f e c t o fi n i t i a lm o d e la n dp h y s i c a lr e s 缸- i c tt or e d u c et h ea m b i g u i t yo ft h er e s d t a n di m p r o v et h ep r e c i s i o no fi n v e r s i o nw e r ed i s c u s s e d 2 da n d3 d i n v e r s i o nw a sd o n et ot h eo b s e r v e dg r a v i t ya n o m a l i e sd a t ao fo k i n a w a t r o u g hu s i n gt h ep r o g r a mt h a t t h i sp a p e rp r e s e n t e d t h eb a s e m e n to f t e r t i a r ya n dm o h od e p t hw e r eo b t a i n e df r o mt h ei n v e r s i o nr e s u l t a tl a s t t h ep a p e rs u m m a r i z e ds o m ep r o b l e mt h a te x i s t e da n dp r e s e n t e ds e v e r a l a d v i c ef o ri m p r o v i n gp s e u d o b pn e u r a ln e t w o r km e t h o d k e yw o r d s ：g r a v i t yi n v e r s i o n , d e n s i t yi n t e r f a c e s ，p s e u d o - b pn e u r a ln e t w o r k , o k i n a w at r o u g h i v 独创性声明 本人声明所呈交的论文是我个人在导师指导下进行的研究工作及 取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外， 论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得 中国石油大学或其它教育机构的学位或证书而使用过的材料。与我一 同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明 并表示了谢意。 签名：删年，月；。日 关于论文使用授权的说明 本人完全了解中国石油大学有关保留、使用学位论文的规定，即： 学校有权保留送交论文的复印件及电子版，允许论文被查阅和借阅； 学校可以公布论文的全部或部分内容，可以采用影印、缩印或其他复 制手段保存论文。 ( 保密论文在解密后应遵守此规定) 学生签名： 导师签名： 弘以年j 月；口日 加6 年r 月乡p 日 中国石油大学( 华东) 硕士论文第l 章前言 第1 章前言 重力勘探作为一种快速普查方法，在深部地质构造研究、区域地 质构造划分及找矿勘探中均已取得显著的地质效果。自8 0 年代后期， 由于在重力测地工作中使用红外测距仪及高精度g p s 定位技术，确 保了重力测点位置及高程有较高的精度；在重力观测中普遍采用目前 世界上精度最高的l a c o s t e 型重力仪进行基点联测和重力测点观测， 使得重力测量的质量及精度都有了很大提高，为扩大重力法的应用提 供了条件【l 】。 重力观测数据的反演问题，一直是地球物理学界所关心的一个问 题。重力勘探反演问题一般分为三类：矿体类问题，构造类问题以及 复杂质量分布问题。矿体类问题，在这类问题中，质量负荷体是一 组有限的单连通( 两个面不相交) 体积，在每个体积中物质的密度分 布可能是不变的，也可以是变化的( 其梯度不很大) 。体积间的距离 足够大。 构造问题，在这类问题中，质量负荷体是层状介质。每个 体积的上、下边界由无限大的面所限，这两个面没有公共点，层间体 积充满密度不变或变化的物质。质量复杂分布的问题，这类问题中， 具有构造型和矿体型质量的联合分布，并且在界面附近，单个的矿体 型体积有公共部分。一般认为，构造问题比矿体问题更难解决，其原 因如下：其一，从叠加场中划分出单个层的场，从理论上来说是绝对 不可能的。其二，从整体来说，所有的层状介质，其积分特征或是不 存在，或是不可能根据外部场确定。其三，层的位置及其外部场要素 的特征点间的关系极为复杂，甚至在只有两层，并且层的下界面是水 平的平面、密度是常数的最简单情况下，反问题解得非单值性也比矿 体类问题严重得多。反演问题可以分为线性反演问题和非线性反演问 中国石油大学( 华东) 硕士论文第1 章前言 题。如果固定模型体的几何参数，只求物理参数，则由异常正演问题 公式形成线性方程组，从而构成线性反演问题，它一般需要用线性规 划法等方法求解。如果欲求模型体的几何参数，不管其物理参数是否 固定或是否需要计算，则将构成非线性反演问题。对非线性反演问题， 常用非线性最优化方法求解f 2 1 。 对于我们研究的多层密度界面反演问题，按上面的分类属于构造 类问题和非线性反演问题，而且是多界面的，可见其多解性是较严重 的。按照从简单到复杂的研究思路，让我们首先回忆一下国内外对单 个密度界面反演问题的研究。可以说对于单个密度界面反演问题的研 究已有不少成果，渐趋成熟。用于单密度界面反演问题研究的方法较 多，包括迭代法，正则化法、统计分析法、频谱展开式法、广义矩阵 法及多项式法等。 上面所说的迭代法是近年来在国内外较流行的一种方法，其计算 过程一般分为三个步骤：给出一个初始模型；计算模型的重力效 应；根据计算异常与观测异常间的差异用某些方法来修改模型。步 骤和 反复进行，直到计算异常与观测异常得到适当的拟合为止。 在迭代法反演研究中，较典型的有b o t t ( 1 9 6 0 ) ，c o r d e l l 和 h e n d e r s o n ( 1 9 6 8 ) ，g e r a r d 和d e b e g l i a ( 1 9 7 5 ) 以及o l d e n b u r g ( 1 9 7 4 ) 提出 的方法【2 j 。m h e b o t t 在1 9 6 0 年提出了一种根据剩余重力异常直接计 算密度差已知的二维沉积盆地形状的空间域迭代反演方法，方法的原 理是利用逐次逼近消去剩余值。这一迭代计算的思想为迭代计算密度 界面反演打下了基础【3 】。l c o r d e l l 和1 l c t h e n d e r s o n ( 1 9 6 8 ) 提出了一种 根据重力异常数据用迭代法求三度地质体( 界面起伏) 的方法。方法 按b o r ( 1 9 6 0 ) 和d a n e s ( 1 9 6 0 ) 方法的思想进行迭代。对不同的计算点分 别用直立长方体及直立线元为模型以加快计算速度。并对参考面深度 2 中国石油大学( 华东) 硕士论文第1 章前言 的选择等进行了较深入的研究 4 1 。a g e r a r d 和n d c b e g l i a ( 1 9 7 5 ) 提出 了一种根据重磁异常求物性界面起伏的方法。其计算工作分两步： 根据重磁异常的能谱计算两个均匀介质分界面的平均深度和密度或 磁化强度；用迭代法计算界面深度的局部变化( 起伏) 。他们还设 计了在空间域和频率域进行计算的程序框图【5 1 。d w o l d e n b u r g 在 1 9 7 4 年根据r l p a r k e r 的二度体起伏层重力异常的快速正演公式，提 出了一种计算场源体形状( 界面起伏) 的频率域迭代反演方法。迭代 的收敛性用一个低通滤波器保证，采用了快速傅立叶变换，计算时间 较快1 6 1 。 国内的一些地球物理学家也在单一密度界面反演工作中做了不 少工作，但大多数是改进国外的某些方法，只有少数几篇文章提出了 新颖独特的方法。刘元龙在1 9 7 7 年提出了压缩质面法求深度密度分 解面的起伏，其基本原理是用压缩质面去近钯2 - - 度地质体 7 1 。林振民 在1 9 8 5 年提出了一种在有已知深度点控制的条件下解二度单一密度 界面反问题的方法嘲。 但随着人们探测地球深部的需要，对多个密度分界面反演问题的 研究也早已为人们所注意，不过在这方面迄今成果较少。目前主要的 解决途径有两条：一是通过场分离后逐一用单层界面反演方法，但由 于场分离技术目前只能分离频谱特征相差较大的界面，且分离的方法 均带有一定的主观性和局限性，所以目前解决的能力有限。另一个途 径是直接反演多个密度分界面，但是，由于该反问题所固有的多解性， 同时对多个密度界面同时做反演计算有一定难度，故大多数方法均处 于试验阶段凹。 b h c t a p o c t c t i o 在1 9 8 2 年提出了以垂直侧边梯形棱柱的组合体 为二维模型的多个密度分界面的正则化非线性反演方法。王一新在 中国石油大学( 华东) 硕士论文第1 章前言 1 9 8 7 年通过理论模型试算工作。讨论了该方法的应用条件和影响精度 的多种因素，并通过适当处理，将该方法应用于实际剖面的解释1 9 1 。 谢靖在1 9 8 6 年研究了多个密度分界面的反演问题，利用位场向上延 拓作为补充信息，把求解第一类积分方程的不适定问题，化为在一致 有界且同等连续的函数集合上求适定“拟解”的问题，最后得到了求 拟解的优化方案，但文中没有进行模型试算工作【1 0 1 。王万银在1 9 9 2 年提出了基于p a r k e r 算法的双界面模型重力场的快速反演方法，作 者采用了不同的反演公式使反演稳定收敛，但该方法只能同时反演两 个界面 1 q 。齐玉林在1 9 9 5 年进行了二维多层密度界面综合反演的研 究。该文研究了多密度界面正反演公式，并推广和发展了正则化方法 以解决第一类积分方程组的求解问题。作者进行了理论模型的试算， 讨论了数据、密度、平均深度有噪情况下的反演效果，并对实际资料 进行了处理【1 ”。 近十年以来，人工神经网络技术得到迅猛发展，其方法原理在重 力密度界面反演中也得到了应用。t a y l o r 在1 9 9 0 年s e g 第6 0 届年会 的论文中，讨论了用b p 神经网络进行单个密度界面重力异常的反演 问题。用所设计模型的重力异常与界面深度构成训练集，共6 0 0 对数 据，对网络进行了训练。用训练过的网络对没有参加过训练的模型进 行了反演。试验结果显示，反演所得模型与真实模型非常接近，说明 网络反演效果良好，但t a y l o r 没有用实际重力异常资料进行检验【1 3 1 。 韩道范在1 9 9 4 年利用b p 网络研究了二维多层密度界面的反演问题， 作者设计了三层b p 神经网络系统，输入层输入剖面的重力异常值， 输出层输出反演的各密度分界面深度。在训练过程中，利用个别已知 深度点对网络进行训练，并使学习与反演交叉进行。最后通过模型试 算，说明了方法的有效性，并讨论了控制点对反演的影响【1 4 1 。朱自强 4 中国石油大学( 华东) 硕士论文第1 章前言 在1 9 9 5 年将神经网络b p 算法模型引入到密度界面的反演中，实现了 同时反演两个三维密度界面的拟神经网络b p 算法。该方法借用了神 经网络的并行、自适应联想等概念，使算法便于利用初始控制条件， 从而减少了解的非唯一性。理论模型及实际应用说明，该方法有较好 的推广前景【i5 1 。管志宁在1 9 9 8 年把神经网络与重磁异常反演理论相 结合，提出了用于重磁反演的一种拟b p 神经网络方法。其基于3 层 神经网络结构，把隐层神经元设定为三维空问物性单元，对实测与理 论重磁异常经s 型函数变换，采用自动修改物性单元物性值的拟b p 算法，反演三维空间的物性分布。作者利用该网络对理论模型和实际 航磁资料进行了反演计算，取得了满意的反演效果【1 6 1 。 本文在借鉴了拟b p 神经网络方法的基础上，提出了适合于多个 密度分界面反演的拟b p 神经网络算法。在研究了二维和三维多层密 度分界面的离散物理模型的基础上，推导了多层密度分界面重力异常 的正演计算公式；通过对人工b p 神经网络结构和功能的分析，建立 了多个密度分界面重力异常的拟b p 神经网络反演模型，并推导出相 应的空间域反演迭代公式；编制了二维和三维的正反演程序，通过各 种模型的计算，分析和总结了相关参数对反演结果的影响，给出了计 算参数的选取原则；最后通过实际资料的反演，验证了方法的实用性。 中国石油大学( 华东) 硕士论文第2 章密度界面的正演方法 第2 章密度界面的正演方法 给定地下地质体中密度不均匀体的几何参数( 位置、形状、产状 等几何要素) 和物性参数( 密度差) ，求它在外部空间任意点的重力 场，称为重力场的正演问题。重力异常的正演按计算域的不同可分为 空间域和频率域计算方法；按模型的不同可分为连续模型和离散模型 计算方法。本文所采用的是空间域离散模型的正演计算方法，用多个 剩余密度不同的矩形( - - 维) 或长方体( 三维) 的组合来近似多层密 度分界面的地质模型。 2 1 二维正演方法 二维多密度分界面地质模型如图2 - 1 所示，假设各层内密度均匀， 分别用舟( 净1 2 ) 表示。采用一系列平行于y 轴( 垂直纸面向里为正 方r 甸) f l o 等间距( d 善) 平面，将各密度层剖分成近似于矩形体的块体。 只要剖分足够细，就可以精细地描述该地质模型。为了离散计算的需 要，设重力异常计算点间距为d x ，计算点数为m ，第一计算点坐标为 ( a k 2 ，0 ) ，计算点编号为i = o ，l ，m 1 ；界面数为k ，界面编号为 k = l ，2 ，k ；每层划分的矩形数目为n ，矩形的宽度为孵，矩形编号 为j = 0 ，1 ，n - l ；各层的剩余密度为q ，o 2 ，d k 对于图中阴影矩形二度体在计算点p ( x ，o ) 处产生的重力异常 可用下式表示： 妒i广 吲驴2 曲捌瓦茅虿硝( 2 - 1 - 1 ) 6 中国石油大学( 华东) 硕士论文第2 章密度界面的正演方法 式中g 为万有引力常数，盯( 盯= 见一岛) 为剩余密度，善和f 是积分变 量，磊、岛、石及岛的意义见图2 - 1 。 z 对( 2 1 1 ) 式做积分处理，得： 蛳舻g 士h 豢啪辫+ 2 厶卜q 囊一培4 妻 一2 缶( 培。1 鲁一喀1 鲁 g - t 一2 ， 根据重力场的叠加原理，在计算点p ( x ，o ) 处的重力异常g ( x ，0 ) 为全部矩形二度体产生异常的累加，则第i 个计算点处的重力异常可 用如下离散公式计算： 岛= 砉篓g lc ，+ 譬一讲n 考舞一 俨细譬篙+ 中国石油大学( 华东) 硕士论文第2 章密度界面的正演方法 巩。，| g d 雩耐害 ( 2 - 1 3 ) 式中为第k 层编号为j 的矩形下底的深度，珥。，为第k 层编号为 j 的矩形上底的深度。 这样，当i 从0 变化到m _ l 时，我们利用公式( 2 1 ，3 ) 即可计算出 所有计算点的重力异常毋( f = o ，m - 1 ) 。当然，蜀中不包含模型外部 物质产生的重力异常，但这与实际情况不符，实际的地下密度模型是 向两侧无限延伸的。如果我们只计算图2 - 1 所示有限地质模型所产生 的重力异常，必将造成重力异常在模型边部产生畸变，因此有必要对 模型边部进行扩展。对于扩边的方法一般有平均深度法、自然延伸法 及对称延伸法等，当然很难说哪种方法更好，不同的方法适用于不同 模型。通过模型试算工作，本文采取了先对称延伸，后逐渐衰减到平 均深度的扩边方法取得了好的正演效果，扩边长度一般取3 5 倍剖面 长度。 2 ，2 三维正演方法 与二维情况类似，对于三维模型，我们建立如图2 2 所示的坐标 系以及模型剖分方案。我们用一系列平行于x 轴及y 轴的等间距( 鸳 和咖) 平面，将各密度层划分为数个小长方体的组合。只要这种剖分 s 雩簪 中国石油大学( 华东) 硕士论文第2 章密度界面的正演方法 足够细，就可以越精细地描述该三维模型。 图2 - 2 三维正演模型 在该坐标系下，剩余密度为仃( 盯= 岛一反) 的阴影长方体在p ( x ，y ，o ) 处产生的重力异常用下式表示： g 似加) ：g 仃j 咎啦( 2 - 2 1 、 式中g 为万有引力常数，善、r 、f 为积分变量，轰、最、r h 、r 2 、 厶及厶的意义见图2 - 2 。 对( 2 2 1 ) 式进行定积分处理，得 a g ( x ，y ，o ) = 一g 盯l l l 孵一x ) l n ( r 一j ，) + r 】+ b j ，) 1 n 赔一x ) + r 】+ 9 ( 2 - 2 2 ) 中国石油大学( 华东) 硕士论文第2 章密度界面的正演方法 式中r = ( 芋一x ) 2 + 白一y ) 2 + f 2 。 对图2 - 2 所示的模型，我们设x 方向上的计算间距、计算点数分 别为d x 和n ，1 r 方向上的计算间距、计算点数分别为d y 和m ；x 方向 上的长方体宽度、长方体个数分别为西和j ，y 方向上的长方体宽度， 长方体个数分别为d ，7 和i ；x 方向上的计算点编号为n = 0 ，i ，n - l ； y 方向上的计算点编号为m = 0 ，1 ，m _ 1 ；x 方向上的长方体编号为 j = o ，1 ，j - i ：y 方向上的长方体编号为i = o ，i ，i 一1 ；第一计算点 坐标为( d x 2 ，d y 2 ，0 ) ；界面数为k ，界面编号为k = l ，2 ，k ；各层 的剩余密度为q ，c r 2 ，d k ：则编号为l l m 的计算点处的重力异常可 用如下离散公式计算： = 善k 萎j - i 1 - 1 j = ot = o g 吼忙一( 竹+ 三卜 ，n ( 叩一( 朋+ 三p + 胄 + j i il 、二 j p 一( 所畦h - 北一( 打+ 荆+ 五 + 纳。丽丽丽菇百币羽 j 垆垆眨门删 式中足= 括一d + ( 1 2 眦) 2 + 白一b + o 2 ) 渺y + f 2 ，乞为第k 层 编号为i j 的矩形下底的深度，善0 。为第k 层编号为i j 的矩形上底的 深度，且矢= 0 。 这样，当n 从0 变化到n - 1 ，m 从0 变化到m l 时，我们利用公 式( 2 - 2 3 ) f l o 可计算出所有计算点的重力异常g 。三维情况也涉及到 扩边问题，可按照二维扩边方法原理进行 1 0 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 第3 章拟b p 神经网络反演算法 3 1 人工神经网络简介1 1 7 】 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k ) 简称神经网络，是 模拟生物神经网络的结构和功能的一种人工系统。1 9 8 7 年6 月，在美 国圣地亚哥举行了第一届国际神经网络学术大会，同年成立了国际神 经网络学会，这标志着- f l 新学科的诞生。 作为多学科的交叉科学与研究前沿，神经网络的并行处理能力， 自组织自学习能力，高度的鲁棒性，容错性，高度的映射能力，分类 和计算能力，引起了各学科人们的普遍兴趣。它在基础理论研究，工 业生产系统控制，设备故障诊断，质量控制，文字语音处理，机器人， 导弹实时制导，飞行器识别跟踪及市城预测等领域取得了多方面成 就，显示出巨大的潜力。 在石油工业方面，几乎每个大石油公司或石油服务公司都有若干 神经网络研究项目，尤其是一些在人工智能开发利用上领先的大石油 公司，无不瞄准神经网络。勘探地球物理学家也很快将神经网络引入 自己的领域。目前，在地震、重磁、电磁法等诸方面的应用都进行了 探索，并取得了令人鼓舞的效果，特别在地震勘探方面的研究更为广 泛，在某些方面已达到实用水平。 3 2 b p 神经网络【1 8 】 b p 神经网络通常是指基于误差反向传播算法( b p 算法) 的多层 前向神经网络，它是d e r u m e l h a _ r t 和j l m c c e l l a n d 及其研究小组在 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 1 9 8 6 年研究并设计出来的。b p 算法已成为目前应用最为广泛的神经 网络学习算法，据统计有近9 0 的神经网络应用是基于b p 算法的。 b p 网络的神经元采用的传递函数通常是s i g m o i d 型可微函数，所以 可以实现输入和输出问的任意非线性映射，这使得它在诸如函数逼 近、模式识别、数据压缩等领域有着广泛的应用。 3 2 1 神经元模型f 1 8 i 神经网络的基本单元称为神经元，它是对生物神经元的简化与模 拟。神经元的特性在某种程度上决定了神经网络的总体特性。大量简 单神经元的相互连结即构成了神经网络。一个典型的具有r 维输入的 神经元模型可以用图3 - l 来加以描述。 广_ 、厂一、 a 扔 a p r 1kj、 a = f ( w p + 6 1 图3 - 1 神经元模型 由图3 1 可见，一个典型的神经元模型主要由以下五部分组成。 ( 1 ) 输入 p l ，p 2 ，办代表神经元的r 个输入。p = p l ，p 2 ，p 。】r ，其中t 表示转置。 ( 2 ) 网络权值和阈值 m - i ， 2 ，嵋卫代表网络权值，表示输入与神经元间的连接强度； 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 b 为神经元阈值，可以看作是一个输入恒为1 的网络权值。 ，= 【j ，嘶2 ，w 1 皿】，阈值b 为l x l 的标量。值得注意的是，不论是 网络权值还是阈值都是可调的。正是基于神经网络权值和阈值的动态 调节，神经元乃至神经网络才得以表现出某种行为特性。因此，网络 权值和阈值的可调性是神经网络学习特性的基本内涵之一。 表3 - 1 几种典型的神经元传递函数形式 函数名称函数表达式函数曲线 朗值函数 m ，蒜 线性函数，( x ) = h ”。一 l 。一 对数 埘一。+ ：。 s i g r a o i d 函数 r i t ， 正切 厂一 ，( 力= t a n h ( x ) s i g m o i d 函数 _ _ ( 3 ) 求和单元 r 求和单元完成对输入信号的加权求和，即，l = 只，+ 6 ，这是 t = l 神经元对输入信号处理的第一个过程。 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 ( 4 ) 传递函数 在图3 1 中，表示神经元的传递函数或激发函数，它用于对求 和单元的计算结果进行函数运算，得到神经元的输出，这是神经元对 输入信号处理的第二个过程。表3 - l 给出了几种典型的神经元传递函 数形式及描述。 ( 5 ) 输出 输入信号经神经元加权求和及传递函数作用后，得到最终的输出 为a = f ( w p + b ) 。 3 2 2b p 神经网络结构1 9 1 一个典型的b p 神经网络一般由输入层、输出层和多个隐层( 或 称中间层) 组成。如图3 2 所示，为一个三层b p 神经网络结构，其 包含一个隐层。 o 神经元权w ： 图3 - 2 三层b p 网络模型结构图 3 2 3 阴神经网络算；去【1 9 1 现在来讨论b p 神经网络的学习过程，即根据已知的期望输出 1 4 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 抄。) 和实际输出 允) 求权系数 ，其中k 表示输出层的顺序号；j 为当前层号；i 为前一层的节点号。神经元的传递函数选用s 型，用 对数s i g i n o i d 函数表示。对网络中的任一个节点j ，其输入来自前层 的所有节点i ，总输入为 坼= d ( 3 2 一1 ) 其中，q 为前层第i 个节点的输出。通过节点j 之后的输出为 q = 厂( 扎) = 1 + e x p ( _ 1 ) 】- i ( 3 - 2 - 2 ) 此式是代入s 型函数的结果。信号由输入层通过隐层到输出层，网络 的实际输出为 允= q ，后= 1 , 2 ，k( 3 - 2 - 3 ) 其中，k 为输出层的节点数。 根据最小平方原理，定义期望输出与实际输出之间的误差函数为 e = 吾z r y 一九1 2 一 ( 3 2 - 4 ) 求系数组 ) 可通过反传和逐渐迭代来解决。首先进行初始化，即随 机地赋予网络一组权系数呒( f = o ) ，这里t 为迭代次数。由正传 u = 1 2 ，七) 求每一个节点的输入( m ) 和输出( q ) ，然后反传 u = 七，k - 1 ，1 ) 修正得权系数p = 1 ) 。每个权系数的修改增量要 通过误差函数e 对权的偏导数计算 熹；等熹；乞d ，( 3 - 2 - 5 ) 栅b 捌i 瑚i | “ 。 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 为误差函数对节点j 输入的偏导数：q 为节点j 前层的输出，它是利 用( 3 - 2 1 ) 式两边求导取得的。 首先从输出层k 开始计算瓯，因为这里期望输出与实际输出是已 知的，f q o - 2 6 1 式有 坑= 篆薏= 电啪八m ) 陋7 ) 其中，f 由对数s i g m o i d 函数定义，f 可由对数s i g m o i d 函数求出。 0 - 2 7 ) 式代a ( 3 2 5 ) 式得输出层与隐层之间的权系数修正增量 删一鬻叱一1 3 k ) f ( 啪 删) 式中，0 为隐层各节点的输出。然后即可对这组权系数进行修改( 对 第t 次迭代) r e , r t + 0 2 ( ，) + 肚( f ) ( 3 2 9 ) 式中，为学习率， 0 。 对隐层内部，我们知道的只是其后层已修改的系数组( ，+ 1 ) 。 这里m 表示当前层j 的后层，用它来修改前层的系数组称为反传。 这时由( 3 - 2 - 6 ) 式有 乞= 熹= 署等= 署九m ) ( 3 - 2 1 0 ) 巳。瓦2 面葡2 面，u j ( 3 一- 1 6 堡哪 = 瓯 中式 中国石油大学( 华东) 硕士论文第3 章拟b p 塑! 墅璺鳖医堕篁鲨 由于后层有许多节点( 记为m = l 一2 ) 与j 节点连接，因此 署= 莓薏学= ；氏( 3 - 2 - 1 1 ， 此式推导应用t ( 3 2 6 ) 式和( 3 - 2 1 ) 式。由于反传计算时后层m 的偏导 数毛及系数已经修改，n n ( 3 - 2 - 1 1 ) 式不难计算出来代( 3 - 2 1 1 ) n ( 3 2 1o ) 和( 3 - 2 5 ) 式中便得隐层j 节点的第t 次迭代修改增量 呒) - _ 筹一莓吒嘣( 鹏( 3 - 2 - 1 2 ) 再用( 3 2 9 ) 式进行迭代修改，迭代一般是收敛的。b p 算法流程图见 图3 3 。 图3 - 3b p 神经网络算法流程图 1 7 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 3 3密度界面的拟日p 神经网络反演算法 由于b p 网络方法的反演结果过分依赖于训练网络权系数的样本 集，因此，当所求反演结果与训练样本集相差较远时结果不理想。如 何改善这种状况，充分发挥神经弼络的一系歹i j 优势解决重磁反演阔 题，是人们仍然需要关注的；如何建立适合重磁位场反演的b p 算法 和研究有效实用的反演方法仍是一个需要解决的问题。针对这些问 题。将神经网络理论和重力异常的反演问题的特点楣结合，研究了适 合重磁异常界面反演的拟b p 神经网络算法，并推导了相应的公式。 该算法有着与b p 神经网络相似的网络结构，其隐层神经元被设定为 划分单元( 矩形( 二度体) 或长方体( 三度体) ) 的底面深度，并对实测与理 论重力异常进行s 型函数变换，采用自动修改划分单元的底面深度的 算法，反演三维空间的界面深度。由于算法有着与b p 神经网络相似 的结构，但又无需用样本集来训练权系数，有别于传统的b p 两络反 演，故称其为拟b p 网络反演方法【1 6 1 。 3 3 1 拟b p 神经网络结构 根据b p 神经网络及其网络映射定理，任意一连续函数( 映射) 都可以由三层网络来实现因此，选择拟b p 神经网络由3 层组成( 图 3 们，即包括输入层、隐层和输出层，可见拟b p 网络的结构与b p 网 络基本相同。取输入层与输出层的神经元个数相等，即等于参加反演 计算的测点总数。设三维空间划分单元的底面深度为隐层神经元，故 隐层的神经元个数即等于三维空间划分单元的总数，划分单元越多， 相应的隐层神经元个数就越多，反之就越少，所以隐层神经元的多少 应视具体问题而定。若将输入场值加到输入层各神经元。输出层输出 1 8 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 即为各测点的理论场值( 隐层各划分单元正演的场值) ，并将输出层的 输出反馈到输入层，以便进行实测场与理论场的比较n 6 】 实 测 重 力 异 常 输入层 隐层输出层 图3 - 4 拟b p 神经网络结构 3 3 2 二维密度界面反演算法 计 算 重 力 异 常 拟b p 神经网络算法的关键是调整隐含层的神经元的深度参数。 对于如图2 - 1 所示的二维正演模型，设第k j 个单元的第n 次迭代深 度值为( 功，第n + 1 次迭代的深度值为h 目q + 1 ) ，其修正值为 0 ) ，则有 h 目( 栉+ 1 ) = 月r 茸( ，力+ a 日目( 玎) ，以= 1 2 ( 3 - 3 1 ) 其中计算巩0 ) 即隐层各神经元的深度调整值是本算法核心。 设f i 和西分别为实测异常和理论异常，对f i 和g i 分别作s 型函 数变换，可得 q 2 而再网1 ( 3 蚴 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 d 2 瓦面西1 万网 3 - 3 3 ) q 为神经元的阂值，岛为控制系数。 基于s 型函数具有非线性特性又具有实现最小二乘算法所需的 可微特性，而且比较接近于人脑神经元的输入输出特性，因此把场 值作s 型变换是实现拟b p 神经网络反演的重要一步。 定义网络的误差函数为 e = g q 】2 ( 3 3 - 4 ) 由( 3 3 4 ) 式，对e 求日。的偏导数可得 薏= 善 一q 掣= 一善 一9 甚p ，固 而 瓦o q , = q , o q ) 盟8 1 1 # 拍q 。 式中蜀的表达式见( 2 1 3 ) 式。 将( 3 - 3 6 ) 式代入( 3 3 - 5 ) 式可得 薏= 娩一q b o ，1 峨o g , ( 3 善7 ) 取峨2 叩薏= 若萋翰一q j b ( 1 q j ) 薏，其中7 7 称为迭代步 长。 则深度调整公式可变换为 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 而 f g + 1 ) = g ) + a n 自( n ) l o ) = 苦萋( q ：一q 娩( 1 一q ) 鲁 3 一j( 3 - - 8 ) o g , ：g 8 h q 譬棚群 一u 一譬一。繇 亿帆吨 t 宰一u - 譬- - 0 & 3 3 3 三维密度界面反演算法 对于如图2 - 2 所示的三维正演模型，设第蝎个单元的第t 次迭 代深度值为j ( f ) ，第t + 1 次迭代的深度值为日坷o + 1 ) ，其调整值为 ( ，) ，则有 月0 ( f + 1 ) = 丑0 ( ，) + 爿0 ( r ) ，t = 1 , 2 ，( 3 - 3 _ l o ) 其中计算风口( r ) 即隐层各神经元的深度调整值是本算法核心。 2 l 生峨 竺吖骞 - 哪 童l 吖生咖 一一k一 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 设厂脚和g 。分别为实测异常和理论异常，对厶和g 。分别作s 型函数变换，可得 q 栅= 百丽瓯i 1 瓦：网( 3 - 3 - 1 1 ) 酰= 雨研匹1 碉 ( 3 - 3 - 1 2 ) 2 。为神经元的阈值，岛为控制系数。 定义网络的误差函数为 一1 n i e = 去 “一q 肭】2 ( 3 - 3 - 1 3 ) m = 0 n = 0 由( 3 3 - 1 3 ) 式，对e 求月0 的偏导数可得 而 薏= 羹篓一编肆鑫产= 篓一) 薏 ( 3 - 3 1 4 ) 薏2 编( 1 训薏( 3 - 3 - 1 5 ) 式中g 。的表达式见( 2 2 - 3 ) 式。 将( 3 3 1 5 ) 式代a ( 3 3 1 4 ) 式可得 薏= 篓一如k ( 1 一) 薏( 3 - 3 - 1 6 ， 取峨= 一叩盖= 善萋蓑一q 脚k ( 1 一q 册) 薏，其中珂为网 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 j 2 ( f ) + 峨dp 3 彻 l 峨( ，) = 虿m 刍- i 台n - i 一k ( 1 一q 朋) 薏 薏( - 一螳 + m + 再面j 孰+ b 七h 毛1 螳 + x z + 0 b + h 毛1 墨( 糕二糕 + y ：( 描一糕 + 矿型x z 盟y 2 蝴而雨a + 嗣2 h ：j 一 辔一譬竽嘲面骊d + 翮2 h ：2 , j 一 留q 堂x e 咝y l 嘲丽丽b + 翮2 h ：j + 增1 掣堋而纛翩 中国石油大学( 华东) 硕士论文第3 章拟b p 神经网络反演算法 式中而= ( i - n 一0 5 ) a x ，y l = ( ，一埘一0 5 )