（信号与信息处理专业论文）利用小波网络处理凝析天然气流量计测量数据.pdf

摘要 凝析天然气的气液两相流量是监测、控制气井和气藏动态特性的主要依据，但传统 的凝析天然气的流量计量受很多因素干扰，误差较大，气井的井口两相的计量问题是一 项尚未彻底解决的技术难题。论文研究了应用小波神经网络处理凝析天然气测量数据的 方法。 首先系统地研究了小波神经网络的结构，比较了小波神经网络与传统b p 网络的性 能。然后构建不同形式的小波神经网络：以连续小波变换为理论依据，采用连续小波函 数作为神经网络的激励函数构建连续参数小波神经网络，给出参数学习算法；以多分辨 分析和正交小波分解为理论依据，采用正交小波函数和尺度函数共同作为神经网络隐含 层激励函数，构建多分辨小波神经网络，并利用多分辨分析逐层逼近的性质，给出了分 层递阶学习算法。分别应用两种网络对凝析天然气流量计测量数据进行处理。最后，结 合测量信号，通过先分析性质再综合误差比较的方法，比较了各种小波基，选取了最优 者。 采用压力、温度和差压等参数作为小波网络的输入，气液标准体积流量为网络输出， 基于m a t l a b 语言，对上述方法进行了编程实现，实验结果表明，用小波神经网络预测 凝析天然气流量计流量的方法是可行的，可以较好的预测出气液两相流量，为该方法应 用于生产实际奠定了基础。 关键词：小波神经网络，连续小波变换，多分辨率分析，凝析天然气，小波基 u s i n gw a v e l e tn e u r a ln e 细o r k t oa n a l y z e t h ed a t ao fw e t g a sn o w m e t e r x i a og u a i l g y u i l ( s i g n a la n di n f o m a t i o np r o c e s s i n g ) d i r e c t e db yp r o z h e n gj i n 、u a b s t r a c t t h em e t e r i n go fg a s l i q u i dt 、7 旧p h a s en o wr a t e so f 、e tg a si sa ne s s e n t i a l l yr e f e r e n c ef o r t h em o i l i t o r i n ga i l dc o m r o l l i n go fg a s 、l la n dg a sr e s e n ，o i rd y n 锄i c s ，b u tt h et r a d i t i o n a lw e t g a sf l o w m e t e ri sd i s t u r b e db ym a n yf a c t o r s ，s oi th a s1 a r g ee r r o r t h er e a l i t yi su n s a t i s f a c t o r ) ， d u et 0t h eu 1 1 s 0 1 v e dp r o b l e mo f 铆op h a u s en o w m e t e r i n g t h ep a p e rp r o v i d e sa i l ds t u d i e st h e m e t h o do fp r o c e s s i n gt l l ed a 脑o fw e tg a sm e a s u r e m e n tb a s e do nw a v e l e tn e u r a ln e t 、o r k ( w n n ) f i r s t l y ，t h i st h e s i sm a k e ss y s t e m a t i cs t u d i e so fs 饥l c t u 】r e so fw a v e l e tn e u r a ln e t 、o r k s ；i t a l s oc o m p a r e sw a v e l e tn e u r a jn e 咖舾、) l ，i mb pn e u r a ln e 帆o r k si 1 1d e t a i l s e c o n d l y ，觚o l 【i n d so fw a v e l e tn e 删n e t 、o r k sa r eb u i l t t h ef i r s to n e ，b a s e do nc o n t i n u o u sw a v e l e t 仃眦s f 0 咖t 1 1 e o r y ，t l l et l l e s i sp r e s e n t sc o n t i n u o u sp a r a m e t e rw a v e l e tn e u r a ln e t 、o r k ，、h o s e a c t i v a t i o nf 吐l c t i o n sa r ec o n t i m l o u sw a v e l e t c t i o i l s f u r t h e m o r e ，l ea l g o r i t h 衄o fn e t 、】旧r k i sg i v e n t h es e c o n do n e ，a c c o r d i n gt 0m u l t i - r e s o l u t i o n 锄a l y s i sa 1 1 do n l l o n o m l a lw a v e l e t d e c o m p o s i t i o nt l l e o m u l t i - r e s o l u t i o nw a v e l e tn e u r mn e t 、o r ki sb u i l t ，、h o s ea c t i v a t i o n 如n c t i o 璐c o n s i s to fo m l o n o n i l a l 、a v e l e ta i l do 劬o n o 肌a ls c a l i n g 缸l c t i o i l s ，a n dl l i e r a r c h i c a l 印p r o x i m a t i o na l g o r i 也mi sg i v e n ，a i l dp r o c e s st l l ed a 妇o f “旧- p h a s en o wm e a s u r e m e n t 研t h t w ol 【i n d so fn e 觚o r ks e p a r a t e l y l a s t l y ，c o m b i i l i n gn e 铆o r k 诵t hs i g i l a l c h a r a c t e r i s t i c ， c o m p a r i n gm a i l y 唧l v e l e t 如n c t i o i l s ，w ec h o o s e 1 eb e s t t h ei n p u t so ft l l en e u r a ln 咖o r ka r ed i 疵r e m i a l lp r e s s u r e ，a b s o l u t e p r e s s u r ea i l d t e m p e r a h j r eo ft 、v o - p h a u s ef l o w ；m eo u t p u t so f t h en e u r a ln e t w o r ka r eg a sa n dl i q u i df l o wr a t e s b a s e do nm a t l a b ，、v ea c l l i e v et l l ep r e d i c t i o no f 、v e tg a sn o w - f o l l o w i n gc o n c l u s i o nc 锄b e d r a ：u s i n gw a v e l e tn e u i 谢n e t 、o r k st 0f o r e c a s tw e tg a sf l o wi sf e a s i b l e ，锄l dg e tan i c er e s u l t i tp r o v i d e sab a s i sf o r l ep r a c t i c a lp r o d u c t i o n k e yw o r d s ：w a v e l e tn e u r a ln e 帆o r k ，c o n t i n u o u sw a v e l e tt r a j l s f b 肌，m u l t i r e s o l u t i o n 锄a l y s i s ，w ag 嬲，w a v e l e t 舢l c t i o n l l 关于学位论文的独创性声明 本人郑重声明：所呈交的论文是本人在指导教师指导下独立进行研究工作所取得的 成果，论文中有关资料和数据是实事求是的。尽我所知，除文中已经加以标注和致谢外， 本论文不包含其他人已经发表或撰写的研究成果，也不包含本人或他人为获得中国石油 大学( 华东) 或其它教育机构的学位或学历证书而使用过的材料。与我一同工作的同志 对研究所做的任何贡献均已在论文中作出了明确的说明。 若有不实之处，本人愿意承担相关法律责任。 学位论文作者签名： 矗立叁日期：b 。曾年月奎日 学位论文使用授权书 本人完全同意中国石油大学( 华东) 有权使用本学位论文( 包括但不限于其印刷版 和电子版) ，使用方式包括但不限于：保留学位论文，按规定向国家有关部门( 机构) 送交学位论文，以学术交流为目的赠送和交换学位论文，允许学位论文被查阅、借阅和 复印，将学位论文的全部或部分内容编入有关数据库进行检索，采用影印、缩印或其他 复制手段保存学位论文。 保密学位论文在解密后的使用授权同上。 学位论文作者签名：运左墨! 指导教师签名： 日期：功p 守年f 月奎日 日期：沁暗年占月厶日 中国石油大学( 华东) 硕士论文 1 1 课题的背景及意义 第1 章前言 本课题围绕海上含液天然气两相计量技术展开。凝析天然气检测技术属于多相流检 测技术的一个分支。在管道中输送的凝析天然气，可认为是一种气液两相流，但是它不 同于一般的两相流。在凝析天然气中，体积含气率一般都在9 0 以上，大部分在9 5 以 上，液相主要由水和液态烃构成。正是由于这样的特点使得普通的多相流检测仪表不适 用于凝析天然气的检测，因此研究开发凝析天然气的检测技术是当前石油天然气工业生 产所迫切需要的。 天然气的开采、集输和应用均需对其流量进行计量。当前，国家“十五 能源开发 规划、“西气东输工程以及油气生产管理水平与国际接轨等方面都对天然气资源的合 理开发和利用提出了更高的要求。天然气的计量处于天然气开发的最前端，人们对天然 气流量的准确计量十分关心，因为它对生产成本的核算、气井管理、操作决策的最优化 等方面都具有直接的参考价值，它直接关系到产品的质量、成本和经济效益。 传统的凝析天然气计量主要通过体积大、价格昂贵的分离器，将若干口井产物集中 到计量站，控制各井产物分时通过计量分离器，对分离后的气相和液相分别进行单相计 量。这种方法的缺点是生产流程复杂、造价高并且是断续计量，并非实时的，而且气井 产出物的成分发生变化以后，以前设计的计量分离器装置计量的精度就会明显的下降， 要达到较高的精度就必须重新设计计量分离器，而计量分离器的造价高、工艺复杂，如 果要跟踪测量液体的变化，就需要人为的干预，显然这样做会提高成本、浪费时间。要 解决这个问题我们就必须采用在线多相流量计对每口气井进行计量，它对多相流中油、 水和气各相的进行不分离计量，这样能够及时地得到气液流量。 开展此课题的研究工作，解决在线实时的准确测量，不仅可以替代昂贵、笨重的气 液分离计量装置，进一步简化工艺流程、降低成本，而且对提高气藏和气井的科学管理 水平以及操作决策的最优化等方面具有重要意义。 1 2 两相流计量方法现状 1 2 1 分离法 传统对于两相流的计量主要采用分离计量法，其结构框图如图卜1 所示： 第1 章前言 两 相 流 阀= 替富襞、二= 橱一 组 币：2 一 j， 1 图卜1 分离计量结构框图 f i g 卜lf i g u 他o fs e p a r a t i o nm e a s - e m e n ts t r u c t u r e 通过阀组对来流进行选择计量，被选中的流体进入计量分离器，入口分流器使流体 流向及流速突然发生变化，在重力和离心力的作用下，使气液分离。对分离后的气，液 分别进行单独计量，由于实际情况不同，可能采取的具体方案有差别，这种差别主要体 现在对气、液进行单独计量方面，应根据不同需要采用不同的流量计n 1 。该方法的优点 是工作可靠、测量精度高、测量范围宽、且不受气液两相流流型变化的影响，是目前陆 上油田油气产量计量的主要方法。 此方法的缺点为： ( 1 ) 采用两相分离器只能对液气进行初步分离，分离后的液体中还含有溶解气， 天然气中还含有饱和轻油分，尤其是液体中还含有溶解气，严重影响计量精度。 ( 2 ) 体积庞大，不宜做成自动化仪表单独使用，而需要建立专门的计量站，这在 很大程度上增加了油田的开发成本。而且随着压力的提高，分离器的制造成本和运行维 护成本将急剧升高。 随着海上和沙漠油田的开采以及热采技术的广泛应用，传统的分离法已经不能满足 石油工业的要求，世界各国都在竞相开发能够实时在线测量的两相流体流量计，以取代 传统的分离法乜3 。 1 2 2 非分离法 非分离法不对两相流体进行分离，而直接将测量仪表置于气液两相流体中进行测 量。已出现和正在研制的这类测量方法有： ( 1 ) 用两种常规流量计进行组合测量 ( 2 ) 用c t ( 计算机层析成像) 技术测量两相流体流量髓3 ( 3 ) 数字高速摄影法阳1 ( 4 ) 用常规流量计与射线密度计进行组合测量 ( 5 ) 真实质量流量计进行测量 2 中国石油大学( 华东) 硕士论文 ( 6 ) 用两相流的波动信号特征值进行测量 ( 7 ) 其他测量技术 在其他测量技术中，部分分离法n 1 是近年来新发展的一种综合测量技术。该方法首 先采用简单的分离装置将气液两相流体分离成以气相为主和以液相为主的两股两相流， 然后再应用较为成熟的两相流体测量仪表进行测量，最后再将两股流体重新混合。在以 气相为主的两相流中，气体能够形成连续相，残余液体只以分散的形式散布于气流中， 流动特性接近于单相气流；同样，在以液相为主的两相流中，流动过程完全由液相控制。 因此该方法最大限度地缩小了流过测量仪表的两相流组分变化范围，同时也降低了流动 的不稳定性和测量信号的波动性，从而可以较好地使用常规流量计组合法及常规流量计 与射线密度计组合法进行测量。在油田油一气一水流量测量中该方法的精度达1 0 。 在我国，多相流量计的研制还处于起步阶段，还没有真正的可用于凝析天然气流量 检测的流量计。这种状况与2 1 世纪世界能源工业的发展、国外大力加强多相流技术研 究的现状不相符；也和我国“西气东输、天然气工业重点发展的需求不相符，因此开 发具有自主知识产权的高精度测量仪表，摆脱对进口产品的依赖是非常迫切的。 1 3国内外研究现状与分析 1 3 1 国外研究现状 目前，国际上的多相计量技术呻1 仍处于成长完善时期，人们普遍认为每一种类型的 多相流量计都有一定的适用范围，不可能在所有的多相流条件下都表现出最佳的工作性 能。现有的多相流量计实际能够达到的测量精度是有限的。a g a r 发展了一种由两部分 组成的多相流量计。第一部分由一个体积流量计和两个动量计组成，以测定气流和液流。 第二部分是一个微分析器以确定油水百分比。a g i p 发展的一种流量计有一个阻抗计、文 丘里流量计和一个双束伽玛密度计。此流量计在含气率高达5 0 的情况下成功地进行了 试验。t e a 发展了一种多相流量计，它由一个阻抗计，一个文丘里流量计以及一个单束 伽玛密度计构成。试验结果令人满意。另外，r o x o r 公司、d a i l i e l 公司、h a i m o 公司、 m c c r o m e t e r 公司、s o l a n r o n 公司目前也都有产品投入市场或在工业现场进行过试验、 应用1 引。但上述产品可用于凝析天然气计量的不多。部分产品在9 0 的置信概率下，测 量精度可达到l o 以内。所采用的数据处理方法一般为应用流体力学模型测量凝析天 然气流量的数据处理和应用人工神经网络进行数据处理方法。 3 第l 章前言 1 3 2 国内研究现状 目前，国内的多相流量计研制还处于起步阶段，所推出的产品样机还存在着不少问 题，还没有真正可以应用于凝析天然气计量的流量计。兰州海默公司的m f m 一2 0 0 0 在 线多相流量计虽然已经商品化，但使用效果并不理想：胜利油田稠油所与西交大合作、 辽河油田与清华大学合作研制的蒸汽流量计有部分应用，二者都是基于半经验的拟合公 式，应用范围受到一定限制。此外，在多相流的基础理论研究方面，西安交通大学处于 国内领先地位。天津大学研究了将文丘里管用于凝析天然气测量的方法。其它院校大多 集中在各种传感原理的过程层析成像分析、图像重建算法等方面的研究。 中国石油大学( 华东) 信息与控制工程学院自2 0 0 1 年开始致力于开发一种新型的 凝析天然气流量计，属于差压式流量计n3 1 ，已经完成新型节流元件一槽式孔板及样机的 开发，并在石油大学和大庆两地进行实验，仪表的硬件构成已设计完成，取得了大量的 实验数据。样机采用双节流元件( 槽式孔板) 结构，水平安装于凝析天然气的输送管路 中。测得前后两孔板的差压、压力及温度信号，以此作为特征参数，采用一定的算法进 行处理从而得到气液相流量。 在使用流量计样机进行实验时可以得到两个差压值、一个压力值和一个温度值，这 些参数都是比较容易测量的，由于凝析天然气多相流动的复杂性，流体的流量是不可能 直接测量的，必须利用以上可以直接测量的参数进行计算，但是这种计算往往是一个复 杂的过程，主要是因为多相流动的复杂性。这些测量数据并不是最终所要求得到的气、 液相的流量，但是这些测量值是与流量值有关的一些参数，怎样通过这些参数来计算流 量值，就是数学模型需要解决的问题。所设计的流量计能够测量四个参数，就其结构而 言还是比较简单的，要利用这四个参数来计算复杂流体的流量就必须在数学模型软件上 进行完善，以软件的完善来补充硬件功能的不足，这是在整个流量计设计过程中遵循的 一个思想，这种思想实质上就是软测量技术的具体体现。所谓软测量技术是一种利用较 易在线测量的辅助变量和离线分析信息去估计不可测或难测变量的方法。软测量通常是 在成熟的硬件传感器基础上，以计算机为核心，通过软测量模型运算处理而完成的。软 测量技术能够测量目前由于技术或经济的原因无法或难以用传感器直接检测而又十分 重要的过程参数；能够对测量系统进行误差补偿处理和故障诊断，从而提高测量精度和 可靠性。软测量技术的指导思想是利用现有的硬件条件来获得与待测量值相关的较易 测量的参数，以这些参数为基础建立数学模型，以数学模型的完善来满足一定精度的测 量要求。 4 中国石油大学( 华东) 硕士论文 原先一直采用的软测量技术是一种常规的数学模型。它是在前人研究成果的基础 上，针对凝析天然气流量检测以及流量计的结构设计推导出的一种数学模型，这种数学 模型主要是利用可以测量的四个参数根据具体的关系式( 见公式1 1 ) 来计算得到气、 液相的流量，因此称为常规的利用数学关系计算的数学模型。式中s 为节流件处流体的 可膨胀性系数，胛为节流件上下游的差压，d 为节流件开孔直径，是孔径比，p 是 流体密度。c 是无量纲的纯数，称为流出系数，流出系数c 受许多因素的影响，例如节 流件形状及尺寸、取压位置、管道及安装情况、流动状态等许多因素对流出系数有影响。 要获得差压式流量计测量的流体流量，必须要对公式中的参数进行测量。常规的数学模 型中有许多因素需要考虑，有的因素事先无法准确的预知，但是它对数学模型的计算精 度又有显著的影响，又需要准确的确定，这就存在一个矛盾，这种矛盾通常是很难解决 的。因此常规的数学模型中因为不确定的因素造成的影响将会最终影响测量的精度，使 计算精度下降，导致测量结果超出允许的误差范围。常规的解决方法是对数学模型进行 修正，但修正的本身也要依据某些不确定的因素而且对于复杂的数学模型修正的方法也 是不容易发现的。这就造成这种方法测得的误差较大，有时甚至能超过2 0 ，这就使得 我们不得不寻求一种新的方法来代替它。 矿南s ；2 却 n 1 最近几年出现的小波神经网络模型的方法可以较好的解决以上提出的问题，它可以 将各种不确定或者难以确定的过程因素包含在整个神经网络当中而不需要用户对每个 因素单独考虑。所谓小波神经网络模型是b p 神经网络与小波分析理论的结合，它是一 种由许多简单的、高度互联的处理单元( 神经元) 构成的运算处理系统，它以对外部输 入作出动态响应的形式处理信息。它是在神经网络的基础上发展起来的，其中小波思想 的加入使网络更加精确。实践表明在其它传统方法无法奏效时，它是最佳选择。一般而 言，当小波神经网络应用于非线性、复杂、动态、多变量或难以建模的系统时，其作用 尤为突出。 1 4 论文主要研究内容 由于流型多、流动复杂等原因，造成多相流计量难以建立准确的数学模型。近年来， 小波神经网络得到广泛的应用，特别是在函数逼近和模式识别方面，已被大量的用于科 学研究和工程实践中。为了使流量的预测更加精确，本文主要研究应用小波神经网络对 5 第1 章前言 两相流流量进行预测。具体研究内容如下： ( 1 ) 分析对比小波神经网络和神经网络的逼近能力。 ( 2 ) 分别构造连续参数小波网络和多分辨小波网络，并通过对隐节点数实行自适 应选取，学习算法比较等过程确定一个理想的小波网络。 ( 3 ) 对多小波网络中不同小波基的选取问题进行讨论分析，并最终选取一个适合 两相流分析的小波基函数完成对两相流数据的处理。 ( 4 ) 使用训练好的小波网络对两相流数据进行预测，分析处理结果。 1 5 小结 本章分析了凝析天然气检测产生的背景及意义，介绍了国内外研究现状，并对论文 的主要研究内容做出了介绍。目前，国际上的多相计量技术仍处于成长完善时期，而国 内还处于起步阶段，石油大学所研制的凝析天然气流量计也正在不断完善之中。如何让 气液两相流流量的测量更加精确，一直是个重要的问题，本文就是采用小波神经网络的 方法来计算流量。在后面的章节中，将会构建和应用不同的小波神经网络进行分析探讨。 6 中国石油入学( 华东) 硕士论文 2 1 引言 第2 章小波神经网络 人工神经网络是模拟人脑生物过程的人工智能技术，它由大量简单的神经元广泛互 连形成的复杂的非线性系统，不需要任何先验公式，就能从已有数据中自动地归纳规则， 获得这些数据的内在规律，具有很强的非线性映射能力，特别适合于因果关系复杂的非 确性推理、判断、识别和分类等问题。小波分析方法是近几年来迅速发展的一种时频信 号分析理论和工具，它在时域和频域同时具有良好的局部化性能，有一个灵活可变的时 间一频率窗，这在理论和实用中都有重要意义，己成功应用于逼近论、微分方程、非线 性科学等方面。 小波神经网络是基于小波分析理论所构造的一种分层的、多分辨率的新型人工神经 网络，即用非线性小波基函数取代了传统的非线性s i 舯o i d 函数作为激励函数，其信号 表述是通过将所选取的小波基函数进行线性叠加来表现的。它结合了小波分析和神经网 络的两方面优势，在用于函数逼近的各种网络模型中，对局部间差异较大的函数逼近能 力更强。 小波神经网络具有如下特点：首先，小波基元及整个网络结构的确定有可靠的理论 根据，可避免b p 神经网络等结构设计上的盲目性；其次，网络权系数线性分布和学习目 标函数的凸性，使网络训练过程从根本上避免了局部最优等非线性优化问题；第三，有 较强的函数学习能力和推广能力。 因此，小波神经网络作为一种新型的函数逼近工具，它的能力比神经网络更强，是 我们进行凝析天然气流量预测的新方法。本章将先介绍神经网络和小波分析的基本理 论，然后介绍一下小波网络。 2 2b p 神经网络 人工神经网络n 钔是人工智能计算的一个重要学科分支，它模拟大脑的某些机制， 实现某个方面的功能，可以用在模仿视觉、函数逼近、模式识别、分类和数据压缩等领 域。b p 网络n r l 7 3 是一种对非线性可微分函数进行权值训练的多层网络，主要用于函数逼 近、模式识别、分类和数据压缩等方面。b p 算法的网络模型n 町如图2 1 所示。 7 第2 章小波神经网络 2 2 1b p 神经网络的算法 输入层隐含层输出层 图2 一l 神经网络结构图 f i 9 2 一lf i g u r eo fn e u r a ln e t w o r ks t r u c t u r e 设有n 个神经元( 节点) 的任意多层网络，对于输出层神经元，其输入和输出相同， 隐含层节点和输出层节点的操作特性为： 聊0 ，七= 吼 ( 2 1 ) ， d 肚= ( 甩甜，七) ( 2 2 ) 其中k 表示当前的输入样本，为从神经元i 到神经元j 的连接权值，q 为神经 元的当前输入，d 衢为其输出。f 是激活函数，采用s i g m o i d 型函数。 下面定义网络误差。b p 网络通常使用的是熟知的均方差。事实上并不是必须是均方 差，可使用任何连续可微误差函数。但是选择其他误差函数增加了额外的复杂性，因而 需要十分小心处理。均方差定义如下： b = 去( j ，砖一吼) 2 ( 2 3 ) j 这里e 是第k 个表征矢量的误差；y 卉是莉个输出神经元的期望值( 即训练集值) ； d 破是莉个输出神经元的实际值。 上式中每一项都反映单个输出神经元对整个误差的影响，去绝对误差的平方，可以 看出远离期望值的那些输出对总误差的影响最大增加幂指数，影响更加明显。 设e = e 为整个训练集种所有样本产生的输出误差之和，。为的调整值， 8 中国石油大学( 华东) 硕士论文 拎斗筹卜比妫： 咖f 芘一竽 ( 2 圳 州2 有等= 击c 等吵吼，及考= 卺鲁。 若定义误差信号以为靠一卺，于脯嚣一屯d 呔。这就是记要f 吏e 按梯度下降，必须按下式进行权值调整： t k = 7 7 颤吼 ( 2 5 ) 真正的梯度下降是沿着梯度确定的方向以无穷小步长进行的。很明显，这是不切实 际的。因此定义常数刁为学习速率，用它控制在权值空间中权值对应每步沿梯度方向变 化的大小。其中心思想就是选择足够大的刁，使得网络迅速收敛，而不会因调整过度而 振荡。现在的问题是如何求得网络中各个神经元的值。b p 算法所采用的方法是将输出层 产生的误差反向传播到输入层来计算以。 为了得到可用的微分方程，暂不考虑颤的变化，运用偏微分公式： 以一卺一番卺 6 ， 由( 2 - 2 ) 有等v 似啪，而对式( 2 _ 6 ) 中的第一项象的计算必须分成两 种情况： ( 1 ) 萄为网络的输出神经元，由e 的定义可得鲁= 一( j ，业一) ( 上式对于特 定的误差函数，可研究相应的算法，选择不同的误差函数会产生不同的微分方程) 。这 样式( 2 6 ) 可写成 靠= ( 一) 厂( ，z p 哝) ( 2 7 ) ( 2 ) 萄是以隐层神经元，则有： ；薏罨2 ；薏击区蚺心嘶叫 9 第2 章小波神经网络 将结果带入( 2 6 ) ，便有 颤= 厂( ，z p 以) ( 2 8 ) 概括上述结果，式( 2 5 ) 给出了关于艿雎的微分方程，它对隐含层和输出层都有效。 式( 2 7 ) 和式( 2 8 ) 分别是对应输出层和隐含层权值万庸的表达式。为了得到适于数 字计算机的微分方程，现仅计算厂( 疗甜膻) 。利用s i g m o i d 函数，则得 吼2 m p o ) 2 鬲南 2 圳 易知 c ，z p f 业) = 南 - 一了：i 兰丽 c 2 一。， 将( 2 9 ) 代入( 2 1 0 ) 可将厂( 门甜皿) 表示为d 肚的函数： ( 甩p 0 ) = ( 1 一嗷) ( 2 1 1 ) 由式( 2 1 1 ) 代入式( 2 7 ) 、式( 2 8 ) 可得在计算机上用b p 算法对网络训练所需 的微分方程。其中，误差函数是均方差函数，且输出函数是s i g m o i d 函数。从推导过程 中可以看出，如选择另外的误差或激活函数，需对上述公式进行修正。 2 2 2b p 神经网络的缺点和改进 虽然b p 传播算法得到广泛的应用，但它也存在自身的限制与不足，其主要表现在它 的训练过程的不确定上。具体说明如下： ( 1 ) 需要较长的训练时间 对于一些复杂的问题，b p 算法可能要进行几小时甚至更长的时间的训练。这主要是 由于学习速率太小造成的。 ( 2 ) 完全不能训练 这主要表现在网络出现的麻痹现象上。在网络的训练过程中，当其权值调得过大， 可能使得所有的或大部分神经元的加权总和n 偏大，这使得激活函数的输入工作在s 型转 移函数的饱和区，导致其导数厂( 力) 非常小，从而使得对网络权值的调节过程几乎停顿 下来。 ( 3 ) 局部极小值 b p 算法可以使网络权值收敛到一个解，但它并不可能保证所求为误差超平面的全局 1 0 中国石油大学( 华东) 硕士论文 最小解，很可能是一个局部极小解。这是因为b p 算法采用的是梯度下降法，训练是从某 一起始点沿误差函数的斜面逐渐达到误差的最小值。对于复杂网络，其误差函数为多维 空间的曲面，就像一个碗，其碗底是最小值点。但是这个碗的表面是凹凸不平的，因而 在对训练过程中，可能陷入某一小谷区，而在这一小谷区产生的是一个局部极小值。由 此点向各方向变化均使误差增加，以致于使训练无法逃出这一局部极小值。 针对以上的缺点，可采用下面几种改进方法： ( 1 ) 附加动量法 附加动量法使网络在修正其权值时，不仅考虑误差在梯度上的作用，而且考虑在误 差曲面上变化趋势的影响，其作用如同一个低通滤波器，它允许网络忽略网络上的微小 变化特性，在没有附加动量的作用下，网络可能陷入浅的局部极小值，利用附加动量的 作用则有可能滑过这些局部极小值。 该方法是在反向传播法的基础上，在每一个权值的变化上加一项正比于前次权值变 化量的值，并根据反向传播法来产生新的权值变化。带有附加动量因子的权值调节公式 为：峨( 七+ 1 ) = ( 1 一m c ) 矽艿，p + 聊c w ( 后) 。其中k 为训练次数，m c 为动量因子，一般 取0 9 5 左右。 附加动量法的实质是将最后一次权值变化的影响，通过一个动量因子来传递，促使 权值的调节向着误差曲面底部的平均方向变化，当网络权值进入误差底部的平坦区时， 占，将变得很小，于是，w 一( 七+ 1 ) = w 疗( | | ) ，从而防止了咖f = o 的出现，有助于使网 络从误差曲面的局部极小值中跳出。 此训练方法也存在缺点。它对训练的初始值有要求，必须使其值在误差曲线上的位 置所处误差下降方向与误差最小值的运动方向一致。如果初始误差点的斜率下降方向与 通向最小值的方向背道而驰，则附加动量法失效。训练结果将同样落入局部极小值而不 能自拔。初始值选得太靠近局部小时也不行，可以多用几个初始值先粗略训练几次以找 到合适的初始位置。 ( 2 ) 学习率刁的自适应调整 对于一个特定的问题，要选择适当的学习速率不是一件容易的事情。通常是凭经验 或实验获取，但即使这样，对训练开始初期功效较好的学习速率，不见得对后来的训练 合适。为了解决这个问题，人们自然想到在训练过程中自动调节学习速率。通常调节学 习速率的准则是：检查权值是否真正降低了误差函数，如果确实如此，则说明所选学习 第2 章小波神经网络 速率小了，可以适当增加一个量；若不是这样，而产生了过调，那么就应该减少学习速 率的值。下式给出了一个自适应学习率的调整公式： 矽= t 嚣二：舅 雪主暑三兰苫二2 其中，口为一个值，一般取为。，至。5 。 2 3 小波分析理论 2 3 1 引言 小波分析方法n 们啪3 是近几年来迅速发展的一种时频信号分析理论和工具，它弥补了 传统傅立叶变换在时域上没有任何分辨率的缺陷，在时域和频域上同时具有良好的局部 化性质。小波分析相当于一个数学显微镜，具有放大、缩小和平移等功能，能够根据信 号不同的频率成分和时间采样的疏密，自适应地调节时频窗口，同时具有时域和频域局 域化性能。随着小波理论的深入发展，它给信号处理领域带来了崭新的思想，提供了强 有力的工具m 1 引。 2 3 2 连续小波变换 将任意r ( r ) 空间中的函数厂( f ) 在小波基下展开，称这种展开为函数厂( f ) 的连续小 波变换啪1 ( c o n t i n u ew a v e l e tt r a i l s f o m ，简称为c w t ) ，其表达式为： 啊( 叩) = ( 巾慨f ( ，) ) 2 击p y + 等) 出 ( 2 _ 1 2 ) 由以上定义，我们可以看出小波变换和傅里叶变换一样，也是一种积分变换， 胛，( 口，f ) 为小波变换系数。但它不同于傅里叶变换的地方是，小波基具有尺度口和平移 f 两个参数，所以函数一经小波变换，就意味着将一个时间函数投影到二维的时间一尺 度相平面上，这样有利于提取信号函数的某些本质特征。 可以证明，若采用的小波满足容许条件，则连续小波变换存在着逆变换，逆变换公 式为： 厂( ，) 2 专r 亨e 吁( 口一如) d 忙专厂窘e 啊( 吼f ) 去( 等) 如 ( 2 一，3 ) 1 2 式中，c 妒2r d 国 o ，聊z 此时对应的小波函数是a 0 2 州口孑。0 一f ) 】其中= o ，1 ，2 。 ( 2 ) 位移的离散化。通常对7 进行均匀离散取值，以覆盖整个时间轴。为了防止 信息的丢失，我们要求采样间隔f 满足n y q u i s t 采样定理，采样率大于等于该尺度下频率 通带的二倍。所以每当m 增加1 时，尺度a 增加一倍，对应的频率减少一半，可见采样率 可以降低一半而不致引起信息的丢失。所以在尺岗下，由于y ( 酊7 f ) 的宽度是j ；f ，( r ) 的“ 倍，因此采样间隔可以扩大，同样也不会引起信息的丢失。这样，( f ) 就改成： 口。2 甲阿( 卜碱) 】_ 口0 2 y 耐卜】记为 勺( f ) 离散小波变换公式为： 哆( 耐，七) = j 们k 乒如( r ) 出 ( 2 1 4 ) 在实际中，我们一般取口o = 2 ，这时口= l ，2 1 ，2 2 ，2 7 。 当口= 2 。时，沿f 轴的相应采样间隔是2 7 ，此时，( f ) 变为： 一 22 ( 2 7 f j i ) 即，七( f ) ，= o ，l ，2 ，；七z 我们把f 轴用归一化，= 1 ，于是有： 杪j ，t ( f ) = 22 ( 2 一f _ 露) ( 2 一1 5 ) 此时，对应的亿为： 吁( j ，七) = j 厂( f ) l f ，； ( 唧f ( 2 一1 6 ) 2 3 4 多分辨率分析 多分辨率分析心引( m u l t i r e s 0 1 u t i o na n a l y s i sm r a ) ，又称为多尺度分析，是建立在 函数空间概念上的。m r a 不仅为正交小波基的构造提供了一种简单的方法，而且为正 交小波变换的快速算法提供了理论依据。其思想又同多采样率滤波器组不谋而合，使我 1 3 第2 章小波神经网络 们又司将小波变换l 司数字滤波器的理论结合起来。 一个多分辨率分析是指满足下述性质的一系列闭子空间e ，z ： ( 1 ) 一致单调性：_ + lc 巧，w z ( 2 1 7 ) ( 2 ) 渐近完全性：q = o ，v y ，= r ( r ) ( 2 一1 8 ) j t z j 、。 i e z j 、。 ( 3 ) 伸缩规则性：厂( ，) 巧营( 2 7 ，) ，夥z ( 2 1 9 ) ( 4 ) 平移不变性：厂( f ) 营厂o 一七) ，v 以z ( 2 2 0 ) ( 5 ) 正交基存在性：存在妒，使得移o 一| | ) ) 眦构成标准正交基。 j 若缈9 一足) 为空间圪的正交基，纺 o ) = 22 缈( 2 - 。一七) 必为子空间的标准正交基， y ，= 印口刀 矽，。( f ) = 2 7 他矽( 2 7 卜- 七) ，七z 。由多分辨率的定义可知，所有的闭子空间 e ，z 都是由一尺度函数伊( f ) 伸缩后的平移系数张成的尺度空间，称妒( ，) 为多分辨率 分析的尺度函数。 记是巧在_ + 。中的补空间，即y 。一l = 圪+ 既，既上圪，当= 4 时，如图2 2 所 示。显然，任意子空间既与是相互正交的( 空间不相交) ，并且既上，当m ，l 和所，门z ，由式( 2 1 7 ) 和( 2 一1 8 ) 知： r ( r ) = 0 矿，0 氓。暇0 ( 2 2 1 ) 图2 _ 2 j = 4 函数空间的剖分 f i 9 2 2f u n c t i o ns p a c es u b d i v i s i o nw h i l ej = 4 空间剖分是完整的，即当，专砌时，巧一r ( r ) ，包含整个平方可积的时变函数 1 4 中国石油大学( 华东) 硕士论文 空间，u 巧= r ( 尺) 。当专佃时，巧专o ，即空间最终剖分到空集为止，n 巧：( o ) ， 这种剖分方法使得空间一与空间正交，各个之间也正交，即：巧上髟，上，_ ，7 。 因此，慨j ，z 构成了r ( 尺) 的一系列正交子空间。且有： = 巧一l 一巧 ( 2 2 2 ) 若设鼽。；七z 为空间的一组正交基( 的正交基可能有很多，取其中一组来 讨论并假设( f ) 满足容许条件) ，不难证明y 似( 对所有尺度 z ， 杪似= 2 y c 2 ，一的；尼z ) ，的整个集合杪肚= z ，七z j 构成了r c 尺，空间 的一组正交基，= 妒册 沙业( f ) = 2 。坨y ( 2 7 ，一尼) ，后z ) 。称( f ) 为小波函数，称是 尺度为的小波空间。由式( 2 2 2 ) 知，小波空间是两个相邻尺度空间的差。因此，小 波空间有时又称为细节空间。 对于任意函数o ) ，可以将它分解为细节部分和大尺度逼近部分k ，然后将 大尺度逼近部分k 进一步分解。如此重复就要得到任意尺度( 或分辨率) 上的逼近部分 和细节部分。 因此，在给定分辨率2 一广f ，任意非线性函数厂( x ) r ( r ) ，可由如下公式近似分解 八f ) 厶( f ) = c 0 ，七死，。+ 嘭，。，。o ) ( 2 2 3 ) 其中，m 、l 是常数，取决于逼近精度和差值点的数目。 2 4 小波与神经网络的结合方式 小波神经网络是结合小波分析理论和人工神经网络思想而构建的一种新型的神经 网络模型，它结合了小波分析良好的时频局部化性质及神经网络的自学习功能，因而具 有良好的逼近能力及容错能力乜5 _ 。小波与神经网络的结合方式通常有两种：一种是辅 助式结合，也称为松散型结合方式；另一种是嵌套式结合也即紧致型结合方式啪1 。 ( 1 ) 小波与神经网络的辅助式结合模型 所谓小波与神经网络的辅助式结合，即将小波分析作为神经网络的前置预处理手 段，为神经网络提供输入特征向量，然后再用传统的神经网络进行处理。 1 5 一 第2 章小波神经网络 二_ 二二二= 二二二二- 一一一 小波与神经网络辅助式结合的研究方法也可再分为两类：其一是先将输入信号进行 小波变换，在小波域里进行必要的信号处理，然后再进行小波逆变换，并将此时的输出 信号作为神经网络的输入，其结构如图2 3 所示。由此可见，该输入信号实际上是经过 一次信号检测后的重建信号，因而为神经网络处理排除了许多干扰因素，而使其更加可 靠。 另一类方法如图2 4 所示：即将输入信号进行小波变换后，直接将变换后的小波域 信号作为神经网络的输入，因为经过小波变换已经把一个混频信号分解为若干个互不重 叠的频带中的信号，相当于对原始信号进行了滤波或检波，这时将其作为神经网络的输 入也可以取得非常好的效果。 ( 2 ) 小波与神经网络的嵌套式结合模型 小波与神经网络的嵌套式结合，是目前大量研究小波神经网络的文献中广泛采用的 一种结构形式。它的基本思想是由z h a l l gq i n 曲_ u a 等人于1 9 9 2 年正式提出的，也即用小波 函数来代替常规神经网络的隐层函数。小波神经网络的结构与三层前馈神经网络相同， 但是它的隐节点的激活函数使用一维小波函数，输出节点的激活函数是线性函数。 函数的厂( x ) 小波变换定义为： m ) = ( 厂，渺口，6 ) ( 2 2 4 ) 力用z 图2 _ 3 辅助式结合小波神经网络模型一 f i 9 2 - 3m o d e l lo fa s s i s t i e dn e u m ln e t w o r k 图2 _ 4 辅助式结合小波神经网络模型二 f i 9 2 一m o d e l2o fa s s i s t e dn e u m ln e 撕o r k 1 6 中国石油大学( 华东) 硕士论文 其中沙是母小波或适应小波，小波基可由移位b 伸缩a ，定义为： 。= 去文等) 劬咄删 2 5 ， 2 忑y i 了j 口垤飓口o ( 2 _ 2 对于小波变换公式，我们可以用一个单隐层的前馈神经网络来模拟。模型如图2 5 所示。 图2 5 的小波神经网络可描述为： 儿) ：兰m 少( 盟) ( 2 瑙) 八，) 2 荟w 寻) q 屯6 t = l “ 第一类称为“结合，是指整个系统由小波变换和神经网络构成，两者直接相联， 但却又相对独立，信号经小波变换后，再输入给常规神经网络以完成分类、函