（水利工程专业论文）基于神经网络的大坝变形智能监控模型研究.pdf

大连理工大学专业学位硕士学位论文 摘要 变形观测方法简便易行，其成果直观可靠，能够真实反映大坝的工作性态，是大坝 安全监测的主要监测量之一，也是大坝安全监控的重要指标。 本文基于人工神经网络的非线性函数逼近能力，应用m a t l a b 7 1 网络仿真平台，结 合辽宁省白石水库多年大坝变形实测数据，建立了三种不同改进b p 算法的多层感知器 监控模型以及广义回归径向基神经网络监控模型，以期获得比传统的逐步回归统计模型 更为准确的预测、预报结果，实现对大坝变形的实时、有效监控。 研究表明，几种人工神经网络的拟合、预报结果，不但都能满足建模的精度要求， 而且均优于传统的逐步回归模型。 通过对网络权值、阈值等的多次随机初始赋值，反复试验发现，目前使用最为广泛 的b p 神经网络，尽管有很多改进优化算法，但仍不能很好地解决b p 算法固有的收敛 速度慢、容易陷入局部极小、泛化能力差等缺点，而且它的建模步骤较为烦杂，网络参 数和训练参数过多，给寻找理想监控模型带来很大难度。通常情况下，需要通过不断地 测试，训练数千个模型，才能找到一个真正理想的b p 网络模型。 基于广义回归径向基神经网络的智能监控模型，相比之下，不但建模方便，训练快 捷，而且具有良好的泛化能力，能够显著提高大坝变形预报的精度，可以有效地完成大 坝变形实时监控的任务。 人工神经网络模型尽管在预报效果和精度方面优于逐步回归统计模型，但是它不能 像统计模型那样，给出变形与影响因素之间的函数关系，不便于对变形量进行解析计算， 定量分析大坝的变形规律。因此，应针对不同的工作需要，合理选择以何种方式建立大 坝变形的数学模型。 关键词：大坝变形；逐步回归；b p 神经网络；径向基神经网络；监控模型 基于神经网络的大坝变形智能监控模型研究 r e s e a r c ho nd a md e f o r m a t i o ni n t e l l i g e n tm o n i t o r i n gm o d e l b a s e do na r t i f i c i a ln e u r a ln e t w o r k a b s t r a c t d e f o r m a t i o no b s e r v a t i o ni sc o n v e n i e n tt oo p e r a t e b e s i d e s ，a st h ei m p o r t a n ti n d e xt o d a m ss a f e t ym o n i t o r i n g ，t h er e s u l t so fd e f o r m a t i o no b s e r v a t i o nc a nr e f l e c tt h ed a m sw o r k i n g b e h a v i o re x a c t l y w i t ht h ea p p l i c a t i o no fm a t l a b 7 1n e t w o r ks i m u l a t i o np l a t f o r ma n dt h em e a s u r e dd a t ao f b a i s h ir e s e r v o i ro nd a m sd e f o r m a t i o n ，t h i sp a p e rb a s e do na r t i f i c i a ln e u r a ln e t w o r k s n o n l i n e a rf u n c t i o na p p r o x i m a t i o nc a p a b i l i t ye s t a b l i s h e s t h r e e m u l t i l a y e rp e r c e p t r o n m o n i t o r i n gm o d e l sa n dg e n e r a lr e g r e s s i o n r a d i a lb a s i sf u n c t i o nn e u r a ln e t w o r kb y i m p r o v i n gb pa l g o r i t h m t h ea i mi st og e tm o r ea c c u r a t ep r e d i c t i o nr e s u l t st h a nt r a d i t i o n a l s t e p w i s er e g r e s s i o ns t a t i s t i c a lm o d e l ，a n dt h e nt o r e a l i z ee f f e c t i v em o n i t o r i n go nd a m s d e f o r m a t i o ni nr e a lt i m e t h er e s e a r c hs h o w st h a ts e v e r a lf i t t i n gp r e d i c t i o nr e s u l t sb a s e do na r t i f i c i a ln e u r a l n e t w o r kn o to n l ys a t i s f yp r e c i s i o nr e q u i r e m e n to fm o d e l i n g ，b u ta l s oi ss u p e r i o rt ot r a d i t i o n a l s t e p w i s er e g r e s s i o ns t a t i s t i c a lm o d e l t h r o u g hal o to ft h es t o c h a s t i ci n i t i a lv a l u a t i o no nn e t w o r kw e i g h t s ，t h r e s h o l da n d s oo n ， i tf i n d so u tt h a tt h eu s i n go fb pa r t i f i c i a ln e u r a ln e t w o r km o s tw i d e l yc a n te l i m i n a t et h e b p sn a t u r a ld i s a d v a n t a g e sw e l l ，s u c ha ss l o wc o n v e r g e n c er a t e ，f a l l i n gi n t om i n i m a lp a r t e a s i l y ，p o o rg e n e r a l i z a t i o na n ds oo n ，t h o u g hi ta p p e a r ss om u c hi m p r o v e da l g o r i t h m b e s i d e s ， t h es t e p so fm o d e l i n ga r es oc o m p l i c a t e da st op r o d u c ee x c e s so fn e t w o r ka n dt r a i n i n g p a r a m e t e r s t h u s ，i t sd i f f i c u l tt of i n dt h ei d e a lm o n i t o r i n gm o d e l g e n e r a l l y ，t of i n dt h em o d e l s h o u l dt e s tm o d e l sa g a i na n da g a i n c o m p a r e dw i t hb pa r t i f i c i a ln e u r a ln e t w o r k ，t h ei n t e l l i g e n tm o n i t o r i n gm o d e lb a s e do n g e n e r a lr e g r e s s i o nr a d i a lb a s i sf u n c t i o nn e u r a ln e t w o r ki sm o r ec o n v e n i e n t a n dt h e g e n e r a l i z a t i o ni sb e t t e r i tw o u l di m p r o v et h ed a m sd e f o r m a t i o np r e d i c t i o n ，s oi tc a nd ot h e j o bo f r e a l t i m em o n i t o r i n gp e r f e c t l y k e yw o r d s ：d a md e f o r m a t i o n ：s t e p w i s er e g r e s s i o n ：b pn e u r a ln e t w o r k ；r b f n e u r a l n e t w o r k ；m o n i t o r i n gm o d e l 大连理工大学学位论文独创性声明 作者郑重声明：所呈交的学位论文，是本人在导师的指导下进行研究 工作所取得的成果。尽我所知，除文中已经注明引用内容和致谢的地方外， 本论文不包含其他个人或集体已经发表的研究成果，也不包含其他已申请 学位或其他用途使用过的成果。与我一同工作的同志对本研究所做的贡献 均已在论文中做了明确的说明并表示了谢意。 若有不实之处，本人愿意承担相关法律责任。 学位论文题目：基王益经圆络鲍太拯变丝蟹鱼邑堕控搓型珏窒 作者签名：主壮 日期：丝皇!年月羔日 大连理工大学专业学位硕士学位论文 大连理工大学学位论文版权使用授权书 本人完全了解学校有关学位论文知识产权的规定，在校攻读学位期间 论文工作的知识产权属于大连理工大学，允许论文被查阅和借阅。学校有 权保留论文并向国家有关部门或机构送交论文的复印件和电子版，可以将 本学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、 缩印、或扫描等复制手段保存和汇编本学位论文。 学位论文题目：基王益丝圆络鲍太拯变矍蟹能些控搓型珏究 作者签名：望坠 日期：鲨! 年互月二堡日 导师签名：墨镒日期：2 竺2 年三月- 三三日 大连理工大学专业学位硕士学位论文 1 绪论 1 1引言 我国是一个发展中国家，水利水电工程是国民经济的重要基础产业，其发电、防洪、 供水、灌溉等功能对社会经济起到重大支撑作用。据中国大坝委员会统计，至2 0 0 5 年 年底，世界共有1 5 m 以上大坝5 0 0 0 0 多座，我国有2 2 0 0 0 多座，占4 4 t 。 大坝建设在我国有着悠久的历史。安徽省寿县的安丰塘，始建于公元前5 9 8 年，至 今已有2 6 0 0 多年的历史。尽管我国筑坝历史悠久，但是大规模的大坝建设却起步较晚。 新中国成立以前，我国坝高1 5 m 以上大坝仅有2 2 座，占当时世界的万分之四。 2 0 世纪5 0 7 0 年代，掀起了世界性的筑坝高潮，中国的大坝建设也有了突飞猛进的 发展。到目前为止，我国己建或在建的8 7 万座水库大坝中，9 0 兴建于这个时期。受 当时经济、技术条件的限制，很多工程建设标准偏低、质量较差。2 0 0 d 年普查结果表明，4 3 7 万座水库大坝存在不同程度的病险问题，约占我国水库大坝总数的4 0 。 在筑坝兴利的同时，溃坝事故也时有发生。1 9 8 3 年- 2 0 0 7 年，我国共发生溃坝3 8 8 座，年均溃坝率为0 1 7 8 ，虽然低于世界公认的0 2 低溃坝率水平【2 】，但是溃坝后带 给下游人民群众的生命和财产损失，也是不可回避的现实。 大坝安全属于社会公共安全的一种，责任重于泰山。只有将大坝安全作为约束条件， 才能实现水利水电工程效益的最大化，确保社会的科学发展。 大坝作为拦蓄巨大能量的特殊建筑物，从勘测、设计、施工、运行，直至报废，有 一定的生命周期。随着时间和环境的不断变化，筑坝材料老化等因素的影响，大坝性态 一直动态地发展变化着。如何监测这种动态的变化过程和趋势，在保障大坝安全运行的 前提下，最大程度地发挥社会和经济效益，就成为工程技术领域中的重要课题，同时这 也促进了大坝安全监测技术的更快发展。 大坝安全监测作为了解大坝运行性态和安全状况的有效手段，是以监控大坝安全， 掌握大坝运行规律，指导大坝的施工、运行和维护，反馈设计为目的。国内外工程实践 证明，对大坝实施有效地安全监测，并对监测资料进行分析、预报、评估，对保障大坝 的安全运行，以及病险坝的诊断和除险加固，都起到了重要作用。 1 2 大坝安全监控理论、方法和安全监控体系 大坝安全监控系统，由大坝观测系统、监控模型体系、安全分析、反馈分析和综合 评价专家系统等组成，如图1 1 所示【3 】。它需要综合应用水工、数学、力学、计算机、 机械电子、传感器技术等多学科的理论和方法，是近期发展起来的- - f 7 边缘学科。 基于神经网络的大坝变形智能监控模型研究 图1 1 大坝安全监控系统 f i g 1 1 d a ms 醐匆m o n i t o r i n ga n dc o n t r o l l i n gs y s t e m 一2 一 大连理工大学专业学位硕士学位论文 安全监控模型，是大坝安全监控系统的重要组成部分。它利用坝工、数学、力学、 人工智能、现代计算技术等理论和方法，结合大坝观测资料，建立安全监控模型，对大 坝监测物理量进行定量分析，得出大坝的变化规律，实现预测、预报等监控功能。 1 3 大坝变形监控模型国内外研究现状 大坝在自重、水压力、温度、扬压力等荷载作用下，会产生变形。变形观测方法简 便易行，其成果直观可靠，能够真实反映大坝的工作性态，是大坝安全监测的主要监测 量之一，也是大坝安全监控的重要指标。变形监控，是了解大坝工作状态，进行安全管 理的重要内容之。 早期，人们通过绘制过程线、相关图，直观地了解大坝变形测值的变化大小和规律， 并运用比较法、特征值统计法，检查变形在数量变化大小、规律、趋势等方面是否具有 一致性和合理性，对大坝变形进行定性分析。 国外的大坝变形定量分析研究较早。1 9 5 5 年意大利的法那林( f a n e l i i ) 和葡萄牙的 罗卡( r o c h a ) 等人，应用统计回归方法分析了大坝的变形观测资料。1 9 5 6 年，意大利 的托尼尼( t o n i n i ) 在意大利拱坝的观测性态一文中，首次将影响大坝的自变量因 子分成水压、温度和时效三部分，并对前两项因子以三次多项式来表示1 4 】。1 9 5 8 年，意 大利爱迪生水电公司在第六届国际大坝会议上提出时效变化为双曲线函数的观点。在 1 9 6 7 年召开的第九届国际大坝会议上，奥地利的威德曼( w i d m a n n ) 采用多元回归方法， 并提出水荷载的影响除了水位因子外，还应考虑水位上升和下降的过程【5 】。1 9 7 7 年法那 林等将理论计算值与实测数据有机的结合起来，运用有限元方法，提出了混凝土坝变形 的确定性模型和混合模型【6 j 【刀。 我国的资料分析工作大致分两个阶段，第一阶段以定性分析为主，第二阶段为1 9 7 4 年以后，陈久宇教授等人【8 】【9 】应用统计回归法分析原形观测资料，并将分析成果加以物 理成因的解释。在此基础上，全国逐渐开展了资料分析工作，并向纵深方向发展，如进 行原型观测资料的反演分析和反馈分析，并且将成果逐步应用于设计、施工和运行。自 8 0 年代中后期，吴中如等【1o 】对混凝土坝变形统计模型的影响因子作了深入研究。9 0 年 代后，模糊数学【1 1 】、突变理论【1 2 1 、灰色系统理论【1 3 1 、神经网络【1 4 1 、混沌理论【1 5 j 等理论 方法被相继引入大坝变形监控领域。 近年来，大坝变形监控模型研究，已经从单测点向空间多测点变形分析，从基于统 计学、力学等的单一分析方法，向结合各种计算方法和分析理论的综合方法发展l l 睨引。 1 4 本文研究的主要内容和采用的技术路线 本文从回归分析的统计方法和人工神经网络的基本理论入手，简要介绍了混凝土重 基于神经网络的大坝变形智能监控模型研究 力坝变形的数学模型，然后结合辽宁省白石水库坝顶水平位移实测资料，进行下述几个 方面的研究。 ( 1 ) 建立大坝变形的逐步回归统计模型，并对变形的时效分量、温度分量、水压分 量解析，定量分析大坝变形的基本规律。 ( 2 ) 建立三种基于不同改进b p 算法的多层感知器监控模型，阐述b p 网络建模的 基本方法、b p 网络存在的缺陷以及网络设计中需要注意的问题；并着重比较和分析了 三种改进算法b p 网络监控模型的拟合、预报精度，以及它们的优缺点。 ( 3 ) 建立广义回归径向基神经网络监控模型，并说明径向基神经网络与b p 神经网 络的主要差别。 ， ( 4 ) 通过对b p 网络监控模型、广义回归神经网络监控模型与传统的逐步回归统计 模型拟和与预报效果的比较分析，论述它们各自的特点和优缺点，给出适合白石水库工 程实际的大坝变形监控模型。 大连理工大学专业学位硕士学位论文 2 多元逐步回归分析的基本理论 2 1回归分析概述 在数理统计中，回归分析是处理变量间统计相关关系的一种常用方法。回归分析的 基本思想是：虽然自变量和因变量之间没有严格的、确定性的函数关系，但可以找出最 能代表它们之间关系的数学表达形式1 2 9 1 3 0 1 。 回归分析主要解决以下几个方面的问题： ( 1 ) 确定几个特定的变量之间是否存在相关关系，如果存在的话，找出它们之间合 适的数学表达式，即回归模型； ( 2 ) 根据一个或几个变量的值，预测或控制另一个变量的取值，并且可以知道这种 预测或控制的有效性和精确度，即相关指数和剩余标准差； ( 3 ) 进行因素分析，在共同影响一个变量的许多变量( 因子) 之间，找出哪些是重 要因子，哪些是次要因子，这些因子之间又有什么关系等等。 借助回归分析，建立回归模型，可以对大坝位移的变化规律进行定量分析，确定影 响坝体位移的主要因素及其影响大小。还可以预测监测量今后的变化值和趋势，并通过 对比实测数据，以判断大坝是否正常，达到监控目的。 2 2 回归函数和线性回归模型的一般形式 如果给定x 值，y 值不能确定，只能通过一定的概率分布来描述，那么，称给定x 时，y 的条件数学期望 厂g ) = e ix ) ( 2 1 ) 为随机变量y 对自变量x 的回归函数。 如果变量确，x 2 ，x k 与y 之间存在相关关系，当x l ，x 2 ，渤取定值后，y 有相应的概率分布与之相对应。那么，它们之间的概率模型为 y = 几l ，x 2 ，x k ) + ( 2 2 ) 当公式( 2 2 ) 概率模型中的回归函数为线性函数时，即有 y = 卢o + 卢1 x l + 卢2 x 2 + + 卢p x t + s 式中：成称为回归常数， s 为随机误差项， 屈，成称为回归系数； 表示随机因素的影响。 ( 2 3 ) 基于神经网络的大坝变形智能监控模型研究 根据高斯一马尔柯夫条件( 简称g - m 条件) ，假定e 满足 e ( s ) 一o l( 2 4 ) v a r ( e ) = g r 2j 式中，三0 ) 表示s 的数学期望，v a r ( e ) 表示s 的方差。 通过数理统计方法，对因变i - y 的条件数学期望随自变量x 变化面变化的规律性作 出估计，得到回归模型参数的估计值卢。，鼠，成，可以得到y 关于工的线性经验 回归模型： y = c o + 届五+ 反z 2 + + 反而 ( 2 5 ) 2 3 多元线性回归分析 2 3 1多元线性回归模型 对于1 1 组观测数据( x f l ，x z 2 ，x i k ；y 1 ) ( f = l ，2 ，n ) ，多元线性回归 模型( 2 3 ) 可表示为 f y 】= 卢o + 卢1 x 1 1 + 卢2 x 1 2 + + 卢x + s 1 l y 2 2 卢。+ 卢，x 2 ，+ 卢2 x 2 2 + + 卢t x 2 + 2 ( 2 6 ) l 【y 。= 声o + 卢1 x 。l + 3 2 x 。2 + + 卢x 础+ 。 向量形式为 y = x 卢+ s ( 2 7 ) 式中，y = 卢= 、 届 ： 8 k x = 1 葺7 五2 1 x 2 1x 2 2 1 x n l 2 q s 2 ： s ” 嘞嘞： 大连理工大学专业学位硕士学位论文 2 3 2 回归参数的最小二乘估计 如图2 1 所示，所谓最小二乘，就是拟合n 组样本观测值时，样本观测点应最靠近 该回归直线，即观测点到这条直线距离的平方和最小【3 1 1 。 轨 ， ，i - l ，7 ，7 a ? ，。7 y ，= p o + 卢】z ， p 图2 1 最d x - - 乘法 f i g 2 1 l e a s ts q u a r em e t h o d 图中，实际观测值与回归估计值的差，称为残差 e ，= y f y ， ( 2 8 ) 由最小二乘法原理，对多元线性回归方程( 2 6 ) 的回归参数风，屈，展进行 估计，就是使残差平方和最小，即找到参数的估计值夕。，卢，段，使其满足 q ( 反，矗，应，反) = 喜乞2 = 喜( z 一成一at ，一皮而：一反) 2 ：m i n 主一e o 一屈一色t ：- 反如) 2 ( 2 9 ) 风，卢1 卢2 ，。反i = l 根据函数极值定理可知，风，卢。，反应满足 基于神经网络的大坝变形智能监控模型研究 = _ 2 喜( 只一反一声，确一度_ ：一露) = 。 ：- 2 窆r 只一成一声，一。一度_ ：- 反、) 而，：o t t l 一， 、 = _ 2 只一尾一屈x i ，一卢：x 圹一风嘞l 墨2 = 0 = _ 2 iy j 一风一屈x i ，- , 6 ：t 2 “ ， 鼠不 问 整理方程( 2 1 0 ) ，得 解方程组( 2 1 0 ) 中的第一个方程，得 记 式中，x j = y = + + ( i = l ，2 ，k ) 一8 一 ( 2 1 0 ) ( 2 1 1 ) ( 2 1 2 ) 砥 嗝 矾 l i i 慨 i i 忱 里瞩望粥坦一鹩 o i i 、 以 一一 望瞩 。剖 反 + 2誓 。蒯 尾 + 薯 。问 屈 + 风 聆 i i y 。闽 融 xx 。耐 鼠 + 2t x 。闰 皮 + 誓砖 。闰 声 + 毪 。闽 风 y x 。问 嘞 。同 鼠t x 。 及 + 墨2 。瑚 p + 墨 。闽 风 i j 只 x 。问 稚k 。瑚 反 + 鼍靠 。闰 。尾 + 稚 。商 p + 。 风 i i y ，商 一i芦 。川 一 一y l i 一瓦 以 一一 一砭改 一 一而 声 一 一y = 氏 p x 。川 ，一挖 p 夕 。川 l 一行 大连理工大学专业学位硕士学位论文 邑= 窆p = lb 一对= 言2 一去陲) 2 = 砉2 一树 ( i ：1 ，2 ，k ) 岛= s 一5 茎g 一i k 历一i ) = p ：。x p i x p j 刀1 ( 著nz _ ) ( 言z ) ( i = 。1 ，2 ，七；歹= 1 ，2 ，七；且i _ ，) s 纱= 言g 一i b p 一- ) = 萎，x p i y r 刀1 ( 五 ；z p ) ( 言少户) c z = ，2 ，后， 将式( 2 1 2 ) 代入( 2 11 ) 的其他方程，得到回归系数的正规方程组 s l 届+ 墨2 卢2 + + & 屏= s ， s 孔弘、+ s 彀p 2 七+ s 钛0 k2s 2y(213) s i + s 2b 2 + + s 呔k = s 坤 求方程( 2 1 3 ) 、方程( 2 1 2 ) 的解，即可得到多元线性经验回归方程( 2 5 ) y = 8 0 七$ 1x l + p 2x 2 + + 8 x t 上述结果，用向量形式表达，方程组( 2 1 0 ) 可表示为 x ( y x 务) = 。 当( x x ) - 1 存在时，回归参数的晟小二乘估计为 务= ( x x ) 一1x 7 y 2 3 3 复相关分析 ( 2 1 4 ) ( 2 1 5 ) 在多元线性回归中，由于因变量对多个自变量线性相关，所以用来衡量变量x ，少 呈线性关系的密切程度的相关系数，被成为复相关系数，用r 表示 基于神经网络的大坝变形智能监控模型研究 r ：叵 1 ， ( 2 1 6 ) 式中，离差总平方和= u + q = 言( t 一歹) 2 + 喜( 一) 2 = 骞( 歹) 2 回归平方和u ：窆f ，一歹1 2 ：圭参 残差平方和q ：窆r 弗一 2 ：岛一圭矗 2 3 4 方差分析 复相关系数用来检验变量间的线性关系是否显著，回归模型是否有效。而方差分析， 用来检验回归模型的精度和回归效果。 2 3 4 1 剩余方差 残差平方和q 与残差自由度尼的商，被称为剩余方差，又叫剩余方差，用s2 表示 s ：垒：趔：兰：= ：= 二坠 。2 ，7 ， 如 托一豇一1 砼一克一1 2 3 4 2 剩余标准差 剩余标准差s r ，也称均方差，用来表示预报值的精度，表示为 s = 慝= ( 2 ，1 8 ) 2 3 5 回归系数的显著性检验( f 检验) 在对观测数据进行回归分析时，不是所有自变量x 对因变量少的影响都显著。通过 f 检验，可以在回归模型中剔除不很显著的自变量因子。 e 柑- 1 - 掣l ：盟l ：兰 ( 2 1 9 ) 。加一( 1 一r 2 ) 一七一1 ) 一l o ( n 一七一1 ) 一心2 “j 川 大连理工大学专业学位硕士学位论文 2 4 逐步回归分析 2 4 1 最佳回归模型 在建立回归模型时，根据专业理论知识，罗列了大量影响因变量变化的自变量因子。 在这些自变量因子中，如果不显著因子过多，不但增加回归分析工作量，而且影响回归 模型的精度和稳定性，导致模型预报能力降低。 所谓最佳回归模型，就是在全模型的基础上，根据贡献的大小，保留显著的自变量 因子，剔除不显著因子，使模型的剩余方差或残差平方和较小。 2 4 2 逐步回归分析法 选择最佳回归模型的方法很多，常用的有全面比较法、向前选择法、向后删除法、 逐步回归法。 逐步回归分析法，综合了向前法和后退法的优点。首先按照自变量因子的显著程度， 从大到小依次逐个引入回归方程，每引入一个因子后，就对当前已选入的所有因子逐个 进行f 检验，如果先引入的某个因子由于后面因子的引入而变得不显著时，就将它从回 归模型中剔除。这个过程反复进行，直到既无显著因子选入模型，也无不显著因子被剔 除，从而得到最佳回归模型。 2 5 多项式回归分析 当自变量与因变量之间的相关关系是非线性的时候，可以通过对自变量因子x 进行 变换，使变换后的变量呈线性相关，从而转化为多元线性回归问题，应用最小二乘法求 出回归参数的估计值，最后再通过因子变换，求得回归曲线。 在工程实际中，根据相关专业知识，确定变量因子及其函数类型，建立相应数学模 型，通过逐步回归分析，剔除不显著因子后，确立最佳回归模型。 2 6 回归分析的多重共线性问题 2 6 。1 多重共线性问题概述 多重共线性指的是某个自变量能够用其它自变量的线性函数表示，或自变量因子x 之间存在近似的线性关系。 当x l ，x2 ，x k 线性相关时，公式( 2 1 5 ) 因( x7 x ) - 1 不存在，回归系数的估计 值的解会很多，从而无法用最小二乘法唯一的估计值，导致回归系数不稳定，由样本得 到的回归方程不可靠。 基于神经网络的大坝变形智能监控模型研究 2 6 2 多重共线性问题的解决方法 由于多重共线性问题会导致回归系数估计值不合理或者与专业知识不符，模型缺乏 稳定性，尽管拟合效果可以接受，但是预测预报值会与实际偏离。因此，如果自变量存 在多重共线性的话，不能多元回归将不能适用，应通过以下方法解决： ( 1 )尽可能增加样本数量，能够在某种程度上抵消多重共线性所带来的影响； ( 2 ) 找到存在共线性问题的自变量，从专业角度剔除次要因素，或者运用运用统计 方法，剔除贡献小的因子； ( 3 ) 进行主成分分析，用重新组合成的综合变量替代原变量； ( 4 ) 采用有偏的岭回归分析方法。 2 7 s p s s 统计包 s p s s 全称s t a t i s t i c a lp r o g r a mf o rs o c i a ls c i e n c e s ，即社会科学统计程序，是 美国s p s s 公司开发的统计分析软件包。作为统计分析工具，它理论严谨、内容丰富， 能够实现数据管理、统计分析【3 2 聊】、趋势研究、制表绘图、文字处理等功能。 本文应用s p s s l 7 0 软件包，实现样本数据的统计分析，以及逐步回归统计模型的 处理。 大连理工大学专业学位硕士学位论文 3 人工神经网络的基本理论 3 1 人工神经网络概述 长期以来，人们研究了解人脑的结构、工作机理和思维本质，尝试构造出具有人类 智能的人工智能系统，来完成类似于人脑的工作。 神经生物学研究表明，神经元是脑组织的基本单元，也是生物神经系统结构与功能 的基本单位。每个结构简单的神经元以确定方式和拓扑结构与其它成千上万的神经元相 互连接，组成一个庞大、复杂而有层次的多单元生物神经网络，以接受生物体内外的动 态信息输入，并加以综合地分析处理，做出适当反应。 人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k s ，简称a n n ) 就是从数理方法和信息处理 的角度，对这种生物神经网络进行抽象与模拟，建立起来的一种并行计算、分布式储存 与容错的一体化信息处理系统。它具有自适应、自组织和实时学习等智能特点，能够实 现联想记忆、非线性映射、分类识别等功能1 3 引。 人工神经网络是人工智能控制技术的主要分支之一，可以通过预先提供的一批相互 对应的输入、输出数据，分析掌握两者之间潜在的规律，最终根据这些规律，用新的输 入数据来推算输出结果。 人工神经网络研究可追溯到1 9 世纪末期美国心理学家j a m e s 对人脑结构与功能的 研究，它的发展一般分为四个阶段： ( 1 ) 启蒙时期。1 9 4 3 年，心理学家m c c u l l o c h 和数学家p i t t s 3 9 合作提出了第一个 神经计算模型，即神经元的阈值元件模型( 简称m - p 模型) ，从而开创了神经网络的研 究。1 9 4 9 年，心理学家h e b b 【钧】提出了神经元之间突触联系强度可变等假设，并据此提 出连接权训练算法( h e b b 算法) ，为神经网络的学习算法奠定了基础。1 9 5 8 年，计算 机科学家r o s e n b l a t t m l 】提出了一种具有三层网络特性的神经网络结构，称之为感知器 ( p e r c e p t r o n ) ，并把神经网络的研究第一次付诸工程实践，形成了首次高潮。 ( 2 ) 低潮时期。1 9 6 9 年，人工智能创始人之一的m i n s k y 和p a p e r t 4 2 出版感知器 一书，以数学角度深入分析了感知器的原理，指出其局限性。加之当时串行计算机正处 于全盛发展时期，早期的人工智能研究也取得了很大发展，在客观上阻碍了神经网络的 发展，神经网络研究低落下来。尽管如此，仍有很多科学家坚持在这一研究领域，并提 出了一些新的理论方法，如连续神经元模型h 3 1 、自适应共振理论、自组织映射理论【4 5 】 等。 ( 3 ) 复兴时期。自2 0 世纪8 0 年代后，传统的数字计算机在模拟视、听觉的人工智 基于神经网络的大坝变形智能监控模型研究 能方面遇到了物理上不可逾越的极限。1 9 8 2 年h o p f i e l d 提出神经网络集体运算理论框 架m ( h n n 模型) ，开创了神经网络用于联想记忆和优化计算的新途径，有力地推动 了神经网络研究的发展，掀起了第二次研究热潮。1 9 8 6 年r u m e l h a r t 和m c c l e l l a n d 领 导的p d p 研究小组在并行分布式信息处理( p a r a l l e ld i s t r i b u t e dp r o c e s s i n g ) | 4 7 j 一书中，提出多层感知器误差反向传播( e r r o rb a c kp r o p a g a t i o n ) 算法，即b p 算法， 解决了多层前馈型网络的权重调整方法问题，实现了多层网络的设想，把人工神经网络 的研究进一步推向深入。 ( 4 ) 新时期。1 9 8 7 年6 月，首届国际神经网络学术会议在美国圣地亚哥召开，标志 着神经网络研究进入一个崭新时期。现在神经网络的应用己渗透到智能控制、模式识别、 信号处理、计算机视觉、优化计算、知识处理、生物医学工程等多个领域。 3 2 人工神经网络分类 神经网络的连接方式，是人工神经网络信息处理性能的三大要素之一。人工神经网 络有很多种分类方法，最常见的方法是按照网络的拓扑结构或网络内部的信息流向分 类。根据神经网络信息的传递方向的不同，可将神经网络结构分为两类。 ( 1 ) 前馈型网络 信息的处理方向是从输入层到各隐层，再到输出层，具有逐层传递的方向性，一般 不存在反馈环路，很容易串联起来建立多层前馈网络。 ( 2 ) 反馈型网络 网络中任意神经元都具有信息处理功能，同时又可以从外界接收输入。 3 。3 基于b p 算法的多层感知器 3 3 1人工神经元的数学表达 每个人工神经元，接受来自上层神经元的一组信息输入，每个输入又对应一个连接 权值，所有输入的加权和决定了该神经元的激活状态。当累积输入效果超过阈值时，它 就处于激发状态，反之则处于抑制状态。 设神经元接受的信息及其连接权分别为向量x 、向量w ，闽值为e ： x = ( x l ，恐，) 丁 w = ( w 】，w 2 ，w n ) 丁 那么，该神经元的网络输入，即神经元所获得输入信息的累计效果为： 大连理工大学专业学位硕士学位论文 n e t = 而w 1 + x 2 w 2 + + x w - 0 = 五w - 0 ( 3 1 ) 3 3 2 激活函数和神经元m p 模型 神经网络中，输入与输出之间所存在的关系函数，称为激活函数。激活函数的不同， 决定了神经元具有不同的信息处理特性，也使神经元具有不同的数学模型。神经元的信 息处理特性，是人工神经网络信息处理性能的第二大要素。 神经元的网络输入n e t ，代入激活函数后，得到神经元的网络输出为： 0 = f ( n e t ) ( 3 2 ) 一般情况下，我们常采用的非线性激活函数是s i g m o i d 函数，简称s 函数。它不但 连续可导，而且函数的值域可控，函数对信号有良好的增益控制，能有效防止网络进入 饱和状态。单极性s 函数表达式如下： 厂2 寿 3 3 ) 其函数f ( x ) 连续、可导，且有： 几，2 南。衔2 专一南甜州 = 厂g ) 【1 一厂g ) 】 ( 3 4 ) 将人工神经元的基本模型和激活函数合在一起，构成的处理单元，被称为 m c c u l l o c h - p i t t s 模型，简称m - p 模型【4 9 】，如图3 1 。 乜， 7 孓j ， ， 。2 型! 星 一 1 p 譬，7 。 位币，7 三。塑歹 图3 1 人工神经元m p 模型 f 远3 1 a r t i f i c i a ln e u r a lm - pm o d e l 基于神经网络的大坝变形智能监控模型研究 3 3 3 神经网络的学习规则 神经网络在外界输入样本集的刺激下，不断调整神经元之间的连接权值，以使网络 输出接近期望的输出，这个过程被称为神经网络的学习训练。在这个学习过程中，网络 中各连接权值按照一定的学习规则( 训练算法) 进行调整变化，以分配误差。 神经网络的学习方式是决定人工神经网络信息处理性能的第三大要素。一般分为有 导师学习、无导师学习和死记式三大类别。b p 神经网络属于有导师学习，样本的期望输 出，就是它的“教师信号 。 在各种神经网络学习规则中，被称为连续感知器学习规则的6 ( d e l t a ) 规则，常 被用来训练b p 神经网络。 3 3 4 多层感知器 如图3 2 所示拓扑结构的单隐层前馈网络，称为三层前馈网或三层感知器，即：输 入层、中间层( 也称隐层) 和输出层。它的特点是：各层神经元仅与相邻层神经元之间 相互全连接，同层内神经元之间无连接，各层神经元之间无反馈连接，够成具有层次结 构的前馈型神经网络系统。 图3 2 三层前馈型神经网络 f i g 3 2t h r e e - l a y e rf e e d f o r w o r dn e u r a ln e t w o r k s 输出层 中间层 ( 隐层) 输入层 单计算层前馈神经网络只能求解线性可分问题，能够求解非线性问题的网络必须是 叫l一 一l 一 下i勋 大连理工大学专业学位硕士学位论文 具有隐层的多层神经网络。然而，由于无法知道隐层的各神经元的理想输出值，在人工 神经网络发展历史中，很长一段时间里没有找到隐层的连接权值调整问题的有效算法。 直到误差反向传播算法( b p 算法) 的提出，成功地解决了求解非线性连续函数的多层前 馈神经网络权重调整问题。 误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组 成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层 是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐 层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完 成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期 望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修 正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程， 是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输 出的误差减少到可以接受的程度，或者预先设定的学习次数为止。 3 3 5 基于b p 算法的三层感知器数学模型 在图3 2 所示的三层前馈神经网络中，设输入向量x 、隐层输出向量k 输出层输 出向量d 分别为 弘( x 1 ，x 2 ，为，x ，) 1 代入：甄= 1 ，可为隐层神经元引入阈值0 ，； y - ( y l ，y 2 ，乃，蜘) 1 代入：肌= 1 ，可为输出层神经元引入阈值o k ； 0 = - ( 口i ，0 2 ，依，o z ) 1o 输入层到隐层之间的权值矩阵为 胪( k ，圪，v j ，) 其中，列向量乃为隐层第，个神经元对应的权向量； 隐层到输出层之间的权值矩阵为： 肛( 矾，w 2 ，w k ，所) ； 其中，列向量耽为输出层第k 个神经元对应的权向量。 那么，三层前馈神经网络的数学模型如下： ( 1 ) 对于输出层，有 。= 厂g 吮) = 击七= 1 2 ，z ( 3 5 ) 基于神经网络的大坝变形智能监控模型研究 k = 1 ，2 ，z ( 2 ) 对于隐层，有 y ，= ：f ( n e t ) = = ；，。- ! ：；万。f = = 1 ，2 ，。，历 l - 4 - e 3 3 6 标准误差反向传播( b p ) 算法分析 3 3 6 ib p 算法的权值调整 ( 1 ) 输出层、隐层误差分析 j = l ，2 ，m ( 3 6 ) ( 3 7 ) ( 3 8 ) 设输出层期望输出向量d 为 庐( 盔，d 2 ，d k ，匆) t ； 当网络输出与期望输出不相等时，输出误差e 为： e = 丢( d 一2 = 丢圭( 以一。) 2 ( 3 9 ) 隐层误差为 三= 三喜- - 1 瞄。一厂c ，z p 气2 = 三喜 d 。一厂( 姜t = o w 肚y ，) 2 c 3 - 。， 二二 = l l i ( 2 ) 输出层、隐层权值调整分析 在b p 网络学习过程中，权值的调整与误差的梯度下降成正比，输出层和隐层的权 值改变量数学表达式分别才 w 席：呻：1 箬：1 ：c 匀eo 。n e t k ：和? y ( 3 i i ) 枞mo n e t 洲钕 = 1 一呻嚣21 毒等邓秘 式中，= 0 ，1 ，2 ，脚；k = 1 ，2 ， 一1 8 一 8 y 肚 计 。川 = 膏 rp聆 p x 搿 v 。渊 = fe聆 大连理工大学专业学位硕士学位论文 艿? ：一旦，为输出层神经元k 误差信号； 。 o n e t 。 万? ：一旦，为隐含层神经元_ ：j 误差信号。 。 o n e t 。 。 ( 3 ) 误差值号推导 由公式( 3 9 ) 、公式( 3 1 0 ) 可知 罢：一亿1 ) o o 等一乳1 踟咖肚 所以，应用公式( 3 4 ) ，输出层和隐层的误差信号分别为 群：一旦：一罢拿：瓴1 ) f (