（环境工程专业论文）贵阳空气中pm10浓度的神经网络模拟预测与运用.pdf

浙江大学硕士研究生学位论文 摘要 由于大气是人类赖以生存的基本条件，对人类至关重要。近年来，随着信 息技术特别是人工智能技术的发展，为科学、准确的预测和评价城市空气质量 创造了有利条件。从这个角度出发，将人工智能最先进的神经网络技术引入到 空气质量评价及预报领域，并在这一思想的指导下，进行了基于人工神经网络 ( a r t i f i c i a ln e u r a ln e t w o r k a n n ) 的空气质量中的重要因子p m 。的评价及预 报方法的研究。本文提出了改进的b p 神经网络的有关城市空气质量中p m 。的预 报法。根据气象因素与污染物质量浓度的关系，设计并实现了基于误差反向传 播算法的神经网络的城市空气污染预报模型。预报结果表明，利用改进算法后 的b p 网络技术所建立的模型，具有较高的预报率，在实际污染控制与防治中， 具有重要的应用价值。 从大气质量预测介绍和p m 。对大气质量影响开始，介绍了国内外目前空气质 量及其空气质量中的主要因子p m ，。预测的现状、方法，并对神经的结构、类型、 仿真、学习、训练，以及b p 算法及模型的改进研究。利用m a t l a b 建模软件， 对影响p m 。浓度的污染物及大气因子等相关条件进行了对比研究和选取，利用贵 阳市2 0 0 4 年、2 0 0 5 年的有关污染物浓度和气象数据来训练和预测，比较了不同 的数据处理方法的预测图形和相关性的不同，发现采用各个测量点平均值浓度 有着较大的相关性。在能得到的现有的污染物和气象数据条件下，各个因子相 对p m 。的相关性情况是：r n 0 2 ) rs o ：) r 风速) r 温度) r 降雨) r 风向。选用影 响因子相关性较大的因子建立了四个b p 预测模型，e f t 分别是采用动量梯度下 降算法训练网络、采用l - m 优化算法训练网络、用贝叶斯正则化算法提高推广 能力、采用提前停止方法提高推广能力。比较了四种不同的b p 预测模型的稳定 性、收敛性、相关性、m a e 、m s e 值、隐含层神经元数等相关参数，选取b p 3 即 用_ ! j ；! 叶斯正则化算法提高推广能力作为最优预测模型。建立了实际的预测模型 并进行了运用，发现在不同的削减污染条件下，n 0 。相比s 0 ：对p m 。有着更重要的 影响，并结合贵阳市的环境政策作了说明。最后对模型的一些特性作了说明， 如污染源排放的不确定性、样本数据选取的局限性、模型的精度、对网络性能 参数隐含层神经元数、学习速率、目标误差等设置的建议。 关键词：空气质量p m 。神经网络模拟、预测、运用 浙江大学硕士研究生学位论文 a b s t r a c t a i rq u a l i t yi so n eo ft h em o s ti m p o r t a n tp o s t u l a t e so nw h i c hh u m a nb e i n g s a n db i o l o g ya r ed e p e n d e n tf o re x i s t e n c e i nt h ep a s tf e wy e a r s ，w i t ht h e d e v e l o p m e n to f i n f o r m a t i o nt e c h n o l o g y e s p e c i a l l yt h ea r t i f i c i a li n t e l l i g e n c e t e c h n o l o g y t h ea d v a n t a g eh a sb e e nc o m eo u tf o rt h es c i e n t i f i ca n da c c u r a t e u r b a na i rq u a l i t ya s s e s s m e n ta n dp r e d i c t i o n i nt h i sd i s s e r t a t i o n ，a na d v a n c e d n e u r a ln e t w o r k ( a n n ) t e c h n o l o g yb a s e do nb a c k - p r o p a g a t i o ni na r t i f i c i a l i n t e l l i g e n c ew a si n t r o d u c e dt ot h ef i e l do ft h ea i rq u a l i t ya n dp m l 0a s s e s s m e n t a n dp r e d i c t i o n ，c a r r yt h r o u g ho ni m p r o v e db pa n nm o d e lt oa c c u r a t eu r b a n a i rq u a l i t ya s s e s s m e n ta n dp r e d i c t i o n a c c o r d i n gt ot h er e l a t i o n s h i po fw e a t h e r a n dc o n t a m i n a t i o n sc o n c e n t r a t i o na m o n gp m l 0 ，aa n nu r b a na i rq u a l i t y a s s e s s m e n ta n dp r e d i c t i o nm o d e lb a s e do nb a c k p r o p a g a u o nw a sr e a l i z e d t h ep r e d i c t i o nm a k ei tc l e a rt h a ti se f f i c i e n c y t h ei m p r o v e da r i t h m e t i cm o d e l h a sah i g hp r e d i c t i o nr a t e i th a sv e r yi m p o r t a n ta p p l i c a t i o no nt h ep o l l u t i o n c o n t r o li nf a c t i nt h i sd i s s e r t a t i o n ，t h eu r b a na i rq u a l i t ya s s e s s m e n tp r e d i c t i o na n dt h e i n f l u e n c eo fm a i ng e n ep m l oa b o u tu r b a na i rq u a l i t yw e r ei n t r o d u c e d s e c o n d l y , t h ea c t u a l i t ya n dm e t h o do fu r b a na i rq u a i l t ya s s e s s m e n tp r e d i c t i o na b o u ta t h o m ea n da b o a r dw e r ep r e s e n t e d t h e n t h es t f u c t u r es t y l er e s e m b l ei e a r n e x e r c i t a t i o na n dt h ei m p r o v e db pa r i t h m e t i cm o d e la b o u ta n nw e r es h o w e d m a k i n gu s eo ft h em a t l a bm o d e l i n gs o f t w a r e t h em a i ni n f l u e n c e sa b o u tt h e c o n c e n t r a t i o no fp m l ob e t w e e nt h ec o n t a m i n a t i o na n da t m o s p h e r eg e n ew e r e c o n t r a s t e da n ds e l e c h e d t h ed i f f e r e n c eb yu s i n gt h ed i f f e r e n tw a y st od e a lw i t h t h ed a t aw a sc o m p a r e d ，t h a ta v e r a g e sh a v et h eb i g g e rr e l a t i v ei n d e x ( r ) w a s f i n d e do u t b yu s i n ga b o u tt h et w oy e a r s ( 2 0 0 4 2 0 0 5 ) c o n t a m i n a t i o na n d a t m o s p h e r eg e n ed a t a s o fg u i y a n a n dri sr n 0 2 ) r s o z ) r w i n d _ s p e e d ) r t e m p e m t u m ) r i n f a l l ) r w i n dd i r e c t i o n f o u rb pp r e d i c t i o nm o d e l sb yu s i n gt h eg e n e sw h i c hri s c o m p a r a t i v e l yb i g g e rw e r ef o u n d e d t h ef o u rm o d e l sa r eg r a d i e n td e s c e n t w i t h m o m e n t u m a l g o r i t h m m ，l e v e n b e r g - m a r q u a r d to p t i m i z a t i o na l g o r i t h m ， b a y e s i a nr e g u l a r i z a t i o nm e t h o da n de a d ys t o p p i n gm e t h o dr e s p e c t i v e l y t h e s t a b i l i t ya s t r i n g e n c yr e l a t i v i t y m e a na b s o l u t ee r r o r ( m a e ) ，m e a ns q u a r e e r r o r ( m s e ) h i d d e nl a y e r so ft h e i r sw e r ec o m p a r e d ，i ti sf o u n dt h a tt h eb p 3 m o d e i i st h eb e s t w eb u i l tt h em o d e ia n du s ei ti nf a c t i ti sf o u n dt h a tt h e c o n c e n t r a t i o no fn 0 2p l a yam o r ei m p o r t a n tr o l et h a nt h a to fs o zi nt h e 6 浙江大学硕士研究生学位论文 p r e d i c t i o no fp m l oc o n c e n t r a t i o n a n dw em u s tr e p a i rt h ee n v i r o n m e n tp o l i c yo f g u i y a n a tl a s t ，s o m ee x p l a i n sa b o u tt h ec h a r a c t e r i s t i c so fm o d e l ，t h e i n d e t e r m i n a c yp o l l u t i o nf o u n t a i n h ep r e c i s i o no fm o d e l t h en u m b e r so fh i d d e n l a y e r s ，s p e e do fl e a r n ，t a r g e te r r o r e c tw e r eg i v e n k e yw o r d s ：a i rq u a l i t yp m i o a n ns i m u l a t i o np r e d i c t i o na n da p p l i c a t i o n 7 浙江大学硕士研究生学位论文 第一章大气污染物预测研究意义、现状及方法 1 1 空气污染及p m 。的预测研究 随着国家开发西部的力度加大，工业的发展和城市化进程的加速，许多西部 的工业地区，尤其是城市的空气环境质量恶化的趋势明显，部分城市甚至频发光 化学烟雾和酸雨等。基于以上原因，西部城市近年来大气环境质量的优劣和变化 趋势尤受人们关注重视，环境与发展是公众共同关注的重大问题。保护环境，防 治污染，其实质就是保护生产力。目前，我国西部经济正处在高速发展期，由能 源、交通( 特别是城市汽车尾气) 、城市人口膨胀及大型工业开发区的发展等造成的 大气污染问题目趋严重。随着环境污染物排放总量不断增加，污染范围继续扩大， 尤其是以颗粒物、二氧化硫、氮氧化物等为主要污染物的大气环境污染问题日趋 严重，对资源、环境的巨大冲击日益威胁着可持续发展的基础。在这种情况下， 为更好地反映大气环境污染变化趋势，为环境管理决策提供及时、准确、全面的 环境空气质量信息，加大环境污染控制力度，预防严重污染事件的发生，同时使 环境保护工作更好地接受广大人民群众的监督，开展城市空气质量评价及预报工 作是十分必要的。近些年来，随着计算机和信息技术的迅猛发展，许多先进的技 术逐渐普及，使许多以前难以预测的空气质量预测逐渐成为可能，由于人们对生 活质量的提高的期望不断提升，人类对环境信息的需求也不断增加，不仅仅要求 在环境状况报告方面更加完善，而且逐步向环境质量预测预报方面发展。 大气中的悬浮颗粒物( s p m ) 因会对人体健康产生负面影响而倍受人们关注。一 般根据粒径大小可将s p m 分为降尘和飘尘。飘尘是指空气动力学直径小于或等于 1 0 am 的悬浮颗粒物，由于它易被人们吸人呼吸道内，因而也称为可吸入粒子( 1 p 1 。 随着研究工作的深人，人们逐渐认识到，导致城区人群患病率和死亡率增加的主 要因素是飘尘( 或i p ) 的浓度而不是悬浮颗粒物总量峨因此，美国国家环保局于 1 9 8 5 年将原来的颗粒物质指标t s p 项目修改为空气动力学直径小于或等于1 0 “m 的大气颗粒物，即p m i o 。近年来，人们进一步认识到飘尘中空气动力学直径小于 或等于1 0 t m 的细粒子( p m o ) 易于富集空气中的有毒重金属、酸性氧化物、有机 污染物、细菌和病毒等，其对人体健康的危害远比空气动力学直径在1 0 m 以上 的粒子大吲。我国空气质量二级标准( g b3 0 9 5 1 9 9 6 ) 是以t s p 、p m l o 的水平来衡 量，因此，p m i o 是一种不容忽视的重要大气污染物，是空气质量的主要标准之一， 对其的预测尤为重要。 1 2 国内外的空气质量研究现状 根据空气质量预报研究的方法不l 司，可大致分为三种：统计学方法、数值方 浙江大学硕士研究生学位论文 法和神经网络法。本世纪6 0 年代初，开始出现的区域尺度空气污染潜势预报主 要预报可能导致空气污染的特殊天气形势和气象状况，自6 0 年代末逐渐开展了空 气污染浓度的统计预报方法同时出现了空气污染浓度预报的半经验数值模型，如 基于质量守恒定律的箱模型、基于湍流扩散统计理论的高斯模型、萨顿模型p 4 j ： 统计学方法的预报是对特定的城市或区域，在多年气象与污染物浓度资料积累的 基础上，分析天气变化规律，找出若干天气类型并分析各类型的典型参数，然后 建立这些参数与相应污染物浓度数据之间的定量或半定量关系，并根据这些关系 作出预报。常用的方法如：多元线形回归，逐步回归，时问序列分析，模糊识别， 灰色g m ( 1 ，1 ) 和投影寻踪技术等。自7 0 年代后期迅速发展起来的基于大气物理 一化学过程耦合的动力学数值模型m j ，数值预报就是根据污染物在大气中的演变 规律，即污染物在空气中所经历的理化生过程，构造出数学方程系统，用数值计 算的方法求解该方程从而得出污染物的浓度分布和变化趋势。代表性的模式有烟 羽模式、烟团模式、高斯扩散模式和箱模式等。而到了9 0 年代，随着神经网络技 术的兴起和信息技术的蓬勃发展，大气污染物之间的浓度和气象因素的关系十分 复杂，具有很强的非线性特性，而神经网络处理非线性事件的优越性 7 - 8 ，因此在 空气污染预报预测方面的应用取得了很好的效果。 1 2 1 基于统计学和数值方法的空气质量预报相关研究现状 现在，已有许多国家己将数值预报模式用于城市空气质量的业务预报中1 9 j ， 大多数城市空气质量预报模式中将尺度数值预报模式、污染扩散与传输模式和光 化学污染模式集合成一体，在给定的区域内，根据常规的气象观测资料、大尺度 数值预报结果以及各类污染源的空间分布和排放强度预报主要污染物的浓度随时 间的变化【l ”，1 9 8 8 年d r o n a m r a j nm 1 “，利用欧拉平流扩散模式对城市区域尺度 空气污染进行了研究。为了预报o 。等二次污染物，很多模式还嵌套了光化学模式， 其中通常包括几十个污染物种和上百个化学方程式，考虑污染物在传输过程中的 干湿沉降和化学转化。t s u a n g 和c h a o 1 3 l 在箱模式的基础上建立了一个计算面源污 染浓度的电路模式( t c 模式 与箱模式不同的是t c 模式不仅包括污染物的干湿沉 降和平流扩散，而且对近地层的涡动扩散作了详细的考虑t c 模式可以嵌套在格点 模式中，用于城市p m 。污染的预报，在台北市p m 。预报实验中取得了较好的结果。 国内的许多学者在城市空气污染浓度预报模式的研究方面作了许多工作，雷 孝思等的( 城市污染数值预报模式系统) ，中国气象科学研究院徐大海、朱蓉【l5 】建 立的( 城市空气污染数值预报系统c a p p s ) ，是用有限体积法对大气平流扩散方程积 分得到的多尺度箱格预报模型，与中尺度数值预报模式嵌套形成的城市空气污染 数值预报系统。陈万隆i l ，伶华等”发展了空气污染准业务数值模式，是将修改 过的二维m a s s 【1 w 风场模式预报的风场据实测风廓线推广到三维，用有限元法求解 欧拉平流扩散方程。预报上海地区s 0 。指数和浓度分布效果良好。北京【2 0 l 、广 浙江大学硕士研究生学位论文 9 、t 4 2 ”、上海、沈阳、武汉 2 2 1 等城市开展了城市空气污染浓度的预报。国内外也有 其它人在进行此类工作的研究 2 3 - 3 0 l ，建立了城市空气污染数值预报模式和统计模 式。 1 2 2 基于神经网络技术的空气质量预测 在国外，y i 和p r y b u t o k 3 1 建立了一个用于预报北美一工业区臭氧浓度的多层 感知器模型。模型采用早晨臭氧浓度、日最高温度、c 0 2 n o ，n 0 2 和n o x 质量等 级、风向以及风速作为模型的输入来预测最大臭氧浓度，预测结果要好于统计回 归模型。b o z n a r t ”11 9 9 3 年建立了一个预测s 0 2 浓度的神经网络模型，目的是通过 s 0 2 小时浓度的预报来决定是否应消减s l o v e n i a 高污染工业区燃煤发电厂的排放 量，他采用的训练数据是s 0 2 当前观测值和历史观测值以及一些气象因素，预报 结果还是很令人满意的。a n d r e t a 口卅2 0 0 0 年建立了一个三层神经网络来预测 r a v e n n a 工业区一小时后的地面s 0 2 浓度。该模型含有1 0 个输入神经元，包括s 0 2 浓度历史值、风向、风速和太阳辐射等；输出采用二进制，如果浓度大于4 0 口 m g m 3 ，输出1 ，低于4 0 口m g m 3 输出，预报平均误差为1 6 。p e r e x 和t r i e r ”】 利用三层神经网络预测智利首都圣地亚哥地区大气中的n 0 2 浓度。输入因素为前 几个小时的n o 浓度和预报时刻的预测温度，结果表明，预报后5 个小时n 0 2 浓 度的误差为2 5 。在国内也在近年来开始重视此类工作的研究，在国外还有人进 行研究了人工神经元网络在降雨量的预测 3 5 1 、太阳辐射的预测口刨预报中的应用等。 而在国内，由于起步较晚，加上软硬件方面的一些不足，利用神经网络来进行的 研究还有待提高。随着近年来不断的研究，所建立的模型的精确度，适用性等各 方面性能逐渐有所改善和提高。 尽管各种方法在某些方面比如计算量，精确度，可行性都有自己的优点，但 是都存在着这样或那样的不足，都有着特定的适用条件，因此，在做这方面的研 究时，根据特定的情况选择合适的方法尤为重要。 浙江大学硕士研究生学位论文 第二章人工神经网络模型 人工神经网络( a n n , a r t i f i c i a ln e u r a ln e t w o r k ) 正是在人类对其大脑神经网络 认识理解基础上，人工构造的能够实现某种功能的神经网络。它是理论化的人脑 神经网络的数学模型，是基于模仿火脑神经网络结构和功能而建立的一种信息处 理系统【3 7 】。 2 1 神经网络的结构 神经网络的基本单元称为神经元，它由输入、网络权值和闽值、求和单元、 传递函数、输出五部分组成，具体见图2 - 1 。其中p l ，p 2 ，p r 代表神经元的 r 个输入，w l ，w 2 ，w r 代表网络权值，1 1 是求和单元对输入信号的加权求 和，f 表示神经元的传递函数或激发函数。一个典型的具有r 维输入s 个神经元 的单层神经网络模型可以用图2 2 加以描述。大量简单神经元相互连接构成了一 个神经网络。产生神经网络最终输出的网络层称为输出层，输入层和中间层也称 为隐层。 辕入神经元旃抻垃元墨 厂、厂弋n ，_ 、 差 乏 。! a = a w r + z 一 g 驻一1 择经元禳黧 、羔! ， a ：f ( w p + b ) 雪2 - 2 攀量神垃掰缀艘 2 2 神经网络的类型 神经网络的类型是多种多样的，它们是同角度对生物神经系统不同层次的抽 象和模拟。从功能特性和学习性能等可分为：感知器神经网络、线性神经网络、 b p 神经网络、径向基函数网络、自组织网络和反馈网络等p “。一般来说，当神经 元的模型确定之后，一个神经网络的特性及其功能主要取决于网络的拓扑结构及 学习的方法。从网络拓扑结构角度看，分为以下四种：前向网络，有反馈的前向 网络，层内互连的前向网络，互连网络。还可根据中间层是否有延迟或反馈分类 为静态网络和动态网络。 前向网络就是指网络中的神经元分层排列，每个神经元只与前一层神经元相 连。最上一层为输出层，最下一层为输入层。输入层和中间层也称为隐层。隐层 的层数可以是一层或多层，前向网络在神经网络中应用十分广泛，感知器、线形 网络、本论文中所用的b p 网络都属于这种类型。 浙江大学硕士研究生学位论文 2 3 神经网络的仿真、学习与训练 神经网络的仿真过程实质上是神经网络根据网络输入数据，通过数值计算得 出相应网络输出的过程。根据网络输入数据形式和神经网络的不同类型，神经网 络的仿真可以采取不同的形式。 对于静态神经网络，网络输入数据不论是采用矩阵形式，还是序列形式，静 态网络的仿真结果都是相同的。对于动态网络，网络的仿真输出不仅与当前的网 络输入数据有关，而且还与过去的输入数据有关，即与输入数据的先后顺序有关。 因此，当动态神经网络接受以序列形式描述的输入数据时，即使只是序列中数据 元素的顺序不同，仿真结果也会截然不同。 根据学习过程的组织和管理方式不同，学习算法可分为有监督的学习、无监 督的学习和再励学习。对于有监督的学习，网络训练往往要基于一定数量的训练 样例或样本，训练样本通常由输入矢量和目标矢量组成。在学习和训练的过程中， 神经网络不断地将其实际输出与目标输出进行对比，并根据比较结果或误差，按 照一定的规则或算法对网络权值和阈值进行调节发，从而使网络的输出逐渐接近 目标值。最典型的有监督的学习算法的代表是b p ( b a c kp r o p a g a t i o n ) 算法，即误 差反向传播算法，目前国内多用此种方法进行研究”。无监督的学习是一种自组 织学习，即网络的学习过程完全是一种自我学习的过程，不需要学习样本或外界 反馈。在学习过程中，网络只需要响应输入信号的激励，按照某种规则反复调节 网络权值和阂值，直到最后形成某种有序的状态。典型的代表是h e b b 学习律。再 励学习中外部环境对系统输出给果只给出评价信息而不是正确答案，学习系统通 过强化受奖动作来改善自身的性能。 根据每次网络训练任务量的不同，神经网络训练方式可分为渐近式训练和批 最式训练。渐近式训练( i n c r e m e n t a lt r a i n i n g ) 是一种在线学习，即神经网络每接收 一对输入矢量和目标矢量，便对网络的权值和阈值进行调整；而批量式训练( b a t c h t r a i n i n g ) mf j 是在所有输入矢量和目标矢量集准备完成之后才开始根据相应的学习 算法对网络的权值我闽值进行批量调整。同一神经网络，采用两种不同的训练方 式得出的训练结果是不同的。 在m a t l a b 中，对神经网络的训练统一由t r a i n 函数( 批量式训练) 和a d a p t 函 数( 渐进式训练) 来完成【3 9 】。在神经网络学习和训练过程中，应该根据网络实际情 况来选用训练方式和训练函数。 2 4 神经网络的选择 由于神经网络是由于各个领域实际工程技术的需要而迅速发展起来的一门前 沿学科，是一大规模的非线性动力系统。神经网络的学习是不断修改神经元的连 接权值，使网络的实际输出逼近希望的输出值，因此它的发展必须与实际工程密 切结合。神经网络的模型有多种类型，不同神经网络模型的应用有其局限性，所 以在选择神经网络时需根据工程的要求及神经网络模型的特点进行全面考虑。 浙江大学硕士研究生学位论文 从控制角度看，上述的用于联想记忆的h o p f i e l d 网络和随机型b m 网络都不 适合非线性系统的识别，而非线性动态系统辨识中最常用用到的神经网络有多层 前向b p ( b a c k p r o p a g a t i o n ) 网络、径向基函数r b f ( r a d i a lb a s i sf u n c t i o n ) 网络、正 交多项式网络和样条函数网络等。上述四种网络均具有逼近任意非线性函数的 能力，但从应用角度看，它们各有优缺点。b p 网络具有很强的生物背景，它的多 输入多输出特性使其易用于多变量非线性函数逼近，具有可塑性，但其输出与网 络的连接权之间呈非线性关系，这使得其采用非线性优化方法进行计算时可能要 遇到局部极小点和收敛速度慢的问题；径向基函数网络则既有生物背景又与函数 逼近理论相吻合，网络的连接权与输出呈线性关系，同样，它也适合于多变量的 函数的逼近；多项式网络具有比较完整的理论基础，但它用于多变量函数逼近时， 存在网络中神经元个数急剧增加的缺点；样条函数网络在学习时只需局部信息， 这增加了其学习算法的并行性，加快了学习速度，但该网络定义域中子区域网的 划分问题使得其用于多变量函数逼近时相当麻烦。通过以上对比分析，b p 网络和 径向基函数网络都适用于非线性函数的逼近，但从算法可塑性来讲，b p 网络明显 优于径向基函数网络，尤其对于本文将要用到的将神经网络和优化技术相结合的 问题，b p 网络更适合这一角色。虽然b p 算法存在局部较小值和收敛速度慢的弊 端，但通过改进是完全可以克服的。因此，在我们的研究中采用b p 网络作为各种 模型建立时的基本神经网络模型。 2 5b p 算法及其改进研究 1 9 8 6 年r u m e l h a r t ，h i n t i o n 和w i l l i a m s1 4 ”完整而简明地提出一种a n n 的误差 反向传播的训练方法( 简称b p 算法，b a c k - p r o p a g a t i o n ) ，系统地解决了多层网络中 隐含单元连接权的学习问题，还对其能力和潜力进行了探讨。 误差反向传播算法的主要思想是把学习过程分成两个阶段：第一阶段f 正向传 播过程) ，输入信息通过输入层经隐含层逐层处理并计算每个单元的实际输出值： 第二阶段( 反向过程) ，若在输入层未能得到期望的输出值，则逐层递归地计算实际 输出与期望输出之差值( 即误差) ，以便根据此误差调节权值，具体地说，就是对每 一个权重计算出接收单元的误差值与发送单元的激活值的积。因为这个积和误差 对权重的( 负) 微商成正比( 又称梯度下降算法) ，所以把它称作权重误差微商。权重 的实际改变可由权重误差微商一个模式一个模式地计算出来，即它们可以在这组 模式集上进行累加。 误差反向传播算法( b p 算法) 是通过一个使代价函数最小化过程来完成输入到 输出的映射。通常代价函数定义为所有输入模式上输出层单元希望输出与实际输 出的误差平方和。b p 网络就是通过误差反向传播算法( b p 算法1 来进行网络的训练 的。 浙江大学硕士研究生学位论文 第三章模型的建立 3 1 建模工具m a t l a b 简介 m a t l a b 仿真软件自1 9 8 4 年由美国m a t h w o r k s 公司推出以来，越来越引人注 目，1 9 9 3 后又相继推出m a t l a b 4 x ，m a t l a b 5 x ，m a t l a b 6 x ，等基于版本，现成为 国际上公认的最优秀的数值计算和仿真分析软件。其软件包的主要特点有：i 、它 是一种解释性语言，采用了工程技术的计算语言，几乎与数学表达式相同，语言 中的基本元素是矩阵，它提供了各种矩阵的运算和操作，并且具有符号计算、数 字和文字统一处理、离线和在线计算等功能：2 、具有较强的绘图功能，计算结果 和编程的可视化；3 、具有很强的开放性，针对不同的应用学科，在m a t l a b 平台 之上推出了多个应用的工具箱，使设计者根据需要选取调用，避免重复劳动，极 大的提高了工作效率。 3 2 相关数据 数据来源：数据取白贵阳市空气监测站从2 0 0 4 年1 月到2 0 0 5 年6 月的空气 质量及气象数据。分别是太慈桥、市站、冶金厅、鸿边门、黔灵公园、小河区、 花溪区、乌当区八个点，分别代表了贵阳市的各种不同功能区域的环境状况。 实验中，我们建立了一个训练集，两个测试集。其中贵阳市数据用于训练和 测试的分别是3 6 6 个和1 8 1 个。 数据集的划分：实验中，我们建立了一个训练集( 包含3 6 6 个数据) ，两个 测试集( 均包含1 8 1 个数据) ，其中一个测试集是验证集。具体如下：训练集： 训练集数据是从2 0 0 4 年1 月1f t 开始算起，一直到2 0 0 4 年的1 2 月。验证集：训 练集的子集，选取了训练集后1 8 1 个数据。测试集1 ：测试集1 数据选用的是2 0 0 5 年1 月到2 0 0 5 年6 月数据。测试集2 ：测试集2 数据是训练集子集，选取的训练 集1 从第1 8 6 到3 6 6 的1 8 1 个数据，目的是验证测试效果，检验训练程度。同时 对数据进行了归一化预处理和数字去噪。 3 3 相关影响因子的选取 城市p m 。的来源按源主要分为工业污染源、交通线源及生活面源，主要途径 是汽车尾气、二次粒子、土壤尘、路建、筑尘、燃煤尘、冶金尘、气尘1 4 ”。工业 点源主要来自锅炉、室炉及工艺生产废气，其排放高度高、强度大、影响覆盖面 广，一般具有连续稳定排放的特征：生活面源主要来自生活燃煤污染，其分布广、 强度小，主要影响一定区域的环境空气质量，为间断排放源，具有明显的时间和 季节排放特征，一般白天污染物排放高、夜间低，冬季由于为采暖期，燃煤量大， 污染物排放量也较夏季大：交通线源来自机动车尾气燃烧，其排放高度低、呈线状 分布，为间断排放源，具有白天高、夜间低的时排放特征。因为污染源数量多、 分布不均，并且排放量各不相同，所以很难把污染源的数量和排放量以合理的形 式作为预报因子。但由于其中交通和二次反应是p m 。产生的主导力量，而交通往 1 4 浙江大学硕士研究生学位论文 往也是通过二次反应来参与p f 。的贡献 4 3 】。机动车源释放的n 0 2 、s o ：和v o c ( 挥发 性有机物) ，在日照充足的情况下，容易经光化学反应形成颗粒物质，导致p m 。出 现浓度增高的情况j 4 5 o 因此， n 0 2 、s o ：等污染物的浓度也将在很大程度上左 右着p m 。浓度1 4 6 j 。诸多研究表明，气象条件对影响空气质量的污染物的扩散、稀 释和累积有一定的作用，在污染源一定的条件下，污染物浓度的大小主要取决于 气象条件【47 】 4 8 o 对于同样的排放，气象条件对空气质量影响最大。因此，我们把 n 0 2 、s o ：污染物的浓度和部分气象因子当作预报因子来研究。 大气污染的形成与危害除了受污染物的种类影响外，还受地区气象条件的影 响，因为污染物进入大气之后，要随风飘动被稀释，在大气湍流的作用下而扩散。 表示大气状态和物理现象的物理量在气象学中称为气象要素，与大气污染密切相 关的的气象要素有气温、降雨、风向、风速、气压、相对湿度、风、湍流、云、 太阳高度角以及能见度等。另外，大气稳定度是影响污染物在大气中扩散的极重 要因素，能见度和大气压强也是影响污染物质量浓度的重要因素，因为我们无法 得到这全部因子的数据，所以在具体计算只能根据现有数据计算，去除了部分没 有测量数据的因子。 我们认为，在信息技术高速发展的今天，软硬件条件不再是什么难题，所以 建立面向应用的空气污染预报系统的真正难度在于污染预报因子的选取。模型预 报因子的选取应至少考虑以下方面： ( 1 ) 模型所选的预报因子不宜太复杂，最好以气象部门常规的地面气象要素为 基础，这将是下一阶段预报系统能够真正投入运行和推广的关键。 ( 2 ) 由于空气污染预报有可能用到气象预报的某些结果，因此，在模型参数的 选取上应充分考虑所选气象参数预报的可行性和准确性，否则预报结果精度难以 得到保证。 按照上面原则，我们进行了n 0 2 、s 0 2 、温度、风向、风速和降雨六项影响因 素的分析及预报因子的选取。 3 4b p 算法的数学表达及实现 误差反向传播学习算法的数学运算的描述步骤如下b g l ： 设网络具有输入层、隐含层和输出层三层结构，并且输入层具有n 个节点， 每层单元只接受前一层的输出信息并输出给下一层各单元，各节点的激活函数为 s i g m o i d 函数。 ( i ) 给输入层单元到隐含层单元的连接权v h ，h = 1 ，2 ，1 1 ，i = 1 ，2 ， p ，隐含层单元到输出层单元的连接权，i ：1 ，2 ，p ，：1 ，2 ， q ，以及隐含层单元的阈值日，输出层单元的阂值r j 赋予( 1 ，+ 1 ) 区间的随机值。 ( 2 ) 对于样本模式对( ak ，ck ) ( k = i ，2 ，m ) 进行下列操作： 1 、ak 的值送到输入层单元，通过连接权矩阵v 送到隐层单元，产生隐层单 浙江大学硕士研究生学位论文 元新的激活值 包= f l + bi 式中f = 1 ，2 ，p 式l 拈l ，为s i g m o i d 型函数，( x ) = ( 1 + e 1 ) 1 式2 2 、计算输出层单元的激活值 c j = f ( 喜w , j b i + r j 川心，a 式3 7 = i i ，= 1 ，2 ，q 式 、仁l 3 、计算输出层单元的一般化误差 t = c 巾一o ) - - c i ) ，= i ，2 ，q ，式4 嘭为输出层单元j 的希望输出 4 、计算隐含层单元对于每个一的误差 e j = 6 f ( 1 一岛) 嘭i = 1 ，2 ，p 式5 上式相当于将输出层单元的误差反向传播到隐含层。 5 、调整隐含层到输出层的连接权 彬，= 丑b , d j i = l ，2 ，p ，j = l ，2 ，q ，式6 五为学习率， 6 、调整输入层到隐含层的连接权 k ，= 肋 e j ，式中h = l ，2 ，n ，f = 1 ，2 ，p ，o ( 1 式7 7 、调整输出层单元的闽值 0 = 五d ，j = 1 ，2 ，q ，式8 8 、调整隐含层单元的阈值 b = 融i = 1 ，2 ，p ，式9 ( 3 ) 重复步骤( 2 ) ，直到对于k = 1 ，2 ，m ，误差d ( j = l ，2 ，q ) 变得足够 小或变为零为止。 从上面的学习过程可以看出，误差反向传播学习分成两个阶段：在第一阶段， 对于给定的网络输入，通过现有连接权将其正向传播，获得各个单元的实际输出， 在第二阶段，首先计算出输出层各单元的一般化误差，这些误差逐层向输入层方 向逆向传播，以获得调整各连接权所需各单元参考误差。学习后的网络在回想时 使用正向传播公式，即式1 ，式3 。 1 6 浙江大学硕士研究生学位论文 b p 算法的数学原理如下，误差反向传播学习实现了定义在整个模式训练集上 代价函数曲面上的梯度下降，这一点可以从误差反向传播学习算法的推导过程看 出。 设e 。为网络提供模式对( a 。，c k ) 时输出层上的代价函数，由式1 0 获得，其中为 每组模式对的输出单元个数。 e 。：昙( 一) z 式1 0 j 因而整个模式训练集上的全局代价函数为： e = e 式l l = 1 对于第k 个模式对输出层单元，的加权输入( 将闽值q ，归入权系数中) 为： n e t c j = 屯 式1 2 忙i 该单元的实际输出为： c j = f ( n e t c ，) 式1 3 而隐含层单元i 的加权输入为： n e t b i = “ 式1 4 h = l 该单元的实际输出为： b j = f ( n e t b j ) 式1 5 式1 4 和式1 6 中的，为可微非递减函数。对于输出单元i ，定义一般化误差 嘭= 一嘉式1 6 式1 6 式可写成下列形式： 哆= 一百d e ) 两d = - f 7 ( 胁q ) 鲁式1 7 对于隐含单元i ，同样定义误差： e i = 一o n 生e t b i 式1 8 类似的，e 在下面形式上可视作前层误差逆传播到该层单元的误差 浙江大学硕士研究生学位论文 e i 一鲁畿 = - - f 7 ( n e t b j ) ( - 鲁) = 一f ( 胁f 6 f ) 主亲鼍等 = | ( n e t b , ) 2 w 。j d j = f 7 ( n e t b f ) v t v 式1 9 在现有的连接权和，下，为了减小代价函数b ，可由梯度下降原则改变 连接权。因此有： a w j 一 畿 卅婆 。o 呲? = 一五d ，岛 式2 0 同理： a v h , ：一卢_ a e , o f h t = f l e , a ，r 式2 l 式1 9 和式2 l 中，2 、为学习率( 0 1 ，0 卢 1 ) 。 从以上两式可以看出，连接权变化正比于整个模式集上各个模式对应的负梯 度之和，因此，这种学习算法称为累计误差逆传播算法。然而，误差逆传播学习 仅仅实现了代价函数曲面上的梯度下降，因此，不能保证求出全局最小，可能使 计算结果陷入局部极小值。另外，b p 算法还存在着收敛速度慢和最佳隐含层节点 个数无法准确确定等局限性。 3 5 单一因子的相关性建模过程 b p 神经网络是指基于误差反向传播算法( b p 算法) 的多层前向神经网络，b p 神经元模型中的传递函数f 通常取可微的单调递增函数，如对数s i g m o i d 函数 i o g s i g 、正切s i g m o i d 函数t a n s i g 和线性函数p u r e l i n 等。b p 网络通常具有一个或 多个隐层，其中隐层神经元通常采用s i g m o i d 型传递函数，而输出层神经元则采用 p u r e l i n 型传递函数。 采用n e w f f 函数可以用来生成b p 网络。n e w f f 函数的常用格式为 n e t - - n e w f f ( p r ， s 1s 2 s n ， t f it f 2 t f n ，b t f ) 浙江大学硕士研究生学位论文 其中，p r 为r 2 维矩阵，表示r 维输入矢量中每维输入的最小值与最大值 之问的范围： 若神经网络具有n 层，卿j s ls 2 s n l 中各元素分别表示各层神经元的数目； f t f lt f 2 t f n 中各元素分别表示各层神经元采用的传递函数；b t f 表示神经 网络训练时所使用的训练函数。 在b p 神经网络生成和初始化以后，即可利用现有的“输入目标”样本矢 量数据对网络进行训练。b p 网络的训练通常采用t r a i n 函数来完成。针对不同的 问题，在训练之前有必要对网络的训练参数n e t t r a i n p a r a m 进行适当的设置。表3 - 1 中列出了网络对象的一些主要训练参数及含义。 表3 1 几个主要的神经网络训练参数及含义 训练参数参数含义默认值 n e t t r a i n p a r a m e p o c h s 训练步数 1 0 0 n e t t r a i n p a r a