城市区域空气质量的BP神经网络预测的研究（可编辑） .doc

华中科技大学硕士学位论文城市区域空气质量的bp神经网络预测研究姓名:韦德志申请学位级别:硕士专业:控制理论与控制工程指导教师:王明哲20090527华中科技大学硕士学位论文摘 要 随着社会经济的持续增长和城市人口的迅速膨胀,城市空气污染问题日趋严重,仅对城市空气质量进行检测已不能满足人们的需求。对城市空气质量的变化趋势进行研究,开展城市空气质量预测、预报工作,对城市空气污染的防治和城市居民的健康、生活具有重要的意义。 论文是华中某市空气质量自动监测系统的拓展研究,在分析研究神经网络非线性处理能力和容噪能力的基础之上,论文应用 bp 神经网络对城市区域空气质量进行预测研究,设计了基于 bp神经网络预测模型的城市区域空气质量预测系统。 论文首先对该市空气质量自动监测系统做了简要的介绍,通过分析近几年空气污染的特点,指出 pm10 是该市空气质量的主要污染因子。在这一重要结论的基础之上,论文采用该市 pm10的日历史数据, 建立起 bp神经网络模型来定量预测 pm10的日平均浓度。根据影响 pm10 含量的物理分析和历年 pm10 数据的统计分析,以及该市地理和气象方面的特点,找出影响 pm10 浓度的主要因素,在大量的试验分析和仿真的基础上确立了 bp 神经网络结构。论文将训练之后的 bp 神经网络进行预测试验,并将得到的预测值与国家环保总局的预测结果进行比较分析。可以看出bp 神经网络具有较好的预测精度,但缺乏对突发事件进行有效的处理,论文提出在预测模型基础上采用加入修正量的方法,以弥补 bp神经网络预测方法的不足。 论文提出的 bp 神经网络预测模型在预测精度和突发事件处理等方面还有待改进,但其研究工作证明了利用神经网络对城市空气质量进行预测研究的可行性,为城市区域空气质量的预报工作提供了一种切实可行的实现方法。关键词:空气质量;预测;bp神经网络;pm10i华中科技大学硕士学位论文abstract with the rapid development of social economy and the population expansion of the city, air population becomes more and more serious. purely on the detection of urban air quality has been far from enough to meet the requirements of people. researching in urban air quality trends and forecasting work of the urban air pollution control. have a significant impact to the lives of urban residentsthis thesis is a development studies based on the city air quality monitoring system of a city in central china. with the good capacity to deal with non-linear problem of neural network, this thesis designed a bp neural network prediction model for regional urban air quality forecasting system to predict urban air qualityfirst of all, this thesis made a brief introduction to the citys air quality monitoring system. through the analysis of the characteristics of air pollution in the city we find that the pm10 is a major pollution factor of the city, therefore we use the historical data on the pm10 in the city to prediction of the daily average concentration of pm10 based on bp neural network model. analysis over the years pm10 data then find the major factor of the concentration of pm10 in the citybp neural network structure is based on previous experience and large number of experiments. after the training of bp neural network to predict the predictive value of experiments with the state environmental protection departments capps results of a comparative analysis, although most of the time bp neural network has better prediction accuracy, however, bp neural network prediction model is not able to effectively deal with emergencies. finally, through the use of the bp neural network prediction model based on the method of adding artificial amended bp neural network to compensate for this defectalthough the thesis put forward by bp neural network prediction model accuracy in forecasting and emergency treatment have yet to be improved, however, this paper proved the thesis research on the use of neural networks to predict urban air quality study is feasibleoverall, this thesis proposed a practical method of regional urban air quality forecasting keywords: air quality; prediction; bp neural network; pm10 ii独创性声明本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知,除文中已经标明引用的内容外,本论文不包含任何其他个人或集体已经发表或撰写过的研究成果。对本文的研究做出贡献的个人和集体,均已在文中以明确方式标明。本人完全意识到,本声明的法律结果由本人承担。 学位论文作者签名: 日期: 年 月 日学位论文版权使用授权书本学位论文作者完全了解学校有关保留、使用学位论文的规定,即:学校有权保留并向国家有关部门或机构送交论文的复印件和电子版,允许论文被查阅和借阅。本人授权华中科技大学可以将本学位论文的全部或部分内容编入有关数据库进行检索,可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。 保密 ,在_年解密后适用本授权书。 本论文属于不保密。(请在以上方框内打“”) 学位论文作者签名:指导教师签名: 日期: 年 月 日 日期: 年 月日 华中科技大学硕士学位论文1 绪论 1.1 课题背景及其意义 伴随着全球经济的飞速发展,特别是工业化程度的不断提高,全球环境问特别是城市空气污染问题越来越严重。城市空气污染不仅会影响人们的身体健康,甚至会直接威胁到人的生命,1952年 12月 5-8日, “伦敦烟雾事件”仅仅 4天时间死亡人数就达 4000 多人,2 个月后,又有 8000 多人陆续丧生。也许一场大的灾难人们会将其归结为各种因素影响的偶发事件,世界卫生组织估计,每年平均有二百万未成年人死于空气污染。我国是世界上大气污染状况比较严重的国家之一,城市大气1污染更为突出 。根据环境保护部 2007年报告显示,我国地级及以上城市(含地、州、盟首府所在地)空气质量达到国家一级标准的占 2.4%,二级标准的占 58.1%,2三级标准的占 36.1%,劣于三级标准的占 3.4% 。根据卫生部 2007年的报告显示,我国每年因城市空气污染导致的死亡人数为 17.8万人,每年因城市大气污染而造成的呼吸系统门诊病例 35 万人,急诊病例 680 万人,大气污染造成的环境与健康损失占中国 gdp的 7%。由此可见,空气质量问题已经不再是偶然的自然灾害,而是我们日常生活中不得不面对的问题。 1.1.1 空气质量预测的意义 目前,随着我国经济的快速发展,城市化水平越来越高,城市人口急剧增加,城市规模急剧扩大,机动车辆数量快速增长,工业化程度快速提高,以可吸入颗粒物、二氧化硫、氮氧化物等为主要污染物的大气污染日益严重,直接威胁着国民经济的可持续发展和人民身体健康,如何有效地改善城市空气质量,如何贯彻城市的可持续发展战略,是我们在大力发展经济的同时必须关注的问题。 我国大气环境科技工作是以大气环境监测为先导,通过研究先进的大气环境监测技术,对大气环境参数实施实时的监测,为开展大气环境保护和治理提供科学的1华中科技大学硕士学位论文依据。 环境空气质量监测网络,是一套以自动监测仪器为核心的自动监测系统。主要用于大气污染的在线监控、远程登陆、污染预警和设备可视监控等。自动监测系统通过有线或无线传输网络,快速反映城市的空气质量情况。 在空气质量监测网络的基础上,我国各大重点城市都相继展开了空气质量的周报、日报工作,开展空气质量的预报工作的需求也日益明显,在这种情况下,开展空气质量的预报将更好地反映城市空气污染的变化趋势,为环境管理决策提供及时、准确、全面的环境质量信息,同时,对加大环境污染控制力度,预防严重污染的发生、增强市民的环保意识、提高市民生活质量等都有很大帮助。 1.1.2 空气质量的评价及可预测性 空气质量评价是环境质量价值及人对环境质量需求的反映,是空气质量预测的依据,国内外常用的空气质量评价方法为环境空气污染指数评价法,该方法以环境空气污染监测结果和环境空气质量标准定义一种数量尺度为依据来评定现实的环境空气质量。国内外主要有以下几种空气污染指数评价法: (1)美国空气污染物标准指数评价法 美国空气污染物指数评价法以二氧化硫、颗粒物、一氧化碳、臭氧、氮氧化物以及二氧化硫与颗粒物的乘积为参数,通过分段线形函数将监测值转化成空气污染评价指数,从所得的污染指数中选取最大值来表示环境空气质量。 (2)加拿大环境空气污染指数评价法 加拿大环境空气污染指数评价法由特定污染指数、城际环境空气质量指数和工业排放量指数三部分组成。3(3)我国的环境空气污染指数评价法 我国现行的空气质量评价方法为环境空气污染指数 api(air pollution index),该方法将几种主要的空气污染气体:二氧化硫、二氧化氮和可吸入物的浓度简化成单一的概念性指数数值形式,通过划分级别的方式表示环境空气污染程度和质量状2华中科技大学硕士学位论文况。 当某种污染物浓度cc c 时,其相应污染分指数为: ij, i ij, +1ccii,ji ii?+i(1.1) ii,1j +i,ji,jcci,j+1 ij ,式中:i 表示第 i 种污染物的污染分指数; i c 表示第 i 种污染物的浓度值; i i 表示第 i 种污染物 j+1转折点的污染分项指数值; ij , c 表示第 i 种污染物在第 j 转折点上浓度值(对应于i ); ij , ij , c 表示第 i 种污染物第 j+1 转折点上(对应于i )的浓度值; i,j+1 ij,1 +在得到各污染气体的污染分指数值之后,取各污染分指数的最大值为该区域的空气污染指数 api 值: api i ,i.i.i (1.2) 12 in城市空气质量的变化并不是无迹可寻随机变化的,而是受特定因素影响的。影响城市空气质量的主要因素有 3个:气象因素、污染源因素和地形因素。因此,在分析这三个主要因素对空气质量的影响的基础上,我们完全可以找到三种影响因素和城市空气质量的影响关系,从而实现城市空气质量的预测。 1.1.3 空气质量预测的国内外发展现状 空气质量预测研究最早始于 20世纪 60年代西方发达国家,但真正投入实用应该从 1988年 12月日本对其空气污染严重的城市大阪和东京地区的氮氧化物进行预报开始。1989年荷兰开始逐步在全国范围内推行空气污染预报,经过 3年时间建成覆盖全国的以日均浓度水平发布空气污染预报,根据不同季节主要空气污染物的不同研发出多种预报技术方法,实现从几小时到 2-3天不等的预报周期。 丹麦国家环境研究所前几年研发出了一套基于数值模式的空气污染预报系统thor模式,该模式由城市背景模式和气象模式组成,可实现对丹麦和整个欧洲未3华中科技大学硕士学位论文来三天的空气污染预报。 我国的空气质量预测研究起步较晚, 20世纪 80年代初北京地区进行了两次 so2潜势污染预报,接着沈阳和上海等地环保部门在日常业务中逐步增加了空气预报工作。1997底,由中国气象科学研究院徐大海研究员和朱蓉研究员等组成的课题组开发建立了城市大气污染数值预报系统(capps),该系统可以根据当天 so2 、 no2和 pm10 的浓度监测值,预报第二天的污染浓度。2000 年 3 月,由中国气象局预测减灾司组织将 capps推广到全国 47个城市的气象业务部门和国家气象中心,为2000年 6月 5日起开展全国 47个城市空气质量预报业务提供了技术手段。从 2005年开始,中国气象局新技术推广项目立项发展 capps 第三版,目的是建立区域空气质量数值预报业务系统,为区域气象中心和省级气象业务部门开展区域空气质量4预报提供技术方法和业务平台 。 1.2 空气质量预测的主要研究方法 1.2.1 多元线性回归预测方法 一切客观事物都是相互联系和具有内部规律的,而且每一个事物的运动都和它周围的事物相互联系、相互影响着,变量与变量是相互联系、相互依存的。回归分析就是一种用概率和统计平均来描述和处理变量之间关系的常用数理统计方法。 回归分析方法包括线性回归方法和非线性回归方法,在空气质量预测中多采用线性回归方法,考虑到空气质量预报影响因素的复杂性,需要综合多个预报因子对预报对象的影响,建立预报对象与预报因子之间的线性方程,这就是多元线性回归方法,多元线性回归预报方法是假定在各预报因子和预报量之间呈线性关系的情况下,使预报值和实测值之间的误差达到最小,并认为未来是按这种关系发展,从而进行预报。多元线性回归预测方法是空气质量预测普遍采用的方法。 多元线性回归的预测模型原理为:经过分析挑选出 p个预报因子x ,xx , ,12 p通过回归分析,建立这些预报因子与预报对象 y的关系。当建立了他们之间的相互4华中科技大学硕士学位论文5关系的多元线性回归方程后,就把这一方程作为预报方程 。多元线性预测模型公式为: yb + bx.+bx+ 011 pp (1.3) 2 n0, 2式中:b ,b ,b , 都是与x ,x 无关的未知数, 是随机误差。 0 1 p 1 p1.2.2 灰预测方法 灰色系统理论是 1982 年我国学者邓聚龙教授创立的。它是研究少数据不确定性的新信息理论,它着重研究“小样本、贫信息不确定”的问题,它依据信息覆盖,通过序列生成寻求现实规律,其特点是“少数据建模”。灰色系统理论的主要内容包括以灰色朦胧集为基础的理论体系,以灰色关联空间为依托的分析体系,以灰色序列生成为基础的方法体系,以灰色模型为核心的模型体系,以系统分析、评估、建6模、预测、决策、控制、优化为主的技术体系 。 灰色模型(grey model)简称 gm 模型,是灰色系统理论基本模型,也是灰色控制理论的基础。灰色系统理论建模的主要任务是根据对象行为的特征数据,找出因素本身或因素之间的数学关系,从而了解系统的动态行为和发展趋势。一般建模方法采用原始数列直接建模,灰色系统建模则是对原始数据列作处理后建立微分方程。灰色模型的建立是灰色预测的核心部分。在实际应用中,只要完全掌握了建模的特点和建模方法,gm1,1模型一般都有较好的拟合效果。 灰预测对不同的对象有不同的预测类型,一般有以下几种:数列灰预测、灾变7灰预测、季节灾变灰预测、拓扑灰预测、系统灰预测、包络灰预测 。 由于灰预测需要的数据量少,对建模数据没有特殊的要求和限制,因此广泛应8 9 10用于各个领域,是空气质量预测的一种重要方法 。 1.2.3 神经网络预测方法 人工神经网络是由大量神经元广泛互联形成的数学网络,其所具有的非线性特5华中科技大学硕士学位论文性、大量的并行分布结构以及自学习和归纳能力使其在诸如建模、模式识别、信号处理及控制、预测等方面得到广泛的应用,神经网络通过利用现代计算机进行自学习、联想和优化,可以解决因果关系模糊的高度非线性预测问题。 到目前为止,人工神经网络已经广泛应用于各行业预测中,如经济、能源、工业、农业、环境、交通、水利等各个方面。应用人工神经网络对城市空气质量进行预测是可行的,它不需要知道各影响因子之间及污染气体指数的准确关系,它可以处理各种变化的信息,而且在处理信息的同时,非线性动力系统本身也在不断变化。它可以通过对信息的有监督和无监督学习,实现对任意复杂函数的映射,从而适应环境的变化。 由于神经网络在非线性处理能力和容噪能力、自学习能力等方面有着非常明显11 12 13的优势,因此神经网络也被广泛应用于城市空气质量的预测中 。 1.3 论文的研究内容安排 本论文主要通过 bp 神经网络建模来对城市空气质量进行预测,以华中某市2006-2008 年空气污染物常规监测数据和气象数据为研究对象,建立该市的空气质量预测模型。并将通过仿真得到的预测结果与国家环保部的预测结果及实测值进行比较,对预测结果进行分析。 本文的章节安排如下: 第一章介绍了论文的研究背景及意义,对空气质量预测的意义、空气质量的评价、空气质量预测的国内外发展状况、空气质量预测的常用方法做了简要介绍。 第二章对人工神经网络技术做了一些基础研究,主要包括: 介绍人工神经网络的研究进展;介绍了人工神经网络的基本原理;介绍了误差反向传播(bp)网络。 第三章主要对区域空气质量的预测模型进行研究,首先简要介绍了该市的空气质量自动监测系统,然后重点对空气质量预测模型的选型、结构和数据准备进行研究,最后分析空气质量神经网络训练及影响因素。6华中科技大学硕士学位论文第四章通过仿真软件 matlab 对建立的 bp神经网络模型进行仿真分析,与国家环保部的预测结果及实测值进行比较,分析区域空气质量的预测结果,并根据bp神经网路预测模型的缺陷提出改进模型。 第五章结束部分为本文的主要工作的总结,并对区域空气质量预测作了展望,对空气质量的改善提出了一些建议。 7华中科技大学硕士学位论文2 人工神经网络理论 10现代神经生理学和神经解剖学的研究结果表明,人脑是极其复杂的,它由约10个神经元交织在一起,构成一个网状结构。它能处理职能、思维、情绪等高级神经活动,被认为是最复杂、最完美、最有效的一种信息处理系统。人工神经网络(artificial neural networks,简称 ann)是对人脑若干基本特性通过数学方法进行的抽象和模拟,是一种模仿人脑结构及功能的非线性处理系统。 2.1 人工神经网络的研究进展 始于 20 世纪 40 年代的人工神经网络的发展经历了一个曲折艰苦的过程,它的发展经历了一条由提出、曲折发展和研究热潮三个阶段构成的曲折道路。 2.1.1 人工神经网络的提出和兴起 1943年,精神病学家 warren mcculloch和数理逻辑学家 walter pitts在数学生物物理学会刊bulletin of mathematic biophysics上发表文章,从信息处理的角度出发,采用数理模型的方法,对生物神经细胞的动作进行研究,提出了形式神经元模型,称为 mp 模型。mp 模型提出了神经元的形式化数学描述和网络结构方法,证明了单个神经元能够执行逻辑功能,从而开创了人工神经网络研究的时代。 1949年,心理学家 donald hebb在the organization of behavior一书中提出了突触联系强度可变假设,说明了神经元强度是可修正的,为人工神经网络的学习算法奠定了基础,使神经网络的研究进入一个重要的发展阶段。1957 年,rosenblatt 提出感知器(perceptron)。1958 年 rosenblatt 基于对感知器的研究,提出了解决模式识别问题的新的监督学习方法,并证明了所谓的感知器收敛定理。首次把神经网络的研究付诸工程实践。20 世纪 60 年代,感知器的盛行让人们对神经网络的研究过于乐观,认为只要将这种 nn 互连成一个网络就可以解决人脑思维模拟问题。但是 1969 年8华中科技大学硕士学位论文minsky 和 papert 所著的perceptron一书从数学角度证明了关于单层感知器的计算具有根本的局限性,指出感知机的处理能力有限,甚至连 xor 这样的问题也不能解决,并论述了单层感知器的所有局限性在多层感知器中是不可能被完全克服14的。再加上其它种种原因,人工神经网络的研究陷入低谷 。 2.1.2 人工神经网络的曲折发展 根据 cowan 1990 年提出的观点,有三个原因导致了神经网络研究十多年的低谷: 技术原因: 没有个人计算机和工作空间站进行实验; 心理和资金上的原因:minsky 和 papert 对感知器的悲观言论以及缺少赞助; 神经网络和晶格旋转之间的类推还未成熟,直到 1975年才由 sherrington和 kirkpartrick创建出旋转镜片模型。这些原因导致了神经网络研究陷入长达 10 余年的低谷,但是仍然有不少学者在艰苦的条件下一直致力于神经网络这一研究。人工神经网络的研究进入曲折发展时期。 1972年 teuvo kohonen和 james anderson各自独立发展了用于记忆的新的神经网络。amari 独立提出了一个神经元的附加模型,并将其应用于研究随机联结类似于神经元元件的动态行为之中。 1976年 willshaw和 von der malsburg发表了第一篇受人脑拓扑次序映射启发,构筑自组织映射论文。1980 年 grossberg 在早期竞争学习研究的基础上,创立了自组织新理论,被称为自适应谐振理论(adaptive resonance theory,简称 art),理论主要包括自下而上的认知层和自上而下的生成层,若输入15模式与学习反馈模式相匹配,则产生称为“自适应谐振”的动力状态 。 这些研究进展虽然未能攻克神经网络在 minsky 和 papert 所著的perceptron一书所提出的问题,但是在神经网络的低谷中仍然带领着神经网络的研究曲折前进。 2.1.3 人工神经网络的研究热潮 1982年,美国加州工学院物理学家 hopfield提出了 hopfield神经网络模型,引9华中科技大学硕士学位论文入了“能量函数”的概念,给出了网络稳定性的判据,并成功地解决了著名的“旅行商问题”,成为人工神经网络走向成熟的标志,引发了神经网络研究热潮。1984 年,他又提出了连续时间 hopfield神经网络模型,开创了神经网络用于联想记忆和优化计算的新途径,有力地推动了神经网络的研究。 1986 年,/.elhart 和 /.elland 提出了多层网络学习的误差反向传播算法,实现了 minsky引入隐层的设想。与此同时,基于 von neumann原理的数字计算机在处理形象思维、语音图像识别以及联想记忆等模糊信息时屡受挫折,而神经网络能够处理模糊信息的特点使人们认识到人工神经网络的重要价值。 进入 20 世纪 90 年代之后,随着人工神经网络理论研究的不断成熟,神经网络的发展进入一个新时期,应用研究也得到迅速发展。人工神经网络作为新学科、新方法和新技术,在自然科学和社会科学各个领域得到广泛应用,取得了丰硕的成果。神经网络研究随之也得到极大的发展,各种网络机构和算法系统应运而生,逐渐构16 17成了较为完善的人工神经网络体系 。 2.2 人工神经网络基本原理 虽然人工神经网络的结构和体系在不同的应用场合可以千差万别,但不同结构的神经网络之间仍有许多共同的特点,以下就对人工神经网络的共同特点进行说明。 2.2.1 生物神经元 人工神经元是从生物神经元得到启发而实现的,因此研究人员在研究人工神经网络的结构和算法的时候常常会思索人脑的结构、功能问题。但由于人类对人脑的了解并不深入,无法有效指导人们对大脑的模拟工作,于是人们不得不越过生物神经的实际构造而去寻求能实现有用功能的人工构造。尽管实际上人工神经网络和生物神经网络之间的联系非常微弱,但人们还是经常将人工神经网络与人脑神经网络在功能上进行比较,以获得人工神经网络对人脑神经网络在功能上尽可能相似的模10华中科技大学硕士学位论文拟。 一个典型人脑神经元的结构如图 2.1 所示,图中连接细胞体之间的细纤维称为树突,树突数量非常多,其作用是收集其它神经元传出的信息,是神经元的输入通道。两个神经元的树突交汇处称为突触,其作用是传递各神经元间的信息,而且信息是单向的。如果某个突触传来的信号使该神经元起到兴奋的作用,则称其为兴奋突触;反之则称为抑制突触。同时,突触的连接强度代表了两个神经元间信号传递时耦合的紧密程度,不同的紧密程度相当于作用信号的不同“权重”,正权重表示兴奋作用,负权重表示抑制作用。所有输入信号加权后的综合结果作为神经元的输入,当使神经元兴奋的输入信息总量超过某一阈值时,该神经元就被激活,并经树突向其它神经元发出信息,这一特性被人工神经元采用,也是人工神经元信息传递具有的最基本特性。图 2.1 生物神经元形状图 综上所述,生物神经元具有以下基本特征: (1)神经元具有多输入、单输出的特性; (2)神经元具有非线性输入、输出的特性; (3)各神经元间传递信号强度是可变的,输入的信号有兴奋作用和抑制作用之分; (4)神经元的输出响应取决于所有输入信号加权的结果,当输入超过某一阈值11华中科技大学硕士学位论文时该神经元被激活,否则该神经元处于抑制状态。 2.2.2 人工神经元 图 2.2 给出了一个简单的人工神经元模型,图中神经元 n 个输入设分别为x 、1x 、x 、x 的相应连接权重为:w 、w 、w 、w 。将输入量分别乘上各自的2 3 n 11 12 13 1n权重后求和,即得到神经元 i 的净输入net 为: innet w x(2.1) i 1iii 1图 2.2 单个人工神经元模型以净输入net 和当前阈值作为自变量,再经某一非线性映射产生神经元 i 的i18输出,作为下一个神经元的输入 。整个过程大致可以分解为以下三个计算步骤: (1) 加权。对每个输入信号进行程度不等的加权计算。 (2) 求和。进行全部输入信号的组合效果的求和计算。 (3) 映射。通过作用函数计算输出结果。 要使人工神经元具有学习能力和自适应性,就必须对人工神经网络进行训练,训练原则之一是让它从错误中学习。不断肯定正确输出,不断减少错误输出。对人工神经网络的训练就是要不断改变它的净输入,而改变净输入的办法调整权重。因此,人工神经网络的训练过程就是调整神经网络的权重的过程。12华中科技大学硕士学位论文2.2.3 人工神经网络模型 单个神经元对信息的处理能力非常有限,因此只有将多个神经元相互连接起来,构成一个神经网络系统,才有可能对复杂的信息进行处理。 人工神经网络按其拓扑结构(也就是神经元的连接方式)可分为前馈网络(feedforward networks)、反馈网络(recurrent networks)和混合网络(mix networks)三种形式,这里简要介绍前馈网络和反馈网络。 前馈网络的信息流由输入层逐级向下层传递,本层的神经元只接受上一层输出的信号,各层神经元之间没有反馈信息流,单层前馈网络是最简单的前馈式网络,它没有隐层,由输入层经过运算直接输出到输出层。对于多层前馈网络,其输入、输出神经元与外界发生联系,直接感受外部环境的刺激;而中间隐层与外界无直接联系。多层前馈网络结构如图 2.3所示。图 2.3 多层前馈神经网络模型 如果网络某一层的输出通过连接权重作为输入反馈到同一层或前一层,如图 2.3所示,这种含有反馈连接的网络称为反馈网络(或称递归网络, recurrent networks)前馈网络的输出只与输入和网络的权重有关系,与以前的输出无关,而在反馈网络中,输出不仅与当前的输入有关,还与以前的输出有关,因而网络具有“短期记忆”19能力。前馈网络通过权重的前馈联想反映人脑的“长期记忆”能力 。13华中科技大学硕士学位论文图 2.4 反馈网络模型 2.3 误差反向传播(bp)网络 2.3.1 bp神经网络结构 误差反向传播网络(back propagation,简称 bp 网络)是典型的前馈网络,它是人工神经网络中最为重要的网络之一,也是迄今为止应用最广泛的神经网络算法,实践证明,三层结构 bp 网络即具有很强的映射能力,三层 bp 网络拓扑结构图如图 2.5所示。图 2.5 三层 bp网络模型14华中科技大学硕士学位论文2.3.2 bp神经网络算法原理 bp算法是一种基于优化技术的算法,它利用最小二乘算法,采用梯度搜索技术,以期使网络的实际输出值和期望输出值的误差均方差值最小。其学习训练算法为: 正向传播:i?h: nnet11+ w p b1ii jj i (2.2) j 1af 11 net1iih?o: s1net22+ w a1 b2kk ii k(2.3) i 1af22 net2kk计算误差: eta ? 2 (2.4) kk k考虑到一个样本输入到网络的情况,此时误差平方和为: s 212ew,b? ta2 (2.5) kk2k 1输出层权系数的调整:? ee ?net2k w2 ? ? (2.6) ki wn22et?w2ki k ki定义:? ee ?a2k 2 ? ?k net22 a?net2kk k (2.7) s1net22+ w a1 b2kk ii ki 1式中:15华中科技大学硕士学位论文?e?2 takk?a2k?a2kfn 2et2 f 2net2 1kk net22 netkk?net2ka1(2.8) i?w2ki?net2 eek w2 ? ?ki wn22et?w2ki k ki ? ta2 ?f 2?a1? 2?a1kk i k i隐含层权系数的修正:? ee ?net1 ?eiwp 1 ? ? ?ij j wn11et?w1 ?net1ij i ij i?e ?a1i? pj an11et (2.9)? ii?e? fn 1et1 pij?a1 i? 1 pij?e式中, 不能直接计算,需要通过其它量间接计算:?a1 is 2 ee ?net2k? an12et ?a1k 1ikiss 21 e wa 2? 1 ki i net21 aki 11?kis 2 ? 2 w2(2.10) kkik 1s 2wp 11 ? ?f1net1 2 ?w2 pij i j ik ki j k 1s 2 11? fnet1 2 w2ii kki k 1上述 bp算法学习过程可以描述如下: (1)工作信号正向传播。输入信号从输入层经隐层传向输出层,在输出端产生输出信号,这就是工作信号的正向传播。在信号的向前传递过程中网络的权值是固定不变的,每一层神经元的状态只影响下一层神经元的状态,如果输出层不能得到期望的输出,则转入误差信号反向传播。16华中科技大学硕士学位论文2 误差信号反向传播。网络的实际输出与期望输出之间差值即为误差信号,误差信号由输出端开始逐层向前传播,这是误差信号的反向传播。在误差信号反向传播过程中,网络的权值由误差反馈进行调节,通过权值的不断修正使网络的实际输出更接近期望输出。 (3)反复迭代,直到满足要求或达到最大次数。 学习过程对应框图如图 2.6所示。17华中科技大学硕士学位论文图 2.6 三层 bp网络学习过程框图18华中科技大学硕士学位论文2.3.3 bp算法的改进 bp算法改进的主要目标是为了加快训练速度,避免陷入局部极小值和改善其它性能,主要有以下几种改进方法: (1)带动量因子算法。该方法是在方向传播的基础上在每一个权值的变化上加上一项正比于前次权值变化的值,并根据反向传播法来产生新的权值变化。带有附加动量因子的权值调节公式为: + wk11?mc p+mcwkij i j ij(2.11) + b1 k 1?mc +mcbkiii式中 k为训练次数,mc 为动量因子,一般取 0.95左右。 附加动量法的实质是将最后一次权值变化的影响,通过一个动量因子来传递。以此方式,当增加动量项后,促使权值的调节向着误差曲面底部的平均方向变化,当网络权值进入误差曲面底部的平坦区时, 将变得很小,于是: i+ wk1wk (2.12) ij ij从而防止了 的出现,有助于使网络从误差曲面的局部极小值中跳出。 wk 0ij(2)自适应学习速率 对于一个特定的问题,要选择适当的学习速率并不是一件容易的事情。对训练开始初期功效很好地学习速率,不见得对后来的训练合适。为了解决这一问题,人们自然会想到在训练过程中自动调整学习速率。下面给出一个自适应学习速率的调整公式: 1.05 kssek+ 1 ssek? k+ 1 0.7 kssek+ 1 1.04ssek(2.13)k 其它(3)作用函数后缩法19华中科技大学硕士学位论文11fx ? +x21 +e (2.14) 12f xf ? x 4实验证明,采用此方法,收敛时间平均可减少 30%-50%。 (4) 改变性能指标函数 前面定义的性能指标函数是一个二次函数: 12et?y (2.15) kk2k下面给出一个广义性能指标函数: ge + 1? ennmm0 0(2.16)+ ek , 1? ek , 21iiki 11 k11i12式中: ()xx ; ?是一个正定、凸、连续和处处可微函数, 0,1。 2 12nm 0分析:当 1时,g1 e ,k,即优化按单一的二次型目标函数进行。e 2 iki 11的选择是采用综合目标函数的关键问题。研究表明,一个合理选择是使 g0e 逼近于绝对值误差准则(即 l1?范数)。取: x x lncosh (2.17) 1式中, 是一个可控参数,当 足够大时, 21 x 1 x2x cosh + 1 , x (2.18) 122 即此时 g0逼近于二次误差准则(即 l2?范数)。 当 足够小时, x1 1xcoshex , x (2.19) 122即此时 g0逼近于绝对值误差准则。20华中科技大学硕士学位论文3 城市区域空气质量 bp预测模型研究 城市区域空气质量预测模型研究为华中某市城市空气质量自动监测系统的拓展研究,文中使用的污染物浓度和气象资料都来自于该市环境保护局和气象局。 3.1 城市空气质量自动监测系统简介 城市空气质量监测系统是一套以自动监测仪器为核心、实现对监测仪器自动“测-控”的系统。主要用于大气污染的在线实时监控、远程登录、污染预警和设备可视监控等。该监测系统可做到及时、有效、快速的响应污染现状,准确、高效地提供环境空气数据,为环境环境管理者提供实时、高效的管理。 空气质量自动监测系统采用 c/s 架构,其拓扑结构如图 3.1 所示,数据流图如图 3.2所示。图 3.1 空气质量监测系统网络拓扑图21华中科技大学硕士学位论文图 3.2 空气质量监测系统数据流图 空气质量自动监测系统建成之后,应该能够实现以下功能: (1)对所需监测的污染气体及气象数据进行自动采集、处理和存储;子站工控机实时上传气体瞬时数据及设备状态信息。 (2)监测中心通过有线或无线网络取得子站设备监测数据后自动进行判别、检查和存储,对采集的数据进行进一步处理(如制作报表等等)。