（电力系统及其自动化专业论文）基于神经网络的电力系统短期负荷预测研究.pdf

哈尔滨丁程大学硕士学位论文 a bs t r a c t p o w e rs y s t e ms h o r t t e r ml o a df o r e c a s ti st h eb a s i so fp o w e rs y s t e m o p t i m i z a t i o nr u n n i n g i tc a na f f e c ts a f e t yp r o p e r t y ，r e l i a b i l i t ya n de c o n o m yo f p o w e rs y s t e mo p e r m i o n t h u s ，t of i n de f f e c t i v em e t h o dh a si m p o r t a n tm e a n i n g f o re n h a n c i n gf o r e c a s tp r e c i s i o n s of a r ，r e s e a r c h e r sh a v ec o m eu pw i t hm a n y e f f e c t i v em e t h o d s t h i sp a p e ru s e dap o p u l a rm e t h o d n e u r a ln e t w o r kt o f o r e c a s ts h o r t t e r ml o a do fp o w e rs y s t e m t h em a i nw o r ki n c l u d e d ： 1 l o o k i n gi n t ot h ep r e s e n tc o n d i t i o n o fp o w e rs y s t e ms h o r t t e r ml o a d f o r e c a s ta n ds u m m a r i z i n gr e s e a r c hm e t h o di nt h ew o r l d 2 s t u d ya b o u tt h ek n o w l e d g eo fn e u r a ln e t w o r k ，d e s i g n e db pn e t w o r k b a s e do nc o n j u g a t eg r a d i e n ta l g o r i t h mu s e di nl o a df o r e c a s ta n dr e s u l t s s h o w e dt h ea p p r o a c hw a sf e a s i b l e c o m p a r e dw i t hc o m m o nb pn e t w o r k i t s h o r t e n e dt r a i n i n gt i m ea n de n h a n c e df o r e c a s t i n gp r e c i s i o n 3 s t u d y i n gw a v e l e tk n o w l e d g e ，a t t e m p t i n gt oc o m b i n ew a v e l e ta n dn e u r a l n e t w o r kt o d e s i g nw n n ( w a v e l e tn e u r a ln e t w o r k ) t h er e s u l ts h o w e d t h i sa p p r o a c ha l s of e a s i b l e 4 c r e a t i v e l y b r i n gf o r w a r dan e wt y p en e u r a ln e t w o r k ：r a n ( r e s o u r c e a l l o c m i n gn e t w o r k ) i tc a na d do rd e l e t ei t sh i d d e nl a y e rn e u r a lu n i t e s b a s e do nt h ei n p u td a t a sc o m p l e x i t y a t t e m p tu s ei ti nl o a df o r e c a s t ，a l s o h a v eb e t t e re f f e c t ，a n dc o m p a r e da b o v et h r e ea p p r o a c h e s 5 a tl a s t ，s u m m a r i z i n gt h ew o r kh a dd o n e ，c o m i n g u pw i t hs o m ei m p r o v e d p r o p o s a l sa n di n t r o d u c i n gd e v e l o p m e n tp o s s i b i l i t yo fs h o r t t e r ml o a d f o r e c a s to f p o w e rs y s t e m k e yw o r d s ：p o w e rs y s t e m ；n e u r a ln e t w o r k ；w a v e l e ta n a l y s i s ；s h o r t t e r ml o a d p r e d i c t i o n ；c o n j u g a t eg r a d i e n ta l g o r i t h m ；r a nn e t w o r k 哈尔滨工程大学 学位论文原创性声明 本人郑重声明：本论文的所有工作，是在导师的指导下，由 作者本人独立完成的。有关观点、方法、数据和文献的引用己在 文中指出，并与参考文献相对应。除文中己注明引用的内容外， 本论文不包含任何其他个人或集体已经公开发表的作品成果。对 本文的研究做出重要贡献的个人和集体，均已在文中以明确方式 标明。本人完全意识到本声明的法律结果由本人承担。 作者( 签字) ：钟拈缇 日期：泐可年7 月_ 7 日 哈尔滨工程大学 学位论文授权使用声明 本人完全了解学校保护知识产权的有关规定，即研究生在校 攻读学位期间论文工作的知识产权属于哈尔滨工程大学。哈尔滨 工程大学有权保留并向国家有关部门或机构送交论文的复印件。 本人允许哈尔滨工程大学将论文的部分或全部内容编入有关数据 库进行检索，可采用影印、缩印或扫描等复制手段保存和汇编本 学位论文，可以公布论文的全部内容。同时本人保证毕业后结合 学位论文研究课题再撰写的论文一律注明作者第一署名单位为哈 尔滨工程大学。涉密学位论文待解密后适用本声明。 本论文( 阻在授予学位后即可口在授予学位1 2 个月后 口 解密后) 由哈尔滨工程大学送交有关部门进行保存、汇编等。 作者( 签字) ：铭据槛 日期：矽7 年月7 日 导师( 签字) ： 炒7 年刖7 日 哈尔滨工程大学硕士学位论文 第1 章绪论 电力系统的主要任务是向用户不间断地提供安全、可靠和优质的电能， 满足各类负荷的需求，这里的负荷可以是指电力需求量或者用电量，而电力 系统的负荷是影响系统安全稳定运行的重要因素。这样电力系统负荷预测就 由此发展起来，成为工程科学中重要的研究领域，是电力系统自动化中一项 重要内容。 电力系统负荷预报是指，在充分考虑一些重要的系统运行特征、增容决 策与自然条件的情况下，利用一套系统地处理过去与未来负荷的方法，在一 定精度意义上，决定未来某特定时刻或某些特定时刻的负荷值。 电力系统负荷预报按期限不同可分为年度预报、月度预报和日度预报， 从大的方面来分类，也可以分为长期、中期、短期和超短期负荷预报。一般 来说，长期预报可长达l o 3 0 年，中期预报通常为5 - 6 年，短期预报则指几 个月，几周，几天，几小时，超短期负荷预报指未来1 h ，未来o 5 h 甚至未来 1 0 m i n 的预测。 1 1 电力系统短期负荷预报的意义和目的 短期负荷预测可对未来一天到七天的负荷进行预测，是调度中心制定发 电计划及发电厂报价的依据。它也是能量管理系统( e m s ) 的重要组成部分， 对电力系统的运行、控制和计划都有着非常重要的影响，提高电力系统短期 负荷预测的精度既能增强电力系统运行的安全性，又能改善电力系统运行的 经济性【1 5 】。随着我国社会主义市场经济的不断完善，电力企业逐步走向市场， 电力系统的经营方式从垄断转变为市场竞争将成为必然。短期负荷预测是电 力市场的基础工作，随着电力市场改革的深入开展，其作用日益重要，它不 但成为发电厂报价的依据，更是保证电网安全稳定运行的重要前提，其预测 精度直接影响到了电网及各发电厂的经济效益。随着我国电力市场的进一步 发展，短期负荷预测在电力系统的经济运行方面的影响会愈来愈明显，尤其 对发电市场侧有深远影响，主要表现在： ( 1 ) 短期负荷预测值对实时电价制定的影响。电价是电力市场的杠杆和 哈尔滨工程大学硕士学位论文 i i 核心内容，体现了电力市场的竞争性和开放性，而电价的制定是在未来给定 电价计算期的负荷预测的基础上完成的。因此，发电企业要保证其电价的竞 争能力并且盈利，就必须获得较精确的负荷预测，才能订出既有竞争力又保 证盈利的电价。 ( 2 ) 短期负荷预测值对用户用电情况的影响。由于负荷的随机变化，或 发、输、配电设备的故障，电能的供、需情况是不断变化的，供电成本也是 随之变化的。即使是同一用户，不同时间用电时，对其供电的成本也是不同 的。为了反映这种差别，电力市场要促进用户合理用电，采用分时电价的措 施，鼓励用户将高峰期的负荷移至低谷期。短期负荷预测结果的出现，使用 户可以了解负荷高峰和低谷出现的时间以便合理安排用电情况，节约电费； 而且用户可以相应地对电价做出响应，选择低电价时段用电。 ( 3 ) 短期负荷预测对转运业务的影响。提供转运业务是电力市场中电网 的一项基本功能，转运是电力市场平等竞争的必要条件，可以给电网带来巨 大的效益。而电网在执行转运业务时，将根据负荷预测的数据及各发电机的 运行参数，制定发电计划和调度计划，所以准确的负荷预测将促进供、运、 用电三方的协调。 ( 4 ) 短期负荷预测对合同电量分配的影响。由于在初级发电市场，所有 电量统一进行竞价，只在电费结算时考虑合同电量，按照差价合约结算。由 于电费结算按时段进行，需将合同电量按负荷预测曲线分配至各时段。在最 后是按短期负荷预测曲线将日合同电量分到各时段，所以不准确的短期负荷 预测将导致违约，甚至引起电量分配的不合理，造成电量不足等问题。 ( 5 ) 短期负荷预测对系统充裕性评估的影响。系统充裕性评估( p r o j e c t e d a s s e s s m e n to fs y s t e ma d e q u a c y ) 由电力调度中心负责，主要内容是分析预测 中、短期系统供需平衡和系统安全情况，目的是让市场成员正确了解信息， 安排1 年中系统的供电、用电及设备检修，进行发电报价决策，以尽可能减 少电力调度中心的干预。p a s a 具有十分重要的作用，是发电市场得以顺利 进行的基础。这也体现了准确的短期负荷预测对系统及发电市场的重要影响 和作用。 哈尔滨工程大学硕士学位论文 1 2 国内外的研究现状 长期以来，国内外学者对电力系统负荷预报进行了广泛而深入的研究， 提出了许多有效的方法，主要有时间序列法、指数平滑法、专家系统法、神 经网络法、卡尔曼滤波法、小波分析法等f 1 1 1 。它们均有各自的优点，但是没 有一种方法是绝对准确的，也没有一种方法可以适用于一切电力系统。所以 各个国家在预测时根据本国的特点，采用的方法也都不一样：日本采用的是 自组织的方法，韩国采用的是人工神经网络法，沙特阿拉伯采用的是时间序 列法，印度采用的是谱分析法，美国采用的是综合知识库方法，台湾采用的 是专家系统法，而我国东北电网采用的是a i h 修正数据库的方法。【3 7 j 由此可 以看出，各种方法在应用上都有所体现。 1 2 1 研究方法简介【j l 】 1 。2 1 1 回归分析法 回归分析法是一种曲线拟合法，及对过去的具有随机特性的负荷记录进 行拟合，得到一条确定的曲线，然后将此曲线外延到适当时刻，就得到该时 刻的负荷预报值。这种方法是研究变量和变量之间依存关系的一种数学方法。 在回归分析中，自变量是随机变量，因变量是非随机变量，因变量是自变量 的变化结果，这种关系是不可逆转的。回归分析法也可由给定的多组自变量 和因变量资料来研究各自变量和因变量之间的关系，而形成回归方程，解回 归方程后，按给定的各自变量值，即能求出因变量值。回归分析法可分为线 性回归和非线性回归。 1 2 2 2 指数平滑法 指数平滑法也是一种曲线拟合法，其预报思想是：不同历史时期的负荷 对未来负荷的影响是不同的，历史时间越近的负荷对未来负荷的影响越大， 反之就越小。所以对于过去很久的数据，不必做很精确的拟合。按照这一思 想在负荷预报中，一般用过去数周的同类型日的相同时刻的负荷组成一组时 间上有序的观测值，然后对该数组进行加权平均就得到所需的负荷值。但这 哈尔滨工程大学硕士学位论文 种方法不适合于过长时期的负荷预报。 1 2 2 3 时间序列法 一段历史负荷资料组成的时间序列可以看成一个随机过程，某一时刻的 负荷与它过去的负荷有关，是在过去负荷基础上的随机波动。这种相关关系 可以用自协方差函数和自相关函数来描述，时间序列法正是通过研究这种相 关关系来建立模型和进行预测的。时间序列模型可分为自回归( 。、动平均 、自回归一动平均( a r m a ) 等。一般可以通过对原时间序列进行相关 分析，来确定模型的类型。模型辨识后，利用原序列有关的样本数据对模型 参数进行估计。时间序列法建立的模型必须满足平稳性条件和可逆性条件， 不满足这两个条件的模型不能用来预测模型。对于通用的时间序列法，虽然 考虑了负荷的历史发展趋势，但无法计及天气、日期特征等敏感因素对有功 负荷的影响。 1 2 2 4 灰色系统法 系统可分为白色系统、黑色系统和灰色系统。按照“黑箱子 理论，凡 是系统中既含有已知信息又含有未知信息的系统可定义为“灰色系统”。灰 色系统可分为非本征性灰色系统和本征性灰色系统。灰色系统理论应用于电 力系统负荷预报时，如果将影响负荷的各种复杂因素联合起来看成一个大系 统，则它兼有确定性和不确定性，本征性和非本征性灰色系统特征。实际的 历史负荷资料能够清楚地显示出其灰色系统特征：年、月、日的负荷既有逐 年增长趋势的确定性的一面，同时又有每年、每月、每日负荷随机变化的不 确定性的一面。灰色系统模型在电力系统负荷预测中主要用于中期和长期的 预报。 1 2 。2 5 卡尔曼滤波法 卡尔曼滤波法又称状态空间法。其指导思想是：把负荷分解为确定分量 和随机分量，确定分量一般用一阶线性模型描述和预测，随机分量可用状态 变量表示，通过建立状态空间模型进行负荷预测。如考虑非线性，则应用广 义卡尔曼滤波法。在卡尔曼滤波法中负荷是通过状态方程和输出方程来建模 4 哈尔滨工程大学硕士学位论文 的。在实际应用中其最大的困难在于估计出噪音的统计特性。最新的方法是 采用极大似然估计来决定量测噪音和系统噪音方差。 1 2 2 6 专家系统法 专家系统是一个基于知识的计算机智能程序系统。它具有跟人类专家一 样的决策功能，能模拟人类专家的思维过程，对问题求解并给出相当于专家 水平的答案。一个完善的专家系统通常由知识库、推理机、数据库、知识获 取部分、解释部分共五个部分组成。建立一个专家系统最困难的是知识获取 部分。借助专家系统，能识别预报日所属类型，考虑天气因素对负荷的影响， 按一定的规则推理并进行预报。其缺点是知识库的形成过程复杂，工作量大， 把专家的知识和经验等精确地转化为一系列规则往往难度较大，从不同的专 家得到的知识有可能不同。尽管如此，专家系统对于解决不确定性问题和非 规律性问题仍然是一个强有力的工具。 1 2 2 7 小波分析法 小波分析是一种时域频域分析，它在时域、频域同时具有良好的局部 化性质。电力系统负荷具有周期性，即以天、周、年为周期发生波动，大周 期套小周期。小波变换能将各种交织在一起的不同频率混和信号分解成不同 频带上的块信号。通过对负荷序列进行小波变换，可以将各子序列分别投影 到不同的尺度上，子序列分别代表了原负荷序列中不同“频域”的分量，因 而各子序列的周期性更加明显，因而可对不同的子序列分别进行预测，然后 通过序列重构得到完整的负荷序列预报结果。 1 2 2 8 神经网络法 传统负荷预报的数学模型是用显式的数学表达式加以描述，这就决定了 传统的预测模型的局限性。事实上，负荷变化的自然规律很难用一个显式的 数学公式予以表示。神经网络方法是这一领域内的一个重大突破。该方法以 传统显式函数的自变量和因变量作为网络的输入和输出，将传统的函数关系 转化为高维的非线性映射。神经网络是一个具有高度非线性的超大规模连续 时间动力系统，可以映射任意复杂的非线性关系，且能够使别有噪声或变形 哈尔滨工程大学硕士学位论文 的样本，通过学习能把样本隐含的特征和规律分布于神经网络的连接权上， 因此，近年来在电力系统负荷预报中得到了广泛的应用。 1 2 2 国内研究现状 目前国内的学者应用的方法比较多样：东南大学的陆海峰、单渊达应用 时间序列法，在a r m a 的基础上引入反馈量为随机序列建模，并用f 检测逐步 自动定阶，以长自回归计算残差法估计模型的初值，用递推最小二乘法对模 型进行修正，以实现实时自适应负荷预报心1 ；武汉大学的段俊东、陈昆薇采 用模糊理论对日负荷曲线预报中的天气因素进行了模糊处理，根据季节，气 候的不同对天气因素做不同的模糊处理和不同的数学模型，提高了短期负荷 预报的精度；哈尔滨工业大学的冉再文、单永正等人把小波分解的特性和分 解数据随尺度倍增而倍减的规律用于感知神经网络( m l p ) 和周期自回归移动 模型( p a r i m a ) 的建模，各尺度小波分解用m l p 进行建模和预报，最大尺度 上的尺度分解用p a r i m a 进行建模和预报，最后利用径向基函数网络( r b f ) 将各尺度域的预报结果组合成为负荷最终预报【5 1 ；山东大学的王辛等人通过 对神经网络b p 算法的改进，提出一种局部化的b p 预报算法一一( 局部化了 b a c k p r o p a g a t i o n ) ，解决了目前b p 算法不能利用单一网络精确预报假日及 工作目的负荷和不能体现各工作日负荷波动的弱点田1 ；华中科技大学的彭晓 兰等人应用改进的灰色系统方法，能根据电力负荷在不同预测点的变化趋势， 自动选择在给定预测点上预测误差最小的预测模型，并针对电力负荷的季节 性、周期性变化的特点，采用系数法进行修正阳1 ；湖南大学潘力强、马歆、 杨长青利用广义误差反向传播算法生成了一种神经网络，克服了传统b p 网络 所存在的易陷入局部极小和对初值要求较高的缺陷，同时考虑了影响短期负 荷预报的若干重要因素，从而增强了模型的精确性和适用性训；电力科学研 究院的谢开等人将k a l m a n 滤波方法应用于超短期负荷预报，并在预报过程中 引入了极大似然估计进行负荷未知参数辨识，达到了参数估计过程与预报过 程的统一蛐1 1 。 1 2 3 国外研究现状 国外学者目前大多数都采用与神经网络有关的各种方法来进行负荷预 6 哈尔滨丁程大学硕士学位论文 报：x w a n g ，l - h t s o u k a l a s 利用神经网络来获得用户电力消耗的模型，又 使用一种基于模糊逻辑的模块以最快的速度探测到信号趋势并帮助人工神经 网络校正预测结果，改进了系统对突变或者特殊情况的适应能力； v s k o d o g i a n n i s ，e m a n a g n o s t a k i s 运用径向基函数，动态神经网络以及 神经模糊技术等方法，改进了负荷预报模型，比传统的方向传播网络预报模 型更加精确口引；西班牙学者d o m i n g o a g u n d i n ，c e l i a n o g a r c i a 等人应用两 个神经模糊系统f a s a r t 和f a s b a c k ，另外还有带b p 学习算法的前向多层 感知机神经网络( m l p ) 以及a r i m a 模型，获得了不错的预报效果暗引；c h a n g i l k i m ，i n - k e u ny u ，y h s o n g 应用神经网络将季节性的历史负荷数据分为四 个类型，而后进行小波变换以便预报未来每小时的负荷怕。并使用传统的多 重回归的方法校正小波变化系数，并且将各部分重构，通过五尺度合成技术 预测最终的负荷；t a t s u y ai i z a k a ，t e t s u r om a t s u i ，y o s h i k a z uf u k u y a m a 设计的一种由两个隐蔽层组成的可分解结构神经网络( a s n n ) ，它可以有效 的预报每天负荷的峰值| 3 们；韩国学者k w a n g h ok i m ，j o n g k e u np a r k ，k a b j u h w a n g 提出用神经网络和模糊专家系统混合建模预报，先用训练过的神经网 络进行小时预报，而后用模糊专家系统针对温度和负荷变化进行校正汹3 。总 之，目前国内外对电力系统负荷预报的研究的方法很多，但是越来越多的学 者倾向于用神经网络结合其他方法进行建模预报。 1 3 神经网络应用于短期负荷预报的现状 应用人工神经网络对电力系统进行负荷预测，主要的任务就是利用人工 神经网络可以以任意精度逼近任意非线性过程的特性，来模拟负荷的运行规 律，目前应用的情况主要集中在以下几个方面： ( 1 ) 采用前馈神经网络和标准b p 算法 神经网络的输入及输出量都是相关历史负荷数据。神经网络训练样本集 的数据凭经验选取。对所选取的神经网络结构也没有一定的方法给出。这种 方法主要用于电力系统日负荷预测。它算法简单，计算速度快。但是预测误 差较大。 ( 2 ) 采用标准b p 算法，并加入了温度的影响 神经网络的输入量为历史负荷值与温度值，输出量为预测值。不同的类 哈尔滨工程大学硕士掌位论文 暑暑置i 罩；i miii；ii ；i 高昌i i ；宣宣i 暑蔷i i i 暑；暑；宣 型日及不同的时间段，采用不同的编码来表示。这种方法用一个神经网络表 示了不同的情况，但是增加了网络的输入节点，同时为了使其具有泛化能力， 隐层节点也要增加，这就增加了神经网络的复杂性，延长了网络的训练学习 时间。 ( 3 ) 采用前馈神经网络和改进算法 神经网络的输入及输出量的选取基本同上，只是利用了神经网络的多种 改进算法。大致有以下几种：加入动量项的b p 算法、二阶b p 算法、变步长 算法、基于k a l m a n 滤波的快速算法、遗传算法等。这种方法加快了网络训练 的收敛速度，有的方法对预测结果也有一定的改善。但是，这种方法由于加 入了多个约束因子，确定其值比较困难。 ( 4 ) 采用多模块神经网络的方法 由于电力系统负荷在不同的情况下，运行规则是不同的。比如在不同的 类型日、一天中的不同时段，其运行规律不同，因此应选取多个神经网络解 决不同的情况。对每日2 4 小时分为五个时段：凌晨1 时一6 时、7 时一一1 0 时、1 1 时一一下午3 时、4 时一一晚8 时和9 时一零时，每个阶段都用不 同的网络进行预测。这种方法的优点是每小块的网络结构简单，网络训练速 度快，预测精度也较高，但网络个数太多。 一 利用神经网络对电力系统负荷进行预测，主要存在以下几方面的问题需 要解决： ( 1 ) 神经网络结构的选取。由于电力系统负荷的运行规律是相当复杂的， 对应用于电力系统负荷预测的前馈神经网络结构的选取对神经网络能否体现 负荷变化规律至关重要，但是在以往的文献中，很少有人对这一问题进行研 究。 ( 2 ) 输入样本的选择。把前馈神经网络应用于电力系统负荷预测，就是要 利用人工神经网络的高度非线性映射特性，来找出电力系统中输入与输出的 映射关系。输入样本的选取对前馈神经网络经过v i s 是否能够体现电力系统 负荷的运行规律有很重要的作用。以往文献中，处理这一问题的方法是随意 盲目选取，没有科学依据。 ( 3 ) 电力系统负荷历史数据的预处理方法。电力系统负荷运行是一非平稳 随机运行的过程，其中存在着许多偶然因素的影响，比如拉闸限电等人为因 哈尔滨工程大学硕士学位论文 素的影响。并且，历史负荷数据的量测还存在着噪声影响，因此负荷的历史 数据常常包含有“不良数据”，这就需要在对其利用前进行预处理，因此需 要研究数据预处理的方法。 ( 4 ) 应用于电力系统负荷预测的前馈人工神经网络的学习速度及预测精 度还需要进一步提高。 ( 5 ) 进一步利用其它的先进方法。 总之，把人工神经网络应用于电力系统负荷预测中，还是一个十分崭新 的研究课题，国内外的许多学者在这方面做了大量的工作。本文正是从这一 理论出发，提出了三种方法，对人工神经网络应用于短期负荷预测进行了研 究，并通过仿真计算证明了本文中各种方法的先进性及实用性，从而使人工 神经网络更好地应用到电力系统负荷预测中，为电力系统实际运行提供良好 的服务。 1 4 小波变换方法概述 1 4 1 小波分析方法的发展和应用州 小波分析源于信号分析，h a r r 在1 9 1 0 年提出了第一个小波规范正交基， 即人们所熟知的h a r r 系，经过半个多世纪以来各个国家研究人员的共同努 力，小波理论已发展成为一个统一的理论框架，从而使小波分析成为傅里叶 分析发展史上的一个里程碑。1 9 3 8 年l i t t e r w o o d 和p a l e y 对傅里叶技术建 立了二进制频率分量分组理论l p 理论，即按二进制频率成分分组，傅 里叶变换的相位变化本质并不影响函数的形态和大小，这是多尺度思想最早 起源。随后，其他一些科学家又将l - p 理论推广到高维，并且建立了奇异积 分算子理论，1 9 6 5 年c a l d e r o n 又给出了再生公式，1 9 7 5 年c a l d e r o n 用该再 生公式给出了抛物型空间上的原子分解，这个公式后来成了许多函数分解 的出发点，它的离散形式已接近小波展开，只是还没有得到组成一正交系的 结论，之后许多数学家分别针对各种不同目的给出各类函数空间的“原子分 解”、“分子分解”、“拟正交展开 、“框架展开等。1 9 8 1 年s t r o m b e r g 对h a r r 系进行了改进，引入了s o b o l e v 空间的正交基，为小波分析奠定 了基础。 1 9 8 4 年，法国地球物理学家m o r l e t 首先将小波分析的概念引入到信号 9 哈尔滨 二程大学硕士学位论文 分析中对信号进行分解。随后，他与理论物理学家g r o s s m a n 共同提出了连续 小波变换的几何体系，并以小波作为函数，将它的平移伸缩系用于对可测平 方可积空间l 2 ( r ) 的展开。1 9 8 8 年m a l l a t 将计算机视觉领域内的多尺度分析 的思想引入到小波分析中，提出了多分辨分析的概念，用多分辨分析来定义 小波，给出了构造正交小波基的一般方法，研究了与f f t 相对应的快速小波 分解与重构算法- - - m a l l a t 算法，并将它应用于图像分析和重构。与此同时， d a u b e c h i e s 证明了具有有限支集正交小波基的存在性，统一了在此之前的所 有正交小波基的构造，并为以后的构造设定了框架。这样，小波分析的系统 理论初步得到了建立。 虽然小波分析作为一种系统的信号分析理论，其历史并不长，但是最近 几年来，这种分析方法已经被广泛地应用于量子场论、地震信号分析、计算 机视觉和编码、语言的分析与合成、信号和图像分析、信号的奇异性检测和 谱估计等领域，并取得了一定的进展。 在多数应用场合，传统傅里叶分析的地方，现在都可以用小波分析来取 代，小波分析优于傅里叶分析的地方是在时间域和频率域同时具有良好的局 部化特性。对低频信号采用宽窗口的小波基，并以较低的采样率进行抽样， 换来的是频率分辨率的提高，可分析信号中的平稳成分。而对信号中的高频 成分，采用窄窗口的小波基，并以较高的采用率进行抽样，具有较高的时间 分辨率，可分析信号的分平稳成分。小波变换是传统的傅里叶变换的继承和 发展，已经成为处理和分析的一种新手段。 1 4 2 小波神经网络的发展概况叭卿 把小波分析的思想用于神经网络的设计是一个大胆的设想，我们知道， 小波分析的特点在于其具有时频局部化特性，是一种包含尺度伸缩和平移函 数的分析方法。小波函数的伸缩和平移构成了l 空间上的标准正交基，而小 波神经网络就是用小波基代替通常的激励函数作为网络的神经元函数，生成 了一个与径向基函数网络在结构上相似的网络。 自从z h a n g 在1 9 9 2 年提出小波神经网络的概念以来，小波神经网络作为 一种新兴的网络，正得到越来越多的人的青睐，在文献中，z h a n g 利用了一 种由小波伸缩和平移得到的小波元函数作为神经元函数，构造了第一个被称 l o 哈尔滨t 程大学硕十学位论文 为小波网络的前馈型神经网络，并给出了用于训练网络的随机梯度算法。随 后小波网络得到了进一步的发展，1 9 9 3 年，r b a k s h i 提出了用小波作为基函 数，构造出了多分辨小波网络的设想。r b a k s h i 将小波函数和尺度函数共同 应用于小波网络之中，充分利用了二者互补的特性，给出了网络的全局误差 和局部误差的指标，并应用于混沌时间序列的预报。后来，z h a n g 又将小波 网络应用于非参数的估计中，主要提出了将小波网络的算法应用于非参数的 回归估计，尤其是离散训练数据，并给出了非线性系统辨识例子加以说明。 而在非线性系统辨识中，系统输入往往是多变量的。小波处理此类问题则比 较复杂，结合神经网络形式和小波特点，吕柏权等人建立了新型的网络，可 简单有效地解决网络多输入的问题，并且给出了网络可以逼近任意连续函数 的数学证明。黄凤岗等人受感知域划分思想的启发，将小波的多分辨分析与 b p 网络相结合，构造了种新的小波神经网络一自适应的小波神经网络， 该小波神经网络用多分辨分析生成小波树，小波树的生长与网络的训练相结 合，自适应地生成隐层节点，并且删除不佳的节点，随后相继出现了基于正 交最小二乘算法的小波神经网络和基于该网络的建模预报。 总之，小波神经网络作为新兴的网络，已经被广泛应用于非线性系统的 辨识、旋转轴心轨迹的识别、函数逼近、故障诊断、图像处理、信号处理等， 本文将它应用于电力系统短期负荷预报中。 1 。4 3 小波分析的发展前景 小波理论是科学家、工程师和数学家们共同创造的，反映了大科学时代 之间的综合、渗透的趋势，小波理论来自于傅里叶分析，思想也源于傅里叶 分析，但是它不能代替傅里叶分析，它是傅里叶分析的新发展，小波理论与 傅里叶分析的互补优势和相辅相成的良好效果已被科学家实践所证实，小波 分析的发展，一方面需要从理论上提高和丰富，尤其是三维和三维以上的小 波理论；另一方面需要在应用中提出更多的研究课题，使小波应用的深度和 广度得到进一步的拓展。 尽管小波分析形成了目前国际研究热点，但我们不能认为小波分析是包 打天下的有效工具。例如：在进行数值分析时，采用小波分析展开的优点是 能够较准确地算出f ( x ) 的精细结构，但付出的代价是代数方程阶数增大、条 哈尔滨工程大学硕士学位论文 件数变化，因此小波分析仅仅作为一个基来使用是不够的，更严重的是作为 数值计算后处理的分析手段。 由于小波处理问题的特殊技巧和特殊效果，小波分析不仅为纯数学与应 用数学提供了新的强有力的工具，而且是多媒体、信息高速公路等某些核心 技术的理论保证。 1 5r a n 网络概述 迄今为止，在各种各样的神经网络结构中，使用得最广泛的是由误差反 向传播算法训练的三层、前馈神经网络模型。这类模型一个最主要的特性就 是，它的结构是静态的和固定的，并且其隐层神经元个数必须提前确定。所 以我们由此可以看出这种网络结构缺少追踪潜在动态过程复杂程度的能力， 更别提它能够达到一个最优化的结构了。 r a n 网就是为了克服上述这种缺点而由p l a t t 提出的，它的记忆方式是 自适应的，能随着输入输出样本的复杂程度动态地增减其隐层节点。这种存 储输入输出观测值的记忆方式类似于p a r z e n 窗估计方法。他改进了这种方法 使其存储较少的观测值就能使r a n 的网络规模次线性增长并最终达到饱和。 1 6 本文所做的工作 本文研究的对象是基于神经网络的电力系统短期负荷预测。短期负荷预 测的方法有很多种，目前，神经网络预测方法受到国内外广大研究人员的高 度重视，被公认为比较有效的方法。本论文就是在此背景下，主要研究基于 前向型人工神经网络的短期负荷预测方法，在总结现有理论成果的基础上主 要对神经网络的算法、网络结构、输入数据的预处理、小波神经网络及r a n 网等方面进行了研究。 本文的主要工作如下： ( 1 ) 使用共轭梯度算法改进b p 神经网络，并将其用于短期负荷预测，改 善了普通b p 网络收敛慢、容易陷入局部最小点的缺陷，因此提高了预测的精 度和效率。 ( 2 ) 使用m o r l e t 小波函数代替s i g m o i d 函数作为人工神经网络的激励函 数，设计出小波神经网络，并将其用于短期负荷预报当中。 1 2 哈尔滨丁程大学硕十学位论文 ( 3 ) 尝试建立r a n 网络，并用它实现电力系统的短期负荷预报。通过预 报效果，对比三种网络的性能。 ( 4 ) 为加快网络训练速度，对输入数据进行预处理和归一化，使得输入 数据更适合于网络的运算。 哈尔滨丁程大学硕士学位论文 第2 章神经网络基本理论 2 1 神经网络的发展史口观 4 0 年代初，心理学家m e c u l l o c h 和数学家p i t t s 首先从信息处理的观点， 采用数理模型的方法对大脑神经细胞进行了初步研究，并于1 9 4 3 年提出了二 值神经元阈值模型。1 9 4 4 年h e b b 提出了改变神经元连接强度的h e b b 规则， 这些规则至今仍在各种神经网络模型中起着重要作用。6 0 年代，许多科技工 作者研究并提出了用于信息处理的神经网络模型以及具有学习能力的模式识 别装置，掀起了神经网络研究的第一次高潮。其中，以1 9 5 7 年r o s e n b l a t t 所提出的感知机( p e r c e p t r o n ) 最具代表性，这个模型虽然比较简单，但已经 具备神经网络的一些基本性质，例如可学习性、并行处理、分布式存储、连 续计算等。1 9 6 2 年w i d r o w 提出了自适应线性元件( a d l i n e ) 模型。7 0 年代， 人工神经网络的研究经历了近1 0 年的低潮。这主要是因为人工智能创始人之 一的m i n s k y 和p a p e r 对以感知器为代表的网络系统的功能及其局限性从数学 上作了深入地分析，并于1 9 6 9 年出版了p e r c e p t r o n 一书，该书所得出的 结论是悲观的。另外也由于当时集成电路和微电子技术的快速发展使电子计 算机速度提高、价格下降，暂时掩盖了发展新型计算机和人工智能技术的必 要性和迫切性。 在这一段发展的低谷时期，美国、日本和欧洲各国仍有少数学者扎扎实 实地继续着人工神经网络模型和学习算法的研究，提出了许多新的模型和算 法。例如在这期间，g r o s s b e r g 提出了目适应共振理论，及k o h o n e n 提出了 自组织映射模型，还有一些学者则致力于神经网络有关数学理论的研究。正 是由于他们不懈地努力，为人工神经网络进一步的发展奠定了坚实的理论基 础。 人工神经网络在8 0 年代中期得到了飞速的发展。1 9 8 2 年美国生物物理 学家h o p f i e l d 提出了h n n 模型，这个模型具有联想记忆、分类和误差自动校 正等功能。1 9 8 4 年他又将这种模型用简单的模拟电子电路实现，并成功地应 用于著名的“巡回推销员问题( t s p ) ”的求解，从而有力地推动了神经网络的 1 4 哈尔滨工程大学硕士学位论文 发展。此后，r u m e l h a r t 、b o l t z m a n 和k o s c o 等计算机科学家和生物物理学 家又做了大量的开拓性的工作，研究了多种神经网络模型，提出了许多新的 理论和学习算法。例如反向传播算法、模拟退火算法、联想记忆、玻耳兹曼 机、竞争学习等模型和算法。其中特别是反向传播算法( b p 算法) ，突破了两 层网络的限制，它算法简单，使用范围广，在实践中获得了广泛的应用。1 9 8 8 年，l i n s k e r 描述了认知网络中自组织问题的新原理。这个原理被设计成保 持有关输入活动模式的最大信息，以这样的约束限制突触连接和突触动态范 围。其它几位视觉研究者也提出了相似的建议。同样在1 9 8 8 年，b r o o m h e a d 和l o w e 描述了使用径向基函数( r a d i a lb a s i sf u n c t i o n ，r b f ) 设计多层前馈 网络的过程，r b f 提供了多层感知器的另一选择。1 9 9 0 年，p o g g i o 和g i r o s i 利用t i k h o n o v 的正则化理论进一步丰富了径向基函数网络理论。 在2 0 世纪9 0 年代早期，v a p n i k 和他的合作者发明了具有强大计算能力 的一种有监督学习网络称为支持向量机( s u p p o r tv e c t o rm a c h i n e ，s v m ) ，用 于解决模式识别、回归和密度估计等问题。这种新方法是基于有限样本学习 理论的结果。 对2 0 世纪8 0 年代神经网络复兴最有影响的是h o p f i e l d1 9 8 2 年的文章 和r u m e l h a r t 和m c l e l l a n d1 9 8 6 年的两卷书。神经网络从早期岁月算起已经 走过了很长的一段路程。确实它们已经确立了它们作为植根于神经科学、心 理学、数学、物理学和工程的交叉学科的地位。无需赘言，现在它们确立了 这样的地位并将在理论、设计和应用上继续深入下去。 2 2 神经网络概述啪，踟 人工神经网络又被称为连接机制模型( c o n n e c t i o n sm o d e l ) 或者称为并 行分布处理模型( p a r a l l e lp r o c e s s i n gm o d e l ) ，是由大量的简单元件 神经元广泛连接而成的，它是在现代神经科学研究的基础上提出的，反映了 人脑的基本特征。但它并不是人脑的真实描写，而只是它的某种抽象、简化 和模拟。网络的信息处理是由神经元之间的相互作用来实现，知识和信息的 存储表现为网络元件互连间分布式的物理联系，网络的学习和识别取决于各 神经元连接权值的动态演化过程。神经网络是一个具有高度非线性的超大规 模连续时间动力系统，其最主要的特征为连续时间非线性动力学、网络的全 哈尔涟l 栏大学硕十学位论文 局作用。大规模并行分柿式处理及高度的鲁棒性和学习联想能力。同时它又 具有一般非线性动力系统的共性，即不可预测性、非平衡性、不可逆性、广 泛连接性及自适应性等。研究这一系统的根本目的是探索人脑信息处理、存 储和搜索的机制，从而为解决客观世界所存在的一些复杂问题开辟一条新路。 8 0 年代中期以来，人工神经网络以其独特的优点引起了研究人员的极大 关注。其基本思想是从仿生学对人脑的 经系统进行模拟，使机器具有人脑 的感知、学习和推理等能力。对于控制界，人工神经网络的吸引力在于： 能够充分逼近任意复杂的非线性系统；能够学习与适应不确定系统的动态 特性：所有定量或定性的信息都分布存储于网络的各神经元，所以有很强 的鲁棒性和容错性：采用并行分布处理方法，使得快速进行大量运算成为 可能。这些特点显示了神经网络在解非线性和不确定性系统控制方面的巨大 潜力。 神经网络是模仿人脑结构进行高度平行分散处理的数学模型。一般说来， 神经网络用连接着神经细胞的神经回路网络模型化后，成为如图2l 所示的 有向图柬表示，神经网络的各节点( 神经元) 是处理要素，该处接受其它节 点的输出信号作为输入。进一步对这些输入作适当变化后决定节点的输出， 并传递给其他节点，所有这些操作都是各节点以平行分散的方式进行处理的。 图2 1 神经网络 一般认为，神经网络是一个高度复杂的非线性动力学系统。虽然每个神 经元的结构和功能十分简单，但由大量神经元构成的网络系统的行为却是丰 富多彩和十分复杂的。在研究方法上强调综台而不是分解，因为分解这步 工作已基本完成，即可将神经网络分解为极简单的神经元之间的帽互连接， 哈尔滨工程大学硕十学位论文 剩下的问题就是如何把这些极简单的神经元构成一个复杂的具备多方面功能 的系统，这便是神经网络理论所要研究的问题。 神经网络中由许多处理单元互连而形成的互连模式反映了神经网络的结 构，这决定着这个网络的能力。神经系统的稳定结构规定且制约着神经网络 的性质与信息处理能力的大小，限制着神经网络系统能力的范围。神经网络 的结构也是随着研究的不断深入而不断完善的，最初的神经网络结构只由输 入层( 由输入处理单元组成) 和输出层( 由输出处理单元组成) 组成。这种 结构的神经网络能力极为有限，不能进行许多有意义的计算，后来在这种双 层神经网络的基础上引入了中间隐含层( 由隐含层组成) 形成了三层神经网 络模型。这种三层神经网络模型可以实现任何的函数映射，这就大大提高了 神经网络的能力。 人工神经网络模拟人类部分形象思维的能力，是模拟人工智能的一条途 径。特别是可以利用人工神经网络解决人工智能研究中所遇到的一些难题。 人工神经网络理论的应用已经渗透到多个领域，在计算机视觉、模式识别、 智能控制、非线性优化、自适应滤波相信息处理、机器人等方面取得了显著 的效果。 人工神经网络模型