（电力系统及其自动化专业论文）支持向量机在电力系统短期负荷预测中的应用.pdf

a b s t r a c t s h o r t - t e r ml o a df o r e c a s t i n gp r o v i d e si m p o r t a n tf o u n d a t i o nf o rt h es a f e t ya n d e c o n o m i c a lo p e r a t i o no fp o w e rs y s t e m w i t ht h ef a s td e v e l o p m e n to fm o d e r ne l e c t r i c p o w e rs y s t e m s , t h eo p e r a t i o no fp o w e rm a r k e tr e q u i r e sh i 曲p r e c i s i o no fs h o r t t e r m l o a df o r e c a s t i n gf o rt h em i n i m a lc o s to f p o w e rs y s t e mo p e r a t i o n c u r r e n t l yt h e r eh a v e b e e nm o r es t u d i e si n t h e o r ya n dc o m p l e m e n t e dm e t h o d so fl o a df o r e c a s t i n ga n d o b t a i n e dg r e a ta c h i e v e m e n t n e wt h e o r ya n dn e wt e c h n o l o g yb a s e dl o a df o r e c a s t i n g r e s e a r c h e sh a v eb e e nd e v e l o p e dc o n t i n u o u s l y a sn e wt e c h n o l o g yo fd a t am i n i n g ， s u p p o r tv e c t o rm a c h i n e s ( s v m 、h a v eb e e ns u c c e s s f u l l ya p p l i e di np a t t e r nr e c o g n i t i o n a n dr e g r e s s i o np r o b l e m ，e ta 1 t h i sp a p e rp r o p o s e st ou s ei t sa d v a n t a g e so fn o n l i n e a r p r o c e s s i n ga n dg e n e r a t i n ga b i l i t yt oa c c o m p l i s hs h o r t t e r ml o a df o r e c a s t i n go fp o w e r s y s t e m , s oa st oi m p r o v ef o r e c a s t i n gp r e c i s i o na n de x e c u t e ds p e e d c o n s e q u e n t l yt h e s t u d yi ss i g n i f i c a n ti nt h e o r ya n di sv a l u a b l ei np r a c t i c e 1 1 1 i sp a p e ra n a l y s e st h eb a s i ct h e o r i e so fs v m s v mh a v et h er e m a r k a b l e a d v a n t a g e s o fn o n l i n e a rr e g r e s s i o n ，h i 曲f o r e c a s t i n ga c c u r a c ya n ds m a l lt i m e c o m p l e x i t y a c c o r d i n gt h en o n l i n e a rr e l a t i o n s h i pb e t w e e n t h ef o r e c a s t i n gl o a da n di t s i n f l u e n c ef a c t o r s ，t h i sp a p e rp r o p o s e sas h o r t t e r ml o a df o r e c a s t i n gm o d e lb a s e do n s v m c o m p a r e dw i t ht h ef o r e c a s t i n gm e t h o do fa r t i f i c i a ln e u r a ln e t w o r k s ( a n n ) t h es i m u l a t i o nr e s u l t so ft h ep r a c t i c a la p p l i c a t i o ns h o wt h a tt h es v mm e t h o di sm u c h b e t t e rt h a na n n b e c a u s eo fn u m e r o u sl o a di n f l u e n c ef a c t o r sh a v i n gag r e a to fc o m p l e x c h a r a c t e r i s t i c s ，t h ep a t t e r n , w i t h o u ts e l e c t i n gi n p u tv e c t o r s ，w i l ll e a dt or e d u c eo ft h e p r e c i s i o na n di n c r e a s eo ft h ee o m p u t e r i n gt i m e t h e r e f o r et h i sp a p e ra d o p t sa n e f f e c t i v ef u z z yc l u s t e r i n ga n a l y s i sa n dp r o c e s st e c h n o l o g yf o rt h el o a d d a t aa n d c o m b i n e st h ec l u s t e r i n ga l g o r i t h mw i t hs v m an e ws v mm e t h o db a s e do n f c m f u z z yc l u s t i n ga l g o r i t h mf o rs h o r t - t e r ml o a df o r e c a s t i n gi sf i r s tp r e s e n t e di nt h i sp a p e r c o m p a r e dw i t ht h ec o n v e n t i o n a ls v mm e t h o d ，t h i sm e t h o dc h o o s e st r a i n i n gs a m p l e s b yf u z z yc l u s t e r i n ga c c o r d i n g t o s i m i l a r i t yd e g r e e o ft h ei n p u ts a m p l e si n c o n s i d e r a t i o no f t h ep e r i o d i cc h a r a c t e r i s t i co f l o a dc h a n g e ，w h i c hm e a n st a k et h es a n l e t y p eo ft h ed a t aa st h el e a r n i n gs a m p l e sf o rf o r e c a s t i n g ，g u a r a n t e et h ec o n s i s t e n c yo f t h ed a t ac h a r a c t e r i s t i ca n de n h a n c et h eh i s t o r yd a t ar e g u l a t i o n t h er e s u l t so ft h e p r a c t i c a la p p l i c a t i o no f t h ep r o p o s e dm e t h o ds h o wt h eu s e f u l n e s so f t h i sm e t h o d b o t h t h ep r e c i s i o na n d s p e e do f l o a df o r e c a s t i n gc a nb ei m p r o v e d k e yw o r d s ：p o w e rs y s t e m , s h o r t - t e r ml o a df o r e c a s t i n g ，s u p p o r tv e c t o r m a c h i n e s ，f u z z yc l u s t i n g ，s i m i l a r i t yd e g r e e 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作和取得的 研究成果，除了文中特别加以标注和致谢之处外，论文中不包含其他人已经发表 或撰写过的研究成果，也不包含为获得墨注盘堂或其他教育机构的学位或证 书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中 作了明确的说明并表示了谢意。 学位论文作者签名：签字日期：枷年j , e l o 日 学位论文版权使用授权书 本学位论文作者完全了解苤鲞盘生有关保留、使用学位论文的规定。 特授权苤盗盘鲎可以将学位论文的全部或部分内容编入有关数据库进行检 索，并采用影印、缩印或扫描等复制手段保存、汇编以供查阅和借阅。同意学校 向国家有关部门或机构送交论文的复印件和磁盘。 ( 保密的学位论文在解密后适用本授权说明) 学位论文作者签名：差额 签字臼期：彰年, e i o 日 ， 导师签名： 签字日期： 天津大学硕士学位论文 第一章绪论 第一章绪论 1 1 本课题研究的内容及意义【1 1 电力系统的作用是对各类用户经济地提供可靠且合乎标准的电能，以随时满 足用户的要求。负荷的大小与特性，无论是对电力系统设计还是运行而言，都是 极为重要的因素。精确的负荷预测能增强电力系统运行的安全性和可靠性。价格 竞争机制引入电力系统形成电力市场后，对短期负荷预测的精度和速度提出了更 高的要求。负荷预测同电力市场下的发电公司、供电公司和输电公司三者的关系 都很密切。对于发电公司，负荷预测是制定发电计划、检修计划和报价的依据； 对于供电公司。负荷预测为供电方制定购电计划提供依据；对于输电公司，负荷 预测是进行电网规划及安全、可靠、经济运行的基础。负荷预测在电力市场决策 支持系统中起着十分重要的作用。 负荷是指电力需求量或者用电量，而需求量是指能量的时间变化率，即功率。 因此是发电厂、供电地区或电网在某一瞬间所承担的工作负荷。对用户来说，用 电负荷是指连接在电网的用户所有用电设备在某一瞬间所消耗的功率之和。预测 就是指根据系统的过去及现在的信息，依据系统的特性建立模型，向后推算出未 来的系统信息。电力系统的负荷预测是指在充分考虑一些重要的系统运行特性、 与国民经济相关的增容决策以及自然条件和社会条件的影响下，运用一套系统的 处理过去与未来负荷关系的数学方法，在满足一定精度要求的前提下，确定未来 特定时间或者特定时刻的负荷值。 1 1 1 电力系统负荷预测周期性分类 一般来说，电力负荷预测按预测的周期性可以分为超短期、短期、中期和长 期预测。 ( 1 ) 超短期电力负荷预测指未来1 小时或者更短时间的负荷预测。通常用于 质量控制、安全监视或用于预防控制和紧急状态处理。 ( 2 ) 短期电力负荷预测通常指1 至7 天内的负荷预测，它对发电管理部门的 机组协调、水火电协调，对电力调度管理部门保证运行性能和准确的计划电力交 易量等都有极其重要的作用。 ( 3 ) 中期电力负荷预测通常为1 月至1 年的负荷预测，用于水库调度、机组 检修、燃料计划等。 ( 4 ) 长期电力负荷预测用于电源和网络的发展，需要预测数年至数十年的负 天津大学硕士学位论文 第一章绪论 荷值，其目的是合理安排电源和电网增容与改建的建设进度，提供宏观决策的依 据，使电力建设满足国民经济增长和人民生活水平提高的需要。 1 1 2 短期负荷预测 本文将对电力系统短期负荷预测进行研究。在当前我国电力市场条件下，短 期负荷预测的重要性已经得到普遍的重视。随着引入竞争机制的程度不断提高， 电力系统正由独家垄断经营阶段转向发电竞争阶段，使得电力系统短期负荷预测 对于系统运营者、输电网所有者以及其它市场参与者变得越来越重要。快速、精 确的负荷预测有利于做出适当的计划电力交易量，提出恰当的运行计划和竞标策 略。发电计划制定的准确与否，直接取决于负荷预测精度的高低，这使得预测的 精度直接和效益相关。如果预测的误差太大，对运行会造成很多不利的影响：预 测值偏小，运行中将无法履行向邻近电网供电的合同，甚至要高价从邻近电网购 入电能，以保证对用户正常供电和电力系统运行的安全性；预测值偏大，使系统 交易蒙受损失外，还会有多余的机组处于热备用状态，从而影响运行的经济性。 赦掌握电力市场运营的主动性，首先要做好市场预测。 短期负荷预测的一个突出特点是必须在对过去负荷历史数据进行分析的基 础上，对未来负荷做出预测。电力系统的负荷在本质上来说是不可控的。由于电 力系统负荷存在各种内、外随机因素的影响，因此了解未来短期内负荷的可能变 化的一个最有效方法，就是观察负荷的历史记录，对其从本质上去研究和分析。 负荷的另一特征是电力系统负荷的周期性特征( 按天、周、月以及按年的周期性 变化的特点) ，给研究分析提供有利方面。短期负荷预报，正是密切注意到负荷 的这两个重要特征，有针对性的提出一套实际可行的方法。 对短期负荷预测的两个基本要求： ( 1 ) 精确性：短期负荷预测必须具备较高的预测精确性。一般短期预测要求 相对误差不超过3 5 。 ( 2 ) 时效性：短期负荷预测必须快速地得出预测结果，为保证对预测负荷有 充分的实施时间。时效性差会降低预测的实用价值或者导致预测的无效。 影响短期负荷预测精度的因素包括温度、湿度、降雨、风速、日光强度等气 象因素及政治因素、突发事件因素和节假日等等其它影响因素。电力系统短期负 荷预测就是在充分分析和掌握各种可能引起负荷发生变化的因素的基础上，进一 步掌握它们的规律性，给予数学工具进行定性到定量的分析，实现预测精度的稳 定性和适应性。单一的预测方法一般很难满足预测精度要求，所以本文采用了多 种智能方法进行组合，互取优势，弥补了单一预测方法的不足。 天津大学硕士学位论文第一章绪论 1 2 电力系统短期负荷预测研究现状1 1 , s - 3 8 对电力系统负荷预测的研究和应用开发工作已有六十多年的历史，至今已有 许多负荷预测方法。但是由于影响负荷的因素非线性程度极高，所以精确的电力 负荷预测仍然存在相当的困难。实践证明没有一个方法是绝对准确的，也没有一 个方法可以适用于一切电力系统。某一个特殊的方法只适用于某一个特定场合。 传统的负荷预测方法有外推法、回归分析法、相关分析法、时间序列法，卡 尔曼( k a l m a n ) 滤波法和灰色系统法等等。8 0 年代中后期，专家系统在负荷预测 中取得一定的成果。进入9 0 年代以后，人工神经网络”1 ( a r t i f i c i a ln e u r a l n e t w o r k ，a n n ) 在电力系统负荷预测的研究中日益增多。还有一些与模糊推理“” 相结合的混合型负荷预测方法，如：模糊回归法“”、模糊专家系筘法“”、模糊遗 传算法“”和模糊神经网络法“7 1 ”等等。 1 外推法 外推法是根据已知的历史资料来拟合一条能反映负荷本身增长趋势的曲线， 然后按照该曲线对于特定的未来某一点，从曲线上估计出该时刻的负荷值。常用 的曲线主要是直线、指数曲线、幂函数曲线、s 型曲线等，可根据实际电力负荷 曲线情况来选用。拟合的方法主要是最小二乘法，使估计值与预测值之间的偏差 的平方和最小。外推法在本质上是利用回归分析，得到描述负荷增长趋势最好的 模型参数估计，从而使模型可以用来预测负荷增长趋势。外推法的优点原理简单， 所需的数据量较少，使用方便。但由于负荷的变化趋势多种多样，要找到合适的 曲线函数并不容易，同时存在随机因素，使得问题更复杂。所以用简单化的线性 拟合难以实现全面性，而多项式拟合的次数又难以确定，而且次数越高公式越繁 复，有限的几个增长模型也不能囊括负荷的变动。趋势外推法主要用于长期预测。 2 回归分析法”1 回归分析法是研究变量与变量之间的一种数学方法，即通过对变量的观测数 据进行统计分析，确定变量之间的相互关系，从而实现预测目的。在负荷预测中 即根据历史数据和一些影响负荷变化的因素变量来推断将来时刻的负荷值。在回 归分析中，自变量是随机变量，因变量是待求负荷，由给定的多组自变量和因变 量资料，研究各自变量和因变量之间的关系，形成回归方程，求解回归方程后， 给定各自变量数值，即可求出因变量值。回归方程主要分为线性回归方程和非线 性回归方程。一元线性回归是将负荷看成是仅与某一因素有线性关系，事实证明 负荷受到多个因素的影响，所以一元线性回归模型不可取：多元线性回归将负荷 看成是多个因素的线性组合，表达式如下： y o ) = + 6 ，一( f ) ( 卜1 ) 天律大学硕士学位论文 第一章绪论 其中，y ( t ) 为t 时刻负荷值，x ( t ) 为t 时刻影响负荷变化的因素变量的取值， 毛纺( 产l ，“1 7 ) 为回归系数。 虽然多元线性回归考虑了多个影响因素，但是要将所有因素都考虑进来是不 现实的，因为许多因素并非以线性来影响负荷的。而非线性回归模型实质上多数 是将负荷看成可线性化的模型，例如设i n y 与x 有线性关系，但又引出如何准确 选取相应的非线性函数问题。回归法的特点是原理、结构简单。但事实上回归法 难以描述比较复杂的情况，无法详细地考虑各种影响负荷的因素，难以建立适于 短期负荷多变周期性的精确模型，只适用于长期负荷预测。 3 相关分析法o ” 相关分析法在数学建模上属于回归法。相关分析法是将待求负荷作为因变 量，各种社会和经济因素( 如国民生产总值、人口和气象资料等) 作为自变量，建 立预测方程，根据己知的负荷和社会、经济因素值确定影响系数，进而由各影响 系数代入方程得到未来时刻待求负荷值。相关分析法的优点是可清楚地看到负荷 值和其它可测量因素间的关系，缺点是有的影响系数无法得到或者难以准确地得 到，而且必须首先预测出各个自变量的值，而这有时比电力负荷预测更加困难。 故该方法只适用于长期预测。 4 时间序列法恤1 ” 时间序列法的本质也是回归法，它们的相同点是都将预测负荷作为因变量， 不同点是回归法的自变量是各种影响因素，而时间序列法的因变量自变量都是历 史负荷。故时间序列法的因变量、自变量都是随机的。时间序列法是被认为最经 典、最系统、也是被最广泛采用的一类方法。以往经常采用的时间序列回归分析 模型有以下几种；自回归模型( a r ) 、动平均模型( m a ) 、自回归一动平均模型( a r m a ) 和累积式自回归一动平均模型( a r i m a ) 等等。根据假设初始干扰持续时段，平稳与 非平稳随机时间序列选择和确定模型，模型辨识的基本途径是对原时间序列的相 关分析，也就是计算序列的均值、自相关和偏相关函数，从而确定模型。模型辨 识之后，就要利用原序列有关的样本数据，对模型参数进行估计。时间序列方法 的特点是反映负荷近期变化的连续性，但是对天气等影响因素考虑不足，当原始 时间序列不满足平稳性时，建模、辨识比较困难，不能满足精度要求。 综上所述，传统预测法中的外推法、相关分析法和时间序列法都是以回归分 析法作为建模的基本理论依据，本质上仍是属于回归分析。回归分析法存在以下 几个问题： 输入和输出之间的非线性关系很难获得。 要求大样本量。 要求样本有较好的分布规律和确定的发展趋势。 天津大学硕士学位论文第章绪论 输入变量的数目有一定的限制。 计算工作量大。 模型缺乏灵活性。 可能出现量化结果和定性分析结果不符的现象。 5 卡尔曼( k a l m a n ) 滤波法“卸 卡尔曼滤波方法把负荷视为状态变量，建立状态空间模型，用状态方程和量 测方程来描述负荷变化。在系统噪声统计特征已知的情况下，卡尔曼滤波法能递 推地进行计算，适用于在线负荷预测。但实际应用中，对量测噪声和系统噪声的 统计特性的估计是卡尔曼滤波法的难点所在。 6 灰色系统法帆埘 灰色系统理论是介于白色、黑色系统而言的，即部分信息己知，部分信息未 知的系统。对于负荷预测而言，对其影响的供电机组，电网容量、生产能力、大 用户情况、某些产品的耗电情况等信息是已知的，但是影响负荷的其他因素，如 天气、管理政策的变化、地区经济活动情况等等是难以确切知道的，故可将电力 负荷看成是灰色系统。灰色预测具有要求负荷数据少、不考虑分布规律、不考虑 变化趋势、运算方便、易于检验等优点。但是，它和其他预测方法对比，也存在 一定局限性。由于其微分方程指数解比较适合于具有指数增长趋势的负荷指标， 对于具有其它趋势的指标则有时拟合灰度较大，因此，当数据离散程度越大，即 数据灰度越大，则预测精度越差。 7 专家系统法o ” 专家系统是一个用基于知识的程序设计方法建立起来的计算机信息处理系 统，它拥有某个特殊领域内专家的知识和经验，运用这些知识，通过推理作出智 能决策。在用专家系统进行负荷预测时，由于预测知识规则的形成及知识库的建 立是有难度的工作，需要大量的知识、经验及模拟专家操作员，一旦知识更新将 很复杂，所以可维护性差。 8 人工神经网络渺” 进入9 0 年代以来，人工神经网络( a r t i f i c i a ln e u r a ln e t w o r k ，简称a n n ) 以其大规模分布并行处理、非线性、自组织、自学习、联想记忆和很强的容错性 和鲁棒性等优良特性在电力系统短期负荷预测中得到广泛应用。人工神经网络是 由许多并行运算的功能简单的神经单元组成，是一个菲线性动力学系统。单个神 经元的作用是实现输入到输出的一个非线性函数关系。它们之间广泛的连接组合 就使得整个神经网络具有了复杂的非线性特性。人工神经网络将大量的信息存储 在其连接权值上，根据一定的学习算法调节权值，馒神经网络实现从m 维空间向 n 维空问复杂的非线性映射。在理论上己证明一个多层神经网络具有任意函数逼 天津大学硕士学位论文第章绪论 近能力，可实现任何复杂的函数映射。短期负荷预测的关键在于分析各种因素对 负荷的影响，而这些影响因素，例如天气因素、日类型等等因素，呈现的是复杂、 非线性的特性。而人工神经网络正适于解决非线性复杂映射的问题。 在目前己研究的用于负荷预测的多种神经网络模型中，最常用的有反向传播 ( e r r o rb a c kp r o p a g a t i o n ，简称b p ) 网络0 7 3 和径向基( r a d i a lb a s i sf u n c t i o n 。 简称r b f ) 网络。神经网络短期负荷预测方法分为学习训练和预测两步： ( 1 ) 构建网络模型，a n n 模型学习训练过程即是确定网络的过程：首先是将 各种己知信息( 如电力负荷、气候、时间等) 作为输入量，将待求的电力负荷作为 输出量，建立训练样本集和预测样本集，选择训练样本来训练多层神经网络，确 定网络的各个权值和阂值； ( 2 ) 应用上一步训练好的的网络模型进行预测：选择预测样本输入，计算可 得出待求负荷。 研究表明：一个结构设计合理并且经过良好训练的神经网络，在预测精度方 面比传统预测方法具有更大的优越性。人工神经网络方法的特点是引入非线性拟 合概念，预测精度提高。存在的主要缺点是网络收敛慢，有时陷入局部最小值。 1 3 支持向量机在电力系统中的应用f 3 9 别l 近年来，由贝尔实验室的v a p n i k 提出的支持向量机o ”( s u p p o r tv e c t o r m a c h i n e ，简称s v m ) 做为数据挖掘的一项新技术，应用于模式识别和处理回归问 题等诸多领域，与神经网络方法相比，有着显著的优越性，被认为是人工神经网 络方法的替代方法“。与传统的神经网络学习方法不同，s v m 实现了结构风险最 小化原理( s t r u c t u r a lr i s km i n i m i z a t i o n ，简称s r m ) ，它同时最小化经验风险 与v c 维的界，以取得较小的实际风险，即对未来样本有较好的泛化性能。s 的训练等价于解决一个线性约束的二次规划问题，从理论上说，得到的将是全局 最优点，解决了在神经网络方法中无法避免的局部极值问题。解中只有部分不 为零，对应的样本就是支持向量。支持向量实际上是训练集的子集，对支持向量 的最低分类等价于对训练集的分类。由于s v m 在解决有限样本、非线性及高维识 别中突出体现了其优势，而电力系统又是复杂的非线性动力系统，故s v m 在电力 系统中的应用研究正在成为研究热点。 s v m 最初用来解决模式识别问题，目的是发现泛化性能好的决策规则。s v m 在语音识别“”、人脸识别“”和故障诊断“”等领域得到了应用研究。文献 4 4 ，4 5 将支持向量机应用到了电力系统暂态稳定评估中，有效地提高了暂稳评估模型的 泛化能力，解决了暂态稳定评估的多类识别问题；文献 4 6 将支持向量机应用 到变压器故障诊断中，解决了变压器故障识别问题；文献 4 7 进行了电能质量扰 - 岳 天津大学硕士学位论文第一章绪论 动支持向量机分类识别研究，构造了支持向量机分类树进行扰动分类；文献 4 8 ， 4 9 将支持向量机用于汽轮机和水轮机调速系统故障诊断，取得了良好效果。 随着v a p n i k 的e 一不敏感损失函数的引入，s v m 已经扩展为解决非线性回归 估计问题，将s v m 应用到处理非线性回归问题的方法即为支持向量回归法 ( s u p p o r tv e c t o rr e g r e s s i o n ，简称s v r ) 。s v m 回归先采用非线性映射将低维输 入空间映射到高维特征空间，再在高维特征空间中进行线性回归，取得在原输入 空间非线性回归的效果，即将实际问题通过非线性变换到高维特征空间，在高维 空间中构造线性函数来实现原空间中的非线性函数。与a n n 相比较，s v m 成功解 决了如何合理确定网络结构、过学习与欠学习、局部极小点等棘手的问题。文献 5 0 ，5 1 在将s w 应用到电力系统短期负荷预测方面做出了很好的探索。 s v m 回归算法进行电力系统负荷预测能够取得比神经网络等其他预测方法更 好的效果，算法收敛时间快且预测精度高。且s v m 还具有可调参数少，结构易确 定等优点，不需要过多的先验信息和使用技巧。因此s v m 在电力系统负荷预测领 域中的应用研究越来越受到重视，s v m 成为继神经网络之后，新的负荷预测方法 研究热点。本文将深入研究基于支持向量机的短期负荷预测方法。 本文将s v m 短期负荷预测方法分为学习训练和预测两步： ( 1 ) s v m 学习训练过程即是确定s v m 回归函数的过程：将各种负荷影响因素 作为输入量，将待求的电力负荷作为输出量，建立训练样本集和预测样本集。根 据训练样本建立s v m 目标函数，最小化目标函数以取得最优解，即通过二次规划 确定回归决策函数中的参数，将解带入回归函数，从而得到s v m 回归决策函数： ( 2 ) 利用上一步得到的训练好的s w 回归决策函数来预测：选择预测样本输 入带入s v m 回归决策函数，计算可得出待求负荷。 1 4 本文的主要工作 在电力系统短期负荷预测中，提高预测精度和缩短预测时间是预测的基本要 求。本文利用s v m 具有全局最优、泛化能力强、训练时间短等优势，将其应用于 电力系统短期负荷预测。基于s v m 优越的非线性学习及预测性能，针对电力系统 短期负荷预测的各种影响因素的非线性特性，本文提出基于支持向量机的电力系 统短期负荷预测。由于影响负荷变化的因素繁多且复杂，多个负荷预测影响因素 与预测对象之间呈现十分复杂的非线性关系，直接根据多个预测影响因素与预测 对象之间的关系，建立令人满意的数学模型是很困难的，预测结果也不能满足精 度要求。本文考虑到负荷变化的周期性特点以及样本数据特征的一致性可提高 s v m 的推广能力，将模糊聚类与支持向量机相结合，发挥它们各自的优势，首次 提出了一种基于样本聚类的支持向量机短期负荷预测新方法，该方法具有重要的 天津大学硕士学位论文 第一章绪论 理论意义和实用价值。 本文的研究内容主要包括以下几部分： ( 1 ) 本文系统地对国内外各种负荷预测方法进行了总结归纳，对已有方法， 特别是人工神经网络方法，具体分析了它的优势和缺陷，为本文研究工作开展奠 定了重要基础。本文概括了负荷预测的一般过程，将提高预测精度和速度的途径 归纳概括为两个方面：一是在预测过程中设法计及各种相关因素( 如气象因素) 对 预测结果的影响；二是积累历史数据，总结经验，改进预测模型与方法。 ( 2 ) 本文根据支持向量机的原理，利用支持向量机方法及其全局最优性和推 广能力强等优势，提出将其应用于电力系统短期负荷预测。建立了基于s v m 的短 期负荷预测模型。仿真测试的结果证明了s v m 法的有效性。本文分析并总结s v m 及b p ，r b f 神经网络的负荷预测结果，指出本文研究的基于s v m 的短期负荷预测 模型是有理论意义和实用价值的。 ( 3 ) 本文分析了电力系统负荷特性，由于影响负荷特征的各种因素之间的复 杂性，所以用任意负荷样本不加选择地均作为输入样本训练模型，会导致预测模 型的泛化能力降低。因此选择恰当的训练样本是影响预测精度的重要因素，对负 荷样本分类成为负荷预测的重要内容。 ( 4 ) 本文针对负荷变化周期性特点，应用模糊聚类分析的基本原理，引入负 荷特征量的“相似度”的概念，依据输入样本的相似度选取训练样本，即选用同 类特征数据作为预测输入，保证了数据特征的一致性，强化了历史数据规律。本 文对负荷预测中要考虑的相关因素进行了模糊聚类处理，并提出选择相似度大的 数据作为训练样本输入变量。本文采用的聚类方法为模糊c 均值( f u z z y c m e a n s ，简称f c m ) 算法。通过对实际系统负荷序列的仿真测试，证明此方法 能有效、准确的辨别样本之间的相似度并进行样本聚类，将原始样本集聚成样本 子集。 ( 5 ) 本文在分析模糊聚类和s v m 两项研究结论的基础上，创造性地提出联合 聚类算法和支持向量机的短期负荷预测新方法，结合了模糊聚类算法和s v m 各自 的优势，构造出具有聚类特征的s v m 负荷预测模型。并进行仿真和测试。依据天 津地区2 0 0 0 年负荷数据试验结果表明：该方法在预测精度上都要优于常规s v m 方法和神经网络法，在工作日和休息日都能达到较高的精度，且预测速度提高。 因此本文所提电力系统短期负荷预测新方法具有重要的理论意义和广泛的实用 价值。 天津大学硕士学位论文 第二章支持向量机的基本理论 2 1 概述【5 2 5 5 】 第二章支持向量机的基本理论 学习是人类具有的一种重要智能行为，也是机器学习的核心。人类智慧中的 一个很重要的方面是从实例中学习的能力，通过对已知事实的分析总结出规律， 预测出不能直接观测的事实。在这种学习中，重要的是能举一反三，即利用学习 得到的规律，不但可以较好的解释已知的实例，而且能够对未来的现象做出正确 的预测与判断，我们称这种能力为推广能力。在人们对机器智能的研究中，希望 能够用计算机来模拟这种学习能力，这即是我们所说的基于数据的机器学习，或 者简单地称作机器学习。现有机器学习方法共同的重要理论基础之一是统计学。 在这种方法中，用训练样本来估计参数的值。这种方法有很大的局限性，是因为 传统统计学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基 于此假设。但在实际的问题中，样本数往往是有限的，因此一些理论上很优秀的 学习方法在实际中表现却可能不尽人意。 支持向量机理论上是以统计学习理论( s t a t i s t i c a ll e a r n i n gt h e o r y ，简称 s l t ) 为坚实基础的。统计学习理论是一种专门研究有限样本情况下机器学习规律 的理论，与处理大量样本的经典方法有着显著的不同。对于有限样本的学习，过 去的方法基本上是基于经验风险最小化原则( e m p i r i c a lr i s km i n i m i z a t i o n ，简 称e r m ) ，在训练数据上最小化训练错误，即最小化经验风险。与传统统计学相 比，统计学习理论针对有限样本统计问题建立了一套新的理论体系，在这种体系 下的统计推理规则不仅考虑了对推广能力的要求，丽且追求在现有有限信息的条 件下得到最优结果。贝尔实验室的v v a p n i k 等人从六、七十年代开始致力于此 方面的研究，到九十年代中期，随着其理论的不断发展和成熟，统计学习理论开 始受到越来越广泛的重视。1 9 9 2 年- 1 9 9 5 年，由v v a p n i k 及其合作者在统计学 习理论的基础上发展出了一种崭新的机器学习方法一支持向量机。s v m 没有以传 统的经验风险最小化原则作为基础，而是建立在结构风险最小化原理基础之上， 发展成为一种新型的结构化学习方法。支持向量机能很好的解决有限数量样本的 高维模型的构造问题，而且所构造的模型具有很好的预测性能。 支持向量机在解决有限样本、非线性及高维模式识别问题中表现出了许多特 有的优势，并能推广应用到函数拟合等其他机器学习问题中。初期s v m 主要被集 中应用于模式识别等问题上，经过短期的研究发展，s v m 在回归应用方面也取得 了卓有成效的成果。由于s v m 的理论特色及其在实际应用中的良好表现，s w 己 天津大学硕士学位论文 第二章支持向量机的基本理论 成为机器学习的一个极具前途的研究领域，受到越来越多的国内外学者的关注， 正在成为继神经网络之后机器学习领域新的研究热点。并将推动机器学习理论和 技术取得重大的发展。 支持向量机的主要优点有： ( 1 ) 它是专门针对有限样本情况，其目标是得到现有信息下的最优解而不仅 仅是样本数趋于无穷大时的最优值； ( 2 ) 算法最终将转化成为一个二次型寻优问题，从理论上说，得到的将是全 局最优点，解决了在神经网络方法中无法避免的局部极值问题； ( 3 ) 算法将实际问题通过菲线性变换到高维的特征空间，在高维空间中构造 线性判别函数来实现原空间中的非线性判别函数，特殊性质能保证机器有较好的 推广能力，同时它巧妙的解决了维数问题，其算法复杂性与样本维数无关。 支持向量机的理论一直在被不断地发展完善，在实际中的应用研究也得到不 断的拓展： 在b b o s e r 等提出最优边界分类器后，1 9 9 5 年，c o r t e s 和v a p n i k 进一步 探讨了非线性最优边界的分类问题。 1 9 9 5 年，v y a p n i k 出版了“t h en a t u r eo f s t a t i s t i c a ll e a r n i n g t h e o r y ”， 系统地阐述了统计学习理论及s 的概念和分类方法。 1 9 9 7 年，v v a p n i k ，s g o k o w i c h 和a s m o l a ，发表论文“s u p p o r tv e c t o r m e t h o df o rf u n c t i o na p p r o x ij i l a t i o n ， r e g r e s s i o ne s t i m a t i o n ， a n ds i g n a l p r o c e s s i n g ”，详细介绍了基于s v m 方法的回归算法和信号处理方法。 1 9 9 7 年，m u l l e r 等采用s v r 进行时间系列建模的研究，拓宽了支持向量机 的研究领域，此后许多学者进行了这方面的研究。 1 9 9 8 年，s m o l a 在他的博士论文中系统地研究了s v m 学习的机理及其在分类 中的应用，为进一步完善s v i v i 非线性算法做出了重要的贡献。 2 0 0 1 年，s u y k e n s 等采用了s v r 进行优化控制的研究，使支持向量机的研究 肉控制领域发展，不仅开创了智能控制的新方向，而且进一步拓宽了支持向量机 的研究领域。 近几年出现了许多发展和改进的s v m 算法， 如张学工的c s v m ，s c h o l k o p f 的v s v b t 。j o a c h i m s 提出的s v m ”“，h s u 等提出的b s v m ，这些算法主要是对支持 向量机训练算法的改进，对推动s v m 的发展起了重要的作用。 2 2 统计学习理论 支持向量机的思想来自于统计学习理论。统计学习理论有着完备的理论体 系，支持向量机是它的发展和一种实现。 1 阻 天津大学硕士学位论文 第二章支持向量机的基本理论 2 2 1 机器学习问题 ，机器学习的目的是根据给定的训练样本求出某系统输入与输出之间的依赖 关系，使它能够对未知输出做出尽可能准确的预测。一般可表示为：变量y 与工 存在一定的未知依赖关系，即遵循某一未知的联合概率f ( x ，y ) ，机器学习的目 的就是根据玎个独立同分布学习样本( x ，乃) ，f - 1 ，l ，x e r 4 ，从一组函数 f ( x ，w ) ) 中求出一个最优函数f ( x ，w 。) ，使得在对未知样本进行函数估计时， 最小化期望风险。 m i nr ( 力= i 三f ( x ，w ) ) d f ( x ，力 ( 2 1 ) 其中， 厂( x ，w ) ) 称作预测函数集，可以表示任何函数集，w 为函数的广义 参数， f ( x ，y ) 是样本的联合分布概率，l ( y ，f ( x ，w ) ) 是用f ( x ，们对y 进行估计 时造成的损失，称为损失函数，不同类型的学习问题有不同的损失函数。对于模 式识别问题，输出y 是类别标号，在两类识别情况下，y = 1 ，一1 ) ，对于两类识别 问题，定义损失函数为 f 0 ，y = f ( x ，w ) z ( y ，f ( 石，计) = ( 2 2 ) j 1 ，y f ( x ，叻 使风险最小就是使错误率最小。对于回归问题中，y 是连续变量，y r 定义损失函数可定义为 l ( y ，f ( x ，w ) ) = p f ( x ，忉) 2 ( 2 3 ) 即采用最小平方误差准则。 学习的目的在于使期望风险最小，然而可以利用的信息只有式( 2 1 ) ，期望 风险无法计算。在传统的学习方法中，学 - j 的目标是使经验风险r e i n p ( w ) 最小， 即采用所谓的经验风险最小化原则( e r m ) ，假设概率分布是均匀的，最小化用样 本定义的经验风险 r a i n ( 奶= 去三( y ，厂( 一，们) ( 2 4 ) 以代替最小化期望风险，在这里，期望风险足( w ) 称之为实际风险。对于模式识 别，经验风险就是训练样本错误率：对于函数回归，经验风险就是平方训练误差。 事实上，用e r m 准则代替期望风险最小化并没有充分的理论依据，丽只是直 观上合理的做法。概率论中的大数定理只是说明了( 在一定条件下) 当样本数n 趋向于无穷大时，( 2 - 4 ) 式可以趋近于( 2 1 ) 式，即经验风险r e m p ( w ) 在概率意义 上趋近于期望风险r ( w ) ，但是并没有保证使r ( w ) 最小的w 与使r ( w ) 最小的 w 是在同一个点上，也无法认定这些在样本数无穷大前提下得到的经验风险最小 天津大学硕士学位论文第二章支持向量机的基本理论 化方法在样本数有限时仍能得到好的结果。 在很多实际问题中样本的数目也远远达不到无穷大。经验风险最小原理( e r m 准则) 不成功的一个例子就是几乎所有神经网络研究者都曾经遇到过的所谓的过 学习( o v e r f i t t i n g ) 问题。人们多年来一直将大部分注意力集中到如何更好地求 取最小尺( w ) 上，但很快发现，一味追求训练误差小并不总能达到很好的预测 效果。人们将学习机器对未来输出进行正确预测的能力称为推广性。某些情况下， 当训练误差过小反而会导致推广能力的下降，这就是神经网络的过学习问题。之 所以出现过学习现象，究其原因，是试图用一个十分复杂的模型去拟合有限的样 本，导致丧失了推广能力。在神经网络中，如果对于有限的训练样本来说网络的 学习能力过强，足以记住每一个训练样本，此时经验风险很快就可以收敛到很小 甚至零，但却根本无法保证它对未来新的样本能够得到很好的预测。这就是有限 样本下学习机器复杂性与推广性之间的矛盾。因此，有限样本情况下，经验风险 最小并不一定意味着期望风险最小。所以研究一种能够指导在小样本情况下建立 有效的学习和推广方法的理论是非常重要的。 2 2 2 统计学习理论的基本概念 统计学习理论就是研究小样本统计估计和预测的理论，涉及到经验风险最小 化准则下统计学习一致性的充要条件；在这些条件下关于统计学习方法推广性的 界的结论；在这些界的基础上建立的小样本归纳推理准则及这种推理准则实现的 方法。其中，最有指导性的理论结果是推广性的界，与此相关的一个核心概