（计算机应用技术专业论文）基于支持向量机的企业用电量分析与预测研究.pdf

基于支持向量机的企业用电量分析与预测 研究 a n a l y s i sa n d p r e d i c t i o no f c o r p o r a t i o n p o w e r c o n s u m p t i o n b a s e do n s u p p o r t v e c t o rm a c h i n e s 学科专业：计算机应用技术 研究生：周广惠 指导教师：金志刚教授 天津大学计算机科学与技术学院 二零零八年八月 中文摘要 数据挖掘是目前信息技术和数据库技术方面的前沿研究课题。数据挖掘涉及 到统计学、人工智能、模糊理论和数据库技术等多项技术。聚类分析是数据挖掘 的重要功能之一。支持向量机是一门新兴的边缘学科，具有完备的统计学习理论 基础和出色的学习性能，是一类新型机器学习方法，已成为机器学习界的研究热 点。 本文讨论了数据仓库的构建模型和构建过程，以天津市某区统计局系统为 例，对数据仓库技术和数据挖掘技术进行了实际应用的研究。即在构建完成数据 仓库的基础上，提出了利用m i c r o s o f t 聚集模型进行数据挖掘，利用天津市某区 统计局企业年的逐月用电量数据，分析了电量与企业增加值、月平均气温、营业 利润等的相关关系，再利用支持向量机建立电量短期预测模型，并使用l i b s v m 软件进行实际预测和验证分析。 本文综合应用支持向量机方法，着重考虑企业增加值、月平均气温、营业利 润因素对电量的影响，确定了一种有效的电量使用短期预测方法。用2 0 0 4 2 0 0 6 年的逐月资料进行训练建模，用2 0 0 7 年的资料做效果检验，研究结果证明这种 方法对于电量短期预测的趋势预测较好。 关键词：数据仓库数据挖掘聚集支持向量机电量短期预测核函数 a b s t r a c t d a t am i n i n gi ssf r o n t i e rr e s e a r c ht o p i ci nt h ei n f o r m a t i o na n dd a t a b a s e t e c h n o l o g y i t r e l a t e st os t a t i s t i c s ，a i ，f u z z yt h e o r ya n dd a t a b a s et e c h n o l o g y e t c c l u s t e r i n ga n a l y s i si s o n eo ft h em a i nf u n c t i o n so fd a t am i n i n g s u p p o r tv e c t o r m a c h i n ei san e w l yd e v e l o p e dm a r g i n a ls u b j e c t ，b a s e do nc o m p l e t es t a t i s t i c sl e a r n i n g t h e o r y , a n dh a se x c e l l e n tl e a r n i n gp e r f o r m a n c e i ti sa n e wm a c h i n el e a r n i n gm e t h o d i th a sb e c o m eah o ts p o ti nm a c h i n el e a r n i n gf i e l d t h i sp a p e rd i s c u s s e dt h eb u i l d i n gm o d e la n dp r o c e s so ft h ed a t aw a r e h o u s e b a s e do nt h ed a t ao fo n eo ft h es t a t i s t i c a lb u r e a u si nt i a n j i n ，w ed i s c u s s e dd a t a w a r e h o u s ea n dd a t am i n i n gt e c h n o l o g y o nt h eb a s i so fb u i l td a t aw a r e h o u s e ，w e m a d eu s eo fm i c r o s o f ta s s e m b l em o d e lt o m i n ed a t a u s i n gm o n t h l yp o w e r c o n s u m p t i o no ft h e s ec o r p o r a t i o n s ，w ea n a l y z e dt h er e l a t i o n s h i p b e t w e e np o w e r c o n s u m p t i o na n dv a l u ea d d e do fc o r p o r a t i o n s ，m o n t h l ya v e r a g ea i rt e m p e r a t u r e ， b u s i n e s sp r o f i te t c t h e nw em a d eu s eo fs u p p o r tv e c t o rm a c h i n e t ob u i l ds h o r t - t e r m f o r e c a s t i n gm o d e lo fp o w e rc o n s u m p t i o n i nt h ee n d ，w em a d eu s eo fl i b s v m t o p r e d i c ta n da n a l y z e t h i sp a p e rc o n f i r m e do n eo fe f f e c t i v em e t h o di ns h o r t - t e r mf o r e c a s t i n gm o d e lo f p o w e rc o n s u m p t i o n ，s y n t h e t i c a l l ya p p l y i n g t h em e t h o do fs u p p o r tv e c t o rm a c h i n ea n d m a i n l yc o n s i d e r i n gt h ei n f l u e n c eo fv a l u ea d d e do fc o r p o r a t i o n s ，m o n t h l ya v e r a g ea i r t e m p e r a t u r e ，b u s i n e s sp r o f i t o np o w e rc o n s u m p t i o n w eb u i l tm o d e lu s i n gt h e m o n t h l yd a t u mf r o m2 0 0 4t o2 0 0 6 ，a n dc h e c k e dt h ee f f e c to ft h em o d e lu s i n gt h e m o n t h l yd a t u mo f2 0 0 7 t h er e s u l tp r o v e dt h a tt h i sm e t h o dw a sg o o da tp r e d i c t i n gt h e s h o r t - t e r mt e n d e n c yo fp o w e rc o n s u m p t i o n k e yw o r d s ：d a t aw a r e h o u s e ，d a t am i n i n g ，a s s e m b l e ，s u p p o r tv e c t o rm a c h i n e s ， s h o r t t e r mf o r e c a s to fp o w e rc o n s u m p t i o n ，k e r n e lf u n c t i o n 独创性声明 小人冉lj jj 听- i ! 父f n ，、：j ：f ：i 色芝垃 i ，j j ：导| j l ”旨吁l 、- 逊j “| ，j 叫，i f 1f l l 上刊 ：j 研究成果，除了妇 ，特圳j j l l 以标泣和致谢之处外，沦史l i f i 包岔j e 他人l 野发2 - j 性 能，是一类新型机器学习方法，已成为机器学习界的研究热点，并在如人脸检 测、手写体数字识别、文本自动分类、多维函数预测等领域取得了成功应用2 引。 支持向量机( s v m ) 解决回归问题的基本原理如下：设训练样本集 d = ( x j ，y i ) ji = l ，2 ，1 ) ，x i r “，y i r 线性回归方程为 f ( x ) = ( w x ) + b公式( 2 - 2 ) 常用的损失函数有一i n s e n s i t i v e 损失函数，q u a d r a t i c 损失函数，h u b e r 损失 函数和l a p l a c e 损失函数等【2 4 】。这里采用e - i n s e n s i t i v e 损失函数，其形式如下： 广0 当if ( x ) 一yi 确定索引策略 确定数据存放位置 确定存储分配 因为我们在逻辑设计阶段使用了s y b a s e 公司的p o w e r d e s i g n e r ，所以在 物理模型设计阶段，大部分工作将由p o w e r d e s i g n e r 自动完成，p o w e r d e s i g n e r 可以根据逻辑设计自动生成数据库s q l 脚本。 对于建立索引策略，我们的策略是首先为各表的主码和外码建立聚簇索引、 然后根据实际的运行情况，通过r d b m s 提供的数据库监控工具，建立一些合 适的非聚簇索引，从而获得最大的查询性能。 数据存放位置涉及存储设备的存取速度。由于目前高速存储设备( 如硬盘) 较为便宜，性能价格比较高，因此主要发硬盘为存储媒介，只有当进行备份时 才选用磁带进行存储。 对于存储分配，则根据具体试运行的情况作一定程度的调整。 我们采用目前已经很成熟的r d b m s 作为构建数据仓库的媒介。本系统采 用s q l s e r v e r 2 0 0 0a n a l y s i sm a n a g e r 。构建过程主要分为如下几步： 1 用在设计过程产生的s q l 脚本创建数据库，以此作为数据仓库； 2 生成元数据库； 3 把源数据库的数据抽取、净化及其它方式处理后存入数据仓库； 4 定期把源数据库中的变化数据反映到数据仓库中。 我们采用基于关系数据库的o l a p ，为了在r d b m s 上进行多维分析，在 逻辑模型的设计阶段必须完成星型模型或雪片模型的设计。观察星型模型可以 发现星型模型的作用是将多维关系分解为由主码和外码互相联系起来的二元关 系。在关系模型中，数据仓库的每个主题是由多个表来实现的。这些表之间依 靠主题的公共主码联系在一起，形成一个完整的主题。根据已知的查询的分析 需求，我们使用了星型模型。 天津大学硕士学位论文第三章企业用电量的数据仓库设计与数据挖掘分析 3 1 3 事实表与维度表的设计 数据仓库中存储细节数据的事实表和维表要求在s q ls e r v e r 2 0 0 0 数据库 管理系统中创建和管理，数据源往往是异构的，因此在数据转换中首先要实现 将o r a c l e 数据库、v f 数据库、文本数据、a c c e s s 数据库及e x c e l 电 子表形式数据等数据源中的数据导入到s q ls e r v e r 数据库中，d t s 包支持这 些数据源；其次，要将业务系统中的数据进行一定的转换和合法性检查，才能 装载到数据仓库，即生成满足需要的事实表和维表。 星形图表创建信息表和事实表： 星型模式( s t a rs c h e m a ) 星型模式将多维结构划分为两类表，一类是星形模式的核心事实表 ( f a c tt a b l e ) 它是按维进行查询的中心存储事实数据( 即事实) 的地 方。事实是数字型的属性，如计算和数量，可以被加、求平均、求最大、 求最小。并且按照各种统计运算进行合计计算。事实属性包含了适度的、 关于事实表所管理的内容的数字型值。另一类是维表。对每一个维来说， 至少有一个表用来保存该维的元数据，即维的描述信息，包括维的层次及 成员类别等。 雪片模型( s n o wf l a k es c h e m a ) 当数据的维有多个维层次时，用一张维表来描述会带来过多的冗余数据。 为了避免冗余，用多张表来描述一个复杂的维。于是在星的角上又出现了 分支，称其为雪片模型( s n o wf l a k es c h e m a ) 。 信息表中的信息包括一个唯一的表示符( i d ) 和通过这个信息表建立的所 有维所需的属性 事实表与信息表不同，它不是随时间的推移而变化。而是变得很大。这些 表中的信息与度量是一致的，如平均产量等等。它们从不改变。事实表很大， 可以包括上百万个记录。我们这里的事实表就是i a s t n e w 2 表。 雪花型图表的缺点见表3 1 l ： 表3 - 1 1 星型、雪花型图表对比 星型雪花型 行数 多少 可读性容易 难 表格数量少多 搜索维的时间快慢 雪花型图表只有一个主要优点：占空间少。标准的信息表不能提高数据分 析能力。所以也许最好的处理办法是让这些表格处于非标准格式。非标准信息 天津丈学碗士学位论立 第三章企业用电量的数据仓库设计与数据挖掘分析 表所需要的附加空间与事实表所需要的大量磁盘空间比较起来要小的多。考虑 到这些特点，本文所建的数据仓库将采用星型结构。 数据仓库中的数据来源于下列几个表： l a s t n e w 2 ( 企业电量表) 、h y ( 行业类型袁) 、d a t e ( 时间温度表) 、j j t a b l e ( 经 济类型表) 、x y t a b l e ( 效益类型表) 、g m t a b l e ( 规模类型表) 。各表之问的关系如 上圉3 - 1 。 以电量分析为例，其星型结构如图3 1 1 所示。维表包括时间维( d 甜e w e j ) 、 行业类型维表( h y w e i ) 、经济类型维表( i i w e i ) 、效益维表( x y w e i ) 、规模维表 ( g m w e i ) 。时间维表是基于数据源中年月和月平均温度而生成的。行业类型维 表是基于数据源中2 4 个行业及7 个行业大类而生成的。 图3 - 2 星型结构图 3 2 数据挖掘在统计局企业用电量分析中的应用 3 2 1 数据挖掘的过程分析 1 、数据挖掘的过程： 数据挖掘是一个依赖应用的问题，不同的数据挖掘应用可能需要不同的数 据挖掘技术，处理流程也会有所不同，一般数据挖掘的过程如图3 - 2 所示【2 9 】。 。一 弋、l r 天津大学硕士学位论文 第三章企业用电量的数据仓库设计与数据挖掘分析 数据选酝辩标数错 数攒变换簸锻携凝绝磁豹孵张游纺及哪税l 图3 3 数据挖掘的基本过程 随着i t 技术在统计局信息化建设领域中的广泛应用，信息化中数据采集处 理的能力大幅提升，在探索解决“一方面被数据淹没，一方面饥饿于信息”的 矛盾过程中，统计局数据仓库显示出了强大的生命力。 以往这些年，企业使用的能源情况虽然有大量的数据保存，但在传统0 l t p 系统中不能找到它们之间的潜在联系，从而很难为节能型企业的大力发展提供 相应的理论依据。数据挖掘技术在统计企业发展与能源需求关系方面有了用武 之地，运用数据挖掘技术来处理统计业务数据，提高决策水平、降低能源成本， 这是统计局系统加强企业发展导向的最好体现。本文主要讨论企业用电量与业 务数据的关系，对本区企业耗能情况进行分析、为电网建设提供参考信息。 3 2 2 聚类方法 聚类是指将数据对象分组成为多个类，在同一类中的对象之间具有较高的 相似性，而不同类中的对象差别较大。聚类分析已经广泛地使用在许多应用 中，包括模式识别、数据分析，图像处理，以及市场研究。通过聚类，人们能 够识别密集的和稀疏的区域，因而发现全局的分布模式以及数据属性间的关系。 本文介绍的是如何通过聚类的方法，把不同用电量的数据快速寻找出来，以便 在支持向量机软件l i b s v m 中做定量分析。 聚类分析的应用： 聚类分析在零售业，可以用于识别具有相似购买模式的用户的特征，以增 加销售商利润；用在生物学上，对基因进行分类，可以发现许多疾病和残疾的 基因成因，以发现对疾病治疗的新方法；用在对w e b 上的文档分析，可以得 到用户需要的信息。比如，聚类分析可以发现孤立点。在金融领域，可以用于 发现欺诈和其他金融犯罪行为1 3 。 聚类做为数据挖掘的一种方法，可以在任何类型的信息存储上进行，包括 天津大学硕士学位论文 第三章企业用电量的数据仓库设计与数据挖掘分析 关系数据库，数据仓库，事务数据库、高级数据库、文本文件和w e b 文档。 本文分析使用的数据库为一般的关系型数据库。 聚类的主要方法： 目前，主要的聚类方法可以分成以下几类： 1 、划分方法： 给定一个n 个对象的数据库和最终要得到的k 个划分，每个划分代表一个 类，k - n 。以上数据应同时满足如下要求： 1 ) 每个类至少包含一个对象； 2 ) 每个对象必须只属于一个类。不过，在某些模糊划分中，一个对象可以 不只属于一个类。 比较常用的划分方法有k 一平均值算法，k 一中心点算法，e m ( 最大期望 算法) ，c l a r a n s 算法。这些划分方法首先建立一个初始划分，然后将对象在划 分问移动，使同一类中的对象尽可能相似，而不同类中的对象尽可能地远离。 当存在噪声和异常点数据时，k 一中心点算法比k 一平均值算法更好，但 k 一中心点算法的计算代价较高，算法的时间复杂度高，不能很好好扩展到大 型数据库上去。 2 、基于密度的方法： 基于密度方法的基本思想是：只要临近区域的密度( 对象或点的数目) 超过 某个阈值，就继续聚类。也就是说，对给定类中的每个数据点，在一个给定范 围的区域中必须至少包含某个数目的点。这样的方法可以判别出“噪声 ，也就 是孤立点。基于密度的方法有d b s c a n ，o p t i c s ，d b c l u e s 等。 另外，还有基于层次的聚类算法，基于网格的聚类算法，基于模型的算法 等。也有一些聚类算法，集中了多种聚类方法的思想。比如，c l i q u e 和 w a ! c l u s t e r 既是基于网格的，又是基于密度的方法。 聚类分析作为数据挖掘的重要组成部分，目前已经广泛应用于各个领域。 上述算法各有各的特点。基于划分的算法适用于类数固定且偏好球形的聚类； 基于密度的算法能在带有“噪声”的空间数据库中发现任意形状、个数不定的 聚类；基于层次的算法能得到不同粒度上的多层次聚类结构；基于网格的聚类 算法处理速度快，处理时间独立于数据对象的数目；基于模型的算法适用于数 据分布已知的聚类。因此，在实际应用中，应该根据具体问题具体分析，选择 使用或设计最佳的聚类方法，也可能采用多个聚类技术，才能达到满意的要求。 天津大学硕士学位论文 第三章企业用电量的数据仓库设计与数据挖掘分析 3 23 企业用电量聚类分析 “”一5 露i 甄。- 一一鼯孑= 二二习l 襄：蘸- | i ，p “固 1 r l 雨w i il l i 鬲h 3 】j i 幽鞫斟一i 3 m e 阊= l 要竺l 一| ”“”“ 0 i 耋r |i爿| 天津丈学硕士学位论文第三章企业崩屯量的数据仓库设计与数据挖掘分析 选择“新建维度”，在维度向导中选择“星型架构”，单击“下一步”，在弹出的 对话框中选择维度表d a t e ，然后选择维度的级别： 一一9 孕i 匾_ 一震- 蔫_ l 一仁；嚣轴 ：；： 爿i 一| 一一l ! ! = ! ! l 臣j 壅习塑f 塑! l 1攀竺黔| ij 天津大学硕士学位论文第三章企业用电量的数据仓库设计与数据挖掘分析 数据的多维视图。它将多维视图直接映射到数据立方体数组结构。它相对于 r o l a p 的存储方式的优势在于对数据的访问速度快。但其相对r o l a p 也有缺 点，就是占用的存储空间比较大，而且预处理时间较长。在硬件条件允许的情 况下，在此例中采用m o l a p 。 在存储设计向导中，选择数据存储类型为m o l a p ( 多维在线分析处理) ，单击 “下一步”，在弹出的对话框中设置聚合选项，单击“开始”按钮： t 一- e t a 0 l 要卜群 l t ，i 噶“”8 阿硇卜l _ _ _ _ _ r 牲粘目r 百i z 卜+ 卜斗一 l 图3 - 1 1 存储设计向导示意图之一 在下一步的对话框中选择“立即处理”单选按钮，单击“下一步”，弹出“处理” 对话框，显示处理过程： 削t i l l “”a 口。m m 44 i 。“。q 屺 n b e 瞩嚷耐* e “一l “目口4 o h # 目日2 】c 目镕莉佃2 1 # 鲫，目o0 0 搠硝4 晕r “”胀i * 月b a 目；自性 岛 # * 。1 1 倒m “”a 口一。n 。4 p t “l t ”。黼b 。州“日t b d = w - 一i 1 白勺g 恃蝴月2 】c 目镕帮十月“，t # 鲫 目口o oo 】e * a # 2 e 皂目“- t i ”女m te n 0 = * f * 目 瞄”# n 镕t d ” 【”n ”n 目s 一一t n r l 蝌f r m 。4 a b 。l ! t n w 如 b m $ 螂 l l l l l l “】蚍” 蟛 # n * b 。d i ” m * e 。d “”m 目删n 0 1 a i t 。4 m 月 ，1 。n 。d 山。4 * t 。 口t ； * e 。d ，一c ”8 b ( * 1 n 】 口茈i * e “n 1 目自w ic i ( n 1 ) # 月“a n ”十$ 一 jf b t h z 耻l 棚啦i 撕# e ? 、i f 乓蒜闩_ l 图3 - 9 存储设计向导示意图之二 一2 s - 天津大学硕士学位论文第三章企业用电量的数据仓库设计与数据挖掘分析 建立数据挖掘模型“j u l e i m o d e l 玎! 在挖掘模型向导中，选择源类型为“o l a p 数据”单击“下一步0 在弹出的 对话框中选择源多维鼓据集为“d i e , n l i a n g ”，单击“下一步”，如下图所示- 在 弹出的对话框中选择数据挖掘技术为“m i c r o s o t t 聚集”： ”一” o t # # t 日# ；$ 目a t t h m 槐暗e t t # t s e 目i - $ l u = 。nr - 1 _ 翳蹴f - 舶十8 自自* 目g 榭t _ * 女* n 舯，_ 目日t _ 嗍 ( 一# q ) l 】+ f 警酊订* 镕* 1 图3 1 0 挖掘模型向导示意图之一 然后在“选择事例”对话框中选择维度为“d l w e i ”( 电量维) 、级别为“电量” ” 黪i l l 褡翳蕤麓纂l 葫：僦棼i 麟翳辐；罐目 瓜。 誊l 一 兰型兰里兰型i 图3 - 1 】挖掘模型向导示意图之二 继续选择“培训数据”，见图3 - 1 2 。 在图3 - 1 2 中单击“下一步”，将弹出“处理”对话框显示处理过程处理完 毕后，在“o l a p 挖掘模型编辑器”中显示聚集为3 的结果，见图3 1 3 。 天津大学硕士学位论文 第三章企业用电量的数据仓库设计与数据挖掘分析 r 蔫 l ! 口毒m ，i 1 日- m l 口m e i 口月j ! 生! 型l 匡! 垂重l 虱墅l 塑磐i l 图3 1 2 挖掘模型向导示意图之三 日z l e z e z e e 口唧譬一 排燃! 磐i 里! 吨 割_ 鐾| 鬻笋。1 耥 图3 - 1 3 挖掘模型编辑器中的结果示意图 聚类分析算法试图将“相似”的数据分为一类，聚类的结果以图形的形式 被显示出来。其中根节点是用来训练模型所有记录的聚类，节点的名称依次为 c l u s t e r l 、c l u s t e r 2 、c l u s t e r 3 。每个聚类都有一组描述该聚类中记录的规则。点 击某个节点并查看该节点的内容，就可以看到规则的列表并确定该组群包含的 是什么样的数据。聚类按照降序进行编号和排列，即聚类1 中的记录要比聚类 2 中的记录多，而聚类2 中的记录要比聚类3 中的多。在聚类模型中，靠顶层 聚类的记录越多，该聚类中记录的共通性越显著，其可信度也越高。相反，底 层聚类可以非常显著地分辨出数据中的异常值。每个聚粪记录中不同的颜色表 天津大学硕士学位论文第三章企业用电量的数据仓库设计与数据挖掘分析 示每个节点包含信息所发生的概率，颜色越深表明发生的概率越高，每个节点 的信息都在特性及节点路径中显示出来。 通过逐个分析聚类模型每一个簇中的节点路径，得到数据结果为： c l u s t e r l 节点路径： c l u s t e r l 包含1 3 8 1 1 7 4 次实例， 1 = 电量 = 1 1 5 9 1 3 7 4 8 6 5 4 8 2 5 ， z j z ( 企业增加值) 3 1 0 7 4 0 3 6 3 ， 月平均气温 8 1 0 5 3 4 9 6 3 ， 月平均气温 1 5 6 7 3 7 4 1 ， b 4 31 ( 营业利润) 4 7 5 4 2 7 2 81 。 c l u s t e r 3 节点路径： c l u s t e r 3 包含3 6 6 5 3 6 次实例， 1 2 0 8 3 4 5 l1 5 0 0 4 2 4 1 = 电量 = 3 0 7 9 2 9 6 5 8 9 0 6 5 2 3 4 3 21 5 8 8 6 4 7 z j z ( 企业增加值