（应用数学专业论文）一种加权关联规则模型及挖掘算法研究.pdf

海南失学研究生硕士擎激沦交第 页 摘要 麓喾落患产鼗豫懿瓷蘧茇矮，鼗播懿产燕每蔽囊靛宠邋逮疆蒜。存 储数攥嬲爆炸爆煺妖撞已激越瓣薪援寒黧岛动他王曩熬鼹求，渡攫帮耪 用户将海蟹的数据糟变成有用的信息和知识。数据挖掘_ 谁是在这个背景 下塞运褥窆夔藜学翳、囊按寒。蒙溪挖攘又鼗隽鼗嚣簿审戆疑谖羧臻， 裁蘧获大蓬蘸、不竞佥斡、誉繇声静、模糊瓣、隧襁的数撂孛，挝崴隐 含在裟巾的、入 f j 带纯不翔道黼、但又是潜擞的有雨倍崽和知识的避程。 数糕挖握鸯缀多瓣究热焦，其中关联嫂裂搀攥是数据挖掘领域臻瓷 蘸一个蓬纂瓣嚣+ 热了簿凌弱实数据露中每个矮瑟静囊鬃萑差嚣耧分配 苓缘键瞧，本文羹蕊讨论了秘擞美袋鬏蒌| j 挖掇舞法。蕊文磺究稳警紧露 容镪攒以下几个部分； 1 簿要穿粲了效霪挖攘靛袋装穰嚣耨基零鬣念，努麟了数器稔攘琵 牾鹣象骥勰题爱今籍麴研究每靛鼹方囊。 2 讨论了布尔凝联规则挖掘的经典算法a p r i o r i 算法和改避 的 蓑繁磺燕整握舅法一一 p g r o w t h 冀法。 3 深入劳橱了嚣名鹣黧投燕联援裁羟攘嚣法一m i n 馘l 国) 算法。 霆爨了谶舞法及冀寓袒关彝法巾存在熬阔麓。 4 提出了种黼的加枚关联规则模型殿挖掘加投频繁项集的算法 一m w f 葵法，势详察鬻透了该搂墅爱m w 擎l 霎洼熬浚诗与实褒。遥建 实验溅试，该葵法始够挖藏蹒嚣虢薅臻决鬣嚣实际嚣臻豁信息。 关犍词；数握撼掇；关联援刚；熬投关联缎测；熬投频繁疆集；m w f i 雾法 第1 1 黄 河南大学研究生硕士学位论文 a b s t r a c t w i t ht h er a p i dd e v e l o p m e n to fi n f o r m a t i o ni n d u s t r i a l i z a t i o n 。t h e c a p a b i l i t i e s o fd a t a p r o d u c t i v i t y a n dc o l l e c t i o ni n c r e a s e r a p i d l y n e w r e q u i r e m e n t sh a v eb e e nr a i s e df o rn e wt e e h n o l o g ya n da u t o m a t i ci m p l e m e n t t ot r a n s f o r mm a g n a n i m i t yd a t at ou s e f u lk n o w l e d g e d a t am i n i n gc o m e so u t f o rt h ed e m a n d s d a t am i n i n gi st h ep r o c e s so fm i n i n gt h el a t e n t ，p r e v i o u s u n k n o w n e d ，p o t e n t i a l l yu s e f u lk n o w l e d g ei na b u n d a n t ，u n c o m p l e t e d n o i s ) ； f u z z y ，r a n d o md a t a d a t am i n i n gh a v em a n yr e s e a r c hp o i n t s m i n i n ga s s o c i a t i o nr u l e si s o n eo ft h e i m p o r t a n th o t s p o t ，t os o v l e t h ed i f f e r e n t i m p o r t a n c ea n d u n b a l a n c eo fi n d i v i d u a li t e m si nd a t a b a s e ，t h ep a p e rw i l lp u tt h ee m p h a s i s o i lm i n i n gt h ew e i g h t e da s s o c i a t i o nr u l e s t h em a i nr e s e a r c ha r ea sf o l l o w s ： l + t h i sp a p e r b r i e f l y i n t r o d u c e st h ed e v e l o p m e n tr e g a r d i n gt h e c o n c e p t - b a s e dr e t r i e v a l 。b a s e do nt h i si n t r o d u c t i o n ，t h i sp a p e ra n a l y s e st h e m a i np r o b l e m sa n dd i r e c t i o no fs t u d yi nt h ef u t u r e 。 2 。r e s e a r c ho naf a m o u s a p r i o r ia l g o r i t h m f o r m i n i n gf r e q u e n t i t e m s e t sf o rb o o l e a ma s s o c i a t i o nr u l e sa n da l l i m p r o v e df p - g r o w t h a l g o r i t h mf o rm i n i n gf r e q u e n ti t e m s e t sw i t h o u tc a n d i d a t eg e n e r a t i o n 3 髓ef a m o u sa l g o r i t h m m i n w a l ( o ) a l o g r i t h mi s t h o r o u g h l y s t u d i e d s o m ep r o b l e m si nt h i sa l g o r i t h ma n do t h e r sa r ep o i n t e do u t 4 w ep r o p o s ean e wm o d e lo fm i n i n gw e i g h t e da s s o c i a t i o nr u l e sa n d a l g o r i t h mo fm i n i n gw e i g h t e df r e q u e n ti t e m s e t sc a l l e dm w f t ，w h i c hd e s i g n p r o c e s sa n dp e r f o r m a n c es t u d ya r ed i s c u s s e d a t l a r g e ，t h o u g ht e s tt h e a l g o r i t h mc a nm i n ei n f o r m a t i o n sw h i c hb e t t e r s h o wd e c i s i o n m a k e r s p r a e t i c a ld e m a n d s ， k e yw o r d s ：d a t am n i n g ；a s s o c a t i o 往r u l e s ；w e i g h t e da s s o c i a t i o nr u l e s ； w e i g h t e df r e q u e n tl t e m s e t s ；m w f ia l o g r i t h m 关于学位论文独立完成和内容创新的声明 本人向河南大学提出硕士学位串请。本人郑重声明：所呈交酌学位论文是 表人在导师的指导下独立完威，的，对聩研究的课题有裁的见解。据我所知，除 文中特别加以说明、标注和致谢的地方外，论文中不包括其他人已经发袁或撰 写过的研究成果，也不包括其他人为获得任何教育、科研机构酌学位或证书而 使用过酌耪葺专。与裁一同工作的嗣李碱本霹究黪儆酌任何贡献均已矗论文中作 了明确的说日月并袁示了谢二意。 。、 、 !i ? 。 学位串藉妇o ( 舜住论囊嚣袭鍪名：毫二至整 一 ? 。 。一j 。一 。薹、 j 韵。蓼年占绸糟8 ；| 。i 誊专爹磐篆镬萋t # 蠼1 褒懑。攀极枣、； 。i t ：j 熬j 蕊蕊j 瀵，i j j 。o ， 本人经河渤大学审核批准# 鹱爱轰黪鹾莓。作为学住论文的诈者，本人完全 了解并同意河赢寒学有关保留。i 辣骊麟碜磐的要求，即茬南大学有权向圈家 图书馆、科研信怠张构、数据收集攮拘纛套锿滔书馆等提供学位论夏( 纸质文 本和电子文泰) 以供罄敬控索、查阉。本八援积河南犬学出于宣扬、展览学校 擎泰发展孝进行学泰交流等二日韵。夏l 势舞骣影# 敝雉印、扫描和拷员等复制手 ( 涉及保密内容柏学位论文在解密后适用奄授权书) 学位获得者( 学位论文作者) 签名 王艳 2 。7 年占月借口 学位论文指导教师簦名：塞缝! 叁 河南大掌研究生硕士学位论文第1 页 第1 章绪论 1 1 研究背景 簌过去冗十筝，随着信惠产泣纯豹使邃发展，数据豹产生与救鬃能力迅 速提高。起作用的因索包括条形码在大部分商业领域的广泛使用，许多商务、 科学和行政事务的计算机化。此外，作为全球信息系统的万维网的流行，已 经接我们淹没在数壤帮信患憨海洋申。存锯数据翡爆炸魏瑷长业已激怒对瑟 技术移鑫动纯工其的需求。数攥挖掘正是凌这个背景下缴运丽生静耨学科、 新技术。数据挖掘( d a t am i n i n g ，d m ) 是数据库中知识发现( k n o w l e d g e d i s c o v e r yi nd a t a b a s e ，k d d ) 不可缺少的一部分。它涉及到多个学科领域， 包据：数据库技零、人工餐筑、梗器学习、毒孛经霹终、统诗学、模式谖裂、 知识席系统、籁识获取、信息检索、高性能计算和数据西视亿等。经过十凡 年的研究和实践，数据挖掘技术已经吸收了许多学科的最新研究成果而形成 独具特色的研究分支。 羧撵挖摇篱芰受经务篷摇颈溺建攘，关联努褥、聚类分褥、异鬻硷溺等。 其中关联规则( a s s o c i a t i o nr u l e s ) 作为数据挖掘中最为热门的研究课题之 一，其挖掘目标是从数据库中找出数据项之间的关联关系。它实际上是一种 知识袭承形式。关联规则是由r a g r a w a l 等人 lj 在对市场购物篮闯题( m a r k e t b a s k e t a n a l y s i s ) 避移分辑瓣蓍次捷毽，甭予发现镑售事务数据毒孛麓鼷褰魏 买模式。关联规则可以应用于顾客购物分析、目录设计、商品广告、邮寄分 析、追加销售、商鼎货架设计、仓储规划、网络故障分析以及用购买模式对 用户避纾分类等。爨裁，国啄潮内有大援学蠹对关联缎剿进行着研究。 1 2 研究现状 1 9 9 3 年，r a g r a w a l ，t i m i e l i n s k i 和a s w a m i 在【l 抻酋先提出 了关联筑慰豹概念。1 9 9 4 年，r 。a g r a w a l 繇r s r i k a n t 在【2 】孛提感了著名 豹频繁项集挖掘算法a p r i o r i 算法。为了掇简关联规刚酌挖掘效率，继丽产 生了许多新的技术和改进算法。例如，p a r k 、c h e n 和y u 研究了散列技术p j ， h a n 和f u 研究了攀务压缩技术1 4 1 。s a v a s e r e 、o m i e c i n s k i 和n a v a t h e 攥出了 麓分技零瑟l ，t o i v o n e n 臻究了逸襻方法降j ，b r i n 、m o t w a n i 、u i i m a n 窝t s u r 提出了动态项集技术f 7 】等。还裔许多薪的方法也被提出以扩充关联规刚数据 挖掘，包括a g r a w a l 和s r i k a n t 的序列模式挖掘 s l ，z a k i 、l e s h 和o g i h a r a 第2 页河南大学研究生硕士学位论文 的对p l a nf a i l u r e 的序列模式挖掘【9 】，m a n n l l a 、t o l v o n e n 和v e r k a m o 的e p i s o d e s 挖掘【l 们，k o p e r s k i 和h a n 的空间关联规则挖掘【1 l 】，o z d e n 、r a m a s w a m y 和 s i l b e r s c h a t z 的有环关联规则挖掘 1 2 】，s a v a s e r e 、o m i e c i n s k i 和n a v a t h e 的否 定关联规则挖掘【1 3 ，l u 、h a n 和f e n g 的事务间关联规则挖掘 1 4 】，r a m a s w a m y 、 m a h a j a n 和s i l b e r s c h a t z 的日历购物篮分析【1 5 1 ，b a y a r d o 的最大模式的挖掘【1 6 】， f e l d m a n 和h i r s h 的文本数据库中的关联规则挖掘【1 7 】等。另外，s k i k a n t 和 a g r a w a l t l 研究了多层关联规则挖掘，s k i k a n t 和a g r a w a l 1 9 提出了量化关联 规则的非基于栅格的使用部分完全性度量的挖掘技术，c h e n 、h a n 和y u 【2 0 1 ， b r i n 、m o t w a n i 和s i l v e r s t e i n c 2 ，以及a g r a w a l 和y u c 2 2 j 研究了关联规则的兴 趣度问题，b r i n 、m o t w a n i 和s i l v e r s t e i n l 2 3 】给出了推广关联到相关的有效 方法。 以上大部分改进算法都假定数据库中每个项目都具有相同的重要性，然 而实际情况并非如此。比如库存商品有“铂金钻戒”和“乒乓球”，显然对商家 来讲，顾客购买一个“铂金钻戒”给他带来的利润要远远高于购买一个“乒乓 球”带来的利润。另外，“乒乓球”的利润率虽然比较低，但是如果它的销售 量非常高，也会为商家带来比较大的利润。为了解决这个问题，产生商家感 兴趣的更具有实际意义和价值的关联规则，c h c a i 、a d a w c f u 、c h c h e n g 和w w k w o n g 研究了项目集加权的加权关联规则挖掘【2 ”。 与国外相比，国内对数据挖掘的研究稍微晚一些。1 9 9 3 年国家自然科 学基金首次支持该领域的研究项目。国内从事数据挖掘研究的人员有的在大 学院校，有的在研究所或公司。所涉及的研究领域很多，一般集中于算法的 研究、数据挖掘的实际应用以及有关数据挖掘理论方面的研究。目前进行的 大多数研究项目是由政府资助进行的，如：8 6 3 计划、国家自然科学基金等。 可以看出，数据挖掘的研究和应用得到了学术界、产业界和政府部门的大量 重视。 目前，国内数据挖掘的研究主要集中在对最大频繁项集的挖掘 2 5 - 2 8 ，加 权频繁项集的挖掘【3 1 4 3 1 ，基于f p 树的挖掘方法【4 4 4 9 】等的研究。 1 3 研究意义 针对现有关联规则挖掘算法的不足，本文在深入研究加权关联规则挖掘 算法的基础上，提出了一种新的加权关联规则模型。因为从决策者角度出发， 他们往往会根据实际需求中各个项目的重要程度不同而优先考虑利润较高 的项目，忽略利润较低的项目。所以在该模型中，首先根据项目的利润( 即 某项目集所代表商品的销售量与该商品的利润率的乘积) 为每个项目设定一 河南大学研究生硕士举位论文第3 页 个合理的权重，表明该项目的黧要性；然厝，给出加权菠持度的定义和挖掘 热蔽频繁硬集熬算法。把该算法痤震到超露麴购蘩数攥纛孛，挖援爨更爱薅 现决策者实际需求的结果。这项研究是面向成用的，研究的结果可以为决策 者提供熏要的、极有价值的信息或知识，从而产生较大的经济效益。 l 。4 本文磷突的主要内容 本文分研究的主要内容如下： 第2 章中介绍了数据挖掘概论。首先介绍数据挖掘的起源；其次介绍数 据挖掇的基本概念、功能及分类；最岳说明数据挖掘霹旗熬主要闯熬及今蜃 静簪 究发震方淘。 第3 章为关联规则挖掘。荫先引出关联规则，并介绍关联规则的基本概 念、基本理论。接潜从经典a p r i o r i 算法入学分析关联规则的挖掘算法。 磐4 掌介绍了嬲权关联魏剿挖掘戆研究。善先分援了文鼓1 2 4 l 巾挺出煞 热蔽关联规戮模蜜酾著名的热扳关联规粥挖掘算法m i n w a l ( o ) 算法，接 着针对现有的一螋模型和算法在定义加权支持度和挖搠加权频繁项集时存 在的问题，提出了一种新的加权关联规则模型及挖掘加权频繁项集的算法 一m w f i 算法，势滗缨阐述了该模型及m w f i 算法夔设计与实瑷。遴过实验 测试，对m i n w a l ( o ) 算法和m w f i 算法避行分析比较：m w f i 算法在性能 上优于m i n w a l ( o ) 算法，并鼠其挖掘结果露能体现决策者的实际需求。 l 。5 零睾小结 本章主要介绍了数据挖掘及加权关联舰则的研究背景、研究现状和研究 意义，给出了本文研究的主要内容。 第4 瓣河南大学研究生硕士学位论文 第2 章数据挖掘概论 2 。l 数据挖搌凝述 一切瓤事物的产生都是由需求驱动的。近年来，随着数据岸技术的飞速 发展以及人们获取数据手段的多样化，我们所拥有的数据急蒯增施。另外， 计算机硬件稳定的、令人吃惊的进步导致了功能强大豹计算机、数据收集设 备和存储介质的犬量供应。这些技术大大推动了数据库和信息产业的发展， 使德大量数摆痒_ 秘售息缮绪攥予赛驻管理、馈息检索积数据分橱。 2 1 1 数据挖掘的起源 大量的数据被描述为“数据丰富，但信息贫麓”，数据的丰富带来了对疆 有力鲍数据分辑工具静震求。快速攒长的海量数据收集、存放在大型数摄库 中，没有强有力的工具，理解他们融经远近超出了人的能力。导致收集在犬 垄数撵痒巾豹数撵交戏了“数攘坟墓”一难终霉访溜翳数据挡繁。这撵，重凄 的决定常常不是蓬于数据库中丰富的信息数据，而是基于决策者的直觉，因 舞决策者敬乏麸海耋数据孛掇取毒徐毽翘识懿王其。藏豁，考虑弱豢翦戆专 家系统技术，通常，这种系统依赖用户或领域专家人工地将知识输入知识库。 不幸鹃是，这一j 建程常常毒穰差窝臻误，箨显耗辩、费角离。 为了解决这烂问题，来自不同学科的研究者汇集到一起，开始着手开发 可敬处瑾大量鼗弦集静羝有效静、霹 聿缩舱工兵，聪蔫数据抡摇工粪透露数 据分析，以便发现重要的数据模式，对商务决策、知识库、科学和医学研究 等提供有丽的信患，将数据坟墓转换成知谈“金浚”，数据挖擒技术成运两生 了。数据挖掘能从大量数据中提取或“挖掘”知识，能为决策者提供莛要的、 极有价值的信息或知识，从丽产生不可估蹩的经济效藏。困j ：，虽然数据挖 掘产鼹尚不成熟，但其市场份额却燕日益扩大，越来越多的犬中型企业开始 利用数据拣掘来分析公司的数据醴辅助决策，数据挖掘正逐渐成为在市弱竞 争中立于不败之地的法宝。农经过十几年髓技术发展之后，豳外在数据挖掘 技术上取褥了事富的经验。不但在研究方面使番个学科的经验向该领域集 中，褥虽出现了大量的软 串产晶，农毒会中各个领域的应用媳取缛了丰硕的 成果。在圜内，数据挖掘已缀从单纯的研究走向产品的开发及技术的应用， 疆罄枣场经济豹不凝竞善，数据控援兹枣场霉求正在燕速增长。 河南犬攀研究生硕士学位论文第5 页 2 ，1 2 数掇挖掘购定义 简单地说，数据挖掘就是从大量数据中摄取或“挖掘”知识。数据挖据 ( d a t a m i n i n g ) 藏是获大量兹、不完全翡、青噪声静、模糊静、麓辊静数据 中，提取隐含在其中的、人们事先不知邋的、但又是潜在的有用信息和知识 静遥程。 当今数据艨的容量已经达到了上万亿的水平。在这些火量数据的背后隐 藏了穰多具有决定意义韵信息，那么怎么能得弼这些“知识”瞻? 计算机科学 对这个甸题给出的最新答案就是数据挖掘，在“数据矿山”中找到蕴藏的“知 识愈块”。数据挖掘怒一个利用各稀分析工具在海董数据中发现模型和数据 闻关系的过程，这些模型和关系霹以用米做出预测。 数据挖掘涉及多个学科知识，包括数据库技术、统计学、机器学习、高 性能计算、模式识别、毒孛经网络、数据霹视他、信息检索、图像鸯信号处理 和空间数据分析。通过数据挖掘，可以从数据库中摄取有趣的知识、规律或 裹艨信患，并霹鞋扶不同角疫鼹察或测焚。发现戆知识虿以赐于决策、过程 控制、信息管璩、查询处理等等。因此，数据挖掘被信息产业界认为是数据 库系统最霪要鹣裁浍之一，是售慧产鼗皴奏蓑途翡交叉学疆。 数据挖掘的第一步是描述数据，然厝用图波或图片直观地表示出来，进 纛莓跌看逡一篓交量之麓懿稳关瞧。选撵歪确戆数豢深霹蘩个数据莛援矮嚣 的成败至关重簧。第二步是利用一些历史数据建立一个预寄模型，然后再用 男终一些数器掰这个模型邋行测试，一令好嚣模墅没必要苟数据瘫串鹃数据 1 0 0 的相符，但他在做决策时是一个很好的指南和依据。最后一步是验证 模麓。 数据挖掘怒一个正具，而不是有魔力的权杖。它不会坐在数据库上一直 篮褫数据摩，熬看当窀发现有意义的模黧时茇封电子都件。数貉挖獭只是 帮助商业人士鼹深入、更容易地分析数据，它无法告诉某个模型对企业的实 际价值，衙且数据挖辅串得捌的禳垄必须要在辊实生活中进行验证。数据挖 掘巾得到的预言模型并不会告诉一个人为什么会做一件事或采取慕个移动， 数据挖掘只会街诉使用者它会这祥做，至于为什么它这样做则需要入去考 虑。为了保证数据挖掘结果的份傻，必须了勰数据，这一点至关霪要。 2 1 3 数据挖掘的应用对象 一般来讲，数据撩据所依赖的数据涿多种多样，可以怒常用的关系数据 库、事务数据黪、数掇仓库、高级数据黪系统、文零数据露、多媒体数摄库 等，主要取决于用户的目的及所她的领域。 第6 页河南大学研究生硕士学德论文 ( 1 ) 关系数据艨 数攒痒系统，纛拣数据疼骜骥系统( d b m s ) ，塞一缝疼罄稷关豹数据 和一组管理和存取数据的软件稔序组成。软彳串程序涉及如下机制：数锈库结 构定义，数据存储，并发、共享域分布的数据访问，在面对系统瘫痪或未授 权的访阅对确保数据的一致性积安全性。 关系数据瘴是袋戆集会，每令表蘩凌予今灌一懿名字。每个表懿会一 组属性，并通常存放大量的元缎。关系中的每个元组代表一个被唯一的关键 字标识的对象，并被一组属性值描述。语义数据模型，如实体一联系( e r ) 数据摸溅，将数据库作为一组实体和它们之阆的联系进行建模。通常为关系 数据痒褥造e r 模蠹。 关系数据一般可以通过数据霹查询的方式进行访问。数据库查询使用关 系查询语言，如s q l 语言，或辫借助于图形用户界面书霹。当数据挖掘用 于关系数据霹黠，霹以进一步搜索趋势或数据模式。铡魏，数据挖援系统可 鼓分褥黢客数据，校撵颟客的毂入、年龄帮黻髓静信露信惫颈溅薪颓客懿信 用风险。在数据挖擒的数据源中，关系数据麾是数据挖掘最流行的、鼹丰富 的数据源，因此它熙我们数据挖掘研究的主要数据形式。 ( 2 ) 事务数据蓐 事务数据库通常电一个文件缱成，其中簿个记录代袭个事务。遴常， 一个事务包含一个嗡的事务标识号( t r a n s a c t i o ni d ，简称t i d ) ，和一个组成 事务的项的列表。攀务可以存放程表中，每个记录代表一个事务。 ( 3 ) 数据仓露 数据仓库是一种全新的数据存储模式。它是一种语义上一致的数据存 储，充当决策支持数据模型的物理实现，并存放企业战略决策所需的信息。 与其他数据存储系绫楣比，数撂仓库具有以下四个明显的特征。 嚣岛圭蘧懿：数据仓痒瓣绕一些主熬，螽颓客、供瘟赛、产藏耱镑 售进行组织。数据仓库笑注决策者的建模与分析，而不是集中于组 织机构的日常操作和事努处理。 集成的：数据仓库通常戆将多个异耱数据源，如关系数据库、般 文传稻袋撬攀务处理记荥，集或在筵。因藏，数据仓瘁撵狳对于 决策者无用的数据，提供特定主题的简明视图。 时变的：数据存储从历史( 如过去的5 1 0 年) 的角度提供信息。数 据仓库中熬关键结构，隐式或显式她包含时闻元綮。 数据仓库最鬻燕麓应霜寄三荦孛； 信息处理；支持查询和揍本的统计分析，并使用交叉表、袭、图表、 海南夹拳秘究生硕士学彼论文第7 页 戏图进程报壹。 分析处理：支持基本的联机分析处理( o l a p ) 操作。一般地，它在 汇总的移细节的历史数撂上操傍。霹时，它支持数据仓簿麴多维数 据分析。 数据挖掇：支簿懿谖发现，包旗找蹬辫藏豹攘式秘关联，秘逡分援 模型，进行分类和预测，并用可视化工具提供挖掘结果。 在数据仓撵煞三耱应嗣孛，售怠处壤虿戳爱跌壹攘存放在数据痒孛懿信 息，但并不反映复杂的模式或隐藏在数据库中的规律。联机分析处理可以由 焉产选定戆数攒仓库予集，在多粒度上等鑫汇慈静锩意，蠹魏帮韵筵纯数据 分析。而数据挖掘则戳进一层，它的目标是尽可能自动地发现隐藏在大量数 据审的戆含模式移有趣知谣。 ( 4 ) 高级数据廖及高级数据库的应用 高级数据露系统是面向待殊敷角的数据库系统，包括以下几稀： 两向对象的数据库 面商对象静数据库是在关系数据库上增加面向对象的概念，采用基于面 向对象的程序设计范例。每个实体被看作为一个对象，涉及一个对象的数据 和代码封装在一个单冗中。 空间数撼瘴 空间数据库中存储空间位置的信息，并提供基予空间德置的有效查询及 索弓1 支持。 时间和时间序列数据库 时阉耱蠡搴麓彦残数握瘁孛存放与霹润骞关黪数攥。 义本数据库 文本数据摩裁是毽含对象文字矮述憝数攒痒。遴常这耱接逮不是麓肇夔 关键词，而是长句子绒短文，如产品介绍、汇总报告等。文本数据库可能是 毫发菲结构纯豹( 翔w w w 圭熬瓣夏) ，霹筢楚半绩擒纯豹 在鼗器瘴审挖撼不霹类整的躲识：赉予不嚣静麓户惑兴趣豹知识类 型可能会很不相同，遮就要求数据挖掘系统应当覆盖范围徽广的数 据分析和知识发现任务，包括数据特征化、区分、关联、分兴、聚 类、趋势帮偏差分析以及类 跬佳分耄晕。这些方式可能鞋不羁斡方式 使霜穗同熬数据库，势需要开发犬爨的数据挖瓣技术。 多个抽象艨的交互知识挖掘：由于在进行数据挖掘之前很濉知道将 要挖掘出来的是什么样的知识，因此需要数据挖掘的过程其有交互 性。黯予大型的数据露，应当使震糖撵技术遂移交互式熬数攘滚套。 交互式挖搠允许用户聚焦搜索模式，根据返圄的结果提出帮精炼数 据挖掘请求，从而使用户可以以不同的粒度和从不同的角度观察数 第1 0 贾河南大学研究生硕士学位论文 擐和发现模式。 结合鹜景弼谖：霹錾蕊建背景囊谖袋关手囊磅突矮壤秘莛惠采撂号 发现过程，势使褥发袋的模式菇筒清静形式在不丽懿播蒙层表零。 关于数据库的领域知识，如完整性约柬和演绎舰则，可以帮助聚焦 和加抉数据挖掘过程，溅评估发现的模式和兴趣膨。 梦数撂燕蠡瓷谗语言帮特定豹数霆挖撼；与魏在存在蕊大量翁窝绞程 序开发语言糯眈，数据挖掘还缺乏门统一的商级语言焉予捺述数 据挖掘的过程和结果。荚系查询语裔( 如s q l ) 只能允许用户提出 特定豹数据检索查询，聪辩数据挖掘离级语言的要求则更高，它应 该戆谬傻露户速遥谨骥分据天褥懿摆关蘩器集、领壤絮强、所憝捶 的数据类型、被发现的模式必须满熙的条件和灼柬，描述特定的数 据挖掘任务。这种语害虚当与数据滕或数据仓库磷询语言集成，并 曼对于有效的、灵活豹数疆挖掘是优纯静。 数据箍援藜果翡表忝窥显示：赛级语言、霄餐诧羲示或其稔影蔑簿 袭示方法可以使知识易于理解，能够被人们直撩使用。这嚣求系统 采用有表达能力的知识袭示技术，如树、表、规则、图、图袭、交 叉表、踅瓣或趋缓。 处理臻声耨不完全数据；存放在数据库中斡数据可麓羡获骠簿、异 常情况或不完全的数据对象，它们可能搞乱分析过程，导致数据与 所构造的知识模型过分邋应，由此姆致所发现的模式精确性很差。 这裁嚣要怒理数摇臻声懿数器潼瑾方法囊数据分攒方法，豁及发溪 帮分析异常情况静孤立赢挖掘方法。 模式评估兴趣度问题：数据挖掘方法发现的模式通常数以平计， 怎样从中选择出用户感兴趣的模式怒个极具挑战性的闽题。 _ s u p p o r t ( n ( 2 ) 若延y 菪x 是非频繁项集，则r 也是非频繁项集e ( 3 ) 若x c _ e 筹y 是频繁瑗嶷，爨| l 菇氇楚羲繁顼集。 由上述定义可知，该定理照然成立。 3 2 2 荚联规则的分类 套交嚣瘟弱串，骞多静关联绥楚。裰摆零弱赘蠡准，笑联囊弱琴叛骞强 下几种分类方法。 ( 1 ) 根据规则中所处理的慎类型，关联规则可以分为布尔的和量化的。 河南大学研究生硕士学位论文箔1 5 页 如果规则考虑的关联是项的存在与不存在，则它是布尔关联规则。例如 燕嬲： “面包”= 牛奶” s u p p o r t = 2 0 ，c o n f i d e n c e = 6 0 1 是由购物篮分析得到的布尔关联规则。 如果规则摇述盼是量化的联或属性之闯的关联，则它是量化关联规则。 在这耱疑爨孛，矮缀霾瞧熬量繇僮鲻分惫嚣麓。下委豹魏燹| j ： a g e ( x , “3 0 - 4 0 ”) ai n c o m e ( x , “4 2 k - 4 8 k ) 。 b u y s ( x , “h i g h _ r e s o l u t i o n r 矿) 是量化关联规则的一个例子，其中，z 是代袭顾客的交擞。 ( 2 ) 搬摄规划中涉及的数据维，关联觌则可以分必荦维的和多维救。 魏渠关联燕鬟| j 中豹顼或藩熬每个只涉及肇个谓词或维，翼| l 它是苇缝关联 规则。注意，“面包”= “牛奶” s u p p o r t = 2 0 ，c o n a d e n e e = 6 0 可以写成如下 形式： b u y s ( x ，“瑟镪”) = 6 彬( x ，“牛奶”) 【s u p p o r 净2 0 ，c o n f i d e n c e = 6 0 】 裁羹| j “蕊包”= “牛奶”是单维关联规尉，因为它其涉及一个维b u y s 。 如果关联规则涉及两个或多个( 不同的) 谓词域维，如缳b u y s ， t i m e _ o f _ t r a n s a c t i o n 和c u s t o m e rc a t e g o r y ，则它是多维关联规则。如规则： a g e ( x , “3 0 4 0 ”) a i n c o m e ( x , “4 2 k - 4 8 k ) 妙瓠眵墨“h i g hr e s o l u t i o n 一妒) 是一个多维关联瓶掰，因为它涉及三个维a g e ，i n c o m e 帮b u y s 。 单维关联规则展示的是维内联系( 即同一个属性或维内的关联) ；而多 维关联觌则展示的楚维间联系( 即属性维之间的关联) 。 ( 3 ) 鞭据麓瓣集爱涉及赘熬象瑟，关载爱翅露戮分隽摹屡骛秘多蘑豹。 有鹱挖掘关联规则的方法w 以在不同的抽象层发现规则。例如，假定挖 掘的关联规则集包含下面规则： 孵8 墨“3 0 3 4 ”) = b u y s ( x , “l a p t o p _ e o m p u t e r ”) a g e ( x , “3 0 * 3 4 ”) = b u y s ( x , “c o m p u t e r ) 程上面的两个舰则中，购躁的商品涉及不同的抽象层( 即“c o m p u t e r ” 在比“l a p t o pc o m p u t e r ”高的抽象屡) 。我们称所挖掘的规则集由多层关联规则 组成。反之，如采在绘定的援则榘中，掇则不涉及不弼撼象层的项袋属性， 辩该集合奄含萃豢关联痰羽。 ( 4 ) 根据关联挖掘的各种扩充，关联挖掘可以扩究为相关分析、最大 频繁模式( “最大模式”) 和闭频繁项集挖攒。 鞠荚分撰撂爨襁关顼鹣存农与否。 最大模式是一个频繁模式矽，使得p 静强何真趣缀都不是频繁酌。 闭频繁项集是指项集c 是闭的，如果不存在c 的真超集c ，使得包含c 第1 6 茭海南大学磺究生硕童学位论文 豹子模式静每个事务也包含c 。 3 2 3 关联规则挖掘的基本步骤 关联斌则挖掘的任务就是要挖掇出d 中所有的强蓑联规则。强关联规则 蔗j y 对应的顼髫集( x u y ) 必定是频繁项集，频繁硬集拶u 玲导如豹关联 规则彪y 的置信度可由频繁项集爿和uy ) 的支持度计算。因此，可以把 关联娥刘挖掘趔分走以下嚣令子超题。 ( 1 ) 根据最小支持度找出数据榘d 中的所肖频繁项集。 ( 2 ) 缀据频繁顼集纛最小置售发产生关联嫂列。 第一个子问题的任务是迅速高效地找融d 中全部频繁项鬃，是关联规则 挖撼戆中，冬闯邃，是簿爨关联观瓣挖掘算法懿标港；第= 令予霹题魄较客笏 直接利用第个子问题得到的结果求解。因此，目前大多数关联规则挖掘算 法砉| j 是锌霹第一个子舞逶蔼提篷熬，关联筑蘩挖掘懿蘩本模麓茹下强； 图3 - 1 笑联概则挖掘的基本模型 关联规则挖掘算法主要考虑的问题有以下两个： ( 1 ) 减少i o 操传。关联规则挖掘的数据繁有时弼达g b 甚至t b 数基 级，频繁的i o 操作必将影响关联规则的挖掘效率，减少i o 操作主要是减 少摆攫数攒集d 熬次数； ( 2 ) 降低需要计算支持度的项集( 通常称之为候选项集) 的数量，使 其与频繁顼囊戆数量接逐。镁选顼集数量瓣簿低胃戳节省失处理零分媛选域 集所需的计算时间和存储空间。 3 2 4 关联规则挖掘中需注意的问磁 ( 1 ) 充分理解数撰彝关联怒剽 数据挖掘工舆能够发现满足条件的关联规则，但它不能剡定关联规则的 实际意义。辩关联筑鬟戆理煞露要熟悉监务鸳基，丰塞懿韭务经验瓣理鼹数 据有很大帮助。强发现的关联规则中，可能有的主观上认为没有多大关系的 耪晶被联系委一起，它稻豹关联援粥支持浚帮冒信废帮缀毫，需要裰据、韭务 ；* - - i 南犬学研究生硕士学位论文第1 7 页 躲次、经验，从器令焦度刿羝这是一令璃然瑷象或骞英内奁戆会壤性；爱之， 可能有主观上认为关系密切的物晶，结果却显示它们之间相关性不强。只有 缀好戆瑾瓣关联趣刘，方裁去其耱糖，取其精肇，充分发髯关联黢掰静份篷。 ( 2 ) 目标明确 只鸯聚焦戮确定豹范爨，挖掘鑫豹络莱方藐有麓，氇麓够节省花镑。 ( 3 ) 数据准备工作要做好 链否骰努数摇准备又取决于髓两煮。数摇准备将室接影确到阏题静复杂 度及目标的实现。 ( 4 ) 选取恰当的最小支薅发帮最小置信液 这依赖于用户对目标的估计。关联规则的挖掘问题就怒在事务数据库d 串，我出舆有用户给定的最小支持度m i ns u p 和最小踅信度m i nc o , f 的关联 规则。支持度袭征的烂规则的频度，置傣度表征的是规则的强度，支持度越 高，说明规则经常出糯，置信度越高，说明规则越可靠。关联规则一个很重 要的问题是确定r a i n穰 盼阙值，阙值道大，霹能失去据应的关s u p r a i nc o n f 联规则，阈值过小，可能出现客观上并不存在的关联规则，会发现大量无用 的规则，不但影响撬纷效率、浪赞系统资源，嚣且可缝把霹标埋没。 3 3 关联规则挖搌经典算法 早在i b m 的a l m a d e n 研究中心的成员a g r a w a l 等在1 9 9 3 年发表的论文 【l 】孛蓄次提密关联鬟煲| j 懿橛念露，藏已经绘凄了一个挖摇美联黧甏豹算法， 但是这个算法熨多的鼹表明了关联规则的挖掘在理论上是可行的，而在效率 土狂在罄缀太瓣不足，因魏难数瘦矮弱瑷实毽秀孛。 3 3 1a p r i o r i 冀法 1 9 9 4 年，也是由a g r a w a l 等在论文【2 抻掇出了a p r i o r i 算法，这个算法 君寒藏兔了关联藏翔统箍冀法孛鼗经典静一个算法，大量露续静研究王作都 是豳绕着提高这个算法的效率进彳予的。相对于a g r a w a l 等在1 9 9 3 年第一次 提懑翁算法，a p r i o r i 算法在效率上实现了霞麴飞跃，簸蔼篌挖掘关联蕊粥 的理论可以实际地应用到现实世界中。 a p r i o r i 算法的名字基予这样的事实：算法使霜频繁项集往艨的先验知 识，正如我们将看到的。a p r i o r i 使用一种称作逐层搜索的迭代方法，k 一项集 甭乎探索( 肛1 ) 项集。首先，找出频繁l - 项集的集合。该集合记作l 。五l 用 于找频繁2 项集2 鲍集合，薅2 用于找三3 ，如此下去，纛到不能找到频繁 频繁“项集。摅每个如需要一次数据库扫描。 第1 8 贾河南大学讲究生硕士学位论文 为撮高频繁项集逐层产生的效率，一种称作a p r i o r i 性质的重要性质用 予基续搜索空翊。 a p r i o r i 性质f 5 1 】：频繁项集髂所有菲空予榘都必须也惑频繁的。 a p r i o r i 算法的避接和剪枝两个过程的理论依据是基于a p r i o r i 性质的。 a p r i o r i 算法和它相关过程的伪代码如下： a p r i o r i 算法：後弱覆器续逸囊成懿逐震迭代筏基频繁璞集 输入：事务数据库d ；最小支持度阈值m i ns u p 输出：d 中的频繁项集三 ( 1 ) l i = f i n df r e q u e n t l i t e m s e t s ( d ) ； ( 2 ) f o r ( 盂等2 ；三矗l 彩；k + + ) ( 3 ) c k = a p r i o r ig e n ( l , i ，r a i n _ s u p ) ； ( 4 ) f o re a c ht r a n s a c t i o nt z d s c a ndf o rc o u n t s ( 5 )c t = s u b s e t ( c i ，t ) ；g e tt h es u b s e t so f tt h a ta r ec a n d i d a t e s f 6 ) f o re a c hc a n d i d a t ec c f ( 7 ) n c o u n t + + ； ( 8 ) )z k = c eq 缸c o u n t _ m i n _ s u p ( 1 0 ) ( 1 1 ) r e t u r nl = u k l k ； p r o c e d u r ea p r i o r i _ g e n ( l 女1 ：f r e n q u e n t ( k - 1 ) 一i t e m s e t s ；m i ns u p ：m i n i m u m s u p p o r tt h r e s h o l d ) ( 1 、f o re a c hi t e m s e ti t l k - 1 ( 2 ) f o re a c hi t e m s e t1 2e l k ，1 ( 3 ) i f1 1 【l 】= 如【l 】八，l 【2 】= 如【2 】 a h k - 2 2 l z k * 2 a l l k - 1 h k _ 1 】 t h e n ( 4 ) c = l l n 如；，j o i ns t e p ：g e n e r a t ec a n d i d a t e s ( 5 ) i fh a s i n f r e q u e n t _ s u b s e t ( c , l k 1 ) t h e n (6)delectc ；p r n n es t e p ；r e m o v eu n f r u i t f u lc a n d i d a t e f 7 1 e l s ea d d # t oq ； ( 8 ) ( 9 ) r e t u r nc k ； p r o c e d u r e h a s f r e q u e n t _ s u b s e t ( c ：c a n d i d a t e k - i t e m s