职业教育论文-Web数据挖掘现状分析.doc职业教育论文-Web数据挖掘现状分析.doc

收藏 分享

资源预览需要最新版本的Flash Player支持。
您尚未安装或版本过低,建议您

职业教育论文WEB数据挖掘现状分析摘要随着INTERNET/WEB技术的快速普及和迅猛发展,使各种信息可以以非常低的成本在网络上获得,如何在这个全球最大的数据集合中发现有用信息成为数据挖掘研究的热点。WEB数据挖掘是目前数据挖掘领域中的一个很重要的研究领域,文章介绍了WEB数据挖掘研究领域的现状及发展。关键词数据挖掘;WEB挖掘ABSTRACTWITHTHERAPIDDEVELOPMENTANDPOPULARIZATIONOFINTERNET/WEBTECHNOLOGY,AWIDERANGEOFINFORMATIONCANBEACCESSEDINTHENETWORKATVERYLOWCOSTTHEFOCUSOFDATAMININGISHOWTOFINDUSEFULINFORMATIONINTHEWORLDSLARGESTDATACOLLECTIONWEBMININGISAVERYIMPORTANTRESEARCHINTHEFIELDOFDATAMININGTHISPAPEROUTLINESTHEAREASOFWEBDATAMININGRESEARCHANDITSSTATUSQUOANDDEVELOPMENTKEYWORDSDATAMINING;WEBMINING数据挖掘DATAMINING,DM是指从大量数据中提取或“挖掘”知识,即从存放在数据库、数据仓库或其他信息库中的大量数据中挖掘知识的过程。随着以数据库、数据仓库等数据仓储技术为基础的信息系统在各行各业的应用,海量数据不断产生,随之而来的问题,便是如此多的数据让人难以消化,无法从表面上看出他们所蕴涵的有用信息。如何从大量的数据中找到真正有用的信息成为人们关注的焦点,数据挖掘技术也正是伴随着这种需求从研究走向应用。各种类似GOOGLE、百度等的搜索引擎也层出不穷,WEB数据挖掘的应用在现实中不断体现。1WEB挖掘概述近年来,随着INTERNET/WEB技术的快速普及和迅猛发展,使各种信息能以非常低的成本在网络上获得,而从中取得的数据量便难以计算,而且INTERNET/WWW的发展趋势继续看好,特别是电子商务的蓬勃发展为网络应用提供了强大支持,因此,如何在WWW这个全球最大的数据集合中发现有用信息,无疑将成为数据挖掘研究的热点。而WEB挖掘便是指使用数据挖掘技术在WWW数据中发现潜在的、有用的模式或信息。它建立在对大量的网络数据进行分析的基础上,采用相应的数据挖掘算法,在具体的应用模型上进行数据的提取、筛选、转换、挖掘和模式分析,最后作出归纳性的推理。WEB挖掘研究覆盖了多个研究领域,包括数据库技术、信息获取技术、统计学、人工智能中的机器学习和神经网络等。2WEB挖掘流程与传统数据和数据仓库相比,WEB上的信息是非结构化或半结构化的、动态的,并且是容易造成混淆的,所以很难直接以WEB网页上的数据进行数据挖掘,而必须经过必要的数据处理。典型WEB挖掘的处理流程如下1查找资源。从目标WEB文档中得到数据。这些信息资源不仅限于在线WEB文档,还包括电子邮件、电子文档、新闻组或者网站的日志数据甚至是通过WEB形成的交易数据库中的数据等。2信息选择和预处理。从取得的WEB资源中剔除无用信息,将信息进行必要的整理。例如,从WEB文档中自动去除广告连接和多余格式标记、自动识别段落或者字段,并将数据组织成规整的逻辑形式甚至是关系表。3模式发现自动进行模式发现。可以在同一个站点内部或在多个站点之间进行。4模式分析验证、解释上一步骤产生的模式。可以是机器自动完成,也可以是与分析人员进行交互来完成。WEB挖掘作为一个完整的技术体系,在进行挖掘之前的信息获得IRINFORMATIONRETRIEVAL和信息抽取IEINFORMATIONEXTRACTION相当重要。信息获得IR的目的在于找到相关WEB文档,它只是把文档中的数据看成未经排序的词组的集合;而信息抽取IE的目的在于从文档中找到需要的数据项目,它对文档的结构和表达的含义感兴趣,它的一个重要任务就是对数据进行组织整理并适当建立索引。3WEB数据挖掘的分类WEB数据挖掘是一项具有挑战性的课题,它实现对WEB存取模式、结构和规则以及动态的WEB内容的查找。一般来说,WEB数据挖掘可分为4类WEB内容挖掘、WEB结构挖掘、WEB使用记录挖掘和WEB用户性质挖掘。其中,WEB内容挖掘、WEB结构挖掘和WEB使用记录挖掘是WEB10时代就已经有了的,而WEB用户性质挖掘则是伴随着WEB20而出现的。31WEB内容挖掘WEB内容挖掘指从WEB内容、数据、文档中发现有用信息,主要包括文本挖掘和多媒体挖掘两类,其对象包括文本、图像、音频、视频、多媒体和其他各种类型的数据。目前,WEB内容挖掘一般从两个不同的观点来进行研究一种是从资源IR查找的方面来看,即从用户的角度出发,研究怎样提高信息质量和帮助用户过滤信息。这方面的研究大部分都是建立在词汇袋BAGOFWORDS或称向量表示法VECTORREPRESENTATION的基础上,它将单个的词汇看成文档集合的属性,只从统计的角度将词汇孤立地看待,而忽略该词汇出现的位置和上下文环境。这种方法的弊端是自由文本中的数据丰富,词汇量非常大,处理起来很困难,为解决这个问题人们作了相应的研究,采取了不同技术,如信息增益、差异比等。另外一种是从数据库DB的观点进行WEB内容挖掘,主要是试图建立WEB站点的数据模型并加以集成,以支持复杂查询,而不只是简单的基于关键词的搜索。这要通过找到WEB文档的模式、建立WEB知识库来实现。数据库技术应用于WEB挖掘主要是为了解决WEB信息的管理和查询问题。32WEB结构挖掘WEB结构挖掘的对象是WEB本身的超链接,即对WEB文档的结构进行挖掘。由于有用的知识不仅包含在WEB页面的内容中,而且也包含在页面的结构中,所以WEB结构挖掘是从站点的组织结构和页面结构中推导出知识,找出数据链的结构进行分类、聚类,从而发现页面间的关系,进而改进搜索引擎的性能。对于给定的WEB文档集合,应该能够通过算法发现它们之间链接情况的有用信息,文档之间的超链接反映了文档之间的包含、引用或者从属关系,引用文档对被引用文档的说明往往更客观、更概括、更准确。WEB结构挖掘在一定程度上得益于社会网络和引用分析的研究。WEB结构挖掘的基本思想是将WEB看作一个有向图,它的顶点是WEB页面,页面间的超链接就是图的边,然后利用图对WEB的拓扑结构进行分析。WEB结构挖掘算法一般可分为查询相关算法和查询独立算法两类。查询相关算法需要为每一个查询进行一次超链分析从而进行一次值的指派;而查询独立算法则为每个文档仅进行一次值的指派,对所有的查询都使用此值。HITS和PAGERANK分别是查询相关算法和查询独立算法的代表。他们的共同点是使用一定方法计算WEB页面之间超链接的质量,从而得到页面的权重。著名的CLEVER和GOOGLE搜索引擎就采用了该类算法。33WEB使用记录挖掘WEB使用记录挖掘也叫WEB日志挖掘或WEB访问信息挖掘,在新兴的电子商务领域有重要意义,它通过挖掘相关的WEB日志记录,来发现用户访问WEB页面的模式,通过分析日志记录中的规律,可以识别用户的忠实度、喜好、满意度,可以发现潜在用户,增强站点的服务竞争力。WEB使用记录数据除了服务器的日志记录外,还包括代理服务器日志、浏览器端日志、注册信息、用户会话信息、交易信息、COOKIE中的信息、用户查询等一切用户与站点之间可能的交互记录。可见,WEB使用记录的数据量是非常巨大的,而且数据类型也相当丰富。根据对数据源的不同处理方法,WEB用法挖掘可以分为两种①将网络服务器的日志文件作为原始数据,应用特定的预处理方法进行处理后再进行挖掘;②将网络服务器的日志文件转换为图表,然后再进行进一步的数据挖掘。通常,在对原始数据进行预处理后就可以使用传统的数据挖掘方法进行挖掘。34WEB用户性质挖掘WEB用户性质挖掘是伴随着WEB20出现的。基于RSS、BLOG、SNS以及WIKI等互联网软件的广泛应用,WEB20帮助人们从WEB10时代的各大门户网站“填鸭”式的信息轰炸,过渡到了“人人对话”,每个普通用户既是信息的获取者,也是信息的提供者。面对WEB20的诞生,WEB数据挖掘技术又面临着新的挑战。在WEB20时代,网络彻底个人化了,它完全允许客户用自己的方式、喜好和个性化的定制服务创造自己的互联网,它一方面给予互联网用户最大的自由度,另一方面给予有心商家有待发掘的高含金量信息数据。通过对WEB用户自建的RSS、BLOG等WEB20功能模块下客户信息的统计分析,能够帮助运营商以较低成本获得准确度较高的客户兴趣倾向、个性化需求以及新业务发展趋势等信息。有关WEB20下的数据挖掘,根据数据来源、数据类型、数据集合中的用户数量、数据集合中的服务器数量等将WEB用户性质挖掘分为5类1个性挖掘。针对单个用户的使用记录对该用户进行建模,结合该用户基本信息分析他的使用习惯和个人喜好,目的是在电子商务环境下为该用户提供与众不同的个性化服务。2系统改进。WEB服务数据库、网络等的性能和其他服务质量是衡量用户满意度的关键指标,WEB用法挖掘可以通过用户的记录发现站点的性能瓶颈,以提示站点管理者改进WEB缓存策略、网络传输策略、流量负载平衡机制和数据的分布策略。此外,可以通过分析网络的非法入侵数据找到系统弱点,提高站点安全性,这在电子商务环境下尤为重要。3站点修改。站点的结构和内容是吸引用户的关键。WEB挖掘通过用户的行为记录和反馈情况为站点设计者提供改进的依据,比如页面连接情况应如何组织、哪些页面能够直接访问等。4智能商务。用户怎样使用WEB站点的信息,无疑是电子商务销售商关心的重点,用户一次访问的周期可分为被吸引、驻留、购买和离开4个步骤,WEB挖掘可以通过分析用户点击流等WEB日志信息挖掘用户行为的动机,以帮助销售商合理安排销售策略。5WEB特征描述。这类研究关注怎样通过用户对站点的访问情况,统计各个用户在页面上的交互情况,以及对用户访问情况进行特征描述。4结束语WEB数据挖掘是当今世界上的热门研究领域,其研究具有广阔的应用前景和巨大的现实意义。目前国内的WEB数据挖掘尚处于学习、跟踪和探索阶段。尽管WEB挖掘的形式和研究方向层出不穷,但随着电子商务的兴起和迅猛发展,未来WEB挖掘的一个重要应用方向将是电子商务系统,下一步将会有更多的研究者把此作为研究方向。
编号:201312160114161665    类型:共享资源    大小:12.63KB    格式:DOC    上传时间:2013-12-16
  
2
关 键 词:
专业文献 法律法学 精品文档 职业教育
  人人文库网所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
关于本文
本文标题:职业教育论文-Web数据挖掘现状分析.doc
链接地址:http://www.renrendoc.com/p-221665.html

当前资源信息

4.0
 
(2人评价)
浏览:13次
21ask上传于2013-12-16

官方联系方式

客服手机:17625900360   
2:不支持迅雷下载,请使用浏览器下载   
3:不支持QQ浏览器下载,请用其他浏览器   
4:下载后的文档和图纸-无水印   
5:文档经过压缩,下载后原文更清晰   

精品推荐

相关阅读

人人文库
关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服客服 - 联系我们

网站客服QQ:2846424093    人人文库上传用户QQ群:460291265   

[email protected] 2016-2018  renrendoc.com 网站版权所有   南天在线技术支持

经营许可证编号:苏ICP备12009002号-5