建模数据挖掘.doc

说实话，建模期间学到的知识量比较大，但是不深入，建模期间时间紧张，也是效率优先，现在建模空档期，系统的学下相关建模知识，不止为建模，主要是学会方法及其应用数据挖掘(Data Mining)是通过分析每个数据，从大量数据中寻找其规律的技术，主要有数据准备、规律寻找和规律表示3个步骤。数据挖掘的任务有关联分析、聚类分析、分类分析、异常分析、特异群组分析和演变分析等。 数据挖掘利用了来自如下一些领域的思想：(1) 来自统计学的抽样、估计和假设检验，(2) 人工智能、模式识别和机器学习的搜索算法、建模技术和学习理论。数据挖掘也迅速地接纳了来自其他领域的思想，这些领域包括最优化、进化计算、信息论、信号处理、可视化和信息检索。一些其他领域也起到重要的支撑作用。特别地，需要数据库系统提供有效的存储、索引和查询处理支持。源于高性能（并行）计算的技术在处理海量数据集方面常常是重要的。分布式技术也能帮助处理海量数据，并且当数据不能集中到一起处理时更是至关重要。看得出来该方法与遗传算法的联系，完全可以考虑在两者之间建立一些联系1) 数据挖掘能做以下七种不同事情（分析方法）： 数据挖掘 分类 （Classification） 估计（Estimation） 预测（Prediction） 相关性分组或关联规则（Affinity grouping or association rules） 聚类（Clustering） 描述和可视化（Description and Visualization） 复杂数据类型挖掘(Text, Web ,图形图像，视频，音频等)2) 数据挖掘分类以上七种数据挖掘的分析方法可以分为两类：直接数据挖掘；间接数据挖掘 直接数据挖掘 目标是利用可用的数据建立一个模型，这个模型对剩余的数据，对一个特定的变量（可以理解成数据库中表的属性，即列）进行描述。 间接数据挖掘 目标中没有选出某一具体的变量，用模型进行描述；而是在所有的变量中建立起某种关系 。 分类、估值、预言属于直接数据挖掘；后四种属于间接数据挖掘3)各种分析方法的简介分类 （Classification） 首先从数据中选出已经分好类的训练集，在该训练集上运用数据挖掘分类的技术，建立分类模型，对于没有分类的数据进行分类。 例子： a. 信用卡申请者，分类为低、中、高风险 b. 故障诊断：中国宝钢集团与上海天律信息技术有限公司合作，采用数据挖掘技术对钢材生产的全流程进行质量监控和分析，构建故障地图，实时分析产品出现瑕疵的原因，有效提高了产品的优良率。 注意： 类的个数是确定的，预先定义好的 估计（Estimation） 估计与分类类似，不同之处在于，分类描述的是离散型变量的输出，而估值处理连续值的输出；分类数据挖掘的类别是确定数目的，估值的量是不确定的。 例子： a. 根据购买模式，估计一个家庭的孩子个数 b. 根据购买模式，估计一个家庭的收入 c. 估计real estate的价值 一般来说，估值可以作为分类的前一步工作。给定一些输入数据，通过估值，得到未知的连续变量的值，然后，根据预先设定的阈值，进行分类。例如：银行对家庭贷款业务，运用估值，给各个客户记分（Score 01）。然后，根据阈值，将贷款级别分类。 预测（Prediction） 通常，预测是通过分类或估值起作用的，也就是说，通过分类或估值得出模型，该模型用于对未知变 量的预言。从这种意义上说，预言其实没有必要分为一个单独的类。预言其目的是对未来未知变量的预测，这种预测是需要时间来验证的，即必须经过一定时间后， 才知道预言准确性是多少。 相关性分组或关联规则（Affinity grouping or association rules） 决定哪些事情将一起发生。 例子： a. 超市中客户在购买A的同时，经常会购买B，即A = B(关联规则) b. 客户在购买A后，隔一段时间，会购买B （序列分析） 聚类（Clustering） 聚类是对记录分组，把相似的记录在一个聚集里。聚类和分类的区别是聚集不依赖于预先定义好的类，不需要训练集。 例子： a. 一些特定症状的聚集可能预示了一个特定的疾病 b. 租VCD类型不相似的客户聚集，可能暗示成员属于不同的亚文化群 聚集通常作为数据挖掘的第一步。例如，哪一种类的促销对客户响应最好？，对于这一 类问题，首先对整个客户做聚集，将客户分组在各自的聚集里，然后对每个不同的聚集，回答问题，可能效果更好。 描述和可视化（Description and Visualization） 是对数据挖掘结果的数据挖掘的步骤会随不同领域的应用而有所变化，每一种数据挖掘技术也会有各自的特性和使用步骤，针对不同问题和需求所制定的数据挖掘过程也会存在差异。此 外，数据的完整程度、专业人员支持的程度等都会对建立数据挖掘过程有所影响。这些因素造成了数据挖掘在各不同领域中的运用、规划，以及流程的差异性，即使 同一产业，也会因为分析技术和专业知识的涉入程度不同而不同，因此对于数据挖掘过程的系统化、标准化就显得格外重要。如此一来，不仅可以较容易地跨领域应 用，也可以结合不同的专业知识，发挥数据挖掘的真正精神。 数据挖掘完整的步骤如下： 理解数据和数据的来源（understanding）。 获取相关知识与技术（acquisition）。 整合与检查数据（integration and checking）。 去除错误或不一致的数据（data cleaning）。 建立模型和假设（model and hypothesis development）。 实际数据挖掘工作（data mining）。 测试和验证挖掘结果（testing and verification）。 解释和应用（interpretation and use）。 由上述步骤可看出，数据挖掘牵涉了大量的准备工作与规划工作，事实上许多专家都认为整套数据挖 掘的过程中，有80%的时间和精力是花费在数据预处理阶段，其中包括数据的净化、数据格式转换、变量整合，以及数据表的链接。可见，在进行数据挖掘技术的 分析之前，还有许多准备工作要完成。编辑本段数据挖掘在行业中的应用电信行业 价格竞争空前激烈，语音业务增长趋缓，快速增长的中国移动通信市场正面临着前所未有的生存压力。中国电信业改革的加速推进形成了新的竞争态势，移动运营 市场的竞争广度和强度将进一步加大，这特别表现在集团客户领域。移动信息化和集团客户已然成为未来各运营商应对竞争、获取持续增长的新引擎。 随着国内三足鼎立全业务竞争态势和3G牌照发放，各运营商为集团客户提供融合的信息化解决方案 将是大势所趋，而移动信息化将成为全面进入信息化服务领域的先导力量。传统移动运营商因此面临着从传统个人业务转向同时拓展集团客户信息化业务领域的挑 战。如何应对来自内外部的挑战，迅速以移动信息化业务作为融合业务的竞争利器之一拓展集团客户市场，在新兴市场中立于不败之地，是传统移动运营商需要解决 的紧迫问题。 IBM全球企业咨询服务部经过研究认为，传统移动运营商在拓展集团客户信息化市场的过程中所面 临的外部挑战主要来自三个方面，即市场需求不成熟，技术与业务融合，全业务的竞争。同时，运营商在自身发展上也存在诸多问题，例如目标市场细分不清晰，信 息化需求挖掘与评估不足；产品规划和管理难以满足客户信息化需求；渠道较为单一，无法有效覆盖客户；对合作伙伴吸引力较弱，尚未形成共赢的价值链；在运营 管理层面，业务流程、销售团队能力以及IT支撑上都不适应集团信息化业务的发展。数据挖掘十大经典算法1。C4.5：是机器学习算法中的一种分类决策树算法，其核心算法是ID3算法。 2. K-means算法：是一种聚类算法。 3.SVM：一种监督式学习方法，广泛运用于统计分类以及回归分析中 4.Apriori ：是一种最有影响的挖掘布尔关联规则频繁项集的算法。 5.EM：最大期望值法。 6.pagerank：是google算法的重要内容。 7. Adaboost:是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器然后把弱分类器*起来，构成一个更强的最终分类器。 8.KNN:是一个理论上比较成熟的的方法，也是最简单的机器学习方法之一。 9.Naive Bayes：在众多分类方法中，应用最广泛的有决策树模型和朴素贝叶斯（Naive Bayes） 10.Cart：分类与回归树，在分类树下面有两个关键的思想，第一个是关于递归地划分自变量空间的想法，第二个是用验证数据进行减枝。基本参考书 简单推荐数据挖掘：概念与技术，Jiawei Han、Micheline Kamber等著，机械工业出版社，2001年。 ISBN 1-55860-489-8。 最负盛名的数据挖掘著作，但版本较老，对读者的计算机尤其是数据库背景要求较高。 数据挖掘导论， Pang-Ning Tan, Michael Steinbach等著，范明、范宏建等译，人民邮电出版社，2006年。 ISBN 7-115-14698-5 。图灵教育 最新出版的数据挖掘著作，其写作目的是“尽可能直接地学习数据挖掘，以便尽快地将其应用到各自的领域”。覆盖了多学科应用实例，对读者数学和计算机背景要求较低。 数据挖掘，丁一贤、陈牧言合著，沧海出版社，2005年。 ISBN 986-7777-98-0 。沧海书局 Yuchun Lee et al. (1998), Solving Data Mining Problems Through Pattern Recognition , ISBN 0-13-095083-1 Oded Maimon and Mark Last (2000), Knowledge Discovery and Data Mining - The Info-Fuzzy Network (IFN) Methodology, Kluwer Academic Publishers. ISBN 0-7923-6647-6 Sholom Weiss and Nitin Indurkhya(1998). Predictive Data Mining. Morgan Kaufman. ISBN 1-55860-403-0 Ian Witten and Eibe Frank, Data Mining: Practical Mach