决策树相关介绍一课件研究报告_第1页
决策树相关介绍一课件研究报告_第2页
决策树相关介绍一课件研究报告_第3页
决策树相关介绍一课件研究报告_第4页
决策树相关介绍一课件研究报告_第5页
已阅读5页，还剩7页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

决策树相关介绍一决策树相关介绍1.应用场景2.weka中使用决策树3.结果解释4.信息论基本概念5.决策树生成原理6.数据挖掘流程7.参考文献1.应用场景1.关联规则从一堆属性中找出可能有关联的属性2.决策树找出最影响某一属性的topN个属性[1]2.1数据准备与导入1.过程同关联规则ppta.准备数据

b.转成csv格式c.打开explorer

d.openfile导入weka

3.1结果分析1.A股对F股影响最大A跌则F涨(4个实例支持)2.次之影响F股的是E股

4.1信息论基本概念1a.胡锦涛主席明天要来我们公司视察b.我们公司明天至少有一个人会迟到c.日本决定要变成美国的一个自治洲d.美国有很多人表示喜欢总统奥巴马

这几句话字节数一样多，信息量一样大吗?如何度量？4.1信息论基本概念21.信息熵[2]

基本的规律是事件发生的概率越小，所携带的信息量越大。如果a发生的概率为p,则不确定性为f(p)通过一个消息使信息接收者得到确认，则得到的确定性为f(p),即得到的信息量为f(p)

信息熵代表某一事件的平均不确定程度。比如对于事件A，发生的概率为p仙农信息熵(对于事件):I=-1*[p*log(p)+(1-p)log(1-p)]

概括为：I=-∑pilog-(pi)4.1信息论基本概念3信息增益

如果事件A的不确定程度为x

知道事件B后A的不确定程度变为y

信息增益为x-y5.1决策树生成原理11.决策树的生成过程就是反复找信息增益最大的属性[3]股票F涨跌的不确定性为:-0.4*log2(0.4)-0.6*log2(0.6)=0.9709知道属性A后F的不确定性为：0.4*(-0-0)+0.6*(-4/6*log2(4/6)-1/3*log2(2/6))=0.5512

信息增益为0.9709-0.5512=0.4197知道属性B后F的不确定性为：0.4*(-3/4*log2(3/4)-1/4*log2(1/4))+0.6*(-1/6*log2(1/6)-5/6*log2(5/6))=0.7145信息增益为0.9709-0.7145=0.2564可见A属性比B属性信息增益强，同理可得A信息增益最强，将A可确定为树根节点

现在在数据就由原来的F涨/F跌两类成了:A跌F涨/A涨F涨/A涨F跌三类，再迭代计算其它几个属性谁的信息增益最大作为A下节点

股票A股票B股票C股票D股票E股票F涨跌涨涨涨跌跌涨跌涨跌涨涨涨涨跌涨跌跌涨涨跌涨涨涨跌跌涨跌跌跌涨跌涨涨涨涨跌涨涨跌涨跌涨跌跌涨涨涨跌跌涨涨跌涨涨涨跌跌涨6数据挖掘流程1.准备数据，将数据分成训练数据，微调数据，测试数据2.确定挖掘算法3.对数据加工和过滤，生成数据特征4.用训练数据生成数据模型5.用微调数据对模型参数进行微调6.用测试数据验证模型指标训练数据训练生成模型模型微调验证模型微调数据测试数据7参考文献[1]/view/

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论