机器学习之决策树课件_第1页
机器学习之决策树课件_第2页
机器学习之决策树课件_第3页
机器学习之决策树课件_第4页
机器学习之决策树课件_第5页
已阅读5页，还剩23页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

决策树的原理及适用情景决策树的原理及适用情景1内容简单案例1原理2优缺点3适用情景4内容简单案例1原理2优缺点3适用情景4一个决策树的例子一个决策树的例子运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测运用决策树分类预测同一个训练数据生成另一棵决策树同一个训练数据生成另一棵决策树问题来了？什么是决策树？问题来了？什么是决策树？决策树概念根节点叶子节点决策树概念根节点叶子节点决策树概念决策树是一种树形结构，通过做出一系列决策（选择）来对数据进行划分，这类似于针对一系列问题进行选择。

决策树的决策过程就是从根节点开始，测试待分类项中对应的特征属性，并按照其值选择输出分支，直到叶子节点，将叶子节点的存放的类别作为决策结果。一句话概括：从训练数据中学习得出一个类似于流程图的树型结构。决策树概念决策树是一种树形结构，通过做出一系列决策（选择）来决策树算法信息增益—ID3增益比率—C4.5基尼指数—CART决策树算法信息增益—ID3信息熵一条信息的信息量和它的不确定性有着直接的关系公式定义：变量的不确定性越大，熵也就越大，需要的信息量也越大，纯度就越小。信息熵一条信息的信息量和它的不确定性有着直接的关系公式定义：条件熵条件熵信息增益信息增益举例说明举例说明按年龄划分按年龄划分按收入划分按收入划分按学生划分按学生划分按信用划分按信用划分确定第一次分裂的属性确定第一次分裂的属性确定第二次分裂的属性确定第二次分裂的属性决策树划分决策树划分决策树优缺点优点：推理过程容易理解，计算简单，可解释性强。比较适合处理有缺失属性的样本。可自动忽略目标变量没有贡献的属性变量，也为判断属性变量的重要性，减少变量的数目提供参考。缺点：容易造成过拟合，需要采用剪枝操作。忽略了数据之间的相关性。对于各类别样本数量不一致的数据，信息增益偏向于那些更多数值的特征。决策树优缺点优点：决策树适用情景1、决策树能够生成清晰的基于特征选择不同预测结果的树状结构，数据分析师希望更好的理解手上的数据的时候可以使用。2、决策树更大的作用是作为一些更有用的算法的基石。例如：随机森林、AdaBoost、GBDT

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论