(2021年整理)实验二-决策树实验-实验报告

实验二-决策树实验-实验报告实验二-决策树实验-实验报告编辑整理：尊敬的读者朋友们：这里是精品文档编辑中心，本文档内容是由我和我的同事精心编辑整理后发布的，发布之前我们对文中内容进行仔细校对，但是难免会有疏漏的地方，但是任然希望（实验二-决策树实验-实验报告）的内容能够给您的工作和学习带来便利。同时也真诚的希望收到您的建议和反馈，这将是我们进步的源泉，前进的动力。本文可编辑可修改，如果觉得对您有帮助请收藏以便随时查阅，最后祝您生活愉快业绩进步，以下为实验二-决策树实验-实验报告的全部内容。实验二-决策树实验-实验报告实验二-决策树实验-实验报告实实决验二-策决策树树实验实-实验验报告“4”“4”一、实验原理决策树是一个类似于流程图的树结构，其中每个内部结点表示在一个属性上的测试，每个分支代表一个测试输入，而每个树叶结点代表类或类分布•数的最顶层结点是根结点。一棵典型的决策树如图1所示•它表示概念buys_computer，它预测顾客是否可能购买计算机。内部结点用矩形表示，而树叶结点用椭圆表示。为了对未知的样本分类，样本的属性值在决策树上测试。决策树从根到叶结点的一条路径就对应着一条合取规则，因此决策树容易转化成分类规则。图1ID3算法：决策树中每一个非叶结点对应着一个非类别属性，树枝代表这个属性的值。一个叶结点代表从树根到叶结点之间的路径对应的记录所属的类别属性值。每一个非叶结点都将与属性中具有最大信息量的非类别属性相关联.采用信息增益来选择能够最好地将样本分类的属性。信息增益基于信息论中熵的概念。ID3总是选择具有最高信息增益（或最大熵压缩）的属性作为当前结点的测试属性。该属性使得对结果划分中的样本分类所需的信息量最小，并反映划分的最小随机性或“不纯性"。二、算法伪代码算法Decision_Tree(data,AttributeName)输入由离散值属性描述的训练样本集data；候选属性集合AttributeName。输出一棵决策树。⑴创建节点N；Ifsamples都在同一类C中then返回N作为叶节点，以类C标记；Ifattribute_list为空then返回N作为叶节点，以samples中最普遍的类标记；//多数表决选择attribute_list中具有最高信息增益的属性test_attribute;以test_attribute标记节点N；Foreachtest_attribute的已知值v//划分samples由节点N分出一^对应test_attribute=v的分支；(10令S为samples中test_attribute=v的样本集合；//—划分块vIfS为空thenv加上一个叶节点，以samples中最普遍的类标记；Else加入—由Decision_Tree(Sv,attribute_list一test_attribute)返回节点值。三、实验数据预处理Age:30岁以下标记为“1";30岁以上50岁以下标记为“2”;50岁以上标记为“3"。Sex：FEMAL“1”；MALE“2”Region：INNERCITY“1"；TOWN“2”；RURAL“3"；SUBURBAN1112111121四、实验主函数functionmainclc；22112DataSet=[121121122121122221214121221211112222121112222121121211212112112211121121实验二-决策树实验-实验报告212221222221222211212211211221212212111212221321211122111211121113222121312212221323311121322312112313311221321312122321311111311312112313312222324312211313322112];AttributName=[111213141516171819]；[TreeRulesMatrix]=DecisionTree(DataSet，AttributName)End实验二-决策树实验-实验报告实验二-决策树实验-实验报告||||2leaf1五、实验结果TheDecision(TheRoot)：Tree：AttributI|II|III2Attribut2leaf21AttributII1Attribut1Attribut|I|1leaf1||I2leaf2|I2leaf23AttributI1Attribut|I1leaf1||2leaf2II3leaf1AttributII1leaf2实验二-决策树实验-实验报告实验二-决策树实验-实验报告|2leaf12Attribut||1leaf2II2Attribut|I|1leaf1II|2leaf2||3leaf2I3AttributI|1leaf2II2AttributII_____1_____leaf1II_____2_____Attribut|I1__leaf1I|2__leaf2I4leaf1Tree=Attribut:3Child：[1x4struct]RulesMatrix=111010001121010002

2010100023011110013012110023013110013010120021010201022010201010010202010021000020022100010022200020023000020