机器学习方法与实践 课件 C4.5

决策树：C4.5算法DecisionTrees:C4.5主讲：耿阳李敖计算机与信息技术学院视觉智能实验室（VisInt）BeijingJiaotong

University复习：分类决策树描述对实例进行分类的树形结构。根据不同属性的取值对实例进行分类；建树流程：复习：熵与信息增益

复习：ID3算法使用信息增益进行特征选择。

引入：ID3算法的问题若把“编号”（如1~17）也作为一个候选划分属性，则其信息增益一般远大于其他属性。显然，这样的决策树不具有泛化能力，无法对新样本进行有效预测。直观理解：熵度量了一种不确定性；对于可能取值数目较多的属性，选择其作为划分属性，其能够更多的减少之后的结点中数据的不确定性，也即有更大的信息增益。信息增益率增益率定义：

其中称为属性a的“固有熵”[Quinlan,1993]，属性a的可能取值数目越多（即V越大），则IV(a)的值通常就越大。存在的问题C4.5[Quinlan,1993]使用了一个启发式：先从候选划分属性中找出信息增益高于平均水平的属性，再从中选取增益率最高的信息增益率对取值较少的类别有偏好

C4.5算法使用信息增益率进行特征选择。

C4.5算法

C4.5算法对缺省值的处理：1.在有缺失值的特征上如何计算信息增益率？根据缺失比例，折算信息增益和信息增益率（以无缺失值样本子集进行计算，乘以无缺失值样本所占的比例作为权重）2.选定划分属性，若样本在该属性上的值是缺失的，那么如何对这个样本进行划分？将样本以不同概率同时划分到不同节点中，每个节点的概率是根据其他未缺失该属性值的样本比例计算上得到的后剪枝后剪枝是提升决策树的泛化能力的一种有效手段后剪枝：先从训练集生成一棵完整的决策树，然后自底向上地对非叶结点进行考察，若将该结点对应的子树替换为叶结点能带来决策树泛化性能提升，则将该子树替换为叶结点。后剪枝先从训练集生成一棵完整的决策树，然后自底向上地对非叶结点进行考察，若将该结点对应的子树替换为叶结点能带来决策树泛化性能提升，则将该子树替换为叶结点后剪枝考虑结点⑥，若将其替换为叶结点，根据落在其上的训练样本{7,15}将其标记为“好瓜”，得到验证集精度提高至57.1%，则决定剪枝后剪枝然后考虑结点⑤，若将其替换为叶结点，根据落在其上的训练样{6,7,15}将其标记为“好瓜”，得到验证集精度仍为57.1%，则决定不剪枝。后剪枝对结点②，若将其替换为叶结点，根据落在其上的训练样本{1,2,3,14}将其标记为“好瓜”，得到验证集精度提升至71.4%，则决定剪枝后剪枝对结点③和①，先后替换为叶结点，验证集精度均未提升，则分支得到保留C4.5剪枝策略：后剪枝优点·提升模型的泛化性能·显著减少推理时间开销缺点·训练时间开销大：后剪枝过程是在生成完全决策树之后进行的，需要自底向上对所有非叶结点逐一考察拓展阅读OLSHENRA,QUINLANJR.C4.5:programsformachinelearning[M].MorganKaufmann,1992Raileanu,L.E.andK.Stoffel.(2004).”TheoreticalcomparisonbetweentheGiniindexandinformationgaincriteria.”AnnalsofMathematicsandArtificialIntelligenc