机器学习与数据挖掘复习

1、 类器进行投票。他适用于不稳定的学习过程，即数据集的一个小变动会产生大的差别，例如 决策树、多层感知器。 6. Boosting 方法：它能提高弱分类器的性能。它是带权值的抽样，改变数据对象的权值，分 类好的数据给与小权值， 分类不好的数据给与大权值， 最终集成分类结果用加权投票的方法。 7. 一些经验： a 如果分类器不稳定用 bagging。 b 如果分类器稳定且简单用 boosting。 c 如果分类器稳定且复杂用随机注入。 d 如果数据有很多类，但是分类器只能处理两个类时，用错误纠正编码。 8. 为什么集成学习有效： a 从统计学角度来说当假设空间很大时， 有可能有一些假设有着相同的精

2、度， 单一的 学习器只能找出他们中的一个假设。 然而集成多个假设就有可能找到最可能的假设。 b 从计算角度来讲， 很多单一学习算法都只能找到一个局部最优假设， 当数据集很大 时，可能很难找到一个最优假设，集成学习可以从多个起始点去局部逼近，这样就 有可能得到一个全局最优的假设。 c 从表示角度来说， 很多情况下最好的假设并不存在于假设空间中， 当用集成方法对 多个假设空间加权集成时就有可能突破假设空间找到最符合的假设。 第十一章 聚类分析 1. 什么叫聚类分析：从给定对象中找出一些簇，使在同一簇中的对象要相似，类与类之间 的对象要不相似。我们希望类内部越紧越好，类之间界限要越明显越好。 2.

3、聚类的三类方法和其代表算法思想： a 分层聚类： 簇之间是一个嵌套的形式， 没有必要定义有多少个类， 需要几个都可以。 且他可以定义多个含义，具体含义和问题有关。 两种方法：聚合方法：每个数据点都看为一个类，两两合并直到合并为一个类。 分裂方法： 将所有的对象看做一个簇， 分类直到每个类里包含一个点时 停下。 此方法一旦将两个簇合并后就不能再更改， 它也没有定义一个明确的目标函数， 即 不是全局最优化；每种方法都有各种缺点。 b 分区聚类：一个数据对象只属于一个簇。 K-means：1. 随机选择 k 个点作为初始中心点。 2. 计算每个点到不同中心点的距离，将点划分到几个簇里。 3. 重新计

4、算每个簇的中心点。 4. 重复簇的划分直到簇的分布基本不变时停止。 c 基于密度的聚类：对类的定义不同，他认为类是由一些密集的点组成，这些密集的 点被一些稀疏的点分开。 DBSCAN：认为类是基于密度的，它认为一个簇是由密度连接的点组成的最大的集 合。 3. 层次局类中计算距离的方法： a 两簇之间的最近距离：可以划分大小不同的类；对噪声和例外点敏感。 b 两簇之间的最远距离： 对噪声和例外点不是那么敏感单不易划分大小相差很大的类。 c 组内平均距离：对噪声不是很敏感但是偏爱球形类。 d 中心点之间的距离。 11 / 13 null置信度阈值。置信度具有后件反弹调性，前提是他们都是从同一频繁项集中生成的。 9. 生成频繁项集的其他方法： a 项集格遍历：一般到特殊（频繁项集的最大长度不是太长） 、特殊到一般（对发现 稠密事务中最大频繁项集有用） 、双向（加快确定频繁项集的边界） 。 b 等价类。 c 宽度优先与深度优先。 10. FP 算法的基本思想： a 使用一种称作 FP 树的紧凑数据结构组织数据，并直接从该结构中提取频繁项集。 b FP 树是一种输入数据的压缩表示，它通过逐个读入事务然后将各事务映射到 FP 树 中，