【谷速软件】matlab源码-各种聚类算法的比较

聚类的目标是使同一类对象的相似度尽可能地小 不同类对象之间的相似度尽聚类的目标是使同一类对象的相似度尽可能地小 不同类对象之间的相似度尽 可能地大 目前聚类的方法很多 根据基本思想的不同 大致可以将聚类算法可能地大 目前聚类的方法很多 根据基本思想的不同 大致可以将聚类算法 分为五大类 层次聚类算法 分割聚类算法 基于约束的聚类算法 机器学习分为五大类 层次聚类算法 分割聚类算法 基于约束的聚类算法 机器学习 中的聚类算法和用于高维度的聚类算法 摘自中的聚类算法和用于高维度的聚类算法 摘自 数据挖掘中的聚类分析研究综述数据挖掘中的聚类分析研究综述 这篇论文 这篇论文 1 层次聚类算法 层次聚类算法 1 1 聚合聚类 1 1 1 相似度依据距离不同 Single Link 最近距离 Complete Link 最远距 离 Average Link 平均距离 1 1 2 最具代表性算法最具代表性算法 1 CURE 算法 特点 固定数目有代表性的点共同代表类 优点 识别形状复杂 大小不一的聚类 过滤孤立点 2 ROCK 算法 特点 对 CURE 算法的改进 优点 同上 并适用于类别属性的数据 3 CHAMELEON 算法 特点 利用了动态建模技术 1 2 分解聚类 1 3 优缺点 优点 适用于任意形状和任意属性的数据集 灵活控制不同层次的聚类粒 度 强聚类能力 缺点 大大延长了算法的执行时间 不能回溯处理 2 分割聚类算法 2 1 基于密度的聚类 2 1 1 特点特点 将密度足够大的相邻区域连接 能有效处理异常数据 主要用于对空间数 据的聚类 2 1 2 典型算法典型算法 1 DBSCAN 不断生长足够高密度的区域 2 DENCLUE 根据数据点在属性空间中的密度进行聚类 密度和网格与 处理的结合 3 OPTICS DBCLASD CURD 均针对数据在空间中呈现的不同密度分 不对 DBSCAN 作了改进 2 2 基于网格的聚类 2 2 1 特点 利用属性空间的多维网格数据结构 将空间划分为有限数目的单元以构成 网格结构 1 优点 优点 处理时间与数据对象的数目无关 与数据的输入顺序无关 可 以处理任意类型的数据 2 缺点 缺点 处理时间与每维空间所划分的单元数相关 一定程度上降低了 聚类的质量和准确性 2 2 2 典型算法 1 STING 基于网格多分辨率 将空间划分为方形单元 对应不同分辨率 2 STING 改进 STING 用于处理动态进化的空间数据 3 结合网格和密度聚类的思想 能处理大规模高维度数据 4 WaveCluster 以信号处理思想为基础 2 3 基于图论的聚类 2 3 1 特点特点 转换为组合优化问题 并利用图论和相关启发式算法来解决 构造数据集 的最小生成数 再逐步删除最长边 1 优点 不需要进行相似度的计算 2 3 2 两个主要的应用形式两个主要的应用形式 1 基于超图的划分 2 基于光谱的图划分 2 4 基于平方误差的迭代重分配聚类 2 4 1 思想思想 逐步对聚类结果进行优化 不断将目标数据集向各个聚类中心进行重新分 配以获最优解 2 4 2 具体算法具体算法 1 概率聚类算法 概率聚类算法 期望最大化 能够处理异构数据 能够处理具有复杂结构的记录 能 够连续处理成批的数据 具有在线处理能力 产生的聚类结果易于解释 2 最近邻聚类算法 最近邻聚类算法 共享最近邻算法共享最近邻算法 SNN 特点 结合基于密度方法和 ROCK 思想 保留 K 最近邻简化相似矩阵和个 数 不足 时间复杂度提高到了 O N 2 3 K Medioids 算法算法 特点 用类中的某个点来代表该聚类 优点 能处理任意类型的属性 对异常数据不敏感 4 K Means 算法算法 1 特点特点 聚类中心用各类别中所有数据的平均值表示 2 原始原始 K Means 算法的缺陷算法的缺陷 结果好坏依赖于对初始聚类中心的选择 容易陷入局部最优解 对 K 值的选择没有准则可依循 对异常数据较为敏感 只能处理数值属性的数据 聚类结构可能不平衡 3 K Means 的变体的变体 Bradley 和 Fayyad 等 降低对中心的依赖 能适用于大规模数据集 Dhillon 等 调整迭代过程中重新计算中心方法 提高性能 Zhang 等 权值软分配调整迭代优化过程 Sarafis 将遗传算法应用于目标函数构建中 Berkh in 等 应用扩展到了分布式聚类 还有 采用图论的划分思想 平衡聚类结果 将原始算法中的目标函数对 应于一个各向同性的高斯混合模型 5 优缺点 优缺点 优点 应用最为广泛 收敛速度快 能扩展以用于大规模的数据集 缺点 倾向于识别凸形分布 大小相近 密度相近的聚类 中心选择和噪 声聚类对结果影响大 3 基于约束的聚类算法 基于约束的聚类算法 3 1 约束 对个体对象的约束 对聚类参数的约束 均来自相关领域的经验知识 3 2 重要应用 对存在障碍数据的二维空间按数据进行聚类 如 COD Clustering with Obstru cted Distance 用两点之间的障碍距离取代了一般的欧式距离 3 3 不足 通常只能处理特定应用领域中的特定需求 4 用于高维数据的聚类算法 用于高维数据的聚类算法 4 1 困难来源因素 1 无关属性的出现使数据失去了聚类的趋势 2 区分界限变得模糊 4 2 解决方法 1 对原始数据降维 2 子空间聚类 CACTUS 对原始空间在二维平面上的投影 CLIQUE 结合基于密度和网格的聚类思想 借鉴 Apriori 算法 3 联合聚类技术 特点 对数据点和属性同时进行聚类 文本 基于双向划分图及其最小分割的代数学方法 4 3 不足 不可避免地带来了原始数据信息的损失和聚类准确性的降低 5 机器学习中的聚类算法 机器学习中的聚类算法 5 1 两个方法 1 人工神经网络方法人工神经网络方法 自组织映射 向量化方法 递增逐一处理 映射至二维平面 实现可视化 基于投影自适应谐振理论的人工神经网络聚类 2 基于进化理论的方法基于进化理论的方法