机器学习基础与应用 课件 第六章 基于k均值聚类算法的信用卡客户划分

第六章基于k均值聚类算法的信用卡客户划分目

录聚类的概念k均值聚类算法实现流程聚类数量选择方法：手肘法聚类任务评估指标01020304聚类的概念01聚类的概念聚类是一种无监督学习方法，将数据集中相似的数据点分组，并将分组后的数据点形成簇（cluster），簇代表一组相似的数据点，不同的簇之间的数据点差异较大。聚类可以帮助我们发现数据集中的隐藏规律和结构，进而进行数据的分类、降维和异常检测等任务。聚类是数据挖掘和机器学习领域中的一种重要技术，被广泛应用于商业、医疗、社交网络等领域。01聚类的概念01聚类分类学习类型无监督学习有监督学习标签依赖不需要已知的标签或类别信息来进行学习和预测需要已知的标签或类别信息来进行学习和预测学习目标将相似的数据聚到一起，成为一个类对现有的数据集以及所属标签进行学习，然后对未知数据进行预测，确认其所属分类核心逻辑不关注标签，只做相似性分组先学标签规律，再做未知数据分类预测k均值聚类算法实现流程02k均值聚类算法实现流程聚类算法：K-Means、层次聚类、密度聚类等；这些算法的原理和实现方法都不同，但它们的目标都是将数据点分组，形成簇。02k均值聚类算法也被称为K-Means算法，核心思想：假设把数据聚成K个簇（类别），每个簇都会有一个中心（也叫质心）。在开始进行聚类时，会随机从数据中选择K个数据点作为初始聚类中心，某个样本如果离第i个质心是距离最近的，那么这个样本就划分到第i个簇。k均值聚类算法实现流程02在随机初始化K个聚类中心时，需要从数据集中随机选择K个数据点并以此作为初始聚类中心。聚类中心不一定是数据集中的点，也可以是虚拟的点。第一步：随机初始化K个聚类中心对于每个数据点，需要计算它与每个聚类中心之间的距离（欧几里得距离或曼哈顿距离等距离度量方法），然后将数据点划分到距离最近的聚类中心所在的簇中。第二步：计算每个数据点到每个聚类中心的距离，并根据距离划分数据点k均值聚类算法实现流程02在重新计算每个簇的聚类中心时，可以采用两种方法：一种是将簇内所有数据点的均值作为新的聚类中心；另一种是将簇内距离聚类中心最近的数据点作为新的聚类中心。这个过程将会重复执行，直到聚类结束。第三步：重新计算每个簇的聚类中心在迭代优化的过程中，需要重复执行第二步～第三步，直到聚类中心不再改变，即达到稳定状态。最终，就可以得到K个簇，每个簇包含一些距离较近的数据点。第四步：确定最终聚类结果聚类数量选择方法：手肘法03聚类数量选择方法：手肘法手肘法（elbowmethod）：在聚类数量不断增加的过程中，随着聚类数量的增加，SSE（误差平方和，即每个数据点与其所属簇的聚类中心之间的距离平方和）或WCSS（簇内平方和，即每个簇内数据点与该簇聚类中心之间距离平方和的总和）会逐渐减小，但随着聚类数量继续增加，SSE或WCSS下降的速度会减缓。使用手肘法选择聚类数量的关键是找到SSE或WCSS下降速度变缓的拐点，即手肘点。03聚类数量选择方法：手肘法例：图中在聚类个数为3时的拐点即为比较合适的聚类数量。03聚类任务评估指标04聚类任务评估指标聚类评估指标是用来衡量聚类算法性能和效果的工具。其中，轮廓系数和兰德系数是两个常用的评估指标。04轮廓系数衡量维度：轮廓系数是一种度量聚类结果紧密度和分离度的指标。计算逻辑：对于每个数据点，轮廓系数计算该点到所属簇内其他数据点的平均距离（即簇内距离）和该点到最近簇内其他簇的平均距离（即簇间距离），并将两者的差值除以两者中的最大值。评估标准：轮廓系数越接近1表示聚类效果越好，越接近0表示聚类效果越差。聚类任务评估指标聚类评估指标是用来衡量聚类算法性能和效果的工具。其中，轮廓系数和兰德系数是两个常用的评估指标。04兰德系数衡量维度：兰德系数是一种度量聚类结果与真实标签吻合程度的指标。计算逻辑：兰德系数基于数据点之间的相似性（或距离），将数据点分为不同的簇，并与真实标签进行比较。兰德系数计算所有数据点之间相同簇分配的比例和不同簇分配的比例，将其相加得到一个总体分数。评估标准：分数越高表示聚类结果与真实标签越吻合，分数越低表示聚类结果与真实标签越不吻