生物医学数据分析及其matlab实现源码与10聚类分析

1、第4章多变量分析知识结构K-均值聚类聚类分析层次聚类Bayes判别判别分析Fisher判别协方差矩阵距离判别多变量分析方差（特征值）重要概念得分（投影）主成分分析PCA的作用载荷轴（特征矢量）Logistic回归多元回归多元线性回归第4章多变量分析多变量分析(multivariateysis)也称为多元统计分析，是指统计资料中有多个变量(或称、指标)同时存在时的统计分析，它既包含了一元统计分析到多元情形的推广，又有其独特的新方法和技巧。多变量分析可将变量间的内在联系和相互影响考虑在内来进行分析。多元回归分析主成分分析判别分析聚类分析聚类分析在生物医学领域中，聚类的应用：对疾病特征的自动分类；“

2、物以类聚、人以群分”。对分类，获得对序列的认识。聚类分析的基本聚类方法:分层聚类K-均值聚类聚类分析聚类分析的基本聚类分析(Clusterysis)分割分析(Segmenionysis)、ysis)分类学分析(Taxonomy根据事物本身的特性研究分类的方法，其原则是同一类中的有较大的相似性，而不同类中的差异很大。在模式识别中，聚类分析属于无监督学习。聚类分析聚类分析的基本聚类的目标就是要将样本分组到不同的类中，且满足：(1) 同质性。一个类内的样本(或指标)彼此之间应该高度相似，即如果i和j属于同一类，那么距离应dij 该很小。(2) 差异性。属于不同类的样本(或指标)应该是非常不同的，即如

3、果idij应该很大。和j属于不同类，那么距离(a)(b)两种不同的分类法聚类分析聚类分析的基本聚类分析的基本是在样品之间定义距离，在变量之间定义相似系数。距离或相似系数代表样品或变量之间的相似程度。按相似程度的大小，将样品(或变量)逐一归类，关系密切的类聚到一个小的分类上，然后逐步扩大，使得关系疏远的聚合到一个大的分类上，直到所有的样品(或变量)都完毕后，就会形成一个表示亲疏关系的谱系图，依次按照某些要求对样品(或变量)进行分类。聚类分析聚类分析的基本聚类分析与判别分析同样是研究分类问题，但不同之处在于判别分析要求已知一系列反映事物特征的数值变量的值，并且已知各的分类(训练样本)；而聚类分析则

4、直接按照一定规则把性质相近或相似的对象归类，并且事先不知道这些对象可以分成几类以及哪些对象属于同一类。另外，聚类分析根据对变量或样品进行分类以达到组内同质、组间异值的目的，当聚类分析完成后，通常可以进行判别分析，以识别分类的效度。聚类分析聚类分析的基本对样品或观测量聚类(Q型)对指标或变量聚类(R型)根据相似性或距离远近进行分类按照远近程度来聚类时需要明确两个概念：点和点之间的距离：马氏距离、欧氏距离等类和类之间的距离：两类中最近点之间的距离两类中最远点之间的距离各类的中心之间的距离选择不同的距离结果会导致聚类结果的不同，但一般不会差太多。聚类分析类间距离的常见定义聚类分析类间距离的常见定义聚

5、类方法分层聚类方法(Hierarchical Clustering)也称系统聚类，即事先不需要确定要分多少类，其基本是不断地把距离最小的两个类合并成一类。每次将具有最小距离的两类合并成一类，合并后重新计算类与类之间的距离，直到所有样品归为一类为止。显然，越是后来合并的类，距离就越远。分类结果可以画成一张直观的聚类谱系图。 。聚类方法分层聚类方法(Hierarchical Clustering)应用分层聚类法进行聚类分析的步骤：(1)(2)(3)(4)(5)确定待分类样品的指标。收集数据。对数据进行变换处理(如标准化或规格化)。 使各个样品自成一类，即N个样品一共有N类。计算各类之间的距离，得到

6、一个距离对称矩阵，将距离最近的两个类并成一类。并类后，如果类的个数大于1，那么重新计算各类之间的距离，继续并类，直至所有样品归为一类为止。最后绘制分层聚类谱系图，按不同的分类标准或不同 的分类原则，得出不同的分类结果，即决定类的个数和类。聚类方法分层聚类方法(Hierarchical Clustering)分层聚类的特点：(1)类的个数不需事先定好；(2)需确定距离矩阵；(3)运算量较大，适用于处理小样本数据。聚类方法分层聚类方法(Hierarchical Clustering)提供了两种方法来进行分层聚类分析。一种是利用clusterdata函数对样本数据进行一次聚类，其缺点是可供用户选择的

7、面较窄，不能更改距离的计算方法。另一种是分步聚类：(1)(2)(3)用pdist函数计算变量之间的距离；用 linkage函数定义变量之间的连接；用 cophenetic函数评价聚类信息，如果返回值不接近1，可修改距离定义方式重新进行分层聚类；(4) 用cluster函数创建聚类。聚类方法分层聚类方法(Hierarchical Clustering)函数说明：pdist函数：用metric指定的方法计算X数据矩阵中对象之间的距离。调用格式：Y=pdist(X，metric)X：一个mn的矩阵，它是由m个对象组成的数据集，每个对象的大小为n。 metric取值如下所列。euclidean：欧氏距

8、离(默认)；seuclidean：标准化欧氏距离；mahalanobis：马氏距离；cityblock：距离；minkowski:距离；chebychev：Chebychev距离；聚类方法分层聚类方法(Hierarchical Clustering)X = 1 2; 1 3; 2 2; 3 1Y = pdist(X) Y =1.0000 1.0000 2.2361 1.4142 2.8284 1.4142squareform(Y) a ns =0 1.0000 1.0000 2.23611.00000 1.4142 2.82841.0000 1.41420 1.41422.2361 2.828

9、4 1.41420聚类方法分层聚类方法(Hierarchical Clustering)函数说明：linkage函数：用method参数指定的算法计算系统聚类树。调用格式： Z=linkage(Y，method) Y：pdist函数返回的距离向量。 method取值如下所列。single：最短距离法(默认)； complete：最长距离法；average：未平均距离法；weighted：median：平均法；质心距离法；centroid：质心距离法；ward：内平方距离法(最小方差算法)。返回值：Z为一个包含聚类树信息的(m-1)3的矩阵。聚类方法分层聚类方法(Hierarchical Clu

10、stering)X = 3 1.7; 1 1; 2 3; 2 2.5; 1.2 1; 1.1 1.5; 3 1; Y = pdist(X); Z = linkage(Y) Z =2.0000 5.0000 0.20003.0000 4.0000 0.50008.0000 6.0000 0.50991.0000 7.0000 0.700011.0000 9.0000 1.280612.0000 10.0000 1.3454聚类方法分层聚类方法(Hierarchical Clustering)函数说明：dendrogram函数：生成只有顶部p个节点的谱系图(冰柱图)。调用格式：H，T，=dendr

11、ogram(Z，p，)cophenet函数：利用pdist函数生成的Y和linkage函数生成的Z计算cophenet相关系数。调用格式：c=cophenetic(Z，Y)cluster 函数：根据linkage函数的输出Z创建分类。聚类方法分层聚类方法(Hierarchical Clustering)%分步求法Y=pdist(SamAll);Z = linkage(Y);c = cophenet(Z,Y);%用于评价分类效果，越接近于1越好ge= cluster(Z,maxclust,2);%一步求法ge1= clusterdata(SamAll,maxclust,2);%直接利用分层聚类法

12、聚类方法【例4.5】类分析。解：从聚类图中可以看到，如果认为要将样本分为两类，按照系统聚类的自然判断准则，则第12、13、24和18号样本属于一类，剩余样本属于另一类。对例4.4中的样本(X1，X2)集不考虑先验知识，重新进行分层聚这说明依靠峰形的两个指标来对是否患有白血病进行分类的。是不可靠聚类方法【例4.5】聚类方法K-均值聚类方法(K-Means Clustering)K-均值聚类也叫快速聚类，即事先要确定分多少类，其是通过不断调整分组，使组间差异与组内差异的比基本值达到最大化，即将观测数据分布的空间划分为K个互斥的区域，然后判断每个观测数据落在哪个区域中。与分层聚类分析不同之处在于：K

13、-均值聚类并不采用树结构去描述数据，而是采用观测数据的实际值而非近似值去进行分类估计。这使得当数据量很大时，应用K-均值聚类法比分层聚类方法得到的结果更稳定。聚类方法K-均值聚类方法(K-Means Clustering)开始是类中心是否发生变化？否结束确定各类中心（均值）计算各点所属类随机确定聚类中心聚类方法示例确定需要划分的聚类数目，比如，k=5随机选择k个聚类中心为每个样本寻找最近的聚类中心并将它划为该聚类每个聚类确定新的聚类中心如果聚类中心变化则重复直到收敛聚类方法K-均值聚类方法(K-Means Clustering)K-均值聚类的特点：(1)(2)(3)(4)(5)数据。(6)K事

14、先定好。对噪声及孤立点数据敏感。聚类的结果与最初的K个聚类中心的选择有关。不必确定距离矩阵。比系统聚类法运算量要小，适用于处理庞大的样本适用于发现球状类。聚类方法K-均值聚类方法(K-Means Clustering)中用于进行K-均值聚类的函数为：kmeans，silhouette当采用K-均值聚类时，为了评价分类的效果，可以利用分类结果绘制silhouette图来判断，该图显示了某个类离其相邻类的接近程度。该函数的第一个返回值的范围在1到- 1之间，其中1表示很好的分类，0表示没有把该样本与其他类分开，-1表示分类结果很可能错误。为了获得正确的分类，在采用K-均值聚类时希望各个点对应的silhouette函数返回值都接近于1。因此可以通过迭代尝试的方法来确定正确的分类数。聚类方法【例4.6】对例4.4中的样本集