距离判别法及其应用

1、距离判别法及其应用一、什么是距离判别（一）定义距离判别分析方法是判别样品所属类别的一应用性很强的多因素决策 方法，根据已掌握的、历史上每个类别的若干样本数据信息，总结出客观 事物分类的规律性，建立判别准则，当遇到新的样本点，只需根据总结得 出的判别公式和判别准则，就能判别该样本点所属的类别。距离判别分析的基本思想是：样本和哪个总体的距离最近，就判它属 于哪个总体。（二）作用判别个体所属类型。例如在经济学中，可根据各国的人均国人民收入、 人均工农业产值和人均消费水平等多种指标来判定一个国家经济发展程度 的怕属类型医学上根据口才的体温、白血球数目以及其他病理指标来判断 患者所患何病等。二、距离判别

2、分析原理（一）欧氏距离欧氏距离（Euclidean distance ）是一个通常采用的距离定义,最多的 应用是对距离的测度。大多情况下，人们谈到距离的时候，都会很自然的 想到欧氏距离。从数学的角度来讲，它是在m维空间中两个点之间的真实 距离。在二维空间中其公式为：，（内-）2+（%一%）2推广到n维空间其公式为:/=1（二）马氏距离在判别分析中，考虑到欧氏距离没有考虑总体分布的分散性信息，印 度统计学家马哈诺必斯（Mahalanobis ）于1936年提出了马氏距离的概 念。设总体G = X1,X2，.,Xj7为m维总体（考察m个指标），样本 X=项，七J。令n = 4x,）（i = L2，

3、m）,则总体均值向量为 =4,，"'总体G的协方差矩阵为:£ = COV （G） = £（G - ）（G -。设X , Y是从总体G中抽取的两个样本，则X与Y之间的平方马氏距 离为：j2（x,y）=（x-y）7s-1（x-y）样本X与总体G的马氏距离的平方定义为： 42（x,g）=（x-）H（x-）1 .两总体距离判别。设有两总体G和Gz的均值分别为从和2，协 方差矩阵分别为Z和,22>0）, X,网是一个新样本，判断其 属于哪个总体。定义X,向到G和G?的距离为（x，G）和"（XQ）, 则按如下判别规则进行判断：X eG ,若d2（x，G

4、）W/（xG）x eG2，若小（x,G2）< 小（X，G） X.（1）当X = 时，该判别式可进行如下简化：/(X，G)-d2(x,G2)= (X4)>T(X2/2一«=-2,_”1卜(2) z )=-2A，(X /) i其中"= W(i+2), A = 2-(一2)注意到实数的转置等于实数自身，故有(X -(2)伞仙 -2)x -警)令W(X) = A/(X从)，则判别规则就成为： X e。，若W(X)2OX G2 ,若W(X) < 0在实际问题中，由于总体的均值、协方差矩阵通常是未知的，数据资 料来自两个总体的训练样本，于是用样本的均值、样本的协方差矩

5、阵代替 总体的均值与协方差。由于实际问题中只能得到两个样本的协方差矩阵S一邑，因此当两个 总体协方差矩阵相等时如何确定总体的协方差矩阵S(i 1)S +(n2 -1)523 =/11 + 一 2其中nl,n2分别为两个样本的容量。(2)当时,W(X) = d2(X,Gl)-d2(X,G2)=(X从 yz(x 从)一(X 2)X(X2)判别规则为:X,若W（X）N。Vx g2 ,若w（x） 0例设有两个二元总体G1和G2 ,从中分别抽取样本计算得到又= 5 又 =3£ = 5。8 2.1一一1-21一（27.6）假设=、2，试用距离判别法建立判别函数和规则。样品X = （6,0）7应属

6、于哪个总体。解：02（x，g）=（x”T（x从）(6,0) - (5,1)58 2.1Y112.1 7.6,'(6,0)、< (54)= (h-l)5.8 2.1Y12.1 7.6；= 0.4436602D2(X,G?)=(X_2)= L673809由于。2(x,G>O2(x，g)所以X属于G-2 .多总体的距离判别。设有g个m维总体5, G2，Gr ,均值 向量分别为1 , 2,协方差矩阵分别为, S2，J , 则样本X到各组的平方马氏距离是：2（x,G,）= （X/%）,2, 判别规则为：X ，若2（X，G）=戏5/（x,Gj）三、距离判别法的应用距离判别法可以应用于医

7、学、建设、环境、城镇规划等多个领域的工 程项目中。如距离判别法在类风湿性关节炎中医证候诊断中的应用，距离 判别法相似矿区突水水源识别中的应用，在大气环境质量现状评价中的应 用以及在城镇土地定级中的应用等。在实际工程中，经常采用多总体的距离判断。设有g个m维总体G , G?，Gg ,均值向量分别为从，弓,3，协方差矩阵分别为,，Eg ,任意给定一个m维样本X =玉,乙7。假设Zi = S2 =.= Eg = £ ,则新样本到各亿和G,的马氏距离平方差为/（1, G/）屋 « g,.）=2x -1 （从 + 勺）S'1 （"勺），令% （x）=|x +勺）7 2T（4 -勺）。利用各总体的训练样本对从和心（i=l , 2 ,g ）进行估计。设染，心）,，K?为来自总体为的训练样本（k=l, 2 一.，g ）,令"«= 土与"产（k=l , 2，g）臬=£（靖）*）（春女叫,