多元统计分析学第八讲

多元统计分析学第八讲第一页，共五十七页，编辑于2023年，星期五判别分析原理及模型

判别分析概述

判别分析方法

第二页，共五十七页，编辑于2023年，星期五判别分析概述

（一）什么是判别分析

判别分析是多元统计中用于判别样品所属类型的一种统计分析方法。是一种在一些已知研究对象用某种方法已经分成若干类的情况下，确定新的样品的观测数据属于那一类的统计分析方法。

判别准则：用于衡量新样品与各已知组别接近程度的思路原则。常用的有，距离准则、Fisher准则、贝叶斯准则。判别函数：基于一定的判别准则计算出的用于衡量新样品与各已知组别接近程度的描述指标，即判别函数。（二）判别分析的种类按照判别组数划分有两组判别分析和多组判别分析；按照区分不同总体的所用数学模型来分有线性判别分析和非线性判别分析；按照处理变量的方法不同有逐步判别、序贯判别等；按照判别准则来分有费舍准则与贝叶斯判别准则。第三页，共五十七页，编辑于2023年，星期五判别分析方法

（一）距离判别法１．基本思想：首先根据已知分类的数据，分别计算各类的重心，即分组（类）均值，判别准则是对于任给一次观测值，若它与第i类的重心距离最近，就认为它来自第i类。因此，距离判别法又称为最邻近方法（nearestneighbormethod）。距离判别法对各类总体的分布没有特定的要求，适用于任意分布的资料。

第四页，共五十七页，编辑于2023年，星期五第五页，共五十七页，编辑于2023年，星期五第六页，共五十七页，编辑于2023年，星期五第七页，共五十七页，编辑于2023年，星期五第八页，共五十七页，编辑于2023年，星期五第九页，共五十七页，编辑于2023年，星期五第十页，共五十七页，编辑于2023年，星期五第十一页，共五十七页，编辑于2023年，星期五第十二页，共五十七页，编辑于2023年，星期五第十三页，共五十七页，编辑于2023年，星期五第十四页，共五十七页，编辑于2023年，星期五第十五页，共五十七页，编辑于2023年，星期五第十六页，共五十七页，编辑于2023年，星期五第十七页，共五十七页，编辑于2023年，星期五第十八页，共五十七页，编辑于2023年，星期五第十九页，共五十七页，编辑于2023年，星期五第二十页，共五十七页，编辑于2023年，星期五第二十一页，共五十七页，编辑于2023年，星期五第二十二页，共五十七页，编辑于2023年，星期五第二十三页，共五十七页，编辑于2023年，星期五第二十四页，共五十七页，编辑于2023年，星期五3．多组费舍判别分析

第二十五页，共五十七页，编辑于2023年，星期五第二十六页，共五十七页，编辑于2023年，星期五第二十七页，共五十七页，编辑于2023年，星期五第二十八页，共五十七页，编辑于2023年，星期五第二十九页，共五十七页，编辑于2023年，星期五第三十页，共五十七页，编辑于2023年，星期五（三）贝叶斯判别法

第三十一页，共五十七页，编辑于2023年，星期五第三十二页，共五十七页，编辑于2023年，星期五第三十三页，共五十七页，编辑于2023年，星期五第三十四页，共五十七页，编辑于2023年，星期五第三十五页，共五十七页，编辑于2023年，星期五第三十六页，共五十七页，编辑于2023年，星期五第三十七页，共五十七页，编辑于2023年，星期五第二节逐步判别分析一、逐步判别分析的基本概念及基本思想二、逐步判别的理论基础三、引入和剔除变量计算四、建立判别式,对样品判别分类五、具体计算步骤

第三十八页，共五十七页，编辑于2023年，星期五一、基本概念及基本思想

在判别问题中，当判别变量个数较多时，如果不加选择地一概采用来建立判别函数，不仅计算量大，还由于变量之间的相关性，可能使求解逆矩阵的计算精度下降，建立的判别函数不稳定。因此适当地筛选变量的问题就成为一个很重要的事情。凡具有筛选变量能力的判别分析方法就统称为逐步判别法。第三十九页，共五十七页，编辑于2023年，星期五逐步判别法和通常的判别分析一样，也有许多不同的原则，从而产生各种方法。这里讨论的逐步判别分析方法是在多组判别分析基础上发展起来的一种方法，判别准则为贝叶斯判别函数，其基本思路类似于逐步回归分析，采用“有进有出”的算法，即按照变量是否重要，从而逐步引入变量，每引入一个“最重要”的变量进入判别式，同时要考虑较早引入的变量是否由于其后的新变量的引入使之丧失了重要性变得不再显著了（例如其作用被后引入地某几个变量的组合所代替），应及时从判别式中把它剔除，直到判别式中没有不重要的变量需要剔除，剩下来的变量也没有重要的变量可引入判别式时，逐步筛选结束。也就是说每步引入或剔除变量，都作相应的统计检验，使最后的贝叶斯判别函数仅保留“重要”的变量。第四十页，共五十七页，编辑于2023年，星期五二、逐步判别分析的理论基础第四十一页，共五十七页，编辑于2023年，星期五第四十二页，共五十七页，编辑于2023年，星期五

第四十三页，共五十七页，编辑于2023年，星期五第四十四页，共五十七页，编辑于2023年，星期五当增加第p个变量后，p个变量的维尔克斯统计量第四十五页，共五十七页，编辑于2023年，星期五三、引入和剔除变量计算

假定计算了l步，已入选了L个变量，不妨设为第四十六页，共五十七页，编辑于2023年，星期五第四十七页，共五十七页，编辑于2023年，星期五由附加信息准则，则得引入变量的检验统计量为：第四十八页，共五十七页，编辑于2023年，星期五第四十九页，共五十七页，编辑于2023年，星期五如果第五十页，共五十七页，编辑于2023年，星期五逐步判别过程，就是不断的引入和剔除变量的过程，可以证明，前三步都只引入，而不必考虑剔除，在以后的各步中则首先考虑剔除，如果不能剔除则再考虑引入，当既不能剔除又不能引入时，逐步计算的过程即告终止，将已选中的变量建立判别函数。第五十一页，共五十七页，编辑于2023年，星期五四、建立判别式,对样品判别分类经过第二步选出重要变量后，可用各种方法建立判别函数和判别准则，这里使用Bayes判别法建立判别式，假设l+1步，最终选出L个变量，设判别式为：第五十二页，共五十七页，编辑于2023年，星期五五、具