五.5.2判别分析.ppt

1、，第五章判别分析，Discriminant Analysis，5.2 Bayes歧视，5.2.1 Bayes歧视的基本思想，Bayes统计的基本思想是假定对研究对象(整体)的取样前已经有一定的认识，各种统计推断是根据后验分布进行的。用贝叶斯统计的思想进行判别分析。就是拜斯歧视。5.2.1 Bayes歧视的基本思想，Bayes判决要考虑两个茄子问题。第一个问题是，观察样本的后验概率设置G1，G2，Gk是K P他们的先验概率分别为p1，p2，PK，观察新样本X，然后使用Bayes公式考虑整个Gj的后验概率，5.2.1 Bayes判定的基本思想，Bayes判定中误判造成的损失。由于样本的判定，5.2

2、.2两个茄子整体Bayes判别，误判概率作为先验概率，采用等概率(P1=p2=1/2)时，估计误判概率的估计值为5.2.2两个茄子整体Bayes判别，误判概率作为先验概率，被选为训练样本容量的比率。一个气象台预测一个地区是否有春旱的观测数据中，X1和X2是与气象相关的两个茄子综合预报因素。数据包括发生春旱的6年的X1，X2观测和没有春旱的8年的相应观测。观测数据见表5.3。假设两者都遵循正态分布，遵循协方差矩阵1 2，则误判损失相同，先验概率成正比。也就是说，P1=6/14=0.4286，p2=8/14=0.5714，2茄子范围内的Bayes歧视。补充：5.3节Fisher判别法，Fisher

3、判定的想法是先将各种样品向一维方向投影。然后，根据牙齿投影规则投影样例点，然后根据最近的原则确定样例所属的类。牙齿思想当然好，具体怎么实现呢？补充：5.4节逐次判别法前面介绍的判别方法都是用所有给定的变量创建判别表达式，但是这些变量在判别式中的作用一般是不同的。也就是说，每个变量在判别式中的判别式能力不同，有些可能起重要作用，有些可能作用低。如果将判别力低的变量留在判别式中，如何筛选出具有明显判别能力的变量来创建判别式？由于审查变量的重要性，近30年来有很多文章提出了多种茄子方法，这里只介绍常用的逐步判别法。1基本思想逐步判别法与逐步回归法的基本思想相似。都是采用“进出口”的算法。也就是说，每

4、次逐步引入变量，引入“最重要的”变量，进入判别式的同时，还考虑了之前引入判别式的一些变量。如果其判别能力根据新引入的变量不明显(例如，引入了其作用的几个)，则牙齿过滤过程的本质是进行假设测试，通过检查找出重要性变量，消除不重要的变量。各判别法的比较还很难评价哪种判别方法最好。这里只比较Bayes判别法和Fisher判别法。(1)当K个整体平均向量共线性较高时，Fisher判别法可以用较少的判别函数判别，比Bayes判别法简单。此外，Fisher判别法没有对总体分布提出具体要求。(2)Fisher判别法的缺点是，不考虑每个整体发生概率的大小，不能给出预报的后验概率和误判率的估计，以及误判后发生的

5、损失。这些部落是Bayes判别法的优点，但值得指出的是，如果给定的先验概率不符合客观实际，Bayes判别法也可能导致错误的结论。各判别法之间的关系，只要满足上述判别法所要求的条件，就会平等。(1)对于正则等协差阵，Bayes线性判别函数(不考虑先验概率的影响)等于距离判别标准。因此，Bayes线性判别法和距离判别法是等价的。(2)Fisher判别法与距离判别法相同，因此在相同协差矩阵条件下，Bayes线性判别法、Fisher线性判别法、距离判别法三者相等。(理论上可以解释，Bayes线性判别函数在整体上非正则化时也适用，但失去正态后，Bayes判别法所具有的平均误差率最低的性质并不一定存在。)，SPSS操作：判别分析，分析-