管理方法基础 14_第1页
管理方法基础 14_第2页
管理方法基础 14_第3页
管理方法基础 14_第4页
管理方法基础 14_第5页
已阅读5页,还剩40页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

《管理研究方法》判别分析目录贝叶斯判别法距离判别法判别分析概述010203逐步判别法费舍判别法0405判别分析概述01判别分析在实际中的应用在我们的日常生活和工作实践中,常常会遇到判别分析问题,即根据历史上和划分类别有关的资料和某种最优准则,确定一种判别方法,判定一个新的样本归属于哪一类。eg.医院判断患者的病情、天气预报在企业营销中,判别分析可以帮助企业主制定有效的营销手段,判断产品的产地,非常的实用。聚类分析的方法设有n个样本,对每个样本测得p项指标(变量)的数据,已知每个样本属于k个类别(或总体)G1,G2,…,Gk中的某一类,且它们的分布函数分别为F1(x),F2(x),…,Fk(x)。我们希望利用这些数据,找出一种判别函数,使得这一函数具有某种最优性质,能把属于不同类别的样本点尽可能地区别开来,并对测得同样p项指标(变量)数据的一个新样本,能判定这个样本归属于哪一类。判别分析的分类按判别的总体数两个总体判别分析多总体判别分析按区分不同总体所用的数学模型线性判别非线性判别按判别时所处理的变量方法不同逐步判别序贯判别不同角度提出问题,因此有不同的判别准则,如马氏距离最小准则、Fisher准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则。判别分析和聚类分析的区别判别分析和聚类分析的区别在于:

聚类分析之前,没有人知道具体的是怎么分的类,分了哪几大类。判别分析是已经把类别给分好,判别分析要做的就是是把没有分好类的数据观测,按照之前分好的类再进行分类。所以判别分析的难点在于先由分好类的数据观测找到一个或者多个判别函数,然后对未进行分类的观测按照该判别公式进行分类。判别分析的基本要求分组类型在两组以上;每组案例的规模必须至少在一个以上;解释变量必须是可测量的。样才能够计算其平均值和方差,使其能合理地应用于统计函数。判别分析的假设一每一个判别变量(解释变量)不能是其他判别变量的线性组合。这时,为其他变量线性组合的判别变量不能提供新的信息,更重要的是在这种情况下无法估计判别函数。不仅如此,有时一个判别变量与另外的判别变量高度相关,或与另外的判别变量的线性组合高度相关,虽然能求解,但参数估计的标准误将很大,以至于参数估计在统计学意义上不显著。这就是通常所说的多重共线性问题。01判别分析的假设二各组变量的协方差矩阵相等。判别分析最简单的最常用的形式是采用线性判别函数,它们是判别变量的简单线性组合。在各组协方差矩阵相等的假设条件下,可以使用很简单的公式来计算判别函数和进行显著性检验。02判别分析的假设三各判别变量遵从多元正态分布,即每个变量对于所有其他变量的固定值有正态分布。在这种条件下可以精确计算显著性检验值和分组归属的概率。当违背该假设时,计算的概率将非常不准确。03研究箴言在终极的分析中,一切知识都是历史;在抽象的意义下,一切科学都是数学;在理性的基础上,所有的判断都是统计。——C.R.劳《统计与真理》距离判别法02马氏距离马氏距离的概念距离判别的判别准则判别分析的实质欧式距离

欧式距离

欧式距离案例如果我们以厘米为单位来测量人的身高,以克(g)为单位测量人的体重。每个人被表示为一个两维向量,如一个人身高173cm,体重50000g,表示为(173,50000),根据身高体重的信息来判断体型的相似程度。我们已知小明(160,60000);小王(160,59000);小李(170,60000)。根据常识可以知道小明和小王体型相似。但是如果根据欧几里得距离来判断,小明和小王的距离要远远大于小明和小李之间的距离,即小明和小李体型相似。这是因为不同特征的度量标准之间存在差异而导致判断出错。以克(g)为单位测量人的体重,数据分布比较分散,即方差大,而以厘米为单位来测量人的身高,数据分布就相对集中,方差小。案例下图(a)展示了三个数据集的初始分布,看起来竖直方向上的那两个集合比较接近。在我们根据数据的协方差归一化空间之后,如图(b),实际上水平方向上的两个集合比较接近。马氏距离为此,我们就引入了“马氏距离”的概念。马氏距离(Mahalanobisdistance)是由印度统计学家马哈拉诺比斯(P.C.Mahalanobis)提出的,表示点与一个分布之间的距离。它是一种有效的计算两个未知样本集的相似度的方法。与欧氏距离不同的是,它考虑到各种特性之间的联系(例如:一条关于身高的信息会带来一条关于体重的信息,因为两者是有关联的),并且是尺度无关的(scale-invariant),即独立于测量尺度。马氏距离当求距离的时候,由于随机向量的每个分量之间量级不一样,比如说x1可能取值范围只有零点几,而x2有可能时而是2000,时而是3000,因此两个变量的离散度具有很大差异。马氏距离除以了一个方差矩阵,这就把各个分量之间的方差都除掉了,消除了量纲性,更加科学合理。马氏距离

贝叶斯判别法03判别分析的实质判别分析就是希望利用已经测得的变量数据,找出一种判别函数,使得这一函数具有某种最优性质,能把属于不同类别的样本点尽可能地区别开来。为了更清楚的认识判别分析的实质,以便能灵活的应用判别分析方法解决实际问题,我们有必要了解“划分”这样概念。设R1,R2,…,Rk是p维空间Rp的k个子集,如果它们互不相交,且它们的和集为Rp,则称R1,R2,…,Rk为Rp的一个划分。判别分析的实质这样我们将会发现,判别分析问题实质上就是在某种意义上,以最优的性质对p维空间Rp构造一个“划分”,这个“划分”就构成了一个判别规则。贝叶斯判别法基本概念基本思想贝叶斯判别法的基本概念第一,判别方法与总体各自出现的概率的大小无关;第二,判别方法与错判之后所造成的损失无关。从上节看距离判别法虽然简单,便于使用。但是该方法也有它明显的不足之处。Bayes判别法就是为了解决这些问题而提出的一种判别方法。贝叶斯判别法的基本概念以下两种情形计算出来的判别函数是一致的:在Bayes判别法中,考虑错判造成的损失均等。马氏判别法中,考虑先验概率以及协方差矩阵不全相等。Bayes判别法将Bayes统计思想用在了判别分析上:假设已知样本出现在各个总体Gi的概率,即先验概率P(Gi),在此基础上根据样本的信息,确定所观察到的样本属于各个总体Gi的概率(即后验概率)。该判别法根据后验概率对样本进行归类。贝叶斯判别法的基本概念Bayes判别法中的距离函数可以看作是马氏距离的推广。使用Bayes方法需要提前输入先验概率,根据先验概率求出后验概率,并依据后验概率分布作出统计推断。先验概率:就是用概率来描述人们对所研究的对象的认识的程度;后验概率:就是根据具体资料、先验概率、特定的判别规则所计算出来的概率,它是对先验概率修正后的结果。常见的先验概率有以下几种:(1)等概率;(2)概率与样本容量成比例;(3)根据历史资料与经验进行估计。贝叶斯判别法的基本思想

费舍判别法04费歇判别法的基本概念将k维数据投影到某一个方向,使得投影后类间的差异最大。投影的原则是将总体与总体之间差异尽可能的放开,然后再选择合适的判别规则,将新的样品进行分类判别。在判定类间差异的问题上,Fisher借鉴了一元方差的基本思想。由于Fisher判别法对总体的分布没有任何要求,因此该判别法也被称为典型判别法。费舍判别法的基本思想两类总体的Fisher判别费舍判别法的函数构造

费舍判别法的函数构造

费舍判别法的函数构造线形判别函数一个好的线形判别函数U(X)=C’X,在k个总体G1,G2,…,Gk中去求均值,所得到的k个值,应当有较大的离差,这就是Fisher准则。这里,离差的意义如下:线形判别函数其中,X为来自k个总体的样本(即来自这些总体的一维或多维随机向量);Ei和Di表示在第i个总体中的均值和方差。当确定线形判别函数U(X)之后,计算U(X)到各个总体的距离,判定为来自距离最小的那个总体。当训练样本数据集中的类数太多时,一个判别函数可能不能很好地区别类别,这时候就需要寻找第二个甚至更多的判别函数。一般认为,当前所有的判别函数的效率达到85%以上即可。费歇判别法的不足判别个数一般由类别个数来决定,SPSS默认K个类别有K-1个判别函数,不适用于多个类别的判别。逐步判别法05逐步判别法基本思想理论基础逐步判别法的基本思想逐步引入变量,每次引入一个“最重要”的变量,同时检验先前引入的变量,如果先前引入的变量其判别能力随新引入变量而变得不显著,则及时将其从判别式中剔除,直到判别式中的变量都很显著,且剩下来的变量也没有重要的变量可引入判别式时,逐步筛选结束。逐步判别和逐步回归的思想很相近,就是不断的对筛选的变量作检验,找出显著性变量,剔除不显著变量。逐步判别法的理论基础逐步判别法的理论基础是附加信息检验。设有K个总体G1,…,GK,它们的分布是N,今从这K个总体分别抽了n1,…,nk个样品,为了对这K个总体建立判别函数,需要检验。H0:μ1=…=μK当H0被接受时,说明区分这K个总体是无意义的,当假定被否定时,说明这K个母体可以区分,建立判

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论