最大似然分类ppt课件

最大似然分类,1,定义,最大似然分类（maximumlikelihoodclassification）在两类或多类判决中，用统计方法根据最大似然比贝叶斯判决准则法建立非线性判别函数集，假定各类分布函数为正态分布，并选择训练区，计算各待分类样区的归属概率，而进行分类的一种图像分类方法。,2,又称为贝叶斯（Bayes）分类法，是根据Bayes准则对遥感影像进行分类的。亦称基于最小错误概率的Bayes分类法。,3,一种遥感图像分类算法核心：确定判别函数fAB(X)和相应的判别准则。,一种监督分类算法特点：事先知道类别的信息（即类别的先验知识）,4,贝叶斯定理：,假设B1,B2互斥且构成一个完全事件，A伴随它们出现，已知它们分别发生的先验概率P(Bi),i=1,2,及A的条件概率P(A|Bi)，则可以得到事件A的后验概率P(Bi|A)。,托马斯贝叶斯（ThomasBayes）英国数学大师,5,由概率乘法公式P(AB)=P(A)*P(B|A)=P(B)*P(A|B)可导出贝叶斯定理公式：,6,最大似然分类法原理,设有s个类别，用1、2、s来表示，每个类别发生的概率（先验概率）分别为P(1)、P(2)、P(s)；,设有未知类别的样本X，其类条件概率分别为P(X|1)、P(X|2)、P(X|s)；,7,此时，以样本X出现的后验概率作为判别函数来确定样本X的所属类别，其分类准则为：,则根据贝叶斯定理可以得到样本X出现的后验概率为：,是与类别无关的常数,8,通过简化，可以得到直接的分类准则：,这样，就可以通过观测样本X，把先验概率P(i)转化为后验概率P(i|X)，并以后验概率最大的原则确定样本X的所属类别。,9,最小错误概率,（以两类问题为例）设错误分类的概率为P(e)，则P(e)可表示为：,参考全概率公式：P(A)=P(A|B1)*P(B1)+P(A|B2)*P(B2)+.+P(A|Bn)*P(Bn),10,错误分类的概率P(e)为下图所示的竖线与斜线部分面积之和，当给定两区间的分界线在1图的位置时，错误分类的概率最小。,概率分布图,此时P(X|1)P(1)P(X|2)P(2)，即1与2之间的判别界面。,11,概率分布,如果在特征空间中某一类特征较多地分布在该类的均值附近，且远离均值的点较少，此时可以假设P(X|i)为正态分布函数。,先验概率P(i)通常可根据资料统计出来，条件概率P(X|i)则要做合理的假设；,12,设X服从高维正态分布，则有：,其中，Ei是属于i类的样本X的均值；Di是属于i类的样本X的方差。,可以对比一维的情况,13,常数,单调递增,此即为服从正态分布时的判别函数。,14,判别规则为：,Q：最大似然与最大似然比？,似然比检验是利用似然函数来检测某个假设（或限制）是否有效的一种检验。比如说，要检测某个附加的参数限制是否是正确的，可以将加入附加限制条件的较复杂模型的似然函数最大值与之前的较简单模型的似然函数最大值进行比较。如果参数限制是正确的，那么加入这样一个参数应当不会造成似然函数最大值的大幅变动。似然比检验是所有具有同等显著性差异的检验中最有统计效力的检验。,15,TheEnd!ThankYou!,16,先验概率是指根据以往经验和分析得到的概率。在事件B已经发生的条件下，事件A发生的概率，称为事件A在给定B下的条件概率，记作P(A/B)。后验概率是指在得到“结果”的信息后重新修正的概率。,17,先验概率只是利用现有的材料(主要是历史资料)计算的；后验概率使用了更加全面的资料，既有先验概率资料，也有补充资料；