数字图像第9章

1、l91 统计模式识别统计模式识别 l92 集群分类集群分类 l93 其他分类方法其他分类方法 l统计模式识别和句法统计模式识别和句法( (结构结构) )模式识别模式识别统计模式识别：根据统计规律进行推测、判断统计模式识别：根据统计规律进行推测、判断句法模式识别：按照句法分析方法进行判别句法模式识别：按照句法分析方法进行判别l有监督分类和无监督分类有监督分类和无监督分类有监督分类：有已知训练样本，要通过学习有监督分类：有已知训练样本，要通过学习无监督分类：没有已知样本，基于物以类聚来分类无监督分类：没有已知样本，基于物以类聚来分类l参数和非参数方法参数和非参数方法参数方法：可知函数形式，只要求出

2、其参数参数方法：可知函数形式，只要求出其参数非参数方法：没有函数形式，通常用邻近方法判断非参数方法：没有函数形式，通常用邻近方法判断l911 统计模式识别的基本概念统计模式识别的基本概念 l912 判别函数方法判别函数方法 l913 贝叶斯贝叶斯(Bayes)分类器分类器 l914 基于统计模式识别的遥感图象分基于统计模式识别的遥感图象分类类 l模式模式 物体较抽象的特征和描述物体较抽象的特征和描述l特征，特征矢量，特征空间特征，特征矢量，特征空间l模式分类模式分类 N N 维特征空间的划分维特征空间的划分将特征空间划分成将特征空间划分成 M M 个子空间个子空间各个类别均有它的样本集合，样本

3、有各个类别均有它的样本集合，样本有 N N 维特征。维特征。 每个样本是每个样本是 N N 维特征空间中的某一点。维特征空间中的某一点。分类是将全部样本集合划分成分类是将全部样本集合划分成 M M 个子集，个子集，也就是将也就是将 N N 维特征空间分成维特征空间分成 M M 个子空间。个子空间。TNxxxx),(21),(21M对一组给定的样本集合，找出其最佳的类判决对一组给定的样本集合，找出其最佳的类判决函数函数 ，作如下判决：作如下判决： 对于对于 有有 则作判决则作判决（表示属于第（表示属于第 i i 类）类）是是 N N 维矢量，维矢量， 表示类别，表示类别， i=1,2,M i=1

4、,2,M 。ji )()(xDxDjiixxiiDl线性判别函数线性判别函数l最小距离分类最小距离分类l分段线性判别函数（最近邻域分类）分段线性判别函数（最近邻域分类）lBayesBayes分类分类l集群方法集群方法l模糊分类模糊分类l人工神经网络方法人工神经网络方法 若若 则则Mi, 2 , 112211)(NiNiNiiiaxaxaxaxDxAxDii)(0)(xDiixD1(x)D2(x)D3(x)X2X1213xAxDijij)(判决函数：判决函数： 是权系数矩阵。是权系数矩阵。若对于所有的若对于所有的有有则判决则判决ijAji 0)(xDijix)()()(xDxDxDjiijD23

5、13X2X12D13D12令各类的重心（参考矢量）为令各类的重心（参考矢量）为对于输入样本，若距离对于输入样本，若距离 则则 舍去与类别无关的项，舍去与类别无关的项，可以得到以下判决函数可以得到以下判决函数：MRRR,21miniRxixiTiTiiTiRRxRRxxD)( R R1 R R3 X2 X1 R R2 x x 2 1 ijiRxxd min)(iNj, 2 , 1i判别函数判别函数 为为 类的一组点集。类的一组点集。判别函数可以取不同的形式，判别函数可以取不同的形式，比如：高次多项式，比如：高次多项式， 分段定义，分段定义， 贝叶斯分类器以概率统计理论为基础，贝叶斯分类器以概率统

6、计理论为基础，以最小分类误差为准则，导出分类判决以最小分类误差为准则，导出分类判决的准则。的准则。l1 1、分类准则、分类准则l2 2、实际使用中确定判决函数的一般方法、实际使用中确定判决函数的一般方法 设设 “ “模式样本在某个类别中出现模式样本在某个类别中出现” “把样本判决为属于某一类把样本判决为属于某一类” ” 互为独立事件。互为独立事件。 令令 为第为第 i i 类概率密度函数，类概率密度函数， 为条件概率密度函数，为条件概率密度函数，由最佳判决规则可以导出由最佳判决规则可以导出BayesBayes分类的判决函数分类的判决函数: :)/(ixp)/()()(iiixppxD)(ip设

7、模式的概率密度函数是正态分布设模式的概率密度函数是正态分布, , 为：为：)/(ixp)()(21exp|)2(112/12/iiTiinmxCmxC其中其中 是均值，是均值， 是协方差矩阵。是协方差矩阵。常取正态分布的的对数作为判决函数：常取正态分布的的对数作为判决函数：除去那些与类别没有关系的常数项，可得：除去那些与类别没有关系的常数项，可得：imiCMi, 2 , 1)()(21|ln21)2ln(2)(ln)()/(ln)(1iiTiiiiiimxCmxCnPPxPxD)()(21|ln21)(ln)(1iiTiiiimxCmxCPxD132,23,13,22,212108,99,89

8、,98,97251111YEm954122YEm10551425111)1()1(1TTmmxxEc10551425122)2()2(2TTmmxxEc21ccc1455102351c令令iTiiTiimcmmcxcpxD1121ln21)(ln)(23371231952316021)(21111111xxmcmmcxxDTT236361238352363521)(21212212xxmcmmcxxDTT0)()(21xDxD4 . 974. 012xx由由得得)()(21|ln21)(ln)(1iiTiiiimxCmxCPxDl1. 1. 遥感简介遥感简介l2. 2. 遥感图象分类遥感图象分

9、类l遥感是一门研究电磁波辐射与地球表面物遥感是一门研究电磁波辐射与地球表面物质相互作用的机理和过程的科学。质相互作用的机理和过程的科学。l初期，遥感仅作为一种探测地球资源的技初期，遥感仅作为一种探测地球资源的技术手段。现在，在信息系统技术支持下，术手段。现在，在信息系统技术支持下，获得了十分广泛的应用，有很广阔的发展获得了十分广泛的应用，有很广阔的发展前景。前景。l遥感是一个综合的技术学科领域。它是遥感是一个综合的技术学科领域。它是多种学科相互交叉、渗透的结果。多种学科相互交叉、渗透的结果。l把地表、地物作为研究对象，在时空的把地表、地物作为研究对象，在时空的不同尺度上研究它的各要素及其相互作

10、不同尺度上研究它的各要素及其相互作用。利用遥感技术获得各种电磁波谱作用。利用遥感技术获得各种电磁波谱作用于地物的信息，通过处理和分析，得用于地物的信息，通过处理和分析，得到定性和定量的结果。到定性和定量的结果。航空遥感航空遥感航天遥感航天遥感陆地卫星陆地卫星气象卫星气象卫星军事卫星军事卫星微小卫星微小卫星摄影机摄影机 雷达雷达摄像机摄像机多光谱扫描仪多光谱扫描仪成象光谱仪成象光谱仪微波辐射计微波辐射计辐射源方式辐射源方式主动式，被动式主动式，被动式遥感遥感成像方式成像方式摄影式，非摄影式摄影式，非摄影式遥感遥感光谱方式光谱方式可见光，多光谱可见光，多光谱遥感遥感红外，微波，紫外红外，微波，紫外

11、遥感遥感lLandset 多光谱扫描仪（多光谱扫描仪（MSS） 47 专题扫描仪（专题扫描仪（TM）lSPOT(Systeme Probatoire dObservation de la Terre) 14高分辨遥感器（高分辨遥感器（HRV）lERS, CBERS, JERSlRadarset雷达雷达lNOAA高分辨辐射计（高分辨辐射计（AVHRR)lIKONOSlSPIN-2L （Synthesize Aperture Radar) 全天候工作，一定的穿透能力，多极化方式等。全天候工作，一定的穿透能力，多极化方式等。 （Image Spectrometer) 极多的波段，光谱分辨率高，数据率

12、高。极多的波段，光谱分辨率高，数据率高。 卫星体积小，重量在卫星体积小，重量在500kg以下，轨道高度低于以下，轨道高度低于500Km。 多卫星组网，互为补充，功能更强，抗毁能力强。多卫星组网，互为补充，功能更强，抗毁能力强。1）特征抽取）特征抽取子集选择子集选择组合特征组合特征筛选特征筛选特征2）分类判决）分类判决训练训练 分级判决分级判决 误差分析误差分析归一化差异归一化差异植被植被指数指数NDVI (Normalized Difference Vegetation Index) NDVI=(IRR) / (IRR)归一化差异水体指数归一化差异水体指数 NDWI (Normalized D

13、ifference Water Index) NDWI= (GNIR) / (GNIR)222121D多维特征空间两类的分离程度可以通过投影多维特征空间两类的分离程度可以通过投影到一维特征空间的方法来获得。到一维特征空间的方法来获得。Fisher判据表明特征空间两个类的分离程度，判据表明特征空间两个类的分离程度，可以作为鉴别特征性能的度量。可以作为鉴别特征性能的度量。设各类分布为正态分布，一维特征空间中反设各类分布为正态分布，一维特征空间中反映两类的分离程度映两类的分离程度Fisher判据为：判据为：CH5CH8, CH10, CH13CH7, CH13CH7, CH8 镜面 雪 雪 雪 雪

14、雪 反射 1 2 3 4 5作 树 水物作 树 水 镜面 雪 雪 雪 雪 雪物 反射 1 2 3 4 5雪 雪 雪 1 2 3雪 3雪 1雪 2雪 5雪 4镜面反射作物树水叠合光谱图叠合光谱图l921 简单集群方法简单集群方法 l922 K-mean 方法方法 1 1）确定分类半径，随机取一点，作为第一类的中心；）确定分类半径，随机取一点，作为第一类的中心；2 2）对一个待分点，计算与中心点的距离）对一个待分点，计算与中心点的距离 d d1 1 ， 如果如果 d d1 1 T T 将该点分为这一类，将该点分为这一类， 如果如果 d d1 1 T T 该点则为另外一新类，该点则为另外一新类，且将

15、该点作为新一类的中心；且将该点作为新一类的中心；3 3）如同第二步，对每一个待分点，计算它与各类中心的）如同第二步，对每一个待分点，计算它与各类中心的距离距离 d di i ， 若若 d di i T T 将该点分给最靠近的那一类，将该点分给最靠近的那一类， 否则，取该点为新一类的中心；否则，取该点为新一类的中心；4 4）重复第步，直到所有的点分完。）重复第步，直到所有的点分完。1 1）选择个初始分类中心）选择个初始分类中心 ；2 2）使用最小距离法将所有样本分类：）使用最小距离法将所有样本分类：若若 则将则将 分为第分为第 i i 类类 ；3 3）根据第）根据第2 2步的分类结果，重新计算各

16、类重心，步的分类结果，重新计算各类重心，并将此作为各类新的中心；并将此作为各类新的中心；4 4）反复进行）反复进行2 2、3 3步，直到各类中心趋于稳定。步，直到各类中心趋于稳定。KZZZ,21| |ijxzxzxilK-mean算法需要预先确定类别的数目，最好有算法需要预先确定类别的数目，最好有一些先验知识。一些先验知识。l其分类结果基本不受分类中心的影响。其分类结果基本不受分类中心的影响。l分类的准确性仍与各类分布情况有关。分类的准确性仍与各类分布情况有关。l设定合理的条件，可以获得更好的结果。如：先设定合理的条件，可以获得更好的结果。如：先暂定一类别数，在聚类中心过于分散时，增加类暂定一

17、类别数，在聚类中心过于分散时，增加类别数，反之减少类别数。别数，反之减少类别数。l931 模糊聚类模糊聚类 l932 人工神经网络方法人工神经网络方法 模糊模糊ISODATA算法算法（Iterative Self Organizing Data Analysis Techniques A）将将N维特征空间的样本集合分为维特征空间的样本集合分为K类一般步骤：类一般步骤：）选一初始模糊分类矩阵）选一初始模糊分类矩阵 M M； ( (公式见后）公式见后）计算个模糊聚类中心）计算个模糊聚类中心 j=1,2,Kj=1,2,K；）修改分类矩阵）修改分类矩阵M M；）重复步骤）重复步骤2 2和和3 3，直到

18、各类中心趋于稳定。，直到各类中心趋于稳定。LiLimijimijjxZ11)()(1 1）初始模糊分类矩阵：）初始模糊分类矩阵：2 2）计算个模糊聚类中心：）计算个模糊聚类中心：3 3）修改分类矩阵：）修改分类矩阵：4）重复步骤）重复步骤23，直到类中心在给定精度中稳定。，直到类中心在给定精度中稳定。jiijZxdnLiijKjijij11011 ,0ijM样本数样本数类别数类别数), 1 ( m)(1112KkmikijijddkiikZxdkikiij010ikdLi, 2 , 11,2,jK有较好的收敛性。初始值的选取对结果影响有较好的收敛性。初始值的选取对结果影响较小。较小。要先确定所

19、分类别的数目。最好有一些先验要先确定所分类别的数目。最好有一些先验知识，否则先暂定一类别数，在聚类中心过知识，否则先暂定一类别数，在聚类中心过于分散时，增加类别数，反之减少类别数。于分散时，增加类别数，反之减少类别数。样本点多，特征数多时，运算速度较慢。样本点多，特征数多时，运算速度较慢。l人工神经网络方法是从生物的神经系统得到启人工神经网络方法是从生物的神经系统得到启发，是与传统方法不同的模式识别方法。发，是与传统方法不同的模式识别方法。l神经网络的结构神经网络的结构l处理单元处理单元l网络连接网络连接l输入层、隐含层、输出层输入层、隐含层、输出层l处理单元（处理单元（PE)l输入向量与权向量相乘输入向量与权向量相乘l再将各乘积累加再将各乘积累加l经过一激励函数引入非线性变换经过一激励函数引入非线性变换处理单元处理单元神经网络神经网络l在模式识别中，神经网络分别输入各对象特征向量在模式识别中，神经网络分别输入各对象特征向量的值，输出则表明该输入对象属于哪一类的可能性的值，输出则表明该输入对象属于哪一类的可能性最大。最大。l神经网络的优点：神经网络的优点：关于问题的知识不需要很多关于问题的