第1章模式识别绪论西安电子科技大学

第1章绪论1.1方式识别的根本概念1.2方式识别系统1.3方式识别的根本方法1.1方式识别的根本概念人们在日常生活中,几乎时时在进展类识别活动。对于视觉而言,眼睛搜集外界信息传至大脑,由大脑对所接纳的视觉信息进展识别和了解。视觉信息识别是低层次的类识别,例如,当我们看见一只猫时,很容易识别出猫这一动物的类别。而高层次的视觉了解,是经过分析直观的观测结果得到更深层次的信息,这对人的知识和素质有很强的依赖性。例如,在二战时期,一名高素质的情报人员根据看到的一只经常出来晒太阳的波斯猫推断出敌方高级指挥所的位置,从而为己方提供了非常有价值的情报信息。对于听觉而言,人耳将声音信息传至大脑,由大脑对所接纳的声音信息进展识别和了解,获得声音所属的言语种类(语种识别)、声音所对应的说话人(说话人识别)以及声音所包含的关键词(关键词识别)等。除此之外,人还具有对触觉、味觉、嗅觉等信息的类识别才干,且也具有低级和高级两个层次。方式识别的目的就是利用计算机实现人的类识别才干,是对两个不同层次的识别才干的模拟。对信息的了解往往含有推理过程,需求专家系统、知识工程等相关学科的支持。本书讲述的方式识别实际主要是指对人的低级类识别才干的模拟,详细地说,就是实现“察看对象是什么〞的判别,其中察看对象就是方式。方式是指具有某种特定性质的察看对象。特定性质指的是可以用来区别察看对象能否一样或能否类似而选择的特性。察看对象存在于现实世界,可以是视觉、听觉、触觉、味觉、嗅觉等所能感知的任何物质。例如,一个数字、一句话、一张照片等都是察看对象,都可以成为方式识别中的识别对象。广义地说,存在于时间和空间中可察看的事物,假设可以区别它们能否一样或能否类似,都可以称为方式。根据方式的特性,将具有类似特性的方式的集合表达为方式类。方式识别就是根据方式的特性,将其判入某一类。方式识别是一种智能活动,包含分析和判别两个过程。分析的过程在于确定用于划分方式类的特征及其表达方法;判别的过程那么表达在根据待识别对象的特性,将其判属于某一个方式类。方式识别作为一门学科,属于机器智能,故属于人工智能的范畴。方式识别实际的开展和广泛运用,极大地推进了人工智能的开展和运用。1.2方式识别系统方式识别的本质就是根据方式的特性表达和方式类的划分方法,利用计算机将方式判属特定的类。因此,方式识别需求处理5个问题:方式的数字化表达、方式特性的选择、特性表达方法确实定、方式类的表达和判决方法确实定。普通地,方式识别系统由信息获取、预处置、特征提取和选择、分类判决等4个部分组成,如图1-1所示。图1-1方式识别系统的组成框图1.信息获取对于人脑识别而言,人脑经过觉得器官获取方式信息。对于机器识别来说,由于计算机只能处置数字信号,计算机获取方式信息意味着实现察看对象的数字化表达,因此,需求借助于各种传感器设备,将视觉、听觉、触觉、味觉、嗅觉等信息转化为电信号,再经过模/数(A/D)转换安装将电信号转换成数字化信息。信息获取过程如图1-2所示。图1-2信息获取表示图不同性质的信息需求不同的传感器设备,有的传感器和A/D转换设备是融为一体的,有的那么是分别的。例如,对于视觉信息,可以先采用摄像机完成光电转换,再采用图像采集卡完成A/D转换;也可以采用数字化摄像机(CCD)、数码相机直接获得数字信息。数字图像(或视频)是视觉信息的数字化表达。对于听觉信息,可以先采用话筒完成声电转换,再采用声卡完成A/D转换;也可以采用数字录音机直接获得数字信息。数字语音是听觉信息的数字化表达。2.预处置在得到方式的数字化表达后,往往需求对它进展预处置,以便去除或减少噪声的影响,突出有用信息。对于图像信息,采用数字图像处置技术作为其预处置技术,常用的方法有几何校正、图像加强、图像复原等。对于语音信息,采用数字语音处置技术作为其预处置技术。作为一种一维信号,除了它和人耳特性有关的一些特殊方法外,也可以用普通的信号处置方法进展处置。对于电信号,普通可以用信号处置的方法进展处置,包括统计信号处置、自顺应信号处置和谱分析等技术,其目的在于抑制噪声或将信号转换成更便于识别的方式。3.特征提取和选择在方式识别中,需求先建立方式类,对于给定的方式,识别就是将其判属于某一个方式类的过程。方式和方式类能进展从属关系判决的前提条件是,方式和方式类中的元素具有类似的性质(或称特性)。为此,需求对方式信息进展特性分析。特性分析包含两个方面:一个是分类特性的选择;另一个是特性表达方法的选择。分类特性的选择是方式识别系统设计中非常重要而又关键的一步,与识别目的具有很大的相关性,且往往对领域专家有较强的依赖性。例如,在遥感图像军事目的识别中,需求结合军事专家的知识和判图专家的判读分析阅历,构成对目的的特性描画,如描画一个舰船目的,可选用舰船长度、宽度、高度等特性。特征是用于描画方式性质(特性)的一种定量的概念,经过对方式的分析得到一组特征,称这个过程为特征构成。特征普通有两种表达方法:一种是将特征表达为数值;另一种是将特征表达为基元。(1)当将特征表达为数值时,一个方式的d个特征值就构成了一个特征向量,记为x,即其中,x的每个分量xi(i=1,2,…,d)对应一个特征。(2)当特征表达为基元时,一个方式表述为一个句子,记为x,即其中，xi(i=1,2,…,d)为基元，反映构成方式的根本要素。通常用于描画方式性质的特征很多,需求从一组特征中挑选出一些最有效的特征以降低特征空间维数,即特征选择。特征提取是指采用映射(或变换)实现由方式丈量空间向特征空间的转变,或者将特征空间的维数从高维变成低维。例如,现有的遥感成像光谱仪波段数达数百个之多,假设直接用原始数据进展地物分类,会因数据量太大而导致计算复杂,且分类效果不一定好,可经过映射或变换的方法,由原始数据空间变换到特征空间,得到最能反映方式本质的特征,同时降低空间维数。4.分类判决方式类是指具有类似特性的方式的集合,方式和方式类的关系就是元素和集合的关系。方式的分类过程,现实上就是断定表征察看对象的元素和指定集合的从属关系的过程。当元素只和某个集合具有从属关系时,就将该对象判属于该集合对应的类;当元素和多个集合具有从属关系时,既可以任选一类进展判决,也可以回绝判决;当元素和任何一个集合都不具有从属关系时,不作分类判决,即回绝判决。基于机器学习的方式识别系统由两个过程组成,即设计和实现。设计是用一定数量的样本进展分类器的设计,这些样本的所属类别知,称为训练样本。实现是用所设计的分类器对待识别方式进展分类判决。1.3方式识别的根本方法方式识别的本质在于实现元素(表征察看对象)和集合(表征方式类)的从属关系的断定过程。根据能否有知所属类别的训练样本,可将方式识别分为监视方式识别和非监视方式识别。根据方式识别的根本方法,可将方式识别分为统计方式识别、构造方式识别、模糊方式识别、神经网络方式识别和多分类器交融等。本节简要引见方式识别的根本方法。1.统计方式识别统计方式识别把察看对象表达为一个随机向量(即特征向量),将方式类表达为由有穷或无穷个具有类似数值特性的方式组成的集合。识别是从方式中提取一组特性的度量,构成特征向量来表示方式,然后经过划分特征空间的方式进展分类。统计方式识别适用于用较少特征就能描画察看对象的场所。统计分类判决对方式类的统计特性具有非常强的依赖性,有时还要思索人的客观感受。例如,在构造判别函数时,运用的最优准那么既可以是客观的,也可以是客观的;特征的权分配表达人的客观注重程度。如图1-3所示,统计方式识别系统主要由信息获取、预处置、特征提取和选择以及分类器4个部分组成,其中,分类器包括分类器设计和分类决策。图1-3统计方式识别系统的组成框图2.构造方式识别对于较复杂的方式,要对其充分描画需求很多数值特征,以致过于复杂。构造方式识别采用一些比较简单的子方式组成多级构造,来描画一个复杂方式。先将方式分解为假设干个子方式,子方式又分解为更简单的子方式,依次分解,直至在某个研讨程度上不再需求细分。最后一级最简单的子方式称为方式基元,要求基元的识别比识别方式本身容易得多。构造方式识别把察看对象表达为一个由基元组成的句子;将方式类表达为由有限或无限个具有类似构造特性的方式组成的集合。基元构成方式所遵照的规那么即为文法,或称句法。与统计方式识别类似,用知类别的训练样本进展学习,产生该类或至少是这些样本的文法,这个学习和训练过程称为文法推断。因此,构造方式识别又称为句法方式识别。构造方式识别系统的组成框图如图1-4所示。其中,方式表达包括两部分:方式分割和基元及关系的识别。对于一个方式,经过预处置并对方式分解提取基元后,得到表征方式的句子,然后进展句法分析,判别它能否能被代表某个方式类的文法所接受,最终给出方式构造描画和识别结果。图1-4构造方式识别系统的组成框图在实践运用中,统计方法和句法分析往往相互配合、相互补充。普通地,采用统计方法完成基元的识别,再用句法分析来表达方式的构造信息。3.模糊方式识别方式识别的本质就是断定察看对象(元素)和方式类(集合)之间的从属关系。传统的集合论中,元素和集合的关系是非常绝对的,要么属于,要么不属于,两者必居其一,而且二者仅居其一,绝不模棱两可。基于传统的集合论的判决方式称为硬判决,其中,待识别的对象只能是属于多类中的某一类。模糊集合论采用隶属度来描画元素属于一个集合的程度,用来处理信息的不确定性问题。模糊方式识别是以模糊集合论为根底,对应的判决方式是一种软判决,识别结果是察看对象属于每一类的隶属度。根据需求,利用某种原那么可以把模糊方式识别的软判决结果转化为硬判决。此时,隶属度成了用于判决的一个二次特征。4.神经网络方式识别人工神经网络,简称神经网络,是由大量简单的处置单元广泛互连而成的复杂网络,是在现代生物学研讨人脑组织所获得的成果根底上提出的,用以模拟人类大脑神经网络构造和行为。方式识别的研讨目的是利用计算机实现人类的识别才干,而人对外界感知的主要生理根底就是神经系统。因此,根据人脑生理构造构造而成的人工神经网络系统具有用于方式识别的实际和构造根底。现实上,方式识别是人工神经网络最胜利的运用领域之一。神经网络方式识别主要利用人工神经网络的学习、记忆和归纳功能,先根据训练样本,训练分类器,再利用分类器对待识别对象进展分类决策。5