第八章图像识别.ppt

1 第八章图像识别 信息与通信工程学院张洪刚zhhg 2 模式识别和模式的概念 感知 从环境获取信息 3 计算机模式识别 模式识别 使计算机模仿人的感知能力 从感知数据中提取信息 判别物体和行为 的过程 姚明ROCKETS11 概念 4 模式识别的意义 数字化感知数据 来源丰富 数量巨大 概念 5 模式识别的难点 感知数据 非结构化 像素 声波等 概念 6 模式与模式类 样本 sample object 一类事物的一个具体体现 对具体的个别事物进行观测所得到的某种形式的信号 模式 pattern 表示一类事物 如印刷体A与手写体A属同一模式 B与A则属于不同模式 样本是具体的事物 而模式是对同一类事物概念性的概括 模式类与模式联合使用时 模式表示具体的事物 而模式类则是对这一类事物的概念性描述 模式识别是从样本到类别的映射 概念 7 模式识别的基本问题 1 特征如何提取 特征产生 2 最有效的特征是那些特征 特征选择 3 对特定任务 如何设计分类器 分类器设计 4 分类器设计后 如何评价分类器 分类错误率是多少 分类器评价 8 模式识别方法的分类 1 监督与非监督模式识别A 监督模式识别利用先验知识和训练样本来设计分类器 B 非监督模式识别利用特征向量的相似性来自动进行分类 9 有监督学习 supervisedlearning 用已知类别的样本训练分类器 以求对训练集数据达到某种最优 并能推广到对新数据的分类 非监督学习 unsupervisedlearning 样本数据类别未知 需要根据样本间的相似性对样本集进行分类 聚类 clustering 10 模式分类vs 模式聚类 Classification knowncategories Clustering creationofnewcategories 11 监督与非监督学习方法比较 模式识别方法 12 13 模板匹配TemplateMatching Template Inputscene 14 结构模式识别 用简单的基元 primitives 和结构关系来描述复杂对象 15 句法模式识别 定义 描述待处理模式的结构信息 并用形式语言中的文法定义模式结构 并通过句法分析进行分类对象被描述为以基元为基本单位 符号化 的文法源自语言学 但不限于语言学应用基本概念基元 预定义的不再包含细节结构信息的子结构文法 对模式的描述 基元为字符 字符串句法 对字符串进行判别 是否文法描述的 语言 16 句法模式识别系统框架 17 人工神经网络 计算 仿生 智能计算机大规模并行分布式的计算学习 泛化和自适应容错 非确定 不精确的分类 人工神经网络 18 19 模糊模式识别 1965年Zadeh提出模糊集理论是对传统集合理论的一种推广传统 属于或者不属于模糊 以一定的程度属于模糊逻辑 相对传统二值逻辑 是或不是 模糊数学 研究模糊集和模糊逻辑模糊系统 应用角度 20 模糊模式识别方法 隶属度函数对象x属于集合A的程度的函数 值域 0 1 模糊模式识别方法将模糊技术引入传统模式识别方法中模糊特征模糊分类 模糊子集代替确定子集模糊评价 21 统计模式识别 模式识别最初从统计理论发展而来基本思想 模式被描述为一组测量值组成的随机特征向量 用概率统计理论对其进行建模 用统计决策理论划分特征空间来进行分类 22 统计模式识别的一般过程 23 统计模式识别基本过程 基本系统组成数据获取 测量预处理 利于特征提取和分类特征提取与选择降维选择有利于分类的特征 去除不利分类的特征分类决策错误率最小损失最小 24 统计模式识别 距离分类法1 标准模式法设由训练样例可获得c个模式类1 2 c 且可获得各个模式类的标准模式M1 M2 MC 那么 对于待识模式X 可通过计算其与各标准模式的距离d X Mi i 1 2 c 来决定它的归属 具体分类规则为 d X Mj mind X Mi Xji 1 2 c 即与X距离最小的标准模式所属的模式类即为X的所属模式类 25 26 2 平均距离法平均距离法就是将待识模式X与模式类 i i 1 2 c 中所有样例模式的距离平均值作为与X的距离 然后以距离最小的模式类作为X的类属 分类规则可描述为 其中 k 1 2 c sk为模式类 k中的样例模式数 27 3 最近邻法 最近邻法是将与待识模式X距离最近的一个样例模式的模式类作为X的类属 分类规则可描述为 其中 sk为模式类 k中的样例模式数 28 29 几何分类法一个模式类就是相应特征空间中的一个点集 一般来讲 在特征空间中一个模式类的点集总是在某种程度上与另一个模式类的点集相分离 因此 模式识别的另一个思路就是设法构造一些分界面 线 把特征空间Rn分割成若干个称为决策区域的子空间Ri i 1 2 n 使得一个模式类刚好位于一个决策区域 这样 对于待识模式X 就可以利用空间中的这些分界面来判定X的类属 分界面 线 方程gi X 0中的函数gi X 称为判别函数 显然 构造分界面的关键就是构造其判别函数 分界面 线 可分为平面 直线 和曲面 相应的判别函数为线性函数和非线性函数 下面介绍分界平面和线性判别函数 30 对于二分类问题 显然只需一个分界平面 设判别函数为 g X WTX w0 其中W w1 w2 wn T为X中各分量x1 x2 xn的系数组成的向量 称为权向量 w0为一个常数 称为阈值权 那么 分界平面方程为 g X WTX w0 0 由几何知识知 位于这个分界平面两边的点X的判别函数值g X 符号相反 于是 可有分类规则 g X 0X1 g X 0X2 g X 0X属于1或2 或者不可判别 31 二分类问题的分界面 线 示意 32 概率分类法 基于最小错误率的贝叶斯决策 因为模式属于哪一模式类存在不确定性 所以需要用概率来决策 就是说对于待识模式X 如果它属于哪个类的概率大则它就属于哪一类 但如果直接使用各模式类的先验概率P ci 则会因先验概率所提供的信息量太少而导致把所有模式都归入先验概率最大的模式类的无效分类 因此 应该考虑后验概率P ci X 但通常概率P ci X 不易直接求得的 幸好 概率论中的贝叶斯公式可以帮忙 事实上 由贝叶斯公式 先验概率 类条件概率密度和后验概率 先验概率 根据大量统计确定某类事物出现的比例 如在我国大学中 一个学生是男生的先验概率为0 7 而为女生的概率是0 3 这两类概率是互相制约的 因为这两个概率之和应满足总和为1的约束 类条件概率密度函数 同一类事物的各个属性都有一定的变化范围 在这些变化范围内的分布概率用一种函数形式表示 则称为类条件概率密度函数 这种分布密度只对同一类事物而言 与其它类事物没有关系 为了强调是同一类事物内部 因此这种分布密度函数往往表示成条件概率的形式 例如x表示某一个学生的特征向量 则 男生的概率密度表示成P x 男生 女生的表示成P x 女生 这两者之间没有任何关系 即一般的情况下P x w1 P x w2 1 可为从 0 2 之间的任意值 后验概率 一个具体事物属于某种类别的概率 例如一个学生用特征向量x表示 它是男性或女性的概率表示成P 男生 x 和P 女生 x 这就是后验概率 由于一个学生只可能为两个性别之一 因此有P 男生 x P 女生 x 1的约束 这一点是与类分布密度函数不同的 后验概率与先验概率也不同 后验概率涉及一个具体事物 而先验概率是泛指一类事物 因此P 男生 x 和P 男生 是两个不同的概念 图解 p 1 x p 2 x 类条件概率密度函数 后验概率 最小错误率决策 35 模式识别过程示例 FishClassification 预处理 imageenhancement separatingtouching occludingfishesandfindingtheboundaryofthefish Examplefrom R Duda P Hart D Stork PatternClassification secondedition 2000 36 先验知识 鲈鱼一般比鲑鱼长通过长度L是否超过了临界值L 来判断种类为了确定恰当的L 值 必须先获得不同类别的鱼的若干样本 设计样本 或 训练样本 进行长度测量 37 38 验证了平均意义上鲈鱼要比鲑鱼长的结论令人失望的表明 单一的特征判据是不足以完美分类的 继续尝试别的特征 如 鱼的平均光泽度 39 40 2020 2 15 总体代价函数 决策理论的中心任务是要确定一种决策 使该代价函数最小 单一特征的分类效果不能令人满意 应考虑组合运用多种特征的方法 特征组合 光泽度x1和宽度x2 简化为一个二维的特征向量 或二维空间的一个点 x1 x2 41 42 2020 2 15 出现的问题 考虑其它特征组合特征对分类性能的重用程度如果