模式识别与人工智能课件_第1页
模式识别与人工智能课件_第2页
模式识别与人工智能课件_第3页
模式识别与人工智能课件_第4页
模式识别与人工智能课件_第5页
已阅读5页,还剩55页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、Pattern Recognition ,(3),(4) 当x 各分量x1,x2,xn相互独立时,(具有可加性),(5) 当x各分量x1,x2,xn相互独立时,(对特征数目单调不减),基于概率分布的可分性判据,一般情况下,散度与误分概率(或其上下界)之间的直接解析关系很难得到,但实验可以证明它们之间存在着单调关系。例如两类都是正态分布,且有相同的协方差阵时, 是 的单调减函数。,当两类先验概率相等且为具有相同协方差的正态分布时,则最小误分概率与 的关系为:,基于概率分布的可分性判据,对于c类问题,可采用平均B-判据、C-判据、D-判据:,由JB、JC、JD的定义式结构以及它们与误分概率的关系可

2、以知道,所选取的特征矢量应使所对应的JB、JC 、JD尽量大,这样可分性就较好。,基于概率分布的可分性判据,大盖小问题,在特征空间中,若有某两类间的JB、JC或JD很大,可使平均判据变大,这样就掩盖了某些类对的判据值较小的情况存在,从而可能降低总的分类正确率,即所谓的大盖小问题。为改善这种情况,可对每个类对的判据采用变换的方法,使对小的判据较敏感。例如,对JD ,可采用变换:,基于概率分布的可分性判据,这样,当i和j两类模式相距很远时,JD(i,j)变得很大,但 也只能接近于1。但对于散度JD(i,j) 小的情况, 又变得较敏感。于是,总的平均(变换)判据为 :,基于概率分布的可分性判据,同样

3、对于JB,单类与平均判据分别为:,单类:,平均判据:,熵可分性判据,熵可分性判据,对于c类问题,给定各类的后验概率 可以写成如下形式:,熵的定义:,由洛必达法则知:当 时,熵可分性判据,例如:显然这时能实现完全正确的分类识别,熵可分性判据,熵可分性判据,说明当类别较少时,分类识别的不确定性变小。,从特征选择角度看,我们应选择使熵最小的那些特征用于分类即选用具有最小不确定性的特征进行分类是有益的。,熵可分性判据,使熵最小的特征利于分类,取熵的期望:,广义熵(具有熵的性质,利于计算)定义为:,式中0, 1。不同的值可得不同的可分性度量。,当1时,由洛必达法则可得Shannon熵,当=2时,可得平方熵,熵可分性判据,使用 判据进行特征提取与选择时,我们的目标是使,小 结,可分性判据: 距离:类内距离

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论