模式识别-第四版Sergios Theodoridis

1、模式识别第四版Pattern Recognition Fourth EditionSergios Teodoridis / Konstantinos Koutroumbas第1章导论1.1模式识别重要性1.2特征、特征向量和分类器1.3有监督、无监督和半监督学习1.4 MATLAB 程序1.5本书内容安排第2至10章有监督模式识别第2章估计未知概率密度函数的贝叶斯分类技术一重点关注：贝叶斯分类、最 小距离、最近邻分类器、朴素贝叶斯分类器、贝叶斯网络。第3章线性分类器的设计均方理论的概率、偏差-方差、支持向量机(SVMSupport Vector Machines)、线性可分性感知器算法均方和最

2、小二乘法理论第4章非线性分类器的设计反射传播算法基本原理、Cover定理、径向基函 数(RBF Radial Basis Function)网络、非线性支持向量机、决策树、联合分类器第5章 特征选择(介绍现有的知名技术)1检验、发散、Bhattacharrya距离、散布矩阵、(重点)两类的 Fisher 线性判别方法(Fishers linear discriminant method LDA)第6章如何利用正交变换进行特征提取KL变换、奇异值分解、DFTDCTDSTHadamardHaar 变换、离散小波变换、第7章图像和声音分类中的特征提取一阶和二阶统计特征以及行程长度方法第8章模板匹配

3、动态规划和Viterbi算法(应用于语音识别)，相关匹配和可变 形模板匹配的基本原理第9章上下文相关分类 隐马尔可夫模型，并应用于通信和语音识别第10章系统评估和半监督学习第11章至第16章无监督模式识别第2章基于贝叶斯决策理论的分类器2.1引言模式识别系统中的分类器设计共三章，这是其中的第1章以特征值的统计概率为基础。设计分类器是将未知类型的样本分类到最可能的类别中。现在的任务是定义什么是“最可能” 首先要完成的任务是条件概率的计算，而贝叶斯规则条件概率是非常有用的2.2 贝叶斯决策理论 BAYES DECISION THEORYp(x)=尸 p(n|由P(X)是x的概率密度函数.t is

4、classified to 由】.v is classified to 皿f（3|.）政内|玖贝叶斯分类规则 bayes classification rule - 结论等价表示为：职 E V 、疽若先验概率相等，上式可表示为：XQ,十皿%/ #凶3力如十| / /心国1）故（2 6）错误率Pe的计算公式 -最小化分类错误率 Minimizing the Classification Error Probability：要证明贝叶斯分类器在最小化分类错误率上是最优的the Bayesian classifier is optimal with respect to minimizing the classification error probability.最小平均风险 Minimizing the Average Risk用惩罚Penalty来衡量每一个错误it is more appropriate to assign a penalty term to weigh each error2.3判别函数和决策面下面的主要讨论在高斯密度函数的情况下，与贝叶斯分类决策面有关的情况。2.4正态分布的贝叶斯分类2.5未知概率密度函数的估计2.6最近邻规则2.7贝叶斯网络第3章线性分类器3.1引言前一章是讨论在概率密度和概率函数的基础上设计分类器。在某些情况下，分类器等价