两类别LDA线性判别式分析_第1页
两类别LDA线性判别式分析_第2页
两类别LDA线性判别式分析_第3页
两类别LDA线性判别式分析_第4页
两类别LDA线性判别式分析_第5页
已阅读5页，还剩15页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、linear discriminant analysislda线性判别式分析法利用线性判别函数设计两类分类器问题的起源在概率密度函数p(x|wi)未知的条件下,不再设法求出p(x|wi)并转化为后验概率密度函数p(wi | x),而是采用以下方法:1)给定某个线性判别函数类g(x)2)利用样本集x x确定判别函数类g(x)中的未知参数(给定一个cost function用最优化方法使代价函数取极值)3)把未知样本x归类到具有最大的判别函数值的类别中线性判别函数的给定一般线性判别函数一般线性判别函数:广义线性判别函数广义线性判别函数:结论结论:对任意判别函数作级数展开，然后取其截尾部分的逼近对任

2、意判别函数作级数展开，然后取其截尾部分的逼近,通过适当的通过适当的变换，都可以化为广义线性判别函数来处理变换，都可以化为广义线性判别函数来处理.解决由样本集设计线性分类器的主要步骤解决由样本集设计线性分类器的主要步骤:(应用于线性可分的样本集)1)原理:设:样本集y y=y1, y2, yn为对应于x x= x x1, x x2, x xn的增广样本集.2) 感知准则函数解释:设:a为tyn0的解区, b为tynb的解区,则: 对任意b必有a,即有:a包含b.即新解区b位于原解区a之中.设: a为a解区边界上的点,则a满足: atyn=0. b为b解区边界上的点,则b满足: btyn=b. b

3、解区边界离开a解区边界的距离| b -a |为:btyn -atyn =b bt -at=b/yn | b -a | =b/ | yn | 1)引子:感知准则函数及其梯度下降算法只适用于线性可分情况，对于线性不可分情况，算法不收敛但在实际问题中往往无法事先知道样本集是否线性可分.因此，我们希望找到一种既适用于线性可分情况，又适用于线性不可分情况的算法。这种算法对于线性可分问题，可以得到一个如感知准则函数那样的解向量，使得对两类样本集做到将全部样本正确分类；而对于线性不可分问题，则得到一个使两类样本集错分数目最少的权向量.我们把这样的准则称为最小错分样本数准则。2) 最小错分样本数准则函数i:对于式(4-47)定义准则函数i:jq1=|(y -b)-| y -b | |2找满足 :min jq1的*. (共轭梯度法)3) 最小错分样本数准则函数ii:对于式(4-45)定义准则函数ii:jq2=(1+sgn(yi)找满足 :max

人人文库> 全部分类> 行业资料 > 农林牧渔

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论