第7章基于K—L变换的特征提取

1、第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页xn111121112221211212( ) ( )ni iinnnnnnTnyy yy xyy第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页n12, , nx1 1,2,1, 0, ,TTiTiijTyiiijnj xy yxxxI12, , myyyym nx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章

2、首页返回本章首页xy12, , myyy1111111()mni ii iii mni iinmnni ii ii iiiiiii mi mybyyybyb xxxx xx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页m2221() ()()nTiii mEEEyb xx xx xxxx2 222()(2)20iiii iiiiiiiiTiiTiiiEybEyy bbE ybbbbE yybE yExxibi22ibiib第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页 221211()( )( )niii mTiiiT

3、iinnTTTiiiii mi mEyE ybE yEyEEE xxxxxxxi1Tii 1Tii 2i第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页2111(1)(1)12nnnTTTiiiiiiii mi mi mLi xi220 ii iii iiL xxixi2111nnnTTiiii iii mi mi m xi第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页12mn12 TTTm第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页例题例题7-1 两组二维空间的数据（两组二维空间

4、的数据（a）（）（b）如图所示，）如图所示， 试用试用KL变换来做一维的特征提取。变换来做一维的特征提取。（a）（b）第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页解解：这两种情况下的期望向量：这两种情况下的期望向量 对于数据（对于数据（a），有），有对于数据（对于数据（b），有），有41( )( )1 4 121211 12211221212 4 101011010 4 TTTiiiEEEE xaxxxxxxx x 0E x第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页计算协方差矩阵的本征值和本征向量：计算协方差矩阵

5、的本征值和本征向量：对于数据（对于数据（a）: 对于数据（对于数据（b）:411 4 121211 12211221212 4 1061610 4 Tiii xbx x125, 0aa121122, 1122aa124, 1bb121122, 1122bb第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页11 21 21第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页1 22-30 x xx 1211 211 2 1 211 21 12()()PP11221 2 , 01() 0, xxp x其其它它12()() 0.5PP

6、2 2 2 , 01() 0, xxp x其其它它第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页wSbS( )TPJAYAA Y2221( ) minminmin()nsiiiJbTAeYA bA Y第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页21()()Txxx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页11 21 211231,2213221211 11第第7 7章章 基于基于KLKL变换的

7、特征提取变换的特征提取返回本章首页返回本章首页第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页1 2230 x xx1211 211 2 1 211 21 12()()PP1122111( )ln2lnln()222TiiiiiidgP xxx12123 ()() 4 PP 111222211111( )( )022TTggxxxxxx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页 11111222111111111111222222111211121 21112211222211 211 244 1 211 21334

8、2311 242221 21 213TTTTTTTTTTTTTx x xxxxxxxxxxxx xxxx121212221222212212122234112 0 322234112 ()()3222xxxxxx 第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页2122212221221012321322 第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页1 2 , 01() 0, xxp x其其它它12()() 0.5PP2 2 2 , 01() 0, xxp x其其它它112() ()() () () , 01 1, 0

9、1() () 0, 0, 1, 00.5() , 0.51 0, iiiciiimpPPpPxxxxPPxxPxx xxxxxx其其它它其其它它其其它它第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页10.5100.52 1, 01( )() () ( ) 0, , 00.5() 1() 1, 0.51 1, 1() ( )(1) 4 1()ciiimiixppPpxxPePxxPPepdxdx dPP xxxxxxxxxxx其其它它其其它它2122011( )1(1) 3 pdxxd xxx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本

10、章首页返回本章首页第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页 0 (,) ,1,2, 1 ijiji jcij 11()(,) ()()cciijjjjji jRPP xxx1,2,1()min()()ckijicji jRRPxxx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页1111,2,1,2,11,2,1,2,() ()()1() ()()min() min() min1()max()cjjcjjcjiiikiiccjicjj iiiicicpPPpPRRPPP xxxxxxxx第第7 7章章 基于基于KL

11、KL变换的特征提取变换的特征提取返回本章首页返回本章首页1111,2,1,2,11,2,1,2,() ()()1() ()()min() min() min1()max()cjjcjjcjiiikiiccjicjj iiiicicpPPpPRRPPP xxxxxxxx第第7 7章章 基于基于KLKL变换的特征提取变换的特征提取返回本章首页返回本章首页1 1） 试讨论最小错误概率试讨论最小错误概率BayesBayes决策和最小风险决策和最小风险BayesBayes决策之间的决策之间的关系。关系。2 2） 根据你的理解，请对根据你的理解，请对FisherFisher线性判别函数与离散线性判别函数与离散K-LK-L变换进行变换进行比较分析（功能和实现方法）。比较分析（功能和实现方法）。3 3）