PR部分习题解答

1、第二章：贝叶斯决策理论主要考点：1. 最小错误率贝叶斯分类器；2. 最小风险贝叶斯分类器；3. 多元正态分布时的最小错误率贝叶斯分类器。典型例题：，.，.。例题 1 p ) 1/3,p ) 2/31211概率密度分别为 p(x/ )exp(x p(x/ )exp(x )22121）求最小错误率贝叶斯分类器的阈值。0 32）设损失为 L ，求最小风险贝叶斯分类器的阈值。1 0由于 p(w1)=1/3, ，则最小错误率贝叶斯分类器的阈值=p(w2)/p(w1)=2其相应的决策规则为：, 则x1w2p(x/p(x/wp(w2)p(ln2424w x1/ exp(x1) )212x即1/ exp(x1

2、) )2w x20 3 3, 0 1, 0） 当1 012222111( ) p(w ) 3. 22( ) p(w) (1 /31p(x/w)1则 1xp(x/w )w221/ exp(x )23/ 2 exp(4x) 2即1/ exp(x1) )2w x441xw x2负对数似然比判别规则为 xp(x/p(x/) p)lnln0 111 ) )px22211 p(x)exp xx ,=I.故11Ti 2i12ini2i11exp( (x ) (x )T1p(x/p(x/)1 )22 |21 211lnln1exp( (x ) (x )T1| 2222(x )( ) ( ) x x( )/2

3、xT1T11122x1111 11 x2011 x20 x20 x2021例2.24解：11p(x)exp x ,x 1Ti 2i12ini2i 4/3 -2/34/3 2/3 = =故1112/3 4/32/3 4/3211exp( (x ) (x )T1p(x/p(x/) | |21 2111lnln1 )211exp( (x ) (x )T1 | |2 2222212(x )( ) ( ) x x x( )/2ln1T11T1112222 4/3 -2/3114/3 2/3 11 1 3/4 lnx 11 x20 11 x202/3 4/3 x202/3 4/3 x20 2 3/484

4、x x x3311 2例：假设两类二维正态分布参数如下，试给出负对数似然比判别规则。1 0.5p ) p ), ( 1,2) , (0,1) , TT0.5 1121212负对数似然比判别规则为 xp(x/p(x/ ) pp )lnlnln111 ) )x22211exp( (x ) (x )1p(x/p(x/)1 )22 |2111ln1exp( (x ) (x )1 | |222(x )1 x x( ) ( )( )/ 2 x11122 1 11( ) x11222212x 2x 412 0 x所以，决策规则为：x x 21x12214 0235 0T2 0%; %; 例p117,4.4解

5、:1 Txg(x) x 2x 2 w xw 21T2x2120 1 x故 ，x ,w 12 x2 0 2 1T (x)a y 1xgT 1 2 x 21(1,1)T2 00 123 0(5,5)T0 2 实验步骤：生成m ,ms ,s1s s s ；122w12w s (m m )；J *1F12y w* xT第五章 非线性判别函数、最领近法要求：掌握最领近法的分类及图解、马氏距离的计算，主成分分析方法典型例题：，。1.1 0.30.3 1.9 (0,0) , (2, 3) , ， TT1212一未知类别样本的特征向量x T1）利用 Mahalanobis距离判别 x 的类别；2）计算 x 的

6、主成分特征。1 ( )x( ) x2T11( ) xx( ) ( ) xx( )21T,2T11222121.1 0.30.950.15 1而0.15 0.550.3 1.91 0 1 0T 2 20 201 1 2 1 2 T2 23 232 ,x2212 1.1 0.3） 0.3 1.912 1.1 0.3( 1)( 2) 0 E0.3 1.9 1, 2。12 31 ,而 ，10 101 13 2 ,。10 1013，则 p112ii122/3 p222ii11 x xx y y13T1211010 x xx y 。y31T21221010例 设有七个二维样本分属于两类：: x (0.5,0) ,x (1,0) ,x (0,1) ,TTT1123: x (0,1.5) ,x (0,2.5) ,x (1,3) ,x (2,2)TTTT24567假定前三个为1 类,后四个为2 类.1) 画出最近邻法的决策面;2) 求各类样本均值,若按与各类样本均值的最小距离分类, 试给出决策函数,并画.1324w (i 1,2)g (x) xx ,k 1,2.N x kk12iiikikkg (x)ming (x),i 1,2xw 。2iii AB） 1/3(0.5,0) (1,0) (0,1) (1/6,1/3)，TTTT11/ 4(0,1.5) (0,2.5) (1,3) (2,2