模式识别题目及答案

1、（ 15T一、分 ） 设有 两类正态分布 的样本 集， 第一类 均值 为1 （ 2,0 ） ，方 差11/2，第二类均值为T1-1/211/212 （ 2,2 ） ，方差2-1/2，先验概率1p( 1)p(2 ) ，试求基于最小错误率的贝叶斯决策分界面。解 根据后验概率公式p(p(xi ) p( i )(2 )i x)p( x)，及正态密度函数p( xi )1exp( xi )T1( xi ) / 2 ,i1,2 。 (2 )1/ 2in 2i基于最小错误率的分界面为p( x1 ) p(1 )p( x2 ) p(2 ) ，(2 )两边去对数，并代入密度函数，得(x1 )T11 ) / 2 ln

2、( x2 )T1(x2 ) / 2 ln1 (x122(1)(2 )由已知条件可得114/3-2/312 ，1-2/3，24/ 3设 x(x1, x2 )T ，把已知条件代入式（1），经整理得4/32/32/3，(2 )4/ 3x1 x24x2x140 ，(5 )分 ） 设 两 类 样 本 的 类 内 离 散 矩 阵 分 别 为 S111/2二、（ 151/2,1S21-1/2, 各类样本均值分别为TT-1/211 （ 1,0 ） ，2 （ 3,2 ） ，试用 fisher准则求其决策面方程，并判断样本x（ 2,2T）的类别。解： SS1 S220(2 )02投影方向为 w*S 11/20-2

3、-1( 1 2 )01/ 2(6 )21阈值为 y0 w* T ( 12 )/ 2 -1-123(4 )1 定 本的投影 y w* T x 2 2-14 y0 ， 属于第二 (3 )1三、（ 15 分 ）给定如下的训练样例实例x0x1x2t( 真实输出 )11111212013101-14112-1用感知器训练法则求感知器的权值，设初始化权值为w0w1 w2 0 ；1 第 1 次迭代（ 4）2 第 2 次迭代（ 2）3 第 3 和 4 次迭代四、（15 分）i. 推导正态分布下的最大似然估计；ii. 根 据 上 步 的 结 论 ， 假 设 给 出 如 下 正 态 分 布 下 的 样 本1,1.

4、1,1.01,0.9,0.99 ，估 部分的均 和方差两个参数。1 本 K= x1,x2 , ,xN ，11/ 2 exp ( x i )T1正态密度函数p(x i )i (x i ) / 2(2 )n2i则似然函数为l ()p(K |)p(x1, x2 ,., x N | )N(2 )p(x k | )k 1N对数似然函数xH ()lnp( k |)k 1最大似然估计?argmaxl ()MLnargmaxln p(x k | )k1对于正态分布?ML1Nxk ， ?ML2N k 12 根据 1 中的结果 ?ML1N2N k 1xk =1， ?ML(2 )(2 )1 N( xk?2(2 )N

5、 k)11N?2=0.00404(5 )( xk)N k 1五、（15 分） 给定样本数据如下： （ -6,-6TT） ，（ 6,6）（ 1） 对其进行 PCA变换（ 2） 用（ 1）的结果对样本数据做一维数据压缩解（ 1） PCA变换1 求样本总体均值向量=（ -6,-6TTT） （ 6,6） （ 0,0）= （-6,-6TT）36362求协方差矩阵）（-6,-6）（6,6 ）（6,6(2 )R/ 236363求特征根，令36360 ，得72 ， 20 。(1 )36361由 R i1/2 ， 212ii ，得特征向量11/(2 )1则 PCA为 1,6622 66226， 1 ,662(5

6、 )62（ 2）要做一维压缩，就是向最大特征根对应的特征向量做投影，得6 2， 62(5 )（ 10分） 已知 4个二维样本 :x1TT（ 1,2T六、（ 0,0 ） ， x2 （0,1 ） ， x3） ，T2 类。x4 （4,3 ） 。试用层次聚类把样本分成解：1初始将每一个样本视为一类，得G10 x1 ， G20 x2 ， G30 x3 ， G40 x4 计算各类间的距离，得到距离矩阵D0 ， (2 )D 000 x20 x3 0 x4G1 x1G2G3G4G10 x10155G20 x2 1022 5G30 x352010G40 x4 52 51002 将最短距离1 对应的类 G10 x

7、1 ，G20 x2 合并为一类， 得到新的分类：(4 )G121G10 ,G20 ， G31 G30 ， G41 G40计算各类间的欧式距离，得到距离矩阵D1(2 )D11001010G12 G1 , G2 G3 G3 G4 G4G121022 5 G10 , G20G31 G302010G41 G402 51003将距离最小两类 G121 G10 , G20 和 G31 G30 合并为一类，得到新的分类G1232 G10 ,G20 , G30 ， G42 G40聚类结束，结果为1 x1 , x2, x3 ，2 x4 (2 )（ 104 个二维样本：T（ 1,0TT七、分） 已知x1 （ 0,

8、0 ） ， x2） ， x3（ 6,4 ） ，x4TT（7,5 ） ， x5（10,9 ） 。取 K=3，用 K 均值算法做聚类解：1K=3 ， 初 始 化 聚 类 中 心 ， z1 (1)x1Tz2(1)x3（ 6,4T（ 0,0 ） ，） ，z3 (1)x5 （T(2 )10,9 ）2 根据中心进行分类，得1 x1, x2 ，2 x3 , x4 ，3 x5 (2 )3更新聚类中心，z1 (2) (x1T，x2 ) / 2 （ 1/2,0 ）z2 (2)( x3x4 ) / 2 （ 6,4TTTT） （ 7,5 ） （13/2,9/2 ） ， z3 (2)x5 （ 10,9 ）(4 )4 根据新的中心进行分类，得1 x1 , x2 ，2 x3, x4 ，3 x5 ，分类已经不再 变 化 ， 因 此 最后 的分 类 结 果 为1 x1 , x2 ，2 x3 , x4， 3 x5 (2 )（ 10 分） 设论域 X x1 , x2 , x3 , x4 ，给定 X 上的一个模糊关系八、R ，其模糊矩阵为10.80.80.2R0.810.85 0.20.80.8510.20.20.20.21（ 1）判断该模糊矩阵式模糊相似矩阵还是模糊等价矩阵（ 2）按不同的置信水平0.9,0.