4.1-竞争学习神经网络

神经网络理论及应用：竞争学习神经网络主讲人：吴静珠

北京工商大学计算机与人工智能学院1123111122223333123有导师学习无导师学习1231112233123有教师无教师分类——分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中去。聚类——无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开。竞争学习神经网络2026/10/11BTBU-CIE4竞争层输入层自组织神经网络的典型结构自组织学习(self-organizedlearning)通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。自组织网络的自组织功能是通过竞争学习（competitivelearning）实现。

竞争学习神经网络1、基本概念2、学习规则3、应用实例2026/10/11BTBU-CIE5竞争学习神经网络：基本概念2026/10/11BTBU-CIE6

相似性测量＿欧式距离法聚类形状特点：易形成大小相似且紧密的圆形聚类2026/10/11BTBU-CIE7

相似性测量＿余弦法聚类形状特点：易形成大体同向的狭长形聚类。适用于模式向量长度相同或模式特征值与向量方向有关的相似性测量竞争学习神经网络：基本概念竞争学习神经网络1、基本概念2、学习原理3、应用实例2026/10/11BTBU-CIE82026/10/11BTBU-CIE9胜者为王算法：网络的输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的状态被抑制，故称为WinnerTakeAll。自组织神经网络的典型结构竞争学习神经网络：学习原理2026/10/11BTBU-CIE10①输入向量归一化②寻找获胜神经元③网络输出权值调整①向量归一化首先将当前输入模式向量X和竞争层中各神经元对应的内星权向量Wj全部进行归一化处理。

竞争学习神经网络：学习原理2026/10/11BTBU-CIE11①输入向量归一化②寻找获胜神经元③网络输出权值调整向量归一化之前向量归一化之后①向量归一化首先将当前输入模式向量X和竞争层中各神经元对应的内星权向量Wj全部进行归一化处理。竞争学习神经网络：学习原理2026/10/11BTBU-CIE12①输入向量归一化②寻找获胜神经元③网络输出权值调整②寻找获胜神经元将输入模式向量与竞争层所有神经元对应的内星权向量进行相似性比较，并将最相似的内星权向量标记为竞争获胜神经元。

竞争学习神经网络：学习原理2026/10/11BTBU-CIE13①输入向量归一化②寻找获胜神经元③网络输出与权值调整③网络输出与权值步骤3完成后，注意此时更新后的权向量不是单位向量，需要再归一化，然后回到步骤1继续训练，直到学习率衰减到0。j

j*竞争学习神经网络：学习原理竞争学习神经网络1、基本概念2、学习规则3、应用实例2026/10/11BTBU-CIE142026/10/11BTBU-CIE15输出神经元内星权向量经过学习后成为对应输出类中心竞争学习神经网络：实例2026/10/11BTBU-CIE16竞争学习神经网络：小结自组织神经网络的典型结构①输入向量归一化②寻找获胜神经元③网络输出与权值调整输出神经元内星权向量经过学习后成为对应输出类