第4章 自组织网络讲义(SOM)

1、第四章自组织神经网络，4.1竞争学习的概念和原理4.2自组织特征映射神经网络，自组织神经网络的典型结构，第四章自组织神经网络，自组织学习(self-organizedlearning ) :萨自组织网络的自组织功能是通过竞争学习(competitivelearning )来实现的。 4.1竞争学习的概念和原理，4.1.1基本概念分类是在分类知识等指导者信号的指导下，将应识别的输入模式分配给各个模式类。 没有聚类指导者的分类称为聚类，聚类的目的是对类似的模式样本进行分类，分离不类似的分类。相似性测定欧元距离法、4.1.1基本概念、相似性测定馀弦法、4.1.1基本概念、4.1.2竞争学习原理、竞争

2、学习规则Winner-Take-All、网络的输出神经元之间竞争求激活的结果，每次只激活一个输出神经元这个被激活的神经元被称为竞争胜神经元，因为其他神经元的状态被抑制，所以被称为WinnerTakeAll。 竞争学习规则Winner-Take-All，1 .向量正规化首先将当前输入模式向量x和与竞争层的各神经元对应的内星向量Wj全部进行正规化处理(j=1，2，m )，向量正规化前，向量正规化后，竞争学习原理，竞争学习规则wi 2 .如果搜索获胜神经元的网络获得了一个输入模式向量，则对应于竞争层中所有神经元的内星权向量与其进行相似性比较，并将最相似的内星权向量判定为获胜神经元。 为了使、两个单位

3、向量最相似，需要使其点积最大。 也就是说，如从上式理解的那样，为了使两个单位向量的欧元距离最小化，需要使两个向量的点积最大化。 即：竞争学习规则Winner-Take-All，竞争学习规则胜者为王(Winner-Take-All )，3 .网络输出和权重调整，步骤3结束返回步骤1，继续训练直到学习率衰减为0。 把、竞争学习的几何意义，一维样本空间的12个样本分类为3种，竞争学习游戏，w1，w2，w3，x，训练样本集，o1，o1， 例4.1竞争学习算法将以下各模式分为2种：解：为了便于作图，将上述模式变换为极坐标形式：竞争层设定了两个权重向量，随机地将单位向量初始化为：， 4.2自组织特征映射神

4、经网络(Self-OrganizingfeatureMap )，1981年芬兰Helsink大学的T.Kohonen教授提出了自组织特征映射网。 Kohonen认为，一个神经网络接受外部输入模式，就会分成不同的对应区域，各个区域对输入模式具有不同的响应特性，并且这个过程会自动完成。 自组织特征映射是基于这一观点提出的，其特征与人脑的自组织特性相似。 SOM网络的生物学基础、生物学研究的事实表明，神经元的组织原理在脑的感觉通道中排列有序。 因此，大脑通过感觉接收外界的特定时空信息的话，大脑皮质的特定区域就会兴奋，而且类似的外界信息会在对应的区域连续地被影像化。 对于某个图形或某个频率的特定兴奋过

5、程，神经元的秩序和外界信息的连续映像是自组织特征映射网竞争机制的生物学基础。SOM网的拓扑、SOM网有两层，输入层模拟感知外界输入信息的视网膜，输出层模拟反应的大脑皮层。SOM网的权重调整区域、SOM网的胜因神经元对邻近神经元的影响从近和远，从兴奋向抑制逐渐变化，因此，其学习算法不仅是胜因神经元本身，其周围的神经元也有必要在其影响下调整权重向量。该调整以、SOM网的权重调整区域、赢神经元为中心设定一个邻近半径，由该半径包围的范围称为优胜邻近。 在SOM网络学习算法中，优胜附近的所有神经元都根据距胜者神经元的距离来调整权重。 优胜附近开始设定得较大，其大小随着训练次数的增加而收缩，最终收缩到半径

6、为零。SOM网的运行原理、训练阶段、w1w2w3w4w5、SOM网的运行原理、作业阶段、SOM网的学习算法、(1)对输出层的各权重向量赋予小的随机数，进行归一化处理，j=1、2、m； 初期优胜附近Nj*(0)学习率给初始值。 (2)接受输入，从训练集中随机选择一个输入模式进行标准化处理，得到p1、2、p。 (3)求出与获胜节点计算的积分积，设为j=1、2、m，从其中选出积分积最大的获胜节点j*。 (4)定义优胜附近Nj*(t )以j*为中心来决定t时刻的权重调整区域，一般的初始附近Nj*(0)大，训练中Nj*(t )随着训练时间逐渐收缩。koohnen学习算法、koohnen学习算法、SOM网

7、的学习算法、(5)调整权重值对优胜附近Nj*(t )内的所有节点调整权重值： i=1、2、njj*(t )式中，训练时间t和附近内的第j个神经元和优胜神经元此函数一般有以下规则：koohnen学习算法、SOM网的学习算法、(5)调整权重值、(6)学习率是否为零或结束检查。 Kohonen学习算法、SOM网络学习算法、koohnen学习算法过程、功能分析(1)保序映射将输入空间的样本模式类有序地映射到输出层上。 例1 :动物属性的特征映射。 数据压缩将高维空间的样本在保持拓扑的情况下投影到低维空间。 (3)特征提取高维空间的向量经过特征提取，能够在低维特征空间内更清晰地表现。 示例2:SOM网用

8、于字符排序。功能分析、SOM网在皮革中的应用，为了生产优质皮衣，必须保证各皮衣所使用的皮材的颜色和质感的相似性。 在生产中，有经验的工人多根据皮的颜色、图案的相近程度来分类。 这个被称为“配皮”的工程，由于光的条件、劳动者经验的差异、情绪、体力等因素的变化的影响，很难保证质量。 计算机皮革检测和分类系统可以对批量皮革的颜色和纹理进行在线检测、特征量提取和快速分类，取代传统的手工操作，取得了良好的效果。 基于、系统硬件配置、SOM神经网络的皮革簇，1 .颜色纹理特征提取颜色参数3:CIE1996一色空间值l*、a*、b*纹理参数3360梯度平均值2、梯度比例差2、梯度地板T8。 皮革的外观由二维

9、输入向量I=l*、a*、b*、2、2、T8描述，其中，2.SOM神经网络的设计网络结构：6输入一维线输出。 因为聚类时需要100张皮，平均56张皮，所以输出层设置了20个神经元。 每个神经元表示外观效果相似的皮材，只要不足以收集一种皮材制成皮衣，就可以和邻居的种类一起使用。 基于、SOM神经网络的皮革簇，、3 .网络参数设计Nj*(t )优胜附近在训练开始时复盖整个输出线，以后每次训练次数增加，在t=tm/P、Nj*(t )附近两端各收缩一个神经元，附近对于(t )，采用了以下模拟退火函数： 00.95tm5000tp1500， 4、4 .皮革纹理分类结果显示，基于SOM神经网络的皮革集群、S

10、OM网络用于物流中心城市分类评价，(1)物流中心城市评价指标和数据样本，简单地选择5个评价指标作为网络输入：人均GDP (元)、x2工业总产值、44个物流中心城市的分类评价样品，SOM网用于物流中心城市的分类评价，(2)物流中心城市的分类和评价分析，物流中心城市、全国物流中心城市、区域物流中心城市、综合型、货物型、SOM网用于物流中心城市的分类评价(2)物流中心城市的分类和评价分析，按照SOM算法程序，对前1000次反复进行排序，学习率=0.9； 之后是收敛阶段，学习率=0.02。 将44个数据样本标准化，输入网络进行训练。 实验比较的结果，最终类别数为8，得到了下表所示的分类结果。物流中心城市分类结果、机载实验说明任务：用平面网格状样品训练SO