神经网络理论及应用实践 课件 第4章自组织竞争神经网络

神经网络理论及应用：竞争学习神经网络1123111122223333123有导师学习无导师学习1231112233123有教师无教师分类——分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中去。聚类——无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开。竞争学习神经网络2026/10/11BTBU-CIE4竞争层输入层自组织神经网络的典型结构自组织学习(self-organizedlearning)通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。自组织网络的自组织功能是通过竞争学习（competitivelearning）实现。

竞争学习神经网络1、基本概念2、学习规则3、应用实例2026/10/11BTBU-CIE5竞争学习神经网络：基本概念2026/10/11BTBU-CIE6

相似性测量＿欧式距离法聚类形状特点：易形成大小相似且紧密的圆形聚类2026/10/11BTBU-CIE7

相似性测量＿余弦法聚类形状特点：易形成大体同向的狭长形聚类。适用于模式向量长度相同或模式特征值与向量方向有关的相似性测量竞争学习神经网络：基本概念竞争学习神经网络1、基本概念2、学习原理3、应用实例2026/10/11BTBU-CIE82026/10/11BTBU-CIE9胜者为王算法：网络的输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的状态被抑制，故称为WinnerTakeAll。自组织神经网络的典型结构竞争学习神经网络：学习原理2026/10/11BTBU-CIE10①输入向量归一化②寻找获胜神经元③网络输出权值调整①向量归一化首先将当前输入模式向量X和竞争层中各神经元对应的内星权向量Wj全部进行归一化处理。

竞争学习神经网络：学习原理2026/10/11BTBU-CIE11①输入向量归一化②寻找获胜神经元③网络输出权值调整向量归一化之前向量归一化之后①向量归一化首先将当前输入模式向量X和竞争层中各神经元对应的内星权向量Wj全部进行归一化处理。竞争学习神经网络：学习原理2026/10/11BTBU-CIE12①输入向量归一化②寻找获胜神经元③网络输出权值调整②寻找获胜神经元将输入模式向量与竞争层所有神经元对应的内星权向量进行相似性比较，并将最相似的内星权向量标记为竞争获胜神经元。

竞争学习神经网络：学习原理2026/10/11BTBU-CIE13①输入向量归一化②寻找获胜神经元③网络输出与权值调整③网络输出与权值步骤3完成后，注意此时更新后的权向量不是单位向量，需要再归一化，然后回到步骤1继续训练，直到学习率衰减到0。j

j*竞争学习神经网络：学习原理竞争学习神经网络1、基本概念2、学习规则3、应用实例2026/10/11BTBU-CIE142026/10/11BTBU-CIE15输出神经元内星权向量经过学习后成为对应输出类中心竞争学习神经网络：实例2026/10/11BTBU-CIE16竞争学习神经网络：小结自组织神经网络的典型结构①输入向量归一化②寻找获胜神经元③网络输出与权值调整输出神经元内星权向量经过学习后成为对应输出类中心致谢本课程所引用的一些素材来源于多种媒体及同事和同行的交流，难以一一注明出处，特此说明并表示感谢！

2026/10/11BTBU-CIE17

神经网络理论及应用：SOM神经网络主讲人：吴静珠

北京工商大学计算机与人工智能学院SOM神经网络1981年芬兰Helsink大学的T.Kohonen教授提出一种自组织特征映射网，简称SOM网，又称Kohonen网。SOM网络特点：“有序映射”。2026/10/11BTBU-CIE19优胜邻域获胜神经元调整权向量与侧抑制的方式不同SOM神经网络1、网络结构2、学习规则3、应用案例2026/10/11BTBU-CIE20网络结构2026/10/11BTBU-CIE21竞争层输入层自组织神经网络的典型结构SOM神经网络1、网络结构2、学习规则3、应用案例2026/10/11BTBU-CIE22学习规则：Kohonen算法2026/10/11BTBU-CIE23Kohonen算法：网络的输出神经元之间相互竞争以求被激活，获胜神经元及其优胜领域内的所有神经元连接权值得以调整，且调整力度根据距离获胜神经元的远近逐步衰减，最后使输出层个神经元成为对特定模式类敏感的神经细胞，最终在输出层形成能够反映样本模式类分布情况的有序特征图。自组织神经网络的典型结构学习规则：Kohonen算法2026/10/11BTBU-CIE24输入-权值归一化寻找获胜神经元调整权值定义优胜邻域向量归一化之前向量归一化之后学习规则：Kohonen算法2026/10/11BTBU-CIE25寻找获胜神经元调整权值定义优胜邻域当网络得到一个输入模式向量时，竞争层的所有神经元对应的内星权向量均与其进行相似性比较，并将最相似（距离最小）的内星权向量判为竞争获胜神经元。输入-权值归一化学习规则：Kohonen算法2026/10/11BTBU-CIE26寻找获胜神经元调整权值定义优胜邻域输出平面上相邻神经元对应的权向量之间既有区别又有相当的相似性，从而保证当获胜节点对某一类模式产生最大响应时，其邻近节点也能产生较大响应。输入-权值归一化学习规则：优胜领域的设计设计原则：使邻域不断缩小学习规则：Kohonen算法2026/10/11BTBU-CIE28寻找获胜神经元调整权值定义优胜邻域对优胜邻域Nj*(t)内的所有节点调整权值：

i=1,2,…n

j

Nj*(t)

式中，是训练时间t和邻域内第j个神经元与获胜神经元j*之间的拓扑距离N的函数，该函数一般有以下规律：输入-权值归一化学习规则：Kohonen算法2026/10/11BTBU-CIE29初始化权向量（归一化）优胜域学习率归一化样本寻找获胜神经元根据训练的次数调整优胜域调节优胜域内节点对应的权值判断是否到了中止条件(学习率是否小于某值)SOM神经网络1、网络结构2、学习规则3、应用案例2026/10/11BTBU-CIE30应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE31问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(1)导入数据导入MATLAB自带数据simplecluster_dataset:simpleclusterInputs(2☓1000),simpleclusterTargets(4☓1000)loadsimplecluster_dataset;[x,t]=simplecluster_dataset;plot(x(1,:),x(2,:),'+')应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE32问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(2)创建网络采用函数selforgmap创建一个SOM网络，输出为10☓10的网络dimension1=10;dimension2=10;net=selforgmap([dimension1dimension2]);view(net);网络结构函数形式：selforgmap(dimensions,coverSteps,initNeighbor,topologyFcn,distanceFcn)应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE33问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面网络拓扑结构应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE34问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面相邻神经元连接情况应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE35问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面神经元连接强度应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE36问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面权值分布应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE37问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面神经元激活情况应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE38问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面权值向量的位置应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE39问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(4)测试网络y=net(x);classes=vec2ind(y);应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE40问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(4)测试网络y=net(x);classes=vec2ind(y);分析：①y为100☓1000的矩阵，列号表示输入样本编号，行中的“1”表示该位置的神经元被激活。②y是个稀疏矩阵，不便于观察，采用vec2ind得到每个样本激活的神经元编号。例如下所示，第一个输入样本激活第88个神经元，即第九行，第八个神经元。SOM神经网络：小结2026/10/11BTBU-CIE41输入向量归一化寻找获胜神经元调整权值定义优胜邻域自组织神经网络的典型结构输出层形成能够反映样本模式类分布情况的有序特征图致谢本课程所引用的一些素材来源于多种媒体及同事和同行的交流，难以一一注明出处，特此说明并表示感谢！

2026/10/11BTBU-CIE42

神经网络理论及应用：SOM神经网络案例主讲人：吴静珠

北京工商大学计算机与人工智能学院应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE44问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(1)导入数据导入MATLAB自带数据simplecluster_dataset:simpleclusterInputs(2☓1000),simpleclusterTargets(4☓1000)loadsimplecluster_dataset;[x,t]=simplecluster_dataset;plot(x(1,:),x(2,:),'+')应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE45问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(2)创建网络采用函数selforgmap创建一个SOM网络，输出为10☓10的网络dimension1=10;dimension2=10;net=selforgmap([dimension1dimension2]);view(net);网络结构函数形式：selforgmap(dimensions,coverSteps,initNeighbor,topologyFcn,distanceFcn)应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE46问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面网络拓扑结构应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE47问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面相邻神经元连接情况应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE48问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面神经元连接强度应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE49问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面权值分布应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE50问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面神经元激活情况应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE51问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(3)训练网络采用函数trainnet=train(net,x);网络训练界面权值向量的位置应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE52问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(4)测试网络y=net(x);classes=vec2ind(y);应用案例：基于MATLAB的SOM网络聚类2026/10/11BTBU-CIE53问题描述：在二维平面上有1000个点，采用SOM网络进行聚类。(4)测试网络y=net(x);classes=vec2ind(y);分析：①y为100☓1000的矩阵，列号表示输入样本编号，行中的“1”表示该位置的神经元被激活。②y是个稀疏矩阵，不便于观察，采用vec2ind得到每个样本激活的神经元编号。例如下所示，第一个输入样本激活第88个神经元，即第九行，第八个神经元。致谢本课程所引用的一些素材来源于多种媒体及同事和同行的交流，难以一一注明出处，特此说明并表示感谢！

2026/10/11BTBU-CIE54

神经网络理论及应用：LVQ神经网络主讲人：吴静珠

北京工商大学计算机与人工智能学院LVQ神经网络学习矢量量化(LearningVectorQuantization)，简称LVQ，1988年由Kohonen提出的一类用于模式分类的有监督学习算法。

LVQ网络将竞争学习思想和有监督学习算法相结合。2026/10/11BTBU-CIE56+LVQ神经网络1、网络结构与工作原理2、学习算法3、应用案例2026/10/11BTBU-CIE57LVQ神经网络：网络结构与工作原理2026/10/11BTBU-CIE58LVQ神经网络

W2W1X＝(x1,x2,…,xn)T

Y＝(y1,y2,…,ym)Tyi∈{0,1}，i=1,2,…,mO＝(o1,o2,…,ol)Td＝(d1,d2,…,dl)TLVQ神经网络：网络结构与工作原理2026/10/11BTBU-CIE59LVQ神经网络

W2W1输出层每个神经元只与竞争层中的一组神经元连接，连接权值固定为1。目标类子类LVQ神经网络1、网络结构与工作原理2、学习算法3、应用案例2026/10/11BTBU-CIE60LVQ神经网络：学习算法2026/10/11BTBU-CIE61LVQ神经网络学习规则由竞争学习和有导师学习组合而成训练样本集中输入向量与期望输出向量应成对组成，即：{Xp,dp}，p=1,2,…,P，P为训练集中的模式总数。预先定义好W2，即指定输出神经元类别；然后用竞争学习算法对输入层至隐层的内星权向量进行训练W1权值调整

获胜节点正确时权值适量的调整方向获胜节点错误时权值适量的调整方向LVQ神经网络：学习算法2026/10/11BTBU-CIE62LVQ神经网络学习算法步骤网络初始化输入样本寻找获胜神经元调整权值更新学习率LVQ神经网络：学习算法2026/10/11BTBU-CIE63LVQ神经网络学习算法步骤网络初始化

输入样本寻找获胜神经元调整权值更新学习率LVQ神经网络：学习算法2026/10/11BTBU-CIE64LVQ神经网络学习算法步骤网络初始化输入样本寻找获胜神经元调整权值更新学习率LVQ神经网络：学习算法2026/10/11BTBU-CIE65LVQ神经网络学习算法步骤网络初始化输入样本寻找获胜神经元j*调整权值更新学习率LVQ神经网络：学习算法2026/10/11BTBU-CIE66LVQ神经网络学习算法步骤网络初始化输入样本寻找获胜神经元j*调整权值更新学习率网络分类结果与教师信号一致:网络分类结果与教师信号不一致:LVQ神经网络：学习算法2026/10/11BTBU-CIE67LVQ神经网络学习算法步骤网络初始化输入样本寻找获胜神经元j*调整权值更新学习率当t<tm时，t=t+1，转到步骤(2)输入下一个样本，重复各步骤直到t=tm。LVQ神经网络：应用实例2026/10/11BTBU-CIE68LVQ神经网络：小结2026/10/11BTBU-CIE69LVQ神经网络

LVQ网络是SOM网络的一种有监督形式的扩展，两者结合可更好地发挥竞争学习和有监督学习的优点。致谢本课程所引用的一些素材来源于多种媒体及同事和同行的交流，难以一一注明出处，特此说明并表示感谢！

2026/10/11BTBU-CIE70廉小亲

北京工商大学计算机与人工智能学院

神经网络理论及应用：对偶传播神经网络对偶传播神经网络背景2026/10/11BTBU-CIE721987年，美国学者RobertHecht-Nielsen提出对偶传播神经网络模型(Counter-PropagationNetwork，缩写为CPN)对偶传播神经网络内容2026/10/11BTBU-CIE731、CPN网络结构与运行原理2、CPN网络学习算法3、CPN网络应用举例CPN网络结构与运行原理2026/10/11BTBU-CIE74CPN网络结构外星节点内星节点第j个节点内星权向量

第j个节点外星权向量CPN网络结构与运行原理2026/10/11BTBU-CIE75X＝(x1,x2,…,xn)T

Y＝(y1,y2,…,ym)T

，yi∈{0,1}，i=1,2,…,m

O＝(o1,o2,…,ol)Td＝(d1,d2,…,dl)TV=(V1,V2,…,Vj,…,Vm)

W=(W1,W2,…,Wk,…,Wl)CPN网络各层的数学描述：CPN网络结构CPN网络结构与运行原理2026/10/11BTBU-CIE76CPN网络结构学习规则由无导师学习和有导师学习组合而成训练样本集中的输入向量与期望输出向量应成对组成，即：{Xp,dp}，p=1,2,…,P，P为训练集中的模式总数。训练分为两个阶段进行第一阶段采用竞争学习算法对输入层至隐层的内星权向量进行训练第二阶段采用外星学习算法对隐层至输出层的外星权向量进行训练CPN网络结构与运行原理2026/10/11BTBU-CIE77CNP网运行过程CPN网络学习算法2026/10/11BTBU-CIE78

第一阶段用竞争学习算法对输入层至隐层的内星权向量进行训练，步骤如下：(1)将所有内星权值随机地赋以0～1之间的初始值，得到，并归一化为单位长度，训练集内的所有输入模式也要进行归一化，得到。，使，

(5)重复步骤(2)至步骤(4)直到下降至0。(4)调整获胜神经元的内星权向量，调整规则为(3)确定竞争获胜神经元，，

，

。(2)输入一个模式Xp，计算净输入netj=，j=1,2,…,mCPN网络学习算法2026/10/11BTBU-CIE79，使，

(1)输入模式对Xp,dp，净输入netj=第二阶段采用外星学习算法对隐层至输出层的外星权向量进行训练，步骤如下：

(4)重复步骤(1)至步骤(3)直到下降至0。

ok由下式计算(3)调整隐层获胜节点到输出层的外星权向量，调整规则为(2)确定竞争获胜神经元，使CPN网络学习算法2026/10/11BTBU-CIE80，使，

Xp,dp

CPN网络运行算法总结第一阶段训练第二阶段训练2026/10/11BTBU-CIE81，使，

首先向网络送入输入向量隐含层对这些输入进行竞争计算，得到获胜神经元，输出值为1竞争获胜的隐含神经元激励输出层神经元输出就由竞争获胜的神经元所对应的外星向量来确定CPN网络运行总结CPN网络学习算法CPN网络应用举例2026/10/11BTBU-CIE82（1）问题描述

博士论文的评价若干指标文献综述论文选题基础理论和专门知识创新性论文工作期间科研成果从论文看作者的学风中英文表达水平根据这些指