4.5-对偶传播神经网络

廉小亲

北京工商大学计算机与人工智能学院

神经网络理论及应用：对偶传播神经网络对偶传播神经网络背景2026/10/11BTBU-CIE21987年，美国学者RobertHecht-Nielsen提出对偶传播神经网络模型(Counter-PropagationNetwork，缩写为CPN)对偶传播神经网络内容2026/10/11BTBU-CIE31、CPN网络结构与运行原理2、CPN网络学习算法3、CPN网络应用举例CPN网络结构与运行原理2026/10/11BTBU-CIE4CPN网络结构外星节点内星节点第j个节点内星权向量

第j个节点外星权向量CPN网络结构与运行原理2026/10/11BTBU-CIE5X＝(x1,x2,…,xn)T

Y＝(y1,y2,…,ym)T

，yi∈{0,1}，i=1,2,…,m

O＝(o1,o2,…,ol)Td＝(d1,d2,…,dl)TV=(V1,V2,…,Vj,…,Vm)

W=(W1,W2,…,Wk,…,Wl)CPN网络各层的数学描述：CPN网络结构CPN网络结构与运行原理2026/10/11BTBU-CIE6CPN网络结构学习规则由无导师学习和有导师学习组合而成训练样本集中的输入向量与期望输出向量应成对组成，即：{Xp,dp}，p=1,2,…,P，P为训练集中的模式总数。训练分为两个阶段进行第一阶段采用竞争学习算法对输入层至隐层的内星权向量进行训练第二阶段采用外星学习算法对隐层至输出层的外星权向量进行训练CPN网络结构与运行原理2026/10/11BTBU-CIE7CNP网运行过程CPN网络学习算法2026/10/11BTBU-CIE8

第一阶段用竞争学习算法对输入层至隐层的内星权向量进行训练，步骤如下：(1)将所有内星权值随机地赋以0～1之间的初始值，得到，并归一化为单位长度，训练集内的所有输入模式也要进行归一化，得到。，使，

(5)重复步骤(2)至步骤(4)直到下降至0。(4)调整获胜神经元的内星权向量，调整规则为(3)确定竞争获胜神经元，，

，

。(2)输入一个模式Xp，计算净输入netj=，j=1,2,…,mCPN网络学习算法2026/10/11BTBU-CIE9，使，

(1)输入模式对Xp,dp，净输入netj=第二阶段采用外星学习算法对隐层至输出层的外星权向量进行训练，步骤如下：

(4)重复步骤(1)至步骤(3)直到下降至0。

ok由下式计算(3)调整隐层获胜节点到输出层的外星权向量，调整规则为(2)确定竞争获胜神经元，使CPN网络学习算法2026/10/11BTBU-CIE10，使，

Xp,dp

CPN网络运行算法总结第一阶段训练第二阶段训练2026/10/11BTBU-CIE11，使，

首先向网络送入输入向量隐含层对这些输入进行竞争计算，得到获胜神经元，输出值为1竞争获胜的隐含神经元激励输出层神经元输出就由竞争获胜的神经元所对应的外星向量来确定CPN网络运行总结CPN网络学习算法CPN网络应用举例2026/10/11BTBU-CIE12（1）问题描述

博士论文的评价若干指标文献综述论文选题基础理论和专门知识创新性论文工作期间科研成果从论文看作者的学风中英文表达水平根据这些指标给出论文的成绩如“优”、“良”、“中”，这实际上是一个分类问题，可以采用神经网络的方法建立输入输出之间的模型。文献来源：陈伟.人工神经网络及其在博士论文质量评估中的应用.中国高等教育评估.2006(4):50-53博士论文质量评估CPN网络应用举例2026/10/11BTBU-CIE13（2）样本数据

博士论文的评价若干指标文献综述论文选题基础理论和专门知识创新性论文工作期间科研成果从论文看作者的学风中英文表达水平

样本输入：某大学有关学科博士学位论文进行抽样评估的数据。

选取四个指标为输入层向量，用“优”、“良”、“中”的模糊等级评价方式打分(将该分值做数值化处理，优对应1.0，良对应0.8，中对应0.6)。

样本输出：根据专家的定性评价结果，作为样本的教师信号输出，输出层为优、良、中三个档次，分别编码为(1,0,0)，(0,1,0)，(0,0,1)三种输出模式。一共选取了25组输入、输出模式对。

CPN网络应用举例2026/10/11BTBU-CIE14（3）网络设计

输入层：选择4个节点，与四项指标对应；隐含层：根据本例情况选取16个元素；输出层：选择3个，对应输出类别编码的维数；网络的两个学习率：都为0.85；（4）网络测试

将6组测试数据输入网络，得到的输出与专家期望的相符合。输入输出网络评估结果110.60.6001中10.80.61001中110.80.600.850.15良0.80.810.800.980.02良0.80.60.80.6001中0.610.60.600.150.85中网络测试结果CPN网络应用举例2026/10/11BTBU-CIE15（5）案例剖析与小结

该评估问题实际上是一个分类问题，评价指标作为网络的输入，评估等级是网络的输出，CPN网络的竞争层能够进行聚类，再通过有导师学习就可以精确划分类型。随着样本数得增多，网络的训练次数也随之增加，另外，该例中隐层节点数的选择还主要依靠经验和试验。2026/10/