模拟输入模式的稳定类型识别编码的自组织网络

模拟输入模式的稳定类型识别编码的自组织网络ART2:模拟输入模式的稳定类型识别编码的自组织网络稳这种结构能迅速自组织地进行模式识别并聚类。为了处理任意性－可塑性平衡，搜索－直接存取平衡，以及匹配－复位平衡。在这些体系结构上而下学习期望和匹配机制在自稳定的编码过程中是至关重要的。随着学习进程入模式与已熟知类别的样本集合具有共同的不变的属性,那么它可以增加(或减少)，系统就会自动搜寻并更细(或更粗)地进行识别分类。增益调节参数I.自适应谐振体系结构适应谐振体系结构是一种可以实时响应任意序列输入模式的，自组织地进行稳定态特性。这些定理预示了搜索的顺序(可视为网络的学习过程的函数)和渐近分类结构本文介绍了一类新的自适应谐振结构，即所谓的ART2。对于任意序列的模拟(灰度及二进制输入模式，ART2网络能够自行组织，形成稳定的ART (LTM)的迹，来对新的输入模式进行编码(图2)。这个过滤器包含在从特征表示场 (F1)到类别表示场(F2)(它们的节点经过合作与竞争的相互作用后)的通道中。这种自适应过滤和竞争的结合，有时也被称为竞争学习，在许多其他类型的自适应模式识ART演着对学习的期望值。它们能使系统行搜索。ART设计的关键点之一是对于任意环境，必须有自上而下的注意和有意的机制(或称为期望)来保证自稳定的学习。系统(见图2)。当自下而上的F1层输入与自上而下的期望值(F2中激活类别所输败时，调整子系统将被激活。在这种情况下，激活的调整子系统迅速地重置 自下向上自适应过滤、编码(或假说)的选择、自上向下的学习期望值的输出、匹ART适应模式识别是更为一般的认知过程(发现，测试，搜索，学习，并证实假说)的一个特例。在ART系统的应用中，对大型抽象的知识基础的自适应处理是未来研究的一个重要目标。学习已经达到自稳定，搜索机制就自动脱钩了。此后对任何隶要进行搜索，就可以高速和可以直接地激活或访问类别信息。F层能容忍更大的自上而下的或自下而上的匹配误差，从而导致分类粗糙(图3)。此相同的ART2网络将50个样本分为6个类别 (每个样本仅输入一次)。没有了在不匹配时的重置功能，会出现短时分组。(b)在每个样本输入3次后，一个粗略但稳定的类别结构就已经建立了。现，例如图4(a)中第1类。尽管如此，自上而下的期望值能积极调节学习过近编码。例如，尽管在图4(a)的例子中有最初的异常编码，图4(b)表明通过三轮的输入，可以建立一个稳定的聚类结构，在图4(a)中在1种类的聚类错误得到了纠正(将最初的并不相似的输入大致分裂成单独的类别1和7)。控制在图2中表示为圆形的实心点(被填充的)。FF，对短期记忆(STM)的活跃模式进行编码。在F1和F2之间的每个F并能比较这些自下而上和自上而下的模式。特别是，自下向上的输入可以有意识则在自下而上和自上而下的模式的交互作用下激活节点(图5)。因此，在自组织的ART系统下，意向性(或已知由上而下的期望的行动)暗示了空间的逻节点(细胞)，直至当前输入被移除。输入模式的偏移终止了它在F1中的运ART模型。图5搜索一个正确的F2编码。(a)当不明确地激活A,在F2层激活STM模式Y。(b)模式Y产生一个自上而转化为X*时产生的总活跃度减少会导致F1层对A的抑制作用减弱。(c)A在输入模式作用下的行为会释放式Y。(d)当Y被抑制，其自上而下的模板被消除，YY产生的自上而下的模板还是与I不匹配，搜索F2层合适编码的过程继续进行。III.ART2:模拟输入模型ART2体系结构是为处理模拟(也可以是二进制)输入模式而设计的。一个为模拟输入设计的种类代表系统，要能够把陷入在各种噪声背景里的近似信号图6典型的ART2结构。空心箭头指示特定的模式输入指向目标节点。实心箭头指示非特定的增益控制输入。增益控制中心(实心圆圈)根据STM向量的FJgyJd的节点g(yJ)=0。与ART1相同，增益控制(未显示)图6给出了一个典型的ART2结构。图2和图6的比较说明了ART1和ART2网络的一些主要的差异。为了ART2能在一个稳定的方式下匹配和学习ART最佳选择，ART2结构满足了神经网络分析所确定的一套设计原则，可对任意序列的T在每个ART2结构中，归一化，增益控制，匹配和学习机制的组合，在大致A.稳定性—可塑性平衡ART的识别编STM一种方式进行：即新的输入模式的长时间的持续(不撤离)不会抹去以往学习过的信息。Sec.XII显示了对图6中序中的单一输入，可能不停地在分类之间B直接访问平衡但如对一个输入模式已非常熟悉，将自动脱钩搜索过程。此后，无论总的已知识别结构有多复杂，熟悉的输入模式直接存取其识别编码，就像在我们的生活不同阶段，我们都可以迅速认出我们的父母。尽管随着我们成长，我们学习了一个ART2系统需要能够解决几个潜在冲突特性，这些冲突特性可以被理解为在敏感的匹配需求和新代码形成之间的设计权衡的变形。能够在这种是没有自上而下/自下而上的模式匹配的情况下，对它的第一次输入式FLTM向量(迹)选择等于零。在该节点的第一个学习试验，其LTM向量将逐步FSTMLTM没有学习过任何F1的底层和中层实现的，所以当底层和中层学习了他们的第一个正值时，(即使)读出这些LTM向量，他们的STM活跃模式也根本不会改变。强。如果一个自上而下的LTM模式的输出可能改变在F1各层的活跃底线 而下LTM向量产生一种新的STM模式。该STM不变特性防止一个完全匹配的LTM模式产生重置(通过防止任何改变，发生在F1较低层的STM模式)。下的信号时，(是活跃的)，(有自上而下LTM输出时)，F1的节点收到额外输入。在规一化的STM模式与F1中层(在此处自上而下和自下而上信息是匹配的)相互影响之前，额外的F1各级为自上而下LTM的输出和在F1顶层STM模式以补偿在底线活动的波动。如果没有这种规一化，有用的模式的区别和乱真底线的波动之间的混乱，很容易颠覆匹配过程和导致错误的重置事件发生，从而配也足以重置F2。F1中间层在削弱STM的活跃性(引起重置事件发生)上起着FSTM将被抑制。如果STM足够己的小LTM值造成的小的STM值。一个任意序列的二进制输入模式的学习的稳定性。它对ART2实现稳定学习(在响应一个任意序列的模拟输入模式)也是必要的(Sec.XII)。在ART1的术语输入模式的超集不能重编码一个由上而下的期望子集。在ART1中，这种特性通过有意识的增益控制通道获得(图2)。发展到ART2版G.稳定的选择直到重置不匹配，都要有这个属性(来实现重新选择F2节点)。因此，网络所有的实时模式处理操作(包括自上而下的F2至F1的反馈，场F1内(三层)的快速的动态的非线性反馈，和在学习中LTM的慢速变化)必须是有组织的以维持原有的F1H削弱一组给定的类似信号可能包含有强度不同的背景噪声(如图1)。在F1中，规一化处理和非线性反馈处理的结合确定了噪声判定标准，并使系统能够从噪MLTM自下而上和自上而下信号之和的非线性信号函数，也与这些个模式的所有子模式以相同的种类进行编码。I快速的自稳定性通常可以通过放慢学习速度(这样让LTM迹在一个输入试验上变化很小)，来使一个不稳定的学习系统变得更稳定些。在这种情况下，就需要多次集合的输入进行编码。比较而言，一个ART系统的学习要习情形下也能稳定地学习，此时LTM轨迹变化很快，使得他们在每一个试验中的自我稳定性在每个情况下都发生。可以通过定向子系统提高自我