人工神经元网络及其在电气设备故障诊断应用

电气设备故障诊断第九讲 人工神经元网络及其在电气设备故障诊断技术中的应用

序：传统人工智能的局限性及解决途径

传统AI的基础是逻辑推理，且是在冯·诺依曼串行机上实现的，它要具备两个条件才能进行：将处理的问题都化成符号序列表示要给出处理这些符号的规则传统AI能解决的问题完全局限于人的逻辑思维所能解决的问题之内，完全是一种逻辑思维的模拟．而人脑除逻辑思维外，还有形象思维与逻辑表象等，因而单靠传统的AI不能很好地模拟智能。另外，对于无法形式化的问题；难以用AI来求解。最主要的局限——难以学习，不具有学习的系统很难模拟智能。要在基于逻辑推理的系统中实现学习虽不能说不可能，至目前难有大的进展。人工神经元网络具有自学习能力，将其与传统AI结合起来是模拟智能的很好的途径ANN是一种模仿人脑行为及其活动过程的推理分析方法，它具有自学习能力，能从一系列的数据中综合出规律性的知识——较为有效地解决了专家系统知识获取困难。一般认为，最早用数学模型对神经系统中的神经元进行理论建模的是美国心理学家麦卡洛克（W.McCulloch）和数学家皮茨（W.Pitts）。1943年建立了MP神经元模型。MP神经元模型首次用简单的数学模型模仿出生物神经元活动功能，并揭示了通过神经元的相互连接和简单的数学计算，可以进行相当复杂的逻辑运算这一令人兴奋的事实。人工神经元网络具有自学习能力，将其与传统AI结合起来是模拟智能的很好的途径ANN是一种模仿人脑行为及其活动过程的推理分析方法，它具有自学习能力，能从一系列的数据中综合出规律性的知识——较为有效地解决了专家系统知识获取困难。1957年，美国计算机学家罗森布拉特提出了著名的感知器Perceptron模型。它是一个具有连续可调权值矢量的MP神经网络模型，经过训练可达到对一定输入矢量模式进行识别的目的。1959年，当时的另外两位美国工程师威德罗和霍夫提出了自适应线性元件（Adaptivelinearelement）它是感知器的变化形式，尤其在权失量的算法上进行了改进，提高了训练收敛速度和精度。他们从工程实际出发，不仅在计算机上模拟了这种神经网络，而且还做成了硬件，并将训练后的人工神经网络成功地用于的小通讯中的回波和噪声，成为第一个用于解决实际问题的人工神经网络。人工神经元网络具有自学习能力，将其与传统AI结合起来是模拟智能的很好的途径ANN是一种模仿人脑行为及其活动过程的推理分析方法，它具有自学习能力，能从一系列的数据中综合出规律性的知识——较为有效地解决了专家系统知识获取困难。1969年，人工智能的创始人之一明斯基和帕伯特在合著的《感知器》一书中对以单层感知器为代表的简单人工神经网络的功能及局限性进行了深入分析。他们指出，单层感知器只能进行线性分类，对线性不可分的输入模式无能为力，而其解决的办法是设计出具有隐含层的多层神经网络，但是要找到一个有效修正权矢量的学习算法并不容易。这一结论使得当时许多神经网络研究者感到前途渺茫，客观上对神经网络理论的发展起了一定的消极作用。人工神经元网络具有自学习能力，将其与传统AI结合起来是模拟智能的很好的途径ANN是一种模仿人脑行为及其活动过程的推理分析方法，它具有自学习能力，能从一系列的数据中综合出规律性的知识——较为有效地解决了专家系统知识获取困难。美国学者霍普菲尔德对人工神经网络研究的复苏起到了关键性的作用。1982年，他提出了霍普菲尔的网络模型，将能量函数引入到对称反馈网络中，网络稳定性有了明显的判据，并利用提出的网络的神经计算能力来解决条件优化问题。另外，霍普菲尔德网络模型可以用电子模拟线路来实现，从而由此还兴起了对新一代电子神经计算机的研究。1984年，提出了连续时间Hopfield神经网络模型，为神经计算机的研究做了开拓性的工作，开创了神经网络用于联想记忆和优化计算的新途径另一个突破性的研究成果是儒默哈特等人在1986年提出的解决多层神经网络权值修正的算法误差反向传播法，简称BP算法，找到了解决明斯基和帕伯特提出的问题的办法，从而给人工神经网络增添了活力。人工神经元网络具有自学习能力，将其与传统AI结合起来是模拟智能的很好的途径ANN是一种模仿人脑行为及其活动过程的推理分析方法，它具有自学习能力，能从一系列的数据中综合出规律性的知识——较为有效地解决了专家系统知识获取困难。神经网络在电力系统中得到应用1975年Dillon等人首先运用自学习机对电力系统负荷预报进行了研究；1986年S．Y．OH利用模识识别和联想记忆的方法进行大规模电力系统的安全估计，并对一个实际系统进行了分析；1988年D．J．Sobajic和Y．H．Pao应用BP算法进行了电力系统动态安全估计方面的研究；1989年S．Ebron等人提出用BP模型进行配电网馈电线的初期故障检测。特别是近十年来，利用ANN进行动态安全分析、警报处理、谐波负荷识别、经济调度、系统初期故障诊断、无功的实时控制以及同步电机模拟、预想事故选择等方面的研究越来越多，为电力系统的规划、运行和控制提供了新的方法。人工神经网络(ANN)原理

人工神经元网络模型(ArtificialNeuralNetwork—ANN)——又称连接机制模型(ConnectionismModal)——并行分布处理模型(ParallelDistributedProcessingModel)，由大量简单元件广泛连接而成的，用以模拟人脑行为的复杂网络系统．研究这一系统的根本目的是探索人脑信息处理、储存和搜索的机制属于AI的一个分支1.组成ANN的基本单元—神经元神经元——人脑的基本细胞单元是。人脑是由几百亿个神经元紧密连接而组成的。神经元由树突、细胞体、轴突与突触等部分组成。每一神经元通过树突接收和组合从其它许多神经元送来的信号;如果组合的信号足够强，则该神经元处于激话(activation)状态，产生一个输出信号(反之则处于抑制状态)。通过轴突与突触的许多分支终端传递到周围神经元的输入端一树突，到达神经元输入端的信号的强度取决于突触的强度(权值，Weight)。生物神经网络就是通过改变突触的强度而学习的——突触是基本记亿单元。2.神经元的节点函数——传递函数3.神神经经元元与与神神经经元元间间连连接接方方式式ANN的基基本本特特征征人工工神神经经网网络络由由大量量处处理理单单元元(神神经经元元、、处处理理元元件件等等)广广泛泛互互联联组组成成，，反反映映了了人人脑脑的的基基本本特特性性。。以神经元连连接与并并行机制制来简化、、抽象及及模拟人人脑的逻逻辑及形形象思维维能力。。——高高度非线线性的大大规模或或超大规规模的动动力系统统，主要要表现为为连续时时间的非非线性动动力性、、网络的的全局作作用、大大规模并并行处理理及高度度的鲁棒棒性和学学习联想想特性。。在神经网网络系统统中，信息的存存储与处处理(计计算)是是合为一一体的，网络络通过大大量神经经元之间间的相互互联系存存储知识识与信息息，神经经元之间间的大规规模并行行分布式式的相互互作用实实现知识识信息的的处理。。组织成大大规模的的复杂系系统，提提供了大量可供供调节的的变量；实现了并并行处理理的机制制(网络络内或层层内各个个神经元元可以并并行工作作和调整整)，实实现集体计算算，使信息息处理速速度加快快；信息分布布存储在网络内内神经元元的连接接权值上上，提供供了联想想与记忆忆的能力力；同时时由于网网络结构构造成的的高度冗冗余，从从而具备高度度的容错错性与鲁鲁棒性；基于连接接权值可可变性，，网络拓拓扑具有有强的自适应能能力；具备从示例自动动学习的显著学学习能力力，使神神经网络络能应用用于具有有更多未未知理论论的领域域；神经元处理单元元通常很很简单，方便实实现规模模化集成成。ANN的功能a．有导师学学习(SupervisedLearning)———针对对应应模式b．无导师学学习(UnsupervisedLearning)．根据环境境的变化化自行组组织。c．联想存储储(记忆)．有自自联想和和异联想想自联想记记忆——设在在训练过过程中由由ANN存入K个样本向向量，现现输入向向量X’＝X(t)+V，其中X(t)是样本向向量之一一,V是偏差向向量，要要求输出出y’≈X(t)。异联想记记忆——两样样本间具具有一定定的对应应关系，，要求从从有噪声声(干扰扰)的一一组样本本联想出出另一组组样本中中与其相相对应的的没有或或有很小小干扰的的祥本。。自联想想记忆是是异联想想记忆的的特例d．优化与调调度计算算．ANN可用于优优化计算算，典型型的是Hopfield模型。该该模型可可用于约约束优化化问题的的近似计计算，并并已成功功地用于于旅行推推销员问问题(TravellingSalesmanProblem—TSP)及其它一一些优化化问题的的求解。。ANN与传统AI(包括专专家系系统)在模模拟智智能方方面的的主要要区别别传统AI模拟了了人的的逻辑思思维ANN主要模模拟了了人的的形象思思维传统AI适于处处理象象规划划、决决策和和语义义理解解等较高级级的问问题，ANN适于解解决象象模式式识别别和联联想记记亿等等较低级级的认认识问问题传统的的AI系统中中实现现学习很很难ANN一个重重要特特征是是能够学学习在传统统的专专家系系统中中，知知识是是以规规则的的形式式显示示表示示的ANN可从样样本中中通过过学习习产生生规则则。ANN的学习习过程程是自自适应应式的的，当当重复复地向向ANN提供输输入／／期望望的输输出对对时，，ANN进行自自身的的调整整与组组织，，逐步步完成成期望望的由由输入入到输输出的的映射射．ANN的这种种无需需显式式表示示规则则和不不要求求大量量的人人力、、以及及能够够通过过学习习获得得合适适的结结构的的特征征使其其很适适于处处理困困难的的模式识识别问问题。ANN与传统统AI(包括专专家系系统)在模模拟智智能方方面的的主要要区别别传统的的AI是基于于串行的方式式实现现的ANN是并行、、分布布、联想想式的的用传统统AI解决问问题时时，通通常要要花费费大量量的人人力和和时间间将具具体的的问题题表示成成符号号序列列的形式式ANN模型有有些是是面向‘‘数据据’的，因因而要要求的的人力力少传统AI系统是是采用用算法法或规规则方方式的的，仅能完完成设设定的的任务务，在这这种系系统中中出现现任何何程度度的不不可预预测的的情况况(不不常出出现)时，，通常常会误误操作作。ANN是非线线性动动力学学系统统，具有不不可预预测的的特性性，与人人类有有类似似的行行为．．在较较大的的范围围内进进行学学习在ANN中，以以输入入与期期望的的输出出对表表示的的知识识是分分布存存贮于于所有有处理理单元元上的的．ANN的联想特征征，使得当输入入信息不完完全时，仍仍可选出最最接近的匹匹配模式，产生对应应于完全输输入信息的的输出。ANN的分布存储储与联想特特征使得当当输入不完完整、有噪噪声时仍能能得出合理理的输出响响应，具有有很强的容容错能力。。这使得ANN远比传统AI更适于解决决复杂的模模式识别问问题。ANN的主要研究究领域A．用ANN解决问题时，，决定各神经经元间的连接接及其权值的的学习算法包括：确定模模型结构、性性质、训练方方法及其效率率的研究ANN是高度非线性性动力学系统统，具有非常常复杂的行为为．每个神经经元本身是非非常简单的非非线性元件，，但由它们广广泛连接而成成的ANN具有十分复杂杂的集体行为为，这正是非非线性系统的的基本特征．．研究的重点是ANN的集体行为而非单个神经经元的性能，，因而研究的的方法是综合而非分解。B．ANN的微电子或光光学实现ANN具有高度的并并行处理与分分布式存贮的的特性，在冯冯·诺依曼型型机上无法实实现．研究ANN的硬件实现是是一重要课题题．两种实现途径径：光学实现，可以表示出出三维空间上上的互连，更更能体现ANN的特点，而人人脑中的神经经网络也是三三维互连的；；电子线路或VLSI的特征是二维维的．C．探索生物神经网络络的结构及运运行机制模仿人脑，直直接方法是研研究人脑———十分困难要理想地模拟拟人的信息处处理、储存和和搜索的机制制，只能采用用这种途径，，当然也需要要由其它途径径加以促进。。NN的特征———拓扑特征(1)单层自反馈NN(小容量存储)；NN的特征———拓扑特征(2)多层前馈NN(可大容量存储)NN的特征———拓扑特征(3)多层反馈NN(可大容量存储)NN的特征——学习特征1．有教师学习NN对输入模式的训练在教师指导下完成。按照一定的学习算法，不断调整输出模式与所提供的正确样本(教师)之间的误差，实现输出的最佳解。有导师学习算法的种类很多，如误差校正学习、增强权值学习、随机学习、赫布学习、竞争和协同学习等。典型的NN如B—P网、联想网等NN的特征——学习特征2．无教师学习无教师学习又可称为自组织学习。NN对输入模式的训练在无教师指导下完成。NN仅依靠局部信息和内部自适应调整，控制其输出。NN是在无教师指导下，完成训练和输出最佳解。最典型的是科霍思自组织网络NN的稳定性特征和收敛特征神经网络对外外部环境信息息进行处理时时，稳定性是必须须考虑的重要要因素。如果NN在外部环境刺刺激下不出现现大的扰动，，则NN是稳定的，反反之，NN是不稳定的。。作为非线性性动力学系统统的NN，寻求全局最终终稳定点(收敛点、平平衡点等)。。如果NN只存在局部稳稳定点，则该该NN只能说是局部部稳定NN，而不是全局稳稳定NN。NN的收敛性通常表示为所所希望的NN输出与实际计计算的NN输出之间的最最终最小误差差。NN的收敛和稳定定是相互联系系、相辅相成成的。李雅普普诺夫(Lyapunov)直接方法是判判定NN全局稳定的常常用方法。主要ANN模型神经网络的特性来源于网网络中神经元元的互连结构构根据神经网络络连接方式的的不同：不含反馈的前前向网络(如如感知器、BP网络等)反馈网络(如如Hopfield网络、Hamming网络等)层内有相互连连接的随机网网络(如Boltzman机等)自组织型神经经网络等常用的学习规规则：相关规则(如如Hebb规则)纠错规则(如如及广义学习规则、Boltzman机的模拟退火火规则等)基于自适应学学习的无教师师学习规则等等。神经网络的模模式判断性能能决定于其网网络模型，包包括网络结构构、网络学习习算法和学习习样本基于纠错学习习规则的前向神经网络络具有结构简单单、学习算法法方便、善于于联想记忆与与模式识别等等显著优点，，在着重信息息处理与模式式识别的故障障诊断研究中中得到了广泛泛的应用。相关规则(Hebb)非监督学习规规则(unsupervisedlearning)在生理学上就就是Pavlov的条件反射原理理，当用一个毫毫无意义的刺刺激信号（如如铃的响声））同时伴有另另一个刺激信信号（如食物物）反复加给给动物的时候候，经过一段段时间的训练练后，动物就就会建立一种种联想.当再再接接受受到到刺刺激激信信号号时时，，动动物物就就会会产产生生条条件件反反射射.这种种类类型型的的学学习习是是完完全全开开环环的的。。当某某一一突突触触两两端端的的神神经经元元激激活活同同步步时时，，该该连连接接的的强强度度应应加加强强，，反反之之则则应应减减弱弱。。竞争争学学习习基于于自自适适应应学学习习的的无无教教师师学学习习规规则则在学学习习时时网网络络每每个个输输出出单单元元相相互互竞竞争争，，最最后后只只有有一一个个最最强强激激活活者者———修改改其其连连接接权权值值。。神经经网网络络的的实实现现1957年年弗弗兰兰克克··罗罗森森布布拉拉特特(FrankRosenblatt)发明明并并设设计计了了Markl感知知器器神神经经计计算算机机(具具有有20××20像像素素图图像像传传感感器器，，512个个连连接接权权)，，用用做做一一个个特特征征识识别别器器1．计算机实现——ANN模型由计算机模拟实现对于结构简单、小容量的ANN模拟可以用普通计算机来实现，但对于结构复杂、大容量的ANN的模拟，必须有与之相适应的大规模并行计算机、神经计算机等才能实现2．硬件实现——ANN的专用处理器实现包括高速神经芯片和系统(集成电路)、与处理器相连接的协处理器等。卡温·米德(CarverMead)在“AnalogVLSIandNeuralSystems”一书中有关于这方面详细的实现研究成果。3．光学或光电结合实现——ANN的光学元件或光电结合实现最新实现手段，在国外出版的许多专著中都有这方面的研究报道。包括光纤、光导、CCD摄像机、光电转换等实现手段。ANN的实实现现研研究究的的主主要要目目的的就就是是建建立立第第六六代代智智能能系系统统和和第第六六代代计计算算机机————神神经经计计算算机机。。作为为第第六六代代智智能能系系统统应应当当具有有模模仿仿人人的的大大脑脑行行为为的的特特征征。作作为为第第六六代代计计算算机机应应当当具具有有大大规规模模并并行行性性，，机机器器学学习习功功能能，，自自适适应应和和自自组组织织，，目目标标的的直直接接处处理理，，智智能能处处理理器器记记忆忆单单元元等等特特征征。。建立立高高速速神神经经芯芯片片和和系系统统、、并并行行处处理理系系统统是是ANN实现的的关键键。ANN模型实现方式LVQ、BP、BM、AG、ARTI、CH、BAM集成电路BP、BM、AG、CH、BAM协处理器BP、BAM、CH总线定位处理器BAM、CH大规模集成电路感知器、BP、BM、AG、BAM、CH光学、光电结合感知器、AG电子元件人工神神经网网络的的诊断断应用用神经网网络的的应用用包括括：网络训训练和网络应应用两个层层次。。网络络训练练即是是确定定网络络的模模型，，包括括拓扑扑结构构和节节点函函数及及节点点间联联系；；网络络应用用则是是将需需判别别样本本施加加于网网络输输入端端映射射出网网络输输出或或完整整信息息的过过程在变压器实实时监测诊诊断中，诸诸如绝缘的的局部放电电监测、色色谱分析、、常规试验验等项目的的分析均可可以采用神神经网络原原理，且具具有自组织织、自学习习、诊断效效率高等显显著优点。。首先，将各各种监测的的特征量和和响应的状状态模式组组织成二维维的样本模模型，作为为网络的训训练标准样样本；然后，通过过一定的学学习算法，，动态地调调整网络内内部结构和和联系，以以反映样本本的本质意意义；在应用中，，将监测到到的特征信信息输入给给网络，进进行并行计计算，得到到网络输出出，这个输输出就是响响应的实时时监测状态态模式，将将用于状态态判别。此外，采用用自组织模模型，神经经网络还能能够用于自自动生成用用于状态分分析的特征征量。根据自适应应共振理论论（AdaptiveResonanceTheory，简称ART），，可以对任意意多和任意意复杂的二二维模式进进行自组织织、自稳定定，即具有有自归一能能力，根据据某些特征征量在全体体中所占的的比例，有有时作为关关键特征，，有时又被被当作噪声声处理，实实现在不需需要事先已已知样本结结果时的非非监督学习习，将训练练和应用融融为一体。。1.变压压器油中溶溶解气体的的神经网络络分析模型型1.变压压器油中溶溶解气体的的神经网络络分析模型型1.变压压器油中溶溶解气体的的神经网络络分析模型型1.变压压器油中溶溶解气体的的神经网络络分析模型型2.用人人工神经网网络识别三三相放电的的数值仿真真研究放电模型用谱图二元元表列数据据进行识别别用曲面拟合合参数进行行识别放电试验模模型放电模型用谱图二元元表列数据据进行识别别用人工神经经网络识别别放电前,先将-q平面划分为为18×20=360个小块块,统计每每秒内放电电发生的,q处于各小块块内的次数数n,得到谱图二二元表列数数据,依次次作为网络络输入。由由此,输入入层L=360。。有4种放电类类型,取输出出层N=4,相应地有4组组期望输出T,取TT值分别为(1,0,0,0),(0,1,0,0,),(0,0,1,0),(0,0,0,1)。取隐含层M=20用曲面拟合参参数进行识别别可应用的网络络输入向量荧光屏显示图图谱放电的荧光屏屏显示图谱包包含有丰富的的信息。采用用模拟量测量量装置,并由由CCD相机摄取荧光光屏上图谱,将摄得图谱谱中的脉冲高高度q作为φ的函数以数字字量形式输出出,作为神经经网络的输入入向量。三维φ-q-n谱图放电的统计特特征量如由φ-q谱图提取偏斜斜度、陡峭度度、局部峰点点数(以上3项正负半波波分别提取,共6个特征征量)、放电电量因数(负负、正半周平平均放电量之之比)、正负负半波图形的的互相关系数数、修正的互互相关系数;由φ-n谱图提取偏斜斜度、陡峭度度、尖峰数(也是6个特特征量);总总计15个特特征量作为网网络输入。放电脉冲波形形特征量,如相关模型型参数可实现的网络络识别功能电树枝长度判判断空穴尺寸判断断放电类型判断断绝缘寿命终点点判断3.模糊神经经网络在电气气设备故障检检测与诊断中中的应用输入模糊规则则输出转换规则则训练样本的组组织应用中的注意意问题——

神经网网络与专家系系统的结合神经网络专家家系统的基本本原理神经网络专家家系统的基本本结构神经网络专家家系统的知识识表示基于神经网络络系统的并行行推理神经网络专家家系统的基本本原理神经网络系统统最主要的特特征:大规模模拟并并行处理信息的分布式式存贮连续时间非线线性动力学全局集体作用用高度的容错性性和鲁棒性自组织、自学学习及实时处处理直接输入范例例，信息处理理分布于大量量神经元的互互连之中，并并且具有冗余余性，许许多多多神经元的“微”活动构成了了神经网络总总体的“宏”效应——与传统的的AI的差别神经网络专家家系统的基本本原理分布性是神经网络之之所以能够触触动专家系统统中知识获取取这个瓶颈问问题的关键所所在。神经网络是用用大量神经元元的互连及对对各连接权值值的分布来表表示特定的概概念或知识。。知识萃取时，，它只要求专专家提供范围围‘(或实例例)器相应的的解，通过特特定的学习算算法对样本进进行学习，经经过网络内部部自适应算法法不断修改权权值分布以达达到要求，把专家求解实实际问题的启启发式知识相相经验分布到到网络的互连连及权值分布布上。神经网络专家家系统的基本本原理神经网络系统统最主要的特特征:大规模模拟并并行处理信息的分布式式存贮连续时间非线线性动力学全局集体作用用高度的容错性性和鲁棒性自组织、自学学习及实时处处理直接输入范例例，信息处理理分布于大量量神经元的互互连之中，并并且具有冗余余性，许许多多多神经元的“微”活动构成了了神经网络总总体的“宏”效应——与传统的的AI的差别分布性是神经网络之之所以能够触触动专家系统统中知识获取取这个瓶颈问问题的关键所所在。神经网络是用用大量神经元元的互连及对对各连接权值值的分布来表表示特定的概概念或知识。。知识苹取时，，它只要求专专家提供范围围‘(或实例例)器相应的的解，通过特特定的学习算算法对样本进进行学习，经经过网络内部部自适应算法法不断修改权权值分布以达达到要求，把专家求解实实际问题的启启发式知识相相经验分布到到网络的互连连及权值分布布上。推理的的基本本原理理：对于特特定输输入模模式，，神经经网络络通过过前向向计算算，产产生一一输出出模式式，其其中各各个输输出节节点代代表的的逻辑辑概念念同时时被计计算出出来，，特定定解是是通过过输出出节点点和本本身信信号的的比较较而得得到的的，在在这个个过屋屋中其其余的的解同同时被被排除除。在神经经网络络中，，允许许输入入偏离离学习习样本本，只只要输输入模模式接接近于于某一一输入入模式式，则则输出出亦会会接近近学习习样本本的输输出模模式，，这种种性质质使得得神经经网络络专家家系统统具有联联想记记忆的的能力力。神经网网络专专家系系统的的目标标：利用神神经网网络的的学习习功能能、大大规模模并行行分布布式处处理功功能、、连续续时间间非线线性动动力学学和全全局集集体作作用实实现知识获获取自自动化化；克服““组合合爆炸炸”和“推推理复复杂性性”及及“无无穷递递归””等困困难，，实现并并行联想和自适应应推理；；提高专专家系系统的的智能水水平，实时时处理理能力力及鲁鲁棒性性。神经网网络专专家系系统的的基本本结构构神经网网络专专家系系统的的基本本结构构(1)输入逻逻辑概概念到到输入入模式式的变变换，并根根据论论域的的特点点，确确定变变换规规则，，再根根据相相应规规则，，将目目前的的状态态变换换成神神经网网络的的输入入模式式；(2)网络内内的前前向计计算：根据据神经经元特特征，，由输输入计计算即即可产产生神神经网网络的的输出出模式式；(3)输出模式式解释：随着论论域的不不同，输输出模式式的解释释规则亦亦各异。。解释的的主要目目的是将将输出数数值向量量转换成成高层逻逻辑概念念。神经网络络专家系系统的知知识表示示知识表示示表现为为内部和和外部两两种形式式。外部形式式：面向专专家、知知识工程程师和用用户，是是一些学学习范例例(也可可看作是是一些if—then规则)。。内部形式式：即面向知识识库的内内部编码码，它不是是根据一一般代码码转换或或编译程程序，而是通过过机器学学习完成成。机器学习习程序可可从范例例中提取取有关知知识，并并通过权权矩阵及及系统参参数进行行学习训训练，将将有关知知识以网网络或动动力系统统形式表表示。多层神经经网络的的内部表表示———分块邻接接权矩阵阵和阈值向量量。神经网络络专家系