神经元的种类有哪些？它们的函数关系如何？

1、1、神经元的种类有哪些？它们的函数关系如何？一、神经元模型神经元模型是生物神经元的抽象和模拟。它是模拟生物神经元的结构和功能、并从数学角度抽象出来的一个基本单元。它是神经网络的最基本的组成部分。神经元一般是多输入-单输出的非线性器件。模型可以描述为NetWjXj s iUif (Neti)小 g(Ui) h(Neti)假设 g(Ui) u ,即 yf (NetJUi为神经元的内部状态；i为阀值；Xi为输入信号，j 1,，n； Wj为表示从Uj单元到Ui单元的连接权系数；si为外部输入信号。常用的神经元非线性特性有以下四种(1) 阀值型1 Neti 0f(Neti) 0 Neti 0f A1 o

2、 Neti阀值函数(2) 分段线性型0 Neti Net0f(Neti)kNet Ne% Net Netifmax Net Netif I0 Neti0 Neti1 Neti线性函数(3) Sigmoid 函数型f(NetJNet1 e TSigmoid 函数(4) Tan函数型Neti e T f(Neti)百 e TNeqT"Nete T2、为什么由简单的神经元连接而成的神经网络具有非常强大的功能？神经系统是一个高度复杂的非线性动力学系统，虽然每一个神经元的结构和功能十分简单，但由大量神经元构成的网络系统的行为却是丰富多彩和十分复杂的。从神经元模型角度来看，有线性处理单元和非线性

3、处理单元。从网络结构方面来看，有：前向网络、反馈网络和自组织网络。3、神经网络按连接方式分有哪几类，按功能分有哪几类、按学习方式分又有哪几类？神经网络按连接方式？神经网络按连接方式分神经网络是由通过神经元的互连而达到的。根据神经元的连接方式的不同，神经网络可分为以下四种形式：(1) 前向网络 由输入层、隐含层和输出层组成。每一层只接受前一层神经元的输入。各神经元之间不存在反馈。属于层次型网络。前向网络(2) 反馈网络只在输出层到输入层存在反馈，即每一个输入节点都有可能接受来自外部的输入和来自输出神经元的反馈。属于层次型网络。反馈网络(3) 相互结合型网络这种神经网络在任意两个神经元之间都可能有

4、连接。在这个状态中，信号要在神经元之间反复往返传递，网络处在一种不断改变状态的动态之中，从某种初态开始，经过若干次的变化，才会达到某种平衡状态。属于网状结构网络。相互结合型网络(4) 混合型网络通过同一层内神经元的相互结合，可以实现同一层内神经元之间的横向抑制或兴奋机制。这样可以限制每层内能同时动作的神经元数，或者把每层内的神经元分为若干组，让每组作为一个整体来动作。它是层次型网络和网状结构网络的一种结合。神经网络按功能分有哪几类、神经网络将神经元按功能和顺序的不同分为输出层、中间层（隐层）、输出层。输出层各神经元负责接收来自外界的输入信息， 并传给中间各隐层神经元； 隐层是神经网络的内部信息

5、 处理层，负责信息变换。根据需要可设计为一层或多层； 最后一个隐层将信息传递给输出层 神经元经进一步处理后向外界输出信息处理结果。神经网络按按学习方式分又有哪几类? 有导师学习和无导师学习。4、如图4-24所示的多层前向传播神经网络结构。假设对于期望的输入x1,x2 1 3,yd1,yd2 0.9 0.3。网络权系数的初始值见图。 试用bp算法训练此网一E 、一1络。并详细写出第一次迭代学习的计算结果。这里，取神经元激励函数f（x） O学1 e x习步长为1。最大迭代次数为iterafe max。误差为e。（四舍五入，精确到小数后 1位）yi2W11 1xiw 11 112 -220x2W10

6、2-2 w10W211 W212W222.22 -2y2W 20-1神经网络结构图32 W 20W12和最大迭代学习次数iterate max。置初始迭代学习次数解输入最大容许逼近误差值iterate 0 。(1) .置各权值或阈值的初始值：Wji(0), j(0)为小的随机数值;回顾：单一人工神经元有线性和非线性(2) 单一人工神经元线性单一人工神经元示意图(线性)单一人工神经元的示意图最简单的人工神经元输入和输出数学表示：假设输入项Net由输入信号Xj(j=i,2,n)的线性组合构成，即 nNet 0 wjxjj i0为阀值；Wj是决定第j个输入的突触权系数。神经元的平衡态输出 y为ny

7、( oWjXj)j i式中(x)表示神经元的激励函数前面假设输入项Net是输入信号Xi的线性函数。般情况下，Net是输入信号Xi的非线性函i-t-ir - r 口工 _Ln-t A4-111111因此本包的权值W11,w|2,W10,W21,W22,W205 / 8'.y1XiX21wW21Wi02 /22 -212 -22W 11 i2° W122-2 w102w 11 1101 W21232 W203 W 22W 20y2图4-15例4-1的神经网络结构图(3) .提供训练样本：输入矢量：Xk,k 1,2,., P ；期望输出：dk,k 1,2,.,P；对每个输入样本进行

8、下面iterate max的迭代；X1,X21 3(4) .计算网络的实际输出及隐层单元的状态:okj f j (Wji okij )因为X1,X2T1 3Tnet；111W11X1 W|2x2W|0 1gxi ( 2)gX21g37 / 8'.net；iW2iXiiW22X2iW20 2gxi(0)gX2 ig( 1) 1Oi02net；, 1 net) e1 e20.11922 W11O10.73112W12o22W10igoi(0)go2 2 1 2.1192net2-4.3430222w21dl w22o2 w20 1go1 ( 2)卬2 3 1yi一112netie0.892

9、8y20.01288 / 8'.(5) .计算训练误差：kj Okj (1 Okj )(tkj Okj)(输出层)kj Okj(1 Okj)kmWmj (隐含层)m1)输出层2'.2.1 (yd1 y1)f(net1)(yd1 %)，(1 y1)6.8910e-0042 '2、2(yd2 y2)f (net2) (yd2 y2)y2(1 y) 0.00362)隐含层12222221kWk101(1O1)( 1W112W21)O1(1O1)k(6.8910e-004 1 (0.0036) 1) 0.1192 (1 0.1192)4.5032e-0041 2222222 k

10、 Wk2O2 (1 O2)( 1 W122 W22) o2(1 O2)k(6.8910e-004 0 (0.0036) ( 2) 0.7311 (1 0.7311)-0.0014(5) .修正权值和阈值：Wji (t 1) Wji (t)jOkiWji (t) Wji (t 1)j(t 1) j(t) j j(t) j(t 1) 11Vw11i4.5032e-00414.5032e-004Vw1211x24.5032e-00430.0014 11 _ VW1014.5032e-004Vw2i2xi (-0.0014) 1 -0.00141 1_Vw222x2 (-0.0014) 30.0042.11- ,Vw202-0.001422_VW111 O1 6.8910e-004 0.11928.2141e-005一22一_ _Vw121 o2 6.8910e-004 0.7311 5.0380e-00422VW10i 6.8910e-0042 2 Vw212o10.0036 0.1192 4.2912e-0043 2 _VW222O2 0.0036 0.73110.0026Vw202"0.0036wlji (iterate 1) wji (it