人工智能2012(4NN)修改.ppt

1、神经网络的原理，第1，4章修订计算智能(1) -人工神经网络、神经修订计算、2、信息科学与生命科学的相互交叉、相互渗透与相互促进是现代科学技术发展的一个显着特征。 补正智能涉及神经网络、模糊逻辑、进化补正算和人工生命等领域，其研究与发展反映了现代科学技术多学科交叉与集成的重要发展趋势。4.1概述、3、什么是校正计算智能(CI )、将神经网络(NN )归类到人工智能(AI )可能不合适，但归类到校正计算智能(CI )可说明问题的进化校正计算、人工校正智能依赖于制造商提供的数值数据，而人工智能应用知识精品。 人工神经网络应该称为修订算神经网络。4.1概述、4、校正计算智能与人工智能的区别关系、输入

2、、人类知识()传感输入、知识()传感数据、校正计算()传感器、c数值、a符号、b生物的输入BBiological、物理化学(？ 什么？ 生物的； CComputational表示，数学修订机修订计算智能是智能方式的低层认知，与人工智能的不同仅在于认知水平从中层下降到低层。 中层系统包含知识(精品)，低层系统中没有。 4.1概要，6，一个系统只关于数值(低级)数据，在包含模式识别部分的情况下，不适用人工智能意义上的知识，(1)能够修正适应性，(2)能够修正容错性，(3)接近人的速度，(4)误差率接近人的话智能修正计算系统在非数值上加上知识(精品)值，就成为人工智能系统。 4.1概述，7，神经修正

3、算法，1，生物神经和生物神经网络2，人工神经网络3，4种网络4，介绍神经网络的学习算法5，传感器网络7，BP网络8，8神经互相大脑处理信息的基本单位，以细胞为主体，存在很多由周围伸展的不规则树枝状纤维构成的神经细胞，形状像枯木枝一样。 它主要由细胞、树突、轴突和突触(也称为Synapse，神经键)组成。 从9、生物神经元模式图、10、神经元的各组成部分的功能来看，信息的处理和传递主要发生在突触附近。 当神经元细胞通过轴索传递到突触前膜的脉冲宽度达到一定的强度时，即超过其阈值电位时，突触前膜向突触间隙释放神经传递的化学物质。 突触有兴奋性突触和抑制性突触两种。 前者产生正突触后电位，后者产生负突

4、触后电位。 11、突触传输信息的功能和特征是，信息传输可能会延迟，一般为0.3lms。 信息的整合包括时间累积和空间累积。 突触有兴奋性和抑制性两种。 具有脉冲电位信号转换功能。 神经纤维传导的速度，即脉冲沿着神经纤维传导的速度在1150ms之间存在不应变期。 不可逆性，脉冲只在突触前到突触后传输，不在反方向上传输。 可塑性、突触传递信息的强度是可变的，具有学习功能。 有遗忘和疲劳效果。12、脑神经网络系统、脑神经系统的主要组成部分，13，1分布记忆和冗馀2并行处理3信息处理和记忆综合4可塑性和自组织性5稳健性，脑神经网络信息处理的特点，14，1960年威德罗和霍夫先前将神经网络用于自动控制研

5、究。 从60年代末期到80年代中期，神经网络控制与整个神经网络研究一样处于低潮。80年代后期以来，随着人工神经网络研究的复苏和发展，对神经网络控制的研究也很活跃。 这方面的研究进展主要在神经网络自适应控制、模糊神经网络控制及其在机器人控制中的应用。 4.3人工神经网络4.3.1人工神经网络研究进展，15、总结生物神经元传递信息的过程：生物神经元是多输入、单输出单元。 一般的人工神经元模型可以用图33来模拟。 人工神经元模型、4.3.2人工神经元模型、16、响应函数的基本作用： 1、控制输入对输出的激活作用2、对输入输出进行函数变换3、将可能的无限域的输入变换成指定的有限范围内的输出。 (2)在

6、上述模型中生物神经元的脉冲密度是等效的模拟函数，其中，所述人工神经元包括、人工神经元的响应函数、18，1、阈值单元、2、线性单元、3、非线性单元： Sigmoid函数、19 (3)上述模型没有考虑延迟、不应期、疲劳等。、20、并行分布处理基于非线性映射训练的学习自适应和集成硬件实现、人工神经网络的特性、4.2神经校正、21、神经网络的学习算法、1、学习算法的类型决定性质两要素：拓扑、学习(工作)校正画面2 220 1 .前向型(传感器、线性网络、(BP网络) ) 2、反馈型(跳现场网络) 3、随机型4、自组织竞争型、23、学习算法的类型、1 .圆记式学习2、监督学习3、监督学习4、无监督无监督

7、Hebb学习7、Boltzmann学习8、模糊学习9、强化学习24、圆记式学习、连接权基于某特殊的记忆模式设定的学习结果(网络输出)有评价，差决定加权调整，26、无监督学习， 自组织学习网络根据某些规则反复加权调整，提取输入信号规则(统一修正规则)直到响应输入模式的激励形成网络有序状态的学习评价标准是网络内部学习规则： Hebb邻域学习规则必要条件：输入数据的冗馀作用：主元分析、聚类特征映射，27，有无监督混合学习，优点：分类细致，准确，灵活的数据预处理，监督学习处理，I/o映射，28，无监督学习，特征：以某种方式确定竞争后“胜利”神经元的得奖者“1”。 其他“0”的加权只在赢家和输入之间进行

8、(接近的学习修订图)，29、没有监督的Hebb学习、利用Hebb修订图调整加权，适合输入模式的激励，30、模糊学习、特征：学习过程用模糊学测度，输入量用模糊化的模拟其中不具体的信息只知道变化趋势是正确的还是错误的2、从环境中接受反馈信息32、无监视Hebb学习、1、线性单元Hebb学习2、Oja学习校正画面3、Oja方法是非线性单元、33、线性单元Hebb学习、Model (1 在存在扩展到Hebb学习的不稳定平衡点、35、Oja学习规则并改善Hebb学习收敛的(5)、(6)、(7)导入与y 2成比例的衰减项的(8)中，X(k )被称为等效输入，36、隐式竞争Oja是既具有自放大作用又具有竞争

9、作用的Oja以下的优化问题41、4.4探测器网络、42、4.4探测器网络、43、4.4探测器网络、1、探测器模型2、学习训练算法3、学习算法收敛性4、单层单输出探测器5、单层多输出探测器6、例题传感器模型为图1的I/o关系，图1、45， 单层传感器模型如图2所示，将权重系数wij定义为从第I个神经元到第j个神经元间的连接值，图2，46，图表解释为n=2时，平面上2个部分WX B和w正交，47， 4.4.2检查学习训练算法2 )残奥仪表初始化3 )设置最大循环数目4 )网络输出的校正5 )输出向量y和目标向量t是否相同，在一些情况下，达到最大循环数目并终止训练，否则转到6 )。 4.4.3学习算

10、法的收敛性证明了训练样本XP，p=1，2，k是线性可分的，并且如果采用上式的学习方法，则在有限次迭代之后必定是正确的解。 证明在此省略。另外，假设A1输入样本x1、x2和xk归一化A2 |W*|=1 A3使对应于tq=0的样本XB取反向W*XW*TX0，从而对于所有XP而言简化问题，以在训练之后获得W*。 指定任意K W*XP=d d0正弦角cos a为s (k )=w * w (k )/| w (k )|、学习律W(k 1)=w(k) ux(k) u=2neq左方w * w (k1)=w * (k ) UX (k ) )=w 在W(k)=W*的情况下.通过S(k)=1求解得到的53， 4.4

11、.4离散单输出传感器，54，离散单输出传感器训练算法，55，离散单输出传感器训练算法，56，离散多输出传感器训练算法，61，离散多输出传感器训练算法，62，离散多输出传感器训练算法，63， 4.4.6连续多输出探测器训练算法，64，4.4.7线性不可分解问题，65，克服线性不可分解问题-0.5 0.5 -0.5 1.0目标分类向量： t=1. 01.00.0，68，解首先定义输入向量和对应的目标向量： p=-0.0 -0.5 0.5 -0.5 1.0。 T=1.0 1.0 0.0 0.0。 输入向量可在右图中描述，对应于目标值0的输入向量由符号表示，并且由对应于目标值1的输入向量符号表示。 输

12、入向量图网络结构，69，训练结束后得到如图所示的分类结果，分类线划分2种输入向量，与此相对应的训练误差的变化如图所示。 这表明经过四步训练，满足了误差指标的要求。 分类结果误差变化曲线，70，下面是本例的MATLAB程序，% example pre.m % clfresetfigure (GCF ) set fsize (300，300 )； echo on %NEWP在传感器神经元%INIT传感器神经元的初始化%TRAIN传感器神经元的训练%SIM传感器神经元的模拟pause %上按任意键继续clc，% P是输入向量p=-0.5-0.50.0 -0.5 0.5 -0.5 1.0。 % T表示

13、目标矢量t=110； pause %输入向量图plotpv(P，t )； pause %定义了传感器神经元，net=newp(-0.5 0.5； -0. 51，1，1 )； 初始层次；初始fcn； net.layers1.初始fcn=初始WB； 71、输入权重1、输入fcn=陆地。 新层权重1、1.initfcn=rands。 net .偏移1 .初始fcn=随机； 网络=网络(net )； 派克集成电路； ifk=2net.iw 1，1=-0.81610.3078。 net.b1=-0.1680； 打印电脑端点(net.iw 1，1，1，net.b1) pause，%培训传感器神经元net=train(net，p，t )； pause %绘图结果分类曲线plotpv(P，t ) plot PC (net.iw 1，1，net.b1)； pause %是利用训练完毕的传感器神经元分类p=-0.5的0； 据说a=sim(net，p) echo off，72，讨论的极限，1 )由于激活函数是阈值函数，所以输出向量只能取0，1，只能解决简单的分类问题。 2