三神经网络控制及应用基础课件

第三章人工神经网络

控制及应用2024/1/51人工神经网络定义

人工神经网络是一个由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处理方式。

人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。

神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。2024/1/523.1.1神经网络的基本特征与功能结构特征：并行式处理分布式存储容错性能力特征：自学习自组织自适应性3.1.1神经网络的基本特征与功能联想记忆功能2024/1/54非线性映射功能3.1.1

神经网络的基本特征与功能2024/1/55分类与识别功能3.1.1

神经网络的基本特征与功能2024/1/56优化计算功能3.1.1

神经网络的基本特征与功能2024/1/57知识处理功能3.1.1

神经网络的基本特征与功能3.1.2

生物神经元及其信息处理生物神经元人工神经元模型9

人类大脑大约包含有1.4

1011个神经元，每个神经元与大约103～105个其它神经元相连接，构成一个极为庞大而复杂的网络，即生物神经网络。3.1.2

生物神经元及其信息处理2024/1/510

神经生理学和神经解剖学的研究结果表明，神经元(Neuron)是脑组织的基本单元，是人脑信息处理系统的最小单元。3.1.2

生物神经元及其信息处理2024/1/5113.1.2.1生物神经元的结构

生物神经元在结构上由细胞体(Cellbody)

树突(Dendrite)

轴突(Axon)

突触(Synapse)

四部分组成。用来完成神经元间信息的接收、传递和处理。3.1.2

生物神经元及其信息处理2024/1/5122024/1/5132024/1/5143.1.2.2生物神经元的信息处理机理信息的产生

神经元间信息的产生、传递和处理是一种电化学活动。

神经元状态：静息兴奋抑制

膜电位：极化去极化超极化2024/1/515信息的传递与接收3.1.2.2生物神经元的信息处理机理2024/1/516信息的整合空间整合：同一时刻产生的刺激所引起的膜电位变化，大致等于各单独刺激引起的膜电位变化的代数和。时间整合：各输入脉冲抵达神经元的时间先后不一样。总的突触后膜电位为一段时间内的累积。3.1.2.2生物神经元的信息处理机理2024/1/5173.1.2.3生物神经网络

由多个生物神经元以确定方式和拓扑结构

相互连接即形成生物神经网络。

生物神经网络的功能不是单个神经元信息

处理功能的简单叠加。

神经元之间的突触连接方式和连接强度不

同并且具有可塑性，这使神经网络在宏观

呈现出千变万化的复杂的信息处理能力。THANKYOUSUCCESS2024/1/518可编辑2024/1/5193.1.3人工神经元模型及人工神经网络模型

神经元及其突触是神经网络的基本器件。因此，模拟生物神经网络应首先模拟生物神经元。在人工神经网络中，神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工神经元是对生物神经元的一种形式化描述。2024/1/5203.1.3.1人工神经元模型神经元模型示意图2024/1/521神经元的数学模型τij——输入输出间的突触时延；

Tj——神经元j的阈值；

wij——神经元i到j的突触连接系数或称权重值；

f()——神经元转移函数。(3-1)(3-2)3.1.3.1人工神经元模型2024/1/522(3-3)

net’j=WjTX

(3-4)

Wj=(w1w2…wn)TX=(x1x2…xn)T

令x0=-1，w0=Tj，则有-Tj=x0w03.1.3.1人工神经元模型神经元的数学模型2024/1/523(3-5)oj=f(netj)=f(WjTX)

(3-6)神经元的数学模型3.1.3.1人工神经元模型2024/1/524神经元的转移函数(1)阈值型转移函数 1x≥0 f(x)=(3-7)

0x＜0 3.1.3.1人工神经元模型2024/1/525(2)非线性转移函数神经元的转移函数(3-8)3.1.3.1人工神经元模型2024/1/526(3)分段线性转移函数

0x≤0 f(x)= cx0＜

x≤xc(3-9)

1xc＜

x 神经元的转移函数3.1.3.1人工神经元模型2024/1/527层次型结构3.1.3.2人工神经网络模型按神经元连接方式分类

2024/1/528输出层到输入层有连接3.1.3.2人工神经网络模型按神经元连接方式分类

2024/1/529层内有连接的层次型结构3.1.3.2人工神经网络模型按神经元连接方式分类

2024/1/530全互连型结构按神经元连接方式分类

3.1.3.2人工神经网络模型2024/1/531按网络信息流向分类前馈型网络3.1.3.2人工神经网络模型2024/1/532反馈型网络按网络信息流向分类3.1.3.2人工神经网络模型2024/1/533

神经网络能够通过对样本的学习训练，不断改变网络的连接权值以及拓扑结构，以使网络的输出不断地接近期望的输出。这一过程称为神经网络的学习或训练，其本质是可变权值的动态调整。3.1.3.3人工神经网络的学习2