第三章 神经网络控制及应用(基础)

第三章人工神经网络控制及应用 2020 4 6 1 人工神经网络定义 人工神经网络是一个由许多简单的并行工作的处理单元组成的系统 其功能取决于网络的结构 连接强度以及各单元的处理方式 人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统 神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统 该系统是靠其状态对外部输入信息的动态响应来处理信息的 2020 4 6 2 3 1 1神经网络的基本特征与功能 结构特征 并行式处理分布式存储容错性 能力特征 自学习自组织自适应性 3 1 1神经网络的基本特征与功能 联想记忆功能 2020 4 6 4 非线性映射功能 3 1 1神经网络的基本特征与功能 2020 4 6 5 分类与识别功能 3 1 1神经网络的基本特征与功能 2020 4 6 6 优化计算功能 3 1 1神经网络的基本特征与功能 2020 4 6 7 知识处理功能 3 1 1神经网络的基本特征与功能 3 1 2生物神经元及其信息处理 生物神经元人工神经元模型 9 人类大脑大约包含有1 4 1011个神经元 每个神经元与大约103 105个其它神经元相连接 构成一个极为庞大而复杂的网络 即生物神经网络 3 1 2生物神经元及其信息处理 2020 4 6 10 神经生理学和神经解剖学的研究结果表明 神经元 Neuron 是脑组织的基本单元 是人脑信息处理系统的最小单元 3 1 2生物神经元及其信息处理 2020 4 6 11 3 1 2 1生物神经元的结构 生物神经元在结构上由细胞体 Cellbody 树突 Dendrite 轴突 Axon 突触 Synapse 四部分组成 用来完成神经元间信息的接收 传递和处理 3 1 2生物神经元及其信息处理 2020 4 6 12 2020 4 6 13 2020 4 6 14 3 1 2 2生物神经元的信息处理机理 信息的产生 神经元间信息的产生 传递和处理是一种电化学活动 神经元状态 静息兴奋抑制 膜电位 极化去极化超极化 2020 4 6 15 2020 4 6 16 信息的传递与接收 3 1 2 2生物神经元的信息处理机理 2020 4 6 17 信息的整合 空间整合 同一时刻产生的刺激所引起的膜电位变化 大致等于各单独刺激引起的膜电位变化的代数和 时间整合 各输入脉冲抵达神经元的时间先后不一样 总的突触后膜电位为一段时间内的累积 3 1 2 2生物神经元的信息处理机理 2020 4 6 18 3 1 2 3生物神经网络 由多个生物神经元以确定方式和拓扑结构相互连接即形成生物神经网络 生物神经网络的功能不是单个神经元信息处理功能的简单叠加 神经元之间的突触连接方式和连接强度不同并且具有可塑性 这使神经网络在宏观呈现出千变万化的复杂的信息处理能力 2020 4 6 19 3 1 3人工神经元模型及人工神经网络模型 神经元及其突触是神经网络的基本器件 因此 模拟生物神经网络应首先模拟生物神经元 在人工神经网络中 神经元常被称为 处理单元 有时从网络的观点出发常把它称为 节点 人工神经元是对生物神经元的一种形式化描述 2020 4 6 20 3 1 3 1人工神经元模型 神经元模型示意图 2020 4 6 21 神经元的数学模型 ij 输入输出间的突触时延 Tj 神经元j的阈值 wij 神经元i到j的突触连接系数或称权重值 f 神经元转移函数 3 1 3 2 3 1 3 1人工神经元模型 2020 4 6 22 3 3 net j WjTX 3 4 Wj w1w2 wn TX x1x2 xn T 令x0 1 w0 Tj 则有 Tj x0w0 3 1 3 1人工神经元模型 神经元的数学模型 2020 4 6 23 3 5 oj f netj f WjTX 3 6 神经元的数学模型 3 1 3 1人工神经元模型 2020 4 6 24 神经元的转移函数 1 阈值型转移函数 3 1 3 1人工神经元模型 2020 4 6 25 2 非线性转移函数 神经元的转移函数 3 8 3 1 3 1人工神经元模型 2020 4 6 26 3 分段线性转移函数 神经元的转移函数 3 1 3 1人工神经元模型 2020 4 6 27 层次型结构 3 1 3 2人工神经网络模型 按神经元连接方式分类 2020 4 6 28 输出层到输入层有连接 3 1 3 2人工神经网络模型 按神经元连接方式分类 2020 4 6 29 层内有连接的层次型结构 3 1 3 2人工神经网络模型 按神经元连接方式分类 2020 4 6 30 全互连型结构 按神经元连接方式分类 3 1 3 2人工神经网络模型 2020 4 6 31 按网络信息流向分类 前馈型网络 3 1 3 2人工神经网络模型 2020 4 6 32 反馈型网络 按网络信息流向分类 3 1 3 2人工神经网络模型 2020 4 6 33 神经网络能够通过对样本的学习训练 不断改变网络的连接权值以及拓扑结构 以使网络的输出不断地接近期望的输出 这一过程称为神经网络的学习或训练 其本质是可变权值的动态调整