神经网络理论及应用实践 课件 第2章人工神经网络基础

神经网络理论及应用：人工神经网络基础（上）生物神经网络基础：生物神经元神经元是脑组织的基本单元，是神经系统结构与功能的单位。2生物神经网络基础：神经元结构生物神经元在结构上由以下4部分组成:细胞体(Cellbody)树突(Dendrite)轴突(Axon)突触(Synapse)3生物神经网络基础：神经元信息处理机制4如何完成神经元间信息的接收、传递和处理?摘自TED：神经科学：理解与使用大脑生物神经网络基础：神经元信息处理机制①信息输入②信息整合③信息处理④信息输出5人工神经元模型61943年，美国心理学家麦卡洛克(McCulloch,W.S.)和数学家皮特斯(Puts,W.)等麦克洛奇和皮兹提出M-P神经元模型。

模型的六点假设：每个神经元都是一个多输入单输出的信息处理单元；神经元输入分兴奋性、抑制性两种输入类型；神经元具有空间整合特性和阈值特性；神经元输入与输出间有固定的时滞；忽略时间整合作用和不应期；神经元本身是非时变的，即其突触时延和强度均为常数神经元模型示意图人工神经元模型：M-P神经元7-Tj-Tj人工神经元模型：数学模型τij—输入输出间的突触时延；Tj—神经元j的阈值；wij—

神经元i到j的突触连接系数或称权重值；

f()—神经元转移函数。8-Tj人工神经元模型：数学模型Tj—神经元j的阈值；wij—

神经元i到j的突触连接系数或称权重值；f()—神经元转移函数。9-Tj人工神经元模型：数学模型Wj=(w0

w1

w2…

wn)TX=(x0

x1

x2…

xn)T

令x0=-1，w0=Tj

则有-Tj=x0w0

模型简化为：oj=f(netj)=f(WjTX)不同的转移函数f()，从而使神经元具有不同的信息处理特性。10-Tj人工神经元模型：转移函数11阈值型转移函数人工神经元模型：转移函数12S形转移函数 0x≤0 f(x)= cx0＜

x≤xc

1xc＜

x

f(x)

1.0

x0

xc

-1.0单极性分段线性转移函数双极性分段线性转移函数人工神经元模型：转移函数13分段线性转移函数

-1x≤0 f(x)= cx-1

0＜

x≤xc

1xc＜

x 函数名称函数功能函数图形ThresholdSigmoidTanhRelu(RectifiedLinearUnit)人工神经元模型：转移函数14人工神经网络基础（上）：小结15人工神经元模拟生物神经元致谢本课程所引用的一些素材来源于多种媒体及同事和同行的交流，难以一一注明出处，特此说明并表示感谢！

16

神经网络理论及应用：人工神经网络基础（下）主讲人：吴静珠

北京工商大学计算机与人工智能学院人工神经网络基础人工神经网络

模拟生物神经网络2026/10/11BTBU-CIE18人工神经元模拟生物神经元2026/10/11BTBU-CIE19生物神经网络基础：神经网络摘自TED：神经科学：理解与使用大脑人类大脑大约包含有1.4

1011个神经元，每个神经元与大约103～105个其它神经元相连接，构成一个极为庞大而复杂的网络。生物神经网络基础：神经网络由多个生物神经元以确定方式和拓扑结构相互连接即形成生物神经网络。神经元之间的突触连接方式和连接强度不同并且具有可塑性，这使神经网络在宏观呈现出复杂的信息处理能力。人工神经网络是模拟生物神经网络而发展起来的新型智能信息处理系统。2026/10/11BTBU-CIE20人工神经网络模型：拓扑结构类型层次型(1)单纯型层次网络结构(2)输出层到输入层有连接的层次型结构(3)层内有互连的层次型结构2026/10/11BTBU-CIE21输入层隐层输出层人工神经网络模型：拓扑结构类型互连型(2)局部互连型(1)全互连型结构2026/10/11BTBU-CIE22人工神经网络模型：信息流向类型前馈型网络反馈型网络2026/10/11BTBU-CIE23神经网络拓扑结构是决定神经网络特性的第二大要素。人工神经网络学习2026/10/11BTBU-CIE24学习本质神经网络在外界输入样本的刺激下不断改变网络的连接权值乃至拓扑结构，以使网络的输出不断地接近期望的输出。神经网络的学习方式是决定其信息处理能力的第三大要素。学习算法有导师学习(有监督学习)人工神经网络学习2026/10/11BTBU-CIE25学习本质神经网络在外界输入样本的刺激下不断改变网络的连接权值乃至拓扑结构，以使网络的输出不断地接近期望的输出。神经网络的学习方式是决定其信息处理能力的第三大要素。学习算法有导师学习(有监督学习)无导师学习(无监督学习)人工神经网络学习2026/10/11BTBU-CIE26学习本质神经网络在外界输入样本的刺激下不断改变网络的连接权值乃至拓扑结构，以使网络的输出不断地接近期望的输出。神经网络的学习方式是决定其信息处理能力的第三大要素。学习算法有导师学习(有监督学习)无导师学习(无监督学习)死记式学习(灌输式学习)人工神经网络学习2026/10/11BTBU-CIE27权值调整通用学习规则（日本1990Amari）：人工神经网络学习2026/10/11BTBU-CIE28常用学习规则人工神经网络基础：小结神