人工智能_第五章计算智能.ppt

1、第五章计算智能、计算智能涉及神经计算、模糊计算、进化计算、人工生命等领域，这些研究领域反映了生命科学和信息科学的紧密结合，广义的人工智能努力是研究和模仿人类和动物智能(主要是人类的思维过程和智能行为)的重要进展。将计算智能理解为智能的低层认识主要取决于数字数据，而不依赖于知识。人工智能是在计算智能的基础上引入知识而产生的智能中层林地。生物智能，特别是人类智能是最高水平的智能。这是CIAIBI。第五章计算智能，5.1概述5.2神经计算5.3模糊计算5.4遗传算法5.5人工生命5.6组最优化5.7蚁群算法，5.1概述，计算智能是什么，传统人工智能差异？计算智能的第一个定义是1992年贝兹德克提出的

2、。他认为，严格地说，计算智能取决于生产者提供的数值数据，而不是知识。另一方面，应用人工智能知识精品。5.1概述，1 .ABC和相关符号的含义A-A - Artificial，人工(非生物)，即人工B - Biological，物理化学(？-嗯？)=生物的c - computational，数学电脑NN -神经网络PR -模式识别I -智能，5.1概述，2。ABC和神经网络(9个研究领域或学科。指示节点之间距离测量区域的差异。例如，CNN和CPN之间的差异小于BNN和BPR。符号表示“适当的子集”(例如ANN APR AI、CI AI BI)。5.1概述，3 .ABC和相关领域的定义，5.1概述

3、中级系统包含知识(精品)牙齿，而低层系统则不是。如果系统仅包含数字(低级)数据，包含模式识别部分，不应用人工智能意义上的知识，并可以表示计算适应性，则接近计算容错人的速度。误差率与人相似的话，牙齿系统就是计算智能系统。智能计算系统以非数字的方式添加知识(精品)值，成为人工智能系统。5.2神经计算，神经计算是人类大脑的基本单元，通过神经元建模和联系，探索模拟人脑神经系统功能的模型，开发具有学习、联想、内存、模式识别等智能信息处理功能的人工系统。5.2.1人工神经网络研究进展5.2.2人工神经网络结构5.2.3人工神经网络典型模型5.2.4神经网络基础知识表示和推理5.2.5前馈神经网络5.2.6

4、Hopfield神经网络5.2.1.发展过程40年代心理学家Mcculloch和数学家Pitts共同提出的兴奋和抑制型神经元模型和Hebb提出的神经元连接强度修正规则，他们的研究结果仍然是很多神经网络模型研究的基础。20世纪50-60年代的典型工作是Rosenblatt的识别器和Widrow的适应性组件Adaline(自适应线性元素)。1969年，明斯基(Minsky)和帕伯特(Papert)共同发表了具有影响力的Perceptron这本书，提出了消极的论点，数字计算机进入全盛时期，在人工智能领域取得了显着的成果，70年代人工神经网络研究很差。20世纪80年代以后，传统的Von Neumann

5、数字计算机在模拟视听的人工智能方面遇到了物理上不可逾越的限制。另一方面，随着Rumelhart、Mcclelland、Hopfield等在神经网络领域取得突破性进展，神经网络热潮再次兴起。，5.2.1人工神经网络研究的进展，其次具有完全接近任意复杂非线性关系的特征。所有定量或定性信息都有很强的鲁棒性和容错性，包括势分布存储在网络内的各个神经元。使用并行分布式处理方法可以快速执行大量运算。学习和适应未知或不确定的系统。可以同时处理定量和定性知识。可以硬件实现。结构特征：分布式存储容错的并行处理，能力特征：自学习自组织适应性，5.2.1人工神经网络研究的进展，3，基本功能，联想记忆功能，5.2.1

6、人工神经网络研究的进展，3，基本功能，非线性映射功能5.2.1人工神经网络研究的进展，3生理神经元结构，由大部分神经元细胞(cell body或soma)和突变两部分组成。突起分为两个茄子类别：轴突和树突。轴突是长度达1米的突出部分，将牙齿神经元输出发送到连接的另一个神经元()。树突也是突出的部分，但通常短而多枝，与其他神经元轴突连接，接收不同的神经元生物信号。轴突和树突共同作用使神经元之间的信息传输成为可能。轴突末端和树突之间传递信号的接口称为突触，通过突触向另一个神经元发送信息。对某些突触的刺激促进了神经元触发(fire)。神经元所有输入的总效果必须达到阈值级别，才能开始工作。每当达到临界

7、水平，神经元(WHO)就会产生全强度输出窄脉冲，在胞体中通过轴突进入轴突分支。此时，神经元称为触发器。越来越多的证据表明学习发生在突触附近，通过一个神经元轴突的脉冲转换为下一个神经元兴奋或抑制。5.2.2人工神经网络结构，2 .生理神经元功能生物学控制论观点，作为控制和信息处理的基本单元的神经元，具有以下几个茄子重要功能和特征：时空整合功能：通过神经元等突触对徐璐不同时间进入的神经冲动的时间整合功能。同时，对于通过徐璐其他突触传入的神经冲动，有空间整合功能。两种茄子功能相结合，具有在时空中集成的输入信息处理功能。兴奋和抑制状态：兴奋(细胞膜前卫上升)和抑制(细胞膜前卫减少)。脉冲和前卫转换：突

8、触接口具有脉冲/前卫信号转换功能。神经纤维传导速度：神经冲动沿神经纤维传导的速度在1-150m/s之间。突触延迟和不应期：突触对突触冲动的传递具有延迟和不应期，相邻的二次冲动之间需要时间间隔，即不应期。每个人脑大约包含1011-1012个神经元，每个神经元大约包含103-104个突触。通过突触形成的神经元网络，传达神经元之间的兴奋和抑制。大脑的所有神经元组成形成了一个非常复杂的拓扑网络群体，用于实现记忆和思考。5.2.2人工神经网络结构，2 .人工神经元1。人工神经元配置，人工神经网络(artificial neural nets，ANN)或模拟神经网络模拟神经元配置，ANN是处理单元PE(其

9、中处理单元是生理神经元模拟，方向号是轴突-突触-树突对的模拟)。方向弧的权重表示两个处理单元之间相互作用的强弱。，将其他神经元输入乘以权重，然后相加。将所有总计与阈值级别进行比较。如果总和大于阈值，则输出为1。否则，输出为0。大的正数权对应强烈的兴奋，小的负数权对应弱的抑制。在简单的人工神经网络模型中，与权重和乘法器模拟突触特性、加法器模拟树突互连、阈值相比，具有模拟细胞的电化学作用所产生的开关特性。5.2.2人工神经网络结构，2 .ANN的数学说明、其他处理单元(神经元)I中的信息为Xi，与牙齿处理单元的交互强度为wi，i=0，1，n-1，处理单元中的牙齿神经元输入为Xi是第I元素输入，Wi

10、是第I元素和牙齿处理单元中的互连权重。f称为“激发函数”(activation function)或“作用函数”(activation function)。确定节点(神经元)的输出。牙齿输出为1或0，具体取决于输入合计大于或小于内部阈值。处理单元的输出为5.2.2人工神经网络结构，函数刺激通常具有非线性特性，常用的非线性特性如下图所示。阈值类型牙齿模型没有神经元内部状态，出现函数是步骤函数，如图(A)所示。输出如下所示：1，xi0 f(xi)=U(xi)=0，xi0分段线性强饱和视图(b)。称为Sigmoid函数的Sigmoid函数(Sigmoid)和S型函数(S型)，输入/输出属性通常表示为

11、对数曲线或切线曲线等。这些曲线反映了神经元饱和属性。s型函数是最常用的发生函数，应用梯度技术，便于搜索解决。5.2.2人工神经网络结构，3，人工神经网络基本特性和结构1。神经网络基本特性很多神经元以特定的方式连接，即神经网络的构成。由许多神经元组成的牙齿信息处理网络具有并行分布结构。每个神经元都有一个输出，可以连接到其他神经元。输出连接方法有多种，每种连接方法都有一个连接权重系数。严格地说，人工神经网络是每个节电I有一个状态变量Xi的乳香图。节点J到节点I的连接系统数wji有。每个节点I都有阈值I。对于每个节点I，转换函数f I (Xi，wji，I)，ij；最常见的情况是牙齿函数格式f i(w

12、ij XJ -i)。j，5.2.2人工神经网络结构，2 .神经网络结构，递归网络部分神经元输出可以是同层或全层神经元，信号可以是正向或反向流动。也称为反馈网络。典型示例：Hopfield网络、Elmman网络和Jordan网络插图：VI表示触点的状态，Xi是节点的输入值，Xi是收敛的输出值。i=1，2，n前馈网络分层结构，在同一分层神经元之间没有互连的分层配置输入中，到输出的信号通过单向连接流。神经元从一层连接到下一层，同一层神经元之间没有连接。图：实线表示实际信号流，虚线表示反向波。典型示例：多层感知器MLP，5.2.2人工神经网络结构，2 .神经网络结构注意：分层前向网络随机精度模式映射功

13、能、模式分类、匹配等，而反馈神经网络是非线性动力学系统，具有以下两个茄子重要特征：1系统有多个稳定状态，2根据初始连接权重，稳定性状态也有所不同。如果将系统的稳定状态用作记忆，从初始状态出发到稳定的进化过程实际上是联想过程，因此反馈神经网络具有联想记忆功能。、5.2.2人工神经网络结构、人工神经网络整体性能节点自身的信息处理能力(数学模型)节点和节点间连接(拓扑结构)互连的强度(通过学习得到的曹征)、5.2.2人工神经网络结构、3 .在神经网络主要的基础上，提出了各种学习规则和算法事项，以满足各种网络模式的需要。有效的学习算法，因此通过调整神经网络连接权重，构建客观世界的内部表达，形成独特的信

14、息处理方法，信息存储和处理在网络连接中体现出来。神经网络通过对样本的学习训练，可以不断改变网络的连接权重和拓扑结构，从而接近网络的输出牙齿不断期待的输出。牙齿过程称为神经网络学习或训练，其本质是变量权重的动态调整。5.2.2人工神经网络结构，3 .神经网络主要学习算法教师学习可以根据期望和实际网络输出(对应于给定输入)之间的差异调整神经元间连接的强度或权利。因此，教师学习需要老师或导师来提供期望或目标输出信号。典型的例子：规则、广义规则或反向波算法、5.2.2人工神经网络结构、无学习不需要知道预期输出。在训练过程中，给神经网络提供输入模式，神经网络自动适应连接权，根据相似特征集合输入模式组。典

15、型示例：Kohonen算法，Carpenter-Grossberg自适应谐振理论。强化学习是老师学习的特例。与其老师提供目标输出，不如使用解说器评估与顶部输入相对应的神经网络输出的优越性。典型例子：遗传算法、5.2.3人工神经网络、感知器神经网络：1。感知器是最“最古老”的网络(Rosenblatt，1975年提出)，老师的学习误差修正净线分类，预测2。MadaLine是adaLine的发展，具有一组最小的平均分布式线性网络，学习能力强，但需要满足I/o之间的线性关系。教师学习误差修正正向分类，噪声抑制3。反向传递(BP)网络是用于反向传递和修正误差的多层映射网络，在适当的参数下，可以收敛为小的平均平方误差。是目前使用最广泛的网络之一。缺点是训练时间长，很容易陷入国小戏。教师学习误差修正反向分类，5.2.3人工神经网络典型模型，自组织竞争学习神经网络模型：自组织映射网(SOM)在Kohonen牙齿1972年提出。集群和集群之间的连续映射形成，矢量量化器的作用武士学习竞争率正向自组织映射5 . CPN(Counter Propagation Network)也称为R Hecht和Nielsen牙齿1987年提出的对流网络，充分发挥了Kohonen特征映射网络和Grossberg各自的