ELM_Song.ppt

1、Extreme Learning Machine,极限学习机,目录,背景介绍 ELM理论基础 ELM数学模型 ELM学习算法 AUV避障原理 基于ELM自主导算法航的基本构想,背景介绍,2006年由南洋理工大学黄广斌副教授提出。 极限学习机是一种基于单隐层前向馈神经网络(single-hidden layer feed forward neural network)简单易用、有效的学习算法。 传统的神经网络学习算法需要人为设置大量的网络训练参数，并且很容易产生局部最优解。 极限学习机只需要设置网络的隐层节点个数，在算法执行过程中不需要调整网络的输入权值以及隐元的偏置，并且产生唯一的最优解，因此

2、具有学习速度快且泛化性能好的优点。,目录,背景介绍 ELM理论基础 ELM数学模型 ELM学习算法 AUV避障原理 基于ELM自主导算法航的基本构想,单隐含层前馈神经网络（SLFN）,ELM理论基础,单隐含层前馈神经网络(SLFM)具有良好的学习能力，因此应用广泛。 但是，传统的学习算法有自身的缺陷，这些缺陷限制了SLFN的发展。 传统学习算法的缺点：（1）训练速度慢；（2）不容易得到全局最优解；（3）学习率选择敏感； 基于此，极限学习机(ELM)应运而生。,ELM理论基础,ELM理论基础,ELM学习算法的优点： (1)训练速度快 (2)能获得全局最优解 (3)具有良好的泛化性能 解释：所谓泛

3、化能力（generalization ability）是指机器学习算法对新鲜样本的适应能力。,目录,背景介绍 ELM理论基础 ELM数学模型 ELM学习算法 AUV避障原理 基于ELM自主导算法航的基本构想,ELM数学模型,ELM数学模型,给定N个学习样本矩阵,给定构造网络的L个单隐层节点和单隐层节点励,函数,一般情况下：,因此ELM数学模型可表示为：,ELM数学模型,其中：j=1,2,3.N;,所有输入与第 i 个节点连接权重,所有输出与第 i 个节点连接权重,写成矩阵的表示方式就是：,ELM数学模型,ELM数学模型,写成矩阵的表示方式就是：,H为网络隐层输出矩阵。当给任意定w 和b时则：,

4、ELM数学模型,总结，由上面所述，我们可以看出： 只要一次设定隐含层参数L、激励函数、权值w和偏移量b，无须调整。因此，网络的训练速度得到极大提高。,目录,背景介绍 ELM理论基础 ELM数学模型 ELM学习算法 AUV避障原理 基于ELM自主导算法航的基本构想,由前面的分析我们可知，ELM训练之前，可以随机产生 ，只需要确定隐含层神经元个数和激励函数 ，即可计算出 确定隐含层神经元个数 随机设定输入层和隐含层连接权值 与隐含层神经元偏置 选择一个无限可微的函数 作为激励函数，计算隐含层输出矩阵 计算输出层权值：,ELM学习算法,ELM学习算法,ELM学习算法的一般步骤：,目录,背景介绍 ELM理论基础 ELM数学模型 ELM学习算法 AUV避障原理 基于ELM自主导算法航的基本构想,AUV避障原理,AUV硬件架构,工业控制机,PC104,协议转换板,串口卡,DVL 声纳 陀螺仪 HARS,推进器 系统,参数采 集系统,CAN总线,感知器官,行动器官,大脑,AUV避障原理,AUV模块流程图,AUV避障原理,基于人工势场法避障行为设计,AUV避障原理,AUV避障原理,基于