RBF神经网络-教程.ppt

1、,RBF神经网络 信息工程学院 Alen Fielding,1 RBF神经网络 径向基函数(RBF-Radial Basis Function)神经网络是由J.Moody和C.Darken在80年代末提出的一种神经网络,它是具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接收域（或称感受野-Receptive Field）的神经网络结构，因此，RBF网络是一种局部逼近网络，它能够以任意精度逼近任意连续函数，特别适合于解决分类问题。,2 RBF网络结构 RBF网络的结构与多层前向网络类似，它是一种三层前向网络。第一层即输入层由信号源节点组成；第二层为隐含层，隐单元数视所描述的问题的

2、需要而定，隐单元的变换函数是RBF，它是对称中心径向对称且衰减的非线性函数；第三层为输出层，它对输入模式的作用做出响应。由于输入到输出的映射是非线性的，而隐含层空间到输出空间的映射是线性的，从而可以大大加快学习速度并避免局部极小问题。,图1 RBF网络结构,3 RBF网络特点 前向网络； RBF网络的作用函数为高斯函数，是局部的，BP网络的作用函数为S函数，是全局的； 如何确定RBF网络隐层节点的中心及基宽度参数是一个困难的问题； RBF网络具有唯一最佳逼近的特性，且无局部极小。,4 RBF网络的逼近 采用RBF网络逼近一对象的结构如图2所示。,图2 RBF神经网络逼近,在RBF网络结构中，

3、为网络的输入向量。设RBF网络的径向基向量: 其中hj为高斯基函数： 式中， 表示欧式范数 网络的第j个结点的中心矢量为： 其中，i=1,2,n；j=1,2,m。,设网络的基宽向量为： 为节点的基宽度参数，且为大于零的数。网络的权向量为： k时刻网络的输出为： 设理想输出为y(k)，则性能指标函数为：,5 RBF网络的学习算法,RBF神经网络学习算法需要求解的参数有3个：基函数的中心、隐含层到输出层权值以及节点基宽参数。根据径向基函数中心选取方法不同，RBF网络有多种学习方法，如梯度下降法、随机选取中心法、自组织选区中心法、有监督选区中心法和正交最小二乘法等。下面根据梯度下降法，输出权、节点中

4、心及节点基宽参数的迭代算法如下。,其中, 为学习速率， 为动量因子。,(雅克比阵)(即为对象的输出对控制输入的灵敏度信息)算法为： 其中取 。,使用RBF网络逼近下列对象：,6 RBF网络逼近仿真实例,7 RBF网络的优点：,神经网络有很强的非线性拟合能力，可映射任意复杂的非线性关系，而且学习规则简单，便于计算机实现。具有很强的鲁棒性、记忆能力、非线性映射能力以及强大的自学习能力，因此有很大的应用市场。 它具有唯一最佳逼近的特性，且无局部极小问题存在。 RBF神经网络具有较强的输入和输出映射功能，并且理论证明在前向网络中RBF网络是完成映射功能的最优网络。 网络连接权值与输出呈线性关系。 分类

5、能力好。 学习过程收敛速度快。,8 RBF网络的缺点,最严重的问题是没能力来解释自己的推理过程和推理依据。 不能向用户提出必要的询问，而且当数据不充分的时候，神经网络就无法进行工作。 把一切问题的特征都变为数字，把一切推理都变为数值计算，其结果势必是丢失信息。 理论和学习算法还有待于进一步完善和提高。 隐层基函数的中心是在输入样本集中选取的, 这在许多情况下难以反映出系统真正的输入输出关系, 并且初始中心点数太多; 另外优选过程会出现数据病态现象。,9 RBF神经网络的应用,图像处理，语音识别，时间系列预测，雷达原点定位，医疗诊断，错误处理检测，模式识别等。 总之，RBF网络用得最多之处是用于分类。在分类之中，最广的还是模式识别问题。次之是时间序列分析问题。,Thanks,根据神经网络运行过程中的信息流向，可分为前馈式和反馈式两种基本类型。前馈网络的输出仅由当