人工神经网络第5章RBF课件

1、第五章 径向基函数网络RBF网络的模型RBF网络的学习RBF网络的Matlab仿真RBF网络的应用RBF网络的有关问题Radial Basis Function ，RBFNN4.4.1 RBF网络的模型 RBF网络的结构输入层隐含层（RBF层）输出层W1W2 RBF网络的结构RBF网络为具有单隐层的两层前向网络。输入层节点只是传递输入信号到隐层。输入节点输出层神经元通常是简单的线性神经元，其传输函数为工具箱函数purelin（） RBF网络的结构隐层神经元（也称RBF节点）径向基传输函数偏置值乘积距离w为RBF神经元的权值向量，也称为RBF神经元的中心向量，其维数与输入向量维数相同；p为输入向

2、量。隐层神经元（也称RBF节点）矢量间的距离 dist(w,p)RBF传输函数的净输入权值向量W与输入向量p之间的向量距离乘以偏值b。例如，如果RBF神经元宽度为0.1，则域值为8.326,那么，向量距离为8.326时，输出为0.5。 径向基传输函数阈值或宽度可调节RBF神经元的敏感程度。径向基函数的宽度Spread（分布系数）从函数顶点1到0.5的距离。b与Spread RBF网络的输出1.RBF神经元输出RBF网络隐层第i个节点的输出ui为2. 输出层神经元输出输出层第k个节点的输出yk为 RBF网络的可调参数分为两部分。 第一部分：径向基函数的参数 RBF单元的中心向量和偏值。 第二部分

3、：输出单元的参数 隐含层到输出层的权值及输出层的偏值。 RBF网络的可调参数 第一部分：RBF单元的参数方法一：直接法 以训练样本的输入向量作为RBF神经元的中心向量。这样，径向基神经元数等于输入样本数，每个神经元的中心向量为训练样本的一个输入向量。各神经元的偏值相同。 该方法创建RBF网络的速度很快，但当输入向量数目很大时，将导致网络的规模也很大。 方法二：有监督学习法 第一部分：RBF单元的参数 RBF网络的所有参数都用监督学习（梯度下降法）从样本学习。 分别计算误差性能函数对各组参数的偏导数，得参数的修正公式作业：用梯度下降法推导RBF网络调节各参数的公式。 K-均值聚类算法 K-均值法

4、的聚类准则函数含义：求k个子集中的各样本与其所属样本子集中心间的距离平方和，再对所有k类求和。 该准则函数能使聚类域中所有样本到该类中心距离的平方和（欧式距离）为最小。 K-均值聚类算法 算法步骤(1) 给定初始聚类中心向量 ci(0)和判定停止计算的 ；(2) 计算距离（欧氏距离）并求出最小距离的节点 式中，k为样本序号，r为中心向量ci(k-1)与输入样本x(k)距离最近的隐节点序号； K-均值聚类算法步骤(4) 判定聚类质量 对于全部样本k(k=1,2,N)反复进行以上(2)、(3)步，直至满足Je ，则聚类结束。 上述k-均值聚类法是在类别k已知的条件下进行的。若类别未知，则可以假设类

5、别数是逐步增加的，例如对k=1，2，3，分别使用该算法。显然准则函数是随着k的增加而单调减少的。当达到合理聚类数后，J的变化呈平缓趋势。聚类示意图（二维） K-均值聚类 K-均值聚类算法确定RBF神经元的参数1.RBF神经元中心向量ci2.RBF神经元宽度（或偏值b） 原则：使得所有RBF单元的接受域之和覆盖整个训练样本空间。 方法1：宽度为中心向量（聚类中心）与属于该类的样本之间的平均距离。 方法2：宽度为该单元的中心与其它最邻近的N个近邻单元中心距离的平均值。方法3：经验试凑法 第一部分：RBF单元的参数 第二部分：输出单元参数的学习方法一：线性最小二乘法方法二：梯度法4.4.3 RBF网

6、络的Matlab仿真 在MATLAB命令窗口键入“help radbasis”，便可得到与径向基神经网络相关的函数。 径向基神经网络工具箱函数1. 计算矢量间的距离函数dist( )2. 径向基传输函数radbas( )3.设计径向基网络newrb( )net=newrb(X,T,goal,spread)式中，X为输入向量；T 为目标向量；goal为目标均方差，默认为0；spread为径向基函数的分布系数（宽度），默认为1；net为生成的网络。利用函数newrb( )建立的径向基网络，能够在给定的误差目标范围内找到能解决问题的最小的网络。不需要再训练，可以直接使用。4.4.4 RBF网络的应用

7、 RBF网络的应用主要是函数逼近。从理论上而言，RBF网络和BP网络一样可近似任何的连续非线性函数。例：利用RBF网络实现正弦函数逼近X=-1:0.1:1;T=sin(PI*X); 用RBF作为隐单元的“基”构成隐含层空间，这样就可将输入矢量直接（即不通过权连接）映射到隐空间。当RBF的中心点确定以后，这种映射关系也就确定了。而隐含层空间到输出空间的映射是线性的，即网络的输出是隐单元输出的线性加权和。此处的权即为网络可调参数。由此可见，从总体上看，网络由输入到输出的映射是非线性的，而网络输出对可调参数而言却又是线性的。这样网络的权就可由线性方程组直接解出或用LMS方法计算 ，从而大大加快学习速度并避免局部极小问题。 4.4.5 RBF网络的有关问题 构成RBF网络的基本思想采用径向基函数网络来完成函数逼近任务，将结果同BP网络以及改进BP算法的前向网络的训练结果做比较后，发现径向基函数网络所用的时间最短。 但并不等于径向基网络就可以取代其它前馈网络。这是因为径向基网络很可能需要比BP网络多得