小脑模型神经网络课件

1、小脑(xiono)模型神经网络（CMAC）第一页，共二十一页。小脑模型神经网络PART 01PART 02PART 03PART 04CMAC网络(wnglu)的基本思想CMAC网络的结构模型与工作(gngzu)原理仿真(fn zhn)示例总结目录第二页，共二十一页。0101CMAC网络(wnglu)的基本思想肌肉、四肢、关节、皮肤感受信息反馈信息记忆存储器控制信号驱动联想有差异调整1975，J.S.Albus 小脑模型神经网络（CMAC-Cerebellar Model Articulation Controller）局部逼近神经网络：网络输入(shr)空间的某个局部区域只有少数几个连接权影

2、响网络输出第三页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理 输入空间 U由所有可能的输入向量 Ui 组成 , 虚拟联想空间Ac是一个虚拟的空间，不占用物理存储，CMAC网络将其接受到的任何输入 , 映射到联想存储器 Ac中的 c个单元(dnyun)。物理存储空间Ap中存储着网络的权值参数，Ac中的c个单元在物理存储空间Ap中找到对应的权值参数，做求和得到最终的网络输出。重点(zhngdin)：两个映射第一次映射：U-Ac第二次映射：Ac-Ap第四页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理l 从输入空间U至虚拟存储器AC的映射n维输入向量：T

3、nppppuuu,21u upu u量化（离散化）：RuuuuppppcpTSsss() (),(),()12映射至AC的c个存储单元：sjcjp(), ,u112 l 映射(yngsh) 映射法则可以根据实际情况选取，只需要满足一下规则即可。 输入空间邻近两点（一点为一个n维输入向量），在Ac中有b个重叠单元被激励。距离越近，重叠越多；距离远的点，在Ac中不重叠第五页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理l 量化 一般来说，实际应用时输入向量的各分量来自不同的传感器，其值多为模拟量，而Ac中每个元素只取0或1两种值。为使输入空间的点映射到虚拟联想(linxing

4、)空间Ac的离散点，必须先将模拟量U量化，使其成为输入空间的离散点。第六页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理 l 哈希映射 哈希映射是压缩稀疏矩阵的一个常用技术。当在一个大的存储区域(qy)稀疏地存储一些数据时，可以通过哈希映射将其压缩到小的存储位置例：除留余数法：yf (x)xk (k决定了压缩率)第七页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理l实际映射 AcAp 这个过程最简单的实现(shxin)方法就是线性一一映射。输出(shch)：pTpcjPjjpswyw wR Ru u1)(其中TcjpwwwwW,21代入1)(pjsu

5、 uywpjjc1可得：jwRuuuuppppcpTSsss()(),(),()12()1,1,2,jpsjcu u第八页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理l 权值调整(tiozhng) 权值调整指标：)()()(tytdtepp 误差平均分配：( )( )( )( )ppjd ty te tw tcc)(1)-(t(t)twwwjjj第九页，共二十一页。0202CMAC网络(wnglu)的结构模型与工作原理l 权值调整(tiozhng) 经过数次迭代后，最初的存储单元已经包含了一些先前学习的知识(zh shi)。每一个存储单元学习的历史不同，所以这些存储单元

6、也不应有相同的可信度。无视这些差异，所有被激活的存储单元都获得相同的校正误差，那么那些由未学习状态产生的误差将对先前学习的信息产生“腐蚀”。l 基于信度分配的基于信度分配的CMAC（CA-CMAC）神经网络神经网络第十页，共二十一页。0303仿真(fn zhn)实例 用CMAC逼近(bjn)sin函数采用一维输入一维输出结构的CMAC逼近sin采用c=6，邻近两点重叠单元b=5采用线性化函数实现U-Ac的虚拟(xn)映射s(k)=round(u(k)-xmin) /(xmax-xmin) *M)采用一一映射的方式实现Ac-Ap的实际映射输入训练样本：train_in=0:36:324共10个样

7、本第十一页，共二十一页。0303仿真(fn zhn)实例 量化等级(dngj)：40训练样本个数：10学习率：1第十二页，共二十一页。0303仿真(fn zhn)实例 第十三页，共二十一页。0303仿真(fn zhn)实例 第十四页，共二十一页。0303仿真(fn zhn)实例 第十五页，共二十一页。0303仿真(fn zhn)实例 第十六页，共二十一页。0303仿真(fn zhn)实例 第十七页，共二十一页。0303仿真(fn zhn)实例 第十八页，共二十一页。0404总结(zngji) 网络非线性：CMAC的每个神经元的输入输出是一种线性关系，但其总体上可看做一种表达非线性映射的表格系统。学习速度快：每次修正的权值少，在保证函数非线性逼近性能的前提下，学习速度快，适合于实时(sh sh)控制；局部泛化能力：相近输入产生相近输出，不同输入给出不同输出，避免了BP网络的局部最优问题；第十九页，共二十一页。谢谢(xi xie)第二十页，共二十一页。内容(nirng)总结小脑模型神经网络（CMAC）。1975，J.S.Albus 小脑模型神经网络。局部逼近神经网络：网络输入空间的某个局部区域只有(zhyu)少数几个连接权影响网络输出。输入空间邻近两点（一点为一个n维输入向量），在Ac