突触动力学有监督学习PPT学习教案

1、会计学1 突触动力学有监督学习突触动力学有监督学习 本章论述要点： 神经网络的分类： 按网络结构分为：反馈网络和前馈网络； 按学习方式分为：监督学习和非监督学习。 本章论述内容： 前馈网络的监督学习算法，包括感知器算法、最小均方误差算法和 反向传播（BP） 算法。 理论基础： 本章论述了监督学习是对未知平均误差层的随机近似，即给定观察 得到的随机矢量样本对： 1122 ( ,),(,),(,) mm x yxyxy 要估计一个未知函数：f : xy，并且使期望误差函数EJ最小。误 差定义为期望特性与实际特性之差。 第1页/共17页 前馈网络： 输出 隐层 输 入 节 点 计算单元 上图即为前馈

2、神经网络的结构示意图。各神经元接受前一级输入 ，并输出到下一级，无反馈。输入、输出节点称为可见层，其他中 间层称为隐层。 第2页/共17页 监督学习： 有监督学习有时也叫有教师学习，“教师”在这里要对一组给定 的输入提供应有的输出结果。这组已知的输入输出数据就称为训练 样本集。学习系统如下图： 环境教师 学习 系统 实际响应 误差信号 应有 响应 描述环境状态 的信号 + - 第3页/共17页 有监督的函数估计 有监督的学习相当于操作性条件反射 有监督的学习相当于有先验知识的随机模式学习 算法，感知器，LMS，BP 论述内容： 第4页/共17页 有监督的函数估计： 神经网络引进的函数估计的概念

3、为：已知随机样本矢量 对 11 ,),(,) mm x yxy（，要从这些样本中估计出产生这些样 本 矢量对的函数 ，即： f:fxy 其中： n i xxR 是输入空间 p i yyR是输出空间 f 是要估计的泛函 所采用的方法为是使一个未知期望的误差函数( )E J （也叫目标函数）最小化。 第5页/共17页 有监督的函数估计： n设N为一个神经网络的传递函数，那么可以定义瞬时误 差为 ，这是一个随机向量，因为我们不知 道联合概率密度函数p(x,y)，所以，无法求出， , 一般用 。 随机逼近用观测到的随机量来估计期望值，然后在 离散的近似算法中使用这些估计量，通常是随机的梯度 下降法，举

4、个例子，在Widrows LMS算法中，他用的 梯度是随机梯度。 ( ) ii yN x ( ) ii E yN x ( )( ) T iiii E yN xyN x 幻灯片 5 第6页/共17页 有监督的学习操作性条件反射 幻灯片 5 v1.操作性条件反射相当于有监督的学习，如果输入与期望的 输出不同，就调节权值m 第7页/共17页 有监督的学习操作性条件反射 幻灯片 5 v2.传统条件反射（相对于非条件反射的概念），神经网络直接 把输入x耦合到输出y 有效条件强化响应(Operant conditioning reinforce responses)。条件 聚类强化了刺激，例如，一个生物体

5、学会了一刺激响应对： SR 在条件刺激 S中加一个条件B进行学习，即： (& )()BSRBSR或 这样不断强化刺激，直到输入 B 时反应为 R。这样就有：BR 也就是学会了一条规则。这样的例子如巴普洛夫条件反射试验。 ，那么 返回 第8页/共17页 有监督的学习 有先验知识的随机模式学习 幻灯片 5 例1：用已知的类隶属度作为随机模式学习的有监督学习 模式：定义为模式空间 的一个点； n R 时变模式：空间中的一条轨迹线； 映射 :0 , n xTR定义了从时间区间0, T到模式空间 n R 中单点的映射。 概率密度( )p x:为模式 x 在 中的分布的一种描述。 模式类：为空间 的子集。

6、 目的：是用已知的样本：(1), (2)xx 及模式类来估计( )p x n R n R n R 第9页/共17页 有监督的学习 有先验知识的随机模式学习 幻灯片 5 定义:0,1 n s IR 是集合S的指示函数 1 ( ) 0 s xS Ix xS 指示函数指出了模式 x 的类隶属度。如果 S 是将 n R映射到 0,1而不是0,1 ，那么 S 就是一个连续的或者说是多值的 （模糊的）集合，即模式 x 以不同的程度隶属于不同的类。 n R分为 k 个不相交的子集： 12 n kij RDDDDDij且如果 假设将模式样本空间的 第10页/共17页 有监督的学习 有先验知识的随机模式学习 幻

7、灯片 5 则类概率密度为：()() i i iD D PDpxd xEI E为求期望值，且有： 1 ()1 k i i PD 我们可以进一步区分有监督和无监督模式学习： 贝叶斯学习，因为用到了指示器函数，所以是有监督的学习 有监督和无监督模式学习的区别依赖于已有的信息以及学习系 统如何利用它。在两种情况下系统都不知道( )p x 如果知道确定的类，并且学习系统利用了这些信息，那么模式学 习就是监督学习。如果不知道或没用类隶属度（指示函数），则模式 学习就是非监督的。 第11页/共17页 有监督的学习 有先验知识的随机模式学习 返回 例2：监督随机竞争学习定律： 先看噪声随机竞争学习定律:()

8、( ) jjijj mSyS xmn 由于上式没有使用类成员信息校正突触矢量，所以是非监督学习。 监督随机竞争学习定律为：( )() jjjjjj mrx Syxmn 增强函数为： ji jDD ij rII 奖励正确的模式分类1，惩罚错误的模式分类为1。 第12页/共17页 感知器学习算法 感知器模型如下图： 感知器是一个具有单层计算机单元的神经网络，并由线 性阈值元件组成，可以通过监督学习建立模式判别能力。 1 x 2 x n x 1 w 2 w n w )( iix wfy 注意：为方便起见，将阈值 （因为它也需要学习）一同并入 w 中， 令 xwn, 1 向量也对应增加一个分量 , 1

9、 1 n x 这样输出为： )( 1 1 n i iix wfy 第13页/共17页 感知器学习算法 幻灯片 5 感知器模型如下图： 给定初始值：赋给 各一个较小的随机非零值。 输入一样本 和它的希望输出 （亦称为导师信号， 如果 类， ，如果 类， ）； 计算实际输出： 修正权值： 转到步骤2，直到 对一切样本均稳定不变为止。 )0( i w ) 1 ,.,( 1n xxX d AX 1d1dBX )()( 1 1 n i ii xtwftY iii xtYdtwtw)()() 1( w Rosenblatt证明：如果两类模式是线性可分，则算法一定收敛，也就是说 一定存在，否则，判定边界会产生振荡，以致 不收敛。 w w 第14页/共17页 梯度算法 感知器模型缺点： 1.不能推广到一般的前向网络中去； 2.函数不是线性可分时，得不到任何结果。 梯度算法思想： 把单元特性改成可微函数如Sigmoid形式。当给定训练集合后 ，我们的目的寻找 ，使得 于 尽可能接近。 * W )*( i XWf i Y )( ) ( 2 1 1 2 ii n i ii XWfYYYE 应使 达到最小。E 第15页/共1