神经网络详细介绍及实例分析ppt课件.ppt

BP神经网络详述及应用分析 1 基本思想 学习算法 实例分析 网络模型 1 2 3 4 2 基本思想 BP神经网络 BP算法的基本思想 学习过程由信号的正向传播与误差的反向传播两个过程组成 输入信号由输入层经过隐含层传向输出层 在输出层产生输出信号 这是工作信号的正向传播 在信号的向前传递过程中各层的权值是固定不变的 每一层神经元的状态只影响到下一层神经元的状态 如果在输出层得到实际输出不同于期望输出 则转入误差信号反向传播 网络的实际输出与期望输出之间的差值即为误差信号 误差信号由输出层逐层向前传播 这是误差信号的反向传播 在反向传播过程中 网络的权值由误差反馈进行调节 通过权值的不断修正使得网络的实际输出更加接近期望输出 工作信号的正向传播和误差信号的反向传播的各层权值调节过程 是周而复始进行的 权值不断调节的过程也是网络的学习训练过程 直到网络输出误差减小到可接受的范围内 或者迭代次数达到预定的次数为止 3 网络模型 BP神经网络 一般将单隐层前馈网称为三层前馈网 即包括输入层 隐含层 输出层 4 网络模型 BP神经网络 输入层输入向量 隐含层各神经元输入 隐含层各神经元输出 j 1 2 m netj表示隐含层第j个神经元的输入yj表示隐含层第j个神经元的输出 k 1 2 l netk表示输出层第k个神经元的输入Ok表示输出层第k个神经元的输出 输出层各神经元输入 输出层各神经元输出 隐含层输出向量 输出层输出向量 输出层期望输出向量 f x 函数一般设为sigmoid函数 5 学习算法 BP神经网络 当网络输出与期望输出不等时 存在输出误差E 定义如下 所以 网络输出误差是各层权值的函数 通过调整各层权值可以达到减少误差的目的 显然 误差调整的原则是使误差越来越小 可以通过梯度下降法 负梯度方向即是减少最快的方向 即各层权值的调整量应该与误差的负梯度成正比 6 学习算法 BP神经网络 7 经过上面两个公式 可以得到每层权值的改变量 从而更新整个网络的所有权值 学习算法 再由输入层重新向后传播 得到实际输出 再与期望输出相比较 若已达到误差函数要求的精度 则停止迭代 若没达到 则继续计算各层权值的改变量 更新权值 反复进行 直到满足要求 8 BP神经网络在图像压缩中的应用 BP神经网络 基本思想 原始数据节点和重构数据节点构成了节点数较大的外层 而中间的具有较小节点数的隐含层则构成压缩效果 基本思想是强迫原始数据通过隐含层 并期望在隐含层处获得较为紧凑的数据表示 以达到压缩的目的 神经网络用于图像编码的压缩比与输入层和隐含层的节点数有关 一般为 压缩比 输入层节点数 n 隐含层节点数 m 实验设计 1 输入层和输出层节点数设为16 因为实验用于压缩的图像选为128 128的图像 为避免网络过大造成训练过于复杂 将原始图像分为4 4的小块 每一块作为输入样本接入网络 所以输入节点应设为16个 输出图像要与原始图像一致 所以输出节点也是16个 2 隐含层节点数由期望达到的压缩比来设定 本实验设为8个 压缩比为2 3 转移函数f x 选为sogmoid 4 目标误差为0 0015 迭代次数为500 9 BP神经网络在图像压缩中的应用 BP神经网络 10 BP神经网络在图像压缩中的应用 BP神经网络 11 BP神经网络在图像压缩中的应用 BP神经网络 压缩结果 12 BP神经网络在图像压缩中的应用 BP神经网络 1 图像压缩的目的是在为了不影响清晰度的前提下减少图像所占的存储空间 那么通过BP神经网络的方法 我认为是不是在实际存储时存储的是隐含层输出的数据 也即是本来对于一个图像的一个4 4的块 存的是16行1列的数据 现在经过隐含层之后 只需要存4行1列的数据 所以实现了压缩的目的 2 对于一个图像经过训练后得到的一个神经网络 本来以为只针对这个图像或相似的图像有一个较好的拟合 但在对其他图像也经过这个网络去压缩时 发现也能达到一个很好的效果 所以我认为一个样本训练