人工神经网络入门

人工神经网络入门李玉珏汇报内容概述人工神经网络模型及举例一、概述生物神经网络——人工神经网络生物神经元人工神经元模型人工神经网络结构神经网络特点神经网络学习方式1、生物神经网络——人工神经网络生物神经系统的某些结构和功能是天生的，如某些本能动作，但大多数功能需要后天学习才能获得。构造“人工神经元”模拟生物细胞，并以某种方式进行连接，从而模拟“人脑”的某些功能。2、生物神经元生物神经元是人脑神经系统的基本单元，相互之间通过神经末梢连接，神经元信息是宽度和幅度相同的脉冲串，兴奋的神经元，输出高频率的脉冲串，引起下一个神经元兴奋；否则输出频率就低，抑制下一个神经元。3、人工神经网络模型人工神经元是人工神经网络的基本单元。依据生物神经元的结构和功能，可以把它看作一个多输入单输出的非线性阈值器件。p2p1pR…f∑θaw1w2wRP：其它神经元的输出，即该神经元输入向量；w：其它神经元与该神经元的连接强度，即权值向量；Θ：神经元的阈值，判断输入向量加权和与其大小；f：神经元输入输出关系函数，即传输函数，传输函数不同构成了不同的神经网络模型；a：神经元输出p2p1pR…aw1w2wR∑fnb人工神经元一般模型4、人工神经网络结构单个人工神经元不能完成输入信号的处理，需要按照一定的规则连接成网络，并让网络中每个神经元的权值和阈值按照一定的规则变化，才能实现一定的功能要求。可分为分层型和互连型两种。分层型神经网络按照功能分为输入层、中间层和输出层，中间层也称为隐层，隐层可以有多层（一般不超过2层），也可以没有。5、神经网络特点分布式存储信息并行协同处理信息信息处理与存储合而为一对信息处理具有自组织、自学习特点，便于联想、综合和推广。6、神经网络学习方式与生物神经网络一样，人工神经网络必须经过学习，才具有智能特性。人工神经网络的学习过程是在不断调节权值和阈值的过程。模仿人的学习过程，提出三种学习方法：监督学习、无监督学习、强化学习。1）监督学习

给出了与所有输入模式p对应的输出模式的“正确答案”，即期望输出t（目标），每次学习后，根据实际输出a与期望输出t的差别（误差e），决定是否再次学习和学习方法，最终使e满足要求。神经网络（学习系统）误差分析P输入a实际输出e误差信号t期望输出监督学习的误差信号定义：均方误差mse平均绝对误差mae误差平方和sse2）无监督学习没有信息作为响应的校正，依据网络结构和学习规则调节自身参数和结构，使网络输出反映输入的某些固有特性。3）强化学习介于两者之间，外部环境对学习后的输出结果只给出评价信息，而无答案，网络学习系统通过强化正面评价行为来改善自身性能。二、神经网络模型感知器BP网络线性神经网络径向基网络竞争型神经网络自组织神经网络反馈型神经网络1、感知器特点感知器神经元及感知器神经网络模型感知器学习局限性感知器网络设计特点在解决线性可分问题时，感知器保持了运算速度快，性能可靠的优点；理解感知器的训练算法，能够为更好理解其它复杂的神经网络模型奠定基础。感知器神经元及感知器神经网络模型神经元传输函数f：阈值型传输函数感知器网络输出：0，1感知器学习规则：δ规则，e＝t－a，网络训练目的是使ta感知器学习感知器神经网络的训练，需要提供训练样本集，每个样本由神经网络的输入向量和输出向量对组成，n个训练样本构成的训练样本集为：

每一步学习，对于各层感知器神经元的权值和阈值的调整算法表示为：通过有限步数的学习后，网络实际输出和期望输出的误差将减小到0，此时，完成网络训练。训练结果使网络训练样本模式分布记忆在权值和阈值之中，当给定网络一个输入模式时，网络将计算出相应输出，从而判断这一输入模式属于记忆中的哪一种模式或接近于哪一种模式。感知器局限性输出值单层感知器网络只用于解决线性可分问题感知器学习算法只适用于单层感知器网络感知器网络设计确