人工神经网络ANN方法简介专家讲座

§10.1从生物神经元到人工神经网络人工神经网络ANN方法简介专家讲座第1页

大脑与神经细胞、神经细胞与神经细胞组成了庞大天文数字量级高度复杂网络系统。也正是有了这么复杂巨系统，大脑才能担负起人类认识世界和改造世界任务。“世界上最大未开发疆域，是我们两耳之间空间。”（美国汉诺威保险企业总裁比尔·奥伯莱恩）1、生物神经系统和大脑复杂性

生物系统是世界上最为复杂系统。

生物神经系统活动和脑功效，其复杂性是难以想象。人工神经网络ANN方法简介专家讲座第2页①人大脑平均只有3磅左右。只占身体重量百分比1/30；②使眼睛能够区分1000万种细微颜色；③使肌肉(假如全部向同一个方向运动)产生25吨拉力；④是由100亿个脑细胞和10兆个神经交汇丛组成。整个大脑神经网络足足有10英里长。大脑相关数据人工神经网络ANN方法简介专家讲座第3页“你大脑就像一个沉睡巨人。”（英国心理学家、教育家托尼·布赞）“假如我们迫使头脑开足1/4马力，我们就会毫不费劲地学会40种语言，把整个百科全书从头到尾背下来，还能够完成十几个大学博士学位。”（前苏联学者伊凡）

——一个正常大脑记忆容量有大约6亿本书知识总量，相当于一部大型电脑储存量120万倍

——大脑使你从出生开始每一秒钟可存放1000条信息，直到老死为止

——全世界电话线路运作只相当于大约一粒绿豆体积脑细胞

——即使世界上记忆力最好人，其大脑使用也没有到达其功效1%

人类知识与智慧，仍是“低度开发”！人大脑是个无尽宝藏，可惜是每个人终其一生，都忽略了怎样有效地发挥它“潜能”——潜意识中激发出来能量。大脑复杂性无限性人工神经网络ANN方法简介专家讲座第4页2、人工智能及其三个学派人类梦想重新结构人脑，并让其代替人类完成对应工作。（无数科幻故事）探索智能奥秘智能（intelligence）

“观察、学习、了解和认识能力”(牛津大辞典)“了解和各种适应性行为能力”(韦氏大辞典)智能是个体有目标行为、合理思维、以及有效适应环境综合能力；也能够说是个体认识客观事物和利用知识处理问题能力。人工神经网络ANN方法简介专家讲座第5页人类智能详细含义

感知与认识客观事物、客观世界和自我能力；经过学习取得经验、积累知识能力；了解知识、利用知识和经验分析、处理问题能力；联想、推理、判断、决议能力；利用语言进行抽象、概括能力；以上5点是人类智能基本能力。发觉、创造、创造、创新能力；实时、快速、合理地应付复杂环境能力；预测、洞察事物发展、改变能力。以上3点是前5种能力新综合表现形式。人工神经网络ANN方法简介专家讲座第6页人工智能“人工智能（ArtificialIntelligence）”

1956年首次引入人工智能研究怎样用计算机模仿人脑从事推理、设计、思索、学习等思维活动，以处理和处理较复杂问题。目标之一：增加人类探索世界、推进社会前进能力

经过制造和使用工具来加强和延伸人类生存、发展。目标之二：深入认识自己。

用物化智能来考查和研究人脑智能物质过程和规律。人工神经网络ANN方法简介专家讲座第7页人工智能3个主要流派1991年，人工智能学家D.Krish在《Int.J.ArtificialIntelligence》上提出人工智能5个基本问题：知识和概念化是否人工智能关键？认知能力能否与载体分开来研究？认知轨迹是否能够用类自然语言来描述？学习能力能否与认知分开来研究？全部认识是否有一个统一结构？对以上5个基本问题不一样回答已经形成3个主要学术流派：符号主义（Symbolicisim）联结主义（connetionism）行为主义（actionism）人工神经网络ANN方法简介专家讲座第8页人工智能符号主义流派

即传统人工智能，认为人工智能源于数理逻辑，主张以知识为基础，经过推理来进行问题求解，在研究方法上采取计算机模拟人类认知系统功效功效模拟方法

Simon、Minsky和Newell等认为，人和计算机都是一个物理符号系统，所以可用计算机符号演算来模拟人认知过程；作为智能基础知识是可用符号表示一个信息形式，所以人工智能关键问题是知识表示、知识推理和知识利用信息处理过程。符号主义对符号系统描述人工神经网络ANN方法简介专家讲座第9页人工智能联结主义流派

又称仿生学派，认为人工智能源于仿生学，人思维基本单元是神经元，而非符号处理过程，主张用大脑工作模式取代符号操作电脑工作模式；智能本质是联结机制。神经网络是一个由大量简单处理单元组成高度复杂大规模非线性自适应系统；“结构－功效”研究方法：认为功效、结构和智能行为是亲密相关；1943年，McCulloch和Pitts从神经元入手研究神经网络模型——MP模型。此为人工神经网络研究之始。人工神经网络ANN方法简介专家讲座第10页人工神经网络（ArtificialNeuralNetwork，ANN）从四个方面刻画人脑基本特征：（1）、物理结构模仿生物神经元功效，结构人工神经元联结网络CellbodyAxonNucleusSynapse突触Dendrite树突人工神经网络ANN方法简介专家讲座第11页（2）、计算模拟人脑神经元现有局部计算和存放功效，又经过联结组成统一系统，人脑计算建立在该系统大规模并行模拟处理基础之上。ANN以含有局部计算能力神经元为基础，一样实现信息大规模并行处理。（3）、存放与操作大脑对信息记忆是经过改变突触联结强度来实现并分布存放。ANN模拟信息大规模分布存放。（4）、训练后天训练使得人脑含有很强自组织和自适应性。ANN依据人工神经元网络结构特征，使用不一样训练过程，自动从“实践”（即训练样本）中获取相关知识，并存放在系统中。人工神经网络ANN方法简介专家讲座第12页人工智能行为主义流派“进化主义学派”、“控制论学派”；认为人工智能起源于控制论，智能取决于感知和行动。提出智能行为“感知－动作”模式，采取行为模拟方法；对符号主义、联结主义采取批判态度；（智能不需要知识、表示和推理，只需要与环境交互作用）

80年代诞生智能控制和智能机器人系统学科（R.A.Brooks），为机器人研究开创了新方法。人工神经网络ANN方法简介专家讲座第13页ANN是基于联结主义流派人工智能

联结主义学派与高速发展计算机技术相结合，发展为计算智能学派，是人工智能在1980年代后深化和发展计算智能：借助当代计算机技术模拟人智能控制、生命演化过程和人智能行为，从而进行信息获取、处理、应用理论和方法计算智能是以数学模型、计算模型为基础，以分布、并行、仿生计算为特征，包含数据、算法和实现信息系统计算智能强调模型建立和组成，强调系统自组织、自学习和自适应计算智能3个主要分支：

人工神经网络（模拟智能产生与作用赖以存在结构）

遗传算法（模拟生命生成过程与智能进化过程）

含糊逻辑（模拟智能表现行为）人工神经网络ANN方法简介专家讲座第14页3、人工神经网络概述生物神经元系统人工神经网络是受生物神经网络启发结构而成。James（《心理学》，1890年）：大脑皮层每一点活力产生于其它点势能释放综合效能，即其它点兴奋次数、强度和所接收能量。大脑含～1011个神经元，它们经过～

1015个联结组成一个网络。每个神经元含有独立接收、处理和传递电化学信号能力，这种传递由神经通道来完成。人工神经网络ANN方法简介专家讲座第15页神经元结构树突从细胞体伸向其它神经元，神经元之间接收信号联结点为突触。经过突触输入信号起着兴奋/抑制作用。当细胞体接收累加兴奋作用超出某阈值时，细胞进入兴奋状态，产生冲动，并由轴突输出。CellbodyAxonNucleusSynapse突触Dendrite树突人工神经网络ANN方法简介专家讲座第16页神经元系统基本特征神经元及其联结神经元之间联结强度决定信号传递强弱神经元之间联结强度能够随训练而改变信号分为兴奋型和抑制型一个神经元接收信号累计效果决定该神经元状态每个神经元有一个阈值人工神经网络ANN方法简介专家讲座第17页ANN理论及其发展阶段w1

Z=

wixiw2wnx1x2xny=f(

wixi-

)轴突突触树突内核轴突第一阶段1943年，心理学家McCulloch和数学家Pitts对神经元进行形式化研究，提出了神经元数学模型——MP模型。1944年，D.O.Hebb提出改变神经元联结强度Hebb学习规则，至今依然是人工神经网络学习算法一个基本标准。1957年，Rosenblatt首次引进感知器(Perceptron)概念来模拟生物感知、学习能力。1962年，Widros提出用于自适应系统连续取值线性网络。人工神经网络ANN方法简介专家讲座第18页第二阶段1969年，M.L.Minsky和S.Papert从理论上证实了当初单隐含层感知器网络模型无法处理许多简单问题，包含最基本“异或(XOR)”问题。使ANN理论发展进入一个低谷；1974年，Webos提出BP学习理论；S.Grossberg提出自适应共振理论（ART）。第三阶段突破性进展：1982年，CalTech物理学家J.Hopfield提出Hopfield神经网络系统(HNNS)模型，提出能量函数概念，用非线性动力学方法来研究ANN，开拓了ANN用于联想记忆和优化计算新路径；1988年，McClelland和Rumelhart利用多层反馈学习算法处理了“异或（XOR）”问题。人工神经网络ANN方法简介专家讲座第19页人工神经网络几个形式无反馈前向网多输入、多输出多层无环图，同一层间无联结。神经元分层排列，组成输入层、中间层（隐层）、输出层人工神经网络ANN方法简介专家讲座第20页有反馈前向网从输出层到输入层存在反馈前向网。人工神经网络ANN方法简介专家讲座第21页层内有联结前向网在无反馈前向网中同一层内存在神经元间联结回路。人工神经网络ANN方法简介专家讲座第22页有向网任意两个神经元间都可能存在有向联结。网络处于动态中，直至到达某一平衡态、周期态或者混沌状态。人工神经网络ANN方法简介专家讲座第23页§10.2感知器（Perceptron）——人工神经网络基本构件人工神经网络ANN方法简介专家讲座第24页感知器（Perceptron）：最早被设计并实现人工神经网络。W.McCulloch和W.Pitts总结生物神经元基本生理特征，提出一个简单数学模型与结构方法，建立了阈值加权和模型，简称M-P模型(“ALogicalCalculusImmanentinNervousActivity”,BulletinofMathematicalBiophysics,1943(5):115~133）。人工神经元模型是M-P模型基础。1、感知器数学模型——MP模型WarrenMcCulloch（1898－1969）WalterPitts(1923－1969)人工神经网络ANN方法简介专家讲座第25页生物神经元基本特征

神经元及其联结神经元之间联结强度决定信号传递强弱神经元之间联结强度能够随训练而改变信号分为兴奋型和抑制型一个神经元接收信号累计效果决定该神经元状态每个神经元有一个阈值突触树突轴突突触树突内核轴突人工神经网络ANN方法简介专家讲座第26页模拟神经元首要目标：输入信号加权和（生物神经元一阶特征）人工神经元能够接收一组来自系统中其它神经元输入信号，每个输入对应一个权重，全部输入加权和决定该神经元激活状态。每个权就相当于突触联结强度。w1

wixiw2wnx1x2xn数学模型——多输入、单输出加权和结构人工神经网络ANN方法简介专家讲座第27页设X=(x1,x2,…,xn)表示n个输入，W=(w1,w2,…,wn)表示它们对应联结权重。故神经元所取得输入信号累计效果为：称u(X)为整合函数。w1

wixiw2wnx1x2xn人工神经网络ANN方法简介专家讲座第28页感知器激活函数神经元取得网络输入信号后，信号累计效果整合函数u(X)大于某阈值

时，神经元处于激发状态；反之，神经元处于抑制状态。结构激活函数

，用于表示这一转换过程。要求

是[-1,1]之间单调递增函数。激活函数

通常为3种类型，由此决定了神经元输出特征。人工神经网络ANN方法简介专家讲座第29页激活函数

为符号函数：1-1u

人工神经网络ANN方法简介专家讲座第30页激活函数

为分段线性函数：1-1u

人工神经网络ANN方法简介专家讲座第31页激活函数

为Sigmoid函数，其特点是单调递增、光滑且含有渐近值，含有解析上优点和神经生理学特征。

1-1u人工神经网络ANN方法简介专家讲座第32页M-P模型将人工神经元基本模型与激活函数

结合，即McCulloch–Pitts模型。w1

u=

wixiw2wnx1x2xny=

(u(X)-

)人工神经网络ANN方法简介专家讲座第33页2、感知器学习算法什么是“学习”？“Theconceptualschemefor‘learning’inthiscontextisamachinewithaninputchannelforfigures,apairofYESandNOoutputindicators,andareinforcementor‘reward’buttonthatthemachine’soperatorcanusetoindicatehisapprovalordisapprovalofthemachine’sbehavior.”——M.L.MinskyandS.A.Papert,“Perceptron”(1988)人工神经网络ANN方法简介专家讲座第34页ANN学习定理——ANN能够学会它表示任何东西。（Rosenblatt，1962年）ANN表示能力有限，其学习能力也受到限制。ANN学习过程就是训练过程，在将训练样本集输入到网络过程中，按照一定方式来调整神经元之间联结权重值，使得网络能够将训练样本集内涵以联结权重矩阵方式存放起来，从而使得网络在接收输入时，能够给出适当输出。有监督学习（Supervisedlearning）无监督学习（Unsupervisedlearning）人工神经网络ANN方法简介专家讲座第35页基本思想感知器学习是有监督学习。学习问题归结为求权重系数W=(w1,w2,…,wn)和阈值

问题。基本思想：逐步将训练集中样本输入到网络中，依据当前输出结果和理想输出结果之间差异来调整网络中权重值。w1

u=

wixiw2wnx1x2xny=

(u(X)-

)人工神经网络ANN方法简介专家讲座第36页设X=(x1,x2,…,xn)表示n个输入，W=(w1,w2,…,wn)表示它们对应联结权重。假设取符号函数为激活函数

，此为经典M-P模型：w1

u=

wixiw2wnx1x2xn+1or-1人工神经网络ANN方法简介专家讲座第37页训练集样本（输入向量、输出值）为：t为样本数目。其中，人工神经网络ANN方法简介专家讲座第38页STEP2

重复以下过程，直至训练完成：

STEP2.1

对训练集中每一个样本(xk,yk)，重复以下过程：

STEP2.1.1

输入xk

STEP2.1.2

计算

STEP2.1.3

若输出不正确，则STEP1

初始化权重向量W=(w1,w2,…,wn)，不妨取w1=w2=…,=wn=1~~~人工神经网络ANN方法简介专家讲座第39页3、关于感知器基本理论问题“线性不可分”问题困境及其处理MarvinMinskyMITMediaLabandMITAILab

ToshibaProfessorofMediaArtsandSciences

ProfessorofE.E.andC.S.,M.I.T

minsky@1969年，Minsky和Papert在“Perceptron”一书中从理论上证实单层感知器无法处理许多简单问题，包含“异或(XOR)”问题。使得ANN理论发展在1970～80年代处于低潮。造成政府和企业资助降低，研究人员撤退……人工神经网络ANN方法简介专家讲座第40页“异或(Exclusive-OR)”运算f(x,y)y01x001110是一个双输入、单输出问题。对应单层感知器为：xyabzax+by=

xy不论怎样选择参数a，b，

，都无法满足划分。这种由单层感知器不能表示问题称为线性不可分问题。人工神经网络ANN方法简介专家讲座第41页考虑n个自变量二值函数，当n4时，线性不可分函数个数远远超出线性可分函数个数。自变量个数函数个数线性可分函数个数144216143256104465,5361,88254.310994,57261.810195,028,134（R.O.Windner,1960）表明单层感知器不能表示问题数量远远超出它能够表示问题数量。人工神经网络ANN方法简介专家讲座第42页处理路径——多层网络一个单层网络能够将空间划分成两部分，用多个单层网络组合在一起，并用其中一个去综合其它单层网络结果，组成一个二层网络，即可用来在空间划分出一个封闭或开放凸域（子空间）。x1z0xnz1zn人工神经网络ANN方法简介专家讲座第43页§10.3单层前向网、多层前向网与BP学习算法介绍人工神经网络ANN方法简介专家讲座第44页1、单层前向网络单层前向网模型

设有c

1个感知器，其中第k个感知器输出为yk；对于输入信号x=(x1,x2,…,xn)，每个感知器有d个输入uj(x)，j=1,2,…,d。1kcx1xnx2u1(x)u2(x)ud(x)x3wk1wk2wk3yk输入层输出层人工神经网络ANN方法简介专家讲座第45页一个单层前向网可表示为：

：激活函数；wk=(wk1,wk2,…,wkd)：第k个感知器权重系数；

k：第k个感知器阈值；u=(u1,u2,…,ud)：基函数x

Rn，u(x)Rd若记wk0=

k

，u0=－1，则上式变换为：人工神经网络ANN方法简介专家讲座第46页

记yk(wk;x)为第k个感知器当权重系数为wk

Rd，输入为x

Rn时输出。设训练集为A={(x

,t

)|=1,2,…,N}，其中

表示训练集数据编号，x

Rn为输入，t

Rc为输出，tk

为第k个感知器期望输出。基于训练集A误差函数定义为：单层前向网学习目标函数人工神经网络ANN方法简介专家讲座第47页

学习目标就是求wk

，k=1,2,…,c，使得误差函数E(w)取最小值：这就是目标函数。单层前向网学习原理本质上仍是感知器学习原理。人工神经网络ANN方法简介专家讲座第48页线性单层前向网解关于基函数u(x)，对学习集每一个数据，记：其中

=1,2,…,N。由此，定义学习集A扩展集B：人工神经网络ANN方法简介专家讲座第49页不妨假设激活函数

为恒等函数，此时网络为线性单层前向网。由此写出误差函数：优化目标函数为：人工神经网络ANN方法简介专家讲座第50页依据最小二乘法求解目标函数。由多元函数取极值必要条件，有：人工神经网络ANN方法简介专家讲座第51页写成矩阵形式W:c(d1)U:N(d1)T:N

c人工神经网络ANN方法简介专家讲座第52页解形式为：解存在条件？（略）人工神经网络ANN方法简介专家讲座第53页2、多层前向网络、BP学习算法双层前向网多层前向网结构特点：1、允许网络含有数层相连处理单元；2、联结是从前一层每一个节点到下一层全部节点，不存在其它联结；3、同一层内节点之间不存在联结；4、不含任何反馈，故输出能够用输入和权重来表示。L层神经网络：含有L层可调整权重参数人工神经网络ANN方法简介专家讲座第54页12M21x1xNNx2y112cy2ycW(1)W(2)输入层(X)隐层(Z)输出层(Y)双层前向网模型：含有两层可调整参数且同层无联结不含反馈人工神经网络。X层——输入层Y层——输出层Z层——隐层两层可调整权重参数：W(1)、W(2)人工神经网络ANN方法简介专家讲座第55页设输入层输入为(x1,x2,…,xn)

Rn。首先考查隐层，设隐层神经元激活函数为

。第j个隐层神经元整合函数为aj、输出值为zj：第1层（隐层）权重矩阵中第i个输入联结到第j个隐神经元权重第j个隐神经元阈值12M21x1xNNx2y112cy2ycW(1)W(2)输入层(X)隐层(Z)输出层(Y)人工神经网络ANN方法简介专家讲座第56页一样考查输出层，设输出层神经元激活函数为

。第k个输出神经元以z=(z1,z2,…,zM)RM为输入，其整合函数为bk、输出值为yk：第2层（输出层）权重矩阵中第j个隐神经元联结到第k个输出神经元权重第k个输出神经元阈值12M21x1xNNx2y112cy2ycW(1)W(2)输入层(X)隐层(Z)输出层(Y)人工神经网络ANN方法简介专家讲座第57页联合得到双层前向网输出表示式：12M21x1xNNx2y112cy2ycW(1)W(2)输入层(X)隐层(Z)输出层(Y)记为：人工神经网络ANN方法简介专家讲座第58页学习目标函数为简化计，考虑两类分类问题。设A、B是分类空间Rd中两个不相交集合。考虑离散型双层前向网T(W(1),W(2),

(1),

(2);x)，取其激活函数

、

为符号函数sgn(u)。该双层前向网学习目标是，对(A,B)求(W(1),W(2),

(1),

(2))使得：求解上述方程。人工神经网络ANN方法简介专家讲座第59页误差后向传输多层前向网学习原理：基于适当定义误差函数，在网络中调整权重矩阵和阈值等参数，使得误差函数极小化。与单层前向网和感知器相比较，多层前向网因为隐层存在，无法判别隐层神经元对输入误差直接影响（无法知道隐层神经元理想输出值）。所以，对参数权重矩阵和阈值调整碰到困难。12M21

x1N

y112c

y2

yc

W(1)

W(2)输入层(X)隐层(Z)输出层(Y)

x2

xN人工神经网络ANN方法简介专家讲座第60页处理方案——计算两个传输方向：“前向传输(Forwardpropagation)”：输入{xi}进入网络，按照信息在网络中前进移动方向，逐次计算aj，zj直至输出{yk}过程；（输入向输出方向前向传输）“后向传输(Backpropagation)”：利用输出层误差来预计输出层直接前导层误差，再依次预计更前一层误差，取得全部各层误差预计。（输出误差向输入方向后向传输）（Rumelhart,Hinton&Williams,1986）12M21

x1N

y112c

y2

yc

W(1)

W(2)输入层(X)隐层(Z)输出层(Y)

x2

xN人工神经网络ANN方法简介专家讲座第61页设学习集有T个样本，记为{x

,t

}，

=1,2,…,T，其中：输入理想输出计算实际输出，记为：实际输出人工神经网络ANN方法简介专家讲座第62页显然有：所以只需讨论某一个样本点误差传输，以下略去上标

。故误差函数为：人工神经网络ANN方法简介专家讲座第63页已知以下记号：又定义第k个输出神经元和第j个隐层神经元误差率为：输出层误差率隐层误差率人工神经网络ANN方法简介专家讲座第64页由微分链式法则，计算可得：输出层误差率隐层误差率人工神经网络ANN方法简介专家讲座第65页所以，得到：人工神经网络ANN方法简介专家讲座第66页梯度法求解wij(l)取步长因子为固定步长

，得到学习规则：其中

k(2)、

k(1)均与

相关，k=1,2,…,c；j=0,1,…,M；i=0,1,…,N。人工神经网络ANN方法简介专家讲座第67页补充：梯度法求解优化问题已知D

Rn是一个凸集。求解无约束优化问题就是寻求x*

D使得若f(x)为连续可微凸函数，问题归结为求解可利用Newton迭代法数值求解。（但f(x)凸性难以确保，求解也非常困难……）人工神经网络ANN方法简介专家讲座第68页结构逐次使目标函数值下降搜索算法：满足：

k>0：步长因子人工神经网络ANN方法简介专家讲座第69页BP学习算法实现设学习集有T个样本，记为{x

,t

}，

=1,2,…,T，其中：输入理想输出又设k=1,2,…,c；j=0,1,…,M；i=0,1,…,N。对于给定

=1,2,…,T，指标

依然不标出。人工神经网络ANN方法简介专家讲座第70页STEP1

初始化权重矩阵和阈值wji(1)(0)、wkj(2)(0)（已包含阈值），选择学习效率

。人工神经网络ANN方法简介专家讲座第71页STEP2

设第t次迭代值wji(1)(t)、wkj(2)(t)已知，（1）前向过程：对

=1,2,…,T，依次计算：（2）后向过程：利用公式对

=1,2,…,N，依次计算人工神经网络ANN方法简介专家讲座第72页STEP2

设第t次迭代值wji(1)(t)、wkj(2)(t)已知，...

（3）迭代过程：计算第t+1次权重矩阵

人工神经网络ANN方法简介专家讲座第73页STEP3

由此得到序列

满足直至满足停机准则（满足某种优化准则，或者迭代次数）人工神经网络ANN方法简介专家讲座第74页BP学习算法例子考虑某双层前向网，设激活函数为：误差函数为：人工神经网络ANN方法简介专家讲座第75页注意到：人工神经网络ANN方法简介专家讲座第76页于是有其中：人工神经网络ANN方法简介专家讲座第77页利用：得到迭代公式。人工神经网络ANN方法简介专家讲座第78页§10.4ANN方法在计算生物学应用人工神经网络ANN方法简介专家讲座第79页在生物序列分析中应用生物调控信号研究（感知器算法含有优势）例子：原核基因RBS（核糖体结合位点）——E.coli翻译起始位点序列特征分析参考文件：G.D.Stormo,T.D.Schneider,L.M.Gold,andA.Ehrenfeucht.Useofthe‘perceptron’algorithmtodistinguishtranslationalinitiationsitesinE.coli.NucleicAcidResearch.(1982)10:2997-3011G.D.Stormo,T.D.Schneider,andL.M.Gold.CharacterizationoftranslationalinitiationsitesinE.coli.NucleicAcidResearch(1982)10:2971-2996人工神经网络ANN方法简介专家讲座第80页在结构识别中应用蛋白质二级结构预测（BP算法得到广泛应用）参考文件：N.QianandT.J.Sejnowski.Predictingthesecondarystructureofglobularproteinsusingneuralnetworkmodels.JournalofMolecularBiology,(1988)202:865-884H.Bohr,J.Bohr,S.Brunaket.al.Proteinsecondarystructuresandhomologybyneuralnetworks:The

-helicesinrhodopsin.FEBSLetters,(1988)241:223-228L.H.HolleyandM.Karplus.Prote