神经网络及其在围岩稳定性分类中的应用课件

1、第2章 神经网络及其在隧道围岩稳定性分类中的应用2011年6月东北大学深部金属矿山安全开采研究中心：杨成祥主要内容一、人工神经网络原理及BP神经网络二、神经网络用于求解岩石力学问题 三、遗传算法原理及进化神经网络方法四、实例公路隧道围岩稳定性分类2.1 神经网络原理2.1.1 人工神经元多输入单输出的非线性处理单元0 x(a) 阈值型0 x(c) S型图2.2 神经元的非线性特性0 x(b) 子域累积型0 x(c) 线性饱和型神经元的非线性特性活化函数f()2.1.2 前馈式神经网络图2.3 前馈神经网络（三层）拓扑结构1. 输入层不做任何处理，直接将输入信号传到第一隐含层。第一隐含层(假定有

2、p个神经元)，每个神经元（结点）j(j=1,2,p)的输出计算为： 2. 第二隐含层（假定有q个结点），每个结点k(k=1,2,q)）的输出计算为(第一隐含层的输出作为输入)： 多层前馈式神经网络的计算过程如果已知网络的权值矩阵W=wij和问题的输入 多层前馈式神经网络的计算过程依此类推，逐层计算，形成有输入X到输出Y的多输入多输出映射过程。假定包括2个隐含层， m个输出，则各输出值yl(l=1,2,m)为 多层前馈神经网络计算过程可视为从输入到输出的高度非线性映射过程。 “涌现”：并不是一个简单叠加的过程，而表现出一种复杂的高度非线性机制。 2.1.3 神经网络的自学习图2.4 神经网络有指

3、导学习过程示意图（以单个神经元为例）知识的存储：神经网络中知识通过网络拓扑结构和权值矩阵存储。知识的获取：就是通过某种规则调整网络拓扑结构和权值矩阵，使得网络中那些导致“正确解答”的神经元之间的连接被增强，而那些产生“错误解答”的神经元之间的连接减弱。基于样本的学习规则：学习样本通常由一组输入和期望输出对组成，从事先假定的初始权值开始，对样本的输入计算输出yk(n)，与期望输出比较得到误差ek(n)，由此误差按某种算法来调整各权系数，这一过程往往需要多次迭代完成。 2.1.4 BP（Back Propagation）算法BP算法由正向传播和反向传播两个过程组成。正向传播：输出计算过程。设定BP

4、神经网络共有m层（包括输入层），输入层节点数为n，输出层节点数为nm，第k层（隐含层）的节点数为nk，oi(k)表示第k层节点i的输出，xi(k)表示第k层节点i的输入，从第k-1层的节点j到第k层的节点i的连接权为wij(k)，设活化函数为f，则 图2.5 BP神经网络正向传播示意图2.1.4 BP（Back Propagation）算法反向传播：如果在输出层得不到期望输出，将误差沿原来的通路返回，并根据误差信息修改神经元之间的连接权值，使得误差逐渐减小。对给定学习样本（X,Y），误差计算为： yi为对于输入模式（X,Y）输出层m的第i个节点的期望输出。由梯度下降法，可求得E(W)的梯度来修

5、正权值，即权向量wij(k)的修正量可由下式求得： 对于输出层m，有 对于其它隐含层，有 连接权值按下式修正 其中，为动量项系数（通过引入该项可以加快学习效率并在一定程度上避免陷入局部最小），为学习步长。 2.1.4 BP（Back Propagation）算法BP学习算法基本步骤：(1) 根据具体问题确定输入输出模式，准备学习样本（一组输入和期望输出样本对），进行标准化； 通常，取活化函数f为Sigmoid函数，其最常用的函数形式为 其输出范围为(0, 1)。因此，对输出大于1的问题要标准化到(0, 1)之间。 (2) 设置神经网络结构（隐含层数和各隐含层结点数），初始化权值W；(3) 对每

6、一个学习样本，进行正向传播计算输出误差；(4) 按BP算法反向传播调整权值；(5) 判断是否满足算法终止条件，是则终止算法，保存网络结构和权值系数用于预测分析；否则转（3）。 BP算法参数及其敏感性网络结构参数：隐含层的大小。 Hornik指出“前向反馈神经网络的非线性映射能力在很大程度上并不取决于对转换函数的选择，而是多层前向反馈结构决定了其函数逼近能力”。隐含层太大，将使网络记忆输入模式而不是归纳输入的特性，降低处理非样本输入信息的能力。隐含层太小，B-P算法是一个非线性优化问题，加入隐节点相当于使得可调参数增加，从而得到更精确的解，过小的隐含层将减少检索信息的精确性。初始权值：局部梯度下

7、降算法是初值敏感的。学习参数：学习率和动量项系数。学习率：大的学习率使得下降速度加快，对应于一个快速的学习过程，但结果可能产生振荡，所以必须设置成一个适当小的值，但较小的学习率值会使网络学习过程需要更多的迭代次数。动量项：相当于设置了一些惯性，使下一次的权值改变或多或少地也是在相同方向上进行。 这些参数的选取尚无理论上的指导，主要根据经验选取。选取不当直接影响到学习效果的好坏，通常采用试错法进行，这往往使得用者显得无从下手。BP算法参数设置的一些经验神经网络结构参数：研究表明，一般情况下包含一个隐含层的神经网络就可胜任；在一些情况下，两个隐含层的神经网络则更有效。Hornik基于全局逼近理论提

8、出“一个包括两个隐含层的前向反馈式神经网络可以逼近任意函数”。隐层节点数的确定也是十分重要的，最佳个数的确定仍是一个有待解决的难题。很多学者基于其研究结果提出了许多经验公示，如表2.1所示。表2.1 隐层节点数确定的一些经验性建议（针对一个隐含层的情况）建议者经验公示PaolaNh=(2+(NoNi)+(No2+Ni) 0.5No-3)/(No+Ni) Hecht-NeilsenNh=2Ni+1HushNh=3NiRipleyNh=(No+Ni)/2WangNh=2Ni/3MastersNh=(NoNi)1/2Aldrich and ReuterNh=p/k(No+Ni)Kannellopou

9、las and WilkinsonNh=2NiSeibi and Al-AlawiNh=(p-No)/(Ni+No+1)表中，Ni、Nh、No分别是输入层、隐含层和输出层节点个数；p是训练样本数；k是常数，取决于训练数据的分散程度，取值范围410；是大于1的常数，=1.25会产生25%的过高估计结果。BP算法参数设置的一些经验初始权值：参数较多，往往给出一个范围随机赋值。很多学者对初始权值的取值范围进行了大量的研究，并给出了不同的建议。如Sietsma和Dow 建议初始权值范围为-0.5,0.5；Gallagher和Downs以及Kavzoglu建议为-0.25,0.25；Paola以及Sta

10、ufer和Fisher建议为-0.1,0.1，等等 。学习参数：取较小的学习误差：牺牲一定的计算量换取算法稳定性，但是对于数据量大或误差分析计算量大的问题，仍然需要慎重考虑。动量项系数：有一些经验性结果可以借鉴，如Wyhthoff建议把动量项系数设在0.40.9之间；Hassoun和Fu建议在0.01.0；Hertz等以及Henseler建议设在1.0附近。 终止条件：最大迭代次数和截止误差是基本的算法终止条件；根据如图所示的典型学习曲线，一般存在一个最佳学习次数，以此做为终止条件更有效。典型学习过程误差曲线最佳学习点，学习和预测误差都达到满意精度关于BP算法参数设置的一些思考需设置的参数类型

11、多，数量大；上述经验都是不同的人在在各自领域取得的结果，普及性还有待证明，在具体应用时可作为参考，但不能作为唯一依据照搬硬套； 参数设置不合理，会大大影响学习效率；没有严格的理论依据作指导，使用者难以适应； 等等。这是一个多参数、大空间、非线性的组合优化问题，可以结合一些最优化方法解决。简单算例三维异或问题实现软件（执行文件：神经网络.exe）学习样本（文本文件：三维异或问题.txt）学习参数（一个隐含层，4个节点，初始权值（-5.05.0），学习率0.1，动量项系数0.5，最大迭代次数20000和截止误差10-8联合控制）8 0 3 10 0 0 0.90 0 1 0.00 1 0 0.00

12、 1 1 0.91 0 0 0.01 0 1 0.91 1 0 0.91 1 1 0.0样本描述：学习样本数、测试样本数、输入个数、输出个数样本记录：按输入（可多个）和输出（可多个）顺序记录一个样本一行，逐行记录所有样本经验公示结果Nh=(2+(NoNi)+(No2+Ni) 0.5No-3)/(No+Ni) 1Nh=2Ni+17Nh=3Ni9Nh=(No+Ni)/22Nh=2Ni/32Nh=(NoNi)1/21.7Nh=p/k(No+Ni)（取k0.5）4Nh=2Ni6Nh=(p-No)/(Ni+No+1)（取1.0）1.6简单算例三维异或问题input_attr 3 输入输出output_a

13、ttr 1scale_info 1 标准化信息10.1 0.90 10 10 10.1 0.90 0.9hidden_layer 1 4 结构信息WT 权值 1.7258705 -2.578362 5.0106347 5.2199893 4.5105335 -6.6680082 4.1850232 -1.0374217 6.2725714 -4.6866664 -4.2570295 1.3208827 2.631424 2.5829137 -6.053868 0.42601174 -1.0812504 -6.1516138 6.2310432 -6.1322358 4.1014951学习后的神

14、经网络模型文件（三维异或问题.mnn）简单算例三维异或问题学习后的神经网络预测结果（三维异或问题.ptd）= NO Output Target Error AbsoluteRelavent= 1 0.89998673 0.9 -1.3268164e-005 0.0014742405 2 0.00011529276 0 0.00011529276 1.#INF 3 0.00020811372 0 0.00020811372 1.#INF 4 0.89977274 0.9 -0.00022725674 0.025250749 5 0.00011599792 0 0.00011599792 1.#I

15、NF 6 0.89989668 0.9 -0.00010332286 0.011480318 7 0.89984133 0.9 -0.00015867065 0.017630072 8 3.3345312e-005 0 3.3345312e-005 1.#INF-Total mean squared error = 1.9855603e-008Learned mean squared error = 1.9855603e-008Predicted mean squared error = 0Squared correlation coefficient = 0.999999982.2 神经网络

16、用于求解岩石力学问题2.2.1 BP神经网络适用于岩石力学问题的功能特点 大规模集团运算，并行处理数据和信息没有其中的处理单元，容错及抗噪声能力强变结构的计算组织体系，表现出很强的自学习能力非线性动态系统，具有复杂的功能行为和动态性质可以处理知识背景不清楚、推理规则不明确等复杂类模式识别问题，以及处理连续的、不连续的、模糊的、随机的信息求解目标为非精确的满意解黑箱操作结构，具有广泛适用性。神经网络输入空间输出空间图2.5 神经网络信息处理示意图极复杂条件：地质体高应力高温度强化学腐蚀高应变速率水渗流开挖效应节理discontinuity岩石力学研究的对象岩石力学与岩石工程中的多数问题都可以看作

17、如图所示的输入输出映射问题。无论是理论模型、数值模型还是一些经验模型，都是为了建立二者之间的映射关系。从这点来讲，神经网络的高度非线性映射功能具有良好适应性，尤其是在机理尚未完全弄清楚，且具有大量不确定性信息的前提下。 力学因素岩石力学模型决策信息评价指标地质因素工程因素yzF(x,y,z)I3稳定性指标I2力学响应xI1图2.6 岩石力学与工程问题的输入输出映射示意图2.2.2 BP神经网络对岩石力学问题的适应性2.2.3 神经网络求解岩石力学的一些要求 神经网络的学习过程是基于数据的，在没有理论和经验指导下，随便搜集一些数据进行分析往往达不到预期效果。按照BP神经网络的一般算法步骤，需要在

18、 输入输出模式的确定 学习样本库构造 学习过程控制 预测分析等几个环节，或者依据岩石力学相关理论、方法和经验，或者相关技术手段加以控制。使学习过程沿着正确的方向进行，还可以大大提高学习效率 。输出指标的确定岩石力学与工程问题中，有的具有明确的目标，而有的则可能具有多选性（定量和定性），需要根据工程实际需要和先验知识加以筛选（不是越多约好）：实用性：不要总期望于建立具有普遍适用性的分析模型，针对某个或某类工程，对其中的突出问题或共性问题确定所需分析指标或决策信息；可行性：样本可获取可预测性：神经网络追求的是非精确的满意解，在没有大量可靠数据的前提下不追求精确定量解；定量与定性相结合：神经网络处理

19、对象是量化指标，对定性指标要建立好与定量指标之间的换算关系（如模糊处理等）输入因素的确定随岩石力学理论与工程实践的发展，考虑的因素以及可测的因素越来越多，没有必要勉强把所有相关的因素都考虑到模型中（也不是越多约好）。可测性：不要因为获取手段不成熟而人为引入不确定性信息；关键性：与输出指标密切相关的控制性的因素；可行性：易于获取；独立性：主成分分析法；可靠性：注意定性因素中的人为影响；简约性：大通量信息的特征提取（统计分析）学习样本库学习样本是神经网络学习成功与否的基础，构造过程中要结合输入输出指标的确定进行搜集整理。真实性：不能轻易通过插值等手段引入额外的误差信号，尤其是工程实例样本；代表性：

20、输出要能反映实际问题中经常出现的各种情况，输入要涵盖工程范围内的岩石力学参数和工程地质条件等；完备性：完备样本库要求样本能够均匀的分布于解空间，实际可以根据单因素分级情况，在各等级代表的局部空间布置样本；多样性：可通过实测、试验和工程实例获取，还可以包括经验总结、行业标准、设计规范等。预处理预处理的目的是去除噪声，加强有用的信息，并对输入测量仪器或其他因素所造成的退化现象进行复原。定量化：定性数据的量化（打分法、矢量法等）；标准化：无量纲化等；奇异性：趋势检验法；等等。预处理是整个学习过程中信息转换的第一个环节，方法很多，应仔细审核各预处理方法的适用性条件，必要时还要对处理方法的敏感性、处理结

21、果的可靠性及其对结果的影响进行讨论。 学习过程的优化控制为什么要优化控制？岩石力学问题的复杂性；BP算法本身存在的问题；误差空间是非线性、多极值的。这就对学习过程控制（网络结构参数、初始权值和学习参数）提出了更高的要求，稍有不慎就会陷入“局部最优”。为此，我们用遗传算法来进行网络结构和初始权值的优化，提出进化神经网络方法，这将在下面详细介绍。 预测分析预测分析：是指神经网络模型的结构和权值通过对已有样本学习确定以后，对工程中新出现的输入模式进行计算分析和决策的过程。显然，能够进行可靠预测并用于指导工程实践是这一环节的要点，这也是神经网络模型存在的根本。要点：测试检验：把训练集分为学习样本和测试

22、样本两部分。前者用于学习训练建立神经网络模型，后者模拟未知样本来检验其解决新问题的能力。应用分析：不能仅仅用学习或预测误差作为衡量应用成功与否的唯一杠杆，还要结合具体工程进行研究，分析原因，寻求改进措施。关于测试样本的分配：研究表明，BP训练过程中，训练样本数及其与测试样本分配比例对学习效果也有相当重要的影响。Seingler以及Looney分别建议将总样本数的20%和25%作为测试样本；Nilson和Illingworth推荐20%30%的样本作为测试样本。这些可作为实际运用参考。 2.3 遗传算法原理2.3.1 遗传算法简介初始群体个体评价招到适应解？以一定概率选择适应性好的个体参与遗传操

23、作产生新群体选择具有最佳适应值的个体作为最终解是否图2.6 遗传算法的主要流程操作对象：问题的一组试验解（以某种编码形式来模拟生物遗传物质染色体，常见的如二进制编码）操作机制： “适者生存”的自然选择机制，通过一个评价函数对试验解的求解能力进行评价；逐步改善：编码串相互之间的信息交换产生新的更好的解，实现优化繁殖，形成一个逐步改进的过程。 试验解1试验解2110110001011010011101110101010101011101110101010110011110110001011001011101010101110110111110001101011001011交叉变换倒序图2.7 遗传

24、算法中的进化操作（以二进制串为例）复制：将好的解直接保留到新的一代，使得好的编码信息在进化中得以延续，保证进化向正确的方向进行；杂交：依一定概率通过竞争选择较好的个体通过编码串之间相应位置的信息交换重组产生新的解，包括单点、多点和均匀交叉，是保证群体进化的主要手段；变异：操作通过随机改变编码串某些位置的值产生新解，维持群体的多样性，避免过早收敛。 2.3.2 遗传操作算子模式理论（J. Holland）经复制和重构操作后模式H在下一代群体中所拥有的试验解个数 H代表模式，指字符串中具有类似特征的子集。以四位二进制字符串为例，模式*10*可代表四个试验解：0100，0101，1100，1101；

25、模式*101则代表两个试验解：0101，1101。O(H)指模式H的阶次，模式的阶次是指模式中已有明确含义的（二进制字符时指0和1）的字符个数，如模式O（*10*1）的阶次是3，模式O（*1001）的阶次为1，显然，模式的阶次越低，模式的概括性越强。(H)指模式H的长度，指模式中最前面和最后面两个具有明确含义的字符之间的距离。如模式O（*10*1）的长度是3，模式O（*1001）的长度是0，模式的长度代表该模式在今后的遗传操作中被破坏的可能性，长度越短，破坏可能性越小。M(H,t)是指在第t次迭代中，属于模式H的试验解个数为m。f(H)为第t代属于模式H的所有试验解的平均适应值。 为第t代所有

26、试验解的平均适应值。L为字符串长度，Pc为交叉概率，Pm为字符串中每一位发生变化的变异概率。 结论：所有长度短、阶次低、平均适应值高于群体平均适应值的模式H在遗传算法中呈指数形式增长。相反，凡是长度长、阶次高、平均适应值低于群体平均适应值的模式将呈指数形式消失。 2.3.2 遗传算法适用于求解岩石力学问题的特点 从一群初始点开始，实现全局并行搜索，搜索空间大，宜于寻找到最优解或准最优解；采用随机搜索策略，按模式理论，找到全局最优解的概率为1；搜索最优解的过程是有指导性的智能式搜索，避免了一般优化算法的维数灾难问题；以适应值为指导依据，不受搜索空间诸如连续性、导数存在和单峰等限制性假设的约束；在

27、搜索过程中不断向可能包含最优解的方向调整搜索空间，通过不断迭代，逐渐得出最优解，是一个渐进式优化过程。 它能从离散的、多极值的、含有噪音的高维问题中以很大的概率找到全局最优解，尤其是适用于传统搜索方法解决不了的复杂和非线性问题。遗传算法过程设计进行遗传算法过程设计主要包括：构造试验解评价函数；约束条件；算法控制参数和属性参数；规定算法停止准则和结果指定方式。 试验解评价函数O(p) 基于待识别参数p的计算输出；O* 实际观测输出；F() 关于多个观测点计算误差的非线性函数。这种情况下，求解目标更自然地被表示成某个代价函数的极小化，可以将目标函数直接或通过一些简单变换作为评价函数。要求：从待识别

28、参数到实际问题的解之间的映射关系O(p) （计算模型）要尽量简单，减少进行适应性评估的计算量；对O(p)计算过程中可能出现的不确定因素要加以定义（如直接赋以差的适应值）以保证算法的继续进行。 多数参数优化问题可以定义为如下形式约束条件主要是参数搜索空间的约束信息（主要是指待识别参数数值范围）。通过分析给出一个紧凑的约束范围可以大大提高参数搜索效率，可采用的方法包括：先验知识理论分析：如计算模型的适用条件等工程分析：针对具体工程问题，参数应在有工程意义的范围内；试验分析；有条件的情况下可以设计一些简单试验。等等。遗传算法参数遗传算法的参数主要包括编码方式、种群规模、各遗传操作算子发生概率（杂交概

29、率、变异概率等）编码方式：对二进制串而言，就是编码的长度，这和所求参数的精度要求有关。二进制串的首位（第0位）为符号位，对应的实数为正时取0，为负时取1；二进制编码按通常的十进制二进制转化进行，第1位代表实数2n-1，第2位代表实数2n-2，依次类推；取m =max|a|，|b|， a、b分别为参数取值范围的上下限，如果2n-1m2n，则参数二进制编码的当二进制串长度为L时，所求参数的精度为2n/2L-1。例如L=13，且m =4，由于21m22，所求参数的精度为22/2120.001。 m100时， 26m27，所求参数的精度为27/2120.03。编码串长度的增加将导致信息处理量呈几何级数

30、增长，应在满足精度的条件下，尽量减小。遗传算法参数种群规模：规模越大，以较少代数找到最优解的可能性增加，但每一代的适应值计算量将急剧增加；反之，群体规模小，每一代计算量小了，但所需进化代数增加。二者应平衡控制，在适应值计算简单的情况下（如数学表达式计算），可以加大群体规模，在牺牲一定计算量的前提下保证收敛速度和稳定性。遗传操作算子发生概率：复制概率（pr）+杂交概率（pc）+杂交概率（pm）1通常只需设定杂交概率和变异概率。杂交概率pc ：杂交是遗传进化的主导方式，概率设得大些（0.8以上）变异概率pm：变异可在一定程度上保证种群的多样性，是遗传进化的辅助方式，应设得小些（小于0.2）；对群体

31、规模相对较小的情况，变异的作用更为明显，可适当增大变异概率，避免过早收敛。遗传算法参数停止进化条件：最典型的准则是算法找到了问题的解，实际很难确定；当算法执行到事先规定的进化步数就停止算法，难以控制；种群中的最佳适应值保持一定次数的进化带数不变，则认为算法收敛而终止算法。与遗传算法逐步收敛稳定的过程相适应，；对适应值计算量大的进化过程，还要设立即时终止机制，进化过程中实时跟踪解的变换情况，一旦出现满意解立刻终止。通常采取多种规则综合控制。结果指定方式：一般情况下选择最后一代中具有最佳适应值的试验解作为最终解；如果是可以直接根据参数值判断最终解的问题则直接指定结果，实际中往往很难实现；如果有几个

32、比较接近的最佳适应值，通过简单分析判断最终解。遗传算法步骤（1） 在给定参数范围内随机生成一组个体作为初始群体；（2） 对初始群体中的个体进行二进制串编码，或称染色体；（3） 依概率通过竞争选择方法选择两个染色体p1和p2作为父代；（4） 由父代个体p1和p2经杂交生成新个体；（5） 以概率进行变异操作，最终生成新子代个体;（6） 重复执行（3）（5）直至生成新的群体；（7） 对生成的新群体进行解码；（8） 按评价函数计算子代个体适应值；（9） 将上一代中适应值最好的个体随机置换子代中的一个个体；（10）将此子代作为新一代群体；（11）判断是否满足停止准则，若满足，则停止运算，将最后一代中的最

33、好个体作为所求问题的解；若不满足，则转（3）。 改进的遗传算法计算流程图对群体中的个体进行编码随机生成规模Psize的初始群体计算子代个体的适应值通过竞争选择选取两个父代个体p1和p2对p1和p2进行一致杂交生成新个体i对i作变异操作生成一子代个体c对子代个体解码是否生成了Psize个个体最佳个体保留机制将子代作为新一代否是是否满足停止准则是计算结束否算法准备：样本（计算模型的输入变量和期望输出）、约束信息等简单算例假定应用遗传算法求 f(x, y)=x2+y2 的最小值，x，y -4，4。样本：本例比较特殊，参数和变量是一致的，可假定多项式系数为变量，构成如下的样本文件（格式与神经网络同）：

34、1 0 2 11 1 0约束信息： x,y -4，4;目标函数 ：由于求解的是函数的最小值，故适应值函数可直接定义为： fitness= x2+y2 遗传算法参数 ：二进制编码长度13(按前面计算方法，m4，精度为0.001)，群体规模为30，最大进化代数为20，杂交概率0.9，变异概率0.1。 将目标函数写出C语言函数形式嵌入到“fitness.cpp” 文件中double CFitness:Fit(double *vals, double *prms)double fit=0.0;int iprm=0;for(int i=0;i60303030530305305305A2轻微较重轻微严重严

35、重很严重严重很严重很严重A3不发育较发育不发育发育较发育很发育发育很发育很发育A4整体块体中厚层整体厚层镶嵌薄中层块体薄中厚层压碎镶嵌松散松散A59585957585507525504.53.54.52.54.01.53.01.02.01.0A70.81.00.60.80.40.60.20.4 数据获取：通过对我国现行规程整理获得。数据预处理：向量化方法：每个因素用若干输入节点来代替。对输入指标：各节点的值表示该分类指标的某区间值与某类岩体的对应情况：1表示所确定的某指标的某区间值对应该岩体分类；0表示不对应该类岩体。对输出指标：采取类似方法。2.3.2 算法准备学习样本库：按上述方法，输入节

36、点数n=41，输出节点数m=6，样本数k=41（表2.10）。随机选取8个样本（约为样本总数的20%）作为测试样本（表中以*号标出） 2.3.2 算法准备算法参数：神经网络结构参数进化过程取2个隐含层，各隐含层节点数范围为550；8为二进制串编码，种群规模为30个，杂交概率（交叉概率）0.8，变异概率0.2；初始权值进化过程，权值个数在优化过程中随结构参数变化而定，搜索范围为10.010.0；15为二进制串编码，种群规模200个，杂交概率0.95，变异概率0.05，辅助增加概率为0.3的倒置变异算子 ；适应值评价网络计算输出和期望输出间误差的平方平均根形式。神经网络学习参数，学习率取0.1，动

37、量项系数为0.5；训练终止条件主要采用最佳学习次数控制，因而将其他辅助终止条件设得苛刻一些，最大允许学习次数设为较大值，而将学习和预测截止误差给得很小。结果保存方式，选择详细进化过程则将进化的每一代中所有个体的适应值、结构参数、初始权值全部保存到文件，而统计进化过程只保存每一代中的统计结果，如平均适应值、最佳适应值和最佳个体。图2.10 神经网络结构和初始权值进化过程中最佳适应值变化2.3.3 算法实施图2.11 基于优化结构和初始权值的神经网络分类识别器训练过程误差变化结果分析学习情况：预测检验情况：表2.11列出了训练后神经网络对学习和测试样本的分类结果。可以看出，无论是对学习样本还是测试

38、样本，都具有较高的分类精度。表明建立的神经网络分类模型不仅对已知样本，还对那些未参与学习过程的未知样本有着良好的应用效果，因而可以作为分类手段用于解决实际工程问题。实际应用：具体应用时只需要把观测的分类指标按表2.32.9所示的方法处理成神经网络分类器的输入模式。 工程应用表2.13 某公路隧道围岩现场勘察结果整理 地段因素进口段出口段洞身段-2-3-3-3-3-1-3-3-3-3A118.143.542.524.7538.5029.545.863.641.543.3A2很严重严重严重严重严重较重严重严重严重严重A3发育发育较发育很发育发育较发育发育较发育较发育发育A4薄层块石状镶嵌中厚层结构

39、碎石状镶嵌中厚层结构碎石状镶嵌中厚层结构块石状镶嵌中厚层结构薄层中厚层中厚层中厚层中厚层A518532137.6543.663.268.653.26879A62.733.703.003.23.83.04.24.24.24.2A70.380.550.360.410.580.620.710.710.710.71某公路隧道进口段（K344+719K344+768）、洞身段（K344+768K345+085）、出口段（K345+085K345+108）的围岩地质勘察结果 ：工程应用表2.14 预测输入向量地层输入向量进口-20,0,0,1,0,0,0,0,1,0,0,1,0,0,0,0,0,1,0,0,0,0,0,0,0,0,1,0,0,0,0,1,0,0,0,0,0,0,0,1,0-30,1,0,0,0,0,0,1,0,0,0,1,0,0,0,1,0,