（环境科学专业论文）bp人工神经网络紫外吸收光谱法直接测定cod研究.pdf

四川大学硕士学位论文 一1 ( 输出层节点数) 。 本文采用3 7 个样本训练集建立的b p a n n 模型，预测自配模拟废水结果较 好，相对误差 1 0 。n 0 2 一、n 0 3 - 等无机离子在一定浓度范围内无干扰，模型仍 然能准确地预测自配废水。n 0 2 、n 0 3 咖入量 0 i f n e t _ o ( n e t ) = t - r i f n e t 0 ) ，它直接接受第j l 层的输出。 ( i i i ) 输出层：它是网络的最后一层，具有该网络的最大层号，负责输出 网络的计算结果。 ( i v ) 隐藏层：除输入层和输出层以外的其他各层叫隐藏层。隐藏层不直 接接受外界的信号，也不直接向外界发送信号。 z i 1 2 x 量 图2 7 多级前馈网 巾。- 巾。， 此外，还约定： 输出层的层号为该网络的层数，并称一个输出层号为n 的网络为1 1 层网络 或n 级网络；第j 一1 层到第j 层的联接矩阵为第j 层联接矩阵，输出层对应的矩 1 8 四川大学硕士学位论文 阵叫输出层联接矩阵。一般用，o 表示第j 层矩阵。 非线性激活函数在多级网络中起着非常重要的作用。实际上，它除了能够 根据需要对网络中各神经元的输出进行变换外，还使得多级网络的功能超过单 级网络，为解决人工神经网络所面临的线性不可分问题提供了基础。 增加网络的层数在于提高网络的计算能力。但是，如果使用线性激活函数， 则多级网的功能不会超过单级网的功能。事实上，设有一n 层网络，x 是其输 入向量，w ( n 、w 位) 、w ( n 足各级联接矩阵，n e t l 、n e t 2 、n e t n 分别 是各级的网络输入向量，f l 、f 2 、j o 1 f n 为各级神经元的激活函数，现假定它 们均是线性的： e ( n e t i ) = k 泐+ a i l n( 2 1 5 ) 其中，磁、a i 是常数向量，且这里的k , n e t i 有特殊的意义，它表示k i 与n e t i 的分量对应相乘，结果仍然是同维向量。 令 磁= 伙l 如，k n ) n e t i = ( n e h ，n e t 2 ，o - 9 n e t r d ) 则 k , n e t i = ( k t n e t l , k 2 n e t 2 , l 啪n e t m ) ( 2 - 1 7 ) 网络的输出向量为： 0 2 f n ( f 3 ( f 2 ( f l ( n e t t ) ) ) ) = f n ( f 3 ( f 2 ( k i x 谢1 + a 1 ) ) ) = f n ( f k 2 ( k 1 x ，( 1 ) + a 1 ) + w e 2 ) + a 2 ) ) = f n ( f 3 ( k 2 k i x 1 ) 胪+ k 2a l w 圆+ a 2 ) ) = f n ( ( k 3 ( k 2 k l x ，( 1 w 圆+ k 2 a l p + a 2 ) 妒+ a 3 ) ) = f n ( ( k 3k 2 k i ) ? 盯1 酽w ( 3 + k 3 k 2 a l w 圆+ k 幽一+ a 3 ) ) = k k 3 k 2 k l x 谢1 ) 俨妒) 州 + k k 3 k 2 a i w ( 2 ) w o ) w 佃) + 岛k 3a 2 酽) w ( n ) + k n k 抖l a i 、h n 、( “ 1 9 四川大学硕士学位论文 + k n a + l 们 + a n = k x wj 。a 其中 k = k 。k 3 k 2 k l w = l ，( 1 ) w w ( 3 ) w 柚 a = k k 2 k i a l 俨w o ) w ( n ) + k n k 3 a 2 w o ) w 柚 + l ( i i 酶la i 彬件n 、( n ) + 瞄a n - l 妒) + a n 上式中，向量k l 之间的运算遵循式( 2 1 6 ) 的约定。 从上述推导可见，这个多级网络相当于一个激活函数为f ( n e t ) = k n e t + a = k x w + a ，联接矩阵为w 的简单单级网络。显然，如果网络使用的是非线 性激活函数，则不会出现上述问题。因此，非线性激活函数是多级网络的功能 超过单级网络的保证。 循环网：如果将输出信号反馈到输入端，就可构成一个多层的循环网络， 如图2 8 所示。其中的反馈联接还可以是其他的形式。 实际上，引入反馈的主要目的是解决非循环网络对上一次的输出无记忆的 问题。在非循环网络中，输出仅仅由当前的输入和权矩阵决定，而和较前的计 算无关。在循环网中，它需要将输出送回到输入端，从而使当前的输出受到上 次输出的影响，进而又受到前一个输入的影响，如此形成一个迭代。也就是说， 在这个迭代过程中，输入的原始信号被逐步地加强”、被“修复”。 这种性能，在一定的程度上反映了人的大脑的短期记忆特征看到的东 西不是一下子就从脑海里消失的。当然，这种反馈信号会引起网络输出的不断 变化。如果这种变化逐渐减小，并且最后能消失，一般来说，这种变化就是我 们所希望的变化。当变化最后消失时，我们称网络达到了平衡状态。如果这种 四川大学硕士学位论文 变化不能消失，则称该网络是不稳定的。 图2 8 多级循环网 2 2 4 人工神经网络学习 人工神经网络最具有吸引力的特点是它的学习能力。1 9 6 2 年，i b s e i l b a l a n 【4 l 】 给出了人工神经网络著名的学习定理：人工神经网络可以学会它可以表达的任 何东西。但是，人工神经网络的表达能力是有限的，这就大大地限制了它的学 习能力。 人工神经网络的学习过程就是对它的训练过程。所谓训练，就是在将内样 本向量构成的样本集合( 被简称为样本集、训练集) 输入到人工神经网络的过程 中，按照一定的方式去调整神经元之间的联接权，使得网络能将样本集的内涵 以联接权矩阵的方式存储起来，从而使得在网络接受输入时，可以给出适当的 输出。 人工神经网络可用于有导师学习( 监督学习) 和无导师学习( 非监督学习) 。 对于无导师学习，仅有输入向量，就象因子分析及聚类分析，以样品的特征进 行分组，然后对未知样品进行自动识别。对于有导师学习，在学习阶段网络接 收关于相关模式的信息，并调整权重，由此记忆输入模式与输出模式之间的关 系。随后，应用训练好的网络对未知模式进行归类。 ( 1 ) 无导师学习 2 i 四川大学硕士学位论文 虽然从学习的高级形式来看，人们熟悉和习惯的是有导师学习，但是，人 工神经网络模拟的是人脑思维的生物过程。而按照上述说法，这个过程应该是 无导师学习的过程。所以，无导师的训练方式是人工神经网络的较具说服力的 训练方法。 在训练过程中，相应的无导师训练算法用来将训练的样本集合中蕴含的统 一特性抽取出来，并以神经元之间的联接权的形式存于网络中，以使网络可以 按照向量的相似性进行分类。虽然用一定的方法对网络进行训练后，可收到较 好的效果。但是，对给定的输入向量来说，它们应被分成多少类，某一个向量 应该属于哪一类，这一类的输出向量的形式是什么样的等等，都是难以事先给 出的。从而在实际应用中，还要求进行将其输出变换成一个可理解的形式的工 作。另外，其运行结果的难以预测性也给此方法的使用带来了一定的障碍。 主要的无导师训练方法有h e b b 学习律、竞争与协同( c o m p e t i t i v ea n d c o o p e r a t i v e ) 学习、随机联接学习( r a n d o m l yc o n n e c t e dl e a r n i n g ) 等。其中h e b b 学习律是最早被提出的学习算法，目前的大多数算法都来源于此算法。该算法 认为，联接两个神经元的突触的强度按下列规则变化：当两个神经元同时处于 激发状态时被加强，否则被减弱。可用如下数学表达式表示： w b ( t + l 产w b ( t ) + o , o ( t ) o j ( t ) ( 2 - 1 7 ) 其中，w u ( t + 1 ) 、w u ( t ) 分别表示神经元a n i 到a n j 的联接在时刻什l 和时刻 t 的强度，o ，( t ) 、o ( t ) 为这两个神经元在时刻t 的输出，口为给定的学习速率。 ( 2 ) 有导师学习 虽然有导师训练从生物神经系统的工作原理来说因难以解释而受到一定的 非议。但是目前看来，有导师学习却是非常成功的。 有导师学习的训练算法的主要步骤包括： 从样本集合中取一个样本( a i ，b i ) ； 计算出网络的实际输出o ； 求d - - - - b t - o ； 根据d 调整权矩阵w ； 对每个样本重复上述过程，直到对整个样本集来说，误差不超过规定范 围。有导师训练算法中，最重要、应用最普遍的是d e l t a 规则： w b ( t + l 产w u ( 分 畎y i - a j ( t ) ) o i ( t ) ( 2 1 8 ) 四川大学硕士学位论文 也可以写成 w q ( t 1 ) = w i j ( t ) + a w q ( 1 ) w o ( t ) = 啦o - c t ) 岛瑚q ( t ) 关于模式的联想，有自相关联想和异相关联想。前者输入层和输出层神经 元数目相等。而后者输入层和输出层具有不同的神经元数耳。模式联想可用于 特征和图像的组合及光谱结构关系的学习。人工神经网络也可用于模型的建立， 模型参数就是网络的权重。 2 3 人工神经网络的基本特征 与目前广泛应用的数字计算机相比较，人工神经网络在构成原理和功能特 点等方面更加接近人脑，它不是按给定的程序一步一步地执行运算，而是能够 自身适应环境、总结规律、完成某种运算、识别过程控制。其处理信息特征如 下： ( i ) 布存储冗余性 信息在神经网络中的存储是分布于神经元中的，即一个事物的信息被分散 到很多神经元中进行记忆。而且每个神经元实际上存储着多种不同信息的部分 内容。在分布存储的内容中，有许多是完成同一功能的，即网络具有冗余性。 这种存储方式的优点在于若部分信息不完全，也就是说如果信息丢失或损坏甚 至有错误，它仍能恢复出原来正确完整的信息，系统仍能运行，这同时也说明， 网络的存储具有容错性 ( 2 ) 大规模并行处理 人工神经网络在结构上是并行的，而且网络的各个单元可以同时进行类似 的处理过程因此，网络中的信息处理是在大量神经元中平行而有层次的进行， 运算速度高。另外神经网络系统并不是执行一串单独的指令，神经网络中的所 有单元都是一起协同解决某一问题，这是一种集团运算的能力，所以信息处理 能力是由整个神经网络所决定。 ( 3 ) 自学习、自组织和自适应性 分布系统能适应环境地变化进行自组织，按一种规律或秩序来得到某一目 四川大学硕士学位论文 的。自组织与自适应的概念相似。自适应是通过自组织实现的。系统在自组织 过程中不断地从外界环境中吸取信息，不断地重新组织自身。神经网络的学习 能力，使它在一定程度上类似于大脑的学习功能，这种能力使其具有广泛应用 的可能性 ( 4 ) 鲁棒性 网络的高度连接意味着一定的误差和噪声不会使网络的性能恶化，即网络 具有鲁棒性( 受干扰时自动稳定的特性) 。因此，神经元可以处理一些环境信息 复杂，知识背景不清楚和推理规则不明确的问题。例如语音识别和不确定性对 象的控制。在这些情况中，信息源提供的模式丰富多彩，有的相互存在矛盾， 而判定决策原则又无条理可循，通过神经元网络学习( 按照学习法则) ，从典型 事例中学会处理具体事例，给出比较满意的解答。 2 4b p 人工神经网络 目前，已经提出的神经网络模型有几十种，但大多数是一些原始或常用的几 种模型的变型。最基本的也是最常用的网络模型只有几种，为感知器和多层感 知器等。感知器是最简单的神经网络，用于视觉模式识别。实际上，它是一个 单层网络，具有简单的模式识别能力。感知器可与线性学习相比较。应用简单 的感知器解决问题已很少，因为它只能用于线性分类，而不能解决非线性问题。 典型的多层感知器有三层：输入层、隐含层和输出层。输入层代表输入网络 的原始数据。隐含层的值由输入层的输出及输入层与隐含层间的联结权重而定。 输出层的值取决于隐含层的输出值及隐含层与输出层间的联结权重、隐含层的 神经元与输入层及输出层神经元的关系是在网络学习过程中得到的。 b p 人工神经网络( 图2 9 ) 是非常著名的多层感知器，这种网络是由它的 实现过程使用b p 算法而得名得，b p 是反向传播( b a c k - p r o p a g a t i o n ) 的缩写。 在分析化学中，人工神经网络应用的9 0 以上是由b p 神经网络实现的。这种 算法是在1 9 7 4 年w e r b o s 提出的前向传播学习算法的基础上1 9 8 6 年由 m c c l e l l a n d 和r u m e l h a r t 建立起来的。 图2 9 b p 人工神经网络 2 4 1 网络的构成 ( 1 ) 神经元 按照b p 算法的要求，构成b p 网的神经元所用的激活函数必须是处处可导 的一般地，都使用s 形函数。对一个神经元来说，取它的网络输入 r l e t = x i w l - t - x 2 w 2 - 1 - 一却“w n 其中，x b x 2 ，) ( n 为该神经元所接受的输入，w i ，w 2 ，w n 分别是它们对应的联接 权。该神经元的输出为 归f ( n e t ) 2 百 ( 2 1 9 ) 其相应的图像如图2 1 0 所示。当n e t - - o 时，0 取值为0 5 ，并且n e t 落在区间( 一 0 6 ，o 6 ) 中时，0 的变化率比较大，而在( - 1 ，1 ) 之外，0 的变化率就非常 小。现求0 关于n e t 的导数： 门吵煮= 嵩； ：上一1 1 + o - m r r l + e “j 2 = o 0 2 = o ( i 0 1 注意到： 四川大学硕士学位论文 l i m 壬= 1 ，l i m 二= = 0 m l + p 一“m + _ 1 + p 一“ 根据( 2 一1 9 ) 可知，o 的值阈为( 0 ，1 ) ，从而，f ( n e t ) 的值域为( o ，0 2 5 ) ，而且 是在o 为0 5 时， ( n e t ) 达到极大值。其图像如图所示2 1 1 。 一 。 ( 0 ，n 5 ) m 【d ，0 ) 图2 1 0b p 神经网络的激活图像 图2 1 1 ，( n e t ) 的图像 ( 2 ) 网络的拓扑结构 b p 网的结构如图2 7 所示。实际上，只需用一个二级网络，就可以说明 b p 算法。一般的，设b p 网络的输入样本集为 i ( x ，i x 为输入向量，y 为x 对应的理想输出向量l 网络有n 层，第h ( 1 耋h 喜n ) 层神经元的个数用h 表示，该层神经元的激活函数 用f h 表示，该层的联接矩阵用w m ) 表示。 2 4 2 训练过程概述 人工神经网络的训练过程是根据样本集对神经元之间的连接权进行调整的 过程。b p 网络也不例外。其次，b p 网络执行的是有导师训练。所以，其样本 是由形如( 输入向量，理想输出向量) 的向量对构成的。所有这些向量对，都 应该是由来源于网络即将模拟的系统的实际“运行”结果。它们可以是从实际运 行系统中采集来的。 在开始训练前，所有的权都应该用一些不同的小随机数进行初始化。“小随 机数”用来保证网络不会因为权过大而进入饱和状态，从而导致训练失败；“不 同”用来保证网络不会因为权过大而进入饱和状态，从而导致训练失败；“不同” 用来保证网络可以正常地学习。实际上，如果用相同的数去初始化权矩阵，则 出层。这个过程 也是网络在完成训练后正常运行时执行的过程。在此过程中，网络执行的是下 列运算： o p - f n ( 妒l o ( p 彬1 ) ) 训2 ) ) ) 、驴) ) ( 2 ) 向后传播阶段 计算实际输出o p 与相应的理想输出y p 的差；按极小化误差的方式调整权 矩阵；这两个阶段的工作一般应受到精度要求的控制，在这里，取 e v = 1 2 芝一。) 2 ；l ( 2 - 2 0 ) 作为网络关于第p 个样本的误差测度。而将网络关于整个样本集的误差测度定 义为 e = e p (2-21) 在训练反向传播神经网络之前，首先要做好下面工作： 网络构架的选取； 初始权重的确定，一般采用卜o 1 ，+ o 1 】的随机数； 调节学习速率和学习动量： 选择收敛准则，如最大迭代次数、误差阈值或权重变化阈值。 b p 网络是一种监督学习神经网络，是建立非线性“软”模型的有效方法。 如前所述，之所以将此阶段称为向后传播阶段，是对应于输入信号的正常 传播而言的。因为在开始调整神经元的联接权时，只能求出输出层的误差，而 其他层的误差要通过此误差反向逐层后推才能得到。有时候也称之为误差传播 阶段。 四川大学硬士学位论文 2 4 3 误差传播分析 b p 算法的基础是广义6 规则。输入值从输入层经隐含层向输出层传递，每 一层神经元的状态只能影响下一层神经元的状态。如果输出层不能得到期望的 输出，则误差反向传递，调整各层的权重，使误差最小。 输出层权的调整，我们使用图2 1 2 中的相应符号来讨论输出层联接权的调 整。 4np刎 第厅- i 层第露层 图2 1 2 a n p 到a n q 的联接 图中，a n q 是输出层第q 个神经元，w 阴是从其前导层的第p 个神经元到a n q 的联接权。取 1 6 月2 w w + a w e q 根据d e l t a 规则，有 4 w = n 露o ， 上式中的计算按下式进行： 而 所以 即 = ，n ( n e t q ) r y q o q j ，n ( n e t q j = 口q r l d q ， a c o n2 a 6 q a p = a 一( n e t ) ( y _ 一o q ) = a o q ( 1 一o q ) ( j _ 一o q ) d p ( 2 - 2 2 ) ( 2 2 3 ) ( 2 - 2 4 ) a w m2 6 0 9 ( 1 一o q ) ( y q o q ) o ，( 2 - 2 5 ) 四川大学硕士学位论文 8 q 可以看成是a n q 所表示出来的误差。它由a n q 的输出值和a n q 的理想 输出值以及与w p q 直接相关联的的输出值确定。 2 4 4 基本的b p 算法 人工神经网络可以在实际应用中根据不断获取的经验来增加自己的处理能 力。因此，它的学习可以不是一次完成的。这就要求在一定的范围内，网络在 学会新知识的同时，保持原来学会的东西不被忘记，这个特性被称为可塑性。 然而，b p 网络并不具有这种可塑性。它要求用户一开始就要将所有要学的 样本一次性地交给它，而不是“学会”一个以后，再学其他的。这就要求不能在 完成一个样本的训练后才进行下一个样本的训练。所以，训练算法的最外层循 环应该是“精度要求”，其次才是对样本进行循环。即在b p 网络针对一个样本进 行训练，而应考虑其他的样本，待样本集中的所有的样本都被考虑过一遍以后， 再重复这个过程，直到网络能同时满足各个样本的要求。 具体做法是，对样本集 s = ( 墨，墨) ，( x ：，k ) ，( 瓦，匕) 网络根据( x l y 1 ) 计算出实际输出0 1 和误差测度e l ，对n ，w 哆，w 各 做一次调整：在此基础上，再根据( x 2 ，y 2 ) 计算出实际输出w 2 和误差测度e 2 ， 对、1 jw 伪，w 分别做第二次调整如此下去。本次循环最后再根据 ( x s ，y s ) 计算出实际输出o s 和误差测度e s ，对w 1 j 以，w 分别做第s 次 调整。这个过程，相当于是对样本集中各个样本的一次循环处理。这个循环需 要重复下去，直到对整个样本集来说，误差测度的总和满足系统的要求为止， 即： 艺名 e d o e = o ； 四川大学硕十学位论文 对s 中的每一个样本( ) ( p 、y p ) ； 计算出) ( p 对应的实际输出o p ； e = e + e d 根据式2 2 2 、2 2 5 调整w ； h = m - l ； w h i l e h 4 0 d o 2 h = h 1 e = e 2 0 四川大学硕士学位论文 3 神经网络通时平台软件 在化学计量学发展早期，人们必须自己动手编制化学计量学程序。随着计 算机的普及应用，人们可以借助各种化学计量学软件包、商业软件进行化学计 量学数据的处理、分类、解析与预测。本文采用的是2 n s o f tp f 系列l m n c t p f ( v 2 4 ) 神经网络通用平台 2 n s o f tp f 系列产品是埃恩科技依托多年在人工智能领域研究与开发的技 术优势，立足技术创新，研制的新一代通用平台系统，满足不同类型的用户需 要。 2 n s o f t p f 通用平台系列软件日渐成为中国行业内的主流，并已成功应用到 语言识别、图像识别与理解、计算机视觉、智能机器故障检测、实时语言翻译、 企业管理、市场分析、决策优化、物资调运、自适应控制、专家系统、智能接 口等领域。 图3 1 为l m n c tp f ( v 2 4 ) 神经网络通用平台操作界面。 图3 1l m n e tp f 神经网络通用平台操作界面 l i n n e tp f 采用b p 算法中的l e v e n b e r g - m a r q u a r d t 动量项法实现，该方法具 有训练速度快，学习时间短的特点。平台功能包括：新建修改网络模型；样本 测试数据的导入导出；网络训练；模型测试；网络仿真；误差分析；专家样本 数据自动生成；节点配置；数据归一化处理；网络参数初始化设置等。 3 l 四川大学硕士学位论文 3 1 新建网络和专家样本的生成 图3 2 为l m n c tp f ( v 2 4 ) 神经网络通用平台新建界面。在界面中输入网络 模型名称，网络模型描述，并指定网络各层( 输入层、中间层、输出层) 节点 数、输入层至中间层和中间层至输出层传递函数及训练参数( 包括：显示间隔 次数、最大循环次数、目标误差、动量常数、学习速率、学习速率增加比率、 学习速率减小比率、最大误差比率等) 。 * d 蓐叠酪茸事镡嚣鞋t 静 。拙口目 嘲。4 6 黔 一 1 4 茸 ，池k j * # i 侮等- m 目 - m t“4 “2 i 。丑g 。， 4 5 攀“每。一r 譬芦囊f 皇篓磊蒜习 黧! 。篡燮黧：谶篡薹芋鼋黧= 喜筮爿 ：鬟：；互羔一”“8 一一卫篡黧簧罩 # m t _ g 严“4* 目h p ，n m “哩! ! i ，4 珊* me 篡篡= 。鼽蝓。惴产磕册甩p 射娃蚺篡瑟黝! i ；：嚣篙一 瞬嬲滗戮登搿猁燮镶 雾专家样本( 擎 * ”* ”a 4 霪归_ 二化詹的毓入样率i 酝；勉然的输出鬟壅 3 。 3 4 神经网络通用任务栏 对于新建的神经网络模型，需要对输入、输出节点进行配置后，才能进行 网络训练和仿真。 点击菜单i 壬务一节点配置，系统将在界面中显示当前打开的网络模型对应 的节点配置信息，见图3 5 ： 图3 5 神经网络通用平台节点配置界面 3 2 1 网络训练 当某网络模型的各节点配置完成且专家样本准备好后，就可以对该网络模 型进行训练操作 点击菜单罐务一网络训练，或点击工具栏中的缀按钮，即可对当前打开的 网络模型进行训练，训练时，首先对专家样本数据按照节点配置时设定的转换 四川大学硕士学位论文 函数进行归一化，并将结果保存到相关文件中。然后系统调用神经网络工具包 进行网络训练。 当训练成功后，将弹出下面的提示框( 图3 6 ) ，训练结果，系统将网络模 型以权、阈值文件方式保存下来。 图3 6 训练结束对话框 3 2 2 数据预测 一旦网络模型训练成功，且经过网络测试已满足所需的精度要求，接下来 就可以对实际的数据进行预测了。 点击菜单一任务一批量仿真，系统将弹出图3 7 所示的数据批量仿真界面。 图3 7 数据预测对话框 当这些参数设置完成后，点击“确定”，系统就会自动调用事先训练好的网 络模型，对实际数据进行预测，并将结果写回到测试表中的s i m u _ v a l u e 字段( 此 例为l n p f _ d e m 0 1 ) 。同时，对于已经预测过的数据记录，系统会自动将该记录的 t a g 字段进行标记，即将0 ( 尚未预测) 改写为“1 ”( 已预测过) 。 四川大学硕士学位论文 3 3 分析 3 3 1 误差分析，。 当网络模型训练完成后，可以点击工具栏獬图标，或点击菜单分析 训练误差，将弹出图3 8 示的训练误差过程图。 图3 8 训练误差界面 注意：图中纵坐标为对数坐标，表示实际输出与网络输出的均方误差，横 坐标为训练次数。 3 3 2 训练结果 当网络模型训练完成后，可以点击工具栏戮图标，或点击菜单 分析 目瓣 相对误差，将弹出图3 9 示的相对误差分析图。 四川大学硕士学位论文 圈3 9 相对误差界面 说明： ( 1 ) 图示横坐标表示测试样本个数，当网络模型有多个目标输出时，分析 点将相应加密，纵坐标为实际输出与预测结果的相对误差： ( 2 ) 该指标是根据测试表( 示例中为l n p f _ d e m o i 和l n p f _ d e m 0 2 ) q ao u t p u t 和s i m uv a l u e 值进行统计的； ( 3 ) 当某条记录需要参与相对误差统计分析时，请置测试表中的s t a t 字段 为l ，否则置0 ，表示将不参与分析； ( 4 ) 对于需要参与相对误差统计分析的记录要求o u t p u t 字段值不能为空， 即该条记录有实际输出值，另外，该条记录已经完成过预测，即s h n uv a l u e 字 段不要空，否则该分析操作将无效。 四川大学硕士学位论文 与c o d 紫外光谱人工神经网络模型的建立 4 1 主要试剂与仪器 4 1 1 主要试剂 ( 1 ) 苯胺溶液( 1 m l l ) ：准确移取0 2 5 m l 苯胺( c 6 h s n h 2 分析纯) 于2 5 0 m l 容量瓶中，加去离子水稀释至刻度，摇匀。 ( 2 ) 苯酚溶液( 1 0 r a g l ) ：称o 5 9 苯酚( c 6 h s o h 分析纯) 于5 0 0 m l 容 量瓶中，加去离子水稀释至刻度。摇匀。 ， ( 3 ) 腐殖酸溶液：准确称取0 2 5 9 腐殖酸于5 0 0 m l 烧杯中，加入0 5 m o l n a o h , 用电磁搅拌器搅拌1 2 h 。 ( 4 ) 水杨酸溶液( o 5 9 l ) - 准确称取o 5 9 水杨酸( c 7 h 6 0 3 分析纯) 于5 0 0 m l 容量瓶中，加去离子水稀释至刻度。摇匀。 ( 5 ) 邻苯二甲酸氢钾溶液：准确称取0 4 2 5 9 邻苯二甲酸氢钾( k h p 分析 纯) 于1 0 0 0 m l 容量瓶中，加去离子水稀释至刻度。摇匀。 4 1 2 仪器 u 一3 0 l o 型紫外一可见分光光度计( m 1 a c h i ，日本) ； 5 b 型c o d 快速测定仪( 兰州炼化环保仪器研究所) ； 4 2 实验操作步骤 4 2 1 紫外吸收光谱测定 紫外吸收光谱测定采用紫外一可见分光光度计，仪器具有自动扫描功能， 波长范围1 9 0 n m 7 0 0 n m 。开机预热1 5 m i n ，待光度计自检完毕进入测量状态， 进入光谱吸收界面，用去离子水校零后即可进入紫外吸收光谱的测定，扫描曲 线由计算机自动记录。详细操作见说明书。 4 2 2c o d 快速测定 采用c o d 快速测定仪测定水样c o d 其基本原理为利用k 2 c r 2 0 7 ，在酸性 介质中将水样中有机物氧化，然后利用分光光度计在6 1 0 r i m 测定k 2 c r 2 0 7 被还 原后生成的c r 3 + 的吸光度，利用标准曲线法测定c o d 含量。 3 7 四川大学硕士学位论文 4 3 化学实验设计和优化 要想最大限度的提取关于系统的有用信息，就必须进行实验设计和优化。 实验设计是指在实验域( 因素的取值域) 内，最有效地选择试验点，科学地安 排试验，进而通过数据分析取得最优值的条件的一种方法，即研究如何设计试 验条件使指标获得最优值。一个良好的实验设计应能以最小的试验工作问答所 有有关研究对象的问题。 一个有效的试验必须满足如下的条件： ( 1 ) 实验必须有明确的目标 如哪些因素对实验指标最有影响、因素在何区域使指标接近所期望的值、 有影响的因素在何处使指标的变异性较小、因素在何水平时不可控制因素对指 标的效应最小等，这有利于选取有关的实验因素水平。 ( 2 ) 实验应提供实验误差的估计 通过实验误差，可对实验结果的重复性和稳定性做出评价。非控制因素或 其他实验因素不能掩盖实验因素的作用，各种因素的作用可通过方差分析来估 计。 ( 3 ) 实验必须有足够的精度 只有满足一定精度的实验才能说明要研究的问题。必须精心选择和设计实 验单元，增加实验精度。 ( 4 ) 实验模式合理 ( 5 ) 实验必须是无偏的 在任何情况下，实验所得的结果必须是研究对象特定的无偏估计，否则所 得结果无效，原因在于实验误差无法估计，无法确定置信水平 4 3 1 均匀实验设计表 目前普遍采用的正交实验设计可以用较少的实验获得各因素及其问交互作 用的丰富信息，其特点是各试验点的“均匀分散、整齐可比”的目的，必然要做 较多的试验，通常试验次数至少为水平数的平方。例如若4 因素各取5 个水平， 则至少要做5 4 = 6 2 5 次实验，在实际中往往难于实现。 为此，需要寻求一种适用于多因素多水平而试验次数更少的实验设计方案。 均匀设计方法就是这样一种选择，其基本思想是抛开正交设计中的“整齐可比” 四川大学硕士学位论文 试验点的“均匀分散”性，即使试验点在所考察的范围内均匀 需要用规格化的均匀设计表( u n i f o r m ，均匀表) ，如果各因 则均匀表可记为 u n ( 如 匀设计表，n 指试验次数，t 为因素水平，k 为最多可安排的 因素数。这里、n - - - t ，k = t - i ，即实验次数与所取水平数相等。最多可安排的因素 数比水平数少1 。如u 5 ( 5 4 ) 均匀表最多可安排4 个因素，每个因素分成5 个水平， 做5 次试验即可。均匀表中，n 、t 全部为奇数，不包括偶数水平表，如4 、6 水 平，这些水平的实验设计只要取比该水平大l 的均匀表，然后划去最后一行即 可。 均匀实验设计的突出优点是试验的工作量少，特别适用于水平较多时的试 验安排。与正交表不同，为了保证不同因素、水平所设计的试验均匀分布，每 个均匀表都带有一个使用表，指出不同因素应选哪几列。这是出于均匀表中不 同列的组合试验点分布情况不同。数据一般采用回归分析法处理。通常，为了 减少误差和数据处理方便，水平数应大于因素数的2 倍，按这个水平选取均匀 表，并按表中的使用表选列设计试验。 4 3 2 均匀实验设计 首先挑选因素水平设计因素水平表，然后选择合适的均匀设计表及相应的 使用表，设计好实验方案，最后进行结果分析。 结果分析一般采用多元回归分析法。由于均匀表允许安排的因素水平较多， 水平的间隔较小，研究因素的范围宽，实验都在整个实验区域的分布均匀，实 验结果具有较好的代表性，因此也可以使用直观分析法。 本课题采用了三个均匀设计表，即表4 1 ，表4 3 ，表4 5 。 婴业查兰堡主兰堡丝苎 表4 1 均匀设计表u3 7 ( 3 7 1 2 ) 4 0 2 281 21 82 0 2 22 8 571 3 1 92 52 7 331 2 1 82 73 0 2i i2 32 6 41 3 2 22 5 441 62 4 591 3 2 5l o1 42 6 71 92 3 552 0 3 01 4 1 92 48 2 821 7i 1 62 l 662 4 52 32 9 42 21 52 1 82 6 1 31 9 772 8i i l8 1 5529 3 02 01 01 7 8 811 7 l o1 82 61 9 2 02 82 l1 4 71 5 995 2 31 92 8 627 1 61 284 1 3 1 0 l o9 2 92 871 71 6 2 543 21l l l l 1 l 1 346 1 72 83 01 2 2 32 52 72 9 9 1 21 2 1 7l o1 5 2 781 33 0 l l1 62 12 6 7 1 31 32 l 1 62 461 9 2 71 73 0 71 52 3 5 1 4 1 42 52 22 1 63 0 l o41 82 9 92 03 1 5 1 52 92 8 i i2 6l o2 4 2 262 0 31 7l 1 61 6 23 2 052 1 792 5l l 2 81 43 0 1 71 7 692 9 1 512 12 7 1 322 2 1 12 8 1 81 8 l o1 57 2 51 241 4l2 4 1 682 6 1 9 1 9 1 42 l1 642 3 1 8l2 0 1 5l o52 4 2 02 01 82 72 5 1 43 11 986 422 2 j 坚兰 丝!丝 ! ! ! 望垫! ! ! 1 4 1 m 8 6 4 2 2 6 m 3 7 7 m 2 5 8 6 7 8 9 “ 6 7 8 9 k 四川大学硕士学位论文 表4 6u l o ( 1 0 s ) 的使用表 s 列号 d 6 45 457 3 5 6 346 8 1 2 4 4c o d 紫外光谱b p 人工神经网络模型的建立 要建立b p 人工神经网络模型，必须解决好建模所需各参数，如b p 网络的 层数、输入矩阵、隐含层节点数、每一层传递函数、 i i l 练步长、最大训练步数、 总方差指标、学习速率等。 神经网络中每个神经元作为信号处理的基本单元，通常采用s 型函数作为 神经元的输出传递函数，网络的增益值影响s 型函数的陡度，该值越大，s 型函 数的陡度越小。 学习速率是影响神经网络收敛速度的重要参数。使用过高的学习速率将导 致网络的不稳定性增加。而学习速率较低时，则需较长的时间才能使网络收敛。 在具有三层神经元的网络中，输入层的神经元只起到信号传输作用，没有 信号处理功能。输出层神经元个数与样品中组分相对应，因而隐含层神经元个 数就决定了网络的结构。 隐含层的节点数是一个重要参数，因为此参数可对网络性能产生重要影响。 在b p 网络中，隐含层节点数越多，意味着网络的非线性程度越高；隐含层节点 数过少，则网络不能充分反映输入节点与输出节点问的复杂函数关系，因而测 试误差较大。但隐含层节点数过大时，会将实验误差也作为函数关系的非线性 因素引入网络，这样的网络也不能反映输入向量与输出向量的实质性关系，因 而也会导致测试误差增大。 4 4 1 网络结构与运行参数的选择 运行参数包括：学习速率、动量常数、目标误差、最大循环次数。网络的 5 1 6 4 4 4至|m必枷拼墨； o n o 0 o 03 四川大学硕士学位论文 结构参数包括：输入层节点数、隐含层节点数、输出层节点数。目前关于如何 选择人工神经网络训练参数的严格理论依据还不成熟，主要是根据经验选择。 网络的输入、输出节点数是由所要处理的问题本身所决定的，而隐含层节点数 则可以根据网络训练的情况来修改，所以隐含层节点数与运行参数放在一起讨 论。 经大量文献查阅发现，用b p 算法训练网络一般有一个隐含层就足够了，即 网络层数为三层。并且有定理证明一个三层网路可以逼近任何复杂函数。因此 本文采用的是三层b p 网络。 ( 1 ) 输入层节点数的选择 本文网络输入层节点数就是扫描吸收光谱时的波长点数。选取的波长扫描 范围从2 5 0 n m - 3 0 0 n m ，讨论几种波长集合的情况： 集合l( 牾l 衄) ：2 5 0 、2 5 1 、2 5 2 、2 5 3 、2 5 4 、2 5 5 、2 5 6 、2 5 7 、2 5 8 、2 5 9 、 2 6 0 ，2 6 1 ，2 6 2 ，2 6 3 ，2 6 4 ，2 6 5 ，2 6 6 ，2 6 7 ，2 6 8 ，2 6 9 ，2 7 0 ，2 7 1 ， 2 7 2 ，2 7 3 ，2 7 4 ，2 7 5 ，2 7 6 ，2 7 7 ，2 7 8 ，2 7 9 ，2 8 0 ，2 8 ，2 8 2 ，2 8 3 ， 2 8 4 ，2 8 5 ，2 8 6 ，2 8 7 ，2 8 8 ，2 8 9 ，2 9 0 ，2 9 1 ，2 9 2 ，2 9 3 ，2 9 4 ，2 9 5 ， 2 9 5 、2 9 7 、2 9 8 、2 9 9 、3 0 0 ，一共5 1 个波长点。 集合2 ( 九= 2 n m ) ：2 5 0 、2 5 2 、2 5 4 、2 5 6 、2 5 8 、2 6 0 、2 6 2 、2 6 4 、2 6 6 、2 6 8 、 2 7 0 、2 7 2 ，2 7 4 ，2 7 6 ，2 7 8 ，2 8 0 ，2 8 2 ，2 8 4 ，2 8 6 ，2 8 8 ，2 9 0 ，2 9 2 ， 2 9 4 、2 9 5 、2 9 8 、3 0 0 ，一共2 6 个波长点。 集合3 ( 九= 3 n m ) ：2 5 0 、2 5 3 、2 5 6 、2 5 9 、2 6 2 、2 6 5 、2 6 8 、2 7 1 、2 7 4 、2 7 7 、 2 8 0 、2 8 3 、2 8 6 、2 8 9 、2 9 2 、2 9 5 、2 9 9 ，一共1 7 个波长点。 固定其它训练参数为默认值即显示间隔次数2 5 、最大循环次数1 0 0 0 0 ，目 标误差0 0 0 1 ，动量常数0 0 0 1 ，学习速率0 0 0 1 ，学习速率增加比率l o 、学习速 率减少比例0 1 、最大误比率1 0 0 0 0 0 0 0 0 、中间层1 2 。三种波长集合的预测结果 的平均相对误差见表4 7 55 1 8 95 1 7 1 - 0 3 55 1 4 3- 0 8 25 2 3 20 8 3 64 5 7 24 8 9 37 0 24 9 0 77 3 44 9 9 3 9 2 1 74 4 3 24 7 9 98 2 84 7 7 17 6 44 5 0 41 6 2 84 7 1 5 5 1 5 79 3 75 1 3 08 8 05 1 2 68 7 3 94 4 7 a4 8 4 18 2 24 8 3 28 0 2 5 0 1 31 2 0 6 1 04 5 3 54 9 1 98 4 74 8 8 0 7 6 15 0 2 01 0 7 2 平均相对误差( ) 1 6 9 2 5 5 61 1 5 5 由表4 7 可见，当波长点为2 6 的时候，神经网络所描述的模式的信息越丰 富完整，预测结果的准确度也就越高。因此输入层节点数选为2 6 。 ( 2 ) 中间层节点数、网络学习速率与动量项的选择 中间层一般认为隐节点数少，网络的线性成分下降，不能很好的拟合非线 性关系。而且如果隐节点数太少，网络可能根本不能训练。如果节点勉强够用， 网络可以训练，但在面临干扰数据时，它会显得不可靠或不能理解以前从未见 过的样本模式。若隐节点数太多可能使网络训练无穷无尽，不会收敛。因此， 选择隐节点要考虑数据之间的非线性程度，同时还要与学习速率和动量项一起 调整。学习速率和动量项的取值对训练过程和训练结果的影响也随之增大。 学习速率决定每一次循环训练中所产生的权重变化量。大的学习速率可能 导致系统不稳定，原因是，大的速率使网络每次的修正值太大，甚至会导致在 权重的修正过程中出现误差的最小值，而永远不能收敛；但小的学习速率会导 致较长的训练时间，可能收敛很慢，不过能保证网络的误差值不跳出误差表面 的低估而最终趋于最小误差。所以，一般倾向于选取较小的学习速率以保证系 统的稳定性。动量项辅助学习速率并一起调整权重，其取值应与学习速率的取 值相配合。 婴型奎兰堡主兰竺堡苎 本文按照均匀设计表u i “l o s ) 见表4 5 ，在1 0 个水平上安排这三个参数来 训练网络。见表4 8 、4 9 。 表4 8 不同网络训练参数得到的预测结果的影响 c o dl 2 编号 测定( m g 值l ) 预澳4 值 相瑟差 预测值 相瑟差 预测值 相瑟差 l4 1 8 14 2 2 10