数学建模之神经网络

神经网络神经网络不需要做很多假设和复杂的数学表达式，只需要使用学习样本进行训练。一、神经网络1.1导言BP神经网络由三层组成：输入层、隐藏层和输出层。对于BP神经网络，局部不准确的测试数据对网络性能的影响很小。因此，BP神经网络具有很强的容错性。缺点：训练时间长，得到的解可能是局部最小值。如果R是输入的数量，它是隐藏层中第I个神经元和输出层中第K个神经元之间的连接权重，它是阈值。那么一般的神经元模型如下：将多个神经元模型连接在一起将产生N个神经元输出，I个神经元输出为通过任何传递函数后，神经元的输出为BP神经网络的应用沼泽泥炭土的结构特征及模型研究(下载文件)2.1步骤(1)构建建模方案根据输入和输出的关系写出一个表达式，例如，三个输入和一个输出的非线性函数表达式是相应的BP神经网络结构是让、分别代表BP网络三层节点的输入节点、隐藏节点和输出节点。指示输入节点和隐藏节点之间的网络权重，并指示隐藏节点和输出节点之间的网络权重。我们使用梯度法来修正BP网络的权值，并使用sigmoid函数。如果输出节点期望输出，则有从输入节点到隐藏节点的公式是：阈值校正：错误：重量校正：从隐藏节点到输出节点的公式为：如果有p个样本和n个输出节点，一个样本的误差就是控制误差范围阈值校正：重量校正：错误：输出节点的计算公式为：隐藏节点输出：输入节点输入、连接权重和节点阈值。输出节点的输出：其中是连接权重和节点阈值。(2)BP算法的参数优化通常，初始权重的范围是：(-1，1)，In和out分别用于表示in、out层和输出层中的节点数，s用于表示训练样本的总数，然后取隐藏节点数的近似值：程序框图如下：改进BP神经网络针对BP算法可能存在局部极小解的问题，我要求用驱动因子算法来改进BP算法的学习过程。该方法是在BP算法的基础上，在每个权值变化上增加一个与前一个权值变化成比例的值，同时通过定向传播产生一个新的传播变化。训练时间和动量因子分别用k和c表示。当c通常约为0.95时，重量值调整如下：第二，径向基神经网络径向基函数神经网络是一个三层前向网络。首先，用径向基函数作为隐藏层节点的“基”，形成隐藏层空间。输入向量被改变一次，低维模式输入被映射到高维空间，然后通过隐藏层节点输出的加权求和获得输出。径向基函数网络结构如下2.1径向基函数网络的应用(1)广州铁路枢纽货运量预测(下载文件)(2)沼泽泥炭土结构特征及模型研究(下载文件)2.2步(1)利用K均值聚类算法计算基函数的中心(1)初始的M个训练样本通常被用作聚类中心初始化的值。(2)根据最近邻规则对样本集进行分组，即它们将被分成以中心为中心的输入样本聚类集，因此存在和。(3)重新调整聚类中心，利用表示的输入样本数，即聚类中心，计算计算中样本的平均值。如果群集中心发生变化，请重复上述步骤，否则请继续下一步。得到径向基函数网络的最终基函数中心。(2)方差计算选择高斯函数作为径向基函数，所选中心之间的最大距离用表示，然后方差为(3)用最小二乘法计算权重值网络的计算输出通过表示相对于输入的期望值来表示。一般的误差标准是平方误差最小，也就是说由于基函数的参数之和已经确定，误差e只是we的函数假设预测模型中广州铁路枢纽货运量的时间序列值为：n=12，其中，2005年建立预测模型时没有将200年的数据作为学习和训练样本，而只是作为以后检验模型预测效果的检验样本。在大多数情况下，预测货运量的年增量，即预测差值，比直接测量的绝对值要好。因此，时间序列可以转换为。其中，因此，通过Y将预测目标转换成预测，并且转换结果示于表2中。表2 1996年广州铁路枢纽货运量增长及其归一化结果(2)数据预处理由于学习方法要求输入层的输入值在0.1之间，因此其输出范围也要求在0.1之间。但是从表1可以看出，铁路货运量的增长值并不在此范围内，这使得收集到的数据与网络模型算法所需的数据不一致，使得学习样本无法输入网络模型，无法达到学习和预测的目的。因此，收集的数据必须标准化。其中，是第一个增长值的实际值；MinY是序列中的最小值；n是序列中最大绝对值的位数，其中n=4，归一化结果如表2所示。(3)时间序列向标准形式的转换在实际预测中，对某年货运量增长值预测结果影响最大的是今年前几年的货运量增长值。该年货运量增长值越接近，对该年的影响就越大。为了多次重用模型并充分利用现有的信息，我们不断地向模型中添加新的数据并删除一些旧的数据，这样我们就可以获得能够反映未来发展趋势的数据，并且保持模型的计算量不变。因此，如果时间序列的窗口设置为4，则基于连续四年的标准化货运量增长值来预测第五年的标准化货运量增长值。例如，在2006年，使用2002年至2005年的标准化货运量增长值来预测标准化货运量增长值。(4)建立4)径向基函数网络根据这个问题，我们建立的网络是一个神经网络模型，在输出层有5个节点，在输出层有1个节点。采用实验方法，通过选择模型的不同均方性能指标，得到相应的结果。隐层基函数采用高斯基函数，中心训练采用K-均值聚类算法。所选型号的性能指数为0.01。学习和培训数据如表3所示。表3时间序列到标准格式的转换(窗口将径向基函数神经网络用于预测枢纽货运量，并与BP神经网络进行了比较。BP神经网络预测模型和RBF神经网络预测模型是基于时间增长值序列的。学习速率自适应调整策略采用数值优化方法实现反向传播算法，隐层节点数为5。通过建立一个很好的模型来预测2007-2008年的货运量，结果如下表4所示。表4 2000-2006年广州铁路枢纽实际货运量及预测值分析从表4可以看出，径向基函数神经网络的平均误差为3.48%，而BP神经网络的平均误差为5.38%，这表明径向基函数神经网络的输出结果更加准确，误差更小，能够更好更有效地预测铁路货运