CN114330659B 一种基于改进aso算法的bp神经网络参数优化方法 （辽宁工程技术大学）

一种基于改进ASO算法的BP神经网络参数优本发明提供一种基于改进ASO算法的BP神经方法首先对数据集进行预处理及BP神经网络的并对网络权值和阈值进行实值编码形成初始个用改进ASO算法更新原子种群并采用适应度函数BP神经网络的权值和阈值并利用更新后的BP神经网络对数据集进行分类。该方法将改进ASO算2步骤1、对数据集进行预处理及BP神经网络的参数初始化；所设数据集为Dataset，并对数据集Dataset进行预处理；初始化BP神步骤4、对原子种群进行寻优更新；采用改进ASO算2.根据权利要求1所述的一种基于改进ASO算法的BP神i表示BP神经网络的训练误差。3.根据权利要求2所述的一种基于改进ASO算法的BP从解空间的初始解分布均匀性出发，利用混沌序列随机性和遍历性的特点引34.根据权利要求3所述的一种基于改进ASO算法的BP神经网络参数引入振幅函数对ASO算法中的深度函数η(t)与拉格朗日乘子λ(t)进行修正，引入的振幅函数生成的数中随机选择一个作为最终作用于参数η(t)经过振幅函数作用后的深度函数η(t)与拉格朗日乘进而将第i个原子在t次迭代时加速度重新维度下第t次迭代时的加速度，mf()为第i个原子在第d个维度下第t次迭代时的质量；hij5.根据权利要求4所述的一种基于改进ASO算法的BP其中，x'()为第i个原子第t次迭代时位置，"(+1)为第i个原子第t+1次迭代时位置，v'(+)为第i个原子第t+1次迭代时的速度，ω(t)为模拟原子位置更新过程的步长演变因4[0001]本发明涉及神经网络技术领域，尤其涉及一种基于改进ASO算法的BP神经网络参[0002]几乎所有的机器学习算法最后都归结为求一个目标函数的极值，即最优化问行为的群智能算法是近年来元启发式算法研究的热点，有模拟鸟群捕食的粒子群算法(PSO)、基于乌鸦智能行为的乌鸦搜索算法(CSA)、模拟樽海鞘聚集行为的樽海鞘群算法[0004]原子搜索优化算法(AtomSearchOptimization，即ASO)是ZhaoW等人受分子动[0005]原子优化算法(ASO)寻优精度弱且易陷入局部最优的问题，但通常我们希望得到5[0006]本发明要解决的技术问题是针对上述现有技术的不足，提供一种基于改进ASO算[0017]从解空间的初始解分布均匀性出发，利用混沌序列随机性和遍历性的特点引入[0024]引入振幅函数对ASO算法中的深度函数η(t)与拉格朗日乘子λ(t)进行修正，引入在振幅函数生成的数中随机选择一个作为最终作用于参数η(t)与λ6[0046]采用上述技术方案所产生的有益效果在于：本发明提供的一种基于改进ASO算法一种融合混沌优化、振幅随机补偿和步长演变机制的模拟原子位置更新过程的改进ASO算7[0047]图1为本发明实施例提供的一种基于改进ASO算法的BP神经网络参数优化方法的[0048]图2为本发明实施例提供的本发明方法与不同算法在30维和100维下基准测试函f16[0052]本实施例中，一种基于改进ASO算法的BP神经网络参数优化方法，通过改进ASO8[0062]从解空间的初始解分布均匀性出发，利用混沌序列随机性和遍历性的特点引入[0069]为提高算法的全局探索能力，受简谐振动启发影响引入振幅函数对ASO算法中的在振幅函数生成的数中随机选择一个作为最终作用于参数η(t)与λ第d个维度下第t次迭代时的加速度，m'()为第i个原子在第d个维度下第t次迭代时的质ij9F'()为第i个原子在第d个维度下第t次迭代时由L-J势产生的相互作用力，c'tc为第i个原子在第d个维度下第t次迭代时由原子共价键产生的约束力；af)为第i个原子第t次迭代时的加速度；与分别表示在第t次迭代时最差原子和最佳原子[0102]在ASO算法中，假设每个原子都与最佳原子有共价键且每个原子都受到来自最佳个原子在第d个维度下第(t+1)次迭代[0120]其中，x"()为第i个原子第t次迭代时位置，x"(ct1)为第i个原子第t+1次迭代时位[0126]本实施例中，为验证基于改进ASO算法的BP神经网络参数优化方法的有效性，从UCI数据集中选取8个数据集进行数值对比实验。8个数据集分6282669285准差在大部分数据集上也达到了最高，说明了IASO-BP相较于BP神经网络和ASO-BP具有更高的稳定性；同时，在IASO-BP在所有数据集中的最大、最小值指标也优于BP神经网络和ASO-BP，同时由BP神经网络分类准确率和ASO-BP分类准确率以及IASO-BP分类准确率对比可知：利用元启发式算法优化BP神经网络权值和阈值参数可使BP神经网络模型效果更优。的分类准确性和鲁棒性且使用ASO和IASO两个元启发式算法优化神经网络权值和阈值参数0，见表4)；f11-f20为混合多维度的经典基准测试函，具体函数名如下：f11:Shekel实验组均独立进行100次数值实验，并计算100次实验结果的均值(Mean)、标准差(Std)及[0140](1)进行30维度和100维度下IASO与4种元启发式算法的数值实验对比；即选择10个经典基准测试函数与4种元启发式算法在两个维度下分别进行对比实验并以其数值实验[0141](2)进行混合多维度基准测试函数下IASO与4种元启发式算法的数值实验结果对比；即选择10个混合多维度的经典基准测试函数与4种元启发式算法进行对比实验并以其数值实验结果对比验证IASO算法拥有较发算法作为实验对比算法，分别对D＝30维和D＝100维下的10个基准测试函数进行仿真对(f68和f10)上都寻得了三个指标的最优计算精度，显示了IASO不仅具有更强的局部开发可变维度的10个基准测试函数上进行仿真实验时，IASO在100次独立重复实验中表现出更好的收敛精度和局部开发能力且具有更好的全局探索能[0155]由表6可知，IASO在f11-f17上寻优效果显著且在Best指标上已经寻得了函数的最1819和f20上的寻优效果弱于对比算法，这是由于IASO利用非线性快速收敛因线可知：IASO在求解混合多维函数的迭代过程中显现出更好的寻优能力和更快的迭代速[0160]100次独立重复实验计算所得均值和标准差在整体上衡量了算法优越性，但并不应该进行统计检验。本实施例采用Wilcoxon秩和检验在5％的显著性水平下进行并给出30维和100维下的f2,f4,f6,f8,f10以及混合多维度f12,f14,f16,f18,f20的IASO和其它算法的算法的测试函数上的秩和检验结果p值都小于0.05，从整体上来说，IASO在统计[0165]算法运行时间一定程度上反应了算法时间复杂度大小，故本实施例对6种不同算法在20个基准测试函数上进行了100次独立重复实验，分别记录了f1-f10在30维和100维下图4(c)表示6种算法在f12,f14,f16,f18,f20上的平均运行时间，图4(d)表示6种算法在30和[0167]本发明针对原子优化算法寻优精度弱且易陷入局部极值的问题，从种群多样性、