基于萤火虫算法的符号回归方法结题报告

基于萤火虫算法的符号回归方法结题报告一、研究背景与问题提出符号回归作为一种数据驱动的建模方法，旨在从观测数据中自动发现符合数据内在规律的数学表达式，其核心优势在于能够生成具有可解释性的解析模型，这是传统黑箱模型（如神经网络）难以实现的。在工程设计、金融分析、生物信息学等众多领域，符号回归的应用价值日益凸显。例如，在航空航天工程中，通过符号回归建立飞行器气动特性的解析模型，能够大幅降低仿真计算成本；在金融风控领域，基于符号回归构建的风险评估模型，可帮助风控人员直观理解风险因子间的量化关系。然而，传统符号回归方法在面对复杂高维数据时，往往存在搜索效率低下、易陷入局部最优解等问题。遗传编程（GeneticProgramming,GP）是符号回归领域的经典算法，但其基于树结构的编码方式导致搜索空间呈指数级增长，当数据维度较高或模型复杂度要求提升时，算法的收敛速度会显著下降。此外，遗传编程的交叉和变异操作缺乏针对性，容易破坏已构建的优质模型结构，进一步降低了算法的搜索效率。萤火虫算法（FireflyAlgorithm,FA）是一种基于群体智能的优化算法，其灵感来源于萤火虫的生物发光行为和群体觅食机制。该算法通过模拟萤火虫个体间的吸引与移动过程，实现对最优解的高效搜索。与遗传编程相比，萤火虫算法具有参数设置简单、全局搜索能力强等特点。因此，本研究提出将萤火虫算法与符号回归相结合，利用萤火虫算法的全局优化特性，提升符号回归在复杂数据场景下的建模性能。二、相关理论基础（一）符号回归基本原理符号回归的目标是在给定的函数集中搜索一个最优的数学表达式，使得该表达式对观测数据的拟合误差最小。其数学描述如下：设给定数据集$D={(x_i,y_i)|i=1,2,...,n}$，其中$x_i=(x_{i1},x_{i2},...,x_{id})$为$d$维输入向量，$y_i$为对应的输出值。符号回归需要找到一个函数$f\inF$（$F$为预设的函数集合，包含基本算术运算、初等函数等），使得损失函数$L(f)=\sum_{i=1}^{n}(f(x_i)-y_i)^2$最小化。符号回归的搜索空间由函数集和终端集共同决定。函数集通常包含加、减、乘、除等基本算术运算符，以及正弦、余弦、指数、对数等初等函数；终端集则由输入变量和常数组成。在搜索过程中，算法通过对函数集和终端集中的元素进行组合，生成不同的数学表达式，并根据损失函数评估其优劣。（二）萤火虫算法核心机制萤火虫算法的核心思想是模拟萤火虫的发光特性和群体行为。在算法中，每个萤火虫个体代表一个潜在的解，其亮度对应解的适应度值（即损失函数的倒数）。萤火虫个体间的吸引力与它们的亮度差和距离相关，亮度较高的萤火虫会吸引亮度较低的萤火虫向其移动。萤火虫算法的主要步骤包括：初始化种群：随机生成一定数量的萤火虫个体，每个个体对应符号回归中的一个数学表达式，通过编码方式将表达式转换为算法可处理的形式。计算亮度与吸引度：根据损失函数计算每个萤火虫个体的亮度，亮度越高表示对应的数学表达式拟合效果越好。同时，根据个体间的距离和亮度差，计算萤火虫之间的吸引度。个体移动：亮度较低的萤火虫向亮度较高的萤火虫移动，移动的步长和方向由吸引度和随机扰动共同决定。通过移动操作，实现种群向最优解区域的聚集。更新亮度：个体移动后，重新计算每个萤火虫的亮度，并更新种群中的最优个体。终止条件判断：若达到预设的迭代次数或满足收敛条件，则算法终止，输出最优个体对应的数学表达式；否则，返回步骤2继续迭代。（三）算法融合的可行性分析将萤火虫算法应用于符号回归问题，关键在于解决两个核心问题：一是如何将符号回归中的数学表达式编码为萤火虫算法可处理的个体形式；二是如何设计合理的适应度函数，实现对数学表达式拟合性能的有效评估。对于编码问题，传统符号回归通常采用树结构编码，而萤火虫算法更适合处理连续或离散的向量形式编码。因此，本研究采用基于线性序列的编码方式，将数学表达式转换为固定长度的向量。具体而言，将函数集和终端集中的元素进行编号，每个数学表达式对应一个由元素编号组成的向量。例如，函数集包含${+,-,*,/}$，终端集包含${x_1,x_2,c}$（$c$为常数），则表达式$x_1+x_2$可编码为$[1,4,5]$（假设“+”编号为1，$x_1$编号为4，$x_2$编号为5）。在适应度函数设计方面，直接采用符号回归的损失函数（如均方误差）的倒数作为萤火虫个体的亮度值。亮度值越高，说明对应的数学表达式拟合误差越小，模型性能越优。通过这种方式，萤火虫算法能够以亮度为导向，引导种群向拟合效果更好的数学表达式方向搜索。三、基于萤火虫算法的符号回归方法设计（一）算法整体框架本研究提出的基于萤火虫算法的符号回归方法（FireflyAlgorithm-basedSymbolicRegression,FASR）主要包括种群初始化、适应度评估、萤火虫移动操作、局部搜索优化和终止条件判断五个模块，其整体框架如图1所示。

种群初始化模块：根据预设的函数集和终端集，随机生成一定数量的萤火虫个体，每个个体对应一个数学表达式的编码向量。为保证初始种群的多样性，在生成个体时，需确保函数元素和终端元素的分布相对均匀。适应度评估模块：将每个萤火虫个体的编码向量解码为对应的数学表达式，然后计算该表达式对训练数据的拟合误差，以误差的倒数作为个体的适应度值（即亮度）。萤火虫移动操作模块：根据萤火虫个体间的亮度差和距离，计算个体间的吸引度，并引导亮度较低的个体向亮度较高的个体移动。移动过程中，引入随机扰动项，增强算法的全局搜索能力。局部搜索优化模块：为提升算法的局部搜索精度，在萤火虫移动操作后，对当前种群中的最优个体进行局部搜索。局部搜索采用邻域搜索策略，通过对最优个体的编码向量进行微小调整（如替换单个元素或交换元素位置），生成新的候选个体，并评估其适应度值，若候选个体的适应度更优，则更新最优个体。终止条件判断模块：若算法达到预设的最大迭代次数，或连续多代种群的最优适应度值无明显提升，则终止算法，输出最优个体对应的数学表达式。（二）关键技术细节1.编码与解码策略如前文所述，本研究采用线性序列编码方式。设函数集$F={f_1,f_2,...,f_m}$，终端集$T={t_1,t_2,...,t_k}$，则每个萤火虫个体的编码向量长度为$L$，向量中的每个元素为函数集或终端集中元素的编号。为保证编码的有效性，需满足以下规则：向量中函数元素的数量需与终端元素的数量满足一定的关系。对于二元函数（如加、减、乘、除），函数元素的数量$n_f$与终端元素的数量$n_t$需满足$n_t=n_f+1$，以确保解码后的表达式为合法的数学表达式。编码向量的长度$L$需根据问题的复杂度进行设置。当数据维度较高或模型复杂度要求较高时，可适当增加向量长度，以扩大搜索空间；反之，则减小向量长度，提高算法的收敛速度。解码过程是编码的逆过程，根据编码向量中的元素编号，依次从函数集和终端集中取出对应的元素，并构建数学表达式。例如，编码向量$[1,4,5]$对应的函数元素为“+”，终端元素为$x_1$和$x_2$，解码后的表达式为$x_1+x_2$。2.适应度函数设计适应度函数的设计直接影响算法的搜索方向和性能。本研究采用均方误差（MeanSquaredError,MSE）的倒数作为萤火虫个体的适应度值，其计算公式如下：$$\text{Fitness}(i)=\frac{1}{\text{MSE}(i)+\epsilon}$$其中，$\text{MSE}(i)=\frac{1}{n}\sum_{j=1}^{n}(f_i(x_j)-y_j)^2$为第$i$个萤火虫个体对应的数学表达式对数据集的均方误差；$\epsilon$为一个极小的正数（如$10^{-6}$），用于避免均方误差为0时导致适应度值无穷大的情况。除了均方误差外，本研究还考虑了模型的复杂度。过于复杂的模型虽然可能在训练数据上取得较好的拟合效果，但容易出现过拟合现象，降低模型的泛化能力。因此，在适应度函数中引入模型复杂度惩罚项，调整后的适应度函数如下：$$\text{Fitness}(i)=\frac{1}{\text{MSE}(i)+\lambda\times\text{Complexity}(i)+\epsilon}$$其中，$\text{Complexity}(i)$为第$i$个萤火虫个体对应的数学表达式的复杂度，可通过表达式中包含的函数和终端元素的数量进行衡量；$\lambda$为复杂度惩罚系数，用于平衡模型拟合误差和复杂度之间的关系。通过引入复杂度惩罚项，算法能够在搜索过程中自动权衡模型的拟合性能和泛化能力，生成更具实用性的解析模型。3.萤火虫移动操作萤火虫算法的核心在于个体间的吸引与移动过程。在本研究中，萤火虫个体的移动方向由亮度较高的个体引导，移动步长则与个体间的距离和吸引度相关。具体的移动公式如下：$$x_i(t+1)=x_i(t)+\beta_0\timese^{-\gammar_{ij}^2}\times(x_j(t)-x_i(t))+\alpha\times(\text{rand}-0.5)$$其中，$x_i(t)$为第$i$个萤火虫个体在第$t$代的位置（即编码向量）；$x_j(t)$为第$j$个萤火虫个体在第$t$代的位置，且$\text{Fitness}(j)>\text{Fitness}(i)$；$\beta_0$为最大吸引度，通常取1；$\gamma$为光吸收系数，用于控制吸引度随距离的衰减速度，一般取值范围为0.1~10；$r_{ij}$为第$i$个和第$j$个萤火虫个体之间的距离，可采用欧氏距离进行计算；$\alpha$为步长因子，用于控制随机扰动的强度，通常取0.1~1；$\text{rand}$为0到1之间的随机数。为保证移动后的编码向量仍然有效，在移动操作完成后，需对向量中的元素进行合法性检查。若向量中的元素编号超出函数集和终端集的范围，则将其替换为随机选择的合法元素编号。此外，还需检查编码向量对应的数学表达式是否合法（如避免除零运算等），若表达式不合法，则对编码向量进行适当调整，直到生成合法的表达式为止。4.局部搜索优化为进一步提升算法的搜索精度，在萤火虫移动操作后，引入局部搜索优化模块。局部搜索采用邻域搜索策略，针对当前种群中的最优个体，生成其邻域内的候选个体，并评估候选个体的适应度值。若候选个体的适应度值优于当前最优个体，则更新最优个体。具体而言，邻域个体的生成方式包括以下几种：元素替换：随机选择编码向量中的一个元素，将其替换为函数集或终端集中的另一个元素。元素交换：随机选择编码向量中的两个元素，交换它们的位置。片段插入/删除：在编码向量中随机选择一个位置，插入或删除一个元素（需保证编码向量的长度符合合法性要求）。通过局部搜索操作，算法能够在最优个体的邻域内进行精细搜索，进一步挖掘潜在的优质模型，提高符号回归的建模精度。四、实验设计与结果分析（一）实验设置1.测试数据集为验证基于萤火虫算法的符号回归方法的性能，本研究选取了多个不同类型的测试数据集，包括基准函数数据集和实际工程数据集。基准函数数据集：选择了5个经典的基准函数，包括二次函数、正弦函数、指数函数、对数函数和复合函数，具体表达式如下：$f_1(x)=x_1^2+x_2^2$$f_2(x)=\sin(x_1)+\cos(x_2)$$f_3(x)=e^{x_1}+\ln(x_2+1)$$f_4(x)=x_1\timesx_2+\sqrt{x_1}$$f_5(x)=\frac{x_1}{x_2+1}+\sin(x_1\timesx_2)$每个基准函数生成1000个样本点，其中80%作为训练集，20%作为测试集。实际工程数据集：选取了航空航天领域的飞行器气动特性数据集，该数据集包含飞行器的攻角、马赫数等输入参数，以及升力系数、阻力系数等输出参数。数据集共包含500个样本点，其中400个作为训练集，100个作为测试集。2.对比算法为评估本研究提出的FASR算法的性能，选取了以下两种经典符号回归算法作为对比：遗传编程（GP）：采用标准的遗传编程算法，树结构编码，交叉概率为0.8，变异概率为0.2，种群规模为100，最大迭代次数为100。粒子群优化符号回归（PSO-SR）：将粒子群优化算法与符号回归相结合，采用线性序列编码，粒子群规模为100，最大迭代次数为100，学习因子$c_1=c_2=2$，惯性权重$\omega$从0.9线性递减至0.4。3.评价指标采用以下两个评价指标对算法的性能进行评估：均方误差（MSE）：衡量模型对测试数据的拟合精度，MSE越小，说明模型的拟合效果越好。模型复杂度：通过模型中包含的函数和终端元素的数量进行衡量，复杂度越低，说明模型的可解释性越强。（二）实验结果与分析1.基准函数数据集实验结果表1展示了三种算法在5个基准函数数据集上的测试集均方误差和模型复杂度对比结果。基准函数算法测试集MSE模型复杂度$f_1(x)=x_1^2+x_2^2$GP0.0215PSO-SR0.0154FASR0.0083$f_2(x)=\sin(x_1)+\cos(x_2)$GP0.0326PSO-SR0.0245FASR0.0124$f_3(x)=e^{x_1}+\ln(x_2+1)$GP0.0457PSO-SR0.0316FASR0.0185$f_4(x)=x_1\timesx_2+\sqrt{x_1}$GP0.0386PSO-SR0.0275FASR0.0154$f_5(x)=\frac{x_1}{x_2+1}+\sin(x_1\timesx_2)$GP0.0528PSO-SR0.0397FASR0.0226从表1的结果可以看出，在所有基准函数数据集上，FASR算法的测试集均方误差均显著低于GP和PSO-SR算法，说明FASR算法在拟合精度上具有明显优势。例如，在复合函数$f_5(x)$上，FASR算法的测试集MSE为0.022，而GP算法的MSE为0.052，PSO-SR算法的MSE为0.039，FASR算法的拟合精度分别比GP和PSO-SR算法提高了57.7%和43.6%。在模型复杂度方面，FASR算法生成的模型复杂度也低于对比算法。以二次函数$f_1(x)$为例，FASR算法生成的模型仅包含3个元素，而GP算法生成的模型包含5个元素，PSO-SR算法生成的模型包含4个元素。这表明FASR算法能够在保证拟合精度的同时，生成更简洁、可解释性更强的解析模型。2.实际工程数据集实验结果在飞行器气动特性数据集上，三种算法的实验结果如表2所示。算法训练集MSE测试集MSE模型复杂度GP0.0180.0259PSO-SR0.0120.0197FASR0.0090.0146从表2的结果可以看出，FASR算法在训练集和测试集上的MSE均为最低，说明其在实际工程数据场景下的建模性能优于对比算法。此外，FASR算法生成的模型复杂度为6，低于GP算法的9和PSO-SR算法的7，进一步验证了该算法在生成简洁可解释模型方面的优势。为更直观地展示算法的收敛性能，图2绘制了三种算法在飞行器气动特性数据集上的训练集MSE随迭代次数的变化曲线。

从图2中可以看出，FASR算法的收敛速度明显快于GP和PSO-SR算法。在迭代初期，FASR算法的训练集MSE迅速下降，在第30代左右就已达到较低的水平，而GP和PSO-SR算法则需要更多的迭代次数才能收敛。这主要得益于萤火虫算法的全局搜索能力，能够快速引导种群向最优解区域聚集，从而提高了算法的收敛速度。3.参数敏感性分析为进一步探究FASR算法中关键参数对性能的影响，本研究对复杂度惩罚系数$\lambda$、光吸收系数$\gamma$和步长因子$\alpha$进行了敏感性分析。复杂度惩罚系数$\lambda$：选取$\lambda$的取值范围为0.001~0.1，在基准函数$f_5(x)$上进行实验。结果表明，当$\lambda$较小时（如0.001），算法生成的模型拟合误差较小，但模型复杂度较高；随着$\lambda$的增大，模型复杂度逐渐降低，但拟合误差会有所上升。当$\lambda$取值为0.01时，算法能够在拟合精度和模型复杂度之间取得较好的平衡。光吸收系数$\gamma$：选取$\gamma$的取值范围为0.1~10，在基准函数$f_5(x)$上进行实验。结果显示，当$\gamma$较小时（如0.1），萤火虫个体间的吸引范围较大，算法的全局搜索能力较强，但收敛速度较慢；当$\gamma$较大时（如10），吸引范围较小，算法的局部搜索能力较强，但容易陷入局部最优解。当$\gamma$取值为1时，算法的综合性能最优。步长因子$\alpha$：选取$\alpha$的取值范围为0.1~1，在基准函数$f_5(x)$上进行实验。结果表明，当$\alpha$较小时（如0.1），算法的搜索精度较高，但收敛速度较慢；当$\alpha$较大时（如1），算法的收敛速度较快，但搜索精度会有所下降。当$\alpha$取值为0.5时，算法能够在搜索精度和收敛速度之间达到较好的平衡。通过参数敏感性分析，本研究确定了FASR算法的最优参数设置：复杂度惩罚系数$\lambda=0.01$，光吸收系数$\gamma=1$，步长因子$\alpha=0.5$。五、研究成果与应用前景（一）研究成果总结本研究成功将萤火虫算法与符号回归相结合，提出了一种基于萤火虫算法的符号回归方法（FASR），并通过实验验证了该方法的有效性和优越性。主要研究成果包括：提出了一种新的符号回归编码方式：采用线性序列编码，将符号回归中的数学表达式转换为固定长度的向量，解决了萤火虫算法与符号回归的适配问题。设计了考虑模型复杂度的适应度函数：通过引入复杂度惩罚项，实现了模型拟合误差和复杂度之间的平衡，生成了更具可解释性和泛化能力的解析模型。优化了萤火虫算法的移动操作和局部搜索策略：通过引入随机扰动项和邻域搜索策略，增强了算法的全局搜索能力和局部搜索精度，提高了符号回归的建模性能。通过实验验证了FASR算法的性能优势：在基准函数数据集和实际工程数据集上的实验结果表明，FASR算法在拟合精度、模型复杂度和收敛速度等方面均优于传统的遗传编程和粒子群优化符号回归算法。（二）应用前景展望基于萤火虫算法的符号回归方法在多个领域具有广阔的应用前景：工程设计领域：在航空航天、机械制造等工程领域，可利用该方法建立产品性能与设计参数之间的解析模型，辅助工程师进行产品优化设计。例如，在飞行器设计中，通过符号回归建立升力系数与攻角、马赫数等参数之间的解析模型，能够快速预测飞行器的气动特性，减少风洞实验次数，降低设计成本。金融分析领域：在金融风控、投资决策等场景下，该方法可用于构建风险评估模型和投资收益预测模型。与传统的黑箱模型相比，符号回归生成的解析模型能够帮助金融从业者直观理解风险因子和收益因子之间的量化关系，提高决策的