当大型语言模型发展语言：为高效多智能体推理的符号通信

1思维链（CoT）能够提升大型语言模型（LLMs)在复杂推理任务上的表现，但它通常会产生冗长的自然语言推理过程，这些过程与高效的机器推理方式并不匹配。我们提出了通信语言符号路由（CLSR），这是一个在测试时使用的框架，其中多个LLM代理能够自主地发明、进化和共享紧凑的语言符号框架（LSFs），同时一个无潜空间的路由器会根据查询自适应地选择和组合这些语言，以优化准确率-标记的权衡。与优化表面指令的提示优化不同，CLSR将每个LSF视为一个可重用的符号协议，具有紧凑的符号、使用规则和消息传递合约，并通过由正确性和标记成本驱动的进化循环来改进它。在推理时，路由器可以调用单个低成本的LSF调用、组合多个LSFs，或在更难的查询上执行多轮LSF组合协议。在多个具有挑战性的基准测试中，与标准CoT相比，CLSR将面向延迟生成的标记完成减少了约6倍，同时保持了准确率。我们进一步推导了在任意符号下标记成本的信息论下界，并表明，在解释器可实现性前提下，多轮LSF协议条件性地包含了程序执行管道。代码公开中1国科学院计算技术研究所人工智能安全国家重点实验室，中国，北京中国科学院大学计算机科学与技术2学院，北京，中国。通讯作者：王淑惠大型语言模型（LLMs）已展现出卓越的推理能力，尤其是在采用思维链（chain-of-thought）和自洽性（self-consistency）策略时，这些策略会明确生成中间 人，2025a；Besta等人，2024）。通过提示LLM分步解推理步骤（Wei 人，2025a；Besta等人，2024）。通过提示LLM分步解释，通常能提升其在复杂任务上的准确性（Zhang等人,2025b；Sprague等人，2025）。然而，这些推理链通常以自然语言形式表达，旨在便于人类理解。语言推理链往往冗长，并非专为紧凑逻辑推理设计（Turpin等人，2023；Tanmay等人，2025），因此可能并非模型最高效的内部表示形式（Yu等人，2024；Chen等人,2025），特别是在预算受限的部署场景下（Nayab等人，2024b；Arora&Zanette，2025）。这引发了一个引人入胜的问题，本研究旨在探讨：LLMs能否创造新的符号语言以实现更高效的推理？ 近期研究留下了我们问题的巨大空白。提示优化方法（Yang等人，2023；Fernando等人，2024；Zhou等人,2024；Aytes等人，2025b）主要优化自然语言指令,而非诱导可重用、可跨任务迁移的持久组合符号系统。基于程序的方法（Gao等人，2023；Chen等人，2023；Grand等人，2024）严重依赖人工设计的中间语言或程序，因此未研究LLM是否能够自我发现针对其23；Grand等人，2024）严重依赖人工设计的中间语言分词和归纳偏置进行优化的离散符号语言。基于强化学习的方法（Tanmay等人，2025；Gehring等人，2025)使用基于验证器的强化学习生成紧凑的符号轨迹，但这些强化学习流程通常导致高昂的训练成本和优化不稳定性，使其成为重量级且模块化程度低，不利于快速多智能体语言进化。压缩方法（Cheng&VanDurme，2024）通过将计算移入密集token中来缩短显式推理的长度，但它们并未产生可通过智能体间采纳和合并来演化的社会共享离散“语言”。神经符号方法（Beiser等人，2025）和逻辑推理（Xu等人，2025a）表明，中间语言可以驱动对<wangshuhui@>.2026。版权所有2026年，作者。1/pzqpzq/LSF_MDia2(a)概念比较(b)多个代理进化出新的局部搜索公式。(c)查询自适应最小割规划图1.交际语言符号路由（CLSR）。(a)我们让大型语言模型（LLM）自我进化一个面向LLM的紧凑型语言符号框架（LSF即信息密集型推理“方言”，而不是扩展自然语言推理（例如CoT）或依赖外部执行器（例如PoT）。然后，LLM路由器选择、集成或组合LSF，实现可控的（b）准确率-令牌权衡。多个智能体基于高杠杆选择迭代地提出、评论和变异候选LSF。(c)在推理时查询饱和的LSF池，以进行查询自适应的协议规划。表征；然而，它们的管道通常是在固定的形式语言中进行选择，而不是以根植于社会的方式进化出新的语与此同时，新兴通信方法（Lazaridou&Baroni,2020;Tuckeretal.,2022;Peietal.,2024a;2025)将离散协议如何在计算压力下产生的过程形式化，并从信息论视角解释了结构化惯例为何出现。基于这一视角，我们探究大语言模型代理能否自主设计和演化语言，并将其置于自然选择之中。我们将此问题形式化为对可重用语言结构框架（LSFs）的进化搜索：同时具备准确性、紧凑性和可重用性的协议会被优先保留，并可供下游路由使用。这种设置产生了由集体使用而非孤立提示微调塑造的大规模符号系统。在此工作中，我们介绍了CLSR（交流语言符号路由）,这是一种范例，其中多个LLM代理自主地为其推理开发自己的符号通信系统。每个代理是一个黑盒LLM实例,它提出、评估或完善语言符号框架（LSF），其中LSF是一组定制的符号、句法和使用规则，它作为一个可重用的推理协议。我们强调LSF并非由人类手动预定义为一种固定的形式语言。它们是由LLM从范例中归纳并由选择过程完善的。因此，我们的主张是2参见附录F，了解相关工作讨论。并非说语言模型是完全没有人类先验知识，而是指其推理时使用的操作协议可以由大型语言模型代理自动生成、选择、共享和组合，而不是像固定提示或程序这一观点自然地将CLSR与受文化语言进化过程启发的社会语言学视角联系起来（Kouwenhoven等人，2025）。在进化过程中，更有效的语言符号形式（LSFs）被优先保留和重用，而准确性较低或过于冗长的LSFs则被淘汰。由此产生的过程类似于在明确的沟通瓶颈下的文化语言进化：正确性充当沟通成功的角色，符号长度充当生产成本的角色，而路由充当在简洁和冗余LSFs之间进行语用代码转换的角色。经过几代，更有效的LSFs在智能体之间传播，而较无用的则被淘汰，最终形成收敛的鲁棒符号语言。我们在一系列具有挑战性的任务上设计实验，包括知识人，2022）、数学问题求解（Cobbe等人，2021；Hendrng等人，2018），以评估LLM创建的语言的影响。为了yckng等人，2018），以评估LLM创建的语言的影响。为了通用性，我们使用各种开源LLM进行实验，例如Qwen3-8B/32B（Yang等人，2025）、LLaMA3-8B（AI@Meta，2024）和DeepSeek-R1（DeepSeek-AI，2025），并将每个模型在不同运行中视为一个代理。 3在多个开源骨干网络中，CLSR提高了准确性与生成token之间的帕累托前沿，其性能优于涵盖token缩减、程序执行和提示优化的基线模型。消融实验进一步表明：(i)更深层次的进化世代会系大规模代理群体可以提高发现健壮、可重用LSFs的机会，前提是选择目标在正确性和压缩性之间取得平衡。这些实证结果引出了一个关于任何语言符号化系统下推理准确性与token效率之间曲线的信息论解释。我们还进行了更大骨干网络的迁移、种群规模消融、缓存感知的token计费以及无类别的领域迁移，以验证方法论的鲁棒性。总之，这项工作提出了一种通过社会涌现的符号通信来提升LLM推理能力的方法。我们的主•CLSR：面向新兴语言的路径选择我们支持提出一种新的测试时范式，该范式将LLM创建视为符号语言（LSFs）作为模块化的“专家”和路由、组合，或根据查询进行编排。显式优化准确率-令牌预算权衡。进化引导程序，从零开始生成语言规范函数（LSFs)；我们进一步实现了跨代理采纳和跨基准池化，以促进语言规范函数的迁移与融合。显著的实证帕累托收益。•在七个多样化的推理基准和多个开源骨干网络上，CLSR始终提升准确率-效率前沿，并优于具有代表性的标记减少基线。符号主义下的准确率-令牌最优性理论。我们将CLSR形式化为一个带约束的随机控制问题，推导出最小令牌成本的信息论下界，并将多轮多LSF协议特征化为程序执行推理的条件泛化。2.研究方法我们介绍了通过大型语言模型生成的符号语言进行测试时推理压缩的CLSR框架。与搜索指令或改变表面措辞的提示优化不同，CLSR优化了一个可重用的通信协议：(i)中间消息受语法/合约约束并得到验证；(ii)相同的LSF在多个查询中重复使用（而非每个实例的提示微调)；(iii)路由器在成本预算下明确地将多个LSF调用组合成一个多轮协议。在推理过程中，大型语言模型参与一个多轮通信，其中不同的LSF充当专门的“专家”。并且，路由器会自适应地选择哪些LSFs应该发言、按什么顺序发言以及何时停止，明确优化了准确率与token之间的权衡。这些“专家”是涌现的符号语言，而非独立的神经模块，并且LLM的权重仍然无法访问。2.1.问题设定与指标设x为查询，y为从基准测试中抽取的真实答案。假设我们有一个进化的LSF池S={S_k}_(k=1)^K。在推理过程中，CLSR运行k轮，k=1到T，其中T可以是固定的，也可以由路由器根据测试查询t∈{1,,T}来确定。在第k轮，路由器从[K]={1,,K}中选择一个索引集I⊆[K]，并调用属于I的对应LSF子集{S_k}。然后，LLMk为每个选定的LSF生成一个响应。经验上，一个更难的问题往往会生成更大的T或|I|。r计算成本（令牌计费）。设LSFS在第t轮生成的t,kLLM响应为tLLM响应，设第t轮LLM-路由器生成的规划输出为krroutertt。我们定义生成成本为(1)r|,t,k(1)大型语言模型（LLM）发出的在线令牌都被包含在内，包括路由器输出、中间局部序列到序列（LSF）响应以及与聚合相关的响应。该指标受到将大型语言模型（LLM）推理分解为提示预填充阶段（首次生成令牌时间T）的标准延迟分解的启发。对于推理工作负载中具有长完成的情况，解码项通常是延迟的主要组成部分，因此完成令牌提供了一个有用的面向延迟的代理。同时，LSF配置确实会引入输入令牌的开销。在部署中,这些卡片可以排列为固定的规范提示前缀并在许多查询中重用，因此相关开销取决于前缀缓存和服务基础设施。为此，我们在附录A.8中额外报告了一个缓存感知的令牌-C等效指标，同时在整篇论文中将其保留为主要生成的令牌指标。B目标。给定预算，我们的目标是最大化预期正确率,同时考虑预期实现成本：当策略指定路由器、停止和聚合规则时，π的期望值应高于基准分布以及任何由策略引起的随机性。2.2.语言符号框架(LSF)概念定义。在理想化形式下，一个语言结构框架（LSF)可以被描述为一个由符号通信协议组成的系统。42.3.LSF进化：迭代式自举三个组成部分：(i)符号命名，即紧凑词汇表；(ii)语法，即组合语法；(iii)约束，即良好形成性和使用规则。然而，在实践中，完全手动设计这些组成部分会使该方法退化为提示工程。因此，我们将LSF构建委托给LLM本身，并仅使用人工干预来定义高级优化目2.3.LSF进化：迭代式自举操作LSF卡。在实现中，每个LSF表示为S=V,G,存储为紧凑卡片R,ψ,ρ,其中V是符号库，G是轻量级语法或输出模式，R包含使用规则和有效性约束，将符号或模板映射到其预期推理操作，并且是总结成本、准确率、领域和失效模式的经验性概况。卡片以文本形式表示，因为其骨干是语言模型，但其作用并非一次性指令字符串。LSF在多个查询中重复使用，生成受语法或合约约束的消息，可由路由器选择或组合，并作为持久协议进行评估，其效用通过任务集合进行衡量。这种操作上的区别很重要：提示优化搜索更好的表面指令，而CLSR则搜索可重用的符号通信系统及其种子示例和LSF合成提示。给定一个基准训练集，我们从其中随机采样一小部分问答示例（通常几十个），并将它们放入上下文中。然后提示大语言模型自由地创造一种符号语言，旨在减少token使用量同时保留推理能力，例如，根据聊天历史中的示例设计一种LSF，以最小化token数量同时保持推理能力。默认流程中不进行人工编辑、符号剪枝或语法校正。LSF操作的精确提示模板在附录B中提供。多样性及定位。我们观察到，较高的采样温度自然地会产生多样化的LSFs（低级语言结构）群体，涵盖从严格LSFs（机器化、压缩、刚性格式）到软LSFs（更接近自然语言但仍为符号结构）的光谱。这种多样性对于下游的选择和路由至关重要，因为不同的符号协议可能在查询的不同子分布上占据主导地位。尽管生成循环表面上类似于迭代提示发现，但优化的对象不是指令字符串，而是一个可重用的符号语言系统。LSFs在许多查询中反复被调用，具有紧凑的语法/合约，并由路由器作为模块化协议进行选择或组合。这区分了CLSR与提示进化/优化方法（Yang等人，2023；Fernando等人，2024）。我们介绍一种进化引导的自举程序，该程序仅使用训练数据和黑盒大语言模型调用，逐步优化LSF池。代理种群。在我们的实现中，“代理”是指由骨干网络、随机种子、示例子集和LSF生成上下文指定的独立采样的黑盒LLM实例。代理并非独立的可训练神经模块；它们是用于多样化LSF种群的提议、评论和变异工作者。不同的代理可能会发现不同的表面LSF，但选择目标倾向于那些能够以较低的生成token成本反复达到高正确率的LSF。此定义也阐明了附录A.5.3中代理数量消融实验：增加代理数量会扩展对可能符号约定的搜索范围，而最终的推理模型保持冻结。 ,G□}互不相交的□,每□包含(x,y)□本，然后第一代。使用来自G的示例来诱导初始LSF池{S(1)}。此流程让人联想到提示进化系统中的迭代优化，但其不同之处在于，反馈信号用于进化符号库和约束，而不仅仅是自然语言中的指令。高杠杆选择与变异。设LSF-(ˆy,c)c条件化答案为一个元组，其中是生成的token数量。我们优先考虑修正ˆy=y的推理轨迹，包括：(i)在基准评估器下token高效的c，(ii)相对于同一查询的其他正确候选，的值较低。在实践中，我们通过帕累托标准实现选择，即优先保证准确率，其次是最小token数量。选出的高杠杆轨迹及其产生的父LSF，随后被用作变异步骤的上下文。我们要求大语言模型对父符号协议进行精炼或重组，使其保留成功的推理模式，同时移除冗余符号、模糊规则或易出错的惯例。因此，变异作用于LSF定义本身，而非仅仅重写输出答案。跨代精英传承。如果某些低频信号（LSFs）持续产生2.5.端到端推理过程5高杠杆的答案，我们就允许它们不变地存活到下一代。在实践中，表现最佳的LSFs(t)会未经k修改地复制到(t+1)中，而剩余种群则由突变或重组的变体填充。这防止了种群因随机突变而失去强大的LSFs，同时仍然允许探索。LSF配置文件：路由的成本-精度元数据。我们维护一个LSF的配置文件，该文件总结了在训练过程中的经验行为。对于每个LSFS，我们追踪：(i)在评估组中的精度估计值，(ii)标记统计信息（均值/中位数，尾部行为），(iii)可靠性指标（不同查询类型之间的方差、失效模式），以及(iv)从查询中推断出的S表现优异的领域标签。这些k个配置文件随后被路由器使用，以决定在推理时应用哪些LSF。2.4.测试时LSF路由CLSR超越了“选择一个提示”的限制，而是将LSFs视为一个可以根据查询进行选择、集成和组合的符号协无隐状态LLM路由策略为了消除额外的可训练路由网络以及访问LLM或网络的隐状态，我们可以通过将路由决策委托给同一个LLM来使用LLM路由器。这是通)将每个LSF的“战斗”配置文件压缩成简短描述，以及(ii)提示LLM为利用LSF池合成特定于查询的协议LSF配置文件摘要。离线状态下，我们要求大型语言模型（LLM）根据每个LSF的经验性配置文件生成一个简洁的描述符：它通常能很好地解决哪些类型的查询、典型的token占用空间以及常见的失败情况。x协议规划。在测试时，给定一个查询和LSF描述符集单一LSF直接回答1.：选择一个LSF并生成最终答案。具体而言，路由器生成一个计划：(i)轮数，(ii)每轮调用哪些LSF(s)，(iii)如何对中间响应进行后处理，以及(iv)何时停止。更多细节请参见附录C。检索LSF描述符1，并可选地一小部分配置统计数据。路由规划2：LLM输出一个协议，指定使用哪些LSF、是否并行化以及是否运行多轮。执行协议3：按指定方式生成中间响应。所有轮次中所有被调用的LSF生成的所有标记都计入总成本。根据路由生成的或自洽协议4，聚合得到最终答案。这产生了一种自适应推理模式：简单的查询通常T=1只需要一次低成本的LSF调用（），而困难的查询可能会触发多轮LSF通信T>1（），用额外的token换取更高的推理可靠性和推理准确性。本节以紧凑的理论视角概述了CLSR。正式的证明则推迟到附录E。我们还包含了对LSF演变的语言社会学解读，该解读解释了为何在准确性与效率的压力下，面向机器的紧凑型LSF能够通过反复选择而产生。3.1.分词准确率最优我们将CLSR测试时的推理形式化为一个带约束的x式推理策略（路由、停止、聚合）会生成一个多轮文本记录T（所有在调用的LSF/轮次中生成的标记）以及最终预测ˆY。我们根据预期标记成本ˆˆJ(π)内的最优准确率。λ≥0。此外，对于任何拉格朗日乘子λ,都存在一个最优确定性有限时间策略π∗，使其最大化...6低信息叙事文本，同时保留可重复使用的推理状态符低信息叙事文本，同时保留可重复使用的推理状态符J,J)可以由某个∗或两个相邻乘子的混合来实现(3)(4)后号，如变量绑定、子目标标记、验证标签和短操作符。其次，进化导致常规化。一个符号得以存续，并非因为它对人类具有内在意义，而是因为它反复为模型群体提供可靠的推理支持。第三，路由实现语用性代码转换。对于简单查询，严格的简洁语言规范（LSF）通常就足够了；对于模糊或困难的查询，路由器可能会选择更冗余的LSF，聚合多个LSF，或启动额外的验因此，CLSR应被视为一种测试时机制，用于研究LLM代理如何在明确的沟通瓶颈下发明、选择和重用紧凑的社会惯例，而不是被视为一种独立于人类的语言涌现的断言。附录E.1将此联系扩展到最小努力和迭代学习原则。3.3.普适性与有限程序CLSR协议类可被视为一种可编程计算系统：路由器实现控制流（即“专家语言”接下来使用哪个以及何时停止），每个LSF实现一种指令性符号编码机制，转录本T是可写入的内存，而聚合是一种任意的可计算读出。接下来，我们证明多轮多LSF交互是“先生成程序再执行”范式的自然推广。考虑两种推理程序族：绑定将三个因素分隔开来。首先，更高的目标δ精度会降低并增加Fano项，从而提高了转录本必须传递的信息量。其次，更难的查询具有更大的评估者诱导的不确定性H(Y|X=x)或更大的有效答案类别Y，在x中增加。第三，更强的符号协议通过将更多与任务相关的信息打包到每个生成的θ标记中，增加了reqκ(x)。从这个意义上说，CLSR不是通过违反信息限制来提高效率，而是通过改变表示方式，使得每个发出的标记携带更多有用的κ(x)推理状态。的主动历史定义θ对于自适应停止很重要：策略只能在困难的史中继续，因此每个标记的信息率必须在过程仍然活跃的条件下3.2.从社会语言学视角看LSF的演变非从空白的先验中创造语言：基础LLM已经内化了人类语言惯例、数学符号、特定领域的缩写以及特定分词器的规律性。因此，进化的LSFs最好被理解为面向机器的语言：它们受预训练语言先验的约束，但在一个新的目标下被选择，该目标奖励每个生成的token的正本透镜解释了三种反复出现的模式。首先，成功的语言服务提供商遵循最小努力原则：它们移除程序执行管道（PE）。一个结构良好的1.PE程序对基础LLM进行有限次调用，并获得LLM生成的文本T∈Σ（例如，代码/程序以及任何中间字符串）。然后：它应用一个确定性逻辑执行器ExecΣ→A，该执行器不访问外部知识。π仅使用LSF的CLSR协议。2.政策是一种多轮多LSF协议，它可以自适应地选择LSF和停止规则，但不会调用任何外部执行者。它仅从LLM生成中输出。前提（翻译器可实现性）。对于允许的S执行器类中的每一个确定性可计算执行器Exec*7→Ain，都存在一个LSF，使得对于任何Execs∈Σ*S输入字符串，通过一个基于Execs的条件LLM调用Exec(s)，其失败概率最多为ε<1/2|Exec(s)|+c，且为int0c（对于某个常数）。这是一个理想化的内部模拟前提。原则上，它由Transformer类架构的通用性结果（Perez等人，2019；2021）所支持，但它并不能自动保证适用于任何有限预训练检查点。表1.与Token削减方法的准确率-Token权衡比较。RawCoT（Wei等人，2022年）、CCoT（Nayab等人，2024a）、CoD（Xu等人，2025b7)、SoT（Aytes等人，2025a）和CLSR（我们方法）在七个基准和四个主干网络（LLaMA3-8B、DeepSeek-R1-Qwen3-8B、Qwen3-8B和Qwen3-32B）上的推理准确率（%）和每个问题的平均完成Token数。CLSR始终提升准确率-Token前沿，通常匹配RawCoT的准确率，同时将Token使用量减少约3/4，并在可比预算下优于长度控制提示基线。专业方法LLMSM专业方法MMLU-GPQA-MAINGSM8KMATH-500AIME21-24SCI-QAHOTPOT-QAACCTKNACCTKNACCTKNACCTKNACCTKNACCTKNACCTKNLLAMA3-8BRAWCOT38.696030.4120984.912451.67046.1170561.35145.132COD35.835226.438680.55142.22804.9104159.81940.224CCOT37.237029.345083.66545.63155.8120560.22244.328SOT36.434028.239882.35545.22895.3105161.21945.82132030.836284.35248.22576.2103561.41845.514DEEPSEEK-R1-0528-QWEN3-8BRAWCOT71.1178973.2538092.243391.2354486.2819071.312555.8213COD68.358273.2189286.520480.5184277.4354568.43751.256CCOT64.551670.4160590.322083.4203279.6394670.24353.065SOT69.245871.4153691.820584.1198281.3326671.04154.85935673.1132692.419888.1175382.5297971.53054.543QWEN3-8BRAWCOT60.227649.1108590.924387.287846.1423477.87566.4134COD55.612542.728285.410074.538930.2261076.24663.258CCOT50.213541.324589.212578.442336.7280578.24965.270SOT58.511845.222890.310781.329438.0263779.34565.8639647.722891.28986.825743.7236177.83566.448QWEN3-32BRAWCOT67.540554.298391.321689.384546.8457279.28168.4165COD64.231849.227682.110581.536532.5291277.05364.678CCOT65.119250.831288.29482.038237.3302579.15665.881SOT64.313451.424790.511283.827838.5245378.94866.27211854.020991.69189.420645.2203880.23968.855假设成立或失效时。解释器可执行性是合理的，当：(i)它在基础模型算法能力范围内（例如，简单的算术运算、有界符号操作），(ii)所需的执行轨迹符合模型的有效上下文/注意力约束，以及(iii)解码足够可靠（或可以通过自洽性来稳定）。对于需要精确长时程计算或严格形式保证的解释器，它可能失效。4.1.实验设置基准。我们评估了符号语言推理，使用了七个广泛使用的推理基准，这些基准涵盖了知识密集型问答、多跳检索式问答以及数学问题解决：(i)广域事实与专业推理(MMLU-Pro(王等,2024)),(ii)专家级科学问答（具有强对抗难度)(GPQA(雷因等,2024)),(iii)小学多步算术(GSM8K),(iv)比赛式证明与推导(MATH500(亨德里克斯等,2021)和AIME(21-24)(维拉博伊纳,2023)),(v)短答案科学问答(ScienceQA(陆等,2022)),(vi)多跳 骨干LLM代理。为测试跨模型系列和规模的泛化能力，我们使用多个开源LLM骨干网络运行我们的流程，将每个检查点视为语言创建和/或推理中的独立代理。我们报告了Qwen3-8B/32B（Yang等人，2025年）、LLaMA3-8B（MetaAI，2024年）以及DeepSeek-R1（0528-Qwen3-8B）的蒸馏变体（DeepSeek-AI，2025年）的结果。整个过程中，骨干权重保持冻结；改进完全来自测试基线。我们比较了测试时推理和标记减少提示策略：(i)原始思维链提示（标准思维链提示）（Wei等人，2022年）,(ii)草稿思维链（Chain-of-Draft）（Xu等人，2025b),(iii)受约束思维链（ConstrainedCoT）（Nayab等人，2024a），以及(),(iii)受约束思维链（ConstrainedCoT）（Nayab等（Aytes等人，2025a）。我们还比较了基于程序的策略：(v)思维程序提示（Program-of-Thoughtsprompting）（Chen等人，2023年）和(vi)程序辅助语言（Program-aidedLanguage）（Gao等人，2023年）。此外，我们还比较了提示优化方法：(vii)解决方案计划（Plan-to-Solve）（Wa8(a)科学基准(b)数学基准测试(c)Hardmath(AIME21-24).图2.缩放生成的token：在测试时缩放下，CLSR优于CoT。我们通过测试时缩放（多数投票的多个样本）增加生成的token数量,并将标准CoT与CLSR（LSF）进行比较。所报告的曲线追踪了经验上的准确率-token权衡。CLSR在给定token预算下（或在更少的token下达到相同准确率）在(a)科学QA基准、(b)数学推理基准和(c)难题数学（AIME21–24）中均实现了更高的准确率，支持了我们的理论框架：结构化的符号轨迹提高了每个生成token所携带的信息量。(a)#代理@MMLU-pro(b)#令牌@MMLU-pro(c)#代理@GPQA(d)#令牌@GPQA图3.扩展进化代理可提升LSF质量。我们削减了参与离线LSF进化过程（并行提议、评论和细化）的LLM代理数量，并在代表性基准上评估了由此产生的LSF池。跨任务来看，使用更多代理通常能提升下游准确率，同时也会增加（或小幅改变）生成成本。2023年）以及（viii）PromptBreeder（Fernando等人，2024年）。所有方法均在相同的基准数据集划分上进行评估。指标（准确性和令牌成本）。对于每个基准，我们报告：(i)推理准确率（%）以及(ii)推理LLM和LLM-路由器发出的生成令牌数量。对于CLSR，这包括在选定的LSF中线生成所有令牌、路由器计划、中间轮次和聚合响应，这对应于第2.1节中的成本定义。我们使用生成令牌作为主要的面向延迟的指标，因为解码阶段主导了许多推理工作负载，而提示前缀成本高度依赖于服务。为了明确解决输入开销问题，附录A.8报告了一种缓存感知的令牌等效指标，该指标包括可重用的LSF-卡片前缀，并将未缓存输入、缓存输入和输出令牌系数分开。4.2.实施细节从示例中进行LSF合成。对于每个基准，我们从训练集中采样N∈[200,2000]个包含真实推理内容的训练示例。基于这些上下文中的示例，我们提示LLM主干网络创造一个包含数百个语言符号框架（LSF）的初始种群，每个框架具体指定：(i)一个紧凑的词汇表，(ii)约束性语法，以及（三）旨在减少标记占用空间同时保留推理能力的使用约束。附录A.6.4报告了一个种群规模消融实验。我们使用0.9和0.3的温度生成LSFs，并使用温度评估推理过程。进化自举（代）。我们通过一个进化循环迭代优化LSF种群。在每个进化步骤中，我们在保留的验证集上评估候选LSF，然后选择同时正确且token高效的杠杆推理轨迹。这些选定的轨迹被反馈给LLM，以合成下一代LSF种群。默认情况下，我们使用第五代进化LSF池进行最终测试评估。推理时，我们通过混合从不同基准进化而来的LSFs来维护一个全局池。对于一个测试查询，路由器可能会（i）选择一个现有的LSF，这对于较简单的查询是典型的；（ii）为中等难度的查询选择并聚合多个LSFs；（iii）对于困难情况，跨多轮组合多个现有的LSF。默认情况下，选择目标平等地权衡token长度和准确率；LSF卡的token数量根据任务难度和协议深度在500-2000之间变化。我们使用LLM路由器来确定测试问题所需的轮数T，T={1,3}。我们也可以固定T。9与其由路由器决定，不如参考附录A中的表3了解更多消融研究。系统和计算。所有实验均在8×NVIDIARTX4090GPU上进行。生成和演化LSF种群总共需要几天时间。这是一次性的离线协议发现成本，类似于自动提示/协议优化方法中的预部署搜索成本。CLSR旨在用于演化LSF池在许多下游查询中可复用的场景，因此离线成本可以分摊到服务时间的推理过程中。在线路由/LSF选择阶段每个查询耗时小于1秒，相对于LLM解码来说很小。详见附录A.8。4.3.主要成果表1-3展示了核心的实证模式：CLSR在不同骨干网络和基准测试中始终提升了准确率-令牌前沿。与RawCoT相比，CLSR在保持准确率（并在许多情况下略微提升准确率）的同时，显著减少了完成所需的令牌数量。与直接令牌缩减提示的基线相比，我们的CLSR在帕累托前沿上表现更稳定：激进的压缩基线往往通过牺牲正确性来节省令牌，而CLSR保留了可重用的符号协议,并根据查询难度在局部敏感函数（LSFs）之间进行收益并非均匀的符号缩短；它们反映了推理资源的适应性分配。在MMLU-Pro和GPQA等知识密集型问答基准上，大部分自然语言推理过程可以被压缩成紧凑的符号状态，而不会造成较大的精度损失。在MATH500和AIME等需要大量推理的数学基准上，路由器通常能从选择更严格的局部搜索函数（LSF）或调用额外轮次中获益，因为该任务需要多步转换和验证。对于短答案数据集，绝对完成长度本就较小，因此符号节省自然更为有限，但CLSR在精度上仍然具有竞争力。这些数据进一步解释了聚合结果背后的机制。图2显示,与标准CoT相比，CLSR在测试时使用更多token时表现更优，表明结构化符号轨迹比重复的自然语言采样能更有效地利用额外预算。图3显示，增加生成LSF的智能体数量提升了最终语言池，这与更广泛的LSF探索和更强的选择压力相符。图4显示，在饱和前，更深层次的进化提升了准确率-token比率，表明进化循环不仅缩短输出，还选择能保留每个生成token更多任务相表2.Qwen3-8B上与程序执行和提示优化方法的比较。我们将CLSR与两种程序执行流程进行比较：PoT（思维链）和PAL(程序辅助语言以及两种提示优化方法：P2S（计划求解）和PBrd（提示培育者）。对于TCLSR，T表示轮数。对于PoT和PAL，报告的token数量仅指用于生成程序所使用的token。M方法ACCGSM8K数学500GPQATKNACCTKNACCTKNCOT91.624887.890543.8973POT92.111388.1375//PAL92.514888.6422//P2S92.231688.9120545.21085PBRD93.623588.484346.1922CLSR92.89086.825742.62288386.213440.918221489.741749.2565不依赖外部执行器的情况下依然具有竞争力，并且它也改进了针对提示优化的基线方法。这些结果支持第3种在准确率-令牌前沿上的自适应策略，其多轮LSF协节：种在准确率-令牌前沿上的自适应策略，其多轮LSF协议能够在所需的符号操作仍然处于模型内部能力范围时，近似地执行程序式计算。4.4.消融与分析我们排除了以下设计选择：(i)进化深度（第A.5.1节),(ii)示例数量（第A.5.2节(iii)智能体数量和长度系数（第A.5.3节），(iv)T多轮次数（第A.5.4节），(v)通过交换LSF生成器进行跨LLM迁移（第A.5.5节），以及(vi)定性示例（第A.7节）。我们还在附录A.6中报告了鲁棒性研究，包括种子稳定性、种群规模敏感性、大模型推理、长上下文试点评估、类别/全池路由、跨域迁移和缓存感知的令牌计数。我们介绍了CLSR，这是一个在测试时使用的框架，它允许大型语言模型（LLMs）发明、进化和在紧凑的符号通信协议之间进行路由。经验上，CLSR在不同的推理基准测试中提高了准确率-效率前沿，鲁棒性检查显示出稳定的提升。概念上，CLSR表明LLMs可以发展出面向机器的语言，而这些语言并非由人类手动设计。然而，离线语言进化可能计算成本高昂，合成管道需要用推理内容来训练示例。未来的工作应研究符号语言如何在模态、工具和多智能体环境中迁移。最后，表2将CLSR与程序执行进行了比较本研究部分由国家重点研发计划（项目编号：2023YFC2508704）资助，部分由中国国家自然科学基金（项目编号：62236008）资助，部分由北京市自然科学基金（项目编号：L251082）资助，以及部分由山东省自然科学基金（项目编号：ZR2025ZD01）资助。影响声明本研究旨在通过减少不必要的生成token来提高LLM推理的效率，同时保持任务性能。主要潜在风险在于，紧凑的符号化轨迹可能不如自然语言推理直接可解释,这可能导致在实际部署中人类审计更加困难。一种实用的缓解方法是使用CLSR与大型的LLM进行内部推理,同时要求最终系统使用较小的LLM输出人类可读的解释。我们并未引入包含个人可识别信息的新数据集或超出黑盒LLM提示和评估范围的新模型训练程序。参考文献Meta的AI。Llama3模型卡。无，2024年。URLhttps://g/meta-llama/llama3/blob/main/MODEL_CARD阿罗拉，D.和扎内特，A.训练语言模型以实现高效推理。arXiv,2025.艾特斯，S.A.，白克，J.，和黄，S.J.Sketch-of-thought:基于自适应认知启发式草图的高效大型语言模型推理。arXiv预印本arXiv:2503.05179,2025a.Aytes,S.A.,Baek,J.,和Hwang,S.J.思维草图：基于自适应认知启发式草图的高效大型语言模型推理。arXiv预印本arXiv:2503.05179,2025b.巴雷兹F,吴T-Y,阿尔库申I,兰M,王V,西格尔N,科利永N,尼奥C,李I,帕伦A等.思维链并非可解释性.预印本,alphaXiv,第v1页,2025.贝瑟，A.，彭茨，D.，和穆斯利乌，N.中间语言很重要：正式选择驱动神经符号LLM推理。arXiv预印本arXiv:2502.17216，2025。贝斯塔，M.，布拉赫，N.，库比塞克，A.，格斯特纳贝格，R.，波斯塔夫斯基，M.，吉安纳齐，L.，加贾,J.，莱曼，T.，涅维阿多姆斯基，H.，尼茨克，P.等.思维图：使用大型语言模型解决复杂问题.载于AAAI人工智能会议论文集，第38卷，第17682-17690页,2024年.陈Q，秦L，刘J，彭D，关J，王P，胡M，周Y，高T，和车W.迈向推理时代：推理大语言模型长链-of-thought综述.arXiv预印本arXiv:2503.09567,2025.数值推理任务将计算与推理解耦。机器学习研究交易,2023年。程杰，范杜梅.压缩思维链：通过密集表示进行高效推理.arXiv预印本arXiv:2412.13171,2024.科布(Cobbe,K.),科萨鲁(Kosaraju,V.),巴伐利亚(Bavarian,M.),陈(Chen,M.),君(Jun,H.),凯撒(Kaiser,L.),普拉珀特(Plappert,M.),特沃克(Tworek,J.),希尔顿(Hilton,J.),奈良(Nakano,R.),等.训练验证者解决数学应用题.arXiv预印本arXiv:2110.14168,2021.DeepSeek-AI。Deepseek-r1：通过强化学习激励大语言模型的推理能力，2025。URL/abs/2501.费尔南多，C.，巴纳塞，D.S.，米哈莱夫斯基，H.，奥斯因德罗，S.，和罗克塔舍尔，T."Promptbreeder：通过提示进化实现自我指涉的自我改进"。在《机器学习国际会议》，第13481–13544页。PMLR，2024年。高，L.，马达安，A.，周，S.，阿隆，U.，刘，P.，杨，Y.，卡兰，J.，和纽比格，G.Pal：程序辅助语言模型。在机器学习国际会议，第10764–10799页。PGehring,J.,郑凯,K.,Copet,J.,Mella,V.,Cohen,T.,和Synnaeve,G.Rlef：使用强化学习将代码大模型与执行反馈相结合。在2025年第四十二届国际机器学格兰德G.,黄L.,鲍尔斯M.,奥卢森T.X.,刘M.,塔南鲍姆J.B.,安德烈亚斯J.Lilo:通过压缩和记录代码来学习可解释的库。在2024年第十二届学习表示国际会议。亨德里克斯D.,伯恩斯C.,卡达瓦什S.,阿鲁拉A.,巴萨尔S.,唐E.,宋D.,施泰因哈特J.使用数学数据集衡量数学问题解决能力.arXiv预印本arXiv:2103.03874,2021.坎沃尔，J.，史密斯，K.，卡尔伯特森，J.，和柯比化微型词汇以实现高效沟通”，认知，165:45–52，2017.小岛淳,佘树森,里德·M.,松尾雄,井上雄.大型佩雷斯，J.，巴塞洛，P.，和马林科维奇，J.注意力语言模型是零样本推理者.神经信息处理系统进展,3库文霍文T.,皮珀科恩M.,和范霍夫T.搜索结构：探究与大型语言模型的涌现式通信.载于第31届计算语言学国际会议论文集，第9977-9991页，2025年.拉扎里杜，A.和巴罗尼，M.深度学习时代的涌现式多智能体通信。arXiv预印本arXiv:2006.02419，20陆培，P.，米什拉，S.，夏天，T.，邱立，Qiu，L.，张凯文，Chang，K.-W.，朱思诚，Zhu，S.-C.，塔夫乔德，O.，克拉克，P.，和卡利亚南，A.学习解释：用于科学问答的多模态推理——思维链。神经信息处理系统进展，35:2507–2521，2022。Madaan,A.,Tandon,N.,Gupta,P.,Hallinan,S.,Gao,L.,Wiegreffe,S.,Alon,U.,Dziri,N.,Prabhumoye,S.,Yang,Y.,等.Self-refine：基于自反馈的迭代优化方法.神经信息处理系统进展,36:46534–46594,2023.纳亚布S.,罗西尼G.,巴塔佐G.C.,曼内斯N.,和吉亚科梅利F.简洁思考：输出长度对大语言模型推理和成本的影响。arXiv,2024a.纳亚布，S.，罗西尼，G.，西蒙尼，M.，萨拉基诺，A.，布-塔佐，G.，马内斯，N.和吉亚科梅利，F.简明想法：输出长度对大型语言模型推理的影响cost.arXivpreprintarXiv:2407.19825,2024b.裴铮,王思.受动力学启发的神经形态视觉表征学习.国际机器学习会议,pp.27521–27541.PMLR,2023.裴Z.,张A.,王S.和黄Q.建模40128.PMLR,2024a.裴铮，张爱，王思，姬翔，黄启.无数据神经表征压缩与黎曼神经动力学.国际机器学习会议,pp.40129–40144.PMLR,2024b.裴铮，黄启，王思.高效神经表征的神经元群体通信.arXiv预印本arXiv:2510.16851,2025.现代神经网络架构的完整性。2019.2021.林恩，D.，侯，B.L.，斯蒂克兰德，A.C.，皮蒂，J.,庞，R.Y.，迪拉尼，J.，迈克尔，J.，以及鲍曼，S.R.Gpqa：一个研究生级别的防谷歌搜索问答基准。arXiv预印本arXiv:2311.12022，2023。林恩，D.，侯，B.L.，斯蒂克兰德，A.C.，皮蒂，J.,庞，R.Y.，迪拉尼，J.，迈克尔，J.，以及鲍曼，S.R.Gpqa：一个研究生级别的防谷歌问答基准。在2024年语言建模第一会议。施克（Schick,T.）、德维维迪-尤（Dwivedi-Yu,J.）、德西（Dessı,R.）、拉莱努（Raileanu,R.）、洛梅利（Lomeli,M.）、汉布罗（Hambro,E.）、泽特洛伊（Zettlemoyer,L.）、卡内尔达（Cancedda,N.）和斯卡利奥姆（Scialom,T.）.Toolformer:语言模型可以自学使用NeuralInfo68551,NeuralInfo68551,2023rmationProcessingSystems）,36:68539rmationProcessing·M.思想算法：增强大型语言模型中的思想探索.在机器学习国际会议,第44136-44189页.PMLR,2024.辛恩（Shinn,N.）、卡萨诺（Cassano,F.）、戈皮纳特（Gopinath,A.）、纳拉辛汉（Narasimhan,K.）和姚（Yao,S.）.Reflexion：具有语言强化学习的语言代理。神经信息处理系统进展（AdvancesinNeuralInformationProcessingSystems），36:8634–8652,2023.斯普拉格，Z.R.，尹，F.，罗德里格斯，J.D.，蒋，D.，瓦德-华，M.，辛格哈尔，P.，赵，X.，叶，X.，马霍沃尔德，K.以及Durrett，G.要婴儿床还是不要婴儿床？思维链e在数学和符号推理方面提供帮助。谭麦，K.，阿格拉瓦尔，K.，梁，P.P.，以及Mukher-哎呀，S.奥利昂：教语言模型进行推理以思维的语言高效地。arXiv:2511.22891,2025.塔克(Tucker,M.),莱维(Levy,R.),沙赫(Shah,J.A.)和扎斯拉夫斯基(Zaslavsky,N.).在涌现式交流中权衡效用、信息性和复杂性.神经信息处理系统进展(Advancesinneuralinformationprocessingsystems),35:22214–22228,2022.特平，M.，迈克尔，J.，佩雷斯，E.，和鲍曼，S.语言模型并不总是说出它们认为的内容：思维链提示中的不忠实解释。神经信息处理系统进展，36：74952–74965，2023.维拉博伊纳，H.AIME问题集1983-2024，2023年。网址：https:///datasets/hemishveeraboina/aime-problem-set-1983-2024。 姚思，余东，赵静，沙弗兰，格里菲斯，曹阳，和Н王丽，徐伟，兰雨，胡哲，兰雨，李国伟，以及林慧敏。姚思，余东，赵静，沙弗兰，格里菲斯，曹阳，和Н论文集（第一卷：长文）》，第2609-2634页，2023年。王X，魏J，SchuurmansD，LeQ.V，ChiE.H，NarangS，ChowdheryA，和周D。自洽性提升了语言模型中的思维链推理。在第十一届学习表征国际会议，2025a。王宇，马晓，张刚，倪雨，ChandraA，郭思，任伟，ArulrajA，何翔，蒋哲，等.Mmlu-pro：一个更健壮且更具挑战性的多任务语言理解基准.神经信息处理系统进展，37:95266–95290,2024.王怡，罗航，姚浩，黄涛，何浩，刘瑞，谭娜，黄杰,曹翔，陶东，等.R1-compress：基于块压缩和搜索的长思维链压缩.arXiv预印本arXiv:2505.16838,2025b.魏杰，王翔，Schuurmans，德，Bosma，夏峰，Chi，Le，Q.V.，周栋等。思维链提示激发大型语言模型的推理。神经信息处理系统进展，35:24824–24837，2022。徐凯，张凯，黄伟，李杰，王宇然.Rlg-rag:通过推理逻辑指导检索增强生成框架中的知识检索与评估.ACM网络会议2025年论文集附录,第1450-1454页,2025徐思，谢伟，赵立，何平.草稿链：以更少的写作速度更快地思考.arXiv预印本arXiv:2502.18600,2025b.杨A，李A，杨B，张B，会B，郑B，于B，高C，黄C，吕C等。Qwen3技术报告。arXiv预印本arXiv:2505.09388杨晨，王馨，陆阳，刘浩，LeQ.V.，周栋，陈翔.大型语言模型作为优化器.第十二届学习表征国际会议杨智，齐鹏，张三，贝尼奥夫，科恩，萨拉赫丁诺夫,和曼宁。Hotpotqa：一个用于多样化和可解释的多跳问答的数据集。载于2018年实验方法自然语言处理会议论文集，第2369-2380页，2018年。R姚思，赵静，于丹，杜娜，沙弗兰，纳拉辛汉，曹阳.React:在语言模型中协同推理与行动.在第11届学习表示国际会议，2022.арасимхан卡。思维之树：使用大型语言模型的刻意问题解决。神经信息处理系统进展，36:1180余飞，张航，蒂瓦里，王博.自然语言推理综述.ACM张伟，张敏，孙晓，和莫军.基于机器学习方法的三维声场系统重建.电子快报，61(1):e70133,2025a.张X，曹J，尤C，丁D.Whypromptdesignmattersandworks:Acomplexityanalysisofpromptsearchspaceinllms.InProceedingsofthe63rdAnnualMeetingoftheAssociationforComputationalLinguistics(Volume1:LongPapers),pp.32525–32555,2025b.周丹，施查利，侯立，魏杰，斯凯尔斯，王旭，舒尔曼斯，崔晨，布索，雷启文等.Least-to-mostpromptingenablescomplexreasoninginlargelanguagemodels.在第11届学习表征国际会议，2022.周鹏，Pujara，J.，任翔，陈翔，程海涛，Le，Q.V.，Chi，E.，周栋，Mishra，S.，和郑海松.Self-discover:大型语言模型自我构建推理结构.NeuralInformationProcessingSystems，37:126032–126058，2024.A.附录：更多实证结果(a)推理准确度(b)生成token的数量。(c)准确率与token数量比率图4.进化深度对准确率-标记前沿的影响。我们变化用于优化LSF池中N个语言进化迭代次数，同时保持骨干网络固定。表示用于LSF合成的训练样本数。我们报告了(a)测试准确率，(b)每个问题平均生成的完成标记数，以及(c)一个聚合效率分数 。增加进化深度可以提高准确率和标记效率，然后趋于饱和，这与“进化更好的LSF会增加定理3.2预测的有效每标记信息率”的观点一致。(a)不。代理与无符号标记。(b)不。代理与准确度。(c)无代币与准确率(a)不。代理与无符号标记。(b)不。代理与准确度。(c)无代币与准确率A.1.与长度可控的提示基线进行比较。与约束思维链（CCoT）、草稿思维链（CoD）和草图思维链（SoT）相比，CLSR实现了更强的整体权衡：（i）相对于CCoT，CLSR在提高准确性的同时使用了更少的token（因为CCoT移除了冗余但未引入任务自适应的符号代码）；（ii）相对于CoD，CLSR在适度的token增加下显著提高了准确性，表明单纯的极端压缩是不够的，即中间表示必须保持信息密集和组合性；（iii）相对于SoT，CLSR在相似的token预算下实现了更高的准确性，表明我们通过进化搜索在LSFs上发现的任务专用符号算子比固定的手工设计约束族更多。(a)不。代理与无符号标记。(b)不。代理与准确度。(c)无代币与准确率(a)不。代理与无符号标记。(b)不。代理与准确度。(c)无代币与准确率A.2.从理论视角进行解读SR以与增加一致的方式改进了经验成本-精度曲线：LSF轨迹用紧凑、携带状态符号（算子、绑定和验证标签）替换了低信息叙事文本，这些符号更好地保留了推理的可计算部分。此外，跨主干结构的鲁棒token节省表明，CLSR并非仅仅利用了特定模型的特殊之处，而是利用了表示层面的优势。A.3.在需要深思熟虑的问题上，收益最为显著。在需要多步推理和/或验证的基准测试（尤其是MATH500和AIME21–24）上，最大的准确率优势得以体现。例如，CLSR在所有主干网络中始终如一地提高了AIME21–24的准确率，同时相对于RawCoT大幅减少了token数量。这一模式与定理3.2的下限观点相符：随着I(x,δ)任务难度增加（目标解中有效不确定性更高），所需信息量上升，使得reqκ(x)朴素冗长变得昂贵；CLSR通过采用结构化的θ符号字母和可重用算子来提高有效每token信息率，从而以更少的token数量达到相同（或更高的）准确率。A.4.与程序执行流水线的比较表2将CLSR与两个规范程序基线进行了比较，例如PoT（Chen等人，2023）和PAL（Gao等人，2023），它们提示LLM生成可执行代码并将最终计算委托给外部解释器/运行时。PoT和PAL都已知通过将计算卸载到LLM外部来提高算术/符号可靠性，即“先生成程序再执行”。在Qwen3-8B上，PoT/PAL确实在GSM8K和MATH500上以显著更低的LLM解码token数优于标准CoT。然而，CLSR无需任何外部执行器即可匹配或超越这些收益：T=3配合一个小型多数投票集成(),CLSR使用214和417个token分别在GSM8K和MATH500上达到94.8%和89.7%，在准确率-token前沿超越了PoT和PAL。重要的是，表2仅报告了PoT/PAL的程序生成token数；它们的端到端部署成本还包括外部执行时间和工具链开销。从第3节的视角来看，这些结果经验性地支持了我们的主张：在解释器可实现性的前提下，CLSR的多轮多-LSF协议可以在内部模拟确定性执行器（定理3.3）的效果。实践上，CLSR提供了一种纯模型内的替代方案，用于PoT/PAL，既能保留其精度优势，又能避免对外部运行时和执行层工程的依赖。A.5.消融研究A.5.1.演化深度的影响。如图4所示，我们通过演化深度来控制演化过程，即构建LSF池时离线使用的递归提出→批判→变异→选择轮次数量。在固定的token预算下，增加深度能够持续提升下游准确率，这表明迭代优化产生的符号协议更具压缩性和任务一致性，而不仅仅是更长的推理过程。实践中，收益在小轮次后趋于饱和：一旦池中包含少量高杠杆LSF“家族”，后续轮次大多仅进行局部优化（边际准确率提升），同时增加离线成本。总体而言，更深度的演化通过放大对高信息量token的选择压力来强化LSF池，但在中等深度之后则呈现边际效益递减。这也支持了LSF间文化选择的核心假设：迭代保留高杠杆痕迹（正确且简洁）会使语言池更倾向于更具压缩性和可重用性的抽象。A.5.2.样本数量效应如图4所示，我们通过改变生成批次大小，即每代提出的候选LSF数量，来表征离线搜索中的探索-效率权衡。较大的批次可以提高多样性，并降低进化过早收敛到次优符号约定的概率，进而增加最终池子中包含每种查询类型强专家的机会。对于更大的主干网络（例如从4B切换到14B），N的增加在准确性和token减少方面都产生了递减的边际收益，这表明高容量模型可以从更少的示例中推断出有用的符号协议，而较小的模型则能从更大的示例集中获益更多。通常情况下，批次大小主要控制探索；使用它来避免早期崩溃，但一旦不同LSF模式的覆盖率达到，就应预期收益会递减。A.5.3.代理数量和长度正则化的影响。如图3及附录图5-8所示，我们研究了：(i)参与进化的智能体数量，以及(ii)在选择过程中惩罚冗长中间表示的长度系数。通常，更多的智能体能够提升种群质量，因为它增加了风格和算法的多样性，从而实现更强的跨智能体互评，并产生更鲁棒、能够泛化于不同查询分布的LSFs。同时，长度系数直接调节了准确率-令牌Pareto点：增加它鼓励生成更短、更高密度的符号轨迹（使用更少的令牌），但如果设置过于激进，则可能在难例上分配过少的“推理带宽”。总体而言，智能体规模扩展主要提升了搜索广度和互评质量，而长度系数提供了一个用于调节令牌效率的清晰旋钮，应适度设置以避免牺牲难例的准确率。CLSR对多轮应用相同的潜在符号-符号细化算子。一个自然的设计选择是T轮数是否对所有输入都固定，或自适应（实例相关）。从我们理论上的T分析（第3节）的角度来看，它充当推理时的计算预算：每增加一轮会消耗额外生成的符号，但可以通过启用进一步的压缩-验证-校正循环来减少残差误差。最优策略并非T，因此通常不是单一的全球最优，而是一种自适应停止规则，仅在预期边际收益超过边际符号成本时才继续细化。形式上，设x为输入，y为真实答案，s_t表示CLSR在t轮后的内部状态（例如，tc(s)表示当前潜在符号形式及其诱导答案的分布）。每一轮会产生一个期望的token成本t∆u(s)并带来一个期望的效用改进。准确率-token权衡的一个标准拉格朗日视角是tπ^*是一个停止策略，用于在每个时间步决定是否继续。这个目标意味着一种“最优”行为，该行为是实例自适应的：简单问题应该早点停止（较小的π^*），以避免浪费代币，而复杂问题可能需要额外轮次表3.T固定T=1，在Qwen3-8B上变化CLSR轮数。我们将标准CoT与CLSR在(i)（单次固定T=3，未固定TT=3微调）、(ii)（始终运行三轮）以及(iii)（使用（学习到的实例自适应停止规则））进行比较。在GSM8K、MATH500、GPQA-main、AIME（2021-2024）和MMLU-pro上报告了max准确率（%），以及每个问题的平均完成Ttoken数。自适应CLSR在固定设置相比下仅略微增加了token开销，达到了最佳准确率，并且在大多数实例上提前停止，展示了有效的实例级计算分配。GSM8K数学500GPQAAIMEMMLUACCTKNACCTKNACCTKNACCTKNACCTKNCOT91.624887.890543.897346.6450263.22729086.825742.622844.7236163.69392.18386.213440.918238.4104762.18594.821489.741749.256546.8331467.2257N实验上，表3在Qwen3-8B中验证了这一预测。与-shotCoT相比，CLSR在准确性和未固定TT=3的token效率方面均有提升。更重要的是，CLSR（自适应，带）在maxTMATH500和AIME基准测试中实现了最佳整体准确率，同时将平均完成长度保持在固定设置附近。在相同的T=1实验中，自适应策略在大多数情况下选择，这表明CLSR确实学会了在不需要额外精炼时提前停止，但保留了为困难输入分配更多轮次的选择。我们还观察到例如TT，对于更难的基准（如AIME），默认CLSR（未固定，LLM路由器可以根据测试问题的值确定T=1T=1的值）使用的较少，因为其对应的token数量与默认设置相比更少。总的来说，这些结果支持了第3节的核心理据：CLSR应被视为一种自适应计算分配机制，而不是固定长度的提示配方。A.5.5.交换左/右发电机（跨模型功率传输）的影响表4研究了诱导式语言模型（LSF）的跨模型迁移：我们使用生成器主干F进化LSF池，但执行生成式分类（genCLSR）时使用另一个推理主干F（F=F）。在GPQA、MATH500和GSM8K数据集上，匹配的对角线（F）在准确率上始终是推理生成（infgeninf）的最佳选择，而交换通常会减少token数量但会降低准确率。值得注意的是，使用更强的生成器与较弱的推理模型搭配会减少token数量，准确率仅略有下降；而使用较弱的生成器与更强的推理模型搭配则会导致更大的准确率损失；这种敏感性在知识密集型的GPQA基准上表现得最为明显。表4.交换LSF生成器（跨模型LSF迁移）。对于每个推理LLM，我们使用指定的生成器进化LSF池，然后使用推理模型运行CLSR推理。我们在GPQA、MATH500和GSM8K上报告推理准确率（Acc）和平均完成token数（Tkn）（token数包含完整执行的CLSR协议)。匹配的对角线产生了最佳准确率，而交换通常会减少token数但会降低准确率；这种降低在GPQA上最为明显，并且当生成器比推理模型较弱时尤为严重。I推断LLMLSFG发电机GPQA数学500GSM8KACCTKNACCTKNACCTKNQWEN3-4BQWEN3-4B(默)认45.132983.227390.393QWEN3-8B43.525482.619590.186QWEN3-8BQWEN3-8B(默)认47.7QWEN3-4B22842.186.817225781.891.21838989.284该模式与第3节中的理论观点一致：CLSR的收益来自于将有限的token预算分配给一个符号化协议，该协议的中间符号必须能够被推理模型可靠地解释。交换F会改变由gen生成的码本（操作符/缩写/约束），这会增加协议与F实现的解码器之间的“方言不匹配”；其结果是token使用量降低，但每个token的有效信息减少，因此推理准确率降低。实际上，结果表明当准确率是优先考虑时，应使用与推理相同的骨干网络来进化LSFs，而跨模型迁移是可行的，但通常帕累托次优，尤其是在生成器比推理模型较弱时。表5.种子稳定性。准确率和生成token数报告为Acc.（token数）。CLSR报告了在五个随机种子和示例采样上的平均值±标准BACKBONE方法MMMLU-PROGPQA-MAINMATH500COT38.6(960)30.4(1209)51.6(704)LLAMA3-8BSOT36.4(340)28.2(398)45.2(289)CLSR39.2±0.5(316±13)30.8±0.2(352±18)48.8±0.7(262±11)COT60.2(276)49.1(1085)87.2(878)QWEN3-8BSOT58.5(118)45.2(228)81.3(294)CLSR60.6±0.4(98±14)47.9±0.4(216±12)86.8±0.6(247±10)表6.大骨架推理。准确率和生成token数报告为Acc.（token数）。结果取三次运行的平均值。BACKBONE方法MMMLU-PROGPQA-MAINMATH500COT67.5(405)54.2(982)89.3(845)QWEN3-32BSOT64.3(134)51.4(247)83.8(278)CLSR68.1(90)54.0(209)89.4(206)LLAMA3.1-70BCOTSOTCLSR49.2(1020)47.5(385)49.8(312)41.3(1358)38.4(425)42.7(354)64.3(725)59.8(314)63.4(242)A.6.稳健性检验本节报告了额外的鲁棒性检验，以阐明稳定性、规模迁移、路由依赖以及实际令牌核算。A.6.1.种子稳定性和随机突变表5报告了在五个随机种子和示例采样上的平均值±标准差。不同的运行发现了不同的表面LSFs，但准确率-标记A.6.2.更大的推理主干表6评估了使用Qwen3-