SAGE:通过拓指导减少长视野推理偏见

SAGE框架改善了 large language models 的长期推理

百度描述:SAGE使用符号闭包分析,代数散点化和夸张指导来削减长视野LLM推理中的探索和复合偏差.

标签:SAGE, large language models ,长视野推理,象征性关闭分析,安德鲁斯-柯蒂斯问题

首选图片:抽象的技术风格插画分支推理路径曲线通过负vely形空间;没有真实的人,没有公司标志,没有文本.

SAGE是一个名为Structural Admissibility-Guided Exploration的框架,其目的是减少 large language models 个长时间推理失败.报告结果涵盖了12个基准和7个模型家族,包括对Andrews-Curtis问题的8倍改进.这项工作很重要,因为稀疏奖励任务可以使本地合理的模型步骤积累到全球不稳定的轨迹中.

背景:为什么长远的推理会破裂

large language models 通常在反频繁时表现良好,但当答案仅经过许多依赖步骤验证后就变得脆弱.这种设置被称为稀疏奖励长视野推理.因为复杂的任务可以包含很长的链条,每个局部步骤似乎是可接受的,但是整个轨迹失败了.

对于读者来说,问题不在于模型不能产生可信的中间移动.问题在于可能的本地移动仍然可以导致全球失败路径.稀少的奖励使这个问题变得更加困难,因为直到最终结果为止,模型收到很少的信号.

该材料确定了两种反复出现的失败模式.第一个是探索偏差:模型被拉向局部可信但结构不稳定的分支.第二个是复合偏:随着深度增加,微小的偏差积累起来,使得难以达到罕见的成功路径.这些偏差并不仅仅是单独步骤中的错误.它们是推理空间本身的属性,其中分支结构和稀疏奖励相互作用.

Development Process:从SCA到SAGE

提出的答案以Symbolic Closure Analysis开始,简称SCA. SCA是作为一个理论镜头来理解本地可接受性,分支结构和稀疏奖励如何产生两种偏见. 它也被定义为在推理任务不那么正式并且没有提供密集的中间反时添加结构先验的设计原则.

这种框架很重要,因为它将普通的推理错误与搜索几何学造成的结构错误分开.局部可接受性意味着一个步骤可以满足有限的检查,而最终奖励仍然可能取决于后续选择的长序列.这种差距使得搜索空间难以导航.

在此分析的基础上,这篇文章介绍了SAGE (简称Structural Admissibility-Guided Exploration). SAGE被描述为一个统一的框架,将结构指导注入长期推理中.其目的是减少探索偏差和复合偏差,而不仅依赖奖励信号.

SAGE使用了两个互补的机制.第一个是代数分散化 (algebraic sparsification).它采用在本地允许的候选项并将它们投射到运算符索引的代数子空间上.目标是抑制虚假分支,这直接针对模型漂移到不稳定的局部选择的问题.

第二个是超标结构引导.它将推理状态嵌入到负曲线空间中.这提供了更密集的深度智能信号,帮助模型在许多步骤中看到进展并减少小错误的积累.两种指导信号共同旨在使搜索空间更容易浏览:一个修剪不稳定的分支,而另一个则提供了更加灵敏的 深度反 .

Latest Progress:基准和公共代码

在报告的评价中,SAGE在12个基准和7个模型家族上进行了测试.该材料指出,在这种范围内的设置方面,SAGÉ表现优于竞争基线.使用12个标准和7种模型家庭是重要的,因为它测试了一项任务格式和一个模型规模之外的方法.

最值得注意的报告结果是安德鲁斯-柯蒂斯问题的8倍改进,被描述为一个开放的真实世界长视野任务.公众代码可在https://github.com/Susan571/SAGE-NeurIPS2026上获得.存储库路径包括标签SAGE-NeurIPS2026.

目前阶段

现在SAGE是一个研究框架,具有定义的方法,基准证据和可访问的实现.它的贡献是为什么稀疏奖励推理失败的一个结构性解释以及解决这些故障模式的一对指导机制.公共代码路径允许读者检查实施细节.

读者可以关注的下一个证据是,当任务,模型家庭和评估条件变得更加广泛而困难时,相同的结构优先级是否继续存在.