Google 研究人员发现阻止自我改进的方法 AI名特工记住测试问题

超级描述:Google RRSI在培训任务上获得了高达14.1分,而未见的基准则得到了4.7点,同时代理运行时代码使用量下降了约30%.

标签:RRSI,代理带,克劳德奥普斯 4.8,双子座3.5闪光灯

特色图像:一个抽象的技术视觉反循环,分支编辑路径和缩小预算,没有人,公司标志或文本.

一篇关于RRSI的新研究论文说,AI个代理商最近取得的许多进展来自于代理商套件,而不是新的模型.套件是代理商周围的控制层:它决定了代理人在编辑之前是否打开正确的文件,在错误后恢复并清洁地呈现结果.这很重要,因为可转移的能力可以被基准内存隐藏.

从手工修复到自动重写

在最新的方法之前,工程师检查失败运行并直接修复.带.较新的系统自动关闭循环:语言模型根据测试任务的信号重复编辑 test带;这篇论文将此视为实际递归自我改进.由系统生成的反更新了带,并且更新后的带控制了后来的系统行为.

记忆问题

当相同的小组测试任务保持在循环中时,代理可以学习任务而不是技能.培训分数上升,但看不见的任务收益可能会缩减或消失.这篇论文描述了几种失败模式:优化器可以锁定基准特定怪癖,选择恰好得分好的编辑,或者添加复杂性以改善指标而不改进代理行为.其他方法主要是提高培训任务,并且很少转移到未见的基准.该论文中的谷歌认可数字显示RRSI在所有三个领域都提高了分数:编码,代理办公室工作和工程设计.

Edit Budgets,批评者和14.1的权衡

RRSI,或Regularized Recursive Self-Improvement of Agent Harnesses,使.带完全可编辑,但紧缩了循环的提议侧和验收侧.候选人只能捆绑有限数量的独立修改,由缩小预算控制. 允许早期进行大规模重写;后续轮需要可以清楚地追溯到结果的小型更改. 该系统存储以前的尝试以避免重复失败的想法,如果获得高原,探测未触及的 regions带区域. Google认证数字标记此两点控制,因为RRSI在提出变化以及当它们成为永久性时抑制自我优化.

在选择过程中,批评者拒绝硬编码任务名称,解决方案或其他基准特定技巧的建议.只有当它产生可衡量的收益时,才会接受额外计算,并且削减过期组件.

该评估使用了编码,代理办公工作和工程设计的八个基准,其中Claude Opus在整个过程中被 89结为4.8.与未经修改的基本线束以及最近四种优化方法相比,该论文报告训练任务高达14.1分,五个看不见的基准则高达4.7点.运行时代币的使用率大约低于非规范版本的30%.在看不到的基準标准上,性能从来没有下降过底值,这是记忆式束的一个常见失败.它改善了每一个外部培训任务,并在JobBench上获得最大的收益 (4.7分).

所有的方法在训练任务中得分很高,但在新任务中两种方法低于基线 bas带.RRSI在变体中获得了最小的训练收益,但是在未见作业上是唯一明显超过基线的方法;防护架旨在产生完全这种权衡. 在优化的带中,RRSi使用最少的代币和步骤并且在新的任务中最强大,尽管未经修改的基线更苗条.

跨模型转移和结模型边界

转移不仅限于用于优化的模型.使用双子座3.5Flash进行优化的编码.带将较弱的双子星3.1 Flash Lite从11.2提升到14.6点,而无需修改模型.发现的机制并不依赖于发现模型的能力.这项研究只涉及冷.模型周围的带,而不改变模型重量.作者得出的结论是只有当反复反成为持久变更时,自我改善才可靠.代码可以在GitHub上找到.

目前的阶段位于手动调整和模型训练之间. 手动.带通常无法泛化:ARC-AGI-3测试显示,Opus 4.6在熟悉环境中获得了97.1%,而在不熟悉的环境中得分为0%.英伟达最近推出了SoL-Pi,这是一种相关方法,研究代理人可以自动重建编码代理带并将代币使用量降低至49%,而不造成明显的性能损失.此之前不久,谷歌让代理人"梦想"过去的搜索运行以改进搜索策略,再次使该模式保持不变.问题是,在成为基准内存而不是可转移工程之前,level带级自我改善能走多远?