SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness
Haozhe Liu, Tian Ye, Sensen Gao, Qihang Cao, Yitong Li, Mingchen Zhuge, Duomin Wang, Ruihua Zhang, Ping Luo, Jiawang Bian, Lei Zhu, Ligeng Zhu, Enze Xie, Song Han
cs.AI
2026-09-17
NVIDIA用自动研究循环在五百多个环境里搜harness改动，留下四个机制组成SoL-Pi：相对Pi少44.7%–49.0% token、API费用约降三分之一，分数仍接近。
编码 agent 拉长之后，贵的是整条轨迹的 token，不只是单次前向。内核、量化和小模型在降每 token 成本；harness 层（怎么执行动作、怎么压上下文、怎么处理大段观测）是另一条轴，而且改一处容易把失败和费用挪到后面。人肉盯日志再改代码，扩不到很多环境和任务。已有自动搜 harness 的工作，在搜过的任务上好看、留出任务上容易过拟合。
NVIDIA、南洋理工、MIT 把递归自改进放在 harness 层：研究 agent 看基线轨迹、提案、在开发环境里过能力门和效率门，冻结后再上留出基准。目标是可迁移的省 token 机制，不是给某一题打补丁。
外层覆盖约 152 个方向（上下文、进度、工具、委派、提示与策略、改进与评估），内层用独立谱系实现、评审、硬化。开发环境 535 个：495 个 GitHub issue–PR 仓库任务加 40 个带可执行 verifier 的合成题，共三千多次运行、六万多次交互。能力指标和容差事先钉死，研究 agent 改不了。EdgeBench 的 51 题留到冻结之后：11 题做单向验收，40 题做泛化，留出结果不回搜。
活下来的四个机制接到 Pi 上：
在公开 51 题 EdgeBench 上，相对 Pi、GPT-5.6 Sol：完整四件套（Efficiency）总分 42.003 vs 44.833（保留 93.7%），token 从 2.1538B 到 1.0990B（−49.0%），费用 $1339 到 $894（−33.2%）。只开 ObservationPack（Performance）把分数抬到 47.208，token 略降 6.1%。同一套 Efficiency 不经再搜索接到 Opus 5：分数 42.224 vs Pi 的 44.756（94.3%），token −44.7%，费用 −33.5%。相对原生 Codex / Claude Code，API 费用分别少约 50.0% 和 54.3%。论文折算每小时大约省 $8.75–$13.50（相对原生）和 $4.36–$5.71（相对 Pi）。
Terminal-Bench 4 的 63 道 CPU 题：SoL-Pi 解开 15 道，Codex 和 Pi 各 18；总费用 $211.12 vs Pi 的 $286.45。IMO 2026 六题 Lean 4 形式化，SoL-Pi 过 3 题，单题费用 $20.90，低于 Codex 的 $22.89 和 Pi 的 $25.32。内核优化 swarm 里，20 个 SoL-Pi worker 两小时 $60.11 打到 1127 cycles，Pi swarm $82.12 / 1366 cycles；单 agent 仍最便宜（$39.20 / 1333 cycles）。
每个单机制都降 token。ObservationPack 在 GPT-5.6 Sol 上分数最高，Action Fusion 在 Opus 5 上最高。完整栈 cache-read 从 2.13B 降到 1.06B，cache-write 从 0.014B 升到 0.032B，总费用仍下降：少复用前缀有时比反复喂长上下文更便宜。
在不改权重的前提下，harness 搜索能把长程 agent 的账单砍掉一块，并在第二个后端上还能用。四个机制分别打动作往返、压缩时机、大观测回放、日志委派，和「再训一个更小模型」正交。对跑通宵探索的团队，完整栈是效率点；要分的人可以只开 ObservationPack 或 Action Fusion。
搜只用 GPT-5.6 Sol 轨迹，Opus 5 上触发更少、更浅。EdgeBench 51 题里 11 题参与冻结验收，严格留出是 40 题。Terminal-Bench 4 解开数低于 Pi（15 vs 18），省钱伴随少量能力折损。swarm 每个配置只跑两小时一次。作者自己把跨模型迁移写成初步证据，也没有给出搜索宽度/深度的 scaling law。递归「更省的 harness 去搜下一版」还是愿景，这篇没有展示复利。