不训练不跑梯度：AI agent 直接改权重修复 Qwen3.5 循环问题

VictorSanh · x · 2026-11-12

此前 @rikiyatakehi 通过手动编辑权重修复了一个陷入循环的模型；AI 公司 Beaker 团队把同一任务交给其自主 agent 改进器 Beaker，agent 从未运行模型，就自主找到了另一种修复方案——作者称之为「权重空间编程」（weight-space programming）：不做训练、不算梯度，直接改权重。

任务目标是 Qwen3.5 0.8B，该模型在 MATH-500 上失败率达 93%，常因陷入循环直到耗尽思考 token。Beaker 的工作方式是：分析 agent 的行为与失败模式，提出「改什么、怎么改」的假设，循环验证或证伪，对预定义分数做爬山优化。针对该模型爱生成 "Wait" 的倾向，Beaker 通过下调相关权重完成修复。