Beaker 复现 MIT 权重空间编程：改一个神经元，MATH-500 从 7% 提到 37%
VictorSanh · x · 2026-11-12
MIT CSAIL 的「权重空间编程」论文走红后，自主模型改进 agent Beaker 把这一机制做成了自动化循环：提出权重编辑 → 打分 → 只有可测量提升才保留 → 在未见过的留出题上验证，全程无梯度、无训练。
- Beaker 约一小时找到一个单神经元编辑，让 Qwen3.5-0.8B 在 MATH-500 上从 7.4% 提到 37.4%，成本不到 4 美元
- 原理：小模型失分主因是答题前反复输出「Wait」陷入循环耗尽 token；Beaker 仅凭权重和编辑得分定位到抑制「Wait」输出的神经元，将其输出加倍
- 与 MIT 原结果互补：MIT 的大编辑帮模型「逃出」循环而非「停止」循环，两者叠加达 58.8%（MIT 单独 51.1%)
- 局限：默认只会把答案变短，部分目标无法达成
权重已开源在 Hugging Face，公开可查运行记录。
所属事件:AI agent 不跑模型直接改权重，MATH-500 从 7.4% 升至 37.4%(4 条相关)→
「模型」频道最新
- Claude Fable 5.2 登顶 Agent Arena,净提升超第二名 1.5 倍 — daniel_mac8 · 2026-11-12
- Polymarket 押注：年底前发布 Gemini Flash 3.9+ 概率仅 34% — Polymarket · 2026-11-12
- Agent Arena 榜单更新：Muse Ember (Max) 排第 25，与 Muse Wonder 持平 — arena · 2026-11-12
- 用血染钟楼测模型撒谎：Kimi K3.1 Pro 居开源模型之首，仅次于 GPT 5.5 — eliebakouch · 2026-11-12
- 团队复现全部 9 个「权重空间编程」实验，结论有涨有跌 — burny_tech · 2026-11-12
- 开源 Iris-Z 首次让图像生成与深度估计共用一个骨干，9B/32B 全开放 — victormustar · 2026-11-12