权重空间编程:手工编辑 Qwen3.5,把 0.8B 决策模型从 1327 分改到 3604

facethef · reddit · 2026-11-09

Opper AI 博客介绍了一种"权重空间编程"(weight-space programming)实践:不靠重新训练,而是直接编辑 Qwen3.5 的权重,把一个用于游戏决策的小模型改造成顶级决策模型。

配图展示了八步迭代的成绩提升:从 0.8B v1 的均分 1327,经 0.8B v3(1911)、v5c(2050),换到未编辑的 4B(2175)后逐步叠加 circuit 编辑(+2750)、correction(2911)、fast serving(3290),最终 100 局平均 3604,超过了 jev 1.14 的 3597 和 ModernBERT-jev 的 3180,逼近 greedy rule 的 4450。前几步用 0.8B 模型,后续为 4B 模型。