后训练 35B Qwen 学「权重空间编程」写 Atari 神经网络,Freeway 从 21 分涨到 47.1
CatAstro_Piyush · x · 2026-11-07
neilkale 转发介绍了 weight-space programming(权重空间编程)的后训练实验:由 rikiyatakehi 与 jaydenteoh 首先演示的 astra 模型可逐个权重手写神经网络来解 Atari 游戏。团队在 trajectorylabs 平台上对 Qwen 27B 和 35B-A3B 做了后训练,让它学会手写网络。
- 构建了 WeightProgramBench:共 322 个简单游戏,含 51 个 Atari 风格游戏与 266 个改编自 crisp-game-lib 的游戏
- 留出 5 个原始 minatar 游戏(freeway、breakout、asterix、seaquest、space invaders)作泛化测试
- freeway 上 Qwen-27B 从平均 21.0 分提升到 47.1 分——训练从未见过 freeway,但仍不及 astra 的 63.9 分
结论是 35B 模型经后训练可以比 Opus 更好地掌握这种逐权重写网络的能力,展示了模型泛化到未见任务上的潜力。
「模型」频道最新
- Claude 工作中顺手生成设计概念可视化，用户直呼惊艳 — RileyRalmuto · 2026-11-07
- 爆料称新实验室用 12T token 打出 DeepSeek 45T 的效果 — teortaxesTex · 2026-11-07
- 用户晒 Anthropic Cyber 验证计划 Defense Access 获批邮件 — AIFlow_ML · 2026-11-07
- ChatGPT 取消无限聊天,Plus 用户讨论退订迁移方案 — ShinyPlasm · 2026-11-07
- Qwen 4 预览版现身 Arena,传 Qwen 4 Max 配百万上下文 — WorldofAI · 2026-11-07
- Nace AI 提出新训练法 RLAF：用推理模型当裁判教决策模型省 token — nischay_twt · 2026-11-07