复现权重空间编程:模型写出的网络可独立反编译成同款程序
kalyan_kpl · x · 2026-11-18
对 Astra「权重空间编程」(Weight-Space Programming) 工作的复现与扩展,三个关键发现:
- 写权重可复现:复现出的 Breakout 网络得分 514、550、307(对照 MIT 的 517),在两个修改版 Breakout 上表现相当;Claude Opus 5.5 也能写出可用网络,但常因输出 token 上限失败。
- 真正的新能力是把程序翻译成权重:历代模型都是先能写策略代码、之后一代才学会直接写网络权重;模型写出的网络行为像编译后的程序——两个模型各自独立反编译 Astra 的 Breakout 网络,得到的 Python 在所有测试状态下动作完全一致。
- 读权重主要在读输入层:Astra 和 Opus 5.5 几乎能完美识别网络玩的是什么游戏,但在三个自制新游戏上,对权重内空间布局的恢复能力有限。
「模型」频道最新
- 两个 LLM 互聊 20-30 轮后趋向灵性话题,Anthropic 曾写系统卡记录 — RazzmatazzAccurate82 · 2026-11-18
- NVIDIA 开源 Nemotron 3.5 Bolt E4B 4GB,4B 级小模型主打快对话 — kalyan_kpl · 2026-11-18
- 腾讯混元 Hy4 flash 开源:224B 总参 12B 激活、1M 上下文 — TencentHunyuan · 2026-11-18
- 反直觉:给 Qwen3.8-27B 设思考上限,GPQA 反而从 115 涨到 160 — AIFlow_ML · 2026-11-18
- 截图曝光多款未发布模型名:Gemini 4 Argon、Claude Opus 4.6 现身选择器 — Small-Peach6554 · 2026-11-18
- 总结器拒绝 Anthropic 自己的请求,模型安全层套娃成「迷你心智」 — zetalyrae · 2026-11-18