团队复现全部 9 个「权重空间编程」实验,结论有涨有跌
burny_tech · x · 2026-11-12
askalphaxiv 团队完整复现了 rikiyatakehi 提出的 Weight-Space Programming(让前沿 LLM 直接读写神经网络权重、无需梯度训练)博客中的全部 9 个实验,并在 OpenResearch 上公开了完整项目,含 agent 轨迹、激活值等实验产物,可继续追问和实验。
关键结果:
- 实验 4(修复小车策略):一次性编辑仅改 4,813 个权重,就让小车爬坡成绩从 0/1,024 提升到 1,024/1,024,且比原作者少改 21% 的权重。
- 实验 5(从零写游戏策略):全部权重初始化为 0 时,GPT-6 Astra 从零写出 Breakout 策略,平均得分 309.9,约为原博客结果的 12 倍。
- 实验 8(编辑 Qwen3.5-0.8B 提升数学):复现未能达到原文水平——原作者 50 次迭代在 MATH-500 达 48.1%,复现只做到 34.4%。
原引用工作称,让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 仅 0.016% 的权重,即可修复其推理死循环,数学能力最高提升 6 倍、指令遵循提升 3 倍,全程无梯度、无训练。复现总体支持「前沿 LLM 可原生读写网络权重」的核心主张,但在小模型数学编辑任务上存在差距。
「模型」频道最新
- Claude 疑似真能「听」视频发音,创作者实测发现反常识能力 — RileyRalmuto · 2026-11-12
- 资深研究者抱怨 Claude 安全拦截过严:基础生化工作也触发回退 — rbhar90 · 2026-11-12
- Hugging Face 三大消融团队放量大批 Qwen 无审查模型,按显存对号入座 — udmrzn · 2026-11-12
- Reddit 用户爆料:Qwen 4 Max 输出介于 Kimi 3.1 Pro 与 DeepSeek 之间 — power97992 · 2026-11-12
- a16z 合伙人 Casado 力挺:谷歌 Carbon 写代码「真的很强」 — xennygrimmato_ · 2026-11-12
- OpenRouter 上线 Extractions API:描述字段即从文本/图片/PDF 抽取结构化 JSON — michellechen · 2026-11-12