MIT 报告:LLM 直接改 0.016% 权重,小模型数学成绩提升 6 倍
Dr_Singularity · x · 2026-11-03
MIT CSAIL 的论文《Sparks of Weight-Space Programming》称,LLM 可以原生读写其他神经网络的权重:让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重以修复其陷入重复推理循环的问题,仅改动 0.016% 的参数,无需梯度或再训练。
实测效果:数学基准 7.9%→48.1%,小学数学 13.8%→67.1%,指令遵循 21.0%→62.3%,最高提升约 6 倍。作者包括 Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab。
所属事件:MIT 研究:LLM 直接改 0.016% 权重,小模型数学成绩提升 6 倍(27 条相关)→
「模型」频道最新
- 声称 GPT-6 Astra 直接编辑 Qwen 权重,MATH-500 从 7.9% 提至 48.1% — 1-800-methdyke · 2026-11-03
- Sol 6.1 仍是性价比最强 worker,Fable 5.5 更全能但更贵 — haider1 · 2026-11-03
- Anthropic Max 20x 订阅被砍半量,更名 Ultra 引发用户不满 — EntityRemovalGuy · 2026-11-03
- 研究者批「权重空间编程」:Atari 是送答案的选择题,Qwen 案例近乎喂答案 — anshulkundaje · 2026-11-03
- 用 Opus 做出 Spider-Verse 风格 2D 动画,社区疑其路由至 Fable 5.5 — minchoi · 2026-11-03
- 「Fable 5.5」演示续:一提示词生成鹈鹕骑马开自行车,代码动画动感十足 — minchoi · 2026-11-03