MIT 团队让 LLM 直接改权重:数学成绩 7.9% 飙到 48.1%

winer666 · reddit · 2026-11-16

MIT 研究者(Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab)让 GPT-6 Astra 直接编辑小型 Qwen 模型的权重——不走梯度下降、不用训练数据。Astra 找到并移除了导致模型反复循环输出直到耗尽上下文的权重模式,仅改动约 0.016% 的权重,数学成绩从 7.9% 升至 48.1%。

作者认为最有意思的是框架本身:这是「直接手术式修模型」而非训练——若能泛化,调试模型可能变得像调试代码:定位权重、打补丁、验证。也引出问题:模型的能力有多少被可修复的怪癖锁住,而非真的缺失?

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →