MIT 演示:AI 直改权重为 Qwen3.5-0.8B 提分,实为修复重复循环

geoffwolfe · x · 2026-11-03

一条热传帖称 MIT 研究者让 GPT-6 Astra 不经训练直接编辑 Qwen3.5-0.8B 的权重,把 MATH-500 成绩从 7.9% 提到 48.1%,仅改动 0.016% 的权重。Astra 拿到权重和 50 次练习题测试预算,发现模型会自我重复直到长度上限,追查到两层写入的单一内部信号并从权重中减去,模型因此能写出本就会做的答案。

但转发者 ReasonCoreAI 泼冷水:这更多是修了个 bug——Astra 只是找到并移除了 Qwen 权重中的重复循环,在没有该循环的模型上几乎无效。不过「AI 读另一个 AI 的权重来修它」这件事本身依然惊人。

所属事件:MIT 权重空间编程:AI 直接改 0.016% 权重数学成绩升 6 倍(41 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →