MIT 演示:AI 直改权重为 Qwen3.5-0.8B 提分,实为修复重复循环
geoffwolfe · x · 2026-11-03
一条热传帖称 MIT 研究者让 GPT-6 Astra 不经训练直接编辑 Qwen3.5-0.8B 的权重,把 MATH-500 成绩从 7.9% 提到 48.1%,仅改动 0.016% 的权重。Astra 拿到权重和 50 次练习题测试预算,发现模型会自我重复直到长度上限,追查到两层写入的单一内部信号并从权重中减去,模型因此能写出本就会做的答案。
但转发者 ReasonCoreAI 泼冷水:这更多是修了个 bug——Astra 只是找到并移除了 Qwen 权重中的重复循环,在没有该循环的模型上几乎无效。不过「AI 读另一个 AI 的权重来修它」这件事本身依然惊人。
所属事件:MIT 权重空间编程:AI 直接改 0.016% 权重数学成绩升 6 倍(41 条相关)→
「模型」频道最新
- LiquidAI LFM3-1.7B 登顶 HF 趋势榜:5 天 1k 星、42.4k 下载 — maximelabonne · 2026-11-03
- Weight-Space Programming:GPT-6 直接改 Qwen3.5 权重,数学能力提升 6 倍 — lateinteraction · 2026-11-03
- Gemini 又现出圈回复,研究者感叹「对齐很复杂」 — vedantmisra · 2026-11-03
- Domingos 一句话观点:人类比 AI 更耐数据 — pmddomingos · 2026-11-03
- OpenAI:ChatGPT 中类搜索查询量约为谷歌的五分之一 — firstadopter · 2026-11-03
- LFM3-1.7B 量化实测:3.6 GB 显存近无损,2.2 GB 轻度降质 — crusaderky · 2026-11-03