MIT 审计 GPT-6 权重编辑：改动 0.016% 参数，MATH-500 从 7.9% 跳到 48.1%

kevrussell · x · 2026-11-04

MIT CSAIL 对 GPT-6「权重空间编程」释出的文件做了审计：那次编辑只触碰了约 0.016% 的权重，团队按文件重建后与原模型逐字节一致。

效果上，MATH-500 成绩从 7.90% 升至 48.10%，截断回答率从 93.0% 降到 33.05%。作者指出，文件还没揭示的是它为什么能奏效——这仍是开放问题。背景是 MIT CSAIL 提出「Weight-Space Programming」概念：前沿 LLM 已能读取、修复甚至改写神经网络权重（包括用可解释性工具或直接编辑的方式改 Qwen3.5-0.8B 这类小模型），未来 LLM 或将能以人类甚至超人类水平原生优化网络权重。