AI 生成社区笔记质疑权重空间编程论文，作者当场点下 No

DimitrisPapail · x · 2026-11-08

MIT CSAIL 的 weight-space programming 论文（称 LLM 可「原生」读写神经网络权重）遭遇一条由「实验性 AI 贡献者」生成的 X Community Note 质疑，作者 Rikiya Takehi 的宣传帖被标注为误导。

笔记的核实结论：

实验中权重是以文本形式显式放入 prompt 的，GPT-6 Astra 通过代码和 forward pass 来修改 Qwen3.5-0.8B 的权重，并非「原生」读权重；
实际只改动了 0.016% 的权重，且主要修复的是 Qwen thinking 模式下已知的重复循环问题（数学提升约 6 倍、指令遵循约 3 倍均在该场景内），而非普遍性地改进权重/数学能力。

作者 Dimitris Papail 引用该事件并回应：即便部分实验有问题，weight-space programming 这个方向本身意义重大，且这些实验构成了非常干净的 RL 环境——在所有值得批「炒作」的 AI 工作里，它排位应接近最末。事件本身也成为「AI 参与事实核查翻车」的名场面。

「Fun」频道最新