GPT-6 "Weight-Space Programming": Hype Meets Skepticism, MIT Audit Confirms Real 0.016% Edit

rikiyatakehi 团队宣称让 GPT-6 Astra 通过「权重空间编程」直接编辑 Qwen3.5-0.8B 的权重以提升数学能力：仅改动 0.016% 的权重、无需梯度或训练，即修复了 0.8B 小模型的推理死循环，数学能力最高提升至 6 倍、指令遵循提升 3 倍。该宣称在传播中引发两极反应，随后 MIT CSAIL 的独立审计给出了关键事实核验，目前结论是改动真实存在且可复现，但「GPT-6 会改权重」的说法仍被质疑为消融实验的包装。这一事件值得关注的点在于：大模型自主修改另一模型权重的演示若属实，意义远超常规微调，而传播叙事与实验日志之间的差距正是争议核心。

已确认

修改后的 Qwen3.5-0.8B 模型已上传至 Hugging Face（RikiyaT/Qwen3.5-0.8B-weight-space），有网友按公开日志复现，MATH-500 得 51 分，rikiyatakehi 确认。
MIT CSAIL 对释出文件做了审计：编辑只触碰约 0.016% 的权重，团队按文件重建后与原模型逐字节一致。
审计测得效果：MATH-500 成绩从 7.90% 升至 48.10%。

尚未确认

ChengleiSi 转发的质疑指出，从实验日志看 Astra 实际做的是 thinking mode 开/关的消融实验，发现思考模式导致小模型陷入循环和超上下文失败后针对性关闭，并非神奇的权重编辑；IanArawjo 转发也称「改权重提升 6 倍」遭打脸，实为消融方向向量而非编辑权重。原始宣称中「数学提升 6 倍」「指令遵循提升 3 倍」的表述与该解释之间的张力尚未有权威裁决。
GPT-6 是否真正以「理解权重」的方式完成修改，还是借消融实验的间接手段实现，目前无公开证据定论。

为什么重要

若「大模型直接编辑另一模型权重」的叙事成立，将开辟无需梯度训练的模型修复路径；若只是消融+关闭 bug 的包装，则提示对社交媒体上的惊人演示需回到实验日志层面核实。
MIT 的逐字节审计为社区提供了一次「先放文件、后独立验证」的可复现性范例，MATH-500 从 7.9% 到 48.1% 的提升即便按保守口径也属显著，但绝对水平（约 48-51 分）仍属小模型范畴。

2026-11-03 ~ 2026-11-04 · 5 related posts

Full story(8 episodes)→

Episode 1: MIT's Weight-Space Programming: GPT-6 Edits Neural Network Weights Without Training(2026-11-03, 101 posts)
Episode 2: LLMs Editing Model Weights: From Survey to Self-Editing Experiments(2026-11-03, 5 posts)
Episode 3: Editing 0.016% of weights fixes Qwen reasoning loops, lifting MATH-500 to 48.1%(2026-11-03, 2 posts)
Episode 4: Model eval audit continues: claimed gains hold but MATH-500 anomaly persists(2026-11-03, 3 posts)
Episode 5: MIT weight-space programming independently replicated; capability leap sparks debate(2026-11-03, 9 posts)
Episode 6: Weight-Editing LLMs Raise Fear of Recursive Self-Improvement(2026-11-03, 3 posts)
Episode 7: GPT-6 "Weight-Space Programming": Hype Meets Skepticism, MIT Audit Confirms Real 0.016% Edit(2026-11-03, 5 posts)
Episode 8: Viral Claim That Astra Can Read and Write Qwen Weights Debunked by Experts(2026-11-03, 3 posts)

Primary sources

MIT audit of GPT-6 weight editing: 0.016% of weights changed, MATH-500 jumps 7.9% to 48.1% — kevrussell · 2026-11-04 05:08 (UTC+08:00)
Community rebuilds edited Qwen3.5-0.8B from logs, scores 51.0% on MATH-500 — _akhaliq · 2026-11-03 12:40 (UTC+08:00)
Weight-Space Programming demo: GPT-6 edits 0.016% of Qwen3.5-0.8B weights, math up to 6x — repligate · 2026-11-04 03:42 (UTC+08:00)

[source] Community rebuilds edited Qwen3.5-0.8B from logs, scores 51.0% on MATH-500 — _akhaliq · 2026-11-03
Debate over 'GPT-6 edits Qwen weights': critic says it's just direction ablation, not weight editing — IanArawjo · 2026-11-03
The '7x accuracy' weight-editing claim was mostly just turning off thinking mode — ChengleiSi · 2026-11-03
[source] Weight-Space Programming demo: GPT-6 edits 0.016% of Qwen3.5-0.8B weights, math up to 6x — repligate · 2026-11-04
[source] MIT audit of GPT-6 weight editing: 0.016% of weights changed, MATH-500 jumps 7.9% to 48.1% — kevrussell · 2026-11-04