GPT-6 直接改 0.016% 权重，0.8B 小模型数学成绩提升 6 倍
SonglinYang4 · x · 2026-11-03
rikiyatakehi 团队演示了他们称为「权重空间编程」（Weight-Space Programming）的新玩法：让前沿模型 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的权重来提升数学能力。
- 全程无梯度、无训练，模型只改动了 0.016% 的权重
- 修复了 0.8B 模型的推理死循环，MATH-500 从 7.9% 提升到 48.1%（50 次 forward pass，非思考模式 49.45%），GSM8K 从 13.8% 升至 67.1%，最高提升约 6 倍
- 指令遵循（IFEval）也从 21.0% 升到 62.3%（约 3 倍），撞 token 上限比例从 93% 降到 33.1%
作者称这意味着前沿 LLM 已能原生地读写神经网络权重。详细过程见其博客。
所属事件:MIT 提出「权重空间编程」：GPT-6 直接改权重修模型(55 条相关)→
「模型」频道最新
- 网传 DeepSeek-V4.1-Flash Coder:763B 参数压到 1 bit 权重 — solyarisoftware · 2026-11-03
- Bindu Reddy:权重空间编程将让小模型性能逼近大模型 — bindureddy · 2026-11-03
- 传 DeepSeek V4.1 支持 1M 上下文,KV 缓存仅约 1GB — AIFlow_ML · 2026-11-03
- OpenAI 披露:每周 2.5 亿人用语音与 ChatGPT 对话 — athyuttamre · 2026-11-03
- 运营者实测：用 LLM 批量写 TikTok 文案仍是败笔 — IndraVahan · 2026-11-03
- Copilot 官方 harness 跑模型对比:成功率、单任务成本与误差棒并列展示 — 0xkarasy · 2026-11-03