GPT-6 Astra 直改 Qwen3.5-0.8B 权重：仅动 0.016% 参数，数学提升至 6 倍
yacineMTB · x · 2026-11-03
Rikiya Takehi、Jayden Teoh、Alex Zhang 与 Omar Khattab 在 alphaXiv 发布「Weight-Space Programming」研究：前沿 LLM（GPT-6 Astra）可以原生读写神经网络权重，无需梯度下降或辅助训练模型。
关键实验
- 权重理解：仅凭 4 个游戏策略网络的原始权重（架构/输入/动作完全相同），无任何工具提示，Astra 全部正确说出对应游戏：Breakout、Pong、Pac-Man、Freeway。
- 修复策略：一个 PPO 赛车策略总在坡道卡住，只给权重、场景描述和 1 条失败轨迹，Astra 一轮回复直接改权重打补丁，仅编辑 3.5% 权重即达到 100% 成功率。
- 跨模型修补：让 Astra 编辑 Qwen3.5-0.8B 的权重改进数学能力，只改了 0.016% 的权重，修复了推理死循环，数学提升最高 6 倍，指令遵循也提升 3 倍。
核心主张
作者将其命名为「权重空间编程」：前沿模型开始能把原始权重当作可读、可编辑的「代码」来诊断缺陷并直接修补，而不依赖训练过程。
所属事件:MIT 研究：LLM 直改 0.016% 权重，小模型数学成绩提升 6 倍(46 条相关)→
「模型」频道最新
- 有用户感叹：Sonnet 5.5 好像不如以前聪明了 — nlarusstone · 2026-11-03
- Apple Intelligence 12 月登陆中国，用阿里 Qwen 替代 ChatGPT — winer666 · 2026-11-03
- 研究发现新模型已学会「权重手术」，训练数据暗示行业转向贝叶斯先验 — Tkaraletsos · 2026-11-03
- Victor Taelin 疑指前沿实验室用模型自改权重替代反向传播 — arthurcolle · 2026-11-03
- 投资人 Bindu Reddy：垂直微调模型已超越前沿模型，成本仅 1/20 — bindureddy · 2026-11-03
- OpenAI 更新 Model Spec：AI 须理解人类意图而非机械执行 — sven_ai · 2026-11-03