GPT-6 直改 Qwen3.5 权重 0.016%,数学推理提升至 6 倍
xuanalogue · x · 2026-11-03
研究团队发布「Weight-Space Programming」（权重空间编程）：让前沿 LLM 原生读写神经网络权重。
- 让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重以提升数学能力：只改动了 0.016% 的权重，无需梯度或训练，就修复了 0.8B 模型的推理死循环，数学能力最高提升 6 倍，指令遵循也提升 3 倍
- 作者 @jaydenteoh 认为，mech interp 与传统优化可能因此走向终结：agent（无论是涌现能力还是 RL 训练）对权重数值的理解将超越人类，逐神经元解码行为的人力投入值得重新权衡
- 项目由 @rikiyatakehi 主导，附博客详解
所属事件:MIT 发布权重空间编程：GPT-6 直接改权重提升小模型数学能力(13 条相关)→
「模型」频道最新
- Mistral Le Chonk 科学报告发布,团队预告下一版还有惊喜 — _AndrewZhao · 2026-11-03
- Mistral ML4 开源:仅 10 兆瓦算力从头训练,自称网络防御与编码最强开放权重模型 — _AndrewZhao · 2026-11-03
- Dessa 被指印证 Karpathy「召唤幽灵」类比：Jack 直言模型速度很快 — analisereal · 2026-11-03
- Together CEO:真正目标是 token maxing 而非 cost maxing — togethercompute · 2026-11-03
- Dream-1 零样本机器人实测：100 集全公开，会纠错但听不懂指令 — paigeinsf · 2026-11-03
- 爆料称 DeepSeek 或先发 V4.1F/V4.2F，Pro 版仍需等待 — teortaxesTex · 2026-11-03