MIT 研究:GPT-6 直接改权重,Qwen3.5-0.8B 数学成绩提升 6 倍
KyeGomezB · x · 2026-11-03
MIT 团队(Rikiya Takehi、Omar Khattab 等)发布「Weight-Space Programming」研究:GPT-6 Astra 无需梯度下降或辅助模型,可直接读取并编辑神经网络权重,把权重当作可读可改的代码。
八组实验亮点:
- 仅凭裸权重(无任何工具)正确识别 4 个同架构游戏策略网络分别训练于 Breakout、Pong、Pac-Man、Freeway
- PPO 赛车策略卡坡时,Astra 根据权重、场景和一条失败轨迹,一次回复内写出补丁,仅改 3.5% 权重即达 100% 成功率
- 编辑 Qwen3.5-0.8B 仅 0.016% 的权重,消除重复推理循环:MATH-500 从 7.9% 升至 48.1%,指令遵循从 21.0% 升至 62.3%,全程仅用 50 批前向反馈、无梯度无重训
作者认为这可能对优化与可解释性都是大事:前沿 LLM 或能把模型诊断与修复变成「读代码—改代码」式操作。
所属事件:MIT 研究:GPT-6 Astra 直改 0.016% 权重,小模型数学成绩提升 6 倍(49 条相关)→
「模型」频道最新
- Weight-Space 编程测试:开源模型在 Writing Weights 任务上集体失利 — eliebakouch · 2026-11-03
- Google 发布 Gemini 4 Argon,重返前沿模型竞争 — danshipper · 2026-11-03
- 实测拆穿 Astra「0.016% 权重编程」:只是关了 Qwen 思考模式 — teortaxesTex · 2026-11-03
- 网传 astra6.2 灰度测试:20 分钟做出 3DS 风马里奥赛车 — lxfater · 2026-11-03
- 有用户感叹:Sonnet 5.5 好像不如以前聪明了 — nlarusstone · 2026-11-03
- Apple Intelligence 12 月登陆中国,用阿里 Qwen 替代 ChatGPT — winer666 · 2026-11-03