GPT-6 Astra 直接改写 Qwen 权重:数学能力提升至 6 倍,无需训练
repligate · x · 2026-11-03
rikiyatakehi 团队让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重来提升数学能力。模型仅改动了 0.016% 的权重,就修复了 0.8B 模型的推理死循环,数学能力最高提升 6 倍,指令遵循也提升 3 倍——全程无需梯度、无需训练。团队称之为「Weight-Space Programming(权重空间编程)」:前沿 LLM 已经可以原生读写神经网络权重。repligate 转发并调侃「这对 Gary Marcus 来说够神经符号了吗」,配图为经典的 Transformer 结构图。
所属事件:MIT 团队提出权重空间编程:LLM 直接改权重使小模型数学成绩暴增(21 条相关)→
「研究」频道最新
- 研究者:AI 已开始读取、调试并改写其他神经网络的内部权重 — Dr_Singularity · 2026-11-03
- 研究者基金申请两度被拒且零反馈,将联邦学习论文公开挂上 arXiv — wandedob · 2026-11-03
- Scale AI 发布 READY 框架:准确率相同的 agent,人工审核量可差近 1/4 — demian_ai · 2026-11-03
- MIT 报告:LLM 直接改 0.016% 权重,小模型数学成绩提升 6 倍 — Dr_Singularity · 2026-11-03
- 开发者警示:不要使用 weight-space programming 方法 — djcows · 2026-11-03
- Lean 4 形式化证明:每个有限单群都可由两个元素生成 — geoffreyirving · 2026-11-03