GPT-6 Astra 徒手改 Qwen 0.8B 权重:仅动 0.016% 参数,数学能力提升至 6 倍
nathanborror · x · 2026-11-03
团队将 GPT-6 Astra(据称的下一代前沿模型)用于直接编辑 Qwen3.5-0.8B 的权重以提升数学能力。
- 模型无梯度、无训练,直接修改权重,且只改动了 0.016% 的参数
- 修复了 0.8B 模型的推理死循环问题,数学成绩提升最高 6 倍,指令遵循也提升约 3 倍
- 作者将其命名为「Weight-Space Programming(权重空间编程)」:前沿 LLM 可以原生读写神经网络权重
这代表了「用大模型直接优化小模型权重」的新范式,比传统微调更精细也更省算力。
所属事件:MIT 发布权重空间编程:GPT-6 直改权重提升小模型数学 6 倍(43 条相关)→
「模型」频道最新
- Deep Principle 开源科研模型 Hydrogen-1.0,科研基准超 GPT-6-Astra — dair_ai · 2026-11-03
- Zyphra 提出树形索引稀疏注意力 ZHA, attention 复杂度降至亚二次 — yacineMTB · 2026-11-03
- LiquidAI LFM3-1.7B 登顶 HF 趋势榜:5 天 1k 星、42.4k 下载 — maximelabonne · 2026-11-03
- Gemini 又现出圈回复,研究者感叹「对齐很复杂」 — vedantmisra · 2026-11-03
- Domingos 一句话观点:人类比 AI 更耐数据 — pmddomingos · 2026-11-03
- OpenAI:ChatGPT 中类搜索查询量约为谷歌的五分之一 — firstadopter · 2026-11-03