线性规划替代试错调权,MIT 权重编辑方法提速 100 倍少改 8 倍参数
IgorCarron · x · 2026-11-10
MIT CSAIL 论文「Sparks of Weight-Space Programming」中,GPT-6 Astra 通过直接编辑权重修复了 Qwen 的思维循环问题。nathanrs 用线性规划替代 Astra 的试错式调参,构造出效果相当的权重编辑:耗时从 8 小时降到几分钟(省 99% 时间),改动的权重数量减少 8 倍,并发布了博客与代码仓库。IgorCarron 转发评论「它们倒下了……」。
- 核心思路:把「找权重编辑」建模为可求解的优化问题,而非逐次试验
- 结果:同样的修复效果,效率大幅提升,为权重空间直接编程提供了更工程化的路径
「研究」频道最新
- LTX-Video 论文:H100 上 2 秒生成 5 秒视频,压缩比 1:192 — Crazy-Repeat-2006 · 2026-11-10
- 从文档抄草稿做投机解码,AI 抽取提速最高 19 倍 — sh_reya · 2026-11-10
- LTX-Video 论文:单卡 H100 两秒生成 5 秒视频,超实时且开源 — Crazy-Repeat-2006 · 2026-11-10
- AI 写作基准:Claude Code 回复模糊措辞率高达 60% 远超人类 — IanArawjo · 2026-11-10
- UCLA Visible Touch 登 CoRL Spotlight:触觉转视觉叠加,VLA 成功率提升 30pp — Scobleizer · 2026-11-10
- AI 研究回报系数 r≈1.2:加速螺旋正悬在刀刃上 — austinc3301 · 2026-11-10