实测 LLM 直改权重：改得动但留不住,20 步微调即抹除
kevinpl07 · reddit · 2026-11-07
针对「Sparks of Weight-Space Programming」引发的「递归自我改进来了/纯属炒作」之争，作者在 4 个开源模型真实 bug 上做了实测(详细版见其另一帖)：
- 模型确实能读权重：让 Claude Opus 盲测，仅凭原始权重和工具，3/3 修复了 Whisper 的幻觉和语言混用 bug
- 权重编辑可作为补丁：重写一个神经元，把虚构人物传记的生成率从 98% 降到 16%，其余 98% 的回答逐字不变
- 但编辑不持久：仅 20 步普通微调就完全抹掉了修复——模型在训练中自我改进，等于和自己的优化器对抗
配图显示：20 步微调后 fake bios 回升到 98%;被编辑神经元的权重纹丝不动(cosine 1.0000)，动的是喂给它的层。
结论：权重编辑目前只是「冻结模型上的便利贴」，谁能让编辑在训练中存留，自我改进的讨论才算真正开始。
所属事件:实测权重空间编程：LLM 直改权重有效但不持久(2 条相关)→
「研究」频道最新
- 爆料称 ICLR 审稿现乱象：前沿实验室被指用恶意评审操纵结果 — examachine · 2026-11-07
- 新工作 SSF：让机器人在看不见全屋的情况下推理找钥匙 — _krishna_murthy · 2026-11-07
- scaling law 归属引社区吐槽：「要么被 Schmidhuber 点名，要么成为他」 — teortaxesTex · 2026-11-07
- 斯坦福联合 Together AI 提出 NCM：层级概念生成取代逐 token 预测 — bendee983 · 2026-11-07
- 新基准 BenchBench-Refusals：部分模型误拒超 50% 正常生物学术语 — nlarusstone · 2026-11-07
- AI 设计噬菌体只是第一步：从 DNA 序列到患者还要走多远 — exnx · 2026-11-07