实测权重空间编程:LLM 直改权重有效但不持久
针对「Sparks of Weight-Space Programming」引发的「递归自我改进 vs 炒作」之争,有研究者发布实测报告:在 4 个开源模型(1B–4B 聊天模型及 Whisper-small)的真实 bug 上,让 LLM 直接修改权重虽然改得动,单神经元补丁也较精准,但效果无法持久,约 20 步微调即可将其抹除,并与 LoRA 方案做了基线对照。
2026-11-07 ~ 2026-11-07 · 2 条相关
- 第 1 集:MIT 论文:GPT-6 直改 0.016% 权重,小模型数学提分 6 倍(2026-11-03,159 条)
- 第 2 集:编辑 0.016% 权重即可破解 Qwen 推理死循环(2026-11-03,2 条)
- 第 3 集:MIT 权重编辑讨论引热议,博主旧文演示手写权重跑通 Transformer(2026-11-03,2 条)
- 第 4 集:MIT「GPT-6 手改权重」研究刷屏后遭多方核查拆解(2026-11-03,13 条)
- 第 5 集:LLM 修复驾驶网络实验:权重清零后方案依然有效(2026-11-04,2 条)
- 第 6 集:MIT提出权重空间编程:GPT-6直改小模型权重(2026-11-05,9 条)
- 第 7 集:实测权重空间编程:LLM 直改权重有效但不持久(2026-11-07,2 条)
- 权重编辑 vs LoRA 四 bug 实测:单神经元补丁精准但不持久 — kevinpl07 · 2026-11-07
- 实测 LLM 直改权重:改得动但留不住,20 步微调即抹除 — kevinpl07 · 2026-11-07