编辑 0.016% 权重即可破解 Qwen 推理死循环
Reddit 一位研究者用 Jacobian lens 可解释性工具观察 Qwen3.5-0.8B 的「Wait」推理死循环现象，并复现了 MIT CSAIL 的权重编辑修复方案。通过对比循环推理与正常轨迹的激活，找到区分两者的方向，再在两个 MLP 层中编辑约 13.1 万个权重（仅占 0.016%）加以对抗，使 MATH-500 准确率从 7.9% 大幅升至 48.1%。
2026-11-03 ~ 2026-11-03 · 2 条相关
- 第 1 集:MIT「权重空间编程」：GPT-6 直接改权重提升小模型能力(2026-11-03,92 条)
- 第 2 集:LLM 直接编辑模型权重：从技术梳理到自编辑实验构想(2026-11-03,5 条)
- 第 3 集:编辑 0.016% 权重即可破解 Qwen 推理死循环(2026-11-03,2 条)
- 第 4 集:模型评测数据审计续：整体提升成立，MATH-500 截断错误仍存疑(2026-11-03,3 条)
- 第 5 集:MIT 权重空间编程获独立复现，新模型效果暴增 20 倍(2026-11-03,7 条)
- 第 6 集:模型自改权重引担忧：或构成递归自我改进循环(2026-11-03,3 条)
- 直接改 13.1 万个权重：研究者用激活定向修复模型循环推理 — xennygrimmato_ · 2026-11-03
- 编辑 0.016% 权重根治 Qwen 推理死循环，MATH-500 从 7.9% 升至 48.1% — DeliciousGorilla · 2026-11-03