直接改 13.1 万个权重：研究者用激活定向修复模型循环推理
xennygrimmato_ · x · 2026-11-03
一位研究者分享了行为层面的模型干预实验：通过对比「循环推理（looping）」与正常轨迹的激活，找到区分两者的方向，然后在两个 MLP 层中编辑约 13.1 万个权重来对抗该方向，以修复模型的重复循环问题。
- 在 579 个被修复的练习答案中，576 个本质上是循环修复——模型只是改掉了重复输出，使结果能落在 token 限制内，并间接改善了任务表现
- 作者的核心观点：行为研究被低估了，修复具体行为可以隐式带来任务级提升
- 作者还提议用同样方法修复 IF、循环思维等问题，观察哪些 benchmark 会「免费」提升
「研究」频道最新
- AI 翻译 4000 年前泥板，最古老差评终于有了公版译文 — firasd · 2026-11-03
- GPT Astra 辅助证明 Erdős 问题 #357 新下界，Lean 验证待人工审 — kevrussell · 2026-11-03
- UBC 团队发布 RVCBench：18 个语音克隆模型经 18 项鲁棒性测试 — jiqizhixin · 2026-11-03
- 从泊松假设到单分子观测：纪念转录爆发式发现的经典 2005 年论文 — NikoMcCarty · 2026-11-03
- DeepSeek V4.1 Flash 1017 登顶开源 ARC-AGI-3：5.81% 翻倍提升 — teortaxesTex · 2026-11-03
- 研究者批「权重空间编程」：Atari 是送答案的选择题，Qwen 案例近乎喂答案 — anshulkundaje · 2026-11-03