Liquid AI开源Antidoom破解推理模型死循环
推理模型在处理长思考链时常陷入一种被称为“末日循环”的失败模式。Liquid AI 最新发布了名为 Antidoom 的开源训练方法,主张在训练阶段直接解决该问题,而非在推理时打补丁,引发了社区的广泛关注。
现象与成因
据 Liquid AI 工程博客分析,doom loop 是指模型在推理中途卡住,反复生成诸如“Wait”、“Let me reconsider”等 token,直至上下文窗口被完全耗尽。其成因主要包括:过度训练的 token 在模型不确定时占据主导,以及自我强化机制导致的循环退化。研究指出,参数量小于 10B 的小型语言模型在长推理任务中比大模型更容易触发这种重复输出行为。
Antidoom 方案与效果
针对这一痛点,Liquid AI 推出了开源方法 Antidoom。博主 nathanrchn 与 Maxime Labonne 均指出,该技术的核心思路是在训练阶段修复模型的循环退化,避免了传统推理阶段的临时修补。应用该技术后,LFM2.5-2.6B 早期检查点的 doom-loop 率从 10.2% 大幅降至 1% 左右,同时各项评测分数获得提升。该方法也被认为可广泛应用于提升 Qwen3.5-4B 等同类模型的推理可靠性。
2026-07-07 ~ 2026-07-08 · 8 条相关
一手来源
- Liquid AI开源Antidoom,消除推理模型末日循环 — soteko ·
- 推理模型“死循环”成因与应对 — helloiamleonie ·
- 训练时修复思考模型的循环退化 — JosephJacks_ ·
- Liquid AI开源Antidoom:破解推理模型死循环 — helloiamleonie · 2026-07-07
- 【源头】推理模型“死循环”成因与应对 — helloiamleonie · 2026-07-07
- 研究:小模型长推理易陷"死亡循环" — bronzeagepapi · 2026-07-08
- 末日循环:模型重复输出直至上下文耗尽 — JosephJacks_ · 2026-07-08
- 新训练技术可减少模型推理"死循环" — JosephJacks_ · 2026-07-08
- 【源头】训练时修复思考模型的循环退化 — JosephJacks_ · 2026-07-08
- 小模型更易陷入循环退化 — JosephJacks_ · 2026-07-08
另有 1 条近重复转述:soteko