研究称 Looped Transformer 具备隐式推理能力
俄亥俄州立大学 NLP 组的新研究对 Looped Transformer(LT)的潜力进行了严格受控验证。该研究将在 COLM 报告,核心发现是循环结构使模型能对参数化知识执行隐式推理,从而在复杂与陌生问题上比普通 Transformer 表现出更强的泛化能力。此前社区猜测 Claude 的 Mythos 架构采用了 LT 设计,这一结果或有助于解开相关谜团,也为循环架构的应用前景提供了证据支持。
2026-10-06 ~ 2026-10-06 · 2 条相关
- 新研究发现 Looped Transformer 可对参数知识做隐式推理 — hhsun1 · 2026-10-06
- Looped Transformer 可做隐式推理,或解开 Claude Mythos 架构之谜 — heghbalz · 2026-10-06