CMU+牛津论文:反复精炼隐状态可替代更长思维链提升推理
rohanpaul_ai · x · 2026-09-18
Carnegie Mellon 与牛津的新论文提出，模型可以通过反复改进隐状态来「思考更久」，而不必生成更长的思维链——测试时算力不必等于更多 token。循环式训练中小模型也能通过多步精炼内部表征提升推理准确率，实验显示额外步骤可实质提高准确度。
- 核心问题：循环模型在长循环中难以训练，隐状态更新可能变得不稳定或不再带来收益。
- Looped flows 的解法：让每次更新在一个小型去噪任务上训练，同时保证隐状态对下一步更新仍然有用。
- 效果：模型可在推理时持续改进同一个内部表征，为 test-time compute 提供了 token 生成之外的路径。
所属事件:CMU 与牛津论文：循环隐状态迭代可替代长思维链(2 条相关)→
「研究」频道最新
- Cell 聚焦文章：生物医学世界模型应预测干预结果而非描述世界 — marinkazitnik · 2026-09-18
- Contrastive Noise Alignment 论文：少步生成 FID 降低超 50% — burny_tech · 2026-09-18
- DeepSWE-mini：16 实例子集可复现完整排行榜排名 — asankhs · 2026-09-18
- ICLR26 论文提出「解释等价」：不解读网络也能判断算法是否相同 — burny_tech · 2026-09-18
- 清华联合字节 Seed 推出 SMELT，首次公平对比 Looped Transformer — jiqizhixin · 2026-09-18
- Goose 语言号称比 C++ 快 16%、比安全 Rust 快 12% 且内存安全 — bobbydigitales · 2026-09-18