研究探讨填充 token 对大模型隐性推理的影响
近期一篇 arXiv 论文引发了关于大模型推理机制的讨论。论文指出前沿模型能利用语义无关的填充 token 进行隐性推理,从而提升准确率。但有观点反驳称,填充 token 带来的准确率提升并不能直接证明模型在进行不可见的隐式推理,其背后的机制仍存争议。
2026-07-28 ~ 2026-07-29 · 2 条相关
- 研究发现前沿模型可借填充 token 做隐性推理 — dair_ai · 2026-07-28
- Filler tokens 提升准确率,但未必证明了隐式推理 — askerlee · 2026-07-29