COLM 2026 新算法让 superword tokens 免缓存提速

针对 superword tokens「虽酷但需维护上下文缓存、严重拖慢推理」的普遍质疑，作者预告将在 COLM 2026 以海报形式发布新算法。该方案摆脱了保留上下文的限制，无需额外维护即可直接运行并开始节省 token。这被认为是对此前「实现太不实用」批评的直接回应，相关论文将由作者在会议上展示。

2026-10-06 ~ 2026-10-07 · 2 条相关