Latent Thought Flows：压缩文本再生成
burny_tech · x · 2026-07-17
提出 **Latent Thought Flows**： - 把 **256 个文本 token 压缩成 8 个连续 latent**，在 latent 空间里用 **one-step flow model** 生成，再用自回归解码器读回文本。 - 作者的核心判断是：如果“压缩就是智能”，那么文本这种离散 token 序列未必是超智能的最终表示形式。 - 结果上，他们声称这种方法在 **推理计算量 vs. 生成质量** 的权衡上，优于一个调优后的自回归基线，体现出“压缩 + 一步生成”的优势。 - 文末也明确把这项工作和 **Bitter Lesson** 的问题联系起来，认为表示学习和压缩可能仍然会赢。