Latent Thought Flows:文本压缩至连续潜空间生成

一项名为 Latent Thought Flows 的新研究探索了文本生成建模的新路线。受图像、视频等模态普遍先压缩再生成的启发,该方法将 256 个文本 token 压缩为 8 个连续的 latent 变量,随后在连续潜空间中使用常微分方程(one-step ODE)进行生成。这项工作打破了传统离散 token 的限制,将连续潜空间生成范式成功引入文本处理领域。

2026-07-17 ~ 2026-07-17 · 2 条相关