SPS Transformer:双流并行的新结构

heghbalz · x · 2026-07-14

转发内容介绍了一种新的 Transformer 结构 SPS Transformer。

核心思路是:对每个输入 token 并行跑两条流——一条从输入 token 出发,负责构建状态(kv cache);另一条通过一个 <predict> token 直接预测下一个 token,而不写入 cache。这个设计看起来是在探索更高效的推理/生成路径。

所属事件:新论文提出 SPS Transformer:将状态与预测拆分为双流(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →