SPS Transformer：双流并行的新结构
heghbalz · x · 2026-07-14
转发内容介绍了一种新的 Transformer 结构 SPS Transformer。
核心思路是：对每个输入 token 并行跑两条流——一条从输入 token 出发，负责构建状态（kv cache）；另一条通过一个 <predict> token 直接预测下一个 token，而不写入 cache。这个设计看起来是在探索更高效的推理/生成路径。
所属事件:新论文提出 SPS Transformer：将状态与预测拆分为双流(5 条相关)→
「研究」频道最新
- rauchg 复现 OpenAI 发现：无网络微VM 也能借 CPU 争用 covert 通信 — ccerrato147 · 2026-10-27
- 微软研究院：ForkPilot 让 Agent 决策回溯的算力开销最高降 59% — EliasEskin · 2026-10-27
- 微软发布 TeleTune：从离线遥测数据自动演化 Computer-use Agent 技能 — EliasEskin · 2026-10-27
- FlexGlue:稀疏到稠密特征匹配，速度与精度兼得并可甄别误配图像对 — zhenjun_zhao · 2026-10-27
- Mundo:几张照片重建可探索的世界模型,8 卡 GPU 也只有 1.5 FPS — mark_k · 2026-10-27
- INRIA 研究员将于 ENS 报告「作为实验科学的数学」:LLM 参与数学研究 — marc_lelarge · 2026-10-27