NextLat 入选 NeurIPS:预测自身隐状态实现 3.3 倍推理加速
CSProfKGD · x · 2026-09-26
NextLat(Next-Latent Prediction)被 NeurIPS 接收。
- 针对 next-token prediction 的短视性,提出让 transformer 预测自己的下一个隐状态(latent state),从而自监督地形成紧凑的世界模型,用于推理与规划。
- 该方法还能通过 self-speculative decoding 将推理速度提升至最高 3.3 倍。
「研究」频道最新
- 函数梯度下降算法难题被攻克,论文入选 NeurIPS — CatAstro_Piyush · 2026-09-27
- 日语口语评测专用 ASR:莫拉标签错误率从 12.3% 降至 7.1% — tkasasagi · 2026-09-27
- kalomaze 提想:把 nanogpt 训练技巧搬到 DCT 系数上检验普适性 — kalomaze · 2026-09-27
- 本月长寿速览:AI 设计药物让 6 项衰老指标变年轻 — rand_longevity · 2026-09-27
- 猜想:单义表示完美后可免外部验证器训练编程 Agent — menhguin · 2026-09-27
- 9B 模型 80 次测试中 5 次把工具调用写成散文,评测揭示隐形失败 — Grimmoner · 2026-09-27