新研究提出睡眠期计算，可将推理算力需求降低 5 倍
tomssilver · x · 2026-08-24
论文 "Sleep-time Compute" 提出一种让模型在查询到达前利用上下文“预思考”的方法。实验表明，睡眠期计算可在保持同等精度的前提下，将测试时的算力需求降低约 5 倍；通过扩展该方法，AIME 数据集精度可提升 18%。此外，针对同一上下文的多个相关查询分摊睡眠期计算，可使单次查询平均成本降低 2.5 倍。
所属事件:新研究提出睡眠期计算，可将推理算力需求降低约 5 倍(2 条相关)→
「研究」频道最新
- Pathway CSO 演讲展望后 Transformer 架构 BDH：每瓦特更高智能 — schwentker · 2026-10-15
- EmbodiedEvo 登顶 RoboDojo：失败的机器人练习也能被下一个 agent 继承 — thetripathi58 · 2026-10-15
- 797GB n-gram 放进 CPU 内存，小模型硬扛多 57% 算力 — PangWeiKoh · 2026-10-15
- Google 论文 Harness²:无验证器下递归进化 agent harness,最高提升 11.5 分 — dair_ai · 2026-10-15
- Kambhampati 明尼苏达开讲：「LLM 思考 token 神话」的系统拆解 — rao2z · 2026-10-15
- 3D Gaussian Splatting 科普：机器人如何记住看不见的世界 — TheTuringPost · 2026-10-15