新研究提出睡眠期计算,可将推理算力需求降低约 5 倍
新论文《Sleep-time Compute: Beyond Inference Scaling at Test-time》提出让模型在查询到达前利用上下文进行“预思考”,即所谓睡眠期计算。实验表明,该方法可在保持同等精度的前提下,将测试时的算力需求降低约 5 倍,为推理阶段的算力扩展提供了新思路。该论文也被本周 #PaperILike 栏目推荐,受到研究社区关注。
2026-08-24 ~ 2026-08-25 · 2 条相关
- 新研究提出睡眠期计算,可将推理算力需求降低 5 倍 — tomssilver · 2026-08-24
- Sleep-time Compute论文:让模型空闲时提前思考 — gerardsans · 2026-08-25