新研究提出睡眠期计算,可将推理算力需求降低 5 倍
tomssilver · x · 2026-08-24
论文 "Sleep-time Compute" 提出一种让模型在查询到达前利用上下文“预思考”的方法。实验表明,睡眠期计算可在保持同等精度的前提下,将测试时的算力需求降低约 5 倍;通过扩展该方法,AIME 数据集精度可提升 18%。此外,针对同一上下文的多个相关查询分摊睡眠期计算,可使单次查询平均成本降低 2.5 倍。
「研究」频道最新
- Jitendra Malik:别把 VLM 和世界模型混为一谈 — JitendraMalikCV · 2026-08-24
- 六个月评测实证:别让模型改写原文,BM25 加权检索召回大增 — Cryvixx · 2026-08-24
- 日团队用 CRISPR 实现雄性小鼠细胞克隆雌性后代 — Promptmethus · 2026-08-24
- NVIDIA AVO 架构刷爆 ARC-AGI-3,系统设计胜过模型能力 — cantrell · 2026-08-24
- 持续学习应适应噪声数据而非过度清洗 — Shahules786 · 2026-08-24
- IR 周报 Vol.170:RAG 效果与智能体检索增强 — _reachsumit · 2026-08-24