新研究提出睡眠期计算,可将推理算力需求降低 5 倍

tomssilver · x · 2026-08-24

论文 "Sleep-time Compute" 提出一种让模型在查询到达前利用上下文“预思考”的方法。实验表明,睡眠期计算可在保持同等精度的前提下,将测试时的算力需求降低约 5 倍;通过扩展该方法,AIME 数据集精度可提升 18%。此外,针对同一上下文的多个相关查询分摊睡眠期计算,可使单次查询平均成本降低 2.5 倍。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →