ParaTempo:利用时间置信度提升并行推理效率

SJTU · hf · 2026-08-24

ParaTempo 提出了一种通过时间置信度来动态剪枝、退役和重新分配推理分支的方法,从而在无需同步的情况下显著提升并行推理的效率。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →