PreSTO 预测式子树预取为 LLM Power Sampling 提速至 2.33 倍

Nan Jiang 等人在 arXiv 发布 PreSTO 论文，该方法来自摩根士丹利团队，针对 LLM 推理期 power sampling 采样器 PowerM 的性能瓶颈，通过预测性子树预取机制加速采样过程，最高可将 LLM Power Sampling 提速至 2.33 倍。

2026-10-12 ~ 2026-10-12 · 2 条相关

• PreSTO 预测式子树预取将 LLM Power Sampling 提速至多 2.33 倍 — du_yilun · 2026-10-12

另有 1 条近重复转述:morganstanley