Nebius 推出推测解码优化方案 SlimSpec

Nebius 旗下的 Token Factory 推出了名为 SlimSpec 的新型推测解码优化方案。该技术突破了传统大模型推测解码的性能瓶颈，在保持庞大词表（如 12.8 万词）不裁剪的前提下，成功解决了草稿模型隐藏状态投影带来的计算负担。据称，SlimSpec 能够在不牺牲词表完整性的情况下实现最高 5 倍的推理加速，并提升 8% 至 9% 的运行速度。

2026-07-21 ~ 2026-07-22 · 2 条相关

• Nebius 称 SlimSpec 在不缩词表下提速 8% 至 9% — Arindam_1729 · 2026-07-21
• SlimSpec 突破推测解码瓶颈：不砍词表实现 5 倍加速 — Arindam_1729 · 2026-07-22