AgSpec 用检索式投机解码为编码 Agent 提速最高 4.76 倍

Sumin Lee · hf · 2026-10-02

AgSpec 框架将检索式投机解码(retrieval-based speculative decoding)带入编码 agent 管线,针对现有方法两大短板:

在两个仓库级多 agent 编码基准上,AgSpec 在多数设置中优于五种检索式草稿器与 EAGLE-3,生成吞吐相对自回归解码最高提升 4.37 倍(batch=1)、4.76 倍(batch=16),且在无仓库或非多 agent 场景依然有效。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →