腾讯开源 AngelSpec:统一训练投机采样 draft 模型

aigclink · x · 2026-07-29

腾讯开源了 AngelSpec,一个基于 PyTorch 的投机采样 draft 模型统一训练框架,支持自回归 MTP 起草和块并行 DFlash 系列。

投机采样是今年大模型推理降本的核心赛道,但业界一直缺乏公开、标准化的 drafter 训练流水线,各家团队多将其视为私有 know-how。该框架将训练流程“工厂化”,整合了 DFly、DFlash、Eagle3 等多种主流算法,填补了算法论文与实际工程部署之间的空白。

所属事件:腾讯混元开源全链路投机解码框架 AngelSpec(4 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →