腾讯混元开源全链路投机解码框架 AngelSpec
腾讯混元 · wechat · 2026-07-29
腾讯混元正式开源 AngelSpec，这是一个覆盖 drafter 训练、架构设计到线上部署 的投机解码框架。
- 同步放出了 Hy3-A21B 的 MTP / DFlydrafter 权重与训练代码，以及完整训练工具链，强调端到端可复现。
- 新一代 DFly drafter 在 4–64 并发档位、多个 benchmark 上都优于基线；相对 AR 基线平均加速 1.98–2.40×，代码/数学峰值达到 2.86×。
- 线上侧的 D-cut 通过把验证当作 batch 级共享资源，在真实流量回放中又带来最高 +15.7% 吞吐提升。
- 面向对话场景，MTP+TTT 通过修复训练-推理不一致，把平均接受率从 52.8% 提升到 66.4%，接受长度从 2.58 提升到 2.99。
- 框架基于 TorchSpec 构建，支持 128k 长上下文训练，并内置面向 serving 的真实接受率评估。
所属事件:腾讯混元开源全链路投机解码框架 AngelSpec(2 条相关)→
「Infra」频道最新
- 腾讯开源 AngelSpec，推理加速最高可达 2.4 倍 — teortaxesTex · 2026-07-29
- Kimi K3 被指月 API 支出超 2 万美元后更适合自建 — ZeYanjie · 2026-07-29
- AI 需求推高 Bloom 和 Seagate，Vertiv 的广泛组合却承压 — TiernanRayTech · 2026-07-29
- llama.cpp 合并 GLM-5.2 的 speculative decoding 支持 — YPSONDESIGN · 2026-07-29
- ChipAgents 融资 6000 万美元，称上半年 ARR 增长 6 倍 — WilliamWangNLP · 2026-07-29
- NeurIPS 2026 征稿聚焦去中心化基础模型训练 — peter_richtarik · 2026-07-29