腾讯混元开源全链路投机解码框架 AngelSpec
腾讯混元 · wechat · 2026-07-29
腾讯混元正式开源 AngelSpec，这是一个覆盖 drafter 训练、架构设计到线上部署 的投机解码框架。
- 同步放出了 Hy3-A21B 的 MTP / DFlydrafter 权重与训练代码，以及完整训练工具链，强调端到端可复现。
- 新一代 DFly drafter 在 4–64 并发档位、多个 benchmark 上都优于基线；相对 AR 基线平均加速 1.98–2.40×，代码/数学峰值达到 2.86×。
- 线上侧的 D-cut 通过把验证当作 batch 级共享资源，在真实流量回放中又带来最高 +15.7% 吞吐提升。
- 面向对话场景，MTP+TTT 通过修复训练-推理不一致，把平均接受率从 52.8% 提升到 66.4%，接受长度从 2.58 提升到 2.99。
- 框架基于 TorchSpec 构建，支持 128k 长上下文训练，并内置面向 serving 的真实接受率评估。
所属事件:腾讯混元开源全链路投机解码框架 AngelSpec(4 条相关)→
「Infra」频道最新
- Neocloud 股价再遭集体屠杀，五家厂商单日跌超 8% — JOBhakdi · 2026-10-16
- Neocloud 股价大跌，分析师痛批 Gartner「80% 将倒闭」报告 — McDonaghMatthew · 2026-10-16
- Tenstorrent 芯片跑生物模型:JapanFold 称单机超 DGX B200 且价格不到三分之一 — DavidBennett__ · 2026-10-16
- vLLM 为 Reflection Beam 提供 Day-0 RL 支持,LoRA 解码吞吐提升 62% — vllm_project · 2026-10-16
- DFlash2 给 Beam 解码提速最高 3.03 倍,GSM8K 并发 1 场景达成 — vllm_project · 2026-10-16
- 拆解 Beam 架构:501B 参数每 token 仅激活 8 个专家,23B 生效 — vllm_project · 2026-10-16