腾讯开源 AngelSpec:统一训练投机采样 draft 模型
aigclink · x · 2026-07-29
腾讯开源了 AngelSpec,一个基于 PyTorch 的投机采样 draft 模型统一训练框架,支持自回归 MTP 起草和块并行 DFlash 系列。
投机采样是今年大模型推理降本的核心赛道,但业界一直缺乏公开、标准化的 drafter 训练流水线,各家团队多将其视为私有 know-how。该框架将训练流程“工厂化”,整合了 DFly、DFlash、Eagle3 等多种主流算法,填补了算法论文与实际工程部署之间的空白。
所属事件:腾讯混元开源全链路投机解码框架 AngelSpec(4 条相关)→
「Infra」频道最新
- AI 算力竞赛的隐形功臣:数据中心电源管理芯片决定能效上限 — Olivier__OG · 2026-10-17
- 35B 多模态模型跑进 3GB 内存:MiniCPM-V 4.7 全程离线读懂家电面板 — alifcoder · 2026-10-17
- 本地跑 Qwen3.8-Flash-Next:换全量 FP8 n-gram 表质量明显提升 — sillynoobhorse · 2026-10-17
- 单卡 A100 本地跑 Nemotron 3.5,169 tok/s 处理百份病历仅 2 美分 — MaziyarPanahi · 2026-10-17
- NVIDIA 开源 AIPerf 基准工具 + Triton 官方教程:推理性能测量的两块拼图 — techNmak · 2026-10-17
- Triton 官方 GPU 编程教程:从向量加法到融合注意力 — techNmak · 2026-10-17