腾讯混元开源全链路投机解码框架 AngelSpec

腾讯混元正式开源了覆盖训练、架构设计到线上部署的全链路投机解码框架 AngelSpec。该框架支持自回归 MTP drafting 和 blockwise 等多种模式,并同步放出了 Hy3-A21B 的 MTP 草稿模型。据官方介绍,AngelSpec 在推理加速方面表现优异,最高可带来 2.4 倍的性能提升。

2026-07-29 ~ 2026-07-29 · 2 条相关