Ling-3.0-flash-dspark 开源,4 卡 Blackwell 跑出 1120 tok/s

AdinaYakup · x · 2026-08-22

开源了专为 Ling-3.0-flash 构建的 DSpark draft 模型。在 4 张 NVIDIA Blackwell GPU 上,batch 1 的条件下,该模型在 1000 个请求中实现了 1120 tok/s 的速度,平均 TPOT 为 0.78ms,接受长度为 9.95。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →