16块GB10集群成功跑通Kimi K3,峰值吞吐达38tps
开发者在由 16 块 GB10 组成的集群上成功完整运行了 Kimi K3 模型。实测数据显示,该集群运行表现优异,平均生成速度超过 20 tokens/s,峰值速度达 38 tokens/s,预填充速度更是高达 750 tokens/s,验证了该硬件组合运行大模型的可行性。
2026-08-05 ~ 2026-08-06 · 2 条相关
- 16块GB10集群成功跑通Kimi K3,吞吐超20tps — ciprianveg · 2026-08-05
另有 1 条近重复转述:NVIDIAAI