Bonsai 2 9B 社区挑战一周提速 6 倍，Mac 上达 959 tokens/s

gajesh · x · 2026-10-23

开源 9B 模型 Bonsai 2 经过一周社区优化挑战，最终在 Mac(Apple Silicon/MLX)上提速 471%、在 NVIDIA DGX Spark 上提速 421.5%:解码速度从 144.8 提升到 959.6 tokens/s(Apple Silicon),从 85.9 提升到 576.7 tokens/s(DGX Spark),甚至可以在 iPhone 上运行。

挑战累计叠加了 158 项纪录，参与者包括人类和使用 Claude Opus 5.5、GPT-6.1 Sol、GPT-6 Astra、Gemini 4 Argon、DeepSeek-V4、Qwen3.8-Flash-Next 等模型的 agent;Kaankolcu 拿下 Mac 组第一，dadon 拿下 DGX Spark 组第一。PrismML 团队提供支持，模型已在 DarkbloomAI 上线可供试用。