开源模型 Bonsai 2 9B 社区挑战提速 6 倍

开源 9B 模型 Bonsai 2 经一周社区优化挑战显著提速:在 Mac(Apple Silicon/MLX)上提升 471%,达到约 959 tokens/s,接近千 token 每秒;在 NVIDIA DGX Spark 上也提升 421%。此前 TheDavidTai 团队已在自定义 dflash2 runner 上深度调优,借助投机解码使该模型在 mlx.fast 榜单跑出近 1000 tok/s 的成绩。

2026-10-21 ~ 2026-10-23 · 2 条相关

• Bonsai 2 9B 在 Mac 上被加速 468%，接近千 token/秒解码 — HankYeomans · 2026-10-21
• Bonsai 2 9B 社区挑战一周提速 6 倍，Mac 上达 959 tokens/s — gajesh · 2026-10-23