3090 跑 33B 的长上下文吞吐
GreenGames · hn · 2026-07-11
这篇 HN 分享的是一篇基准测试：**Laguna XS 2.1 33B** 跑在 **RTX 3090** 上时，峰值速度可达 **296 tok/s**，在 **256K 上下文**下仍能维持 **152 tok/s**。 信息重点不在模型本身的发布，而在于它展示了一个具体的**本地部署/长上下文推理**性能结果，适合关心单卡推理、吞吐和上下文成本的人参考。
GreenGames · hn · 2026-07-11
这篇 HN 分享的是一篇基准测试：**Laguna XS 2.1 33B** 跑在 **RTX 3090** 上时，峰值速度可达 **296 tok/s**，在 **256K 上下文**下仍能维持 **152 tok/s**。 信息重点不在模型本身的发布，而在于它展示了一个具体的**本地部署/长上下文推理**性能结果，适合关心单卡推理、吞吐和上下文成本的人参考。