新推理引擎 e 在单台 DGX Station 跑出万级 token 吞吐
somewheresy 团队发布新推理引擎「e」,自称「最接近外星科技的东西」,在单台 NVIDIA DGX Station 上对刚发布的 Nemotron 3.5 Super 实现约每秒 1 万 token 的生成速度与 10500 tok/s 聚合吞吐。Actual Computer 也发布案例研究,称其推理引擎可将 DGX Station(基于 GB300)变成「部门级 AI 工厂」,单台跑出 8000+ tokens/s,并通过 API 向全团队提供服务。
2026-10-16 ~ 2026-10-16 · 3 条相关
- 新推理引擎『e』单台 DGX Station 跑出 10500 tok/s 聚合吞吐 — brandon_galang · 2026-10-16
- Actual 实测 DGX Station 跑出 10k tok/s,推理引擎与 GB300 案例曝光 — natesiggard · 2026-10-16
另有 1 条近重复转述:cephaloform