新推理引擎 e 在单台 DGX Station 跑出万级 token 吞吐

somewheresy 团队发布新推理引擎「e」,自称「最接近外星科技的东西」,在单台 NVIDIA DGX Station 上对刚发布的 Nemotron 3.5 Super 实现约每秒 1 万 token 的生成速度与 10500 tok/s 聚合吞吐。Actual Computer 也发布案例研究,称其推理引擎可将 DGX Station(基于 GB300)变成「部门级 AI 工厂」,单台跑出 8000+ tokens/s,并通过 API 向全团队提供服务。

2026-10-16 ~ 2026-10-16 · 3 条相关

另有 1 条近重复转述:cephaloform