引擎「e」单台 DGX Station 跑 Nemotron 3.5 Super VL 达 10500 tok/s
petrusenko_max · x · 2026-10-17
somewheresy 称其新推理引擎「e」是「他们拥有过最接近外星科技的东西」：在单台 DGX Station 上，对刚发布数分钟的 NVIDIA Nemotron 3.5 Super VL 模型实现了每秒 10,500 token 的聚合吞吐。
所属事件:推理引擎「e」单台 DGX Station 跑出 10500 tok/s(5 条相关)→
「Infra」频道最新
- llama.cpp v0.7.0 发布:一条命令在 128GB Mac 跑 Qwen3.8-Flash 草稿推测 — ggerganov · 2026-10-17
- NVIDIA GB300 NVL72推理吞吐几天内从7万提至约9万 TPS/GPU — NVIDIAAI · 2026-10-17
- 4x3090 还是 DGX Spark：本地部署大模型的算力取舍账 — Dapper_Chance_2484 · 2026-10-17
- SGLang Summit 2026 议程亮相，Decagon 将分享 1T 参数 RL 训练管线 — BanghuaZ · 2026-10-17
- Qwen 本地实测：弃 21K 上下文换更高量化，编码耗时省 25% — Boricua-vet · 2026-10-17
- TeenyWork 原型：让浏览器用比特币挖矿算力付费换访问 — stonebrigade · 2026-10-17