NVIDIA DGX Station 实测：Qwen3.8-27B 推理达 2713 tok/s
NVIDIAAI · x · 2026-08-20
实测数据显示，NVIDIA DGX Station 在 BF16 精度下全权重服务 Qwen3.8-27B 模型时表现惊人：峰值聚合吞吐量超过 2713 tok/s，单流输出速度达 88 tok/s。这使其在家用环境中具备了数据中心级别的推理能力。
「Infra」频道最新
- 光网络成投资热点，NVIDIA 5000 亿数据中心金融动态 — BenBajarin · 2026-08-20
- 改用内置 GELU 函数，LLM 训练提速 19% — rasbt · 2026-08-20
- 被誉真正好点子：数据中心应成为引以为豪的市政设施 — aronchick · 2026-08-20
- Databricks 推 AI Extract，PDF 提取精度达 95% — jefrankle · 2026-08-20
- 动画实测辟谣：AI 数据中心用水量被严重夸大 — aronchick · 2026-08-20
- Virtuals：机器人数据无法像互联网那样随意抓取 — ai · 2026-08-20