Baseten 实测:DeepSeek v4.1 Flash 在 Vera Rubin 上跑出约 2500 tok/s

baseten · x · 2026-11-19

Baseten 团队公布了在 NVIDIA Vera Rubin 上推进低延迟推理的最新结果:

NVIDIA AI Infra 官方账号也转发了这一成果,这是 Vera Rubin 平台早期低延迟推理的代表性数据点。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →