NVIDIA列举Blackwell推理落地案例
nvidia · x · 2026-07-14
NVIDIA 继续列举采用其全栈开源推理软件的客户案例，重点放在 Blackwell 上的实际收益：
- Baseten 用 TensorRT-LLM 服务 DeepSeek V4 Pro，称针对推理、代码和长上下文任务，吞吐最高提升 50%
- Cognition 用 NVIDIA Dynamo 管理推理 GPU，方便其扩展强化学习工作负载
- Deep Infra 在 Blackwell 上“从第一天”运行前沿开源模型，包括 DeepSeek V4
- DigitalOcean / Hippocratic AI 通过 NVIDIA 推理软件把吞吐提升 30%，同时保持低于 0.5 秒的首 token 响应时间，覆盖 1000 万通患者电话
- 后面还提到 Together AI 等更多案例
这条本质上是在展示：NVIDIA 不是只卖芯片，而是用推理软件栈把 Blackwell 变成更完整的生产系统。
所属事件:英伟达强调全栈优势：PyTorch下载超7亿次(3 条相关)→
「Infra」频道最新
- Anthropic 背 4750 亿美元算力合约,OpenAI 到 2030 年拟投约 7500 亿 — kyliebytes · 2026-10-27
- 首个数据中心噪音系统研究:25 座超大规模机房中 17 座无可信投诉 — AndyMasley · 2026-10-27
- 3 张二手 V100 跑 Qwen 近 400 tokens/秒 — jfinkpottery · 2026-10-27
- RFD4-Proteina 跑在 RTX 3060 上:单次蛋白设计最低约 $0.001 — AllThingsApx · 2026-10-27
- 开发者抱怨 npm 新包上线要等 20 分钟，疑为防 AI 攻击限流 — cocktailpeanut · 2026-10-27
- Nature Physics 论文：可重构折射率实现对多模波传播的任意控制 — MarioKrenn6240 · 2026-10-27