B300推理吞吐达DeepSeek数倍
teortaxesTex · x · 2026-07-08
B300 NVL72 配合 Dynamo 在 80 tps 下可达单卡 8K 上下文;DeepSeek 用 DSpark 在同等 80 tps 下约 1K 上下文。若 DeepSeek 用的是 H800 或 950 系列,每瓦差距至少 4 倍,但按资本开支每美元或基本持平。
「Infra」频道最新
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27
- RTX 5090 卖到 7000 美元,PC 游戏社区集体否认 AI 热潮 — PAstynome · 2026-10-27
- Wan2GP 上架 Pinokio:6GB 显存一键跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- Wan2GP AMD 版一键安装上线,6GB 显存即可跑 AI 视频生成 — cocktailpeanut · 2026-10-27
- AWS 详解 Agent 提示缓存:显式+隐式双模式省下重复 token 账单 — AWS ML Blog · 2026-10-27
- 6 个月被抢超 1 亿美元:盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27