Dolphin Networks 实测:DeepSeek-V4.1 Flash 在 PCIe 卡上吞吐提升 3.8 倍
AlpinDale · x · 2026-11-06
Dolphin Networks 发布技术文章,介绍其将 DeepSeek-V4.1 Flash (1017) 在 4 张 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU(PCIe 版)上跑通并优化吞吐的工程实践,实现了 3.8 倍的吞吐提升。文章覆盖其多数员工使用该款 GPU 的部署现状与加速细节,适合关注本地/多卡推理优化的读者。
「Infra」频道最新
- 科技股单日蒸发 3.2 万亿美元,Nvidia 跌 9.3%,数据中心或受地方严审 — rohanpaul_ai · 2026-11-06
- 瑛太 Huang 新视频拆解 LLM Serving:让推理更快更便宜的关键技术 — jbhuang0604 · 2026-11-06
- 美国 BIS 再延期:实体清单关联方终端用户管制暂停延至 2027 年 1 月 — pstAsiatech · 2026-11-06
- Meta 提出 Axia:少量试跑即可学到推荐排序模型的 scaling law — _reachsumit · 2026-11-06
- 剔除数据中心设备后,美国贸易逆差占 GDP 仅 0.7%,为 2000 年以来最低 — soumitrashukla9 · 2026-11-06
- Modal 的 GPU 术语表被盛赞:云计算商的免费硬核参考 — eigenron · 2026-11-06