Together AI 携手 IBM 与 NVIDIA，在 IBM Cloud 部署专用 B300 推理集群
togethercompute · x · 2026-10-08
- 合作内容：Together AI 与 IBM、NVIDIA 合作扩展企业级 AI 推理能力，首个项目是在 IBM Cloud 上部署专用 NVIDIA B300 GPU 集群，配 Spectrum-X 以太网网络，专为高吞吐推理打造，Together 是该集群的首个客户。
- 分工：NVIDIA 提供芯片与网络，IBM 提供云平台，Together 负责推理层运营。
- 规模：Together 目前每月服务数百万亿（hundreds of trillions）token，开发者超百万，需求持续攀升。
- 逻辑：IBM Cloud GM Alan Peacock 表示「如果业务能获益，花在 token 上的钱是值得的」；Together 强调企业选择开源模型是因为数据主权加上以远低于闭源模型的成本获得接近前沿的性能。
所属事件:Together AI 联手 IBM 与英伟达部署 B300 推理集群(2 条相关)→
「Infra」频道最新
- Agens Volundr 32B 亮相:仅 18 层留 KV 缓存,128K 上下文只慢 5% — lmoroney · 2026-10-08
- yaroslavvb 考据「内存墙」起源,长文梳理瓶颈由来 — yaroslavvb · 2026-10-08
- 两年自建本地 Agent 系统：多机路由、记忆仲裁与失败治理全复盘 — Budget_One_8784 · 2026-10-08
- DARPA 量子基准计划公布决赛名单，6 种技术路线各押一注 — hardimanjames · 2026-10-08
- DCVC 回忆 Atom Computing 从一页 BP 走进 DARPA QBI 决赛 — hardimanjames · 2026-10-08
- Rust+Vulkan 推理后端跨厂商适配：按 CPU 指令集而非 GPU 厂商选内核 — PhysicsDisastrous462 · 2026-10-08