Together 重写推理平台，月处理 400 万亿 tokens
graceisford · x · 2026-07-24
Together 表示自己把推理平台从头重写了一遍，主要是基于服务 AI 原生团队和企业客户时积累的生产环境经验。
变化重点
- 新平台已经上线
- 面向开源模型和自定义模型的生产部署
- 支持在真实流量上先测试变更，再让用户看到
- 官方称其每月处理 400 万亿 tokens，这也是重写平台的重要背景
这条信息的核心是基础设施能力：更可控的生产环境、更安全的发布流程，以及大规模推理流量带来的工程优化。
所属事件:Together.ai 推出全新开源模型推理平台(4 条相关)→
「Infra」频道最新
- Anthropic S-1：训练基建优势使单任务成本降40%、营收增速翻倍 — BenBajarin · 2026-10-26
- 研究揭示合成数据最优比例随算力从10%升至32% — heghbalz · 2026-10-26
- 多州暂停新建数据中心，72% 美国人反对建在家门口 — YvesMulkers · 2026-10-26
- 500 万美元种子轮不够 DeepSeek 训一遍:没 GPU 的 AI 创业只剩三条路 — FinanceYF5 · 2026-10-26
- HBM 需求转向:低端推理砍单,Rubin 将全系 12-high HBM — BenBajarin · 2026-10-26
- CircuitHub 发布工厂级机器人 The Grid，美国产 PCB 提速两倍对标深圳 — garrytan · 2026-10-26