Together AI 推出 Post-Training 平台:Agentic RL 训练托管服务
togethercompute · x · 2026-10-31
Together AI 发布 Together Post-Training 服务,主打 agentic RL——即在带工具调用的多轮长交互上训练模型。用户自定义环境与奖励(reward、verifier、judge),Together 负责训练与生成的基础设施。
要点:
- 支持工具调用、异步 rollout、自定义 sandbox(“bring your own sandbox”)
- 支持 GRPO、PPO 或自定义 loss,多 LoRA 或全量训练
- RL 单步抽象为 sample()、yourreward()、forwardbackward()、optimstep()、weightssync(),SFT 复用同一循环去掉采样与权重同步
- 一次调用预留全部所需 GPU,可在同一 reservation 上开多个并行 LoRA 实验会话,支持接入 Weights & Biases 等自选追踪工具
- 兼容 Tinker,提供 cookbook 示例,支持多 LoRA eval 与专属端点部署
该服务定位于让开发者掌控训练循环,Together 承担 GPU 容量、训练-rollout 一致性、并行度优化等工程细节。
「Infra」频道最新
- Modal 推出 Sticky Sessions:无服务器容器也能保住会话状态 — graceisford · 2026-10-31
- 摩根大通预测 Amazon 2028 年资本开支近 5000 亿美元 — BenBajarin · 2026-10-31
- KV Cache 工程详解:单序列 8K 上下文即占 1 GiB,服务性能胜负手 — techNmak · 2026-10-31
- Ollama 官方称云服务年初以来增长 200 倍 — ollama · 2026-10-31
- 汇总三年数据:全球数据中心容量已达 94GW,正滑向 2027-28 — bookwormengr · 2026-10-31
- 网友观察到 OpenAI 爬虫大举抓取域名,疑为新训练囤网页缓存 — gaganghotra_ · 2026-10-31