Together 推出后训练服务:RL/SFT 基础设施托管,训练循环归你
togethercompute · x · 2026-11-13
Together AI 发布 Post-Training 服务,主打「你掌控训练算法,我们负责底层基础设施」,客户 poetiq 已用它快速启动复杂 RL 研究工作负载。
你控制:训练配方 API、数据/prompt/环境、奖励与验证器、GRPO/PPO 或自定义损失、Multi-LoRA 或全参数、部署位置。
Together 处理:GPU 容量、RL 的训练-采样一致性、并行度优化、按模型调优的 rollout 引擎、异步/同步训练支持。
- RL 一步即 sample() → reward → forwardbackward() → optimstep() → weightssync(),SFT 去掉头尾两步
- Python 写循环、一键预留 GPU、并行 LoRA 会话,兼容 Tinker 与 Weights & Biases
- 前 OpenAI 董事成员 Ian Fischer 现任客户 poetiq 联合 CEO
「Infra」频道最新
- RL 圈讽喻热帖：解耦生成与训练并非免费吞吐，staleness 不是舍入误差 — willcb · 2026-11-13
- 单张 RTX 5090 跑出近 18000 tokens/秒,成本约 1 美分/百万 tokens — bittingthembits · 2026-11-13
- 实测 LLM 网关延迟:中位数仅加 0.21ms,p99 却高达 89ms — jkriket · 2026-11-13
- RL 框架 Miles v0.2 发布:支持 NVIDIA/AMD/TPU/Trainium 四种硬件 — ying11231 · 2026-11-13
- 14 分钟视频还原 ChatGPT 一次问答之旅:从回车键到 GPU 再返回 — Glass-Garden-5888 · 2026-11-13
- Burkov 周刊：94% 英国学生用 AI 做作业，CUDA Rust 等十条精选 — burkov · 2026-11-13