Together 按块 GPU 计价做后训练，并行 rollout 越多单价越低
togethercompute · x · 2026-10-29
Together Compute 指出长程 agent rollout(推理轨迹采样)成本会快速膨胀。其 post-training 服务采用按 GPU 计价而非按 rollout 计价，因此并行跑的 rollout 越多，摊到每条 rollout 上的成本越低，适合大规模 RL 后训练与评估采样场景。
「Infra」频道最新
- 曝 Google 研发 Frozen v2 专用芯片,2028 年上线专为 Gemini 提效 — zacharynado · 2026-10-29
- 传新 MacBook Pro 搭 M5 Pro/Max：128GB 内存 16TB 存储助力本地跑大模型 — LearnWithBishal · 2026-10-29
- NanoGPT 速度跑纪录从 39.9 秒骤降至 6.7 秒，降幅超历年总和 — tatsu_hashimoto · 2026-10-29
- Cerebras 晶圆级芯片隐忧：介质面积约为 H100 的 57 倍，TDDB 失效风险或致快速贬值 — teortaxesTex · 2026-10-29
- Modular MAX 全量源码开放:编译器+运行时+硬件后端可商用免版税 — ryanshrout · 2026-10-29
- NVIDIA 开播 CUDA Rust 入门课程,面向 GPU 编程新方向 — NVIDIAAI · 2026-10-29