Modal 证明 RL 训练可用混合加速器集群,成本更低且收敛不输同构
charles_irl · x · 2026-10-14
Modal 团队挑战「RL 训练必须用最新加速器组成的同构集群」这一惯例:他们认为大型同构集群对本质上是推理形态的任务是大材小用。团队在 agentic coding 任务上用完全异步 RL 与混合精度、混合加速器采样器训练模型,配合 off-policy correction,训练稳定收敛至与同构采样器持平的效果,但成本更低。结论:为 RL 采购大规模同构算力前值得重新算账。
所属事件:Modal验证异构加速器集群可低成本稳定训练RL(4 条相关)→
「Infra」频道最新
- 本地跑编码智能体:内存成本已超过 token 成本 — RishabJainK · 2026-10-14
- 时隔 14 年更新的 CUDA 刚体管线跑出 204.8 万张骨牌 — erwincoumans · 2026-10-14
- RL 训练占比飙至 55%:SemiAnalysis 图表误读正在刷屏 — repligate · 2026-10-14
- 百个工程师配 AI 即达万人协作:monorepo 需要新 Git 原语 — rickasaurus · 2026-10-14
- 后院「分布式数据中心」小屋:为本地 LLM 打造的 ADU 创业 — dee_hw · 2026-10-14
- 小红书 Dots 团队开源 DoSA:稀疏注意力 Indexer 提速至 2.74 倍 — dots-studio · 2026-10-14