Modal 用混合精度混合加速器异步 RL 训练,成本更低且稳定收敛

AAAzzam · x · 2026-10-14

Modal 指出,大模型 RL 训练通常跑在固定同质、最新代加速器集群上以保证数值稳定和吞吐,但这会丢弃为其他厂商/世代做的推理优化,限制可用容量,且成本过高。

他们的做法:在 agentic coding 任务上用完全异步 RL 与混合精度、混合加速器采样器训练模型,配合 off-policy correction,训练在整个收敛过程中保持稳定,效果与同质采样器相当,但成本更低。

所属事件:混合精度混合加速器跑 RL 训练更省成本且稳定收敛(2 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →