INTELLECT-2 分布式 RL 训练配方曝光：GPU 池异步广播权重加 Toploc 验证
willcb · x · 2026-10-14
推文指出 Prime Intellect 的 INTELLECT-2 分布式强化学习训练配方早在 2025 年 5 月就已发布，并附上其系统架构图：异构 GPU（H100、H200、A100、MI300X、3090 等）组成推理 worker 池，异步广播权重；GRPO 训练 worker 池负责训练；Toploc 验证器接收推理侧回传的推理轨迹与奖励，校验后再把通过验证的轨迹送回训练侧，形成去中心化协作训练闭环。
所属事件:INTELLECT-2 分布式 RL 训练配方受关注(2 条相关)→
「Infra」频道最新
- RL 训练占比飙至 55%:SemiAnalysis 图表误读正在刷屏 — repligate · 2026-10-14
- 百个工程师配 AI 即达万人协作:monorepo 需要新 Git 原语 — rickasaurus · 2026-10-14
- Modal 证明 RL 训练可用混合加速器集群，成本更低且收敛不输同构 — charles_irl · 2026-10-14
- 后院「分布式数据中心」小屋：为本地 LLM 打造的 ADU 创业 — dee_hw · 2026-10-14
- 小红书 Dots 团队开源 DoSA:稀疏注意力 Indexer 提速至 2.74 倍 — dots-studio · 2026-10-14
- ShellElastic 一次训练产出多尺寸子网,超参可从小模型直接迁移 — Can Jin · 2026-10-14