全球首个去中心化 RL 训练:回顾 INTELLECT-2 的 32B 推理模型配方
willcb · x · 2026-10-14
willcb 在回复中指出,某项工作的做法与 Prime Intellect 2025 年 5 月的 INTELLECT-2 配方相同。INTELLECT-2 是首个全球分布式强化学习训练的 32B 参数推理模型,代码与数据全部开源。
论文要点:
- 训练方式:在动态、异构、无需许可的算力贡献者网络上运行完全异步的 RL,而非传统集中式训练。
- 自研基础设施:PRIME-RL 分布式异步 RL 训练框架;TOPLOC 用于验证来自不受信任推理节点的 rollout;SHARDCAST 高效地把策略权重从训练节点广播到推理节点。
- 训练稳定性:对标准 GRPO 配方做了修改并加入数据过滤技术,最终 32B 模型超过了当时的同尺寸 SOTA QwQ-32B。
对关心去中心化训练、无许可算力网络和 RL 工程实现的人来说,这是一份完整可复现的参考配方。
所属事件:INTELLECT-2 分布式 RL 训练配方受关注(2 条相关)→
「Infra」频道最新
- Hugging Face 推出 Kernel Hub,让计算内核像模型一样分发 — ariG23498 · 2026-10-14
- 实测 LLM 推理阶段分离：KV 缓存跨 GPU 搬运未必划算 — burkov · 2026-10-14
- jitllm 实现 8 毫秒迁移模型层:推理中途换 GPU 不丢上下文 — web3samy · 2026-10-14
- 美光提价 HBM 追平 DRAM 利润,内存已占 PC 成本 23% — tengyanAI · 2026-10-14
- Beff 宣称明年 TSU 搭配 GPU 可达 100 倍每瓦性能 — beffjezos · 2026-10-14
- Mac mini M6 32GB 实测:Qwen3 27B 本地推理 22-50 t/s — Striking_Luck_886 · 2026-10-14