Periodic Labs 基于 Miles 框架训练万亿参数模型,吞吐提速3倍
hsu_byron · x · 2026-08-19
Byron Hsu 指出 Periodic Labs 基于开源 RL 框架 Miles 进行开发,实现了在数千 GPU 上训练具有极长视距 rollouts 的万亿参数科学 RL 模型。合作优化成果显著:rollout 吞吐量提升 3 倍,权重同步加速 10 倍,权重转换提速 30 倍,且所有改进已合入上游。
「Infra」频道最新
- Andrej Karpathy 发布 llm.c:纯 C/CUDA 实现 LLM 训练 — goyalshaliniuk · 2026-08-19
- Anthropic 500 亿美元算力建设显示融资非短期瓶颈 — FinanceYF5 · 2026-08-19
- Epoch AI:融资暂非前沿算力瓶颈,模式将扩至20GW — FinanceYF5 · 2026-08-19
- 5家项目公司发债151.8亿美元,建1.43GW数据中心 — FinanceYF5 · 2026-08-19
- 年入不到90亿美元,Anthropic如何撬动近500亿美元AI基建 — FinanceYF5 · 2026-08-19
- DeepSeek的「需求摧毁」降价策略,至今未见成效 — zephyr_z9 · 2026-08-19