前谷歌训练专家实证跨洋 25Gbps 分散算力训 MoE

曾负责多个前沿模型训练算法的 Rohan Anil 以 Core Automation 名义发布长文《The Hitchhiker's Guide to Training on Compute Islands》，分享在分散「算力孤岛」上做分布式训练的实践与观点。团队在跨洋 25Gbps 链路上成功训练稀疏 MoE 模型，并展望未来在太空进行模型训练的可能性，为破解算力集中困境提供了参考方案。

2026-11-03 ~ 2026-11-03 · 3 条相关

• 前谷歌训练大佬 Rohan Anil 实测跨洋 25Gbps 双集群训练 MoE 模型 — _arohan_ · 2026-11-03
• 25Gbps 跨洲链路训 MoE 模型：Core Automation 发布分散算力训练指南 — eliebakouch · 2026-11-03
• 前谷歌训练算法负责人 Rohan Anil 发文：跨算力孤岛与太空训练 — ruthstarkman · 2026-11-03