摩尔线程称在万卡级集群上从零预训练 2360 亿参数 MoE
pstAsiatech · x · 2026-07-22
引用帖转述称，在上周的中国世界人工智能大会上，摩尔线程声称自己在一个约 1 万张 GPU 规模的国产集群上，从零预训练了一个 2360 亿参数的 MoE 模型。
如果这一说法属实，这意味着其训练规模已经达到此前被视为更偏华为生态的那一档大集群水平，重点信息在于：国产算力集群、超大参数 MoE、从头训练。
「Infra」频道最新
- GLM 上线后又开始试 8×H100 跑 DSv4 Flash — TheZachMueller · 2026-07-22
- llama.cpp 在 b10087 版本新增 Laguna XS.2 和 M.1 支持 — LaurentPayot · 2026-07-22
- LightOn Search 在 BrowseComp-Plus 夺得第 5 名，准确率 86.27% — CShorten30 · 2026-07-22
- Nvidia Spectrum 交换机加入 CPO 支持，Lambda 已在测试 — TheZachMueller · 2026-07-22
- Hermes Cloud 支持按需扩容磁盘和 CPU 内存 — Teknium · 2026-07-22
- 云预留实例二手市场消失，AI 团队只能自己消化错配容量 — DavidLinthicum · 2026-07-22