摩尔线程万卡集群预训练2360亿参数MoE
在世界人工智能大会上,摩尔线程宣布在约一万张国产GPU规模的集群上,从零预训练了一个2360亿参数的MoE模型。这一消息引发了业界对中国AI硬件与算力圈快速发展的关注,认为过去一些默默无闻的厂商如今已能完成如此大规模的动作,展现出国产算力集群的显著进步。
2026-07-22 ~ 2026-07-22 · 2 条相关
- 摩尔线程称在万卡级集群上从零预训练 2360 亿参数 MoE — pstAsiatech · 2026-07-22
- 中国 AI 硬件圈曝出 1 万卡集群和 236B MoE — teortaxesTex · 2026-07-22