Periodic Labs:1300 张 H200 训出 Pareto 压制前沿模型的科学模型
zephyr_z9 · x · 2026-09-16
Periodic Labs 发布基础设施博客,披露其如何用有限算力训练专业科学模型:
- 核心成果:从开源权重出发,中训练+RL 阶段峰值仅需 1,300 张 H200,即在 X 射线衍射评测上 Pareto 压制 GPT-6 Astra 与 Claude Fable 5.1 等前沿模型;模型已用于高通量实验室分析实验,搜寻更优超导体与磁性材料
- 训练吞吐:基于 Megatron 深度改造,同一 GPU 上训练吞吐达 Megatron 的 4.1 倍
- 推理加速:向 SGLang 贡献优化,其场景下推理提速 2.5 倍;技术栈还基于 Miles 与 Ray
- 负载特点:科学 RL 的 rollout 需数小时推理与工具调用,而训练步仅几分钟,为此做了沙箱隔离与 GPU 显存效率优化
- 利用率:与科学建模仿真工作负载共享集群容量,维持 95%+ 利用率
目标是缩短「想法到实验结果」的周期,让每 GPU 小时产生更大价值。
所属事件:Periodic Labs 用 1300 张 H200 训出 Neon 压制 GPT-6 Astra(69 条相关)→
「Infra」频道最新
- B200/H100 租金周内创新高,年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍,特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02