NVIDIA BioNeMo 推理运行时提速 2.9 倍:Boltz-2 折叠吞吐达 58.5K 残基/GPU 时
PyTorch · x · 2026-09-18
NVIDIA 发布技术博客,介绍 BioNeMo Inference Runtime(BioIR)如何加速生物分子结构预测模型,同时保持 PyTorch 原生工作流。
核心数据(8xH100 上 1000 个人类二聚体基准):
- BioIR 加速的 Boltz-2 达到 58.5K 成功折叠残基/GPU 小时,对比 torch.compile 开源实现的 20.2K,吞吐提升 2.90 倍
- 折叠 100 万个目标的估算能耗从 35 MWh 降至 11 MWh
三层优化:
- 核心算子选择(optimized kernels)
- 用 CUDA Graph 捕获做模块级优化
- 用 Ray 副本做流水线扩展,单节点内每块 GPU 放完整模型副本,CPU 阶段与 GPU 折叠重叠执行
支持 Boltz-2、OpenFold2、OpenFold3,端到端覆盖解析、tokenize、特征生成、GPU 推理到 PDB/mmCIF 输出,也可作为 torch.nn.Module 集成进自定义代码。
「Infra」频道最新
- B200/H100 租金周内创新高,年内涨 47% 和 31% — TheZachMueller · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Mac 端 PyTorch 10 月下载量达 329 万,环比涨 20.5% — LysandreJik · 2026-11-02
- CVSS 9.8 严重漏洞:ingress-nginx 可被未认证攻击者实现 RCE — evilsocket · 2026-11-02
- 内存涨价三倍,特斯拉把 Optimus 大脑内存砍掉三分之一 — aakashgupta · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02