TurboPairFormer 开源核将 OpenFold3 训练提速最高 1.73 倍
MoAlQuraishi · x · 2026-11-14
Lambda、Stevens 理工学院与 OpenFold 团队发布开源 GPU 内核 TurboPairFormer，针对 OpenFold3 中三次方复杂度的 triangle attention（训练 crop 翻倍成本约 8 倍）优化，兼顾速度、精度与可复现性：
- 每个优化器步骤比原 Triton 后端最快提升 1.73×；
- 相对 FP64 参考实现，Q/K 与 pair-bias 梯度误差最低；
- 全部 600 组固定输入测试中，四种梯度（Q、K、value、pair-bias）逐位一致；
- 支持 H100/H200：H200 上 768 pixel 输入每步 14.67s vs 原 22.53s（1.54×）。
项目已开源，适合蛋白质结构模型微调场景。
「Infra」频道最新
- Inkling 2 Small 全程原生 4-bit 训练：预训练仅提速 8% 引质疑 — andrew_n_carr · 2026-11-14
- H100 租赁价一年涨 58% 至 $3.10/时，老旗舰并未贬值 — VishalG · 2026-11-14
- 马斯克附议 Naval：黄仁勋是英伟达的乔布斯，无可替代 — elonmusk · 2026-11-14
- llama.cpp 发布 v1,新增 MoE offloading 与 LRU 缓存加速大模型 — danielhanchen · 2026-11-14
- Unsloth 更新 Qwen3.8-27B 动态量化 v3.1，本地部署再省显存 — slacka123 · 2026-11-14
- Neel Nanda 重绘算力曲线：2024 至 2026 年预训练算力倍增约 23 倍 — NeelNanda5 · 2026-11-14