Meta 论文:推荐系统训练中仅 50-60% 时间真正在训练
_reachsumit · x · 2026-10-02
Meta 团队在 arXiv 发布论文,研究其最大规模推荐系统训练集群(数千 GPU、日处理数百亿样本)的效率问题。论文指出,此前这些训练任务只有 50-60% 的端到端时间在真正训练新数据,其余被「生命周期开销」悄然吞噬。
核心贡献:
- 提出 Effective Training Time (ETT%) 指标,用于量化训练集群中损失的时间,并定位到可独立归属的基础设施组件
- 揭示跨任务重启被重复执行的工作
配套优化覆盖整个训练栈:trainer 初始化阶段的通信消除与流水线重叠、动态 shape 处理与自动调优剪枝、可复用的 PyTorch 2 编译缓存、异步 checkpointing、独立模型发布流程以及恢复成本削减。论文在代表性模型上评估了各优化项,并在实际训练集群中验证 ETT% 全面提升。
「Infra」频道最新
- 纯 Rust 推理引擎 RustingStrata 实测:3060 上跑 Qwen MoE 略胜原版 Strata — Serious_Scarcity7818 · 2026-11-19
- 投资人感叹:市场对不确定性的厌恶盖过了英伟达财报赚钱能力 — MartinGTobias · 2026-11-19
- SGLang 宣布为新模型 DaisyRose-27B 提供 Day-0 支持 — ying11231 · 2026-11-19
- Linux LTS 补丁洪峰将至:单日 3318 个补丁,「人类根本审不完」 — pkqzy888 · 2026-11-19
- DaisyRose-27B 背后:自建沙箱服务降本 80%,百万次运行成功率 99.95% — BanghuaZ · 2026-11-19
- 腾讯 220B Hy4-flash 量化版压到 49GB,64GB 显存即可跑 — gladkos · 2026-11-19