PyTorch PR 修复 FSDP 模块静态特化问题
ezyang · x · 2026-08-26
该 PR 旨在修复 FSDP2 下模型编译时产生过多符号参数导致 Inductor 融合失败和 MFU 降低的问题。方案是在 skipfsdpguards 下对 FSDP 管理模块的 int/tuple 属性进行静态特化。
「Infra」频道最新
- 谷歌亚马逊自研芯片,英伟达面临生态挤压 — bindureddy · 2026-08-26
- AI 网关架构解析:如何通过分层管理实现灵活路由 — philipkiely · 2026-08-26
- Jim Cramer:每年都说有芯片超越英伟达 — AccBalanced · 2026-08-26
- Meta 推出芯片let设计,优化推荐系统稀疏嵌入 — beffjezos · 2026-08-26
- 数据中心与居民争水:算力扩张的现实 — CtrlAltDwayne · 2026-08-26
- Mixedbread 谈检索缩放定律:多向量需模型与库协同设计 — lateinteraction · 2026-08-26