Diffusers 张量并行加载升级,Flux.2-Dev 提速 2.4 倍
Hugging Face Diffusers 的张量并行(TP)加载能力大幅升级。在 Flux.2-Dev DiT 模型上,TP 度为 4(A10G GPU)时加载时间从 30 秒以上显著缩短,提速达 2.4 倍。核心 PR(#14544)由 JingyaHuang 合并,使 .frompretrained() 在读取时按分片边读边切分,可节省约 89% 的 CPU 内存。
2026-10-01 ~ 2026-10-01 · 2 条相关
- Diffusers 张量并行加载升级:Flux.2-Dev 加载提速 2.4 倍 — RisingSayak · 2026-10-01
- Diffusers TP 分片加载 PR 细节:边读边切分省 89% CPU 内存 — RisingSayak · 2026-10-01