ROCm上让ComfyUI的INT8更快
Itchy_Push_3077 · reddit · 2026-07-19
这是一篇很具体的 **ComfyUI / AMD ROCm 性能优化**分享,目标是让 Krea2 Turbo 的 **INT8 ConvRot** 在 AMD 卡上跑得更快。 作者先对比了三种路径: - **FP8**:稳定,热启动约 **12.74s** - **INT8 ConvRot 安全回退**:稳定但很慢,约 **65–80s** - **全局 Triton**:尝试快路径,但在 ROCm 上会崩溃 随后作者没有开启全局 Triton,而是只把 **ConvRot 的 int8_linear** 路径单独切到 Triton 实现,其他部分仍走稳定路径。这样既避免了全局启用带来的崩溃,又保留了关键算子的加速。 结果是: - 热启动从 **FP8 的 12.74s** 提升到 **10.49–10.54s** - 相比原先的 INT8 回退路径,速度提升约 **6–7.6 倍** 这类帖子对 AMD/ROCm 本地部署用户很有参考价值。