实测 FP8 比 GGUF 快 5 倍,GGUF 还有什么用?

ROBOTTTTT13 · reddit · 2026-08-20

用户在 6GB 显存 + 16GB 内存的低配机器上实测发现,FP8 格式的模型运行速度远超 GGUF 格式,速度提升可达 5 倍。以 Flux 2 Klein 9B 为例,GGUF 工作流耗时 100-200 秒,改用 FP8(仅 Text Encoders 保留 GGUF)后仅需 20-30 秒。用户对为何体积更大的 FP8 模型反而运行得更好感到困惑,并质疑 GGUF 在 2026 年的适用性。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →