fal开源Ideogram V4加速版并公开推理优化细节

7月14日,fal正式开源了内部蒸馏的Ideogram V4加速版本:Fast与Instant,并提供了Hugging Face链接供开发者直接试用。官方宣称,通过系统级的服务链路优化,这些版本在图像生成质量没有明显妥协的前提下,实现了“快一个数量级”的提速,并称有独立基准测试验证。

关键细节与量化提速

据fal配套技术文章解析,其极速推理管线包含:用户输入简短提示词后,先由LLM扩写为详细的场景描述,再交由扩散变压器(Diffusion Transformer)渲染图像。在底层优化方面,@tomByrer转述称,团队最初尝试标准的FP4量化,但发现输出偏离FP16较多且提速不佳,随后转向自定义的NVFP4量化并叠加serving优化。

社区实测与速度对比

模型发布后,@ValuableIssue分享了Reddit社区针对Fast、Instant与Original版本的简测,包含了测试prompt以及从原版转换到加速版的流程。在具体性能数据上,@sktksm给出了在RTX 6000 Pro显卡上的实测对比:Base NVFP4版本耗时11秒,Fast NVFP4为5秒,而Instant NVFP4仅需2秒。他还提到存在一个更为简化的C语言版本实现。

2026-07-14 ~ 2026-07-15 · 9 条相关

一手来源