Sayak Paul 长文:把 KV 缓存首次系统迁移到流模型图像生成

Sayak Paul 发布长文《KV Caching in Flow Models》,将通常只用于自回归语言模型的 KV 缓存技术系统性地引入图像生成的 flow 模型(MMDiT 架构),灵感来自 QwenImage 2.1 的 KV 缓存机制,并指出 Flux.2-Klein-KV 可能最早为参考图像 token 引入该做法。文章采用受 Karpathy 启发的教学法:先建立直觉、再给伪代码与实现,benchmark 聚焦速度与内存权衡的真实场景,作者也指出更完整对比还应包含输出质量的定量报告。

2026-10-07 ~ 2026-10-07 · 4 条相关

事件全程(共 2 集)→