QwenImage 2.1 引入 KV Cache,实测图像生成提速 2.55 倍
RisingSayak · x · 2026-09-21
作者发布技术线程，解析 QwenImage 2.1（7B DiT）如何引入 KV Caching 加速去噪采样：
- 核心思路：将固定上下文（文本与参考图像）与每个去噪步骤都在变化的目标图像位置分离，固定部分只算一次并缓存 K/V，后续步骤大幅降本。
- 序列构建：Qwen3-VL 文本位置与条件图像 latent 交错、目标图像 latent 排在最后，"前缀"即目标之前的全部联合序列位置。prefill 时每层只保存前缀 K/V。
- 与 MMDiT/FLUX2 的区别：经典 MMDiT 联合注意力是双向的（FLUX2 只缓存参考图 token）；QwenImage 2.1 的信息流变为方向性，因此整个前缀（文本+参考图）都可复用。decode 阶段每层计算目标 Q/K/V，并将缓存的前缀 K/V 拼接进注意力。
- 实测数据：在预热 A100、2 张 1024×1024 参考图、40 步设置下，DiT 时间从 50.57s 降至 19.86s（2.55× 加速），代价是显存从 32.3G 升至 36.0G，作者称显存还有优化空间。
所属事件:Qwen-Image 2.1 上线 SGLang，KV Cache 实测提速 2.55 倍(2 条相关)→
「多模态」频道最新
- 风格化 3D 角色图集：潮服小孩与丧系青年形象亮相 — OVolosin82152 · 2026-11-12
- AI 生成的 3D 针织质感卡通角色系列展示 — OVolosin82152 · 2026-11-12
- WebGL 交互绘画演示：fable 5.2 配合 fal 做参考图 — OdinLovis · 2026-11-12
- AI 动画「Fable 5.2」第二部分早期截图曝光 — ChrisGPT · 2026-11-12
- Reddit 用户实测 Minimax H3 Image 三大采样器,16MP 高分辨率对比 — Phantom-log-9484 · 2026-11-12
- Nano Banana Pro+Kling+免费口型工具,纯工作流做出整支AI音乐视频 — cocktailpeanut · 2026-11-12