非对称蒸馏稳住多轮修图,十轮一致性从3.03到3.85

ACEdit: Stable Multi-Turn Image Editing via Asymmetric Conditioning

Sara Dorfman, Nir Goren, Gal Barak, Daniel Cohen-Or, Or Patashnik

cs.CV, cs.AI, cs.GR

2026-10-16

学生连改自己的输出,老师锚在原图和复合指令上蒸馏。十轮后KRIS一致性从3.03升到3.85,指令遵循3.38。

这篇在解决什么

指令式修图单次够用,产品里的用法是连改,上一轮的输出就是下一轮的输入。训练分布几乎全是干净原图,多轮推理却在吃模型自己的图。偏移累加之后,细纹理没了,颜色漂了,没被点名的区域也变了。

推理期的像素回退、高频约束和潜空间低频对齐要额外计算。被锁住的那一块正好要改时,旧内容会漏回来。标注序列也难用。一次编辑有很多合法结果,学生走偏后,后续真值不再是配对目标。

方法

ACEdit 把视频自回归里的 Self-Forcing 搬进编辑。Self-Forcing 指训练时让模型吃自己上一步的输出,使见到的输入靠近多轮推理。

学生是四步的 FLUX.2-klein-9B,LoRA 秩 16,可训练参数 2780 万,约占模型 0.3%。每条轨迹做十次局部编辑。每轮只看上一张结果和当前指令,潜变量直传,不反复进出 VAE。梯度只从当前轮一个去噪步的干净估计回传,历史轮次截断。

没有配对目标,监督用分数蒸馏。教师是冻结的 FLUX.2-klein-base-9B,引导尺度 2。同规模辅助编辑器不加引导,用流匹配去拟合学生当前的输出。估计加噪到 τ 后,梯度取教师与辅助模型的速度差,把多轮结果推向教师的干净分布。τ 在 [0, 1) 上均匀抽取。

条件不对称。学生改自己的上一张图。教师和辅助模型只看原始干净图,以及截至本轮拼成的复合指令。学生侧的「加包、改红、改皮、加金扣」,教师侧是对着原图的「加一个红色皮质、带金扣的包」。

教师若也看见已经变脏的中间图,会把偏色和脏斑当成要保留的细节,累积误差进入监督。

数据为 96 张合成 1024 图、960 条局部指令,只含增删、替换、缩放和改属性。学生更新 100 次,辅助模型更新更密,另有 5 次热身。单张 B200 约 4.4 GPU 小时。推理仍是四步、无引导。

结果

评测集 EdiVal-10 含 252 条十轮链,图来自 GEdit-Bench 的真实照片,裁到 1024。公开多轮集大多停在三到五轮。Omni IIE Bench 平均 4.35 轮,260 条里只有 9 条走到十轮。八类编辑为添加、删除、替换、颜色、材质、文字、数量、位置。每条链留一到两个锚点物体,指令不得提及。指令由 Claude Sonnet 5.5 生成。

下表是十轮后的平均。KRIS 的质量、一致性、指令遵循由 Gemma-4-31B 打 1 到 5 分。锚点距离来自 148 条链,背景距离是编辑区以外的 LPIPS。

方法质量∆HPSv3一致性锚点↓背景↓指令遵循
Klein-9B 原模型2.73−0.783.030.3140.3513.31
Emu Edit2.90−0.153.320.1960.2643.29
VAE-LFA2.80−0.893.040.2890.3133.32
FreqEdit2.83−0.823.180.2830.3313.39
ACEdit3.19−0.173.850.2030.2543.38

质量分高于同一四步骨干上的每个对照,相对 Emu Edit 至少高出 0.30±0.08。一致性 3.85,原模型 3.03,三种训练无关方法在 3.04 到 3.32。背景从 0.351 降到 0.254,Emu Edit 为 0.264,高出 0.010±0.005。锚点为 ACEdit 0.203 对 Emu Edit 0.196,相差 0.007±0.012,未超过两倍标准误。∆HPSv3 为 −0.17 对 −0.15,同样没有显著差别。

指令遵循为 3.38,FreqEdit 为 3.39,差异不显著。未蒸馏的 FLUX.2-klein-base-9B 用 512 分辨率、30 步、引导尺度 4,再放大到 1024。原模型质量 1.42、一致性 1.08,MT-OPSD 为 1.95 和 1.29,指令遵循 3.16 对 3.10。采样设置不同,这组不和四步模型直接相比。ACEdit 的 3.38 仍显著高于 3.16。

GEdit-Bench 的 606 条英文指令上,单次编辑让 HPSv3 全部下降。ACEdit 降 0.18,四步原模型降 0.41,相差 0.23±0.02。

十次连删后,Emu Edit 留下发白的块,VAE-LFA 压暗并带上斑驳纹理,FreqEdit 把墙和地板染黄,MT-OPSD 洗成近白的模糊。ACEdit 的墙、地板、工作台还在。十五步和二十步序列夹着「保持原样」,原模型毛发变硬并出现色偏,微调后软毛还在。

消融同为 100 次学生更新。教师也看上一轮,一致性掉到 2.81。教师只看上一轮和当前指令,掉到 2.28,低于原模型的 3.03。学生额外看到原图时,一致性升到 4.08,指令遵循掉到 2.80,第三轮改黄的凳子到第六轮又变蓝。只训练五轮时,十轮一致性为 3.29,大约只拿到升至 3.85 的三分之一。

为什么重要

对话式修图就是多轮。这条 LoRA 不改四步采样,推理无新开销,一张 B200 约 4.4 小时。

轨迹上没有唯一正确的中间图。教师只锚干净原图和累积指令。教师改去看中间图,一致性会低于原模型。

改进是渐进的,数字来自自建十轮基准和同一个四步骨干。Emu Edit 在锚点与 ∆HPSv3 上打平。少步 Klein 要进连改对话框时,这段微调对上了掉质方式。

局限与存疑

训练只有 96 张合成图,全是局部编辑。真实照片上的评测仍是那八类。反复换掉主体和背景时,现有模型画质不一定降。风格、天气、时段不在主实验。LME-Bench 放在附录,主文定量结论以 EdiVal-10 为准。

指令由 Claude Sonnet 5.5 写,分数由 Gemma-4-31B 打。没有人类实验。两边都可能偏向看着整齐的图。

教师必须一次做完复合指令。它改错,错误就变成目标,这条成功率没有单独测量。和 MT-OPSD 比时,骨干、分辨率、步数一起换了。十轮以上只有定性图。单次 HPSv3 仍降 0.18,画质还是会掉,只是掉得慢。

术语

原文与代码

相关论文

全部论文解读