ACEdit: Stable Multi-Turn Image Editing via Asymmetric Conditioning
Sara Dorfman, Nir Goren, Gal Barak, Daniel Cohen-Or, Or Patashnik
cs.CV, cs.AI, cs.GR
2026-10-16
学生连改自己的输出,老师锚在原图和复合指令上蒸馏。十轮后KRIS一致性从3.03升到3.85,指令遵循3.38。
指令式修图单次够用,产品里的用法是连改,上一轮的输出就是下一轮的输入。训练分布几乎全是干净原图,多轮推理却在吃模型自己的图。偏移累加之后,细纹理没了,颜色漂了,没被点名的区域也变了。
推理期的像素回退、高频约束和潜空间低频对齐要额外计算。被锁住的那一块正好要改时,旧内容会漏回来。标注序列也难用。一次编辑有很多合法结果,学生走偏后,后续真值不再是配对目标。
ACEdit 把视频自回归里的 Self-Forcing 搬进编辑。Self-Forcing 指训练时让模型吃自己上一步的输出,使见到的输入靠近多轮推理。
学生是四步的 FLUX.2-klein-9B,LoRA 秩 16,可训练参数 2780 万,约占模型 0.3%。每条轨迹做十次局部编辑。每轮只看上一张结果和当前指令,潜变量直传,不反复进出 VAE。梯度只从当前轮一个去噪步的干净估计回传,历史轮次截断。
没有配对目标,监督用分数蒸馏。教师是冻结的 FLUX.2-klein-base-9B,引导尺度 2。同规模辅助编辑器不加引导,用流匹配去拟合学生当前的输出。估计加噪到 τ 后,梯度取教师与辅助模型的速度差,把多轮结果推向教师的干净分布。τ 在 [0, 1) 上均匀抽取。
条件不对称。学生改自己的上一张图。教师和辅助模型只看原始干净图,以及截至本轮拼成的复合指令。学生侧的「加包、改红、改皮、加金扣」,教师侧是对着原图的「加一个红色皮质、带金扣的包」。
教师若也看见已经变脏的中间图,会把偏色和脏斑当成要保留的细节,累积误差进入监督。
数据为 96 张合成 1024 图、960 条局部指令,只含增删、替换、缩放和改属性。学生更新 100 次,辅助模型更新更密,另有 5 次热身。单张 B200 约 4.4 GPU 小时。推理仍是四步、无引导。
评测集 EdiVal-10 含 252 条十轮链,图来自 GEdit-Bench 的真实照片,裁到 1024。公开多轮集大多停在三到五轮。Omni IIE Bench 平均 4.35 轮,260 条里只有 9 条走到十轮。八类编辑为添加、删除、替换、颜色、材质、文字、数量、位置。每条链留一到两个锚点物体,指令不得提及。指令由 Claude Sonnet 5.5 生成。
下表是十轮后的平均。KRIS 的质量、一致性、指令遵循由 Gemma-4-31B 打 1 到 5 分。锚点距离来自 148 条链,背景距离是编辑区以外的 LPIPS。
| 方法 | 质量 | ∆HPSv3 | 一致性 | 锚点↓ | 背景↓ | 指令遵循 |
| Klein-9B 原模型 | 2.73 | −0.78 | 3.03 | 0.314 | 0.351 | 3.31 |
| Emu Edit | 2.90 | −0.15 | 3.32 | 0.196 | 0.264 | 3.29 |
| VAE-LFA | 2.80 | −0.89 | 3.04 | 0.289 | 0.313 | 3.32 |
| FreqEdit | 2.83 | −0.82 | 3.18 | 0.283 | 0.331 | 3.39 |
| ACEdit | 3.19 | −0.17 | 3.85 | 0.203 | 0.254 | 3.38 |
质量分高于同一四步骨干上的每个对照,相对 Emu Edit 至少高出 0.30±0.08。一致性 3.85,原模型 3.03,三种训练无关方法在 3.04 到 3.32。背景从 0.351 降到 0.254,Emu Edit 为 0.264,高出 0.010±0.005。锚点为 ACEdit 0.203 对 Emu Edit 0.196,相差 0.007±0.012,未超过两倍标准误。∆HPSv3 为 −0.17 对 −0.15,同样没有显著差别。
指令遵循为 3.38,FreqEdit 为 3.39,差异不显著。未蒸馏的 FLUX.2-klein-base-9B 用 512 分辨率、30 步、引导尺度 4,再放大到 1024。原模型质量 1.42、一致性 1.08,MT-OPSD 为 1.95 和 1.29,指令遵循 3.16 对 3.10。采样设置不同,这组不和四步模型直接相比。ACEdit 的 3.38 仍显著高于 3.16。
GEdit-Bench 的 606 条英文指令上,单次编辑让 HPSv3 全部下降。ACEdit 降 0.18,四步原模型降 0.41,相差 0.23±0.02。
十次连删后,Emu Edit 留下发白的块,VAE-LFA 压暗并带上斑驳纹理,FreqEdit 把墙和地板染黄,MT-OPSD 洗成近白的模糊。ACEdit 的墙、地板、工作台还在。十五步和二十步序列夹着「保持原样」,原模型毛发变硬并出现色偏,微调后软毛还在。
消融同为 100 次学生更新。教师也看上一轮,一致性掉到 2.81。教师只看上一轮和当前指令,掉到 2.28,低于原模型的 3.03。学生额外看到原图时,一致性升到 4.08,指令遵循掉到 2.80,第三轮改黄的凳子到第六轮又变蓝。只训练五轮时,十轮一致性为 3.29,大约只拿到升至 3.85 的三分之一。
对话式修图就是多轮。这条 LoRA 不改四步采样,推理无新开销,一张 B200 约 4.4 小时。
轨迹上没有唯一正确的中间图。教师只锚干净原图和累积指令。教师改去看中间图,一致性会低于原模型。
改进是渐进的,数字来自自建十轮基准和同一个四步骨干。Emu Edit 在锚点与 ∆HPSv3 上打平。少步 Klein 要进连改对话框时,这段微调对上了掉质方式。
训练只有 96 张合成图,全是局部编辑。真实照片上的评测仍是那八类。反复换掉主体和背景时,现有模型画质不一定降。风格、天气、时段不在主实验。LME-Bench 放在附录,主文定量结论以 EdiVal-10 为准。
指令由 Claude Sonnet 5.5 写,分数由 Gemma-4-31B 打。没有人类实验。两边都可能偏向看着整齐的图。
教师必须一次做完复合指令。它改错,错误就变成目标,这条成功率没有单独测量。和 MT-OPSD 比时,骨干、分辨率、步数一起换了。十轮以上只有定性图。单次 HPSv3 仍降 0.18,画质还是会掉,只是掉得慢。