Krea2 编辑训练引入隔离参考注意力
ostrisai · x · 2026-07-10
开发者为 Krea2 的编辑训练添加了隔离参考 token 注意力选项。该机制在保持训练时间不变的情况下,利用缓存的参考 KV 使推理速度提升 2-3 倍。使用该特性训练的 LoRA 模型将获得更好的效果表现。
ostrisai · x · 2026-07-10
开发者为 Krea2 的编辑训练添加了隔离参考 token 注意力选项。该机制在保持训练时间不变的情况下,利用缓存的参考 KV 使推理速度提升 2-3 倍。使用该特性训练的 LoRA 模型将获得更好的效果表现。