SVD 压缩 AdaLN：MageFlow 4B 微调模型瘦身成 2.8B

Turbulent-Bass-649 · reddit · 2026-09-18

独立开发者更新其 MageTrail 项目：这是对微软 MageFlow 4B 文生图模型在 Danbooru/E621 风格数据上的全量微调（Proof of Concept），使用 41k 张多样性最大化的浓缩数据集，把 booru 标签式提示与插画能力注入模型，避免用完整 booru 数据集训练（可能花费 2-5 万美元以上）。

本次更新通过 rank 256 的 SVD 近似模型的 AdaLN 层，将架构从 4B 压缩到 2.8B（与 SDXL 同量级），生成速度略快、推理与训练显存大幅降低，质量损失很小。模型权重在 Hugging Face 和 Civitai 开放，配套开源训练器（bluvoll/mage-flow-trainer，支持 SDNQ）可供消费级 LoRA 微调，作者正基于 2.8B 架构用单张 H100 训练 V0.3。