蚂蚁 LLaDA-Image 开源:九成样本不带文本预训练,中英文双榜开源第一
机器之心 · wechat · 2026-09-07
InclusionAI 发布并全栈开源文生图与图像编辑统一模型 LLaDA-Image，核心是从零训练的 6B 单流 DiT，配合 LLaDA2.0-mini 扩散语言模型负责理解，一套权重同时支持文生图与指令编辑。
核心方法：「先学会画，再学会听话」
- 2.2 亿累计生成训练样本中超 90% 采用纯图片监督：预训练阶段不使用 caption，图像经随机遮挡补全同时充当条件与生成目标，直接建立视觉先验；图文对集中用于后续 SFT 的语言对齐。
- 训练共六阶段：理解骨干 CoT 微调 → 纯图像预训练与中期训练 → 图文对齐与高分辨率迁移 → T2I/I2I 1:1 联合训练 → TwinFlow 蒸馏。
- 工程细节：全 DiT 使用无可学习参数的 RMSNorm 解决长程训练的尺度漂移；优化器采用 Muon；TwinFlow 用同一 DiT 主干「正时间生成、负时间跟踪学生分布」，将 50 步推理压缩到 2—4 步。
成绩：Qwen-Image-Bench 中英文总分 53.53/53.38，开源模型双榜第一，介于 GPT-Image 1 与 Imagen 4.0 Ultra 之间；LongText-Bench 中英文 0.923/0.913，GEdit-Bench 编辑 7.336/7.294。计数能力（GenEval 0.53）是明确短板。
权重（含 FP8 与 Turbo 版）、训练推理代码和完整数据配方均已开放（GitHub/HuggingFace/魔搭）。
「多模态」频道最新
- 29 美分用 Dreamina Seedance 伪造大坝灾难「幕后花絮」 — Standard_Spell5873 · 2026-10-27
- Reddit 求助：Qwen Image 2.1 换装总毁身材比例，Flux 3 Klein 略好 — Existing-Box-7866 · 2026-10-27
- 3 步 Turbo LoRA 实测:Moss 图像模型极速出图效果展示 — JadedScorpion · 2026-10-27
- Magnific 预告 10 月 28 日上线新功能：「We're making it move」 — cuenca · 2026-10-27
- Midjourney --sref 实测：美式复古风 Batman 插画三连 — gizakdag · 2026-10-27
- AI视频既非电影也非动画，创作者称它最擅长呈现梦境与潜意识 — Kyrannio · 2026-10-27