GPIC 图像生成 Scaling 手册:该退役 ImageNet、扔掉 CFG 和 EMA
DimitrisPapail · x · 2026-11-17
Wenhao Chai 发布博客《How to Scale Text-to-image Models: a Handbook》,在 GPIC(1 亿对许可文本-图像对)上从 3.6e18 到 2.3e20 FLOPs 训练像素空间 JiT,试图把 LLM 预训练的科学引入视觉生成领域。
核心结论:
- ImageNet 应该退役:仅 128 万张图且只有类别标签,导致几十上百 epoch 过拟合和滥用 CFG 刷分,且已有研究表明这些技巧不能迁移到真实 text-to-image。
- 计算最优的 TPP 约为每个图像参数 50 个图像 token;held-out loss 是主要指标。
- EMA 并不必要:合适的学习率调度在所有预算下都比 EMA 好 0.4%1.0%。
- 呼吁放弃 CFG:所有结果只用条件分支(CFG=1),省算力且杜绝刷分空间。
全部代码、配置和 sweep 数据开源。
「多模态」频道最新
- YC 孵化 o11 推出 Videos in Wallet:一句提示词生成 AI 视频,无需订阅 — ycombinator · 2026-11-17
- 把 Fable 5.2 接上街景 API,自动生成「原汁原味」阿姆斯特丹 3D 场景 — IgorCarron · 2026-11-17
- VOOPA 推出 Render Check:MCP 工具帮 agent 重渲染前先审片 — Decent_Diamond9197 · 2026-11-17
- Reddit 热传「复古摇滚 MV」,质感逼真疑似 AI 视频再进化 — Double_Language_6390 · 2026-11-17
- Hala MCP + Claude Opus 组合实测:一句话生成专业级动态图形视频 — aziz4ai · 2026-11-17
- 50 轮连续编辑实测 4 大图像模型:Seedream 漂移最小仅 36.6 — aziz4ai · 2026-11-17