李飞飞团队 Halcyon:不做语言预训练也能做强文生图
StanfordUniversity · hf · 2026-10-20
斯坦福与 Radical Numerics(李飞飞、Michael Poli 等)的论文 Halcyon 质疑「强文生图必须依赖互联网级语言预训练」这一默认假设。
- 提出 early-fusion 多模态自回归模型家族,完全从零开始在 100M 图文对数据集 GPIC 上预训练
- Halcyon-0.52B 以 18.2 倍更少预训练算力超过 LlamaGen-XL/8(48.0 vs 63.3 gFD);Halcyon-1.6B 以 275 倍更少算力超过 JiT-T2I-XXL/8++(35.3 vs 41.0 gFD)
- 对照实验表明继续加大纯文本预训练并不能改善文生图;用 I2T 监督替代 caption dropout 可在同预算下兼顾图像描述能力
- 代码与模型已开源(cs.stanford.edu/keshik/halcyon)
「多模态」频道最新
- AI 生成「哥特女人」人像:雾林中的绿丝绒长裙之作 — Loo_Atreides · 2026-10-20
- ComfyUI 14 万星:文生图从大厂实验室走进自家显卡 — alex_verem · 2026-10-20
- SwitchSplat 让 3D 重建学会开灯开门,入选 SIGGRAPH Asia 2026 — taiyasaki · 2026-10-20
- FastVideo 发布 FastH3 OmniRef 的 ComfyUI 版本 — Lost-Dot-9916 · 2026-10-20
- 实测对比:Qwen 2.1 多图编辑的主体融入感不如 AIO v23 — ShowerFluid9178 · 2026-10-20
- 半天做出职业生涯最好的视频:全 AI 剪辑流程实录 — aronkor · 2026-10-20