苹果首推三模态掩码扩散模型,从零预训练文本图像音频
Apple ML Research · rss · 2026-10-14
苹果 ML 研究团队发布首个从零预训练的三模态掩码扩散模型(MDM),在文本、图文、音频-文本数据上联合训练,探索离散扩散作为自回归语言模型的替代路线。
- 系统分析多模态 scaling laws、模态混合比例、噪声调度与 batch size 影响
- 提出优化的推理采样默认设置
- batch size 分析催生一种基于随机微分方程(SDE)的新方法(摘要截断,细节见原文)
「研究」频道最新
- Dean W. Ball 播客谈机制可解释性与「生长之物」的美 — deanwball · 2026-10-16
- 开发者从零实现迷你 vLLM:连续批处理+分页 KV 缓存全自己写 — Broad-Mirror3873 · 2026-10-16
- UT Austin 研究：LLM 靠药名词缀猜药效，对虚构药物也一本正经 — jessyjli · 2026-10-16
- 学者回应：业界有钱做用户测试，别怪博士生缺产品级指标 — catalinacangea · 2026-10-16
- Joshua Gans 新论文：如何让员工愿意培训「取代自己的替代者」 — joshgans · 2026-10-16
- Eric Topol 拆解巨噬细胞九大功能程序：疾病状态是程序组合而非类型 — EricTopol · 2026-10-16