Inception CEO Ermon：扩散模型将在文本推理效率上击败自回归
No Priors · youtube · 2026-09-18
No Priors 播客邀请斯坦福教授、扩散模型先驱、Inception 联合创始人兼 CEO Stefano Ermon，讨论为何扩散架构会成为 AI 推理的赢家。
核心观点
- 自回归 LLM 在硬件与延迟上遇到瓶颈；扩散模型的并行 token 生成在推理扩展性和标准 GPU 利用率上更优。
- Inception 将扩散架构从图像视频拓展到离散文本与代码生成，推出 Mercury 系列模型，已在真实语音 agent 场景落地。
- 讨论了服务扩散模型所需的软件栈、数据压缩与结构、扩散模型的可控性、规模化下的涌现能力。
- 认为下一阶段 AI 竞争将由效率定义，并展望扩散与传统架构未来的负载分配、学界在前沿创新中的角色等。
「Infra」频道最新
- Starlink 横扫拉美乡村教育：多国上万天线接入数千所学校 — XFreeze · 2026-09-18
- 仅 0.05% 采样就能验证缓存，作者感叹整个系统省下的工作量惊人 — DanielLockyer · 2026-09-18
- TRL 新增异步 GRPO：经 HF Buckets 同步 LoRA 权重，训练耗时 3.5 小时缩至 53 分钟 — _lewtun · 2026-09-18
- 支付公司争抢推理入口：Stripe 携 OpenRouter、Ramp 切入推理链 — xkonjin · 2026-09-18
- 开源项目 DataFlow：把预训练前的数据清洗与合成做成可复用流水线 — Puzzleheaded_Box2842 · 2026-09-18
- Qdrant 四小时直播深挖向量搜索,回放已上线 — qdrant_engine · 2026-09-18