扩散模型先驱 Ermon:并行生成将颠覆自回归 LLM 推理
No Priors · rss · 2026-09-18
斯坦福教授、扩散模型先驱、Inception 联合创始人兼 CEO Stefano Ermon 做客 No Priors 播客,阐述为何扩散架构将赢得 AI 推理的未来。要点:
- 自回归 LLM 的瓶颈:逐 token 生成受硬件延迟与利用率限制,推理成本随规模难以优化。
- 扩散路线的优势:并行生成 token,在标准 GPU 上提供更好的推理 scaling 与硬件利用率;Inception 已将扩散架构从图像视频拓展到离散文本与代码生成。
- Mercury 模型:介绍 Inception 的 Mercury 系列扩散语言模型及真实语音 agent 客户应用、大规模服务扩散模型所需的软件栈。
- 行业判断:下一阶段 AI 竞争将由效率定义,讨论了学术界在前沿创新中的角色、团队组织与递归自我改进等话题。
「Infra」频道最新
- Starlink 横扫拉美乡村教育：多国上万天线接入数千所学校 — XFreeze · 2026-09-18
- 仅 0.05% 采样就能验证缓存，作者感叹整个系统省下的工作量惊人 — DanielLockyer · 2026-09-18
- TRL 新增异步 GRPO：经 HF Buckets 同步 LoRA 权重，训练耗时 3.5 小时缩至 53 分钟 — _lewtun · 2026-09-18
- 支付公司争抢推理入口：Stripe 携 OpenRouter、Ramp 切入推理链 — xkonjin · 2026-09-18
- 开源项目 DataFlow：把预训练前的数据清洗与合成做成可复用流水线 — Puzzleheaded_Box2842 · 2026-09-18
- Qdrant 四小时直播深挖向量搜索,回放已上线 — qdrant_engine · 2026-09-18