Inception 发布 Mercury 3 扩散语言模型,推理速度达 1000 tok/s

cmrdporcupine · hn · 2026-10-20

Inception Labs 在 HN 发布 Mercury 3,一款基于扩散式架构的大语言模型,宣称推理速度可达每秒 1000 token,远超主流自回归模型。扩散 LLM 通过并行生成 token 替代逐词解码,被视为低延迟推理的潜在路线,HN 上引发了关于其质量与实用性权衡的讨论。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →