Inception 发布 Mercury 3 扩散语言模型,推理速度达 1000 tok/s
cmrdporcupine · hn · 2026-10-20
Inception Labs 在 HN 发布 Mercury 3,一款基于扩散式架构的大语言模型,宣称推理速度可达每秒 1000 token,远超主流自回归模型。扩散 LLM 通过并行生成 token 替代逐词解码,被视为低延迟推理的潜在路线,HN 上引发了关于其质量与实用性权衡的讨论。
「Infra」频道最新
- Semicon West 与 OCP 双会观察:3000 亿美元半导体设备市场与 TSMC N5 转 N3 — BenBajarin · 2026-10-20
- 高通联合 Liquid AI 推 Liquid Context,压缩多模态输入缓解端侧内存瓶颈 — JosephJacks_ · 2026-10-20
- PyTorchCon 企业 AI 日:Red Hat、NVIDIA、IBM 联手企业级落地专场 — PyTorch · 2026-10-20
- 新研究:SOAP/SPlus 白化梯度协方差,96 个 DiLoCo 节点稳定扩展预训练 — aaron_defazio · 2026-10-20
- 亚马逊 CEO:算力已售罄,缺口将延续到 2028 年之后 — rohanpaul_ai · 2026-10-20
- Nebius 上线 GPU 现货价格实时查询,跨区域比价可选 API — kevinsxu · 2026-10-20