Inception 发布 Mercury 2.5:最强扩散 LLM,1107 tokens/秒、26 万上下文
StefanoErmon · x · 2026-09-09
Inception Labs 由 CEO Stefano Ermon 宣布发布 Mercury 2.5,称其为目前市场上最强的扩散语言模型,也是已知训练过的最大扩散语言模型。
- 质量:智能较 Mercury 2 提升 40%,对标 GPT-5.6 Luna (Low)、Gemini 3.5 Flash-Lite、Claude Haiku 4.5 等成本优化的前沿模型
- 速度:在通用 NVIDIA GPU 上达 1,107 tokens/秒
- 上下文:260K tokens
- 价格:输入 $0.20/百万 tokens、输出 $0.75/百万;上线期 8 折($0.04 / $0.15)
- 能力:可调推理、并行工具调用、schema 对齐 JSON 输出
Mercury 2 上线以来使用量增长超一个数量级,数千开发者、数十家企业投入生产,覆盖搜索、语音、编码等延迟敏感场景。团队称本代模型基于客户反馈与生产失败案例打磨 eval 与训练方向,NVIDIA 亦表态支持。发布同帖还分享了 OpenCall 用其在真实患者通话上跑语音 Agent、p99 延迟降至 1 秒的案例。
所属事件:Inception 发布扩散语言模型 Mercury 2.5(7 条相关)→
「Infra」频道最新
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27
- Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27
- Gary Marcus:补上 Q3 数据后,Anthropic 算力效率增速现拐点 — GaryMarcus · 2026-10-27
- 推理社区与 K8s 社区高度重合:万亿市场的 Kubernetes 翻版 — matt_slotnick · 2026-10-27
- vLLM 考虑将更多栈迁往 Rust,推理引擎 Rust 化成趋势 — AccBalanced · 2026-10-27
- 同一套 DeepSeek 内核两种优化路线:vLLM 拆专家、SGLang 降访存 — AccBalanced · 2026-10-27