Kimi K3 在 Modal 跑到 460 tok/s，5.6 Sol 迎来发布周压力
brandon_galang · x · 2026-07-28
帖子称 Kimi K3 在 Modal 上已经跑到 460 tok/s，并形容这个速度“像自然之力”。作者还说，Cerebras 上 5.6 Sol 预计会以约 750 tok/s 上线，但在发布周就会遇到真实竞争。
这条信息的重点不只是速度数字，而是：
- Kimi K3 在发布初期就展现出很强的吞吐竞争力
- 这会直接压到另一款主打极速推理的产品
- 更低价格也可能成为关键卖点
「Infra」频道最新
- AMD 称 MI455X 推理吞吐量将达 MI355X 的 34 倍 — Beth_Kindig · 2026-07-28
- Google Cloud 为 Gemini API 和 Vertex AI 加入近实时异常告警 — rseroter · 2026-07-28
- Block Attention Residuals 将注意力开销降到 O(Nd) — stochasticchasm · 2026-07-28
- LlamaIndex 推出 Cloudflare Worker 脚手架部署 LlamaParse — llama_index · 2026-07-28
- OpenRouter 展示同一模型的多 provider 定价与路由 — gnukeith · 2026-07-28
- Kimi K3 通过相对队列折扣提升 GPU 负载均衡 — Abhishekcur · 2026-07-28