Kimi K3 每次 rollout 只要 4.65 美元,但比 Sol 慢得多
zainhas · x · 2026-07-23
第二张图进一步比较了 Kimi 和 Sol 的推理经济账:Kimi 更便宜,但 Sol 单次 rollout 更快。
图中给出的数字是:
- 每次 rollout 成本:Kimi $4.65,Sol $8.37
- 每 100 美元可完成的 rollout 数:Kimi 14.7,Sol 8.6
- 中位 rollout 时间:Kimi 66 分钟,Sol 17 分钟
作者补充说,Kimi 的成本优势很明显;而端到端延迟未来可能会随着更多推理服务商支持该模型而改善。当前更慢主要来自模型行为本身,比如步骤更多。
所属事件:Kimi K3 Max 对比 GPT-5.6 Sol Max:编程能力互补的路由问题(10 条相关)→
「Infra」频道最新
- Engram 随机读取不适合 SSD,CPU 内存低延迟共享或成正解 — bookwormengr · 2026-09-11
- 劝退帖:推理工程是真金白银的硬活,八成尝鲜者已悄然放弃 — abhijithneil · 2026-09-11
- Hugging Face《Ultra Scale Playbook》:GPU 集群训练 LLM 的免费技术书 — mdancho84 · 2026-09-11
- 从聊天到 Agent,推理延迟正在成为生产级瓶颈 — Euphoric_Sea632 · 2026-09-11
- 推理服务关键指标盘点:流式速度 TPOT 与可用性如何影响体验 — abhijithneil · 2026-09-11
- PlanetScale 推出分片 Postgres,768 台服务器组成 1PB 单库 — dhruv2038 · 2026-09-11