Kimi K3 每次 rollout 只要 4.65 美元,但比 Sol 慢得多
zainhas · x · 2026-07-23
第二张图进一步比较了 Kimi 和 Sol 的推理经济账:Kimi 更便宜,但 Sol 单次 rollout 更快。
图中给出的数字是:
- 每次 rollout 成本:Kimi $4.65,Sol $8.37
- 每 100 美元可完成的 rollout 数:Kimi 14.7,Sol 8.6
- 中位 rollout 时间:Kimi 66 分钟,Sol 17 分钟
作者补充说,Kimi 的成本优势很明显;而端到端延迟未来可能会随着更多推理服务商支持该模型而改善。当前更慢主要来自模型行为本身,比如步骤更多。
所属事件:Kimi K3 Max 对比 GPT-5.6 Sol Max:编程能力互补的路由问题(10 条相关)→
「Infra」频道最新
- DeepSpeed 发布 AutoEP/AutoTP 等并行化进展并办线上答疑 — PyTorch · 2026-10-27
- Cloudflare Durable Objects 被验证为 AI agent 高并发场景优选架构 — tristanbob · 2026-10-27
- Gary Marcus:补上 Q3 数据后,Anthropic 算力效率增速现拐点 — GaryMarcus · 2026-10-27
- SpaceX 锁定 400 亿美元 GPU 融资,号称史上最大规模 — TechCrunch AI · 2026-10-27
- 推理社区与 K8s 社区高度重合:万亿市场的 Kubernetes 翻版 — matt_slotnick · 2026-10-27
- vLLM 考虑将更多栈迁往 Rust,推理引擎 Rust 化成趋势 — AccBalanced · 2026-10-27