Emad Mostaque 称 Kimi K3 推理成本未来可降 10 到 50 倍

rohanpaul_ai · x · 2026-07-21

Emad Mostaque 认为，Kimi K3 目前的推理成本偏高，主要是基础设施还不成熟，而不是模型存在不可逾越的技术上限。 - 他预计，随着专门的推理服务商优化 **kernel、路由、量化、批处理、内存和 serving**，未来几个月成本可能下降 **10 到 50 倍**。 - 他称 Kimi K3 目前完成同类任务大约要用到 **GPT-5.6 两倍的 token**，但随着生态优化，这个差距会迅速缩小。 - 他的核心判断是：一旦这类中国开源模型权重可用，美国的推理基础设施公司会投入大量资源去优化它们，这也是 Fireworks、Modal、Baseten 这类公司商业化的基础。