Kimi K3 被延迟拖住了
victor_explore · x · 2026-07-19
转述的核心观点是：**延迟是工程问题，能力是研究问题**。 引用内容指出，Kimi K3 虽然被认为是很强的开源模型，但当前只有单一提供方在服务它，速度大约只有 **16 tokens/s**，首 token 延迟约 **11 秒**，已经影响到真实工作流中的 agent 使用。作者认为模型本身很好，但被自身基础设施“卡住”了，并呼吁释放权重，让更多服务方可以接入。
「Infra」频道最新
- 高通预览端侧 GGUF 运行工具GenieX — carrycooldude · 2026-07-20
- DwarfStar 让 Ada 卡盒变推理服务器 — antirez · 2026-07-20
- DwarfStar 新增多项推理优化 — antirez · 2026-07-20
- BMS 在 Vera Rubin 上建 AI 工厂 — nordicinst · 2026-07-20
- Hut 8 签下98亿美元AI租约 — sunychoudhary · 2026-07-20
- 中国开源模型重塑AI经济学 — Stratechery · 2026-07-20