Kimi K3 上线 Nebius,FP4 推理号称快 3 到 4 倍
teortaxesTex · x · 2026-07-27
Kimi K3 已经上线 Nebius 的 eu-north1 公共端点,并支持 FP4。
帖子重点不是模型本身的训练细节,而是部署侧信息:同样成本下,官方声称推理速度可提升 3–4 倍。这更像是一条关于模型上线与推理基础设施体验的更新。
「Infra」频道最新
- TokenSpeed 一周内完成 Kimi K3 双平台首发支持 — zhyncs42 · 2026-07-27
- vLLM:K3 的 2.8T 参数不难,难的是缓存 — vllm_project · 2026-07-27
- Kimi K3 硬件估算指向 480GB 显存和 8 张 H100 — cedric_chee · 2026-07-27
- Kimi K3 原生支持 MXFP4 量化,显存需求依然很高 — teortaxesTex · 2026-07-27
- Baseten 详解 Moonshot 2.8T 参数 Kimi K3 首日 API — philipkiely · 2026-07-27
- 开发者推出欧盟电子发票预检 MCP 服务器 — jithox_AI · 2026-07-27