Baseten 联合 vLLM 实现 Kimi K3 首日 API 支持
在 Moonshot AI 发布 2.8T 参数的 Kimi K3 模型后,推理平台 Baseten 迅速在其 Model APIs 上实现了 Day-0 支持。Baseten 拿到早期权重后,先在 NVIDIA 硬件上进行测试,并与 vLLM 团队协作,最终完成了新模型推理 API 的快速搭建与部署,保障了首发日的可用性。
2026-07-27 ~ 2026-07-28 · 2 条相关
- Baseten 详解 Moonshot 2.8T 参数 Kimi K3 首日 API — philipkiely · 2026-07-27
- Baseten 用 vLLM 为 Moonshot Kimi K3 提供 day-0 API — AccBalanced · 2026-07-28