Kimi K3 在 vLLM 上线,2.8T 参数开源模型支持 1M 上下文
ricklamers · x · 2026-07-27
vLLM 宣布即日起支持 Moonshot AI 的 Kimi K3 模型。K3 拥有 2.8T 参数(MoE,每 token 激活 16/896 专家)、1M 上下文窗口、原生多模态理解(含视觉),并采用 Kimi Delta Attention(线性注意力与全注意力混合)以降低长上下文成本。感谢 Moonshot、inferact、NVIDIA、AMD 等合作伙伴。
「模型」频道最新
- Kimi K3 接入 SGLang,首日跑到 423 tok/s — ying11231 · 2026-07-28
- Ollama 上线 Kimi K3:支持 1M 上下文与原生视觉 — ollama · 2026-07-27
- Kimi K3 训练效率据称提升 2.5 倍 — zephyr_z9 · 2026-07-27
- NVIDIA 将 Cosmos3 Super 图生视频蒸馏到 4 步运行 — multimodalart · 2026-07-27
- Kimi K3 登陆 Modal,定制 DFlash 推测解码加速推理 — AAAzzam · 2026-07-27
- Kimi K3 可能成为个人本地蒸馏的底座 — victormustar · 2026-07-27