专题 · FULL STORY

Kimi K3.1 Pro 发布:开源即遭冷遇

月之暗面发布 Kimi K3.1,发布当日即获 vLLM 与 SGLang 双栈 Day-0 支持;随后总参数 2.8 万亿的 K3.1 Pro 开源上架 Hugging Face。然而开源后社区讨论度异常低迷,有用户发帖询问真实使用感受,猜测或与 Moonshot 此前的付费推广争议有关。

2026-11-05 ~ 2026-11-07 · 3 集 · 18 条

第 1 集 · Kimi K3.1 发布日获 vLLM、SGLang 双栈 Day-0 支持(2026-11-05,10 条)

月之暗面发布 Kimi K3.1 当日,vLLM 与 SGLang 两大开源推理栈均宣布完成 Day-0 支持,覆盖推理服务、强化学习训练与多硬件平台,Modal 平台也在首日上线在线推理服务。Kimi 内部基准显示 K3.1 Pro 长程编码得分 61.2%,较 K3 提升超过 5 个百分点。多家硬件厂商与第三方团队参与适配,使这款 2.8 万亿参数 MoE 模型发布即可部署。

已确认

  • vLLM 与 inferact 合作推出 vLLM + Megatron 组合方案,为 Kimi K3.1 提供 Day-0 强化学习支持,工作覆盖 Kimi Delta Attention 的训练-推理一致性,并支持长程 Agent 服务场景。
  • 硬件支持范围广泛:NVIDIA GPU(含下一代 Vera Rubin)、AMD Instinct MI355X、Google Cloud TPU,以及 Zhenwu 810 等平台。
  • Google 与 Inferact(vLLM)、RadixArk(SGLang)合作,在 TPU v7x 上为 2.8 万亿参数 MoE 的 Kimi K3.1 Pro 提供 Day-0 分布式推理支持,vLLM 方面宣布 llm-d 方案已可用。这是月之暗面旗舰模型首次实现 TPU 硬件的零日推理支持。
  • SGLang 团队联合 RadixArk、NVIDIA、AMD、Moonshot 与 SemiAnalysis 完成 Kimi K3.1 Pro 的 Day-0 推理支持,发布部署文档与 Cookbook 配方,GB300 单卡高并发吞吐达 31K tok/s,开箱即用 megakernel。
  • Modal 官方宣布与 SGLang 合作完成模型上线协作:验证 checkpoint 精度并优化服务链路,使 Kimi K3.1 Pro 在发布首日即在 Modal 平台提供推理服务。
  • 架构方面,K3.1 采用 DSA 稀疏注意力(每个 query 最多选取 2048 个 key 位置)结合循环式 Kimi Delta Attention(KDA)的混合设计;一个 packed cache 同时容纳 MLA latents、indexer keys 与 KDA 状态。
  • 性能数据(vLLM 官方转述 Kimi 内部基准):K3.1 Pro 在 Kimi Code Bench 3.0 Long-horizon 上得分 61.2%,较 K3 的 55.95% 提升超过 5 个百分点;该基准考察多步执行、工具使用与端到端工程能力。

尚未确认

  • 61.2% 的长程编码成绩来自 Kimi 内部基准,尚无独立第三方验证。

为什么重要

  • Day-0 支持意味着新模型发布即可在主流开源推理栈上部署,本轮 vLLM 与 SGLang 双栈同步适配,进一步缩短了从模型发布到实际可用的窗口。
  • 训练-推理一致性(尤其针对 KDA)打通后,RL 训练与在线服务可复用同一套基础设施,对长程 Agent 应用尤具价值。
  • K3.1 Pro 首次实现 TPU 零日支持,显示 Google 正积极推动第三方前沿模型适配自家硬件;NVIDIA、AMD 的同步参与也反映前沿模型发布日已成为推理栈与硬件生态的竞争节点。
  • 若 61.2% 的长程编码成绩成立,显示 K3.1 在多步工程任务上的代际提升。

第 2 集 · Kimi K3.1 Pro 发布并多平台上架(2026-11-05,6 条)

月之暗面发布了 Kimi K3.1 Pro:总参数 2.8 万亿、激活参数 104B 的 MoE 架构开放权重模型,权重已上传 Hugging Face,主打 Agent 场景,支持文本与图像理解,上下文窗口最高 100 万 token,被视为 K3 系列在编码、研究等多步任务上的升级。

已确认

  • 据 ThursdAI 播客账号消息,K3.1 Pro 为 2.8 万亿总参数、104B 激活参数的 MoE,权重已上 Hugging Face,具体 benchmark 成绩当时尚未公布
  • Microsoft Foundry 上架该模型,提供最高 100 万 token 上下文(@DanWahlin 转述)
  • You.com Inference Router 提供 Day 0 支持(@PolarBearby 转述)
  • Tinker 平台上线,提供 256K 上下文;Tinker 称其为多个 agentic coding 与知识工作基准上最强的开源权重模型,也是 Tinker 目前最大模型(@kevinlu)
  • SGLang 宣布 Day-0 支持:该模型用稀疏注意力(DSA)替代稠密 MLA,单卡最高 33.7K tok/s(AgentX,GB300)
  • @AnushElangovan(NVIDIA)发布「Day 0: K3.1 Pro」,配图为 SemiAnalysis InferenceX 的推理 TCO 实测曲线(更新于 2026-11-06),提到 MI355X 上每美元产出 4500 万 token

为什么重要

  • 开源权重加 100 万 token 上下文与 Agent 定位,使其直接参与 agentic coding 与长上下文任务的竞争
  • DSA 稀疏注意力设计带来更高服务效率与更低部署门槛,SGLang 的 Day-0 支持和第三方 TCO 实测显示生态与硬件适配迅速跟进
  • 短时间内密集上架 Microsoft Foundry、You.com、Tinker 等多平台,反映分发渠道对该模型的重视

第 3 集 · Kimi K3.1 Pro 开源后遇冷,autoresearch 榜列第 7(2026-11-07,2 条)

Kimi K3.1 Pro 发布并开源后社区讨论度异常低,Anthony Ronning 发帖询问用户真实使用感受,并猜测可能与 Moonshot 此前的付费赞助争议有关,尽管有评论称其性能距 Claude Opus 5.5 仅一步之遥。Josh Purtell 随后晒出其自建 autoresearch 基准成绩:Kimi K3.1 Pro 表现不算差但也谈不上突出,位列第 7,榜首为拿到 72.6% 的 GPT-6 Astra。